Mgr. Barbora Rázga (Facebook), zverejneno 13.09.2026. Archiv: https://odstraneno.cz/post/112667 (Odstraneno.cz)

Když šéf Anthropicu Dario Amodei říká, že je potřeba zpomalit tempo vývoje umělé inteligence, a Sam Altman, který stojí za vznikem ChatGPT od OpenAI, jeho obavy podporuje, měli bychom zbystřit.

Neznamená to, že bychom měli přestat využívat AI, umělá inteligence může přinést obrovské příležitosti. O to důležitější ale je, aby s rychlostí technologického vývoje dokázala držet krok také bezpečnost. Pokud ovšem už samotní lidé stojící v čele firem, které tento vývoj ženou dopředu, upozorňují, že bezpečnostní mechanismy mohou zaostávat, neměli by ostatní pouze přihlížet.

Musíme se proto ptát, zda máme dostatek odborníků, institucí a kontrolních mechanismů, které skutečně rozumějí tomu, co nové modely dokážou. A zda bychom byli schopni včas reagovat ve chvíli, kdy se objeví problém.

Potřebujeme jasná pravidla pro systémy s největším potenciálem způsobit škody, nezávislou kontrolu jejich bezpečnosti a spolupráci mezi státy i samotnými technologickými firmami.

Vývoj AI nesmí být závodem, ve kterém je jediným cílem být první a otázky bezpečnosti se začnou řešit až ve chvíli, kdy se něco špatného opravdu stane.

@sledující
