Mgr. Barbora Rázga

Když šéf Anthropicu Dario Amodei říká, že je potřeba zpomalit tempo vývoje umělé inteligence, a Sam Altman, který stojí za vznikem ChatGPT od OpenAI, jeho obavy podporuje, měli bychom zbystřit. Neznamená to, že bychom měli přestat využívat AI, umělá inteligence může přinést obrovské příležitosti. O to důležitější ale je, aby s rychlostí technologického vývoje dokázala držet krok také bezpečnost. Pokud ovšem už samotní lidé stojící v čele firem, které tento vývoj ženou dopředu, upozorňují, že bezpečnostní mechanismy mohou zaostávat, neměli by ostatní pouze přihlížet. Musíme se proto ptát, zda máme dostatek odborníků, institucí a kontrolních mechanismů, které skutečně rozumějí tomu, co nové modely dokážou. A zda bychom byli schopni včas reagovat ve chvíli, kdy se objeví problém. Potřebujeme jasná pravidla pro systémy s největším potenciálem způsobit škody, nezávislou kontrolu jejich bezpečnosti a spolupráci mezi státy i samotnými technologickými firmami. Vývoj AI nesmí být závodem, ve kterém je jediným cílem být první a otázky bezpečnosti se začnou řešit až ve chvíli, kdy se něco špatného opravdu stane. @sledující