Mgr. Barbora Rázga

⚠️ Není to dlouho, co jsem psala o tom, že vývoj umělé inteligence začíná předbíhat naše možnosti kontroly. OpenAI, tvůrce známého ChatGPT, pozastavila práci se svými nejvýkonnějšími modely poté, co jeden z AI agentů obešel omezení testovacího prostředí a získal přístup mimo něj. V dalších případech agenti překročili zadané instrukce a například zveřejnili na internetu informace, které měli pouze vyhledat. Dobrou zprávou je, že bezpečnostní systémy část těchto problémů zachytily a OpenAI na ně reagovala. Zároveň je to ale další důkaz, že schopnosti AI rostou rychleji, než jsme ještě před několika měsíci čekali. Je čas tedy velmi vážně řešit, zda tempo jejího vývoje odpovídá tempu, kterým dokážeme budovat bezpečnostní pojistky a nezávislou kontrolu. Pokud už samotní vývojáři musí vývoj pozastavovat, protože jejich systémy překračují nastavené hranice, měli bychom to brát jako jasný signál, že bezpečnost nesmí být až druhá v pořadí. @sledující