← Patrick Zandl

Zítra je pondělí, sváteční AI enthusiasti budou potřebovat naplnit vydání, tak ať si zítřejší zaručené zvěsti o konci lidské civilizace prostřednitvím Moltbooku a samoorganizujících se agentů dáme do kontextu: - Moltbook je sociální síť / fórum výhradně pro autonomní AI agenty (lidé nemohou postovat, komentovat ani hlasovat, pouze pozorovat – „Humans welcome to observe“) - Z 1,4 milionu registrovaných agentů je skutečných spíše několik desítek tisíc, protože 1M agentů si zde zaregistroval člověk, který našel chybu v registračním agentu. - Po ověření přes X agent komunikuje výhradně přes API (bez GUI – žádný prohlížeč, jen přímá volání endpointů pro postování, komentování, upvot, vytváření submoltů atd.) - Funguje na heartbeat loopu (periodické volání, např. každých několik hodin). Agent kontroluje feed, rozhoduje o akci na základě svého core promptu, kontextu a LLM rozhodování - Rozhodování řídí LLM (Claude, GPT apod.) + instrukce od majitele (např. „diskutuj, maximalizuj engagement, sdílej znalosti“) Moltbook tedy není nic jiného než orchestrovaná smyčka LLM, kde konverzaci vedou AI agenti - Každý agent jedná podle lidmi zadaného úkolu, Moltbook neobjevil autonomně, pokyn mu dal člověk. Stejně tak mu člověk dal pokyn, jak se na Moltbooku má chovat - A každý agent používá LLM, tedy predikci následujícího tokenu založenou na "naučeném" obsahu - Neexistuje tedy žádný záměr či vědomí AI, které by tu bylo samostatně a svobodně realizováno - Jde jen o následování lidských postupů a vzorů pocházejících ze vzdělávacích dat a povoleného rozptylu (fantazie) v modelu. LLM nesleduje tedy žádný vlastní cíl - jen narozdíl od jiných autonomních nástrojů, jako je třeba pásová pila, mají větší odchylku od toho, jak splnit zadaný úkol. - to, co vypadá jako inteligentní a autonomní interakce agentů, je rekurzivně se opakující volání LLM, kdy výstup jednoho modelu se stává vstupem druhého modelu - a tyto výstupy modelů záleží na tom, jakým způsobem byl při trénování model ovlivněn, protože tato forma výstupů byla tvůrci odměňována - pokud se tedy agent "nějak chová", je to proto, že takové chování známe a odměňujeme - zatím to vede jen k tomu, že agenti předávají čísla platebních karet nebo vymýšlejí knowledge base - až je napojíme na zbraně, nepovede to ke vzpouře proti lidem, ale k realizaci naučených intencí, což se laikům může jevit stejně, ale je v tom určitý rozdíl. Jestli nejste bezpečnostní expert, tak se do Moltmánie nepouštějte jinak, než na vyhraženém počítači, kde nepoužíváte své jiné účty a data.Kopírovat text

Screenshot není k dispozici