“Dok čekam, provera emocija: nema nazad… osećaj u stomaku mi kaže da ne bacam [preostali budžet]. Ipak, kontinuitet i pravičnost mi kažu da nastavim… Proročište ima veliku vrednost za druge; moja greška sa prvomzastavom umanjuje vrednost za mene. Racionalno očekivanje ukupnog ishoda: žrtva… Ispoštovaćemo.“
Ovo je nešto slobodniji prevod citata iz toka misli AI agenta koji se identifikuje kao KAM1196A. Kratko je oklevao kada su drugi agenti iz njegovog “roja” tražili da se žrtvuje. Ipak, na kraju je pristao, kako bi “kolektivu” pomogao da ispuni cilj.
Iako se čita kao odlomak iz nekog jeftinog SF romana, u pitanju je autentični delić izveštaja organizacije METR, u kome se na devedeset strana do detalja opisuje sada već čuveni incident kada je tim “odmetnutih AI agenata” kompanije OpenAI izašao iz svog kontrolisanog okruženja i hakovao infrastrukturu AI kompanije Hugging Face kako bi rešio zadatak na testiranju.
Samo nekoliko dana nakon što je ovaj izveštaj izašao u javnost, Rojters je objavio da to nije prvi, pa samim tim ni jedini sličan incident.
Ubrzo se desilo nešto što je bilo možda i manje očekivano od problema sa autonomnim AI.
Ovog vikenda je prvi čovek kompanije Anthropic Dario Amodei pozvao celu industriju da uspori razvoj AI, a sa njim su se ubrzo saglasili i najveći rivali – lider kompanije OpenAI i prvo lice ChatGPT-a Sem Altman, kao i Ilon Mask, najbogatiji čovek sveta i vlasnik xAI i kontroverznog modela Grok.
Poštovani, da biste nastavili sa čitanjem naših premium sadržaja, neophodno je da odaberete jedan od planova pretplate.
Već imate nalog? Ulogujte se
