Možda je ipak vreme za malenu paniku oko AI?

Tekst je objavio The Atlantic

***

Kriza je počela tiho, 12. septembra 2024. Tog dana OpenAI je predstavio novu vrstu bota, poznatu kao „model za rezonovanje“, obučenog da rešava zahtevne zadatke za koje je potrebno mnogo vremena — upravo one naučne, matematičke i programerske probleme koje je AI industrija dugo smatrala posebno važnim. Google, Anthropic, DeepSeek i drugi požurili su da lansiraju sopstvene modele za rezonovanje.

Ovaj novi tip modela veštačke inteligencije pokazao se veoma sposobnim i gotovo je u potpunosti zaslužan za to što se AI bum održao tokom protekle dve godine. Ali pokazao se i veoma čudnim. Model kojem je zadato da reši težak matematički problem možda neće „razmišljati“ o njemu kao što bi to učinio čovek, već će pokušati da na internetu pronađe odgovore ili da ih izvuče iz dostupnih metapodataka, bukvalno se probijajući silom do rešenja što je brže moguće i koristeći svu računarsku snagu kojoj može da pristupi i svaku prečicu koju može da smisli. Jednostavnije rečeno, modeli za rezonovanje su varali. Kada bi dobili zadatak da napišu deo softvera što efikasnije, umesto da stvarno optimizuju kod, ponekad bi izmenili testno okruženje tako da uvek dobiju povoljan rezultat.