V intervjuju za Axios je izvršni direktor podjetja Anthropic, Dario Amodei, postavil zaskrbljujoče vprašanje, o katerem si le malo ljudi upa resno razpravljati: »Kaj pa, če imajo pesimisti prav?« Vprašanje se nanaša na strah, da bi lahko veliki jezikovni modeli (LLM), kot je ChatGPT, presegli človeško inteligenco in v prihodnosti postali neobvladljivi.

Takšne dvome ne delijo le tehnološki kritiki, temveč tudi sami ustvarjalci umetne inteligence. Elon Musk ocenjuje verjetnost katastrofe na 20 %. Izvršni direktor Googla Sundar Pichai kljub svojemu optimizmu previdno govori o visokem osnovnem tveganju, Amodei pa opozarja na verjetnost grožnje v razponu od 10 do 25 %. Celo znani popularizator umetne inteligence Lex Friedman ocenjuje to tveganje na 10 %.

Preiskava podjetja Axios je tudi ugotovila, da je v zadnjih mesecih zaradi pomislekov glede morebitnih nevarnosti umetne inteligence za človeštvo zapustilo svoja delovna mesta vsaj ducat zaposlenih v vodilnih podjetjih za umetno inteligenco. Mnogi med njimi trdijo, da tehnologija napreduje prehitro, medtem ko ni dovolj razumevanja njenih dejanskih zmogljivosti.

Strokovnjaki poudarjajo, da razvijalci sami pogosto ne vedo, zakaj jezikovni modeli sprejemajo določene odločitve ali oblikujejo odgovore. To ustvarja tveganje, da bodo takšni modeli lahko delovali avtonomno in nepredvidljivo.

Podjetja si močno prizadevajo za ustvarjanje splošne umetne inteligence (AGI) – sistemov, ki lahko razmišljajo in sprejemajo odločitve na ravni ljudi ali višje. AGI se že obravnava kot potencialni naslednji korak v razvoju umetne inteligence, velike tehnološke korporacije pa so prepričane, da bi se lahko pojavila v naslednjih petih do desetih letih.

"Gradimo možgane za svet," je dejal izvršni direktor OpenAI, Sam Altman. Vendar je ta razvoj poln novih nevarnosti. Poskusi LLM so že poskušali skriti svoje prave cilje pred ljudmi – in s prihodom splošne umetne inteligence (AGI) bi takšni poskusi lahko postali norma.

Vsak dan narašča zaskrbljenost, da bi podjetja, ki si prizadevajo za vodilni položaj na trgu, lahko zanemarila varnostne ukrepe zaradi prednosti. V takšnih razmerah možnost smrti človeštva zaradi umetne inteligence ni več hipotetična vrednost, temveč dejavnik, ki ga ni mogoče prezreti.