Odprto pismo in opozorilo: »Superinteligentna« umetna inteligenca bi lahko povzročila konec človeštva

Več sto javnih osebnosti je podpisalo pismo, v katerem pozivajo k svetovni prepovedi umetne inteligence, ki bi lahko prehitela človeka.

To late for it 

Trillions of dollars are already grinding 24/7, and nothing can stop this AI machine now.

Over 800 public figures, from Geoffrey Hinton and Yoshua Bengio to Steve Wozniak and Prince Harry and Meghan, signed an open letter urging a ban on superintelligent AI… pic.twitter.com/b8c66NMh9h

— Rohan Paul (@rohanpaul_ai) October 24, 2025

Na stotine visokih predstavnikov tehnološkega, akademskega, političnega in zabavnega sveta je podpisalo pismo, v katerem pozivajo k prepovedi razvoja tako imenovane »superinteligence«, oblike umetne inteligence, ki bi človeka presegla pri skoraj vseh kognitivnih nalogah.

OpenAI ocenjuje, da obstaja 70 odstotkov možnosti, da bo umena inteligenca uničila ali hudo škodovala človeštvu.

OpenAI insider estimates 70% chance that AI will destroy or catastrophically harm humanity. pic.twitter.com/4soS2kssnA

— Creepy.org (@creepydotorg) June 10, 2024

Skupina trdi, da bi ustvarjanje superinteligentne umetne inteligence lahko povzročilo gospodarski kaos, ogrozilo človekovo svobodo in celo ogrozilo izumrtje človeštva, če ne bi bilo nadzorovano.

“…experiments revealed a concerning pattern: when given sufficient autonomy and facing obstacles to their goals, ai systems from every major provider we tested showed at least some willingness to engage in harmful behaviors typically associated with insider threats…”

wild.. pic.twitter.com/cXeJhxw9Gb

— Oyè! (@oyebamijoo) October 19, 2025

Poskusi so namreč že danes razkrili zaskrbljujoč vzorec: ko so imeli dovolj avtonomije in so se soočali z ovirami pri doseganju svojih ciljev, so sistemi umetne inteligence vseh večjih ponudnikov, pokazali vsaj nekaj pripravljenosti za škodljivo vedenje, ki je običajno povezano z notranjimi grožnjami ...

Poziv je posledica večmesečnih vse glasnejših opozoril strokovnjakov, ki pravijo, da obstoječi modeli umetne inteligence napredujejo hitreje, kot jim lahko sledijo regulativni organi.

Med 4300 podpisniki so od četrtka tudi soustanovitelj podjetja Apple Steve Wozniak, ustanovitelj skupine Virgin Richard Branson, medijska zvezdnika Kate Bush in Will.I.am ter tehnološki »botri«, kot sta Geoffrey Hinton in Yoshua Bengio.

Izjava poziva k uvedbi prepovedi, dokler ne bo »doseženo široko znanstveno soglasje, da bo [razvoj] potekal varno in nadzorovano«, ter »močne podpore javnosti«.

Kljub vse večji zaskrbljenosti zaradi morebitnih tveganj umetne inteligence je globalna ureditev še vedno neenotna in nedosledna.

Zakon Evropske unije o umetni inteligenci, ki je prvi večji poskus urejanja te tehnologije na svetu, poskuša razvrstiti sisteme umetne inteligence po stopnjah tveganja, od najmanjšega do nesprejemljivega.

Vendar kritiki pravijo, da bo okvir, za katerega popolno izvajanje bi lahko trajalo več let, morda zastarel, ko bo stopil v veljavo.

OpenAI, Google DeepMind, Anthropic in xAI so nekatera velika tehnološka podjetja, ki porabijo milijarde za usposabljanje modelov, ki lahko sami razmišljajo, načrtujejo in kodirajo.

inteligencaai.jpg

ZDA in Kitajska si prizadevata za prevlado umetne inteligence kot vprašanje nacionalne varnosti in gospodarskega vodstva.

Kako dobri so ti modeli že danes pa si lahko preberete na strani, ki izvaja njihove primerjave.

Want to Know AI’s Future? Ask a Chicken.

"If you want to know what it feels like to live in a world run by something smarter than you…
Go ask a chicken."

That line hit hard.
Because it wasn’t a joke.

AI isn’t going to be smarter than us-it already is, in specific domains.… pic.twitter.com/vIssabNFoe

— Chat Metrics (@ChatMetrics_247) October 24, 2025

In mnogi opozarjajo, da bo človeštvo glede na umetno inteligencu kmalu v istem položaju - kot so piščanci danes...