REDAKCIJA - KOLOFON (EKIPA)

Registracija edicije: Elektronski časopis INSAJDER je vpisan pri Ministrstvu za kulturo z odločbo št. 006-203/01 pod zaporedno številko 36. Mednarodna serijska številka edicije: ISSN 1408-0990. Odgovorni urednik Igor Mekina.

Prižgala se je rdeča lučka: Kaj pa, če je umetna inteligenca superiornejša od človeške? »Izklopi vse!«

Prižgala se je rdeča lučka: Kaj pa, če je umetna inteligenca superiornejša od človeške? »Izklopi vse!«Strokovnjak za umetno inteligenco svari in predlaga sodelovanje velikih sil pri zaustavitvi teh močnih sistemov, tudi med tekmeci, kot sta Kitajska in ZDA. Vir: Posnetek zaslona, Twitter

Izvršni direktor Tesle, SpaceX in Twitterja Elon Musk skupaj z več kot 1000 tehnološkimi voditelji in strokovnjaki za umetno inteligenco (AI) pozivajo k začasnemu moratoriju dirke za razvoj teh sistemov in opozarjajo, da AI predstavlja velika tveganja za družbo in civilizacijo.

Okrajšano, poziv strokovnjakov, kako ravnati z umetno inteligenco bi lahko strnili v dve besedi: »Izklopi vse!«

Tudi Eliezer Yudkowski, ameriški raziskovalec in pisec teorije odločanja in umetne inteligence, najbolj znan po popularizaciji ideje o prijazni umetni inteligenci, sicer strokovnjak z Inštituta za raziskave umetne inteligence, ki ima več kot dve desetletji izkušenj na tem področju, v članku, ki ga je objavil Time, trdi, da predlog o le 6-mesečni prekinitvi dejavnosti vezanih na razvoj močnih modelov umetne inteligence »ne seže dovolj v prihodnost«.

Yudkowski opozarja, da samo »6-mesečna pavza« v razvoju zmogljivih sistemov umetne inteligence, ki ga zahteva izvršni direktor Tesle Elon Musk skupaj z več sto drugih strokovnjakov, podcenjuje »resnost situacije«.

Yudkowsky bi šel še korak dlje in bi uvedel moratorij na nove učne modele AI, ki bi bil »neomejen in bi veljal za vse države sveta.«

V odprtem pismu strokovnjaki zahtevajo prekinitev poskusov z umetno inteligenco: »Vsem laboratorijem za umetno inteligenco (AI) svetujemo, da nemudoma ustavijo usposabljanje na sistemih AI, zmogljivejših od GPT-4, za vsaj šest mesecev.«

Odprto pismo, ki ga je izdal Inštitut za prihodnost življenja in ga je podpisalo več kot 1000 ljudi, vključno z Elonom Muskom, Stevom Wozniakom (soustanoviteljem podjetja Apple skupaj s Stevom Jobsom) in Yuvalom Noahom Hararijem (zgodovinar, znan po knjigi Kratka zgodovina človeštva) pravi, da bi morali neodvisni nadzorniki razviti varnostne protokole, ki bodo upoštevali prihodnost sistemov umetne inteligence.

Zato so se strokovnjaki, raziskovalci in znanstveniki odločili podpisati pismo, v katerem prosijo za premor pri posodabljanju in razvoju AI.

Zahtevajo, da vse v zvezi z razvojem AI mora biti »javno in preverljivo«.

Dokler temu ni tako, menijo, da je nujen moratorij na razvoj AI.

Sektor umetne inteligence se je v zadnjem času tako hitro razvijal in dosegel hitrost, ki ji je vse težje slediti; to priznavajo celo akterji, ki se ukvarjajo s to tehnologijo.

»Zmogljive sisteme umetne inteligence je treba razviti šele, ko smo prepričani, da bodo njihovi učinki pozitivni in da bomo sposobni obvladovati morebitna tveganja,« opozarja Yudkowski.

Poudarja, da je zaenkrat na tem področju narejeno »vse premalo«.

Okrajšano, poziv strokovnjakov, kako ravnati z umetno inteligenco bi lahko strnili v dve besedi: »Izklopi vse!«

»Če tega premora ne bo mogoče hitro urediti, bi morale vlade ukrepati in uvesti začasno ustavitev,« piše v pismu.

Priročnik, kako ravnati z umetno inteligenco bi lahko strnili v dve besedi: »Izklopi vse!« Vir: Posnetek zaslona, Twitter

Besedilo omenja tudi laboratorije za razvoj umetne inteligence, ki proizvajajo tehnologije, a ne morejo narediti natančnih ocen niti nadzora nad temi digitalnimi umi.

Kar skrbi podpisnike – od Steva Wozniaka do pionirskih raziskovalcev, kot sta Yoshua Bengio in Stuart Russel do nekdanjega Googlovega produktnega filozofa Tristana Harrisa – gre za vprašanja, povezana z obsegom širjenja informacij naše civilizacije.

Tristan Harris. Vir: Posnetek zaslona, Twitter

Eden od podpisnikov, Emad Mostaque, ustanovitelj podjetja Stabilnost AI (posvečeno je orodjem z umetno inteligenco), je za Wired povedal, da so rešitve AI lahko grožnja samemu obstoju družbe, človeštva.

Poudaril je tudi, da je treba bolj upoštevati, kaj se lahko zgodi v prihodnosti te tehnološke tekme.

»Čas je, da pustimo komercialne prioritete ob strani in si vzamemo premor za dobro vseh, bolj za raziskovanje, namesto da vstopimo v dirko z negotovo prihodnostjo,« pravi Mostaque.

»Ključno vprašanje ni inteligenca, ki bi se lahko kosala s človeško, ampak kaj se bo zgodilo, ko bo AI dosegla raven inteligence, ki bo prekosala človeško,« opozarja Yudkowski v prispevku za Time.

»Mnogi raziskovalci, ki se ukvarjajo s temi vprašanji, vključno z mano, pričakujejo, da bo najverjetnejša posledica nastanka nadčloveške umetne inteligence ta, da bodo dobesedno vsi na Zemlji umrli,« trdi ta strokovnjak.

Za Yudkowskyja je težava v tem, da bi umetna inteligenca, ki je nad ljudmi, lahko ugrabila svoje ustvarjalce: »Dobesedno ne bi upoštevala človeških življenj. Ne domišljajte si, da je to ‘Terminator’. Predstavljajte si tujo civilizacijo, ki razmišlja milijonkrat hitrejše od človeka, v svetu bitij, ki so iz perspektive AI zelo neumna in počasna,« je opozoril ta strokovnjak.

Predsednik Inštituta za prihodnost življenja, (so)avtor pisma proti umetni inteligenci: Max Tegmar. Vir: Posnetek zaslona, Twitter

Yudkowski svari, da načrta za soočenje človeštva z umetno superinteligenco ni.

Prav tako je zelo zaskrbljen, da raziskovalci umetne inteligence v resnici ne vedo, ali so učni modeli postali »samozavestni« in ali jih je imeti - sploh etično.

Yudkowski predlaga mednarodno sodelovanje med velikimi silami za zaustavitev močnih sistemov umetne inteligence, tudi med tekmeci, kot sta ZDA in Kitajska.

Dodaja, da gre za veliko bolj pereč problem, kot je vprašanje jedrskega orožja.

Svetuje, da bi morale različne države razmisliti celo o uporabi jedrskega orožja, »če bi na ta način preprečile tveganje, ki ga prinaša umetna inteligenca.«

»Zaprite vse,« je pozval Yudkowski.

»Izklopite vse velike GPU klasterje (velike računalniške družbe, ki delajo na najmočnejših sistemih AI). Postavite zgornjo mejo, koliko računalniške moči lahko uporabimo za usposabljanje sistemov AI. Vse to mora veljati za vse brez izjem, tudi za vlade in vojsko!«

Grozljivo opozorilo Yudkowskega, Muska in drugih podpisnikov pisma prihaja v času, ko postaja programska oprema za AI vse bolj priljubljena.

ChatGPT je nedavno šokiral uporabnike po vsem svetu s svojo sposobnostjo skladanja pesmi in pisanja besedil…

Italija je pravkar - sicer zaradi drugih razlogov, povezanih z varstvom osebnih podatkov - prepovedala uporabo priljubljenega ChatGTP programa, ki temelji na umetni inteligenci.

Naše delo na Insajder.com z donacijami omogočate bralci.

Delite članek

Imate zanimive informacije? Stopite v stik z našimi novinarji.

Več člankov od avtorja

Najbolj brano od avtorja

Najbolj brano Insajder.com

Ta stran uporablja piškotke. Za več informacij o piškotkih, ki jih uporablja spletna stran, kliknite TUKAJ.

Sprejmi piškotke