Zanikanje ali prikrivanje? Zgodba o dronu, ki je »ubil« svojega operaterja, naj bi bila le »miselni eksperiment«

Mediji so te dni obširno poročali o simulaciji, v kateri naj bi se brezpilotno letalo ameriških zračnih sil osvobodilo nadzora in celo »ubilo« svojega operaterja, kar je sprožilo strah pred revolucijo umetne inteligence.

O tem smo poročali tudi mi, naš stalni bralec pa nas je opozoril na pomembno nadaljevanje te zgodbe.

Ta simulacija se namreč, kot poroča New Scientist - ni zgodila.

Reports of an AI drone that 'killed' its operator are pure fiction https://t.co/3R3e6Xr4tW

— Stefano Dalla Casa (@RadioProzac) June 3, 2023

Časnik se celo sprašuje, zakaj »tako hitro verjamemo grozljivkam o umetni inteligenci?«

V zgodbi, ki bi jo lahko iztrgali iz znanstvenofantastičnega trilerja, je bila hipermotivirana umetna inteligenca usposobljena za uničevanje raket zemlja-zrak samo z odobritvijo človeškega nadzornika – in ko je bila odobritev zavrnjena, se je obrnila zoper svojega upravljavca, da bi dosegla svoj cilj in dobila »točke«.

»Ni presenetljivo, da zgodba zveni izmišljeno - ker je. Zgodba izhaja iz poročila Kraljeve letalske družbe, ki opisuje predstavitev polkovnika ameriških letalskih sil (USAF) Tuckerja Hamiltona na nedavni konferenci v Londonu. V tem poročilu je navedeno, da je bil incident le simulacija, v kateri ni bilo pravega brezpilotnega letala in ni bilo dejanskega tveganja za katerega koli človeka – dejstvo, ki ga številni naslovi, ki pritegnejo pozornost, spregledajo.

Kasneje se je izkazalo, da niti simulacije ni bilo, pri čemer je USAF izdala zanikanje in posodobila izvirno poročilo, da bi pojasnila, da je Hamilton 'napačno predstavil zadevo.' Apokaliptični scenarij ni bil nič drugega kot hipotetični miselni eksperiment.«

»'Ministrstvo letalskih sil ni izvedlo nobenih takšnih simulacij AI-dronov in ostaja zavezano etični in odgovorni uporabi tehnologije AI. Zdi se, da so bili polkovnikovi komentarji vzeti iz konteksta in naj bi bili anekdotični,' je za Insider povedal tiskovni predstavnik USAF.

USAF se pred objavo ni odzval na zahtevo časopisa New Scientist za intervju,« piše New Scientist.

Kaj je torej res? Gre za napako medijev ali za naknadno »uradno« zanikanje, ki morda prikriva neprijetno dejstvo?

Lahko verjamemo zanikanju uradnih predstavnikov ameriškega letalstva, ali pa gre le za operacijo zmanjševanja škode?

Tega v tem trenutku očitno ni mogoče z gotovostjo vedeti.

USAF Official Says He ‘Misspoke’ About AI Drone Killing Human Operator in Simulated Test
The Air Force's Chief of AI Test and Operations initially said an AI drone "killed the operator because that person was keeping it from accomplishing its objective ||https://t.co/nv2T8mtCW8

— Zoetica Ebb  Book Out Now (@zoetica) June 3, 2023

A tudi če se omenjen incident ni zgodil in je šlo le za »miselni eksperiment« je res, da umetna inteligenca (AI) poleg številnih prednosti prinaša tudi nevarnosti, na katere je pred kratkim opozorilo več kot 1000 znanstvenikov, vodij projektov in javnih osebnosti, ki so zahtevali celo začasno ustavitev teh projektov, ker bi lahko bili nevarni za človeštvo.

O tem se strinjajo celo roboti...

This robot was asked to imagine what would be the worst-case scenario if AI technology goes wrong pic.twitter.com/ebZQccoVzm

— DW News (@dwnews) June 3, 2023

Celo dva o treh najpomembnejših »očetov« umetne inteligence se strinjata, da je AI zelo nevarna za človeštvo.

Last week, I had the opportunity to discuss the potential impacts of Artificial Intelligence on democracy and society with Prof. Yoshua Bengio – AI pioneer and Turing Award winner. You can watch our full conversation, moderated by Vassy Kapelos, on https://t.co/87eJslE3Kh pic.twitter.com/W1HJ7DHSqN

— Yuval Noah Harari (@harari_yuval) June 1, 2023

Hkrati pa je res, da so programi ChatGPT in Bingova različica istega jezikovnega modela, ki deluje celo na bolj izpopolnjenih algoritmih še posebej v zadnjega pol leta pokazali svojo moč pri pridobivanju in oblikovanju informacij in celo pri kreativnem »ustvarjanju« - praktično vsemu svetu.

Elon Musk warns that in the next two or three decades, artificial intelligence will change society so much that it will be unrecognizable. He also predicted that the development of artificial general intelligence (AGI) is not far away, potentially only three to six years away. pic.twitter.com/4snt01VHOs

— Nami Cosmetics (@udontevenknowm1) May 27, 2023

Elon Musk opozarja, da bo do razvoja splošne umetne inteligence prišlo v treh do šestih letih.

In da bo nato družba v naslednjih treh desetletjih preoblikovana do neprepoznavnosti...