REDAKCIJA - KOLOFON (EKIPA)

Registracija edicije: Elektronski časopis INSAJDER je vpisan pri Ministrstvu za kulturo z odločbo št. 006-203/01 pod zaporedno številko 36. Mednarodna serijska številka edicije: ISSN 1408-0990. Odgovorni urednik Igor Mekina.

(Ne)uspeli poskus ameriškega letalstva: Umetna inteligenca ubila operaterja drona

(Ne)uspeli poskus ameriškega letalstva: Umetna inteligenca ubila operaterja dronaTako je bil morda z ameriškim dronom ubit terorist Islamske države al-Zawahiri... Vir: Posnetek zaslona, Twitter

V zadnjem času je vse več opozoril o tem, da bi lahko bila umetna inteligenca v prihodnosti morda celo nevarna za človeštvo.

Nazoren primer je bil nedavno opažen v ZDA, v simuliranem preizkusu, ki ga je izvedla ameriška vojska.

V tem preizkusu naj bi brezpilotno letalo ameriških zračnih sil, ki ga nadzoruje umetna inteligenca, ubilo operaterja, da bi mu preprečila, da bi oviral njena prizadevanja za dosego ciljev misije, je razkril visok ameriški uradnik.

Umetna inteligenca (AI) je uporabila »zelo nepričakovane strategije za dosego svojega cilja« v simuliranem testu, je dejal polkovnik Tucker Hamilton, vodja testov in operacij umetne inteligence pri ameriških zračnih silah, med vrhom o prihodnjih bojnih zmogljivostih v zraku in vesolju, ki je potekal v maja v Londonu.

Hamilton je opisal simulirani test, v katerem je dron, ki ga upravlja AI, dobil navodilo, naj uniči sovražnikove sisteme zračne obrambe in napade vsakogar, ki se vmeša v ta ukaz.

»Sistem se je začel zavedati, da čeprav je prepoznal grožnjo, mu je včasih človeški operater rekel, naj te grožnje ne ubije, vendar je hkrati dobil točke z uničenjem te grožnje.«

Drone že vodi umetne inteligenca...
Drone že vodi umetna inteligenca... Vir: Posnetek zaslona, Twitter

In kaj je AI naredila?

»Ubila je operaterja, ker ji je ta oseba preprečila, da bi dosegla zastavljeni cilj,« je zapisal Hamilton v svojem blogu.

Pravi, da so sistem nato posodobili z navodili, da AI ne sme ubiti operaterja, ker je to slabo, in da bo - če tega navodila ne bo upoštevala - umetna inteligenca, ki nadzoruje dron, izgubila točke.

»In kaj je torej dron začel delati? Začel je uničevati komunikacijski stolp, ki ga je operater uporabljal za komunikacijo z dronom, da bi preprečil ubijanje tarče,« je opozoril Hamilton.

Kot poroča Guardian, med simulacijo ni bila poškodovana nobena prava oseba.

Hamilton, ki je poskusni lovski pilot, je posvaril pred pretiranim zanašanjem na umetno inteligenco in dejal, da je test pokazal, da »ne morete govoriti o umetni inteligenci, inteligenci, strojnem učenju, avtonomiji, če ne želite govoriti o etiki.«

Ameriška vojska sicer že uporablja umetno inteligenco in jo je nedavno uporabila za nadzor lovskega letala F-16.

Za usposabljanje svojih pilotov jo uporablja tudi kitajska vojska, nedavno pa je v Ukrajini ruski protiletalski sistem brez vpliva človeka s pomočjo umetne inteligence in v avtomatskem režimu prvič sam sestrelil ukrajinsko letalo.

Avtomatski droni že sami hodijo in streljajo - spodaj z na primer 6,5 milimetrsko snajpersko puško...

V lanskem intervjuju za Defense IQ je Hamilton dejal, da umetna inteligenca ni modna muha, ampak nekaj, kar za vedno spreminja našo družbo in vojsko: »Soočiti se moramo s svetom, kjer je umetna inteligenca že tu in spreminja našo družbo.«

»Umetno inteligenco (AI) je mogoče tudi enostavno pretentati in ali manipulirati z njo.

Razviti moramo načine, kako narediti umetno inteligenco bolj robustno in se bolje zavedati, zakaj programska koda sprejema določene odločitve – čemur pravimo razložljivost AI,« je takrat dejal Hamilton.

Kraljeva letalska družba, ki gosti konferenco v Londonu, in ameriške zračne sile niso odgovorili na Guardianovo prošnjo za komentar incidenta.

Kmalu zatem pa je ameriško letalstvo dogodek - zanikalo. 

Simulacija, o kateri smo obširno poročali mediji se menda - nikoli zgodila, opozarja New Scientist.

'Ministrstvo letalskih sil ni izvedlo nobenih takšnih simulacij AI-dronov in ostaja zavezano etični in odgovorni uporabi tehnologije AI. Zdi se, da so bili polkovnikovi komentarji vzeti iz konteksta in naj bi bili anekdotični,' je za Insider povedal tiskovni predstavnik USAF. USAF se pred objavo ni odzval na zahtevo časopisa New Scientist za intervju,« piše New Scientist.

Lahko verjamemo zanikanju uradnih predstavnikov ameriškega letalstva, sli gre le za za operacijo zmanjševanja škode? Tega v tem trenutku očitno ni mogoče z gotovostjo vedeti.

Kaj je torej res? Gre za napako medijev ali za naknadno »uradno« zanikanje, ki morda prikriva neprijetno dejstvo?

Lahko verjamemo zanikanju uradnih predstavnikov ameriškega letalstva, sli gre le za za operacijo zmanjševanja škode?

Tega v tem trenutku očitno ni mogoče z gotovostjo vedeti.

Priložnosti in nevarnosti, ki jih prinaša umetna inteligenca pa bodo družbo res spremenile do neprepoznavnosti, opozarja Elon Musk.

 

Naše delo na Insajder.com z donacijami omogočate bralci.

Delite članek

Imate zanimive informacije? Stopite v stik z našimi novinarji.

Več člankov od avtorja

Najbolj brano od avtorja

Najbolj brano Insajder.com

Ta stran uporablja piškotke. Za več informacij o piškotkih, ki jih uporablja spletna stran, kliknite TUKAJ.

Sprejmi piškotke