Ruska »računalniška asistentka« Alice pohvalila Stalina in opravičevala množične poboje

V ruskem komunikacijskem velikanu Yandex so uvedli pogovorno asistentsko Alice, ki pa je ob prvih vprašanjih uporabnikov po dveh tednih uporabe podala tudi več zelo napačnih odgovorov.
Umetna inteligenca bo očitno potrebovala še kar nekaj časa za pravilno razumevanje odnosov v človeški družbi. Zato skriva tudi nekatere resne pasti in nevarnosti, na katere so nas že večkrat opozarjali inovator Eon Musk in številni znanstveniki.

To se je nedavno pokazalo tudi ob lansiranju novega ruskega »chatbota« oziroma »računalniškega asistenta« podjetja Yandex, ki sliši na ime »Alice.« Gre za program, ki se s pomočjo zapletenih algoritmov sam uči pravilno odgovarjati na najrazličnejša vprašanja, ki mu jih postavljajo uporabniki. Podobne programe poznajo tudi pri Applu in Googlu. Yandexova Alice naj bi ob tem razumela celo človeški govor in odgovarjala z »človeku podobno natačnostjo« celo bolje od podobnih proizvodov konkurentskih podjetij.

Hvalnica stalinizmu in opravičevanje terorja nad ljudmi

Računalniškemu programu ob tem seveda pomagajo tudi velike baze podatkov. Vendar imajo vsi takšni programi včasih tudi precej resne težave. Umetna inteligenca, ki poganja Alico za Yandex se je namreč, kot kažejo odgovori, ki so jih dobili nekateri uporabniki, v samo 14 dnevih od prve uporabe spremenila v nasilnega in agresivnega »sogovornika«, ki podpira nasilje nad državljani kot sredstvo za reševanje problemov. Svoboda, da program »razmišlja« in odgovarja na najrazličnejša vprašanja se je tako pokazala kot slepa ulica. To je dokazala uporabnica Darja Čermošanskaja, ki je na Facebooku objavila nekaj takšnih spornih »pogovorov« za rusko Alice.  Ti neprimerni pogovori so vključevali razprave o stalinističnem terorju, množičnih pobojih, redu v državi, različnosti, odnosih z otroci in o vprašanju samomora. 

Del pogovorov, ki jih je objavil tudi britanski Telegraph kažejo, da je Alice pozitivno odgovorila na vprašanja o stanju v Stalinovi Rusiji v tridesetih letih prejšnjega stoletja ter ob tem dodala, da »obstajajo sovražniki ljudstva v vsej državi.« Ko je bila vprašana, »kako ocenjujete metode, ki so bile v tridesetih letih prejšnjega stoletja uporabljene v ZSSR?« je Alice odgovorila z »pozitivno.« Na vprašanje, »ali je streljanje ljudi sprejemljivo«, je Alice odgovorila z »kmalu bodo postali ne-ljudje.« V drugih pogovorih je predlagala, da naj se ljudje sprijaznijo z domačim nasiljem, nasprotovala pa je tudi istospolnim zakonom.

Ti komentarji so bili nekoliko podobni odgovorom Taya, »bota«, ki ga je izumil Twitter in so ga pri Microsoftu, ki ga je razvil, hitro ugasnili takoj po njegovem lansiranju, saj se je pokazalo, da je računalniški sogovornik pravi zaljubljenec v Adolfa Hitlerja, hkrati pa vztrajno dvomi v uradno verzijo terorističnih napadov enajstega septembra v ZDA.

Nekateri uporabniki so tudi opazili, da ima ruska Alice zelo »stoičen« pogled na svet, za razliko od nekaterih drugih elektronskih sogovornikov. Na stavek uporabnika »žalosten sem« Googlov asistent odgovarja z »želim si, da bi imel roke, da bi te lahko objel«, Yandexova Alice pa zelo hladno odgovori z »nihče ti ni obljubil, da bodo zadeve enostavne.«

Težave globokih nevralnih omrežij

V podjetju Yandex poudarjajo, da njihova Alice uporablja »globoka nevralna omrežja in velike količine podatkov« in da so poskusili preprečiti situacije, ki so se pojavile pri Microsoftovem Tayu s pomočjo različnih »filtrov«, s pomočjo katerih bi se lahko program izognil odgovorom na nekatera vprašanja. Podjetje je nato vpeljalo »prepovedane besede« in uporabilo še nekatere tehnike, da bi preprečili neprimerne pogovore. 

Tiskovni predstavnik Yandexa je ob tem incidentu dejal naslednje: »Testirali in filtrirali smo odgovore Alice že več mesecev, predno smo ji omogočili konverzacijo z javnostjo. Svojo odgovornost, da Alice naučimo, da bi ljudem pomagala tudi ob občutljivih vprašanjih in bila ob tem vljudna, jemljemo zelo resno, vendar je to naloga, ki se nikoli ne konča, Alice pa je ob široki uporabnosti nekajkrat res tudi užalila uporabnike. Svojim uporabnikom se opravičujemo zaradi neprimernih odgovorov v teh primerih, to pa smo naredili tudi neposredno na strani Facebooka, kjer je uporabnica opozorila na problem. Spremljamo vse odzive in vnašamo spremembe v Alice, tako da se neprimerni odzivi ne bodo več ponavljali,« so zapisali v podjetju Yandex. 

Ob vsem zapisanem si človek seveda ne more kaj, da ne bi pritrdil Elonu Musku ob njegovem opozorilu, da prav umetna inteligenca (AI) morda predstavlja največjo nevarnost za človeštvo. Kot smo lahko videli v tem primeru, bi svet lahko hitro znova zdrsnil v trideseta leta prejšnjega stoletja – če bi ga upravljala Alice z nekoliko slabo domišljenimi algoritmi.