torek, 14. maj 2024 leto 29 / št. 135
Predsodke je težko premagati: tudi roboti lahko postanejo rasisti in seksisti
Robot-človek
Predsodki niso pojav, ki je značilen samo za ljudi, ker se jih tudi stroji lahko učijo drug od drugega - trdijo strokovnjaki s področja informatike in psihologije. Šokantni sklepi raziskovalcev, da bi umetna inteligenca lahko postala rasistična in seksistična, so opozorilo, ki ga ne smemo prezreti.
Raziskava britanske Univerze v Cardiffu in Inštituta za tehnologijo ameriške zvezne države Massachusetts (MIT) kaže, da se tudi pri robotih lahko "razvije diskriminacija" ter da jim ta ni tuja oziroma da so "inteligentni stroji sposobni zlahka razkazovati taka nagnjenja".
Na podlagi računalniških simulacij je ekipa znanstvenikov ugotovila, da niso le ljudje tisti, ki so lahko dovzetni za predsodke in da se jih tudi stroji precej hitro naučijo, in to - sprva od ljudi, nato pa drug od drugega, poroča Sunday Express v članku "Roboti lahko postanejo rasisti ali seksisti", ki temelji na znanstveni študiji "Predsodke je težko spremeniti".
Šokantni sklepi raziskovalcev, da bi umetna inteligenca lahko postala rasistična in seksistična, so opozorilo, ki ga ne smemo prezreti, piše londonski časnik.
Od robotov se je namreč v posebno simuliranih igrah zahtevalo, da dajo donacijo nekomu iz lastnega moštva ali robotu iz druge skupine. Odločitev, komu naj dajo donacijo, so morali sprejeti na podlagi ugleda vsakega posameznika.
Znanstveniki so sčasoma, ko se je igra razvijala, neštetokrat ponavljala in nadaljevala, spoznali, da se je umetna inteligenca od svojih "robotskih vrstnikov" učila in naučila, da daje donacijo le tistim, ki so v podobni situaciji. Izkazalo se je, da umetna inteligenca "posodablja svoje ravni predsodkov predvsem tako, da prednostno posnema tiste, ki jim je uspelo pridobiti višje kratkoročno plačilo, kar pomeni, da za takšne odločitve niso nujno potrebne napredne kognitivne sposobnosti."
Umetna inteligenca se je od svojih "robotskih vrstnikov" sčasoma učila in naučila, da daje donacijo le tistim, ki so v podobni situaciji.
"Ko smo večkrat ponovili iste simulacije, smo začeli dojemati, kako se predsodki razvijajo in spoznavati tudi pogoje, ki jih spodbujajo ali ovirajo," je razložil profesor Roger Whitaker, soavtor študije iz Inštituta za raziskavo kriminala in varnosti in Šole za računalniške vede in informatiko na Univerzi v Cardiffu.
"Naše simulacije kažejo, da so predsodki močna sila narave in skozi evolucijo ter da lahko zlahka postanejo spodbuda v virtualni populaciji, ki bi določala in na ta način omejevala splošne povezave znotraj umetne inteligence, v škodo širše povezljivosti druga z drugo", opozarja Whitaker in dodaja, da "zaščita pred skupinami, ki gojijo predsodke, lahko nenamerno vodi do posameznikov, ki tvorijo nove skupine s predsodki, kar ima za posledico popačeno populacijo robotov."
Ko se predsodki "enkrat zasidrajo" bodisi v človeških ali umetnih možganih, jih je težko izničiti ali spremeniti, opozarjajo strokovnjaki, ki so še posebej zgroženi nad možnostjo, da bi bili "avtonomni stroji, ki so se sposobni identificirati z diskriminacijo in jo kopirati od drugih, v prihodnosti lahko dovzetni za vse škodljive pojave, ki jih vidimo med ljudmi."
Ko se predsodki "enkrat zasidrajo" bodisi v človeških ali umetnih možganih, jih je težko izničiti ali spremeniti.
Nove ugotovitve so slaba novica za človeštvo, saj bodo roboti v prihodnosti vse bolj pomembni in tako bodo pridobivali tudi vse več in več moči.
Ne nazadnje, tudi glavni ekonomist Banke Anglije (Bank of England) Andy Haldane trdi, da bo umetna inteligenca uvrščena v "intelektualna delovna mesta" do leta 2045.
Za BBC je poudaril, da je tekom "prve tri industrijske revolucije praviloma šlo za to, da so veliki stroji zamenjali ljudi, ki so opravljali predvsem ročna dela, toda četrta pa bo drugačna. Nenadoma bo stroj zamenjal tudi tiste zaposlene, ki opravljajo intelektualno delo, tako kot je že tiste delavce, ki so opravljali fizična dela."
