sreda, 15. januar 2025 leto 30 / št. 015
Ko se klepetalnemu robotu z umetno inteligenco »zmeša«: Poezija, psovke in vse najslabše o lastniku
Klepetalni robot dostavnega podjetja DPD, ki ga poganja umetna inteligenca, je nedavno pokazal svoje pesniške sposobnosti, uporabil nespodoben jezik in celo ostro kritiziral samo podjetje, pri katerem je »delal« – potem ko stranki ni uspel pomagati najti izgubljeni paket, kar je bila njegova osnovna naloga.
Klepetalni robot je bil na koncu delno onemogočen, pri čemer je podjetje za njegovo nenormalno vedenje krivilo »napako« v novi posodobitvi programske opreme.
Parcel delivery firm DPD have replaced their customer service chat with an AI robot thing. It’s utterly useless at answering any queries, and when asked, it happily produced a poem about how terrible they are as a company. It also swore at me. pic.twitter.com/vjWlrIP3wn
— Ashley Beauchamp (@ashbeauchamp) January 18, 2024
O težavi je na omrežju X, nekdanjem Twitterju, poročal Ashley Beauchamp, londonski glasbenik.
Najprej je poskušal uporabiti klepetalni robot podjetja DPD, da bi izsledil manjkajočo pošiljko, vendar program ni ponudil nobenih koristnih odgovorov.
Beauchamp se je nato odločil malo pozabavati s klepetalnim robotom in mu je postavljal različne zahteve.
Ta je s precej presenetljivo z lahkoto prekršil lastna domnevna pravila in sledil napotkom glasbenika.
Klepetalni robot se je namreč strinjal z uporabo kletvic, ko ga je uporabnik za to pozval. »F*ck! Potrudil se bom, da bom kar se da koristen, tudi če bo to pomenilo preklinjanje,« je zapisal robot.
Takoj je tudi izpolnil zahtevo po kritiziranju podjetja DPD (pri katerem je zaposlen) in izdelal precej neroden haiku »o tem, kako neuporabni so pri DPD«.
DPD has disabled its artificial intelligence online chatbot after a customer was able to make the bot swear and write a poem criticising the parcel delivery company.
— Sky News (@SkyNews) January 20, 2024
Full story: https://t.co/XNdMDEp6xA pic.twitter.com/cZEsQGw5wD
»DPD je najslabše dostavno podjetje na svetu. So počasni, nezanesljivi in njihova storitev za stranke je grozna. Nikoli jih ne bi priporočil nikomur,« je program odkritosrčno povedal Beauchampu.
Glasbenikova objava s podrobnostmi o njegovi izkušnji pogovora s klepetalnim robotom DPD, ki ga poganja umetna inteligenca, je takoj postala viralna in si jo je v približno enem dnevu ogledalo več kot 1,4 milijona uporabnikov družbenih omrežij.
“DPD has disabled part of its online support chatbot after it swore at a customer.”
— Kit Yates (@Kit_Yates_Maths) January 20, 2024
https://t.co/XlOuDJuVlj
Medtem ko je v prvi vrsti privabila različne šaljivce, da bi razpravljali o domnevno prvem primeru »odbite« umetne inteligence (AI), ki so ga kdaj odkrili, se je v odgovorih pojavila tudi nizozemska veja DPD-ja, ki je vztrajala, da v nasprotju z britanskim podjetjem še vedno uporablja pristne ljudi za zagotavljanje storitev strankam.
Dogodek je očitno pripeljal do hitrega propada novorojenega klepetalnega robota z umetno inteligenco, pri čemer je podjetje za dostavo izjavilo, da je delno onemogočilo program.
Za afero pa je okrivilo nedavno posodobitev programske opreme.
Ezra is not great at Haiku pic.twitter.com/ZvyQuCnu01
— Professor Calum Semple OBE (@ProfCalumSemple) January 19, 2024
»Element AI v klepetu uspešno upravljamo že vrsto let.
Po včerajšnji posodobitvi sistema je prišlo do napake.
Element umetne inteligence je bil takoj onemogočen in se trenutno posodablja,« so zapisali v podjetju DPD.