REDAKCIJA - KOLOFON (EKIPA)

Registracija edicije: Elektronski časopis INSAJDER je vpisan pri Ministrstvu za kulturo z odločbo št. 006-203/01 pod zaporedno številko 36. Mednarodna serijska številka edicije: ISSN 1408-0990. Odgovorni urednik Igor Mekina.

BBC: Ameriška policija milijonkrat uporabila sporno programsko opremo za prepoznavanje obraza

BBC: Ameriška policija milijonkrat uporabila sporno programsko opremo za prepoznavanje obrazaNatančnost sporne programske opreme, ki se je izvila črki zakona in jo nekatere policije navkljub temu že uporabljajo - je odvisna od kakovosti fotografije, ki je vanjo vnesena. Vir: Posnetek zaslona, Twitter

Ameriško podjetje »Clearview AI«, proizvajalec programske opreme za prepoznavanje obrazov, je opravilo skoraj milijon iskanj za ameriške organe pregona, pravi njegov ustanovitelj in izvršni direktor Hoan Ton-That. To isto podjetje je bilo večkrat kaznovano zaradi kršitev zasebnosti.

V pogovoru za BBC je Ton-That razkril zaskrbljujoče dejstvo - Clearview ima zdaj že 30 milijard fotografij, postrganih s platform, kot je Facebook, posnetih brez dovoljenja uporabnika. Zaradi te ponavljajoče se prakse kršitve zasebnosti je bilo to podjetje v Evropi in Avstraliji večkrat kaznovano z več milijoni dolarjev kazni.

Kritiki trdijo, da policijska uporaba Clearviewa vse ljudi spremeni v oblastem pregona priročne, »dežurne krivce«.

»Kadar koli imajo fotografijo osumljenca, jo bodo primerjali z vašim obrazom,« opozarja Matthew Guaragilia iz fundacije Electronic Frontier.

»To gre že čez vse meje, preveč je invazivno,« poudarja Guaragilia, katerega organizacija si prizadeva postaviti meje v svetu, preobremenjenem z elektronskim nadzorom.

Ameriška policija ni potrdila zaskrbljujočo številko milijona iskanj prek »Clearviewa«, ki jo je razkril Ton-That.

Toda policija Miamija je za BBC povedala, da zadevno programsko opremo uporablja za vse vrste kaznivih dejanj.

Sistem Clearview omogoča policiji, da naloži fotografijo obraza in poišče ujemanja v podatkovni zbirki milijard slik, ki jih je zbrala programska oprema. Velja za enega najmočnejših in domnevno najnatančnejših sistemov za prepoznavanje obrazov na svetu.

Podjetju je prepovedano prodajati svoje storitve večini ameriških podjetij, potem ko je Ameriška zveza za državljanske svoboščine (ACLU) ovadila Clearview AI pred sodiščem v Illinoisu zaradi kršitve zakona o zasebnosti.

Vendar obstaja izjema za organe pregona in Ton-That pravi, da njegovo programsko opremo uporablja na stotine policijskih enot po ZDA.

Policija v ZDA rutinsko ne razkrije, ali uporablja sporno programsko opremo, ki je prepovedana v več mestih v ZDA, vključno s Portlandom, San Franciscom in Seattlom.

Čeprav naj bi policija to programsko opremo uporabljala le za resna, nasilna kazniva dejanja, je policija Miamija priznala, da uporablja programsko opremo za vse vrste kaznivih dejanj, od umorov do tatvin v trgovinah.

Pomočnik načelnika policije Armando Aguilar je dejal, da je njegova ekipa sistem uporabila približno 450-krat na leto in da jim je Clearview pomagal rešiti več umorov.

Toda kritiki pravijo, da ni zakona, ki bi nadzoroval policijsko uporabo programske opreme za prepoznavanje obrazov.

Aguilar se ob tem zmrduje, češ da policija v Miamiju prepoznavanje obraza obravnava kot namig. »Ne aretiramo ljudi zato, ker nam to narekuje algoritem,« pravi. »Ime osumljenca damo ali v fotografsko linijo za identifikacijo ali pa rešimo primer na tradicionalen način.«

Pomočnik načelnika policije v Miamiju, Armando Aguilar. Vir: Posnetek zaslona, Twitter

Toda obstaja nekaj odmevnih in dokumentiranih primerov zamenjave identitete pri uporabi programske opreme Clearview AI s strani policije. Hkrati pomanjkanje podatkov in preglednosti glede policijske uporabe programske opreme Clearview pomeni, da je prava številka policijske rabe spornega programa verjetno veliko višja, poroča BBC.

Ton-That sicer priznava, da je bilo nekaj napačnih aretacij z uporabo njegove tehnologije, a to pripisuje »slabo opravljenemu policijskemu delu«.

Ton-That pravi, da ne pozna nobenih primerov, ko bi se njegov Clearview zmotil in zamenjal identiteto nekoga z nekom drugim.

Sicer priznava, da je bilo nekaj napačnih aretacij z uporabo njegove tehnologije, a to pripisuje »slabo opravljenemu policijskemu delu«.

V Clearviewu trdijo, da je njihova programska oprema skoraj 100-odstotno natančna, aktivisti za državljanske pravice pa želijo, da policija, ki uporablja Clearview, odkrito pove, kdaj jo uporablja - in da se njegova natančnost javno preizkusi na sodišču.

Ter da morajo to testiranje algoritma opraviti neodvisni strokovnjaki, saj so v ACLU skeptični do trditev podjetja.

Zanimivo je, da Ton-That (kot je potrdil tudi za BBC) ne želi na sodišču pričati o brezhibni točnosti lastnega izdelka, ki lahko tudi po krivici spravi ljudi za zapahe, ali – še hujše – postanejo žrtve policijskega nasilja v zmoti policistov, da imajo opraviti z nevarno in oboroženo osebo.

V resnici pa se lahko zgodi nesporazum, da osebo, ki ni zagrešila nobenega zločina in jo je programska oprema napačno označila - prestraši policijska brutalnost.

In se nato tudi sama morda neprimerno odzove, kar nič hudega slutečo žrtev lahko med aretacijo stane hujših poškodb, celo življenja.

Ne nazadnje, natančnost Clearviewa je odvisna od kakovosti fotografije, ki je vanj vnesena.

Čeprav so bili primeri, ko je Clearview dokazano deloval in pomagal organom pregona pri iskanju nevarnih zločincev, nekateri menijo, da ima to vseeno previsoko ceno.

»Clearview je zasebno podjetje, ki izdeluje 'odtise obraza' ljudi na podlagi njihovih fotografij na spletu brez njihovega soglasja,« opozarja Guaragilia. »To je velik problem za državljanske svoboščine in državljanske pravice, zato bi ga morali absolutno prepovedati.«

Naše delo na Insajder.com z donacijami omogočate bralci.

Delite članek

Imate zanimive informacije? Stopite v stik z našimi novinarji.

Več člankov od avtorja

Najbolj brano od avtorja

Najbolj brano Insajder.com

Ta stran uporablja piškotke. Za več informacij o piškotkih, ki jih uporablja spletna stran, kliknite TUKAJ.

Sprejmi piškotke