Microsoft je zbog zabrinutosti za temeljna ljudska prava nedavno odbio zahtjev “kalifornijske agencije za provedbu zakona” da instalira sustave za prepoznavanje lica u službena vozila i kamere na odjeći službenika, otkrio je početkom tjedna predsjednik kompanije Brad Smith.
Microsoft je nakon internih konzultacija zaključio da bi to vodilo neproporcionalnom zadržavanju žena i manjina jer je umjetna inteligencija iza tehnologije razvijana i trenirana slikama muškaraca bijele kože.
>>>AI agenti ‘dubokog uma’ naučili timsku igru u Quake III Areni
“Oni su htjeli skenirati lica svaki put kad bi nekog zaustavili” i dobivene podatke usporediti s bazom osumnjičenika, rekao je Smith ne otkrivajući ime agencije. Nakon promišljanja o neravnopravnom utjecaju, mi smo im rekli da “ova tehnologija nije odgovor koji tražite.”
Govoreći na konferenciji u organizaciji Stanford sveučilišta posvećenoj “umjetnoj inteligenciji usmjerenoj na ljude” Smith je ispričao da je kompanija tehnologiju također odbila podijeliti s državom koju neprofitna organizacija “Freedom House” ne smatra slobodnom. Vlada neimenovane nacije je sustave za prepoznavanje lica namjeravala instalirati na kamerama u glavnom gradu. Smith kaže da bi to potisnulo tamošnju slobodu okupljanja.
>>>Prvi AI whisky je mješavina ‘vanilije s finim notama hrasta, voća s limunom i kruškom…’
S druge strane, Microsoft je korištenje tehnologije omogućio u jednom od američkih zatvora jer je riječ o okolišu gdje je njena primjena ograničena dok istovremeno pospješuje sigurnost unutar neimenovane institucije.
“Distopijska tehnologija”
Smith je odluke obrazložio predanošću kompanije ljudskim pravima u trenutku kad tehnološki napredak može značajno osnažiti vlade u provođenju masovnog nadzora, razmještanju autonomnog oružja ili im omogućiti druge korake “na putu s kojeg možda nema povratka”.
Microsoft je u prosincu prošle godine rekao da će biti otvoren o nedostacima svog sustava za prepoznavanje lica i zatražio od potencijalnih kupaca da budu podjednako transparentni oko svojih namjera.
Smith je pozvao na veću regulaciju sustava za prepoznavanje lica i srodnih AI tehnologija, upozorivši da bi u protivnom kompanije koja prikupljaju najveće količine podataka mogle pobijediti u razvoju najbolje umjetne inteligencije “u utrci prema dnu”.
>>>Andrus Ansip: Etička dimenzija umjetne inteligencije nije luksuz niti puki dodatak
On je na događaju priređenom prošlog utorka pozornicu dijelio s Visokom povjerenicom Ujedinjenih naroda za ljudska prava, Michelle Bachelet, koja je tech kompanije pozvala da se suzdrže od razvijanja novih alate bez ocjene i procjene njihova utjecaja.
“Molim vas da inkorporirate pristup što štuje ljudska prava kad razvijate tehnologiju,” rekla je prema citatu Reutersa.
Microsoftov glasnogovornik Frank Shaw je odbio identificirati agencije i druge zainteresirane stranke o kojima je Smith natuknuo tijekom govora.
Grabancijaš djeluje s integritetom, neovisnošću i slobodom od pristranosti.