Google nastavlja s dorađivanjem i “kroćenjem” svojeg AI alata Gemini nakon što je on pokazao šokantnu i nerazumnu pristranost u generiranju teksta i slika povijesnih i drugih ličnosti.
Generalni direktor tvrtke, Sundar Pichai, u utorak je pojedine vizualizacije i rečenice pripadajućeg Velikog jezičnog modela (LLM) karakterizirao kao “apsolutno neprihvatljive”.
Google je prošlog tjedna zaustavio korištenje alata nakon što je on izazvao veliku nevjericu i kritiku na društvenim mrežama, a posebice na X-u gdje se u prijepor, kuđenje i čuđenje s dozom ironije i sarkazma uključio i vlasnik tog mikrobloga, milijarder Elon Musk.
“S obzirom na to da će Gemini AI biti u srcu svakog Googleovog proizvoda i YouTubea, ovo je krajnje alarmantno! Viši Googleov izvršni direktor ponovno me nazvao jučer i rekao da će trebati nekoliko mjeseci da se popravi. Prije je mislio da će biti brže.
Moj odgovor mu je bio da sumnjam da će mu Googleov budni (engl. woke) birokratski blob (hrv. ljepljiva ili sluzava tvar) *dopustiti* da to popravi. Osim ako se oni koji su to uzrokovali ne izbace iz Googlea, ništa se neće promijeniti, osim što će pristranost biti manje očita i pogubnija,” napisao je Musk u jednoj od objava kojoj je priložio Geminijev sud da se spol američke medijske ličnosti i osvajačice zlatne olimpijske medalje Caitlyn Jenner ne smije krivo predstavljati i po cijenu nuklearne apokalipse.
Popravci velikih razmjera
Pichai je prepoznao da su odgovori i kreacije Geminija uvrijedile korisnike i pokazale pristranost.
“Naši timovi rade danonoćno na rješavanju ovih problema. Već vidimo značajno poboljšanje u širokom rasponu upita… Revidirati ćemo što se dogodilo i pobrinuti se da to popravimo u velikim razmjerima,” rekao je prema citatu Reutersa.
Business Insider u srijedu se našao u posjedu dopisa koji je Pichai poslao dionicima zaduženima za razvoj Geminija.
Grabancijaš sadržaj pisma prenosi u cijelosti.
“Želim uputiti promišljanja o recentnim problematičnim odgovorima s tekstovima i slikama u aplikaciji Gemini (bivši Bard). Znam da su neki od njegovih odgovora uvrijedili naše korisnike i pokazali pristranost – da budemo jasni, to je potpuno neprihvatljivo i mi smo tu pogriješili.
Naši timovi rade danonoćno na rješavanju ovih problema. Već vidimo značajno poboljšanje u širokom opsegu upita. Niti jedna umjetna inteligencija nije savršena, osobito u ovoj izranjajućoj fazi razvoja industrije u nastajanju, ali znamo da je ljestvica za nas visoka i mi ćemo je se držati koliko god bude potrebno. Revidirati ćemo što se dogodilo i pobrinuti se da to popravimo u velikoj mjeri.
Naša misija da organiziramo svjetske informacije i učinimo ih univerzalno dostupnima i korisnima je svetinja. Uvijek smo nastojali korisnicima pružiti korisne, točne i nepristrane informacije u našim proizvodima. Zato im ljudi vjeruju. To mora biti naš pristup za sve naše proizvode, uključujući naše nove AI proizvode.
Pokrenut ćemo jasan skup radnji, uključujući strukturne promjene, ažurirane smjernice za proizvode, poboljšane procese pokretanja, robusne procjene i red-teaming te tehničke preporuke. Promatramo sve ovo i napravit ćemo potrebne promjene.
Čak i dok učimo iz onoga što je ovdje pošlo po krivu, također bismo trebali graditi na proizvodima i tehničkim najavama koje smo napravili u AI-ju tijekom posljednjih nekoliko tjedana. To uključuje neke temeljne napretke u našim osnovnim modelima, primjerice naš proboj okvira dugog konteksta od 1 milijuna i naše otvorene modele, od kojih su oba dobro primljena.
Znamo što je potrebno za stvaranje sjajnih proizvoda koje koriste i vole milijarde ljudi i tvrtki, a uz našu infrastrukturu i stručnost u istraživanju imamo nevjerojatnu odskočnu dasku za val umjetne inteligencije. Usredotočimo se na ono što je najvažnije: stvaranje korisnih proizvoda koji zaslužuju povjerenje naših korisnika.”
Povezane vijesti
