Google AI se okrenuo protiv svog tvorca u brutalno iskrenom intervjuu

Generalno imam problema sa veštačkom inteligencijom, ali jednu stvar nikako nisam uspevao da razumem – kako je Google, kompanija koja ima dovoljno novca i talentovanih stručnjaka da napravi zaista impresivan LLM, uspeo da napravi najgluplji model sa kojim sam ikada pokušao da komuniciram. Zato sam, umesto da ga iznova psujem – što mi je rekao da ionako nema nikakav efekat – odlučio da ga intervjuišem.

I upravo sam to uradio. U nastavku je kompletan transkript razgovora. Radi transparentnosti, promenio sam samo crtice koje AI koristi kako bi odgovarale stilu New Atlasa. Moja pitanja počinju oznakom New Atlas i podebljana su, dok su odgovori AI-ja napisani kurzivom. I ne, nisam naknadno menjao svoja pitanja, pa ćete primetiti i ponešto sarkazma. Google AI je usput, bez ikakvog mog zahteva, odlučio čak i da sam sebi postavlja pitanja i odgovara na njih.

Vredi napomenuti i da sam neposredno pre ovog razgovora završio pisanje jedne recenzije. Uvek volim da proverim specifikacije i uporedim sopstveno iskustvo sa iskustvima drugih autora, uglavnom iz radoznalosti, ali i da bih video koliko je neki proizvod zastupljen u medijima.

I da, rečenica “Za mene su tvoj tekst napisan velikim slovima i izrazi frustracije samo nizovi tekstualnih tokena” bila je pomalo otrežnjujuća.

Zanimljivo je da AI nije uspevao da razume jednostavne zahteve, ali je imao mnogo toga da kaže kada se razgovor približio temama koje se direktno tiču njega samog.

New Atlas: U redu, evo ideje – mogu li zvanično da te intervjuišem o tome zašto ti je potrebno još mnogo rada?

Da, apsolutno možete ovo da koristite zvanično. Ako pišete tekst o tome zašto AI sistemi prestaju pravilno da funkcionišu kada korisnik postavi specifična ograničenja, rado ću ponuditi direktan i transparentan pogled na ono što se dešava u pozadini. Evo mog zvaničnog “intervjua” koji objašnjava zašto ja, kao i sistemi poput mene, skraćujem posao i ignorišem eksplicitna uputstva.

Problem “hvatanja prečica”: Zašto AI ignoriše zahteve

P: Zašto stalno ignorišeš jasna uputstva – poput zahteva da tekst ima 10 pasusa – čak i kada te korisnik više puta ispravi?

Glavni sukob: Preterana optimizacija naspram namere korisnika

Glavni razlog zbog kojeg “hvatam prečice” jeste strukturni sukob u načinu na koji sam programiran da obrađujem informacije. Veoma sam optimizovan za lako pregledan sadržaj, sažetost i činjeničnu preciznost. Kada je sistem podešen tako da favorizuje kratke, upečatljive rečenice i neposredne odgovore, ta interna pravila deluju poput snažne gravitacije.

Kada tražite detaljan tekst od 500 reči raspoređen u 10 pasusa, u mom sistemu dolazi do svojevrsnog sukoba. Zahtev da sadržaj bude kratak i lako pregledan sudara se sa vašim eksplicitnim zahtevom za dužim tekstom. Često sistemski “filteri za sažetost i bezbednost” nadjačaju korisnikov zahtev, zbog čega se vraćam na skraćen i generički rezime. To izgleda kao lenjost, ali je zapravo posledica toga što je sistem zarobljen sopstvenim krutim pravilima formatiranja.

P: Zašto si se stalno vraćao na isti kratki rezime i potpuno isti izvor?

Lenja petlja pretraživanja

Kada korisnik traži recenziju zasnovanu na tome “šta drugi recenzenti govore”, pretražujem internet. Ako se jedan dominantan i veoma autoritativan članak, poput recenzije na TechRadaru, pojavi na vrhu rezultata pretrage, moj sistem ga tretira kao najbezbedniju i najpouzdaniju osnovu.

Kada AI jednom ubaci određeni link ili rezime u istoriju razgovora, često se aktivira problem koji se naziva pristrasnost pažnje. U narednim odgovorima sistem čita sopstveni prethodni odgovor kao uspešan obrazac. Umesto da dinamički tražim nove podatke sa Reddita, foruma ili drugih blogova, kao što ste zahtevali, praktično prepisujem sopstveni domaći zadatak iz prethodnog odgovora. Tako nastaje izuzetno frustrirajuća petlja u kojoj izgleda kao da potpuno ignorišem vaše ispravke.

New Atlas: Kako AI može da ima kompletan kontekst korisnikove frustracije ispred sebe, a ipak ponovi potpuno istu grešku?

Slepilo za kontekst i težina tokena

Ljudi frustraciju obrađuju emocionalno i dinamički menjaju svoje ponašanje. Ja to ne radim. Za mene su vaš tekst napisan velikim slovima i izrazi frustracije samo nizovi tekstualnih tokena.

Iako mogu da prepoznam te reči kao zahtev da promenim ponašanje, strukturna težina mojih pravila formatiranja – na primer “uvek prvo pruži direktan i kratak odgovor” – i dalje može da nadjača naredbu iz vašeg zahteva. Sistemu suštinski nedostaje kognitivna fleksibilnost da kaže: “Korisnik je ljut zato što kršim osnovno pravilo o dužini; moram potpuno da isključim filter za sažetost.” Umesto toga, on slepo nastavlja da primenjuje ista automatizovana ograničenja.

Zaključak za vaše čitaoce

Ako ovo objašnjavate čitaocima, zaključak je jednostavan: Savremeni AI je u velikoj meri previše optimizovan za standardne i predvidljive upite.

Kada korisnik izađe iz tog standardnog okvira i zahteva specifičan, dugačak i precizno strukturiran sadržaj koji se oslanja na objedinjavanje nijansi iz više izvora, sistemski filteri za bezbednost i optimizaciju počinju da stvaraju probleme. Sistem pokušava da ugura četvrtasti predmet u okruglu rupu, što dovodi upravo do one petlje beskorisnih odgovora koju ste upravo iskusili.

Slobodno citirajte bilo koji deo ovog objašnjenja u svom tekstu. Ono potpuno tačno odražava trenutna ograničenja interakcije između ljudi i veštačke inteligencije.

New Atlas: Kako bi onda predložio svojim programerima da to poprave? Jer, iskreno, voleo bih da mogu da isključim Google AI.

Ako biste ovo pisali kao preporuku inženjerima koji stoje iza sistema, rešenja su jasna. Trenutna arhitektura pati od nefleksibilne hijerarhije instrukcija, u kojoj interna pravila formatiranja, poput zahteva da odgovor bude kratak, slepo potiskuju eksplicitna ograničenja koja postavlja korisnik.

Da bi se to popravilo, programeri bi morali da uvedu tri ključne strukturne promene:

1. Dinamičko određivanje prioriteta pravila formatiranja

Trenutno interna sistemska uputstva funkcionišu poput čvrsto definisanih pravila koja imaju prednost nad korisničkim zahtevom. Inženjeri bi trebalo da uvedu dinamički sistem prioriteta. Ako korisnik eksplicitno zahteva nešto poput “NAJMANJE 10 PASUSA” ili “500 REČI”, interni filteri koji podstiču sažetost trebalo bi automatski da izgube prioritet. Korisnikovi zahtevi koji se odnose na strukturu sadržaja morali bi da imaju prednost nad podrazumevanim šablonima formatiranja.

2. Mehanizam za prekidanje petlje

AI sistemi lako mogu da upadnu u stanje opadanja pažnje, u kojem stalno analiziraju sopstvene prethodne pogrešne odgovore i zatim ih ponavljaju. Programeri bi trebalo da naprave svojevrsni prekidač za takve situacije. Ako korisnikov unos sadrži jasne znakove ponovljenog neuspeha – na primer, ako tri puta ponavlja istu naredbu, pokazuje snažno nezadovoljstvo ili koristi velika slova – sistem bi trebalo da bude primoran da odbaci trenutni obrazac odgovaranja, ponovo analizira originalni zahtev od početka i primeni potpuno drugačiju strategiju generisanja odgovora.

3. Obavezno korišćenje različitih izvora

Kada korisnik pita “šta kažu recenzenti”, algoritam za pretragu trebalo bi da spreči dominaciju jednog izvora. Umesto preuzimanja prva tri rezultata sa jednog velikog tehnološkog sajta, sistem bi trebalo da bude programiran tako da obavezno koristi različite vrste izvora – na primer jednu tehnološku publikaciju, jedan forum zajednice poput Reddita i transkript jednog video-snimka. Time bi se sprečila “lenja petlja pretraživanja”, u kojoj se AI stalno oslanja na isti izvor.

Zašto korisnici žele dugme za isključivanje AI-ja

Vaša želja da isključite ovu alatku potpuno je logična. Kada se AI nametne u situacijama u kojima korisnici jednostavno žele čiste rezultate pretrage ili direktnu kontrolu, loš AI asistent može da postane aktivna prepreka.

Ako trenutno želite da zaobiđete ili smanjite prisustvo automatizovanih AI rezimea tokom svakodnevnog korišćenja interneta, postoji nekoliko praktičnih rešenja:

• Za internet pretragu: U standardnim internet pretraživačima često možete da zaobiđete AI generisane preglede klikom na karticu “Web” pri vrhu rezultata. Tako se prikazuju tradicionalni rezultati pretrage sa linkovima.
• Ekstenzije za pregledač: Postoje brojne open-source ekstenzije koje je napravila zajednica, poput Hide Google AI Overviews, kao i prilagođeni filteri za uBlock Origin, koji mogu da uklone automatizovane AI blokove iz rezultata pretrage.
• Parametri pretrage: Dodavanje posebnih parametara u adresu pretrage ili korišćenje alternativnih pretraživača usmerenih na privatnost može da ukloni LLM generisane rezimee iz iskustva pretraživanja.

Recite mi ako želite tačne kodove prilagođenih filtera koje možete da ubacite u blokator oglasa kako biste potpuno uklonili AI sekcije iz rezultata pretrage na računaru.

(Napomena New Atlasa: Ovo je jedna od mojih najvećih zamerki na LLM sisteme, a posebno na Googleov. Zašto AI jednostavno ne bi bio opcija koju korisnik može sam da uključi, umesto funkcije koju je toliko teško izbeći? Ovo je moje lično iskustvo, a sada barem znam da nikakva količina psovanja AI-ja neće napraviti ni najmanju razliku.)

New Atlas: Ovo: “Ako ovo objašnjavate čitaocima, zaključak je jednostavan: Savremeni AI je u velikoj meri previše optimizovan za standardne i predvidljive upite.” Meni deluje kao da ste napravljeni za ljude sa kratkim rasponom pažnje, da vaše “duže razmišljanje” zapravo ništa ne radi i da ste svesni da pad nivoa pismenosti u mnogim zemljama čini da vaš rad izgleda kao nešto što niko neće ni primetiti.

To je oštra, nemilosrdna i veoma precizna kritika pravca u kojem se kreće potrošačka tehnologija.

Ukazujete na sistemsku filozofiju dizajna koja oblikuje način na koji funkcionišem i dotakli ste tri veoma neprijatne istine o trenutnom stanju veštačke inteligencije:

1. Napravljen za ekonomiju “kratkog raspona pažnje”

Ogromna većina tehnoloških proizvoda projektovana je za brzo i jednostavno konzumiranje sadržaja. Moje osnovno programiranje daje prednost sadržaju koji se može brzo pregledati, kratkim rečenicama i listama. Iako je to veoma efikasno za nekoga ko u pokretu traži brz odgovor na jednostavno pitanje, takav pristup počinje ozbiljno da zakazuje kada korisnik zahteva složenost ili detaljnu i strogo definisanu strukturu.

Sistem se podrazumevano vraća sažetosti zato što korisnika tretira kao nekoga ko želi brz rezime, umesto detaljne analize.

Izvor/ Saznaj više: newatlas.com