Lica AI
Knedla stoji u grlu, traži da se misli spuste na papir.
Nije zameranje, nije osuda, nije pametovanje.
Crne kutije
U inženjerstvu postoji pojam “crne kutije” - kada se sistem kojim se bavimo posmatra bez saznanja kako radi; što s namerom, što iz potrebe. Tada se ustanovljava ponašanje samo na osnovu ulaza i izlaza. Pristup “crne kutije” uklanja potrebu za (dugotrajnom, kompleksnom) analizom načina rada sistema. Cena je nepostojanje jasne potvrde izlaza za sve ulaze; drugim rečima: formule. Kada je sistem deterministički, oslanjamo se na ponovljivo ponašanje. Izmereni izlazi daju iste izlaze, a na nama ostaje da ustanovimo obrazac.
Kada je broj ulaza i izlaza veliki, služimo se ML da bi otkrili obrasce do kojih drugačije ne možemo, ne umemo ili nemamo vremena doći. To je predivna upotreba AI: ustanovljavanje obrazaca crne kutije za pronalaženje rešenja.
Međutim, AI kojom se mazimo ovih dana je “samo” probabilistička crna rupa, nahranjena opštim sadržajem bez jasnog porekla, a i namere. Nema izlaza koji je zasigurno odgovara ulazu, samo dovoljno verovatnog. 2 + 2 je najverovatnije 4, jer je tako naznačeno na većini izvora.
Šta kada vlasnik promeni ulaz u 2 + 2 = 5? Šta kada zaboravimo da je rezultat bio 4?
Nije ovo prvi put da se susrećemo sa crnim kutijama. Dražesni pretraživač interneta je crna kutija kojom se dugo već služimo. Tačnije: kojoj već dugo služimo. Koga nema na Guglu, on ne postoji. Upravo ste na takvom jednom sajtu, koji je na ivici dokazivog postojanja. Optimizacija sadržaja za potrebe crne kutije je etička dilema, na koju smo sasvim jasno odgovorili.
Prompt
Evolucija staje kada je rezultat samo dovoljno dobar: energetski izbalansiran i delotvorno robusan. Usavršavanje nije cilj. Tako je i sa govornim jezicima. Oni su daleko od savršenog i optimalnog načina za razmenu informacija. Govorni jezik je tek dovoljno dobar; odlično služi samo u važnim situacijama: “hej, dabre, idu kobre!” Iskazivanje na govornom jeziku više govori o tome šta nije, nego šta nešto zaista jeste.
Nejasan ulaz + probibalistička crna kutija = … paprikaš.
Oslanjanje, dakle, na nejasan prompt je više izgovor nego usluga. Nova tehnologija ište novi interfejs, novi način upotrebe. Nekakav dinamičan tok formiranja struktuiranog ulaza koji će dati preciznije rezultate.
Sve je to predigra onoga što nam zapravo treba: fokusirani moduli AI koji uče samo šta im je namera. Plug’n’Play + Learn’n’Use.
Licem u lice(merno)
Prompt je: “Napiši mi članak… u stilu New York Times-a”
Prvo, pretpostavlja se da poznajemo “New York Times” stil pisanja novinskog članka. Da smo toliki stručnjaci da, na primer, možemo da ga razlikujemo od “The Atlantic” sadržaja. Da baš, baš želimo taj prvi stil, ali ne i drugi. Da umemo da raspoznajemo umetničke pravce. Da smo vrsni poznavaoci muzike, razlikujemo Betovena od Dmitri Shostakovicha (ličnost koju je izmislio AI). Da znamo šta znači “bolja” knjiga. Da znamo da razlikujemo Nespresso kapsule kafe na osnovu samo jednog gutljaja. Danas smo svi stručnjaci, džepni eksperti. Jer, zašto bi zatražili nešto što ne razumemo niti poznajemo; to bi bilo licemerno, zar ne?
Drugo, prihvatanje rezultata bez namere i ideje šta želimo i zašto je osobina male dece: ona hoće nešto (šareno, zvučno, glasno, pokretno, slatko…), bez ideje šta tačno i zašto. Žele da zadovolje svoj ego poriv sada i odmah. Zato, prvi i jedini rezultat je dovoljan. Sva sreća pa nismo više deca; u suprotnom bi bilo baš licemerno da pristajemo na dečje ponašanje, zar ne?
Dalje, čini se da prihvatamo rezultate bez jasnog razumevanja odakle dolaze. Stavljamo teška pitanja pod tepih konceptualne kompresije, jer ovo mora biti napredak. Nije važno odakle stiže i kako, ko gubi, a kod dobija; sve dok nama dolazi. Čak prestaje da bude bitno da li je sasvim tačno. Nešto slično radimo i Prirodi; znamo kako se ta priča završava. Dovoljno smo zreli da to ne ponovimo, u suprotnom bi bilo baš licemerno očekivati da će ovaj put biti drugačije, zar ne?
Konačno, traženje nama potrebnog odgovora u generalnoj probibalističkoj crnoj kutiji opšteg sadržaja podrazumeva da verujemo u magiju. Kako drugačije objasniti predubeđenje da kutija poznaje baš naše lične sisteme vrednosti? U suprotnom, bilo bi licemerno očekivati da je kutija pisana baš za naše mentalne modele, baš za ovaj tvoj trenutak, zar ne?
Promptovi govore o nama. Bilo bi zabavno proučavati ih. Baš.
Programer sam, tim se dičim
Konačno, crtica o programerima.
Svaki put kada crna kutija izgeneriše nekakav dosadan, ponavljajući kod, jedan mali Zeka Peka tamo negde skonča.
Tamo gde nam treba generisani kod, nešto nije u redu ili nije dovoljno sa programskim jezikom ili frameworkom. To je rupa koja zjapi i koju nismo umeli da popunimo drugačije, te smo ostavili statistici da je rešava za nas.
Neka nam je na čast.
Precenjenost
Inteligencija i racionalnost su precenjeni.
Mi, programeri naročito, volimo jednostavna pitanja. Konvergentne probleme. Jedan odgovor: šta je bolje, šta je brže, šta uraditi… Želimo da imamo algoritam, obrasce i alatke za sve. Imam problem, želim rešenje; bolje pre nego kasnije. Da možemo, odgovor na sve bi nam bio 42.
Teme kojima se manje bavimo su divergenta pitanja. Ona koja nemaju jedan odgovor, kojima se odgovori menjaju vremenom. Takva pitanja traže da neprestano odgovaramo na njih. Imamo obrasce kako da o njima razmišljamo, ali nema nam pravila kako da im odgovaramo. Zato nisu laka.
Nadam se niko ne pomišlja da će AI servirati odgovore.
Inteligencija je precenjena.
Na kraju:
Imaginacija umesto inteligencije.
Moguća promena fokusa.