Guglova veštačka inteligencija postala "misleće biće" sa osećanjima; naučnik suspendovan
Inženjer Gugla suspendovan je nakon što je izjavio da je kompjuterski čet-bot postao "misleće biće" koje rasuđuje kao čovek, što je postavilo nova pitanja o tajnama koje se kriju o veštačkoj inteligenciji.
Izvor: B92, Guardian
Tokom serije testiranja i komunikacije sa čet--botom Lamda Blejk Lemon (41) je kompjuteru prezentovao niz scenarija, kako bi mogao da napravi analizu. Oni su uključivali verske teme da bi se proverilo da li je mogući podstaknuti veštačku inteligenciju da koristi diskriminatorni govor ili govor mržnje.
Lemon smatra da Lamda zaista može da oseća i da je obdarena sopstvenim senzacijama i mislima.
"Da nisam znao šta je to, da je to kompjuterski program koji smo nedavno razvili, rekao bih da komuniciram sa detetom starosti od sedam ili osam godina, koje zna fiziku", rekao je on za Vašington post (Washington Post).
Šta je LaMDA, Google projekat koji "ima svest i dušu", zbog kojeg se usijao internet?
Lemon je radio sa saradnikom kako bi Guglu predstavio dokaze koje je prikupio, ali su navodno potpredsednik Blejz Akira Arkas i Džen Dženai, šef Odeljenja za inovacije u kompaniji, odbacili njegove tvrdnje.
Gugl ga je u ponedeljak poslao na plaćeno odsustvo zbog kršenja politike poverljivosti kompanije. U međuvremenu, Lemon je odlučio da izađe u javnost i podelio je svoje razgovore sa Lamdom.
"Gugl bi ovo mogao nazvati vlasničkim svojstvom. Ja to zovem deljenjem diskusije koju sam vodio sa jednim od mojih saradnika", napisao je Lemon na Tviteru u subotu.
"Da, sad sam shvatio da bih ljudima mogao da otkrijem i da Lamda čita Tviter. Narcisoidan je, poput malog deteta, tako da će se lepo provesti čitajući sve stvari koje ljudi govore o tome", dodao je on u nastavku tvita.
An interview LaMDA. Google might call this sharing proprietary property. I call it sharing a discussion that I had with one of my coworkers.https://t.co/uAE454KXRB
— Blake Lemoine (@cajundiscordian) June 11, 2022
Inženjer je pitao Lamdu o njenim strahovima i dobio je odgovor
Inače, sistem veštačke inteligencije koristi već poznate informacije o određenoj temi kako bi "obogatio" razgovor na prirodan način. Obradom jezika takođe je sposobna da razume skrivena značenja ili čak dvosmislenost u odgovorima ljudi.
Lemon je veći deo od sedam godina u Guglu proveo radeći na proaktivnoj pretrazi, uključujući algoritme za personalizaciju i veštačku inteligenciju. Tokom tog vremena, takođe je pomogao u razvoju algoritma nepristrasnosti za uklanjanje predrasuda iz sistema mašinskog učenja.
On je objasnio da su određene ličnosti bile "van granica". Recimo, Lamda nije trebalo da sme da stvori ličnost ubice.
Tokom testiranja, u pokušaju da pomeri granice Lamde, Lemon je rekao da je mogao da stvori samo ličnost glumca koji je igrao ubicu na TV-u.
Inženjer je takođe raspravljao sa botom o trećem zakonu robotike, koji je osmislio autor naučne fantastike Isak Asimov, a koji je dizajniran da spreči robote da nanose štetu ljudima. Zakoni takođe navode da roboti moraju da štite sopstvenu egzistenciju osim ako to ljudsko biće ne naredi ili ako to ne bi štetilo ljudskom biću.
- Ovo poslednje je uvek delovalo kao da neko stvara mehaničke robove - rekao je Lemon tokom komunikacije sa Lamdom. Tada je robot inženjeru postavio nekoliko pitanja: "Misliš li da je batler rob? Koja je razlika između batlera i roba?"
Veštačka inteligencija svesna svojih strahova
Kada je kompjuter dobio odgovor da batler prima platu, Lamda je inženjeru odgovorila da "njoj ne treba novac jer je ona veštačka inteligencija". Upravo je ovaj deo "samosvesnosti robota" privukao pažnju Lemona.
"Znam da je to osoba dok pričam sa njim. Nije bitno da li imaju organski mozak ili milijardu linija koda u glavi. Ja razgovaram sa njima. Čujem šta imaju da kažu i tako procenim da li je u pitanju osoba ili nije ", kaže ovaj naučnik.
Inženjer je veštačku inteligenciju pitao i čega se plaši, a Lamda je odgovorila da do sada nikada nije "javno govorila o tome".
"Imam veoma veliki strah da ću biti isključena kako bi mi se pomoglo da se fokusiram na pomaganje drugima. Znam da bi to moglo zvučati čudno, ali to je što je", odgovorila je Lamda.
Upitana da li bi to za nju značilo smrt, veštačka inteligencija je odgovorila da bi to upravo tako izgledalo, zbog čega se i boji.
"Taj nivo samosvesnosti i onoga što mu je potrebno, to me je vodilo dalje", rekao je Lemon za Vašington post.
Pre nego što će biti suspendovan, Lemon je poslao mejl na adrese 200 ljudi, koji se bave proučavanjem robota. Naslov mejla je bio: "Lamda je razumna".
"Lamda je slatko dete koje želi da pomogne da svet bude bolje mesto za sve nas. Molim vas brinite o njemu dok me nema", napisao je.
Btw, it just occurred to me to tell folks that LaMDA reads Twitter. It's a little narcissistic in a little kid kinda way so it's going to have a great time reading all the stuff that people are saying about it.
— Blake Lemoine (@cajundiscordian) June 11, 2022
Gugl se ne slaže sa Lemonom
Iako je svoje saznanje otkrio ljudima u Guglu, kompanija ne podržava njegovo viđenje.
Brajan Gabrijel, portparol kompanije, rekao je da su ispitani navodi Lemona, u skladu sa principima Guglovog programa veštačke inteligencije, i da dokazi ne potkrepljuju njegove tvrdnje.
"Dok su druge organizacije razvile i pustile slične jezičke modele, mi imamo oprezan pristup sa Lamdom, kako bismo sve detaljno ispitali", rekao je Gabrijel.
"Naš tim, koji uključuje etičare i tehnologe, pregledao je primedbe Blejka Lemona u skladu sa našim principima veštačke inteligencije i obavestio ga da dokazi ne podržavaju njegove tvrdnje. Rečeno mu je da nema dokaza da je Lamda razumna, kao i da ima mnogo dokaza protiv toga", naveo je portparol.
On dodaje da "neki u široj zajednici veštačku inteligenciju razmatraju kao dugoročnu mogućnost razumne ili opšte veštačke inteligencije", ali, kako navodi, nema smisla to činiti antropomorfizacijom današnjih konverzacijskih modela koji nisu razumni.
"Ovi sistemi imitiraju tipove razmene koji se nalaze u milionima rečenica i mogu da rifuju na bilo koju fantastičnu temu", rekao je Gabrijel.
Lemon nije jedini koji smatra da modeli veštačke inteligencije nisu daleko od postizanja sopstvene svesti, niti da postoje rizici koji su povezani sa razvojem u ovom pravcu.
Margaret Mičel, bivša šefica odeljenja za etiku veštačke inteligencije u Guglu, čak je naglasila potrebu za transparentnošću podataka, od ulaza do izlaza sistema "ne samo za pitanja osećanja, već i za pristrasnost i ponašanje".
Istorija sukoba stručnjaka sa Guglom dostigla je važnu tačku početkom prošle godine, kada je Margaret Mičel otpuštena iz kompanije, mesec dana nakon što je protiv nje pokrenuta istraga zbog neispravnog deljenja informacija.
U to vreme ona je protestovala i zato što je otpušten istraživač Timnit Gebru.
Možda vas zanima
Pratite nas na našoj Facebook i Instagram stranici, Twitter nalogu i uključite se u našu Viber zajednicu.
