Cercetătorii americani au creat prima inteligență artificială psihopată din lume

Robotul Norman, considerat prima inteligență artificială psihopată din lume, vede peste tot moarte și distrugere.

Robotul a fost creat de cercetătorii din Statele Unite pentru a explica publicului larg modul în care sunt realizați algoritmii informatici și pentru a sensibiliza opinia publică în legătură cu posibilele pericole generate de inteligența artificială.

"Atunci când oamenii spun că algoritmii de inteligență artificială sunt părtinitori sau nedrepți, vinovatul nu este algoritmul în sine, ci datele părtinitoare care au fost utilizate (pentru punerea la punct a algoritmului). Această idee este bine cunoscută de oamenii de știință, însă mult mai puțin de publicul larg", au explicat Pinar Yanardag, Manuel Cebrian și Iyad Rahwan, cercetători la Massachusetts Institute of Technology (MIT).

De aici provine și ideea de a-l crea pe Norman, un robot al cărui prenume a fost ales după cel al asasinului psihopat Norman Bates din filmul "Psycho" (1960), regizat de Alfred Hitchcock.

În mod concret, Norman a fost "hrănit" doar cu scurte legende care descriu imagini "ale unor persoane aflate pe punctul de a muri", descoperite pe platforma online Reddit, au explicat cei trei cercetători, care au creat și un site dedicat robotului Norman (http://norman-ai.mit.edu/).

Apoi cercetătorii i-au arătat lui Norman imagini cu pete de cerneală, supunându-l și unui test psihologic Rorschach, pentru a află ceea ce "vedea" robotul. În etapă următoare, ei au comparat răspunsurile lui Norman cu cele oferite de un alt program AI, ce fusese antrenat într-o manieră tradițională.

Rezultatele sunt cel puțin înfiorătoare: acolo unde programul AI tradițional vedea "două persoane în picioare, apropiate una de altă", Norman vedea în aceeași pată de cerneală "un bărbat care sare de la o fereastră". Iar acolo unde Norman spune că vedea "un bărbat ucis cu gloanțe în fața soției sale care țipă", robotul AI tradițional vedea "o persoană care ține în mâna o umbrelă".

Site-ul dezvoltat de cei trei cercetători arată 10 exemple de pete de cerneală însoțite de răspunsurile oferite de cele două sisteme informatice, în care răspunsul macabru era întotdeauna furnizat de Norman. Site-ul propune internauților să facă și ei testul petelor de cerneală și să trimită răspunsurile lor pe adresa MIT "pentru a-l ajută pe Norman să se repare".

Mai mult decât un experiment științific, Norman ilustrează "pericolele inteligenței artificiale atunci când această se îndreaptă spre calea răului, pentru că date părtinitoare au fost utilizate" pentru a-l antrena, au afirmat cei trei cercetători, care speră să "genereze o creștere a gradului de conștientizare în rândul publicului, dar și o dezbatere axată pe aceste subiecte".

yoda.ro