Cine credea că Internetul nu e în mare parte plin de bilă şi vitriol se înşeală. Cel puţin Redditul pare a fi astfel, judecând după faptul că oamenii de ştiinţă au creat un “AI psihopat” folosind postările de acolo. Ce a ieşit aflaţi mai jos.

Publicitate

Am mai văzut cazuri de gen, când Microsoft a creat un bot pe Twitter, care a început la puţin timp să posteze mesaje antisemite. Acum minţile luminate de la MIT au creat un AI numit “Norman”, după personajul principal din “Psycho” al lui Aflfred Hitchcock. Acest sistem a fost creat prin alimentarea sa cu titrări bizare, ciudate sau chiar bolnave postate pe Reddit pentru anumite imagini controversate de acolo.

A fost ales un subreddit care avea de-a face cu “realitatea morţii”. Se postau numai imagini macabre acolo şi caption-urile erau pe măsură. Ei bine fix acele texte au dus la crearea lui Norman. După ce AI-ul a tot ingurgitat acele mesaje din subreddit, el a primit un test Rorschach pentru a fi evaluată starea sa mentală. Acelaşi test a fost dat unui AI standard, care nu primise un influx de date bolnave.

Rezultatul testului a fost următorul: Norman a început să se comporte deviant şi în mod bolnav faţă de AI-ul standard. Unul dintre testele cu pete de cerneală la care un om sănătos ar răspunde “păsări care stau pe o cracă de copac” l-a văzut pe Norman spunând “un bărbat este electrocutat şi moare”. AI-ul standard a văzut altă fotografie drept o “poză alb negru a unei păsări mici”, în vreme ce varianta deviantă a văzut “un bărbat care e tras într-un malaxor”.

Cercetătorii de la MIT au vrut să arate că AI-ul nu e niciodată nedrept, bolnav sau ciudat, ci datele introduse în el sunt astfel. Genul acesta de experimente cu siguranţă Nu are darul de a ne linişti legat de ameninţările AI-ului, asta vă zic sigur…