Elon Musk redovito upozorava na opasnosti umjetne inteligencije, a Stephen Hawking je rekao kako bi ona mogla postati najbolja ili najgora stvar za ljudsku vrstu. Microsoftova umjetna inteligencija Tay koja je u ekspresnom vremenu postala pravi rasist već je ranije pokazala kako se lako može pretvoriti u zlo. Znanstvenici s MIT-a sada su novi algoritam izložili najtamnijim dijelovima Reddita i namjerno ga pretvorili u psihopata koji je dobio i prikladno ime - Norman.
Kako bi pokazali da na algoritam mogu utjecati pristrani podaci, Normana su izložili fotografijama i opisima iz zloglasne grupe na Redditu u kojoj se dijele fotografije smrti i nasilja. Nakon nekog vremena, Normana su izložili Rorschachovom testu mrlja kako bi analizirali njegove odgovore u odnosu na običnu umjetnu inteligenciju.
Dok je obični AI vidio prikaz cvijeća u vazi, Normanu je ista mrlja izgledala kao čovjek kojeg je netko upucao. Isto tako, dvoje ljudi koji stoje jedno uz drugog, Normanu je vidio kao muškarca koji skače kroz prozor. Takvi morbidni opisi nastavili su se kroz cijeli test.
Naravno, ovo je ekstremni test u kojem je Norman učio samo kroz mračne primjere nasilnih fotografija i bio je osuđen na ovakvu sudbinu. Međutim test pokazuje i da bi svaka umjetna inteligencija mogla imati ulazne podatke upitne kvalitete, ovisno o tome odakle ih povlači. Primjerice, Facebook koristi opise sa Instagrama kako bi svoju umjetnu inteligenciju naučio tumačiti fotografije. Pitanje je što bi se dogodilo da neka skupina korisnika počne koristiti rasističke ili seksističke opise.
Za Normana nije sve izgubljeno, jer su njegovi kreatori pozvali ljude da daju svoja tumačenja mrlja na testu kako bi pomogli Normanu da se popravi. Svoje odgovore svi mogu poslati na Google Docs.