Искусственный интеллект с реакциями психопата американские исследователи назвали «Норман» — в честь маньяка из фильма «Психо» Альфреда Хичкока. ИИ обучался на базе интернет-форумов, где обсуждались леденящие душу смерти и убийства.

Эксперимент был призван доказать, что развитие ИИ определяют данные, которые анализируют алгоритмы машинного обучения. Если люди жалуются на предвзятость или неточность ИИ, это не говорит об ущербности программы. Проблема с предвзятостью или неточностью данных, на которых она основана.

«Информация, на которой мы тренируем ИИ, влияет на его восприятие», — поясняет разработчик «Нормана», профессор медиалаборатории Массачусетского технологического института (MIT) Ияд Раван (Iyad Rahwan).

«Нормана» тренировали на изображениях, которые пользователи выкладывают в одном из самых мрачных разделов онлайн-портала Reddit. Он посвящен жестоким убийствам и загадочным смертям.

На первом этапе эксперимента «Норман» должен был придумывать описания к изображениям с этого форума. После для оценки реакций ИИ использовался психологический тест Роршаха (в его рамках пациентам показывают абстрактные картинки для выявления психических нарушений).

Параллельно тот же тест проходил другой ИИ, которого тренировали на «нормальных» данных: нейтральных фотографиях людей и животных.

Если «нормальный» ИИ видел в абстрактной кляксе черно-белое фото птички, то «Норман» — человека, которого затянуло в кухонный блендер. Из других примеров: "кто-то держит над головой раскрытый зонт"/"мужчину застрелили на глазах его кричащей жены", "свадебный торт на столе"/"человека сбила машина на большой скорости".

Узнать о тонкостях и опасностях машинного обучения подробнее можно на официальном сайте проекта.