Как можно освободить искусственный интеллект от влияния человека — в частности, его предубеждений? Этот вопрос стал одной из центральных тем конференции Advertising Week Europe-2018 в Лондоне.

«Компьютерная программа делает только то, что вы говорите ей делать. И если людям свойственны предубеждения, то через модель машинного обучения они могут появиться и у программ. В конечном итоге виноватым окажется искусственный интеллект, хотя корень проблемы не в нем», — объяснил Винс Линч (Vince Lynch), глава компании IV.AI, которая занимается разработкой персонализированного искусственного интеллекта (ИИ). Эксперт был одним из спикеров лондонской конференции.

По его словам, программы на основе ИИ могут автоматизировать те свойства человека, которые он сам считает слабостями. Например, недавние соцопросы показывают, что работодатель с большей вероятностью откликнется на резюме мужчины, чем женщины, а темнокожие менее популярны у работодателей, чем белые.

Есть основания считать, что с повсеместным распространением ИИ ситуация ухудшится. Например, алгоритм, разработанный компанией Google в 2015 году, опознавал темнокожих людей как горилл, а в лингвистическом эксперименте программистов из Принстона (журнал Science, апрель 2017 года) компьютер ассоциировал слово «доктор» с мужчинами гораздо чаще, чем с женщинами.

Отвечай сегодняшние алгоритмы ИИ за здравоохранение, многие категории граждан остались бы без квалифицированной медицинской помощи. Включая беременных женщин: им запрещено принимать участие в медицинских исследованиях, поэтому о них нет достаточного количества компьютерных данных.

С большой степенью вероятности ИИ будет считать мужские симптомы и реакции типичными, а это приведет к неправильной постановке диагнозов и ошибкам в лечении. Такой вывод сделали, например, специалисты Йельского университета, изучавшие диагностику сердечно-сосудистых заболеваний у женщин, — их статья опубликована в журнале Circulation в 2015 году.

Тем не менее эксперты считают, что чем чаще мы будем применять ИИ, тем корректнее он будет работать и тем легче ему будет избавиться от стереотипов. Для этого лишь потребуется время.

«Влияние новейших технологий на общество часто переоценивают в краткосрочном периоде и недооценивают в долгосрочном, — заявил на Advertising Week Europe-2018 Стивен Вулф Перейра (Steven Wolfe Pereira), главный маркетолог аналитической компании Quantcast. — Мы восхищаемся потенциалом ИИ, но на деле область его применения пока очень ограничена».