Управление системой «умный дом», вызов такси, заказ столика в ресторане, подбор персонала на вакантное место в фирме, организация командировок — все это сегодня отдается на откуп искусственному интеллекту. Чего нам стоит ждать от жизни с цифровыми помощниками?

Утро. Вы открываете глаза. «Умный» будильник подготовил вас к пробуждению. Играет аудиодорожка со звуками леса. Вы идете в ванную, встаете на «умные» весы. Система определяет соотношение жировой и мышечной массы, вашу потребность в жидкости и энергии. Отчет передается виртуальному помощнику, который подбирает утреннюю тренировку, меню на завтрак и рекомендации по активности.

Вы допили кофе, а помощник уже вызвал такси — конечно, беспилотное. Вы настроили режим «после отпуска». Наблюдая за вашим режимом, помощник предлагает щадящий график.

В пути помощник предлагает вам освежить в памяти тезисы для презентации, проверяет все факты, тональность речи и дикцию, ставит оценку.

Примерно так, если верить авторам книги «Будущее вычисленное», будет выглядеть наше обычное утро в 2030 году. Через 10-15 лет машинно-обучаемые интеллектуальные системы станут нашими альтер-эго — секретарями, советчиками, тренерами и даже конфидентами. Они, возможно, будут знать нас даже лучше, чем близкие родственники и друзья.

Такая картина еще лет десять назад была правдоподобной, но все же фантазией. Но зачатки многих подобных функций уже есть в современных устройствах. И разработчики двигаются в сторону того, чтобы встроить электронный мозг в максимум окружающих предметов и сделать общение с ними доступным для каждого.

Джинн из мобилки

4 октября 2011 года Apple представила новый смартфон с бета-версией Siri. Виртуальный джинн, поселившийся в небольшом плоском корпусе (даже слоган для новой разработки обыгрывал эту ассоциацию: «Ваше желание — ее закон»), был одновременно навигатором по функциям устройства и персональным секретарем. Он мог запланировать встречу, записать и отослать ответ на электронное письмо, сообщить погоду и выполнить поиск в интернете.

700 устройств

под управлением голосового помощника Alexa намерена создать компания Amazon в  ближайшем будущем (согласно планам от 2017 года)

И хотя в первом проекте (до того как стать собственностью Apple, Siri была независимым стартапом) функции помощника были шире, даже в таком виде он завораживал. Впервые массовому пользователю предложили интерфейс, способный общаться по-человечески. Но Сири казалась чем-то большим, чем просто комбинация поискового движка и чат-бота. У нее была личность. Она понимала отсылки к культурным явлениям, могла шутить и очень старалась быть непринужденной.

Конечно, эта непринужденность во многом была результатом умело сконструированной иллюзии. Список команд, которые могла распознать Сири, был ограничен, и взаимодействие с ней напоминало беседу с иностранцем, который выучил разговорник и по отдельным созвучиям старается угадать, что вы имели в виду.

Но даже эти возможности были результатом слаженной работы множества технологий и процессов — понимания естественного языка, машинного обучения, очевидного и вероятного рассуждения, онтологии и представления знаний, планирования.

Самое главное — Сири могла учиться. И она стремилась к этому. Общаясь с хозяином, она запоминала особенности его речи, паттерны использования программ, что он чаще всего ищет (и, вероятно, что ему интересно).

Учились и разработчики: вслед за Apple своими помощниками обзавелись Google, Amazon и Microsoft. Возник полноценный рынок, где каждый борется за то, чтобы угадать мысли пользователя, облегчить ему жизнь и соблазнить образом будущего.

Игра в имитацию

Сегодня, по данным eMarketer, почти пятая часть американцев пользуется услугами электронного помощника ежемесячно. Чаще всего, согласно опросам PwC, у «джинна из мобилки» спрашивают погоду и новости, просят поставить музыку, найти что-то в интернете (больше 30% делают это ежедневно). Чуть меньше тех, кто поручает ассистенту разбудить себя в указанное время, рассказать о пробках или включить кондиционер (10-20%). И только каждый десятый регулярно совершает покупки при помощи помощника.

Все эти действия можно выполнить и самостоятельно. Нередко это получается быстрее и проще. Когда приходится раз за разом втолковывать непонятливому роботу, чего именно мы от него хотим, это раздражает и отбивает желание пробовать дальше.

«Мне проще сделать самому» — одна из причин, почему многие не начинают использовать виртуального ассистента после первой пробы. С другой стороны, когда-то написать письмо от руки было проще, чем возиться с машинкой.

Решение впустить в свою жизнь новую технологию во многом определяется личным пользовательским опытом. Иногда для этого достаточно, чтобы что-то в новой «игрушке» срезонировало с нашими ценностями, показалось знакомым и родным.

Журналистка Черлин Лоу так рассказывает о начале своей «интрижки» с Google Assistant (до этого она постоянно пользовалась Siri): «Он заставил меня смеяться над глупыми шуточками, и мы сыграли милую игру в приложении чата Allo под названием „Emoji Movie“».

Лоу описывает нешуточную борьбу, которая происходила в ее сердце. Каждая из сторон то вырывалась вперед, то снова оказывалась позади. Со стороны это действительно напоминало метания между двумя ухажерами. «Разговоры с Ассистентом никогда не отличались глубиной, но всегда были информативными, — пишет Лоу. — С другой стороны, мне не хватало личности Сири, ее легкой нахальности. Когда однажды я спросила, который час, она выдала: „Уже 11:43 вечера. Что это мы не спим?“ Я отрезала: „Ты мне не мать!“, но ее ответ показался мне трогательным, особенно по сравнению с прямотой Ассистента: „Время — 23:43“».


«Дать пользователю то, чего он хочет, — это в том числе значит понять, что его желания могут быть гибкими, — говорит один из создателей Сири Даг Киттлаус. — Разработчики не должны ограничиваться только деловыми функциями — например, только работой с почтой или органайзером. Они должны учитывать эмоциональную сторону общения, стараться помочь в любой ситуации — допустим, если случилась беда или клиент в подавленном состоянии».

Последние обновления Сири учитывают это: например, в ответ на слова «меня изнасиловали» или «у меня депрессия» она может предложить контакты ближайшего центра психологической помощи.

Ничего личного, просто бизнес

Другая область, где машины идут навстречу людям, — корпоративная и бизнес-среда. Здесь используются примерно те же технологии, что и в персональных помощниках, но они работают в интересах не одного человека, а компании. И, в отличие от конкретного человека, для компании экономия ресурсов и ускорение процессов критичны для выживания на рынке. Поэтому умные помощники, которые берут на себя рутинную работу, приходятся как нельзя кстати.

«В делопроизводстве любой компании всегда много действий, которые укладываются в четкие сценарии, — объясняет IT-консультант Игорь Пуля. — Допустим, вам нужно забронировать переговорную, подать заявку на ремонт техники или оформить командировку. Это требует согласованной работы секретаря, финансового отдела, техподдержки, службы корпоративного транспорта. Контакты между ними можно поручить программе».

Робот при этом будет имитировать действия сотрудника: запрашивать данные, отсылать их по нужным адресам, собирать ответы, формировать из них новые документы и передавать их на принтер.

Есть и задачи посложнее. Например, в компании КРОК есть собственный бот, который выполняет роль ассистента HR-директора. По состоянию на декабрь 2017 года он может выполнять 9 функций кадрового подразделения: организовывать мероприятия, контролировать оплату счетов и кадровых «долгов», управлять корпоративным обучением, извещать сотрудников о новостях, отвечать на их запросы, искать подходящие кандидатуры на вакантные должности, проводить инструктаж новых сотрудников и сопровождать их в процессе перемещения внутри компании.

Вот как выглядит процесс организации обучающего мероприятия, которым занимается корпоративный бот (как это описывают специалисты КРОК):

«Девушки загружают список участников (а бывает и 200 человек) в BPM-систему, а робот за 5–6 минут делает следующее:

  1. Заказывает пропуска на всех;

  2. Верстает бейджи по шаблону и готовит сертификаты;

  3. Считает кейтеринг (еду, кофе-брейк) на всех у известных поставщиков. В текущей реализации — у одного, потому что у нас он технически один (выбор делается до бота);

  4. Формирует раздатку и отправляет на печать или секретарям, предупреждает всех, кому это может быть нужно, например: охрану, инженеров зала обучения, звукооператоров и так далее;

  5. Собирает встречу и отправляет всем участникам приглашения, карту до места проведения, контакты ответственного и программу мероприятия;

  6. Напоминает всем за сутки».

Одна из самых трудных задач, по мнению специалистов, — запрограммировать у робота чуткость к ответам и «понимание», когда что-то идет не так.

К примеру, интерфейсный бот может проверить логику ввода данных и выявить противоречия, но определять разумность и целесообразность действий на человеческом уровне он не способен.

Поэтому возникает и другая задача, которая касается разграничения ответственности: что именно можно автоматизировать и передать машине, какие действия должны остаться за человеком и как машина и человек должны договариваться в процессе.

Борьба за влияние

В фильме «Превосходство» герой Джонни Деппа, гениальный ученый, после гибели оживает в форме искусственного интеллекта, загруженного сначала в компьютер, а затем во Всемирную паутину. Получив безграничные возможности, он взламывает банки, переводит деньги на счета своей жены (или вдовы?), за считаные годы совершает прорывы в нескольких научных областях, а в довершение всего — подключает сотни людей к своей системе, получив доступ к их телам, разуму и воле.

Это один из «плохих» сценариев развития AGI — artificial general intelligence (искусственного интеллекта человеческого уровня). По мнению футурологов, к такому развитию событий в числе прочего может привести и неконтролируемая гонка машинных интеллектов, вызванная стремлением корпораций превзойти друг друга.

При таком раскладе чем больше устройств, на которых будет установлен сложный интеллектуальный продукт, тем больше у него влияния. И чем лучше он учится, тем меньше контроля над ним.

Именно таким видит идеального цифрового помощника будущего Даг Киттлаус. В мае 2016 года он и его команда представили Viv — платформу для создания ассистентов нового поколения. В отличие от Сири, Viv может опираться на информацию, полученную из предыдущих разговоров, распознавать намерения пользователя и даже создавать команды для самой себя.

В программе-максимум, которую сформулировал Киттлаус — создать машинный интеллект, который мог бы сопровождать нас везде: дома, в машине, в городе. Мир с Viv, по его словам, это «мир, где вы сможете говорить с чем-либо, с любым девайсом благодаря вашему цифровому помощнику, который сделает все что угодно».

Есть и более скромные разработки, цель которых: помощь в очень узких областях. Например, американский стартап Fee Fighter от имени клиента общается с банковскими чатботами и «убеждает» их списать долг, штраф или пени. Сейчас у стартапа уже 5000 активных пользователей. А вот идея из совсем другой области: бот-собеседник Replika настроен так, чтобы говорить по душам. Replika запоминает то, что ей говорят, старается подстраивать вопросы под личность пользователя и использует прошлые беседы для поиска новых тем.

Эффект Элизы

Replica2.png

Если прогнозы авторов «Будущего вычисленного» верны, нас ожидает жизнь бок о бок с новым разумом, который создаем мы сами. А это значит, что мы все больше будем вовлекать его в свои проблемы, будем ждать от него все большего.

Уже сейчас многие часами болтают с Алисой (виртуальным помощником Яндекса) и делятся с Сири личными переживаниями, обращаются за поддержкой и пониманием. И расстраиваются, когда не получают их.

В 1966 году профессор Массачусетского технологического института Джозеф Вейзенбаум создал Элизу — одного из первых виртуальных собеседников. Элиза имитировала работу психотерапевта по методу Карла Роджерса: анализировала реплики человека, который он вводил, искала в своей базе подходящие варианты. Хотя зависимость разговора от скрипта была явной, многих увлекала фантазия о том, что кто-то «там» слышит их.

«Моя секретарша, которая точно знала, что Элиза — это просто программа, как-то начала с ней разговаривать, — писал Вейзенбаум. — Несколько реплик спустя она попросила меня выйти и оставить их с Элизой наедине».

«Эффект Элизы» — яркий пример того, как легко мы выстраиваем эмоциональную связь с неодушевленными предметами при малейших проблесках взаимности. Постоянное присутствие умных помощников поставит нас перед множеством вызовов — как можно и нельзя говорить с машиной (особенно в присутствии детей), какую информацию о себе стоит ей доверять и какую сколько контроля за своей над своей жизнью передавать ей.

В свою очередь, создание экосистемы умных машин будет означать и появление новых специалистов по работе с ними на разных уровнях — киберэтиков и киберфилософов, инженеров-дизайнеров нейропластики (специалистов по настройке нейросетей под потребности и задачи конкретного человека), инструкторов и тренеров личных помощников, архитекторов роботизированного сопровождения организаций. В любом случае, присмотреться к новым братьям по разуму стоит уже сейчас.

Три вопроса киберпсихологу Наталье Богачевой

Грозит ли нам зависимость от голосовых помощников?

Не в большей степени, чем зависимость от всех прочих технологий, автомобилей, интернета в целом — если они покажут себя достаточно удобными, они войдут в повседневный обиход, как и электронная почта, микроволновки и электрочайники, но вряд ли этого следует опасаться.


Станем ли мы совершать меньше усилий для поиска и анализа информации, если ассистент будет делать это за нас?

Тратить меньше усилий на поиск информации — это как раз одна из задач цифровых помощников, и это позитивная задача. Другой вопрос, как дела будут обстоять с анализом и принятием решений по найденной информации. В самом общем виде технологии не делают нас глупее, напротив, многие исследования показывают развивающий эффект. Но остается вопрос с мотивацией (зачем решать ту или иную задачу, если можно найти готовое решение?) и доверием технологиям (стоит ли проверять информацию, которую дает технология?).

В последнее время я все чаще задумываюсь о том, насколько все-таки безвредна «экстериоризация» памяти — в частности, мои студенты зачастую предпочитают не запоминать какие-то факты просто потому, что их всегда можно посмотреть в интернете, однако в конечном итоге без определенного объема знаний могу пострадать ассоциативные связи и функции анализа и синтеза — их просто не на чем будет образовывать.

С другой стороны, чем проще нам получать знания, тем чаще, наверное, мы будем это делать — в энциклопедию лезть может быть лень, а спросить Алису или Сири — почему бы нет?


Какими вырастут дети в новом мире, когда в каждом доме будут «жить» цифровые помощники?

Голосовые помощники обладают очень большим потенциалом развития и обучения детей разных возрастов, однако это может вести к определенным поведенческим особенностям в том, что касается общения со взрослыми и сверстниками. Поэтому, возможно, стоит задуматься о том, как адаптировать голосовые помощники именно под детскую аудиторию.

В целом, даже если в некоторых ограниченных ситуациях цифровые технологии и могут выполнять роль взрослого, это не должно распространяться на всю жизнь ребенка в целом.

Иными словами, телевизор, компьютер, Алиса не могут быть «няньками» на постоянной основе, иначе негативных последствий не избежать.