Про искусственный интеллект мы знаем довольно много, но этих знаний нам не хватает, чтобы справиться с тревогой. Мы слышали, например, что он может нас превзойти, а потом спасти или уничтожить. Он нас пугает и нам помогает, и при этом у него мало общего с человеческим разумом. Что дает разумным людям повод порассуждать об ИИ с разных сторон в книге Джона Брокмана «Что мы думаем о машинах, которые думают».

«Что мы думаем о машинах, которые думают»

Это издание составлено из коротких, но крайне содержательных статей почти 190 ведущих ученых из Гарварда, Кембриджа и других лучших университетов мира. Сборник мнений о будущем цивилизации — возможно, уже и не совсем человеческой — отражает взгляды представителей главных атеистических и религиозных течений: вопрос об искусственном интеллекте (ИИ) — это еще и серьезная теологическая проблема.

Мы и себя почти не знаем

Быстрое развитие ИИ меняет наше представление о том, что такое разум. Например, как напоминает специалист по технологическому прогнозированию Пол Саффо, «японские исследователи продемонстрировали, что слизистая плесень может пройти по лабиринту, чтобы добраться до вкусного кусочка пищи, и когда ИИ еще глубже проникнет в нашу жизнь, мы обнаружим, что скромные цифровые сущности... несут в себе искру сознания».

Некоторые из авторов книги вполне убеждены, что в долгосрочной эволюционной перспективе у органического (то есть нашего) интеллекта нет будущего и мы с вами станем всего лишь переходной формой на пути к новой «машиноориентированной» культуре. И приводят в доказательство почти реально существующий суперкомпьютер, который уже может предложить своему создателю господство, например, на финансовом рынке.

Года четыре назад наступил поворотный момент в развитии ИИ: инвестиции в его разработку превысили несколько миллиардов долларов, и многим стало казаться, что апокалипсис и голливудский бунт машин вот-вот наступит.

Однако этого не произошло — и, скорее всего, не произойдет, полагает Стив Омохундро, соучредитель центра исследования комплексных систем в Иллинойском университете: «...[Люди] нашли способы ограничивать свои потребности и работать сообща, а в алгоритмы целеполагания ИИ надо включить общечеловеческие ценности, чтобы создать правовые и экономические рамки, стимулирующие правильное с нашей точки зрения поведение».

Речь идет о морали — вспомним три знаменитых закона робототехники Айзека Азимова. Только учтем, что «робот» Азимова и есть ИИ.

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
  2. Робот должен повиноваться всем приказам человека, кроме тех случаев, когда они противоречат Первому Закону.
  3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму законам.

«Машиноскептики», которых среди авторов сборника большинство, сомневаются в том, что у машин сможет появиться подлинно аналитическое мышление. «Вычислительные мощности... могут имитировать действия человека, его решения и даже эмоции (по сути, это просто техничное кукольное представление)... Машине никогда не достичь самосознания, подобного человеческому», — считает писатель и преподаватель Брюс Паркер.

И действительно, как можно рассуждать о возможности создания (или саморазвития) ИИ, если мы до сих пор и на сотую долю не разобрались с нашим собственным интеллектом и даже не можем дать четкого определения человеческому разуму? Некоторые вообще отрицают способность думать применительно к отдельному человеку, упирая на коллективность мышления. Тогда «умным машинам» уготовано будущее всего лишь связующего звена между людьми.

Люди все равно победят

Проблема ИИ тесно связана еще и с тем, что нам трудно дать определение понятия жизни и соответственно — искусственной жизни.

Обычно жизнь определяют как способность размножаться, получать энергию и информацию из окружающей среды, адаптироваться к ней; но в таком виде это определение прекрасно описывает и... компьютерные вирусы.

Первый такой вирус изобрел один из авторов этого сборника, физик и астроном Грегори Бенфорд. Он утверждает, что «изобретательность — действительно сложная часть разумности, к тому же совершенно непонятная даже у людей, — пока что не встречается у ИИ».

Но люди уже одержали победу над множеством врагов, мы — высшие хищники. Поэтому «я ИИ бояться не буду — у меня к нему есть несколько интересных вопросов». Другие авторы тоже не боятся бунта машин и соглашаются с мыслью, что «человек — это медленный, небрежный и гениальный мыслитель; машина — быстрый, точный и глупый».

Когда мы говорим об ИИ, то все время подразумеваем восхищение машиной, которая может превзойти нас именно своим интеллектом, а ведь существует и другой аспект ИИ, касающийся физического тела человека. Наши тела не настолько умны, чтобы собирать полную информацию обо всех своих жизненных показателях. Зато с помощью ИИ мы сможем овладеть невиданным ранее объемом информации о нас самих — и впервые в истории появится реальная возможность предупредить болезнь.

Так что интеллект — это еще далеко не все. Даже если бы случилось столкновение между человечеством и «умными машинами», люди победили бы — отчасти благодаря первобытным, во многом постыдным качествам, которые чаще связывают с нашей гибелью, чем со спасением, уверен психофизиолог Роберт Провайн:

«Хитрость, обман, мстительность, подозрительность и непредсказуемость собьют с толку менее гибкие и изобретательные сущности».

Тогда нужно ли вообще обсуждать появление думающих машин? «В предвидении будущего есть нечто старомодное, — пишет директор по международным проектам компании SAGE Зияд Марар. — Если сумбурность предсказаний об ИИ нам о чем-то и говорит, то точно не о том, что машина в скором времени сумеет эмулировать человеческий разум. Мы можем запросто добиться того же, рожая больше детей и давая им хорошее образование».