Письмо второе. Может ли машина мыслить?
Опубликовано в журнале Урал, номер 11, 2013
Впервые вопрос о способности «машины мыслить» именно в этой форме был задан Аланом Тьюрингом в его знаменитой статье «Вычислительные машины и разум»1: «Canmachinesthink?» Эта небольшая философская работа великого английского математика, написанная на самой заре компьютерной эры — в 1950 году, сохраняет актуальность и через много десятилетий. Вопрос, заданный Тьюрингом, по-прежнему волнует жителей Земли: и кто-то думает о мыслящей машине с восторгом и надеждой, а кто-то — с тревогой.
Тьюринг полагал, что машина, способная если не мыслить, то убедительно демонстрировать мышление, будет создана в самом конце XX века. Я попробую в этих заметках бегло обрисовать, как обстоят дела сегодня.
Главная причина, почему люди надеются, что удастся создать мыслящую машину, по-видимому, в том, что человечеству нужен Другой для того, чтобы осознать себя, чтобы понять сам процесс понимания и мышления. Причина тревоги заключается практически в том же: а вдруг этот Другой окажется сильнее и умнее человека и причинит человечеству непоправимый вред.
Как бы то ни было, вопрос остается, а компьютеры тем временем развиваются с невероятной интенсивностью, и сравнивать те машины, о которых размышлял и с которыми работал Тьюринг, даже с тем скромным нетбуком, на котором я набираю этот текст, попросту нелепо, не говоря уже о крупнейших суперкомпьютерах и вычислительных платформах.
Но кое-что изменилось. Несколько спала острота обсуждения, присущая дискуссиям 50–60-х. Если компьютер (и несравнимо более мощный, чем у Тьюринга) лежит в кармане едва ли не у каждого жителя Земли (а любой, даже простенький мобильник — это компьютер), обсуждать его возможность конкурировать с человеком как-то странно. Мы же не выясняем преимущества вилки по сравнению с руками человека.
Вероятно, большинству читателей прекрасно известно содержание статьи Тьюринга, но все-таки хочу к ней вернуться как к некоторой точке отсчета и начать, так сказать, от печки.
Тьюринг предложил тест, который он считал достаточным для демонстрации мышления машины, — это игра в имитацию. Играют трое: ведущий, человек и машина. Они общаются с помощью вопросов, которые задает ведущий, и ответов, которые дают машина и человек. Задача ведущего — по содержанию ответов угадать, кто из его собеседников человек, а что (кто?) машина. Задача человека максимально помогать ведущему, а задача машины — сыграть в человека. Если в 70% случаев машине удается убедить ведущего, что она — человек, такая машина называется мыслящей (по Тьюрингу)2.
Насколько можно судить, сегодня еще ни одна компьютерная программа не прошла тест Тьюринга. Во всяком случае, золотая медаль премии Лёбнера (Loebnerprize), которая должна быть вручена программе, прошедшей тест Тьюринга, еще не вручалась. Конкурс программ на приз Лёбнера проходит каждый год, но по условию премии золотая медаль и 100 тысяч долларов должны быть вручены ровно один раз, после этого конкурс будет закрыт.
Но это как раз мало о чем говорит, если бы задачей пройти тест Тьюринга озаботились не любители, а серьезные исследователи и корпорации, например IBM, тест был бы наверняка пройден.
Причина такого удивительного невнимания к, казалось бы, столь важной задаче была сформулирована американскими специалистами в области искусственного интеллекта Стюартом Расселом и Петером Норвигом: «Аэронавтика не ставит цель: «создание машин, которые настолько похожи на голубей, что даже сами голуби принимают их за своих»»3. То есть серьезные специалисты ставят перед собой серьезные практические задачи, а не занимаются имитацией человеческого поведения. Но Рассел и Норвиг отмечают, что такого рода имитация достаточно сложна и может быть интересна для искусства, игр или создания интерфейсов, но все это не имеет отношения к разумности машин.
Но как раз IBM заинтересовалась подобной «игрушечной» проблемой и создала компьютер, получивший имя Watson в честь одного из первых директоров IBM Томаса Ватсона (ThomasJohnWatson, Sr.). Хотя Watson и не имеет прямого отношения к тесту Тьюринга, он решал сходную задачу — играл с людьми в другую игру: телевизионную викторину Jeopardy! («Рискуй!»). Аналог этой игры хорошо знаком российским телезрителям — по лицензии Jeopardy! уже много лет снимается телепрограмма «Своя игра». Она воспроизводит Jeopardy! очень близко к оригиналу.
На создание Watson’a инженеров IBM вдохновил другой успешный проект — компьютер DeepBlue, одержавший в 1997 году победу над чемпионом мира по шахматам Гарри Каспаровым.
Watson — один из самых мощных суперкомпьютеров в мире (94 место в списке TOP-500). Он представляет собой кластер из 90 серверов IBM Power750 (суммарно 2880 процессоров POWER7) с 16 терабайтами оперативной памяти. Причем вся необходимая информация хранится как раз в оперативной памяти — диски оказались слишком медленными. Кластер реализует мощную систему параллельных вычислений, то есть поиск и анализ данных выполняется одновременно многими подсистемами4. Watson способен обрабатывать 500 гигабайт информации в секунду (примерно миллион книг). Специально для игры было разработано программное обеспечение, которое позволяет компьютеру не только анализировать вопросы на естественном языке, но и учиться на ошибках. Стоимость компьютера оценивается в 3 миллиона долларов.
Прежде чем Watson бросил вызов сильнейшим игрокам в Jeopardy!, в него был загружен огромный объем информации (вся Wikipedia, в частности). Проект активно развивался с 2004 по 2011 год, и только в 2011 году состоялась игра между Watson’ом и двумя самыми знаменитыми игроками Jeopardy!, одержавшими по многу десятков побед. Чтобы подравнять шансы игроков, Watson во время игры мог пользоваться только собственной базой и не имел выхода в Интернет.
Watson победил и получил суперприз — 1 миллион долларов, которые IBM перечислила на счета благотворительных организаций.
Пожалуй, самым интересным в этом соревновании были не правильные ответы, которые Watson выдавал с частотой пулемета (но иногда он все-таки задумывался, и игроки-люди выглядели на его фоне весьма достойными конкурентами), а те ошибки, которые он допускал. Иногда ошибки были понятными. Например, Watson не слишком хорошо ориентировался в сокращениях, которые встречались в вопросах: он не понял, что «20’s» — это 1920-е годы. Но один его ответ поставил в тупик и разработчиков, и игроков, и публику. Вопрос относится к теме «US CITIES» («Города США»). И звучал он так (в Jeopardy! вопросы звучат как ответы, а ответы игроки формулируют в виде вопросов): «ItslargestairportwasnamedforaWorldWar II hero; itssecondlargest, foraWorldWar II battle» («Его крупнейший аэропорт назван в честь героя Второй мировой войны, его второй аэропорт — в честь сражения во Второй мировой войне»). Оба игрока-человека дали ответ сразу и правильный — Чикаго. А вот Watson всех крепко озадачил: он ответил — Торонто. Не надо знать никаких деталей, чтобы понять, что ответ неверный, — Торонто находится в Канаде, и к теме «Города США» он отношения не имеет.
Крупнейший аэропорт Чикаго назван в честь героя Второй мировой войны Эдварда О’Хара (EdwardO’Hare) — военно-морского летчика, удостоенного высших наград и погибшего в 1943 году. А второй чикагский аэропорт — в честь одного из крупнейших морских сражений Второй мировой войны между американским и японским флотом при атолле Мидвэй (Midway). То есть ответ совершенно однозначный. Ответ «Торонто» не подходит не только потому, что это канадский город, но и потому, что названия его аэропортов не вполне удовлетворяют условиям — главный аэропорт назван в честь Лестера Пирсона (Lester B. Pearson), который участвовал и в Первой, и во Второй мировых войнах, но второй аэропорт назван в честь Билли Бишопа (BillyBishop) — военного летчика, а не сражения. Watson и здесь напутал. Но то, что он ошибся, говорит о том, что он действительно не знал ответа и его искал, процеживая море информации и выдвигая гипотезы.
В Америке есть десяток городков с названием Торонто. Высокочастотными цитатами, в которых встречается слово «Торонто», являются названия спортивных команд из Торонто — бейсбольной и хоккейной, а они как раз играют в американских лигах. Название темы — «US CITIES» — не входит в сам вопрос, и Watson не обратил на него должного внимания. А поскольку накачивали в него информацию в основном по американским источникам, Торонто и стал в представлении Watson’а американским городом. Но Watson колебался между ответами «Торонто» и «Чикаго»: согласно построенным гипотезам — 14%-ная вероятность ответа «Торонто» и 11%-ная — «Чикаго», остальные варианты имели пренебрежимо низкую вероятность.
Ошибка Watson‘a напомнила мне забавный случай. В начале 90-х моему коллеге случилось звонить в Америку по служебным делам телефонной компании, где мы тогда работали. Его вопросы были связаны с программным обеспечением. В процессе разговора понадобилось представиться и сказать, откуда он звонит. Он сказал, что говорит из Москвы, и девушка на другом конце провода переспросила:
— Moscow, Idaho?
В этом вопросе нет ничего удивительного
— в то время звонки из России были в Америке, видимо, не столь частыми, а в США
чуть не два десятка городков и деревень носят название Moscow
(даже больше, чем с названием «Торонто»). К тому же Moscow,
Idaho, городок хоть и небольшой, но там находится
крупный университет, и компьютерные вопросы как бы говорили, что мой коллега
как раз и звонит из «московского» кампуса. Онуточнил.
— No,
—
— Oh!
Mike, Oscar, Simon, Christian,
Oscar, William.
—
— Yes! Yes!
— Excuse me, I don’t know. (Извините, я не знаю.)
В конце концов коллеге все-таки удалось убедить заокеанскую собеседницу, что в России тоже есть город с таким названием.
Человек живет в пространстве информации, которая определенным образом структурирована. Чем информация важнее, востребованнее, тем она как бы «ближе» лежит, и при поиске (а мозг тоже реализует поиск, мы, правда, плохо себе представляем, как именно он это делает) информация выдается тоже по убыванию релевантности, как в Google или Яндексе, и в первых строчках «поисковой выдачи» у девушки сразу всплыл ответ: Moscow, Idaho. Moscow, Russia в ее милой головке, вероятно, не было вовсе. Но ведь и коллеге тоже в голову не пришло, что кто-то может не знать, что в России есть город Москва, да и про Moscow, Idaho он услышал впервые.
И Watson, и телефонная девушка находились в системе, так сказать, америкоцентричной, потому и допустили ошибки. Watson ошибся как-то трогательно по-человечески (этим-то он и напомнил мне американку, не особо знакомую с географией).
В отличие от шахматной машины DeepBlue, которая ничего, кроме игры в шахматы, не умела и после матча была отправлена в музей, жизнь Watson’а его победой в телевизионной игре только началась: его главное достоинство — способность учиться — оказалось крайне полезным. Возможность общения на естественном языке, уникальные способности поиска информации и построения гипотез оказались востребованы. Он продолжал развиваться. В январе 2013 года версия машины была установлена в Ренселлеровском Политехническим Институте (RensselaerPolytechnicInstitute). А в феврале 2013 года Watson и специально разработанная система медицинской диагностики были приобретены Мемориальным Слоун-Кеттерингским Онкологическим Центром (MemorialSloan-KetteringCancerCente). И теперь Watson работает доктором Хаусом — помогает врачам диагностировать, исследовать и лечить рак легких. Есть предложения использовать Watson в патентном поиске и много других идей.
После победы в Jeopardy! Watson стал настоящей звездой, и в связи с этим разговоры о мыслящей машине снова вышли на первые полосы: неужели мы дождались? Вот она, мыслящая машина.
На это откликнулись не только любители сенсаций, но и философы, которые уже давно обсуждают искусственный разум, продолжая разговор, начатый Тьюрингом.
Джон Сёрль опубликовал статью «Watson не знает, что он победил в Jeopardy!»5, в которой философ утверждает, что Watson всего лишь манипулирует символами, но при этом ничего не понимает.
Аргументы, приводимые Сёрлем, в общих чертах восходят к его работе, опубликованной в 1980 году: «Сознание, мозг и программы»6. Эта статья едва ли не столь же знаменита, как работа Тьюринга, с которой я начал эти заметки. В ней Сёрль привел мысленный эксперимент, получивший название «Китайская комната». Коротко говоря, эксперимент выглядит так. Представим себе, что в закрытой комнате находится человек, владеющий английским языком, но не знающий китайского. У него есть неограниченный набор иероглифов и подробная инструкция по китайской грамматике — то есть правила корректного составления высказываний. Согласно тесту Тьюринга, человек получает вопросы из соседней комнаты и должен на них ответить. Он не понимает вопросов, но, ориентируясь по их структуре (синтаксису), он может подобрать иероглифы и составить из них грамматически правильно построенные ответы. Если инструкции по грамматике достаточно полные, на выходе могут получиться вполне разумные высказывания. Тот, кто задает вопросы, может сделать вывод, что человек, находящийся в комнате, неплохо знает китайский. Но ведь он же ни слова не понимает! Как утверждает Сёрль, отсюда сразу следует, что, во-первых, тест Тьюринга — это не тест на разумность, а только на способность вести себя по-человечески, а во-вторых, что компьютер, который манипулирует символами, то есть выполняет команды по преобразованию входных данных в выходные, не может обладать разумом даже в принципе. Сами по себе информационные процессы являются не объектами природы, а только их формальным отражением. Сколько бы мы ни моделировали дождь, или огонь, или понимание, нам ни холодно, ни жарко не станет. А само понимание заключается в головах людей, которые пишут программы, а вовсе не в компьютерных процессорах и программах.
Надо сказать, что аргументы Сёрля произвели в свое время сильное впечатление. Но, повторенные тридцать лет спустя, они уже не показались столь же неопровержимыми. И связано это в первую очередь с исследованием ДНК — сама по себе двойная спираль — это в первую очередь хранилище данных и программ, а ведь не так уж важно, что является носителем информации, аминокислоты или кремневые чипы: нейробиология смыкается с программированием и электроникой, и это объединение происходит именно на базе моделирования информационных процессов.
В самых передовых проектах ученые отказываются от традиционной компьютерной архитектуры, описанной фон Нейманом, и экспериментируют с так называемыми нейрочипами, которые прямо реализуют логику нейронных сетей человеческого мозга. И разница заключается в том, что «выращенные» и «воспитанные» таким образом машины будут по существу уникальными, каждая на свой лад в зависимости от воспитания и внешней среды. Стив Лор в статье «Создание искусственного интеллекта основано на реальных вещах»7 описал проект, финансируемый Пентагоном, в котором участвуют IBM и четыре американских университета. В проект уже вложен 21 миллион долларов, а планируется вложить 41 миллион. И это только один из многих подобных проектов. Европейский проект HumanBrainProject планирует привлечь 1190 миллионов евро для создания системы, объединяющей усилия нейробиологов и инженеров для исследования мозга и создания нейрокомпьютера.
Но главное, у нас, кажется, нет альтернативы: мозг уникален по своей энергоэффективности. Так, мощность Watson‘a 85 000 ватт, а мозга человека — 20–30. Мозг несравнимо эффективнее упаковывает информацию и работает с ней. Если мы хотим продолжать наращивать компьютерные мощности (а современные кремниевые чипы близки к физическому пределу) — придется «включить мозги».
Психолог ХовардРахлин в своей статье8, посвященной победе Watson‘а, сосредоточил свое внимание на другой стороне проблемы — именно на человекоподобном поведении компьютера. Он высказал предположение: вести себя как человек — не значит ли это быть человеком? То есть, если опять вернуться к тесту Тьюринга, дело не в том, насколько хорошо-плохо отвечает компьютер на вопросы, но если он это делает как человек, именно в этом и есть его человечность, а значит, и разумность.
Рахлин предложил такой мысленный эксперимент. Представьте себе, что вы встречаете девушку своей мечты. Он прекрасна, умна, замечательна во всех прочих отношениях, и вы уверены, что она любит вас. Но после первого свидания она открывает вам, что она не человек, а человекоподобная машина. Будете ли вы разочарованы? Скорее всего, да. И скорее всего, вы с ней расстанетесь, как бы она ни была хороша. Но представьте себе другой вариант. Она не открылась вам после первого свидания, и вы прожили с ней прекрасную жизнь. Она ночью делала вид, что засыпает, она старела (конечно, только внешне), у вас родились двое прекрасных детей (наполовину люди, наполовину машины). И она открылась вам только в самом конце вашей жизни. Будете ли вы так же разочарованы, как в первом случае? Скорее всего, нет9. То есть главное достижение Watson’а даже не в том, что он победил, а том, что играл с людьми как человек. И люди соревновались с ним как с человеком (и, кстати, ведущий телеигры над ним постоянно подтрунивал, иногда довольно ядовито).
Вероятно, настолько похожие на человека машины, как в мысленном эксперименте Рахлина, появятся еще не скоро (хотя кто знает). Но некоторые серьезные эксперты полагают, что того или иного рода компьютерный разум, сопоставимый с разумом человека, а возможно, и его превосходящий, появится буквально через несколько лет.
Сооснователь компании GoogleЛарри Пейдж сказал в одном из интервью: «Искусственный интеллект — одна из самых моих заветных идей. Я думаю, что для его создания понадобится не так много хитрых алгоритмов, но очень большой объем вычислений. Это предположение основано на том, что программа человека — его ДНК, это всего 600 мегабайт сжатой информации, что гораздо меньше любой операционной системы — Linux или Windows. Но программа человека содержит в том числе и стартовую информацию для развития мозга… В нашей компании есть люди, которые сегодня пытаются построить искусственный интеллект… И я не думаю, что это настолько далеко, как многие полагают»10.
Обратите внимание на слова Пейджа: для искусственного интеллекта нужны не хитрые алгоритмы, но очень большие вычисления.
Что такое Google? В январе 2012 года, по некоторым оценкам, поисковик в своих дата-центрах использовал 1,8 миллиона серверов. Причем Google изначально проектировался не как множество дата-центров, а как единая вычислительная платформа. Эта платформа спроектирована для 10 миллионов серверов. Только за 2012 год полмиллиона новых серверов присоединилось к системе. Google представляет собой гигантский компьютер, который по своей вычислительной мощности превосходит любой другой суперкомпьютер, существующий в мире, и превосходит многократно.
Создатели сайта Artificial Brain пишут: «Возможно, что через несколько лет мощности платформы будет уже достаточно не только для демонстрации искусственного интеллекта, но для таких процессов, как самопознание»11.
На этом же сайте сообщается неподтвержденная информация о работе лаборатории Google X, в которой якобы уже создан робот, который выдерживает тест Тьюринга в 93% случаев, то есть для человека он практически неотличим от человека.
Сама компания Google работу лаборатории X не особенно афиширует, хотя и не прячет. Руководит работой лаборатории сооснователь компании Сергей Брин, среди ее проектов: Driverless — система, управляющая автомобилем без водителя, и обучаемая нейронная сеть, способная распознавать речь и видео.
Возможно, слухи о близком создании искусственного разума и не подтвердятся, но то, что каждый из нас, вводя в Google поисковый запрос, вероятно, участвует в процессе обучения этого разума, впечатляет и в кого-то вселяет надежду, а в кого-то — тревогу.
Владимир ГУБАЙЛОВСКИЙ
________________________
1 Turing, A.M.Computingmachineryandintelligence. — «Mind» 1950, 59, pp. 433–460. Цит. по http://loebner.net/Prizef/TuringArticle.html. Русский перевод: Тьюринг А. Может ли машина мыслить? С приложением статьи Дж. фон Неймана «Общая и логическая теория автоматов». Перевод и примечания Ю. В. Данилова. М., ГИФМЛ, 1960. Цит. по http://www.gumer.info/bibliotek_Buks/Science/tyuring/mog_mash.php#22
2 Замечательную иллюстрацию теста Тьюринга создал режиссер Семен Райтбурт, снявший фильм «Кто за стеной?» (Центрнаучфильм, 1977). Я впервые увидел фильм в конце 70-х, пересмотрел, пока писал эти заметки, — и не разочаровался. Герои фильма обсуждают проблему искусственного интеллекта, буквально воспроизводя размышления самого Тьюринга. Фильм доступен на Youtube.
3 Russell, Stuart J. Norvig, Peter. ArtificialIntelligence:
A ModernApproach (2nd ed.),
4 Watsonthesmartestmachineonearth? ComputerScienceandElectricalEngineeringDepartment,
UMBC, 2011-02-10, http://www.csee.umbc.edu/2011/02/is-watson-the-smartest-machine-on-earth/
Другие важные ссылки приведены в Wikipedia в статье /Watson_(computer)
http://en.wikipedia.org/wiki/Watson_%28computer%29
5 SearleJohn.WatsonDoesn’tKnowItWonon ‘Jeopardy!’ — «WallStreetJournal».
(2011-02-23).
6 SearleJohn. Minds, BrainsandPrograms. — «TheBehavioralandBrainSciences»,
1980, № 3, pp. 417–424. CambridgeUniversityPress.
7LohrSteve. Creating AI basedontherealthing. — «TheNewYorkTimes»,
dec 05,
2011.http://www.nytimes.com/2011/12/06/science/creating-artificial-intelligence-based-on-the-real-thing.html?_r=1
8 RachlinHoward. MakingIBM’sComputer,
Watson, Human. — «TheBehaviorAnalyst», 2012, Spring; 35(1), pp. 1–16.
http://www.ncbi.nlm.nih.gov/pmc/articles/PMC3359845/
9 В романе Виктора Пелевина «S.N.U.F.F.» (М., «Эксмо», 2011) убедительно описана похожая история. Герой романа приобретает дорогую компьютерную куклу для удовольствий, но когда через много лет совместной жизни она его покидает, он понимает, что по-настоящему любил ее, и ему совершенно неважно, что она машина.
10 Портал научной информации ABC http://www.abc.net.au/radionational/programs/scienceshow/changing-the-world—larry-page/3394966
11 ArtificialBrains.
http://www.artificialbrains.com/google