В поисках разума. Искусственного

История развития направления под названием «искусственный интеллект» (ИИ) есть история преодоления одного из самых выдающихся заблуждений в науке — представления о том, что человеческий мозг функционирует по определенной системе правил, то есть алгоритмически, а следовательно, сколь бы не был сложным этот алгоритм, его можно все успешнее вычислять по мере развития технических средств.

Это заблуждение восходит еще к теориям великих рационалистов (Декарта, Лейбница), и оно оказалось настолько стойким, что его влиянию были подвержены лучшие умы XX века — Тьюринг, Колмогоров, Винер, Глушков. Все это несколько напоминает заносчивое лапласовское «дайте мне координаты и скорости всех частиц во Вселенной». Квантовая механика доказала, что Вселенная устроена гораздо сложнее, чем это следует из классических законов механики. Но история, как известно, ничему не учит, и ученые, в первой половине XX века только что пережившие (с большими трудностями) квантовую революцию в физике, в середине 50-х замахнулись на моделирование мыслительной деятельности с помощью электронных схем. Излишне говорить, что они на первых же порах столкнулись с такими проблемами, о существовании которых никто из них и не подозревал.

Как ни странно, но представители гуманитарных наук, изучавшие разные стороны мышления задолго до компьютерной революции, — философы, психологи, психиатры, физиологи — ровным счетом ничем помочь не смогли. Все эти науки есть науки описательные, а представление описательного — не поддающегося переводу на язык математики — знания для компьютера оказалось само по себе одной из главных и до сих пор не решенных задач нового направления.

Сам термин ИИ был предложен в 1956 году на семинаре с аналогичным названием в Дартсмутском колледже (США). В русском переводе термин не совсем отвечает содержанию понятия: «искусственный интеллект» несет некий мистическо-антропоморфный оттенок, которого в оригинальном английском «artificial intelligence» нет — значение слова «intelligence» ближе к «смышленость», «понятливость», нежели к «intellect» — «рассудок».

Но название — не главное. Важнейшей проблемой для исследователей на этом направлении является отсутствие ответа на вопрос: а что такое интеллект вообще? Любое определение есть неизбежная редукция интуитивного представления об интеллекте и тем самым сведение его к частным случаям — счету, способности к логическим умозаключениям, связной речи, доказательству теорем, распознаванию образов и т.п. Между тем настоящий интеллект включает в себя и то, и другое, и еще нечто третье — например, саму способность обсуждать эту проблему. Тем более не ясно, что же именно имеется в виду, когда речь заходит об интеллекте искусственном. Нужно ли воспроизводить мышление человека в целом? Или только отдельные, практически необходимые его стороны? Или вообще постараться сделать интеллект другой, отличный от человеческого, лишенный, по возможности, присущих человеку недостатков? А если последнее, то какой он должен быть и что именно считать недостатками? Вопросы множились, и ответов не найдено до сих пор.

Впрочем, последнее утверждение не совсем верно. Если не замахиваться на некий «всеобщий интеллект», а просто решать конкретную практическую задачу, то результаты налицо: вот некоторые практические направления деятельности, которые можно отнести к области ИИ (в скобках — субъективная авторская оценка достигнутых успехов):

- распознавание речи (на три с минусом);

- машинный перевод (на два с плюсом);

- распознавание печатного текста (на пять с минусом);

- распознавание рукописного текста (три с минусом);

- распознавание типовых изображений (биометрия, факел взлетающей ракеты и т.п. — твердое четыре);

- распознавание произвольных изображений (проблема «отличить кошку от собаки» — кол!);

- игра в шахматы (почти твердая пятерка);

- производство логических выводов (например, доказательство теорем — четверка);

- экспертные системы и базы знаний (тройка с плюсом);

- «разумное» поведение роботов (тройка, постепенно переходящая в четверку);

- поисковые системы на естественном языке (три с минусом);

и еще множество подобных частных проблем, каждая из которых решается с различной степенью успешности, но чаще всего обособленно от других. Единого общего подхода, как ни старались, придумать не удалось.

А какой наблюдался энтузиазм! Замечательный советский ученый, один из тех, кто участвовал в реабилитации кибернетики и в создании первых советских вычислительных машин, Анатолий Иванович Китов, в 1956 году писал: «После того как составлен машинный словарь и разработана система четких правил для работы машины, составление самой программы машинного перевода, несмотря на ее чрезвычайную громоздкость (она содержит несколько тысяч команд), не представляет принципиальных трудностей». Да уж, несколько тысяч команд…

Вместе с тем нельзя недооценивать результаты усилий по разрешению всех этих проблем. Во-первых, в некоторых областях практические успехи все же весьма значительны. Во-вторых, сама постановка проблемы вызвала к жизни взрывной рост исследований в области мышления, способствовала тенденции к сближению различных наук, привела к широкому и небесполезному распространению методов точных наук на гуманитарные дисциплины и имела еще много всяких положительных последствий.

Как же все это происходило?

Первым был, вероятно, Раймунд Луллий.

Универсальный разум

Раймунд Луллий (Raimondus Lullius, 1232 — 1315) родился в городе Пальма на острове Майорка. В юности, которая прошла при дворе короля Хайме I Арагонского, он был поэтом, рыцарем и вел жизнь придворного повесы. Все переменилось в один день. Согласно легенде, в одно из воскресений 1250 года он увидел на улице Пальмы прекрасную Амброзию ди Кастелло родом из Генуи. Ее красота и изысканность так поразили Луллия, что он, преследуя ее, прямо на коне въехал в церковь, куда она направилась. В ответ на страстные признания в неземной страсти со стороны Раймунда Амброзия, по совету мужа, отвечала, что такое сверхъестественное чувство требует сверхъестественных же жертв. Она предложила молодому рыцарю ни много ни мало, как изобрести эликсир бессмертия, и в таком случае обещала ответить на его чувства. Легенда заканчивается красиво: семидесятилетний старик является к столь же постаревшей красавице и протягивает ей чашу с изобретенным наконец эликсиром, но она показывает ему грудь, изъеденную раковой опухолью, и отказывается. Она умирает, а Луллий, испробовавший своего эликсира, обречен на вечную жизнь.

Факты, однако, заключаются в том, что Луллий действительно ушел из семьи, вступил в орден францисканцев, преуспел в алхимии (переоткрыв в том числе алкоголь, который считал чем-то вроде того самого эликсира бессмертия), написал около трехсот сочинений по богословию, логике, философии, считается одним из первых арабистов, увлекался астрологией, учением каббалы и нумерологией. Некоторые золотые монеты тех времен так и называют — Raymundini: согласно преданию, они изготовлены из полученного Луллием путем трансмутации золота по заданию английского короля Эдуарда III. Кроме этого, он был одним из яростных проповедников христианства, основателем многих францисканских колледжей и почитаемым деятелем церкви. С целью опровержения ислама он пропагандировал изучение арабского языка, и благодаря ему в Европе стали известны многие классические работы не только арабских, но и греческих ученых — через арабские изложения. По одной из версий, он погиб в 1315 году в Тунисе во время миссионерского путешествия. Его идеи, как и легенды о нем, пережили многие века — Луллий стал любимым историческим персонажем современных астрологов и алхимиков (есть и такие!), но и серьезные философы и теологи его не забывают.

Современник Фомы Аквинского, Раймунд Луллий пытался основать абсолютную и универсальную философию, основанную на представлении о познаваемости Вселенной, — он был одним из первых рационалистов, пытавшихся применить формальную логику к познанию мира (которое в его время в значительной степени отождествлялось с теологическими изысканиями). Луллий был уверен в том, что в каждой области знаний можно выделить несколько основных понятий, из которых могут быть дедуктивно образованы все остальные, подобно тому, как все геометрические теоремы выводятся из ограниченного числа аксиом. Комбинируя различным способом эти понятия, можно добыть все мыслимые знания о мире. В главном своем сочинении под названием «Великое искусство» («Ars Magna»), опубликованном уже много после его смерти в 1480 году, он описывает приспособление, состоящее из системы концентрических вращающихся кругов. Круги были поделены на секторы, которые раскрашивались разными цветами и обозначались буквами, соответствующими тому или иному понятию. Правила вращения, согласно которым это происходило, давали, по мнению Луллия, возможность исчерпать истину обо всем во Вселенной. Луллий считал, что с помощью его машины можно даже доказать бытие Бога. Практически сам Луллий и его ученики пользовались этой машиной для составления гороскопов. Безусловно, это была первая в истории практическая попытка создания искусственного интеллекта.

Тест Тьюринга

У Луллия было много последователей — к числу его наиболее известных почитателей относится Джордано Бруно, а также великий Лейбниц, пытавшийся создать некий «универсальный язык». Однако первым, кто вывел проблему ИИ (она еще не имела этого названия) из области умозрительных рассуждений и перевел ее в плоскость практической науки, предложив критерий, по которому можно сделать заключение о «разумности» некоего объекта, был выдающийся английский ученый Алан Тьюринг. В 1950 году в журнале «Mind» была опубликована его работа под названием «Вычислительные машины и интеллект», которая затем неоднократно переиздавалась в разных странах, в том числе и в СССР (1960), под названием «Может ли машина мыслить?» В этой работе Тьюринг подробно разбирает известные в его время возражения против концепции искусственного разума. Самое глубокое возражение было сформулировано еще за сто с лишним лет до Тьюринга знаменитой Адой Лавлейс, первой программисткой в истории. Еще раз (см. «ЗС», 1999, № 4) процитируем ее саму, несколько расширив цитату по сравнению с приводимой у Тьюринга: «Аналитическая машина не претендует на то, чтобы создавать что-то действительно новое. Машина может выполнить все то, что мы умеем ей предписать. Она мо-жет следовать анализу, но она не может предугадать какие-либо аналитические зависимости или истины. Функции машины заключаются в том, чтобы помочь нам получить то, с чем мы уже знакомы». Автору этих строк представляется, что Тьюринг не справился с задачей опровержения этих тезисов, но об этом ниже.

Тьюринг предложил тест, известный по множеству публикаций. Как и результаты его проведения.

Тест Тьюринга получил несколько неожиданное развитие уже в наши дни. В конце восьмидесятых годов Хью Лебнер, довольно эксцентричный нью-йоркский предприниматель, человек широких взглядов и разносторонних интересов, заручившись поддержкой Кембриджского центра исследований поведения, приступил к организации конкурса программ на интеллектуальность на основе теста Тьюринга. Образовался комитет конкурса, в который вошли серьезные ученые, в том числе Джозеф Вейценбаум, автор знаменитой программы ЭЛИЗА. 8 ноября 1991 года в Бостонском компьютерном музее был проведен первый в истории тест Тьюринга. Событие широко освещалось в прессе, комментарий для собравшейся публики давал А. Дьюдни, всемирно известный «гуру» в области развлекательной математики. С тех пор такие состязания (конкурс Лебнера) проводятся ежегодно, и победитель должен получить золотую медаль Лебнера, а также большую премию Лебнера в размере 100 тысяч долларов. Этой высшей награды пока не удостоился никто, но бронзовая медаль и премия в 2 тысячи долларов вручаются каждый год. Например, Джозеф Вайнтрауб со своей программой PC Therapist выиграл первый, второй, третий и пятый конкурсы Лебнера и сделал неплохие деньги на распространении своих творений.

Штурмовые годы

Вскоре после признания искусственного интеллекта отдельной областью науки произошло разделение его на два направления: нейрокибернетика и «кибернетика черного ящика».

Нейрокибернетика ориентирована на программно-аппаратное моделирование структур, подобных структуре мозга. Зародыш ее содержится еще в той самой работе Тьюринга: он предлагал смоделировать мозг ребенка, а затем обучать полученную программу, потратив, если надо, на обучение столько времени, сколько мы тратим на воспитание настоящего ребенка. Усилия нейрокибернетики были сосредоточены на создании элементов, аналогичных нейронам, и их объединении в функционирующие системы, то есть в нейронные сети. Сегодня можно выделить два подхода к созданию нейросетей: аппаратный (создание специальных компьютеров, нейрочипов, плат расширения, наборов микросхем) и программный (сети создаются в памяти компьютера, всю работу выполняют его собственные процессоры). Нейронные сети сейчас широко применяются в некоторых задачах распознавания образов или, например, в области экономической аналитики.

Более продуктивным, чем непосредственное моделирование мозга, для практических нужд стал позитивистский подход «черного ящика» (тест Тьюринга — тоже пример такого подхода): не важно, как устроен мозг, важно, что именно мы имеем в результате. Существенный вклад в это направление внесли пионеры ИИ: Маккарти, Минский, Ньюэлл, Саймон, Шоу, Хант и др. К нему относятся такие широко известные методы, как метод лабиринтного поиска, метод эвристического программирования (который, в сущности, и позволяет шахматным программам обыгрывать чемпиона мира), экспертные системы. Важной вехой для этого направления стало создание языка программирования Prolog, разработанного американцем Робинсоном. Он был создан в 1973 году французом Альбером Кольмероэом, и в этом языке многие увидели новое будущее для ИИ. Еще раньше попытки такого рода предпринимались В.М. Глушковым при создании языка «Аналитик» для серии машин «Мир».

В конце 70-х в гонку включается Япония, объявив о начале проекта машин V поколения, основанных на знаниях. Проект был рассчитан на десять лет и объединял лучших молодых специалистов крупнейших японских компьютерных корпораций. В результате гора родила мышь — к началу 90-х они создали достаточно громоздкий и дорогой символьный процессор, программно реализующий прологоподобный язык, но мейнстрим развития компьютерных наук к тому времени ушел далеко в сторону. Главная неудача таких начинаний, очевидно, заключается все в том же теоретическом упущении: в сущности, Пролог всего лишь позволяет делать правильные логические выводы из известных посылок.

Тот ИИ, который получился в результате всех этих начинаний, все же ни в коем случае не есть настоящий «интеллект». Каспаров зря убивался после проигрыша Deep Blue в 1996 году — человек играет в шахматы совсем по-другому, чем машина (точнее, программа).

И все же — повторим — недооценивать полученные результаты нельзя. Сейчас в мире ведется гораздо больше коммерческих исследований в области ИИ, чем чисто научных, — это значит, что результаты достигнуты вполне значимые. Кроме перечисленных в начале статьи достижений, широко, например, разрекламировано сейчас новое направление под названием «knowledge management» — управление знаниями.

Невычислимость

Итак, компьютеры научились многому, но все эти достижения — не интеллект, даже если ему приклеить определение «искусственный».

Борис Стругацкий в интервью автору признавался, что составил вполне удачную программу составления — и, что немаловажно, — решения кроссвордов! Но вот в гораздо более простую в сравнении с шахматами и даже преферансом игру «го» компьютер научить играть практически невозможно, на более-менее приличном уровне, конечно. Потому что суть не в правилах, просто игра содержит некий «невычислимый», «неалгоритмизируемый» элемент, который невозможно выразить в двоичных кодах. Все это дело предвидел еще гений Льюиса Кэрролла, заставившего своих героев играть в крикет живыми гусями вместо клюшек. Вот в этом-то и суть проблемы.

Парадокс развития ИИ заключается в том, что само понятие «невычислимости» ввел все тот же Тьюринг еще в начале своей карьеры ученого.

С точки зрения теории компьютер никакой новой информации не создает (вернитесь к цитате из работы гениальной Ады Лавлейс, и вы, возможно, лучше поймете, о чем речь). Все, что компьютер умеет, — преобразовывать информацию из одной формы в другую. Именно из этого исходил Лейбниц со своим «универсальным языком», именно на этом построено представление о мозге как о компьютере. Тьюринг в своей эпохальной работе 1936 года (легшей в основу его диссертации) «О вычислимых числах с приложением к проблеме разрешимости», в которой впервые возникло понятие универсальной вычислительной машины («машины Тьюринга», синоним понятия алгоритма), подробно разбирал понятие «вычислимости», которое и является условием существования такой машины. Для любого «вычислимого» процесса такая машина может быть построена, и алгоритм процесса ее деятельности, как говорят математики, будет сходиться; практически это означает, что она когда-нибудь остановится и выдаст (однозначное!) решение. Для «невычислимых» процессов, однако, не факт, что машина не остановится или решения не существует, просто априорно это доказать с помощью одних только исходных предпосылок невозможно.

В Принстоне, где это все происходило, с начала 30-х годов уже работал фон Нейман, который, ознакомившись с работой Тьюринга, восхитился и предложил ему остаться для совместной работы в Америке, но Тьюринг оказался патриотом своей страны и в условиях начинавшейся войны в Европе предпочел вернуться в Англию. Все военные годы он проработал в суперзасекреченном ведомстве «Блечли-Парк» над расшифровкой кодов секретной переписки верхушки вермахта. Вершиной этой деятельности стал уникальный специализированный компьютер «Колоссус», намного опередивший свое время, но это уже совсем другая история.

Если вернуться к компьютерам, то проблема вычислимости или, что то же самое, существования соответствующей «машины Тьюринга» — это та же самая проблема «новизны», которую разбирала Ада Георгиевна Лавлейс в 1842 году. В сущности, спор идет о том, как определить понятие «новизны» в формулировках Лавлейс, и «новизна» в ее формулировках приводит нас к понятию «новой информации» в формулировках современных.

Нейронные сети и самообучающиеся программы — тоже не интеллект, хотя на первый взгляд они соответствуют понятиям Ады Лавлейс о «новизне»: действительно, ведь конечный вывод какой-нибудь программы экспертных оценок не был напрямую заложен в нее ее создателями. Но, тем не менее, эти разновидности компьютерных программ есть не что иное, как иллюстрация к попытке «возражения» Тьюринга, — действительно, дедуктивный вывод, хоть и однозначно следующий из посылок, бывает получить очень и очень непросто, и в этом деле компьютеры просто незаменимы. Собственно, получение подобных выводов, лежащее за пределами человеческих возможностей (выведение, скажем, всех точных решений некой сверхсложной системы уравнений или логический вывод из сотен тысяч посылок), и было первоначальным предназначением компьютеров.

Роджер Пенроуз

Пожалуй, самый серьезный шаг в области теоретического осмысления проблемы ИИ за все время, начиная с формулировки основных задач в работах Тьюринга и Хомского, был сделан ведущим современным физиком-теоретиком Роджером Пенроузом. В конце 80-х Роджер Пенроуз написал книгу «Новый ум короля», посвященную искусственному и естественному интеллекту, а спустя несколько лет — ее продолжение «Тени разума».

Признавая, что мышление есть «невычислимый», в смысле Тьюринга, процесс, Пенроуз подробно исследует вопрос: как все же можно научным методом исследовать такие процессы?

Изложить его подход в краткой статье крайне непросто. Начнем с того, что Пенроуз — образованный и эрудированный ученый — привлекает к доказательству своих положений буквально все области математики и физики, включая микромир и космологию. Интересно выделить один момент: Пенроуз сразу ставит, если можно так выразиться, «перпендикулярно» один вопрос, о котором вообще все современные ученые кажется, забыли: где существует математическая абстракция под названием «треугольник»? Еще Платон пытался ответить на этот вопрос, и ничего лучшего никто так и не предложил: он существует в некоем «платоновском мире идей». Материалисты, не смейтесь. Например, уже в наше время некий Мандельброт открыл (открыл, а не изобрел!) некое простое преобразование, названное фрактальным, которое позволяет строить фигуры бесконечной топологической сложности, детализация которых зависит только от мощности вашего компьютера, но теоретически не ограничена, причем интересно, что на каждом уровне (или через пару-другую) структуры повторяют друг друга, но только в общем — в частностях каждый уровень детализации уникален. Так где эти структуры (да и тот же треугольник, квадрат, параллелограмм) существуют? Ведь, правда, в жизни таких идеальных структур не встретишь? Но они где-то есть, если их открывают, а не изобретают?

Не-не, Пенроуз не средневековый схоласт и не религиозный деятель. Он вполне современный математик и физик, лауреат разных премий и пытается работать в рамках научной парадигмы. Но честность не дает ему пройти мимо многочисленных примеров невербальности мышления, в частности, и мышления научного. Открытие (то есть возникновение «новой информации» в наших терминах) практически всегда есть озарение, а не логический вывод, и Пенроуз приводит многочисленные примеры тому, начиная с французского математика Анри Пуанкаре и заканчивая наблюдениями над самим собой. Опирается он при этом и на размышления Тьюринга и его принстонского учителя Алонзо Черча.

Пенроуз осторожно утверждает, что существенную роль в таком неотъемлемом свойстве разума, как сознание, может играть некий квантовый процесс в так называемых микротрубочках нейронов мозга. Этот процесс влияет на сигналы, которыми обмениваются нейроны, внося ту самую «невычислимость». В рамках существующей квантовой теории описать этот процесс невозможно. Пенроуз считает, что создание теории таких явлений должно быть связано с таким же радикальным, концептуальным пересмотром основ физики, какого в свое время потребовало создание общей теории относительности. Таким образом, если подход Пенроуза верен, у направления под названием искусственный интеллект все еще впереди. Каким образом?

Квантовые компьютеры

Впервые идея о квантовых вычислениях была высказана советским математиком Ю.И. Маниным в 1980 году и стала активно обсуждаться после опубликования в 1982 году статьи Роберта Фейнмана. Действительно, состояния 0 и 1, которые представлены в современных ЭВМ как уровни напряжения неких электрических схем (триггеров), можно интерпретировать и как состояния элементарных частиц, если, к примеру, воспользоваться такой характеристикой, как «спин». Согласно принципу Паули, каждая частица может обладать спином величиной +1/2 или -1/2 — чем не логические «единица» и «ноль»? А квантовая природа таких частиц-триггеров, названных «квантовыми битами» или «кубитами» (Qbit), придает возможностям построенных на этой основе компьютеров поистине уникальные свойства.

Но это еще не самое интересное, что предлагает реализация идеи КК. В своей статье Фейнман пришел к выводу, что если для моделирования системы, состоящей из N двоичных чисел, в классическом компьютере понадобилось бы 2 в степени N вычислений, то квантовый компьютер способен с этим справиться за 2N шагов.

Это невинное на первый взгляд теоретическое положение буквально всколыхнуло мир математиков, физиков и информатиков, и с тех пор количество исследований в области квантовых компьютеров растет экспоненциально. Суть такой реакции ученых заключается в том, что этот эффект, названный «квантовым параллелизмом вычислений», принципиально на много порядков повышает быстродействие основанных на этом принципе компьютеров по сравнению с традиционными.

Легко прослеживаются параллели со взглядами Р. Пенроуза на «невычислимость» квантовых процессов. Он связывает свои надежды на построение ИИ с новой (еще не созданной) квантовой теорией, которая должна была бы связать непонятный разрыв в поведении микро- и макромира. Очень вероятно, что квантовые компьютеры нам тут могут помочь. В книге «Новый ум короля» он писал: «В своих рассуждениях я пытался найти обоснование своей уверенности в том, что и вправду должно быть нечто важное и существенное, остающееся за рамками любой алгоритмической картины мира. Тем не менее я по-прежнему связываю свои надежды на разгадку тайны разума с наукой в целом и математикой, в частности… Я старался показать, что из этой ситуации есть совершенно естественный выход. Свойство вычислимости — не то же самое, что математическая точность. Сколько тайны и красоты в точном математическом мире Платона, а ведь большая непознанная часть этого мира находится за пределами той сравнительно небольшой его части, где располагаются алгоритмы и вычисления… За всеми этими техническими рассуждениями стоит одно — ощущение «очевидности» предположения о том, что разум, наделенный сознанием, просто не может работать подобно компьютеру».

В статье использованы материалы из тем номера журнала «Компьютерра», подготовленных Леонидом Левковичем-Маслюком.

Юрий Ревич