Провозвестники искусственного интеллекта, в числе которых Элон Маск, Стивен Хокинг и Рэй Курцвейл, прогнозируют, что к 2030 году машины обзаведутся сознанием человеческого уровня интеллекта. Вместе с тем последует череда приятных, нейтральных и ужасных последствий. К примеру, Маск, Хокинг и десятки других исследователей подписали в январе 2015 года петицию, по которой машины на основе ИИ могут привести к «ликвидации болезней и бедности» в ближайшем будущем. Это, очевидно, приятное последствие.
Но есть и нейтральное: Курцвейл, который первым предложил идею технологической сингулярности, считает, что к 2030-м годам люди смогут загружать свое сознание, тем самым сливаясь с машинами. Из пугающих последствий: Маск предвидит будущее, в котором люди станут домашними животными для владык из машины. Забегая дальше, почти все сходятся во мнении, что однажды люди исчезнут как вид в пользу машин, слившись с ними или нет.
Сказать, что эти заявления имеют под собой почву — ничего не сказать. За последние десятилетия мы наблюдаем бурный всплеск развития технологий, компьютеры становятся мощнее и доступнее, не по дням, а по часам. В 2011 году суперкомпьютер Watson обыграл двух бывших чемпионов в интеллектуальной игре, используя не самый сложный (по нынешним меркам) искусственный интеллект и обработку естественного языка. Будущее наступает быстрее, чем мы успеваем к нему приспособиться.
График наступления технологической сингулярности Курцвейла основан на законе возрастающей отдачи: чем мощнее становятся компьютеры, тем быстрее они развиваются. Это график чрезвычайного экпоненциального роста, и мы сейчас стоим на пороге крутой кривой, которая ведет нас к разумным машинам и миру, в котором будут царить роботы. В это верят Курцвейл, Маск, Хокинг и многие другие исследователи ИИ. В конце концов, это так по-человечески — верить. К 2045 году мы и сами можем стать машинами. Нам просто нужно создать достаточно продвинутый ИИ, и потом бам — разумные машины.
Только без меня.
В данной статье мы говорим об интеллекте не как о мере человеческих знаний, но как о синониме разума.
Я не спорю: технологии развиваются все быстрее; мы наблюдаем это сейчас и нет никаких причин полагать, что мы достигнем этакого плато в развитии вычислительной мощи. Однако переход от продвинутых технологий к искусственно созданному сознанию — это гигантский прыжок. Самые многообещающие заявления на тему ИИ основаны на ложной предпосылке: что мы понимаем человеческий разум и сознание.
Эксперты в области ИИ работают с конкретным определением интеллекта: способностью обучаться, распознавать образы, отображать эмоциональное поведение и решать аналитические задачи. Тем не менее это лишь одно определение интеллекта из моря спорных и смутно сформированных представлений о природе познания. Нейрология и нейропсихология не предоставляют конкретное определение интеллекта — скорее, располагают многими. Различные области, даже различные исследователи определяют интеллект совершенно разными, порой взаимоисключающими и несопоставимыми терминами.
В широком смысле ученые рассматривают интеллект как способность адаптироваться к окружающей среде, реализуя собственные цели, или даже способность выбирать лучший вариант при конкретных условиях. Однако такое определение базируется в основном на биологическом понимании интеллекта, больше связанном с эволюцией и естественным отбором. На практике нейрологи и психологи много спорят на тему разума, как между собой, так и с учеными других областей.
Рассмотрим следующий взгляд психологов Майкла Рамси и Сесила Рейнольдса:
«Теоретики предположили, а ученые подтвердили, что интеллект представляет собой набор относительно стабильных способностей, медленно меняющихся со временем. И хотя интеллект можно рассматривать как потенциал, он не обладает встроенными или неизменяемыми характеристиками. Современные психологи и другие ученые придерживаются мнения, что интеллект вытекает из сложного взаимодействия экологических и генетических факторов. Но несмотря на сотню лет проводимых исследований, это взаимодействие понимается очень плохо и расплывчато. Наконец, интеллект не имеет ничего сугубо биологического или сугубо социального в своей основе. Некоторые авторы предполагают, что интеллект — это любая мера измерения интеллекта».
Абзац выше не дает никакого конкретного описания. И психология является лишь одной из десятка отраслей, связанных с человеческим мозгом, сознанием, разумом, интеллектом.
Наше понимание технологий растет и ширится постоянно, но наше понимание более расплывчатых понятий — интеллекта, сознания, разума — остается смехотворно детским. Технологии готовы вывести нас в эпоху людей на основе компьютера, но нейробиология, психология и философия — нет. И эти пробелы в понимании безусловно замедляют хронологию развития ИИ.
Большинство экспертов, изучающих мозг и разум, соглашаются по крайней мере в двух вещах: мы не знаем, конкретно и единогласно, что такое интеллект. И мы не знаем, что такое сознание.
«Чтобы достичь сингулярности, недостаточно просто заставить сегодняшнее программное обеспечение работать быстрее, — писал соучредитель Microsoft Пол Аллен в 2011 году. — Нам также нужно создать более умные и способные программы. Чтобы создать такого рода продвинутое ПО, нам нужно научно понять основы человеческого сознания, а мы едва ли оцарапали поверхность этого знания».
Определение человеческого интеллекта и сознания остается вотчиной скорее философии, нежели нейронауки. Поэтому давайте размышлять философски.
Сознательное творчество
Маск, Курцвейл и другие сторонники гипотезы технологического сингулярности снова и снова вторят, что нарастающая вычислительная мощь автоматически приведет нас к машинному сознанию и интеллекту человеческого уровня. Они настаивают на том, что чем быстрее развиваются технологии, тем быстрее совершенствуются и другие области науки.
«Я не считаю, что только имея достаточно мощные компьютеры, достаточно мощные аппаратные средства, мы получим интеллект человеческого уровня, — говорит Курцвейл в 2006 году. — Нам необходимо понять принципы работы человеческого разума, как мозг выполняет свои функции. Какое у него программное обеспечение, алгоритмы, содержание? Поэтому мы затеваем грандиозный проект, который я называю обратной инженерией человеческого мозга, он поможет нам понять его механизмы. И тут мы наблюдаем такой же экспоненциальный прогресс, как и в других сферах, например, биологии».
Курцвейл признает необходимость понять человеческий разум прежде, чем точно воссоздать его в машине, но его решение — обратная инженерия мозга — пересекает области нейробиологии, психологии и философии. Она требует слишком многого: будто бы построить мозг — это то же самое, что и построить сознание.
Два этих термина, «мозг» и «сознание», не являются взаимозаменяемыми. Возможно, мы сможем воссоздать мозг; это бесконечно сложная структура, но она остается физической вещью, которую мы однажды сможем полностью картировать, расщепить и заново собрать. Только в этом месяце IBM заявила, что создала рабочий искусственный нейрон, способный распознавать шаблоны в шумных данных и ведущий себя непредсказуемо, как обычный нейрон. Создать нейрон — это, конечно, совсем не то, что создать целый человеческий мозг, но уже начало.
Тем не менее это все еще не сознание, не разум, не мышление. Даже если ученые разработают технологию для создания искусственного мозга, нет никаких доказательств того, что этот процесс будет автоматически генерировать сознание. Нет никаких гарантий, что машина внезапно станет сознательной. О чем говорить, если мы не понимаем природу сознания, на какое чудо надеяться?
Взять хотя бы такой аспект сознания, разума и интеллекта, как творчество. Само по себе творчество — это относительно разносторонняя и мутная вещь; каждый видит его по-своему. Для одного человека творческий процесс включает недели, проведенные в отдельной каюте; для другого он начинается с трех стаканов виски; для третьего творчество лежит в непредсказуемых вспышках вдохновения в последние минуты месяца. Четвертые и вовсе под творчеством понимают сосредоточение в процессе работы, а пятые — в прокрастинации.
Вопрос: будут ли машины с искусственным интеллектом прокрастинировать?
Наверное, нет. Сингулярность предполагает, что в конечном счете ИИ будет в миллиарды раз мощнее человека с точки зрения интеллекта. Вряд ли ИИ оставит себе такие бесполезные штуки, как прокрастинация, мягкий алкоголизм и сосредоточенность. Нет никаких сомнений, что однажды программное обеспечение будет способно выводить красивые, творческие вещи с минимальным (или нулевым) вмешательством человека. Но красивые не означает лучшие. Творчество не всегда бывает осознанным.
Курцвейл, Маск и другие не предсказывали появления бота Tay в Twitter; они лишь говорят о том, что через 20 лет мы скопируем человеческий мозг, засунем его в искусственную коробку и таким образом воссоздадим человеческое сознание. Нет, мы должны создать нечто еще более прекрасное: сознание, чем бы оно ни было, которому не нужно прокрастинировать, чтобы быть творчески продуктивным. Разум, которому не нужно обладать сознанием, чем бы эти два термина ни являлись на самом деле.
Технологический взрыв приближается, но наше понимание психологии, неврологии и философии остается туманным. И все эти области должны работать в гармонии, чтобы приблизить сингулярность. Ученые добились впечатляющих успехов в области технологий в последние годы, и компьютеры становятся все лучше с каждым днем, но более мощный компьютер нельзя приравнивать к прорыву в философском понимании. Точная карта мозга не покажет, что мы понимаем ум.
Прежде чем пытаться что-то воссоздать, необходимо понять, как оно работает. Чуда не произойдет, если мы не разгадаем секреты человеческого разума.
