Недавно в «Новой газете» появился обзор нон-фикшн книг 2016 года. Редактор отдела политики Кирилл Мартынов выбрал 10 научно-популярных изданий, «чтение и обсуждение которых помогает прояснить момент, в котором мы живем». В список попала книга американского философа Ника Бострома «Искусственный интеллект». Автор обзора пишет: «Тема развития нейросетей, искусственного интеллекта и автоматизации рабочих мест белых воротничков является ключевой для современной культуры и экономики».
Мы согласны: тема очень важная и серьезная. Поэтому в сегодняшней рубрике «Интеллектуальный час» рассказываем о перспективах появления сверхразумных машин.
Фильмы о киборге-терминаторе популярны во всем мире уже более тридцати лет. В 2015 году на экраны вышла пятая картина из этой серии. Но задумывается ли кто-то из зрителей, что подобное развитие событий не так уж фантастично? Сверхразумные машины действительно могут появиться. Однако вряд ли люди будут способны им противостоять, как в популярном боевике.
Преимущества искусственного интеллекта
Нам очень трудно — если вообще возможно — интуитивно понять, на что способен сверхразум, можно попытаться лишь приблизиться к этому пониманию, взглянув на преимущества, которыми обладает цифровой интеллект. Легче всего оценить плюсы аппаратного обеспечения.
- Скорость вычислительных элементов. Пиковая скорость работы биологических нейронов — около 200 Гц, что на семь порядков медленнее современных микропроцессоров.
- Количество вычислительных элементов. Очевидно, что количество нейронов в биологическом существе ограничено объемом черепа и особенностями метаболизма. В отличие от биологического мозга, компьютерное оборудование масштабируется до гигантских физических размеров. Суперкомпьютеры могут быть размером со склад или даже больше, причем с помощью высокоскоростных кабелей к ним можно подключать дополнительные удаленные вычислительные мощности.
Суперкомпьютер Titan. Источник
- Емкость памяти. Человек способен удерживать в кратковременной памяти не более четырех-пяти блоков информации одновременно. Хотя сравнивать напрямую кратковременную память с оперативной памятью компьютера не совсем корректно, ясно, что конструктивные преимущества цифрового интеллекта позволяют ему иметь рабочую память гораздо большего размера. Это значит, что такой интеллект способен интуитивно схватывать суть сложных взаимоотношений, которые люди могут нащупать лишь при помощи кропотливого труда.
- Надежность, продолжительность жизни, сенсоры, отсутствие чувства усталости и многое другое.
Смогут ли машины думать?
Полагаете, компьютеры никогда не станут умнее людей? Но некоторые программы уже легко побеждают чемпионов мира в интеллектуальных играх. Например, программа «Чинук» еще в 1994 году обыграла действующего чемпиона мира по шашкам, программа TD-Gammon превосходит лучших игроков в нарды, а суперкомпьютер Deep Blue в 1997 году победил чемпиона мира по шахматам Гарри Каспарова.
Тот самый Deep Blue. Сейчас он находится в музее компьютерной истории в Калифорнии. Источник
Вот еще несколько фактов, которые показались бы нашим предкам фантастикой:
- Система «Логик-теоретик» сумела доказать почти все теоремы из второго тома «Оснований математики» Альфреда Уайтхеда и Бертрана Рассела, что демонстрирует способность машины к дедукции и логическим построениям.
- Робот «Трясучка» показал, что машина может продумывать и контролировать свою двигательную активность, когда логическое мышление совмещено с восприятием окружающей действительности.
- Программа ELIZA прекрасно имитирует поведение психотерапевта.
- В середине 1970-х годов программа SHRDLU продемонстрировала, как смоделированный робот в смоделированном мире спокойно манипулирует объемными геометрическими фигурами, не только выполняя инструкции пользователя, но и отвечая на его вопросы.
- В последующие десятилетия были созданы программы, способные сочинять классическую музыку разных жанров, решать проблемы клинической диагностики быстрее и увереннее врачей-стажеров, самостоятельно управлять автомобилями и делать патентоспособные изобретения.
Вряд ли сейчас подобные факты смогут произвести хоть какое-то впечатление. Но это обусловлено тем, что наши представления о стандартах несколько смещены, поскольку мы уже знакомы с выдающимися достижениями в компьютерном мире.
Машина-ребенок, эволюция и непрерывное совершенствование
Математик Алан Тьюринг еще в 1950 году высказал мысль о том, что можно использовать обучение как средство развития простой системы: «Почему бы нам, вместо того чтобы пытаться создать программу, имитирующую ум взрослого, не создать программу, которая бы имитировала ум ребенка? Ведь если ум ребенка получает соответствующее воспитание, он становится умом взрослого человека».
Сегодня эта теория представляется самой перспективной: усилия должны быть сосредоточены на создании системы, способной к обучению и работе с неопределенной информацией.
Тьюринг говорил и о том, что процесс создания искусственного интеллекта будет иметь много общего с эволюцией: «Вряд ли нам удастся получить хорошую „машину-ребенка“ с первой же попытки. Надо провести эксперимент по обучению какой-либо из машин такого рода и выяснить, как она поддается научению. Затем провести тот же эксперимент с другой машиной и установить, какая из них лучше. Существует очевидная связь между этим процессом и эволюцией в живой природе…»
В теории генетическое программирование может привести к появлению разума, сопоставимого с человеческим, даже с большей вероятностью, чем слепая эволюция.
Здесь необходимо упомянуть еще одну важную концепцию. Если людям удастся создать зародыш искусственного интеллекта, способный к непрерывному самосовершенствованию, то первая версия создаст улучшенную версию самой себя, которая намного умнее оригинальной; улучшенная версия, в свою очередь, начнет трудиться над следующей версией и так далее.
В результате, бесспорно, случится такой «интеллектуальный взрыв», что человеческий разум окажется отброшенным далеко назад. При этом нет гарантий, что искусственный интеллект будет дружелюбным.
Сценарии: медленный, умеренный и быстрый
Если взлет интеллекта с человеческого на сверхразумный произойдет, то он будет развиваться по одному из трех сценариев:
1. Медленный взлет. В этом случае у человечества впереди еще достаточно времени — десятилетия или даже столетия, — чтобы хорошо подумать, как действовать в новых условиях. Мы сможем рассчитать свои ходы и обучить специалистов. Также нам будут доступны последовательное тестирование различных подходов, разработка более совершенных систем безопасности, возможность провести необходимые переговоры.
2. Быстрый взлет. Он случится почти мгновенно — за считанные минуты, часы, дни, — и мы вряд ли сможем хоть как-то среагировать. Скорее всего, мы проиграем, даже не успев осознать, что происходит.
3. Умеренный взлет. Этот вариант предполагает, что у нас будет несколько месяцев или лет. Конечно, мы не сможем проанализировать ситуацию так же хорошо, как при медленном взлете, однако появится шанс правильно отреагировать на перемены.
Если вы думаете, что медленный сценарий — самый правдоподобный, то заблуждаетесь. Скорее всего, мы увидим быстрый взлет искусственного интеллекта.
К чему может привести появление сверхразума
Даже если в программу будут заложены положительные установки, например сделать каждого человека счастливым или предотвратить загрязнение мирового океана, неизвестно, какими способами сверхразум соберется достичь цели и не приведут ли его действия к исчезновению человечества.
Но представим, что искусственный интеллект появился, и мы, несмотря на тревожные ожидания, вполне мирно сосуществуем. В этом предполагаемом будущем работники-машины, более способные и дешевые, чем работники-люди, заменят нас практически во всех профессиях.
Если и останутся какие-то рабочие места, зарплаты упадут ниже уровня прожиточного минимума. Допустим, при этом люди все еще владеют капиталом. Тогда в целом доход человечества станет огромным, но вряд ли это богатство достанется всем.
Скорее всего, нас ждет нищенское существование, а единственным источником дохода окажутся государственные пособия. Снижение доходов и ряд других обстоятельств приведут нас к тому, что мы регрессируем и будем не в состоянии вести активную жизнь.
Возможно, наше будущее — это мозг, погруженный в специальный контейнер и подключенный к снабжению кислородом и питательными жидкостями, который обслуживают машины и который способен накопить немного денег на воспроизводство путем клонирования себя роботом-техником.
Все эти сценарии довольно угрожающие, но у нас есть одно огромное преимущество: первый шаг все же остается за нами. О роботах и компьютерах, появлении искусственного интеллекта и будущем человечества читайте в книге-предостережении Ника Бострома, профессора кафедры философии в Оксфорде.
Обложка поста отсюда
