Но хорошее начало - это просто увидеть сознательный опыт как водоворот

Информации, отказываясь при этом от представления о том, что что - либо действительно является внешним.

МАШИНЫ С
ОСОЗНАНИЕМ

14

Возможно, единственная существенная разница между действительно умным

Симуляция и человеческое существо были шумом, который они производили, когда

Ты ударил их.

— Терри Пратчетт, Долгая Земля (2012)

T

Он, знаменитый физик, попал в заголовки газет в конце 2014 года. Стивен Хокинг, в

в интервью Би - би - си говорилось о том, что мы должны быть очень осторожны в разработке “ полного
искусственного интеллекта ” (ИИ), поскольку это “ может означать конец человеческой расы ”.

Его размышления о конце света вряд ли были оригинальными. Илон Маск из SpaceX сказал
то же самое ранее в том же году, предупредив, что искусственный интеллект “ потенциально более опасен
, чем ядерное оружие ”. Тревожная идея о том, что компьютеры обладают интеллектом, превосходящим человеческий
, в сочетании с внезапным независимым сознанием, впервые была названа
“ Сингулярностью ” еще в 1993 году в статье компьютерного ученого и писателя
Вернора Винджа. И хотя его первоначальные предсказания об огромном компьютере
улучшения просто отражали предвидение других — например, ожидаемое
частое удвоение вычислительной мощности, предусмотренное соучредителем Intel Гордоном

Мур в 1965 году — Виндж полагал, что это приведет к “ изменениям, сравнимым с ростом
человеческой жизни на Земле ”.

Как мы все знаем, компьютеры уже контролируют и облегчают большую часть нашей повседневной
жизни - от банковского дела до сборки роботизированных автомобилей, и никто не хочет возвращаться
к старым дням ручного труда для выполнения таких рутинных задач, как повторяющаяся точечная сварка.
Мы даже привыкли к тому, что машины понимают команды и правильно отвечают
на вопросы. Ежегодно сообщается о крупных достижениях. В 2015 году команда из Беркли,
штат Калифорния, представила новую мощную технику искусственного интеллекта — архитектуру “ глубокого обучения ”
, которая позволяет роботу быстро осваивать новые задачи с небольшим количеством
тренировок. Этот робот быстро научился завинчивать крышку на бутылке, даже
выяснив необходимость сначала слегка повернуть назад, чтобы найти резьбу, прежде
чем поворачивать ее в правильном направлении.

Страх, порожденный сингуляритаристами, заключается в том, что искусственный интеллект
когда - нибудь достигнет такой степени сложности, когда машины станут самосознательными. Именно
эта черта порождает научно - фантастические фантазии о машинах, разрабатывающих более совершенных роботов
и компьютеры для своих собственных целей и таким образом, чтобы обойти человеческий
контроль.

Мы, конечно, видели эту тему в таких фильмах, как сериал " Терминатор ",
Западный мир (где робот - стрелок беснуется в тематическом парке), а в 2001 году:
Космическая одиссея. Но есть очень четкое и жуткое различие, которое возникает с
Сингулярностью. Одно дело, когда компьютеры каким - то образом портятся, что
вызывает у нас проблемы. Совсем другое дело, когда они обретают восприятие.

Жуткому самосознательному бизнесу верят, потому что его пропагандируют
несколько авторитетных авторитетов, таких как компьютерный инженер Корнеллского университета
Ход Липсон. Он отметил, что с постоянно растущей сложностью компьютерные проблемы
будут все чаще требовать, чтобы мы разрабатывали их так, чтобы они решали проблемы за доли секунды
, адаптируясь и принимая решения самостоятельно. По мере того как машины все лучше учатся
тому, как учиться, Липсон считает, что это неизменно “ ведет по пути к
сознанию и самосознанию ”.

Это поднимает новый, важный вопрос: что является основой
сознания? Если сложная электрическая схема играет ключевую роль, что ж, компьютеры
, очевидно, понимают это. Смогли бы мы вообще распознать разумность в

машина? Исследователи из Йельского университета уже создали робота по имени
Нико, который может распознавать себя в зеркале и принимать решения о пространственном
распознавании на основе своего собственного положения и окружения. Он даже знает, когда
объект является просто отражением в зеркале, а не наивно думает, что он
существует за стеклом. Создатели и программисты Nico говорят о машинах
, “ автономно изучающих свои тела и чувства ”.