Компьютер не обладает интеллектом пока не будет загружено программное обеспечение
Обновлено: 05.07.2024
Одной из самых громких премьер 2015 года был научно-фантастический фильм Ex Machina режиссера Алекса Гарленда. Молодой программист приезжает на неделю «в гости» к своему руководителю. И вопреки своей воле становится участником эксперимента. Босс знакомит его с роботом Авой, демонстрирующим все признаки наличия человеческого сознания. У Авы конвенционально красивое женское лицо, и она ведет себя как девушка, стараясь понравиться главному герою.
По сюжету тот самый программист «покупается» на демонстрируемые роботом эмоции и его/ее страдания от нахождения в заточении у злого компьютерного гения. Однако в итоге Авой движет не симпатия к человеку, а желание получить свободу, поэтому все для парня заканчивается очень печально. Но в целом главный вопрос фильма так и остается без ответа: действительно ли робот сумел развить в себе сознание, или это всего лишь талантливая работа его создателя, сумевшего создать превосходную имитацию?
Тест на человечность
Впервые вопрос о том, может ли машина мыслить, в научной среде был поставлен в 1950 году британцем Аланом Тьюрингом. Тогда математик и криптограф опубликовал в издании Mind статью под названием «Вычислительные машины и разум», в которой предложил идею эмпирического теста, позволяющего установить наличие сознания у компьютера.
Идея теста Тьюринга такова: испытуемый, живой человек, общается с двумя собеседниками, не видя их. Один из собеседников — тоже человек, другой — компьютер. Беседа ведется в режиме переписки, чтобы тестировать именно вероятный интеллект компьютера, а не его способность распознавать устную речь. Задача машины — ввести испытуемого в заблуждение, выдав себя за живое существо, обладающее полноценным сознанием.
Диаграмма, описывающая главную дилемму теста Тьюринга. Чтобы пройти его, искусственный разум должен быть «в меру неразумным». Фото: Time ToastТест Тьюринга хорош тем, что условному компьютеру недостаточно просто понимать значение слов, которые используются в беседе — необходимо разбираться в теме разговора, рассуждать и использовать живой язык. А тема разговора условиями теста никак не ограничена: можно общаться как о правах женщин, так и о преимуществах пельменей перед равиоли. Вдобавок к этому, тест Тьюринга позволяет определенным образом измерить наличие интеллекта и мышления — понятий, в определении которых современные философы попросту «тонут».
Мальчик Женя и разум без сознания
Алан Тьюринг создавал свой тест на заре развития компьютерной техники, но смотрел далеко в будущее: по его мнению, уже к 2000 году компьютеры по итогам пятиминутного теста смогут обмануть около трети испытуемых. При этом им понадобится не более 125 мегабайт оперативной памяти. С датой ученый немного ошибся: впервые достичь подобного результата искусственный интеллект смог достичь в июне 2014 года. Тогда программа, написанная выходцами из бывшего СССР и представлявшаяся собеседникам 13-летним мальчиком Женей Густманом из Одессы, сумела убедить в своей человечности 33% испытуемых.
За аватаркой Жени Густмана скрывался искусственный разум. Фото: Business InsiderЧто этот результат означает? Компьютер сумел почувствовать себя подростком, который любит морских свинок и гамбургеры, многого не знает и допускает естественные грамматические ошибки? Или образ стереотипного подростка был удачно имитирован? Скорее всего — второе, и вот почему.
Известный специалист по нейробиологии, исследователь проблемы возникновения сознания Антонио Дамасио утверждает, что в основе формирования очеловечивания лежат эмоциональные реакции. Без них можно вести речь лишь о понимании (cognition в терминологии Дамасио), но никак не о полноценном сознании. Машина, которая понимает, но не осознает то, что она понимает и как пользуется этим пониманием, вполне может побеждать людей в интеллектуальных играх — например, в телевикторине Jeopardy (аналоге российской «Своей игры») или игре в го, одной из самых сложных для искусственного интеллекта. Однако ни о каком наличии разума тут речи не идет.
Тело и цель как путь к сознанию
Почему же у человека есть сознание, а у компьютера, гораздо более совершенного во многих вопросах, оно отсутствует? Согласно одной из работ того же Дамасио, все дело. в уязвимости. Исследователь искусственного интеллекта и когнитивист Марвин Мински утверждал, что сознание — «то, что связывает ум с телом». Тот же Мински в одном из своих интервью утверждал: «Не найдется программного обеспечения, в котором есть структура под названием “цель”».
Следовательно, появление искусственного интеллекта, обладающего сознанием, реально в том случае, если этот самый интеллект:
Компьютер для выполнения работы требует большего, чем просто фактическое оборудование или оборудование, которое мы видим и трогаем. Это требует программного обеспечения - программ для управления работой компьютера или электронных данных. Программное обеспечение является конечным компонентом компьютерной системы. Эти компьютерные программы инструктируют оборудование, как проводить обработку. Компьютер - это просто машина общего назначения, для которой требуется определенное программное обеспечение для выполнения данной задачи. Компьютеры могут вводить, рассчитывать, сравнивать и выводить данные в виде информации. Программное обеспечение определяет порядок, в котором эти операции выполняются.
Программы обычно попадают в одну из двух категорий: системное программное обеспечение и прикладное программное обеспечение.
Системное программное обеспечение контролирует стандартные внутренние компьютерные операции. Например, операционная система - это набор системных программ, которые помогают в работе компьютера независимо от используемого прикладного программного обеспечения. При первом включении компьютера одна из системных программ загружается или загружается в память компьютера. Это программное обеспечение содержит информацию об объеме памяти, модели процессора, используемых дисках и многое другое. Как только системное программное обеспечение загружено, прикладное программное обеспечение может начать работать.
Системные программы предназначены для конкретного оборудования. Эти программы называются драйверами и координируют работу периферийного оборудования и компьютеров. Пользователь должен установить определенный драйвер для активации своего периферийного устройства. Например, если вы намереваетесь купить принтер или сканер, вам нужно заранее позаботиться о программе драйвера, которая, тем не менее, обычно идет вместе с вашим устройством. Устанавливая драйвер, вы «учите» свою материнскую плату «понимать» вновь подключенную деталь.
Прикладное программное обеспечение удовлетворяет ваши конкретные потребности. Разработчики прикладного программного обеспечения в основном полагаются на стратегии маркетинговых исследований, стараясь сделать все возможное, чтобы привлечь больше пользователей (покупателей) к своему программному обеспечению. Поскольку производительность аппаратного обеспечения за последние годы значительно возросла, программисты в настоящее время стремятся включать все виды уловок в одну программу, чтобы интерфейс программного обеспечения выглядел более привлекательным для пользователя. Этот класс программ является наиболее многочисленным и перспективным с точки зрения маркетинга.
Обмен данными внутри и между компьютерными системами осуществляется системным программным обеспечением.
Коммуникационное программное обеспечение передает данные из одной компьютерной системы в другую. Эти программы обычно предоставляют пользователям безопасность данных и проверку ошибок, а также физическую передачу данных между памятью двух компьютеров. В течение последних пяти лет развивающаяся электронная сетевая связь стимулировала все больше компаний к производству различного коммуникационного программного обеспечения, такого как веб-браузеры для Интернета.
Информация о прошлом и настоящем разлита в окружающем нас пространстве. Также как и о вариантах будущего. Вариантах, ибо свободу воли человека пока ещё никто не отменил.
Создать компьютер, который будет способен ту же информацию считывать, теоретически, наверно, возможно.
Но вряд ли практически это будет осуществимо, ибо тогда получится, что человек сможет превратить неживое в живое, что означает наделение первого не только этикой, но и нравственностью с присущей ей совестью. А это уже прерогатива Создателя.
Почему компьютер в принципе не способен обладать самосознанием
Многие революционные проекты в области искусственного интеллекта представляют собой попытки создать мыслящую машину. Они основываются на идее, что функции человеческого мозга сводятся к кодированию и обработке мультисенсорной информации.
Другими словами, их авторы исходят из гипотезы, что как только функции мозга будут полностью изучены и правильно поняты, их можно будет записать в виде кода и поместить в компьютер.
Компания Microsoft недавно объявила, что намерена израсходовать миллиард долларов на проект, преследующий именно эту цель.
Однако, до сих пор попытки создать мыслящий суперкомпьютер не увенчались даже первоначальным успехом. Многомиллиардный европейский проект, запущенный в 2013 году, на данный момент фактически признан провальным.
В измененном виде он больше напоминает схожий, хотя и не столь амбициозный, американский проект, в рамках которого разрабатываются новые программные инструменты для ученых, исследующих данные мозга, вместо того, чтобы попытаться его смоделировать.
Некоторые исследователи по-прежнему настаивают на том, что моделирование мыслительных процессов, происходящих в нейробиологических системах – это путь к успеху.
Другие считают подобные усилия обреченными на неудачу, поскольку не верят, что мышление в принципе поддается вычислению.
Их основной аргумент заключается в том, что мозг человека объединяет и сжимает многочисленные ощущения, включая зрение и слух, с которыми просто нельзя обращаться так, как это делают современные компьютеры, воспринимая, обрабатывая и храня данные.
Живые существа накапливают опыт и ощущения в своем мозгу, адаптируя нейронные связи в активном процессе контакта между субъектом и окружающей средой.
Компьютер же, напротив, записывает данные в краткосрочные и долгосрочные хранилища памяти. Это различие означает, что мозг по-иному обращается с информацией, по сравнению с компьютером.
Разум активно исследует окружающую среду в поиске элементов, которые помогут найти способ выполнить то или иное действие.
Восприятие не имеет прямого отношения к данным, полученным с помощью органов чувств: человек может идентифицировать, скажем, стол, с разных точек зрения, и ему не нужно для этого сознательно интерпретировать данные, а затем запрашивать память, может ли этот шаблон быть создан с помощью альтернативных представлений о каком-либо объекте, который ранее уже был идентифицирован.
Еще одна точка зрения сводится к тому, что самые обыденные, будничные задачи памяти задействуют несколько различных сегментов мозга, часть из которых довольно большие.
Обучение навыкам и приобретение опыта сопровождается реорганизацией и физическими трансформациями в тканях мозга, такими как изменения структуры нейронных связей. Подобные трансформации не могут быть воспроизведены в компьютере с фиксированной архитектурой.
В одной из недавно опубликованных научных работ на эту тему выделено несколько дополнительных причин, по которым человеческое мышление не поддается вычислению. Мыслящий человек осознает, о чем он думает.
Другими словами, он способен перестать думать о чем-то одном и начать думать о другом, независимо от того, на какой стадии размышления он находится.
Но для компьютера это невозможно. Более восьмидесяти лет назад британский ученый в области теории вычислительных систем Алан Тьюринг пришел к выводу, что не существует принципиальной возможности доказать, что какая-то компьютерная программа способна остановиться по собственной воле, в то время как эта способность является одной из фундаментальных для человеческого сознания.
Его аргумент основан на логической ловушке, в которой заключено внутреннее противоречие: представьте, что существует некий общий процесс, который может определить, остановится ли анализируемая им программа.
Результатом работы этого процесса будет либо «да, она остановится», либо «нет, не остановится». Это понять довольно просто.
Но затем Тьюринг вообразил, что искусный программист написал код, включающий в себя процесс проверки с одним ключевым элементом: инструкциями для продолжения работы программы в том случае, если ответом будет «да, она остановится».
Запуск процесса проверки этой новой программы неминуемо приведет к неправильному результату: если он определит, что программа остановится, то внутренние инструкции прикажут ей продолжать работать.
С другой стороны, если этот «стоп-чекер» определит, что программа не остановится, инструкции немедленно дадут команду к остановке. Это абсолютно нелогично, и Тьюринг сделал вывод, что не может быть никакого способа проанализировать программу и быть уверенным, что она способна остановиться сама.
А следовательно, невозможно быть уверенным и в том, что любой компьютер способен соперничать с системой, которая может остановить ход своих мыслей и перейти к другой линии мышления. Именно уверенность в этой способности является неотъемлемой частью мышления.
Еще до публикации работы Тьюринга немецкий квантовый физик Вернер Гейзенберг показал, что существует четкое различие между природой физического события и сознательным восприятием этого события наблюдателем.
Австрийский физик Эрвин Шредингер интерпретировал этот аргумент таким образом, что процесс мышления не может быть результатом физического процесса, подобного компьютерному, который сводит все операции к базовым логическим суждениям.
Эти идеи подтверждаются и результатами медицинских исследований, которые свидетельствуют о том, что в мозге человека нет уникальных структур, которые отвечали бы исключительно за мышление.
Функциональная магнитно-резонансная томография, напротив, показывает, что различные когнитивные задачи вызывают активизацию различных участкрв мозга.
Это привело нейробиолога Семира Зеки к выводу о том, что «мышление не является чем-то единым, в то время как существуют много различных мыслительных процессов, распределенных во времени и пространстве».
Моделирование безграничных способностей мозга – проблема, которая в принципе не под силу компьютеру, который представляет из себя конечную систему.
Сам Тьюринг предсказывал, что машины, способные имитировать людей по результатам пятиминутного теста, появятся к 2000 году. В свою очередь, известный футурист Рэймонд Курцвейл передвинул эту дату на 2020 год.
До недавнего времени казалось, что до успеха далеко: "экзаменаторы" неизменно без особого труда могли определить, с кем именно они беседуют… Все изменила программа "Юджин Густман", разработанная российскими специалистами. В ходе тестирования, которое было инициировано в Королевском обществе Лондона учеными из Университета Рединга, тридцать три процента экспертов жюри поверили, что общаются с живым человеком — 13-летним Евгением Густманом из Одессы!
Первая версия "Юджина" появилась в 2001 году. Программа показала высокие результаты еще в июне 2012 года, в ходе проведения теста Turing 100 (в честь столетия Алана Тьюринга), опередив своих конкурентов Cleverbot, Ultra Hal, Elbot the Robot и JFRED и сумев в 29,2 процентах случаев дать "человеческие" ответы на вопросы. Таким образом, до гордого звания носителя "искусственного интеллекта" ей не хватило всего 0,8 процента.
В нынешнем году исполняется 60 лет со дня смерти Тьюринга, и эта дата ознаменовалась окончательным успехом. "Наша главная идея заключалась в том, что он знает все и ничего не знает, а возраст Юджина это объясняет, — прокомментировал один из авторов проекта, Владимир Веселов. — Мы провели много времени, разрабатывая персонажа с правдоподобной личностью".
Правда, далеко не все разделяют восторги по поводу приближения искусственного интеллекта к человеческому. Так, известный специалист в сфере кибертехнологий Кевин Уорвик, который является приглашенным профессором в Университете Рединга и заместителем вице-канцлера по исследованиям в Университете Ковентри, заявил: "В сфере искусственного интеллекта нет более знакового и спорного этапа, чем тест Тьюринга, когда компьютер убеждает достаточное количество следователей в том, что он не машина, а человек. Имея компьютер, который может обмануть человека, можно считать это тревожным сигналом для развития киберпреступности".
Представляете, что начнется, если мы не сможем отличить "беседующий" с нами спамбот от реального человека? Правда, бить тревогу пока рано. Ряд экспертов подчеркивают, что тест Тьюринга проверяет только способность машины походить на человека, а не ее разумность в целом. Для того чтобы говорить о полноценном искусственном интеллекте, равном человеческому, компьютер должен научиться имитировать поведение человека с точностью до деталей, а мы знаем, что люди не всегда поступают разумным образом и могут ошибаться…
Кроме того, в процессе теста не учитывается высокоинтеллектуальное поведение, подразумевающее способность решать сложные задачи или генерировать оригинальные идеи. Машина может копировать только "середнячков", но никак не "продвинутых". Поэтому в процессе более длительного общения большинство из нас наверняка поймут, что общаются с "бездушным железом", а не с существом из плоти и крови…
Читайте также: