Веле Штылвелд: Нейронатиск ИИ на человечество ХХІ века

• Научный обозреватель: Веле Штылвелд: по материалам РуНет, УаНет, Википедии

За последнюю пару лет искусственный интеллект незаметно отряхнулся от тегов «фантастика» и «геймдизайн» и прочно прописался в ежедневных новостных лентах. Сущности под таинственным названием «нейросети» опознают людей по фотографиям, водят автомобили, играют в покер и совершают научные открытия. В нейросетях разработчики попытались скопировать устройство человеческого мозга: как известно, он состоит из множества простых клеток-нейронов, которые обмениваются друг с другом электрическими сигналами. 

Идея нейросети заключается в том, чтобы собрать сложную структуру из очень простых элементов. Вряд ли можно считать разумным один-единственный участок мозга — а вот люди обычно на удивление неплохо проходят тест на IQ.

До сих пор идею создания разума «из ничего» обычно высмеивали: шутке про тысячу обезьян с печатными машинками уже сотня лет, а при желании критику нейросетей можно найти даже у Цицерона, который ехидно предлагал до посинения подбрасывать в воздух жетоны с буквами, чтобы рано или поздно получился осмысленный текст. Однако в XXI веке оказалось, что классики ехидничали зря: именно армия обезьян с жетонами может при должном упорстве захватить мир.

Сама идея

Потобного эксперимента оказалась плодотворной. Она помогла выяснить: инасколько человек честен с себе подобными. Для этого учёные используют специальный психолого-экономический тест, название которого можно перевести как «игра Ультиматум» (Ultimatum Game). Суть этой игры в том, что один человек должен разделить между собой и другим игроком некоторый выигрыш. Разделить он может как угодно, а второй игрок может либо принять условия дележа, либо отвергнуть. И если он считает, что делёж нечестный, оба теряют всё. В среднем люди соглашаются на долю, равную 40–50%. Если же процент выигрыша опускается до 20% и ниже, человек обычно отказывается от предлагаемого. Это лишает его любого выигрыша, но зато его оскорблённая честность остаётся удовлетворённой.

Впервые в подобную игру предложили сыграть шимпанзе в 2007 году. Тогда исследователи из Института эволюционной антропологии Макса Планка (Max Planck Institute for Evolutionary Anthropology) предлагали обезьянам готовые варианты дележа изюма: 50 на 50 или 80 на 20. Далее всё проходило по классической схеме с некоторыми техническими тонкостями. Получив поднос с изюмом, первая обезьяна должна была подтолкнуть его до второй, которая находилась в соседней клетке. В случае согласия на долю животное могло подтянуть поднос к себе. В ходе эксперимента выяснилось, что шимпанзе в принципе не склонны отказываться от еды при любом её количестве. Словом, учёные заключили, что принципы честного дележа обезьянам недоступны. Исследование получило множество критических оценок. Другие исследователи говорили, что в тех условиях шимпанзе не могли понять, что они сами определяют количество получаемой награды. То есть животные имели дело не столько друг с другом, сколько с неким загадочным устройством, которое выдавало угощение.

В 2012 году похожий эксперимент с шимпанзе и бонобо поставили и учёные из колледжа Королевы Марии (Queen Mary, University of London). Результаты исследования оказались идентичными полученным немецкими специалистами. Чувство справедливости при разделе пищи снова уступило место желанию поесть. Однако после двух неудачных попыток зоологам всё равно не давал покоя вопрос о наличии честности у человекообразных обезьян. На этот раз за исследования взялись американские приматологи из Университета Эмори (США) в Йеркском национальном центре по изучению приматов (Yerkes National Primate Research Center).

Учитывая критику, учёные придумали новый вариант ультимативной игры. На сей раз обезьян учили обращаться с чем-то вроде денег: они должны были распознавать пластиковые жетоны, один из которых обозначал делёж шести бананов поровну, а второй — в пропорции 5 к 1. Всё происходило так: одна обезьяна выбирала жетон, обозначающий ту или другую пропорцию, и передавала жетон другой обезьяне. Таким образом, животное давало понять напарнику, как оно хочет разделить бананы. Напарник же брал жетон и передавал его человеку — или же не передавал, игнорируя предложение товарища по эксперименту. То есть тут не было специального устройства для распределения угощения, и можно было оценить честность обоих «партнёров».

Первой обезьяне на выбор предлагали два жетона, которые соответствовали двум вариантам дележа кусочков банана: пополам или в соотношении один к пяти. (фото Yerkes National Primate Research Center). Как пишут исследователи в журнале PNAS, шимпанзе предпочитали делать честные предложения: в 58–92% случаев первая обезьяна предлагала другой жетон, обозначающий честное распределение бананов. Однако при этом зоологи отмечают, что вторая обезьяна никогда не отказывалась и от нечестного распределения. Иными словами, какие-то зачатки честности у обезьян есть, раз они склонны делать честное предложение, но практические соображения — получить хоть сколько-нибудь пищи — всё равно перевешивают. Авторы работы полагают, что мы наблюдаем у шимпанзе некий этап эволюции чувства честности, а само чувство могло возникнуть 5–7 млн. лет назад, ещё до выделения человека в самостоятельный род, и с тех пор честность постепенно эволюционировала вместе с приматами разных групп с разной скоростью.

Разумеется, к новым результатам тут же возникли вопросы. Некоторые критики говорят, что этот вариант игры — неправильная Ultimatum Game, что в ней оценивается не столько честность того, кто получает, сколько честность того, кто предлагает. Другие учёные признают значительность полученных результатов, однако делают оговорку, что обезьяна-получатель не слишком осознаёт, сколь многое зависит от её воли. То есть наиболее оптимальным был бы такой эксперимент, в котором вторая обезьяна не полагалась бы на помощь человека, а сама принимала или отвергала предлагающиеся варианты дележа. Вот такая тебе древнейшая нейросеть в действии…

На самом деле нейросеть можно собрать даже из спичечных коробков: это просто набор нехитрых правил, по которым обрабатывается информация. «Искусственным нейроном», или перцептроном, называется не какой-то особый прибор, а всего лишь несколько арифметических действий.

Перцептро́н, или персептрон (англ. perceptron от лат. perceptio — восприятие; нем. Perzeptron) — математическая или компьютерная модель восприятия информации мозгом (кибернетическая модель мозга), предложенная Фрэнком Розенблаттом в 1957 году и впервые реализованная в виде электронной машины «Марк-1»в 1960 году. Перцептрон стал одной из первых моделей нейросетей, а «Марк-1» — первым в мире нейрокомпьютером.

Перцептрон состоит из трёх типов элементов, а именно: поступающие от датчиков сигналы передаются ассоциативным элементам, а затем реагирующим элементам. Таким образом, перцептроны позволяют создать набор «ассоциаций» между входными стимулами и необходимой реакцией на выходе. В биологическом плане это соответствует преобразованию, например, зрительной информации в физиологический ответ от двигательных нейронов. Согласно современной терминологии, перцептроны могут быть классифицированы как искусственные нейронные сети:

с одним скрытым слоем;
с пороговой передаточной функцией;
с прямым распространением сигнала.

На фоне роста популярности нейронных сетей в 1969 году вышла книга Марвина Минского и Сеймура Паперта, которая показала принципиальные ограничения перцептронов. Это привело к смещению интереса исследователей искусственного интеллекта в противоположную от нейросетей область символьных вычислений[nb 4]. Кроме того, из-за сложности математического исследования перцептронов, а также отсутствия общепринятой терминологии, возникли различные неточности и заблуждения.

Впоследствии интерес к нейросетям, и в частности, работам Розенблатта, возобновился. Так, например, сейчас стремительно развивается биокомпьютинг, который в своей теоретической основе вычислений, в том числе, базируется на нейронных сетях, а перцептрон воспроизводят на основе бактериородопсин-содержащих плёнок.

Работает перцептрон проще некуда: он получает несколько исходных чисел, умножает каждое на «ценность» этого числа (о ней чуть ниже), складывает и в зависимости от результата выдаёт 1 или –1. Например, мы фотографируем чистое поле и показываем нашему нейрону какую-нибудь точку на этой картинке — то есть посылаем ему в качестве двух сигналов случайные координаты. А затем спрашиваем:

- «Дорогой нейрон, здесь небо или земля?»
- «Минус один, — отвечает болванчик, безмятежно разглядывая кучевое облако. — Ясно же, что земля».

«Тыкать пальцем в небо» — это и есть основное занятие перцептрона. Никакой точности от него ждать не приходится: с тем же успехом можно подбросить монетку. Магия начинается на следующей стадии, которая называется машинным обучением. Мы ведь знаем правильный ответ — а значит, можем записать его в свою программу. Вот и получается, что за каждую неверную догадку перцептрон в буквальном смысле получает штраф, а за верную — премию: «ценность» входящих сигналов вырастает или уменьшается. После этого программа прогоняется уже по новой формуле. Рано или поздно нейрон неизбежно «поймёт», что земля на фотографии снизу, а небо сверху, — то есть попросту начнёт игнорировать сигнал от того канала, по которому ему передают x-координаты. Если такому умудрённому опытом роботу подсунуть другую фотографию, то линию горизонта он, может, и не найдёт, но верх с низом уже точно не перепутает. В реальной работе формулы немного сложнее, но принцип остаётся тем же.

Перцептрон умеет выполнять только одну задачу: 

брать числа и раскладывать по двум стопкам.

Самое интересное начинается тогда, когда таких элементов несколько, ведь входящие числа могут быть сигналами от других «кирпичиков»! Скажем, один нейрон будет пытаться отличить синие пиксели от зелёных, второй продолжит возиться с координатами, а третий попробует рассудить, у кого из этих двоих результаты ближе к истине. Если же натравить на синие пиксели сразу несколько нейронов и суммировать их результаты, то получится уже целый слой, в котором «лучшие ученики» будут получать дополнительные премии. Таким образом, достаточно развесистая сеть может перелопатить целую гору данных и учесть при этом все свои ошибки.

Перцептроны устроены не намного сложнее, чем любые другие элементы компьютера, которые обмениваются единицами и нулями. Неудивительно, что первый прибор, устроенный по принципу нейросети — Mark I Perceptron, — появился уже в 1958 году, всего через десятилетие после первых компьютеров. Как было заведено в ту эпоху, нейроны у этого громоздкого устройства состояли не из строчек кода, а из радиоламп и резисторов. Учёный Фрэнк Розенблатт смог соорудить только два слоя нейросети, а сигналы на «Марк-1» подавались с импровизированного экрана размером в целых 400 точек. Устройство довольно быстро научилось распознавать простые геометрические формы — а значит, рано или поздно подобный компьютер можно было обучить, например, чтению букв.

Розенблатт был пламенным энтузиастом своего дела: он прекрасно разбирался в нейрофизиологии и вёл в Корнеллском университете популярнейший курс лекций, на котором подробно объяснял всем желающим, как с помощью техники воспроизводить принципы работы мозга. Учёный надеялся, что уже через несколько лет перцептроны превратятся в полноценных разумных роботов: они смогут ходить, разговаривать, создавать себе подобных и даже колонизировать другие планеты. Энтузиазм Розенблатта вполне можно понять: тогда учёные ещё верили, что для создания ИИ достаточно воспроизвести на компьютере полный набор операций математической логики. Тьюринг уже предложил свой знаменитый тест, Айзек Азимов призывал задуматься о необходимости законов роботехники, а освоение Вселенной казалось делом недалёкого будущего.