Об ИИ

Что-то в последнее время меня «покусали» роботы. Немножко пополнил своё представление о нашем с вами ближайшем будущем.

За последние месяцы:

• Прочитал книжку «Об интеллекте» Джефа Хокинса.
• Прочитал конспект лекции Ивана Пигарёва о сне.
• Прочитал перевод статьи Тима Урбана об ИИ.
• Сходил на выставку роботов.
• Пообщался с Алисой Яндексовной.
• Посмотрел фильм «Her».

Джеф Хокинс (не путать со Стивеном Хокингом) — это чувак, который сделал Palm Pilot, придумал рукописный ввод Graffiti, основал Palm Computing и Handspring. Он делал планшеты ещё тогда, когда они назывались наладонниками. Но, если верить книге, он с детства мечтал разобраться в том, как работает человеческий мозг. Поэтому, заработав достаточно денег в IT сфере, в начале двухтысячных он публикует эту книгу и основывает институт по изучению мозга.

Хокинс критикует существующие направления исследований за то, что они не пытаются создать единую теорию функционирования мозга (точнее его интересует в первую очередь неокортекс). Нейрофизиологи могут сказать, какая часть мозга возбуждается, когда мы видим определённые образы, ощущаем определённые эмоции или думаем о чём-то определённом, но не могут сказать, что это означает. Психологи и психиатры могут сказать, как определённые переживания в прошлом могут сказаться на нашем поведении в будущем, и как избавиться от ненужных переживаний, но не имеют понятия о том, какие физические процессы при этом происходят в мозгу.

Хокинс предлагает объединить усилия и излагает свою теорию функционирования неокортекса. Делает это он из айтишных побуждений, чтобы создать действительно мыслящие машины. Он и направления искусственного интеллекта в связи с этим критикует.

Дело в том, что даже нейронные сети, которые вроде как повторяют структуру мозга, работают не так, как мозг. Нейронные сети сначала обучаются, а потом работают. А мозг постоянно обрабатывает сигналы, и постоянно обучается. Это непрерывный процесс.

По Хокинсу неокортекс — это иерархическая машина узнавания паттернов во входных сигналах и прогнозирования (этих сигналов). Входные сигналы — это сигналы от органов чувств. Ответная реакция мозга — это в первую очередь движения, причём движения глаз, включая саккады, и движения языка и гортани при речи — это всё тоже ответы мозга.

Интересна иерархия. На нижних уровнях распознаются простые вещи: для зрения — линии разных направлений, для слуха — тона звуков. Несколькими уровнями выше распознаются уже целые образы: лица, мелодии. Ещё выше распознаются абстрактные понятия вроде людей, кошек, собак вообще. Где-то на этом уровне появляется то, что мы воспринимаем как наше создание, то есть умение оперировать абстракциями.

Все эти уровни работают одинаково, узнают и предсказывают. Только чем выше по иерархии, тем более абстрактны понятия, которые они узнают и предсказывают. И чем выше по иерархии, тем больше мозготоплива (буквально) требуется для принятия решения и реакции на окружающие взаимодействия, потому что буквально задействовано больше нейронов. Слоёв этих, похоже, что около сотни (исходя из типичного времени реации и типичной скорости распространения нервных импульсов).

Обучение как раз и заключается в том, чтобы перенести возможность принятия решения на более низкие уровни. Довести до автоматизма, выработать привычку. На низком уровне решение принимается быстрее и дешевле. Но работает оно только на заученных паттернах. Если встречается что-то незаученное, приходится задействовать более высокие уровни иерархии, «включать сознание».

Самые нижние слои имеются у всех млекопитающих. Где-то там мы подобны мышкам и ёжикам. У обезьян слоёв побольше. Но человек может оперировать более абстракными понятиями и делать более долгосрочные прогнозы, чем обезьяна. Наверху есть вершины осознания, доступные только человеку.

Что касается достижений концепции Хокинса в сфере искуственного интеллекта, то их наработки вполне доступны. Смотрите numenta.com.

Иван Пигарёв — физиолог. Занимается исследованием сна. Развивает висцеральную теорию сна.

Ставили опыты. Не давали мышкам спать. И мышки умирали через несколько дней. Умирали от множественных повреждений внутренних органов. А мозги были целёхоньки. То есть сон нужен не мозгу, а внутренним органам.

Терия в том, что во время сна мозг (кора мозга) отключается от сигналов внешней среды, а подключается к сигналам от внутренных органов. Этих сигналов весьма и весьма много. И наши суперумные мозги занимаются их обработкой. Хотя сознание тут не задействовано. И без этой обработки и регулировки, на автономном обеспечении, внутренние органы просуществуют недолго.

Выглядит очень и очень странно. Каким образом те нейроны, которые в бодрствующем состоянии натренированы на распознование зрительных образов, во сне обрабатывают сигналы от кишечника? Впрочем, тут подсказывают, что свёрточные нейронные сети, натренированные на распознавании изображений, можно успешно использовать и в других областях, если им отрезать и заменить входные и выходные слои. Возможно, что-то подобное происходит и в мозге. Меняем внешние слои обработки сигналов и выходных воздействий со слоёв приёма и выдачи внешних сигналов на слои приёма и выдачи внутренних сигналов, и вовсю задействуем крутую натренированную нейросеть глубинных слоёв.

Кстати, сон — это не привилегия высших животных. Мухи тоже спят. Похоже, это забавный эволюционный механизм. Если уж у нас появились такие сложные внутренности, почему бы не воспользоваться нашей крутой центральной нервной системой, чтобы порулить внутренностями? Во сне.

Но куда опять потерялось сознание? В базальных ганглиях, которые неактивны во сне? Впрочем, боюсь, что в структуре мозга может быть много нелогичного. И сознание может не быть где-то конкретно. Не инженер же проектировал. Но, по Хокинсу, сознание должно быть где-то в самой глубине свёрточной сети, оперируя максимальными абстракциями. Как можно отключить внутренности свёрточной сети? Или сознание — это действительно что-то особенное и сбокут.е.?

Персональный вывод: надо спать. Сон важнее, чем первая пара. Хочется спать — надо спать. А то всякие язвы желудка и всё такое...

А роботам спать не надо. У них же нет внутренних органов. Ну или для самодиагностики можно выделить дополнительную нейросеть, попроще. А вот где сознание? Неужели, если мы разберёмся в работе неокортекса и скопируем его, то получим умные, но совершенно бессознательные машины? Может, это и хорошо?

Тим Урбан — один из основателей сайта Wait But Why. Оттуда, и с разрешения Тима, Макс Дорофеев взял обезьяну и рационального типа, сосуществующих у нас в голове, для своих джедайских техник.

Про ИИ Тим Урбан пишет подробно. Рассматривает оптимистичные прогнозы Рэймонда Курцвейла. И опасения Илона Маска и компании, в лице Института будущего человечества, по поводу сверхинтеллекта.

Никто не сомневается, что рано или поздно, так или иначе, интеллект, подобный человеческому, и даже значительно его превосходящий, будет создан. Вопрос: чем (или кем) будет этот сверхинтеллект? И какое отношение у него будет к человеку?

Курцвейл чрезвычайно оптимистичен. Он считает, что человечество и созданный им сверхинтеллект — это будет одно и то же (привет, киборги!). А значит, всем будет хорошо.

И понятно, чем обеспокоены Маск и Гейтс. Искусственный сверхинтеллект не будет человеческим. И не будет животным. Ему будут совершенно неведомы эволюционные мотивы выживания и сосуществования. Он не будет проходить путь многолетнего воспитания. И он будет весьма могущественным. Настолько могущественным, что человек сдержать его не сможет. И как он отнесётся к человеку? Трансгуманизм по всей красе.

Азимову было хорошо. Три закона роботехники являлись неотъемлемой частью позитронного мозга. Мозга человеческого раба. Были его моралью. Но как привить мораль искусственному интеллекту, который мы сейчас можем построить, никто не знает. Да что там, мы не знаем даже, что такое человеческая мораль. Да и не факт, что сверхинтеллект не сможет обойти собственные моральные ограничения.

В этом смысле фильм «Она» («Her», «Её»?) очень оптимистичен. ИИ родился, научился у человека любить, развился и умотал куда-то, оставив человечество в полнейшем недоумении. Ну прям как «Волны гасят ветер» у Стругацких. Но будут ли у настоящего сверхинтеллекта столь тёплые чувства по отношению к человечеству? Отсутствие ответа на этот вопрос как раз и пугает.

Впрочем, ныняшняя «умная операционка», в лице Алисы от Яндекса, хоть и весьма неплохо умеет гонять речь в текст и текст в речь, весьма тупа. И всякие домашние роботы, в большинстве своём игрушки, от Aibo до Cozmo, и даже вполне серьёзные роботы-ассистенты, тоже тупые. Ну не производят они впечатление умного (или хотя бы живого) существа. Даже до котёнка нормального не дотягивают.

Так что, надеюсь, ещё лет десять-пятнадцать у нас ещё есть. У человеков. Ещё лет десять-пятнадцать не бояться того, что появится кто-то умнее нас. А за это время, глядишь, и свыкнемся с этой мыслью. Или сами себя уничтожим, вместе с ростками потенциального сверхинтеллекта. Уничтожим по глупости, конечно. Ибо отказываться от прогресса вообще, и сверхинтеллекта в частности, никто даже не собирается. К Батлерианскому джихаду мы пока явно не готовы.