Про мозги и нейросети

На праздниках в числе прочего увлекся лекциями о нейронный сетях. С одной стороны, мне хотелось чуть лучше понять принцип их работы, с другой, ответить для себя на вопрос, станут ли они основной для «искусственного человека». Грубо говоря, позволят ли нейросети создать бота в игре, который будет не отличим от человека с точки зрения поведения и общения? В итоге пришёл к выводу, что и да, и нет.

Вообще нейросеть — это никакая не сеть, а просто программа. Называются они сетями, потому что их работу проще всего визуализировать и понять, представляя структуру из узлов (нейронов) и связей между ними. В каком-то смысле они просты и гениальны.

При создании нейросетей разработчик решает две глобальные задачи. Первая — выбрать такую архитектуру нейросети, чтобы она как можно лучше решала конкретную проблему, скажем, для распознавания зрительных образов подходят «слоёные» нейросети, примерно как на схеме выше. Вторая задача — это определить коэффициенты связей отдельных нейронов, что достигается посредством «обучения» нейросети на массиве конкретных данных (если цель – распознавание образов, например). Само «обучения» я закавычил, потому что по факту это никакое не обучение, а набор громоздких, но несложных по сути математических операций, которые позволяют найти нужный набор весовых коэффициентов.

Прелесть нейросетей в том, что они позволяют сравнительно доступными математическими методами решить задачи, которые в традиционном программировании если и выполнялись, то чудовищно сложно. Самый яркий пример – это как раз распознавание символов, зрительных образов или речи.

Если бы все буквы выглядели строго одинаково, компьютер мог бы узнавать их, накладывая маски. Но в реальности буквы сильно отличаются, имеют разный размер, располагаются в разных частях зрительного поля и так далее. Нейросети позволяют чисто математически отыскать в них общность. Наша человеческая способность создавать абстракции – результат работы нейросетей мозга, который из «каши» восприятия вычленяет промежуточные структуры, общие для всех объектов данного типа.

Нейросети были изобретены ещё в конце 50-х, но после первого ликования наступил полувековой период охлаждения, потому что вычислительные машины того времени были слабоваты для весьма нагруженной математики нейросетей. Сегодня же возросла не только мощность компьютеров, но и появились огромные базы данных для обучения нейросетей — например, наборы картинок с тэгами, отражающими, что на них изображено.

Мы зачастую даже не осознаём, как часто участвуем в обучении нейросетей. Например, капча в виде плохо пропечатанных слов — это часто реальный фрагмент из книги. Распознавая его, мы помогаем нейросети разбирать некачественную печать или рукописный текст.

В соцсетях несколько лет назад запустили 10YearsChallenge — флешмоб, в рамках которого нужно было выложить фотографию себя десятилетней давности. Как я понимаю, набор таких снимков использовался для создания нейросетей типа FaceApp, которые позволяют состаривать или омолаживать фотографию человека.

Возможности нейросетей, на первый взгляд, безграничны. Допустим, само по себе распознавание образов — штука полезная, но не удивительная, ведь мы и сами так можем. Но нейросети позволяют, например, распознавать и переносить стиль фотографии (писал об этом), превращая черно-белый снимок в цветной, а сделанный днём — в ночной. С помощью нейросетей я сгенерировал вот эту иллюстрацию, а на в соцсетях многие принялись хвалить её и разглядели тонкую душу художника (хотя её там нет, я просто ткнулся в случайный фильтр). Нейросети позволяют создавать дипфейки, с которыми мы поимеем массу проблем в будущем, потому что отличить реальные видео от нереальных (равно как живых людей от ботов) будет всё сложнее. Ещё хуже, нейросети умеют не просто анализировать огромные массивы готовеньких данных, но и обучаться самостоятельно. Меня впечатлило, когда сеть AlphaZero за  4 часа самообучилась игре в шахматы и разгромила самую мощную на тот момент шахматную программу с почти сухим счётом.

Колоссальный потенциал для нейросетей – это вычленение паттернов в массивах больших данных. Представьте, что нейросети дадут множество видеозаписей, на которых отражена мимика и интонации людей, говорящих правду или лгущих. Анализируя их, она сможет выявлять признаки лжи и, вероятно, совсем не те, что замечает человек. Настройтесь, что лет через двадцать собеседование на работу будет проводить электронный эйчар, который заглянет в самую душу.

Пока мы ощущаем ограниченность нейросетей. Осмысленно поговорить с Siri или Алисой ещё нельзя, а рассказ в стиле Гоголя, якобы придуманный нейросетью Яндекса, по факту написан Сергеем Лукьяненко: нейросеть провела стилистическую обработку.

Нейросети допускают забавные ошибки, например, разработчики одной сети не могли понять, почему при распознавании определённых видов рыб нейросеть пытается найти образ, похожий на человеческие пальцы. Оказалось, при её обучении использовались фотки рыб, которых держали счастливые рыбаки, пальцы которых слегка залезали на изображение рыбы.

Но понятно, что эти трудности временные. Технология пухнет, как на дрожжах, так что в ближайшие годы мы будем решать с помощью нейросетей самые рутинные задачи. Я уже предвижу, как они изменят профессию фотографа: возможно, в будущем не нужно будет ловить определённый свет или ждать полнолуния, нужна будет идея и какой-то интересный объект в кадре, остальное же нейросеть возьмёт со снимков лучших фотографов и приладит наилучшим образом. Нейросети наверняка заменят ряд профессий — все те, где работа поддаётся формализации, где есть шаблоны удачных решений, есть «ролевые модели» поведения и богатый опыт предыдущих поколений.

Я провожу такой мысленный эксперимент: нейросети высокого уровня дают прочитать все художественные книги, разделённые на категории, например, по жанрам, аудитории и уровню качества (в реальности критериев может быть много – сотни). И далее нейросеть генерирует собственные книги, созданные на тех принципах, которые она смогла вычленить в творчестве людей. Грубо говоря, мы задаём, что это должен быть лёгкий детектив, рассчитанный на женщин в возрасте 20-40 лет, и нейросеть уже сама понимает, что лучше сделать главным героем мужчину с квадратной челюстью и добавить пяток постельных сцен.

Тут, конечно, в нас поднимается волна негодования, мол, это же не настоящее творчество, и человека на таком не проведёшь… В самом деле? Я почти уверен, что 99% книг, которые издают сейчас, написаны ровно также, как будет писать нейросеть. Они написаны по известным шаблонам с прицелом на ту или иную аудиторию, и этой аудитории они вполне по нраву. Я думаю, что мы в реальности переоцениваем наш «душевный» вклад в разные виды деятельности, поэтому нейросеть заменит если не все сферы, то многие. Даже те, что считаются «священными», вроде проповедей.

И всё же, чем больше я пытался вникнуть в принципы их работы, тем больше понимал, что нейросети — не замена людям вообще. В чем-то они будут лучше благодаря вычислительной мощности. Они смогут работать с колоссальными объемами данных, которые человек просто не в состоянии осмыслить. Они будут находить совершенно дикие закономерности и тем самым будоражить наше воображение.

Однако нейросети, которые существуют сейчас — это лишь великие имитаторы. Я вполне верю, что через 10 лет появятся сетевые боты, которых невозможно будет отличить от людей, скажем, за 20 часов общения. Они воспримут все наши особенности, они будут раздражаться или радоваться, при этом оставаясь холодными, как кремниевая пластинка. Но всё же их похожесть не будет абсолютной, и существует та грань, где проявляется нечто сугубо человеческое. Да, мозг человека – это нейросеть из 100 млрд нейронов, но, скорее всего, не только.

Большую часть времени человек и ведёт себя как нейросеть высокого уровня, что и даёт козырь искусственным сетям. Мы в самом деле порой похожи на хорошо запрограммированных роботов. Однако есть моменты, назовите их хоть озарения, хоть ясновидение, когда человек выходит за любые шаблоны. Это не свойство только человека – это свойство природы вообще. Пока мы не знаем, в чем именно заключается это свойство, пока не поняли природу сознания и причину развития органических систем, нейросети останутся лишь мощными имитаторами той части нашей натуры, которая и сама является нейросетью.

Другое дело, что рано или поздно мы, вероятно, откроем природу сознания, и, не исключено, сможем наградить им нейросети. И тут уже открывается бесконечный простор для фантазии, но об этом – в другой раз.