Minecraft + ИИ — так выглядит будущее?

Наткнулся на прошлогодний эксперимент, в котором калифорнийская компания Fundamental Research Labs (Altera AI) населила мир «Майнкрафта» ИИ-ботами на основе ChatGPT o1. «Майнкрафт» очень разнообразный, и его использовали как песочницу для изучения нейросетевых ботов, которым дали не четкие инструкции к действию, а лишь общий вектор и большую свободу действий.

Результаты получились любопытными, потому что боты начали создавать свою мини-цивилизацию и проявляли большую автономность. У них появилось распределение труда, религия и иерархия. Они общались между собой, торговали и исследовали мир.

Насколько я понял, считать этот эксперимент полноценным «эмбрионом» новой ИИ-вселенной, которая разовьется, как грибок в чашке Петри, пока нельзя. Во-первых, компания не разглашает промпты, которые использовались для создания ботов, и они, скорее всего, достаточно сложные, потому что боты имели память (а для обычных ИИ ограниченность контекста — одна из проблем), имели заданный тип личности, цели и так далее. Во-вторых, временами цивилизация заходила в тупик, ботов зацикливало и разработчикам приходилось менять инструкции. В-третьих многие критики отвечают, что получилась не полноценная органическая система, а квази-общество, которое лишь внешне напоминает людей, потому что его участники копируют наше проведения — их обучили на массиве человеческих знаний.

Но эксперимент в любом случае интересный, потому что наглядно показывает невероятную способность AI-систем выходить за рамки скриптов и проявлять инициативу, нарушать законы и читерствовать (были, например, священники, подкупающие прихожан для увеличения паствы). Сами разрабы смотрели на него как на скопище AI-агентов, которых нужно заставить сотрудничать без ущерба для «бога» (человека). Поскольку мы движемся к миру, где большая часть работ будет выполнять AI-агентами, эксперимент не лишен смысла.

Интересен и другой вопрос: может ли AI-система без начального обучения сама разобраться в мире «Майнкрафта» и жить в нем, имея лишь скупой набор инструкций (выживай, обеспечивай безопасность, создавай социальные связи и так далее)? То есть речь об эксперименте, где AI-система не опирается на предустановленный массив знаний, лишь имитируя поведение людей, а сама вырабатывает правила и инструкции жизни в сложной среде. На YouTube уже есть такие эксперименты, результаты не такие эффективные, но лиха беда начало.

Здесь есть аналогия с шахматами: если первые компьютеры обучали на реальных партиях и они, по сути, подражали людям, то с появлением AlphaGo все перевернулось с ног на голову. ИИшке лишь задавали правила шахмат, после чего она играла сама с собой, за 4 часа самообучения выходя на уровень гроссмейстера.

Я бы назвал таких ботов «органическими», то есть обученными по правилам среды, в которой им предстоит действовать. Подобные техники уже используются для развития роботов и система автопилота, но потенциал тут почти безграничный. Вы берете любую задачу, создаете модель мира, после чего AI самостоятельно находит оптимальный алгоритм взаимодействия со средой для достижения тех или иных целей. Представьте ИИ-бота, который становится мастером в компьютерных военных стратегиях, изучив почти все доступные человеку принципы боевых действий… Идеальный главнокомандующий?

Одним из первых применений таких систем наверняка будут ИИ-боты (NPC) в играх, что открывает новое измерение виртуальных сред. Если сейчас все боты очень кондовые и скучные, то с помощью ИИ они могут самостоятельно развиться в рамках игровой вселенной, вырабатывая уникальный характер, харизму, стиль. Думаю, такие виртуальные среды могут стать чем-то большим, чем просто игры, и люди предпочтут «переселяться» в удачные миры такого типа.

Ну, а дальнейшее развития ИИ-ботов пока загадка. Ясно лишь, что этого уже не избежать, и нам пора привыкать к мысли, что помимо других людей и домашних животных скоро мы будем воспринимать ИИ как вполне самодостаточные, субъектные сущности, с которыми нужно учиться жить. И главный вопрос, как мы впишемся в этот новый дивный мир. Думаю, для многих людей, особенно моего поколения и старше, это будет крайне болезненный процесс, ибо нас учили по-другому. Довольно скоро ИИ взорвет рынок труда, сферу развлечений и общение, и сумеет ли человечество быстро и эффективно приспособиться к этой новой реальности и извлечь из этого выгодны — я не уверен. Скорее всего, нет. В интересное время живем, и немного пугающее.