Окулус

Читая про новую систему Роскомнадзора под названием «Окулус» я невольно вспомнил один из своих рассказов 2017 года, где силовики использовали нейросеть «Октопус». Видимо, что в воздухе витало.

Об «Окулус» можете почитать, например, на сайте «Ведомостей». Он позволяет выявлять и классифицировать нелегальный контент в интернете, включая тексты, видео, изображения. В списке приоритетов указаны призывы к экстремизму, суициду, массовым беспорядкам, а также всё что связано с порнографией, ЛГБТ-тематикой, наркотиками. И, конечно, на переднем плане борьба с фейками о специальной военной операции на Украине, где, по мнению надзорщиков, происходит «подмена реальных фактов специально сконструированной реальностью».

Новость я воспринял, понятно, без радости. Появление системы было неизбежным (рассказ в подтверждение), и в нормальных условиях я бы сказал, что от неё может быть толк, потому что совсем бесконтрольный интернет — так себе помойка. Но события последнего года резко изменили критерии «допустимого контента» и переформулировали понятие правды (это ровно то, что идёт из уст условных Конашенкова и Пескова и ни шага в сторону). И поскольку в России появилась полноценная цензура и усиливаются репрессии несогласных, «Окулус» неизбежно будет замазан в таких делах, превратившись в ещё один инструмент подавления. Думаю, и его спешный запуск связан в большей степени с информационной повесткой СВО, поскольку отловить «фейки» вручную вряд ли возможно, а стукачество, к счастью, ещё не так распространено.

Любая подобная система со временем начнёт незаметно подменять людей, которые будут всё больше полагаться на её «объективную оценку». При этом критерии могут быть отнюдь не безупречными, но кого это волнует, ведь в данном случае человеческий фактор вроде бы исключён. Полноценно система заработает в 2025 году, и, думаю, постепенно автоматизируют и составление процессуальных документов, потому что пока это остаётся узким горлом репрессий: на каждого вольнодумца бумаги не напасёшься.

В рассказе «2037» описана система «Октопус» с максимально формальной логикой. По сюжету, система выросла из безобидной нейросети, которая помогала интернет-пользователям искать информацию (что-то вроде яндексовской Алисы). Постепенно она совершенствовалась, стала писать книги и трактовать сложные тексты, а потом попала в поле зрение силовиков, которые применили её для «превентивного правосудия» — то есть выявления и наказания преступников ещё до того, как они что-то совершили. В основу вердикта ложатся интернет-профили, высказывания, настроения, которые Octopus оценивает с учётом предыдущего опыта. То есть если ваше поведение в сети на сколько-то процентов похоже на поведение осуждённых ранее маньяков, значит, вас можно воспринимать как маньяка (но наказать мягче, ведь вы ещё ничего не сделали). Ну и особая жуть: для профайлинга «Октопус» использует публикации, сделанные в том числе десяток лет назад. Ты отвечаешь не только за то, кто ты есть, но и за то, кем ты был. Это перекликается с нынешним подходом, когда очередной запрет начинает действовать задним числом, вынуждая СМИ удалять или править старые публикации.

Развязка рассказа «2037» драматична, но думаю, не лишена смысла.

Добавить комментарий