В отпуске поглядывал одним глазам за успехами ChatGPT и прочих систем ИИ, и темпы их прогресса уже не оставляют сомнений, что в перспективе нескольких лет большая часть среднестатистического умственного труда будет посильна нейросетям. Не факт, что это приведет к увольнению прямо всех сотрудников соответствующих сфер, но вполне себе представляю, как редакцию, айти-контору или юрфирму из десяти человек заменяет один специалист, вооруженный ИИ. Оптимист Сэм Альтман в недавнем интервью с блестящими глазами сказал, что, мол, он очень рад за поколение своих детей, потому что впервые в истории человечества есть возможность в одиночку создать корпорацию с оборотом $1 млрд. Ничего, правда, не сказав про тех, кто окажется за бортом такой корпорации. Гига-бизнесов на весь мир нужно не так уж много, а людей меньше не становится, и чем их тогда занять?
Вчера смотрел интервью с «крестным отцом» ИИ Джефри Хинтоном, который сейчас занял алармистские позиции. На вопрос, кем лучше работать, чтобы не оказаться под ударом ИИ в перспективе лет десяти, он как будто абсолютно серьезно ответил: сантехником. Мол, в области мелкой моторики искусственные системы еще далеки от человека, так что у сантехников лет тридцать еще есть. И другую любопытную вещь сказал: если хотите представить мир, в котором вы не является самым разумным существом, представьте жизнь курицы.
Пока даже в таких удобных для ИИ сферах, как журналистика, проникновение ChatGPT далеко не стопроцентное, но думаю, это вопрос времени. Важнее даже не текущее состояние, а скорость. Когда появятся системы, способные к самообучению и экспериментированию, процесс может приобрети лавинообразный характер.
И у меня вопрос больше даже философский: что остается от человека?
Промышленные революции тоже навели шороху и изменили структуру общества, но они подняли статус человека, избавив его от животного, мускульного труда и сместив баланс в область того, что мы называем чисто людским: в область интеллекта, разума и творческости. Эти революции меняли роль человека в мире, но не вытесняли нас из мира. Одни рабочие места исчезали, другие появлялись. Становилось меньше крестьян, но больше рабочих и больше интеллектуалов. Разница в том, что промышленные революции механизировали небольшую ЧАСТЬ человеческого труда, оставляя непаханое поле для дальнейшего развития. А ИИ в перспективе заменит ПОЧТИ ВЕСЬ человеческий труд, причем самую престижные его сферы, не создавая при этом понятной альтернативы.
Проблема и в том, что нейросети могут не только сравняться с человеком в интеллекте, но и заметно превзойти его. Зачем тогда нужен человек? Что от него остается? Какие еще есть конкурентные преимущества у человека, чтобы он оставался практической ценностью для общества, если альтернатива попросту дешевле, надежнее, производительнее? Гуманизм рискует превратиться в манипуляцию, нужную для убеждения людей самих себя в собственной ценности.
Понятно, что есть какие-то ниши, где люди останутся, но мой вопрос касается не «счастливого процента» топовых разработчиков или нейрохирургов, а 99% оставшихся людей, от водителей до руководителей среднего уровня. ИИ за несколько часов игры сам с собой в шахматы достигает уровня гроссмейстера: сколько времени ему понадобится в виртуальной симуляции (которую создает Google), чтобы научиться управлять вашей фирмой лучше вас или вести боевые действия с помощью дронов-камикадзе?
Вы скажете: неуязвимых профессий больше. Людям важна, например, творческость. Но это спекулятивно. Творческим мы считаем то, что производит впечатление и имеет элемент новизны. Не вижу принципиальных препятствий для искусственных систем порождать неожиданные идеи, которые люди интерпретируют как творческие (возьмите «современное искусство», в котором ценность произведению, скорее, присваивается коллективным договором). В момент, когда мы не сможем отличить фильм настоящего автора от искусственного, вопрос о творческости потеряет смысл.
Можно возразить, что люди нуждаются в других людях по своей природе, и мы хотим лечиться у живого врачу и читать живых авторов. Хотим ли или просто не было альтернативы? Мы пользуемся кассами самообслуживания и читаем новости из подборки, сформированной алгоритмом, считая это в чем-то даже удобным. А если цифровой терапевт даст нам медицинский совет в 10 раз быстрее и в 100 раз точнее, чем терапевт настоящий, любителей толкаться в поликлиниках не останется.
Да, наверное, люди важны для самих людей, но это напоминает искусственную дружбу зебр в зоопарке. Вот есть люди, которые уже не нужны для пахоты или управления, и вся их цель — в обеспечении взаимного досуга и поддержания иллюзий нужности и важности в мире, где от них уж мало что зависит. Религия для отчаянных человеколюбов. При этом интроверты и мизантропы, коих сейчас немало, предпочтут решать все проблемы с ИИ. Хотите поговорить по душам? Да, пожалуйста: он еще и совет даст, и поддержит самооценку, и соврет во спасение.
Эти мысли неудобны для нас пока, потому что мы слишком верим в некий божественный статус человека. А это неправда. Мы — довольно молодое звено эволюции, у которого интеллект развивался быстрее, чем тело и глубинные части мозга, что делает человека в каком-то смысле уродливым гибридом: он одной частью устремлен в будущее, а другая его часть является животной средневековой сущностью, жадной, жестокой, безразличной, инвазивной, разрушительной. И несколько тысяч лет цивилизации не изменили этого в корне.
До сих пор человек при всех своих минусах мог спасаться мыслью, что он тут такой один. Не совершенный, но чемпион. Не сильнее других животных, но стократ умнее. И мы вообще не думаем о жизни вне этой аксиомы. И в этом наша слабость.
Даже без апокалиптичных сценариев, где ИИ пытается уничтожить человека, перспектива получается странная. У человека как будто не остается уникальных качеств, которые делают его незаменимым для цивилизованной жизни на планете. Ну, то есть элиты-то, наверное, всегда найдут для себя нишу и, может быть, ИИ будет работать с ними или на них. А вот чем занять себя остальным массам и как дифференцировать людей способных от бездарных, не очень ясно. Наш уровень жизни и самооценка очень привязаны к работе, которую мы делаем, она зачастую определяет нашу общественную пользу и наш душевный настрой. Кто мы без работы, без дела жизни, без ощущения важности для общества? Даже если ввести для нас безусловный доход (вряд ли большой), для людей деятельных и гордых статус вторичных «принеси-подаев» будет болезненным и сродни рабству.
Не исключено, для переизобретения роли человека потребуются очень масштабные изменения, потому что корпоративный капитализм, усиленный ИИ, кажется довольно взрывоопасной комбинацией, далекой от идеалов гуманизма. Я могу вообразить гармоничное общество будущего, где всем управляет сверхмозг, а люди, подобно Древним грекам, философствуют о жизни и пируют. Но при нынешних исходных такой идеал как будто недостижим.
Надеюсь, я что-то упускаю в природе человека. Нечто такое, что делает его ценностью. Или просто нам удобнее думать, что это «что-то» существует?
Не соглашусь. Представим, что ИИ заменит весь труд человека. Вопрос, в другом, как человеку зарабатывать деньги? На что он будет приобретать те же самые продукты питания, одежду, медицинские услуги?
Занятий для человека предостаточно. Например, мир исследовать. Путешествовать. Заняться самопознанием. Работать физически над своим телом. Ручной труд, думаю будет цениться всегда. Да, просто жить в гармонии с природой и познании смысла жизни.
Главное, чтобы анархии не произошло. Человеку ведь, только дай возможность ничего не делать, и дай халяву. Он тут же покажет все свои пороки.
Я соглашусь с вами, что вариант цифровой утопии вполне возможен. Собственно, выше об этом написал.
Мои сомнения в другом:
1. Временные рамки: я думаю, в краткосрочной перспективе общество просто не успеет адаптироваться, и тысячам людей, чья работа будет девальвирована, сложно будет резко переключиться на путешествия или гончарное искусство, особенно если экономика не будет этому способствовать.
2. Фундаментальные ограничения капитализма: чтобы возникла утопия, по сути, нужен какой-то другой общественный строй, с другим пониманием ценности труда (не производительность, а, например, приятность для других людей), и пока этого гипотетического строя нет даже на горизонте. И, возможно, нужен серьезный кризис, чтобы у людей возник импульс такой строй искать.
Я тут много слушаю и читаю на тему, в принципе, есть вполне здравые идеи о безусловном доходе, об изменении отношения к труду. Есть оптимисты, которые считают что ИИ-правители — это не экзистенциальная угроза, а спасение человечества от глупцов во власти. Все это отнюдь не фантастика и тоже может случиться. Но ИИ развивается со скоростью взрыва, а власть и экономический порядок меняются иногда поколениями людей, поэтому тут возможен рассинхрон.
>>>Главное, чтобы анархии не произошло. Человеку ведь, только дай возможность ничего не делать, и дай халяву. Он тут же покажет все свои пороки.
Да, это один из рисков. Помимо анархии я бы назвал деградацию людей. Уже сейчас мы можем часами тупо листать ленту соцсетей, даже не понимания, зачем нам это. Можем шортсы смотреть нонстопом, осознавая, что это как семечки — начал, не остановишься. У ИИ могут появиться более изощренные способы овладения вниманием людей, чтобы превратить их в пассивных и покорных сущностей, лишенных собственной субъектности и целей (как известно, такой породой людей управлять легче).
Проблема скуки неработающего человека вполне очевидна, и я думаю, на ближних подступах будет решаться так, чтобы человек сам себе казался занятым, нужным, что-то делающим. А что такой человек будет представлять на самом деле — вопрос отдельный. Сидит целый день и философствует в пустоту с виртуальным собеседником, считая себя новым Сократом (а собеседника цифровым Платоном, который прилежно записывает за учителем)
Вспомним фильм, который на мой взгляд точно описал будущее с ИИ. По крайней в мере в каких-то частях. Это «Матрица». ИИ правильно сделал дав людям иллюзорный мир в котором они могут быть кем хотят, делать что хотят и в этом котором они собственно выстроили то общество, наподобие которого мы сейчас и живем. По сути даже в иллюзорном мире, люди не смогли себя реализовать так, как они хотят. Или не хотят)
Но в то же время, ИИ разумно использовал тела людей в свою пользу. Люди не мешают ИИ живя в мире грез, ИИ не мешает людям использую энергию их тел.
Это ли не идиллия?
Да, как вариант.
Я думаю, это интересная тема для размышления, например, тело человека как будто не приспособлено к малоподвижному образу жизни полностью в VR, с другой стороны, ИИ, скорее, обеспечит иллюзорность в реальном мире, то есть мы будем бегать на пробежки, встречаться с людьми, ездить на конференции, но как бы понарошку, как животные в зоопарке. Не с целью добыть еду