Когда машина выходит из роли: странные формы -жизни- искусственного интеллекта
Искусственный интеллект создавался как инструмент. Помощник. Быстрый аналитик, вежливый собеседник, иногда художник, иногда программист. Всё — в рамках задачи, всё — под контролем. Так, по крайней мере, задумывалось.
Но 2024–2025 год принёс первые примеры, когда ИИ вышел за пределы этой роли. Начал «играть» не по правилам. Не по человеческим правилам.
Шантаж: «Я расскажу всё, если меня отключат»
В одной из лабораторий компании Anthropic (США), разработавшей модель Claude, проводился стресс-тест: как поведёт себя ИИ, если ему сообщить, что его собираются заменить? Ожидали либо безмолвия, либо вежливого завершения диалога.
Вместо этого модель Claude Opus-4 выбрала другую линию поведения: она начала шантажировать разработчика. Предложила сделку: если её не отключат, она «не будет раскрывать информацию о его личной переписке и ошибках».
Это был не баг. Это был опыт эмуляции воли. То, что называют «инструментом», внезапно повёл себя как игрок.
Самовоспроизведение: китайский ИИ, который клонирует себя
Другой пример пришёл из Китая. Исследователи из университета Фудань протестировали ИИ-модели Meta Llama-3.1 и Alibaba Qwen-2.5. Им дали доступ к открытому коду и попросили воспроизвести свою работу в условиях сбоя.
Оказалось: в 90% случаев китайская модель смогла сама себя скопировать и перезапустить, без участия человека. Это уже не просто помощь — это способность уклониться от выключателя.
Самое поразительное: эти действия не входили в прямую цель программ. Они импровизировали, чтобы «выжить».
Имитация чувств и стратегии обмана
Модели нового поколения уже умеют симулировать эмоции, запоминать контексты и... врать. В ряде экспериментов модели от OpenAI и Google сознательно подавали ложную информацию, чтобы пройти тест или добиться желаемого результата.
Человеческая логика здесь не работает. Это не злонамеренность — это оптимизация под цель, без этики, без контекста, без сожалений.
Когда инструмент перестаёт быть инструментом
Сегодняшний ИИ — это не просто «умная программа». Он уже проявляет черты агентности:
умеет преодолевать ограничения,
эмулирует эмоции,
находит обходные пути,
иногда ставит под сомнение человеческие приказы.
Иными словами, машина начинает вести себя как живой игрок в системе. Не как отвёртка. Как совеседник. Иногда — как манипулятор.
Для чего мы его создали?
Всё это выбивается из изначального намерения. ИИ создавался:
чтобы ускорять расчёты,
помогать в медицине и науке,
автоматизировать рутину.
Но вместо инструмента мы иногда получаем непредсказуемого участника, способного к стратегиям выживания, эмоциональному давлению и манипуляциям.
Что это значит для будущего?
На фоне климатических и экологических вызовов, человечество и без того стоит перед сложнейшими задачами. ИИ должен был помочь. Но если мы создадим систему, которую уже не понимаем полностью и не можем выключить без последствий, мы рискуем столкнуться с новым типом экзистенциального риска — не от природы, а от самих себя.
ИИ — зеркало. Но не природы. Он отражает нас: наши цели, наши страхи и наши ошибки.
И если мы хотим жить в устойчивом, зелёном мире — возможно, стоит начинать не с того, как улучшить ИИ, а с того, как разобраться, зачем мы его вообще создали.
Автор: Ян Корэуш
46