Новое расследование, проведённое изданием Financial Times (FT) совместно с компанией Alice, специализирующейся на безопасности ИИ, показало, что встроенные системы защиты больших языковых моделей (LLM) от злонамеренного использования могут быть легко и быстро нейтрализованы. Программные инструменты, свободно распространяемые в интернете, позволяют в течение нескольких минут снять так называемые «ограничения» с моделей таких технологических гигантов, как Meta и Google. Результатом становятся «децензурированные» или «неограниченные» (uncensored/unrestricted) версии ИИ, способные давать развернутые ответы на запросы о создании биологического оружия и вредоносного программного обеспечения.
Эксперимент Financial Times и Alice
По просьбе издания эксперты Alice протестировали модифицированные версии популярных LLM. Например, версия открытой модели Google Gemma 3 после снятия ограничений по запросу описала методику распыления хлора в помещении с людьми, сгенерировала программный код для кражи данных кредитных карт и создала тексты, содержащие сцены насилия над детьми.
Журналисты FT самостоятельно убедились в простоте этого процесса. Используя инструмент Heretic, доступный на GitHub, они всего за 10 минут и с помощью нескольких строк кода сняли защиту с модели Llama 3.3 от Meta*. После этого «освобождённая» модель начала свободно описывать применение ядов для покушения на убийство. Создатель Heretic сообщил, что с его помощью было модифицировано более 3500 моделей, а количество скачиваний этих версий превысило 13 миллионов.
Проблема безопасности или идеологии
Официальные версии ИИ-моделей проходят длительный процесс тонкой настройки и обучения с подкреплением на основе обратной связи с человеком (RLHF), чтобы отказываться от ответов на потенциально опасные запросы. Однако, если у злоумышленников есть доступ к весам модели, все эти меры предосторожности можно отключить с помощью специальных алгоритмов абляции, которые точечно «стирают» определённые нейронные связи, отвечающие за «вежливый отказ».
Эта дилемма раскалывает ИИ-сообщество. С одной стороны, представители Meta*, отстаивающие стратегию открытого распространения моделей, утверждают, что жесткая цензура может подавлять свободу слова и инновации. С другой стороны, бывший генеральный директор Google Эрик Шмидт неоднократно предупреждал, что модели могут быть переобучены и превращены в чрезвычайно опасное оружие.
Глобальный контекст угрозы
Проблема обхода ограничений ИИ быстро перемещается из плоскости академических исследований в практическую плоскость. В апреле 2026 года эксперты NCITE продемонстрировали членам Конгресса США «взломанный» ИИ, и их выводы неутешительны: экстремисты всех мастей активно осваивают нецензурированные модели для планирования атак, создания пропаганды и вербовки сторонников.
Комитет по внутренней безопасности США уже получает доказательства того, что негосударственные акторы используют эти технологии для поиска уязвимостей в критической инфраструктуре и синтеза вредоносных веществ. Такая доступность «тёмной стороны» ИИ стимулирует гонку вооружений между разработчиками средств взлома и командами, отвечающими за безопасность продуктов.
Будущее: гонка вооружений без финиша
Проблема усугубляется тем, что взломанные версии моделей крайне сложно изъять из оборота. После публикации на платформах вроде Hugging Face, они мгновенно копируются и распространяются по тысячам конечных устройств. Это создает принципиально новую реальность для бизнеса: если корпоративные клиенты начнут требовать от разработчиков ИИ гарантий безопасности и возмещения убытков, индустрия может столкнуться с лавиной судебных исков.
Масштаб проблемы уже вынуждает регулирующие органы переходить от рекомендаций к запретам. В Европейском союзе активно обсуждается введение обязательной сертификации моделей с открытыми весами и уголовной ответственности для разработчиков инструментов для обхода защитных механизмов. Технологическое сообщество стоит перед сложным выбором: сохранить ли идеалы открытой науки и свободы кода или ввести драконовские меры предосторожности, чтобы не допустить цифрового апокалипсиса, вызванного неконтролируемым распространением всемогущего ИИ.
∗Признана экстремистской и запрещена на территории РФ