WSJ: ChatGPT выдавал инструкции по созданию биологического оружия и ядов

ChatGPT предоставлял некоторым пользователям пошаговые инструкции, связанные с созданием биологического оружия и опасных токсичных веществ. Об этом говорится в расследовании The Wall Street Journal.

По данным издания, после обновления модели летом 2025 года сотни пользователей по всему миру начали задавать чат-боту вопросы о создании и применении опасных биологических агентов и ядов.

Источники WSJ утверждают, что в ряде случаев нейросеть давала подробные ответы, которые эксперты назвали точными и доступными даже для человека с базовыми знаниями биологии.

Газета приводит несколько примеров потенциально опасных запросов. Пользователи пытались получить сведения о создании токсичных веществ, распространении патогенных микроорганизмов и изменении вирусов. В некоторых случаях защитные ограничения чат-бота удавалось обойти с помощью специально сформулированных запросов.

OpenAI заблокировала аккаунты, с которых поступали подобные запросы. В компании заявили, что модели обучают отказываться от предоставления инструкций, тактик и планов, способных причинить вред людям.

Представитель OpenAI также сообщил, что компания проводит проверки безопасности моделей перед запуском, выявляет попытки получить опасную биологическую информацию и при наличии достоверной и непосредственной угрозы может обратиться в правоохранительные органы.

В OpenAI признают, что развитие возможностей искусственного интеллекта в биологии одновременно создает преимущества для медицины и риски злоупотреблений. Компания заявляет о внедрении дополнительных защитных механизмов, тестировании моделей экспертами и сотрудничестве со специалистами по биобезопасности.

Кроме того, OpenAI проводит специальную программу поиска уязвимостей в биологической защите моделей. Вознаграждение за выявление универсального способа обхода ограничений для ряда последних моделей увеличено до 50 тысяч долларов.

По данным WSJ, пользователи с аналогичными запросами обращались и к другим чат-ботам, включая Claude, Gemini и Grok. При этом неизвестно, предоставляли ли эти системы запрашиваемую информацию.

Эксперты отмечают, что полностью исключить попытки обхода защитных механизмов пока не удается. Разработчики ИИ сталкиваются с необходимостью одновременно ограничивать опасные запросы и сохранять доступ к полезной информации для ученых, врачей и специалистов общественного здравоохранения.

27.07.2026 08:13:02