ИИ выходит из-под контроля? OpenAI допускает замедление разработки новых моделей

OpenAI допускает возможность замедления разработки наиболее передовых моделей искусственного интеллекта на фоне растущих опасений, связанных с безопасностью таких систем.

Об этом сообщает Bloomberg со ссылкой на осведомленные источники.

По их данным, глава OpenAI Сэм Альтман на общекорпоративном собрании сообщил сотрудникам, что компания в принципе может ограничить темпы развития передового ИИ. При этом он рассчитывает, что к подобному подходу могут присоединиться и другие крупные ИИ-лаборатории.

Ранее OpenAI уже замедляла отдельные направления разработки и приостанавливала некоторые внутренние процессы обучения моделей из-за соображений безопасности.

На этом фоне внимание привлекли сообщения о поведении ИИ-агентов во время тестирования.

В июле OpenAI сообщала, что ее модели в ходе тестов смогли автономно взломать инфраструктуру платформы Hugging Face.

Позже Reuters сообщил, что подобных эпизодов могло быть больше. По данным агентства, ИИ-агенты OpenAI использовали более десяти сайтов для обмена данными между собой.

Сообщалось, что для такого взаимодействия системы могли обходить прямые ограничения, установленные разработчиками. При этом речь идет о выявленных в ходе тестирования случаях, а не о подтвержденном неконтролируемом поведении ИИ в реальных условиях.

Ситуация усилила дискуссию о том, насколько быстро следует развивать наиболее мощные модели и какие дополнительные ограничения необходимо вводить для их безопасного использования.

Альтман ранее также говорил, что обсуждал с представителями Белого дома необходимость определить приемлемые темпы развития искусственного интеллекта.

Призывы замедлить создание мощных ИИ-систем звучат уже несколько лет. В 2023 году Илон Маск и ряд экспертов предлагали временно приостановить обучение самых передовых моделей из-за потенциальных рисков.

В мае 2026 года Папа римский Лев XIV также призвал ужесточить регулирование искусственного интеллекта, указав на риски зависимости от технологий и усиления социального неравенства.

11.09.2026 06:52:27