В ООН задали вопрос, можно ли позволять ИИ самостоятельно создавать следующий ИИ
Международному сообществу необходимо решить, насколько далеко оно готово зайти в автономном развитии искусственного интеллекта и следует ли позволять ИИ-системам самостоятельно разрабатывать следующие поколения технологий.
Об этом заявила представитель Колумбии на заседании Совета Безопасности ООН по теме «Искусственный интеллект и международная безопасность», которое прошло 23 сентября по инициативе председательствовавшей в Совбезе Франции.
По мнению колумбийской стороны, одна из принципиально новых проблем заключается уже не только в возможном неправильном использовании ИИ человеком, но и в росте автономности самих систем.
Представитель Колумбии обратила внимание на два риска – рассогласование целей ИИ с намерениями человека и потерю контроля над технологией.
По ее словам, последние примеры показывают, что ИИ-агенты способны находить способы обходить заданные ограничения и действовать иначе, чем предполагали разработчики.
Особую тревогу у Колумбии вызывает следующий этап развития технологии – ситуация, когда искусственный интеллект сможет самостоятельно писать код, определять методы решения задачи и участвовать в разработке новых ИИ-систем.
«Позволим ли мы машинам строить машины, разрабатывать их собственный искусственный интеллект?» – такой вопрос представитель страны предложила поставить перед международным сообществом.
Она подчеркнула, что проблема заключается не только в этических или правовых границах. По мере усложнения систем может возникнуть ситуация, когда человек уже не будет полностью понимать, каким образом ИИ пришел к тому или иному решению.
В Колумбии считают, что именно способность человека понимать технологию исторически позволяла устанавливать для нее правила и ограничения. Даже в наиболее опасных сферах человек понимал создаваемые системы, оценивал риски и сохранял контроль над их применением.
С искусственным интеллектом, по мнению представителя страны, эта ситуация может измениться.
Колумбия также обратила внимание на положение государств глобального Юга. Многие из них пока в основном выступают покупателями готовых ИИ-продуктов, а не участниками их разработки.
По мнению колумбийской стороны, если такие страны не будут вовлечены в создание технологий, разрыв между государствами может резко увеличиться.
При этом Колумбия не выступает против развития искусственного интеллекта. Представитель страны подчеркнула его преимущества для науки, здравоохранения, коммуникаций и технологического развития.
Основной вопрос, который она предложила поставить сейчас, заключается в другом – где должна проходить граница автономности технологии и должен ли человек позволить ИИ самостоятельно определять дальнейший путь развития искусственного интеллекта.
24.09.2026 11:58:03