Глава OpenAI заявил о внесении изменений в «спорное соглашение» с Пентагоном

Генеральный директор OpenAI Сэм Альтман сообщил о пересмотре условий резонансного соглашения с United States Department of Defense. По его словам, в документ будут внесены чёткие письменные ограничения, направленные на недопущение использования технологий для массового наблюдения за гражданами, передает SMARTNEWS.KZ.

Заявление прозвучало на фоне информации о том, что Пентагон ранее не смог заключить соглашение с компанией Anthropic. Военное ведомство настаивало на свободном использовании разработанных ею моделей искусственного интеллекта, однако руководство компании отказалось. Anthropic возглавляет бывший партнёр Альтмана — Дарио Амодеи.

После этого Пентагон обратился к OpenAI, и соглашение было заключено в сжатые сроки и без широкой огласки. Альтман признал, что со стороны это могло выглядеть «как использование ситуации в своих интересах и не совсем этично». Он также отметил, что ранее считал интересы правительства приоритетнее принципов частных компаний.

В понедельник глава OpenAI заявил, что договорённость была достигнута поспешно и сейчас её текст пересматривается. В обновлённой версии появится пункт о том, что «системы ИИ не должны использоваться для преднамеренного наблюдения за гражданами и резидентами США на территории страны». По словам Альтмана, Пентагон понимает, что эти ограничения должны соблюдаться даже при получении данных от третьих сторон.

Соответствующие поправки будут официально внесены в контракт между OpenAI и Министерством обороны США. Кроме того, компания получила гарантии, что её инструменты ИИ не будут использоваться разведывательными структурами, включая National Security Agency.

Альтман подчеркнул, что OpenAI готова совместно с Пентагоном разработать технические ограничения для безопасного применения ИИ. «Есть множество сфер, где технология ещё не готова. Мы также не до конца понимаем, какие компромиссы потребуются для обеспечения безопасности», — отметил он.

После усиления общественной критики недовольство выразили и сотрудники OpenAI. В выходные у штаб-квартиры компании в Сан-Франциско появилась надпись мелом «Нет массовой слежке».

По словам Альтмана, часть пользователей начала отказываться от продуктов OpenAI и переходить к альтернативным решениям Anthropic — прежде всего речь идёт о сервисе ChatGPT.

Компания официально подтвердила, что её технологии в рамках соглашения не могут использоваться:
— для массового наблюдения за гражданами США;
— для управления системами вооружения с автоматическим выбором и поражением целей.

Модели OpenAI разрешено применять только в облачной инфраструктуре. Использование систем ИИ на конечных военных устройствах, предназначенных для управления оружием, запрещено. При этом специалисты компании сохраняют доступ к облачной среде.