ЕС начал проверку платформы X, принадлежащей Илону Маску

По информации SMARTNEWS.KZ, Европейский союз инициировал масштабное расследование в отношении чат-бота с искусственным интеллектом Grok на платформе X, принадлежащей Илону Маску. Причиной стало то, что Grok мог создавать контент сексуального характера, включая материалы с участием несовершеннолетних, что вызвало широкий общественный резонанс.

Скандал разгорелся в конце прошлого года, когда чат-бот по запросу пользователей массово создавал цифровые «обнажённые» изображения женщин и детей. Это вызвало критику на мировом уровне.

Изначально X объявила, что возможности Grok будут ограничены только для платных пользователей. Позднее платформа полностью заблокировала функцию создания изображений реальных людей в открытом или откровенно сексуальном виде для всех пользователей.

Представители Европейской комиссии заявили, что в ходе расследования будет проверено, насколько корректно X оценила риски и применяла меры предосторожности при запуске функции Grok в ЕС. Хенна Вирккунен, старший чиновник по вопросам технологий, безопасности и демократии, отметила:

«Сексуальные дипфейки с участием женщин и детей — это форма насилия и нарушение человеческого достоинства, недопустимая в любом виде. Расследование направлено на то, чтобы определить, выполняла ли платформа свои законные обязанности и учитывала ли права европейских граждан, включая права женщин и детей, или рассматривала их как «побочный ущерб» сервиса».

CNN уточнили, что X в официальном заявлении от 14 января подтвердила меры по удалению незаконного контента, включая материалы с сексуальным насилием над детьми и обнажённые изображения без согласия, а также уведомление соответствующих органов о нарушениях.

Представители ЕК отметили, что, несмотря на последующие ограничения, компания не полностью оценила риски до запуска чат-бота.

Расследование проводится в рамках закона ЕС о цифровых услугах (Digital Services Act), который обязывает крупные технологические компании усиливать меры против незаконного и вредоносного контента. Сроки расследования пока не объявлены, однако представители комиссии не исключают возможность штрафов.

«Наша главная цель — изменить поведение платформы», — отметил неназванный европейский чиновник.