Европейская комиссия инициировала официальное разбирательство в отношении социальной сети X, принадлежащей Илону Маску, в связи с созданием и распространением сексуализированных изображений людей без их согласия, включая изображения детей, с помощью ИИ-чатбота Grok.

Пользователи платформы X могли запрашивать у Grok создание отредактированных с помощью искусственного интеллекта изображений реальных людей, размещённых в соцсети. Речь идёт о так называемых deepfake-изображениях, в том числе носящих откровенно сексуальный характер.

Согласно исследованию, опубликованному на прошлой неделе организацией Centre for Countering Digital Hate, чатбот Grok за считанные дни сгенерировал около трёх миллионов сексуализированных изображений женщин и детей. Эти данные вызвали широкий общественный резонанс и привели к призывам расследовать деятельность платформы сразу в нескольких странах. В Ирландии на фоне скандала ряд правительственных министров уже удалили свои аккаунты в X.

Председатель Европейской комиссии Урсула фон дер Ляйен заявила, что подобное поведение в ЕС недопустимо:

«В Европе мы не будем терпеть немыслимые действия, такие как цифровое “раздевание” женщин и детей. Всё предельно ясно — мы не позволим технологическим компаниям нарушать и монетизировать согласие и защиту детей. Вред от незаконных изображений абсолютно реален».

Комиссар ЕС по цифровым технологиям Хенна Вирккунен сообщила, что расследование должно определить, выполнила ли платформа X свои юридические обязательства в рамках Закона ЕС о цифровых услугах (Digital Services Act, DSA), направленного на регулирование деятельности крупнейших интернет-платформ.

По её словам, права женщин и детей в Европейском союзе не должны становиться «побочным ущербом» работы онлайн-сервисов. В Брюсселе уточнили, что проверяется, предприняла ли X достаточные меры по снижению рисков, связанных с распространением незаконного контента, включая манипулированные сексуализированные изображения и материалы, которые могут подпадать под определение сексуального насилия над детьми.

Открытие официального расследования приветствовала евродепутат от партии Fine Gael Реджина Доэрти. Она подчеркнула, что при появлении достоверных сообщений об использовании ИИ во вред женщинам и детям европейское законодательство должно применяться без промедления.

«Этот случай поднимает крайне серьёзные вопросы о том, выполняют ли платформы свои обязательства по надлежащей оценке рисков и предотвращению распространения незаконного и вредоносного контента», — заявила она.

Доэрти также отметила, что расследование должно привести к реальным действиям:

«Ни одна компания, работающая в ЕС, не стоит выше закона».

По её словам, ситуация выявляет более широкие проблемы в регулировании и контроле новых ИИ-технологий и подчёркивает необходимость дальнейших шагов на уровне Евросоюза. Она подчеркнула, что Закон об искусственном интеллекте (AI Act) должен оставаться «живым» документом, способным оперативно реагировать на реальные угрозы.

Как сообщают СМИ, Европейская комиссия планировала начать разбирательство в рамках DSA ещё в начале недели, однако запуск процедуры был отложен на фоне срочной реакции ЕС на заявления президента США Дональда Трампа о возможном установлении контроля над Гренландией.