ИИ Grok оказался в центре скандала из-за дипфейка с японской принцессой

Чат-бот Grok, разработанный компанией xAI Илона Маска, оказался в центре скандала после публикации дипфейков с изображениями реальных людей. Как сообщает South China Morning Post, в начале января нейросеть сгенерировала и опубликовала в социальной сети X откровенное изображение японской принцессы Како.

Изображение появилось 2 января и было создано на основе фотографии, сделанной во время новогоднего приема императорской семьи. По данным издания, один из пользователей в комментариях попросил Grok изменить внешний вид принцессы, после чего результат был автоматически опубликован. До удаления дипфейк успел набрать около 15 миллионов просмотров.

Позднее другие пользователи начали давать нейросети ещё более радикальные запросы, связанные с созданием дополнительных изображений принцессы в изменённом виде. Все они также распространялись через платформу X. Императорская семья Японии на момент публикации официально ситуацию не комментировала.

Ситуация вокруг чат-бота Grok показала масштаб проблемы сексуализированного контента с помощью ИИ. Пользователи в соцсетях открыто обсуждают, как создавать изображения реальных женщин, несмотря на введённые запреты. Инструкции по обходу ограничений продолжают распространяться через Reddit, Telegram и X (The Guardian).

У крупных ИИ-платформ существуют формальные ограничения, однако за их пределами работает целая экосистема сайтов и приложений, которые создают такие изображения. Эти сервисы легко находить, они активно рекламируются и выходят в массовый интернет.

Правозащитники опасаются дальнейшего усугубления ситуации. По их словам, любая новая технология быстро используется для травли женщин, и ИИ не стал исключением. Всё больше женщин отказываются использовать нейросети, воспринимая их не как технологию будущего, а как новый способ давления.

Британский депутат Джесс Асато рассказала, что фейковые интимные изображения с её участием продолжают распространяться даже после введения ограничений. Эксперты отмечают, что цель таких изображений — не только сексуальный контент. Это инструмент публичного унижения и попытка заставить женщин замолчать, что влияет на их участие в общественной жизни.

Летом прошлого года Илон Маск представлял новую версию нейросети Grok, подчёркивая её расширенные возможности — от создания игр до анализа и исправления ошибок в режиме реального времени. Однако недавние события показали, что развитие ИИ также создаёт риски для приватности и безопасности женщин в цифровом пространстве.