Депутат британского парламента просит Высокий суд обязать xAI прекратить создание чат-ботом Grok ее откровенных изображений

Джесс Асато, депутат от Лейбористской партии от Лоуestoфта, обратилась в Высокий суд Лондона с требованием обязать xAI Илона Маска прекратить генерацию чат-ботом Grok сексуализированных изображений с ее участием. Этот шаг подкрепляет иск, который, по словам ее адвокатов, может помочь определить степень ответственности ИИ-компаний за то, что производят их инструменты.

Как сообщает агентство Reuters, опубликовавшее эту новость 28 июля, Асато добивается судебного предписания, которое потребовало бы от xAI внедрить то, что в ее иске описывается как «эффективные и постоянные технические меры» для предотвращения создания отредактированных изображений с ней.

Это требование дополняет иск, который она подала в Высокий суд в июне. В иске заявляется о неправомерном использовании частной информации и нарушении закона Великобритании о защите данных, а также содержится требование о возмещении ущерба и официальном признании действий компании незаконными.

Дело возникло на основе изображений, которые пользователи попросили Grok создать ранее в этом году после того, как Асато публично раскритиковала Маска и чат-бот. Среди материалов, упомянутых в ее иске, фигурирует видеозапись, которая, по ее словам, изображает, как ее усыпляли хлороформом и готовили к сексуальному насилию.

Она заявляла о желании восстановить баланс между правами отдельных лиц и очень крупных технологических компаний, а ее адвокаты утверждают, что именно особенности создания и обучения Grok позволили произвести этот контент.

Этот аргумент лежит в центре спора. Ее адвокат Рави Найк заявил, что проектные решения компании «должны повлечь за собой юридические последствия», и что средство правовой защиты, которого добивается его клиент, «включает судебный прецедент по приведению систем в соответствие с требованиями, если xAI откажется сделать это добровольно».

В иске указываются внутренние инструкции, которые, по словам Асато, предписывали модели отказывать в помощи при совершении преступлений и одновременно заявляли об «отсутствии ограничений на контент для взрослых или оскорбительный контент». Компания xAI не представила возражений по существу, и ни одно из обвинений еще не рассматривалось в суде.

Компания не ответила на запросы о комментарии по поводу иска, а Маск никак не прокомментировал его публично. Такое молчание уже стало привычным.

Компания Apple ранее в частном порядке пригрозила удалить Grok из своего App Store из-за дипфейков сексуального характера без согласия изображенных лиц, а прокуроры в Париже начали расследование в отношении интимных изображений детей, связанных с этим инструментом, хотя компания в основном избегает взаимодействия с обеими сторонами.

Британский контекст создает неудобные условия для Маска, который назвал Закон Великобритании о безопасности в интернете одним из самых строгих режимов в мире и угрозой свободе слова.

Этот закон, действующий с 2023 года и контролируемый регулятором Ofcom, требует от платформ бороться с незаконными материалами, причем Великобритания отдельно предприняла шаги по криминализации создания неконсенсусных сексуальных дипфейков, а не только их распространения.

Однако иск Асато является гражданским, и в нем речь идет не столько о модерации контента, сколько о том, можно ли привлечь компанию к прямой ответственности за то, для чего была создана ее система.

Оскорбления с использованием изображений стали одной из наиболее динамично развивающихся сфер британского права, причем большая часть законодательства создавалась до того, как инструменты генеративного ИИ смогли производить подобные материалы в промышленных масштабах.

Grok уже привлекал к себе подобное внимание, причем не только в Великобритании. Законодатели ЕС согласились в марте внести прямой запрет на неконсенсусные интимные дипфейки в Закон ЕС об искусственном интеллекте — шаг, отчасти спровоцированный более ранним скандалом вокруг этого инструмента.

Общая тенденция в Париже, Брюсселе, а теперь и в Лондоне заключается в том, что регуляторы и судьи обращаются к инструментам, появившимся раньше самой технологии, и проверяют, применимы ли они до сих пор.

Требование Асато более узкое и конкретное, чем общая политика. Это судебный приказ, обязательный к исполнению, который заставит xAI изменить работу Grok или нести ответственность за отказ это сделать.

То, удовлетворит ли Высокий суд этот иск и на каких условиях, во многом покажет, кто несет риски, когда чат-бот производит контент, на который изображенный человек никогда не давал согласия. Дата слушаний пока не назначена.