ChatGPT вскоре станет первым ИИ-чат-ботом в самой строгой категории ЕС

ChatGPT вот-вот станет первым ИИ-чат-ботом, который столкнется с самыми жесткими правилами ЕС в отношении платформ. Европейская комиссия планирует перевести чат-бот от OpenAI и игровую платформу Roblox в самую строгую категорию Закона о цифровых услугах (DSA). Присвоение этого статуса может состояться уже в августе.

Об этом шаге первым сообщило агентство Bloomberg со ссылкой на источник, знакомый с планами. Поисковая функция ChatGPT получит статус «очень крупной онлайн-поисковой системы». Roblox станет «очень крупной онлайн-платформой». Обе службы преодолели установленный DSA порог в 45 миллионов активных пользователей в месяц на территории блока.

В публичных заявлениях Комиссия была более сдержанной. Ее представитель Томас Ренье сообщил агентству Reuters, что присвоение такого статуса «определенно возможно» и может произойти «рано или поздно». В OpenAI заявили, что продолжают конструктивный диалог с Брюсселем. В Roblox воздержались от комментариев.

Что на самом деле требуют эти правила

Этот статус — вовсе не награда. Он пополнит список примерно из двух десятков платформ, на которые распространяются самые тяжелые обязательства по DSA, включающий компании от Meta и X до Amazon и TikTok. На соблюдение требований им дается четыре месяца с момента получения статуса.

Это означает ежегодную оценку рисков, независимые аудиты, отчеты о прозрачности, правила прозрачности рекламы и рекомендательные ленты, не основанные на профилировании. Они обязаны делиться данными с регуляторами и проверенными исследователями, а также сообщать о фактах уголовных правонарушений. Кроме того, предусмотрен надзорный сбор. За нарушение правил грозят штрафы в размере до 6 процентов от общемирового годового оборота.

Суть заключается в системных рисках. Назначенные сервисы должны выявлять и минимизировать угрозы, связанные с нелегальным контентом, выборами, дискриминацией, гендерным насилием, а также психическим и физическим здоровьем пользователей. Для чат-бота и детской игры это далеко не абстрактные категории.

Почему именно эти двое

Roblox является очевидной мишенью. Платформа сталкивается с судебными исками и критикой из-за проблем с обеспечением безопасности детей, в ответ на что внедряет возрастные ограничения и чаты с разделением по возрасту. Главная цель DSA — защита детей в Интернете, а Roblox объединяет миллионы несовершенствованных пользователей.

ChatGPT — более нестандартный случай. OpenAI ведет борьбу с исками о непредумышленном убийстве от семей, заявивших, что чат-бот не помог пользователям в критической ситуации, а штат Флорида подал в суд на компанию и Сэма Альтмана. Включение продукта на базе генеративного ИИ в высшую категорию сигнализирует о том, что Брюссель рассматривает чат-боты как платформы, требующие контроля, а не как инструменты, на которые можно закрыть глаза.

Знакомая борьба

Это уже устоявшаяся схема. С момента вступления DSA в силу Комиссия открыла более десятка расследований. Она оштрафовала AliExpress на 550 млн евро, наложила взыскания на Temu и оштрафовала X на 120 млн евро (это решение обжалуется). Комиссия также активизировала расследование в отношении Meta по факту использования «аддиктивного дизайна» и предъявила претензии TikTok в сфере детской безопасности.

Это также часть более широкой европейской инициативы: от запрета социальных сетей для лиц младше 15 лет во Франции до расширяющегося свода правил в области ИИ. Администрация Трампа называет DSA формой «экономического вымогательства» в отношении американских фирм. Критики же более едко задаются вопросом, почему Европа регулирует платформы, которые сама, по всей видимости, создать не может.

Встречный аргумент прост. Как показывает пример X, присвоение статуса — это требование, а не панацея, и платформа далека от идеала онлайн-безопасности, несмотря на штраф. И все же принуждение двух наиболее тщательно проверяемых сервисов Интернета открыть свои системы для аудиторов лучше, чем верить им на слово, что все в порядке.