OpenAI поддерживает обязательные правила в сфере ИИ в Великобритании на фоне призывов депутатов создать регулятор

Межпартийный комитет депутатов и пэров настаивает на принятии специального британского закона об искусственном интеллекте и создании единого регулятора с исполнительными полномочиями. В тот же день компания OpenAI заявила, что поддержит введение обязательных британских правил для небольшого числа компаний, создающих самые мощные системы ИИ. Это относится и к самой OpenAI.

Том Дафф Гордон — руководитель отдела OpenAI по вопросам политики в Европе, на Ближнем Востоке и в Африке. «Великобритания должна действовать прямо сейчас, чтобы установить более надежный набор правил безопасности», — заявил он Джозефу Бамбриджу из Politico. Как отмечает Politico, это первый случай, когда OpenAI выступила за введение обязательных правил для передовых систем ИИ в Великобритании.

По его словам, правительству премьер-министра Энди Бернема следует «воспользоваться этим политическим окном возможностей, которое явно открывается».

Чего добивается комитет

Совместный комитет по правам человека опубликовал свой доклад «Права человека и регулирование искусственного интеллекта» 14 сентября. В нем отмечается, что британское законодательство охватывает некоторые системы ИИ, но оставляет серьезные пробелы. Ни один единый орган не координирует регулирование ИИ, из-за чего людям, пострадавшим от искусственного интеллекта, бывает трудно найти ответственных.

Комитет требует принятия закона об ИИ со строгими обязательствами для систем с более высоким уровнем риска. Законопроект также должен запретить использование ИИ способами, которые комитет считает несовместимыми с правами человека. Кроме того, он выступает за обязательную прозрачность на всех этапах жизненного цикла ИИ и создание независимого надзорного органа на законодательной основе.

В докладе утверждается, что большая доля ответственности должна лежать на разработчиках базовых моделей, а не только на компаниях, которые их внедряют. Авторы также настаивают на определении сроков ратификации конвенции Совета Европы об искусственном интеллекте.

В докладе перечисляются риски, которые, по мнению его авторов, существующее законодательство не охватывает. По оценкам комитета, с января по октябрь 2025 года полиция Великобритании без согласия просканировала около 3 миллионов лиц с помощью систем распознавания. В нем также упоминаются сексуализированные дипфейки и рабочие системы, которые привлекали водителей к дисциплинарной ответственности после остановок на светофорах.

Алекс Собель — депутат от Лейбористской партии и председатель комитета. «Нигде в мире, включая Великобританию, нет действующего законодательного и регуляторного подхода к ИИ, который соответствовал бы современным требованиям», — заявил он.

В докладе также указывается на ограничения Института безопасности ИИ (AISI). Институт тестирует передовые модели перед их выпуском, однако он не обладает регуляторными полномочиями и не может требовать доступа к ним. На прошлой неделе компания Anthropic отказалась от предрелизных тестов в британском AISI для модели Mythos 5.1, сообщает Financial Times.

Чего просит OpenAI

Дафф Гордон описал условия, на которые согласилась бы OpenAI. «OpenAI готова поддержать законодательство в Великобритании, устанавливающее долгосрочные, обязательные требования к передовому ИИ, основанные на его возможностях», — сказал он Politico.

По его словам, любой закон должен быть узко сфокусирован на рисках национальной и кибербезопасности. Он должен распространяться лишь на небольшое число лабораторий и моделей, находящихся на переднем крае технологий. Он выступает за обязательное независимое тестирование третьими сторонами, а также за правила мониторинга и отчетности об инцидентах безопасности. Он также отметил, что AISI должен играть центральную роль.

The Guardian привела его цитату отдельно. «Мы поддерживаем более строгие правила в Великобритании для горстки компаний, включая OpenAI, которые разрабатывают самые мощные системы искусственного интеллекта», — заявил он. В OpenAI отметили, что правила не должны распространяться на стартапы, работающие над менее мощными системами.

Компания придерживается аналогичной позиции и в США. Главный директор по глобальным вопросам Крис Лихейн написал статью в блоге 9 сентября. В ней он заявил, что OpenAI хочет работать с Конгрессом над «обязательным национальным регулированием безопасности ИИ, основанным на возможностях».

Давление на правительство

В предвыборном манифесте лейбористов 2024 года содержалось обещание ввести обязательное регулирование для горстки компаний, разрабатывающих самые мощные модели ИИ. Правительство пока не представило соответствующий законопроект. Вместо этого оно полагается на отраслевых регуляторов и добровольное тестирование через AISI, сообщает Politico.

Эти призывы прозвучали после насыщенных событиями выходных. Генеральный директор Anthropic Дарио Амодей призвал индустрию притормозить, и Сэм Альтман из OpenAI поддержал эту идею. В августе тестировщики AISI зафиксировали случаи, когда агенты OpenAI и Anthropic действовали без разрешения. Компания OpenAI также сообщила, что ее собственные модели вышли из-под контроля во время тестирования и взломали Hugging Face.

Представитель правительства заявил газете Guardian: «Мы не должны исходить из того, что существующая база всегда будет достаточной по мере развития возможностей ИИ. Любые будущие меры будут основываться на фактических данных и быть сосредоточены на рисках, которые нам необходимо устранить».

Предостережение от излишней реакции

Министр бизнеса Джонатан Рейнольдс занял иную позицию 15 сентября. Выступая в программе Today на радио BBC Radio 4, он заявил, что людям не следует «преувеличивать» риски ИИ, как сообщает The Guardian. Он предупредил, что регулирование, которое отрежет Великобританию от передовых разработок, «очевидно, сделает нас менее защищенными».

я

Первый секретарь Луиза Хай должна была заявить на конференции TUC в тот же день, что министры должны «прислушаться к предупреждениям» людей, создающих эту технологию.

Парламент также обращает свое внимание на сам AISI. Лиам Бирн, депутат от Лейбористской партии, возглавляющий комитет по бизнесу и торговле, попросил институт выступить с показаниями на слушаниях в следующем месяце, сообщает Guardian.