Мэтт Клиффорд уходит с поста главы ARIA из-за работы в Anthropic

Человек, написавший План действий Великобритании в области искусственного интеллекта (AI Opportunities Action Plan), покидает государственный исследовательский орган, который он возглавлял. Он объявил об этом через пять дней после получения должности в Anthropic. Сама отставка не является самым интересным моментом. Договоренность, которую она аннулирует, уже была рассмотрена и одобрена правительственным ведомством.

Мэтт Клиффорд покинет пост председателя Агентства передовых исследований и изобретений (Advanced Research and Invention Agency) — финансируемого британскими налогоплательщиками органа, занимающегося высокорискованными научными исследованиями. ARIA, как его называют, финансирует передовые разработки в самых разных областях: от нейротехнологий до климатологии. О своем решении он сообщил в понедельник в посте на LinkedIn.

The Guardian сообщила, что он был вынужден уйти под давлением высокопоставленных депутатов-лейбористов. Сам Клиффорд преподнес это как собственное решение. Обе версии можно вывести из одних и тех же фактов, и разрыв между ними заслуживает внимания.

«Завершив свой первый полный срок в прошлом месяце, я решил уйти, чтобы моя новая роль в Anthropic не отвлекала внимание от невероятной работы ARIA», — написал он.

Защитные механизмы продержались пять дней

Клиффорд присоединился к Anthropic на прошлой неделе в качестве управляющего директора по международным делам. Эта роль охватывает взаимодействие компании с правительствами за пределами Северной Америки. Тогда он заявлял, что сохранит за собой пост главы ARIA. Этот план не пережил и недели.

Он никогда не был неофициальным планом. Фрейя Пратти в своей статье для Sifted сообщила важные подробности. Представитель ARIA заявил, что Министерство бизнеса, инноваций, науки и торговли официально рассмотрело эту договоренность. По словам представителя, с ведомством были согласованы строгие меры по смягчению последствий, включая отказ Клиффорда от участия в любых делах ARIA, где может возникнуть конфликт.

Anthropic представила Sifted свою версию событий. Клиффорд не имел никакого отношения к коммерческим переговорам ARIA с компанией и не имел доступа к информации о них. Эти вопросы находились в ведении руководства ARIA за «этической стеной» при участии внешних консультантов.

Sifted также сообщила факт, который придает этой ситуации коммерческий, а не косметический характер. ARIA имеет коммерческую лицензию Anthropic наряду с другими поставщиками ИИ. Таким образом, агентство является клиентом, а его председатель теперь работает на поставщика.

Проще говоря: ведомство оценило конфликт, разработало механизмы контроля и утвердило их. Затем эта структура рухнула в течение пяти дней после встречи с парламентом.

Комитет еще не закончил работу

Дама Чи Онвура возглавляет Комитет по науке, инновациям и технологиям Палаты общин. Депутат от Лейбористской партии назвала это совпадение должностей явным конфликтом интересов. Она также написала по этому поводу министру по делам ИИ Канишке Нараяну. В заявлении своего комитета она приветствовала отставку, но оставила дело открытым.

«Тем не менее, остаются важные вопросы», — заявила она. Она хочет знать, как возникла эта ситуация. Она требует предоставить проведенные оценки конфликта интересов. И она хочет знать, какие гарантии защищают доверие к системе управления ARIA. Она ожидает подробного ответа в течение нескольких недель.

Это главная интрига. Отставка устраняет конфликт одного человека. Вопрос к самой процедуре остается ровно в том же положении, в котором он был. Нараян, ставший в июле первым министром по вопросам ИИ ранга министра кабинета министров, теперь должен дать ответ.

Еще два месяца в должности

Клиффорд уходит не сразу. По его словам, госсекретарь попросил его остаться до 6 ноября, пока идет поиск нового председателя. Он согласился при условии принятия надлежащих мер предосторожности против возможных конфликтов.

Это формулировки, очень близкие к тем, которыми защищали первоначальную договоренность. В течение следующих двух месяцев глава государственного агентства, лицензирующего технологии Anthropic, будет одновременно являться руководителем Anthropic, взаимодействующим с правительствами. Единственное, что изменилось — появилась точная дата ухода.

Закономерность с известными именами

The Guardian сопоставила этот шаг с чередой аналогичных назначений. Риши Сунак занял должности в Anthropic и Microsoft. Джордж Осборн работает на OpenAI. Ник Клегг занимал руководящую должность в Meta до 2025 года. Бибан Кидрон, независимый член Палаты лордов и последовательный критик правительственной политики в области ИИ, приветствовала отставку. По ее словам, восстановление доверия требует четкой границы между интересами технологических компаний и интересами граждан.

Возражения касаются не только внешнего вида проблемы. Том Брейк, возглавляющий кампанию Unlock Democracy, изложил The Guardian практическую сторону дела. Перенос детальных знаний о столь чувствительной политике, как политика в сфере ИИ, в частную компанию вскоре после ухода с госслужбы может ослабить позиции государства в будущем, когда оно захочет выступить за осторожность.

Причину этого притяжения легко объяснить. Anthropic стремительно наращивает свое присутствие в Великобритании. В августе компания подписала сделку на $45 млрд в сфере вычислительных мощностей с британской фирмой Nscale. Она также напрямую работает с европейскими столицами, присоединившись к OpenAI, Google и Microsoft в открытом письме по кибербезопасности, адресованном лицам, принимающим решения в ЕС. Компании, занимающейся всем этим, нужен тот, кто знает, как принимаются решения в Уайтхолле.

Уайтхолл тем временем продолжает закупки. В июне правительство заключило сделку с ElevenLabs о внедрении голосового ИИ в государственные службы. Anthropic также знакома с обратной стороной этих отношений, одержав победу в суде против Пентагона в августе. Клиент, поставщик и разработчик политики вновь и вновь оказываются одной и той же небольшой группой лиц.

Что на кону на самом деле

Никто не обвинял Клиффорда в совершении неправомерных действий. Нет никаких доказательств того, что он их совершал. ARIA заявляет, что этическая стена устояла, и Anthropic утверждает то же самое. Он также создал большую часть той структуры, которую сейчас покидает. Сюда входят целевая группа по передовому искусственному интеллекту (Frontier AI Taskforce), которая превратилась в Институт безопасности ИИ (AI Security Institute), и саммит по безопасности ИИ 2023 года. Он возглавлял ARIA в течение четырех лет с момента ее основания. Карли Пейдж в статье для The Register отметила, что это решение полностью отменяет позицию, заявленную всего несколькими днями ранее.

Вопрос, на котором настаивает Онвура, гораздо более узок и на него сложнее ответить. Ведомство рассмотрело ситуацию, когда один человек возглавляет государственный фонд и одновременно представляет одного из его поставщиков перед правительствами. Оно пришло к выводу, что самоотвода достаточно. Парламент выразил несогласие в считанные дни. То, что выяснится к ноябрю, скажет о том, как Великобритания регулирует перекрестные потоки между своей политикой в сфере ИИ и своей индустрией ИИ, гораздо больше, чем эта отставка.