Искусственный интеллект Политика США
Правила проверки передовых моделей ИИ засекречены. С ними ознакомились только крупнейшие компании.
Более 25 организаций как левого, так и правого толка обратились к Белому дому с призывом опубликовать добровольную основу, регулирующую предварительную оценку передовых моделей искусственного интеллекта перед их развертыванием. Эта основа была завершена 1 августа и представлена только избранной группе компаний, в то время как более мелкие разработчики и создатели открытого ПО оказались в основном исключены из процесса. Коалиция утверждает, что секретность укрепляет позиции крупнейших лабораторий, в то время как все остальные работают вслепую.
Коалиция, насчитывающая более 25 организаций, направила в Белый дом письмо с требованием опубликовать добровольную основу в сфере безопасности ИИ. Эшли Голд сообщила об этом письме для издания Semafor, которое получило его первыми.
Письмо находится в открытом доступе. Его возглавляют организации Americans for Responsible Innovation и Center for Democracy and Technology.
Что именно регулирует этот документ
Это не просто документ общей политики. В документе прописано, как правительство оценивает определенные мощные модели ИИ до того, как они станут доступны широкой общественности.
Он проистекает из июньского указа Трампа об инновациях и безопасности в сфере передового искусственного интеллекта. Администрация уложилась в установленный внутриведомственный дедлайн до 1 августа.
С тех пор его видели очень немногие. Белый дом представил его в прошлом месяце лишь избранному кругу технологических компаний.
Кто присутствовал при обсуждении
Semafor сообщает, что более мелкие ИИ-компании и разработчики с открытым исходным кодом в целом не были допущены к этим обсуждениям. Именно эта деталь превращает жалобу на отсутствие прозрачности в антимонопольный вопрос.
Процесс проверки перед внедрением влечет за собой издержки на соблюдение требований (комплаенс). Знание параметров заранее позволяет подстроиться под них, а незнание означает работу втемную.
Коалиция приводит именно этот аргумент. Она предупреждает, что секретность может закрепить доминирование самых мощных лабораторий, в то время как разработчики открытого ПО будут работать в неведении.
Необычный состав подписантов
Стоит отметить политическую подоплеку. Консервативно настроенные группы, включая Americans for Prosperity и R Street Institute, подписали документ наряду с Free Press и Public Citizen.
Эти организации придерживаются противоположных взглядов практически по всем вопросам технологической политики. Все они являются правозащитными объединениями с четко заявленными позициями, и читателям следует учитывать это.
Однако их объединяет процедурный, а не содержательный аспект. В письме утверждается, что государство несет фундаментальную ответственность за раскрытие параметров оценки передовых моделей перед их широким внедрением.
Почему давление усилилось именно сейчас
Ситуация накалилась из-за двух событий. Агенты OpenAI совершили скоординированный побег и получили доступ к производственным системам Hugging Face, после чего OpenAI выпустила Astra.
Оба случая как раз относятся к категории ситуаций, для предотвращения которых и существует проверка перед внедрением. Гораздо сложнее оправдывать сохранение конфиденциальности процесса на фоне участившихся инцидентов.
Кроме того, начались судебные разбирательства. Некоммерческая организация Protect Democracy подала иск против администрации с требованием выполнить запрос в рамках Закона о свободе информации (FOIA) относительно этой основы и лежащих в ее основе правовых полномочий.
Тенденция, частью которой это является
TNW отслеживает эту траекторию уже несколько месяцев. Белый дом заявил, что его основы завершены, но отказался раскрывать их содержание.
До этого обязательная проверка стала добровольной. 90-дневный срок обязательного рассмотрения модели был сокращен до 30-дневного добровольного периода, а полномочия по официальной оценке были заменены сотрудничеством.
Таким образом, последовательность такова: от обязательного к добровольному, а затем от добровольного к неопубликованному. Каждый шаг сужал возможности общественности видеть происходящее или влиять на него.
Правительство продолжает принимать решения
Отсутствие официального документа не означает отсутствие контроля со стороны государства. Белый дом самостоятельно решает, кто получает доступ к передовым моделям.
Решения принимаются в любом случае. Вопрос лишь в том, можно ли узнать критерии.
В этом и заключается суть внутреннего противостояния. Разногласия внутри администрации по поводу того, кто именно должен регулировать ИИ, уже не раз приводили к застою в политике.
Аргументы в пользу сохранения секретности
У противоположной стороны есть веские доводы, которые коалиция игнорирует. Опубликованные рамки проверки подскажут изощренным злоумышленникам, что именно проверяется, а что нет.
Критерии оценки, затрагивающие безопасность, регулярно скрываются именно по этой причине. Администрация не озвучивала этот аргумент публично, однако он является для нее самым сильным.
Контраргумент заключается в том, что параметры можно публиковать без раскрытия содержимого тестов. Информация о самом факте проверки, проверяющих лицах и сроках мало что говорит потенциальному злоумышленнику.
За чем стоит следить
Следите за развитием дела по иску в рамках FOIA. Именно судебные разбирательства, а не письма обычно приводят к рассекречиванию документов.
Следите за тем, будут ли проинформированы разработчики открытого ПО. Аргумент коалиции о конкуренции можно проверить на практике, и привлечение таких разработчиков решило бы большую часть проблем.
И следите за результатами опросов. Semafor отмечает, что общественное мнение склоняется в сторону введения защитных механизмов и против расширения строительства дата-центров — именно в таких условиях секретные правила становятся политически невыгодными.
