Специалисты по безопасности из США и Китая предлагают меры предосторожности ядерного типа для военного ИИ

Эксперты по безопасности из США и Китая предложили набор мер предосторожности для военного искусственного интеллекта по образцу правил, сформировавшихся вокруг ядерного оружия, включая запрет на предоставление ИИ права принимать решения о его запуске, сообщает Reuters.

Эти рекомендации, опубликованные на прошлой неделе, подготовлены в рамках американо-китайского диалога по вопросам искусственного интеллекта и национальной безопасности — площадки, действующей с 2019 года под эгидой Института Брукингса и Центра международной безопасности и стратегии Университета Цинхуа.

Авторами предложений выступили Мелани Сиссон, старший научный сотрудник Института Брукингса, и Тяньцзяо Цзян, доцент Фуданьского университета. Ни одно из правительств официально не поддержало эти инициативы.

ИИ не должен автономно принимать решения об использовании ядерного оружия, а также применяться для атак на системы ядерного командного управления другой стороны. Люди также должны сохранять контроль над любыми серьезными кибератаками на ядерную инфраструктуру противника.

Эксперты также призывают создать специальную американо-китайскую военную горячую линию для инцидентов, связанных с ИИ, и выработать между двумя странами единое понимание того, что на самом деле означает «значимый контроль со стороны человека» над системами вооружений. Этот термин широко используется в дискуссиях по контролю над вооружениями, но не имеет общепринятого определения.

Данные идеи развивают соглашение, достигнутое в ноябре 2024 года, когда тогдашний президент Джо Байден и председатель КНР Си Цзиньпин подтвердили, что именно люди, а не ИИ, должны сохранять контроль над решениями об использовании ядерного оружия.

Однако горячая линия поможет лишь в том случае, если обе стороны будут брать трубку. Карла Фриман из Университета Джонса Хопкинса заявила агентству Reuters, что никто в китайской системе не захочет разговаривать с США до тех пор, пока высшее руководство не выработает ответную реакцию, на что «могут уйти дни, если не больше».

Пекин активно интегрирует искусственный интеллок в свое стратегическое планирование безопасности. Шэнь Цзянь, посол Китая по вопросам разоружения, заявлял, что военный ИИ может увеличить риск просчетов и эскалации, и добавил, что Китай курирует вопросы ИИ через бюрократические структуры министерства иностранных дел, занимающиеся контролем над вооружениями. В Вашингтоне, как отмечает Reuters, аналогичного централизованного координатора нет.

Время публикации выбрано не случайно. Дональд Трамп должен встретиться с Си Цзиньпином в Вашингтоне 24 сентября, и оба правительства планируют новый раунд официальных переговоров по ИИ, в ходе которого США намерены поднять вопрос о кибератаках с использованием ИИ.

Кроме того, эти предложения появились на неделе, когда темпы развития ИИ стали предметом бурных политических дебатов.

Руководители американских лабораторий во главе с Дарио Амодеи из Anthropic призвали к замедлению разработок передовых систем, в то время как министерство коммерции Китая отвергло этот план как попытку технологической гегемонии.

Группа экспертов из Института Брукингса и Университета Цинхуа преследует более узкую цель: удержать наиболее опасные военные решения под контролем человека.