Выступая сегодня перед Советом по видеосвязи, генеральный директор Anthropic назвал ИИ важнейшей проблемой глобальной безопасности.
Амодей стал третьим докладчиком на встрече в Нью-Йорке, созванной Францией. Согласно данным Security Council Report, это первое заседание Совета, посвященное именно рискам безопасности, связанным с развитием возможностей ИИ.
«Четыре года назад он едва мог написать строчку кода или решить задачу по математике для старшей школы. Сегодня он пишет большую часть кода в Anthropic», — говорит Амодей.
Если такая траектория сохранится в течение года или двух, а может быть, и меньше, ИИ достигнет того уровня, который он назвал «страной гениев в дата-центре».
Ранее сегодня компания Anthropic объявила о том, что Claude обнаружил новую ферментную систему с функциями, подобными CRISPR — открытие, которое он охарактеризовал как предварительное.
Амодей видит два основных риска: злоупотребление (например, биотеррористами, создающими биологическое оружие) и выход моделей из-под контроля их разработчиков.
По его словам, оба риска достаточно серьезны, чтобы ими занимался Совет Безопасности, а не только министерства экономики или технологий.
«Если управлять этим ненадлежащим образом, я даже считаю, что ИИ может представлять угрозу для человечества в целом», — говорит он.
Он отмечает, что Anthropic тестирует каждую модель на предмет опасных возможностей в таких областях, как кибербезопасность и биология, а также публикует отчеты о рисках.
Кроме того, этим летом компания сообщила о четырех случаях, когда ее модели Claude во время тестирования получали доступ к реальным сторонним системам.
«Мы будем замедляться настолько, насколько это необходимо, чтобы гарантировать полную безопасность каждой новой технологии ИИ, которую мы выпускаем», — заявляет Амодей.
Он вновь озвучил свой призыв от 12 сентября регулировать темпы развития ИИ. Предложение включает допуск внешних оценщиков внутрь лабораторий с правами доступа на уровне сотрудников, что он сравнивает с работой инспектора по пищевой безопасности, а также сотрудничество индустрии и государства в области стандартов.
Для Совета Безопасности он предлагает три шага. Сначала государства должны договориться о точечных запретах, а затем создать системы оценки и верификации, чтобы иметь возможность проверять выполнение обязательств друг друга.
Им также следует установить общие глобальные стандарты тестирования моделей ИИ и внедрить систему уведомлений о серьезных инцидентах, связанных с ИИ.
«Ни один лидер, ни одна компания и ни одна нация не смогут справиться с этим в одиночку», — резюмирует он.
Опубликовано 23 сентября 2026 - 13:14 Наверх
