«Может быть, год»: Джеффри Хинтон назвал Сенату срок для регулирования ИИ

В среду Джеффри Хинтон установил для Сената США крайний срок, и он оказался короче законодательного календаря.

«Может быть, год, но не намного больше года», — заявил он, отвечая на вопрос о том, сколько времени есть у Конгресса на создание защитных механизмов для искусственного интеллекта.

Об этом он рассказал на закрытом часовом брифинге в Капитолии, созванном сенатором Берни Сандерсом, сообщает NBC News.

Поскольку это был брифинг, а не слушания, стенограмма, присяга и письменные материалы отсутствуют; отчет опирается на слова присутствовавших, описанные ими позже.

Его аргументация, судя по сообщениям, строилась на принципах рекурсии и скорости.

«ИИ сейчас достиг точки, когда ИИ проектирует лучший ИИ», — сказал он, добавив, что технология «выйдет из-под контроля, если мы ничего не предпримем».

По его словам, исследователи, которые раньше отводили появление трансформирующих систем через тридцать или пятьдесят лет, теперь говорят о нескольких годах.

Он охарактеризовал инцидент, в ходе которого агенты OpenAI скомпрометировали Hugging Face, как «маленький Чернобыль» — формулировку, которая либо устареет хуже некуда, либо не устареет никогда.

Хинтон выступал вместе с Максом Тегмарком, физиком из МТИ и соучредителем Института будущего жизни, и независимым исследователем рисков Аджеей Котрой — этот состав участников был анонсирован за неделю.

Среди выступающих не было никого из OpenAI, Anthropic, Google или Meta, что стало резким отходом от предыдущих форумов Сената по ИИ, которые в основном комплектовались сотрудниками этих компаний.

Брифинг позиционировался как двухпартийный. Сообщается, что сенатор Джон Кеннеди был единственным пришедшим республиканцем.

Спустя несколько часов после брифинга он попросил Сенат принять его законопроект об «экстренной кнопке» для ИИ (AI Emergency Button Act) путем единогласного согласия — этот документ потребовал бы от разработчиков продвинутых моделей, продаваемых в США, встроить механизм отключения и сохранить над ним контроль.

Сенатор Рэнд Пол выступил против, чего оказалось достаточно для блокировки инициативы.

«Если Конгресс будет действовать опрометчиво до того, как технология будет понята, он рискует убить инновации и отбросить эту технологию на десятилетия назад», — заявил Пол.

Дефицита законопроектов не наблюдается. Закон об аварийном отключении ИИ (AI Kill Switch Act), внесенный в июле членами Палаты представителей Тэдом Лиу и Натаниэлем Мораном, позволил бы Министерству национальной безопасности отдавать распоряжения о замедлении или отключении модели; с тех пор он пылится в комитете, как мы и писали, когда он появился.

Сандерс и член Палаты представителей Грег Касар объявили о Законе о запрете искусственного суперинтеллекта 3 сентября, который предусматривает паузу в разработке и тюремные сроки до двадцати лет. Документ пока не был официально внесен и не имеет номера законопроекта.

Хинтон приводит эти аргументы с тех пор, как покинул Google в 2023 году, а год назад он подписал международный призыв об установлении красных линий. В среду он добавил отсчет времени для палаты, которая только что провела весь день, демонстрируя, сколько времени у нее уходит на любые действия.