Камал Ахмед из Fortune спросил его о предупреждении Джейкоба Коксона, исследователя, который в этом месяце ушёл из Anthropic. Нараян ответил, что к словам сотрудников лабораторий о серьёзной обеспокоенности нужно относиться внимательно.
«Необходимо укреплять защиту и создавать новые средства обороны. Риски только возросли, поэтому тестирование — это хорошо, но явно недостаточно», — сказал Нараян.
Коксон опубликовал своё предупреждение в посте в X. Как сообщает Fortune, он набрал 175 миллионов просмотров.
«Люди, которые создают ИИ, искренне верят, что к концу десятилетия он может погубить всех нас», — написал Коксон.
Учёный из Anthropic Эван Хубингер согласился с Коксоном. Он оценил вероятность такого риска более чем в 10%.
Как Нараян оценивает риски
Нараян заявил, что в первую очередь его беспокоят сегодняшние риски. Он назвал рост угроз кибербезопасности и инструменты ИИ, способные повысить биохимические риски. По его словам, его также тревожат модели, которые выходят за рамки того, о чём их попросили люди.
«Чтобы свести всё это к вопросу об угрозе существованию человечества, приходится пройти через целую цепочку рассуждений, и она довольно сложная и серьёзная», — сказал он.
По словам Нараяна, Великобритания тестирует модели ИИ уже три года. Он добавил, что ни одна другая страна не находится в настолько выгодном положении для этой работы.
План G20
Нараян заявил, что в следующем году, во время председательства Великобритании в G20, страна хочет объединить государства и помочь сформировать принципы, которые будут приняты по итогам этой работы. Премьер-министр Энди Бернхэм заявил, что воспользуется председательством, чтобы добиться соглашения об ИИ.
Как сообщает Fortune, Белый дом призвал участников G20 не вмешиваться в разработку новых глобальных правил. Президент Дональд Трамп утверждает, что замедление работы американских лабораторий даст Китаю преимущество. Тех, кто выступает за замедление, он назвал деструктивной силой.
Сооснователь Microsoft Билл Гейтс заявил на прошлой неделе в программе NBC Meet the Press, что саморегулирования недостаточно. Он считает, что в процесс должны включиться правительства.
Нараян также говорил о рабочих местах на встрече с аналитическим центром Resolution Foundation. По его словам, от правительств, компаний и людей зависит, будет ли ИИ дополнять человеческий труд или заменять его.
Опубликовано 28 сентября 2026 - 12:17 Наверх
