Аюб, вице-президент DeepMind по технической стратегии в сфере ИИ, побеседовал с Томом Маккензи из Bloomberg в среду на конференции HumanX в Амстердаме. Он отметил, что дискуссия о безопасности сводится к противоречию между экспоненциальным ростом возможностей и линейными методами управления.
«Возможно, вы не сможете полностью контролировать саму систему, но вы способны выстроить вокруг нее детерминированный периметр управления», — сказал Аюб, описывая подход банков.
Он разделил проблему на три составляющие. Первая — это роль, которую ИИ должен играть в исследованиях и разработках. Вторая — степень прозрачности систем. Третья — кто их контролирует. По его словам, частью решения является концепция безопасности Google (Frontier Safety Framework), которая устанавливает пороги возможностей и меры защиты.
Маккензи отметил, что Дарио Амодеи из Anthropic выступает за замедление гонки передовых технологий. Демис Хассабис призвал создать отраслевой регулятор по образу FINRA — американского агентства по надзору за брокерской деятельностью, добавил Маккензи. Аюб подчеркнул, что для создания надежных защитных механизмов потребуется партнерство с привлечением сил за пределами технологического сектора.
Передовой ИИ на службе у электронной почты
Аюб описал разрыв между тем, что технология способна делать, и тем, как компании ее используют. На переднем крае ИИ ускоряет разработку лекарств, переводит древние тексты и помогает обнаруживать гравитационные волны. Внутри же бизнеса внимание часто сводится к составлению черновиков или написанию кратких выдержек из писем, отметил он.
По его словам, переход от модели к агенту как готовому продукту начался примерно в конце 2025 года. Агент дополняет модель памятью, инструментами и доступом в интернет, что позволяет ей выполнять масштабные многошаговые задачи. На данный момент наибольшую отдачу удается получить в области разработки программного обеспечения, добавил он.
Лучшие компании, с которыми он работает, разделяют четыре общие привычки, отметил Аюб. Они быстро создают безопасные изолированные среды («песочницы»), не дожидаясь многолетних IT-проектов. Они не играют против прогресса моделей. Они измеряют то, что действительно важно для них. И их руководители сами пользуются этими инструментами.
«Лучшие компании задаются вопросом: станет ли то, что я создаю, в десять раз лучше, если лежащая в основе модель станет в десять раз эффективнее?» — сказал он.
Компании терпят неудачу, когда поощряют сотрудников скрывать использование ИИ, отметил он. Они также проигрывают, когда лидеры используют эти инструменты лишь поверхностно. По мере снижения стоимости интеллектуальных вычислений он надеется, что больше средств будет направляться на проверку результатов, а не на их массовое производство.
Настроения в DeepMind
В завершение беседы Маккензи затронул тему морального духа. Он упомянул исследователей, покинувших компанию в этом году, и переход Хассабиса на пост председателя совета директоров. В августе Google передала руководство своим направлением искусственного интеллекта
Кораю Кавукчоглу в Калифорнии.
Аюб заявил, что ему мало что добавить к тому, что уже было опубликовано в СМИ. Он отметил, что общий искусственный интеллект (AGI) — это дело всей жизни Хассабиса. Он напомнил слова Хассабиса на конференции Google I/O о том, что, оглядываясь назад, мы, вероятнее всего, осознаем, что находились лишь «у подножия сингулярности». Он также указал на энтузиазм вокруг программы Gemini, которую возглавляет Кавукчоглу.
В этом месяце DeepMind запустила Институт DeepMind для обсуждения проблем AGI. Бывшие исследователи DeepMind также создают собственные компании, включая стартап в области моделей мира Emulate.
«Будущее больше не является проблемой прогнозирования. Оно превращается в задачу проектирования», — резюмировал Аюб.
Опубликовано 23 сентября 2026 - 16:03 Наверх
