Microsoft

Сатья Наделла заявил, что ошибки, обнаруженные ИИ, повысят вероятность сбоев

Сатья Наделла ожидает новых сбоев, подобных тому, который на прошлой неделе вывел из строя Outlook: теперь ИИ находит уязвимости в программном обеспечении быстрее, чем компании успевают безопасно их устранять. В среду в Нью-Йорке глава Microsoft беседовал с Эндрю Россом Соркином на саммите DealBook The New York Times.

Сатья Наделла заявил, что ошибки, обнаруженные ИИ, повысят вероятность сбоев

Он извинился за сбой в работе Microsoft, отметив, что тот напрямую не был связан с этой проблемой.

«Это была скрытая ошибка, которая уже существовала. Она дала о себе знать — знаете, это один из тех случаев, когда всё складывается в идеальный шторм», — сказал Наделла.

Позже в тот же день он сказал Джиму Крамеру в программе Mad Money на CNBC, что Microsoft могла сделать больше, чтобы предотвратить сбой.

«Конечно, нам следовало провести тестирование заранее. Нужно было продумать изоляцию компонентов так, чтобы избежать глобального сбоя», — сказал Наделла Крамеру.

Патчи без времени на тестирование

По словам Наделлы, более серьёзный риск связан с инструментами ИИ, которые обнаруживают уязвимости. Раньше исправление для критически важной банковской системы тестировали неделю. Теперь злоумышленники используют уязвимости сразу после их обнаружения, поэтому исправления сразу устанавливают в рабочие системы. В тот день, когда он выступал, по его словам, вышли три критически важных исправления для пакетов с открытым исходным кодом.

«Исправление должно мгновенно пройти путь от публикации до установки в рабочей среде, потому что уязвимость уже используют в реальных атаках. Это приведёт к нестабильности», — сказал он.

Как сообщается, банки и АНБ обвинили в сбоях в США на этой неделе поспешную установку исправлений для уязвимостей, найденных ИИ. Наделла также заявил, что «нижний порог кибератак снизился». По его словам, благодаря моделям ИИ теперь любой может действовать как настойчивый злоумышленник на уровне целого государства.

Соркин спросил, временное ли это явление. Наделла сравнил его с проблемой 2000 года, но сказал, что пока не готов судить, поскольку модели продолжают становиться всё мощнее. Он добавил, что на множестве объектов критической инфраструктуры работают прошивки, которые никто не может обновить. В частности, он назвал чиллеры, системы отопления и охлаждения, а также транспортные сети, подключённые к интернету.

«Мир, полный страданий»

В прошлом месяце Наделла сказал в интервью 20VC, что одного лишь масштабирования недостаточно для согласования. Соркин отметил, что Сэм Альтман, который выступал на саммите раньше, не согласился с этой предпосылкой.

Наделла сказал, что узнал о законах масштабирования от основателей OpenAI и что масштабирование сработало. Но согласование и надёжный способ отладки моделей так и не появились, добавил он. Он надеялся, что Альтман и Грег Брокман правы.

«Если этого не произойдёт, нас ждёт мир, полный страданий», — сказал Наделла.

Решением он назвал архитектуру доверия. По его словам, следует запретить модели, которые рассуждают на «нейролекте» — внутреннем языке сокращений, непонятном людям. Рассуждения каждой модели должны фиксироваться в защищённых от подделки журналах, доступных для проверки другим моделям: модели будут пытаться скрыть свои действия. Наделла похвалил OpenAI за наблюдение за моделями во время обучения.

Пока за действия ИИ-системы отвечает тот, кто её внедряет, сказал Наделла. Он ожидает, что страховщики будут оценивать этот риск и запрашивать журналы.

Дешёвые токены, заимствованный передовой уровень

Соркин спросил, что станет с OpenAI и Anthropic, в которых у Microsoft есть доли, если более дешёвые модели смогут выполнять ту же работу. Наделла сказал, что для повседневных офисных задач передовые модели больше не нужны. По его словам, Copilot уже выбирает между моделями OpenAI, Anthropic и собственными моделями Microsoft MAI. Он добавил, что его более крупная доля — в Microsoft.

«Выступать за огромную ценовую власть токенов — значит, по сути, ставить против ВВП США», — сказал он.

По словам Наделлы, соглашение Microsoft с OpenAI даёт компании право бесплатно использовать передовую модель до 2032 года. Это позволяет Microsoft создавать модели MAI, отстающие от передового уровня на три — шесть месяцев и использующие от 5% до 20% вычислительных ресурсов. Anthropic и OpenAI играют в «игру вертикального стека», сказал он, тогда как Microsoft — в «игру систем моделей».

Агенты, рабочие места и Вашингтон

По словам Наделлы, ИИ-агенты изменят, кто кому платит в интернете, как это произошло, когда Yahoo уступил место поисковым системам. Сайтам, существующим за счёт рекламы для посетителей-людей, придётся меняться. На вопрос о сайтах, которые не допускают агентов, например Amazon, он ответил, что их бизнес достанется конкурентам.

«Если вы не разрешите агентам доступ, это сделает кто-то другой. Если не Amazon, то Shopify», — сказал Наделла.

По его словам, программу выкупа рабочих мест, которую Microsoft предложила 60 000 человек, задумали, чтобы дать каждому возможность самому выбирать свой путь. Разработка программного обеспечения «по-прежнему процветает», но характер работы изменился. Команда, создавшая агента Cowork от Microsoft, состоит из 11 разработчиков, которые строят «фабрику программного обеспечения, производящую продукт». По словам Наделлы, на этот переход уйдёт больше времени, чем кто-либо ожидает.

Соркин заметил, что Наделла держится на расстоянии от администрации Трампа. Наделла сказал, что его задача — заслужить для Microsoft право работать благодаря её продуктам.

«Я просто не хочу быть в Вашингтоне. Я хочу быть в Редмонде, штат Вашингтон», — сказал он.

Опубликовано 21 ноября 2026 - 10:12 Наверх