Nvidia формирует команду по безопасности ИИ, и у этого есть прагматичные бизнес-причины

Философию Nvidia можно прочитать прямо в вакансиях. Производитель чипов собирает новую инженерную команду по безопасности и защите искусственного интеллекта, сообщает Business Insider. Несколько объявлений о поиске сотрудников, опубликованных в конце прошлого месяца, выдают истинные намерения компании. В основе лежит не опасение перед тем, на что способен ИИ. Это расчет на то, что именно доверие побуждает людей покупать технологию.

Команда будет небольшой, но высокопоставленной. Nvidia ищет заслуженного инженера на роль «основополагающего технического лидера». Также открыты вакансии инженера по исследованиям в области безопасности, инженера по оценке и старшего менеджера. Согласно описанию вакансий, их задача — проверять ИИ-агентов перед развертыванием и создавать инструменты на базе искусственного интеллекта для устранения уязвимостей в программном обеспечении.

Аргументы в пользу открытости

В одной из вакансий эта позиция сформулирована предельно ясно. В ней модели с открытыми весами, прозрачность и широкая научная экспертиза называются «основополагающими для американского лидерства в сфере ИИ и кибербезопасности». Модели с открытыми весами предполагают публикацию обученных весов, определяющих поведение модели. При этом обучающие данные и исходный код остаются закрытыми. Они представляют собой полную противоположность закрытым системам, созданным OpenAI и Anthropic.

Nvidia активно и громко продвигает эту точку зрения. В своем самом первом посте в X в прошлом месяце генеральный директор Дженсен Хуанг опубликовал письмо с призывом к американским законодателям поддержать открытые модели. Они «повышают безопасность и кибербезопасность», написал он. Спустя несколько дней Nvidia стала одним из учредителей Альянса за открытый и безопасный ИИ (Open Secure AI Alliance).

В это объединение, насчитывающее 120 компаний, вошли Microsoft, Palantir и SpaceX; оно занимается разработкой инструментов безопасности с открытым исходным кодом. Вакансии в команду по безопасности появились как раз перед этим запуском и описывают во многом ту же работу.

Почему безопасность помогает продавать чипы

За этой философией стоит вполне конкретный финансовый расчет. Открытые модели делают ИИ доступным для гораздо большего числа пользователей, чем закрытые сервисы. Каждому новому пользователю кремниевые чипы нужны для запуска этой технологии. Именно поэтому такие конкуренты, как AMD, стремятся занять ту же нишу с открытым исходным кодом. Nvidia не хочет уступать позиции. Больше внедрений означает больше проданных чипов.

Безопасность — это фактор, который стимулирует массовое внедрение. ИИ переходит от простых чат-ботов к агентам, способным получать доступ к конфиденциальным корпоративным данным и действовать на их основе. В этот момент главным препятствием становятся не возможности, а доверие. Компания не доверит автономному агенту ключи от своих систем, если не будет уверена в его безопасности.

Именно поэтому фирмы теперь тестируют агентов на предмет несанкционированных действий перед их активацией.

Вопрос с открытыми моделями еще не решен окончательно. Критики утверждают, что публикация весов дает мощные инструменты злоумышленникам так же легко, как и защитникам. Исследователи задокументировали разрыв в безопасности, когда модели с открытыми весами не уступают передовым разработкам по своим возможностям, но отстают в плане средств защиты.

Nvidia не ответила на запрос Business Insider о комментарии, поэтому ее позиция строится на основе текстов вакансий. И стоит отметить, кто именно оказывается в выигрыше, если эта позиция восторжествует. Компания, которая настаивает на повсеместном распространении безопасного открытого ИИ, одновременно продает аппаратное обеспечение, на котором он работает.