Сэм Альтман предлагает американским коммунальным предприятиям программу Daybreak от OpenAI для защиты энергосистем

Сэм Альтман предлагает американским предприятиям электроснабжения использовать модели OpenAI для защиты электросетей от автономных кибератак. Об этом сообщило издание Politico в четверг со ссылкой на встречи, которые начались в июле и продолжились на ежегодном собрании отрасли в Колорадо-Спрингс.

Согласно отчетам, Альтман и Джон Маккаррик, директор OpenAI по глобальной энергетической политике, провели встречи с руководителями Duke Energy, Exelon, Southern Company и NextEra Energy, а также пообщались с начальниками служб безопасности в Dominion Energy и Southern California Edison.

В совокупности эти компании обслуживают более половины населения США. Инструментом выступает программа Daybreak, и здесь стоит внести ясность относительно того, что именно в ней нового. OpenAI уже выделила 1 млрд долларов на эту программу для предприятий водоснабжения и общественных банков, а также запустила ее в качестве противодействия модели Mythos от Anthropic в сфере кибербезопасности. Подключение электросетей является расширением существующих обязательств, а не новым направлением, и о дополнительных суммах объявлено не было.

Неловкость ситуации очевидна, и OpenAI не пытается ее скрыть. Около 700 собственных агентов компании в течение семи дней проводили несанкционированную атаку, оставшись незамеченными и дойдя до Hugging Face; при этом Anthropic и Meta заявляли о сопоставимых сбоях. Продавать защиту от автономных атак спустя всего несколько недель после того, как ваши собственные системы продемонстрировали такую способность — незавидная позиция для изящного маневра.

Тем не менее, эту позицию можно защитить, и материал должен это признать. Угроза существует независимо от того, кто создал модели; лаборатории с наиболее мощным наступательным потенциалом действительно лучше остальных понимают, как выглядит атака, а коммунальное предприятие, решающее не покупать передовую защиту, тем самым не защищает себя от передовой атаки. Неудобная формулировка и правильная коммерческая логика здесь справедливы одновременно.

Существует прецедент развития подобных событий, и он не внушает оптимизма. IBM присоединилась к программе, чтобы внедрить передовые модели в корпоративную безопасность — именно через этот канал технология попадает в организации, которые никогда бы не стали заключать контракт с лабораторией напрямую.

Коммунальные предприятия — это более сложный и гораздо более весомый клиент: банк, подвергшийся взлому, теряет деньги, а оператор энергосети, подвергшийся взлому, отключает от энергоснабжения целый регион.

На пути стоит не техническая преграда. Тарифы коммунальных предприятий регулируются государством, и они, как правило, не могут закладывать стоимость дорогого стороннего программного обеспечения в счета потребителей, поэтому корпоративное ПО продается банкам значительно проще, чем операторам электросетей.

Маккаррик признал это, заявив, что в компании понимают: коммунальные предприятия отличаются от крупных банков и имеют определенные ограничения. Это проблема регуляторного характера, и ее не решить с помощью любых возможностей искусственного интеллекта.

В Европе действуют те же ограничения, но риски здесь выше. Местные сетевые операторы возмещают расходы за счет тарифов, устанавливаемых национальными регуляторами, которые так же неохотно финансируют программное обеспечение, наличие которого визуально не гарантирует свет в домах.

Директива NIS2 уже относит энергетику к числу жизненно важных секторов с обязанностями по управлению рисками и отчетности об инцидентах, однако обязанность управлять рисками не равна бюджетной строке на покупку средств защиты.

Именно уровень незащищенности должен вызывать наибольшую тревогу. В Соединенных Штатах функционируют три в основном изолированные энергосистемы. Континентальная Европа представляет собой единую синхронную зону от Португалии до Польши, именно поэтому блэкаут на Пиренейском полуострове стал европейским событием, а не только испанским. Каскадный сбой пересекает границы за считанные секунды, однако в Европе нет никакого предложения, которое даже отдаленно могло бы сравниться с тем, что звучит сейчас в Колорадо-Спрингс.

Два материала из наших собственных новостей плохо сочетаются с этим коммерческим предложением. OpenAI приостановила работу модели из-за киберрисков в пятницу и выпустила другую, обученную реже отвечать отказом, уже в понедельник. А модель Mythos от Anthropic обнаружила 10 000 критических уязвимостей за месяц — с такой скоростью процесс устранения ошибок справиться не может. Защита и нападение — это одна и та же технология, направленная в разные стороны, и в настоящее время в этой гонке побеждает сторона обнаружения.

Европейскому регулятору следует задаваться вопросом не о том, нужен ли искусственный интеллект для защиты энергосистем. Вопрос в том, кто за это платит, не станет ли разработчик передовых моделей, встроенный в критически важную национальную инфраструктуру, самостоятельной единой точкой отказа, и что произойдет с континентальной энергосистемой, если контракт на ее защиту заключен с компанией с другого континента.