«История человечества не дает нам опыта противостояния субъекту, который умнее нас и способен переиграть нас интеллектуально».
13 октября генеральный директор MI5 сэр Кен Маккаллум высказался так об ИИ. Он представил ежегодный обзор угроз в штаб-квартире MI5 в Лондоне. В той же речи он объявил о создании нового Центра оценки угроз ИИ, известного как AITAC.
Он также сообщил, что теперь MI5 выделяет на противодействие угрозам со стороны государств больше ресурсов, чем во время холодной войны. По его словам, за последнее десятилетие число расследуемых MI5 дел, связанных с угрозами со стороны государств, выросло вчетверо.
Центр, который поможет «отделить браваду от реальности»
AITAC входит в структуру MI5. В его работе участвуют эксперты Института безопасности ИИ, Национального агентства по борьбе с преступностью и Национального центра кибербезопасности. Его задача — «отделять браваду от реальности», сказал Маккаллум. Это третий центр такого рода в MI5 после подразделений по борьбе с терроризмом и угрозами со стороны государств.
На вопрос о том, как он будет работать, Маккаллум ответил, что центр предоставит правительству «единую картину происходящего», сообщило Politico Europe. Без него разные ведомства могли бы предлагать противоречащие друг другу оценки.
Маккаллум заявил, что ИИ уже «резко обостряет» противостояние кибератакующих и тех, кто им противостоит. Кроме того, с его помощью можно создавать пропаганду, адаптированную под каждого человека.
«Мы выявляли террористов, пытавшихся использовать ИИ для улучшения методов разведки и планирования нападений», — сказал он.
Он добавил, что дроны с ИИ «придают угрозе новый оттенок».
Больше всего его беспокоит возможность злоупотреблений, которых пока не было. По его словам, ИИ способен изменить расклад сил в вопросе применения существующего или даже создания нового биологического оружия.
Насколько реальна угроза биологического оружия?
Научный редактор Guardian Иэн Сэмпл спросил экспертов, насколько реальна эта угроза. Доктор Филиппа Лентцос из Королевского колледжа Лондона рассказала в объяснительном материале Guardian, что более непосредственную опасность представляют хорошо обеспеченные ресурсами группировки и государства.
«В этом случае ИИ не отменяет потребность в экспертных знаниях, а усиливает уже имеющиеся», — сказала Лентцос.
По её словам, информация — лишь часть проблемы. Серьёзными препятствиями по-прежнему остаются практические навыки, материалы, оборудование и средства доставки. Профессор Том Инглсби из Центра медицинской безопасности Университета Джонса Хопкинса заявил, что пока ни одна страна не разработала официальную политику против такого рода злоупотреблений.
Послание стартапам
Маккаллум также назвал обеспечение устойчивости страны, которое MI5 обозначает словом «Protect» («Защита»), третьей ключевой задачей службы наряду с борьбой с терроризмом и угрозами со стороны государств. Завершая выступление, он обратился с советами к разным группам, в том числе к основателям компаний.
«Если вы запускаете технологический стартап, рассчитывайте, что за вами будут следить иностранные субъекты, и позаботьтесь о кибербезопасности», — сказал он.
За две недели до этого MI5 направила британским университетам предупреждение о шпионаже. Оно касалось института, финансирующего исследования в области ИИ и кибербезопасности.
OpenAI не может исключить новые инциденты
Выступление Маккаллума совпало со слушаниями в Палате общин, сообщило издание Courthouse News. Комитет по делам бизнеса, инноваций, науки и торговли задавал вопросы руководителям OpenAI, Anthropic, Google DeepMind и Meta. Депутаты спрашивали, поспевают ли добровольные меры предосторожности за развитием возможностей ИИ, а также интересовались случаями, когда ИИ-агенты неожиданным образом получали доступ к правительственным сайтам.
Том Дафф Гордон, руководитель отдела политики OpenAI в Европе, на Ближнем Востоке и в Африке, не смог сказать, что других подобных случаев не было.
«Я не могу заверить комитет или вас, господин председатель, что этим всё ограничивается», — сказал он.
По его словам, он знал ещё о «нескольких случаях», о которых OpenAI сообщила. После инцидента с Hugging Face в июле OpenAI приостановила обучение с подкреплением своей самой продвинутой модели, сообщил он. Компания также отложила выпуск Astra 6.1.
Бывшие исследователи выступили с критикой
Бывшие сотрудники лабораторий высказались критически. Дэниел Кокотайло, который теперь возглавляет AI Futures Project, объяснил, почему уволился.
«Я ушёл из OpenAI, потому что пришёл к выводу: на самом деле компания не будет ответственно подходить к созданию этой технологии», — сказал Кокотайло.
Стивен Адлер, занимавшийся безопасностью продуктов в OpenAI, заявил, что внутри компании «неохотно использовали такие слова, как „опасный“».
Джеффри Ирвинга, ушедшего из Google DeepMind в 2020 году, спросили о его оценке, согласно которой вероятность того, что ИИ уничтожит человечество, составляет 50%. Он ответил, что «подбрасывание монеты — примерно подходящая модель для такой оценки».
Лорд Бут-Смит, руководитель отдела политики Anthropic в Европе, на Ближнем Востоке и в Африке, заявил, что меры предосторожности должны поспевать за ростом возможностей ИИ. Он напомнил о призыве генерального директора компании «регулировать темпы развития передовых моделей».
Председатель комитета Лиам Бирн объявил о начале нового расследования по вопросам безопасности ИИ. Комитет также опубликует специальный доклад до того, как правительство, возможно, внесёт поправки в законопроект о кибербезопасности.
Опубликовано 16 октября 2026 - 10:02 Наверх
