Цукерберг назвал удержание моделей ИИ в секрете лабораториями «весьма опасным»

«Лично я гораздо больше беспокоюсь о том, что небольшое число лабораторий или людей контролируют нечто столь мощное». Об этом Марк Цукерберг заявил в интервью Алексу Хиту в подкасте Sources, опубликованном в среду.

Хит записал интервью в штаб-квартире Meta в предыдущую пятницу, за несколько дней до того, как Meta запустила Muse — своего персонального ИИ-агента. Цукерберг высказал мнение, что ИИ наиболее безопасен, когда он находится в руках у многих. Он также сделал колкое замечание в адрес своих конкурентов.

Некоторые лаборатории, по его словам, «обучают более продвинутые модели и даже не выпускают их в свет». Он назвал это «весьма опасным». Он не стал называть конкретные компании, хотя в последующем вопросе Хита упоминались Anthropic и OpenAI.

Широкий доступ, но не всё в открытом доступе

Цукерберг изложил три принципа из своего недавнего эссе. Расширение возможностей людей стимулирует процветание. ИИ создан в первую очередь для изобретения нового, а не для автоматизации старого. Безопасность достигается за счет системы сдержек и противовесов, а не за счет ограничения доступа. Последний принцип он применил к кибербезопасности. Если один ИИ может взламывать системы, утверждал он, решением будет предоставить каждому свой собственный ИИ для защиты.

Он также постарался не делать громких заявлений. По его словам, Meta выпускает некоторые открытые модели, но ведет и закрытые разработки. «Нельзя сказать, что все, что мы делаем, имеет открытый исходный код», — добавил он. Это имеет значение. В апреле Meta выпустила Muse Spark — первую модель из своей новой лаборатории — в качестве модели с закрытым исходным кодом. Модель распространения, которую он теперь отстаивает, реализуется через продукт Meta, а не посредством скачивания весов.

Что, по его словам, делает Muse

Muse работает на собственной виртуальной машине, ориентируется на достижение целей, а не на отдельные запросы, и функционирует круглосуточно. Цукерберг рассказал, какую задачу он поставил перед собственным агентом. Тот планирует еженедельный проект по выпечке для его трехлетней дочери и заказывает ингредиенты. Одна из попыток оказалась неудачной. «Оказывается, кейк-попсы — это действительно сложно, удивительно сложно», — поделился он.

Агент также следит за разрешениями на походы в горы для его старшей дочери и просматривает видеозаписи из его зала смешанных единоборств (MMA). Его отзывы не всегда лестные. По словам Цукерберга, после просмотра одного из роликов агент сказал ему: «Похоже, вы действительно сдались». Тренеры смеются над этим.

Для Цукерберга Muse — это инструмент для повседневных задач, а не побочный проект. Люди должны сами решать, над чем работает их ИИ, а не доверять это «так называемым экспертам, заседающим в небольшом числе лабораторий», утверждал он. Агент также сам предлагает новые проекты. По его словам, многие люди до сих пор не знают, о чем попросить ИИ.

Обещание конфиденциальности, которое Meta еще не продемонстрировала

Заявление, от которого зависит, захотят ли люди подключить к нему свою почту и мессенджеры, касается конфиденциальности. Цукерберг рассказал, что они с Нэтом Фридманом лично завербовали Мокси Марлинспайка, основателя Signal. Его задача — создание конфиденциальной виртуальной машины для Muse. Цель, по его словам, состоит в том, чтобы гарантировать: «даже Meta не сможет увидеть находящийся там контент».

Он отметил, что ему не известно ни об одном аналогичном предложении на рынке. Он добавил, что в ближайшие недели Meta опубликует больше информации о системе в преддверии ее более широкого запуска. До тех пор, пока Meta не обнародует эти детали, никто за пределами компании не сможет проверить данное утверждение.

Он описал и другие меры защиты. Безопасное хранилище учетных данных защищает пароли и данные банковских карт от самого агента. Отдельные агенты-дозорные следят за трафиком на предмет внедрения подсказок (prompt injection) и инициируют проверку человеком перед входом в систему, проведением платежей или осуществлением конфиденциальных переводов. Подключения по умолчанию имеют наименьшие привилегии, поэтому почта изначально доступна только для чтения.

Бесплатно и с расчетом на самоокупаемость

Цукерберг сообщил, что Muse на первом этапе предоставляет бесплатно около 100 миллионов токенов в неделю вместе с виртуальной машиной, в то время как для более активных пользователей предусмотрена плавная платная подписка. Осторожные формулировки указывают на то, что эти цифры могут измениться. По его словам, расчет делается на то, что «эта штука действительно поможет вам заработать и сэкономить деньги».

Этот подход сильно отличается от сообщавшегося в августе тарифного плана за $199,99 в месяц за агента. Владельцы бизнеса также смогут подключать Muse к рекламным системам Meta, что обеспечивает компании очевидный путь для компенсации затрат на вычислительные мощности.

Llama 4 и «Арбуз»

Цукерберг прямо высказался о предыдущем поколении моделей Meta. Он признал, что ошибочно предполагал, будто масштабирование больших языковых моделей будет похоже на другую работу Meta в области машинного обучения. Говоря о Llama 4, он отметил: «Когда мы запустили ее, я думаю, мы отклонились от той траектории, на которой должны были находиться».

Его решением стала высокая концентрация талантов: небольшая команда, способная охрить весь проект целиком, работающая буквально там же, где сидит он сам. Кластер Prometheus от Meta в Огайо теперь обучает модели после Watermelon («Арбуз») — кодового названия ее следующей крупной модели. По его словам, Watermelon будет выпущена в ближайшее время, и он назвал ее «значительно более продвинутой моделью предварительного обучения». На вопрос о том, достигает ли она переднего края технологий (frontier), он отвечать отказался.

Очки, подростки и дата-центры

Хит задал вопросы об умных очках, которые площадки от кинотеатров до школ теперь запрещают. Цукерберг защищал индикатор записи. «Если вы попытаетесь вмешаться в работу индикатора, мы должны просто заблокировать камеру на вашем устройстве», — заявил он. Он признал, что Meta перестала объяснять эти меры предосторожности по мере роста продаж. «Думаю, мы немного ослабили контроль в этом вопросе», — сказал он.

Касаясь <>соглашения о безопасности несовершеннолетних, он отметил, что Meta в первую очередь ограничивает использование сервисов подростками и хочет, чтобы YouTube и TikTok подписали аналогичные условия. В противном случае, утверждал он, ограничения в Instagram просто приведут подростков к конкурентам.

Он возложил часть вины за негативную реакцию на дата-центры на спекулянтов, которые захватывают участки земли только для того, чтобы перепродать их крупной лаборатории. Meta же, по его утверждению, берет на себя обязательства перед местными сообществами на десятилетия вперед. Он привел в пример случай в Луизиане, где, по его словам, налоговые поступления от компании профинансировали премии учителям в размере 50 000 долларов.

Испытания уже близко. Meta заявляет, что опубликует подробности о конфиденциальной виртуальной машине в ближайшие недели, а релиз Watermelon намечен на скорое время. Согласятся ли YouTube и TikTok на условия Meta, покажет, задает ли первопроходец стандарт или это лишь стоит Instagram пользователей.