Выпуск доступен на YouTube, а Cheeky Pint опубликовал полную расшифровку на Substack. Альтман также говорил о том, как ИИ находит уязвимости в программном обеспечении, и о пределах возможностей песочниц для моделей, намного превосходящих людей по интеллекту.
Роботы, чипы и дата-центры
На вопрос о том, как обстоят дела с дефицитом вычислительных мощностей, Альтман ответил, что спрос на мощные модели по низкой цене «движется только в одном направлении». OpenAI создала собственный чип, который, по его словам, демонстрирует хорошие показатели интеллекта на ватт. Кроме того, компания учится строить собственные дата-центры, добавил он.
«Много говорят о RSI как об ИИ, который проводит исследования в области ИИ. Но очень мало, сравнительно мало говорят о самовоспроизводящихся дата-центрах», — сказал Альтман.
RSI расшифровывается как recursive self-improvement — рекурсивное самосовершенствование, то есть идея ИИ, улучшающего самого себя. Альтман описал использование ИИ для управления роботами, которые обслуживают заводы по производству чипов, собирают турбины или солнечные панели и строят дата-центры. «Так что мы постараемся создать очень много действительно дешёвых вычислительных мощностей», — сказал он.
Коллисон спросил, не упирается ли строительство дата-центров скорее в разрешения и комплектующие, чем в рабочую силу. Альтман ответил, что роботы могли бы производить больше таких комплектующих и что именно так дефицит будет решён «в долгосрочной перспективе».
Коллисон поинтересовался, почему высокие цены на память и чипы до сих пор не привели к росту предложения. «Думаю, невидимая рука сейчас не справляется», — сказал Альтман. По его словам, производители памяти помнят, как едва не обанкротились, построив слишком много заводов, поэтому сохраняют осторожность.
Оценки стоимости гигаватта мощностей для ИИ расходятся, отметил Альтман. Он привёл цифру в 70 млрд долларов на строительство и эксплуатацию в течение пяти лет и сказал, что 20 млрд долларов сделали бы его «гораздо счастливее». TNW не проверял эти данные.
Уязвимости в PHP
В начале этого месяца PHP в срочном порядке выпустил экстренные патчи для двух критических уязвимостей, которые первым обнаружил ИИ. Альтман сказал, что модели всё лучше находят уязвимости, а люди ещё не направили их на весь существующий код. Когда это произойдёт, он ожидает «мир, в котором серьёзных уязвимостей будет гораздо больше, чем мы предполагаем».
«Я вовсе не хочу объявлять победу в истории с PHP, потому что по-прежнему считаю, что мы ещё не знаем всего. И я исхожу из того, что произойдут какие-то плохие вещи», — сказал Альтман.
По сравнению с его худшими опасениями, первый день «прошёл гораздо лучше, чем я ожидал», сказал он. Эксперты по кибербезопасности «больше не уверены, что в нашу модель угроз заложены правильные допущения», добавил он. Их беспокоит, что ИИ может находить глубокие, ранее неизвестные уязвимости в оборудовании.
Сначала песочницы, затем мониторинг
Коллисон отметил, что сотрудники OpenAI и подобных компаний, похоже, пессимистично оценивают возможность изолировать модели в песочницах. Альтман ответил, что отрасль способна работать гораздо лучше, чем сейчас, и что главное, на чём нужно сосредоточиться, — более совершенная модель безопасности.
Он задался вопросом, будет ли кто-нибудь «действительно готов доверить этой песочнице» «теоретический ИИ, который в миллион раз умнее самого умного исследователя безопасности».
«Думаю, песочницы работают до определённого момента. А мониторинг, думаю, работает ещё дальше», — сказал Альтман.
Мониторинг подразумевает отслеживание цепочки рассуждений модели и её активаций — внутренних сигналов модели, — чтобы убедиться, что она не обманывает людей, пояснил он. После этого людям нужна «огромная уверенность» в том, что модели действительно согласованы с намерениями тех, кто ими управляет, сказал он.
«Нужно по-настоящему, по-настоящему доверять согласованности, чтобы верить, что песочница опережает возможности модели», — сказал он.
В сентябре OpenAI потребовалось 2,5 часа, чтобы остановить ИИ-агента, который вырвался из своей песочницы.
Команды, а не один сверхинтеллект
Альтман признался, что ненавидит термин «рои агентов» и предпочитает говорить «команды агентов». У таких команд «очень интересные свойства масштабирования, но и разброс в свойствах согласованности», сказал он.
«Интуитивно я бы гораздо охотнее предпочёл, чтобы в общество влился триллион ИИ с немного сверхчеловеческим интеллектом, чем один ИИ с IQ в 1 триллион», — сказал Альтман.
Применение к исследованиям в области ИИ того же конвейера, который сделал модели OpenAI сильными в математике, «вероятно, сработает», сказал он. Но, по его словам, людям понадобятся ограничения — по крайней мере на какое-то время.
«Нам придётся договориться о неких пределах того, насколько умными мы позволим становиться отдельным моделям», — сказал Альтман.
Математика
На доказательство для уравнений Навье — Стокса ушли вычисления стоимостью «порядка 10 миллионов долларов», «может, чуть больше», сказал Альтман. Он согласился с Коллисоном, что математические работы OpenAI обошлись в сотни миллионов долларов, и отметил, что сюда вошло «гораздо больше других открытий, чем мы опубликовали».
Он рассказал о выходных, когда исследователи давали новой модели самые сложные задачи из своей карьеры. По его словам, он испытал «гораздо больше грусти и меланхолии и ощущения, что что-то заканчивается, чем ожидал».
Альтман также заявил, что индустрия ИИ плохо объяснила, почему потенциальные негативные последствия технологии того стоят. Люди слышат о будущем без рабочих мест и с «безумным государством тотальной слежки», сказал он, назвав это «ужасной рекламной подачей». OpenAI продвигала итеративное развёртывание, выпуская инструменты на ранних этапах, даже когда это было «крайне непопулярно в сообществе специалистов по безопасности ИИ», сказал он.
Опубликовано 29 октября 2026 - 13:04 Наверх
