Amazon потратила 1,8 млн долларов на провальный проект с Claude и теперь продает решение от подобных проблем

В Amazon выяснили, что искусственный интеллект способен превратить банальную оплошность в семизначный убыток. Внутренние показатели компании свидетельствуют о проектах, чей бюджет был превышен в колоссальных масштабах — в том числе один из них сжег 1,8 миллиона долларов, прежде чем это кто-то заметил. Старшие инженеры охарактеризовали эти результаты как «катастрофически дорогие».

Эти случаи были обнародованы на внутреннем совещании и первыми освещены Financial Times. Самый худший инцидент связан с использованием модели Claude от Anthropic для сопоставления записей об авторах с товарными позициями в интернет-магазине Amazon. Бюджет этого проекта был превышен на 860 процентов, на обнаружение проблемы ушло пять месяцев, а само внедрение в итоге провалилось.

Рядом с ним фигурировали еще две менее масштабные промашки, отметили в Tom’s Hardware. Инструмент финансового аудита превысил смету примерно на 541 000 долларов. Система, призванная ускорить доставку, обошлась на 134 000 долларов дороже. Каждая из этих ошибок относилась к категории тех, что раньше стоили практически ноль.

Как дешевая ошибка превращается в огромный счет

Причина кроется в прейскуранте. Когда код пишет человек, при наличии багов он выдает ошибку и аварийно завершает работу. Когда ту же работу выполняет модель, неправильная конфигурация просто продолжает работать и тихо выставляет вам счет. Цикл повторных попыток, отправляющий один и тот же промпт снова и снова, или задача, запущенная по всему каталогу вместо выборки, не приводят к сбою. Они приводят к инвойсу.

Этот инвойс приходит ежемесячно, а не в логах сборки. Именно из-за этого разрыва некорректно настроенная задача может выполняться пять месяцев, прежде чем кто-то сопоставит ее с конкретной цифрой. Переход на оплату за токен только усугубляет ситуацию. Системы ИИ-агентов, которые расходуют гораздо больше токенов, чем обычные чат-боты, лишь подливают масла в огонь.

Все это актуально не только для Amazon. Это та же ловушка, в которую попался разработчик, получивший от OpenAI счет на 1,3 миллиона долларов, и именно поэтому корпоративные расходы на ИИ продолжают расти даже на фоне падения стоимости токена.

Компания, которая продает решение

И вот в чем ирония. Amazon перерасходовала средства на ИИ в то время, как ее собственное облачное подразделение продает инструменты для предотвращения именно таких проблем. Сервис AWS Bedrock предлагает пакетный вывод (batch inference) за полцены, дисконтированный тариф Flex, кэширование промптов со скидкой в девять десятых от стандартной стоимости ввода, а также маршрутизацию запросов, перенаправляющую простые задачи на более дешевые модели.

Более дешевые модели также были доступны. Модель Haiku от Anthropic стоит втрое дешевле Sonnet, которую выбрала Amazon. Перерасход возник из-за того, что по умолчанию была выбрана передовая (frontier) модель при отключенных защитных механизмах — ровно та ошибка, избегать которой Amazon и Anthropic советуют другим компаниям.

Ответ Amazon

В Amazon постарались преуменьшить масштабы проблемы. «Как и с любой новой технологией, мы экспериментируем, учимся и совершенствуем методы ее использования», — заявили в компании, добавив, что несколько единичных примеров не отражают того, как работают ее команды. Описанные инциденты затронули лишь небольшое число групп внутри корпоративного штата численностью около 300 000 человек.

Математика оправдывает это пожимание плечами. Квартальная выручка Amazon превышает 180 миллиардов долларов, так что прогоревшие бюджеты составляют менее 0,1 процента от продаж за один месяц. Эксперт по затратам на AWS Кори Куинн (Corey Quinn) не проявил сочувствия, написав в соцсетях: «Наверное, так тяжело получить неожиданный счет с двумя запятыми».

За кулисами реакция оказалась более жесткой. Amazon уже свернула внутреннюю таблицу лидеров, ранжировавшую сотрудников по уровню использования ИИ, после того как работники стали искусственно накручивать ее, раздувая потребление токенов. Теперь инженеры компании создают автоматизированные защитные механизмы, чтобы ограничивать бюджет проекта до того, как придет счет.

В этом и заключается главный урок, и он носит управленческий, а не финансовый характер. Для Amazon 1,8 миллиона долларов — это погрешность округления. Но для тысяч фирм, которые сейчас полагаются на ИИ для сокращения издержек, вышедшая из-под контроля и спрятавшаяся на пять месяцев задача — это грань между нормальным бюджетом и кризисом.