Zoox рассказала о принципах своей безопасности — спустя три недели после отзывов всех своих роботакси

Компания Zoox опубликовала обоснование своих заявлений о том, что она безопаснее человеков-водителей. Всё сводится к одному показателю — прогнозируемой частоте столкновений, травм и смертельных исходов, выраженной в милях на одно происшествие. Риски от программного обеспечения для вождения, самого транспортного средства и работы автопарка складываются в эту единую оценку.

Эта система работает как барьер. Перед любым обновлением ПО, влияющим на безопасность, изменением в «железе» или пересмотром операционных процедур Zoox обновляет общую концепцию и проверяет, соответствует ли итоговый показатель целевому значению.

Целевой показатель привязан к данным о поведении человека. Zoox формирует свой эталон на основе систем выборки данных о ДТП и смертности NHTSA (Национальной администрации безопасности дорожного движения США), а также двух наборов данных Федерального управления шоссейных дорог, после чего анализирует их с поправкой на скорость движения и взвешивает в соответствии с типами дорог, которые реально используют ее роботакси.

Чего компания не публикует, так это конечного результата. Zoox устанавливает целевой показатель путем сравнения с этим эталоном и заявляет, что стремится быть значительно безопаснее человека-водителя, но никогда не уточняет, какой именно уровень безопасности считается «значительным». Не приводит она и цифру, которой ее автопарк достигает в настоящее время.

Инженерная составляющая под этим фундаментом достаточно конкретна, чтобы с ней можно было спорить. Zoox указывает проводимые анализы опасностей, следует стандарту ISO 26262 с оценками целостности платформы и использует симуляции, которые намеренно ищут условия, при которых столкновение наиболее вероятно, с последующей корректировкой на основе реального опыта эксплуатации парка.

Некоторые решения действительно необычны. Независимая система проверки столкновений использует собственное восприятие и может наложить вето на траекторию, запланированную основной системой. Кроме того, в Zoox признают, что метрика, основанная на вероятности, не способна охватить редкие сценарии предотвращения ДТП, поэтому компания сохраняет тестовый набор данных, в котором роботакси должно продемонстрировать по меньшей мере уровень компетентного водителя.

Удаленные сотрудники встроены в модель, а не находятся за ее пределами. Тактики TeleGuidance никогда не берут управление на себя, а лишь предлагают подсказки по маршруту, в то время как ответственность остается за автомобилем. При этом риск совершения ими ошибки или сбоя их инструментов закладывается в ту же общую оценку.

Эта концепция также оставляет за компанией право ограничивать, приостанавливать или полностью запрещать эксплуатацию автопарка. За три недели до публикации этих материалов Zoox отзвала все 105 своих роботакси после того, как одна из машин не распознала сильное задымление и въехала в зону активного пожара в Лас-Вегасе.

Это был уже четвертый отзыв программного обеспечения примерно за 13 месяцев, и он последовал за требованием регулятора исправить проблемы с автомобилями, которые создают помехи для служб экстренного реагирования. По состоянию на март NHTSA зарегистрировала 123 столкновения с участием автомобилей Zoox в автономном режиме.

Такой аналитический подход применяется именно потому, что у компании нет достаточного пробега. У Zoox около трех миллионов автономных миль, тогда как Waymo преодолела сто миллионов еще год назад, и теперь у Zoox есть <платный сервис>, который нужно защищать, пока компания сокращает этот разрыв.