Новый ИИ прослушивает каждый тюремный звонок и определяет говорящего

Компания из Техаса начала продавать пенитенциарным учреждениям систему искусственного интеллекта, которая прослушивает тюремные телефонные звонки. Она определяет, кто именно говорит, независимо от того, хочет этого говорящий или нет.

Компания LEO Technologies из Остина объявила о запуске Verus Voice AI в понедельник. Продукт использует голосовую биометрию для выявления заключенных, которые звонят с использованием чужих персональных идентификационных номеров. По заверению компании, система непрерывно создает и отслеживает голосовые профили, вместо того чтобы ждать, пока сотрудники обнаружат аномалии.

«Личные идентификационные коды и телефоны могут передаваться другим лицам, использоваться под принуждением или обмениваться между заключенными, — заявил Тим Андерсон. — А голос — нет». Андерсон является старшим вице-президентом компании.

Два описания одного продукта

В пресс-релизе делается акцент на сдержанности. В нем говорится, что система оснащена «встроенными средствами защиты», а квалифицированный персонал проверяет каждый результат перед принятием каких-либо мер. Компания обещает «человеческий контроль и подотчетность» на всех этапах.

На собственной странице продукта дается более широкое обещание. Она предлагает ведомствам «загружать любые образцы голоса и мгновенно искать совпадения по всем разговорам». По словам разработчиков, это исключает необходимость ручной проверки.

На сопутствующей странице линейки голосовой биометрии фирмы формулировки звучат жестче. Там написано: «Узнайте, кто говорит, даже если этот человек не хочет быть опознанным».

Все это вовсе не описание инструмента для проверки PIN-кодов. Речь идет о доступном для поиска архиве голосов, по которому можно делать запросы, используя любой предоставленный следователем образец.

Пятнадцать лет голосовых отпечатков

Голосовая биометрия в американских тюрьмах — далеко не новшество. Компания Securus Technologies уже более десяти лет продает продукт под названием Investigator Pro. Она продвигает этот инструмент под практически теми же предлогами: выявление злоупотреблений PIN-кодами и распознавание звонящих.

В 2019 году издания The Appeal и The Intercept сообщили, что учреждения создали базы данных, содержащие сотни тысяч голосовых отпечатков. Они выяснили, что тюрьмы в Аризоне, Техасе, Нью-Мексико, Мичигане, Флориде, Массачусетсе, Колорадо и Висконсине закупают эту технологию.

Значительная часть собранных данных касалась лиц, ожидающих суда. Должностные лица тюрьмы округа Форт-Бенд в Техасе заявили, что учреждение снимает голосовые отпечатки у каждого входящего в двери человека. После освобождения отпечаток оставался в системе, если только не поступал судебный приказ об уничтожении данных. Поставщик хранил эти данные в собственной сети, а не в окружной.

Согласие там, где его практически нет

Адвокаты, отстаивающие гражданские свободы, уже давно утверждают, что подобное согласие не имеет особого веса. Арон Макки из Электронного фонда защиты прав потребителей (EFF) заявил изданию The Appeal, что создание голосовых отпечатков в тюрьмах может быть приравнено к незаконному обыску и изъятию. По его словам, люди соглашаются на это, потому что отказ лишает их возможности общаться с семьями.

Сенатор-демократ от Орегона Рон Уайден затронул коммерческую сторону вопроса. Если Securus извлекает прибыль из биометрических данных, изымаемых государством, то, по его словам, «американцы имеют право об этом знать».

Клэр Гарви, работавшая тогда в Центре конфиденциальности и технологий Джорджтаунского университета, пошла еще дальше. Она утверждала, что ведомства должны уничтожать биометрические шаблоны, когда прокуроры снимают обвинения или присяжные выносят оправдательный приговор. Несколько адвокатов защиты заявили, что их вообще никто не предупреждал о существовании таких отпечатков.

Другой голос на линии

В каждом прослушиваемом звонке участвуют как минимум два человека. И только один из них — заключенный. В EFF отмечали, что технология подобного класса способна составить профиль любого человека, чей голос попадает в тюремный эфир. Это касается родителей, детей и друзей тех, кто находится за решеткой.

В LEO Technologies не уточнили, записывает ли Verus Voice AI и сохраняет ли голоса людей, находящихся за пределами пенитенциарного учреждения. В официальном анонсе отсутствуют данные о сроках хранения, процедуре удаления и месте размещения информации. На странице продукта эта информация также не приводится.

Этот пробел имеет критическое значение, поскольку голосовой анализ редко ограничивается лишь установлением личности. Компания Meta запатентовала технологию отслеживания настроения по голосу и эмоциям, а потребительские инструменты теперь по умолчанию записывают разговоры. В текущем году Anthropic начала собирать биометрические данные у пользователей, попавших под подозрение.

Аргументы за

Проблема, на которую нацелен продукт, вполне реальна. Телефонные минуты служат валютой внутри учреждений, и заключенные торгуют ими, берут их взаймы и присваивают чужие PIN-коды. Следователи также используют мониторинг звонков для выявления случаев запугивания свидетелей и преследования жертв домашнего насилия. Компания Securus ссылалась ровно на это в 2019 году, защищая собственную систему.

LEO Technologies позиционирует свою платформу как инструмент безопасности, а не наказания. В линейку продуктов входят видеоаналитика, панель управления операциями и инструмент оздоровления для предотвращения самоубийств. Стивен Харп, директор по продукту компании, ранее заявлял, что прошлые инструменты были «слишком дорогими и ненадежными».

Точность по-прежнему остается слабым местом. Сотрудники The Appeal наблюдали, как сержант из округа Форт-Бенд просматривал звонки, помеченные Investigator Pro. Система оценивала собственные совпадения в 83, 79, 55 и 45 процентов. Сержант признал, что адвокаты защиты могут оспорить такие доказательства, но все равно отправил записи прокурорам.

Уже на полках

Verus Voice AI уже поступил в продажу. LEO Technologies имеет контракт с Управлением общего обслуживания США и три контракта на государственные закупки в штате Техас. Таким образом, ведомства могут приобрести систему по уже существующим каналам без проведения новых процедур закупок или публичных обсуждений.

Этот механизм имеет гораздо большую значимость, чем любой отдельный запуск. Именно так сеть камер Flock распространилась по американским городам и именно так технологии распознавания лиц добрались до британских торговых улиц.

Бьянка Тайлек из Проекта подотчетности пенитенциарных учреждений (Corrections Accountability Project) озвучила эту мысль еще в 2019 году, и она не потеряла актуальности. Компании тестируют системы такого рода на людях, в отношении которых общество склонно считать, будто те лишились своих прав. «Сегодня это эта категория населения, — сказала она, — а завтра будет другая».