Люди втихомолку записывают каждый свой разговор с ИИ, а собеседник даже не подозревает об этом

Все больше профессионалов начинают использовать инструменты ИИ для записи каждого разговора, который они ведут, причем те, кого записывают, как правило, даже не догадываются об этом. На этой неделе The Wall Street Journal сообщил, что такие приложения, как Granola, расшифровывающие встречи без появления видимого бота или оповещения о своем присутствии, сделали фоновую запись настолько незаметной, что пользователи теперь выносят эту технологию за пределы конференц-залов в личную жизнь. Такой сдвиг порождает юридические и этические вопросы, к которым не готовы ни сами инструменты, ни их пользователи.

Компания Granola, привлекшая ранее в этом году 125 миллионов долларов при оценке в полтора миллиарда долларов, работает путем записи звука непосредственно через микрофон устройства пользователя, а не присоединяясь к звонку в качестве отдельного участника. Это означает, что на встрече не появляется значок бота и никакое автоматическое сообщение не сообщает участникам о ведении записи. Мишель Лим, генеральный директор компании по производству программного обеспечения для встреч Flint, рассказала Journal, что хотела бы, чтобы Granola работала в каждой комнате, куда она входит, — заявление, которое отражает как привлекательность, так и проблему.

Некоторые пользователи перенесли эту концепцию далеко за пределы рабочей среды: Эмми Чанг, основательница стартапа Yuzu Labs, рассказала Journal, что записывает первые свидания и отправляет стенограммы в Claude для получения отзывов о том, как прошла беседа. Другие рассказали о записи сеансов психотерапии, визитов к врачу и непринужденных ужинов с друзьями, и все это без ведома собеседника. В одиннадцати штатах США, требующих согласия всех сторон на запись, включая Калифорнию, Флориду, Иллинойс и Пенсильванию, подобные действия без предварительного уведомления являются потенциальным уголовным преступлением в соответствии с законами о прослушивании телефонных разговоров.

Последствия для рабочей среды уже дают о себе знать. Эми Дюфран, генеральный директор Института сертификации кадров (Human Resource Certification Institute), сообщила Associated Press, что ИИ-помощники для ведения заметок несут в себе огромные организационные риски, и утвердительно заявила, что компании вообще не должны их использовать. Появились сообщения о том, что ИИ-ассистенты для заметок остаются на видеозвонках после ухода сотрудников, молча документируя неформальные разговоры и сплетни, а эксперт по законам о конфиденциальности Алекс Албен предупредил, что автоматическая запись с участием третьих лиц создает ответственность, о которой большинство пользователей даже не задумывались.

Исследователи высказали и другую озабоченность, выходящую за рамки конфиденциальности: исследования когнитивной разгрузки выявили отрицательную корреляцию между интенсивным использованием ИИ и критическим мышлением. Беспокойство вызывает не только то, что люди ведут запись без согласия, но и то, что они теряют способность слушать, запоминать и самостоятельно обрабатывать разговоры. По мере того как эти инструменты становятся дешевле и незаметнее, встает вопрос уже не о том, распространятся ли они, а о том, удосужится ли вообще кто-нибудь сначала спросить разрешения.