Подростка из Массачусетса обвиняют в убийстве матери и брата, и прокуратура указывает на ChatGPT

17-летний житель штата Массачусетс обвиняется в убийстве своей матери и младшего брата. По словам прокуроров, в период, предшествовавший трагедии, он использовал ChatGPT для изучения того, что они охарактеризовали как фантастические сценарии убийства своей семьи.

Этот случай пополняет растущий ряд тревожных происшествий, в которых искусственный интеллект-чат-бот оказывается замешан на периферии насильственных преступлений.

Арджун Аравинд из Актона, расположенного примерно в 30 милях к северо-западу от Бостона, предстал перед судом как взрослый по обвинению в убийстве и сопутствующих преступлениях в связи со смертью его 45-летней матери Судхи Венкатесан и 14-летнего брата Сиддхартха.

Ему были предъявлены обвинения 13 августа, от его имени было заявлено о невиновности, и он содержится под стражей без права внесения залога до предварительных слушаний по делу об установлении достаточных оснований, назначенных на 11 сентября.

Упоминание чат-бота прозвучало со стороны обвинения, когда окружной прокурор Мариан Райан заявила в суде, что подросток «продемонстрировал некоторое вызывающее опасения поведение, включая использование интернета и ChatGPT для поиска теоретических идей или фантастических историй об убийстве своей семьи».

Прокуратура не заявляла, что чат-бот подстрекал его к действиям, а содержание конкретных диалогов не предано огласке.

Его адвокат Дебра ДеВитт запросила проведение психиатрической экспертизы и охарактеризовала молодого человека как находящегося в состоянии шока, который «не осознавал, что они мертвы», добавив, что семья недавно переехала в Актон и что «отец просто хочет помочь своему сыну».

Судебные документы свидетельствуют о том, что тревожные признаки замечали и дома: отец, как сообщается, начал беспокоиться о поведении сына и его активности в интернете и стал убирать кухонные ножи в недоступные места.

Несмотря на все оговорки, это дело ставит вопрос, на который индустрия пока не дала ответа: как должна действовать система ИИ, когда пользователь расспрашивает ее о причинении вреда другим людям.

Чат-боты созданы максимально услужливыми, и хотя они обучены отклонять прямые запросы на совершение насилия, «теоретические» или «вымышленные» формулировки долгое время позволяли обходить эти защитные барьеры.

Это перекликается с прошлым инцидентом, когда OpenAI подверглась критике за то, что не передала информацию о пользователе, который впоследствии совершил стрельбу в школе.

Это также подпитывает стремительно нарастающую волну судебных и политических исков. Волна судебных разбирательств теперь обвиняет ИИ-компании в причинении вреда уязвимым пользователям — дела, которые некоторые сравнивают с «табачным моментом» индустрии, — а отдельные штаты начали принимать меры: Флорида подала в суд на OpenAI из-за вопросов безопасности детей, а Пенсильвания подала в суд на Character.AI.

Красной нитью через эти события проходит требование привлекать создателей таких систем к ответственности за то, к чему их продукты подталкивают, а не только за то, о чем их прямо просят.

В Европе ChatGPT вошел в число платформ, столкнувшихся с самыми строгими обязательствами в соответствии с Законом о цифровых услугах, и законодатели по обе стороны Атлантики сосредоточили свое внимание на том, как ИИ-продукты обращаются с несовершеннолетними.

Подобное дело, к каким бы выводам ни пришел суд в итоге, скорее усиливает этот контроль, чем смягчает его.

Компания OpenAI, которая не стала комментировать инцидент в Массачусетсе, заявила, что укрепляет свои системы защиты, особенно для подростков и пользователей, находящихся в кризисном состоянии, внедряя такие меры, как родительский контроль и более качественное распознавание кризисной лексики.

Помогут ли средства защиты такого рода выявить пользователя, который маскирует насилие под художественный вымысел — это именно тот вопрос, который сейчас задают прокуроры, регуляторы и убитые горем семьи.

Суду предстоит определить, что именно произошло в Актоне и какую роль, если таковая вообще была, сыграли технологии. Подросток не признал свою вину, и самые тяжелые факты пока не доказаны.

И тем не менеет сам факт того, что чат-бот теперь всплывает в подобных делах, упоминаемый прокурорами почти так же привычно, как история просмотров в браузере, является мерилом того, насколько глубоко эти системы вплелись в повседневную жизнь, включая ее самые мрачные уголки.