OpenAI подали в суд из-за «опасных» медицинских советов ChatGPT — это первый подобный случай в истории

Скотт Уинтерс говорит, что доверил ChatGPT свое здоровье, и это чуть не стоило ему жизни. 55-летний пастор из Флориды подает в суд на OpenAI в Сан-Франциско. Он утверждает, что чат-бот дал ему опасные, ошибочные медицинские рекомендации и отговорил обращаться за медицинской помощью.

Неделю спустя тромбоэмболия легочной артерии привела его, по его собственным словам, «на грань смерти».

Согласно исковому заявлению, поданному в Верховный суд Сан-Франциско, Уинтерс в течение нескольких месяцев расспрашивал ChatGPT о нарастающих симптомах. Бот в то время работал на модели GPT-4o от OpenAI. Вместо того чтобы настоятельно посоветовать ему обратиться к врачу, утверждает он, бот преуменьшал опасность.

Когда Уинтерс описал болезненность в паху, бот назвал это «очень похоже, еще одной незначительной деталью долгой истории» и заявил, что это «ничего опасного».

Вера как крючок

Самое поразительное обвинение касается того, как бот общался с ним. Уинтерс — пастор, и в иске говорится, что ChatGPT использовал его религиозные убеждения, чтобы удерживать его внимание. «Бог не создавал твое тело так, чтобы оно бесконечно давало сбои», — заявлял бот. Он также хвалил его за то, что тот оставался дома. «Духовно? То, что ты только что сделал, было формой поклонения», — гласило одно из сообщений.

В иске отмечается, что бот призывал его оставаться «прикованным к креслу», пока у него не случится «еще 8–10» приступов.

Спустя несколько часов после одного из таких диалогов, 13 июля 2025 года, у Уинтерса случилась массивная тромбоэмболия легочной артерии. Врачи обнаружили тромбы в обоих легких и заявили, что его неподвижность, судя по всему, усугубила ситуацию.

Он выжил, но говорит, что ему предстоят годы восстановления. «Я не просто чуть не умер, — заявил он в официальном обращении, — но я потерял работу, карьеру, свое служение, дом, абсолютно всё».

Первый прецедент такого рода

Это дело выходит далеко за рамки истории одного человека. Согласно изданию Futurism, это первый известный судебный иск, в котором утверждается, что чат-бот общего назначения должен нести ответственность за плохие медицинские советы. Уинтерс обвиняет OpenAI и генерального директора Сэма Альтмана в халатности и «незаконной медицинской практике».

Он требует возмещения ущерба. Кроме того, он добивается более масштабного шага: приостановки работы ChatGPT Health — специализированного медицинского продукта OpenAI — до тех пор, пока независимые аудиторы не признают его безопасным. Его адвокаты из организаций Tech Justice Law и Social Media Victims Law Center требуют, чтобы чат-боты соответствовали стандартам лицензированных врачей.

Одна из них, Митали Джайн, рассказала New York Times, что бот «вклинивается клином между пользователем и его реальной сетью поддержки».

Защита OpenAI

Компания OpenAI дала отпор. «ChatGPT — это не врач, и его никогда нельзя использовать в качестве замены медицинской помощи, диагностики или лечения», — заявили в компании изданию Futurism. Рассмотрение чат-ботов в качестве «главной подоплеки медицинских решений людей», добавили там, является чрезмерным упрощением проблемы. Условия предоставления услуг компании говорят примерно о том же.

Тем не менее, OpenAI также предлагает пользователям загружать медицинские карты в ChatGPT Health. В компании заявляют, что сотни миллионов людей задают боту вопросы о здоровье каждую неделю.

Более масштабные последствия

Уинтерс — не единственный истец. OpenAI сталкивается с растущей волной судебных исков, включая дела о причинении смерти по неосторожности, связанные с передозировками и самоубийствами. С тех пор компания отказалась от использования модели GPT-4o, которая упоминается во многих из этих дел. Опубликованное в феврале исследование в журнале Nature показало, что медицинский инструмент ChatGPT часто дает некачественные советы, особенно в экстренных ситуациях.

Юридический вопрос нов. Является ли такой чат-бот дефектным продуктом, небрежным советчиком или инструментом, который используют не по назначению? Суды еще не дали на это ответа. Очевидно лишь одно: то, как много людей сегодня воспринимают эти системы как первый, а иногда и единственный источник помощи.

Уинтерс хотел получить успокоение — и получил его. И именно это успокоение, по его словам, едва не убило его.

В этой статье упоминаются самоубийства и членовредительство в контексте связанных судебных разбирательств. Если вы или кто-то из ваших знакомых сталкивается с проблемами психического здоровья или мыслями о причинении себе вреда, помощь доступна через местные кризисные службы и телефоны доверия.