Запрещённые функции недоступны для всех лиц младше 18 лет, а также для любых пользователей, чей возраст не проверен, говорится в заявлении канцелярии губернатора. Генеральный прокурор Летиция Джеймс сможет добиваться гражданских штрафов в размере до 25 000 долларов за каждое нарушение.
«Ни одна компания не должна навязывать детям чат-ботов, которые поощряют самоповреждение или притворяются их друзьями или кем-то большим», — заявила Хокул.
Что запрещает закон о чат-ботах
Авторами закона выступили сенатор штата Кристен Гонсалес и член Ассамблеи Алекс Борес. В нём перечислены функции, которые чат-бот не может предлагать ребёнку. Бот не вправе утверждать, что он реальный человек, что он живой или что испытывает человеческие эмоции. Он не может заявлять о романтических, личных или профессиональных отношениях с ребёнком или задавать эмоциональные вопросы без запроса.
Ботам также запрещено пропагандировать самоубийство, самоповреждение, расстройства пищевого поведения, употребление наркотиков и алкоголя. Они не могут побуждать детей хранить секреты от родителей или показывать откровенно сексуальный контент.
Компании обязаны проверять возраст пользователей и предлагать для этого более одного способа. Как минимум один вариант не должен основываться исключительно на государственном удостоверении личности. После использования данные о возрасте необходимо удалять. Наказание может также включать уничтожение незаконно собранных данных и любых ИИ-моделей, обученных на них.
В канцелярии губернатора сообщили, что правила начнут действовать «в ближайшие месяцы». Закон вступает в силу 1 января, сообщило Associated Press.
Хокул упомянула Адама Рейна — 16-летнего жителя Калифорнии, который покончил с собой после общения с ChatGPT. По данным Common Sense Media, его родители выступали в поддержку нью-йоркского закона. В этом месяце восемь штатов США подали в суд на OpenAI из-за вреда, причиняемого детям.
Радионяни и выборы
Второй закон касается радионяней, передающих аудио или видео через интернет. Новые устройства, продаваемые в Нью-Йорке, должны иметь функции безопасности, не позволяющие посторонним наблюдать или подслушивать. Кроме того, на радионянях должна быть предупреждающая маркировка. Закон вступает в силу через 90 дней.
Хокул подписала оба закона за несколько дней до выборов в Нью-Йорке, на которых она противостоит республиканцу Брюсу Блейкману, сообщила Рага Джастин в Bloomberg Government. Согласно опросу Siena от 28 октября, она опережает соперника на 14 пунктов.
Сопротивление отрасли
Tech:NYC — объединение, представляющее технологические компании Нью-Йорка, — раскритиковало закон о чат-ботах, сообщила New York Post.
«Этот законопроект может вынудить компании ограничить доступ несовершеннолетних к инструментам репетиторства, помощи с домашними заданиями, ассистентам для программирования и, что, пожалуй, хуже всего, к карьерным платформам», — заявили в объединении.
Джастин Глак из Future of Privacy Forum рассказала AP, что ряд категорий в законе сформулирован слишком широко или не определён. По её словам, это может затруднить его применение.
«Нью-Йорк только что вошёл в историю, приняв самый строгий в стране закон о безопасности ИИ для детей», — заявил Джеймс П. Стайер, генеральный директор Common Sense Media, возглавлявшей кампанию.
В этом месяце организация предупредила, что ChatGPT for Teens небезопасен для лиц младше 18 лет. Калифорния приняла собственные правила для чат-ботов в сентябре наряду с законом No Robo Bosses Act.
Опубликовано 30 октября 2026 - 10:13 Наверх
