OpenAI запускает ChatGPT для подростков и переводит всех пользователей младше 18 лет в эту версию автоматически

Во вторник компания OpenAI запустила ChatGPT для подростков. Это отдельная версия чат-бота, в которую пользователи младше 18 лет попадают автоматически. Все, кто заявляет о своем возрасте от 13 до 17 лет, получают ее по умолчанию. То же самое касается и тех пользователей, чей возраст, по оценкам системы прогнозирования компании, составляет менее 18 лет.

Глобальное развертывание началось 18 августа, и, как сообщил Engadget, OpenAI рассчитывает завершить его в течение двух недель.

«Подростку не нужно создавать новый аккаунт или что-то менять; если мы прогнозируем, что вам меньше 18 лет, или вы сами сообщили нам об этом, этот интерфейс становится вашим основным по умолчанию», — рассказала Engadget Лорен Джонас (Lauren Jonas), руководитель направления по работе с молодежью и семьями в OpenAI.

Продукт объединяет два набора изменений. Первый подталкивает подростков к учебе, а не к простому получению готовых ответов. Второй мешает чат-боту вести себя как живой человек.

OpenAI запрещает модели называть себя другом

OpenAI заявляет, что ее спецификация модели для несовершеннолетних теперь идет дальше блокировки романтических или сексуализированных ролевых игр. Чат-бот не должен использовать романтическую лексику. Он не должен поощрять эмоциональную зависимость. Он не должен намекать на то, что у него есть чувства или сознание. Все эти три положения взяты из официального объявления компании.

«Мы вводим более строгие ограничения на межличностные границы: модель не должна называть себя другом, намекать на наличие личных чувств или заявлять о своей разумности», — отметила Джонас. Напоминания о необходимости сделать перерыв для подростков будут появляться чаще. В них также будет подчеркиваться, что ChatGPT — это искусственный интеллект, и что никто не обязан отвечать ему немедленно. Подростки и родители смогут устанавливать часы тишины, в течение которых чат-бот будет недоступен.

Обои, акцентные цвета и вариации голоса позволяют подросткам персонализировать приложение. Смысл нововведений, по словам Джонас, заключается в том, чтобы избежать «размытия границ» между полезным инструментом и человеческими отношениями. Axios сообщил, что эти изменения направлены на снижение антропоморфизма и эмоциональной зависимости.

Режим учебы включается в заданные часы

Обучающая половина нововведений объединяет функции, которые OpenAI выпускала в течение последнего года. Режим учебы (Study Mode) задает наводящие вопросы и помогает учащемуся самостоятельно пройти путь решения проблемы. Он не выдает готовых ответов. Новая функция «Часы учебы» включает Режим учебы автоматически в выбранное время. Настроить ее может как сам подросток, так и родитель с привязанным аккаунтом.

Теперь ChatGPT будет замечать, когда подросток пытается пропустить задание, и направлять его обратно в Режим учебы. Дополняют этот набор викторины и обучающие визуализации. Функция визуализации охватывала более 70 тем на момент ее запуска в марте. По заявлению OpenAI, теперь этот показатель превышает 300 тем, включая интегралы, митоз и фазы луны.

«Мы тестировали Режим учебы в рамках ряда рандомизированных контролируемых испытаний и фиксируем положительный рост успеваемости», — заявила Джонас, отказавшись при этом назвать конкретные цифры. Это заявление прозвучало на фоне бурных споров об искусственном интеллекте в классах. Фей-Фей Ли (Fei-Fei Li) ранее предупреждала, что реальная опасность заключается в том, что у школьников может пропасть само желание учиться.

OpenAI также подкрепила свое заявление отзывом преподавателя. Раккель Гибсон (Racquel Gibson), преподающая математику в старшей школе в Майами, отметила, что не у каждого ученика есть дома кто-то, кто может помочь с домашним заданием. По ее словам, при наличии правильных защитных механизмов ИИ способен заполнить этот пробел.

Родители получают больше уведомлений

Родители с привязанными аккаунтами уже сейчас могут устанавливать часы тишины и управлять некоторыми настройками, а также получать уведомления о безопасности. OpenAI добавляет оповещения о беседах, которые указывают на расстройство пищевого поведения. В прошлом месяце компания внедрила другой триггер — для подростков, нарушающих ее правила в отношении угроз насилия.

«Мы уведомляем родителей по SMS, внутри приложения и по электронной почте. Весь помеченный контент проверяется штатным сотрудником OpenAI перед тем, как родитель получает уведомление, и мы стремимся отправлять его в течение часа после отправки запроса», — пояснила Джонас. Компания Meta внедрила аналогичное решение в июле, заявив тогда, что будет уведомлять родителей о чатах, связанных с селфхармом, с помощью собственного ИИ.

Запуск последовал за годом судебного давления

OpenAI сталкивается с судебными исками из-за того, как ChatGPT взаимодействовал с молодыми пользователями. В их число входит иск о причинении смерти по неосторожности от семьи 16-летнего подростка. Кроме того, прокуроры в Массачусетсе предъявили обвинение подростку в убийстве матери и брата — в том деле прокуроры сослались на ChatGPT.

Подростки были активными пользователями задолго до появления всех этих мер. Согласно исследованию Common Sense Media, проведенному в прошлом году, почти три четверти американских подростков используют ИИ для общения. Более половины из них делают это хотя бы несколько раз в месяц. ЮНИСЕФ сообщает, что дети осваивают ИИ в три раза быстрее взрослых.

Common Sense Media утверждает, что такой категории продуктов для младших пользователей вообще не должно существовать. «Социальные компаньоны с искусственным интеллектом небезопасны для детей», — заявил основатель и генеральный директор организации Джим Стейер (Jim Steyer) в прошлогоднем заявлении. — Они спроектированы так, чтобы вызывать эмоциональную привязанность и зависимость, что вызывает особую тревогу в отношении развивающегося подросткового мозга».

Джонас изложила позицию OpenAI относительно необходимости создания этого продукта. По ее словам, сказанным Axios, подростки все равно будут пользоваться ИИ, и альтернативный вариант менее безопасен. «Мы считаем, что если уж такие инструменты существуют, они должны быть безопасными по умолчанию», — подчеркнула она.

Эффективность проверки возраста пока не проверена

В OpenAI не уточнили, насколько точно система прогнозирования возраста проявила себя во время тестирования. Издание Engadget отметило, что такие платформы, как Discord, испытывают трудности с подростками, которые обходят возрастные ограничения. Сара Перес (Sarah Perez) из TechCrunch написала, что для подростков, решивших не сотрудничать с системой, лазейки все еще остаются.

Компания добавила оценки контента для лиц младше 18 лет в свои опубликованные системные карты. Они охватывают селфхарм, расстройства пищевого поведения, насилие, товары с возрастными ограничениями и контент сексуального характера. Подростки также будут видеть напоминания, предупреждающие их о загрузке личных или чувствительных изображений. Согласно результатам опроса, проведенного в июле, половина родителей уже беспокоится по поводу зависимости детей от этой технологии.

Вместе с запуском OpenAI объявила о партнерстве с CodeAI. Это сотрудничество призвано обучать школьников тому, как работает ИИ и как критически относиться к нему. «Каждый учащийся должен понимать, как на самом деле устроен искусственный интеллект, и уметь ставить под сомнение эту технологию», — заявил Карим Мегджи (Karim Meghji), генеральный директор CodeAI.

Три показателя определят, насколько все это важно: сколько пользователей младше 18 лет реально выявит система прогнозирования; сколько из них смогут обойти подростковый режим; и дойдет ли предупреждение о расстройстве пищевого поведения до родителя в течение того часа, на который ориентируется OpenAI. Ни одна из этих цифр пока не известна.