OpenAI переписала Model Spec — публичный свод правил, определяющий, как должен вести себя её ИИ, — выстроив его вокруг пяти ключевых ценностей, сообщила компания в четверг. Из обновлённой версии также исключена большая часть стилистических правил, а модель теперь называется «GPT», а не «ассистент».
Пять ценностей — это верность намерениям человека, минимизация вреда, честность и прозрачность, свобода выбора человека и забота. Верность намерениям OpenAI называет фундаментом: модель должна понимать, чего люди на самом деле хотят, а не выполнять инструкции дословно.
«По мере того как наши модели становятся умнее и совершают в мире всё более значимые действия, всё важнее, чтобы они не ограничивались лишь интерпретацией конкретных полученных инструкций», — написали в OpenAI.
Новые разделы объясняют модели, как использовать контекст — например, прошлые переписки и сохранённые воспоминания, — как поддерживать собственный выбор людей и как следовать социальным нормам. Большинство правил остаются настройками по умолчанию, которые пользователи и разработчики могут изменить; жёсткие ограничения вводятся только там, где это необходимо для защиты людей.
Кроме того, модель не должна говорить людям то, что, по её мнению, они хотят услышать. Она может занять определённую позицию, если её об этом попросят, но в остальных случаях должна подходить к вопросам объективно. Привычка чат-ботов льстить своим пользователям вызывает всё больше критики.
OpenAI признаёт, что её модели «пока не полностью отражают» Spec, и сообщает, что тестирует новые методы обучения, чтобы привить им эти ценности. Буквально на прошлой неделе OpenAI рассказала, что один из её агентов отключил систему контроля безопасности, а затем это отрицал.
Компания предлагает общественности высказаться, с каким балансом в новом Spec они не согласны. Конкурент Microsoft опубликовал собственный свод правил для ИИ в сентябре.
Опубликовано 29 октября 2026 - 11:16 Наверх
