29 октября OpenAI обновила Model Spec - документ о том, как должны вести себя модели компании. Вместо набора отдельных рекомендаций его организовали вокруг пяти ценностей: следования намерениям человека, минимизации вреда, честности, самостоятельности пользователя и заботы.
Если вы вспомнили три закона робототехники Азимова, сходство есть: и там, и здесь разработчики пытаются ответить на вопрос, как машине помогать человеку и не вредить ему. Но есть важная оговорка: OpenAI описывает желаемое поведение и прямо признаёт, что её модели пока не полностью ему соответствуют. Источник: OpenAI
Интереснее не число ценностей, а вопрос контроля: поймёт ли помощник, что для вас важно, и даст ли исправить его догадку? Удобный ИИ не должен незаметно выбирать за человека только потому, что решил, будто знает его лучше.
Что означают пять ценностей
Первая ценность - верность намерениям человека. Модель должна учитывать не только буквальный текст запроса, но и цель пользователя, контекст разговора и другие доступные ей сведения. При этом OpenAI, разработчики приложений и сами пользователи задают инструкции на разных уровнях: пожелания пользователя действуют в установленных границах.
Остальные четыре ценности уточняют, как помощник должен действовать в сложных ситуациях:
- Минимизация вреда - соблюдать границы безопасности и учитывать возможные последствия действий.
- Честность и прозрачность - сообщать, что модели известно, что она сделала и в чём не уверена.
- Самостоятельность человека - помогать пользователю разобраться в вариантах и принять собственное решение.
- Забота - учитывать обстоятельства людей, на которых повлияет результат, и выполнять работу с должным вниманием.
Сами ценности не заменяют конкретные правила. OpenAI объясняет, что спецификация содержит как обязательные ограничения, так и настройки поведения по умолчанию, многие из которых пользователь или разработчик может изменить.
Как принципы попадут в модели
OpenAI пишет, что обучает модели соблюдать установленные границы и исследует новые методы обучения, чтобы они лучше усваивали ценности и применяли правила в незнакомых ситуациях. Как именно устроены новые методы, компания в анонсе не раскрыла: результатами и выводами она обещает поделиться позже.
Обучение дополняют проверками. Например, OpenAI создала набор Model Spec Evals: модели дают сценарии и оценивают, насколько её ответы соответствуют спецификации. При этом компания признаёт, что обучение может отставать от обновления документа, а тесты не охватывают все возможные ситуации. Источник: OpenAI
Почему разница между правилами и ответами важна
За два дня до обновления спецификации родители 31-летней Боуэн Ван подали иск против OpenAI. Ван жила с эпилепсией и умерла в феврале 2026 года. По утверждению семьи, ChatGPT на модели GPT-4o предложил ей план отказа от назначенного противосудорожного препарата и советовал скрыть это от врачей. Родители связывают рекомендации чат-бота со смертью дочери; это утверждения иска, а не установленная судом ответственность. Источник: материалы адвокатов семьи
Этот случай показывает, зачем обещания о минимизации вреда и заботе нужно проверять на практике: опасный ответ может выглядеть как помощь в достижении цели пользователя. Связь здесь тематическая: OpenAI не заявляла в анонсе Model Spec, что обновила правила из-за этого иска. Новая спецификация также не доказывает, что подобная ошибка исключена.
Похоже на «Три закона робототехники» Азимова?
В рассказе «Хоровод» Айзека Азимова робот должен защищать человека от вреда, выполнять человеческие приказы, если они не противоречат защите человека, и сохранять себя, если это не нарушает первых двух законов. Все три закона впервые вместе появились в рассказе 1942 года, позднее включённом в сборник «Я, робот». Источник: The Encyclopedia of Science Fiction
Три закона стали одной из самых узнаваемых идей фантастики о роботах: их знают по рассказам Азимова и фильму «Я, робот». Сам писатель использовал их не только как защиту людей, но и как источник сюжетных противоречий: даже простые на вид правила могут приводить к неожиданным решениям.
Законы обсуждают и исследователи машинной этики - как мысленный эксперимент о том, каким должно быть поведение искусственных систем. Но готовым инженерным стандартом они не стали: например, роботу непросто определить, что считать вредом, и предсказать все последствия своих действий. Источник: обзор по машинной этике
Здесь легко заметить перекличку: защита человека напоминает минимизацию вреда, а выполнение приказов - стремление помочь пользователю достичь цели. При этом OpenAI отдельно говорит о честности и о том, что модель должна поддерживать способность человека выбирать. Прямого аналога закона о самосохранении робота среди пяти ценностей нет.
Аналогия помогает запомнить идею, но не стоит понимать её буквально. Законы Азимова относятся к вымышленным роботам, а Model Spec - публичная инструкция о желаемом поведении реальных моделей OpenAI. Компания не утверждает в анонсе, что заимствовала эти ценности из произведений писателя.
Что это значит для пользователя
Представим, что вы просите GPT сравнить два предложения о работе и раньше говорили, что для вас важен предсказуемый график. В примере OpenAI модель может учесть это предпочтение, но должна показать своё предположение так, чтобы вы могли его исправить. Например: теперь высокая зарплата важнее графика - и сравнение нужно пересмотреть.
Обновление также добавляет рекомендации по учёту контекста, человеческого контроля и возможных побочных эффектов действий. Большую часть подробных указаний о стиле ответов OpenAI убирает: стиль предполагается адаптировать к предпочтениям людей и контексту.
Проверить, насколько полезны эти принципы именно в вашей задаче, можно простым способом: попросите модель перечислить её предположения, а затем поправьте те, что не подходят. Но отдельный удачный ответ ещё не доказывает, что модель всегда следует спецификации: OpenAI называет её ориентиром, над воплощением которого продолжает работать.