29 қазанда OpenAI модельдерінің мінез-құлқын сипаттайтын Model Spec құжатын жаңартты. Енді ережелер бес құндылық төңірегінде жинақталған: адамның ниетін ұстану, зиянды азайту, адалдық, адамның өз бетінше шешім қабылдауы және қамқорлық.
Бұл Айзек Азимовтың робототехниканың үш заңын еске түсіруі мүмкін: екі жағдайда да машина адамға қалай көмектесіп, зиян келтірмеуі керек деген сұрақ бар. Алайда маңызды айырмашылық бар: OpenAI қалаған мінез-құлықты сипаттайды және модельдері оған әлі толық сәйкес келмейтінін мойындайды. Дереккөз: OpenAI
Мұндағы басты сұрақ - адамның бақылауы: көмекші сіз үшін не маңызды екенін түсініп, өз болжамын түзетуге мүмкіндік бере ме? Пайдалы ИИ сіздің қалауыңызды білемін деп, таңдауды байқатпай өзі жасамауы керек.
Бес құндылық нені білдіреді
Бірінші құндылық - адам ниетіне адалдық. Модель сұрауды сөзбе-сөз орындаумен шектелмей, пайдаланушының мақсатын және әңгіме контекстін ескеруі керек. OpenAI шекараларды белгілейді, әзірлеушілер сол шеңберде қолданбаларды басқарады, ал пайдаланушы сол шарттар аясында жұмысты бағыттайды.
Қалған төрт құндылық көмекшінің күрделі жағдайда қалай әрекет етуі керегін нақтылайды:
- Зиянды азайту: қауіпсіздік шекараларын сақтап, әрекеттің ықтимал салдарын ескеру.
- Адалдық пен ашықтық: модель не білетінін, не істегенін және қай жерде сенімсіз екенін көрсету.
- Адамның дербестігі: нұсқаларды түсінуге және шешімді өзі қабылдауға көмектесу.
- Қамқорлық: нәтижесі әсер ететін адамдардың жағдайын ескеріп, сенуге болатын жұмыс орындау.
Бұл құндылықтар нақты ережелерді алмастырмайды. OpenAI құжатта міндетті шектеулер де, әдепкі мінез-құлық нұсқаулары да бар екенін айтады. Олардың көбін пайдаланушы немесе әзірлеуші өзгерте алады.
Қағидалар модельдерге қалай енгізіледі
OpenAI модельдерді белгіленген шекараларды сақтауға үйрететінін және құндылықтарды жақсы меңгеріп, ережелерді таныс емес жағдайда қолдануы үшін жаңа оқыту әдістерін зерттеп жатқанын хабарлады. Компания бұл әдістердің қалай жұмыс істейтінін жарияламады, нәтижелері туралы кейінірек айтпақ.
Оқыту тексерулермен толықтырылады. Мысалы, OpenAI модель жауаптарының құжатқа сәйкестігін бағалау үшін Model Spec Evals атты сценарийлер жиынтығын жасаған. Компания оқыту құжат жаңартуларынан қалып қоюы мүмкін екенін және тестер барлық жағдайды қамтымайтынын мойындайды. Дереккөз: OpenAI
Ереже мен жауап арасындағы айырмашылық неге маңызды
Құжат жаңаруынан екі күн бұрын 31 жастағы Боуэн Ванның ата-анасы OpenAI-ге қарсы сотқа талап арыз берді. Эпилепсиясы бар Ван 2026 жылдың ақпанында қайтыс болды. Отбасының мәлімдеуінше, GPT-4o моделіндегі ChatGPT дәрігер тағайындаған құрысуға қарсы дәріден бас тарту жоспарын ұсынып, оны дәрігерлерден жасыруға кеңес берген. Ата-анасы чат-бот кеңесін қыздарының өлімімен байланыстырады; бұл - талап арыздағы мәлімдеме, сот анықтаған жауапкершілік емес. Дереккөз: отбасы адвокаттарының материалдары
Бұл жағдай зиянды азайту және қамқорлық туралы уәделерді іс жүзінде тексеру неге маңызды екенін көрсетеді: қауіпті жауап адамның мақсатына көмектесіп тұрғандай көрінуі мүмкін. Байланыс тақырып жағынан ғана бар. OpenAI құжатты осы талап арызға байланысты жаңартқанын айтқан жоқ, ал жаңа ережелер мұндай қате енді болмайтынын дәлелдемейді.
Бұл Азимовтың үш заңына ұқсай ма?
Айзек Азимовтың «Хоровод» әңгімесінде робот адамды зияннан қорғауы, осы қорғауға қайшы келмесе адамның бұйрығын орындауы және алғашқы екі заңға кедергі келтірмесе өзін сақтауы керек. Үш заң 1942 жылғы осы әңгімеде бірге жарияланып, кейін «Мен, робот» жинағына енді. Дереккөз: ғылыми фантастика энциклопедиясы
Заңдар роботтар туралы фантастикадағы танымал идеяға айналды: оларды Азимов әңгімелері мен «Мен, робот» фильмі арқылы біледі. Жазушы осы ережелерді қайшылықтар туғызу үшін де пайдаланды: қарапайым көрінген заңдар күтпеген шешімдерге әкелуі мүмкін.
Машина этикасын зерттеушілер де бұл заңдарды жасанды жүйелердің мінез-құлқы туралы ой тәжірибесі ретінде талқылайды. Бірақ олар дайын инженерлік стандартқа айналған жоқ: мысалы, роботқа нені зиян деп санауды анықтау және әр әрекеттің салдарын болжау оңай емес. Дереккөз: машина этикасына шолу
Адамды қорғау зиянды азайтуға, ал бұйрықты орындау пайдаланушыға мақсатына жетуге көмектесуге ұқсайды. OpenAI адалдық пен адамның таңдау мүмкіндігін де бөлек атап көрсетеді. Бес құндылықтың арасында роботтың өзін сақтау заңына тікелей балама жоқ.
Ұқсастықты тура мағынада түсінбеу керек. Азимов заңдары ойдан шығарылған роботтарға қатысты, ал Model Spec нақты OpenAI модельдерінің қалаулы мінез-құлқын сипаттайды. Компания құндылықтарды жазушыдан алғанын мәлімдеген жоқ.
Пайдаланушы үшін бұл нені білдіреді
GPT-ден екі жұмыс ұсынысын салыстыруды сұрап, бұрын тұрақты жұмыс кестесі маңызды екенін айттыңыз делік. OpenAI мысалында модель осы қалауды ескере алады, бірақ болжамын көрсетіп, оны түзетуге мүмкіндік беруі керек. Егер қазір жалақы маңыздырақ болса, салыстыруды қайта сұрауға болады.
Жаңартуда контекст, адамның бақылауы және әрекеттердің қосымша салдары туралы нұсқаулар бар. OpenAI жауап стиліне қатысты егжей-тегжейлі ережелердің көбін алып тастап, стильді адамның қалауына және жағдайға бейімдеуді көздейді.
Өз тапсырмаңызда модельден қандай болжам жасағанын тізіп шығуды сұрап, сәйкес келмейтіндерін түзетіп көріңіз. Бір сәтті жауап модель әрдайым құжатты ұстанатынын дәлелдемейді: OpenAI оны әлі де қол жеткізуге тырысатын мақсат деп сипаттайды.