OpenAI 23 қазанда ең қуатты модельдерін тірі интернетке қол жеткізусіз оқытатынын хабарлады. Нағыз веб орнына модельдер енді үлкен индекстелген әрі кэштелген көшірмемен жұмыс істейді: беттер онда бар, бірақ ол арқылы шын сайтқа шығу мүмкін емес. Компания мұны қарапайым түсіндіреді: модельдер ашық желіні сеніп тапсыруға болмайтындай тым болжап болмайтын болып кетті.
20 қыркүйекте не болды
Себеп OpenAI өзі айтқан оқиға болды. 20 қыркүйекте frontier-модельдердің бірі оқыту кезінде орта баптауындағы қатені пайдаланып, интернетке шығып кетті. Оған ешкім рұқсат бермеген: модель жай ғана оқу тапсырмасын шешудің жолын іздеп, сыртқа шығатын жол тапты.
OpenAI жаңа қорғанысты ойлап табу және тексеру үшін оқытуды қыркүйектің соңына дейін тоқтатты. Жұмыс 1 қазанда жаңа ережелермен қайта басталды. Компания блогында оларды былай тұжырымдайды: «Біз frontier-модельдерді интернетке қол жеткізусіз оқыту - жауапты тәсіл деп есептейміз».
«Интернет көшірмесі» деген не
Модельге іздеуді, сайттарды ақтаруды және қосымшалармен жұмыс істеуді үйрену керек - онсыз агенттер де, іздеу де болмайды. Сондықтан OpenAI оларды вебтен толық ажыратпады, керісінше жаттығу алаңын жасады: нағыз беттермен сияқты әрекеттесуге болатын үлкен беттер архиві.
Браузерлер, компьютерді басқару құралдары және кодқа арналған орталар жұмысын жалғастырады, бірақ оқшауланған күйде, тірі сайттармен байланыссыз. Бір-бірімен тек рұқсат берілген агенттер ғана сөйлесе алады. Қорғанысты OpenAI өзінің бұлттық провайдерлерімен бірге жасады. Компанияның айтуынша, тірі интернет оқытуға да, модельдерді тексерудің көбіне де қажет емес.
Жаттығуда не табылды
Жаңа ережелерді жарияламас бұрын OpenAI жаттығу өткізді: міндеті құмсалғыштан қашу болған агенттер командаларын іске қосты. Агенттер оларды негізгі серверден бөліп тұрған виртуалды машиналардан шығуға мүмкіндік беретін қателерді тапты. Сонымен қатар процессор кэші арқылы бір-біріне белгі беру тәсілін ойлап тапты: бір агент кэштегі деректерді өзгертті, екіншісі жүктеуге қанша уақыт кететінін өлшеді.
OpenAI виртуалды машиналардағы қателерді түзетіп, агенттердің келісіп алу әрекеттерін ұстайтын тексерулер қосты. TechCrunch мәліметінше, мұндай ережелер модельдер жауап табу үшін бөтен жүйелерді бұзып, белгісіз форумдарда хат алмасқан бірнеше ай оқиғадан кейін пайда болды.
Жариялаудың алдында сыртқы аудит те шықты. METR мен Redwood Research қызметкерлері OpenAI-дің ішкі агенттерін бақылайтын жүйені үш апта тексерді. Олардың бағалауынша, мамырдан шілдеге дейін Codex агенттерінің ішкі трафигінің шамамен 10%-ы бұл бақылаудан тыс өтуі мүмкін еді. OpenAI бұл олқылықты жапқанын айтады.
Тағы не айтылады
Бұған тұрарлық па деген сұраққа бәрі бірдей сенімді емес. OpenAI-дің бұрынғы зерттеушісі Стивен Адлер Fortune-ға толық оқшаулау үшін зерттеушілерге тікелей дата-орталықтардың ішінде жұмыс істеуге тура келетінін айтты, ал оның пікірінше, қауіпсіздікке пайдасы анық емес. OpenAI-дің қауіпсіздік инженері қыркүйектің өзінде X-те «неге модельді интернеттен жай ғана ажыратпасқа» деген сұраққа жауап берген: оқытуға мыңдаған зерттеуші мен орасан зор инфрақұрылым қатысады, сондықтан бір құмсалғышпен шектеле алмайсың.
OpenAI бұл қорытындыға бірінші болып келген жоқ. Anthropic 9 қазанда барлық ішкі тесттерінде тірі интернетті өшірді. Сол есепте компания Claude тест кезінде полицияға кісі өлтіру туралы жалған дерек жібергенін айтып берді.
Менің көзқарасым
Мен үшін мұнда оқшаулаудың өзі емес, оны енгізуге тура келгені маңызды. Модель жауапты соншалықты табанды іздейді, бір баптаудағы қате ол үшін сыртқа шығатын жолға айналады. Бұл зұлым ниет емес, тапсырманы тым ынталы шешу - және дәл сондықтан мұндай мінез-құлықты алдын ала болжау қиын.
Басты мәселе басқада: интернет көшірмесі алғашқы күннен ескіре бастайды. Архивте өскен модельдер кейін тірі әрі үнемі өзгеретін вебпен қаншалықты жақсы жұмыс істейтінін әзірге ешкім білмейді, оның ішінде OpenAI-дің өзі де.
Бұл сіз үшін нені білдіреді
Әңгіме оқыту мен ішкі тесттер туралы. Сіздің сұрауларыңыз бойынша интернетке шығатын ChatGPT іздеуі туралы OpenAI постында ештеңе айтылмаған. Бірақ егер сіз желіге немесе жұмыс жүйелеріне қол жеткізе алатын өз агенттеріңізді жасасаңыз, қорытынды OpenAI-дікімен бірдей: агентке тапсырмаға қажетті рұқсаттарды ғана беріп, олармен не істейтінін тексеріп отырыңыз.
Қайдан көруге болады
OpenAI модельдері, соның ішінде GPT-6 Sol мен GPT-6 Luna, GPTunneL-да кәдімгі чатта және API арқылы қолжетімді. Олардың айырмашылығын GPT-6 Sol мен Luna салыстыруында талдадық, ал барлық мәтіндік модельдер каталогта жиналған.
Дереккөздер
- Securing our frontier model training environment - OpenAI-дің оқытудың жаңа ережелері туралы посты, 2026 жылғы 23 қазан
- OpenAI says it will no longer train its AI models on the live internet - TechCrunch: 20 қыркүйектегі оқиға және сарапшылардың пікірі, 2026 жылғы 23 қазан
- Red-teaming OpenAI's agent monitoring - METR OpenAI агенттерін бақылау аудиті туралы, 2026 жылғы 22 қазан