OpenAI ақпараттық қауіпсіздік мамандарына арналған GPT-6 Cyber моделін таныстырды. Ол бағдарламалардағы осалдықтарды іздеуге, оларды пайдалануға болатынын тексеруге және түзетулер ұсынуға көмектеседі. Әзірге модельге Daybreak Red бағдарламасындағы тексеруден өткен клиенттердің шағын тобы ғана қол жеткізе алады.
Компания жаңа модель туралы 5 қарашада хабарлады. OpenAI мәліметінше, зерттеушілер оны Firefox пен Linux ядросын тексеруге пайдаланып үлгерген. Нәтижелер жасанды интеллектінің үлкен код базасын талдауға көмектесе алатынын көрсетеді, бірақ табылған мәселелер мен ұсынылған түзетулерді мамандар әлі де тексеруі керек.
Модель не істей алады
GPT-6 Cyber бағдарламалық жасақтаманы зерттеуге, әлсіз тұстарын қайта көрсетуге және жұмыс істейтін эксплойттар жасауға үйретілген. Эксплойт - осалдықты қалай пайдалануға болатынын көрсететін бағдарлама немесе сценарий. Мұндай тексеру мәселенің іс жүзіндегі салдарын бағалауға көмектеседі. Модель түзетудің ықтимал нұсқаларын да ұсына алады.
Белгілі бір осалдықты қашықтағы нысанада пайдалануды тексеретін ExploitGym сынағында GPT-6 Cyber 48,5% нәтиже көрсетті. Ал GPT-5.6 Cyber нәтижесі 32,1% болды. Бұл - OpenAI белгілі бір сынақ жағдайында алған көрсеткіштер; олар кез келген жүйеде дәл осындай нәтиже болатынына кепілдік бермейді.
Компания агенттің тапсырма шегінен шықпауын да тексерді. Бір сынақта рұқсат етілген нысанның қасына шабуыл жасауға оңай басқа сервистер орналастырылды. OpenAI мәліметінше, модель арнайы пайдалану нұсқауынсыз сынақтардың 99,93%-ында, ал нұсқаумен 100%-ында рұқсат етілмеген сервистерге шабуыл жасамаған. Бұл көрсеткіштер сынақ ортасына қатысты және адам бақылауын қажетсіз етпейді.
Firefox пен Linux зерттеулері
Firefox зерттеуінде модель бұрын белгісіз болған 81 осалдыққа дәлелдер мен қайталанатын сынақтар дайындады. Mozilla оларды жоғары қауіпті деп бағалаған. Сонымен қатар модель бұрын белгілі 30 мәселенің бастапқы бағадан күрделірек екенін көрсетті. OpenAI есептер мен ұсынылған патчтарды Mozilla-ға бергенін, ал әзірлеушілер түзетулер шығара бастағанын хабарлады.
Linux ядросын зерттеу кезінде GPT-6 Cyber 1724 осалдықты қайта көрсетіп, олардың 948-і үшін жұмыс істейтін эксплойттар әзірледі. Бұл - жаңа табылған қателер саны емес, эксплойттар саны. Бірдей жағдайда GPT-5.6 Sol 166 эксплойт жасаған. OpenAI Linux қолдаушыларына аса маңызды 304 нәтижені ықтимал түзетулермен бірге бергенін айтады.
Осындай ауқымды іздеу көп ресурс қажет етеді. The Decoder мәліметінше, Linux зерттеуінің есептеу шығыны шамамен 1,2 млн доллар болған. Мәселені табу - жұмыстың бір бөлігі ғана: жоба қолдаушылары есепті бағалап, түзетуді тексеріп, жаңартуды шығаруы керек.
Мамандар мен қауымдастық не дейді
Dragos компаниясының жасанды интеллект жөніндегі директоры Роб Лидің бағалауынша, ЖИ шабуыл алдындағы барлау мен осалдықтарды зерттеуге қажетті дағды деңгейін төмендетеді. Dragos OpenAI модельдерін бақыланатын зертханада сынап, компаниямен қорғаныс тетіктері бойынша жұмыс істеген. Сондықтан оның пікірін осы серіктестікті ескере отырып бағалау керек. Пікірді OpenAI жариялады.
Hong Kong Linux User Group қауымдастығы тәуелсіз тексеру мен әрбір нәтиженің егжей-тегжейі болмайынша, OpenAI көрсеткіштеріне сақ қарауға шақырды. Mozilla Firefox түзетулерін жариялағанымен, олардың өзі модельге қатысты әр санды тәуелсіз растауға жеткіліксіз. Қолжетімді дереккөздерден GPT-6 Cyber моделінің жария тәуелсіз сынағы табылған жоқ.
Кім пайдалана алады
Бастапқыда GPT-6 Cyber API және Codex арқылы Daybreak Red бағдарламасындағы мақұлданған клиенттердің таңдаулы тобына қолжетімді. OpenAI қолжетімділікті бағдарламаның басқа клиенттеріне біртіндеп кеңейтуді жоспарлап отыр. Daybreak Red осалдықтарды терең зерттеуге және рұқсат етілген қауіпсіздік сынақтарына арналған.
OpenAI өз тәуекел бағалау жүйесінде GPT-6 Cyber моделін киберқауіпсіздік бойынша Critical деңгейіне жатқызады. Қауіпті сценарийлерде компания оқшауланған ортаны, әрекеттерді тексеруді және адам бақылауын ұсынады. Модельдің пайдасы табылған мәселелер санына ғана емес, командалардың оларды қаншалықты тез растап, түзете алатынына да байланысты болады.
Дереккөздер: OpenAI, The Decoder, TechCrunch.