Haiku 5.5 және GPT-6 Luna: бағасы шамалас болса, қайсысын таңдау керек?

Haiku 5.5 және GPT-6 Luna: бағасы шамалас болса, қайсысын таңдау керек?

7 қазанда Anthropic өзінің ең жылдам моделі Claude Haiku 5.5-ті шығарды және оны бірден 22 қыркүйекте шыққан OpenAI-дың GPT-6 Luna моделімен салыстырды. Anthropic тестілерінде Haiku Luna-дан барлық жерде озады, ал Agent Arena-ның тірі сессияларында Luna жоғары тұр. Біздің прайсте екі модельдің токен бағасы шамамен бірдей, сондықтан таңдауды тапсырма шешеді.

Плюш Tun екі шыны шардың арасынан таңдайды, маржан және жалбыз түстес: Haiku 5.5 немесе GPT-6 Luna

Барлық модельдер бір кестеде

Haiku 5.5 - Anthropic-тің осы сыныптағы күш деңгейін реттейтін алғашқы моделі: күш аз болса - арзан әрі жылдам, көп болса - ақылдырақ. Luna-да мұндай баптау басынан бар. Жаңа модельдердің қасына олардың алдыңғы нұсқаларын қойдық:

Haiku 5.5 (өзекті)GPT-6 Luna (өзекті)Haiku 4.5 (алдыңғы)GPT 5.6 Luna (алдыңғы)
GPTunneL бағасы, 1K үшін ₸, кіріс / шығыс0,15 / 0,750,2 / 1, қазір 0,1 / 0,51 / 50,2 / 1,2
Контекст1 млн1,05 млн200 мың1,05 млн
OSWorld 2.1, компьютермен жұмыс72,4%48,9%15,7%дерек жоқ
Terminal-Bench 4.0, терминалдағы код39,2%16,4%0,0%дерек жоқ
FrontierCode 1.1 Main, код-агенттер46,4%42,4%жарияланбағандерек жоқ
Chartography, құралсыз графиктер46,4%29,1%6,4%дерек жоқ
GDPval-AA v2.1, жұмыс тапсырмалары, Elo16201437735дерек жоқ
AA-Briefcase v1.1, жұмыс тапсырмалары, Elo15781336614дерек жоқ
Agent Arena, орын (жиынтық көрсеткіш)27-орын (+1,88%)19-орын (+3,26%)дерек жоқ37-орын (-1,80%)

Қалың қаріппен екі өзекті модель және әр тест жолындағы олардың арасындағы ең жақсы нәтиже белгіленген. Тест нәтижелері Anthropic анонсынан алынған, яғни бұл вендор деректері: Luna-ны компанияның өзі OpenAI API арқылы іске қосқан. GPT-6 Luna қазір 50% бастапқы жеңілдікке байланысты әдеттегі бағадан екі есе арзан, ағымдағы бағалар - бағалар бетінде. «Дерек жоқ» дегеніміз - модель бұл тестке қатыспаған немесе дереккөзде нәтиже жоқ.

Кестеден не көрінеді:

  • Haiku 5.5 және GPT-6 Luna. Haiku Anthropic-тің алты тестінің бәрінде жеңеді: ең үлкен айырмашылық Terminal-Bench (39,2% пен 16,4%) және OSWorld (72,4% пен 48,9%) тестінде, ең азы FrontierCode тестінде (46,4% пен 42,4%). Бірақ модельдер нақты сессияларда бағаланатын Agent Arena-да Luna жоғары, ал токен бағасы бойынша модельдер шамамен тең. Тестте жеңгеннің жұмыста да жеңетіні міндетті емес.
  • Haiku 5.5 және 4.5. Баға 6-7 есе төмен, OSWorld нәтижесі 15,7%-дан 72,4%-ға, ал Terminal-Bench нөлден 39,2%-ға дейін өсті. Haiku 4.5-те отырсаңыз, ауысу бірден өтеледі.
  • GPT-6 Luna және 5.6 Luna. Кіріс бағасы бірдей, шығыс сәл арзан (1 ₸ пен 1,2 ₸), ал Agent Arena-да Luna 37-орыннан 19-орынға көтерілді. Баптаулар әртүрлі: 5.6 xHigh-да, 6 Max-та.

Екі ескертпе. OSWorld мұнда 82 тапсырмадан тұратын офлайн жиын, ал 72,4% пен 48,9% - ішінара балл есебі: қатаң есеп бойынша Haiku тапсырмалардың 37,1%-ын өтеді (жүйелік карта), Luna-ның қатаң есебі картада жоқ. Artificial Analysis тәуелсіз индексі де максималды күште Haiku-ді қолдайды, 43 пен 38, бірақ high күшінде Haiku Luna-ның max-тағы 38 ұпайына жетеді.

Luna қай жерде алда

Іздеусіз білім бойынша Luna дәлірек: AA-Omniscience тестінде 44% дұрыс жауап, ал Haiku-де 36%. Бірақ Haiku білмейтін жерде жауап ойлап таппайды: ойдан шығарылған жауаптар үлесі 40% пен 77%. Бұл Artificial Analysis-тің 7 қазандағы өлшемі, Latent Space баяндауында.

Arena дауыстары не дейді

arena.ai сайтында модельдерді пайдаланушылар бағалайды. Деректер 13-14 қазандағы.

Агенттер (Agent Arena, 2,58 млн сессия). Рейтинг тапсырма сәттілігі, пайдаланушы бағасы және басқарылымдылық бойынша құрылады. Luna жоғары: жиынтық көрсеткіш +3,26% (±0,49), ал Haiku-де +1,88% (±0,98), интервалдар дерлік қиылыспайды. Басқарылымдылық бойынша модельдер тең (+6,17% және +6,40%). Баптаулар әртүрлі: Haiku high-да, Luna max-та.

Веб-әзірлеу (Code Arena, WebDev). Мұнда тең: Haiku-де 1585 ұпай (±12, 2 771 дауыс), Luna-да 1582 (±6, 17 869 дауыс). Үш ұпай қателіктен аз, ал Haiku-де дауыс алты есе аз, сондықтан сан әлі өзгереді.

Яғни агенттік тапсырмалардың синтетикалық тестінде Haiku алда, ал агенттердің нақты жұмысында Luna жоғары шығады. Қайсы нәтиже сіздің жағдайыңызға жақын екенін өзіңіз шешесіз.

Токеннің емес, тапсырманың бағасы

Токен шығыны прайстен маңыздырақ. Artificial Analysis деректері бойынша, максималды күште Haiku индекс тапсырмасына шамамен 162 мың шығыс токен жұмсайды, ал Luna - шамамен 50 мың. High-да Haiku шамамен 55 мың жұмсайды - Luna-ның max-тағысына жақын.

GPTunneL прайсі бойынша мысал: кіріске 30 мың токен және шығысқа 3 мың токен.

СценарийHaiku 5.5GPT-6 Luna (жеңілдіксіз / жеңілдікпен)
Шығыс бірдей, 3 мың6,75 ₸9 ₸ / 4,5 ₸
Haiku max-та: шығыс үш есе көп, 9 мың11,25 ₸9 ₸ / 4,5 ₸

Haiku токені арзан, бірақ шығын үш есе болғанда тапсырма Luna-дан қымбат шығады, жеңілдіксіз де. Сондықтан күшті саналы түрде қойыңыз да, құнын өз сұраныстарыңызда өлшеңіз.

Сонымен қайсысын таңдау керек: Haiku 5.5 немесе Luna 6

ТапсырмаМодельНеге
Агент компьютерді немесе терминалды басқарадыHaiku 5.5Anthropic тестілерінде шамамен 23 пункт алда, бірақ өз сценарийлеріңізде тексеріңіз: Arena-ның тірі сессияларында Luna жоғары
Іздеусіз фактілер бойынша жауаптарLunaAA-Omniscience-те 44% дұрыс, ал 36%
Ойдан шығарғаннан гөрі үндемеген дұрысHaiku 5.5ойдан шығарылған жауап 40%, ал 77%
Верстка және веб-әзірлеукез келгеніArena-да тең, 1585 пен 1582
Қатаң бюджеттегі жаппай сұраныстарLunamax күшінде токен үш есе аз және қазір 50% жеңілдік

Бұл сіз үшін нені білдіреді

Бір кестеге қарап таңдамаңыз. Өз нақты сұраныстарыңыздың ондағанын екі модельден бірдей күште өткізіп, токенді емес, қабылданған нәтиженің құнын салыстырыңыз: қайта жасамайтын жауаптың құны қанша. Haiku жеңсе, токен айырмасы сапамен ақталады, жеңбесе - Luna арзанырақ болады.

Қайда сынауға болады

Екі модель де GPTunneL-де бар: Claude Haiku 5.5 және GPT-6 Luna, екі шақыруға бір баланс. Сол желідегі Sonnet мен Opus арасындағы таңдау туралы - Sonnet 5.5 немесе Opus 5.5 талдауында, Luna-ның өзі шыққаны туралы - GPT-6 Sol және Luna мақаласында.

Дереккөздер