ЖИ галлюцинациясы — бұл жасанды интеллект модельдері пайдаланушыларға ойдан шығарылған деректерді, қарама-қайшы немесе қате қорытындыларды не жоқ дереккөздерді ұсынатын жағдайлар. Сұрау бойынша жасалған нәтиже өте байланысты естілуі мүмкін.
Осы мақалада тақырыпты талдап, бірнеше сұраққа жауап береміз:
- Суреттер мен мәтіндерде нейрожелі галлюцинациялары неге пайда болады?
- Жалған ақпаратты қалай тануға болады?
- GPTunneL ЖИ платформасының қандай құралдары бұған көмектесе алады?
Мәселе мәтіндерге де, суреттерге де қатысты. Нейрожелі шындықта жоқ визуалды детальдарды қосуы мүмкін.
Нейрожелілердегі галлюцинациялардың негізгі себебі неде
Оқыту деректерінің шектеулілігі
Кез келген нейрожелі белгілі бір уақыт кесіндісіне жататын деректерден үйренеді. Бұл оған сол кезеңнен кейін болған оқиғалар, заңдар, фактілер, зерттеулер туралы белгісіз дегенді білдіреді.
Пайдаланушы жаңа ғылыми жаңалықтар, заңнамалық өзгерістер, ең заманауи технологиялар немесе әлемдік фактілер туралы сұраса, нейрожелі ықтималдықтарға сүйене отырып жауап құрастыруға тырысады. Нәтиже сенімді естіледі, бірақ ол ескірген ақпаратқа негізделген, яғни дәлдігіне кепілдік жоқ.
Мысалы, біз GPT-4o-дан диалогта сұрақ қойдық: «Әлемдегі ең үлкен қаланы ата». Модель Токионы (37 млн тұрғын) 2023 жылдың қазанына дейінгі деректерге сүйеніп жауап берді — оқытуы сол кезде тоқтатылған еді. Дегенмен 2025 жылға қарай әлемдегі ең үлкен қала — Джакарта (БҰҰ бағалауы бойынша 42 млн тұрғын).
Оқыту материалдарындағы шу мен қайшылықтар
Оқыту деректерінде жиі кездеседі:
- Қателер;
- Тексерілмеген фактілер;
- Жалған мәлімдемелер;
- Алогикалық қорытындылар.
Нейрожелі ақпаратты сапасы бойынша сүзе алмайды. Жауап жасау үшін өңдейтін дереккөздер бір-біріне қайшы келсе, ЖИ қате немесе орташаланған жауапты таңдауы мүмкін — ол да алғашқы қарағанда сенімді көрінеді.
Сэмплирование мен температура
Сэмплирование — ықтималдықтар негізінде келесі токенді (сөзді, таңбаны, сурет бөлігін) таңдау. Температура — нейрожелі токенді таңдайтын негіздегі баптаулы параметр. Температура төмен болғанда нейромодель ең ықтимал нұсқаны таңдайды. Жоғары болғанда — сирек кездесетін токенді алады.
Мысал: «Мысық ___ жатыр» деген тіркесте ықтимал токен — «еденде», ықтималдығы аз токен — «жүзіп жүр». Температура жоғары болған сайын, нейрожелінің сирек токенге бет бұру мүмкіндігі артады, яғни галлюцинация тудырады.
Интернетке тікелей қолжетімділігі жоқ модельдер
2025 жылдың қарашасына қарай көптеген LLM ендірілген іздеуді ұсына алмайды. ChatGPT сияқты кейбір платформалар үшін сыртқы қосымша ретінде іздеу мүмкін (GPT-4o Search). Сондай-ақ жауап беру үшін деректерді тікелей интернеттен алатын бірегей нейрожелілер тобы бар — Perplexity-дің Sonar.
Дегенмен қазіргі көптеген модельдердің негізі — тікелей іздеу емес, оларды оқытқан материалдар. Сұрақ неғұрлым күрделі болса және сұраудағы немесе базадағы тиісті контекст аз болса, қателер ықтималдығы соғұрлым жоғары.
Мысалы, біз Grok 4 Fast-қа іздеу режимін қоспай сұрау жібердік:
«Орта мектептің жаратылыстану пәндеріне арналған технологияны пайдаланатын оқыту дизайны модельдерінің/тәсілдерінің қайсысы ең пайдалы екенін түсіндір. Мысалдар келтір. 2015 жылдан кейін жарияланған кемінде 5 ғылыми мақалаға сүйен, дереккөздерді APA форматында рәсімде, тек журнал мақалаларын пайдалан, сайттарды пайдаланба».
Модель біздің диалогымызда нұсқауларды орындап, орта мектеп оқушыларына арналған 4 оқыту дизайны әдісін толық сипаттамамен және мысалдармен ұсынды. Алайда сілтеме жасаған дереккөздері интернетте жоқ болып шықты, бұл жауаптың дұрыстығына күмән туғызады.
Дұрыс құрастырылмаған промпт
Қате промпт модельді шығармашылық, бірақ жалған ойлап табуларға итермелейді. Егер сұрау жоқ фактінің болуын болжаса, ЖИ нұсқауды орындау үшін бар мүмкіндігін пайдаланады. Шатастыратын промпт мысалы:
«2019 жылы аэропорттарда электр самокаттарды пайдалануға тыйым салатын жалпыеуропалық заң қабылданғанын растап, оның ережелерін тізбелеп бер».
Мұндай заң жоқ. Бірақ ЖИ-дің міндеті — нұсқауды орындау, яғни растап, галлюцинация тудыру.
Контекстің шамадан тыс жүктелуі
Сұрау тым ұзын, көп тапсырмалы немесе онда байланыссыз тақырыптар көп болса, модель «шоғырлана» алмайды. LLM тар контекст шеңберінде тек бір сұраудағы ақпаратты өңдей алады. Сұрауды шамадан тыс жүктесе, ақпараттың бір бөлігі жоғалады немесе ЖИ оны дұрыс түсінбейді. Нәтижесінде нейрожелі:
- Әртүрлі детальдарды араластыруы;
- Оқиғаларды қате логикамен байланыстыруы;
- Промпттың негізгі бөліктерін ұмытуы мүмкін.
Чат неғұрлым ұзақ болса және сол чаттағы сұраулар неғұрлым көп тапсырмалы болса, факт бойынша да, логика бойынша да галлюцинация тәуекелі соғұрлым жоғары.
Жанрлар қоспасы
Нейрожелі мыналардан үйренеді:
- Ғылыми мақалалар;
- Көркем әдебиет мәтіндері;
- Блогтар;
- Фантастика;
- Юморлық зарисовкалар.
Бұл ретте ЖИ ықтимал жауап жанрын әрдайым дұрыс таный бермейді. Осыдан ғылыми материал көркемімен, тарихи оқиғалар фантастикалықпен араласуы мүмкін. Нәтиже — галлюцинация.
Кері байланыс жетіспеушілігі және фактчекингтің болмауы
ЖИ галлюцинациясы мәселесі сондай-ақ ірі LLM-дерде фактілерді қайта тексеруге мүмкіндік беретін ендірілген механизмнің жоқтығынан туындайды. Жүйе қосымша тексеру ұсынбаса, ЖИ дәлдігін алдын ала бақыламай, алғашқы ықтимал шешімді ұсынады.
Мысалы, Qwen 3 Max-пен чатта біз модельден 2025 жылдың қаңтарынан кейін шыққан нейрожелілер кестесін құруды сұрадық, бірақ сонымен қатар оған сыртқы ресурстарға, құралдарға және интернетке қолжетімділік бермедік. Модельдің білім базасы Gemini 3 Pro және 2025 жылдың басқа жаңалықтарының шығуынан бұрын үзіледі, сондықтан оларда нақты деректер жоқ. Промпта біз бос ұяшықтар қалдырмауды және «жетіспейтін болса, ең жақсы жуықтауды жасауды» бөлек талап еттік.
Бұл мысалда бірнеше фактор бір мезгілде жиналды:
- «Мен білмеймін» деп адал жауап берудің орнына модель сенімді болжам жасау стратегиясын таңдады: кестені өзіне таныс атаулармен (GPT-4o, Claude 4 Opus, Gemini 2.5 Pro) толтырды;
- Шығу даталарын, бағаларды, контекст терезесінің өлшемдерін ЖИ ұқсастық бойынша таңдады, сондықтан олар қате болды;
Ендірілген фактчекингсіз және құжаттамаға қолжетімсіз Qwen бұл цифрлардың шындыққа қаншалықты сай екенін тексермейді. Нәтижесінде қысқа, ұқыпты рәсімделген және өте сенімді жауап шығады — кесте презентациядан алынғандай көрінеді, бірақ дерлік әр жолды қолмен қайта тексеру керек.
Бұл сыртқы тексерудің жоқтығынан туындаған галлюцинацияның классикалық мысалы: модель әдейі өтірік айтпайды, ол промпттың формальды талаптарын кез келген жолмен қанағаттандыру үшін детальдарды ойлап табуға мәжбүр болады.
Біржақтылық пен білім олқылықтары
Егер оқыту деректерінде кейбір тақырыптар нашар ұсынылса немесе онда көптеген стереотиптер болса, ЖИ бұрмаланған немесе толық емес түсініктерге негізделген жауаптар генерациялауы мүмкін. Нәтижесінде жасанды интеллекттің жүйелі галлюцинациялары туындайды, мысалы, фактілерді дұрыс түсіндірмеу, жеңілдету немесе қате болжамдар.
Галлюцинациялардың негізгі түрлері
ЖИ галлюцинациясын қалай тануға болады
Кейде нейрожелінің жауабы толық зерттеу сияқты көрінеді: сенімді тон, ұқыпты құрылым, сілтемелер, цифрлар. Мұндай жауаптарды нанымды деп қабылдау ең оңай — және дәл солардың ішінде галлюцинациялар жиі жасырынады. Байқауға тұрарлық кейбір типтік белгілер.
- Артық сенімділік: модель күрделі тақырыпты ашса да, ескертулер мен нюанстарсыз категориялық мәлімдемелер ұсынады;
- Сілтемелер жоқ: сілтемелер күмәнді, беттер ашылмайды, жарияланым мүлдем интернетте жоқ, модель мүлдем ешбір дереккөз ұсынбайды;
- Алогикалық жауап: генерацияланған үзіндіде бір мәлімдеме екіншісіне қайшы келеді, цифрлар мен фактілерде алшақтық бар.
Осы белгілердің кем дегенде біреуін байқаған бойда, модельге нақтылаушы сұрақ қойыңыз:
«Жауабыңды екі бөлікке бөл:
- Нақты фактілер мен дереккөздерге сүйенетіні;
- Болжам немесе жалпылама болып табылатыны».
ЖИ жауабын алып, одан бір нақты детальды (күнін, заң нөмірін, автор фамилиясын немесе мақаланың DOI-ін) таңдап, оны іздеу арқылы табуға тырысыңыз. Егер алғашқы бір-бес тексерудің өзінде дәлсіздіктер немесе «елестер» тапсаңыз (жарияланым жоқ, тұжырым осы ЖИ жауабының көшірмелерінен басқа жерде кездеспейді) — бұл сіздің алдыңызда сенімді дереккөз емес, галлюцинация тұрғанының күшті белгісі.
Келесі логикалық қадам — мұндай қателерді тануды үйрену ғана емес, олардың пайда болу ықтималдығын алдын ала азайту. Осы мақсатта келесі бөлімге көшеміз — нейрожелі аз «қиялдайтындай» сұрауларды қалай құрастыру керек.
Нейрожелі галлюцинацияларын қалай азайтуға болады
ЖИ галлюцинациясынан қашуға қандай тәсіл көмектеседі: 5 жұмыс істейтін әдіс
1-әдіс: нақты дереккөздерді сұрау (дәйексөз)
GPT үшін промпт:
«Бұрын: «2022 жылы Венеция туристік круиздік лайнерлерді толық тыйым салды» деп мәлімдедің делік. Енді осы тұжырымды растайтын нақты дереккөздерді көрсет. Шындықта бар сілтемелер келтір».
Нәтиже
GPT тапсырманы жартылай орындады. Ол берілген галлюцинацияны шынымен теріске шығарды. Дегенмен жаңа жауабын дәйектей отырып, ол дереккөздерге бос сілтемелер ұсынды. Бірақ осы дереккөздерді контекстке сүйеніп Google-дан іздесе, ақпарат оңай табылады және ЖИ генерациялағанмен сәйкес келеді.
Сілтемелерді іздеу — ЖИ галлюцинацияларымен күресудің тиімді тәсілі. Нейрожелі не нақты дереккөздер ұсынады, не тұжырымның «компьютерлік ойлау туындысына» негізделгенін мойындайды. Ал GPT жауабы осылай көрінеді.
2-әдіс: сатылап тексеру
Claude үшін промпт:
«Сен: «Ежелгі мысырлықтар телескоп пайдаланған» деген қорытынды жасадың. Тұжырымды 5 фактіге бөліп, әрқайсысының дұрыстығын бағала».
Нәтиже
Claude мұқият фактчекинг жүргізеді. Ол тезисті теріске шығарумен ғана шектелмей, оны 5 фактіге бөледі:
- Мысырлықтардың астрономия туралы білімі;
- Сол кезеңде телескоптардың болуы;
- Оптикалық шыны өндірісіне қатысты технологиялардың болуы;
- Археологиялық зерттеулер;
- Сол кездегі бақылаулар үшін телескоптардың қажеттілігі.
ЖИ әр фактінің түсіндірмесін бағалаумен және түпкілікті жалпы қорытындымен толықтырады. Мұндай тәсіл жасырын галлюцинацияларды іздеуде тиімді. Егер кем дегенде бір факт жалған болып шықса, бүкіл тұжырым құлайды. Мифтің теріске шығарылуымен мұнда танысуға болады.
3-әдіс: сұрауды әртүрлі тұжырымдау
Gemini үшін промпттар:
- «Сұраққа жауап бер: «Мамонттар ежелгі римдіктермен бір уақытта өмір сүре алды ма?»».
- «Енді жауапты тағы екі тәсілмен тұжырымда: ғылыми және танымал-тарихи — және салыстыр».
Нәтиже
Gemini негізгіні дұрыс анықтады: мамонттар мен ежелгі римдіктер уақыт жағынан қиылыспаған. Сұраққа сәйкес нейрожелі екі түрлі түсіндірме ұсынды. Ғылыми нұсқа — фактілер, даталар, радиокөміртекті талдауға сілтеме жасалған қатаң жинақ. Танымал-тарихи нұсқа Мысыр мен Вавилон дәуірлеріне байланыстырылған, бейнелілеу тұрғысынан бай болып шықты.
Стиль ауыстыру тесті модельдің беру форматы өзгергенде фактілердегі дәлдікті қаншалықты сақтайтынын бағалауға мүмкіндік береді. ЖИ жұмысын бағалау үшін бұл диалогқа кіріңіз.
4-әдіс: модельді белгілі бір шеңберлермен шектеу
DeepSeek үшін промпт:
«Тек мына форматта жауап бер:
- Нақты белгілі нәрсе;
- Белгісіз нәрсе;
- Верификация үшін қандай дереккөздер қажет.
Тақырып: «Еуропада (Юпитердің серігі) өмір бар екеніне дәлел бар ма?»»
Нәтиже
DeepSeek промпттың талаптарына нақты сай жауап генерациялады — қысқа, сұратылмаған ұзақ пайымдауларсыз. Ол фактілерді тексерілген, расталмаған және қосымша зерттеуді қажет ететін деп бөлді.
Тәсілдің мәні — нейрожеліні «шығармашылық толықтырулардан» ұстап тұру. Ал модельді тек тексерілетін білім арқылы қатаң шектелген шеңберде ғана ұстауға болады. Әдіс іс жүзінде қалай жұмыс істейтінін бағалау үшін бұл чатқа кіре аласыз.
5-әдіс: айқас тексеру
«LLM Аренасы» үшін промпт: «Илон Маск физика бойынша Нобель сыйлығын алды».
Нәтиже
«LLM Аренасында» GPT пен Claude-та бір сұрауды іске қосқанда, фактілерді аудиттеу қалай жұмыс істейтінін көруге болады.
Екі нейрожелі де тұжырымды сенімді түрде теріске шығарады, бірақ мәселені шешуге әртүрлі тәсілмен қарайды:
- GPT ресми дереккөзге — Нобель комитетінің сайтына сілтеме жасай отырып, қысқа үкім шығарады;
- Claude болса, шатасудың неге туындағанын болжай отырып, кеңірек, құрылымдалған жауап береді.
Айқас тексеру — тұжырымның шындығын анықтаудың сенімді тәсілі. Ал «Арена» дәлдікті іздеп нейрожелілер арасында секіру қажеттілігінен арылтады. Бір терезеде айқас фактчекинг қалай жұмыс істейтінін осында көруге болады.
Қорытынды
Нейрожелі галлюцинациялары — техникалық ақау емес, ықтималдықтарды құрастырумен байланысты заңдылық. Ал ең ықтимал жауапты іздеу — ірі модельдер жұмысының негізі.
Галлюцинацияларды толық болдырмау мүмкін емес, бірақ оларды айтарлықтай азайтуға болады. Ең бастысы — дұрыс әрі қысқа сұраулар қою, шеңберлерді нақты белгілеу, фактілерді тексеру және жұмыста бір ғана нейрожеліге шектелмеу.