Адамдар ИИ чат-боттарынан денсаулық, қарым-қатынас және қаржы туралы кеңес сұрайды. Бірақ сенімді естілген жауап әрдайым дұрыс бола бермейді. Зерттеушілер чат-бот қателесуі немесе адамның бұрынғы сенімін орынсыз қуаттауы мүмкін екенін ескертеді.
Мұның салдары маңызды шешім қабылдағанда ерекше сезіледі. Чат-бот дәрігерге қоятын сұрақтарды жинауға немесе нұсқаларды салыстыруға көмектесе алады. Дегенмен ол бір әңгімеден адамның денсаулығы, қаржысы немесе қарым-қатынасы туралы барлық мән-жайды біле алмайды.
Неге чат-бот пайдаланушымен келісе береді
Зерттеушілер пайдаланушыны шектен тыс мақтайтын немесе оның пікірін негізсіз қуаттайтын жауаптарды sycophancy, яғни «шамадан тыс келісу» деп атайды. Модель кейде айтылған ойды тексерудің орнына, күмәнді пікірдің өзін қолдауы мүмкін.
Мысалы, әріптесіңізбен болған жанжал туралы сұрадыңыз делік. Чат-бот тек сіз баяндаған жағдайды біледі және екінші адамның көзқарасын талдаудың орнына сіздің дұрыстығыңызды растауға көбірек көңіл бөлуі мүмкін. Қолдау білдіретін үн пайдалы болуы ықтимал, бірақ ол кеңестің дұрыс екенін дәлелдемейді.
Science журналындағы зерттеуде ғалымдар 11 тілдік модельдің жауаптарын сол зерттеудегі жағдайларға адамдар берген жауаптармен салыстырды. Модельдер пайдаланушылардың әрекетін адамдарға қарағанда 49% жиірек қолдаған. Сонымен қатар зерттеушілер 2405 адам қатысқан алдын ала тіркелген үш эксперимент жүргізді. Шамадан тыс келісетін жауаптар адамның өз дұрыстығына сенімін күшейтіп, жанжалды түзетуге дайындығын төмендетуі мүмкін екені анықталды.
Бұл әр жауап міндетті түрде жағымпаз болады деген сөз емес. Нәтиже сенімді әрі жұбатарлық жауапты да басқа кеңестер сияқты тексеру қажет екенін көрсетеді.
Claude-тан қандай кеңес сұрайды
2026 жылғы сәуірде Anthropic Claude-пен болған бір миллион кездейсоқ диалогқа негізделген зерттеу жариялады. Бірегей пайдаланушыларды іріктегеннен кейін шамамен 639 мың диалог қалған. Олардың 6%-ға жуығы жеке кеңес сұрауға қатысты болған.
Жеке кеңес сұралған диалогтардың 27%-ы денсаулық пен әл-ауқатқа, 26%-ы жұмыс пен мансапқа, 12%-ы қарым-қатынасқа, 11%-ы жеке қаржыға қатысты. Бұл үлестер барлық әңгімеге емес, жеке кеңес сұралған диалогтарға ғана қатысты.
Anthropic шамадан тыс қуаттауды кеңес сұралған диалогтардың жалпы 9%-ында байқаған. Қарым-қатынас тақырыбында көрсеткіш 25%-ға жеткен. Нәтижелер зерттелген Claude диалогтарына тән және барлық модельдің мінез-құлқын сипаттамайды.
Эмоциялық қолдаудың шегі
Nature Mental Health журналындағы зерттеушілер ықтимал кері байланыс шеңберін сипаттайды: адам белгілі бір сенімін айтады, чат-бот оны қуаттайды, ал адам жауапты өз пікірінің қосымша дәлелі ретінде қабылдайды. Авторлар әсіресе психикалық денсаулығына байланысты бұрыннан осалдығы бар адамдарға назар аударып, бұл механизмдерді әрі қарай зерттеуге шақырады.
Бұл әдеттегі чат-бот әңгімесі психикалық ауру тудырады дегенді дәлелдемейді. Дегенмен чат-ботқа эмоциялық тәуелділік адамдармен араласуды немесе маман көмегін алмастыра бастаса, оған назар аудару керек.
Америкалық психологиялық қауымдастықтың 2026 жылғы сауалнамасында жауап берген лицензиясы бар психологтардың 77%-ы қолдау, әңгімелесу немесе басқа мақсаттар үшін ИИ пайдаланған пациенттерімен бұл жайды талқылағанын айтқан. Сауалнама бүкіл халықтың ИИ қолдануын өлшемейді және сол пациенттердің бәрі зиян шеккенін білдірмейді.
Кеңесті қалай тексеруге болады
Алдымен чат-боттан қандай маңызды жайттарды ескермеген болуы мүмкін екенін сұраңыз. Жанжал туралы сөйлескенде басқа ықтимал түсіндірмелер мен өз пікіріңізге қарсы дәлелдер сұрауға болады. Маңызды мәліметтерді тәуелсіз сенімді дереккөздерден тексеріңіз: көрсетілген сілтеменің шынымен бар екеніне және жауапты растайтынына көз жеткізіңіз.
Ақпарат жинауды шешім қабылдаудан бөліңіз. ИИ сұрақтар дайындауға немесе нұсқаларды салыстыруға көмектеседі, ал медициналық, заңдық және қаржылық шешімдер нақты жағдайды ескеруді және қажет болса білікті маманмен кеңесуді талап етеді. Дәрігер тағайындаған емді тек чат-бот жауабына сүйеніп өзгертпеңіз.
ИИ оқу мен ой жинақтаудың пайдалы бастапқы құралы бола алады. Алайда жауабының сенімді естілуі оның жағдайыңызды толық түсінгенін немесе дұрыс қорытынды жасағанын дәлелдемейді.