Қазанның басында, актриса Mia Goth-тың ажырасуы туралы жаңалықтан бірнеше күн өткен соң, Instagram-да ЖИ жасаған сурет тарады: онда актриса «My ex is my biggest fan» («Менің бұрынғым - менің басты жанкүйерім») жазуы бар футболкамен түскен. Жалғанды верификацияланған жанкүйер аккаунты жариялады. 13 қазанда актрисаның өкілдері The Verge басылымына бірнеше шағым түсіргенін және аккаунттың «жалған ЖИ-суреттерді» жариялауды жалғастырғанын айтты; кейін аккаунт жойылды. Оқиға қарапайым, бірақ ол мәселені көрсетеді: Флорида университетінің зерттеуінде адамдар жасалған беттерді нақтыларынан кездейсоқ болжау деңгейінде, шамамен 50% жағдайда ажыратты. Соңғы айларда заңдар мен технологияда не өзгергенін және өзіңізді қалай қорғауға болатынын талдаймыз.
Дипфейк деген не, қарапайым тілмен
ДейінКейінДипфейк (ағылш. deep learning, «терең оқыту», және fake, «жалған» сөздерінен) - бұл нейрожелі жасаған немесе өзгерткен, шынайыдай көрінетін фото, бейне немесе дыбыс жазбасы. Көбіне бұл үшеуінің бірі: бейнеде немесе фотода адамның бетін ауыстырады, нейрожелі нақты адаммен бүкіл роликті ойлап табады немесе дауысты қысқа жазбадан «клондайды» да, ол адам ешқашан айтпаған сөзді айтады.
Нейрожелінің әр суреті дипфейк емес. Атқа мінген ғарышкердің суреті жай ғана жасалған. Материал шынайы ретінде көрсетілгенде дипфейкке айналады: нақты адамның сөзі, келбеті немесе оқиғасы ретінде. Бет ауыстыру қалай жұмыс істейтінін және оның қандай пайдасы бар екенін біз Face Swap және дипфейктер мақаласында егжей-тегжейлі талдадық.
Жаңа зерттеу: көзге сенуге болмайды
Зерттеу 2026 жылдың қаңтарында Cognitive Research: Principles and Implications журналында шықты. Шамамен 2 200 қатысушы 200 бетті бағалады, нәтиже болжау деңгейінде болды. Бейнеде адамдар жақсырақ жауап берді: шамамен 1 900 қатысушы орта есеппен 63% жағдайда дұрыс жауап берді, бұл шамамен кездейсоқ болжаған алгоритмдерден жақсы болды (Science News). Яғни «жалғанды сезуге» сүйенуге болмайды, әсіресе фотода.
Мәселенің ауқымы
- Surfshark 2020 жылдан 2026 жылдың маусымына дейін дипфейк арқылы алаяқтықтан құжатталған $3,7 млрд шығынды санады, оның $2,5 млрд-ы 2025 жылға тиесілі. Әлеуметтік желіде басталған алаяқтыққа шығынның 47%-ы, шамамен $1,73 млрд келеді.
- 14 қыркүйекте Манхэттен прокуроры танымалдардың порнографиялық дипфейктерін сататын 12 сайтты жапты. Элвин Брэггтің сөзінше, шамамен 1 200 адамның беті мен денесін «ұрлап, заңсыз порнографияға айналдырған».
Дауыс: ең арзан дипфейк
Дауысты клондау бейнені жалғандаудан оңай: әртүрлі қызметтер таза жазбаның ең азы 3-тен 30 секундқа дейін дейді, жақсы нәтиже үшін әдетте шамамен бір минут керек. Жазба көзі мәселе емес: дауыстық хабарлама немесе әлеуметтік желідегі ролик жеткілікті.
- Колл-орталықтарды қорғайтын Pindrop компаниясы 2024 жылы дипфейк арқылы алаяқтық әрекеттерінің 1 300%-дан астам өскенін, айына бір әрекеттен күніне жетіге дейін, хабарлады. Бұл компанияның 1,2 млрд-тан астам қоңырауды талдау бойынша өз деректері.
- 2025 жылғы шілдеде біреу ЖИ жасаған дауыспен АҚШ мемлекеттік хатшысы Марко Рубио болып көрініп, сыртқы істер министрлеріне жазды (Reuters). Сәлден бұрын ФБР мұндай схема туралы ескерткен.
- Сэм Альтман 2025 жылғы шілдеде банктердің дауыс таңбасын тұлғаны растау ретінде әлі де қабылдайтыны оны қорқытатынын айтты: оның сөзінше, ЖИ «құпиясөзден басқа, адамдар қазір жеке басын растайтын тәсілдердің көбін толық жеңді».
Схемалар барлық жерде бірдей: «туыстан» немесе «бастықтан» ақшаны шұғыл аудару туралы өтінішпен келген дауыстық хабарлама.
Елдер қалай күреседі
| Ел | Не істелді | Қашан |
|---|---|---|
| АҚШ | TAKE IT DOWN заңы: платформалар шағымнан кейін 48 сағат ішінде интимдік дипфейктерді жоюға міндетті, қадағалау FTC-де | 19.05.2025 қол қойылды, 19.05.2026 бастап орындалады |
| ЕО | AI Act, 50-бап: дипфейкті адамдарға анық белгілеу керек, жүйені жасаушылар контентті машина оқитындай таңбалайды | 02.08.2026 бастап, шыққан жүйелер үшін таңбалау бойынша кідіріс 02.12.2026 дейін |
| Қытай | ЖИ-контентті міндетті таңбалау: көрінетін және жасырын белгілер, оларды жоюға тыйым салынады | 01.09.2025 бастап |
Американдық жою заңы тек интимдік суреттерге қолданылады, ал еуропалық заң дипфейктерді жариялайтындардың бәрінен белгі талап етеді.
Дипфейктерді немен анықтайды
| Шешім | Не істейді | Шектеу |
|---|---|---|
| Google SynthID Detector | 07.10.2026 бастап барлығына ашық: суреттерді, бейнені және аудионы Google мен серіктестердің (OpenAI, NVIDIA, Kakao) көрінбейтін су белгісіне тексереді | тек белгіленген контентті табады |
| Content Credentials (C2PA), Microsoft және басқалар | файлдың «төлқұжаты»: кім жасады және кім өзгертті | метадеректер скриншот немесе қайта сақтау кезінде жоғалады |
| Reality Defender | компанияларға арналған детектор: аудио, бейне, суреттер, оның ішінде тірі қоңыраулар; 2026 жылы оның KPMG және Samsung сияқты серіктестері пайда болды | жария дәлдігі жоқ |
| Hive Detect | тегін: файлды немесе сілтемені жүктеу, Chrome үшін кеңейтім және X-тегі бот бар; суреттерді, бейнені және аудионы тексереді, ықтималдықты және, мүмкін болса, көз-модельді көрсетеді | бағалау ықтималдық, үкім емес; сіздің файлдарыңызда қанша қате беретіні белгісіз |
| Intel FakeCatcher | беттің пиксельдеріндегі қан ағымы бойынша | Intel мәлімдеген 96% дәлдік, зерттеу әзірлемесі |
Content Credentials деген не. Бұл C2PA стандарты бойынша файлдың «төлқұжаты»: сурет, бейне немесе аудиоға оның немен және қашан жасалғаны, оған қандай өзгерістер енгізілгені, қаласа авторы жазылады. Барлығы криптографиялық түрде қол қойылған, сондықтан файлды өзгертуге немесе төлқұжатты байқалмай жалғандауға болмайды. Стандарт комитетіне Adobe, Google, Microsoft, OpenAI, Amazon, Meta, BBC, Sony және TikTok кіреді. SynthID су белгісінен айырмашылығы қарапайым: белгі контенттің өзіне енгізілген және көрінбейді, ал төлқұжат қасында метадеректерде сақталады. Ол «шынайы ма, жоқ па» деген үкім шығармайды, тек шығу тегі мен тарихын көрсетеді. Негізгі шектеу - төлқұжат барлық файлда жоқ: түсіру кезінде оны тек кейбір камералар мен телефондар қояды. Lumethic шолуы бойынша смартфондардың ішінде әдепкі бойынша суреттерге тек Google Pixel 10 қол қояды, Samsung Galaxy S25-те белгі тек ЖИ арқылы өңделген суреттерде пайда болады, ал iPhone стандартты қолдамайды. Фотокамералардың ішінде бірінші Leica M11-P болды (2023), кейін Leica SL3-S-те қол қою пайда болды. Sony Alpha-ның кейбір модельдеріне микробағдарлама арқылы C2PA қолдауын қосты, Canon оны EOS R1 және EOS R5 Mark II-де қосты, бірақ алғашында тек тіркелген жаңалық агенттіктеріне. Nikon Z6 III-де қол әлсіз болып шықты: 2025 жылғы қыркүйекте компания камера өзі түсірмеген суретке қол қойғандықтан қызметті тоқтатты (бұл көп экспозиция режимі арқылы жасалды). Әлеуметтік желілер мен мессенджерлер жүктеу кезінде метадеректерді әдетте өшіреді, қайта сақтау мен скриншот сияқты. Сондықтан төлқұжаттың болмауы ештеңе дәлелдемейді: фото шынайы болуы мүмкін, жай стандартты қолдамайтын камерамен түсірілген немесе қайта сақталған. Ал төлқұжат бар болса және қолтаңба сәйкес келсе, бұл файлдың шығу тегінің пайдасына күшті дәлел. Файлды contentcredentials.org/verify сайтында тексеруге болады.
Google-дың Іздеудегі, Gemini мен Chrome-дағы кіріктірілген тексерулері күніне миллионнан астам сұрау өңдейді. Бірақ барлық детекторлардың негізгі шектеуі ортақ: олар біреу белгілеген нәрсені ғана табады және белгіленбеген файлдың шынайы екеніне кепілдік бермейді.
Жалғанның қандай белгілері әлі де жұмыс істейді
Бұрын дипфейкті суреттің «оғаштықтарынан» байқауға болатын. Мұндай кеңестер әлі де барлық жадынамалардың негізінде жатыр, бірақ олардың авторлары өздері шектеулер туралы ескертеді. MIT Media Lab «жалғанды анықтайтын жалғыз сенімді белгі жоқ» деп жазады, ал Reality Defender өз кеңестерін кепілдік емес деп атайды: олар «тез ескіруі мүмкін». Генераторлар нені түзеткені туралы нақты тізім жоқ, сондықтан төменде осы ұсыныстарға негізделген баға берілген.
| Белгі | Нені қарау керек | Сенімділік |
|---|---|---|
| Қолдар, саусақтар, тістер | артық немесе бірігіп кеткен саусақтар, «ортақ» тіс қатары | Reality Defender бойынша, алгоритмдерге жеке тістер мен саусақтарды сызу қиын, бірақ жаңа генераторларда бұл сирегірек кездеседі: оғаштық тапсаңыз - сақ болыңыз, таппасаңыз - ештеңе дәлелдемейді |
| Көзді жыпылықтату | жыпылықтамау немесе тым жиі жыпылықтау | ескі белгі: алғашқы жалғандар дерлік жыпылықтамайтын, жаңалары қалыпты жыпылықтайды, сондықтан жеке өзі ол енді аз нәрсе айтады |
| Жарық, көлеңке, шағылыс | бас бұрылғанда көзілдіріктегі шағылыс өзгере ме, көлеңке бетке және фонға бірдей түсе ме | MIT Media Lab сахна физикасынан бастауға кеңес береді: жалған жарық пен көлеңкені қате бере алады, ал жеке кадр мұны ең нашар жасырады |
| Тері және шаш | тым тегіс тері, шығып тұрған талшықсыз шаш, табиғи емес жылтыр | белгі әлі кездеседі, бірақ сапалы генерацияларда оны дерлік көру мүмкін емес |
| Бет шекаралары | маңдайда, самайда, иек сызығында бұлдырау | бет алмастыруға тән; нөлден бастап жасалған суреттерде мұндай тігіс жоқ |
| Қозғалыс және тігістер | күрт ауысулар, қисынсыз қозғалыстар, жоғалып кететін заттар | бейнеде көмектеседі: Reality Defender күрт ауысуларды және үзіліс қателерін іздеуге кеңес береді, оларды бір әдемі суреттен гөрі жасыру қиынырақ |
| Ерін синхрондығы | сөздің ауыздан сәл кешігуі | сенімсіз: бейнеқоңыраудағы әдеттегі кешігу де осылай көрінеді |
| Дауыс | табиғи емес үзілістер, дыбыс ауытқулары, бірқалыпты темп, эмоция мен фондық шудың жоқтығы | жеке өзі дәлелдемейді: нашар байланыста әдеттегі адамдар да осылай дыбыстайды, бүкіл қоңырау бойы қайталанатын ақаулар сенімдірек |
Негізгі қорытынды: көзді жыпылықтатпау сияқты ескі белгілер жұмыс істемей барады, ал сахна физикасы мен әңгімелесушінің мінез-құлқы жалғанның әлсіз жері болып қалады. Сондықтан дипфейктің сипатты белгісі бүгін бір жарқын бөлшек емес, бірнеше бөлшектің сәйкессіздігі: жарық көлеңкеге сәйкес келмейді, қозғалыс кадрлар арасында үзіледі, дауыс орта мен үйлеспейді. Ал нейрожелі жасаған бейнені қалай танитыныңызды білгіңіз келсе, бетден емес, жарықтан, көлеңкеден және қозғалыстың үздіксіздігінен бастаңыз. Бірақ тәжірибелі көрермен де қателеседі: Reality Defender келтіретін зерттеулер бойынша адамдар жалғанды нағыз бейнеден жиі ажырата алмайды, бірақ өздеріне сенімді болып қалады. Сондықтан фотодағы немесе дауыстағы оғаштық - үкім емес, көзді тексеруге себеп.
Дипфейкті қалай тану: фото, бейне және қоңырауды тексеру
- Жоғарыдағы кестеден оғаштықтарды іздеңіз: жарық, көлеңке, қолдар, дауыстағы үзілістер. Бірақ біреуінен қорытынды шығармаңыз.
- Түпнұсқаны табыңыз. Суретті кері іздеу жасап, оның алғаш қайдан шыққанын қараңыз.
- Белгіні тексеріңіз. Файлды SynthID тексеруіне және Content Credentials тексеруіне жүктеңіз. Белгі болмаса, бұл ештеңе дәлелдемейді: камералар мен телефондардың көбі оны қоймайды, ал әлеуметтік желілер өшіреді. Файлда не қалғанын тегін ExifTool утилитасымен қарауға болады: ол EXIF және Content Credentials метадеректерін оқиды. Бірақ бос метадеректер де ештеңе дәлелдемейді. Қосымша файлды тегін Hive детекторына жүктеңіз: ол файлдың ЖИ жасаған ықтималдығын көрсетеді, бірақ үкім емес, кеңес ретінде.
- Бетке емес, көзге қараңыз. Верификацияланған аккаунт ақиқатқа кепілдік бермейді, мұны Mia Goth жағдайы көрсетті.
- Дауыспен тексермеңіз. «Туыс» немесе «бастық» ақшаны шұғыл аударуды сұраса, тұтқаны қойып, өзіңіз білетін нөмірге қайта қоңырау шалыңыз.
- Бейнеқоңырау болса, әңгімелесушіден әрекет жасауды сұраңыз. Басын профильге бұрсын, қолын бетінің алдынан өткізсін, мұрнын қасысын, көзін алақанымен жапсын немесе экранын көрсетсін. Нақты уақыттағы жалғанда мұндай жағдайларда бет жиі бұзылады, ал қол оған «батып» кетеді. Бірақ бұл бүгінгі тәсіл: генераторлар жақсарған сайын ол нашар жұмыс істейді, сондықтан тек оған сүйенбеңіз.
- Жақындарыңызбен кодтық сөз келісіңіз. Ол клондалған дауыспен келген қоңыраудан қорғайды.
- Компанияда аударымдарды екінші арна арқылы растаңыз: жеке қоңырау немесе жұмыс чаты.
Тәуекелді алдын ала қалай азайтуға болады
Дауысты клондауға және бетті алмастыруға материал керек, оны көбіне ашық көздерден алады: әлеуметтік желілер мен мессенджерлердегі дауыстық хабарламалар, ролик пен фотолар. Сондықтан бірнеше қарапайым шара сізді жалғандауға әрекет жасалмай тұрып көмектеседі.
- Ашық материал аз болсын. Әлеуметтік желі профильдерін жабыңыз, сізге қажет емес дауыстық хабарламаларды, бейнелерді және беттің ірі фотоларын жария қалдырмаңыз.
- Қолданбаларды бақылаңыз. Қай қолданбаларға камера мен микрофонға қол жеткізуге рұқсат бергеніңізді тексеріп, артығын өшіріңіз.
- Дауыс пен бет жалғыз растау болмауы керек. Мүмкін болған жерде екі факторлы қорғауды және passkey-лерді қосыңыз, ал дауыс бойынша тексеретін банктер мен қызметтерден басқа тәсілге көшуді сұраңыз. Бұл осалдық туралы OpenAI басшысы Сэм Альтман да ескерткен.
- Жақындарыңызға айтыңыз. Туыстарға, әсіресе егде жастағыларға, хабарламадағы немесе қоңырау кезіндегі дауысты жалғандауға болатынын түсіндіріп, кодтық сөз келісіңіз.
- Асықпаңыз. Алаяқтар шұғылдыққа сүйенеді («апатқа ұшырадым, ақша қазір керек»), сондықтан ақшаға қатысты кез келген асығыстық тоқтауға, тұтқаны қойып, өзіңіз қайта қоңырау шалуға себеп. Кейде олар дауыстағы немесе суреттегі ақауларды жасыру үшін байланыстың үзілгенін көрсетеді.
Қорытынды
Дипфейкті ажыратудың әмбебап тәсілі жоқ, ал жоғарыда айтылғанның бәрінен қорытынды біреу: сурет, бейне немесе дауысқа сөзбе-сөз сенбеңіз, көзді тексеріп, маңыздыны басқа арна арқылы растаңыз. Кадрдағы оғаштықтар, шығу тегі белгілері және детекторлар тек бірге жұмыс істейді, және бірде-біреуі үкім бермейді. Белгі жоқ немесе детектор ештеңе таппады - бұл жалғанды жоққа шығармайды. Белгі бар немесе детектор сақтандырды - бұл әрі қарай тексеруге себеп, дәлел емес.
Екі сақтық шара. Адамды тек детектор нәтижесі бойынша жалғандық жасады деп айыптамаңыз: оның ықтималдық бағасы қателесуі мүмкін, және нағыз автор зардап шегеді. Сондай-ақ күмәнді фото немесе бейнені «қандай жалған екенін көрсету үшін» әрі қарай жібермеңіз: сіз оның таралуына көмектесесіз. Егер сіз дипфейктің немесе клондалған дауыспен жасалған алаяқтықтың құрбаны болсаңыз, сілтеме мен скриншотты сақтап, платформаға шағым түсіріңіз, жоғалған ақша туралы банкке және полицияға хабарлаңыз.
Бет ауыстырудың заңды қолданыстары туралы - Face Swap және дипфейктер мақаласында.
Дереккөздер
- Detect DeepFakes: How to counteract misinformation created by AI, MIT Media Lab - көрнекі белгілер бойынша жадынама.
- Deepfake Detection Guide, Reality Defender - суреттердегі, бейнедегі және аудиодағы белгілер және олардың шектеулері.
- Content Credentials: how it works, Content Authenticity Initiative - файл төлқұжатына не жазылады және ол нені кепілдік етпейді.
- C2PA - стандарт және комитет құрамы.
- Content Authenticity Initiative blog - Leica M11-P және SL3-S.
- Nikon temporarily suspends its Z6III Content Credential program, DPReview, 05.09.2025.
- Sony delivers firmware updates including C2PA compliancy, Sony, 2024.
- EOS R1 and EOS R5 Mark II firmware, Canon, 07.2025.
- AI-Generated & Deepfake Content Detection, Hive - тегін құралдар.
- ExifTool, Phil Harvey - EXIF және C2PA метадеректерін оқу.
- Smartphones with C2PA Content Credentials, Lumethic, 16.09.2026 жаңартылған - қай телефондар суреттерге қол қояды.
- Is this real? Susceptibility to deepfakes in machines and humans, Science News, 03.02.2026 - Флорида университетінің зерттеуі.
- Introducing the SynthID Detector, Google, 07.10.2026 - детектор, серіктестер, Іздеудегі, Gemini мен Chrome-дағы тексеру.
- FTC begins enforcing the TAKE IT DOWN Act, FTC, 19.05.2026 - 48 сағатта жою туралы заң.
- Transparency obligations under Article 50 of the AI Act, Еуропалық комиссия - мерзімдер және кідіріс.
- Marking of AI-generated content, Қытай киберкеңістік әкімшілігі, 2025 - 01.09.2025 бастап таңбалау.
- Pindrop's 2025 Voice Intelligence & Security Report, Pindrop, 12.06.2025 - колл-орталықтарға дипфейк-шабуылдардың өсуі.
- Rubio impersonator used AI calls, Reuters, 08.07.2025.
- Sam Altman warns of an AI fraud crisis, Futurism, 27.07.2025 - Альтманның дауыс арқылы аутентификация туралы сөздері.
- Mia Goth Instagram AI shirt, The Verge, 13.10.2026 - актриса өкілдерінің мәлімдемесі.
- Deepfake fraud origins, Surfshark, 07.2026 - шығындар.