Сьогодні існують мільйони випадків, коли аудіо, фото- та відеоматеріали реалістично виглядають і звучать — але зображують події, які ніколи не відбувалися. Такі матеріали згенеровані за допомогою штучного інтелекту і мають назву «діпфейки».
У цій статті розбираємося, що таке діпфейк зрозумілою мовою, як він створюється, чим небезпечний і як його розпізнати.
Що означає діпфейк — простими словами
Діпфейк (від англ. deep — глибокий і fake — підробка) — це несправжнє зображення, відео або аудіо, згенероване за допомогою алгоритмів штучного інтелекту. На практиці діпфейк виглядає як обличчя або голос однієї людини, замінені на обличчя або голос іншої — настільки реалістично, що відрізнити від оригіналу майже неможливо.
Слово «глибокий» у назві відображає суть технології: вона побудована на методах глибокого навчання (deep learning) — одного з найпотужніших напрямів сучасного ШІ.
Як створюються діпфейки — два основних способи
Існує два головних методи генерації діпфейків:
Спосіб 1 — Два алгоритми ШІ (заміна обличчя)
Перший алгоритм збирає характерні риси з двох зображень: оригінального і підробленого. Другий — переносить ці риси на нове зображення або відео. По суті, це «метод-копірка»: ШІ замінює обличчя реальної людини на обличчя підробленого персонажа і змушує його відтворювати необхідні рухи і міміку.
Спосіб 2 — GAN (генеративно-змагальна мережа)
GAN (Generative Adversarial Network) — алгоритм автономного машинного навчання, який працює за принципом конкуренції між двома ШІ:
- Генератор — створює підроблений образ: обличчя, тіло, очі, пропорції, голос реальної людини.
- Дискримінатор — аналізує і оцінює правдоподібність того, що створив генератор. Виявляє недоліки і «повертає на доопрацювання».
Ці два алгоритми змагаються між собою: генератор намагається обдурити дискримінатор, а той — розпізнати підробку. Чим більше ітерацій — тим реалістичніший результат. Саме GAN відповідає за найбільш переконливі діпфейки, які сьогодні існують.
Приклади діпфейків у реальному житті
Діпфейки вже давно вийшли за межі лабораторій:
- Політика: у 2018 році з’явилося фейкове відео Барака Обами, де він нібито вимовляє образливі слова. Відео створив режисер Джордан Піл як застереження про небезпеку технології.
- Шахрайство: у 2019 році британська компанія перерахувала 243 000 доларів шахраям, які за допомогою діпфейку аудіо підробили голос генерального директора.
- Медіа та розваги: у фільмі «Зоряні війни: Вигнання Скайвокера» молоде обличчя принцеси Лея відтворене за допомогою діпфейк-технологій.
- Дезінформація: під час виборчих кампаній у різних країнах поширювались підроблені відео з кандидатами, які нібито визнають злочини або говорять компрометуючі речі.
- Україна, 2022: під час повномасштабного вторгнення з’явилось фейкове відео президента Зеленського із закликом скласти зброю — типовий приклад військового застосування діпфейків.
Чим небезпечний діпфейк
Основні ризики діпфейків:
- Дезінформація і маніпуляція — підроблені заяви політиків, військових командирів або державних діячів можуть спровокувати паніку, конфлікт або вплинути на вибори.
- Шахрайство і фінансові злочини — підробка голосу керівника компанії для санкціонування переказів або виманювання конфіденційних даних.
- Репутаційні збитки — компрометуючі відео можуть знищити кар’єру або особисте життя людини.
- Сексуальні злочини — підроблені інтимні фото та відео реальних людей без їхньої згоди.
- Підрив довіри до медіа — коли будь-яке відео можна поставити під сумнів, суспільство втрачає орієнтири у тому, що є правдою.
- Інформаційна війна — застосування у збройних конфліктах для деморалізації населення або підриву командного ланцюга.
Як розпізнати діпфейк — ознаки підробки
Попри реалістичність, діпфейки мають характерні недоліки, на які варто звернути увагу:
- Неприродне моргання — або занадто часте, або людина взагалі не моргає.
- Розмиті краї обличчя — особливо в зоні волосся, вух і шиї, де технологія стикається з фоном.
- Несинхронна артикуляція — губи рухаються не в такт зі звуком або рухаються неприродно.
- Незвична шкіра — занадто гладка, без природних недосконалостей або, навпаки, з «артефактами» текстури.
- Неправильне освітлення — тіні падають не в той бік або обличчя освітлене інакше, ніж тло.
- Дивний погляд — очі можуть бути спрямовані не туди або рухатися неприродно.
- Артефакти при русі — при повороті голови або різкому русі з’являються викривлення або «глюки».
Як захиститись від діпфейків
- Перевіряйте першоджерело — не поширюйте відео або аудіо без перевірки того, де матеріал з’явився вперше.
- Використовуйте детектори діпфейків — такі сервіси, як Microsoft Video Authenticator, Deepware Scanner або FakeCatcher від Intel, аналізують відео на ознаки підробки.
- Звертайте увагу на контекст — якщо відео з’явилося раптово, без відповідного новинного контексту, це привід для підозри.
- Перевіряйте у кількох незалежних джерелах — якщо сенсаційний матеріал не підтверджено жодним авторитетним медіа, швидше за все, це підробка.
- Обмежуйте публічний доступ до своїх фото і відео — менше вихідних матеріалів означає менший ризик стати жертвою діпфейку.
Майбутнє діпфейків: загрози і можливості
Технологія діпфейків — це не лише зброя. У кіноіндустрії вона вже дозволяє «повертати» актора до молодшого віку або відтворювати образи померлих людей. У медицині — навчати лікарів на синтетичних даних пацієнтів без порушення конфіденційності. В освіті — створювати реалістичні симуляції.
Але ризики очевидні. Міжнародні корпорації — Microsoft, Google, Meta — вже інвестують у розробку інструментів виявлення підроблених матеріалів. Ряд держав приймає законодавство, що криміналізує створення злочинних діпфейків.
Часті запитання
Що таке діпфейк простими словами?
Діпфейк — це підроблене відео, фото або аудіо, створене штучним інтелектом. Найчастіше це відео, де обличчя або голос однієї людини замінені на обличчя або голос іншої так реалістично, що складно відрізнити від оригіналу.
Чи законно створювати діпфейки?
У більшості країн створення діпфейків не заборонене напряму — якщо мова не йде про кримінальні цілі (шахрайство, наклеп, сексуальний контент без згоди). Проте законодавство в цій сфері активно розвивається, і ряд держав вже запровадив конкретні норми.
Як відрізнити діпфейк від справжнього відео?
Зверніть увагу на: моргання, синхронізацію губ зі звуком, краї обличчя і волосся, освітлення, природність шкіри. Також можна скористатися спеціальними детекторами — Deepware Scanner, Microsoft Video Authenticator.
Чи можна стати жертвою діпфейку?
Так. Будь-яка людина, фотографії або відео якої є у відкритому доступі, потенційно може стати жертвою. Особливо вразливі публічні особи — політики, зірки, блогери. Але навіть приватні люди можуть постраждати від підробленого інтимного контенту або шахрайства.
Висновок
Діпфейки являють собою двояку загрозу: з одного боку, відкривають нові можливості для кіноіндустрії та комп’ютерної графіки, з іншого — стають інструментом дезінформації та маніпуляції масами. Розвиток технологій виявлення підробок і підвищення обізнаності суспільства відіграють ключову роль у боротьбі з цією проблемою.
