Сьогодні існують багатотисячні випадки, коли аудіо, фото-відео матеріали реалістично виглядають і звучать з тих подій, які ніколи не відбувалися. Такі матеріали згенерували за допомогою штучного інтелекту. Такі твори, створені за допомогою алгоритмів глибокого навчання, які модифікують візуальний або аудіо контент, щоб створити враження, ніби вони є реальними, часто називають “діпфейками”. Сьогодні у нашій статті розбираємося, що таке діпфейк зрозумілою мовою і чим він може бути небезпечний.
Що означає діпфейк?
Діпфейк – одна з новітніх методик синтезу зображень, відео та аудіо на основі алгоритмів штучного інтелекту.
Цей термін походить від англійських слів “deep” (глибокий) і “fake” (підробка), і він відображає саму сутність цих творів – глибоке застосування технологій для створення імітації реальності.
Діпфейк: простими словами про новітній алгоритм ШІ
Існує багато способів генерації діпфейків – підроблених артефактів нової ери. Перші просунуті діпфейки з’явилися ще 2017 року, і на сьогодні вони стали універсальним інструментом впливу на людину. Класичні фейки потроху відходять на дальній план.
Що означає діпфейк? За своєю суттю це несправжнє зображення, відео- або аудіоматеріал, згенерований за допомогою алгоритмів ШІ. На практиці діпфейк виглядає як обличчя або голос, змінені на обличчя або голос іншої людини. У минулому вже існували подібні артефакти, але для їх створення були потрібні величезні зусилля кількох програмістів, фотографів, художників і 3D-монтажерів.
Останніми роками алгоритми штучного інтелекту стали настільки технологічними, що створення діпфейка не займає більше кількох хвилин. Усе, що потрібно виробнику такого фейкового матеріалу, – підготувати вихідні файли та моніторити процес генерації артефакту. Результат генерації – щось нове, створене штучними силами на базі реальних даних.
Способи створення діпфейків
Згенерувати підроблене обличчя або голос можна двома способами
Використовуючи два алгоритми штучного інтелекту
Спочатку ШІ збирає схожі риси з двох зображень за допомогою першого алгоритму. Потім приходить черга другого – відбувається перенесення цих рис на нове зображення. За допомогою цього способу можна створити відео-діпфейк, у якому псевдоособистість здійснює ті чи інші реалістичні рухи.
По суті ШІ замінює обличчя особистості, яке в нього завантажив виробник фейку (та сама людина, яка моніторить генерацію), на обличчя підробленого персонажа і змушує його відтворювати необхідні рухи. Грубо кажучи, це метод-копірка.
Використовуючи GAN
GAN, або генеративно-змагальна мережа, – це алгоритм автономного машинного навчання. Він теж використовує два алгоритми, але за іншою механікою.
Перший алгоритм GAN називається генератором. Він створює образ – візуального персонажа з відмінними рисами реальної людини, особистість якої і підробляється. Цими рисами можуть бути тіло, обличчя, очі, пропорції. Другий алгоритм – це дискримінатор. Він відповідає за аналіз і оцінку правдоподібності зображення або відеоматеріалу, який створив генератор.
Чим небезпечний діпфейк?
Річ у тім, що програми на базі ШІ, якими будь-який умілий користувач може згенерувати діпфейк, не обмежуються жодними законами. За своїм статусом вони належать до категорії розважального ПЗ, тоді як алгоритми для їх створення стають дедалі складнішими, а самі підроблені артефакти – дедалі реалістичнішими.
У майбутньому комп’ютерні технології будуть тільки ускладнюватися, і генерація діпфейків зможе принести суспільству серйозні проблеми. Це може бути і втручання в державні вибори, і кримінальна діяльність, і інструменти інформаційного протистояння на політичному рівні.
Уже сьогодні технології діпфейків розвинулися настільки, що пересічний користувач Інтернету може не відрізнити особливо “успішно” підроблену особу від реальної. Наразі суспільству потрібно не допустити проникнення цієї технології в ЗМІ, і міжнародні корпорації вже починають інвестувати у створення ПЗ, яке зможе виявляти й усувати такі матеріали.
Висновок
Діпфейки являють собою двояку загрозу: з одного боку, вони відкривають нові можливості для кіноіндустрії та комп’ютерної графіки, з іншого боку, стають інструментом дезінформації та маніпуляції масами. Розвиток технологій виявлення підробок і підвищення обізнаності суспільства відіграють ключову роль у боротьбі з цією проблемою. Однак лише освіта та критичне мислення можуть дієво захистити від негативного впливу діпфейків і зберегти цілісність інформаційного простору в цифрову епоху.
