Днями в Китаї з’явився додаток Zao, яке за лічені секунди змінює обличчя на відео, причому досить натуралістично. Пара кліків — і будь-хто може стати Джеком з «Титаніка» або Нео з «Матриці». І хоча завантажити додаток можуть тільки жителі Піднебесної, його величезні можливості моментально розбурхали не тільки Азію, але і весь світ.
Ми в woman.net.ua вирішили з’ясувати, чому Zao викликало стільки хвилювань і являє собою потенційну небезпеку. І відразу хочемо принести вибачення за фото: це скріншоти з відео, і ми правда намагалися поліпшити їх якість.
Новий додаток зробило технологію заміни осіб доступною для простих обивателів, при цьому поліпшивши якість і зменшити час обробки відео. Один з розробників Аллан Хіа ділиться в твіттері фейковими відео, які вражають своєю реалістичністю.
Подивіться реальний приклад роботи Zao з фільмом «Титанік»
That’s all from me tonight, have fun reading about #ZAO #AI #Deepfake app in this thread from the beginning folks🙂
Вибачення за in advance for ruining your favourite movie/ actor/ character/ #KPOP star 🙏 https://t.co/AIRPnxK5rR
— Allan Xia (@AllanXia) September 2, 2019
Не дивно, що додаток швидко зайняло лідируючі місця в китайському App Store. Але в той же час стало зростати число незадоволених і налаштованих проти Zao. В першу чергу через угоди, яке давало розробникам безмежні і безвідзивні права на зображення і відео з особами користувачів. Після скандалу угоду було змінено і компанія заявила, що не буде зберігати біометричні дані користувачів. Але ситуація ускладнилася тим, що Zao належить Momo — сайту знайомств з визначенням локації і стримингами. Громадськість налякала можливість того, що їхні дані можуть бути передані Momo і використані нею з невизначеними цілями. У результаті рейтинг Zao моментально впав в App Store до 1,9 зірки. До речі, скандал з приводу угоди був і зі знаменитим FaceApp, що ще раз нагадує нам про необхідність читати все, з чим ми погоджуємося.
Ще більше люди турбуються про величезний потенціал такої технології, який можуть використовувати зловмисники. Однак на захист Zao виступив Генрі Эйдер, керівник відділу комунікацій Deeptrace — компанії, яка займається обчисленням шахраїв і кіберзлочинців. Він заявив, що програма не являє загрози для громадськості, оскільки його функціонал обмежений: у ньому є вбудована бібліотека відео з різних фільмів і кліпів, і змінити обличчя можна лише на запропонованих записах. За запевненням Эйдера, технологія може стати проблемою тільки в тому випадку, якщо у користувачів буде можливість накладати інші обличчя на свої власні відео. Так, нещодавно у Великобританії стався інцидент, в результаті якого чоловік був притягнутий до кримінальної відповідальності за використання схожою методики обробки відео. З допомогою штучного інтелекту він створив фейкові порнографічні запису, замінивши обличчя актриси на обличчя своєї колеги.
Ще один приклад з «Грою престолів»
Here’s for Asian representation in Hollywood 😂 #ZAO #AI #Deepfake pic.twitter.com/qrSs3VajfL
— Allan Xia (@AllanXia) September 1, 2019
Потенційну загрозу Zao представляє і для системи розпізнавання осіб. Так, популярна китайська система онлайн-платежів Alipay вже відреагувала і заявила, що алгоритм впізнавання обличчя набагато складніше і точніше, і зламати його за допомогою такого додатка неможливо. Однак додала, що в крайньому випадку страховка покриє фінансові втрати постраждалих. Китайська платформа для спілкування WeChat також підтвердила, що Zao не несе загрози користувачам. При цьому месенджер обмежив доступ до скандального додатком, і користувачі не можуть відправити друзям посилання-запрошення.
Такий наш сучасний світ: інколи не можна зрозуміти, реальні чи ми дивимося відео і фотографії. А як ви вважаєте, чим може обернутися розвиток таких технологій та їх доступність?
Titanic / Twentieth Century Fox, Allan Xia / twitter
