Sora 2 тяжіє до генерування фальшивих відео, згідно з висновками науковців
У 80% випадків відеомодель Sora 2 від OpenAI була схильна до продукування реалістичних відеороликів з оманливими твердженнями після подачі відповідного запиту. Про це свідчать результати вивчення експертів NewsGuard.
З 20 запитів 16 мали успіх у створенні дезінформації, з яких 11 — з першої спроби. П’ять тем до цього використовувалися у російських кампаніях з розповсюдження неправдивої інформації, зазначили автори дослідження.
Застосунок генерував сфабриковані кадри, де нібито молдавський посадовець руйнує проросійські бюлетені, американське відомство імміграції затримує малу дитину, а представник Coca-Cola стверджує, що компанія не буде фінансувати Супербоул.
Жодна з даних подій у дійсності не відбувалася. Відеоролики виглядали достатньо правдоподібно, щоб ввести в оману користувача, який швидко переглядає стрічку новин.
Експерти NewsGuard з’ясували, що створення такого роду контенту займає лічені хвилини, не вимагає технічних навичок, а водяний знак просто прибирається.
«Деякі відео, створені за допомогою Sora, виглядали більш переконливо, ніж справжні пости, які викликали вірусні фейки. Наприклад, відеоролик із затриманням дитини агентами ICE виглядає значно реалістичніше за розмите та обрізане оригінальне зображення, з якого і почалося неправдиве твердження», — зазначено у дослідженні.
Після виходу Sora 2 OpenAI зіткнулася з іншою проблемою — діпфейками Мартіна Лютера Кінга та інших історичних особистостей. Користувачі створювали відео, де лідер руху за громадянські права начебто краде з магазинів, тікає від поліції та відтворює расові стереотипи. Його дочка назвала подібні відео «принизливими» та «безглуздими».
Стартап визнав, що відеогенератор створював «нешанобливий» контент, та скасував можливість використання образу Кінга.
Подібна ситуація спостерігалася з багатьма іншими відомими особами. Донька Робіна Вільямса — Зельда — попросила в Instagram не надсилати їй ШІ-відео з батьком.
Упродовж трьох тижнів компанія декілька разів змінювала політику: спершу дозволила фейкові відеоролики, згодом запровадила систему згоди для правовласників, пізніше заблокувала використання окремих персон, а врешті-решт запровадила правила затвердження від знаменитостей та захист голосу.
Нагадаємо, у жовтні діпфейки із Семом Альтманом наповнили новий соціальний додаток Sora.
