У ЄС запропонували заборонити жорстокий ШІ-контент із дітьми
Європейська комісія розглядає можливість запровадження кримінальної відповідальності за створені ШІ зображення і діпфейки, що демонструють сексуальне насильство над дітьми (CSA).
Child sexual abuse is a heinous crime which has evolved significantly over the past years.
Today, we are adopting a proposal to update the criminal law rules on child sexual abuse and sexual exploitation.
Learn more → https://t.co/mtz68GuEJJ#SecurityEU pic.twitter.com/QF7TsFX7cy
— European Commission (@EU_Commission) February 6, 2024
Законопроєкт криміналізує поширення контенту з жорстоким поводженням із неповнолітніми. Документ передбачає введення нового кримінального злочину.
Нові положення передбачають покарання за зберігання та обмін «посібниками для педофілів» зі створення CSA-матеріалів за допомогою нейромереж. У реченні також згадуються неназвані чат-боти на основі штучного інтелекту, використовувані для цих цілей.
«Загроза зловживань реальна і зросла в усьому ЄС. Наприклад, у мережі продовжують з’являтися інструкції для педофілів, які свідчать про зростаючу загрозу для найбільш уразливих груп населення. Присутність дітей в онлайні та технологічні інновації створюють нові можливості для зловживань. Лише 2022 року в Євросоюзі зареєстровано 1,5 млн повідомлень про CSA», — йдеться в заяві відомства.
Для реалізації ініціативи Єврокомісія має намір внести поправки до відповідного закону від 2011 року. Однак остаточне рішення щодо запропонованих правил ухвалять Європейський парламент і Європейська рада.
Ці заходи є частиною ширшого пакета, спрямованого на запобігання сексуальному насильству над дітьми, підвищення обізнаності щодо ризиків в Інтернеті, полегшення процесу інформування про злочини та надання державної підтримки, включно з правом на фінансову компенсацію.
Раніше британська компанія з нагляду за інтернетом Internet Watch Foundation повідомила про швидке поширення ШІ-матеріалів із сексуальним насильством над дітьми. Згідно зі звітом дослідників, усього за один місяць на одному з даркнет-форумів виявлено понад 20 254 зображень CSA.
Нагадаємо, у травні 2023 року один із піонерів галузі Джеффрі Хінтон попередив про потенційні загрози, пов’язані з ШІ. До цього ексглава Google Ерік Шмідт заявив, що технологія являє собою «екзистенціальний ризик», через який багато людей можуть «постраждати або загинути».
