В Каліфорнії чат-боти будуть повідомляти про те, що вони – не люди.
Губернатор Каліфорнії Гевін Ньюсом затвердив закон SB-243, який регламентує зростаючу сферу «ШІ-компаньйонів», інформує The Verge.
Державний сенатор Стів Паділья охарактеризував цей документ як «перший у державі закон щодо захисту від AI-чатботів». Нове регулювання зобов’язує творців чатботів впроваджувати запобіжні заходи. Наприклад, якщо користувач може помилково подумати, що спілкується з людиною, чатбот має чітко інформувати, що він є штучним інтелектом.
Зі стартом наступного року певні оператори чатботів-компаньйонів повинні будуть надавати щорічні звіти до Управління з запобігання суїцидам про дії, які вони реалізували для розпізнавання, усунення та реагування на ознаки суїцидальних намірів у користувачів. Ці відомості будуть розміщені на інтернет-сайті Управління.
«Новітні технології, на кшталт чатботів і соціальних мереж, мають потенціал надихати, навчати та об’єднувати людей, але за відсутності відповідних правил вони можуть використовувати, обманювати та становити загрозу для наших дітей», — повідомив Ньюсом під час затвердження закону.
Він підкреслив, що закон є складовою частиною ряду ініціатив, націлених на підвищення безпеки дітей в мережі інтернет, зокрема нових вимог щодо вікових обмежень на пристроях:
«Ми можемо залишатися лідерами в ШІ та технологіях, але це потрібно робити відповідально — оберігаючи наших дітей на кожному кроці. Безпека дітей не підлягає продажу».
Це рішення було прийняте після того, як Ньюсом ухвалив SB-53, епохальний закон про прозорість ШІ, що викликав дискусії серед компаній і привернув увагу преси протягом кількох місяців.
Зауважимо, у серпні OpenAI опублікувала плани щодо виправлення недоліків ChatGPT у взаємодії з «делікатними ситуаціями».
