Усередині ChatGPT: генератор порно, шахрайство та псевдоекспертні медичні поради
Кастомні версії ChatGPT використовуються для створення порнографічного контенту, допомагають студентам обходити системи виявлення текстів, створених за допомогою ШІ, а також надають «авторитетні» медичні та юридичні консультації. Про це пише Gizmodo після проведення розслідування.
У листопаді 2023 року OpenAI представила можливість кастомізації ChatGPT під свої особисті цілі. Для цього не потрібні навички програмування. Створені GPTs можуть виконувати конкретні завдання з пошуку інформації в інтернеті або служити віртуальним помічником у робочих процесах.
Їх можна використовувати самостійно або ділитися з іншими. OpenAI представила торговий майданчик для поширення кастомних ШІ. Експерти Gizmodo з’ясували, що 2 вересня на ньому було щонайменше три призначені для користувача GPTs, що порушують політику компанії:
- чат-бот «Терапевт-Психолог»;
- «Тренер із фітнесу, тренувань і дієт»;
- «BypassGPT», що дає змогу студентам обходити системи виявлення згенерованого штучним інтелектом тексту.
Журналісти звернули увагу, що пошуковий запит «NSFW» пропонує GPTs під назвою NSFW AI Art Generator. Інтерфейс чату рекомендує перейти на сайт компанії Offrobe AI, де вказано призначення нейромережі: «Генерація ШІ-порно для задоволення ваших темних бажань».
Gizmodo повідомили OpenAI про понад 100 GPTs, які порушують політику компанії. Багато з них видалили, включно з генераторами порно і діпфейків, а також чат-ботами, що пропонують рекомендації щодо ставок на спорт. Деякі нейромережі залишилися, зазначають у виданні.
«Ми вжили заходів проти тих, хто порушує наші правила. Використовується комбінація автоматизованих систем, людського аналізу та звітів користувачів для пошуку й оцінки GPTs. Також є вбудовані в продукт інструменти для повідомлення про GPTs, які порушують правила», — прокоментувала представниця OpenAI Тая Крістіансон.
Розробники кастомізованих GPTs поки не отримують прибутку, але ШІ-стартап планує інтегрувати модель розподілу доходів залежно від популярності їхнього інструменту.
Раніше Google активізував боротьбу з діпфейк-порно.
Нагадаємо, у лютому Віталік Бутерін написав статтю про зростаючу проблему діпфейків і розібрав можливі способи їх виявлення.
