Фахівці висловили підтримку запуску ChatGPT Health для надання консультацій щодо питань здоров’я, незважаючи на можливі ризики виникнення галюцинацій у ШІ-моделей. Про це інформує TechCrunch.
Сіна Барі, практикуючий лікар-хірург та керівник відділу ШІ в компанії iMerit, поділився історією про те, як його клієнт звертався до ChatGPT:
«Нещодавно він відвідав мене після призначення медикаменту і продемонстрував надруковану розмову з чат-ботом. Там було вказано, що препарат має 45% ймовірність розвитку тромбоемболії легеневої артерії».
Лікар Барі проаналізував джерела та встановив, що статистичні дані були взяті з наукової роботи про вплив ліків на специфічну групу осіб із туберкульозом. Ці відомості не відповідали його конкретному клінічному випадку.
Незважаючи на наявні неточності, лікар схвально відгукнувся про введення в дію ChatGPT Health. На його переконання, цей сервіс надає змогу користувачам обговорювати проблеми, пов’язані зі здоров’ям, у більш закритій обстановці.
«Я вважаю, це прекрасно. Це вже відбувається, тому узаконення процесу з метою забезпечення захисту інформації про хворих і впровадження певних запобіжних заходів підвищить ефективність процесу для пацієнтів», — зазначив лікар Барі.
Користувачі мають можливість отримувати більш індивідуалізовані рекомендації від ChatGPT Health, завантажуючи свої медичні записи та інтегруючи застосунок з Apple Health і MyFitnessPal. Такий широкий доступ до особистої інформації викликав занепокоєння в суспільстві.
«Раптово медичні дані передаються від організацій, що підтримують HIPAA, до постачальників, які цього не роблять. Цікаво, якою буде реакція регуляторів на це», — зауважив співзасновник компанії MIND Ітай Шварц.
Близько 230 млн осіб щотижня консультуються з ChatGPT щодо питань, що стосуються їхнього здоров’я. Велика кількість людей припинила пошук симптомів у Google, обираючи чат-бот як основне джерело інформації.
«Це один із найбільших способів використання ChatGPT. Тому цілком природно, що вони виявлять бажання створити більш конфіденційну, безпечну та оптимізовану версію чат-бота для медичних питань», — підкреслив Шварц.
Проблема галюцинацій
Ключовою проблемою чат-ботів залишаються «галюцинації», що особливо важливо в секторі охорони здоров’я. Згідно з дослідженням Vectara, GPT-5 від OpenAI схильний до «галюцинацій» частіше, ніж аналогічні продукти від Google та Anthropic.
Однак професор медицини Стенфордського університету Нігам Шах вважає ці побоювання несуттєвими. На думку лікаря, головна проблема системи полягає в ускладненому доступі до медичних працівників, а не в ризику отримання невірної поради від ChatGPT.
«Сьогодні, якщо ви звернетеся до будь-якої системи охорони здоров’я та захочете потрапити на прийом до лікаря первинної ланки, вам доведеться чекати від трьох до шести місяців. Якщо перед вами стоїть вибір: чекати пів року, щоб потрапити до кваліфікованого фахівця, або негайно поспілкуватися з тим, хто може вам чимось допомогти, що б ви обрали?» — запитав він.
Адміністративні обов’язки лікаря можуть займати приблизно половину робочого часу, що значно зменшує кількість прийомів. Автоматизація цих операцій дасть змогу фахівцям приділяти більше уваги хворим.
Доктор Шах керує командою в Стенфорді, яка розробляє ChatEHR — програмне забезпечення, що дозволяє лікарям ефективно та раціонально працювати з електронними медичними картками пацієнтів.
«Завдяки підвищеній зручності використання, лікарі зможуть витрачати менше часу на пошук необхідної інформації», — зазначила одна з перших тестувальниць ChatEHR, докторка Снеха Джайн.
Нагадаємо, в січні компанія Anthropic повідомила про випуск Claude for Healthcare — комплексу інструментів для постачальників медичних послуг і пацієнтів.