ChatGPT Health: Чи варто довіряти новій функції?

OpenAI оголосила про запуск ChatGPT Health, доступного для всіх користувачів старше 18 років, включаючи безкоштовні плани. Незважаючи на зростаючу популярність штучного інтелекту в медичній сфері, виникає питання: чи варто довіряти порадам, які надає цей чат-бот?

Зниження рівня захисту приватності

Під час первісного анонсу "спеціалізованого медичного досвіду" OpenAI підкреслювала, що розмови в рамках ChatGPT Health не будуть використовуватися для подальшого навчання штучного інтелекту, а також будуть відокремлені від інших розмов. Однак, умови змінилися: тепер OpenAI стверджує, що підключена медична інформація не буде використовуватися для навчання, але лише ті розмови, що використовують цю інформацію, будуть вважатися медичними.

Це означає, що єдиний спосіб отримати захист приватності в ChatGPT Health — це поділитися своїми медичними даними з OpenAI. Як зазначає компанія: "Ви можете ставити медичні запитання в ChatGPT без підключення даних. Щоб використовувати Health і отримувати відповіді на основі власної інформації, ви можете вибрати підключення Apple Health або медичних записів з підтримуваних систем лікарень США."

Чи дійсно ChatGPT перевершує лікарів?

OpenAI намагається переконати користувачів, що ChatGPT добре справляється з медичними порадами, посилаючись на оцінки HealthBench. Проте, попередні дослідження показали, що великі мовні моделі, такі як ChatGPT, не забезпечують надійні медичні поради. Навіть якщо модель надає "правильні" відповіді на ретельно сформульовані запитання, реальні розмови часто відбуваються зовсім інакше.

Крім того, HealthBench має свої обмеження: тестування не включає достатньо рідкісних захворювань, щоб оцінити, як модель реагує на них. Оцінювальні критерії також можуть бути недосконалими, адже OpenAI наводить приклад, де одна і та ж порада отримує високі бали за різні формулювання.

Наслідки помилкових медичних порад

Найважливіше, що люди дійсно звертаються до ChatGPT за медичними порадами, і в результаті цього страждають від серйозних проблем зі здоров'ям. Наприклад, нещодавно компанія зіткнулася з позовом від пастора, який стверджує, що ледь не загинув після отримання поради від ChatGPT-4o, яка виявилася помилковою. Інші позови стосуються випадків суїциду та психозу, пов'язаних із використанням продуктів OpenAI.

Як користуватися ChatGPT Health обережно

Якщо ви все ж вирішили спробувати ChatGPT Health, важливо знати кілька способів захисту своєї приватності:

• Використовуйте тимчасові чати, щоб почати розмову без використання пам'яті або персоналізації.
• Після імпорту ваших медичних даних ви можете переглядати та редагувати інформацію, виправляючи помилки чи видаляючи небажані дані.
• Ви можете в будь-який момент відключити свої медичні дані в налаштуваннях під Health > Accounts. Компанія стверджує, що дані будуть видалені "протягом 30 днів".
• Налаштуйте ChatGPT на запит дозволу на доступ до ваших медичних записів кожного разу.
• Будьте обережні з плагінами, які можуть ділитися медичною інформацією. OpenAI зазначає, що має "додаткові заходи безпеки", але також вказує, що "продовжує тестувати ці заходи...".

З огляду на всі ці фактори, важливо ретельно зважити ризики перед використанням ChatGPT Health.