Каждый день миллионы людей по всему миру вводят в строку ChatGPT вопросы вроде «что означает боль в левом боку», «можно ли принимать ибупрофен при давлении» или «у меня такие симптомы — что это может быть». Чат-бот отвечает уверенно, структурированно, почти как врач. Именно в этой уверенности и кроется главная опасность.
Искусственный интеллект не лечит. Он генерирует текст, перерабатывает уже имеющийся в сети. И разница между этими вещами может стоить здоровья — а в критических случаях и жизни.
Когда ИИ убедительно лжёт
Одна из ключевых проблем больших языковых моделей — так называемые «галлюцинации»: генерация правдоподобной, но полностью вымышленной информации. В медицинском контексте это особенно опасно.
Исследование австрийских и немецких учёных, проведённое в 2024 году, показало: ChatGPT не соответствует клиническим стандартам и нуждается в существенной доработке. Эксперты зафиксировали, что модель не способна отличить достоверную медицинскую информацию от ложной и при этом преподносит оба варианта с одинаковой уверенностью. Более того, даже когда ответ оказывается верным, его обоснование нередко бывает абсурдным — модель не рассуждает, а предсказывает вероятный текст, сообщает ФармМедПром.
«Несмотря на весь ажиотаж, искусственный интеллект просто не готов взять на себя роль врача» — доктор Ребекка Пейн, Оксфордский университет
Высокие баллы на тестах ≠ безопасность в реальной жизни
Многие пользователи доверяют ChatGPT, потому что слышали: он «сдал» медицинские экзамены. Это правда — но она вводит в заблуждение.
Исследование, опубликованное в журнале Nature Medicine и проведённое учёными Оксфордского интернет-института, включало 1298 взрослых участников из Великобритании. Им предложили десять реальных медицинских сценариев. Часть участников использовала языковые модели (GPT-4o, Llama 3, Command R+), другие — обычный интернет-поиск или собственные знания.
Результат оказался тревожным: пользователи с ИИ-помощником правильно определяли заболевание менее чем в 34,5% случаев. При этом сами модели в изолированном тестировании показывали значительно более высокую точность. Вывод исследователей: проблема не только в знаниях модели, но и в характере взаимодействия человека с ней — люди неправильно формулируют запросы, неверно интерпретируют ответы, сообщает ZN.ua.
«Пациенты должны осознавать, что расспрашивать языковую модель об их симптомах может быть опасно» — доктор Ребекка Пейн, соавтор исследования
Модель не знает вас — она знает только текст
Врач при постановке диагноза учитывает десятки факторов: историю болезни, результаты анализов, наследственность, образ жизни, психоэмоциональное состояние, данные осмотра. ChatGPT не имеет доступа ни к одному из них — только к тому тексту, который вы написали в чат. Поэтому даже если Вы консультируетесь с ИИ по вопросам некоторых проблем со здоровьем, важно прикладывать максимальное количество информации — анализы, все наблюдения, историю, сопутствующие заболевания.
Исследование, опубликованное в Российском журнале телемедицины и электронного здравоохранения (2024), прямо указывает: ИИ не учитывает социальные, психологические и экономические факторы пациента, которые критически важны для правильной диагностики и лечения. Модель работает со статистическими паттернами, а не с конкретным человеком, отмечает jTeleMed.ru.
Практический пример: одна и та же боль в груди у 25-летнего спортсмена и у 60-летнего курильщика с гипертонией требует принципиально разного подхода. ChatGPT этого различия не сделает.
Ответ зависит от формулировки вопроса
Немецко-австрийские исследователи зафиксировали ещё один тревожный феномен: незначительное изменение формулировки запроса может кардинально изменить ответ модели. Это означает, что пользователь, сам того не зная, может «подтолкнуть» ИИ к нужному ему ответу — и получить подтверждение своих страхов или, напротив, ложное успокоение.
Это явление называется «эффектом подтверждения через промпт» и особенно опасно в медицине, где предвзятость пациента в интерпретации симптомов и без того высока.
Риск промедления с реальной помощью
Одна из самых серьёзных угроз — откладывание визита к врачу после получения «успокоительного» ответа от ИИ. Если ChatGPT объяснил боль в животе «стрессом и переутомлением», пациент может не обратиться к специалисту вовремя — даже при аппендиците или начале онкологического процесса.
«Это может привести к ложным диагнозам или игнорированию ситуаций, когда требуется срочная помощь» — доктор Ребекка Пейн, Оксфордский университет
ВОЗ также предупреждала об этом риске, призвав использовать ИИ в медицинских целях «с максимальной осторожностью» и подчеркнув, что особую опасность представляет недостоверная информация, сгенерированная чат-ботами, сообщает Snob.ru.
Конфиденциальность: ваши симптомы — не ваша тайна
Когда вы описываете ChatGPT свои симптомы, хронические заболевания или принимаемые препараты, вы передаёте эти данные на серверы технологической компании. В бесплатной версии сервиса диалоги по умолчанию могут использоваться для обучения модели.
Это создаёт риски:
- Утечка персональных медицинских данных при возможных инцидентах безопасности
- Нарушение требований GDPR и HIPAA при использовании корпоративными структурами
- Потеря контроля над чувствительной информацией о состоянии здоровья
Эксперты шведской компании Swiss Re прогнозируют, что к 2034 году фармацевтическая и медицинская сферы станут лидерами по уровню страховых рисков именно из-за активного применения ИИ.
OpenAI сама признала проблему
Показательно, что в ноябре 2025 года компания OpenAI официально запретила ChatGPT давать медицинские и юридические советы без привлечения лицензированного специалиста. В пресс-релизе компании прямо указано, что чат-бот не должен использоваться для принятия решений в сфере здоровья без участия профессионала, сообщает Российская газета.
Это решение — не маркетинговый ход, а признание реальных рисков, которые компания больше не может игнорировать.
Что можно, а что нельзя
| Допустимо 🟢 | Опасно 🔴 |
|---|---|
| Подготовить вопросы для врача | Ставить диагноз по симптомам |
| Узнать общее значение медицинского термина | Принимать решение о лечении |
| Понять, к какому специалисту обратиться | Отменять или назначать препараты |
| Разобраться в результатах анализов в общих чертах | Игнорировать тревожные симптомы после «успокоительного» ответа ИИ |
Заключение
ChatGPT — мощный инструмент для работы с информацией, но не медицинский прибор и не врач. Его уверенный тон, структурированные ответы и медицинская терминология создают иллюзию компетентности, которая может быть опаснее очевидного незнания.
Данные исследований однозначны: в реальных медицинских сценариях ИИ-ассистенты ошибаются чаще, чем кажется, а последствия этих ошибок несёт пациент — не алгоритм.
Используйте ChatGPT как отправную точку для разговора с врачом, но никогда — как его замену.
Материал подготовлен на основе данных исследований Оксфордского университета (Nature Medicine, 2026), австрийско-немецкого исследования ChatGPT в медицине (2024), публикаций ВОЗ, Российского журнала телемедицины и официальных заявлений OpenAI.
