С развитием технологий искусственного интеллекта у пациентов появилась привычка проверять результаты лабораторных исследований с помощью нейросетей, однако врачи предупреждают, что такая практика таит в себе серьезные риски для здоровья и может привести к неправильному лечению.
По словам врача-терапевта ИНВИТРО Евгения Космынина, ошибки искусственного интеллекта при расшифровке анализов – это системная проблема, а не единичные сбои. Специалист объясняет, что языковые модели обучены предсказывать вероятный текст, а не проверять медицинские факты. Из-за этого они могут придумывать несуществующие нормы и «исследования» – так называемые галлюцинации, когда ответ выглядит правдоподобно, но цифры и ссылки в нем вымышлены. Кроме того, нейросети могут путать единицы измерения, разница между которыми иногда достигает десятков раз (например, нг/мл, нмоль/л, мЕд/л, мкг/л). Алгоритмы не учитывают метод исследования: к примеру, результат на антитела, полученный разными тест-системами, несопоставим напрямую, о чем ИИ не предупредит. Также нейросеть способна давать противоположные ответы на один и тот же результат, если он отправлен дважды или сформулирован иначе.
Терапевт подчеркивает, что у нейросети недостаточно данных о пациенте, что делает ее выводы ненадежными. Она не знает истории болезни, наличия хронических заболеваний, принимаемых лекарств, перенесенных операций и наследственной предрасположенности. Искусственный интеллект не учитывает возраст, пол, фазу цикла или беременность, от которых зависит интерпретация многих показателей. У него нет информации о симптомах и жалобах, хотя один и тот же результат при разных жалобах может означать совершенно разное. Кроме того, нейросеть не видит других анализов, которые должны оцениваться в комплексе, и не знает референсных интервалов конкретной лаборатории. Нормы зависят от метода исследования, реагентов и оборудования, поэтому значения, которые «знает» ИИ, могут не совпадать с данными в бланке. В итоге такие выводы вводят пациента в заблуждение как в сторону ложного успокоения, так и ложной тревоги.
Главная опасность, по мнению врача, заключается не в самой ошибке нейросети, а в решениях, которые человек принимает на ее основе. ИИ может дать ложное успокоение, сообщив, что все в норме, из-за чего пациент отложит визит к доктору и пропустит начало серьезного заболевания. Возможна и обратная ситуация: чат заявляет об опасном состоянии, и человек неделями живет в страхе, проходит ненужные обследования, тратя деньги и нервы. Еще один риск – самолечение. Опираясь на ответ нейросети, человек может самостоятельно начать принимать препараты железа, витамин D или гормоны, не учитывая противопоказания и истинную причину отклонений. Нейросеть также может не оценить результаты анализов в совокупности, хотя именно взаимосвязь показателей имеет ключевое значение. Использование ИИ вместо своевременного обращения к специалисту приводит и к потере времени: пока человек разбирается с проблемой в чате, заболевание может продолжать прогрессировать.
Единственным надежным путем интерпретации результатов специалист называет обращение к врачу. На приеме доктор сопоставит цифры с жалобами, возрастом, полом, сопутствующими заболеваниями и принимаемыми препаратами, оценит показатели в динамике и в комплексе, а также учтет референсные интервалы лаборатории. При необходимости он назначит повторное исследование или более углубленную диагностику.