Стремительное развитие нейросетей и генеративного ИИ мгновенно открыло множество проблемных зон, из которых вылезли неожиданные «скелеты». В частности, наивная и восторженная попытка применять универсальный ИИ в медицине привела к тому, что от него чаще бывает вред, чем реальная польза — западные СМИ регулярно публикуют истории о людях, которые, полагаясь на советы «вездесущего сетевого интеллекта», либо сами погибли, либо навредили другим.
Масштаб опасений стал настолько велик, что в конце 2025 года OpenAI обновила правила использования ChatGPT, фактически запретив нейросети интерпретировать медицинские запросы и назначать лечение. Похожую политику ввёл и Google, ограничив работу функции AI Overviews при запросах, связанных с медициной.
Ключевая проблема — серьёзные фундаментальные недоработки в архитектуре и алгоритмах массового ИИ. Во-первых, такие модели обучаются на всём подряд, включая контент социальных сетей, где нередко встречаются сомнительные советы — от «бабушкиных» рецептов до опасных рекомендаций по лечению.
Во-вторых, ИИ по умолчанию стремится угодить пользователю: если в запросе есть предположение о серьёзном заболевании, модель склонна подтверждать его. В-третьих, массовые модели склонны к сильным «галлюцинациям»: они могут выдумывать факты и подтасовывать доказательства, делая это убедительно.
В результате сочетание самолечения и массового ИИ превращается не просто в риск, а в прямую угрозу для жизни. Это не значит, что применение ИИ в медицине невозможно или целиком недопустимо.
Опыт Москвы показывает: ИИ — не панацея, а мощный специализированный инструмент, который при корректном и ответственном внедрении способен спасти множество жизней. В московской медицине ИИ используется по нескольким направлениям.
В радиологии нейросети анализируют снимки, выполняют точные измерения и помечают области с возможными патологиями. В поликлиниках применяются ИИ?агенты, быстро формирующие краткие выжимки из медицинской истории пациента, а также системы поддержки клинических решений, помогающие врачам ставить предварительные и окончательные диагнозы на базе реальных данных конкретного пациента.
Почему Москва менее боится «галлюцинаций» ИИ? Потому что, в отличие от открытых моделей, обученных на огромном массиве интернета, где большая часть — информационный шум, московская программа внедрения больших языковых моделей опирается на принцип клинического контроля.
Пациент в Москве не остаётся один на один с алгоритмом. ИИ выступает здесь помощником, который освобождает врача от рутинных операций, за секунды обрабатывает огромные объёмы информации, выявляет скрытые паттерны в медицинских данных и предлагает наиболее вероятные направления дальнейшей работы с пациентом.
Кроме того, в практику введён сервис на базе ИИ, который анализирует электронную медицинскую карту (ЭМК), сигнализирует сотрудникам поликлиник о пациентах с повышенным риском сердечно?сосудистых заболеваний и предлагает перечень необходимых контрольных обследований. Главная задача для медиков — обработать колоссальный объём данных.
Ежегодно в Москве проводится миллионы профилактических обследований и приёмов (маммография, флюорография, диспансеризация и т. п.). По состоянию на июль 2025 года на платформе ЕМИАС сосредоточено более 4,2 миллиарда записей, и их число продолжает расти экспоненциально.
Однако ключевое отличие московского подхода — многоуровневая система верификации. Прежде чем модель начнёт применяться в клинике, её проходят через «сито» экспертов.
Специалисты уже провели свыше девяти тысяч экспертных оценок, выявляя логические и точностные ошибки, благодаря чему количество критических сбоев в работе нейросетей сведено к минимуму.