Спешка производителей могла сделать медоборудование с ИИ опаснее

Искусственный интеллект (ИИ) поможет разработать новые лекарства, ускорить диагностику, снизить нагрузку на врачей и защитить хирургов от совершения ошибок, считают сторонники внедрения ИИ в медицину. Но обзор Reuters показал, что производители медицинских изделий (МИ) с ИИ торопятся вывести свои продукты на рынок, пренебрегая безопасностью пациентов. Известно по меньшей мере о двух случаях инсульта, произошедших во время операций с ИИ-навигацией.

В 2021 году компания Acclarent (подразделение Johnson & Johnson) объявила о внедрении ИИ в устройство TruDi для проведения синусопластики. Алгоритмы машинного обучения использовались для навигации в пазухах носа во время процедуры. По меньшей мере десять человек пострадали после внедрения ИИ в устройство, согласно отчетам Управления по санитарному надзору за качеством лекарств и пищевых продуктов США (FDA):

• у одного пациента произошла утечка спинномозговой жидкости из носа;
• в другом случае хирург по ошибке проколол основание черепа;
• два пациента пережили инсульт и подали в суд на Acclarent, причем один из хирургов повредил сонную артерию, будучи введенным в заблуждение системой навигации.

Компания заявляет, что не разрабатывала и не производила систему TruDi, а лишь распространяла ее. При этом один из хирургов заявил, что предупреждал Acclarent о рисках. После этого компания смягчила стандарты безопасности, установив достаточную для внедрения точность технологии ИИ на уровне 80%.

Отчеты FDA о неисправностях медизделий не позволяют доказать причинно-следственную связь между причиненным пациентам вредом и применением МИ с ИИ. Документы часто не содержат подробностей и отредактированы для защиты коммерческой тайны. Об этом заявила компания Integra LifeSciences, которая приобрела Acclarent в 2024 году.

Спешка производителей и дефицит кадров в надзорных органах

В США уже одобрены не менее 1357 медизделий с ИИ. Это вдвое больше, чем за всю историю до 2022 года, и FDA с трудом справляется с валом заявлений. В 2025 году агентство уволило треть сотрудников (часть из них ушли сами), тестировавших алгоритмы в различных клинических ситуациях. Сокращения были связаны с политикой Департамента повышения эффективности государственного управления (DOGE), созданного Илоном Маском. Это осложнило работу FDA, сообщили Reuters собеседники из агентства.

Другие инциденты

В одном из отчетов FDA за 2025 год утверждалось, что программное обеспечение с ИИ неправильно идентифицировало части тела плода во время УЗИ. Программа Sonio Detect принадлежит Samsung Medison, подразделению Samsung Electronics. Компания ответила, что FDA не запрашивало от нее каких-либо действий.

Также известно о 16 пропущенных случаях нарушения ритмов кардиомониторами с ИИ от Medtronic. Компания провела расследование и сообщила Reuters, что устройство пропустило только одно событие, при этом не был причинен вред пациенту.

В России контроль над медизделиями с ИИ был ужесточен в 2025 году. Росздравнадзор обязал производителей передавать данные об ошибках МИ с ИИ в автоматизированную информационную систему для отслеживания в реальном времени эффективности и безопасности оборудования. Ранее Минздрав РФ разработал Кодекс этики применения искусственного интеллекта на всех этапах его создания и применения.