Всемирная организация здравоохранения (ВОЗ) выпустила новую публикацию, в которой излагаются основные принципы регулирования технологий искусственного интеллекта (ИИ) в здравоохранении. В опубликованном документе подчеркивается важность экспертизы безопасности и эффективности систем на основе ИИ, своевременного обеспечения доступности соответствующих систем для нуждающихся в них людей и содействия диалогу между заинтересованными сторонами, включая разработчиков, органы регулирования, производителей, представителей сферы здравоохранения и пациентов.

Благодаря накоплению больших массивов медицинских данных и быстрому развитию аналитических методов на основе машинного обучения, логических и статистических моделей средства ИИ могут коренным образом изменить ситуацию в секторе здравоохранения. ВОЗ признает, что ИИ может способствовать улучшению показателей здоровья населения, повышая качество клинических испытаний; позволяя более точно выбирать методы диагностики и лечения заболеваний, тактику самопомощи и индивидуальной помощи; и дополняя знания, умения и навыки профессиональных медицинских работников. В частности, технологии ИИ могут быть полезны в условиях нехватки медицинских специалистов, помогая интерпретировать результаты иридодиагностики и рентгенологических исследований и выполнять многие другие задачи.

Вместе с тем процесс освоения технологий искусственного интеллекта, в том числе больших языковых моделей, происходит стремительно, иногда без досконального понимания механизмов их работы, что может приносить как пользу, так и вред конечным пользователям, включая медицинских специалистов и пациентов. При работе с медицинскими данными системы ИИ могут задействовать чувствительную личную информацию, конфиденциальность и целостность которой должна быть защищена при помощи надежных правовых и нормативных механизмов; созданию и функционированию таких механизмов и посвящена данная публикация.

«Искусственный интеллект открывает огромные возможности в области охраны здоровья, но и порождает серьезные проблемы, такие как нарушения этических принципов при сборе данных, возникновение угроз кибербезопасности и распространение ошибок и дезинформации, – отметил Генеральный директор ВОЗ д-р Тедрос Адханом Гебрейесус. – Данное новое руководство поможет странам эффективно регулировать технологии ИИ, реализуя их потенциал в таких областях, как лечение рака и диагностика туберкулеза, при сведении к минимуму связанных с этим рисков».

В ответ на растущую потребность стран в ответственном освоении быстро развивающихся технологий на основе ИИ в публикации намечается шесть направлений регулирования этих технологий в сфере здравоохранения.

• В публикации подчеркивается, что важное значение для укрепления доверия к новым технологиям имеет транспарентность и ведение документации, в том числе документальная регистрация всего жизненного цикла решений и отслеживание процессов их разработки.
• В целях управления рисками необходимо комплексно решать вопросы, касающиеся целевого назначения технологий, непрерывного обучения, вмешательства человека, моделей обучения и угроз кибербезопасности на основе как можно более простых моделей.
• Обеспечению безопасности и упрощению регулирования способствуют внешняя валидация данных и четкое определение целевого назначения технологий ИИ.
• Во избежание распространения систематических погрешностей и ошибок необходим четкий порядок контроля качества данных, в том числе предусматривающий тщательную проверку систем перед их выпуском.
• Для обеспечения конфиденциальности и защиты данных необходимо решать проблемы, связанные с применением наиболее важных комплексных режимов регулирования, в частности предусмотренных Общим регламентом по защите данных (GDPR) в Европе и Законом о мобильности и подотчётности медицинского страхования (HIPAA) в Соединенных Штатах Америки, четко определяя пределы действия юрисдикции этих режимов и устанавливаемые ими требования к получению согласий на обработку данных.
• Укрепление сотрудничества между регулирующими органами, пациентами, медицинскими специалистами, представителями промышленности и партнерами из числа государственных структур помогает обеспечить соответствие продуктов и услуг нормативным требованиям на протяжении их жизненного цикла.

Системы ИИ имеют сложный характер, и их функционирование зависит не только от реализованного в них кода, но и от данных, которые используются в ходе обучения таких систем и накапливаются, например, в процессе работы медицинских учреждений и взаимодействия с пользователями. Чем качественнее регулирование, тем меньше риск того, что системы ИИ будут амплифицировать отклонения, присутствующие в тренировочных данных.

Например, в моделях ИИ бывает трудно обеспечить точную репрезентацию демографического состава населения, что приводит к систематическим погрешностям, неточностям и даже непригодности моделей. Для уменьшения подобных рисков могут применяться нормативные требования о раскрытии характеристик субъектов тренировочных данных (например, их половой, расовой и этнической принадлежности) и целенаправленной коррекции данных для обеспечения репрезентативности.

Документ PDF: Regulatory considerations on artificial intelligence for health