Минздрав России утвердил Кодекс этики ИИ в здравоохранении

Кодекс содержит набор принципов и рекомендаций, обязательных для участников взаимодействия с ИИ: разработчиков, производителей, медицинских организаций, операторов данных и других субъектов. Он распространяется на ИИ-системы, используемые исключительно при оказании медицинской помощи — для профилактики, диагностики, лечения и реабилитации.

Особое внимание уделено ключевым этическим рискам:

— недостаток доказательств эффективности и безопасности ИИ-систем;
— «прозрачность» и объяснимость решений ИИ (проблема «чёрного ящика»);
— отсутствие четкой процедуры вывода ИИ из эксплуатации при критических сбоях;
— сложности с определением ответственности за итоговое решение, принятое системой;
— вопросы конфиденциальности данных и кибербезопасности;
— возможные проявления дискриминации и неравного доступа к ИИ-технологиям.

Для минимизации этих рисков в Кодексе закреплены основные этические принципы:

— Ограниченная автономность:
ИИ-системы должны подлежать контролю со стороны медицинских специалистов.

— Прозрачность и объяснимость:
Алгоритмы ИИ обязаны быть понятными и открытыми для анализа.

— Конфиденциальность и безопасность:
Защита персональных данных и исключение ущерба для пациентов.

— Справедливость и равенство:
Исключение дискриминации и обеспечение равного доступа.

— Профессиональная ответственность:
Соблюдение высоких научных и этических стандартов при разработке и внедрении ИИ.

— Информирование:
Пациенты и медработники должны получать достоверную информацию о возможностях и рисках.

— Этическая экспертиза и контроль:
Обязательное проведение оценки этичности и обеспечение подотчетности систем ИИ.