Certificação de Aplicações de Inteligência Artificial em Saúde

Introdução

O Processo de Certificação de Aplicações de Inteligência Artificial em Saúde visa, por meio de uma lista abrangente de requisitos, avaliar e atestar aspectos de qualidade de aplicações que utilizam funcionalidades baseadas em Inteligência Artificial (IA) com potencial impacto clínico, assistencial ou decisório direto sobre o cuidado com o paciente ou sobre a conduta de profissionais de saúde.

A Certificação de Aplicações de IA em Saúde tem como objetivos principais:

 – Garantir segurança e qualidade de soluções de IA em saúde: Assegurar que sistemas com IA mantenham padrões mínimos de segurança clínica, proteção de dados, explicabilidade e desempenho confiável, reduzindo riscos ao paciente e ao profissional de saúde.

 – Fomentar boas práticas de desenvolvimento e governança de IA: Incentivar fornecedores a adotar metodologias estruturadas, elevando a maturidade do setor.

 – Apoiar a conformidade regulatória e ética: Oferecer um selo que ajude empresas e instituições a demonstrarem conformidade com as boas práticas para desenvolvimento de soluções de IA para a saúde, promovendo harmonização regulatória.

 – Estimular a inovação responsável: Criar um ambiente em que fornecedores possam inovar com IA sabendo que existem critérios claros de avaliação, reduzindo barreiras de adoção pelas instituições de saúde e acelerando a transformação digital segura.

Aplicações cujo uso de IA esteja restrito a processos estritamente administrativos, operacionais genéricos ou de apoio interno sem impacto clínico não são alvo desta certificação.

Cenários de aplicações certificáveis:

 – Aplicações que realizam recomendações e/ou sugestões que possam influenciar diretamente a conduta de um profissional de saúde. Por exemplo, ferramentas que sugerem diagnósticos, condutas terapêuticas ou protocolos personalizados com base nos dados clínicos do paciente.

 – Aplicações que apresentam decisões clínicas automatizadas. Por exemplo, soluções para triagem, priorização ou classificação de risco de pacientes de forma automática ou ainda priorização de exames para elaboração de laudo.

 – Aplicações que realizam interpretações automáticas para apresentação de conclusões ao profissional de saúde. Por exemplo, ferramentas que monitoram continuamente parâmetros como sinais vitais, glicemia ou resultados de exames e geram alertas interpretativos sobre tendências e desvios (predição de complicações, por exemplo).

 – Aplicações operacionais que automatizam o registro de dados no prontuário. Por exemplo, aplicações de ambient listening que capturam e estruturam dados clínicos a partir de gravações de áudio de consultas ou interações entre profissional e paciente, transformando automaticamente a fala em informações estruturadas para incorporação no prontuário eletrônico.

 – Aplicações de processamento e síntese de informações clínicas que utilizam os dados clínicos para gerar representações estruturadas ou textuais de apoio ao cuidado. Por exemplo, soluções de geração automática de sumários clínicos, como resumos de internação, relatórios de alta ou sínteses de atendimento.

 – Aplicações que realizam codificação ou classificação a partir de dados clínicos. Por exemplo, ferramentas que utilizam dados clínicos para codificação diagnóstica.

 – Aplicações que realizam análise de imagens médicas para sugestão diagnóstica. Por exemplo, ferramentas que processam imagens médicas para apresentação de achados suspeitos ou ainda para busca de imagens similares para auxílio na interpretação.

 – Assistentes inteligentes que apresentam interpretações, recomendações etc. Por exemplo, assistentes de voz ou chatbots que buscam e/ou apresentam dados do prontuário do paciente com base em solicitações em linguagem natural pelo profissional de saúde.

 – Aplicações que analisam grupos populacionais e geram uma ação que pode afetar pacientes individualmente. Por exemplo, ferramentas para inclusão ou exclusão de indivíduos em um programa de atenção crônica ou linhas de cuidado; atribuição de riscos para segmentação; recomendação de rastreios, exames ou protocolos individuais; etc.

 – Aplicações que interajam com paciente, familiares ou cuidadores utilizando dados clínicos, dados sensíveis e/ou conceitos clínicos para apoiar decisões ou engajamento. Por exemplo, ferramentas de chatbot com IA para aconselhamento de cuidado ou ainda soluções de chatbot que simulam a atuação de um enfermeiro ou médico digital, respondendo dúvidas do paciente e conduzindo fluxos de atendimento pré-definidos.

Cenários de aplicações não certificáveis:

– Aplicações administrativas ou de backoffice com uso de IA. Por exemplo, ferramentas para otimização de agendamentos, soluções para análise preditiva de faturamento, soluções para análise e prevenção de glosas, etc.

– Aplicações para ajustes visuais ou estruturais de dados administrativos. Por exemplo, soluções para correção automática de campos.

– Aplicações de análise populacional que utilizam exclusivamente dados anonimizados e não resultam em ações clínicas ou operacionais individualizadas. Por exemplo, ferramentas para geração de estimativas agregadas de prevalência de doenças por região; projeções epidemiológicas internas; etc.