Blog

Comitê de Competências e Formação da SBIS

Até o momento, grande parte da discussão sobre competências em Inteligência Artificial (IA) tem se concentrado na capacidade de compreender, utilizar e avaliar criticamente sistemas de IA. Mas uma mudança importante começa a ocorrer: o que acontece quando a IA deixa de apenas responder e passa a planejar, utilizar ferramentas, executar etapas de processos e iniciar ações?

É nesse contexto que emergem os sistemas de IA agêntica (agentic AI). Mais do que uma substituição da IA generativa, trata-se de uma evolução arquitetural na qual modelos, frequentemente generativos, passam a operar de forma orientada a objetivos, decompondo tarefas, utilizando ferramentas, interagindo com ambientes e executando sequências de ações. Em fevereiro de 2026, a Organização para a Cooperação e Desenvolvimento Econômico (OCDE) publicou um documento dedicado ao cenário da IA agêntica e às suas bases conceituais. Autonomia, orientação a objetivos, capacidade de ação e interação com ambientes aparecem entre os atributos recorrentes nas diferentes definições de agentes e sistemas agênticos, trazendo novas implicações para pesquisa, governança e políticas públicas.[1]

E quando esses agentes entram na saúde?
Essa discussão já ultrapassou o campo exclusivamente conceitual. Uma revisão de escopo publicada em março de 2026 na npj Digital Medicine examinou especificamente a IA agêntica em saúde. Foram identificados sete estudos elegíveis envolvendo áreas como medicina de emergência, oncologia, radiologia e reabilitação. Os sistemas apresentavam características como operação autônoma, comportamento orientado a objetivos, iniciação de ações e, em alguns casos, colaboração entre múltiplos agentes. Os autores, entretanto, destacaram a imaturidade do campo: a maioria dos estudos ainda era exploratória e apresentava validação clínica limitada.[2]

Em maio de 2026, um estudo publicado no JAMA Network Open avaliou prospectivamente um workflow agêntico baseado em modelo de linguagem para produzir resumos do curso hospitalar. Em 384 altas, o sistema gerou 1.274 resumos, e o conteúdo produzido pela IA foi utilizado pelos médicos em 57% das altas. Entre os 100 resumos submetidos à avaliação detalhada, porém, foram identificadas omissões em 25%, inexatidões em 20% e alucinações em 2%.[3]

Esses resultados deslocam a pergunta. Já não basta perguntar se a IA funciona. Precisamos perguntar: Quem reconhece quando ela falha? Quem decide se uma ação pode prosseguir? Quem pode interrompê-la? E quem permanece responsável pelas consequências?

A competência muda quando a autonomia muda
A evolução das tecnologias digitais também modifica progressivamente o próprio conceito de competência. Na transformação digital, uma competência essencial era saber utilizar tecnologias. Com a expansão da IA generativa, tornou-se necessário saber interagir com sistemas de IA, avaliar criticamente suas respostas e reconhecer limitações, vieses, incertezas e possíveis erros.

Quando sistemas passam a executar tarefas e iniciar ações, surge outra exigência, ser competente para decidir o que pode ser delegado à IA, em quais condições, com qual nível de autonomia, quais salvaguardas devem existir e quando a intervenção humana deve ocorrer. Ou seja, maior autonomia da IA, maior deve ser a exigência de supervisão humana.

Essa questão assume importância particular na saúde porque as consequências de uma ação algorítmica podem ultrapassar a interface tecnológica e alcançar diretamente o cuidado. Há uma diferença importante entre uma IA que sugere uma classificação de risco e outra que, a partir dessa classificação, aciona um fluxo assistencial. Entre uma IA que redige uma mensagem e outra que prioriza, encaminha ou dispara automaticamente uma comunicação ao paciente. Entre uma IA que apresenta uma recomendação e outra que utiliza ferramentas para executar as etapas subsequentes de um processo. À medida que aumenta a capacidade de ação do sistema, precisa aumentar também a capacidade humana e organizacional de compreender, supervisionar, contestar, interromper e auditar essas ações.

Estar no loop não significa necessariamente supervisionar
Esse debate ganhou uma contribuição particularmente relevante em julho de 2026. Autores da npj Digital Medicine argumentaram que simplesmente manter um profissional no circuito, o conhecido human-in-the-loop, não é suficiente para assegurar supervisão efetiva da IA. Uma supervisão humana significativa (meaningful human oversight) depende de pelo menos quatro condições: a capacidade epistêmica para compreender o sistema e suas limitações; o espaço cognitivo para avaliar criticamente suas recomendações; a autoridade decisória para discordar ou modificar uma ação; e a capacidade efetiva de intervenção, incluindo a possibilidade real de pausar, redirecionar ou suspender ações mediadas por IA.[4]

Portanto, estar presente não é o mesmo que supervisionar. Se o profissional não compreende suficientemente o sistema, não dispõe de condições para avaliá-lo criticamente, não possui autoridade para discordar ou não consegue interromper uma ação já desencadeada, sua participação pode ser apenas formal. É nesse ponto que uma questão tecnológica se transforma em uma questão de competência profissional.

Da alfabetização em IA à competência para supervisionar agentes
Organizações internacionais já vêm ampliando a discussão sobre competências relacionadas à IA. Os referenciais de competências em IA desenvolvidos pela UNESCO, embora direcionados à educação, são particularmente relevantes porque ultrapassam uma perspectiva puramente instrumental. Incorporam conhecimentos, habilidades e valores e enfatizam centralidade humana, agência, responsabilidade, ética e uso seguro da IA.[5,6]  Na saúde, entretanto, permanece uma lacuna importante. Em julho de 2026, a Organização Mundial da Saúde para a Europa divulgou resultados de uma avaliação realizada entre seus 53 Estados-Membros. Apenas um em cada cinco países oferecia educação em IA para profissionais de saúde antes da qualificação, e somente um em cada quatro oferecia treinamento após o ingresso na força de trabalho.[7]

Talvez, portanto, já não seja suficiente discutir apenas alfabetização em IA (AI literacy). Uma competência que merece ser examinada é a competência para supervisão de sistemas de IA agêntica em saúde. Não se trata, neste momento, de uma competência internacionalmente estabelecida. Trata-se de uma proposição para reflexão, investigação e construção coletiva.

Essa competência poderia ser organizada em cinco macrocapacidades:

1 – Compreender no sentido de reconhecer diferentes níveis de autonomia, capacidades, limitações, incertezas e riscos dos sistemas de IA.

2 – Delimitar e delegar no sentido de decidir quais atividades podem ser delegadas, em quais condições, com quais salvaguardas e quais ações devem permanecer submetidas à revisão humana obrigatória.

3 – Verificar e contestar no sentido de avaliar evidências, contexto e rastreabilidade; reconhecer alucinações, vieses, falhas, drift, comportamento inesperado e automação inadequada.

4 – Intervir para ter a capacidade e a autoridade para pausar, redirecionar, escalar ou assumir o controle diante de risco, incerteza ou comportamento inadequado do sistema.

5 – Responder e auditar visando assegurar a documentação, a rastreabilidade, o monitoramento contínuo, a auditabilidade e os mecanismos de accountability, reconhecendo que delegar a execução de uma tarefa à IA não significa necessariamente delegar a responsabilidade pelas suas consequências.

O profissional, desta forma, não precisará apenas saber usar IA. Precisará desenvolver competência para governar sua interação com sistemas de IA, enquanto evidências, normas e modelos de governança começam a delinear os limites da delegação.

Delegar a tarefa não significa delegar a responsabilidade
Essa discussão em nosso entendimento, ultrapassa o cuidado direto. Em agosto de 2026, o JAMA publicou orientações atualizadas sobre o uso de IA em publicações médicas. O documento admite diferentes aplicações da IA desde que haja transparência, verificação e responsabilidade dos autores, ao mesmo tempo em que estabelece usos não aceitos e desencoraja explicitamente o emprego de IA para referências bibliográficas em razão dos riscos relacionados à precisão e à integridade.[8] O princípio subjacente é importante também para a prática profissional, isto é,  usar IA não significa transferir para a tecnologia a responsabilidade pelas decisões e suas consequências. À medida que esses sistemas passam de ferramentas de apoio para soluções capazes de executar tarefas e desencadear ações, precisaremos responder a questões progressivamente mais complexas: O que pode ser delegado? Em quais condições? Quais ações exigem validação humana? Quem possui autoridade para interromper o sistema? Como essa interação deve ser documentada e auditada? E, em última instância: quem responde quando uma decisão ou ação mediada por IA produz consequências para uma pessoa?

Um desafio para as competências em Informática em Saúde
Para o Comitê de Competências e Formação da SBIS, recentemente instituído pela Diretoria da Sociedade, esse debate assume relevância estratégica para a formação e o desenvolvimento profissional em Informática em Saúde e Saúde Digital. Uma matriz de competências precisa responder às demandas atuais da prática, mas também deve ser capaz de antecipar transformações que começam a redefinir a relação entre profissionais, tecnologias e sistemas de saúde.

IA generativa, agentes de IA, sistemas multimodais e automação de workflows ampliam progressivamente a capacidade das tecnologias de interpretar contextos, utilizar ferramentas, coordenar tarefas e desencadear ações. Nesse cenário, uma das competências mais relevantes dos próximos anos poderá não ser apenas saber utilizar Inteligência Artificial, mas saber: quando confiar, quando verificar, quando delegar, quando interromper e quando assumir o controle. Essa não é uma competência exclusivamente tecnológica. Ela integra conhecimentos sobre IA, raciocínio crítico, segurança do paciente, ética, fatores humanos, governança, avaliação de riscos, accountability e responsabilidade profissional.

Se a IA puder agir, a competência humana não poderá ser definida apenas pela capacidade de utilizá-la. Precisará incluir a capacidade de compreender sua autonomia, estabelecer limites, verificar suas ações, intervir quando necessário e permanecer responsável pelas consequências. Talvez esse seja um dos desafios centrais para a formação em Informática em Saúde nos próximos anos, no sentido de preparar profissionais não apenas para trabalhar com IA, mas para preservar julgamento, agência e responsabilidade em sistemas nos quais humanos e agentes artificiais passarão, progressivamente, a compartilhar partes do trabalho.

A resposta ainda está em construção…E é justamente por isso que essa discussão precisa envolver a comunidade da SBIS. Vamos continuar essa conversa no CBIS 2026. Participe e contribua para construir as competências que orientarão o futuro da Informática em Saúde e da Saúde Digital no Brasil.

Referências

1. ORGANISATION FOR ECONOMIC CO-OPERATION AND DEVELOPMENT (OECD). The agentic AI landscape and its conceptual foundations. Paris: OECD Publishing, 2026. OECD Artificial Intelligence Papers, n. 56. doi:10.1787/396cf758-en.
2. Collaco BG, Haider SA, Prabha S, et al. The role of agentic artificial intelligence in healthcare: a scoping review. npj Digital Medicine. 2026;9:345. doi:10.1038/s41746-026-02517-5.
3. Grolleau F, Liang AS, Keyes T, et al. Physician-Reported Safety Outcomes of AI-Generated Hospital Course Summaries. JAMA Network Open. 2026;9(5):e2616556. doi:10.1001/jamanetworkopen.2026.16556.
4. van de Sande D, Economou-Zavlanos N, van Genderen ME. Meaningful oversight of medical AI beyond human in the loop. npj Digital Medicine. 2026;9:569. doi:10.1038/s41746-026-02971-1.
5. United Nations Educational, Scientific and Cultural Organization (UNESCO). AI competency framework for students. Paris: UNESCO; 2024. doi:10.54675/JKJB9835.
6. United Nations Educational, Scientific and Cultural Organization (UNESCO). AI competency framework for teachers. Paris: UNESCO; 2024. doi:10.54675/ZJTE2084.
7. World Health Organization Regional Office for Europe. Statement – Govern AI in health before the gaps become irreversible. Copenhagen: WHO Regional Office for Europe; 15 July 2026.
8. Flanagin A, Perlis RH, Bibbins-Domingo K. Updated Guidance for Author Use of AI in Medical Publication. JAMA. Published online August 10, 2026. doi:10.1001/jama.2026.16613.

Sobre o Comitê de Competências e Formação da SBIS
O Comitê de Competências e Formação em Informática em Saúde e Saúde Digital (CCF) da Sociedade Brasileira de Informática em Saúde (SBIS) tem como propósito contribuir para o desenvolvimento e a atualização de referenciais de competências necessários à formação e à atuação profissional diante das transformações da Saúde Digital.

Entre suas iniciativas está a discussão e atualização da Matriz SBIS de Competências, articulando evidências científicas, necessidades da prática e referenciais nacionais e internacionais e promovendo o diálogo entre profissionais, pesquisadores, docentes, estudantes e instituições comprometidos com a qualificação da força de trabalho em Informática em Saúde e Saúde Digital.