AI na saúde: aplicações e melhores práticas

A AI na saúde refere-se à aplicação de inteligência artificial, incluindo machine learning, deep learning e AI generativa, a fluxos de trabalho clínicos, administrativos e de pesquisa em todos os sistemas de saúde. Os sistemas de AI em saúde ingerem dados de pacientes, prontuários eletrônicos de saúde (EHR), exames de imagem médica e documentação clínica para apoiar o diagnóstico, o planejamento de tratamento e a eficiência operacional. Este guia foi escrito para profissionais de saúde, líderes de IT em saúde e equipes de informática clínica que avaliam soluções de AI, priorizando casos de uso clínico, práticas de dados e obrigações regulatórias em vez de comparações de fornecedores.

A AI na saúde tem uma história mais longa do que a maioria das equipes clínicas imagina. A AI começou a ser integrada à saúde na década de 1970, quando os primeiros sistemas especialistas baseados em regras tentavam replicar a tomada de decisão dos médicos para tarefas de diagnóstico específicas. Os modelos modernos de AI têm pouca semelhança com esses sistemas iniciais, mas o objetivo principal continua o mesmo: usar padrões em dados para apoiar, e não substituir, o julgamento clínico. As seções abaixo abordam onde as ferramentas de AI são usadas hoje, como as organizações gerenciam os dados de treinamento que as alimentam e quais estruturas regulatórias governam o uso clínico.

Escopo e definições: inteligência artificial, modelos de AI e algoritmos de AI

A inteligência artificial é o amplo campo da ciência da computação focado na construção de sistemas que realizam tarefas que normalmente exigiriam inteligência humana, como reconhecimento de padrões, compreensão de linguagem e previsão. Na AI em saúde, três termos são frequentemente usados de forma intercambiável, mas descrevem camadas distintas da pilha de tecnologia.

Modelos de AI são os artefatos treinados que mapeiam dados de entrada, como dados de pacientes ou imagens médicas, para uma saída, como uma pontuação de risco ou uma classificação. Algoritmos de AI são os procedimentos matemáticos, incluindo algoritmos de machine learning e técnicas de deep learning, usados para treinar esses modelos. A AI generativa é uma categoria específica de modelos de AI capazes de produzir novos conteúdos, como rascunhos de documentação clínica ou históricos médicos resumidos, em vez de apenas classificar ou prever dados existentes.

As organizações de saúde normalmente implantam vários tipos de modelos lado a lado: modelos de classificação supervisionada para suporte ao diagnóstico, modelos de séries temporais para monitoramento de pacientes, modelos de processamento de linguagem natural para documentação clínica e modelos de visão computacional para análise de imagens médicas. Compreender qual tipo de modelo fundamenta uma determinada ferramenta de AI ajuda as equipes clínicas a avaliar seus resultados de maneira adequada, já que o texto fluente de um modelo generativo traz garantias de confiabilidade diferentes da saída de um classificador de diagnóstico validado.

Onde a AI está sendo usada: aplicações e ferramentas de AI na saúde

As ferramentas de AI agora afetam quase todas as etapas da medicina clínica, desde a admissão até o monitoramento pós-alta. Em organizações de saúde e ciências da vida, as aplicações mais maduras se concentram em quatro categorias: suporte ao diagnóstico, automação administrativa, descoberta de medicamentos e engajamento voltado para o paciente.

Sistemas de suporte à decisão clínica sinalizam pacientes de alto risco, apresentam protocolos de tratamento relevantes e resumem o histórico médico no ponto de atendimento. Algoritmos de AI podem sinalizar pacientes de alto risco em prontos-socorros, oferecendo à equipe de triagem uma visibilidade mais precoce do risco de deterioração do que a revisão manual de prontuários permite. Ferramentas de AI de imagem auxiliam radiologistas e patologistas no pré-rastreamento de exames e no destaque de regiões de interesse. Soluções de AI administrativa lidam com codificação médica, processamento de reivindicações e autorização prévia, reduzindo a carga manual sobre os prestadores de serviços de saúde.

Assistentes virtuais de saúde e dispositivos vestíveis estendem os cuidados de saúde baseados em AI para além do hospital, permitindo o monitoramento contínuo de pacientes com condições crônicas. As plataformas de telemedicina incorporam cada vez mais modelos de AI diretamente ao fluxo de trabalho de consulta, usando processamento de linguagem natural para gerar resumos de consultas em tempo real. Em todas essas aplicações, o ponto em comum é que as ferramentas de AI são projetadas para aumentar a prática clínica, apresentando insights precisos com mais rapidez do que a revisão manual, ao mesmo tempo em que deixam as decisões de diagnóstico e tratamento para os profissionais de saúde.

Prontuários eletrônicos de saúde e treinamento de modelos de AI

Os prontuários eletrônicos de saúde (EHRs) são a principal fonte de dados para a maioria dos sistemas de AI de saúde. Os dados de EHR incluem campos estruturados, como resultados de exames laboratoriais e listas de medicamentos, além de notas clínicas não estruturadas, tornando-se uma fonte de dados de treinamento rica, porém heterogênea. A AI pode analisar prontuários eletrônicos de saúde para prever riscos de doenças, identificar lacunas no atendimento e sinalizar pacientes que podem se beneficiar de uma intervenção precoce.

O treinamento eficaz de modelos de AI em dados de EHR exige práticas disciplinadas de coleta de dados. Os sistemas de saúde precisam de modelos de dados padronizados, práticas de codificação consistentes e formatos interoperáveis antes que os algoritmos de AI possam aprender de forma confiável com os registros históricos. As organizações que centralizam dados de EHR, documentação clínica e dados de imagem em uma arquitetura unificada de data lakehouse evitam os silos de dados que historicamente limitavam os projetos de AI em saúde a pilotos em um único departamento.

A interoperabilidade é um segundo requisito. Os sistemas de saúde que trocam dados por meio de APIs modernas e padrões baseados em FHIR podem treinar modelos de AI em populações de pacientes maiores e mais representativas, o que melhora a generalização. A AI pode prever os resultados dos pacientes com 70% a 72% de precisão usando dados de EHR quando os modelos são treinados em conjuntos de dados suficientemente grandes e diversos, embora a precisão varie significativamente de acordo com a condição, a qualidade dos dados e a população representada nos dados de treinamento.

Documentação clínica e AI generativa

A documentação clínica é um dos casos de uso de crescimento mais rápido para AI generativa na saúde. Ferramentas de escuta ambiente capturam consultas de pacientes e elaboram rascunhos de notas clínicas estruturadas, reduzindo o tempo que os médicos gastam no registro manual. A AI pode reduzir as tarefas administrativas, melhorando a eficiência dos médicos e proporcionando aos prestadores de serviços de saúde mais tempo direto com os pacientes.

Um fluxo de trabalho típico de documentação clínica começa com a transcrição de áudio da consulta do paciente, seguida por um modelo de AI generativa que estrutura a transcrição em uma nota formatada usando modelos padrão. Modelos de linguagem de grande porte alimentam a maioria das ferramentas modernas de transcrição e resumo, e muitas implementações também incorporam Retrieval-Augmented Generation (RAG), uma técnica que fundamenta a saída de um modelo em uma base de conhecimento verificada, em vez de confiar apenas no treinamento interno do modelo. Fundamentar as notas geradas em uma base de conhecimento RAG verificada reduz o risco de surgimento de detalhes clínicos inventados no registro.

A validação clínica continua sendo inegociável. Cada nota elaborada por AI requer um ponto de verificação de revisão clínica antes de se tornar parte do prontuário médico permanente. Esta etapa de supervisão humana não é uma solução temporária; é um recurso permanente de uma AI de documentação clínica responsável, uma vez que os modelos generativos podem produzir textos fluentes, mas factualmente incorretos, um modo de falha que traz implicações diretas para a segurança do paciente em um prontuário clínico.

Ferramentas de AI para imagem médica e diagnósticos

A imagem médica é o domínio clínico com o histórico mais profundo de ferramentas de AI aprovadas por órgãos regulatórios. Até 2025, 77% dos dispositivos médicos de AI aprovados pela FDA estarão na radiologia, refletindo tanto o volume de dados de imagem disponíveis para treinamento quanto a natureza relativamente bem definida das tarefas de classificação de imagens em comparação com o raciocínio clínico mais aberto.

Os sistemas de AI agora analisam imagens médicas em várias modalidades. Modelos de deep learning treinados em exames de CT podem sinalizar sinais precoces de câncer de pulmão, muitas vezes identificando nódulos menores ou mais fracos do que aqueles detectados de forma confiável na revisão manual. Arquiteturas convolucionais semelhantes apoiam o rastreamento de retinopatia diabética a partir de fotografias de retina e a detecção de câncer de mama a partir de mamografia, dois dos casos de uso de AI de imagem mais amplamente validados na medicina clínica.

Ao avaliar ferramentas de AI de imagem, as organizações de saúde devem confirmar a liberação da FDA ou o status da marcação CE, solicitar dados publicados de sensibilidade e especificidade em populações comparáveis à sua própria base de pacientes e estabelecer um fluxo de trabalho em que a saída da AI sirva como um segundo leitor, em vez de uma determinação final. Essa abordagem preserva os benefícios da detecção precoce, mantendo a responsabilidade com o radiologista ou patologista responsável.

Descoberta de medicamentos e interações medicamentosas

A pesquisa e o desenvolvimento farmacêutico representam uma das aplicações de maior valor da AI na saúde, considerando o custo e os cronogramas plurianuais do desenvolvimento tradicional de medicamentos. A AI pode aprimorar os processos de descoberta de medicamentos, acelerando a disponibilidade do tratamento ao estreitar o espaço de busca por candidatos a medicamentos viáveis antes do início da dispendiosa validação laboratorial.

Modelos de AI na descoberta de medicamentos

Modelos de previsão de estrutura de proteínas, principalmente o AlphaFold e seus sucessores, mudaram a forma como as equipes de pesquisa abordam a identificação de alvos. Em vez de confiar apenas na cristalografia experimental, os pesquisadores podem gerar previsões estruturais de alta confiança computacionalmente e, em seguida, priorizar a validação em laboratório experimental para os alvos mais promissores. Isso muda o fluxo de trabalho de descoberta de medicamentos: a identificação de alvos começa cada vez mais com um modelo computacional antes de avançar para a confirmação biológica ou bioquímica. A AI pode reduzir significativamente o tempo de descoberta de medicamentos durante os ensaios clínicos, particularmente nas fases iniciais de triagem, onde os modelos de AI filtram milhares de compostos candidatos para uma lista restrita que vale a pena buscar experimentalmente.

Detecção de interações medicamentosas com AI

Algoritmos de mineração de literatura analisam pesquisas clínicas publicadas, relatórios de eventos adversos e bancos de dados de farmacovigilância para identificar interações medicamentosas anteriormente não documentadas. Esses algoritmos de AI processam volumes de textos de pesquisas médicas não estruturados muito além do que as equipes de revisão manual de literatura conseguem cobrir. A integração de modelos de detecção de interação medicamentosa com sistemas de vigilância de eventos adversos permite que as organizações de saúde sinalizem alertas de segurança emergentes mais cedo, apoiando tanto a segurança individual do paciente quanto o monitoramento mais amplo da saúde pública.

Soluções de AI operacionais: tarefas administrativas e fluxos de trabalho

A sobrecarga administrativa é constantemente citada pelos prestadores de serviços de saúde como um dos principais fatores de esgotamento dos profissionais clínicos, e as soluções de AI voltadas para tarefas rotineiras abordam isso diretamente. A AI pode reduzir a sobrecarga administrativa para os prestadores de serviços de saúde automatizando a codificação médica, verificações de elegibilidade de seguros, documentação de autorização prévia e processamento de sinistros.

Uma implantação típica de AI operacional mapeia as tarefas administrativas por volume e complexidade e, em seguida, sequencia a automação começando pelos processos de maior volume e baseados em regras, como a codificação de consultas de rotina, antes de avançar para cenários de sinistros mais complexos. Diagramas de fluxo de trabalho que rastreiam um sinistro desde o envio até a adjudicação ajudam as equipes operacionais a identificar onde a revisão assistida por AI reduz as taxas de rejeição e o retrabalho.

Além dos sinistros, as ferramentas de alocação de recursos orientadas por AI ajudam os sistemas de saúde a alocar recursos como pessoal, capacidade de leitos e equipamentos com base no volume previsto de pacientes. Estimar o ROI operacional para essas implantações geralmente envolve comparar o tempo de processamento e as taxas de erro antes da automação com as métricas pós-implantação ao longo de um período piloto definido, oferecendo aos sistemas de saúde uma base sólida para expandir pilotos bem-sucedidos.

Suporte à decisão clínica e algoritmos de AI

Sistemas de suporte à decisão clínica aplicam algoritmos de AI para sintetizar dados de pacientes, diretrizes clínicas e protocolos de tratamento em recomendações acionáveis no ponto de atendimento. Os tipos de algoritmos variam de sistemas baseados em regras, que aplicam lógica clínica explícita, a algoritmos de machine learning treinados em resultados históricos, até modelos mais complexos de deep learning capazes de identificar padrões sutis em dados de alta dimensão, como fluxos contínuos de sinais vitais.

A explicabilidade é um requisito crítico para o suporte à decisão clínica, diferindo de muitas outras aplicações de AI. Os profissionais de saúde precisam entender por que um algoritmo sinalizou um determinado paciente ou recomendou um protocolo de tratamento específico, e não apenas receber o resultado em si. Relatar métricas de explicabilidade, como quais variáveis de entrada mais influenciaram uma determinada recomendação, apoia a confiança dos médicos e atende às expectativas regulatórias emergentes para sistemas de AI de alto risco.

Os protocolos de validação antes da implantação devem incluir testes retrospectivos em relação aos resultados históricos dos pacientes, testes prospectivos em modo sombra (shadow-mode), onde o algoritmo é executado paralelamente ao atendimento padrão sem influenciar as decisões, e monitoramento contínuo de desempenho após a entrada em operação. Essa abordagem de validação em etapas detecta a degradação do desempenho ou o viés antes que afetem o atendimento ao paciente.

Práticas de dados: coleta de dados, privacidade e uso de EHR

Os sistemas de AI exigem dados de alta qualidade para garantir precisão e equidade, o que torna os padrões de coleta de dados fundamentais para qualquer programa de AI na saúde. Os padrões de coleta de dados clínicos devem especificar fontes de dados aceitáveis, tamanhos mínimos de amostra para dados de treinamento e requisitos de documentação sobre como cada conjunto de dados foi reunido e rotulado.

A desidentificação e a pseudonimização são práticas padrão antes que os dados de saúde entrem em um pipeline de treinamento de modelo. As técnicas variam desde a simples remoção de campos até abordagens mais sofisticadas que preservam a utilidade analítica ao mesmo tempo em que reduzem o risco de reidentificação. As organizações que operam na União Europeia também devem considerar o Espaço Europeu de Dados de Saúde, uma estrutura que permite o uso secundário de dados de saúde para pesquisa e inovação em AI sob salvaguardas definidas, distinto do uso primário desses dados no atendimento direto ao paciente.

As considerações sobre dados transfronteiriços adicionam ainda mais complexidade para consórcios de pesquisa multinacionais. Centralizar os dados dos pacientes em uma estrutura governada de governança de dados, com linhagem clara desde as fontes de dados próprias até o treinamento do modelo, oferece às equipes de conformidade a trilha de auditoria que os reguladores exigem cada vez mais.

Regulamentação e responsabilidade: o AI Act e conformidade

O cenário regulatório para AI na saúde passou de orientações voluntárias para obrigações legais vinculativas. O AI Act europeu será totalmente aplicável até 2026 e estabelece uma estrutura regulatória em níveis de risco na qual a maioria dos sistemas de AI clínica, incluindo ferramentas de diagnóstico e recomendação de tratamento, é classificada como de alto risco. O AI Act exige que os sistemas de AI de alto risco atendam a padrões de segurança rigorosos, incluindo gerenciamento de riscos documentado, governança de dados, documentação técnica e supervisão humana ao longo de todo o ciclo de vida do sistema.

As obrigações diferem para modelos de AI de uso geral, como grandes modelos de linguagem (LLMs) que as organizações de saúde fazem ajuste fino ou implantam para um uso clínico específico, em comparação com sistemas de AI criados para um único propósito definido. Os provedores de modelos de uso geral enfrentam requisitos de transparência e documentação no nível do modelo, enquanto as organizações de saúde que implantam esses modelos para uso clínico de alto risco herdam obrigações adicionais como implantadoras sob a estrutura regulatória.

Nos Estados Unidos, o FDA dos EUA está desenvolvendo estruturas para dispositivos médicos de AI que consideram modelos capazes de aprendizado contínuo após a liberação inicial, um desvio do modelo tradicional de aprovação de dispositivos construído em torno de um produto fixo e imutável. Qualquer implantação de AI na saúde que lide com dados de pacientes também deve estar em conformidade com as regulamentações do HIPAA para proteger os dados dos pacientes, independentemente de qual via regulatória clínica se aplique. Uma lista de verificação de conformidade prática para implantações de AI na saúde deve confirmar as salvaguardas de conformidade com o HIPAA, a classificação de risco aplicável do AI Act, o status de liberação do FDA onde relevante e os procedimentos documentados de supervisão humana antes da entrada em operação.

Estrutura de implementação para implantação de soluções de AI

As organizações de saúde que obtêm sucesso com soluções de AI geralmente seguem um roteiro do piloto à escala, em vez de uma implementação em toda a empresa desde o primeiro dia. Uma fase piloto, delimitada a uma única linha de serviço clínico ou fluxo de trabalho administrativo, revela problemas de qualidade de dados, atritos no fluxo de trabalho e barreiras à adoção pelos médicos antes de um investimento mais amplo.

A implantação em modo sombra (shadow-mode), onde o sistema de AI funciona em paralelo com os fluxos de trabalho clínicos existentes sem influenciar as decisões reais, é a etapa recomendada entre o piloto e a produção para qualquer ferramenta de AI que envolva o atendimento direto ao paciente. Esse período permite que os sistemas de saúde comparem os resultados gerados por AI com os resultados clínicos reais e a revisão manual, quantificando a precisão antes que os médicos dependam das recomendações do sistema.

O engajamento das partes interessadas deve ir além da equipe de informática para incluir médicos atuantes, responsáveis pela conformidade e defensores dos pacientes desde as primeiras etapas de planejamento. Uma cadência de monitoramento trimestral garante que uma ferramenta de AI validada no lançamento continue a funcionar de maneira confiável à medida que as populações de pacientes e as distribuições de dados subjacentes mudam ao longo do tempo.

Ética, viés e segurança do paciente na saúde orientada por AI

A integração da AI enfrenta desafios como privacidade de dados e viés algorítmico, e abordar ambos é um pré-requisito para uma implantação responsável, e não um complemento opcional. As estratégias de mitigação de viés devem incluir a auditoria dos dados de treinamento para representatividade entre grupos demográficos, o teste do desempenho do modelo separadamente dentro de subpopulações em vez de depender apenas da precisão agregada, e o estabelecimento de um processo para retreinar ou descontinuar modelos que apresentem uma lacuna de desempenho para qualquer grupo de pacientes.

A supervisão humana é um requisito, não uma recomendação, para casos de uso clínico de alto risco. Cada recomendação gerada por AI que influencie o diagnóstico ou o tratamento deve passar por um profissional de saúde antes de afetar o atendimento ao paciente, e esse revisor deve ter a autoridade e o treinamento necessários para desconsiderar o resultado do sistema. As práticas de transparência e consentimento são igualmente importantes: os pacientes devem ser informados quando as ferramentas de AI contribuem para o seu atendimento, em uma linguagem que explique o papel do sistema de AI sem exigir conhecimento técnico para compreender.

As proteções de privacidade do paciente vão além da conformidade regulatória para a prática diária, incluindo controles de acesso sobre quem pode consultar os dados do paciente e registros de auditoria para cada evento de acesso. Essas práticas protegem os pacientes individualmente, ao mesmo tempo em que preservam a confiança da qual depende a saúde orientada por AI em escala populacional.

Avaliação, monitoramento e métricas de desempenho para sistemas de AI

As métricas de desempenho clínico para AI na saúde vão além dos números de precisão normalmente relatados na indústria de AI. Sensibilidade, especificidade, valor preditivo positivo e calibração entre subgrupos de pacientes são mais importantes em um ambiente clínico do que uma única pontuação de precisão agregada. A AI pode prever doenças com 70% a 72% de precisão em vários casos de uso validados, mas esse número significa pouco sem os dados correspondentes de subgrupo e calibração específicos para a população de implantação.

Os planos de coleta de evidências do mundo real devem especificar como os resultados pós-implantação serão acompanhados em relação ao desempenho de validação pré-implantação do modelo. Ferramentas de AI que preveem sepse horas antes do aparecimento dos sintomas, por exemplo, exigem o monitoramento não apenas da precisão da previsão, mas também do tempo de resposta clínica subsequente e dos resultados dos pacientes após cada alerta.

A frequência de monitoramento pós-implantação depende do nível de risco clínico: ferramentas de suporte à decisão de alto risco exigem monitoramento contínuo, enquanto soluções de AI administrativas de menor risco podem seguir um ciclo de revisão trimestral. O rastreamento de dados e versões de modelo por meio do MLflow oferece às equipes clínicas e de conformidade um registro reproduzível de qual versão do modelo gerou uma determinada recomendação.

Força de trabalho, treinamento e oportunidades de carreira em AI na saúde

A saúde impulsionada por AI está reformulando as habilidades de que os profissionais de saúde precisam, sem eliminar o julgamento clínico no centro do atendimento ao paciente. Os médicos precisam cada vez mais de fluência prática sobre como os modelos de AI geram seus resultados, quais limitações de coleta de dados e dados de treinamento podem afetar a confiabilidade e como agir quando a recomendação de uma ferramenta de AI conflitar com o julgamento clínico.

Os módulos de treinamento para a equipe clínica devem abranger a alfabetização prática em AI: interpretação de pontuações de confiança do modelo, reconhecimento de modos de falha, como viés demográfico, e compreensão dos limites do que uma determinada ferramenta de AI foi validada para fazer. Funções interdisciplinares estão surgindo na interseção da medicina clínica e da ciência de dados, incluindo informatas clínicos, especialistas em governança de dados de saúde e líderes de implementação de AI responsáveis pelo processo de piloto para escala descrito acima. Os sistemas de saúde que investem nessa capacidade agora estão mais bem posicionados para avaliar novas ferramentas de AI de forma crítica à medida que a inovação em AI na saúde acelera.

Tendências futuras: AI generativa e modelos avançados de AI na saúde

Espera-se que a AI aprimore a medicina personalizada até 2025, adaptando os protocolos de tratamento a pacientes individuais com base em dados genômicos, clínicos e de estilo de vida, em vez de médias populacionais. A AI viabilizará a medicina de precisão sob medida para pacientes individuais à medida que os modelos de AI multimodais amadurecerem o suficiente para raciocinar em conjunto sobre imagens médicas, dados estruturados de EHR e dados genômicos em um único sistema, em vez de exigir modelos separados para cada tipo de dado.

O papel da AI generativa nos fluxos de trabalho clínicos também deve se expandir além da documentação para áreas como a geração de dados de treinamento sintéticos, o que pode ajudar a lidar com a escassez de dados para pesquisas de doenças raras, preservando a privacidade do paciente. Espera-se que a AI crie de US$ 60 a US$ 110 bilhões em valor anual para a saúde, um número impulsionado por ganhos combinados em eficiência administrativa, suporte à decisão clínica e descoberta acelerada de medicamentos, em vez de qualquer aplicação única.

A cobertura contínua de pesquisas deve acompanhar os modelos de AI emergentes capazes de processar várias modalidades de dados simultaneamente, as orientações regulatórias atualizadas à medida que as disposições do AI Act se tornam totalmente aplicáveis e as evidências em evolução sobre onde a saúde impulsionada por AI melhora de forma mensurável os resultados dos pacientes em escala versus onde validações adicionais ainda são necessárias.

Perguntas frequentes

Como a AI é usada na saúde hoje?

A AI na saúde apoia a tomada de decisões clínicas, a análise de imagens médicas, a documentação clínica, a automação administrativa e a descoberta de medicamentos. Os prestadores de serviços de saúde usam ferramentas de AI para sinalizar pacientes de alto risco, redigir notas clínicas de consultas de pacientes e rastrear imagens médicas em busca de sinais precoces de doenças, sempre com supervisão humana antes que os resultados afetem o atendimento ao paciente.

Qual é a precisão da AI na previsão de resultados de pacientes?

A AI pode prever os resultados dos pacientes com 70% a 72% de precisão usando registros eletrônicos de saúde, embora a precisão varie de acordo com a condição, a qualidade dos dados e a diversidade dos dados de treinamento. As organizações de saúde devem solicitar dados de desempenho no nível do subgrupo, e não apenas um número de precisão agregada, antes de confiar em qualquer modelo preditivo na prática clínica.

Qual é o impacto do European AI Act na AI na saúde?

O European AI Act classifica a maioria dos sistemas de AI clínica como de alto risco e será totalmente aplicável até 2026. Ele exige que as organizações de saúde que implantam sistemas de AI de alto risco mantenham gerenciamento de riscos documentado, governança de dados, documentação técnica e supervisão humana ao longo do ciclo de vida de cada sistema.

A AI substitui os profissionais de saúde?

Não. Os sistemas de AI são projetados para apoiar, e não substituir, o julgamento clínico. A supervisão humana é necessária para casos de uso clínico de alto risco, o que significa que um profissional de saúde revisa as recomendações geradas por AI antes que elas influenciem as decisões de diagnóstico ou tratamento de pacientes individuais.

Como a AI protege a privacidade do paciente em ambientes de saúde?

Os sistemas de AI que lidam com dados de pacientes devem estar em conformidade com as regulamentações do HIPAA nos Estados Unidos e estruturas equivalentes, como o European Health Data Space, em outros locais. As organizações de saúde aplicam desidentificação, pseudonimização e controles de acesso aos dados dos pacientes antes que eles entrem nos pipelines de treinamento de modelos de AI.

De quais dados os modelos de AI precisam para aplicações na saúde?

Os modelos de AI em saúde são treinados em registros eletrônicos de saúde, imagens médicas, documentação clínica e, cada vez mais, dados de dispositivos vestíveis. Os sistemas de AI exigem dados de treinamento representativos e de alta qualidade para garantir precisão e equidade em todas as populações de pacientes que o modelo atenderá.

Recursos, referências e leituras adicionais

As organizações de saúde que criam ou avaliam recursos de AI devem acompanhar as orientações regulatórias da estrutura em evolução de dispositivos médicos de AI do FDA e o cronograma de implementação do AI Act da Comissão Europeia, juntamente com conjuntos de dados de referência comumente usados para avaliar o desempenho do modelo em radiologia, NLP clínico e análise preditiva. A Databricks apoia organizações do setor de saúde na criação de sistemas de AI governados e em escala de produção em uma arquitetura unificada de data lakehouse, com o Unity Catalog fornecendo a camada de governança que sustenta o treinamento em conformidade de modelos de AI em dados clínicos e de pesquisa.

(Esta publicação no blog foi traduzida utilizando ferramentas baseadas em inteligência artificial) Publicação original