Os riscos derivados da aplicação da inteligência artificial no campo da saúde já são bem conhecidos e possuem evidências científicas sólidas reportadas em diversos artigos científicos sobre o tema publicados em jornais especializados. Uma revisão narrativa publicada no BMJ em 2024 já destacava os seguintes riscos evidenciados em produções científicas de diferentes partes do mundo (Benefits and Risks of AI in Health Care: a Narrative Review, Margaret Chustecki).
Convém citar aqui alguns dos riscos abordados no artigo. Trata-se de um exercício importante para refrescar a memória e auxiliar na compreensão da necessidade de se desenvolver uma regulação estatal adequada para a redução ou eliminação dos riscos já identificados.
Não faz sentido continuar permitindo que sejam desenvolvidas, comercializadas ou usadas tecnologias com IA aplicadas à saúde que apresentam riscos ou problemas, tais como:
- O diagnóstico e as propostas terapêuticas oferecidas por IA nem sempre são superiores ao diagnóstico e ao tratamento preconizados por humano.
- Os programas de IA podem ser difíceis de entender e excessivamente ambiciosos.
- Alucinação e degradação algorítmica.
- Problemas de implementação e uso.
- Questões de transparência e riscos com o uso e o compartilhamento de dados.
- Vieses de raça, gênero e etnia.
- Erros no diagnóstico e nas orientações terapêuticas para o tratamento de doenças.
- Ausência de critérios claros de responsabilização por erros de IA.
- Disponibilidade e acessibilidade dos dados de saúde utilizados e produzidos pela IA.
- Desafios sociais relacionados à equidade e ao acesso às novas tecnologias.
- Ausência de mecanismos estatais de avaliação de segurança, eficácia e qualidade dos produtos digitais inseridos no mercado
- Ausência de critérios de incorporação das tecnologias digitais com IA aplicadas à saúde ao sistema de saúde brasileiro, inclusive no que se refere à relação custo-efetividade.
O cenário atual é preocupante.
A capacidade de resposta das sociedades à inundação de tecnologias com IA nos sistemas de saúde do mundo tem se mostrado extremamente morosa, absolutamente inadequada e insuficiente aos desafios que se colocam à frente. A sensação é que estamos aguardando o pior acontecer para nos mobilizarmos finalmente a respeito.
No Brasil, o PL 2338/2023, voltado a regular a IA no Brasil, tramita lentamente no Congresso Nacional, a passos de tartaruga. O descaso legislativo deixa evidente a dificuldade da sociedade brasileira para aprovar um texto que finalmente venha a colocar regras e condições mínimas de desenvolvimento e comercialização de tecnologias de IA aplicadas à saúde no país, contra a verdadeira selva digital que está se instalando e difundindo.
No campo da proteção de dados, a Agência Nacional de Proteção de Dados (ANPD) ainda está se consolidando e não pôde dar a devida atenção a este tema. Os avanços mais consistentes para regular os produtos de maior risco que se utilizam de IA na área da saúde foram feitos pela Anvisa, ao regular, ainda que de forma tímida, os softwares como dispositivos médicos.
Eis o quadro em que estamos: de um lado, há evidências robustas e concretas dos riscos à saúde individual e coletiva derivados das tecnologias digitais aplicadas à saúde que se utilizam da IA. De outro lado, há a morosidade estatal e a inação regulatória para enfrentar os riscos já identificados.
Essa constatação fática nos leva a uma conclusão simples: os problemas atuais da IA são principalmente problemas da IA não regulamentada, uma IA que ignora suas consequências e responsabilidades sociais e distributivas mais amplas. É temerário esperar que mercados não regulados, dominados por poucas e gigantes corporações privadas, façam as escolhas certas entre os males sociais e os lucros da monopolização de dados e da comercialização livre de produtos com IA à população.
A regulação estatal é o principal instrumento a ser utilizado para induzir positivamente a mudança tecnológica, direcionando-a para que sirvam à criação de capacidades e oportunidades para trabalhadores e cidadãos. A regulação deve priorizar o controle sistemático sobre a coleta e extração de dados, sobre o uso de novas técnicas de IA voltados a manipular o comportamento do usuário e sobre comunicação e troca online de informações relacionadas à saúde.
Para as tecnologias digitais com uso de IA deve-se adotar o princípio regulatório da precaução, por meio de uma regulação que seja capaz de reduzir os riscos destas novas tecnologias e induzir o seu desenvolvimento e uso para a proteção dos direitos fundamentais e da universalização do acesso à saúde.
Inovação tecnológica apartada de uma finalidade social voltada à proteção dos direitos humanos fundamentais e ao fortalecimento do Sistema Único de Saúde não representa benefício à sociedade e, portanto, não deve ser permitida. O Estado deve induzir, por meio da regulação, uma inovação tecnológica que faça sentido à sociedade e que não represente pura e simplesmente os interesses de lucro privado de empresas de tecnologia ou do próprio setor saúde.
As iniciativas regulatórias sobre a IA em saúde ainda são bastante tímidas, tanto no Brasil quanto no mundo. Salvo no exemplo do caso europeu, as normas existentes, em geral, são típicas regulações indutoras, que estimulam o desenvolvimento e uso. São poucas as normas focadas em definir princípios e diretrizes e balizas de orientação sobre o desenvolvimento e uso destas tecnologias.
Não há, até o momento, previsão clara sobre quais tecnologias devem ser proibidas e quais devem estar sujeitas a controle rigoroso do Estado. Também ainda é incipiente, no Brasil ou no plano do direito internacional, a criação de normas que limitem e condicionem o uso da IA aplicado à saúde, ou que criem sanções legais a serem aplicadas contra os que desenvolverem e colocarem no mercado tecnologias com IA nocivas à saúde e que resultem em danos aos cidadãos e aos pacientes.
A inação regulatória da comunidade internacional e dos Estados representa um risco às pessoas e às sociedades em geral, na medida em que deixam o caminho livre para que a inovação tecnológica da IA seja desenvolvida e comercializada tendo como norte apenas a lógica do lucro, sem a existência de quaisquer critérios objetivos e legais que protejam o interesse público ou a saúde física, mental e social das pessoas.
Regular tecnologias digitais com IA aplicadas à área da saúde é um imperativo global e nacional para a proteção do direito à saúde no Brasil e no mundo. Os desafios existentes são muitos e somente a mobilização social e democrática em âmbito global e nacional poderá fazer frente aos poderosos interesses econômicos envolvidos neste novo campo tecnológico da humanidade.