Nos últimos anos, o desenvolvimento da Inteligência Artificial (IA) tem gerado uma enorme expectativa por um admirável mundo novo. Não falta empolgação nos mais diferentes setores da nossa sociedade, o que não é diferente no campo da saúde. Aqui, dentre as promessas mais frequentes, estão tratamentos mais acessíveis, maior assertividade, medicina de precisão e novos medicamentos.
É preciso reconhecer que esse ânimo encontra amparo em muitos resultados obtidos recentemente, embora enormes desafios ainda careçam de solução, como a falta de transparência e os inúmeros casos de tratamento discriminatório identificados em aplicações baseadas em IA. Sem transparência, é difícil garantir que os modelos de IA estejam tomando decisões baseadas em critérios justos e precisos, o que pode levar a uma desconfiança generalizada na tecnologia.
Assim, a transparência é crucial para a construção de confiança entre todas as partes envolvidas, embora não seja simples delimitar este conceito. Por isso, suas várias dimensões precisam de um olhar mais apurado, para que os desafios existentes sejam plenamente conhecidos e, se possível, superados.
Uma dimensão importante da transparência se relaciona com as limitações técnicas das aplicações de IA, que em muitos casos não conseguem “explicar” como as decisões são tomadas ou quais fatores foram os mais relevantes para uma predição.
Nos últimos anos, embora haja um enorme interesse e investimento para fornecer explicabilidade de modelos de IA, essa não é uma questão plenamente resolvida e que pode gerar impactos variados. Por exemplo, sem entender como uma decisão é tomada por uma IA, torna-se difícil fazer a correta atribuição de responsabilidades quando algum dano é causado. Além disso, cria-se uma barreira para a contestação de uma decisão que seja considerada injusta, pois sem saber os critérios adotados, não é simples questioná-la em busca de um desfecho diverso.
Mas o que podemos fazer quanto a isso? Talvez um passo inicial seja saber como essa tecnologia está sendo usada no SUS. Quem está usando? Com qual objetivo? Qual é o público afetado? Quem é responsável por garantir que a aplicação funcione adequadamente?
Mapear como e onde está sendo usada a IA no SUS pode permitir a estimação dos riscos envolvidos e, consequentemente, a alocação de esforços para monitorar o funcionamento da solução. Sem nenhuma informação, toda a discussão ficará restrita a casos específicos ou ao campo das possibilidades e das hipóteses.
No Brasil já há experiências nesse sentido. Como exemplo, no âmbito do Poder Judiciário, o Conselho Nacional de Justiça (CNJ), no art. 22 da resolução 332 de 2020, estipula que os tribunais devem comunicar imediatamente ao CNJ quando for iniciada pesquisa, desenvolvimento ou implantação de modelos de Inteligência Artificial. Esse parece ser um bom exemplo a ser seguido pelo SUS, pois permitirá a pesquisa e o debate sobre os casos concretos enfrentados, além do envolvimento de todas as partes interessadas na discussão.
Essa proposta não é a solução definitiva para obter transparência sobre o uso de IA, pois ela é uma questão com diversos aspectos. Entretanto, conhecer o uso real traz maior concretude ao debate, o que pode permitir a replicação de iniciativas bem-sucedidas e a identificação de usos que conflitem com princípios éticos pactuados pela nossa sociedade.
Em resumo, a integração da IA no SUS representa uma importante oportunidade para a saúde pública no Brasil. No entanto, essa transformação só será bem-sucedida se os desafios éticos, técnicos e regulatórios forem devidamente considerados e abordados. A busca por um equilíbrio entre inovação e ética é essencial para garantir que a IA possa realmente contribuir para um sistema de saúde mais eficiente e equitativo.
- Jefferson Lima é doutor em Informação e Comunicação em Saúde pela Fiocruz e pesquisador do Laboratório de Informação em Saúde do Instituto Nacional de Comunicação e Informação Científica e Tecnológica em Saúde (LIS/Icict/Fiocruz).
Sem comentários