A inteligência artificial pode ajudar operadoras de planos de saúde, mas não deve tomar sozinha uma decisão de negar atendimento ou procedimento a um paciente, afirmou o presidente da Agência Nacional de Saúde Suplementar, Wadih Damous.
Em entrevista à CNN Brasil, Damous defendeu que sistemas automatizados permaneçam subordinados a uma decisão humana responsável.
A posição não equivale, por si só, a uma nova regra formal da ANS. Ela indica a visão da presidência da agência sobre um tema que ganha importância conforme operadoras adotam algoritmos para análise de pedidos, auditoria e detecção de fraudes.
A principal preocupação é a possibilidade de decisões opacas afetarem diretamente o acesso do paciente a cuidados de saúde.
Modelos automatizados podem processar grande volume de informações e encontrar padrões, mas também podem reproduzir erros dos dados usados no treinamento ou aplicar critérios difíceis de explicar.
Para a ANS, segundo Damous, a tecnologia deve funcionar como instrumento de apoio e não como autoridade final independente.
O debate aproxima saúde de uma discussão maior sobre IA em áreas de alto impacto: quanto maior a consequência da decisão para a vida de uma pessoa, maior a exigência de supervisão, explicabilidade e responsabilidade humana.