Explicações de IA na saúde: ajudam — mas podem enganar iniciantes

Um estudo conduzido por pesquisadores do MIT e parceiros avaliou como diferentes métodos de IA explicável afetam pessoas com níveis distintos de conhecimento na hora de diagnosticar doenças de pele. Os testes incluíram não especialistas e médicos de atenção primária, usando cenários com apenas a previsão do modelo ou com explicações como mapas de calor, imagens semelhantes e explicações em linguagem natural via LLM.

Os resultados mostram que não especialistas melhoraram a acurácia, mas em grande parte por “deferência” ao sistema: quando as explicações vinham de LLM, eles tendiam a confiar mesmo quando a previsão estava errada. Já os clínicos tiveram desempenho melhor quando recebiam apenas a predição, sem explicação, e foram menos afetados por explicações incorretas. A pesquisa reforça que a forma de apresentar a recomendação importa tanto quanto a qualidade do modelo — especialmente para quem tem menos base médica.