A IA na medicina precisa combater o viés e não fortalecê-lo mais: tiros

De

Por

Ryan Levi

,

Dan Gorenstein

Ainda é cedo para a IA na área da saúde, mas o viés racial já foi encontrado em algumas das ferramentas. Aqui, profissionais de saúde de um hospital na Califórnia protestam contra a injustiça racial após o assassinato de George Floyd. MARK RALSTON/AFP via Getty Images ocultar legenda

Ainda é cedo para a IA na área da saúde, mas o viés racial já foi encontrado em algumas das ferramentas. Aqui, profissionais de saúde de um hospital na Califórnia protestam contra a injustiça racial após o assassinato de George Floyd.

Médicos, cientistas de dados e executivos de hospitais acreditam que a inteligência artificial pode ajudar a resolver o que até agora eram problemas intratáveis. A IA já está se mostrando promissora para ajudar os médicos a diagnosticar o câncer de mama, ler raios-X e prever quais pacientes precisam de mais cuidados. Mas, à medida que a empolgação aumenta, também há um risco: essas novas e poderosas ferramentas podem perpetuar desigualdades raciais de longa data na forma como os cuidados são prestados.

"Se você estragar tudo, você pode realmente prejudicar as pessoas ao entrincheirar ainda mais o racismo sistêmico no sistema de saúde", disse o Dr. Mark Sendak, cientista de dados líder do Duke Institute for Health Innovation.

Essas novas ferramentas de assistência médica geralmente são criadas usando aprendizado de máquina, um subconjunto de IA em que os algoritmos são treinados para encontrar padrões em grandes conjuntos de dados, como informações de cobrança e resultados de testes. Esses padrões podem prever resultados futuros, como a chance de um paciente desenvolver sepse. Esses algoritmos podem monitorar constantemente todos os pacientes em um hospital ao mesmo tempo, alertando os médicos sobre riscos potenciais que, de outra forma, a equipe sobrecarregada poderia perder.

Os dados sobre os quais esses algoritmos são construídos, no entanto, muitas vezes refletem desigualdades e preconceitos que há muito atormentam o sistema de saúde dos EUA. A pesquisa mostra que os médicos geralmente fornecem cuidados diferentes para pacientes brancos e pacientes de cor. Essas diferenças na forma como os pacientes são tratados são imortalizadas em dados, que são usados ​​para treinar algoritmos. As pessoas de cor também são frequentemente sub-representadas nesses conjuntos de dados de treinamento.

"Quando você aprende com o passado, você replica o passado. Você consolida ainda mais o passado", disse Sendak. "Porque você pega as desigualdades existentes e as trata como a aspiração de como os cuidados de saúde devem ser prestados."

Um estudo histórico de 2019 publicado na revista Science descobriu que um algoritmo usado para prever as necessidades de assistência médica de mais de 100 milhões de pessoas era tendencioso contra pacientes negros. O algoritmo baseou-se nos gastos com saúde para prever as futuras necessidades de saúde. Mas, historicamente, com menos acesso aos cuidados, os pacientes negros geralmente gastavam menos. Como resultado, os pacientes negros tinham que estar muito mais doentes para serem recomendados para cuidados extras de acordo com o algoritmo.

“Você está essencialmente caminhando onde há minas terrestres”, disse Sendak sobre tentar construir ferramentas clínicas de IA usando dados que podem conter viés, “e [se você não tomar cuidado] suas coisas vão explodir e vão machucar as pessoas. ."

No outono de 2019, Sendak se uniu à médica de emergência pediátrica Dra. Emily Sterrett para desenvolver um algoritmo para ajudar a prever a sepse infantil no departamento de emergência do Duke University Hospital.

A sepse ocorre quando o corpo reage exageradamente a uma infecção e ataca seus próprios órgãos. Embora rara em crianças – cerca de 75.000 casos anuais nos EUA – esta condição evitável é fatal para quase 10% das crianças. Se detectados rapidamente, os antibióticos efetivamente tratam a sepse. Mas o diagnóstico é desafiador porque os sintomas iniciais típicos – febre, alta frequência cardíaca e alta contagem de glóbulos brancos – imitam outras doenças, incluindo o resfriado comum.

Um algoritmo que pudesse prever a ameaça de sepse em crianças seria um divisor de águas para médicos em todo o país. “Quando a vida de uma criança está em jogo, ter um sistema de backup que a IA possa oferecer para reforçar parte dessa falibilidade humana é muito, muito importante”, disse Sterrett.