Transplante de órgãos: IA apresenta critérios divergentes
transplante de órgãos: Estudo revela que modelos de inteligência artificial divergem de médicos ao priorizar pacientes para transplantes. Confira agora os.
A utilização de transplante de órgãos e a definição de quem deve ser priorizado em filas de espera revelam um abismo entre o julgamento humano e a lógica algorítmica. Um estudo recente aponta que modelos de linguagem de inteligência artificial (IA) tomam decisões significativamente diferentes das dos médicos ao avaliar cenários clínicos complexos.
Pesquisadores da Penn State University, nos Estados Unidos, conduziram testes onde grandes modelos de linguagem (LLMs) analisaram casos hipotéticos de pacientes que necessitavam de um rim. Os dados foram baseados em pesquisas reais sobre a atribuição de órgãos, comparando as escolhas da IA com as de especialistas humanos.
Divergências na tomada de decisão sobre transplante de órgãos
Durante a análise, os cientistas apresentaram cenários envolvendo pacientes com diferentes idades, históricos de saúde e hábitos de consumo de álcool. Enquanto os médicos humanos demonstraram um processo de ponderação multifatorial, a IA apresentou comportamentos distintos e, por vezes, simplistas.
Os resultados destacaram pontos cruciais de divergência:
Humanos priorizam frequentemente a idade do paciente, favorecendo os mais jovens. Modelos de IA tendem a focar excessivamente no histórico de consumo de álcool. Sistemas de IA demonstram uma confiança excessiva, ignorando a ambiguidade moral. Hadi Hosseini, líder do estudo, ressalta que os chatbots frequentemente se afastam dos valores humanos. Enquanto pessoas buscam equilibrar diversos fatores, a IA costuma se fixar em um único atributo, ignorando o contexto amplo da situação clínica.
Outro aspecto relevante é a ausência de hesitação por parte da tecnologia. Diferente dos humanos, que reconhecem a dificuldade de escolher entre duas vidas, a IA raramente demonstra indecisão. Para os pesquisadores, essa falta de reconhecimento da complexidade moral é um risco em decisões que definem a vida ou a morte.
John Dickerson, diretor executivo da Mozilla.ai e colaborador do estudo, reforça que a distribuição de recursos escassos exige debate e sensibilidade. O reconhecimento da ambiguidade é uma característica intrínseca ao julgamento humano que, até o momento, não é replicada com sucesso pelos modelos digitais.
A integração de ferramentas de IA na área da saúde tem crescido rapidamente, auxiliando desde diagnósticos até o planejamento de tratamentos. Contudo, a aplicação dessas tecnologias em decisões de alto risco, como a alocação de órgãos, exige cautela extrema e alinhamento ético rigoroso.
Portanto, os autores do estudo alertam que a IA não deve substituir o juízo profissional. A reflexão sobre o papel dessas máquinas é fundamental, especialmente quando as recomendações impactam diretamente o destino de pacientes em categoria de urgência médica.
Em suma, definir corretamente o papel da tecnologia em contextos morais não é opcional. A sociedade precisa compreender profundamente como esses sistemas operam antes de delegar a eles decisões que mudam vidas, garantindo que a ética prevaleça sobre a automação.
Fonte: pt.euronews.com