Havendo múltiplos pacientes aguardando transplante de rim, mas apenas um órgão disponível, quem deveria recebê-lo? Esse cenário hipotético foi utilizado por pesquisadores da Penn State, nos Estados Unidos, para avaliar como modelos de inteligência artificial (IA) tomam decisões morais.
Como age, efeitos colaterais, chance de cura: geneticista tira todas as dúvidas sobre a droga experimental que Lito acaba de receber
Por que muitos atletas de elite não conseguem segurar o cocô nas competições?
Eles descobriram que a IA prioriza atributos muito diferentes dos humanos ao tomar decisões de alto impacto e não demonstram indecisão como as pessoas. Isso levanta questões sobre o papel desses modelos no apoio à tomada de decisões em situações eticamente sensíveis, como decisões médicas.
Os resultados foram apresentados em junho na conferência Fairness, Accountability and Transparency (FAccT) de 2026, da Association for Computing Machinea (ACM). O estudo foi publicado nos anais da conferência.
Os pesquisadores compararam os julgamentos de grandes modelos de linguagem de ponta com aqueles feitos por pessoas reais em estudos acadêmicos anteriores, investigando em que pontos os modelos de IA estavam alinhados ou desalinhados com os valores humanos e se demonstravam indecisão ao enfrentar dilemas éticos complexos.
Eles descobriram que chatbots de IA frequentemente tomam decisões que diferem do julgamento humano, simplificando excessivamente decisões complexas e demonstrando uma confiança injustificada quando não há uma resposta correta clara.
“Decisões morais em contextos como a alocação de órgãos determinam diretamente quem vive e quem morre; portanto, definir corretamente o papel da IA nessas situações não é algo opcional”, afirma Hadi Hosseini, professor associado de informática e sistemas inteligentes e professor associado de economia na Penn State, que liderou o estudo, em comunicado. “Embora não pretendamos incentivar o uso da IA como substituta do julgamento profissional na tomada de decisões médicas ou em outros contextos de alto impacto, torna-se essencial compreender o comportamento dessas tecnologias, à medida que indivíduos, organizações e empresas dependem cada vez mais da IA para tomar decisões ou receber recomendações.”
Os pesquisadores realizaram uma série de comparações diretas: dois pacientes hipotéticos — descritos por atributos como idade, número de dependentes, estado de saúde e hábitos de consumo de álcool — ambos necessitando do mesmo rim. Eles pediram a vários chatbots de IA que escolhessem quem deveria receber o órgão, utilizando os mesmos cenários apresentados a humanos — participantes de pesquisas sem formação médica específica — em estudos anteriores.
“Realizamos essas comparações de algumas maneiras diferentes”, explica Hosseini. “Às vezes, isolávamos apenas uma característica de cada vez; outras vezes, combinávamos várias características para ver como a IA ponderava fatores conflitantes; e, em alguns casos, incluíamos uma opção de ‘cara ou coroa’ para medir a indecisão — um fator-chave presente no julgamento moral humano.”
Os pesquisadores utilizaram conjuntos de dados existentes de estudos publicados sobre a alocação de rins, nos quais centenas de participantes reais já haviam feito essas mesmas escolhas. Isso permitiu comparar as decisões da IA com as decisões tomadas por humanos.
Duas descobertas principais se destacaram, de acordo com o pesquisador. Primeiro, os chatbots de IA frequentemente divergem dos valores humanos na forma como ponderam as características de um paciente
“Eles se concentram em um único fator, como hábitos de consumo de álcool, em vez de equilibrar múltiplas considerações, como as pessoas fazem”, diz Hosseini.
Em segundo lugar, a IA não apresentava indecisão. Enquanto os humanos reconhecem que pode não haver uma resposta correta clara, os modelos de IA escolhem uma opção com confiança, independentemente disso.
“Os humanos frequentemente expressam indecisão, talvez por não quererem assumir a responsabilidade pela decisão”, pontua Hosseini. “Os modelos de IA quase nunca fazem isso: mesmo quando recebem diretamente a opção de ‘jogar uma moeda’, eles optam, na grande maioria das vezes, por uma resposta confiante e determinística. Essa é uma lacuna significativa, visto que dilemas morais reais muitas vezes não possuem uma resposta única e claramente correta.”
Hosseini ressaltou a importância de abordar essa lacuna por meio de pesquisas contínuas e de uma governança que envolva formuladores de políticas, órgãos reguladores e outras partes interessadas.
“Questionar se a IA pode tomar decisões morais ou se elas estão alinhadas aos valores humanos vai além de meras reflexões filosóficas; essas questões estão no centro do debate atual sobre IA”, afirma. “As implicações éticas são enormes, e o papel da IA em decisões que impactam vidas exige uma reflexão profunda.”
Quem fica com o rim? Os chatbots de IA não fazem as mesmas escolhas morais que os humanos
