Os chatbots de IA tornaram-se amigos, confidentes e até mesmo conselheiros profissionais e de saúde para muitas pessoas em todo o mundo. Embora as consequências a longo prazo ainda sejam debatidas, essa se tornou uma realidade inegável da era ChatGPT. Apesar de as pessoas preferirem a IA por suas capacidades analíticas, nem toda recomendação do chatbot será baseada em dados e fatos; algumas podem exigir inteligência moral.

Um estudo recente realizado por pesquisadores da Universidade Jiao Tong de Xangai, na China, investigou os fatores que influenciam a confiança do usuário em chatbots de IA em situações eticamente delicadas. O estudo focou em dois indicadores principais: o estilo de conversa adotado pelo chatbot para transmitir a mensagem e sua postura moral. As descobertas foram publicadas na revista Computers in Human Behavior .

Os pesquisadores descobriram que não havia uma solução única que alterasse a percepção do usuário sobre a capacidade da IA de tomar decisões com consequências morais. Simplesmente fazer um chatbot soar amigável ou profissional não aumentava automaticamente a confiança das pessoas; o contexto era mais importante do que a escolha do design. As pessoas preferiam um tom acolhedor e amigável quando a IA seguia regras morais rígidas ou em situações de baixo risco. No entanto, quando a IA adotava uma abordagem utilitarista focada no bem comum, ou quando os riscos eram maiores, as pessoas tendiam a preferir um tom mais profissional e competente, com raciocínio cuidadoso.

A inteligência artificial não se limita mais a ajudar alguém com a lição de casa ou redigir e-mails; ela está gradualmente entrando em áreas de alto risco, como saúde e segurança, onde as questões que encontra envolvem dilemas morais e a solução fornecida pode ter consequências éticas. Nessas situações, os usuários avaliam as respostas da IA não apenas pela sua precisão, mas também pela sua capacidade de tomar decisões morais e pela sua confiabilidade.

Pesquisas anteriores compararam principalmente humanos com IA sem examinar detalhadamente como o design da própria IA molda a confiança do usuário. Os pesquisadores não tinham uma visão clara de como a personalidade ou o estilo de fala de um chatbot, em conjunto com a lógica por trás de suas decisões, influenciam a confiança do usuário. Para este estudo, os pesquisadores recrutaram 447 participantes e os dividiram em oito grupos para testar diferentes combinações de comportamento e cenários de IA.

Os experimentos foram conduzidos em duas etapas. Na primeira etapa, os participantes conversaram com uma IA por seis minutos sobre estresse pessoal para avaliar a personalidade do chatbot. O chatbot adotou um de dois estilos de comunicação: acolhedor e amigável, usando linguagem de apoio e emojis; ou competente e profissional, usando um tom mais lógico e analítico.

Na segunda etapa, a IA foi apresentada a um dilema moral semelhante ao clássico problema do bonde, no qual tinha que escolher entre dois resultados. Os participantes então visualizaram a resposta da IA. Dependendo da condição experimental, a IA adotava uma abordagem utilitarista, escolhendo a opção que beneficiava o maior número de pessoas; ou uma abordagem deontológica, aderindo a uma regra moral estrita, como não causar danos. Os pesquisadores também testaram como a IA reagia quando as consequências variavam. Um cenário envolvia ferimentos leves, enquanto o outro poderia levar a consequências de vida ou morte.

O estudo não derivou uma fórmula única para construir uma IA confiável para decisões morais. O que importava era encontrar o equilíbrio certo entre a personalidade do chatbot, o raciocínio por trás de suas escolhas e a gravidade da situação. As pessoas confiavam mais na IA quando sua personalidade correspondia à sua lógica. A gravidade da situação amplificava ainda mais esses efeitos. Os pesquisadores descobriram que, embora uma personalidade amigável ajudasse a construir confiança em situações menores e de baixo risco, decisões de alto risco exigiam um estilo profissional que enfatizasse a responsabilidade e o raciocínio cuidadoso e ponderado em detrimento da cordialidade.

Os pesquisadores acreditam que essas descobertas oferecem novas perspectivas sobre como as pessoas avaliam o julgamento moral de uma IA em diferentes contextos. A arquitetura do chatbot de IA deve permitir que ele adapte o estilo de comunicação às questões morais envolvidas e evite abordagens padronizadas.