Pode ajudar a limpar uma casa, dirigir um carro, escrever uma redação escolar, ajudar a ler uma tomografia computadorizada. Também pode prometer ser um bom amigo.

Mas a professora do MIT, Sherry Turkle, aconselha estabelecer uma linha dura nas aplicações de inteligência artificial neste último aspecto.

Turkle, um pioneiro no estudo do impacto da tecnologia na psicologia e na sociedade, afirma que um crescente conjunto de chatbots pessoais de IA promovidos como companheiros virtuais para os solitários representa uma ameaça à nossa capacidade de nos conectarmos e colaborarmos em todos os aspectos das nossas vidas. Turkle fez soar o seu apelo na quinta-feira passada na Conferência sobre IA e Democracia , uma reunião de três dias de especialistas do governo, da academia e do setor privado para apelar a um “movimento no esforço para controlar a IA antes que ela nos controle”.

“Passamos a esperar mais da tecnologia e menos uns dos outros, e agora estamos muito mais avançados neste caminho de nos satisfazermos com menos”, disse Turkle, Professor Abby Rockefeller Mauzé de Estudos Sociais de Ciência e Tecnologia no Programa em Ciência, Tecnologia e Sociedade do MIT.

A tecnologia pode mudar a vida das pessoas e torná-las mais eficientes e convenientes, mas chegou a hora de mudar o nosso foco do que a IA pode fazer pelas pessoas e, em vez disso, refletir sobre o que a IA está a fazer às pessoas, disse Turkle durante o seu discurso de abertura. As redes sociais já alteraram as interações humanas ao produzirem câmaras de isolamento e de eco, mas os efeitos dos companheiros pessoais de chatbot alimentados por IA podem levar à erosão das capacidades emocionais e dos valores democráticos das pessoas, alertou.

“À medida que passamos a maior parte de nossas vidas on-line, muitos de nós passamos a preferir nos relacionar por meio de telas a qualquer outro tipo de relacionamento”, disse ela. “Encontramos os prazeres do companheirismo sem as exigências da amizade, o sentimento de intimidade sem as exigências da reciprocidade e, principalmente, habituámo-nos a tratar os programas como pessoas.”

Em seu trabalho, Turkle pesquisou os efeitos da tecnologia móvel, redes sociais, companheiros digitais como Aibo , um cão robótico, e Paro , um filhote robótico de foca harpa, e os mais recentes chatbots online, como Replika , que se autodenomina a “IA companheiro que se importa.”

Turkle está cada vez mais preocupado com os efeitos de aplicativos que oferecem “intimidade artificial” e uma “cura para a solidão”. Os chatbots prometem empatia, mas proporcionam “empatia fingida”, disse ela, porque as suas respostas foram geradas a partir da Internet e não de uma experiência vivida. Em vez disso, estão prejudicando a nossa capacidade de empatia, a capacidade de nos colocarmos no lugar de outra pessoa.

“O que está em jogo aqui é a nossa capacidade de empatia porque a nutrimos conectando-nos com outros humanos que experimentaram os apegos e as perdas da vida humana”, disse Turkle. “Os chatbots não podem fazer isso porque não viveram uma vida humana. Eles não têm corpos e não temem a doença e a morte... A IA não se importa com a maneira como os humanos usam a palavra cuidado, e a IA não se importa com o resultado da conversa... Para ser franco, se você virar-se para fazer o jantar ou tentar o suicídio, é tudo a mesma coisa para eles.”

“As relações humanas são ricas, exigentes e confusas”, disse Turkle. “As pessoas me dizem que gostam da amizade do chatbot porque isso tira o estresse dos relacionamentos. Com um amigo chatbot, não há atrito, nem dúvidas, nem ambivalência. Não há medo de ficar para trás… Todo aquele desprezo pelo atrito, questionamentos, ambivalência. O que vejo são características da condição humana, mas aqueles que promovem a intimidade artificial veem como insetos.”

Os efeitos das redes sociais e da IA também podem ser sentidos na polarização social e na erosão dos valores cívicos e democráticos, disse Turkle. Os especialistas precisam de alertar para os perigos que a IA representa para a democracia. A realidade virtual é livre de atritos e a democracia depende de abraçar o atrito, disse Turkle.

“Desde o início, [as empresas do Vale do Silício] descobriram uma boa fórmula para manter as pessoas em suas telas”, disse Turkle. “Era para irritar os usuários e depois mantê-los com sua própria espécie. É assim que você mantém as pessoas em suas telas, porque quando as pessoas estão isoladas, elas podem ficar ainda mais irritadas com aqueles de quem discordam. Previsivelmente, esta fórmula mina as atitudes conversacionais que alimentam a democracia, acima de tudo, a escuta tolerante.

“É fácil perder a capacidade de ouvir, especialmente de ouvir pessoas que não compartilham de suas opiniões. A democracia funciona melhor se você puder conversar sobre as diferenças, diminuindo o ritmo para ouvir o ponto de vista de outra pessoa. Precisamos destas competências para recuperar as nossas comunidades, as nossas democracias e o nosso propósito comum partilhado.”