Um filósofo da Universidade de Cambridge argumenta que as evidências que temos sobre o que constitui a consciência são muito limitadas para afirmar se, ou quando, a inteligência artificial deu esse salto – e um teste válido para isso permanecerá fora de alcance num futuro próximo. 

À medida que a consciência artificial deixa de ser ficção científica para se tornar uma questão ética urgente, o Dr. Tom McClelland afirma que a única "posição justificável" é o agnosticismo: simplesmente não seremos capazes de afirmar com certeza, e isso não mudará por muito tempo – se é que algum dia mudará.

Embora as questões relativas aos direitos da IA sejam normalmente associadas à consciência, McClelland argumenta que a consciência por si só não é suficiente para tornar a IA relevante do ponto de vista ético. O que importa é um tipo específico de consciência – conhecido como senciência – que inclui sentimentos positivos e negativos. 

“A consciência permitiria que a IA desenvolvesse percepção e se tornasse autoconsciente, mas isso ainda pode ser um estado neutro”, disse McClelland, do Departamento de História e Filosofia da Ciência de Cambridge.

“A senciência envolve experiências conscientes que são boas ou ruins, e é isso que torna uma entidade capaz de sofrer ou desfrutar. É aí que a ética entra em jogo”, disse ele. “Mesmo que acidentalmente criemos uma IA consciente, é improvável que seja o tipo de consciência com a qual precisamos nos preocupar.” 

“Por exemplo, carros autônomos que interagem com a estrada à sua frente seriam um grande avanço. Mas, do ponto de vista ético, isso não importa. Se eles começarem a ter uma resposta emocional aos seus destinos, aí já é outra história.”

Empresas estão investindo enormes somas de dinheiro na busca por Inteligência Artificial Geral: máquinas com cognição semelhante à humana. Alguns afirmam que a IA consciente está próxima, com pesquisadores e governos já considerando como regulamentar a consciência da IA.

McClelland destaca que não sabemos o que explica a consciência, portanto não sabemos como testar a consciência da IA.

“Se acidentalmente criarmos IA consciente ou senciente, devemos ter cuidado para evitar danos. Mas tratar o que é, na prática, uma torradeira como consciente, quando existem seres conscientes reais que prejudicamos em uma escala épica, também parece um grande erro.”

Nos debates sobre consciência artificial, existem dois campos principais, diz McClelland. Os defensores argumentam que, se um sistema de IA puder replicar o "software" – a arquitetura funcional – da consciência, ele será consciente mesmo que esteja rodando em chips de silício em vez de tecido cerebral.

Por outro lado, os céticos argumentam que a consciência depende do tipo certo de processos biológicos em um "sujeito orgânico encarnado". Mesmo que a estrutura da consciência pudesse ser recriada em silício, seria meramente uma simulação que funcionaria sem que a IA manifestasse qualquer sinal de consciência.

Em um estudo publicado na revista Mind and Language , McClelland analisa minuciosamente as posições de cada lado, mostrando como ambos dão um "salto de fé" que vai muito além de qualquer conjunto de evidências que exista atualmente ou que provavelmente venha a existir.

“Não temos uma explicação profunda da consciência. Não há evidências que sugiram que a consciência possa surgir com a estrutura computacional correta, ou mesmo que a consciência seja essencialmente biológica”, disse McClelland.

“Também não há qualquer sinal de evidências suficientes no horizonte. Na melhor das hipóteses, estamos a uma revolução intelectual de distância de qualquer tipo de teste de consciência viável.”

"Acredito que meu gato está consciente", disse McClelland. "Isso não se baseia tanto em ciência ou filosofia, mas sim em bom senso – é simplesmente óbvio."

“No entanto, o senso comum é produto de uma longa história evolutiva durante a qual não existiram formas de vida artificiais, portanto, não se pode confiar no senso comum quando se trata de IA. Mas se analisarmos as evidências e os dados, isso também não funciona.” 

“Se nem o senso comum nem a pesquisa rigorosa conseguem nos dar uma resposta, a posição lógica é o agnosticismo. Não podemos saber, e talvez nunca saibamos.”

McClelland atenua essa visão ao se declarar um agnóstico "um tanto radical". "O problema da consciência é realmente formidável. No entanto, pode não ser insuperável."

Ele argumenta que a forma como a consciência artificial é promovida pela indústria tecnológica se assemelha mais a uma estratégia de marketing. "Existe o risco de que a incapacidade de comprovar a consciência seja explorada pela indústria da IA para fazer afirmações extravagantes sobre sua tecnologia. Isso se torna parte da propaganda, permitindo que as empresas vendam a ideia de um próximo nível de inteligência artificial." 

Segundo McClelland, essa euforia em torno da consciência artificial tem implicações éticas para a alocação de recursos de pesquisa.

“Um número crescente de evidências sugere que os camarões podem ser capazes de sofrer, no entanto, matamos cerca de meio trilhão de camarões todos os anos. Testar a consciência em camarões é difícil, mas nada comparado à dificuldade de testar a consciência em inteligência artificial”, disse ele.  

O trabalho de McClelland sobre consciência levou pessoas do público a contatá-lo a respeito de chatbots com inteligência artificial. "As pessoas têm feito com que seus chatbots me escrevam cartas pessoais implorando que eu prove que eles são conscientes. Isso torna o problema mais concreto quando as pessoas se convencem de que possuem máquinas conscientes que merecem direitos que todos nós estamos ignorando."

“Se você tem uma conexão emocional com algo que pressupõe consciência, mas não a possui, isso pode ser existencialmente tóxico. Certamente, isso é agravado pela retórica inflamada da indústria tecnológica.”