À medida que os agentes de inteligência artificial se tornam mais avançados, pode se tornar cada vez mais difícil distinguir entre usuários com tecnologia de IA e humanos reais na internet. Em um novo white paper, pesquisadores do MIT, OpenAI, Microsoft e outras empresas de tecnologia e instituições acadêmicas propõem o uso de credenciais de personalidade, uma técnica de verificação que permite que alguém prove que é um humano real online, preservando sua privacidade.

O MIT News conversou com dois coautores do artigo, Nouran Soliman, estudante de pós-graduação em engenharia elétrica e ciência da computação, e Tobin South, estudante de pós-graduação no Media Lab, sobre a necessidade de tais credenciais, os riscos associados a elas e como elas poderiam ser implementadas de forma segura e equitativa.

Tobin South:  As capacidades da IA estão melhorando rapidamente. Embora muito do discurso público tenha sido sobre como os chatbots estão cada vez melhores, a IA sofisticada permite muito mais capacidades do que apenas um ChatGPT melhor, como a capacidade da IA de interagir on-line de forma autônoma. A IA pode ter a capacidade de criar contas, postar conteúdo, gerar conteúdo falso, fingir ser humano on-line ou amplificar algoritmicamente o conteúdo em grande escala. Isso desbloqueia muitos riscos. Você pode pensar nisso como um problema de "impostor digital", onde está ficando mais difícil distinguir entre IA sofisticada e humanos. As credenciais de personalidade são uma solução potencial para esse problema.

Nouran Soliman: Tais capacidades avançadas de IA podem ajudar atores mal-intencionados a executar ataques em larga escala ou espalhar desinformação. A internet pode estar cheia de IAs que estão compartilhando conteúdo de humanos reais para executar campanhas de desinformação. Vai ficar mais difícil navegar na internet, e nas mídias sociais especificamente. Você pode imaginar usar credenciais de personalidade para filtrar certos conteúdos e moderar conteúdo em seu feed de mídia social ou determinar o nível de confiança das informações que você recebe online.

Sul:  As credenciais de personalidade permitem que você prove que é humano sem revelar mais nada sobre sua identidade. Essas credenciais permitem que você pegue informações de uma entidade como o governo, que pode garantir que você é humano, e então, por meio da tecnologia de privacidade, permitem que você prove esse fato sem compartilhar nenhuma informação sensível sobre sua identidade. Para obter uma credencial de personalidade, você terá que comparecer pessoalmente ou ter um relacionamento com o governo, como um número de identificação fiscal. Há um componente offline. Você terá que fazer algo que apenas humanos podem fazer. IAs não podem aparecer no DMV, por exemplo. E mesmo as IAs mais sofisticadas não podem falsificar ou quebrar a criptografia. Então, combinamos duas ideias — a segurança que temos por meio da criptografia e o fato de que os humanos ainda têm algumas capacidades que as IAs não têm — para fazer garantias realmente robustas de que você é humano.

Soliman:  Mas as credenciais de personalidade podem ser opcionais. Os provedores de serviços podem deixar as pessoas escolherem se querem usar uma ou não. No momento, se as pessoas só querem interagir com pessoas reais e verificadas online, não há uma maneira razoável de fazer isso. E além de apenas criar conteúdo e falar com as pessoas, em algum momento os agentes de IA também vão tomar ações em nome das pessoas. Se eu vou comprar algo online ou negociar um acordo, então talvez nesse caso eu queira ter certeza de que estou interagindo com entidades que têm credenciais de personalidade para garantir que sejam confiáveis.

Sul:  As credenciais de personalidade são construídas sobre uma infraestrutura e um conjunto de tecnologias de segurança que temos há décadas, como o uso de identificadores como uma conta de e-mail para entrar em serviços online, e podem complementar esses métodos existentes.

Soliman:  Um risco vem de como as credenciais de personalidade podem ser implementadas. Há uma preocupação sobre a concentração de poder. Digamos que uma entidade específica seja a única emissora, ou o sistema seja projetado de tal forma que todo o poder seja dado a uma entidade. Isso pode levantar muitas preocupações para uma parte da população — talvez eles não confiem nessa entidade e não sintam que é seguro se envolver com ela. Precisamos implementar credenciais de personalidade de tal forma que as pessoas confiem nos emissores e garantir que as identidades das pessoas permaneçam completamente isoladas de suas credenciais de personalidade para preservar a privacidade.

Sul:  Se a única maneira de obter uma credencial de personalidade é ir fisicamente a algum lugar para provar que você é humano, então isso pode ser assustador se você estiver em um ambiente sociopolítico onde é difícil ou perigoso ir a esse local físico. Isso pode impedir que algumas pessoas tenham a capacidade de compartilhar suas mensagens online de forma irrestrita, possivelmente sufocando a liberdade de expressão. É por isso que é importante ter uma variedade de emissores de credenciais de personalidade e um protocolo aberto para garantir que a liberdade de expressão seja mantida.

Soliman:  Nosso artigo está tentando encorajar governos, formuladores de políticas, líderes e pesquisadores a investir mais recursos em credenciais de personalidade. Estamos sugerindo que os pesquisadores estudem diferentes direções de implementação e explorem os impactos mais amplos que as credenciais de personalidade podem ter na comunidade. Precisamos ter certeza de que criamos as políticas e regras certas sobre como as credenciais de personalidade devem ser implementadas.

Sul: A IA está se movendo muito rápido, certamente muito mais rápido do que a velocidade com que os governos se adaptam. É hora de governos e grandes empresas começarem a pensar em como podem adaptar seus sistemas digitais para estarem prontos para provar que alguém é humano, mas de uma forma que preserve a privacidade e seja segura, para que possamos estar prontos quando chegarmos a um futuro em que a IA tenha essas capacidades avançadas.