Tecnologia Científica

A promessa e o perigo do Chatgpt, um chatbot de IA notavelmente poderoso
O aplicativo de inteligência artificial de modelo de linguagem viral lançado recentemente pela OpenAI é uma grande promessa e um potencial assustador, diz Tinglong Dai, especialista em IA da Johns Hopkins Carey Business School
Por Tim Parsons - 20/12/2022


Getty images

Analistas e especialistas preveem que o novo ChatGPT da Open AI traria tudo, desde a "morte do ensaio escolar" até o início de uma nova era de comunicação. Mas o que é ChatGPT e como isso pode mudar nossas vidas?

Faça uma pergunta ao ChatGPT e ele rapidamente resume uma resposta em um parágrafo gramaticalmente correto e pontuado. Ele também escreve código. Duas semanas após seu lançamento em 30 de novembro, milhões de usuários estavam experimentando o grande aplicativo de inteligência artificial de modelo de linguagem. Na verdade, estava recebendo tanta atenção que o sistema excedia periodicamente sua capacidade de usuários.

Se você perguntar ao ChatGPT o que é e como funciona, ele dirá: "Como um grande modelo de linguagem treinado pelo OpenAI, eu gero respostas para consultas baseadas em texto com base na grande quantidade de dados de texto nos quais fui treinado. Não tenho a capacidade de acessar fontes externas de informação ou interagir com a internet, então todas as informações que forneço são derivadas dos dados de texto nos quais fui treinado."

"ESTA FERRAMENTA EM PARTICULAR É INCRIVELMENTE BOA PARA DESCOBRIR O QUE UM USUÁRIO DESEJA E COLOCAR COISAS RELEVANTES DE UMA MANEIRA REALMENTE LÓGICA E CLARA, NA MEDIDA EM QUE ALGUNS PODEM SER ENGANADOS PENSANDO QUE É SENCIENTE."

Tinglong Dai
Professor de gestão de operações, Carey Business School

Por mais notável que pareça ser o ChatGPT, o sistema não "pensa" e é incapaz de apresentar ideias originais. Ele funciona imitando de perto a linguagem humana, reunindo o potencial de tornar as tarefas de escrita mais rápidas e fáceis de uma forma nunca vista antes.

"Esta ferramenta em particular é incrivelmente boa para descobrir o que um usuário deseja e colocar coisas relevantes de uma maneira realmente lógica e clara, na medida em que alguns podem ser enganados pensando que é senciente", disse Tinglong Dai , professor de gerenciamento de operações. na Johns Hopkins Carey Business School e especialista em IA. "Nenhuma outra IA foi tão impressionante quanto o ChatGPT. Ele realmente abriu a janela para os últimos desenvolvimentos em grandes modelos de linguagem com algo que a maioria das pessoas não imaginava ser possível antes."

Já nos familiarizamos com algumas formas de IA. O Roomba pode mapear sua casa e aspirar o chão. DALL-E criará imagens de texto descritivo. Siri ou Alexa podem realizar uma infinidade de tarefas com um simples comando de voz. O que torna o ChatGPT tão cativante é o uso contínuo da linguagem humana. Embora seus ensaios sejam impressionantes, Dai disse que o sistema não é infalível.

"Também é muito enganador no sentido de que é incapaz de dizer se o que escreve é ??preciso", explicou. "Na verdade, apenas com base em meus próprios testes extensivos, descobri que ele comete muitos erros factuais, mas o faz de uma maneira confiante e autoritária."

Dai também observou que as respostas do ChatGPT parecem se tornar cada vez mais repetitivas e até mesmo "defensivas" quando a mesma pergunta é feita repetidamente. As respostas do ChatGPT também variam dependendo do idioma usado para fazer a pergunta, porque suas respostas refletirão o idioma do material de origem do qual o ChatGPT se baseia para formular sua resposta.

Riscos ou recompensas

Como muitas ferramentas à nossa disposição, o ChatGPT é uma grande promessa e um potencial assustador. Substituirá empregos ou tornará ainda mais difícil para os consumidores distinguir fato de ficção?

O ChatGPT da OpenAI oferece uma visão fascinante do poder assustador da IA/ Vox
“Essa ferramenta pode representar um grande desafio para a democracia, porque significa que o custo de criar desinformação se tornará insanamente baixo, de modo que será quase impossível para as pessoas detectarem conteúdo criado por IA”, disse Dai. "Diga que você pode até tornar a IA mais autêntica inserindo erros de digitação e outros erros e vieses que a tornam ainda mais autêntica e pessoal. Acho que essa é a parte mais assustadora."

Ao mesmo tempo, disse Dai, provavelmente haverá um prêmio para a escrita autêntica e o pensamento real, que apenas os humanos podem fornecer agora.

"Escrever não é apenas escrever; uma boa escrita reflete um bom pensamento", disse Dai. "Ao pegar um atalho, temo que as pessoas possam perder essa habilidade de pensamento realmente valiosa."

Levando a IA para a sala de aula

A Carey Business School é a única grande escola de negócios americana que exige que alunos de MBA em tempo integral estudem IA.

"Queremos que eles estejam intimamente familiarizados com a teoria da IA ??e o que está por trás de todas as ferramentas de IA do mercado", disse Dai, que projetou o curso. "Queremos que nossos graduados saibam que não serão substituídos ou vítimas de falsas promessas de IA. Em vez disso, queremos que os alunos pensem criticamente e aprendam a usar a IA para melhorar sua vantagem competitiva e o que os diferencia dos outros - humanos e Agentes de IA iguais."

Então, como podemos ter certeza de que sabemos a fonte do que estamos lendo? Dai diz que a divulgação é importante e os desenvolvedores precisam fornecer ferramentas para detecção, para que saibam se estão lendo algo que um humano escreveu ou não.

"Se você pode combinar um produto como o ChatGPT com informações em tempo real, ou mesmo com dados não imediatamente disponíveis na internet, você pode imaginar bilhões de pessoas querendo usá-lo", disse Dai. "Eu realmente acho que isso pode ser pelo menos algo tão grande quanto a mídia social ou tão grande quanto o mercado de smartphones. As indústrias precisam descobrir maneiras de trabalhar junto com a IA no futuro. Elas devem procurar ser aprimoradas pela IA, e não substituídas pela IA."

 

.
.

Leia mais a seguir