No dia 30 de abril, a  iniciativa Responsabilidades Sociais e Éticas da Computação (SERC, na sigla em inglês) do Schwarzman College of Computing do MIT organizou um simpósio de pesquisa de um dia inteiro para examinar como a inteligência artificial está moldando o mundo e suas implicações para a sociedade. 

O simpósio incluiu apresentações de pesquisa dos mais recentes bolsistas do SERC sobre tópicos como previsão da poluição do ar e implantação responsável de visão computacional, painéis sobre alinhamento de IA e IA na educação, e uma palestra principal de Jon Kleinberg, PhD '96, professor titular da Cátedra Tisch de Ciência da Computação e Ciência da Informação na Universidade Cornell. O evento também contou com uma sessão de pôsteres, onde estudantes pesquisadores apresentaram  projetos  nos quais trabalharam ao longo do ano como  bolsistas do SERC .

“Há muita pesquisa incrível sendo feita no MIT sobre como a IA e a computação podem ser forças para o bem, beneficiando a humanidade. Foi inspirador ver tanto interesse da comunidade em todo esse trabalho de ponta”, disse Brian Hedden, co-reitor associado do SERC e professor de filosofia, que ocupa um cargo compartilhado no MIT Schwarzman College of Computing com o Departamento de Engenharia Elétrica e Ciência da Computação (EECS).

“À medida que a computação e a IA se tornam cada vez mais presentes em praticamente todas as dimensões da sociedade, a missão do SERC é ajudar a garantir que a reflexão ética e o progresso técnico avancem juntos”, disse Nikos Trichakis, co-reitor associado do SERC e professor de Gestão da Cátedra JC Penney. “O simpósio deste ano destaca a extraordinária variedade de trabalhos em andamento no MIT e cria um fórum para que nossa comunidade se envolva profundamente com as responsabilidades que acompanham a construção do futuro da computação.”

Os desafios relacionados ao alinhamento da IA e à sua integração moral residem nas questões éticas de como incutir "valores humanos" em uma tecnologia tão poderosa e em constante evolução. Quem decide quais valores e racionalidades serão incluídos em uma estrutura ética? Como lidar com a distorção ao traduzir esses valores do usuário para a máquina? 

Essas e outras questões foram levantadas por Dylan Hadfield-Menell, professor associado do Departamento de Engenharia Elétrica e Ciência da Computação (EECS), durante um painel que ele moderou e que reuniu um grupo interdisciplinar de palestrantes.

Iason Gabriel, filósofo e pesquisador científico do Google DeepMind, usou o exemplo de um juiz para ilustrar seu ponto. “Você quer que um juiz tenha bom caráter, mas que ainda assim interprete as regras. Uma pessoa razoável, embora não necessariamente a melhor pessoa que já existiu. Quando se trata de IA, não é apropriado modelá-la como perfeita. A IA deve fazer o que lhe dizemos para fazer, usando seu caráter para interpretar de acordo com nossos valores morais.”

Bailey Flanigan, professora assistente de ciência política com nomeação conjunta no MIT Schwarzman College of Computing do EECS, foi além. Para ela, o problema mais importante para o alinhamento da IA ??é "resolver questões fundamentais sobre quem tem o direito de governar diferentes tipos de sistemas de IA em primeiro lugar".

Juntamente com Flanigan, o painel contou com a participação de Bernardo Zacka, professor associado de ciência política. Diante do ímpeto da IA ??e dos complexos modelos institucionais, Zacka afirmou: "Um dos problemas mais urgentes é compreender a sabedoria contida nos sistemas que estamos substituindo e por que eles funcionam da maneira que funcionam." 

Com o aumento da pressão de implantação, muitas vezes parece que as pessoas estão construindo o avião enquanto o pilotam, embora os participantes do painel, em geral, tenham se mostrado otimistas quanto à trajetória do alinhamento da IA, enfatizando a importância crucial dos componentes humanos na formação desses sistemas.

À medida que estudantes de todos os níveis de ensino começam a usar IA, surgem questionamentos sobre se existe uma maneira de incorporar ferramentas de IA de forma ética, mantendo a precisão e o rigor acadêmico. Em um painel sobre IA e educação, professores do MIT e Marta McAlister, diretora do Gemini for Education, exploraram como a IA já está sendo usada em suas salas de aula e discutiram maneiras pelas quais ela pode apoiar o aprendizado, permanecendo alinhada aos objetivos instrucionais e curriculares.

Os professores Eric Klopfer e Samuel Madden, co-presidentes do Comitê Ad Hoc do MIT sobre o Uso de IA no Ensino, Aprendizagem e Treinamento em Pesquisa, concentraram-se em um dilema central: saber se a IA está sendo usada para aliviar a carga de trabalho, em vez de ser usada para ajudar a estruturar os conceitos que estão sendo ensinados. 

Madden, chefe do departamento de ciência da computação do EECS e professor emérito da Faculdade de Computação do MIT, descreveu o processo de luta cognitiva, no qual a aprendizagem ocorre por meio de uma série de tentativas e erros. Ele afirmou: “Hoje em dia, quando os alunos se deparam com esse obstáculo, seu primeiro instinto é recorrer à IA. Eles não enxergam isso como uma conquista no processo e, na verdade, não adquiriram a habilidade que está sendo avaliada”. A questão, então, passa a ser como os instrutores mantêm o processo de luta cognitiva de forma que ele ofereça o desafio necessário para combater a tentação de usar a IA. 

Klopfer, diretor do Programa de Formação de Professores Scheller e do Education Arcade no MIT, compartilhou opiniões semelhantes, afirmando que o pensamento crítico deixou de ser um passo crucial na produção acadêmica. Sobre como manter o conteúdo desafiador na medida certa, Klopfer sugeriu examinar o currículo como um todo. "Alguns conteúdos essenciais precisam ser eliminados. Continuamos adicionando, em vez de analisar ou podar", disse ele. 

O moderador Justin Reich, diretor do Laboratório de Sistemas de Ensino e professor associado do Programa de Estudos Comparativos de Mídia/Escrita, observou que, embora os adolescentes saibam que a IA é prejudicial, isso não necessariamente os impede de usá-la. No entanto, ao convidá-los para a discussão sobre como a IA é implementada e incorporar uma troca mais reflexiva com os instrutores, os alunos podem estar mais bem preparados para escolher como usar essas ferramentas e por quê.

Independentemente disso, as ferramentas de IA e sua implementação não devem ser tratadas como uma política única e inflexível. Pat Pataranutaporn, professor de Desenvolvimento de Carreira em Artes e Ciências da Mídia da Asahi Broadcasting Corporation e chefe do grupo de pesquisa em Psicologia Ciborgue do MIT Media Lab, afirmou: “A IA não é apenas uma coisa. Ela pode e deve ser projetada de maneiras diferentes para promover coisas como criatividade e pensamento crítico. O que medimos, e como, não deve ser sobre acertar a resposta. Devemos pensar no que isso realmente significaria para um aluno aprender hoje em dia.”

Com uma apresentação de slides que incluía grandes mestres de xadrez e referências a filmes, o discurso de abertura de Kleinberg, intitulado "Os Modelos do Mundo da IA e os Nossos", avaliou casos em que os sistemas de IA nos levaram inadvertidamente ao fracasso devido a uma incompatibilidade entre o modelo do mundo criado pelo sistema e o nosso. 

Para ilustrar esse ponto, Kleinberg usou o xadrez, onde os modernos programas de xadrez podem competir em níveis sobre-humanos, mas, quando emparelhados com parceiros humanos, suas estratégias não são compreensíveis ou inferíveis para seus homólogos humanos. Essas transições humanas levariam, então, à confusão. Kleinberg usou o exemplo de "A Sociedade do Anel", onde Gandalf, um poderoso mago, confia uma missão extremamente perigosa e importante a um grupo heterogêneo de aventureiros. Para aqueles familiarizados com a história, o grupo é inesperadamente deixado sem a orientação de Gandalf, mergulhando-os em um período temporário de grande turbulência. 

Quando o motor de xadrez passa a vez para seu parceiro humano, este tem dificuldade em perceber o padrão de movimento preditivo que o motor vinha seguindo até então. "O perigo das equipes humano-algoritmo é que, quando o humano assume o controle, o algoritmo sabe o que quer fazer em seguida, mas o humano não", explicou Kleinberg.

Essas analogias mostram as diferenças nas maneiras como a IA compreende o mundo — por meio de simulações preditivas, reconhecimento de padrões e restrições — para imitar o raciocínio humano, em contraste com o conhecimento inato e incorporado que advém da experiência humana, e se esses sistemas realmente compreendem os mundos em que operam. Mas a questão permanece: se o jogo ainda resulta em xeque-mate, isso importa?