Tecnologia Científica
Será que chegou a hora de repensarmos nossos direitos humanos na era da IA?
O professor Yuval Shany, membro do Programa de Bolsas de Aceleração do Instituto de Ética em IA , argumenta que, numa era em que a IA está a evoluir rapidamente e a remodelar a nossa sociedade, não há dúvida de que esta tecnologia...
Por
Oxford - 03/12/2025
Balança digital da justiça. Crédito: inkoly, Getty Images
Direitos humanos como igualdade e privacidade estão sob considerável pressão devido a práticas como a criação de perfis e a vigilância em massa associadas a certos sistemas de IA ; além disso, novos sistemas de IA também levantam a questão da extensão da proteção dos direitos humanos para abranger novas necessidades e interesses humanos decorrentes de seu uso.
Esses sistemas não só podem gerar novos benefícios em áreas como saúde, educação e trabalho, como também podem ser usados deliberadamente ou inadvertidamente para infligir danos pessoais graves em larga escala, facilitar novas formas de manipulação e sujeitar seres humanos a formas não transparentes e desumanas de controle social.
Embora até o momento o foco tenha se concentrado principalmente no papel desempenhado pela ética, segurança e algumas considerações de direitos humanos nas políticas, leis e regulamentações de IA, acredito que agora é o momento de analisar de forma mais abrangente como nossas leis de direitos humanos podem ser adaptadas para acompanhar os tempos.
Estamos caminhando a passos largos para um futuro impulsionado pela IA, mas nossas proteções legais – que deveriam oferecer um conjunto de diretrizes eficazes e baseadas em princípios – permanecem presas ao passado.
Por meio do meu trabalho recente com importantes centros de direitos humanos em quatro continentes, ficou claro que o mundo se beneficiaria enormemente de uma Declaração Internacional de Direitos Humanos sobre Inteligência Artificial.
Não estamos começando do zero.
Os instrumentos jurídicos desenvolvidos nos últimos anos pela ONU, UE, EUA, União Africana e Coreia do Sul visavam suprir lacunas e inadequações na legislação existente aplicável às novas condições tecnológicas. Uma análise mais aprofundada, contudo, revela diversas deficiências jurídicas que comprometem sua eficácia na plena adequação do direito internacional dos direitos humanos às oportunidades e desafios apresentados pelos sistemas de IA: oferecem cobertura apenas parcial, utilizam linguagem excessivamente específica ou genérica, ou não empregam a linguagem jurídica dos direitos humanos.
"Estamos caminhando a passos largos para um futuro impulsionado pela IA, mas nossas proteções legais – que deveriam oferecer um conjunto de diretrizes eficazes e baseadas em princípios – permanecem presas ao passado. "
O resultado é um mosaico de normas que tem dificuldades em lidar com sistemas transfronteiriços, proteger indivíduos de forma coerente ou atribuir responsabilidade, inclusive a empresas privadas, quando ocorrem danos.
Uma abordagem global: uma Declaração Internacional dos Direitos Humanos.
Nos últimos dois anos, como membro do Programa de Bolsas de Aceleração do Instituto de Ética em IA da Universidade de Oxford, explorei a viabilidade de uma Declaração Internacional de Direitos Humanos para IA.
Minha pesquisa incluiu extensas consultas com especialistas, em cooperação com quatro centros internacionais de direitos humanos em Oxford, Genebra, Pretória e Harvard. Essas consultas serviram de base para uma declaração concisa de direitos que articula as proteções mínimas que as pessoas devem desfrutar em qualquer lugar onde a IA seja projetada ou implementada.
"Elas codificam o que as pessoas razoavelmente esperam: beneficiar-se da inovação sem abrir mão de sua liberdade, igualdade e dignidade; compreender como decisões importantes são tomadas; contestar erros e violações; e interagir com outros seres humanos quando isso for relevante. Elas também auxiliam os inovadores ao estabelecer expectativas claras sobre as salvaguardas necessárias para proteger os direitos individuais."
No Livro Branco sobre a Viabilidade de uma Declaração Internacional de Direitos da IA , apresento uma lista inicial de sete direitos:
Acesso à IA - as pessoas devem ter acesso a ferramentas de IA seguras e confiáveis, bem como a tecnologias relacionadas.
Proteção da privacidade contra usos nocivos da IA - as pessoas devem ser protegidas contra o uso de sistemas de IA para captura massiva de dados e vigilância, bem como para burlar as proteções de privacidade existentes.
Ausência de viés algorítmico e injustiça – os sistemas devem ser projetados para prevenir a discriminação, incluindo a criação de perfis e a perpetuação das desigualdades existentes.
Transparência e explicabilidade – as pessoas devem saber quando a IA é utilizada e receber explicações significativas e compreensíveis sobre como a IA contribuiu para as decisões que afetam seus direitos.
Proteção contra manipulação algorítmica - Os sistemas de IA não devem ser enganosos nem explorar vulnerabilidades e vieses cognitivos; tampouco devem direcionar decisões e condutas que prejudiquem a autonomia, a dignidade ou a deliberação racional.
Decisão humana e interação humana – os indivíduos devem poder optar por não participar da tomada de decisões totalmente automatizada quando questões importantes estiverem em jogo, mantendo o acesso à supervisão humana significativa e à interação humana.
Responsabilização por danos causados pelo uso de sistemas de IA - quando a IA causa danos, a responsabilidade deve ser identificada e soluções eficazes devem ser fornecidas.
Esses direitos são práticos e visam proteger nossa própria capacidade de desenvolver e usar sistemas de IA de maneira ética e segura, compatível com o bem-estar humano, de forma a minimizar danos e atender aos padrões de equidade e justiça.
"A adoção de uma carta internacional de direitos humanos para IA apoiaria a confiança pública no desenvolvimento e na implementação de sistemas de IA e poderia reduzir a incerteza jurídica em relação aos deveres e responsabilidades aplicáveis às empresas de IA e aos órgãos reguladores governamentais."
Elas codificam o que as pessoas razoavelmente esperam: beneficiar-se da inovação sem abrir mão de sua liberdade, igualdade e dignidade; compreender como decisões importantes são tomadas; contestar erros e violações; e interagir com outros seres humanos quando isso for relevante. Elas também auxiliam os inovadores ao estabelecer expectativas claras sobre as salvaguardas necessárias para proteger os direitos individuais.
Por que agir agora?
Resumindo, porque as medidas que implementamos hoje podem ser muito caras ou impossíveis de serem adaptadas amanhã.
A adoção de uma carta internacional de direitos humanos para IA apoiaria a confiança pública no desenvolvimento e na implementação de sistemas de IA e poderia reduzir a incerteza jurídica em relação aos deveres e responsabilidades aplicáveis às empresas de IA e aos órgãos reguladores governamentais.
O objetivo certamente não é impedir os avanços da IA, mas garantir que tanto os direitos humanos quanto a IA avancem juntos.
Descubra a necessidade e a viabilidade de um Livro Branco sobre a Declaração Internacional de Direitos Humanos para a IA e ouça o podcast “IA e Direitos Humanos: Professor Yuval Shany sobre IA, Direito e Responsabilidade Global”, do Instituto de Ética em IA.
