Humanidades
Comentário do especialista: O equilíbrio da segurança digital se mantém com a IA?
O ciberespaço tem sido repleto de danos, mas as catástrofes globais tão previstas até agora não se materializaram. O professor Ciaran Martin , da Escola de Governo Blavatnik , ex-chefe do Centro Nacional de Segurança Cibernética do Reino Unido...
Por
Oxford - 25/06/2025
Ataque cibernético. Crédito: Mf3d, Getty Images
O ciberespaço tem sido repleto de danos, mas as catástrofes globais tão previstas até agora não se materializaram. O professor Ciaran Martin , da Escola de Governo Blavatnik , ex-chefe do Centro Nacional de Segurança Cibernética do Reino Unido , analisa se esse equilíbrio instável se manterá com o rápido avanço da tecnologia baseada em IA.
No alvorecer da era digital, quando a segurança cibernética se tornou uma preocupação de alto nível, previsões de danos catastróficos eram comuns. Em 2010, a revista The Economist publicou uma maquete de um horizonte de Manhattan sofrendo uma atrocidade semelhante à do 11 de setembro, sob a manchete Guerra Cibernética: A Ameaça da Internet . O Secretário de Defesa dos EUA, Leon Panetta, alertou sobre o Cyber Pearl Harbor, um dos muitos alertas semelhantes de líderes mundiais.
Mas, embora tenha havido muitos eventos danosos, essas previsões catastróficas não se concretizaram. Ao longo de um período de seis semanas em 2017, atividades imprudentes da Coreia do Norte (o vírus Wannacry ) e da Rússia (a operação NotPetya) causaram mais de US$ 10 bilhões em prejuízos econômicos e interromperam serviços essenciais em todo o mundo; mas os danos não foram verdadeiramente catastróficos. As estatísticas oficiais da maioria dos países desenvolvidos tendem a não atribuir nenhuma fatalidade a ataques cibernéticos.
O Equilíbrio da Segurança Digital
Por que isso acontece? Atribuo isso a três componentes diferentes:
1. De modo geral, não terceirizamos inteiramente a segurança humana aos computadores.
Segurança e proteção não são a mesma coisa. Veja a aviação. A segurança pode ser precária – já houve vários ataques cibernéticos e muitas outras falhas acidentais de TI que paralisaram frotas e causaram caos. Mas a segurança tem um bom histórico no século XXI .
"No início da era digital, quando a segurança cibernética se tornou uma preocupação de alto nível, previsões de danos catastróficos eram comuns... Mas, embora tenha havido muitos eventos prejudiciais, essas previsões catastróficas não se concretizaram. "
Professor Ciaran Martin, Escola de Governo Blavatnik
Em agosto de 2023, houve uma falha generalizada no sistema de controle de tráfego aéreo britânico . A falha foi extremamente prejudicial do ponto de vista social e econômico, com cancelamentos e desvios em massa. Mas todos os aviões que já estavam no ar pousaram em segurança, utilizando comunicações de backup e voo manual. Ninguém sofreu sequer uma hemorragia nasal.
O mesmo vale para os sistemas ferroviários: se os sinais falharem, por qualquer motivo, os trens devem parar, em vez de colidir uns com os outros.
Portanto, hackers podem facilmente causar caos, mas não mortes em massa, no transporte. O mesmo se aplica à maioria dos setores. (Saúde, onde a interrupção da rede pode impactar o agendamento de operações que salvam vidas, é a exceção gritante).
2. Apenas um pequeno número de atores altamente capazes tem acesso às ferramentas mais devastadoras
"Os EUA avaliam que a China tem capacidade de lançar ataques devastadores à infraestrutura crítica dos EUA, mas a mesma avaliação diz que essas operações são improváveis fora de uma escalada séria entre EUA e China."
Professor Ciaran Martin, Escola de Governo Blavatnik
Realizar operações cibernéticas de alto impacto é extremamente complexo. Jovens criminosos agindo sozinhos podem – e já – realizaram roubos de dados e dinheiro, além de danificar redes. Mas operações altamente sofisticadas – como a operação Stuxnet nos Jogos Olímpicos de 2010 contra o programa nuclear iraniano, ou a sabotagem russa à emissora francesa TV5 Monde em 2015 – exigem anos de preparação. Exigem pessoal qualificado, infraestrutura secreta de ponta, estratégia organizacional e um pouco de sorte. Somente cibercriminosos sérios tiveram, até o momento, a capacidade de realizá-las.
Esta é uma razão por si só para a raridade de tais ataques, mas também dá origem a uma razão adicional: os poucos que possuem as capacidades necessárias são aqueles que serão calculados sobre seu uso. Por exemplo, os EUA avaliam que a China tem capacidade para lançar ataques devastadores contra infraestruturas críticas americanas, mas a mesma avaliação afirma que essas operações são improváveis, exceto em caso de grave escalada EUA/China.
Só porque a China ou a Rússia podem prejudicar os Estados Unidos internamente por meio de ataques cibernéticos, não significa que o farão , assim como não iriam atacar os EUA militarmente sem considerar as consequências .
"Houve muitas ocasiões em que as defesas "perderam". Mas nunca houve uma superioridade abrangente do ataque sobre a defesa. "
Professor Ciaran Martin, Escola de Governo Blavatnik
3. As mesmas ferramentas que podem ser desenvolvidas para uso malicioso podem ser desenvolvidas para um bem igual ou maior à nossa própria segurança.
A parte final do equilíbrio é uma luta direta, contínua e desgastante pela superioridade entre o uso das capacidades para o bem e seu uso para o mal.
As operações cibernéticas dependem de matemática e engenharia – elas não têm autonomia ou bússola moral própria. Códigos maliciosos ou vulnerabilidades detectadas podem ser corrigidas, e é prática comum no setor de segurança cibernética divulgar essas correções publicamente para que todos possam se defender contra elas. A "varredura de vulnerabilidades", que varre áreas do mundo online para descobrir quais redes estão corrigidas – protegidas – contra fraquezas conhecidas, e quais não estão, é realizada tanto por hackers maliciosos quanto por defensores cibernéticos.
É claro que houve muitas ocasiões em que as defesas "perderam". Mas nunca houve uma superioridade abrangente do ataque sobre a defesa. Em outras palavras, houve um equilíbrio geral.
IA e o Equilíbrio da Segurança Digital
Será que esse equilíbrio instável se manterá na era da IA? É claro que é muito cedo para dizer, mas há algumas indicações sobre cada um dos três pilares:
"Há uma década, previa-se com abundância que não haveria motoristas em nenhuma rodovia pública. Claramente, isso ainda não é verdade. As sociedades estão investindo tempo para realizar o extenso e detalhado trabalho técnico e de comunicação para conquistar a confiança de especialistas e do público."
Professor Ciaran Martin, Escola de Governo Blavatnik
1. De modo geral, não terceirizamos inteiramente a segurança humana aos computadores.
Preservar esse aspecto do equilíbrio é uma escolha simples. Depende de nós. E, até agora, os sinais são encorajadores.
Mais uma vez, o transporte é um bom exemplo. Há uma década, previa-se que não haveria motoristas em nenhuma rodovia pública. Claramente, isso ainda não é verdade. As sociedades estão investindo tempo para realizar o extenso e detalhado trabalho técnico e de comunicação necessário para conquistar a confiança de especialistas e do público.
2. Apenas um pequeno número de atores altamente capazes tem acesso às ferramentas mais devastadoras
Esta é a parte mais preocupante e desgastada do equilíbrio. A IA não cria novas armas mágicas, mas melhora significativamente a qualidade de algumas capacidades maliciosas. Também reduz o custo e a dificuldade de gerar ataques.
"A IA não cria novas armas mágicas, mas melhora significativamente a qualidade de algumas capacidades maliciosas. Também reduz o custo e a dificuldade de gerar ataques."
Professor Ciaran Martin, Escola de Governo Blavatnik
É improvável que o cálculo geopolítico que países como China, Irã e Rússia farão antes de se tornarem abertamente agressivos no uso de potentes capacidades cibernéticas se estenda a atores mais novos. Grupos terroristas não estatais com tendências niilistas há muito anseiam por poderosas capacidades cibernéticas, mas nunca conseguiram adquiri-las. Isso pode mudar.
3. As mesmas ferramentas que podem ser desenvolvidas para uso malicioso podem ser desenvolvidas para um bem igual ou maior à nossa própria segurança.
A preocupação acima significa que é essencial que este aspecto final do equilíbrio se mantenha. Não há razão automática para que os defensores cibernéticos percam a corrida armamentista por capacidades, mas os inovadores em segurança cibernética que trabalham em sociedades livres devem acompanhar ou superar aqueles que desejam fazer mau uso das novas tecnologias.
É por isso que é importante que os governos mantenham capacidades internas altamente especializadas em suas agências de segurança e por isso é fundamental que o setor privado de segurança cibernética do Ocidente continue a prosperar.
Conclusão
O Equilíbrio de Segurança Digital é um conceito útil se quisermos entender por que o ciberespaço permaneceu até hoje um lugar de dano, contestação, mas não de catástrofe. Pode permanecer assim, mas isso requer um esforço sustentado e políticas inteligentes ao longo de muitos anos. E, por enquanto, a parte mais preocupante é a crescente acessibilidade de potentes capacidades cibernéticas a novos atores.
Leia uma versão estendida deste artigo no site da Escola de Governo Blavatnik .
