Por Roberto Gallo, CEO da Kryptus e Thiago Carneiro, Chefe do DIPROD/MRE
*As opiniões apresentadas são de caráter estritamente pessoal e não refletem o posicionamento oficial do Ministério das Relações Exteriores.
A cada dia que passa, as capacidades militares são mais dependentes de plataformas de armas sofisticadas e automatizadas. Esse inegável avanço tecnológico pode trazer consigo vantagens contundentes no campo de batalha, aumentando perigosamente o “gap” entre os países desenvolvedores de tecnologias e aqueles que são meros usuários. Entretanto, este fenômeno também implica enormes riscos estratégicos, tipicamente mal compreendidos por formuladores de doutrina militar e pelos operadores em campo, especialmente de países que apenas compram tais tecnologias e equipamentos.
Essas mudanças apresentam-se, cada vez mais, como desafios presentes a todas as forças armadas e, igualmente, à indústria de defesa. Para melhor compreender esses riscos, é necessário entender como a automatização de plataformas de combate e seus sistemas de armas aumentou de forma exponencial nos últimos 40 anos.
Automatização em Plataformas
Se analisarmos plataformas dos anos 80, veremos que os componentes e subsistemas nelas embarcados operavam de forma majoritariamente isolada. Em aeronaves, por exemplo, subsistemas como enlace de comunicações, computador de missão, contramedidas, sistemas de armas, navegação e controle de motor, quando muito, possuíam alguma forma de leitura agrupada nas cabines.
Se esse tipo de organização, apesar de auxiliar no controle de áreas críticas, ainda colocava uma grande carga de trabalho na tripulação, por outro lado a mantinha com a plataforma em mãos. Uma falha de um componente individual muitas vezes poderia ser mitigada com ações das próprias tripulações ou mesmo nas manutenções em solo.
Ainda exemplificando a questão com aeronaves, quatro décadas depois, pode-se observar o contraste com o caso do Boeing 737 MAX 8. O grau de automatização, integração e autonomia na aeronave é tal que a arquitetura dos sistemas é concebida de modo que o avião voe de forma segura, apesar da tripulação. O operador humano, antes essencial ao funcionamento da aeronave, cada vez mais passa a ser inserido quase figurativamente no (limitado) controle da plataforma
No mundo militar, esse nível de automatização tem levado à autonomia de sistemas de armas (LAWS[1]) que, apoiados em inteligência artificial, comunicações e sensoriamento avançado (C4ISR[2]), possuem a capacidade de planejar missões, identificar e adquirir alvos, realizar as ações letais e se recolherem, sem a necessidade de intervenção humana.
Este nível crescente de complexidade dos sistemas e plataformas apresenta uma série de desafios ao estudioso de defesa, em múltiplas ordens:
(i) Estratégica (domínio do conhecimento tecnológico e implicações geopolíticas)
(ii) Tática (reformulação de doutrinas militares)
(iii) Operacional (uso das tecnologias em combate e negação de uso ao inimigo)
(iv) Moral (qual o limite de responsabilidade do operador? E quem é o operador a ser responsabilizado?)
Neste artigo, passaremos a abordar, de forma muito resumida, cada uma dessas vertentes, com especial ênfase na questão operacional, em que se destacam os conceitos de “kill switch” e “switch to kill” e suas implicações para o Brasil.
[1] Lethal Autonomous Weapons Ssystems.
[2] Command, Control, Communications, Computers, Intelligence, Surveillance and Reconnaissance.
Vertente Estratégica
A superioridade em uma guerra e, por conseguinte, a vitória em um conflito armado, sempre esteve associada à capacidade, quantidade e domínio do uso dos meios de combate. Há muito sabe-se que não basta a melhor estratégia militar sem a retaguarda de uma importante cadeia logística e tecnológica. Forjas de aço, estoques de pólvora, balões de observação, submarinos, aviões de longo curso e mísseis de maior alcance foram, cada um a seu tempo, elementos-chave para a obtenção dessa supremacia.
Se, em toda a história dos conflitos, a supremacia do combate marchou lado a lado com a superioridade tecnológica, somente agora assistimos a uma mudança de paradigma na relação homem-arma. Mesmo com toda a evolução da guerra nos últimos milênios, os sistemas e plataformas sempre estiveram, de algum modo, sob o comando do operador. Assiste-se, agora, a uma revolução tão silenciosa quanto assustadora. Os sistemas de armas não mais dependem de uma pessoa para sua efetiva aplicação em combate.
Há uma “despersonalização” do soldado, que de operador passou a gestor de sistemas na atualidade e, para no futuro, deve ser quase que um mero espectador. Isso, evidentemente, nos países detentores de tais tecnologias críticas. Para os demais, haverá sempre o papel de operador em campo, ou mesmo de “carne de canhão”. Tais mudanças alteram o panorama estratégico de forma profunda. Divide-se o mundo entre países que podem fazer a guerra com máxima ofensividade e a um custo mínimo de seus cidadãos, e aqueles que apenas sofrerão as consequências de um embate com um opositor que não tem fome, não tem sede, não se cansa, e que pode operar 24h por dia nos ambientes mais hostis.
Vertente Tática
As doutrinas militares igualmente se mostram conformes aos sistemas e plataformas de armas de seu tempo. Da formação em “tartaruga” dos romanos, apta ao uso de escudos e lanças para o ataque sustentado das legiões, à “Blitzkrieg” da Alemanha nazista, com o avanço expedito de divisões “panzer” e apoio aéreo dos “stukas”, até a doutrina do “Shock and Awe” dos EUA, com maciços ataques aéreos e de mísseis, a guerra sempre se fez pensando na mitigação dos riscos da tropa a na imposição do maior dano possível ao adversário.
As plataformas autônomas vieram para dar novo salto geracional a essas doutrinas. A guerra do século XXI é aquela centrada em redes, com uso intenso de tecnologia e menor envolvimento humano para quem pode se dar ao luxo de tal opção. “Drone swarms” e exércitos quase automatizados são uma nova realidade e que alterará de forma contundente a maneira como os Estados iniciarão, ganharão e perderão guerras. É nesse contexto que três conceitos precisam ser muito bem compreendidos pelos formuladores de políticas públicas e doutrinadores militares. O princípio da essencialidade das bases Industriais de defesa (BID) nacionais como meio último de proteção efetiva da soberania tecnológica do país, que está ligado às vertentes estratégica e tática, e conceitos como o “kill switch” e o “switch to kill”, ligados à vertente operacional.
Vertente Operacional
O uso em combate de sistemas de armas autônomas revela ampla gama de desafios ao soldado moderno. A tomada de decisões em combate – elemento fundamental para o êxito de qualquer manobra – passa a depender cada vez menos do homem, alterando de forma profunda como os exércitos passarão a definir suas estratégias de combate. Sistemas de armas autônomas podem “conversar” entre si, implementando o verdadeiro conceito de “netcentric warfare”, por meio de comunicações encriptadas. A capacidade de processamento e fusão de dados, aliada à disseminação da informação para as unidades de ataque, faz a diferença entre a vitória e a derrota. Algoritmos mais precisos e refinados, modelados por supercomputadores, não apenas melhor auxiliarão os oficiais-generais do futuro como, em alguns casos, os substituirão.
Terá melhor capacidade de combate quem dispuser da melhor combinação software e hardware. No entanto, essas mudanças na forma de se “fazer a guerra”, levam a duas questões conceituais tão fundamentais quanto complexas. Como restabelecer o domínio do homem sobre a máquina em situações extremas, e como fazer (ou evitar) que a máquina se volte contra seu usuário. Aí temos os conceitos de “kill switch” e “switch to kill”, de que passamos a tratar.
Kill Switch
Em inglês, “kill switch” é o termo utilizado para comando, chave, botão ou qualquer recurso que desliga ou inutiliza um sistema quando assim decidido. Kill switches normalmente funcionam em benefício do proprietário do sistema, servindo como forma de parada rápida, de proteção. Exemplos disso são os botões de pânico em tornos mecânicos e o desligamento remoto de um iPhone em caso de roubo ou perda.
Um sistema qualquer pode possuir diversos “kill switches”, alguns acionados presencialmente e outros remotamente, inclusive pelas mais estreitas bandas de comunicação pois, afinal, apenas um único bit de informação precisa ser transmitido. “Kill switches” podem estar claramente identificados como um “grande botão vermelho” ou insidiosamente enterrados em um único componente eletrônico entre milhares de outros que podem formar um sistema complexo – algumas vezes sem nem mesmo o conhecimento do fabricante do sistema!
O caso é tão grave e o desafio tão grande que o General Keith B. Alexander, antigo Diretor da temida National Security Agency – NSA, reputava os “kill switches” profundos, inseridos sem conhecimento dos proprietários de uma tecnologia, como um dos maiores desafios de plataformas computadorizadas no futuro[4].
Alexander falava com total conhecimento de causa: durante os anos 2010 (com as revelações de Edward Snowden, Figura 2) e até o recente fevereiro de 2020 (caso da empresa Crypto AG, controlada pela CIA e pelo BND[5]), os EUA foram pegos praticando inúmeras vezes os chamados “ataques de intervenção em cadeia logística.”
[4] Declaração ao vivo durante a RSA Conference 2015
[5]‘The intelligence coup of the century’, Greg Miller Feb. 11, 2020
https://www.washingtonpost.com/graphics/2020/world/national-security/cia-crypto-encryption-machines-espionage/
Essa classe de ataques serve de ação preparatória para fins como inteligência, criação de “distrações”, sabotagens e denegações de uso. Enquanto para atividades de inteligência os exemplos de “supply chain intervention” são recorrentes, vide o caso da Huawei com sua tecnologia 5G banida em diversos países ao longo de 2019 e 2020, as outras finalísticas são muito menos reportadas, mas não menos reais nem menos impactantes.
No escopo militar, qualquer nação minimamente equipada possui formal ou informalmente preocupações sobre denegação tecnológica e acordos de end-user que limitam tanto as aquisições, as informações, como também as hipóteses de emprego de certas tecnologias. A forma última de controle de uso, no entanto, é a impossibilidade operacional, classicamente imposta sobre missilística e sistemas de combate que requerem respectivamente códigos de lançamentos ou “licenças de software” para operação.
Como exemplo clássico de denegação em nossas proximidades podemos (e devemos) citar aquela infligida pelos franceses aos argentinos na guerra das Malvinas contra os britânicos nos anos de 1980. Na ocasião, mesmo sem os códigos de lançamento, a aviação da Armada Argentina conseguiu operacionalizar os misseis EXOCET e surpreender a Marinha do Reino Unido.
Porém, esse tipo de cenário jamais se repetiria com os níveis de automatização das plataformas de hoje – pode-se supor, longe do mundo da ficção, que se a Guerra das Malvinas fosse nos dias de hoje, “kill switches” nos caças-bombardeiros franceses não permitiriam nem sequer que as aeronaves decolassem. Ainda menos que mísseis fossem disparados.
Esse tipo de capacidade nos dias atuais, de denegar o uso de forma remota por meio de “kill switches” escondidos em múltiplos pontos das plataformas, possui implicações estratégicas gigantescas, algumas delas mencionadas mais ao final deste texto.
Entretanto, ainda há efeitos mais graves da junção de alto nível de automatização e ataques de supply chain intervention.
Switch to Kill
Sem querer parecer repetitivo, mas o óbvio está aí para ser dito: a mesma tecnologia de controle que é utilizada para a desativação de um sistema contra a vontade de seu proprietário, também pode ser utilizada para o acionamento de rotinas de autodestruição.
Por exemplo, um cavalo de Troia em hardware, inserido na cadeia logística de um míssil, acionável via satélite, pode ser utilizado não apenas para desabilitar a arma, mas sim para fazê-la detonar nas mãos de seus proprietários, no momento que causar maior dano. Seja no paiol, seja embarcado na plataforma, os danos potenciais são gigantescos.
Porém, o pior ainda está por vir: com o advento dos chamados Sistemas de Armas Letais Autônomas – LAWS em inglês – o tema ganha grande complexidade. Chamados de “killer robots” por ativistas em direito humanos, o emprego de tais sistemas tem suscitado grandes discussões na comunidade internacional à medida em que a tecnologia passa a ser empregada em operações reais pelas nações líderes em indústria bélica,
No contexto militar, entretanto, a discussão ampla que falta é em torno do fato de que um “kill switch” pode ser um “switch to kill”, situação plausível onde a designação de alvos de um LAWS é subvertida e, ao invés de atacar inimigos, passa a atuar contra alvos amigos.
Como os LAWS, por definição do conceito, possuem minimamente capacidades autonômicas de designação de alvos e disparo, os mesmos se tornam alvos (ou meios) perfeitos para a realização de ações que vão contra os interesses dos proprietários de sistemas dos sistemas de armas:
(i) nações fornecedoras/desenvolvedoras possuem grandes incentivos de ordem geopolítica e estratégica para demandar às suas indústrias bélicas a inclusão de kill switches e switches to kill em sistemas de armas fornecidos a outros estados,
(ii) ao mesmo tempo, diferentes nações fornecedoras podem procurar comprometer as cadeias logísticas de seus adversários.
De fato, o problema é tão grave que estatísticas reservadas mostram que cerca da metade dos fornecedores do DoD americano já haviam enfrentado problemas de intervenção de cadeia logística em 2015 [CHASE Workshop on Secure/Trustworthy Systems and Supply Chain Assurance, University of Connecticut]. Não à toa, os EUA possuem o SHIELD, grande programa liderado pela DARPA para mitigar intervenções de cadeia logística.
Implicações Estratégicas
Os desdobramentos estratégicos da realidade exposta acima são amplos e merecem longa reflexão, principalmente em relação àqueles de segunda e terceira ordem. Posto isto, a listagem que se faz nesta seção deveria servir apenas para chamamento ou material de partida para os estudos nas Escolas de Guerra.
Feita a ressalva, gostaríamos de chamar a atenção brevemente sobre os seguintes eixos:
- Princípio da Essencialidade das bases industriais de defesa nacionais como vetor de desenvolvimento tecnológico e componente crítico na manutenção da real soberania e da capacidade de efetiva dissuasão militar. Sem o domínio do “know how” e do “know why” dessas tecnologias, os sistemas de armas complexos são apenas brinquedos caros ao contribuinte e, no limite, ameaças à soberania do país.
- Maior instabilidade em conflitos convencionais. LAWS, por requererem menor número de militares treinados e poderem ter seu uso controlado à distância, podem ser fornecidos a um número maior de países, inclusive em modalidades de compras como “leasing” ou aluguel (verdadeiros “mercenários robóticos”), com especial risco a populações civis;
- Redução catastrófica das hipóteses estratégicas de emprego. Ninguém deveria esperar que um sistema de armas com alta automatização (LAWS ou não) comprado de um dado país funcione corretamente contra interesses do dito país, não é mesmo? Porém é pior do que isso: no caso de LAWS de origem estrangeira, a dita plataforma pode inclusive combater contra aquele que o adquiriu (que tal?);
- Aquisições de materiais de defesa precisam se amplamente revistas. Enquanto potências centrais possuem amplos programas de asseguramento de cadeias logísticas para mitigação e controle de riscos de “kill switches” (vide os programas americanos Trusted Foundry e DARPA SHIELD), o assunto nem sequer é compreendido em muitos outros países. Além da solução elementar e necessária do fortalecimento da indústria nacional, é importante planejar para que no nível estratégico as escolhas de parcerias tecnológicas privilegiem controle e visibilidade sobre os subcomponentes das plataformas militares e interoperabilidade entre forças singulares. Cabe também a pergunta: compras de ocasião são oportunidades para quem ao final do dia?
No Brasil, o assunto sobre proteção de cadeia logística tem ganhado certa tração, ainda que de forma desestruturada. Por um lado, a Lei 12.598/2012 cobre de forma colateral o assunto. Por outro, o recente Decreto 10.222/2020, que estabelece a Estratégia Nacional de Cibernética, avança um pouco mais – e já se refletiu na limitação da participação da Huawei na infraestrutura crítica 5G brasileira.
Entretanto, o enfrentamento direto do problema infelizmente ainda não resultou em ação estratégica, ainda que o tema esteja em discussão há alguns anos no escopo técnico das Forças Armadas e da Agência Brasileira de Inteligência[6]. Precisamos urgentemente estabelecer uma política e um sistema nacional de asseguramento de cadeia logística para fins de defesa nacional, pois as ações estratégicas de intervenção já estão implementadas pelas grandes potências há muitos anos.
Quanto à questão da reorganização do processo de compras, há que se iniciar um debate franco e claro sobre o atual modelo brasileiro, ainda mais à luz das profundas mudanças que os sistemas de armas autônomas impõem ao futuro. As compras de material de defesa, pensadas e realizadas apenas pelas Forças singulares, ou com mínima intervenção de outras áreas, revela uma miopia de ação e uma cultura ainda muito compartimentalizada de operações, incabível para o novo cenário de conflitos em que o domínio tecnológico deve ser objetivo prioritário.
Uma nova estrutura, de caráter multidisciplinar, interministerial e inter agências, não é apenas desejável, mas parece ser a única saída possível para dar conta desses desafios. A eventual criação de uma Secretaria Especial Interministerial (SEIPRODE), que englobe todos os atores estatais envolvidos com a área de produtos de defesa (MD, MRE, ME, MCTIC e APEX), lidando com o tema de produtos de defesa desde sua concepção, desenvolvimento industrial, exportação, controle e financiamento, em constante e fluido contato com o setor privado, se apresenta como uma demanda urgente, ainda que de resolução para o médio prazo.
[6] O Hardware Comprometido: Uma Importante Ameaça a Ser Considerada pela Atividade de Inteligência, Gustavo Andrade Bruzzeguez, Clóvis Neumann, João Carlos Félix Souza http://www.abin.gov.br/conteudo/uploads/2018/12/RBI-13_VERSÃO-ELETRÔNICA-Completa-12-12-2018.pdf
Vertente Moral
No campo dos valores, há novas perguntas serem feitas sobre as operações de combate.
- Quem é o responsável pelas ações realizadas por uma máquina?
- Quem é o operador responsável?
- Como ficam as questões humanitárias, à luz do direito internacional, como as Convenções de Genebra, se agora são as máquinas que decidem o que, como e quando destruir?
Dado o objetivo deste artigo, não vamos nos aprofundar nessas questões, mas desde já apontamos a necessidade de uma reflexão detida sobre essas implicações morais, e de direito internacional, que o uso de sistemas de armas autônomas nos traz.
Conclusões
Há uma revolução em andamento nos sistemas de armas. Com fundo tecnológico, tais mudanças implicam efeitos disruptivos para segurança e defesa nacionais. Para que os Estados nacionais não passem a figurar em posições estrategicamente muito desfavoráveis, é fundamental combater o cativeiro tecnológico e reconhecer a essencialidade de suas respectivas BIDs.
À luz da emergência dos LAWS, é fundamental que no Brasil, assim como em outros países de estatura similar, se avance nos estudos das implicações estratégicas, táticas, operacionais e morais, servindo de subsídios para os necessários realinhamentos das políticas e dos órgãos de Estado nacionais.
Em observação comparativa com outros países, em particular do modelo turco, a nós parece que na Era dos LAWS, o Brasil não pode prescindir de uma nova estrutura de Estado, de caráter multidisciplinar, interministerial e inter agências para que possamos acompanhar, com o destaque que o país merece, a revolução que se encontra em marcha.