IA e Guerra Agora

Capaz de oferecer superioridade estratégica e mesmo tática aos usuários, a IA deveria evitar certos domínios da zona cinzenta da mente humana e ser destinada para fins mais nobres.

Redação

São Paulo, 28/02/2023

3 Minutos

Um paper de 24 páginas, divulgado pelo Fórum Econômico Mundial, com sede em Genebra – Suíça, intitulado Da Estratégia às Ordens: Preparando e Conduzindo Operações militares com Inteligência artificial, e assinado pelo pesquisador Tobias Vestner, apresenta implicações de caráter bélico e leva injunções científicas para as guerras presentes e futuras.

Tobias Vestner é o Chefe do Departamento de Pesquisa e Assessoria Política e Chefe do Programa de Segurança e Direito do Centro de Genebra paraPolítica de Segurança (GCSP). Ele é um Pesquisador Sênior Honorário do Universidade de Exeter, membro da Sede Suprema das Forças Aliadas Europa e membro não residente do Instituto das Nações Unidas para Pesquisa de Desarmamento. Ele atua como Conselheiro Jurídico reserva no Estado-Maior das Forças Armadas Suíças. As conclusões deste estudo foram apresentadas e discutidas no Colégio das Forças Armadas da Suíça em 7 de outubro de 2022, e foram concluídas com a colaboração de Claude Meier, Christian Bühlmann e Ricardo Chavarriaga pelos comentários no rascunho, bem como a Juliette François-Blouin para assistência na pesquisa.

Interessante que a Suíça (se diz um país neutro, em termos de guerras externas), tenha esta preocupação analítica. Importa salientar, portanto e além, que o o nível de preocupação de capacidade subjetiva e a profundidade do proposto devam ser equivalentes ao nível de neutralidade que o país e seu comando maior das forças armadas exportam para o mundo. Entretanto, imaginar que não devam ter formas de se defenderem de agressões externas é ingenuidade. 

Pauta: IA e guerra

A inteligência artificial (IA) tem o potencial de impactar as operações militares em todos os domínios e em grande escala. O estudo apresentado por Tobias Vestner aborda como os sistemas de IA podem afetar e ser afetados pelos principais instrumentos de preparação e condução de operações militares. O whitepaper analisa e discute a implicações multicamadas da IA no contexto de estratégia, doutrina, planos, regras de engajamento e ordens (ações). 

Assim, torna-se necessário um ângulo abrangente de análises a fim de um exame geral da questão, com base em novas políticas e desenvolvimentos tecnológicos, bem como considerar as questões políticas, perspectivas militares, legais e éticas.

Com isso, procura-se identificar oportunidades, desafios e questões em aberto, bem como ofertas observações sérias e abrangentes. Como tal, fornece insights e caminhos para avançar ainda mais nas reflexões, pesquisa e formulação de políticas sobre a integração, gestão e uso de IA para operações militares.

Aplicações militares de inteligência artificial (IA) têm o potencial de impactar a preparação e condução de operações militares em todos os domínios e em grande escala.

Os sistemas de IA podem apoiar e substituir os humanos por tarefas militares, pois eles estão se tornando mais rápidos, mais precisos e capazes de processar mais informações em níveis mais altos de complexidade.

Isso pode levar a um aumento da velocidade das operações militares e melhor tomada de decisões, em última análise, oferecendo às forças armadas vantagens significativas de IA de alto desempenho.

O uso militar da IA pode até levar para outra revolução nos assuntos militares. Embora tais desenvolvimentos dependam de fatores adicionais além da tecnologia. A IA pode ser usada para vários fins militares. Em um campo de batalha multidimensional, as tecnologias de IA podem ser utilizadas como sensores, planejadores e lutadores, ou uma combinação deles.

Falhas imperdoáveis

Mais concretamente, aplicações militares de IA pode variar de sistemas que suportam inteligência, vigilância e reconhecimento (ISR) para navegação autônoma e reconhecimento de outros sistemas alvos. Isso pode levar a diversas formas de interação entre pessoal e sistemas inteligentes, bem como vários níveis de delegação de tarefas militares aos sistemas de IA.

Sistemas de inteligência artificial (ou alternativa?) podem auxiliar comandantes e soldados (leia-se atrás das mesas e linhas de frente) em processos de tomada de decisão. Os sistemas de IA não tripulados podem operar em conjunto com sistemas tripulados e sistemas de IA podem operar de forma autônoma sob condições mínimas de supervisão humana, por exemplo. Embora atualmente exista apenas IA estreita e específica para algumas tarefas, esforços significativos para o desenvolvimento de inteligência geral (AGI) – sistemas com capacidade de raciocinar em uma ampla gama de domínios semelhantes aos da mente humana – estão em andamento. Isso está alinhado com a tendência contínua de conferir maior autonomia dos sistemas de IA.

[N.E.: Por exemplo: Um drone capaz de destruir uma unidade tática em missão compostas de homens pretos brancos e amarelos, considerando as origens étnicas de cor da pele, mas sob uma mesmo comando, e que se confunde porque sua programação entende que uma cor de pele X significa inimiga. Ou um drone que elimina crianças se elas estiverem portando armas (simulacros) ou brinquedos similares.] 

Dadas as características particulares da IA e aplicações futuras, a questão que surge é: como a introdução da IA afetará as operações militares. Um capítulo deste estudo explora essa questão avaliando como os sistemas inteligentes e autônomos podem afetar e ser afetados pelos principais instrumentos de preparação e condução militar das operações. Especificamente, o capítulo analisa e discute as implicações multicamadas da IA no contexto da 1) estratégia 2) doutrina; 3) planos; 4) regras de engajamento; 5) ordens/ações.

Os subcapítulos seguintes explicam cada instrumento em geral, seguido de discussão das especificidades dos instrumentos inter-relações com IA.

O capítulo adota um amplo ângulo de análise que inclui aspectos, mas não se limita a conceitos militares, como integração de forças, comando e controle. Isso permite um exame mais geral da questão com base em novas políticas e desenvolvimentos tecnológicos, bem como nas considerações abrangentes de perspectivas políticas, militares, legais e éticas.

Deste modo, o capítulo identifica oportunidades, desafios e questões em aberto, mas também oferece observações diversificadas.

Terreno pantanoso e perigoso

O capítulo termina encontrando um inter-relação dinâmica entre IA e os principais instrumentos para preparação e condução de operações militares, bem como pela localização dos mecanismos de interação entre operadores humanos e IA como o principal problema subjacente. Devido unicamente ao surgimento recente da IA militar, qualquer análise do futuro das operações militares  incorporadas a IA só podem ser experimentais, baseadas na premissa de que os desafios atuais para a operacionalização da IA com alto níveis de autonomia serão superados. Com muitos mais estudos e aperfeiçoamentos.

No entanto, à luz da rápida evolução tecnológica e seus desenvolvimentos, este documento fornece insights e caminhos para avançar mais reflexão, pesquisa e formulação de políticas que integrem adequadamente, gerenciamento e uso de IA para operações militares.

O texto pode ser lido na íntegra a partir deste link (clique)