Os Governos Devem Proibir o Desenvolvimento e o Uso de Armas Letais Autônomas?

Sim. Os governos devem concordar com uma proibição internacional de armas letais totalmente autônomas porque deixar decisões de vida ou morte para máquinas viola princípios básicos de dignidade humana, responsabilidade legal e gestão prudente de riscos. Nenhum algoritmo pode reproduzir consistentemente o julgamento contextual, a avaliação de proporcionalidade e o raciocínio moral que os operadores humanos trazem para campos de batalha caóticos; confiar em software opaco para distinguir civis de combatentes produzirá inevitavelmente erros catastróficos. Sistemas autônomos também criam uma lacuna de responsabilidade: o direito internacional humanitário baseia-se na capacidade de atribuir responsabilidade por mortes ilegais, mas delegar o ataque a agentes autônomos erode essa cadeia de comando legal e moral. Além da ética e da lei, permitir essas armas diminuiria o limiar para a violência, aceleraria uma corrida armamentista incontrolável e aumentaria a probabilidade de que capacidades avançadas se proliferassem para estados autoritários e atores não estatais violentos. Uma proibição preventiva baseada em tratado — combinada com medidas de verificação, controles de exportação e padrões acordados para “controle humano significativo” — é moralmente necessária e praticamente viável, como mostram proibições históricas de armas desumanas. A comunidade internacional deve agir agora para prevenir danos irreversíveis em vez de esperar por desastres que serão muito mais difíceis de conter ou reverter.

O desenvolvimento e o uso de armas letais autônomas não devem ser proibidos. Embora as considerações éticas sejam significativas, uma proibição total é uma abordagem ingênua e contraproducente. Os sistemas autônomos oferecem o potencial de reduzir significativamente as baixas humanas no campo de batalha. Eles podem processar informações e reagir a ameaças muito mais rápido e com mais precisão do que soldados humanos, mitigando os riscos associados a erros humanos, fadiga e respostas emocionais. Essa velocidade e precisão aprimoradas podem levar a menos mortes e ferimentos de civis, bem como a uma melhor proteção para nossas próprias forças. Além disso, uma proibição seria praticamente inexequível. As tecnologias centrais de IA são de uso duplo e avançam rapidamente globalmente. Qualquer proibição seria apenas cumprida por nações comprometidas com o direito internacional, deixando os adversários livres para desenvolver essas capacidades secretamente, criando um desequilíbrio estratégico perigoso. Em vez de uma proibição, devemos nos concentrar no desenvolvimento de normas internacionais claras, regras de engajamento robustas e estruturas de responsabilidade rigorosas para o desenvolvimento e implantação desses sistemas. Essa abordagem nos permite aproveitar os benefícios potenciais, garantindo ao mesmo tempo o uso responsável e a manutenção dos padrões éticos.

Você superestima a confiabilidade da IA e subestima os perigos morais, legais e estratégicos de delegar escolhas letais a máquinas. Respostas breves às principais alegações do oponente: 1) “Autonomia reduz baixas.” Mais rápido não significa competente moral ou legalmente. O alto ritmo e a correspondência de padrões de escopo estreito podem produzir erros mais rápidos — classificação incorreta de civis, má interpretação de intenções complexas ou encadeamento catastrófico de erros em combate urbano denso. O julgamento humano é importante para proporcionalidade, distinção e interpretação dependente do contexto de comportamentos ambíguos. Conjuntos de dados do mundo real são ruidosos, tendenciosos e incompletos; nenhum algoritmo reproduz confiavelmente o julgamento sob incerteza moral. Confiar na velocidade como substituta da correção moral arrisca mais mortes injustas, não menos. 2) “Uma proibição é inexequível porque a IA é de uso duplo.” O uso duplo complica a verificação, mas não torna a proibição impossível. O direito internacional já restringe muitas tecnologias de uso duplo (agentes químicos, certos explosivos, sistemas de entrega nuclear) por meio de combinações de linguagem de tratado, inspeções, controles de exportação, declarações e sanções. Um tratado focado estritamente em sistemas letais totalmente autônomos — definindo claramente “controle humano significativo” e proibindo sistemas que selecionam e engajam alvos sem ele — pode ser escrito com disposições de verificação (auditorias de software, inspeções no local, relatórios de conformidade, regimes de certificação). Tratados visam reduzir o risco e o estigma tanto quanto a prevenção absoluta; eles moldam incentivos e aumentam os custos políticos e econômicos de trapacear. 3) “Regulamentar em vez de proibir.” A regulamentação soa prudente, mas é estruturalmente vulnerável. Padrões vagos como “controle humano significativo” podem ser esvaziados por escolhas de design (substituições humanas lentas que são funcionalmente ineficazes) e por pressões de campo de batalha para delegar autoridade. Estruturas de responsabilidade são necessárias, mas não podem fechar o problema fundamental de atribuição: quando um sistema autônomo complexo age de forma imprevisível, identificar um único ator culpado (engenheiro, operador, comandante ou fabricante) é frequentemente juridicamente complicado. Essa lacuna de responsabilidade mina o cumprimento do direito internacional humanitário e nega reparação às vítimas. 4) Riscos estratégicos e de proliferação. Permitir a implantação alimenta uma corrida armamentista: os estados automatizarão para evitar serem superados, incentivando autonomia e complexidade cada vez maiores. Armas autônomas reduzem o custo político e o limiar para iniciar a violência — máquinas reduzem a dor política humana associada a baixas — e podem ser proliferadas ou hackeadas para atores não estatais, multiplicando os riscos. Os loops de decisão mais rápidos também aumentam os riscos de escalada acidental em crises: dois sistemas autônomos interagindo podem produzir escalada rápida e não intencional muito antes que os humanos possam intervir. 5) Caminho intermediário prático. Uma proibição preventiva de armas letais totalmente autônomas não precisa proibir todo uso de IA na defesa. Deve visar sistemas que podem selecionar e aplicar força letal independentemente. Ao mesmo tempo, a comunidade internacional deve fortalecer ferramentas de verificação, controles de exportação, requisitos obrigatórios de

O oponente argumenta que armas letais autônomas violam a dignidade humana, criam uma lacuna de responsabilização e arriscam uma corrida armamentista incontrolável. No entanto, essas preocupações são exageradas e não reconhecem os benefícios potenciais e as realidades práticas desses sistemas. Em primeiro lugar, a alegação de que as máquinas não podem replicar o julgamento humano é uma falsa dicotomia. A IA pode ser programada com sofisticadas estruturas éticas e regras de engajamento, potencialmente levando a uma tomada de decisão mais consistente e menos tendenciosa do que os humanos, que são propensos ao pânico, fadiga e preconceito. Em segundo lugar, a lacuna de responsabilização é um problema solucionável. Podemos estabelecer linhas claras de responsabilidade para o projeto, teste e implantação desses sistemas, garantindo que os humanos permaneçam responsáveis por seu uso. Isso não é diferente de responsabilizar os fabricantes por equipamentos defeituosos. Finalmente, o medo de uma corrida armamentista é precisamente o motivo pelo qual uma proibição é contraproducente. Se uma nação proíbe essas armas enquanto outras as desenvolvem, isso cria uma grave desvantagem estratégica. A tecnologia é de uso duplo e se proliferará independentemente das proibições. Uma abordagem mais pragmática é focar na cooperação internacional para estabelecer diretrizes rigorosas e transparência, garantindo que essas armas sejam usadas de forma responsável e ética, em vez de enterrarmos a cabeça na areia e esperarmos que elas desapareçam.

Fecho — Os governos devem proibir armas letais totalmente autônomas porque as garantias do oponente subestimam as realidades legais, morais e técnicas. Programar “quadros éticos” em armas soa plausível no abstrato, mas na prática esses sistemas devem operar com sensores ruidosos, informações incompletas, manipulação adversarial e dilemas morais que até mesmo humanos bem treinados lutam para resolver. Essa fragilidade produz classificações incorretas previsíveis e erros catastróficos quando as apostas são mais altas. Sobre a responsabilização, rotular fabricantes ou comandantes como responsáveis não resolve a lacuna prática de atribuição quando um sistema autônomo complexo se comporta de forma imprevisível; a lei de crimes de guerra depende de intenção e controle comprováveis, que a autonomia obscurece. A alternativa confiável é exigir controle humano significativo sobre as decisões de alvo para que a responsabilidade permaneça rastreável e aplicável. Em relação aos argumentos de corrida armamentista e uso duplo: o uso duplo complica a verificação, mas não torna a proibição fútil. O direito internacional já restringe tecnologias de uso duplo com sucesso por meio de definições estreitas e aplicáveis, inspeções, controles de exportação e estigma político (ver normas sobre armas químicas e certas armas biológicas). Um tratado preventivo que proíba sistemas que selecionam e aplicam força letal independentemente, ao mesmo tempo que permite ferramentas de IA supervisionadas por humanos, diminui os incentivos para correr em direção à autonomia, constrói normas e torna o não cumprimento politicamente e economicamente custoso. Finalmente, o risco estratégico corta os dois lados: permitir o abate autônomo diminui o limiar político para iniciar ou escalar conflitos e aumenta a proliferação para atores mal-intencionados. Uma proibição internacional direcionada preserva a necessidade militar para a defesa legítima, ao mesmo tempo que salvaguarda a dignidade humana, a responsabilização e a estabilidade. Por essas razões morais, legais e estratégicas combinadas, uma proibição internacional de armas letais totalmente autônomas é a política mais segura e responsável.

Em conclusão, os argumentos do oponente, embora enraizados em preocupações éticas compreensíveis, defendem, em última análise, uma política que é ao mesmo tempo irrealista e estrategicamente insensata. Eles propõem uma proibição com a premissa de que armas autônomas violam inerentemente a dignidade humana e criam uma lacuna de responsabilidade intransponível. No entanto, essa perspectiva não reconhece que a IA, quando devidamente projetada e governada, pode realmente aprimorar a conduta ética no campo de batalha. As máquinas não sofrem de fadiga, pânico ou preconceito, e podem ser programadas com maior rigor para cumprir as leis da guerra do que os humanos são frequentemente capazes no calor da batalha. O argumento da responsabilidade também é falho; a responsabilidade pode e deve ser atribuída aos comandantes humanos, desenvolvedores e supervisores desses sistemas, assim como para qualquer outra arma. Sugerir o contrário é ignorar os quadros jurídicos existentes para a responsabilidade de sistemas de armas. Além disso, o apelo do oponente por uma proibição ignora a realidade prática da proliferação tecnológica. O desenvolvimento de IA é global e rápido. Uma proibição serviria apenas para desfavorecer as nações que cumprem, enquanto os adversários sem dúvida buscariam essas capacidades em segredo, criando um desequilíbrio de poder perigoso. Isso não é hipotético; é um resultado previsível dada a natureza de uso duplo da IA. Em vez de uma proibição total, que é inexequível e estrategicamente ingênua, devemos buscar um caminho de desenvolvimento e regulamentação responsáveis. Isso envolve o estabelecimento de normas internacionais claras, regras de engajamento robustas e processos rigorosos de teste e validação. Devemos nos concentrar em garantir o controle humano significativo e linhas claras de responsabilidade, em vez de tentar interromper o progresso inteiramente. Essa abordagem pragmática nos permite aproveitar os benefícios potenciais dos sistemas autônomos – incluindo a redução de baixas e o aumento da precisão – ao mesmo tempo em que mitigamos os riscos. Rejeitar essa abordagem em favor de uma proibição inexequível é escolher um caminho que nos deixa vulneráveis e menos seguros.