Grupo de Assessoria Técnica Pedem Limites no Uso de IA pelo Pentágono

O Pentágono deixou claro suas intenções de investir pesadamente em inteligência artificial, afirmando que a IA tornará o exército dos EUA mais poderoso e robusto contra possíveis ameaças à segurança nacional. Como relata o Engadget, na última quinta-feira, o Conselho de Inovação de Defesa apresentou uma série de diretrizes éticas propostas para o uso de IA no exército. A lista de propostas inclui estratégias para evitar viés não intencional e governar a IA que teria procedimentos de parada de emergência para evitar que a IA cause danos desnecessários.

De acordo com o Wired, o Conselho de Inovação de Defesa foi criado pela Administração Obama para orientar o Pentágono na aquisição de experiência e talento da indústria de tecnologia. O conselho é atualmente presidido pelo ex-CEO do Google (GOOGL ), Eric Schmidt. O departamento foi recentemente encarregado de estabelecer diretrizes para a implementação ética da IA em projetos militares. Na quinta-feira, o conselho apresentou suas diretrizes e recomendações para revisão. O relatório observa que é hora de ter discussões sérias sobre o uso da IA em um contexto militar antes que algum incidente grave exija que haja uma.

De acordo com a Artificial Intelligence News, um ex-oficial militar recentemente afirmou que o Pentágono estava atrasado em relação ao uso da IA. O Pentágono está tentando compensar essa diferença e declarou que o desenvolvimento e a expansão da IA no exército são uma prioridade nacional. Os éticos da IA estão preocupados com o fato de que, na pressa do Pentágono em se tornar um líder em IA, os sistemas de IA possam ser usados de maneira antiética. Embora vários conselhos independentes de ética da IA tenham feito suas próprias sugestões, o Conselho de Inovação de Defesa propôs pelo menos cinco princípios que o exército deve seguir sempre que desenvolver e implementar sistemas de IA.

O primeiro princípio proposto pelo conselho é o de que os seres humanos devem sempre ser responsáveis pela utilização, implantação e resultados de qualquer plataforma de inteligência artificial usada em um contexto militar. Isso lembra uma política de 2012 que exigia que os seres humanos fizessem parte do processo de tomada de decisão sempre que a força letal pudesse ser usada. Há vários outros princípios na lista que fornecem conselhos gerais, como garantir que os sistemas de IA sejam sempre construídos por engenheiros que entendam e documentem completamente seus programas. Outro princípio aconselha que os sistemas de IA militares sejam sempre testados para sua confiabilidade. Essas diretrizes parecem ser de senso comum, mas o conselho quer enfatizar sua importância.

Os outros princípios da lista estão relacionados ao controle de viés para algoritmos de IA e à capacidade dos sistemas de IA de detectar se danos não intencionais podem ser causados e se desengajar automaticamente. As diretrizes especificam que, se danos desnecessários ocorrerem, a IA deve ser capaz de se desengajar e ter um operador humano assumir o controle. O rascunho de princípios também recomenda que a saída dos sistemas de IA seja rastreável para que os analistas possam ver o que levou a IA a tomar uma decisão específica.

O conjunto de recomendações apresentadas pelo conselho destaca duas ideias diferentes. Os princípios refletem o fato de que a IA será fundamental para o futuro das operações militares, mas que grande parte da IA ainda depende da gestão e tomada de decisão humana.

Embora o Pentágono não seja obrigado a adotar as recomendações do conselho, parece que o Pentágono está levando as recomendações a sério. Como relata o Wired, o diretor do Centro Conjunto de Inteligência Artificial, Tenente-General Jack Shanahan, afirmou que as recomendações do conselho ajudariam o Pentágono a “manter os padrões éticos mais altos, como delineado na estratégia de IA do DoD, enquanto abraça a forte história do exército dos EUA de aplicar padrões rigorosos de testes e implantação para inovações tecnológicas”.

A indústria de tecnologia como um todo permanece cautelosa em relação ao uso da IA na criação de hardware e software militar. Funcionários da Microsoft (MSFT ) e do Google protestaram contra colaborações com entidades militares, e o Google recentemente decidiu não renovar o contrato que os tinha contribuindo para o Projeto Maven. Vários CEOs, cientistas e engenheiros também assinaram um compromisso não participar “nem apoiar o desenvolvimento, fabricação, comércio ou uso de armas autônomas letais”. Se o Pentágono adotar as diretrizes sugeridas pelo conselho, isso pode tornar a indústria de tecnologia mais disposta a colaborar em projetos, embora apenas o tempo dirá.