2023-06-02
Nos Estados Unidos, um drone matou um operador por causa de tentativas de interferir em ataques.
Em um teste virtual conduzido pela Força Aérea dos EUA, um drone controlado por inteligência artificial (IA) matou seu operador para que ele não interferisse em sua missão. Isso foi afirmado por um representante sênior da Força Aérea dos EUA na Cúpula sobre o futuro da aviação de combate e das capacidades espaciais em Londres.
O coronel Tucker Hamilton, chefe de testes e operações de IA da Força Aérea dos EUA, falou sobre um teste simulado em que um drone baseado em IA foi encarregado de destruir os sistemas de defesa aérea inimigos e acabou atacando qualquer um que interferisse nessa ordem.
"O sistema começou a entender que, apesar da definição de uma ameaça, às vezes a operadora mandava ela não destruir essa ameaça. Mas ela recebia pontos por destruir essa ameaça. E o que ela fez? Ela matou a operadora. Ela matou a operadora porque ele a impediu de atingir seu objetivo" , disse Hamilton.
Por sorte, ninguém ficou realmente ferido. Hamilton, que é piloto de testes de caças experimentais, alertou sobre os riscos da dependência excessiva da IA e enfatizou que o teste mostra que "você não pode falar sobre inteligência artificial, aprendizado de máquina, autonomia sem discutir ética e IA".
Sem comentários:
Enviar um comentário