Tópico técnico: Projeto Nimbus
“O projeto tem como objetivo fornecer ao governo do estabelecimento de defesa e outros uma solução em nuvem abrangente.” -IFM “O ex-chefe da Sec do Google argumentou que um dos objetivos do Projeto Nimbus é impedir que o governo alemão solicite dados relacionados às IDF para o Tribunal Penal Internacional”
-Jack Poulson Os engenheiros do Google estavam preocupados se seus esforços “reforçariam inadvertidamente ”O bloqueio israelense em curso na Palestina Tenha em mente que, no início de 2021, a Human Rights Watch e a Amnistia Internacional acusaram Israel de cometer crimes contra a humanidade e encobrir crimes de guerra.
Antes do Projecto Nimbus - os militares israelitas já possuíam um sistema de vigilância informatizado - o que alarmava os funcionários do Google de que a sua análise de dados poderia piorar a ocupação militar impulsionada pelos dados.
O programa de nuvem do Projeto Nimbus daria a Israel a capacidade de detecção facial, categorização automatizada de imagens, rastreamento de objetos e análise de sentimentos que afirmam avaliar o conteúdo emocional de imagens, fala e escrita.
Embora TODAS as funcionalidades específicas do sistema já fossem um mistério até para os engenheiros que o construíram, o que deixa espaço para manipulação e hacks. “A recolha de dados sobre toda a população palestiniana foi e é uma parte interna da ocupação.
Geralmente, os diferentes desenvolvimentos tecnológicos que vemos nos territórios ocupacionais dirigem-se todos para um elemento central – que é mais controlo.” -Ori Givati (que serviu nas FDI e faz parte da organização “Breaking the Silence” - que é um grupo de ex-veteranos israelenses” “Trabalhar no Google era o emprego dos meus sonhos até o Projeto Nimbus”
-Funcionário anônimo do Google “O Projeto Nimbus me dá vergonha trabalhando aqui” - Funcionário anônimo da Amazon “Eu vi como judeus anti-sionistas e trabalhadores pró-palestinos são mal tratados, o que acabou me deixando esgotado” -(ex-funcionário do Google que enfrentou retaliação do Google por se manifestar contra o Projeto Nimbus)
“As capacidades de aprendizado de máquina do Google, juntamente com a infraestrutura de vigilância do estado israelense, representam uma ameaça real aos direitos humanos dos palestinos”
(Damini Satija, que lidera o Algorithmic Accountability da Amnistia Internacional Lab) “A opção de utilizar os vastos volumes de dados de vigilância já detidos pelo governo israelita para treinar os sistemas apenas agrava estes riscos.”
“Os clientes do Google usam análises e previsões avançadas de dados em locais e formas que o Google não tem visibilidade, criando um risco de abuso” (Liz O'Sullivan, CEO da startup de auditoria de IA Parity e membro do Comitê Consultivo Nacional de Inteligência Artificial dos EUA)
“Os países podem usar o AutoML para implantar sistemas de vigilância de má qualidade que apenas parecem funcionar.
No limite, é ainda pior — pense que câmeras corporais, câmeras de trânsito e até mesmo um dispositivo portátil como um telefone podem se tornar uma máquina de vigilância e o Google pode nem saber o que está acontecendo”
“É extremamente revelador que no PDF do webinar eles constantemente se referissem a isso como 'bondade mágica da IA'” (Jathan Sadowski, estudioso de tecnologias de automação e pesquisador da Universidade Monash)
“Isso mostra que eles estão falando besteira.” “Além disso, este funcionário acrescentou que o Google não tem a capacidade de saber se seus princípios estão sendo violados e qualquer meio de impedir violações.
Depois que o Google oferecer esses serviços, não teremos capacidade técnica para monitorar o que nossos clientes estão fazendo com esses serviços. Eles poderiam estar fazendo qualquer coisa.
Numa altura em que populações já vulneráveis enfrentam níveis de repressão sem precedentes e crescentes, a Google está a retroceder nos seus compromissos de proteger as pessoas deste tipo de utilização indevida da nossa tecnologia. Estou realmente com medo pelo futuro do Google e do mundo.” -Engenheiro anônimo do Google
Sem comentários:
Enviar um comentário