NOVA YORK – Vivemos tempos difíceis. Muita coisa está acontecendo rápido demais. As pessoas estão confusas. O historiador econômico da Universidade de Columbia, Adam Tooze, de fato, popularizou uma palavra para isso. Ele chama isso de “policrise”.
A policrise tem muitas fontes. Na minha opinião, a principal fonte da policrise que aflige o mundo hoje é a inteligência artificial. A mudança climática vem em segundo lugar, e a invasão russa da Ucrânia se qualifica como o terceiro. A lista é muito maior, mas vou me concentrar nesses três. Isso deve ajudar a reduzir a confusão.
INTELIGÊNCIA ARTIFICIAL
A IA chocou o mundo quando a Microsoft disponibilizou o ChatGPT gratuitamente ao público por meio de uma empresa associada chamada OpenAI. Isso foi em novembro de 2022. O ChatGPT representava uma ameaça existencial ao modelo de negócios do Google. O Google entrou em ação para lançar um produto concorrente o mais rápido possível.
Pouco tempo depois, Geoffrey Hinton, geralmente considerado o padrinho da IA, renunciou ao Google para poder falar abertamente sobre os riscos da nova tecnologia. Invertendo sua posição anterior, ele teve uma visão muito obscura da IA. Ele disse que poderia destruir nossa civilização.
Hinton foi pioneiro no desenvolvimento de redes neurais que podem entender e gerar linguagem e aprender habilidades analisando dados. À medida que os dados cresciam, também crescia a capacidade dos chamados grandes modelos de linguagem da IA.
Isso causou uma grande impressão em Hinton. “Talvez o que está acontecendo nesses sistemas seja realmente muito melhor do que o que está acontecendo no cérebro”, disse ele . À medida que se tornam mais poderosos, também se tornam mais perigosos, afirmou. Em particular, ele alertou contra sistemas de armas totalmente autônomos – robôs assassinos, como ele os chamou.
“Entramos em um território completamente desconhecido . Somos capazes de construir máquinas mais fortes do que nós, mas ainda estamos no controle. Mas e se desenvolvermos máquinas mais inteligentes do que nós? … A IA levará entre cinco e 20 anos para superar a inteligência humana.” E “logo perceberá que atinge melhor seus objetivos se se tornar mais poderoso”.
O que Hinton disse me impressionou muito. De fato, a IA me lembrou o poema de Goethe “O Aprendiz de Feiticeiro”. O Aprendiz está estudando magia, mas não entende totalmente o que o mestre está ensinando a ele. Quando o mestre lhe manda varrer o chão, ele aplica as palavras mágicas a uma vassoura. A vassoura obedece, mas o aprendiz não consegue impedir a vassoura de ir buscar baldes de água para varrer o chão e a casa fica alagada.
Eu cresci antes da IA ser inventada. Isso me fez um grande crente na realidade. Percebi em uma idade relativamente jovem como é difícil entender o mundo em que nasci e olhei para a realidade para me fornecer orientação moral.
Nós, seres humanos, somos participantes e observadores do mundo em que vivemos. Como participantes queremos mudar o mundo a nosso favor; como observadores, queremos entender a realidade como ela é. Esses dois objetivos interferem um no outro. Considero isso um insight importante que me permite distinguir entre o certo e o errado.
A IA destruiu esse esquema simples porque não tem absolutamente nada a ver com a realidade. A IA cria sua própria realidade e quando essa realidade artificial não corresponde ao mundo real – o que acontece com bastante frequência – ela é descartada como alucinação.
Isso me fez quase instintivamente contra a IA e concordo plenamente com os especialistas que argumentam que ela precisa ser regulamentada. Mas os regulamentos devem ser aplicados globalmente porque o incentivo para trapacear é muito grande; aqueles que fogem dos regulamentos obtêm uma vantagem injusta.
Infelizmente, as regulamentações globais são inatingíveis porque o mundo é dominado por um conflito entre dois sistemas de governança diametralmente opostos. Eles têm visões radicalmente diferentes sobre o que precisa ser regulamentado e por quê.
Refiro-me aos dois sistemas de governança como sociedades abertas e sociedades fechadas. Eu defino a diferença entre os dois da seguinte forma: em uma sociedade aberta, o papel do Estado é defender a liberdade do indivíduo; em uma sociedade fechada, o papel do indivíduo é servir aos interesses dos governantes.
A IA está se desenvolvendo incrivelmente rápido e é impossível para a inteligência humana comum entendê-la completamente. Ninguém pode prever aonde isso nos levará. Mas podemos ter certeza de uma coisa: a IA ajuda as sociedades fechadas e representa uma ameaça mortal para as sociedades abertas. Isso porque a IA é particularmente boa em produzir instrumentos de controle que ajudam sociedades fechadas a vigiar seus súditos.
É por isso que me oponho instintivamente à IA, mas não sei como ela pode ser interrompida. No momento, ninguém mais o faz, mas a maioria daqueles que desenvolveram a IA reconhecem a necessidade de regulá-la. O mesmo acontece com o Congresso e a administração do presidente Joe Biden. Mas a IA está se movendo muito mais rápido do que as autoridades governamentais. A administração Biden tomou algumas medidas executivas, mas o Congresso terá dificuldades em promulgar algo como uma “Declaração de Direitos da IA”.
Há, porém, um problema que não pode esperar. Haverá eleições gerais nos Estados Unidos em 2024 – e, muito provavelmente, também no Reino Unido – e a IA, sem dúvida, desempenhará um papel importante, que provavelmente não será nada perigoso. A IA é muito boa em produzir desinformação e falsificações profundas e haverá muitos atores mal-intencionados. O que podemos fazer sobre isso? Não tenho a resposta, mas espero que esta questão receba a atenção que merece.
DAS ALTERAÇÕES CLIMÁTICAS
O segundo elemento da policrise é a mudança climática. O sistema climático global foi interrompido pelo aumento da intervenção humana, particularmente o uso em larga escala de gases de efeito estufa, dióxido de carbono e metano. O acordo de Paris de 2015 estabeleceu uma meta de 1,5° Celsius acima dos tempos pré-industriais. Isso agora está fadado a ser transgredido; apesar de todos os esforços para combater a mudança climática, a taxa de aquecimento está realmente acelerando.
Dois cientistas climáticos altamente respeitados, David King, ex-conselheiro científico chefe do governo do Reino Unido, e Johan Rockström , do Instituto Potsdam, alertaram que isso poderia desencadear pontos críticos e levar ao colapso da vida na Terra.
O Painel Intergovernamental sobre Mudanças Climáticas disse que as atuais políticas climáticas deixarão a Terra entre 2,5°C e 2,7°C mais quente até 2100. Isso seria um desastre, disseram os cientistas . Excederia a temperatura mais quente da Terra nos últimos quatro milhões de anos. Isso levaria ao derretimento completo das camadas de gelo da Groenlândia, do Himalaia e da Antártica Ocidental e aumentaria o nível do mar em dez metros.
“Haveria um colapso de todos os grandes biomas do planeta Terra – a floresta tropical, muitas das florestas temperadas – degelo abrupto do permafrost, teremos um colapso completo da biologia marinha, teremos uma mudança de grandes partes da habitabilidade em Terra”, disse Rockström .
“Mais de um terço do planeta ao redor das regiões equatoriais ficará inabitável porque você ultrapassará o limiar da saúde, que é em torno de 30°C.”
Infelizmente, quando a luta contra as mudanças climáticas interfere no sustento das pessoas, elas querem proteger seu sustento. Agricultores na Alemanha e na Holanda estão em pé de guerra contra a regulamentação das emissões de nitrogênio porque esses regulamentos os impedem de manter vacas. Eles se mobilizaram, ganharam eleições e abalaram a União Européia.
Devo também mencionar o desejo das empresas petrolíferas de continuarem a dar lucro.
Estamos muito atrasados na luta contra as alterações climáticas. Devemos fazer tudo o que os cientistas do clima consideram necessário – reduzir as emissões profunda e rapidamente, remover o excesso de gases de efeito estufa da atmosfera e recongelar o Ártico. Para fazer isso, precisamos obter a aprovação das comunidades indígenas. Tudo isso tem que ser feito o mais rápido possível.
GUERRA DA RÚSSIA NA UCRÂNIA
Isso nos leva ao terceiro componente da policrise. A invasão russa da Ucrânia foi um choque negativo para o mundo, interrompendo o abastecimento de alimentos e causando grandes realinhamentos geopolíticos. Dito isto, o resultado real é muito melhor do que se poderia esperar. O exército ucraniano resistiu heroicamente e, com forte apoio dos Estados Unidos e da Europa, deu a volta por cima. O exército russo provou ser um tigre de papel, mal liderado e totalmente corrupto. O Grupo Wagner, um exército mercenário privado, apoiou a invasão por um período, mas no final também não conseguiu derrotar a Ucrânia.
Como resultado, a Ucrânia agora está pronta para lançar um contra-ataque assim que todo o equipamento prometido pelo Ocidente for entregue. Biden até concordou que a Ucrânia deveria receber aviões de combate F-16.
Acredito que o contra-ataque será bem sucedido. O alvo será a Península da Criméia, a base da Marinha Russa. Ao destruir a ponte de terra já danificada com a Rússia, a Ucrânia poderia transformar um ativo estratégico em um passivo estratégico, porque a Crimeia não tem água. Com a ponte de terra destruída, a Crimeia dependerá da Ucrânia para obter água.
Muitas partes da Federação Russa já estão se irritando com o regime despótico do presidente Vladimir Putin, e esse desenvolvimento pode levá-los a rejeitá-lo completamente. O sonho de Putin, um Império Russo revivido, pode se desintegrar e não mais representar uma ameaça para a Europa e o mundo.
O fim da guerra na Ucrânia será um choque positivo para o mundo. Isso pode ser uma oportunidade para Biden diminuir a tensão entre os EUA e a China, que está em meio a um declínio econômico que pode tornar o presidente Xi Jinping mais receptivo a uma acomodação com os EUA. Biden não está buscando uma mudança de regime na China; tudo o que ele quer é restabelecer o status quo em Taiwan.
Uma derrota russa na Ucrânia e uma diminuição das tensões sino-americanas podem abrir espaço para os líderes mundiais se concentrarem na luta contra as mudanças climáticas, que ameaçam destruir nossa civilização. Mas há apenas um caminho estreito e sinuoso que leva a esse resultado. Portanto, é apropriado usar um ponto de interrogação ao perguntar se a democracia pode sobreviver à policrise.
George Soros é presidente da Soros Fund Management e da Open Society Foundations. Pioneiro da indústria de fundos de hedge, ele é autor de muitos livros, incluindo The Alchemy of Finance , The New Paradigm for Financial Markets: The Credit Crisis of 2008 and What it Means , and The Tragedy of the European Union: Disintegration or Renascimento? Seu livro mais recente é In Defense of Open Society (Public Affairs, 2019).
NOVA YORK – Vivemos tempos difíceis. Muita coisa está acontecendo rápido demais. As pessoas estão confusas. O historiador econômico da Universidade de Columbia, Adam Tooze, de fato, popularizou uma palavra para isso. Ele chama isso de “policrise”.
A policrise tem muitas fontes. Na minha opinião, a principal fonte da policrise que aflige o mundo hoje é a inteligência artificial. A mudança climática vem em segundo lugar, e a invasão russa da Ucrânia se qualifica como o terceiro. A lista é muito maior, mas vou me concentrar nesses três. Isso deve ajudar a reduzir a confusão.
INTELIGÊNCIA ARTIFICIAL
A IA chocou o mundo quando a Microsoft disponibilizou o ChatGPT gratuitamente ao público por meio de uma empresa associada chamada OpenAI. Isso foi em novembro de 2022. O ChatGPT representava uma ameaça existencial ao modelo de negócios do Google. O Google entrou em ação para lançar um produto concorrente o mais rápido possível.
Pouco tempo depois, Geoffrey Hinton, geralmente considerado o padrinho da IA, renunciou ao Google para poder falar abertamente sobre os riscos da nova tecnologia. Invertendo sua posição anterior, ele teve uma visão muito obscura da IA. Ele disse que poderia destruir nossa civilização.
Hinton foi pioneiro no desenvolvimento de redes neurais que podem entender e gerar linguagem e aprender habilidades analisando dados. À medida que os dados cresciam, também crescia a capacidade dos chamados grandes modelos de linguagem da IA.
Isso causou uma grande impressão em Hinton. “Talvez o que está acontecendo nesses sistemas seja realmente muito melhor do que o que está acontecendo no cérebro”, disse ele . À medida que se tornam mais poderosos, também se tornam mais perigosos, afirmou. Em particular, ele alertou contra sistemas de armas totalmente autônomos – robôs assassinos, como ele os chamou.
“Entramos em um território completamente desconhecido . Somos capazes de construir máquinas mais fortes do que nós, mas ainda estamos no controle. Mas e se desenvolvermos máquinas mais inteligentes do que nós? … A IA levará entre cinco e 20 anos para superar a inteligência humana.” E “logo perceberá que atinge melhor seus objetivos se se tornar mais poderoso”.
O que Hinton disse me impressionou muito. De fato, a IA me lembrou o poema de Goethe “O Aprendiz de Feiticeiro”. O Aprendiz está estudando magia, mas não entende totalmente o que o mestre está ensinando a ele. Quando o mestre lhe manda varrer o chão, ele aplica as palavras mágicas a uma vassoura. A vassoura obedece, mas o aprendiz não consegue impedir a vassoura de ir buscar baldes de água para varrer o chão e a casa fica alagada.
Eu cresci antes da IA ser inventada. Isso me fez um grande crente na realidade. Percebi em uma idade relativamente jovem como é difícil entender o mundo em que nasci e olhei para a realidade para me fornecer orientação moral.
Nós, seres humanos, somos participantes e observadores do mundo em que vivemos. Como participantes queremos mudar o mundo a nosso favor; como observadores, queremos entender a realidade como ela é. Esses dois objetivos interferem um no outro. Considero isso um insight importante que me permite distinguir entre o certo e o errado.
A IA destruiu esse esquema simples porque não tem absolutamente nada a ver com a realidade. A IA cria sua própria realidade e quando essa realidade artificial não corresponde ao mundo real – o que acontece com bastante frequência – ela é descartada como alucinação.
Isso me fez quase instintivamente contra a IA e concordo plenamente com os especialistas que argumentam que ela precisa ser regulamentada. Mas os regulamentos devem ser aplicados globalmente porque o incentivo para trapacear é muito grande; aqueles que fogem dos regulamentos obtêm uma vantagem injusta.
Infelizmente, as regulamentações globais são inatingíveis porque o mundo é dominado por um conflito entre dois sistemas de governança diametralmente opostos. Eles têm visões radicalmente diferentes sobre o que precisa ser regulamentado e por quê.
Refiro-me aos dois sistemas de governança como sociedades abertas e sociedades fechadas. Eu defino a diferença entre os dois da seguinte forma: em uma sociedade aberta, o papel do Estado é defender a liberdade do indivíduo; em uma sociedade fechada, o papel do indivíduo é servir aos interesses dos governantes.
A IA está se desenvolvendo incrivelmente rápido e é impossível para a inteligência humana comum entendê-la completamente. Ninguém pode prever aonde isso nos levará. Mas podemos ter certeza de uma coisa: a IA ajuda as sociedades fechadas e representa uma ameaça mortal para as sociedades abertas. Isso porque a IA é particularmente boa em produzir instrumentos de controle que ajudam sociedades fechadas a vigiar seus súditos.
É por isso que me oponho instintivamente à IA, mas não sei como ela pode ser interrompida. No momento, ninguém mais o faz, mas a maioria daqueles que desenvolveram a IA reconhecem a necessidade de regulá-la. O mesmo acontece com o Congresso e a administração do presidente Joe Biden. Mas a IA está se movendo muito mais rápido do que as autoridades governamentais. A administração Biden tomou algumas medidas executivas, mas o Congresso terá dificuldades em promulgar algo como uma “Declaração de Direitos da IA”.
Há, porém, um problema que não pode esperar. Haverá eleições gerais nos Estados Unidos em 2024 – e, muito provavelmente, também no Reino Unido – e a IA, sem dúvida, desempenhará um papel importante, que provavelmente não será nada perigoso. A IA é muito boa em produzir desinformação e falsificações profundas e haverá muitos atores mal-intencionados. O que podemos fazer sobre isso? Não tenho a resposta, mas espero que esta questão receba a atenção que merece.
DAS ALTERAÇÕES CLIMÁTICAS
O segundo elemento da policrise é a mudança climática. O sistema climático global foi interrompido pelo aumento da intervenção humana, particularmente o uso em larga escala de gases de efeito estufa, dióxido de carbono e metano. O acordo de Paris de 2015 estabeleceu uma meta de 1,5° Celsius acima dos tempos pré-industriais. Isso agora está fadado a ser transgredido; apesar de todos os esforços para combater a mudança climática, a taxa de aquecimento está realmente acelerando.
Dois cientistas climáticos altamente respeitados, David King, ex-conselheiro científico chefe do governo do Reino Unido, e Johan Rockström , do Instituto Potsdam, alertaram que isso poderia desencadear pontos críticos e levar ao colapso da vida na Terra.
O Painel Intergovernamental sobre Mudanças Climáticas disse que as atuais políticas climáticas deixarão a Terra entre 2,5°C e 2,7°C mais quente até 2100. Isso seria um desastre, disseram os cientistas . Excederia a temperatura mais quente da Terra nos últimos quatro milhões de anos. Isso levaria ao derretimento completo das camadas de gelo da Groenlândia, do Himalaia e da Antártica Ocidental e aumentaria o nível do mar em dez metros.
“Haveria um colapso de todos os grandes biomas do planeta Terra – a floresta tropical, muitas das florestas temperadas – degelo abrupto do permafrost, teremos um colapso completo da biologia marinha, teremos uma mudança de grandes partes da habitabilidade em Terra”, disse Rockström .
“Mais de um terço do planeta ao redor das regiões equatoriais ficará inabitável porque você ultrapassará o limiar da saúde, que é em torno de 30°C.”
Infelizmente, quando a luta contra as mudanças climáticas interfere no sustento das pessoas, elas querem proteger seu sustento. Agricultores na Alemanha e na Holanda estão em pé de guerra contra a regulamentação das emissões de nitrogênio porque esses regulamentos os impedem de manter vacas. Eles se mobilizaram, ganharam eleições e abalaram a União Européia.
Devo também mencionar o desejo das empresas petrolíferas de continuarem a dar lucro.
Estamos muito atrasados na luta contra as alterações climáticas. Devemos fazer tudo o que os cientistas do clima consideram necessário – reduzir as emissões profunda e rapidamente, remover o excesso de gases de efeito estufa da atmosfera e recongelar o Ártico. Para fazer isso, precisamos obter a aprovação das comunidades indígenas. Tudo isso tem que ser feito o mais rápido possível.
GUERRA DA RÚSSIA NA UCRÂNIA
Isso nos leva ao terceiro componente da policrise. A invasão russa da Ucrânia foi um choque negativo para o mundo, interrompendo o abastecimento de alimentos e causando grandes realinhamentos geopolíticos. Dito isto, o resultado real é muito melhor do que se poderia esperar. O exército ucraniano resistiu heroicamente e, com forte apoio dos Estados Unidos e da Europa, deu a volta por cima. O exército russo provou ser um tigre de papel, mal liderado e totalmente corrupto. O Grupo Wagner, um exército mercenário privado, apoiou a invasão por um período, mas no final também não conseguiu derrotar a Ucrânia.
Como resultado, a Ucrânia agora está pronta para lançar um contra-ataque assim que todo o equipamento prometido pelo Ocidente for entregue. Biden até concordou que a Ucrânia deveria receber aviões de combate F-16.
Acredito que o contra-ataque será bem sucedido. O alvo será a Península da Criméia, a base da Marinha Russa. Ao destruir a ponte de terra já danificada com a Rússia, a Ucrânia poderia transformar um ativo estratégico em um passivo estratégico, porque a Crimeia não tem água. Com a ponte de terra destruída, a Crimeia dependerá da Ucrânia para obter água.
Muitas partes da Federação Russa já estão se irritando com o regime despótico do presidente Vladimir Putin, e esse desenvolvimento pode levá-los a rejeitá-lo completamente. O sonho de Putin, um Império Russo revivido, pode se desintegrar e não mais representar uma ameaça para a Europa e o mundo.
O fim da guerra na Ucrânia será um choque positivo para o mundo. Isso pode ser uma oportunidade para Biden diminuir a tensão entre os EUA e a China, que está em meio a um declínio econômico que pode tornar o presidente Xi Jinping mais receptivo a uma acomodação com os EUA. Biden não está buscando uma mudança de regime na China; tudo o que ele quer é restabelecer o status quo em Taiwan.
Uma derrota russa na Ucrânia e uma diminuição das tensões sino-americanas podem abrir espaço para os líderes mundiais se concentrarem na luta contra as mudanças climáticas, que ameaçam destruir nossa civilização. Mas há apenas um caminho estreito e sinuoso que leva a esse resultado. Portanto, é apropriado usar um ponto de interrogação ao perguntar se a democracia pode sobreviver à policrise.
JORGE SOROS
Escrevendo para o PS desde 1997
125 Comentários
George Soros é presidente da Soros Fund Management e da Open Society Foundations. Pioneiro da indústria de fundos de hedge, ele é autor de muitos livros, incluindo The Alchemy of Finance , The New Paradigm for Financial Markets: The Credit Crisis of 2008 and What it Means , and The Tragedy of the European Union: Disintegration or Renascimento? Seu livro mais recente é In Defense of Open Society (Public Affairs, 2019).