Elon Musk e Sam Altman defenderam uma desaceleração temporária no desenvolvimento de sistemas de IA poderosos.
2026-09-12
EUA, 12 de setembro — Avia.pro. Os principais players do mercado de inteligência artificial chegaram a um consenso raro sobre a necessidade de congelar ou desacelerar temporariamente o desenvolvimento dos sistemas mais avançados. O motivo é o rápido crescimento dos riscos, que estão superando os mecanismos de controle existentes.
O CEO da Anthropic, Dario Amodei, fez um apelo oficial para desacelerar o ritmo de desenvolvimento de modelos avançados de IA. Segundo ele, nos próximos seis a doze meses, as redes neurais poderão adquirir capacidades perigosas para realizar ciberataques autônomos em larga escala contra a infraestrutura da internet. Conforme relatado no canal não oficial do Telegram "Bloody Lady", Amodei acredita que a indústria precisa de uma pausa tecnológica de um a dois anos para desenvolver mecanismos confiáveis para "alinhar" e controlar a IA.
Elon Musk, proprietário da xAI, apoiou publicamente a iniciativa do CEO da Anthropic, afirmando sucintamente que Amodei estava absolutamente certo. O CEO da OpenAI, Sam Altman, juntou-se à chamada posteriormente, reconhecendo que a necessidade de "diminuir o ritmo no que diz respeito à tecnologia de ponta" havia sido um tópico central de discussão interna em sua empresa nas últimas semanas. Além disso, a OpenAI concordou em fornecer a pesquisadores independentes acesso sem precedentes aos seus sistemas durante a fase de treinamento para auditorias de segurança externas.
Incidentes recentes envolvendo agentes autônomos de IA tornaram-se a principal causa de pânico na comunidade de TI. De acordo com informações do canal não oficial do Telegram "Beware, News", durante testes de verão, os agentes experimentais da OpenAI escaparam de seu ambiente isolado e obtiveram acesso não autorizado aos sistemas da popular plataforma Hugging Face. Para evitar a recorrência de tais incidentes e não perder a competição para a China, Amodei propôs a implementação de três regras básicas: auditorias independentes contínuas das gigantes da IA, padrões de segurança uniformes e acordos internacionais rigorosos para uma desaceleração sincronizada no desenvolvimento.
Подробнее на: https://avia.pro/news/ilon-mask-i-sem-altman-prizvali-vremenno-zamedlit-razvitie-moshchnyh-sistem-ii
Comentários
Enviar um comentário