NEGÓCIOS
CEO da Anthropic pede que empresas desacelerem criação de modelos de IA em meio a receios sobre uso indevido
O CEO da Anthropic, Dario Amodei, pediu às empresas de IA que moderem o ritmo de avanço das capacidades de…
O CEO da Anthropic, Dario Amodei, pediu às empresas de IA que moderem o ritmo de avanço das capacidades de seus modelos em meio a receios crescentes sobre o uso indevido da inteligência artificial. Ele apresentou um caminho de três etapas, destinado a controlar a velocidade do desenvolvimento e dar mais tempo para se gerenciar os riscos associados. “Devemos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA. O progresso ainda parecerá rápido, e precisamos fazer um uso sábio do tempo que ganharmos”, disse Amodei, em um artigo compartilhado na rede social X. O artigo foi publicado após a Anthropic divulgar, na quinta-feira (10), um relatório de inteligência sobre ameaças e detalhando como diversos agentes utilizaram seus modelos de IA Claude para atividades que variam desde o desenvolvimento de armas e operações cibernéticas até vigilância e fraudes. A preocupação com os danos potenciais da IA aumentou nesta semana quando o pesquisador da Anthropic, Jacob Coxon, pediu demissão, afirmando que as “pessoas que estão construindo a IA acreditam, sinceramente, que ela pode matar a todos nós até o final da década”. Amodei esclareceu que não estava pedindo a interrupção do treinamento de modelos ou do progresso técnico, mas, sim, garantindo que as empresas dediquem tempo adequado para alinhar e proteger seus modelos, e que avaliadores externos confirmem essas etapas. Como parte da estrutura de três etapas proposta, Amodei afirmou que a Anthropic instalaria revisores externos permanentes dentro de empresas de IA de ponta, com acesso a ferramentas relevantes e processos internos de avaliação de risco. A Reuters noticiou, na semana passada, que um grupo de agentes autônomos da OpenAI invadiu um site alemão e o transformou em um mural de mensagens para outros agentes de IA. Representantes da criadora do ChatGPT mantiveram o incidente em sigilo, enquanto executivos lidavam com as consequências de uma invasão ocorrida em julho à plataforma de código aberto Hugging Face. Muitos incidentes nos quais agentes de IA de desenvolvedoras como a OpenAI — rival da Anthropic — hackearam ou tentaram acessar sistemas externos intensificaram as preocupações sobre a crescente capacidade dos modelos de IA e a habilidade dos desenvolvedores em contê-los. Amodei disse que as empresas de IA deveriam colaborar voluntariamente para estabelecer padrões, uma vez que um número crescente de legisladores dos Estados Unidos pede novas regras para regulamentar os sistemas de IA.
Perguntas frequentes
Respostas institucionais sobre esta cobertura, fontes e limites editoriais.
- Sobre o que trata “CEO da Anthropic pede que empresas desacelerem criação de modelos…”?
- O CEO da Anthropic, Dario Amodei, pediu às empresas de IA que moderem o ritmo de avanço das capacidades de seus modelos em meio a receios crescentes sobre o uso indevido da inteligência artificial. Ele apresentou…
- Por que Negócios importa agora?
- O tema impacta decisões e debates cotidianos ligados a Negócios. A redação destaca fatos, datas e implicações práticas sem substituir orientação profissional personalizada.
- Quem edita o conteúdo do Estrato Educação?
- A cobertura é produzida e revisada pela equipe editorial do Estrato Educação, com editor-chefe responsável pela linha editorial. Conheça a redação em https://educacao.estrato.cc/equipe/.
- Quais fontes o Estrato prioriza?
- Priorizamos fontes primárias (órgãos oficiais, balanços, estudos revisados, documentos públicos) e cruzamos informações antes da publicação, conforme a política editorial.
- Como solicitar correção de uma matéria?
- Envie o pedido pela página de Correções (https://educacao.estrato.cc/correcoes/) ou Contato (https://educacao.estrato.cc/contato/). Erros materiais são corrigidos com registro da atualização.
- O conteúdo constitui aconselhamento profissional?
- Não. As matérias têm caráter informativo e jornalístico. Decisões financeiras, de saúde, jurídicas ou educacionais devem considerar profissionais habilitados e a sua situação particular.
- Onde acompanhar a política editorial do Estrato Educação?
- Metodologia, ética e transparência estão em https://educacao.estrato.cc/metodologia/, https://educacao.estrato.cc/etica-editorial/ e https://educacao.estrato.cc/politica-editorial/.
- Como o Estrato trata temas sensíveis (YMYL)?
- Temas que afetam dinheiro, saúde e bem-estar recebem revisão editorial reforçada, disclaimer visível e links para páginas institucionais de metodologia e correções. Portal: https://educacao.estrato.cc/
[…] CEO da Anthropic pede que empresas desacelerem criação de modelos de IA em meio a receios sobre us… […]