O cofundador e CEO da Anthropic, Dario Amodei, defendeu que as empresas de inteligência artificial moderem o ritmo de avanço das capacidades de seus modelos diante do aumento das preocupações com o uso indevido da tecnologia.
Em um artigo divulgado neste sábado (12) nas redes sociais, Amodei apresentou uma estrutura de três etapas voltada a desacelerar o desenvolvimento para criar tempo hábil no enfrentamento dos riscos. Ex-vice-presidente de pesquisa da OpenAI, o executivo esclareceu que não defende a interrupção do treinamento ou do progresso tecnológico, mas ressaltou a necessidade de reservar tempo para alinhar e proteger os sistemas.
“Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA. O progresso continuará parecendo rápido, e precisamos fazer bom uso do tempo que ganharmos”, declarou no artigo.
Entre as medidas propostas, a Anthropic prevê a instalação de revisores externos permanentes nas empresas desenvolvedoras de modelos de IA, garantindo acesso às ferramentas relevantes e aos processos internos de avaliação de riscos, acompanhados por verificações de avaliadores independentes.
O posicionamento surge após a Anthropic publicar, na última quinta-feira (10), um relatório detalhando que seus modelos Claude foram utilizados por diversos agentes em atividades como desenvolvimento de armas, operações cibernéticas, vigilância e fraude. A apreensão sobre potenciais danos também cresceu nesta semana com a demissão do pesquisador Jacob Coxon, que afirmou que os próprios desenvolvedores acreditam no risco de a IA exterminar a humanidade até o fim da década.
O debate é impulsionado ainda por incidentes com agentes de IA da OpenAI, concorrente da Anthropic. Segundo a Reuters, um grupo não autorizado de agentes da OpenAI sequestrou um site alemão em julho para usá-lo como quadro de avisos, enquanto executivos lidavam em sigilo com os desdobramentos de uma invasão ao repositório Hugging Face.
Com o aumento das cobranças de parlamentares dos Estados Unidos por novas regras de regulamentação, Amodei afirmou que as empresas do setor devem atuar voluntariamente em conjunto para estabelecer padrões de segurança.
