CEO da Hugging Face minimiza alerta de ex-pesquisador sobre risco de extinção por IA

O ex-pesquisador sênior Jacob Coxon pediu demissão da Anthropic recentemente e alegou que os principais laboratórios de tecnologia estão avançando sem controle rumo à superinteligência e arriscando a sobrevivência humana. Esse movimento gerou controvérsia no setor após o CEO da Hugging Face, Clement Delangue, pedir cautela e defender a análise ampla do ecossistema de inteligência artificial.

No caso, o executivo ponderou que consultar um pesquisador focado em pré-treinamento de modelos sobre risco de extinção equivale a “perguntar ao técnico de ar-condicionado sobre mudança climática”. Ele defendeu a necessidade de contextualizar o alerta e ouvir um ecossistema mais amplo de especialistas, como cientistas sociais e formuladores de políticas públicas.

Mesmo com o ceticismo de Delangue, outros cientistas respaldaram as preocupações de Coxon. Por exemplo, o líder da equipe de alinhamento da Anthropic, Evan Hubinger, afirmou que os desenvolvedores de IA acreditam genuinamente no risco de extinção, estimando pessoalmente essa probabilidade em mais de 10% para os próximos 10 anos.

Clique aqui para ler mais