Baseten se une à Hugging Face e Goodfire para criar padrão de segurança em modelos de IA

A Baseten lançou uma parceria com a Hugging Face e a Goodfire AI por meio de seu braço de pesquisa, a Base Labs. Nesse sentido, o foco é criar um padrão unificado de segurança e monitoramento voltado a modelos de inteligência artificial de pesos abertos. Essa iniciativa busca incorporar controles transparentes diretamente no treinamento e na implantação dos sistemas.

Em geral, a aliança responde diretamente ao avanço do abliteration, técnica que remove as travas e barreiras de proteção de modelos abertos para torná-los irrestritos. Atualmente, a plataforma Hugging Face abriga mais de 6.000 modelos modificados por meio deste procedimento.

O objetivo do grupo é desenvolver metodologias publicáveis para que o monitoramento e a segurança sejam incorporados nativamente durante a fase de treinamento e implantação das IAs, evitando a aplicação de controles superficiais após o lançamento.

Clique aqui para ler mais