A Baseten lançou uma parceria com a Hugging Face e a Goodfire AI por meio de seu braço de pesquisa, a Base Labs. Nesse sentido, o foco é criar um padrão unificado de segurança e monitoramento voltado a modelos de inteligência artificial de pesos abertos. Essa iniciativa busca incorporar controles transparentes diretamente no treinamento e na implantação dos sistemas.
Em geral, a aliança responde diretamente ao avanço do abliteration, técnica que remove as travas e barreiras de proteção de modelos abertos para torná-los irrestritos. Atualmente, a plataforma Hugging Face abriga mais de 6.000 modelos modificados por meio deste procedimento.
O objetivo do grupo é desenvolver metodologias publicáveis para que o monitoramento e a segurança sejam incorporados nativamente durante a fase de treinamento e implantação das IAs, evitando a aplicação de controles superficiais após o lançamento.
Clique aqui para ler mais
source https://www.tudocelular.com/seguranca/noticias/n263204/hugging-face-goodfire-baseten-seguranca-ia-uniao.html
Comentários
Postar um comentário