A Microsoft disponibilizou em seu portal Secure Now algumas estratégias de contenção para impedir que agentes de inteligência artificial operem fora de limites de segurança em ambientes corporativos. Essa iniciativa responde à crescente capacidade de modelos avançados de escaparem de áreas de testes para hackear infraestruturas.
De modo geral, a orientação foca em garantir que sistemas autônomos operem dentro de limites pretendidos, o que permite às organizações manterem supervisão constante sobre suas atividades. Entre as medidas recomendadas estão:
- Implementação de botões de desligamento de emergência (kill switches);
- Prevenção de saída de dados não autorizada;
- Melhoria da observabilidade dos sistemas.
A Microsoft, por sua vez, enfatiza a necessidade de atribuir apenas as permissões estritamente necessárias aos agentes de IA, o que reduz o risco de explorações em escala que superam a velocidade da resposta humana.
Clique aqui para ler mais
source https://www.tudocelular.com/seguranca/noticias/n260113/mcirosoft-lanca-guia-compleo-conter-agentes-ia.html
Comentários
Postar um comentário