Jailbreak, Prompt Injection e instruções maliciosas: é tudo a mesma coisa?
Jailbreak ataca as travas do modelo, prompt injection ataca a instrução da aplicação e vazamento de dados é uma consequência: termos vizinhos, riscos diferentes.
TAG
#seguranca
4 textos
Prompt Injection: quando alguém tenta dar ordens para sua IA pelas suas costas
Prompt injection acontece quando texto não confiável, vindo de um usuário ou de um documento, é lido pelo modelo como instrução, e o OWASP admite que não há prevenção infalível.
Anatomia de uma Skill: instruções, contexto, ferramentas e limites
Uma Skill bem projetada combina quatro componentes distintos: definição de papel, contexto relevante, autorização de ferramentas e fronteiras de segurança.
AWS IAM para quem só queria publicar uma aplicação
IAM aparece assim que uma aplicação sai do ambiente local, e entender usuários, papéis e políticas evita que permissão vire o maior obstáculo do projeto.