Jailbreak, Prompt Injection e instruções maliciosas: é tudo a mesma coisa?
Jailbreak ataca as travas do modelo, prompt injection ataca a instrução da aplicação e vazamento de dados é uma consequência: termos vizinhos, riscos diferentes.
TAG
2 textos
Jailbreak ataca as travas do modelo, prompt injection ataca a instrução da aplicação e vazamento de dados é uma consequência: termos vizinhos, riscos diferentes.
Prompt injection acontece quando texto não confiável, vindo de um usuário ou de um documento, é lido pelo modelo como instrução, e o OWASP admite que não há prevenção infalível.