TAG
31 textos
Prompt injection acontece quando texto não confiável, vindo de um usuário ou de um documento, é lido pelo modelo como instrução, e o OWASP admite que não há prevenção infalível.
Resiliência em sistemas de IA não é uma única camada de proteção, é a combinação de validação de entrada, contingência de provedor e recuperação de formato, porque cada uma falha de um jeito diferente …
Sem um mecanismo explícito de parada, um ciclo de agentes revisando e corrigindo a resposta um do outro pode continuar rodando indefinidamente, sem nenhum limite natural que faça isso parar sozinho.
Human-in-the-loop introduz um ponto de pausa deliberado em fluxos automatizados, reservado para ações críticas ou irreversíveis que um agente não deveria decidir sozinho.
Um agente com dezenas de ferramentas e vários agentes especializados resolvem o mesmo tipo de problema de formas diferentes, com custos distintos em precisão de escolha de ferramenta e manutenção.
Strategy Pattern combinado com Keyed Services do .NET permite escolher, em tempo de execução, qual provedor de IA atende cada chamada, sem condicionais espalhadas pelo código.
Nem toda informação de uma conversa merece virar memória permanente: a diferença está em decidir o que sobrevive à sessão e o que só existia ali por um motivo pontual.
Adicionar chamadas a um provedor de IA a um projeto em Clean Architecture não exige camada nova, só decidir onde a interface do cliente de IA mora e o que fica de fora do domínio.
Um modelo pode liderar todo leaderboard genérico relevante e ainda errar sistematicamente na tarefa específica que sua aplicação precisa resolver, porque nenhum benchmark público foi desenhado para o …
Modelo mais capaz custa mais e responde mais devagar. Modelo mais rápido e barato erra mais. Não existe ponto que otimize os três eixos ao mesmo tempo, só existe qual trade-off faz sentido para cada c …
Usar um modelo para avaliar outro resolve o problema de escala e cria um novo: quem garante que o próprio julgador está certo? Calibração contra avaliação humana continua sendo necessária.
Usar um modelo para avaliar a resposta de outro modelo escala revisão que seria inviável fazer manualmente, mas carrega vieses conhecidos, como preferir a primeira opção ou a resposta mais longa.
Prompt é a instrução de uma chamada. Contexto é o que está ativo na janela naquele momento. Memória é o que persiste entre chamadas. RAG é o mecanismo que busca informação externa para preencher isso.
Modelos com janela de contexto de mais de um milhão de tokens tornaram tentador simplesmente colar o documento inteiro no prompt. RAG ainda vence em custo por consulta, atualização de dado e precisão …
RAG é a diferença entre fazer prova de memória e fazer prova de consulta: em vez de confiar só no que o modelo decorou no treino, ele busca informação relevante antes de responder.
MMLU, GSM8K e HumanEval dizem alguma coisa sobre um modelo, mas não dizem se ele resolve bem a tarefa específica da sua aplicação. Contaminação de dado e saturação de benchmark explicam por quê.
Supervisor, Router e Workers é uma arquitetura clássica para sistemas multi-agente: o Router encaminha, os Workers executam e o Supervisor avalia se a entrega realmente resolveu o problema.
Orquestrar agentes de IA pode ser determinístico, com código definindo cada etapa, ou dinâmico, com um agente principal decidindo o próximo passo. A escolha muda tudo na hora de depurar.
Adicionar mais agentes a um fluxo de IA não melhora o resultado por padrão. Às vezes só multiplica erro, custo e a chance de dois agentes discordarem sem resolver nada.
Arquitetura multi-agente separa responsabilidades entre agentes especializados, mas isso custa em tokens, latência de coordenação e dificuldade de rastrear o que aconteceu.
LLM é o modelo, chatbot é a interface de conversa construída em cima dele e agente é outra coisa: um sistema com ciclo de decisão, ferramentas e autonomia delimitada.
Construir uma Skill do zero passa por decisões pequenas, mas nada óbvias: definir escopo, escrever a descrição certa e decidir o que fica dentro do SKILL.md.
Uma Skill empacota instruções, contexto e recursos que um agente de IA carrega sob demanda, o que muda bastante como ela se compara a um prompt solto.
Prompt Chaining divide uma tarefa complexa em etapas sequenciais, onde a saída de um prompt vira entrada do próximo, em vez de apostar tudo numa única chamada.
Pedir “responda em JSON” no texto do prompt não garante validade sintática; suporte nativo a Structured Output existe justamente para fechar essa lacuna.
Janela de contexto grande não é sinônimo de resposta melhor: atenção de LLMs se distribui de forma desigual, e contexto em excesso cobra em latência e custo.
Context Engineering desloca a atenção de ajustar palavras no prompt para decidir o que realmente entra na janela de contexto de um modelo.
Janela de contexto e memória resolvem problemas diferentes: uma é o espaço finito de uma interação, a outra é armazenamento persistente entre sessões.
System prompt, user prompt e janela de contexto têm papéis e prioridades diferentes numa chamada de API, e confundir os três gera expectativa errada.
Zero-shot e few-shot descrevem uma ideia simples, pedir com ou sem exemplo, escondida atrás de uma terminologia mais complicada do que precisa.
Contexto, instrução, restrições e exemplos mudam a qualidade de uma resposta de IA generativa mais do que qualquer técnica isolada de prompt engineering.