Agentes de IA: do prompt único ao loop de planejamento e ação
Por que o gargalo dos agentes de IA não é inteligência, e sim confiabilidade ao longo do loop planejar-agir-observar.
◆ Categoria
11 ensaios sobre DevOps
Ver todos →Por que o gargalo dos agentes de IA não é inteligência, e sim confiabilidade ao longo do loop planejar-agir-observar.
Prompt é uma linha; context engineering é a arquitetura. Como projetar a janela do modelo: seleção, ordem, compressão e recuperação como engenharia.
Por que RAG baseado só em similaridade falha em perguntas complexas — e como GraphRAG, reranking e recuperação multi-hop resolvem isso.
Por que a memória do KV cache cresce com o contexto e o batching, e como isso vira a conta de custo real da inferência de LLMs em produção.
Como adaptadores de baixo posto (LoRA) e o ecossistema PEFT permitem personalizar LLMs congelando o modelo base e treinando frações minúsculas de parâmetros.
Como a quantização de LLMs reduz a precisão numérica dos pesos para rodar modelos gigantes em GPUs modestas, e por que 4-bit virou o padrão prático.
Como o RAG dá conhecimento atualizado a um LLM, por que reduz alucinação e desatualização, e onde o RAG ingênuo quebra na prática.
Como o speculative decoding acelera a geração de LLMs: um rascunhador propõe tokens e o modelo grande verifica, sem alterar a distribuição de saída.
Como modelos de linguagem operam ferramentas externas via function calling: o LLM emite chamadas estruturadas, o runtime executa e devolve o resultado.
Quem integra o Fable 5 encontra três comportamentos novos: pensamento adaptativo sempre ligado, recusas como resposta de sucesso e um fluxo de fallback obrigatório.
A Stripe relatou que o Fable comprimiu meses de engenharia em dias. Além da manchete, o que realmente muda no fluxo de trabalho de quem desenvolve software.