Memória e conhecimento
O assistente esquece tudo ao fim da conversa. Esta trilha explica os recursos que mudam isso, do mais simples ao mais vendido, e o que cada um exige de cuidado. Em ordem; cada tópico aponta o próximo.
Por que o assistente esquece: contexto e janela
A conversa tem um limite de tamanho, e tudo que fica fora dele deixa de existir para o assistente. Entender isso explica metade das respostas estranhas.
Memória interna dos assistentes: o que eles guardam entre conversas
ChatGPT, Gemini e Claude podem lembrar de você de uma conversa para outra. É útil, tem limites, e exige saber o que está guardado.
Vault: uma memória que é sua, não da ferramenta
Em vez de deixar o assistente decidir o que lembra, você mantém suas notas num lugar seu e dá a ele o acesso. É como funcionam as pessoas que usam IA de forma mais consistente.
RAG: buscar antes de responder
A técnica por trás de quase todo 'assistente que conhece os documentos da empresa'. O que é, por que reduz invenção, e onde ela falha.
Embeddings e busca por significado
Como um sistema acha 'atraso na entrega' quando você perguntou por 'pedido que não chegou'. A peça que faz o RAG funcionar, explicada sem matemática.
Fine-tuning, RAG ou só um bom pedido?
Três formas de fazer um assistente 'saber' das coisas da sua empresa. Custam coisas muito diferentes, e a mais cara quase nunca é a necessária.
Tokens, limites e custo
Por que o plano gratuito trava no meio da tarde, por que um documento longo custa mais, e como ler uma proposta de fornecedor que cobra por uso.
Os termos que você vai ouvir: um dicionário de mercado
LLM, modelo de fundação, open source, on-premise, guardrails, copiloto. O vocabulário das apresentações de fornecedor e das notícias, em uma frase cada.
Montar uma base de conhecimento na empresa
O vault em escala. O que separa uma base que os assistentes (e as pessoas) usam de uma pasta cheia de PDF que ninguém abre.
O que muda na privacidade quando a IA lembra
Memória entre conversas, vault conectado, base de conhecimento com RAG: cada um desses recursos guarda dados em algum lugar. A LGPD tem opinião sobre isso.