Daremos continuidade ao nosso artigo de RAG e Agentes, detalhando os Agentes e Memória. Agentes Visão geral do agente Um agente é qualquer coisa que possa perceber seu ambiente e agir sobre esse ambiente. Isso significa que um agente é caracterizado pelo ambiente em que opera e o conjunto de ações que pode executar. O…
Para um determinado aplicativo, as instruções do modelo são comuns a todas as consultas, enquanto o contexto é específico para cada consulta. Textos anteriores discutiram como escrever boas instruções para o modelo. Este capítulo se concentra em como construir o contexto relevante para cada consulta. Dois padrões dominantes para a construção de contexto são RAG,…
Daremos continuidade ao nosso artigo de Engenharia de Prompt focando no aspecto da segurança, necessário ao desenvolvimento de nossas aplicações. Engenharia defensiva de prompts Após a disponibilização de sua aplicação, ela pode ser utilizada por usuários bem ou mal intencionados, que podem tentar explorá-la. Há três tipos principais de ataques de prompt a se defender:…
A engenharia de prompt refere-se ao processo de elaboração de uma instrução que consiga um modelo para gerar o resultado desejado. A engenharia de prompt é a técnica de adaptação de modelo mais fácil e mais comum. Você deve tirar o máximo proveito do prompt antes de tentar outras técnicas que consumam mais recursos, como…
Navegando por Benchmarks Públicos Há milhares de benchmarks para avaliar diferentes capacidades de modelos. Com a explosão de casos de uso de IA, o número de benchmarks cresce rapidamente. À medida que os modelos evoluem, benchmarks antigos se saturam, exigindo novos. Uma ferramenta que avalia modelos em vários benchmarks é chamada de evaluation harness (estrutura de avaliação)…