«Treinar a IA com os nossos documentos» é um pedido frequente. Pode referir-se a vários objetivos: encontrar um procedimento atualizado, usar vocabulário específico, seguir um formato ou realizar uma tarefa especializada. A solução técnica depende do resultado pretendido.
O RAG fornece fontes no momento da resposta
A geração aumentada por recuperação, habitualmente chamada RAG, recupera excertos relevantes de fontes autorizadas e fornece-os ao modelo para o ajudar a responder. O sistema tem de gerir a incorporação de documentos, a divisão em blocos, a pesquisa e a apresentação de referências. Os pesos do modelo não mudam necessariamente.
Para um assistente documental, esta abordagem permite atualizar uma coleção sem voltar a treinar o modelo sempre que um procedimento muda. Continua a ser necessário gerir a remoção de versões desatualizadas, a sincronização e o controlo de acesso. A qualidade da resposta também depende de encontrar o excerto certo.
O fine-tuning adapta um modelo existente
O fine-tuning prossegue o treino de um modelo previamente treinado, utilizando um conjunto de dados destinado a uma tarefa ou domínio. A documentação da Hugging Face distingue-o do treino com pesos inicializados aleatoriamente.
Pode valer a pena estudá-lo quando uma necessidade repetida diz respeito, por exemplo, a uma estrutura de saída ou a uma tarefa especializada difícil de estabilizar apenas com instruções. Exige bons exemplos, direitos de utilização claros e uma avaliação separada dos dados de treino. O seu valor deve ser medido face a uma solução mais simples.
Começar por uma comparação concreta
Considere três pedidos fictícios. Uma equipa quer encontrar o procedimento de reembolso aplicável: a atualidade e a citação das fontes apontam primeiro para a recuperação documental. Outra quer um objeto estruturado que respeite um esquema: instruções e validação automática podem ser suficientes. Uma terceira quer melhorar de forma duradoura uma tarefa de negócio repetida: o fine-tuning pode tornar-se uma opção se os testes iniciais revelarem uma diferença mensurável.
Estas situações são exemplos para raciocinar, não regras universais. Um sistema pode combinar várias abordagens. No entanto, acrescentá-las todas desde o início aumenta o número de componentes a manter e avaliar.
Testar separadamente a recuperação e a resposta
Quando um assistente dá uma má resposta, o modelo nem sempre é a primeira causa. O documento pode estar em falta, o índice desatualizado, o excerto incompleto ou o acesso negado. Separar estas etapas ajuda a identificar o problema certo a corrigir. O guia da Hugging Face sobre avaliação de RAG mostra como um conjunto de referência de perguntas e respostas pode ajudar a observar alterações num sistema.
A nossa lista prática inclui perguntas simples, pedidos que combinam duas fontes, documentos contraditórios e perguntas sem resposta disponível. Verifica também que os utilizadores não conseguem obter um excerto que não estão autorizados a ler. Os exemplos devem refletir as condições de trabalho, incluindo as falhas esperadas.
Não confundir especialização com segurança
Um documento recuperado pode conter instruções maliciosas. A OWASP descreve este risco de injeção indireta e recomenda várias camadas de proteção. Nem o RAG nem o fine-tuning eliminam a necessidade de limitar as ferramentas disponíveis, validar os seus parâmetros e controlar as ações sensíveis no servidor.
Para preparar um projeto, comece por casos representativos e critérios de sucesso. A nossa página de treino e adaptação de modelos explica as etapas do trabalho. O objetivo é escolher uma arquitetura justificada pelos resultados e depois documentar como será operada.
