Slava Dubrov Edge of Context
Buscar

Respostas rápidas para decisões de engenharia de AI

Tradução automática Este artigo foi traduzido automaticamente a partir da versão original em inglês.

Consulte esta secção quando precisar de uma resposta curta antes de avançar para uma análise aprofundada. Cada guia apresenta uma opção predefinida prática, os compromissos envolvidos e uma ligação para o artigo completo, quando os detalhes são importantes.

O arquivo do blog mantém o foco em artigos longos. As respostas rápidas são guias de decisão mais curtos.

AI agents

PerguntaResposta curtaGuiaAnálise aprofundada
Com que framework de agentes devo começar?Comece com agentes LangChain para uma abordagem de alto nível, LangGraph para gerir explicitamente o estado, ou um framework alinhado com as necessidades de retrieval e da plataforma do produto.Melhores frameworks para AI agentsCiclos de raciocínio de AI agents
Que ferramenta de avaliação de agents devo usar?Use Phoenix para tracing aberto, LangSmith para um workflow gerido, DeepEval para CI em Python ou Promptfoo para matrizes locais e testes de red team.Melhores ferramentas de avaliação de AI agentsAvaliação de agents: de traces a suites de testes
Como devo proteger um AI agent?Comece por limitar o poder: ferramentas restritas, verificações de políticas antes dos tool calls, sandboxes, credenciais com âmbito limitado, aprovações, controlos de egress e traces.Checklist de segurança para AI agentsSegurança de AI agents
Que interface de ferramentas devo usar?Use function calling dentro de uma única aplicação, MCP para servidores reutilizáveis, uma CLI para comandos maduros ou skills para instruções de workflow reutilizáveis.Interfaces de ferramentas para AI agentsTool use em AI agents

Engenharia de modelos e infraestrutura

PerguntaResposta curtaGuiaAnálise aprofundada
Que ferramenta de LLM local devo usar no macOS?Compare Ollama, LM Studio, llama.cpp e MLX-LM segundo o workflow, o artefacto, o controlo do runtime e a margem de memória.Ferramentas de LLM local no macOSLLMs locais no macOS
Que representação de quantização devo usar?Escolha primeiro o runtime e o hardware; GGUF, AWQ, GPTQ, FP8 e NF4 descrevem camadas ou objetivos diferentes.Formatos de quantização de LLMsGuia de quantização de modelos
Devo usar prompting, RAG ou fine-tuning?Use prompts para instruções, RAG para conhecimento e evidência que mudam, e fine-tuning para comportamentos repetíveis.Fine-tuning vs RAG vs promptingGuia de fine-tuning de LLMs

Retrieval e sistemas de linguagem

PerguntaResposta curtaGuiaAnálise aprofundada
Que stack de avaliação de RAG devo usar?Comece por métricas determinísticas por etapa e, depois, adicione juízes calibrados e verificações específicas do produto.Melhores ferramentas de avaliação de RAGMétricas de avaliação de RAG
Que modelo de OCR devo usar para document AI?Use OCR clássico para impressão nítida, um parser especializado para páginas estruturadas e um document VLM quando for necessário raciocínio visual.Melhores modelos de OCRGuia de OCR
Que modelo de NER devo usar?Use spaCy para labels estáveis, GLiNER para labels que mudam, um encoder supervisionado quando tiver dados ou um LLM para registos que exigem muito raciocínio.Melhores modelos de NERGuia de NER
Que stack de ranking de pesquisa devo criar?Comece com BM25, adicione recall denso, combine resultados complementares e, depois, faça reranking de uma shortlist limitada pela latência.BM25 vs embeddings vs rerankersStack de ranking de pesquisa

Todas as respostas rápidas 11

  3. Engenharia de modelos · Sistemas de recuperação e linguagem

    Fine-Tuning vs RAG vs Prompting: qual deve utilizar?

    Escolha prompting, retrieval-augmented generation ou fine-tuning consoante o problema esteja nas instruções, no conhecimento em mudança ou no comportamento do modelo.

    · 3 min