Réponses rapides pour les décisions d’ingénierie AI

Choisissez la question à laquelle vous devez répondre. Chaque guide fournit une première recommandation, explique dans quels cas elle change et renvoie vers un article détaillé. Il s’agit de choix à tester sur votre propre tâche, et non d’un classement de solutions universellement gagnantes.

Agents AI

• Ai-je besoin d’un agent ou d’un workflow fixe ?

  Utilisez un workflow fixe lorsque vous pouvez définir les étapes et les branches. Envisagez des étapes choisies par le modèle lorsque des règles fixes ne permettent pas de gérer la tâche de manière fiable.

• Avec quel framework d’agent devrais-je commencer ?

  Choisissez en fonction du contrôle dont vous avez besoin sur les étapes, la progression sauvegardée et la reprise après erreur. Comparez un petit SDK à un workflow fondé sur un graphe avant d’ajouter d’autres composants.

• Quel outil d’évaluation d’agent devrais-je utiliser ?

  Commencez par définir l’objectif : inspecter les exécutions, tester des changements ou vérifier les actions des outils. Un outil peut vous aider à exécuter vos tests ; vous devez néanmoins définir ce qu’est une tâche réussie.

• Comment sécuriser un agent AI ?

  Limitez ce que ses outils peuvent faire. Vérifiez les permissions avant toute action, isolez l’exécution du code et demandez une approbation lorsque les conséquences le justifient.

• Dois-je utiliser le function calling, MCP, une CLI ou des skills ?

  Ces mécanismes répondent à des objectifs différents et peuvent être combinés. Choisissez séparément la manière d’exposer un outil et les instructions qui expliquent quand l’utiliser.

• Dans quels cas le raisonnement guidé par un schéma est-il utile ?

  Utilisez-le lorsque vous devez vérifier des champs intermédiaires avant d’exécuter une action. Une structure valide nécessite tout de même des contrôles des éléments probants et des règles applicatives.

Recherche et documents

• Quel modèle de NER convient à mes entités ?

  Commencez par vos étiquettes et vos exemples. Les étiquettes stables, les étiquettes qui changent, les fragments qui se chevauchent et les faits inférés sur plusieurs phrases nécessitent des tests différents.

• Quel outil d’OCR convient à mes documents ?

  Testez le type de sortie dont vous avez besoin : texte, ordre de lecture, tableaux ou champs spécifiques. Les scans propres et les mises en page complexes peuvent nécessiter des approches différentes.

• Ai-je besoin de RAG basique, d’agentic RAG ou de GraphRAG ?

  Commencez par une seule passe de recherche. Envisagez une recherche répétée lorsque les questions suivantes dépendent des résultats précédents, ou GraphRAG lorsque vous avez besoin de synthèses sur l’ensemble d’une collection.

• Quels outils et métriques d’évaluation de RAG devrais-je utiliser ?

  Évaluez séparément les éléments probants récupérés et la réponse générée. Choisissez les métriques en fonction de l’échec que vous devez détecter et des données de référence dont vous disposez.

• Quand dois-je ajouter des embeddings ou un reranker ?

  Mesurez d’abord une référence fondée sur la recherche par mots-clés. N’ajoutez une étape que lorsqu’elle corrige un problème mesuré de recherche ou de classement dans les limites de temps dont vous disposez.

Modèles et outils locaux

• Quel outil LLM local devrais-je utiliser sur macOS ?

  Choisissez en fonction de votre mode de travail : interface de bureau, API locale ou code Python. Vérifiez que le modèle sélectionné s’exécute réellement sur votre Mac.

• Quel format de quantification de LLM devrais-je utiliser ?

  Vérifiez d’abord ce que votre runtime et votre matériel prennent en charge. Comparez ensuite l’utilisation mémoire, la vitesse et la qualité sur votre tâche.

• Dois-je utiliser un prompt, du RAG ou du fine-tuning ?

  Essayez les prompts pour les instructions, la recherche pour les connaissances manquantes et le fine-tuning pour un comportement que vous pouvez démontrer à l’aide d’exemples. Vous pourriez avoir besoin de plusieurs de ces approches.

Questions d’ingénierie LLM

Ces réponses couvrent les 45 sujets du Guide d’ingénierie LLM. Commencez par une question, puis suivez le lien vers le guide pour consulter les équations, les diagrammes et le contexte général. La réponse existante sur la quantification figure plus haut, sous Modèles et outils locaux.

Matériel GPU

• Pourquoi le décodage LLM est-il limité par la mémoire et le prefill par le calcul ?
• Comment la hiérarchie mémoire des GPU influence la vitesse d’inférence LLM
• Quelles caractéristiques matérielles des GPU comptent pour le serving LLM ?

Latence et mémoire d’inférence

• Comment mesurer la latence LLM avec TTFT, TPOT et P99
• Débit LLM et goodput : quelle métrique utiliser ?
• Quelle quantité de mémoire KV cache une requête LLM nécessite-t-elle ?
• Prefill et décodage : pourquoi l’inférence LLM comporte deux phases
• MHA, MQA et GQA : comment l’attention modifie l’utilisation de la mémoire KV

Optimisations d’inférence

• Comment la fusion des kernels CUDA améliore la vitesse d’inférence LLM
• Ce que FlashAttention change dans l’inférence des transformers
• Qu’est-ce que Flash-Decoding et quand accélère-t-il les LLMs ?
• Regroupement continu ou statique : comment fonctionne l’ordonnancement LLM
• Que change PagedAttention dans l’allocation de la mémoire KV des LLM ?
• Quand le décodage spéculatif accélère-t-il le serving LLM ?
• Comment la mise en cache des préfixes réutilise les prompts LLM et les tokens en cache
• Comment diffuser les réponses LLM avec SSE et des fragments de données d’utilisation

Architecture des modèles et tokenisation

• Quelles opérations une couche décodeur de transformer exécute-t-elle ?
• Modèles encodeurs ou décodeurs : quelle architecture convient ?
• Paramètres totaux et actifs de MoE : de quelle mémoire avez-vous besoin ?
• BPE, SentencePiece et tiktoken : quelles différences entre les tokeniseurs
• Ce que limitent les fenêtres de contexte LLM et comment RoPE les étend

Entraînement et alignement

• Préentraînement et fine-tuning : en quoi les étapes des LLM diffèrent-elles ?
• LoRA ou QLoRA : quelle méthode de fine-tuning utiliser ?
• BF16, FP16 ou FP8 : dans quel format entraîner le modèle ?
• Recalcul des activations : comment économise-t-il la mémoire GPU ?
• Étapes de DeepSpeed ZeRO : quel état d’entraînement est réparti ?
• FSDP ou DeepSpeed ZeRO : lequel convient à ma configuration d’entraînement ?
• Lois d’échelle de Chinchilla : davantage d’entraînement réduit-il le coût des LLM ?
• RLHF, DPO et GRPO : en quoi les méthodes d’alignement diffèrent-elles ?
• Distillation LLM : comment les petits modèles apprennent-ils des modèles enseignants ?
• Données d’entraînement synthétiques : comment générer des exemples utiles ?

Déploiement et sélection des modèles

• Parallélisme LLM : en quoi TP, PP, DP et EP diffèrent-ils ?
• Frameworks de serving LLM : comment choisir un runtime ?
• Choix des GPU pour les LLMs : de quelle quantité de mémoire GPU ai-je besoin ?
• Routage et cascades de LLM : quel modèle traite une requête ?

Recherche, agents et prompts

• Modèles d’embedding et modèles génératifs : que produit chacun ?
• Pipeline RAG en production : quelles étapes évaluer ?
• ReAct ou ReWOO : quel schéma d’exécution d’agent convient ?
• Prompt engineering en production : comment tester les changements ?

Exploitation en production

• Comment les APIs LLM doivent-elles limiter les requêtes, les tokens et la concurrence ?
• Quelles sont les causes des pannes de serving LLM et comment les corriger ?
• Quelles métriques surveiller dans un système de serving LLM ?
• Comment réduire les coûts LLM sans diminuer la qualité des réponses ?
• Comment planifier la capacité GPU et l’autoscaling pour les LLMs ?

Pour les explications complètes, consultez les articles détaillés.