inAiLoading page content...
inAiLoading page content...
Programme de recherche
Nous étudions comment les piles de décomposition, de routage, de vérification et de récupération surpassent l'échelle des paramètres bruts en termes de coût, de latence et de stabilité tout en garantissant la qualité.
Ceci est la vue d’ensemble approfondie existante sur les limites de l’intelligence. La page de collection reste le point d’entrée le plus clair pour cet axe de recherche.
Données utilisées : octobre 2025
Les couches d'orchestration (décomposition par étapes, routage tenant compte de l'incertitude, décodage guidé par le vérificateur, récupération/mémoire et boucles plan-action-vérification) correspondent ou battent des modèles monolithiques plus grands à qualité égale tout en améliorant le €/tâche, les secondes par tâche et la stabilité. Nous publions une synthèse des preuves pour la période 2024-octobre 2025, un modèle de profondeur de décomposition par rapport à la capacité avec une analyse en cascade d'erreurs et de réparation, des deltas d'ablation entre les routages et les vérificateurs, et des intégrations de produits qui réduisent les coûts et les écarts sans perdre en auditabilité.
L'analyse comparative a mûri autour des plans coût-qualité et des compromis en matière de latence. RouterBench et FrugalGPT quantifient la dispersion des prix entre modèles ; Le travail d'inférence de calcul optimal recadre la mise à l'échelle comme une dépense accrue en inférence. Les piles de vérificateurs exposent à la fois les gains et les défauts de mise à l'échelle ; la prédiction conforme et le réglage de l’étalonnage garantissent l’honnêteté des routeurs. La récupération sélective surpasse le RAG permanent, tandis que la planification tenant compte de la vérification et le décodage spéculatif récupèrent la surcharge d'orchestration.
Routage & cascades
RouterBench et FrugalGPT établissent des frontières coût-qualité ; les politiques et les cascades apprises correspondent à une qualité de niveau GPT-4 avec un coût allant jusqu'à -98 %.
RouterBench (Mar 2024) · FrugalGPT (Dec 2024)
Calcul du temps de test
Les études d'inférence de calcul optimal montrent que des modèles plus petits avec une recherche arborescente battent des lignes de base 14 fois plus grandes sous des FLOP correspondants.
Wu et coll., Snell et coll. (ICLR 2025)
Piles de vérificateurs
Les modèles de récompense de processus, les modèles de résultats et la supervision automatisée augmentent la précision avec moins d'échantillons mais nécessitent des stratégies de classement robustes.
NeurIPS 2024-2025
Incertitude et étalonnage
La prédiction conforme s'adapte aux LLM pour garantir la couverture ; le réglage de l'étalonnage améliore les signaux de déclenchement pour les cascades.
NeurIPS 2024 · ACL 2024
Récupération sélective
RAFT et RAG à auto-routage réduisent les appels de récupération d'environ 29 % tout en augmentant la précision d'environ 5 pp, réduisant ainsi les jetons et les dépenses.
arXiv 2024-2025
Planificateur-exécuteur-vérificateur
Les plans prenant en compte la vérification codent les chèques qui déclenchent la restauration ; les crochets de vérification battent les agents monolithiques d'action uniquement.
arXiv 2024-2025
Schéma de la frontière de Pareto : l'orchestration réduit les €/tâche et les secondes/tâche tout en maintenant la parité de qualité.
La profondeur de décomposition augmente la région gagnante pour les piles 8B orchestrées par rapport aux monolithes plus grands ; rapportent une précision associée à des intervalles de confiance.
| Classe de tâches | Modèles ou pile | Qualité / taux de réussite | Écart | Latence | €/tâche | Jetons/tâche | Source |
|---|---|---|---|---|---|---|---|
| Routage multi-LLM | Routeurs RouterBench vs LLM uniques | Précision comparable ; Répartition des coûts de 2 à 5 fois | — | — | varie de 2 à 5× | — | RouterBench (mars 2024) |
| Cascade d'API | Cascade FrugalGPT → GPT-4 | Correspond à GPT-4 ; −98 % de coût | — | — | −98% | — | TMLR (décembre 2024) |
| Raisonnement mathématique | Llemme-7B + recherche arborescente vs Llemme-34B | 7B+recherche > 34B sous les FLOP correspondants | — | + budgétisé | — | + échantillons | ICLR (avril 2025) |
| Optimisation de la latence | Draft-&-Verify, cascade-spéculatif | Qualité comparable | — | ≈2 à 3 fois plus rapide | ↓ | — | LCA et NeurIPS (2024) |
| Mixture-of-agents | Ensembles de modèle ouvert vs GPT-4 Omni | 65,1 % contre 57,5 % de taux de victoire jugé | — | — | — | — | arXiv (juin 2024) ; ICLR (janvier 2025) |
| Récupération sélective | RAG à routage automatique | Précision de +5,1 pp ; −29 % de récupérations | — | ↓ | ↓ | ↓ contexte | arXiv (avril 2025) |
| Composant | Échange / ablation | ΔQualité | ΔVariance | Impact coût/latence | Source |
|---|---|---|---|---|---|
| Multi-échantillon (k) | 1 → k voix | ↑ (en fonction de la tâche) | ↓ | + jetons, + secondes | ICLR (avril 2025) |
| Auto-cohérence à arrêt précoce | Désactivé → activé | ≈ qualité | ≈ | −34 à 84 % d'échantillons | Résultats-ACL (novembre 2024) |
| Choix du vérificateur | ORM → PRM/OVM | ↑ précision | ↓ | − échantillons | NeurIPS et LCA (2024-2025) |
| Filtre conforme | Désactivé → activé | Garantie de couverture | ↓ variance FP | + petite seconde | NeurIPS (octobre 2024) |
| RAG sélectif | Toujours → fermé | ↑ précision | — | ↓ jetons | arXiv (mars-juin 2024) |
| Décodage spéculatif | Désactiver → activer | ≈ qualité | — | ≈2 à 3 fois plus rapide | LCA et NeurIPS (2024) |
La variance des graines sur les critères de raisonnement est élevée ; exécutez ≥30 graines avec des intervalles de confiance. Combinez l'autocohérence avec le reclassement guidé par le vérificateur pour stabiliser l'acceptation. Suivez la latence p95/p99 lorsque le décodage spéculatif est activé afin que la surcharge d'orchestration n'érode pas les objectifs de niveau de service.
Les systèmes de produits peuvent utiliser des mémoires de glossaire, des mémoires de trace et une récupération sélective pour joindre des preuves aux sorties. Les piles de vérificateurs peuvent bloquer les décisions de publication ; des filtres conformes peuvent régir l’abstention ; les moniteurs de régression avec les règles WECO peuvent déclencher une restauration. Les économies de coûts peuvent être réalisées grâce à des cascades qui sélectionnent des modèles moins chers pour des attributs simples, tout en passant à des modèles coûteux uniquement lorsque les objectifs d'acceptation l'exigent.
Année des données : octobre 2025 · Dernière mise à jour le 01 octobre 2025