Limites de l'intelligence
Que peuvent faire les systèmes intelligents de manière fiable, où échouent-ils et quelles limites peuvent être détectées, réduites ou réparées ?
Limites de l’intelligence est l’axe de recherche d’inAi consacré aux limites des modèles d’IA actuels et des systèmes qui les entourent. Nous étudions le raisonnement et la généralisation, le contexte et la mémoire, l’incertitude et les hallucinations, l’évaluation, ainsi que la manière dont les outils, la recherche d’information, la vérification et l’orchestration peuvent réduire certaines défaillances tout en en créant d’autres.
Le titre décrit un horizon de recherche à long terme. Notre travail public actuel est plus restreint et plus pratique : il examine les systèmes de modèles et d'agents fonctionnant avec des informations incomplètes, un temps et un calcul finis, des outils imparfaits et des conséquences réelles lorsqu'ils se trompent.
L’intelligence n’est pas seulement ce qu’un système peut faire de mieux
Un système peut résoudre des problèmes difficiles et pourtant échouer à cause d’une légère modification de formulation. Il peut accepter un long contexte sans exploiter sa partie pertinente, continuer alors que les preuves disponibles sont épuisées, ou produire un résultat plausible sans reconnaître qu’il devrait s’arrêter. Dans un processus plus long, une décision faible peut se propager par la mémoire, les appels d’outils, la vérification et l’exécution.
Pour cette direction, la capacité n’est pas seulement le meilleur résultat qu’un système puisse produire. Cela inclut également les conditions dans lesquelles ce résultat reste fiable, la manière dont la défaillance devient visible, si le système peut se rétablir et ce qui se passe lorsque l'environnement devient plus nouveau, plus complexe, plus long ou incertain.
C’est pourquoi inAi étudie l’intelligence utile sous des contraintes réelles. Le coût et la latence ne sont pas, en eux-mêmes, de l’intelligence, mais ils comptent lorsqu’un système doit déterminer quelle quantité de raisonnement, de recherche d’information, de vérification ou de revue une tâche peut justifier. Une méthode qui améliore une réponse tout en rendant le processus trop lent, trop coûteux, opaque ou instable peut déplacer la limite plutôt que la supprimer.
L'anatomie d'une limite
Une limite n’est pas seulement le point où un système échoue. Elle concerne aussi la possibilité de détecter, contenir et réparer cette défaillance, puis d’en tirer des enseignements.
La grande question et la portée actuelle
Limites de l’intelligence est délibérément plus vaste qu’un seul benchmark ou qu’une seule technique. Avec le temps, cet axe peut inclure des questions théoriques et pratiques sur ce que les systèmes intelligents peuvent apprendre, généraliser, mémoriser, décider et accomplir.
Le programme actuel part des limites opérationnelles des systèmes modernes combinant modèles et agents. Il se concentre sur cinq domaines liés.
Raisonnement et généralisation
Comment les systèmes gèrent de nouveaux problèmes, des règles interactives, des ambiguïtés et des changements dans la structure des tâches – et où un raisonnement fluide devient fragile ou dépend de modèles familiers.
Contexte, mémoire et état
Comment les systèmes trouvent et utilisent le contexte pertinent, préservent les informations dans le temps, distinguent la mémoire utile du bruit et se rétablissent lorsque l’état stocké est incomplet ou erroné.
Incertitude et hallucination
Comment les systèmes se comportent lorsque les éléments probants sont manquants, contradictoires ou insuffisants ; si la confiance suit l’exactitude ; et quand la bonne action consiste à répondre, rechercher des informations, demander, s’abstenir ou s’arrêter.
Outils, recherche d’information et orchestration
Dans quels cas la décomposition, le routage, la recherche d’information, la mémoire, la vérification et l’utilisation d’outils améliorent les performances, et dans quels cas ils ajoutent une surcharge de coordination, de la latence, des coûts ou de nouveaux modes de défaillance.
Évaluation, réparation et fiabilité opérationnelle
Comment mesurer plus d'une seule réponse finale : cohérence entre les tentatives, achèvement à long terme, propagation des erreurs, réparabilité, traçabilité, robustesse, latence et coût.
Ces cinq domaines ne prétendent pas épuiser les limites de l’intelligence. Ils définissent le point de départ actuel d’un travail qu’inAi peut décrire et publier de manière responsable.
Questions qui guident l’agenda actuel
Une direction de recherche prend tout son sens lorsqu’elle s’organise autour de questions qui peuvent être examinées, remises en question et révisées. L'ordre du jour actuel est le suivant :
Quelles défaillances appartiennent au modèle de base et lesquelles sont créées ou amplifiées par le système environnant ?
Dans quels cas la décomposition, le routage, la recherche d’information, la mémoire, la vérification et le calcul supplémentaire au moment du test améliorent-ils le résultat, et dans quels cas ne font-ils que déplacer, masquer ou amplifier la défaillance ?
Un système peut-il reconnaître qu’il manque d’éléments probants et choisir de manière fiable entre répondre, rechercher des informations, utiliser un outil, demander une revue, s’abstenir ou s’arrêter ?
Comment la fiabilité évolue-t-elle à mesure que les tâches deviennent plus longues, plus nouvelles, plus interactives ou plus dépendantes d’outils imparfaits et d’un état stocké ?
Comment évaluer les systèmes intelligents alors que leur véritable utilité dépend de la cohérence, de la réparation, de la traçabilité, de la latence et du coût ainsi que de la qualité de la réponse finale ?
Quelles limites la conception du système peut-elle réduire, et lesquelles restent non résolues même lorsque l’on ajoute davantage de calcul, d’outils, de mémoire ou de coordination ?
Ces questions peuvent donner lieu à des articles de synthèse, des notes de recherche, des protocoles d’évaluation, des taxonomies de défaillances, des études comparatives ou des expériences. Un élément ne figurera comme publication publique que s’il existe et peut être étiqueté avec exactitude.
AGENDA EXAMINÉ : JUILLET 2026
Travaux publics en cours
La collection contient actuellement une publication publique substantielle. Elle traite d’un aspect important de cet axe, mais ne doit pas être lue comme une théorie complète de l’intelligence ni comme l’affirmation que l’orchestration surpasse toujours les modèles plus grands.
Limites de l'intelligence : orchestration vs capacité brute
Cette synthèse examine dans quels cas la décomposition en étapes, le routage tenant compte de l’incertitude, la recherche d’information, la mémoire, les couches de vérification et les boucles planifier–agir–vérifier améliorent le coût, la latence, la stabilité et l’auditabilité par rapport au seul recours à l’échelle brute du modèle. Elle examine aussi les anti-modèles et les questions ouvertes, notamment les vérificateurs imparfaits, les budgets de réparation, l’étalonnage multilingue et la recherche sélective d’information.
- Auteur institutionnel
- inAi
- Publié / dernière mise à jour
- 1 octobre 2025
- Période couverte par les éléments probants
- 2024–octobre 2025
- Statut de publication
- synthèse de recherche publiée
Il s’agit d’une synthèse de recherche d’inAi. Elle n’est pas présentée comme un article évalué par les pairs dans le cadre académique.
Lire l'aperçu de la rechercheAucune autre publication n’est répertoriée à ce stade. La collection doit se développer au moyen de publications réelles, et non de contenus fictifs.
Comment le travail dans cette direction est préparé
Les travaux de cet axe peuvent combiner revue de littérature, analyse de benchmarks, modélisation conceptuelle, conception d’évaluation, taxonomie des défaillances et observation appliquée. La méthode doit répondre à la question étudiée, et chaque publication doit indiquer sa période de preuves, ses sources, ses limites, son auteur, sa date de publication et son statut de revue.
Nous distinguons les résultats externes de l’interprétation inAi et traitons les preuves négatives ou contradictoires dans le cadre de la recherche. Les travaux sur les produits et l'Open Source peuvent exposer des questions utiles et des modes de défaillance, mais le résultat d'un produit ne constitue pas automatiquement un résultat de recherche général. La thèse de l’AGI en tant que système est un cadre à tester et à affiner, et non une conclusion que la recherche doit protéger.
Un document de synthèse, une note de recherche, un essai, une expérience, un protocole ou une analyse technique doivent être étiquetés comme ce qu'ils sont réellement. L’évaluation d’une entreprise ne doit pas être décrite comme une évaluation par des pairs universitaires.
Fondations sélectionnées et lectures complémentaires
Ces sources aident à situer cet axe dans son champ plus large. Elles ne remplacent pas la liste des sources qui accompagne chaque publication d’inAi, et leur présence ne signifie pas qu’inAi adopte chacune de leurs conclusions.
On the Measure of Intelligence — François Chollet, 2019
Un cadre pour réfléchir à l'intelligence à travers la généralisation et l'efficacité de l'acquisition des compétences plutôt que par la seule compétence liée à la tâche.
ARC-AGI-2: A New Challenge for Frontier AI Reasoning Systems — ARC Prize, 2025
Un benchmark conçu pour mettre à l’épreuve le raisonnement abstrait et la généralisation sur de nouvelles tâches qui restent accessibles à des personnes humaines.
Lost in the Middle: How Language Models Use Long Contexts — Liu et al., TACL, 2024
Montre qu’accepter un contexte long ne garantit pas l’utilisation fiable des informations qu’il contient.
Why Language Models Hallucinate — Kalai, Nachum, Vempala et Zhang, 2025
Une analyse des raisons pour lesquelles la formation et l'évaluation peuvent récompenser les suppositions au lieu de reconnaître l'incertitude.
Measuring AI Ability to Complete Long Tasks — METR, 2025
Une méthode pour évaluer la capacité de l'IA grâce à l'exécution fiable de tâches de durée croissante.
Test-time compute and verifier limits — Snell et al., 2024 ; Yu, Li et Wang, 2025
Travail complémentaire sur les cas où l'inférence supplémentaire et la recherche guidée par le vérificateur améliorent les performances, et où une vérification imparfaite crée des limites de mise à l'échelle.
Pourquoi c'est important pour AGI en tant que système
La position plus large d’AGI as a System donne le cadre de ces relations. Les outils, la mémoire, le retour d’information et la coordination peuvent réduire certaines limites des modèles, mais chaque couche supplémentaire crée aussi ses propres dépendances et modes de défaillance.
Limites de l’intelligence étudie ce compromis. Il ne s’agit pas de démontrer que les systèmes surpassent toujours les modèles pris isolément, mais de comprendre quand la conception d’un système étend les capacités, quand elle ne fait que déplacer le coût ou la défaillance, et quelles limites subsistent.
Là où la recherche compte dans la pratique
Pour les produits destinés aux agents, ce travail éclaire les questions d’état, de reprise, d’autorisations, de vérification et d’arrêt sûr. Pour Trust, il aide à distinguer plus clairement capacité, incertitude, maturité et preuves. Pour AI for Everybody, il apporte une base technique pour expliquer qu’une production fluide n’équivaut pas à une intelligence fiable.
Collaboration de recherche
inAi est ouvert à une collaboration sérieuse autour des protocoles d'évaluation, de la réplication, des limites de contexte long et de mémoire, de l'incertitude et de l'étalonnage, de la fiabilité des vérificateurs, des pannes et de la récupération des agents, ainsi que de la mesure opérationnelle des systèmes d'IA.
Les travaux pertinents peuvent inclure un examen défini conjointement, une critique externe d'un résultat existant, une évaluation comparative, une taxonomie des échecs, un protocole, une étude de réplication ou une expérience limitée. Une proposition utile doit identifier la question, la méthode, les résultats attendus, les responsabilités, les données ou les besoins en matière de confidentialité, et si le résultat est destiné à être rendu public.
L’objectif n’est pas de produire de la recherche pour l’apparence. Il est de réaliser des travaux qui rendent les limites des systèmes intelligents plus claires, plus vérifiables et plus utiles.