Comment un agent d'intelligence artificielle parvient-il à être véritablement intelligent ?

Pour être honnête, lorsque je vois des projets d'agents d'IA un peu partout, je me demande souvent : quelle est la distance entre ces systèmes soi-disant "intelligents" et une véritable pensée autonome ? Récemment, j'ai lu plusieurs analyses approfondies, en particulier le cas de Manus, qui était autrefois très populaire, et cela me pousse à réexaminer cette question. La véritable intelligence ne réside peut-être pas dans la quantité de choses qu'un système peut faire, mais dans sa capacité à apprendre en permanence et à s'auto-optimiser dans un scénario spécifique, voire à corriger ses propres erreurs sans intervention humaine. Cela me rappelle un dicton courant dans le domaine de la conduite autonome : la précision de la 99% est excellente en laboratoire, mais toutes les 100 fois sur la route réelle, il y aura un accident - un prix que personne ne peut se permettre.

Le cœur de l'intelligence : de la réponse réactive à la planification proactive

La plupart des agents d'IA en sont encore au mode "vous demandez, je réponds", comme une version avancée d'un moteur de recherche. Mais un agent véritablement intelligent devrait être capable non seulement de comprendre les instructions, mais aussi de planifier activement les étapes de la tâche, tout comme un assistant humain. Par exemple, lorsque vous demandez à un agent réellement intelligent de vous aider à préparer une réunion, il doit être capable de trouver automatiquement les informations pertinentes, de réserver des salles de conférence, de coordonner l'emploi du temps des participants et même, après la réunion, de rédiger le compte rendu et de suivre la liste des tâches à accomplir - c'est tout un ensemble de processus qui doivent être planifiés de manière dynamique, plutôt que des tâches individuelles. L'exécution.

Données et mémoire : pierres angulaires de l'évolution intelligente

Avez-vous remarqué que les agents d'IA d'aujourd'hui commettent souvent les mêmes erreurs ? Cela s'explique en fait par l'absence de mécanisme de mémoire. Les humains peuvent devenir de plus en plus intelligents parce qu'ils sont capables d'apprendre de leurs expériences passées. Les systèmes d'agents existants, même les meilleurs modèles comme GPT-4, se comportent souvent comme une "mémoire de poisson rouge" lorsqu'ils traitent des tâches complexes - chaque dialogue semble repartir de zéro. Un agent véritablement intelligent doit mettre en place un mécanisme d'apprentissage continu, par exemple grâce à la technologie RAG, pour transformer les résultats de chaque interaction en connaissances réutilisables, afin d'éviter de répéter les mêmes erreurs dans des scénarios similaires.

Le labour vertical profond : la véritable voie vers des terres intelligentes

Le cas de Manus nous enseigne une leçon importante : il ne faut jamais en avoir trop. L'"agent universel" qui prétend pouvoir tout faire finit par être incapable de se spécialiser dans un domaine précis. Au contraire, OpenEvidence dans le domaine médical, qui se concentre uniquement sur l'analyse de la littérature médicale, peut donner des conseils professionnels avec des citations. Ce domaine vertical de l'intelligence profonde, plutôt que ceux qui savent un peu de tout, "l'huile", a plus de valeur pratique. Après tout, dans le monde du travail réel, nous avons besoin d'une tâche spécifique pour réaliser l'expert ultime, plutôt qu'un profane connaissant un peu tout.

Systèmes d'évaluation : redéfinir les critères d'intelligence

Les résultats de l'étude de l'équipe HAL sont choquants : sur 36 cas de test, 21 ont montré qu'un effort de raisonnement plus important réduisait la précision ! Cela suggère qu'il est peut-être nécessaire de repenser la façon dont nous mesurons l'intelligence. Outre la précision, il convient de prendre en compte l'interprétabilité du comportement, la stabilité de l'accomplissement de la tâche et même la capacité à s'auto-corriger après avoir commis une erreur. Après tout, dans les applications réelles, un agent capable d'admettre ses erreurs et de les corriger est beaucoup plus fiable qu'un "génie" qui commet occasionnellement de grosses erreurs.

En fin de compte, pour que les agents d'IA parviennent à une véritable intelligence, ils devront peut-être abandonner leur obsession de la "généralité" et rechercher plutôt la profondeur et l'expertise dans des domaines spécifiques. À l'instar des experts humains, la véritable intelligence ne consiste pas à connaître les réponses à toutes les questions, mais à savoir comment trouver les meilleures solutions dans son propre domaine d'expertise et à être capable de continuer à s'améliorer au cours du processus. C'est peut-être la leçon la plus précieuse que Manus laisse à l'ensemble du secteur.