Les systèmes d’IA générative pourraient bientôt être capables de passer des examens de doctorat grâce à une mémoire plus « durable » et des opérations de raisonnement plus robustes, a révélé le CTO de Microsoft, Kevin Scott, lors d’un Berggruen Salon à Los Angeles avec Reid Hoffman plus tôt cette semaine.
« Il est assez étrange actuellement que ces interactions avec les agents et la mémoire soient entièrement épisodiques », a-t-il déploré. « Vous avez une transaction, vous faites une chose. C’est utile ou non pour la tâche en cours, puis l’IA oublie tout ». Le système d’IA n’apprend pas et ne se souvient même pas des interactions précédentes avec l’utilisateur, a-t-il poursuivi. « Il n’y a aucun moyen de se référer à une chose que vous avez essayé de faire résoudre [par l’IA] dans le passé ».
Cependant, Scott reste optimiste : « Nous voyons techniquement toutes les choses se mettre en place pour avoir des mémoires vraiment durables avec les systèmes ». Avec une mémoire plus persistante, les futurs systèmes d’IA pourront répondre plus naturellement et plus précisément sur plusieurs conversations plutôt que d’être limités à la session actuelle.
OpenAI a annoncé en février qu’il commençait à tester un nouveau système de mémoire persistante, le déployant auprès de certains utilisateurs gratuits et abonnés Plus. Activer cette fonctionnalité permet à l’IA de se souvenir des préférences de ton, de voix et de format entre les conversations ainsi que de faire des suggestions dans de nouveaux projets basés sur des détails mentionnés dans des discussions précédentes.
Scott était également optimiste quant à l’amélioration de la « fragilité » constatée dans le raisonnement de nombreux systèmes d’IA actuels. « Elle ne peut pas résoudre des problèmes mathématiques très complexes », a-t-il expliqué. « Elle doit faire appel à d’autres systèmes pour des tâches très compliquées ».
Les systèmes d’IA surpassent déjà leurs homologues humains
« Le raisonnement, je pense, s’améliore beaucoup », a-t-il poursuivi. Il compare GPT-4 et la génération actuelle de modèles à des lycéens passant leurs examens. Cependant, la prochaine génération d’IA « pourrait être celle qui passerait votre examen de qualification ».
À ce jour, les systèmes d’IA générative ont surpassé leurs homologues humains dans divers formats d’examens et de tâches. En novembre dernier, par exemple, GPT-4 a passé l’examen de déontologie multistate (MPRE), mieux connu sous le nom d’examen du barreau, avec 76 % de bonnes réponses — soit six points de plus que la moyenne nationale pour les humains.
Scott a rapidement souligné que former des IA génératives à passer des examens de doctorat « semble probablement plus important que ça ne l’est réellement… le vrai test sera ce que nous choisissons d’en faire ».
Scott était particulièrement enthousiaste de voir les barrières à l’entrée tomber si rapidement. Il a noté que lorsqu’il s’est lancé dans l’apprentissage automatique il y a deux décennies, son travail nécessitait des connaissances de niveau supérieur, des piles et des piles de « papiers techniques très intimidants et compliqués pour comprendre comment faire ce qu’il voulait faire », et environ 6 mois de codage. Cette même tâche aujourd’hui, a-t-il dit, « un lycéen pourrait la faire un samedi matin ».
Accélérer la démocratisation de l’IA avec Microsoft et les autres
Ces barrières à l’entrée abaissées vont probablement accélérer la démocratisation de l’IA, a conclu Scott. Trouver des solutions aux crises sociales, environnementales et technologiques auxquelles l’humanité est confrontée ne doit pas — et ne peut pas — être la seule responsabilité « des personnes travaillant dans les entreprises technologiques de la Silicon Valley ou des personnes diplômées de doctorats des cinq meilleures universités », a-t-il dit. « Nous avons 8 milliards de personnes dans le monde qui ont aussi des idées sur ce qu’elles veulent faire avec des outils puissants, si elles y avaient accès ».
