Le rapport publié récemment par Apple a fait l'effet d'une bombe dans le milieu de l'IA. Dans ce résultat d'étude menée par plusieurs chercheurs, dont Sam Bengio, frère de l'expert mondialement connu Yoshua Bengio, attire l'attention des lecteurs sur les limites auxquelles font face les LLM/LRM (Large Language Model/Large Reasoning Model), qui ont tendance à échouer lorsque la complexité du problème à résoudre augmente. L'étude montre entre autre comment ces agents IA peinent à trouver une solution au jeu classique des Tours de Hanoi. Les partisans de l'IA ont vertement critiqué les faiblesses de l'étude alors que les médias grands publics ont fait une large place à cette étude, provenant, rappelons-le, d'un des grands joueurs de la technologie. Gary Marcus, auteur de The Algebraic Mind, professeur à NYU, dont les propos ont été publiés par The Guardian, estime qu'il faut aborder la question avec nuance:  

«Toute personne qui pense que les LLMs représentent un chemin direct vers une AGI (Intelligence artificielle générale) capable de transformer radicalement la société pour le bien commun se berce d’illusions.
Cela ne signifie pas que les réseaux neuronaux sont morts, ni que le deep learning est arrivé à sa fin.

L’IA ne se heurte pas à un mur. Mais les LLMs, probablement si — ou du moins ils atteignent un point de rendements décroissants. 

Nous avons besoin de nouvelles approches, et de diversifier les voies qui sont explorées activement.»

Lire cet entretien avec Gary Marcus paru dans Le Grand Continent (en français).