Comme les humains… les modèles d’intelligence artificielle sont vulnérables à la “pourriture cérébrale”
Au cours des dernières années, le terme « pourriture cérébrale » s’est largement répandu parmi les scientifiques et les experts de la santé pour décrire un état dans lequel une personne souffre de baisse de concentration, troubles de la mémoire et augmentation de l’anxiété et de la dépression, principalement à cause d’une consommation excessive de contenus superficiels ou de faible qualité, notamment sur Internet.
Des chercheurs avertissent aujourd’hui que ce phénomène pourrait également toucher les modèles d’intelligence artificielle, selon la revue Fortune.
Une étude récente (encore non publiée) a montré que l’exposition prolongée des grands modèles de langage à des publications courtes et virales provenant des réseaux sociaux provoque une détérioration cognitive permanente, se traduisant par une baisse de la capacité à raisonner en profondeur et à comprendre des contextes étendus.
Les chercheurs expliquent que ce type d’entraînement entraîne un phénomène appelé « saut de pensée » : les modèles échouent à construire une logique séquentielle dans leurs réponses et contournent les étapes nécessaires d’analyse mentale.
Même après avoir tenté de corriger cette dégradation en alimentant les modèles avec des données humaines de haute qualité, la baisse de performance restait évidente, avec un écart significatif entre leurs capacités avant et après l’exposition aux contenus courts.
Les auteurs de l’étude soulignent que l’impact de cette “pourriture cérébrale” semble profondément ancré dans ces modèles et pourrait être durable, d’autant plus que l’IA est entraînée sur des trillions de données circulant sur Internet, ce qui la rend particulièrement vulnérable à ce qu’ils appellent une pollution cognitive.
