La « bouillie d’IA » est un nouveau terme qui s’impose dans le débat technologique avec la montée en puissance des outils d’intelligence artificielle générative. Cette expression désigne l’accumulation massive de textes, d’images et de vidéos produits automatiquement par des machines. Le plus souvent sans contrôle humain et avec une qualité discutable.
Une production infinie, mais peu fiable
Les modèles d’IA génèrent du contenu à une grande vitesse. Mais cette performance cache des limites importantes : la répétition et le manque de profondeur. La « bouillie d’IA » regroupe ainsi des articles remplis de phrases génériques, des images artificielles sans contexte ou encore des données approximatives.
Ce phénomène n’est pas une simple hypothèse. Il est déjà une réalité dans plusieurs secteurs. L’un de ces secteurs est celui du référencement (SEO). En effet, des sites publient des milliers d’articles de blog générés à la chaîne pour tenter de se classer sur Google. On le constate également dans l’e-commerce, avec des fiches produits qui manquent de détails ou de nuances essentielles, parce que rédigées par des IA. Des plateformes comme Reddit et Wikipedia ont également mis en garde contre l’afflux de contenus générés par des machines qui diluent l’authenticité et la pertinence de l’information.
À mesure que ces contenus circulent, ils se mélangent à ceux qui existent déjà et alimentent à nouveau d’autres systèmes d’IA et la chaîne se perpétue. Ce phénomène est connu sous le nom de “Model Collapse” ou effondrement de modèle.
Le Model Collapse, une conséquence de la “Bouillie d’IA”
Pour comprendre la notion de “Model Collapse”, voici un scénario simple en 4 étapes :
- Un modèle d’IA génère des images d’un chat. Certaines de ces images sont de bonne qualité, d’autres non. Puis, ce contenu est rendu accessible.
- Un nouveau modèle est entraîné sur une base de données qui contient les images générées par le premier modèle, en plus des photos réelles de chats.
- Le deuxième modèle, en apprenant, ne peut pas toujours faire la différence entre les vraies photos et les images générées. Il va reproduire les erreurs, les biais et les imperfections du premier modèle.
- Au fil des générations de modèles, qui s’entraînent de plus en plus sur des données synthétiques, la qualité se dégrade. Les images de chats deviennent de moins en moins ressemblantes à la réalité, jusqu’à ce que les modèles deviennent inutiles.
C’est ce cercle vicieux qui fait craindre une dégradation progressive de l’ensemble de l’écosystème numérique. La bouillie d’IA n’est pas seulement un amas de contenus sans saveur : elle menace la crédibilité même du web.
Face à cette dégradation progressive de l’information, une question se pose. Comment sauver l’intégrité du web ? Quelques éléments de réponse, avec des exemples concrets et des solutions déjà en cours, dans la deuxième partie de ce dossier.
