Un paradoxe apparent du développement de l’intelligence artificielle moderne est qu’elle peut à la fois progresser seule, en générant des milliers d’essais puis en sélectionnant les meilleurs, comme une évolution accélérée, et s’appauvrir si elle se nourrit en boucle de ses propres contenus.
Des garde-fous sont donc nécessaires : test de code, preuve, partie gagnée, correction humaine ou mesure expérimentale. Sans critère externe fiable, les contenus synthétiques recyclés peuvent lisser les cas rares, amplifier les biais et mener au “model collapse”.
Commentaires préférés (2)
C'est d'ailleurs une des raisons pour lesquelles certains générateurs d'images donnent un teint très jaunes à leurs images, c'est parce qu'ils se nourrissent d'images elles-mêmes générés par IA qui ont de base tendances à prendre un leger teints jaunes, à la manière d'une photocopie de photocopie de photocopie., qui devient de plus en plus noir.
Je risque d'assez mal expliquer ma pensée mais je vois dans cette anecdote un parallèle assez flagrant avec la consanguinité chez les humains :
Dans un premier temps on a une concentration des richesses et une descendance généralement plus nombreuse mais très rapidement le manque de brassage génétique vient appauvrir la diversité du génome et sur représenter les anomalies, amenant à l'effondrement de la lignée
Tous les commentaires (6)
C'est d'ailleurs une des raisons pour lesquelles certains générateurs d'images donnent un teint très jaunes à leurs images, c'est parce qu'ils se nourrissent d'images elles-mêmes générés par IA qui ont de base tendances à prendre un leger teints jaunes, à la manière d'une photocopie de photocopie de photocopie., qui devient de plus en plus noir.
Je découvre le terme "model collapse" JMCMB x2 :)
Comme souvent je partage mes (courtes) recherches car je ne dois pas être le seul...
"Le model collapse (ou effondrement de modèle) désigne la dégradation irréversible des performances des modèles d’IA générative lorsqu’ils sont entraînés sur des données synthétiques produites par des versions antérieures de l’IA. Ce phénomène provoque une perte de diversité et une réduction de la variance, conduisant à des résultats homogénéisés, répétitifs et moins précis."
Voici un lien pour les plus curieux... et pour découvrir un nouveau terme : "curation humaine"
www.inria.fr/fr/risque-effondrement-collapse-ia-generatives
J’aime beaucoup cette image de « photocopie de photocopie de… » je la trouve très adaptée à ce problème
Je risque d'assez mal expliquer ma pensée mais je vois dans cette anecdote un parallèle assez flagrant avec la consanguinité chez les humains :
Dans un premier temps on a une concentration des richesses et une descendance généralement plus nombreuse mais très rapidement le manque de brassage génétique vient appauvrir la diversité du génome et sur représenter les anomalies, amenant à l'effondrement de la lignée
Pour celles et ceux que ça intéresse, Éric Sadin, un écrivain et philosophe d'une cinquantaine d'années, a publié quelques ouvrages sur les nouvelles technologies et leurs impacts sur les sociétés et l'humanité dans son ensemble. Son dernier, "Le Désert de nous-mêmes : le tournant intellectuel et créatif de l'intelligence artificielle", publié l'année dernière, traite justement de l'IA générative. Ça reste un philosophe, donc bon chacun et chacune pensera ce qu'il veut de ce bouquin, mais il est intéressant car permet de se remettre en question sur ce sujet, et donc en conséquence d'avoir une réflexion assez profonde quant à ce que l'on veut en faire, de ce sujet, tant individuellement que collectivement. J'ai beaucoup aimé alors je le conseille ! :)
Merci pour ton lien. Qui est la 1ere source indiquée sous l’anecdote ;)