Pourquoi le slop web pourrait bientôt nous transformer en zombies

Le « slop » n’a pourtant pas vu le jour dans un épisode de la série The Last of Us. Ce terme désigne tous les contenus de basse qualité générés automatiquement par l’intelligence artificielle générative et qui inondent Internet. Cela peut se traduire par des images truquées (un boulanger qui aurait reproduit sa maison en pain) ou qui viennent tout simplement troller les réseaux (en 2024, les « shrimp Jesus » ont envahi les fils d’actualité Facebook). Il peut s’agir également de faux articles entièrement générés avec l’IA qui ont vocation à attirer du trafic. Le but du slop est multiple : il sert à tromper, à attirer les annonceurs sur des sites « made for advertising » ou à créer du buzz sur les réseaux sociaux. En d’autres mots, le slop est au web ce que le spam est aux mails : il est indésirable.

L’apparition du mot coïncide avec l’explosion de l’IA générative et plus particulièrement des moteurs de création d’image. Dans la langue anglaise, il désignait au Moyen Âge les résidus peu appétissants, comme les restes de nourriture pour bétail, de la boue ou des déchets. Le terme aurait été popularisé par Simon Willison, un développeur britannique, qui l’a utilisé sur son blog en 2024. Le mot était néanmoins utilisé dans les forums auparavant.

A lire également : IA générative dans l’adtech : IAS fait face à une menace croissante et à des opportunités inédites

Le risque de la « slopification d’Internet »

Le problème avec le « slop », c’est qu’il est extrêmement facile à produire, à grande échelle, et qu’il attire l’attention des internautes. Ces contenus pourraient prendre le dessus sur ceux générés par de vrais humains, baissant de facto la qualité de ce que l’on trouve sur Internet. Surtout, il pourrait créer un cercle vicieux : les IA génératives utiliseraient du contenu créé par d’autres IA et ainsi de suite. C’est ce qu’on pourrait appeler la « slopification d’Internet ». Un système qui s’auto-alimente de contenus de piètre qualité et de fake news.

Pour les internautes, le risque est de perdre son esprit critique, d’être de plus en plus submergé par un flot d’âneries, mais aussi de développer une défiance (qui peut être justifiée) envers tout ce qui se trouve sur Internet. Au point de devenir des « zombies » abrutis par les contenus de mauvaise qualité ?

Que font les plateformes ?

Meta (Instagram et Facebook) a commencé à étiqueter les images générées par IA publiées sur ses plateformes, en utilisant une technologie de filigrane invisible. Une « Notice sur l’IA » est alors ajoutée en dessous du contenu. Mais la technologie n’est pas capable de tout détecter. La plateforme compte sur les utilisateurs pour signaler les contenus lorsqu’ils n’ont pas été identifiés comme tels.

YouTube exige des créateurs qu’ils avertissent les utilisateurs lorsque leur contenu est réalistement modifié ou généré par IA. Il ne s’agit pas d’une interdiction totale des vidéos IA, mais d’une exigence de transparence et d’un renforcement de règles existantes qui privilégient les contenus originaux.

Enfin, TikTok interdit le contenu qui représenterait une personne publique ou un particulier de manière réaliste et impose l’étiquetage du contenu généré par IA. La plateforme appose également automatiquement un label sur le contenu provenant d’outils d’IA connus, comme DALL·E.

A défaut d’avoir une technologie capable d’identifier à coup sûr si un contenu a été créé par l’IA ou non, les plateformes comptent sur les signalements de leur communauté. La question reste de savoir comment les algorithmes des principales plateformes et moteurs de recherche décident de « classer » le contenu. La priorité sera-t-elle donnée au contenu créé par des humains ? Nul doute que le sujet sera débattu et étudié par ceux que l’on considère comme les portes d’entrée vers Internet.