Le détecteur d'AI slop SAFE de Google traque des réseaux de chaînes YouTube

Le 25 septembre 2026, au lendemain du lancement de la mise à jour anti-spam de septembre, Search Engine Journal a publié un article intitulé « Google Has Deployed A New AI Spam Detector Called SAFE ». Il y voyait un composant possible de cette mise à jour, et Abondance l'a repris le lendemain en France, avec davantage de réserves sur le déploiement et sur le rapport avec la recherche.

Le papier de Google qui est à l'origine de ces articles fait trois pages, et il se lit avec celui qui l'a précédé de quelques mois, plus long et beaucoup plus précis. Les deux décrivent la façon dont YouTube repère puis démantèle des groupes de chaînes qui publient en série de la vidéo générée, et ils n'évoquent à aucun moment les pages web.

Deux papiers de Google Research sur les réseaux de chaînes YouTube

Le premier papier s'intitule Scalable Detection of Adversarial Synthetic Slop and Coordinated Media Abuse. Il est signé par quatre ingénieurs de Google et décrit le Scalable Cluster Termination System, abrégé en S-CTS, que Search Engine Journal a repéré dès le 19 juin 2026. Le second, The Synthetic Gap, compte sept auteurs, dont Abhinav Mathur, qui signait déjà le premier, et présente le Scaled Abuse Forensics Examiner, abrégé en SAFE. Les fiches de Google Research ne donnent que l'année de publication et classent les deux textes dans la rubrique de lutte contre les abus.

Les deux papiers partent du même constat, celui d'acteurs organisés qui utilisent des outils de génération pour inonder une plateforme vidéo de ce que les auteurs appellent l'AI slop, des médias synthétiques de faible qualité produits en masse pour submerger les filtres. Parce que chaque vidéo générée est légèrement différente des autres, les méthodes classiques qui repèrent les doublons par empreinte échouent. SAFE explique que le contenu n'est pas assez identique pour tomber dans le même groupe de vidéos répétitives, alors que les comportements de ceux qui le publient se ressemblent.

Les deux systèmes y répondent de la même façon, en prenant pour unité d'analyse le groupe de chaînes plutôt que la vidéo, repéré par ce que ses comptes ont en commun avant que le contenu lui-même soit jugé.

S-CTS divise par deux le temps d'examen des vidéos suspectes

S-CTS combine deux classificateurs. Le premier cherche les réseaux coordonnés à partir de signaux d'infrastructure propres à Google, comme les habitudes d'utilisation des API, les séries temporelles d'événements et les métadonnées laissées par les outils de génération. Le second note le contenu à partir des scripts des vidéos transformés en vecteurs, des termes saillants des titres et des descriptions, du rythme de mise en ligne, du délai entre la création de la chaîne et sa première vidéo, et d'une représentation de l'image. Un grand modèle de langage, dont le papier donne Gemini 2.0 Flash comme exemple, résume ensuite ces signaux et tranche chaîne par chaîne.

Un groupe est supprimé quand une certaine proportion de ses chaînes montre des traces de production synthétique. Les catégories visées sont concrètes, avec l'usurpation d'identité par vidéo générée, les images choquantes produites en série, les arnaques générées par IA et les récits lus par une voix de synthèse.

Le détail par catégorie montre les limites du système. Sur les contenus sexuels générés, les suppressions automatiques sont justes dans 95 % des cas, mais elles n'attrapent que 68 % des vidéos concernées, parce que les seuils sont réglés haut pour éviter de frapper des créateurs légitimes. Les auteurs l'assument et présentent l'exigence du groupe comme une protection, puisque le système vise des comportements coordonnés et produits en série, et non la vidéo isolée d'un créateur qui essaie un nouvel outil.

SAFE confie l'enquête à quatre agents

SAFE intervient après une première détection, puisqu'il reçoit un groupe de chaînes déjà suspect, et il fait le travail d'un analyste qui instruit le dossier, en rassemblant plusieurs types de preuves et en expliquant son verdict, là où un classificateur classique rend une simple probabilité. Le travail est réparti entre un agent racine et trois agents spécialisés.

L'agent de contenu s'appuie sur deux modèles, dont le premier est un grand modèle de langage adapté par LoRA, une technique qui spécialise un modèle existant sans le réentraîner en entier, en lui ajoutant une petite couche entraînée sur des exemples précis. Cette spécialisation le rend très fiable sur les violations déjà connues, pour lesquelles les exemples ne manquent pas. Le second fonctionne en few-shot, c'est-à-dire qu'on ne l'entraîne pas et qu'on lui montre seulement quelques exemples dans sa consigne. Il sert à repérer les contenus qui respectent la lettre des règles de la plateforme tout en en trahissant l'esprit. Les auteurs prévoient de lui ajouter une compétence de lecture des règles pour suivre leurs évolutions.

L'agent de comportement examine les traces laissées par l'automatisation. Il regarde l'infrastructure, avec le numéro de système autonome (ASN) qui identifie le réseau par lequel passent les connexions et les empreintes des appareils, puis les rythmes de publication, les envois synchronisés et les publications en rafale. Le papier donne un exemple de conclusion, selon laquelle toutes les chaînes d'un groupe utilisent la même version de système et publient dans la même fenêtre de cinq secondes.

L'agent des clusters interroge un service interne qui représente les relations entre chaînes sous forme de graphe, pour étendre l'enquête à tout le réseau plutôt qu'à la chaîne qui a déclenché l'alerte. L'agent racine rassemble enfin les trois dossiers, vérifie leurs conclusions et décide s'il s'agit d'une attaque coordonnée ou d'une activité normale.

La partie évaluation de SAFE est rédigée au futur

La section consacrée à l'évaluation commence par « We will use the following metrics », nous utiliserons les indicateurs suivants, et elle s'arrête sur leur liste. L'accord entre le verdict de l'agent racine et celui d'un analyste humain, les abus découverts qui auraient échappé aux classificateurs existants et la réduction du temps moyen de traitement y sont annoncés, sans aucun chiffre ni aucune comparaison.

Le déploiement tient dans une phrase du résumé, qui indique que les premiers résultats de déploiement montrent que SAFE accélère nettement l'identification des nouvelles menaces synthétiques et réduit le temps d'enquête par rapport au travail avec intervention humaine. Search Engine Journal a bâti son titre sur cette phrase, tout en écrivant dans le même article que le papier ne partage pas les résultats de ses tests.

La bibliographie des deux papiers appelle aussi la prudence. Deux des sept références de SAFE, un article attribué à un Journal of AI Safety & Security et une communication à une International Conference on Computational Forensics, restent introuvables en ligne. Dans S-CTS, le DOI d'une référence renvoie à un autre article que celui cité, et le lien d'une autre mène vers un texte d'un autre auteur. Ces écarts ne disent rien des systèmes eux-mêmes, mais ils rappellent que ces textes courts relèvent de la note d'ingénierie plus que de l'article relu par des pairs.

Aucun des deux papiers ne parle de recherche web

Tout ce que décrivent S-CTS et SAFE porte sur des chaînes, des vidéos, des mises en ligne et des identifiants de comptes YouTube. Aucun des deux textes ne mentionne un site, une page, un classement, SpamBrain ou les consignes de Google Search. La mise à jour anti-spam de septembre 2026 a commencé le 24 septembre à 9 h 15, heure de la côte ouest américaine, pour un déploiement annoncé sur deux semaines au plus, et Google n'a rien dit de ce qu'elle vise. C'est la quatrième de l'année après celles de mars, de juin et d'août.

La règle que ces systèmes font respecter est connue, et elle appartient à YouTube. Le 15 juillet 2025, la plateforme a renommé sa politique sur le « contenu répétitif » en politique sur le « contenu non authentique », qui couvre les vidéos répétitives ou produites en masse et les exclut de la monétisation. Côté recherche, la position de Google n'a pas bougé depuis février 2023, et j'ai détaillé dans l'article sur le watermark IA et le SEO pourquoi elle juge la qualité d'un contenu et non son mode de production. Les règles que Google a étendues en mai 2026 à la manipulation des réponses IA décrivent elles aussi des pratiques, sans jamais nommer un outil de production.

YouTube est la première source des réponses IA

Pour qui travaille sa visibilité dans les moteurs IA, l'intérêt de ces papiers tient à la place de YouTube dans les citations. Le rapport Meltwater, qui porte sur 8 millions de citations relevées en mai 2026, place YouTube au premier rang toutes IA confondues avec 188 863 citations, devant Reddit, et une compilation de Digital Bloom, sur des données Ahrefs, compte YouTube parmi les cinq domaines qui concentrent 38 % des citations des réponses IA de Google. Le détail est dans la page sur les domaines les plus cités par les IA.

L'étude Minddex, qui a analysé 57 871 citations de vidéos YouTube dans ChatGPT, Gemini et Perplexity, montre en outre que ces citations vont surtout à la longue traîne. Selon elle, 71 % des citations vont à des chaînes de moins de 100 000 abonnés, et le nombre de vues d'une vidéo ne prédit presque pas le nombre de fois où elle est citée. Du côté des réponses IA, l'audience ne filtre donc pas grand-chose, alors que les réseaux décrits par S-CTS et SAFE sont faits précisément de petites chaînes nombreuses.

Personne n'a mesuré à ce jour la part de vidéos générées en masse dans les citations des IA. Les deux papiers montrent en revanche que le tri se fait en amont, sur la plateforme, avant qu'un moteur de réponse ne choisisse ses sources. Pour Gemini et les Aperçus IA, Google tient les deux bouts de la chaîne, puisqu'il nettoie le réservoir vidéo dans lequel ses propres réponses puisent ensuite.

Une stratégie vidéo industrialisée présente les signaux recherchés

Les recommandations habituelles pour être cité par les IA via YouTube poussent à publier des vidéos de cinq à quinze minutes sur des sujets durables. La tentation existe alors de les produire avec des outils de génération, sur plusieurs chaînes à la fois. Les signaux décrits par Google correspondent assez exactement à ce montage, avec des chaînes créées depuis la même infrastructure, des mises en ligne en rafale, des scripts tirés d'un même gabarit et une narration par voix de synthèse, qui forme une catégorie à part entière dans le tableau de S-CTS.

Une marque qui tient une chaîne et se sert d'outils d'IA pour ses sous-titres, son montage ou ses vignettes n'est pas la cible décrite, puisque les deux systèmes partent d'un groupe de comptes coordonnés et que S-CTS écarte explicitement le créateur isolé. Le risque commence avec la multiplication des chaînes et l'automatisation du rythme de publication, qui sont justement les deux leviers qu'on actionne pour occuper plus de place dans les réponses.

Quatre conclusions à ne pas tirer

• « Google a déployé SAFE contre le spam web. » Le papier ne parle que de chaînes YouTube, et son déploiement repose sur une phrase de résumé sans aucun résultat publié.
• « SAFE explique la mise à jour anti-spam de septembre. » Google n'a rien dit de la cible de cette mise à jour, et aucun des deux papiers ne mentionne la recherche.
• « Google pénalise les contenus générés par IA. » Les deux systèmes visent des réseaux coordonnés qui produisent en série, et S-CTS présente l'exigence du groupe comme une protection des créateurs qui utilisent ces outils.
• « Google repère les textes IA avec Sentence-BERT. » S-CTS cite ce modèle dans son état de l'art comme une méthode courante, puis précise que son propre système repose sur des algorithmes internes dont il ne dit rien.

Sources

• Google Research, le papier SAFE, son architecture en quatre agents, sa section d'évaluation au futur et ses références : storage.googleapis.com/gweb-research2023-media/pubtools/1039292.pdf
• Google Research, la fiche du papier SAFE, ses auteurs et son résumé : research.google/pubs/the-synthetic-gap-automating-forensic-investigation-of-ai-slop-with-the-scaled-abuse-forensics-examiner-safe/
• Google Research, le papier S-CTS, ses signaux, ses résultats sur six mois et son tableau par catégorie : storage.googleapis.com/gweb-research2023-media/pubtools/1039291.pdf
• Google Research, la fiche du papier S-CTS et la version révisée de son résumé : research.google/pubs/scalable-detection-of-adversarial-synthetic-slop-and-coordinated-media-abuse-a-lora-enabled-multimodal-defense-system-3/
• YouTube, la politique de monétisation des chaînes et le passage au « contenu non authentique » le 15 juillet 2025 : support.google.com/youtube/answer/1311392
• Google Search Status Dashboard, le lancement de la mise à jour anti-spam de septembre 2026 : status.search.google.com/incidents/XhUDXP7A67iHCD2kmbVu
• Search Engine Journal, Roger Montti, l'article du 25 septembre 2026 sur SAFE et son lien supposé avec la mise à jour anti-spam : searchenginejournal.com/google-has-deployed-a-new-ai-spam-detector-called-safe/590918/
• Search Engine Journal, l'article du 19 juin 2026 sur S-CTS et Sentence-BERT : searchenginejournal.com/google-generated-ai-detected/579987/
• Search Engine Journal, le calendrier des quatre mises à jour anti-spam de 2026 : searchenginejournal.com/google-september-2026-spam-update/590828/
• Abondance, la reprise française et ses réserves sur le déploiement : abondance.com/20260926-2973579-google-safe-un-detecteur-de-spam-ia-concu-pour-les-chaines-youtube.html