Les filigranes vont devenir essentiels pour nous aider à déterminer si quelque chose a été généré par l’IA. Google DeepMind a mis au point la technologie de filigrane SynthID, un outil permettant d’identifier les textes générés par l’IA. L’entreprise américaine vient de la mettre désormais à disposition de la commauté en open source.
Ce 23 octobre, Google a publié un texte de recherche dans la revue Nature, intitulé « Scalable watermarking for identifying large language model outputs » (Filigrane évolutif pour l’identification des résultats de Filigrane évolutif pour l’identification des résultats de LLM). Annoncée via le réseau X, cette technologie a également été publiée en libre accès dans la boîte à outils Google Responsible Generative AI Toolkit, qui fournit des conseils et des outils pour créer des applications d’IA plus sûres. Google ajoute : « Nous avons travaillé avec Hugging Face pour rendre la technologie disponible sur leur plateforme, afin que les développeurs puissent construire avec cette technologie et l’incorporer dans leurs modèles. »
SynthID, dont la création a été annoncée l’été dernier, permet de détecter les résultats générés par l’IA en ajoutant un filigrane (invisible) dans les images, le son, la vidéo et le texte au fur et à mesure qu’ils sont générés. Cet outil fait partie d’une famille plus large d’outils de filigrane pour les résultats de l’IA générative.
La société a dévoilé un filigrane pour les images l’année dernière, et a depuis déployé un filigrane pour les vidéos générées par l’IA. En mai, Google a annoncé qu’elle appliquait SynthID à son application Gemini et à ses chatbots en ligne, et l’a mis gratuitement à disposition sur Hugging Face, un référentiel ouvert d’ensembles de données et de modèles d’IA.
Un exemple pour le texte, avec la phrase « Mes fruits tropicaux préférés sont __. » Le LLM peut commencer à compléter la phrase avec les jetons « mangue », « litchi », « papaye » ou « durian », et chaque jeton se voit attribuer un score de probabilité. Lorsqu’il y a un choix de tokens différents, SynthID peut ajuster le score de probabilité de chaque token prédit, dans les cas où cela ne compromet pas la qualité, la précision et la créativité de la sortie.
Une implémentation de SynthID Text est disponible dans Hugging Face Transformers v4.46.0+, que vous pouvez essayer dans l’espace de texte SynthID officiel. Une implémentation de référence est également disponible (en open source) sur GitHub. La licence choisie est Apache 2.
