← Retour aux actualités
Actualités du secteur

Anthropic travaille sur un système permettant de prouver l’identité des modèles d’IA

Publié

Baptisé FlashProve, ce système permettrait de vérifier qu’une réponse d’IA provient réellement du modèle dont elle se réclame.

Source : TechCrunch AI

Date de collecte : 2026-11-04 08:00

FlashProve pourrait également vérifier les affirmations de tiers selon lesquelles une tâche précise a été réalisée par un modèle avancé. « Un développeur pourrait affirmer qu’un modèle de cybersécurité de pointe a analysé les vulnérabilités de sa bibliothèque logicielle, ou une entreprise pourrait déclarer qu’un modèle approprié a approuvé son plan d’affaires », écrivent les chercheurs. « Comment un utilisateur peut-il vérifier ces affirmations ? »

Pour fonctionner, le système exige que les laboratoires d’IA publient une « empreinte » de chaque modèle lancé, qui pourra ensuite être associée à des sorties précises et vérifiée cryptographiquement. Point essentiel, ces empreintes ne révèlent pas les poids du modèle, ces valeurs internes qui définissent son comportement et que les concepteurs de modèles fermés comme Anthropic et OpenAI gardent confidentiels. Les laboratoires pourraient donc publier ces empreintes sans céder leur actif le plus précieux, permettant aussi au système de fonctionner avec des modèles commerciaux. Le système est également conçu pour être léger, afin que la vérification puisse être effectuée sur un appareil local.

« Ce billet de recherche vise à partager des progrès intermédiaires, et non un programme de recherche achevé », expliquent les chercheurs dans l’annonce. « Nous le partageons explicitement pour que d’autres examinent notre travail, s’en emparent et l’améliorent. »


Join the technical discussion

Comments are published after review. Edited comments are reviewed again.