← Zurück zu Nachrichten
Branchennachrichten

Anthropic entwickelt ein System zum Nachweis der Identität von KI-Modellen

Veröffentlicht

Das System FlashProve soll allen ermöglichen zu prüfen, ob eine KI-Antwort wirklich vom angegebenen Modell stammt.

Quelle: TechCrunch AI

Erfasst am: 2026-11-04 08:00

FlashProve könnte auch Behauptungen Dritter prüfen, eine bestimmte Aufgabe sei von einem fortgeschrittenen Modell erledigt worden. Die Forscher schreiben: „Ein Entwickler könnte behaupten, seine Softwarebibliothek sei von einem führenden Cybersicherheitsmodell auf Schwachstellen geprüft worden, oder ein Unternehmen, sein Geschäftsplan habe die Zustimmung eines geeigneten Modells erhalten. Wie kann ein Nutzer diese Aussagen prüfen?“

Dafür müssen KI-Labore zu jedem veröffentlichten Modell einen Fingerabdruck publizieren, der später bestimmten Ausgaben zugeordnet und kryptografisch geprüft werden kann. Entscheidend ist, dass diese Fingerabdrücke keine Modellgewichte offenlegen, also die internen Verhaltensparameter, die Anbieter geschlossener Modelle wie Anthropic und OpenAI geheim halten. Labore könnten so Fingerabdrücke ohne Preisgabe ihres wertvollsten Vermögens veröffentlichen. Damit funktioniert das System auch mit kommerziellen Modellen. Es soll zudem leichtgewichtig sein, sodass eine Prüfung auf einem lokalen Gerät möglich ist.

„Dieser Forschungsbeitrag soll Zwischenfortschritte teilen, kein abgeschlossenes Forschungsprogramm“, erklären die Forscher. „Wir veröffentlichen ihn ausdrücklich, damit andere unsere Arbeit ansehen, übernehmen und verbessern.“


Join the technical discussion

Comments are published after review. Edited comments are reviewed again.