Anthropic разрабатывает систему доказательства идентичности ИИ-моделей
Опубликовано
FlashProve позволит любому проверить, действительно ли ответ ИИ получен от заявленной модели.
FlashProve также могла бы проверять заявления третьих лиц, что конкретную работу выполнила продвинутая модель. Исследователи пишут: «Разработчик может заявить, что его библиотеку проверила на уязвимости передовая модель кибербезопасности, или компания — что бизнес-план одобрен подходящей моделью. Как пользователю проверить эти утверждения?»
Для работы лаборатории должны публиковать отпечаток каждой выпускаемой модели, который затем можно сопоставить с конкретными результатами и криптографически проверить. При этом отпечатки не раскрывают веса — внутренние числа, задающие поведение, которые Anthropic и OpenAI как разработчики закрытых моделей сохраняют в тайне. Поэтому лаборатории могут публиковать отпечатки без раскрытия главного актива, и система применима к коммерческим моделям. Лёгкая конструкция позволяет проверку на локальном устройстве.
«Этот исследовательский пост делится промежуточным прогрессом, а не завершённой исследовательской программой, — поясняют авторы. — Мы явно хотим, чтобы другие посмотрели на сделанное, взяли его и улучшили».
Была ли статья полезна?
Join the technical discussion
Comments are published after review. Edited comments are reviewed again.