← 뉴스로 돌아가기
업계 뉴스

Anthropic, AI 모델의 정체성을 증명하는 시스템 개발 중

게시일

FlashProve라는 이 시스템은 AI 답변이 주장하는 모델에서 실제로 나온 것인지 누구나 확인할 수 있게 합니다.

출처: TechCrunch AI

수집 시각: 2026-11-04 08:00

FlashProve는 특정 작업을 고도화된 모델이 수행했다는 제삼자의 주장도 검증할 수 있습니다. 연구진은 “개발자는 자신의 소프트웨어 라이브러리가 최첨단 사이버보안 모델로 취약점 검사를 받았다고 주장할 수 있고, 기업은 사업 계획에 적절한 모델의 승인을 받았다고 주장할 수 있습니다. 사용자는 이런 주장을 어떻게 검증할 수 있을까요?”라고 썼습니다.

작동하려면 AI 연구소가 출시하는 각 모델의 ‘지문’을 공개해야 합니다. 이 지문은 나중에 특정 출력과 대조하고 암호학적으로 검증할 수 있습니다. 중요한 점은 지문이 모델 가중치를 공개하지 않는다는 것입니다. 가중치는 모델의 동작을 결정하는 내부 수치로, Anthropic과 OpenAI 같은 폐쇄형 모델 개발사가 비공개로 유지합니다. 따라서 연구소는 가장 가치 있는 자산을 내놓지 않고도 지문을 공개할 수 있어 상용 모델에도 적용할 수 있습니다. 시스템은 가볍게 설계되어 로컬 기기에서도 검증할 수 있습니다.

연구진은 발표문에서 “이번 연구 게시물은 완성된 연구 계획이 아니라 중간 진행 상황을 공유하기 위한 것입니다. 다른 사람들이 우리가 한 일을 살펴보고 받아들여 개선하기를 명확한 목적으로 공유합니다”라고 설명했습니다.


Join the technical discussion

Comments are published after review. Edited comments are reviewed again.