Anthropic, AI मॉडलों की पहचान प्रमाणित करने वाली प्रणाली पर काम कर रही है
प्रकाशित
FlashProve नाम की यह प्रणाली किसी को भी यह जाँचने देगी कि AI का उत्तर वास्तव में उसी मॉडल से आया है जिसका वह दावा करता है।
FlashProve का उपयोग तीसरे पक्ष के उन दावों को जाँचने के लिए भी किया जा सकता है कि कोई विशेष काम एक उन्नत मॉडल से कराया गया था। शोधकर्ता लिखते हैं, “कोई डेवलपर दावा कर सकता है कि उसकी सॉफ़्टवेयर लाइब्रेरी की संभावित कमज़ोरियों के लिए एक अग्रणी साइबर सुरक्षा मॉडल द्वारा जाँच की गई है, या कोई कंपनी दावा कर सकती है कि उसकी व्यावसायिक योजना को उपयुक्त मॉडल की मंज़ूरी मिली है। उपयोगकर्ता इन दावों की पुष्टि कैसे करे?”
इसके काम करने के लिए AI प्रयोगशालाओं को जारी किए गए प्रत्येक मॉडल का एक “फ़िंगरप्रिंट” प्रकाशित करना होगा, जिसे बाद में विशिष्ट आउटपुट से मिलाकर क्रिप्टोग्राफ़ी के ज़रिए सत्यापित किया जा सके। महत्वपूर्ण बात यह है कि ये फ़िंगरप्रिंट मॉडल के वेट उजागर नहीं करते—वे आंतरिक संख्याएँ जो उसका व्यवहार निर्धारित करती हैं और जिन्हें Anthropic तथा OpenAI जैसे बंद मॉडल निर्माता गोपनीय रखते हैं। इससे प्रयोगशालाएँ अपनी सबसे मूल्यवान संपत्ति छोड़े बिना फ़िंगरप्रिंट प्रकाशित कर सकती हैं और प्रणाली व्यावसायिक मॉडलों के साथ भी काम कर सकती है। इसे हल्का भी बनाया गया है, ताकि सत्यापन स्थानीय डिवाइस पर किया जा सके।
घोषणा में शोधकर्ता समझाते हैं, “इस शोध पोस्ट का उद्देश्य बीच के चरण की प्रगति साझा करना है, न कि पूरी हो चुकी शोध योजना। हम इसे स्पष्ट रूप से इसलिए साझा कर रहे हैं कि दूसरे हमारे काम को देखें, उसका उपयोग करें और उसे बेहतर बनाएँ।”
क्या यह लेख उपयोगी था?
Join the technical discussion
Comments are published after review. Edited comments are reviewed again.