AI মডেলের পরিচয় প্রমাণের ব্যবস্থা তৈরি করছে Anthropic
প্রকাশিত
FlashProve নামে ব্যবস্থায় AI উত্তর সত্যিই দাবি করা মডেল থেকে এসেছে কি না যে কেউ পরীক্ষা করতে পারবেন।
FlashProve দিয়ে তৃতীয় পক্ষের দাবিও যাচাই করা যাবে যে নির্দিষ্ট কাজ উন্নত মডেল করেছে। গবেষকেরা লেখেন, “ডেভেলপার বলতে পারেন তাঁর সফটওয়্যার লাইব্রেরির দুর্বলতা শীর্ষ সাইবারনিরাপত্তা মডেল পরীক্ষা করেছে, বা কোম্পানি বলতে পারে উপযুক্ত মডেল ব্যবসার পরিকল্পনা অনুমোদন করেছে। ব্যবহারকারী কীভাবে দাবি যাচাই করবেন?”
ব্যবস্থার জন্য AI গবেষণাগারকে প্রকাশিত প্রতিটি মডেলের “ফিঙ্গারপ্রিন্ট” দিতে হবে, যা পরে নির্দিষ্ট আউটপুটের সঙ্গে মিলিয়ে ক্রিপ্টোগ্রাফিতে যাচাই করা যায়। এতে মডেলের ওয়েট, অর্থাৎ আচরণ নির্ধারণের ভেতরের সংখ্যা, ফাঁস হয় না; Anthropic ও OpenAI-এর মতো বন্ধ মডেলের নির্মাতারা এগুলো গোপন রাখেন। ফলে মূল্যবান সম্পদ না দিয়েই ফিঙ্গারপ্রিন্ট দিয়ে বাণিজ্যিক মডেলেও ব্যবস্থা চলে। হালকা হওয়ায় নিজের যন্ত্রেও যাচাই করা যায়।
গবেষকেরা বলেন, “এ পোস্ট সম্পূর্ণ গবেষণা নয়, মধ্যবর্তী অগ্রগতি জানায়। অন্যরা আমাদের কাজ দেখুক, গ্রহণ করুক ও উন্নত করুক—এই স্পষ্ট উদ্দেশ্যেই ভাগ করছি।”
এই নিবন্ধটি কি সহায়ক ছিল?
Join the technical discussion
Comments are published after review. Edited comments are reviewed again.