All learning paths Learn See Try Make এটা পৰীক্ষা ৰাউণ্ড চলাও আৰু স্কেলটো পুনৰ নিৰ্ধাৰণ কৰা What this lesson is about এটা দলে একে দশটা বস্তু দিয়ক আৰু মাপক যে তেওঁলোকৰ নম্বৰ কিমান দূৰত্বত পৰিছে। তাৰ পিছত যি এংকৰটোৱে তেওঁলোকক ভাগ কৰিছিল, তাক পুনৰ লিখা।
আপোনাৰ দলে চাৰি জনে যি ব্যাচ দিছে সেয়া একে ধৰণৰ নোহোৱা বুলি গ্ৰাহকে কয়। ৰাউণ্ড কেনেকৈ আৰম্ভ কৰিব?
A চাৰিজনক একেলগে বহুৱাওক আৰু দশটা উত্তৰ জোৰেৰে পঢ়ি ঠিক কৰক। B প্ৰত্যেক ব্যক্তিৰ শেষ ব্যাচৰ পৰা দশটা উত্তৰ লৈ তুলনা কৰক। C সকলোলৈ একে দশটা বস্তু পঠিয়াওক, যিয়ে একাকাৰে নম্বৰ দিব, আৰু তেতিয়ালৈকে কোনোবাই টোকা তুলনা নকৰে।
Check my recall Why this matters দুজন সাৱধান ব্যক্তি একে বস্তু মূল্যাংকন কৰিলেও আশা কৰা অপেক্ষা বেছি পাৰ্থক্য থাকে। এটা প্ৰকাশিত সুৰক্ষা প্ৰকল্পত চাৰি পৰ্যালোচক একে ঘটনাত পৰীক্ষা কৰা হৈছিল। সুযোগ বাদ দি তেওঁলোকৰ একমতি 0.32 আছিল। মূল্যাংকন দুটা স্তৰত সিমান হ'লে 0.49লৈ বৃদ্ধি পায়। এই সংখ্যাটো লিখিত স্কেলৰ বিষয়ে, আৰু দ্বিতীয় ৰাউণ্ডৰ লগত তুলনা কৰিব পৰা একমাত্ৰ বস্তু।
এটা দলে একে বস্তুৰ ওপৰত ৰাউণ্ড চলাও। নম্বৰবোৰ কিমান দূৰত্বত পৰিছে মাপক, আৰু যি এংকৰটোৱে ভাগ কৰিছিল তাক পুনৰ লিখা।
দুজন সাৱধান ব্যক্তি একে বস্তু মূল্যাংকন কৰিলেও আশা কৰা অপেক্ষা বেছি পাৰ্থক্য থাকে। এটা প্ৰকাশিত সুৰক্ষা প্ৰকল্পত চাৰি পৰ্যালোচক একে ঘটনাত পৰীক্ষা কৰা হৈছিল। সুযোগ বাদ দি তেওঁলোকৰ একমতি 0.32 আছিল। মূল্যাংকন দুটা স্তৰত সিমান হ'লে 0.49লৈ বৃদ্ধি পায়। এই সংখ্যাটো লিখিত স্কেলৰ বিষয়ে, আৰু দ্বিতীয় ৰাউণ্ডৰ লগত তুলনা কৰিব পৰা একমাত্ৰ বস্তু।
সকলোলৈ একে দশটা বস্তু পঠিয়াওক, যিয়ে একাকাৰে নম্বৰ দিব, আৰু তেতিয়ালৈকে কোনোবাই টোকা তুলনা নকৰে। সুযোগৰ দ্বাৰা হোৱা একমতি বাদ দি বাকী থকা প্ৰতিবেদন কৰক। দলে ভাগ কৰা এংকৰটো পুনৰ লিখক, আৰু পুনৰ একে দশটা বস্তু পঠিয়াওক। Task এটা সৰু দলে চাৰি পৰ্যালোচকে পাঁচ স্তৰৰ স্কেলত উত্তৰ মূল্যাংকন কৰে। তেওঁলোকৰ গ্ৰাহকে কয় যে চাৰিটা ব্যাচ একে ধৰণৰ নহয়।
Weak approach চাৰিজনক একেলগে মাতি দশটা উত্তৰ পঢ়াই যি স্তৰত সকলো একমত হয় সেইটো লয়। সকলো একমত হৈ ওলাই যায়, আৰু পৰৱৰ্তী সপ্তাহৰ ব্যাচ আগৰ দৰে দূৰত্বত থাকে।
Stronger approach একেই দশটা বস্তু চাৰিজনক পৃথক পৃথক পঠিয়াই একাকাৰে নম্বৰ দিবলৈ কয়। দুটাত সৰ্বনিম্নৰ পৰা সৰ্বোচ্চ স্তৰলৈ নম্বৰ আহে। দুয়োটা ‘মধ্যমতে পূৰণ কৰে’ আৰু ‘অতি পূৰণ কৰে’ৰ মাজৰ ৰেখাত আছে। সেই এংকৰটো পুনৰ লিখি দশটা বস্তু পুনৰ পঠিয়ায়। সেই দুটাৰ বিস্তাৰ এখন স্তৰত সিমিত হয়।
Why the stronger approach works এটা কোঠাত একমতি হয় কাৰণ কোনোবাই আগতে ক'লে। একাকাৰে নম্বৰ দিয়া দশটা বস্তুয়ে দেখুৱায় কোন এংকৰ পঢ়িব নোৱাৰা আছিল, আৰু দ্বিতীয় ৰাউণ্ডে দেখুৱায় পুনৰ লিখিলে কাম কৰিলে নে নাই।
Try a changed situation দুজন স্বাস্থ্য কৰ্মীয়ে একে পুৱা একে বিশটা শিশুৰ ওজন মাপে, আৰু তেওঁলোকৰ প্ৰতিবেদন ভিন্ন। ওপৰত কি প্ৰতিবেদন দিব?
Make something yourself এটা ৰাউণ্ড চলাওক। একে দশটা বস্তু দুজন বা ততোধিকলৈ পঠিয়াওক, আৰু একাকাৰে দিয়া নম্বৰ সংগ্ৰহ কৰক। টোকা লিখক: বিস্তাৰ, পুনৰ লিখা এংকৰ, আৰু তাৰিখ।
Read the primary or official source: Ganguli et al., Red Teaming Language Models (arXiv)