All learning paths Learn See Try Make অন্যসকলৰ সৈতে এটা পৰ্যালোচনা চক্ৰ চলাওক What this lesson is about তিনিজন পৰ্যালোচকক একে কেইটা ঘটনা দিয়ক, য'ত তেওঁলোকে বিভক্ত হৈছে চাওক, আৰু মানুহৰ সলনি নিৰ্দেশনা সুধাৰণ কৰক।
পাঁচটা ঘটনা ওলাইছে। শেষটাত, দুজন মানুহে বাৰ্তাটো হুমকি বুলি ক'লে আৰু এজনজনে ঠাট্টা বুলি ক'লে। এতিয়া কি কৰিব?
A তিনিজন পৰ্যালোচকক একে ঘটনাবোৰ দিয়ক, তাৰ পিছত ক'ত বিভক্ত হৈছে চাওক। B যিসকল দুয়োটা সৈতে একমত, তেনে মানুহৰ লগত যাওক আৰু তৃতীয়জনক আকৌ চাই চাবলৈ ক'ব। C একেই বাৰ্তাটো আন দুজনলৈ পঠিয়াওক আৰু চাওক তেওঁলোকে একমত নে নাই।
Check my recall Why this matters এটা ৰাউণ্ডৰ উদ্দেশ্য এটা বেয়া পৰ্যালোচক ধৰা নহয়। এটা প্ৰকাশিত সুৰক্ষা অধ্যয়নত, তিনি জন পৰ্যালোচকে একে পাঁচ শতটা ঘটনা পৰ্যালোচনা কৰিছিল। লেখকসহ চাৰিজনৰে মাজত একমততাৰ মান, সম্ভাৱনাৰ প্ৰভাৱ আঁতৰাই, 0.32 আছিল। যেতিয়া মাত্ৰ হʼ বা নʼ হিচাপে মূল্যাংকন কৰা হৈছিল, তেতিয়া এই মান 0.49লৈ বৃদ্ধি পাইছিল। লেখকে দোষ মানুহৰ ওপৰত নহয়, নিজৰ কামৰ শব্দ ব্যৱহাৰত থৈছিল।
ভাগ-বতৰা হোৱা ঘটনাবোৰত এটা চক্ৰ চলাওক, পৰ্যালোচকসকলে ক'ত বিভক্ত হৈছে চাওক, আৰু যি নিৰ্দেশনাই তেওঁলোকক বিভক্ত কৰিছে সেয়া পুনৰ লিখক।
এটা ৰাউণ্ডৰ উদ্দেশ্য এটা বেয়া পৰ্যালোচক ধৰা নহয়। এটা প্ৰকাশিত সুৰক্ষা অধ্যয়নত, তিনি জন পৰ্যালোচকে একে পাঁচ শতটা ঘটনা পৰ্যালোচনা কৰিছিল। লেখকসহ চাৰিজনৰে মাজত একমততাৰ মান, সম্ভাৱনাৰ প্ৰভাৱ আঁতৰাই, 0.32 আছিল। যেতিয়া মাত্ৰ হʼ বা নʼ হিচাপে মূল্যাংকন কৰা হৈছিল, তেতিয়া এই মান 0.49লৈ বৃদ্ধি পাইছিল। লেখকে দোষ মানুহৰ ওপৰত নহয়, নিজৰ কামৰ শব্দ ব্যৱহাৰত থৈছিল।
তিনিজন পৰ্যালোচকক একে ঘটনাবোৰ দিয়ক, তাৰ পিছত ক'ত বিভক্ত হৈছে চাওক। মানুহে মতভেদ কৰিলে, পৰ্যালোচকক দোষ দিবৰ আগতে নিৰ্দেশনা সলনি কৰক। চক্ৰৰ ফলাফল সকলো অংশগ্ৰহণকাৰীক জনাওক, আপোনাৰ ভুলসহ। Task পাঁচটা সুৰক্ষা ঘটনা তিনিজন পৰ্যালোচকলৈ গ'ল। চাৰিটা মিলিছিল। পঞ্চমটাত, দুজনেই এটা বাৰ্তাক হুমকি বুলি কয় আৰু এজনেও ঠাট্টা বুলি কয়।
Weak approach যিসকল দুয়ো জনে একমত হৈছিল, তেখেতলোকৰ লগত যায় আৰু তৃতীয়জনক পুনৰ চাবলৈ কয় যতক্ষণ নেকি সি একমত নহয়। এই ৰাউণ্ডত এটা সিদ্ধান্ত ওলায়, আৰু যি বাক্যই তেখেতলোকক বিভক্ত কৰিছিল, সেইটো নিৰ্দেশনাত অক্ষুণ্ণ থাকে।
Stronger approach দুয়োটা ব্যাখ্যা লিখে, দেখুৱায় যে নিয়মটোৱে ক'ত হুমকি বুলি গণ্য হ'ব সেয়া ক'ব নোৱাৰে। সেই বাক্যটো পুনৰ লিখে, আৰু ফলাফল তিনিজনলৈ পঠিয়ায়।
Why the stronger approach works বিভাজনটো আছিল মূল ফলাফল, আৰু শক্তিশালী পথটোৱে তাৰ ওপৰত কাম কৰে। ভোট দিয়া এইটো লুকুৱাই ৰাখে, আৰু অহা সপ্তাহতে সেই বিতৰ্ক পুনৰ হয়।
Try a changed situation আপোনাৰ গলিৰ দুজন দোকানদাৰে একে পৌৰ নোটিছক উল্টা-মোটা ধৰণে পঢ়িছে। কোনটো নিয়ম এতিয়াও প্ৰযোজ্য?
Make something yourself দুজন অন্য মানুহৰ সৈতে পাঁচটা ভাগ-বতৰা হোৱা ঘটনাত এটা চক্ৰ চলাওক। কোনে কি সিদ্ধান্ত লৈছিল, ক'ত বিভক্ত হৈছিল, আৰু আপুনি পুনৰ লিখা নিৰ্দেশনাৰ বাক্যটো লিখক।
Read the primary or official source: Ganguli et al., Red Teaming Language Models to Reduce Harms (arXiv)