ہندٕ ژٔ منز اک دور چلاؤ

What this lesson is about

تِن ژٔ منز اک ژٔ منز ہندٕ کیس دیٚو، ژٔ منز کتھ چھُٹٕ چھُٹٕ، ہندٕ ہندٕ ہدایات سُدھارو نہ کہ لوٚگ۔

پٲنج منز کیس ژٲن۔ آخری منز، دوٚ ژٔنٛ ہند پیغام ژٔنٛ دھمکی منز شمار کیٚت تہ ایک ژٔنٛ ہند پیغام ژٔنٛ مذاق منز۔ ہٲن کیا کرن؟

Why this matters

ایک دور کا مقصد خراب جائزہ لینے والے کو پکڑنا نہیں ہوتا۔ ایک شائع شدہ حفاظتی مطالعے میں، تین جائزہ لینے والوں نے ایک ہی پانچ سو کیسز کا جائزہ لیا۔ مصنف سمیت، چاروں کی رائے میں اتفاق 0.32 تھا جب موقع کو نکال دیا گیا۔ جب درجہ بندی کو صرف ہاں یا نہ تک محدود کیا گیا تو یہ 0.49 تک بڑھ گیا۔ مصنفین نے الزام اپنے کام کی الفاظ پر لگایا، لوگوں پر نہیں۔

مشترک کیس منز اک دور چلاؤ، ژٔ منز چھُٹٕ چھُٹٕ معلوم کرٕ، تہ ہندٕ ہدایات دوبارہ لکھٕ۔

تِن جٲنچنے والے منز اک کیس دیٚو، تہ ژٔ منز چھُٹٕ چھُٹٕ معلوم کرٕ۔
لوٚگ ژٔ منز اختلاف چھ، جٲنچنے والے پر الزام لگان منز پہلے ہدایات بدلو۔
دور ژٔ نتیجہ سب منز شائع کرٕ، ہندٕ غلطی سمیت۔

Task

پانٛژ سیفٹی کیس تِن جٲنچنے والے منز۔ چار میل۔ پانچویں منز دو تہدید سمجھٕ، اک مزاق۔

Weak approach وہ دو جنہٕ متفق ہٲس، تہ انٛہٕ ساتھ چلٕن تہ تیٚسرے کو کہٕن کہ دوبارہ وٲٹھ تہ تک کہ وہ متفق نہ ہووٕ۔ یہ دور ایک فیصلہ پیدا کرن، تہ وہ جملہ جو انٛہٕ کو تقسیم کرن، رہنمائی میں ویسے ہی رہِت۔

Stronger approach دونوں سمجھ لکھٕ، دکھٕ کہ قانون تہدید کِتھ نہ کہٕ، ہندٕ جملہ دوبارہ لکھٕ، نتیجہ تِن ژٔ منز بھیجٕ۔

Why the stronger approach works چھُٹٕ چھُٹٕ اصل نتیجہ، مضبوط راہ اوہ منز عمل کرٕ۔ ووٹنگ چھُپان، اگٕ ہفتہ وہی بحث واپس آسن۔

Try a changed situation تُہندٕ گلی منز دو دکان دار میونسپل نوٹس الٹ پڑھٕ۔ کون قانون اب بھی لاگو؟

Make something yourself دو ژٔ منز پنج مشترک کیس منز اک دور چلاؤ۔ لکھٕ کٲر ژٔ منز کیا فیصلہ کیٚا، کیس ژٔ منز چھُٹٕ چھُٹٕ، تہ ہندٕ ہدایات ژٔ منز دوبارہ لکھٕ۔

Read the primary or official source: Ganguli et al., Red Teaming Language Models to Reduce Harms (arXiv)