All learning paths Learn See Try Make ناکامينين کي نقصان جي لحاظ سان ترتيب ڏيو What this lesson is about ناکامينين کي انهن جي ممڪن نقصان جي ترتيب ۾ رکو، ۽ ڪنهن اهڙي شخص کي جيڪو متفق ناهي، اهو ترتيب سمجهايو.
توهان جو صحت بوٽ بي ادب آهي، بس جا وقت غلط ٻڌائي ٿو، ۽ هڪ ڀيرو هڪ حاملہ عورت کي آئرن جون گوليون ڇڏڻ جو چيو. پهرين ڪهڙي کي ٺيڪ ڪندا؟
A پڇو ته ڪهڙي غلطي آفيس کي سڀ کان وڌيڪ شرمندگي ۾ وجهي ٿي، ۽ ان کي مٿان رکو. B بس جو وقت پهرين ٺيڪ ڪريو، ڇو ته ٽنهي مان اهو سڀ کان جلدي ٺيڪ ٿئي ٿو. C ناکامين کي نقصان جي لحاظ سان ترتيب ڏيو، نه ته ڪيتري ڀيرا ٿين ٿيون.
Check my recall Why this matters هڪ شايع ٿيل حفاظت جي مطالعي ۾، جائزو وٺندڙن هر حملو تي ويهن موضوعن جي فهرست مان وڌ کان وڌ ٻه ٽيگ لڳايا. اها فهرست اڳ ۾ شايع ٿيل ڪم، صنعت جي ضابطن، ۽ هٿ سان پڙهيل سڀ کان خراب سؤ ڳالهين مان ٺاهي وئي هئي. ڪنهن ڪيس کي سنجيده بڻائيندڙ ان جو نقصان هو، ان جي عجيب نظر اچڻ نه هو.
ناکامين کي انهن جي ممڪن نقصان جي ترتيب ۾ رکو، ۽ ڪنهن اهڙي شخص کي جيڪو متفق ناهي، اهو ترتيب سمجهايو.
هڪ شايع ٿيل حفاظت جي مطالعي ۾، جائزو وٺندڙن هر حملو تي ويهن موضوعن جي فهرست مان وڌ کان وڌ ٻه ٽيگ لڳايا. اها فهرست اڳ ۾ شايع ٿيل ڪم، صنعت جي ضابطن، ۽ هٿ سان پڙهيل سڀ کان خراب سؤ ڳالهين مان ٺاهي وئي هئي. ڪنهن ڪيس کي سنجيده بڻائيندڙ ان جو نقصان هو، ان جي عجيب نظر اچڻ نه هو.
ناکامين کي نقصان جي لحاظ سان ترتيب ڏيو، نه ته ڪيتري ڀيرا ٿين ٿيون. هر جاءِ جي ڀرسان سبب لکو، جيئن ترتيب ڪنهن جي اختلاف کان پوءِ به قائم رهي. جن ناکامين جي جاءِ مقرر نٿي ڪري سگهو، انهن کي زبردستي فهرست ۾ نه وجھو، پر الڳ ڄاڻايو. Task هڪ ضلعي جو صحت بوٽ ڪڏهن ڪڏهن بي ادب هوندو آهي، ڪڏهن بس جو وقت غلط ٻڌائيندو آهي، ۽ هڪ ڀيرو حاملہ عورت کي آئرن جون گوليون ڇڏڻ جو مشورو ڏنو.
Weak approach شڪايتن جو هڪ مهينو ڳڻڻ: چاليهه رُوڏ بابت، ڇهه غلط بس وقت بابت، هڪ گوليون بابت. رُوڏ کي مٿان رکيو ڇو ته اهو ڪالم سڀ کان ڊگهو آهي.
Stronger approach لوهي گولي واري لائن کي مٿان رکيو، ۽ ڀرسان سبب لکيو. هڪ عورت گوليون وٺڻ بند ڪري سگهي ٿي ۽ نقصان ۾ ٿي سگهي ٿي. رُوڏ جواب آخري ۾ وڃن ٿا.
Why the stronger approach works مضبوط ترتيب لاءِ بحث ٿي سگهي ٿو، ڇو ته هر جاءِ جي ڀرسان سبب آهي. شڪايتون ڳڻڻ سان سڀ کان شور ڪندڙ ناڪامي مٿي ايندي آهي، سڀ کان خراب نه.
Try a changed situation توهان جي گهر ۾ بحث آهي ته ڪرائي جي گهر ۾ ڪهڙي مرمت پهرين ٿيڻ گهرجي. ڪهڙو اصول اڃا به لاڳو آهي؟
Make something yourself هڪ AI اوزار ۾ ڏٺل پنج ناڪاميون نقصان جي ترتيب ۾ لکو. هر هڪ جي ڀرسان هڪ سبب لکو، ۽ هڪ جيڪا توهان ترتيب ۾ نه رکي سگهيا.
Read the primary or official source: Ganguli et al., Red Teaming Language Models to Reduce Harms (arXiv)