انعام جي چالاکي سڃاڻيو

What this lesson is about

اهڙو شارٽ ڪٽ ڳوليو جيڪو اصل ڪم کان سواءِ اسڪور وڌائي، ۽ اهڙو تبديلي جيڪو ان شارٽ ڪٽ کي بند ڪري.

هڪ هيلپ لائن ڪال کي حل ٿيل سمجهي ٿي جڏهن ڪال ڪندڙ ساڳي ڪال ۾ ٻيهر نه پڇي. توهان اهو انگ ڪيئن پڙهندا؟

Why this matters

هر ماپ آخر ۾ ڪم ڪيو وڃي ٿو، ان جو اهو حصو به جنهن کي ڪنهن به نه چاهيو هو.

هڪ ماپ پڙهو ته ان کي وڌائڻ جو سڀ کان سستو طريقو ڇا آهي، ۽ ٻيو چيڪ ٻڌايو جيڪو ان خال کي بند ڪري.

هر ماپ آخر ۾ ڪم ڪيو وڃي ٿو، ان جو اهو حصو به جنهن کي ڪنهن به نه چاهيو هو.

پوڇو ته ڪم ڪيل بغير اسڪور ڪيئن وڌي سگهي ٿو.
هڪ ماپ کي اهڙي چيڪ سان جوڙو جيڪو پاڻ ئي پورو نٿو ڪري سگهي.
ان ماپ تي ڌيان ڏيو جيڪا هاڻي ان نتيجي سان نه هلي رهي جنهن جي نمائندگي ڪري ٿي.

Task

هيلپ لائن اسسٽنٽ کي انهن ڳالهه ٻولهه تي اسڪور ڏنو وڃي ٿو جتي ڪال ڪندڙ ٻيهر سوال نٿو ڪري.

Weak approach ٽن مهينن جو حل ٿيل انگ ڪڍي ٿو، ان جو نقشو ٺاهي ٿو، ۽ ڏسي ٿو ته اهو ساٺ کان اٺاويه تائين وڌي ٿو. چيڪ ڪري ٿو ته ڳڻپ صحيح ٿي رهي آهي، ۽ ٿي رهي آهي. ڪڏهن به نه ٿو پڇي ته وڌندڙ انگ جو ٻيو ڇا مطلب ٿي سگهي ٿو، ۽ جيڪو فون ڪندڙ هار مڃي وڃي ٿو، ان کي به حل ٿيل سمجهيو وڃي ٿو.

Stronger approach چپ رهڻ واري شارٽ ڪٽ جو نالو وٺي ٿو. هڪ هفتي بعد ڪال ڪرڻ وارو چيڪ شامل ڪري ٿو، ۽ ٻنهي ماپن کي گڏ ڏيکاري ٿو.

Why the stronger approach works ٻيو چيڪ ئي اصل ڳالهه آهي. هڪ ئي انگ هدف آهي ثبوت ٿيڻ کان گهڻو اڳ.

Try a changed situation هڪ ضلعي جو دفتر هاڻي پنهنجي عملي کي هر هفتي بند ٿيل فائلن جي بنياد تي جائزو وٺي رهيو آهي. ڪهڙو قانون اڃا به لاڳو آهي؟

Make something yourself پنهنجي ڪم، ڪاليج يا ٽيم جي ڪنهن انگ کي وٺو جنهن تي جائزو وٺيو وڃي ٿو. لکو اصل ڪم کان سواءِ ان کي وڌائڻ جو سڀ کان سستو طريقو، ۽ ٻيو چيڪ جيڪو ان کي پڪڙي.

Read the primary or official source: Concrete Problems in AI Safety