انعام کی چالاکی پہچانیں

What this lesson is about

وہ شارٹ کٹ تلاش کریں جو اصل کام کیے بغیر اسکور بڑھاتا ہے، اور وہ تبدیلی جو اسے بند کر دیتی ہے۔

ایک ہیلپ لائن کال کو اس وقت حل شدہ شمار کرتی ہے جب کال کرنے والا اسی کال میں دوبارہ نہ پوچھے۔ آپ اس نمبر کو کیسے پڑھیں گے؟

Why this matters

ہر پیمائش آخرکار کام کی جاتی ہے، اس کا وہ حصہ بھی جو کسی نے چاہا ہی نہیں تھا۔

کسی پیمائش کو اس نظر سے پڑھیں کہ اسے بڑھانے کا سب سے سستا طریقہ کیا ہے، اور وہ دوسرا چیک بتائیں جو اس خلا کو بند کرے۔

ہر پیمائش آخرکار کام کی جاتی ہے، اس کا وہ حصہ بھی جو کسی نے چاہا ہی نہیں تھا۔

پوچھیں کہ کام کیے بغیر اسکور کیسے بڑھایا جا سکتا ہے۔
ہر پیمائش کے ساتھ ایسا چیک جو وہ خود پورا نہ کر سکے جوڑیں۔
اس پیمائش پر نظر رکھیں جو اب اس نتیجے کے ساتھ نہیں چلتی جس کی وہ نمائندگی کرتی ہے۔

Task

ہیلپ لائن اسسٹنٹ کو ان بات چیتوں پر اسکور ملتا ہے جن میں کالر دوبارہ نہیں پوچھتا۔

Weak approach تین مہینوں کا حل شدہ عدد نکالتا ہے، اس کا گراف بناتا ہے، اور اسے ساٹھ سے اسی تک بڑھتے دیکھتا ہے۔ چیک کرتا ہے کہ گنتی صحیح ہو رہی ہے، اور ہو رہی ہے۔ کبھی یہ نہیں پوچھتا کہ بڑھتا ہوا عدد اور کیا معنی رکھ سکتا ہے، اور جو کالر ہار مان کر خاموش ہو جائے اسے بھی حل شدہ سمجھ لیا جاتا ہے۔

Stronger approach خاموشی والے شارٹ کٹ کا نام لیتا ہے۔ ایک ہفتے بعد کال بیک چیک شامل کرتا ہے، اور دونوں پیمائشوں کو ساتھ رکھ کر دیکھتا ہے۔

Why the stronger approach works دوسرا چیک اصل بات ہے۔ ایک عدد بہت پہلے ہدف بنتا ہے، ثبوت نہیں۔

Try a changed situation اب کوئی ضلع دفتر اپنے عملے کو ہر ہفتے بند ہونے والی فائلوں سے پرکھ رہا ہے۔ کون سا اصول پھر بھی لاگو ہوتا ہے؟

Make something yourself اپنے کام، کالج یا ٹیم کی کوئی ایسی تعداد لیں جس پر آپ کو پرکھا جاتا ہے۔ لکھیں کہ بغیر اصل کام کیے اسے بڑھانے کا سب سے سستا طریقہ کیا ہے، اور دوسرا چیک کون سا ہے جو اسے پکڑ لے گا۔

Read the primary or official source: Concrete Problems in AI Safety