ইনামের কৌশল চিহ্নিত করুন

What this lesson is about

সেই শর্টকাট খুঁজুন যা আসল কাজ না করেই স্কোর বাড়ায়, এবং সেই পরিবর্তন যা তা বন্ধ করে দেয়।

একটি হেল্পলাইন একটি কল সমাধান হিসেবে গণ্য করে যখন কলকারী একই কলের মধ্যে আবার প্রশ্ন করে না। আপনি কীভাবে সেই সংখ্যা পড়বেন?

Why this matters

প্রতিটি মাপ শেষ পর্যন্ত কাজ করা হয়, এমনকি তার সেই অংশটিও যা কেউ চায়নি।

একটি মাপ পড়ুন যে কীভাবে সবচেয়ে সস্তায় তা বাড়ানো যায়, এবং একটি দ্বিতীয় চেক নাম করুন যা সেই ফাঁক বন্ধ করে।

প্রতিটি মাপ শেষ পর্যন্ত কাজ করা হয়, এমনকি তার সেই অংশটিও যা কেউ চায়নি।

কাজ না করেই কীভাবে স্কোর বাড়ে তা জিজ্ঞাসা করুন।
একটি মাপের সঙ্গে এমন একটি চেক জোড়া দিন যা একা মাপটি পূরণ করতে পারে না।
সেই মাপটি লক্ষ্য করুন যা তার প্রতিনিধিত্ব করা ফলাফলের সঙ্গে আর চলমান নেই।

Task

একজন হেল্পলাইন সহকারীকে স্কোর দেওয়া হয় কথোপকথনের জন্য যেখানে কলকারী আর প্রশ্ন করে না।

Weak approach তিন মাসের সমাধান হওয়া সংখ্যাটি টেনে আনে, তার গ্রাফ তৈরি করে, এবং দেখে যে এটি ষাট থেকে আশি পর্যন্ত বাড়ছে। যাচাই করে যে গণনা সঠিকভাবে হচ্ছে, এবং হচ্ছে। কখনো ভাবেনা যে বাড়তে থাকা সংখ্যার অন্য কোনো মানে কী হতে পারে, আর যে কলকারী হেরে গিয়ে চুপ করে যায় তাকে সমাধান হিসেবে ধরা হয়।

Stronger approach নীরবতার শর্টকাটটি চিহ্নিত করে। এক সপ্তাহ পর কলব্যাক চেক যোগ করে, এবং দুই মাপ একসঙ্গে তুলনা করে।

Why the stronger approach works দ্বিতীয় চেকই মূল বিষয়। একটি একক সংখ্যা প্রমাণ হওয়ার আগে লক্ষ্য হয়।

Try a changed situation একটি জেলা অফিস এখন তার কর্মীদের প্রতি সপ্তাহে বন্ধ হওয়া ফাইলের মাধ্যমে বিচার করছে। কোন নিয়ম এখনও প্রযোজ্য?

Make something yourself আপনার কাজ, কলেজ বা দলের যে কোনো একটি সংখ্যাকে নিন। লিখুন কীভাবে আসল কাজ না করেই সবচেয়ে সস্তায় তা বাড়ানো যায়, এবং কোন দ্বিতীয় চেক তা ধরবে।

Read the primary or official source: Concrete Problems in AI Safety