इनाम-चालाकीः पश्य

What this lesson is about

यः लघु मार्गः कार्यं न कृत्वा स्कोरे वृद्धिं करोति तं चिन्व, च तं मार्गं निरोद्धुं द्वितीयं परीक्षां च।

एकः हेल्पलाइनः तदा किमपि कॉल् समाधानं वदति यदा तेनैव कॉल् न पुनः पृच्छते। कथं तं सङ्ख्यां पठसि?

Why this matters

प्रतिमापनं अन्ते कदाचित् वृद्धिं प्राप्नोति — यत् तस्य अंशः यः कश्चन न इच्छति।

कस्यचित् मापनस्य न्यूनतम् व्ययेन वृद्धेः मार्गं पठ, च द्वितीयं परीक्षां नाम दत्तुम् यः तं मार्गं निरोद्धुम् अर्हति।

कार्यं न कुर्वन् किं प्रकारेण अङ्कः वर्धते इति पृच्छ।
यः मापनं स्वयमेव न पूरयितुं शक्नोति तेन सह परीक्षां योजय।
यः मापनः फलस्य प्रतीकं न यथावत् वहति तं पश्य।

Task

हेल्पलाइन सहायकेषु तेषां वार्तालापेषु स्कोरः यत्र पुनः न पृच्छति।

Weak approach त्रिमासस्य समाधानाङ्कं आहरति, तस्य चित्रं रचयति, च षष्टि तः अष्टाशीतिं आरोहणं पश्यति। गणना सम्यक् क्रियते इति परीक्षते, च तत् सम्यक् अस्ति। न कदापि पृच्छति यत् आरोहणशीलस्याङ्कस्य अन्यः किं अर्थः स्यात्, च यः कॉलकर्ता पराजयं स्वीकरोति सः अपि समाधानरूपेण गण्यते।

Stronger approach मौनलघु मार्गं निर्दिशति, सप्तदिनानन्तरं पुनः सम्पर्कपरीक्षा योजयति, द्वौ मापनौ सह पश्यति।

Why the stronger approach works द्वितीयः परीक्षा एव मुख्यः। एकः संख्या प्रमाणात् पूर्वमेव लक्ष्यं भवति।

Try a changed situation अधुना क्षेत्रीयकार्यालयः स्वकर्मचारिणः प्रति सप्ताहं समापितानां फाइलानां आधारं परीक्षते। कः नियमः तावत् अपि प्रवर्तते?

Make something yourself यः संख्या तव कर्मस्थले, विद्यालये वा दलस्य परीक्षायै प्रयुज्यते तां गृह्णीहि। कार्यं न कृत्वा तां वृद्धिं कर्तुं न्यूनतम् मार्गं लिख, च द्वितीयं परीक्षां यः तां गृह्णाति।

Read the primary or official source: Concrete Problems in AI Safety