ઇનામની ચતુરાઈ શોધો

What this lesson is about

એ શોર્ટકટ શોધો જે વાસ્તવિક કામ કર્યા વિના સ્કોર વધારશે, અને તે માપદંડ બદલાવો જે તેને બંધ કરે.

હેલ્પલાઇન એક કોલને ત્યારે સોલ્વડ ગણાવે છે જ્યારે કોલ કરનાર તે જ કોલમાં ફરીથી ન પૂછે. તમે આ આંકડો કેવી રીતે વાંચશો?

Why this matters

દરેક માપદંડ અંતે કામમાં લેવાય છે, એમાં તે ભાગ પણ આવે છે જે કોઈએ ઇચ્છ્યો ન હોય.

કોઈ માપદંડ વાંચો કે તેને વધારવાનો સૌથી સસ્તો રસ્તો શું છે, અને બીજી ચકાસણી નામ આપો જે તે ખામી બંધ કરે.

દરેક માપદંડ અંતે કામમાં લેવાય છે, એમાં તે ભાગ પણ આવે છે જે કોઈએ ઇચ્છ્યો ન હોય.

પૂછો કે કામ કર્યા વિના સ્કોર કેવી રીતે વધે.
એક માપદંડ સાથે એવી ચકાસણી જોડો જે તે માપદંડ એકલો પૂરો ન કરી શકે.
તે માપદંડ જોવો જે પરિણામ સાથે હવે આગળ નથી વધતું જે તે દર્શાવે છે.

Task

હેલ્પલાઇન સહાયકને તે વાતચીત પર સ્કોર મળે છે જ્યાં કોલર ફરીથી ન પૂછે.

Weak approach તે ત્રણ મહિનાનો સમાધાન થયેલો આંકડો ખેંચે છે, તેનું ચાર્ટ બનાવે છે, અને તેને સाठથી એંસી સુધી વધતો જોઈને ચકાસે છે કે ગણતરી યોગ્ય રીતે થઈ રહી છે કે નહીં, અને થાય છે. તે ક્યારેય પૂછતો નથી કે વધતો આંકડો બીજું શું દર્શાવી શકે, અને જે કોલર હાર માની જાય તે પણ સમાધાનમાં ગણાય છે.

Stronger approach મૌન શોર્ટકટ ઓળખાવે. એક અઠવાડિયા પછી કોલબેક ચકાસણી ઉમેરે અને બંને માપદંડ સાથે સરખાવે.

Why the stronger approach works બીજી ચકાસણી જ મુખ્ય છે. એકલાં આંકડા લક્ષ્ય હોય છે પુરાવા બનતા ઘણાં પહેલા.

Try a changed situation હવે એક જિલ્લા કચેરી પોતાના સ્ટાફને દર અઠવાડિયે બંધ થયેલી ફાઇલો પરથી જ આંકે છે. કયો નિયમ હજી લાગુ પડે છે?

Make something yourself તમારા કાર્યસ્થળ, કોલેજ કે ટીમ માટે કોઈ એક આંકડો લો. લખો કે વાસ્તવિક કામ કર્યા વિના તેને વધારવાનો સૌથી સસ્તો રસ્તો શું છે, અને બીજી ચકાસણી કઈ હશે જે તેને પકડશે.

Read the primary or official source: Concrete Problems in AI Safety