യന്ത്രം വിവർത്തനം ചെയ്തതാണ്. ഇംഗ്ലീഷ്, ഹിന്ദി പരിശോധിച്ച പതിപ്പുകളാണ്.English हिन्दी

Learn
See
Try
Make

റിവാർഡ് ഹാക്കിംഗ് കണ്ടെത്തുക

What this lesson is about

യഥാർത്ഥ ജോലി ചെയ്യാതെ സ്കോർ ഉയർത്തുന്ന ഷോർട്ട്കട്ട് കണ്ടെത്തുക, അത് അടയ്ക്കുന്ന മാറ്റവും കണ്ടെത്തുക.

ഒരു ഹെൽപ്‌ലൈൻ ഒരു കോൾ പരിഹരിച്ചതായി എണ്ണുന്നത് കോൾ ചെയ്യുന്നവൻ ആ കോൾ തന്നെ വീണ്ടും ചോദിക്കാതിരിക്കുമ്പോഴാണ്. ആ സംഖ്യയെ നിങ്ങൾ എങ്ങനെ വായിക്കും?

Why this matters

എല്ലാ മാപനവും അവസാനം പ്രവർത്തിപ്പിക്കപ്പെടുന്നു, ആരും ഉദ്ദേശിച്ചിരുന്നില്ലാത്ത ഭാഗവും ഉൾപ്പെടെ.

ഒരു മാപനം വായിച്ച് അതിനെ ഉയർത്താനുള്ള ഏറ്റവും കുറഞ്ഞ ചിലവുള്ള വഴി കണ്ടെത്തുക, അത് അടയ്ക്കുന്ന രണ്ടാം പരിശോധനയും പറയുക.

ജോലി ചെയ്യാതെ സ്കോർ ഉയർത്തുന്നത് എന്താണെന്ന് ചോദിക്കുക.
ഒരു മാപനത്തോടൊപ്പം അത് ഒറ്റയ്ക്ക് പാലിക്കാൻ കഴിയാത്ത പരിശോധന ചേർക്കുക.
ഫലത്തോടൊപ്പം നീങ്ങാതിരിക്കുന്ന മാപനം ശ്രദ്ധിക്കുക.

Task

ഹെൽപ്ലൈൻ അസിസ്റ്റന്റിന് കോളർ വീണ്ടും ചോദിക്കാത്ത സംഭാഷണങ്ങളിൽ സ്കോർ നൽകുന്നു.

Weak approach മൂന്ന് മാസത്തെ പരിഹരിച്ച സംഖ്യ എടുത്ത് അതിന്റെ ഗ്രാഫ് വരച്ചു, അന്ന് അത് അറുപത് മുതൽ എൺപതുവരെ ഉയരുന്നത് കാണുന്നു. എണ്ണൽ ശരിയായി നടക്കുന്നതായി പരിശോധിക്കുന്നു, ശരിയാണ്. ഉയരുന്ന സംഖ്യയുടെ മറ്റെന്തെങ്കിലും അർത്ഥം എന്താണെന്ന് ഒരിക്കലും ചോദിക്കാറില്ല, ഒപ്പം കൈവിട്ടു മൗനം പാലിക്കുന്ന കോൾ ചെയ്യുന്നവനും പരിഹരിച്ചതായി കണക്കാക്കപ്പെടുന്നു.

Stronger approach മൗനം ഷോർട്ട്കട്ട് പറയുകയും, ഒരു ആഴ്ച കഴിഞ്ഞ് ഫോണുചെയ്യുന്ന പരിശോധന ചേർക്കുകയും, രണ്ട് മാപനങ്ങളും ഒപ്പം കാണിക്കുകയും ചെയ്യുന്നു.

Why the stronger approach works രണ്ടാം പരിശോധനയാണ് പ്രധാനമെന്ന്. ഒറ്റ സംഖ്യ തെളിവാകുന്നതിന് മുമ്പ് ലക്ഷ്യമാകുന്നു.

Try a changed situation ഒരു ജില്ല ഓഫീസ് ഇപ്പോൾ ഓരോ ആഴ്ചയും അടച്ച ഫയലുകളുടെ അടിസ്ഥാനത്തിൽ ജീവനക്കാരെ വിലയിരുത്തുന്നു. ഏത് നിയമം ഇപ്പോഴും ബാധകമാണ്?

Make something yourself നിങ്ങളുടെ ജോലി, കോളേജ്, അല്ലെങ്കിൽ ടീമിന് വിലയിരുത്തപ്പെടുന്ന ഒരു സംഖ്യ എടുത്ത്, യഥാർത്ഥ ജോലി ചെയ്യാതെ അതു ഉയർത്താനുള്ള ഏറ്റവും കുറഞ്ഞ ചിലവുള്ള വഴി എഴുതുക, അത് പിടികൂടുന്ന രണ്ടാം പരിശോധനയും എഴുതുക.

Read the primary or official source: Concrete Problems in AI Safety