Skip to lesson

യന്ത്രം വിവർത്തനം ചെയ്തതാണ്. ഇംഗ്ലീഷ്, ഹിന്ദി പരിശോധിച്ച പതിപ്പുകളാണ്.Englishहिन्दी

  1. Learn
  2. See
  3. Try
  4. Make

മറ്റുള്ളവരോടൊപ്പം ഒരു അവലോകന റൗണ്ട് നടത്തുക

What this lesson is about

മൂന്ന് റിവ്യൂവേഴ്സിന് ഒരേ കേസുകൾ നൽകുക, അവർ എവിടെ വ്യത്യാസപ്പെടുന്നു എന്ന് താരതമ്യം ചെയ്യുക, ആളുകളെ പകരം നിർദ്ദേശം തിരുത്തുക.

അഞ്ച് കേസുകൾ പുറത്തുവിട്ടു. അവസാനത്തിലും, രണ്ട് പേർ സന്ദേശത്തെ ഭീഷണി എന്ന് വിളിച്ചു, ഒരാൾ തമാശ എന്ന് പറഞ്ഞു. ഇനി എന്ത് ചെയ്യണം?

Why this matters

ഒരു റൗണ്ട് ഒരു തെറ്റായ റിവ്യൂവറെ പിടികൂടാനുള്ളതല്ല. ഒരു പ്രസിദ്ധീകരിച്ച സുരക്ഷ പഠനത്തിൽ, മൂന്ന് റിവ്യൂവർമാർ ഒരേ അഞ്ചു നൂറു കേസുകൾ വിലയിരുത്തി. എഴുത്തുകാരനെ ഉൾപ്പെടുത്തി, നാലുപേരും തമ്മിലുള്ള ഒത്തുചേരൽ, സാധ്യത ഒഴിവാക്കിയ ശേഷം 0.32 ആയിരുന്നു. റേറ്റിംഗ് ഹോ അല്ലെങ്കിൽ നോ ആയി കുറച്ചപ്പോൾ അത് 0.49 ആയി ഉയർന്നു. എഴുത്തുകാർ കുറ്റം ആളുകളിലല്ല, അവരുടെ തന്നെ ടാസ്ക് വാക്കുകളിലാണെന്ന് പറഞ്ഞു.

Read the primary or official source: Ganguli et al., Red Teaming Language Models to Reduce Harms (arXiv)