இயந்திர மொழிபெயர்ப்பு. ஆங்கிலம் மற்றும் ஹிந்தி மதிப்பாய்வு செய்யப்பட்ட பதிப்புகள்.English हिन्दी

Learn
See
Try
Make

மற்றவருடன் ஒரு மதிப்பாய்வு சுற்றை நடத்துங்கள்

What this lesson is about

மூன்று மதிப்பாய்வாளர்களுக்கு ஒரே மாதிரியான வழக்குகளை கொடுங்கள், அவர்கள் எங்கே வேறுபடுகிறார்கள் என்பதை ஒப்பிடுங்கள், மற்றும் மனிதர்களை அல்லாமல் வழிமுறையை திருத்துங்கள்.

ஐந்து வழக்குகள் வெளியேறின. கடைசி வழக்கில், இரண்டு பேர் ஒரு செய்தியை அச்சுறுத்தல் என்று கூறினார்கள், ஒருவர் அதை காமெடி என்று கூறினார். இப்போது என்ன செய்ய வேண்டும்?

Why this matters

ஒரு சுற்று மோசமான மதிப்பாய்வாளரை பிடிப்பதற்கானது அல்ல. ஒரு வெளியிடப்பட்ட பாதுகாப்பு ஆய்வில், மூன்று மதிப்பாய்வாளர்கள் ஒரே ஐநூறு வழக்குகளை மதிப்பிட்டனர். எழுத்தாளரை சேர்த்து, நான்கு மதிப்பாய்வாளர்களின் ஒப்புதல் வாய்ப்பு நீக்கப்பட்டபின் 0.32 ஆக இருந்தது. மதிப்பீட்டை 'ஆம்' அல்லது 'இல்லை' என்று குறைத்தபோது அது 0.49 ஆக உயர்ந்தது. எழுத்தாளர்கள் குற்றத்தை மக்களுக்கு அல்ல, தங்களுடைய பணியின் சொற்களுக்கே சொன்னார்கள்.

பகிர்ந்த வழக்குகளில் ஒரு சுற்றை நடத்தி, மதிப்பாய்வாளர்கள் எங்கே வேறுபட்டனர் என்பதை கண்டறிந்து, அவர்களை வேறுபடுத்திய வழிமுறையை மறுபடியும் எழுதுங்கள்.

மூன்று மதிப்பாய்வாளர்களுக்கு ஒரே வழக்குகளை கொடுத்து, அவர்கள் எங்கே வேறுபடுகிறார்கள் என்பதை ஒப்பிடுங்கள்.
மக்கள் ஒப்புக்கொள்ளாதபோது, மதிப்பாய்வாளரை குற்றம் சாட்டுவதற்கு முன் வழிமுறையை மாற்றுங்கள்.
சுற்றின் முடிவை அதில் பங்கேற்ற அனைவருக்கும், நீங்கள் தவறாக செய்ததை உட்பட, வெளியிடுங்கள்.

Task

ஐந்து பாதுகாப்பு வழக்குகள் மூன்று மதிப்பாய்வாளர்களுக்கு சென்றன. நான்கு பொருந்தின. ஐந்தாவது வழக்கில், இரண்டு ஒருவர் செய்தியை அச்சுறுத்தல் என்று கூறினர், மற்றொருவர் அதை காமெடி என்று கூறினார்.

Weak approach இருவரும் ஒப்புக்கொண்டவர்கள் உடன் செல்கிறார், மூன்றாவது ஒருவர் ஒப்புக்கொள்ளும் வரை மீண்டும் பார்க்கச் சொல்லுகிறார். இந்த சுற்று ஒரு முடிவை உருவாக்கியது, அவர்களை பிரித்த வாக்கியம் வழிகாட்டுதலில் மாற்றமின்றி உள்ளது.

Stronger approach இரு வாசிப்புகளையும் எழுதுகிறது, விதி எப்போது அச்சுறுத்தல் என்று கூறவில்லை என்பதை காட்டுகிறது. அந்த வாக்கியத்தை மறுபடியும் எழுதுகிறது, முடிவை மூவருக்கும் அனுப்புகிறது.

Why the stronger approach works வேறுபாடு தான் கண்டுபிடிப்பு, வலுவான வழி அதில் செயல்படுகிறது. வாக்கெடுப்பு அதை மறைக்கிறது, அடுத்த வாரமும் அதே விவாதம் திரும்பி வருகிறது.

Try a changed situation உங்கள் தெருவில் உள்ள இரண்டு கடைக்காரர்கள் ஒரே நகராட்சி அறிவிப்பை வேறுபட்ட முறையில் வாசிக்கிறார்கள். எந்த விதி இன்னும் பொருந்தும்?

Make something yourself இரு மற்றவர்களுடன் ஐந்து பகிர்ந்த வழக்குகளில் ஒரு சுற்றை நடத்துங்கள். யார் என்ன தீர்மானித்தார், அவர்கள் எங்கே வேறுபட்டனர், மற்றும் நீங்கள் பிறகு மறுபடியும் எழுதிய வழிமுறையின் வாக்கியத்தை பதிவு செய்யுங்கள்.

Read the primary or official source: Ganguli et al., Red Teaming Language Models to Reduce Harms (arXiv)