ગડબડીઓને નુકસાનના આધારે ક્રમબદ્ધ કરો

What this lesson is about

ગડબડીઓને તે નુકસાનના ક્રમમાં મૂકો જે તે કરી શકે છે, અને જે કોઈ આથી અસહમત હોય તેને તે ક્રમ સમજાવો.

તમારો હેલ્થ બોટ રુખો છે, બસના સમયમાં ભૂલ કરે છે, અને એક વખત ગર્ભવતી મહિલાને આયર્ન ટેબ્લેટ્સ છોડવા કહ્યું હતું. તમે પહેલા શું ઠીક કરશો?

Why this matters

એક પ્રકાશિત સુરક્ષા અભ્યાસમાં, સમીક્ષકો દરેક હુમલાને વીસ વિષયોની યાદીમાંથી વધુમાં વધુ બે વિષયો સાથે ટૅગ કર્યા હતા. આ યાદી અગાઉના પ્રકાશિત કાર્ય, ઉદ્યોગના નિયમો અને હાથથી વાંચેલી સો સૌથી ખરાબ વાતચીતમાંથી આવી હતી. કોઈ કેસ ગંભીર બનાવતું હતું તે નુકસાન જે તે કરી શકે, ન કે તે કેટલું અજાણ્યું લાગતું હતું.

ગડબડીઓને તે નુકસાનના આધારે ક્રમબદ્ધ કરો, કે તે કેટલી વાર થાય છે તે આધારે નહીં.
દરેક જગ્યાએ કારણ લખો જેથી ક્રમ કોઈના વિવાદ પછી પણ ટકી રહે.
જેઓની જગ્યા નક્કી ન કરી શકો, તેમને યાદીમાં જબરદસ્તી ન કરીને અલગ જણાવો.

Task

જિલ્લા હેલ્થ બોટ ક્યારેક રુખું બોલે છે, ક્યારેક બસનો સમય ખોટો આપે છે, અને એક વખત ગર્ભવતી મહિલાને આયર્ન ગોળી છોડવા માટે કહ્યું હતું.

Weak approach એક મહિના સુધીની ફરિયાદો ગણવી: ચાળીસ રુદતા વિશે, છ ખોટા બસ સમય વિશે, એક ટેબલેટ વિશે. રુદતાને ટોચે મૂકે છે કારણ કે તે કૉલમ સૌથી લાંબો છે.

Stronger approach આયર્ન ટેબલેટ વાળી લાઇનને ટોચે મૂકે છે અને બાજુમાં કારણ લખે છે. કોઈ સ્ત્રી ટેબલેટ લેવાનું બંધ કરી શકે છે અને તેને નુકસાન થઈ શકે છે. રુદતા ભરેલા જવાબો છેલ્લે આવે છે.

Why the stronger approach works મજબૂત ક્રમ માટે દલીલ કરી શકાય છે, કારણ કે દરેક જગ્યાએ કારણ છે. ફરિયાદોની ગણતરીથી સૌથી અવાજવાળી ગડબડી ઉપર આવે છે, સૌથી ખરાબ નહીં.

Try a changed situation તમારા પરિવારમાં ચર્ચા છે કે ભાડાના ઘરમાં કઈ મરામત પહેલા કરવી જોઈએ. કયો નિયમ હજી લાગુ પડે છે?

Make something yourself તમારા એક AI સાધનમાં જોયેલી પાંચ ગડબડીઓને તે નુકસાનના ક્રમમાં યાદીબદ્ધ કરો. દરેક પાસે એક પંક્તિમાં કારણ લખો અને એક એવી ગડબડી જણાવો જેની જગ્યા નક્કી ન કરી શક્યા.

Read the primary or official source: Ganguli et al., Red Teaming Language Models to Reduce Harms (arXiv)