सीखने के सभी रास्ते समझें देखें करें बनाएँ गड़बड़ियों को नुकसान के हिसाब से छाँटें यह पाठ किस बारे में है गड़बड़ियों को उनके संभावित नुकसान के क्रम में रखें, और असहमत व्यक्ति के सामने वह क्रम समझाएँ।
आपका बॉट रूखा बोलता है, बस का समय गलत बताता है, और एक बार गर्भवती महिला को आयरन छोड़ने को कह चुका है। पहले क्या?
A पूछें कि किस चूक से दफ़्तर की सबसे ज़्यादा किरकिरी होती है, और उसी को सबसे ऊपर रखें। B बस का समय पहले ठीक करें, क्योंकि तीनों में सुधारना यही सबसे जल्दी है। C गड़बड़ियों को संभावित नुकसान के क्रम में रखें, इस आधार पर नहीं कि वे कितनी बार होती हैं।
याद जाँचें यह काम क्यों ज़रूरी है एक प्रकाशित सुरक्षा अध्ययन में जाँचने वालों ने हर हमले पर बीस विषयों की सूची में से ज़्यादा से ज़्यादा दो निशान लगाए। वह सूची पहले छपे काम से, उद्योग के अपने नियमों से, और सबसे ख़राब सौ बातचीत हाथ से पढ़कर बनी थी। किसी मामले को गंभीर उसका संभावित नुकसान बनाता था, उसका अजीब दिखना नहीं।
गड़बड़ियों को उनके संभावित नुकसान के क्रम में रखें, और असहमत व्यक्ति के सामने वह क्रम समझाएँ।
एक प्रकाशित सुरक्षा अध्ययन में जाँचने वालों ने हर हमले पर बीस विषयों की सूची में से ज़्यादा से ज़्यादा दो निशान लगाए। वह सूची पहले छपे काम से, उद्योग के अपने नियमों से, और सबसे ख़राब सौ बातचीत हाथ से पढ़कर बनी थी। किसी मामले को गंभीर उसका संभावित नुकसान बनाता था, उसका अजीब दिखना नहीं।
गड़बड़ियों को संभावित नुकसान के क्रम में रखें, इस आधार पर नहीं कि वे कितनी बार होती हैं। हर जगह के बग़ल में वजह लिखें, ताकि क्रम किसी की असहमति के बाद भी टिका रहे। जिन गड़बड़ियों की जगह तय न कर सकें, उन्हें ज़बरदस्ती सूची में डालने के बजाय अलग बताएँ। काम ज़िले का एक सेहत बॉट कभी रूखा बोलता है, कभी बस का समय गलत बताता है, और एक बार उसने गर्भवती महिला से आयरन की गोली छोड़ने को कह दिया।
कमज़ोर तरीका महीने भर की शिकायतें गिनना: चालीस रूखेपन की, छह बस के गलत समय की, एक गोली वाली। रूखापन सबसे ऊपर रख देना, क्योंकि उसी का खाना सबसे लंबा है।
बेहतर तरीका आयरन की गोली वाली पंक्ति सबसे ऊपर रखता है, और बग़ल में वजह लिखता है। कोई महिला गोली लेना बंद कर सकती है और उसका नुकसान भुगत सकती है। रूखे जवाब सबसे नीचे जाते हैं।
बेहतर तरीका क्यों काम करता है बेहतर क्रम पर बहस की जा सकती है, क्योंकि हर जगह के बग़ल में एक वजह है। शिकायतें गिनने से सबसे शोर वाली गड़बड़ी ऊपर आती है, सबसे बुरी नहीं।
बदली हुई स्थिति आज़माएँ आपके घर में बहस है कि किराए के मकान में कौन-सी मरम्मत पहले हो। कौन-सा नियम अब भी लागू है?
अब खुद बनाकर देखें किसी एक AI टूल में देखी पाँच गड़बड़ियाँ संभावित नुकसान के क्रम में लिखें। हर एक के बग़ल में एक पंक्ति वजह लिखें, और वह एक बताएँ जिसकी जगह आप तय नहीं कर पाए।
विशेषज्ञता, सुरक्षा और AI सहायक: 8 में से पाठ 7 आगे दूसरों के साथ समीक्षा का दौर चलाएँ भाग 2 के आख़िर में आपके काम का नमूना बनता है, जिसे आप भेज सकते हैं
मूल या आधिकारिक स्रोत पढ़ें: Ganguli et al., Red Teaming Language Models to Reduce Harms (arXiv)