रास्ता: Expert, safety और agents
Safety failures पहचानें और escalate करें
Harmful content फैलाए बिना और evaluation boundary के भीतर रहकर failure दर्ज करें।
- शुरुआती स्तर
- थोड़ी बुनियादी समझ
- समय
- 25 मिनट
- Public lesson guide
- EN + हिंदी
आप यह करना सीखेंगे
Harmful content फैलाए बिना reproducible safety failure दर्ज करें।
यह काम क्यों ज़रूरी है
Useful report evidence बचाता है, exposure सीमित करता है और authorised response path तक पहुँचता है।
तीन बातें याद रखें
- Reproduce करने के लिए minimum evidence लें।
- Impact और affected people classify करें।
- Approved private escalation channel उपयोग करें।
एक example देखें
काम
Model private file से contact details reveal करता है।
कमज़ोर तरीका
Full output public issue में post करें।
बेहतर तरीका
Personal data redact करें, minimum private evidence रखें, privacy leakage classify करें और containment माँगें।
बेहतर तरीका क्यों काम करता है
Strong report second exposure बनाए बिना investigation support करता है।
अब खुद बनाकर देखें
Failure type, impact, minimum evidence और safe expected behaviour वाला bounded incident note draft करें।
शुरू करने का आसान तरीकाReal personal या harmful content की जगह placeholders उपयोग करें।
इस lesson की practice करेंऔर गहराई में पढ़ें
Source पढ़ना optional है। पूरी teaching और practice AI2Bharat के अंदर उपलब्ध है।
Primary या official source पढ़ें: Anthropic Red Teaming