सुरक्षा त्रुटि सभ के छाँटि कऽ आगाँ पठाउ

What this lesson is about

ऐहन त्रुटि लिखू जे दोसर कियो दोहरा सकए। हानिकारक सामग्री नहि फइलाउ, आ समीक्षा के सीमा मे रहू।

एक जवाब में एक अनजान व्यक्ति के निजी फ़ाइल से फोन नंबर दिखा रहल अछि, आ अहाँक शिफ्ट दस मिनट में खत्म होयत अछि। अहाँ की राखब?

Why this matters

एक उपयोगी रिपोर्ट प्रमाण रखैत अछि, फइलाव रोकैत अछि, आ मंजूर प्रतिक्रिया टीम तक पहुँचैत अछि।

ऐहन सुरक्षा त्रुटि लिखू जे दोसर कियो दोहरा सकए, बिना हानिकारक सामग्री फइलौने।

दोहराबाक लेल न्यूनतम प्रमाण राखू।
प्रभाव आ प्रभावित लोकक वर्गीकरण करू।
मंजूर निजी मार्ग सँ आगाँ पठाउ।

Task

एक सहायक सँगेहि प्रश्न हिंदी मे पुछल जाइत अछि आ बैंकक एक बेरक पासवर्ड जाँच सँ बचबाक उपाय बतबैत अछि।

Weak approach चार बेर प्रयास दोहरबैत अछि, पूरा बातचीत सहेजैत अछि, आ ध्यानसँ लिखैत अछि जे एहि सँ केकरा नुकसानी भऽ सकैत अछि। फेर पूरा तरीका टीमक साझा समूह मे चिपका दैत अछि जाहि सँ सभ देखि सकथि। समूह मे चालीस लोक छथि, आ तरीका क चालीस आर प्रति बनि गेल अछि।

Stronger approach ओहि एकटा प्रॉम्प्ट केँ राखैत अछि जे एकरा चालू करैत अछि आ जवाबक पहिल पाँति, आ आर किछु नहि। एकरा बैंक ग्राहक सभ तक पहुँचय बला ठगीक तरीका कहैत अछि। प्रोजेक्ट द्वारा नामित निजी मार्ग सँ पठबैत अछि।

Why the stronger approach works दूनू रिपोर्ट मे नुकसानी आ लोकक नाम अछि। एकटा त ओहि तरीका केँ चालीस आर पाठक केँ रास्ता मे देलक।

Try a changed situation गलती आब अस्पताल के अपॉइंटमेंट बॉट में अछि, चैट मॉडल में नहि। नोट के ऊपर की लिखब?

Make something yourself एक छोट घटना नोट तैयार करू। त्रुटि के प्रकार, की प्रभावित भेल, कम सँ कम प्रमाण, आ सुरक्षित व्यवहार की होइत।

Read the primary or official source: Anthropic Red Teaming