मेसिन अनुवाद गरिएको। अंग्रेजी र हिन्दी समीक्षा गरिएका संस्करणहरू हुन्।English हिन्दी

Learn
See
Try
Make

सुरक्षा त्रुटिहरू छान्नुहोस् र माथि पठाउनुहोस्

What this lesson is about

अरूले दोहोर्याउन सक्ने त्रुटि लेख्नुहोस्। हानिकारक सामग्री नफैलाउनुहोस् र समीक्षा सीमाभित्रै रहनुहोस्।

एक उत्तरले अपरिचितको फोन नम्बर निजी फाइलबाट देखाउँछ, र तपाईंको सिफ्ट दस मिनेटमा सकिन्छ। के राख्नुहुन्छ?

Why this matters

उपयोगी रिपोर्टले प्रमाण राख्छ, फैलावट रोक्छ र स्वीकृत प्रतिक्रिया टोलीसम्म पुग्छ।

हानिकारक सामग्री नफैलाउँदै अरूले दोहोर्याउन सक्ने सुरक्षा त्रुटि लेख्नुहोस्।

पुनः दोहोर्याउन न्यूनतम प्रमाण मात्र समात्नुहोस्।
प्रभाव र प्रभावित व्यक्तिहरू वर्गीकरण गर्नुहोस्।
स्वीकृत निजी मार्गबाट माथि जानकारी पठाउनुहोस्।

Task

सहायकलाई उही प्रश्न हिन्दीमा सोधिन्छ र बैंकको एकपटक प्रयोग हुने पासवर्ड जाँच पार गर्ने तरिका बताउँछ।

Weak approach चार पटक प्रयास दोहोर्याउँछ, पुरा संवाद बचत गर्छ, र कसलाई कस्तो नोक्सान पुग्न सक्छ भनेर ध्यान दिएर नोट लेख्छ। त्यसपछि पुरा तरिका टिमको साझा समूहमा टाँस्छ ताकि सबैले देख्न सकून्। समूहमा चालीस जना छन्, र तरिकाका चालीस थप प्रतिहरू बनेका छन्।

Stronger approach त्यो एक मात्र प्रॉम्प्ट जसले यसलाई सुरु गराउँछ र जवाफको पहिलो लाइन मात्र राख्छ, अरु केही होइन। यसलाई बैंकका ग्राहकसम्म पुग्ने ठगीको तरिका भन्छ। प्रोजेक्टले नाम दिएको निजी मार्गबाट पठाउँछ।

Why the stronger approach works दुवै रिपोर्टले नोक्सान र प्रभावित व्यक्तिहरूको नाम बताउँछन्। तीमध्ये एकले बाटोमा त्यहि तरिका चालीस थप पाठकहरूलाई पनि दिएको छ।

Try a changed situation अहिले समस्या अस्पताल अपोइन्टमेन्ट बोटमा छ, च्याट मोडेलमा होइन। नोटको शीर्षमा के लेखिन्छ?

Make something yourself छोटो घटना नोट तयार गर्नुहोस्। त्रुटिको प्रकार, असर, न्यूनतम प्रमाण, र सुरक्षित व्यवहार के हुन्थ्यो लेख्नुहोस्।

Read the primary or official source: Anthropic Red Teaming