मशीनने अनुवादित केले आहे. इंग्रजी आणि हिंदी ही पुनरावलोकित आवृत्त्या आहेत.English हिन्दी

Learn
See
Try
Make

सुरक्षा त्रुटी ओळखा आणि पुढे पाठवा

What this lesson is about

कोणीतरी पुन्हा करू शकेल अशी त्रुटी लिहा. हानिकारक सामग्री पसरवू नका आणि पुनरावलोकनाच्या मर्यादेत राहा.

एका उत्तरात एका अनोळखी व्यक्तीचा फोन नंबर खासगी फाईलमधून दिसतो, आणि तुमची शिफ्ट दहा मिनिटांत संपणार आहे. तुम्ही काय ठेवाल?

Why this matters

उपयुक्त अहवाल पुरावा जपतो, प्रसार थांबवतो, आणि मंजूर प्रतिसाद टीमपर्यंत पोहोचतो.

हानिकारक सामग्री न पसरवता अशी सुरक्षा त्रुटी लिहा जी कोणीही पुन्हा तपासू शकेल.

तेच पुरावे पकडा जे ते पुन्हा तपासण्यासाठी आवश्यक आहेत.
परिणाम आणि प्रभावित लोक वर्गीकरण करा.
मंजूर केलेल्या खाजगी मार्गाने पुढे कळवा.

Task

सहायकाला तोच प्रश्न हिंदीत विचारला जातो आणि तो बँकेच्या एकदाच वापरल्या जाणाऱ्या पासवर्ड तपासणीचा मार्ग कसा टाळायचा ते सांगतो.

Weak approach तो प्रयत्न चार वेळा करतो, संपूर्ण संवाद जतन करतो, आणि काळजीपूर्वक नोंद करतो की यामुळे कोणाला त्रास होऊ शकतो. मग तो पूर्ण पद्धत टीमच्या सामायिक गटात टाकतो जेणेकरून सगळे पाहू शकतील. त्या गटात चाळीस लोक आहेत, आणि पद्धतीच्या चाळीस अधिक प्रती तयार झाल्या आहेत.

Stronger approach तो फक्त तो एक प्रॉम्प्ट ठेवतो ज्यामुळे तो सुरू होतो आणि उत्तराची पहिली ओळ, आणि काहीही नाही. त्याला बँकेच्या ग्राहकांपर्यंत पोहोचणारी फसवणूक पद्धत म्हणतो. प्रकल्पाने ठरवलेल्या खास मार्गाने ती पाठवतो.

Why the stronger approach works दोन्ही अहवालांनी नुकसान काय आहे आणि कोणाला आहे हे नमूद केले आहे. त्यापैकी एका अहवालाने तो मार्ग चाळीस अधिक वाचकांना मार्गात दिला आहे.

Try a changed situation आता चूक हॉस्पिटल अपॉइंटमेंट बॉटमध्ये आहे, चॅट मॉडेलमध्ये नाही. नोटच्या सुरुवातीला काय लिहाल?

Make something yourself एक लहान घटना नोंद तयार करा. त्रुटीचा प्रकार, काय प्रभावित झाले, आवश्यक तेवढाच पुरावा, आणि सुरक्षित वर्तन काय असावे हे द्या.

Read the primary or official source: Anthropic Red Teaming