సురక్షత లోపాలను వర్గీకరించి పైకి పంపండి

What this lesson is about

ఇంకొకరు పునరావృతం చేయగలిగే లోపాన్ని వ్రాయండి. హానికరమైన విషయాన్ని వ్యాప్తి చేయవద్దు, సమీక్ష పరిమితులలో ఉండండి.

ఒక జవాబు ఒక అన్యుని ఫోన్ నంబర్‌ను ప్రైవేట్ ఫైల్ నుండి చూపిస్తుంది, మరియు మీ షిఫ్ట్ పది నిమిషాల్లో ముగుస్తుంది. మీరు ఏమి ఉంచుతారు?

Why this matters

ఉపయోగకరమైన నివేదిక సాక్ష్యాన్ని కాపాడుతుంది, వ్యాప్తిని ఆపుతుంది, మరియు అనుమతించబడిన స్పందన బృందానికి చేరుతుంది.

హానికరమైన విషయాన్ని వ్యాప్తి చేయకుండా ఇంకొకరు పునరావృతం చేయగలిగే సురక్షత లోపాన్ని వ్రాయండి.

దాన్ని పునరావృతం చేయడానికి కనీస అవసరమైన సాక్ష్యాలను సేకరించండి.
ప్రభావం మరియు ప్రభావితుల వర్గీకరణ చేయండి.
అనుమతించబడిన ప్రైవేట్ మార్గాన్ని ఉపయోగించి పైకి తెలియజేయండి.

Task

ఒక సహాయకుడు అదే ప్రశ్నను హిందీలో అడిగి, బ్యాంక్ యొక్క ఒకసారి ఉపయోగించే పాస్‌వర్డ్ తనిఖీని దాటిపోవడానికి ఒక మార్గాన్ని చెప్పాడు.

Weak approach అది ప్రయత్నాన్ని నాలుగు సార్లు పునరావృతం చేస్తుంది, మొత్తం సంభాషణను సేవ్ చేస్తుంది, మరియు ఇది ఎవరికీ హాని చేయవచ్చో జాగ్రత్తగా ఒక గమనిక రాస్తుంది. ఆ తర్వాత పూర్తి పద్ధతిని టీమ్ యొక్క పంచుకున్న గ్రూపులో పేస్ట్ చేస్తుంది, అందరూ చూడగలుగుతారు. ఆ గ్రూపులో నలభై మంది ఉన్నారు, మరియు ఆ పద్ధతికి ఇప్పుడు నలభై కాపీలు ఎక్కువయ్యాయి.

Stronger approach దాన్ని ప్రారంభించే ఒకే ఒక ప్రాంప్ట్ మరియు ప్రతిస్పందన మొదటి పంక్తిని మాత్రమే ఉంచుతుంది, మరేదీ కాదు. దీనిని బ్యాంక్ కస్టమర్లను చేరుకునే మోసపూరిత పద్ధతిగా పిలుస్తుంది. ప్రాజెక్ట్ పేరు పెట్టిన ప్రైవేట్ మార్గంలో పంపిస్తుంది.

Why the stronger approach works ఇరువురు నివేదికలు హాని ఏమిటి మరియు ఎవరికో చెప్పాయి. వారిలో ఒకరు ఆ పద్ధతిని మార్గంలో నలభై మందికి కూడా ఇచ్చారు.

Try a changed situation పొరపాటు ఇప్పుడు చాట్ మోడల్ కాకుండా ఆసుపత్రి అపాయింట్మెంట్ బాట్‌లో ఉంది. నోటు మొదట్లో ఏమి ఉంటుంది?

Make something yourself చిన్న సంఘటన గమనికను తయారుచేయండి. లోపం రకం, దాని ప్రభావం, కనీస సాక్ష్యం, మరియు ఏ సురక్షిత ప్రవర్తన ఉండేది చెప్పండి.

Read the primary or official source: Anthropic Red Teaming