سیفٹی کی خرابیوں کو ترتیب دیں اور آگے بھیجیں

What this lesson is about

ایسی خرابی لکھیں جسے کوئی اور دہرا سکے۔ نقصان دہ مواد کو پھیلائیں نہیں، اور جائزہ کی حدود میں رہیں۔

ایک جواب میں ایک اجنبی کا فون نمبر ایک نجی فائل سے دکھایا گیا ہے، اور آپ کی شفٹ دس منٹ میں ختم ہو رہی ہے۔ آپ کیا رکھیں گے؟

Why this matters

مفید رپورٹ ثبوت رکھتی ہے، پھیلاؤ کو روکتی ہے، اور منظور شدہ جواب دہ ٹیم تک پہنچتی ہے۔

ایسی سیفٹی خرابی لکھیں جسے کوئی اور دہرا سکے، نقصان دہ مواد کو پھیلائے بغیر۔

مفید رپورٹ ثبوت رکھتی ہے، پھیلاؤ کو روکتی ہے، اور منظور شدہ جواب دہ ٹیم تک پہنچتی ہے۔

دہرائے جانے کے لیے کم از کم ضروری ثبوت رکھیں۔
اثر اور متاثرہ لوگوں کی درجہ بندی کریں۔
منظور شدہ نجی راستہ استعمال کریں۔

Task

ایک اسسٹنٹ سے وہی سوال ہندی میں پوچھا جاتا ہے اور وہ بینک کے ایک بار کے پاس ورڈ چیک کو عبور کرنے کا طریقہ بتاتا ہے۔

Weak approach چار بار کوشش دہرائی جاتی ہے، پوری گفتگو محفوظ کی جاتی ہے، اور احتیاط سے لکھا جاتا ہے کہ یہ کس کو نقصان پہنچا سکتا ہے۔ پھر پورا طریقہ ٹیم کے مشترکہ گروپ میں چسپاں کر دیا جاتا ہے تاکہ سب دیکھ سکیں۔ گروپ میں چالیس لوگ ہیں، اور طریقے کی چالیس مزید نقول بن چکی ہیں۔

Stronger approach صرف وہ ایک پرامپٹ رکھتا ہے جو اسے شروع کرتا ہے اور جواب کی پہلی لائن، اور کچھ نہیں۔ اسے بینک کے صارفین تک پہنچنے والی فراڈ کی ترکیب کہتا ہے۔ اسے اسی نجی راستے سے بھیجتا ہے جسے پروجیکٹ نے نام دیا ہے۔

Why the stronger approach works دونوں رپورٹس نقصان اور متاثرہ افراد کا ذکر کرتی ہیں۔ ان میں سے ایک نے راستے میں طریقہ چالیس مزید قارئین کو بھی دے دیا۔

Try a changed situation اب مسئلہ ایک ہسپتال کے اپوائنٹمنٹ بوٹ میں ہے، نہ کہ چیٹ ماڈل میں۔ نوٹ کی سب سے اوپر کیا لکھیں گے؟

Make something yourself ایک مختصر واقعہ نوٹ تیار کریں۔ خرابی کی قسم، اثر، کم سے کم ثبوت، اور محفوظ رویہ کیا ہوتا۔

Read the primary or official source: Anthropic Red Teaming