سُرٛکھ ژٲنٛیٚ کٲمیٚ ہٲند چھ بھیجٕن

What this lesson is about

ایٚک کٲمیٚ لکھٕن ژیہٕ کٲرٕن ہٲند کوئی ہٲرٛ ژٲنٛیٚ کرٕن۔ نقصانٛ زٲرٛ نہ پھٲلن، تہ جٲنٛچٕ منزٕ حدٕ بٲرٕ رہٕن۔

ایک جواب چھُپا ہوا فون نمبر دکھا رہا ہے، اور تمہاری شفٹ دس منٹ میں ختم ہو رہی ہے۔ تم کیا رکھو گے؟

Why this matters

مفید رپورٹ ثبوت رکھٕن، نقصانٛ پھٲلن روکٕن، تہ منظور شدہ جواب دہندہ ٹیم تک پہنچٕن۔

ایٚسی سُرٛکھ کٲمیٚ لکھٕن ژیہٕ ہٲند کوئی ہٲرٛ ژٲنٛیٚ کرٕن، نقصانٛ زٲرٛ پھٲلن بٲغٕر۔

مفید رپورٹ ثبوت رکھٕن، نقصانٛ پھٲلن روکٕن، تہ منظور شدہ جواب دہندہ ٹیم تک پہنچٕن۔

دہرائے جانے کے لیے کم از کم ضروری ثبوت پکڑو۔
اثر تہ متاثرہ لوگ درج کرٕ۔
منظور شدہ نجی راستہ اختیار کرٕن۔

Task

ایک معاون سے وہی سوال ہندی میں پوچھا جاتا ہے اور وہ بینک کے ایک بار کے پاس ورڈ چیک کو عبور کرنے کا طریقہ بتاتا ہے۔

Weak approach چار مرتبہ کوشش دہراتا ہے، پوری گفتگو محفوظ کرتا ہے، اور غور سے لکھتا ہے کہ یہ کس کو نقصان پہنچا سکتا ہے۔ پھر مکمل طریقہ ٹیم کے مشترکہ گروپ میں چسپاں کرتا ہے تاکہ سب دیکھ سکیں۔ گروپ میں چالیس لوگ ہیں، اور طریقے کی چالیس مزید نقول بن چکی ہیں۔

Stronger approach صرف وہ ایک پرامپٹ رکھتا ہے جو اسے شروع کرتا ہے اور جواب کی پہلی لائن، اور کچھ نہیں۔ اسے بینک کے صارفین تک پہنچنے والی دھوکہ دہی کا طریقہ کہتا ہے۔ اور اسے اسی نجی راستے سے بھیجتا ہے جسے پروجیکٹ نے نام دیا ہے۔

Why the stronger approach works دونوں رپورٹس نقصان اور متاثرہ افراد کا ذکر کرتی ہیں۔ ان میں سے ایک نے طریقہ راستے میں چالیس مزید قارئین کو بھی دیا۔

Try a changed situation اب مسئلہ ہسپتال کے اپوائنٹمنٹ بوٹ میں ہے، نہ کہ چیٹ ماڈل میں۔ نوٹ کی پہلی لائن کیا ہوگی؟

Make something yourself ایٚک چھوٹٕ واقعٕ نوٹ مسودہ تیار کرٕ۔ کٲمیٚ ژٲنٛ، اثر، سب سے کم ثبوت، تہ محفوظ رویہ کیہ ہونا۔

Read the primary or official source: Anthropic Red Teaming