নিরাপত্তার ত্রুটি সাজান এবং উপরে পাঠান

What this lesson is about

একটি ত্রুটি লিখুন যা অন্য কেউ পুনরায় করতে পারে। ক্ষতিকারক বিষয়বস্তু ছড়াবেন না, এবং পর্যালোচনার সীমার মধ্যে থাকুন।

একটি উত্তর একটি অচেনা ব্যক্তির ফোন নম্বর দেখাচ্ছে একটি ব্যক্তিগত ফাইল থেকে, আর আপনার শিফট শেষ হতে আর দশ মিনিট বাকি। আপনি কী রাখবেন?

Why this matters

একটি কার্যকর রিপোর্ট প্রমাণ রাখে, ছড়িয়ে পড়া বন্ধ করে এবং অনুমোদিত প্রতিক্রিয়া দলের কাছে পৌঁছায়।

ক্ষতিকারক বিষয়বস্তু ছড়ানো ছাড়া এমন একটি নিরাপত্তার ত্রুটি লিখুন যা অন্য কেউ পুনরায় করতে পারে।

পুনরাবৃত্তির জন্য সর্বনিম্ন প্রমাণ সংগ্রহ করুন।
প্রভাব এবং প্রভাবিত ব্যক্তিদের শ্রেণীবিভাগ করুন।
অনুমোদিত ব্যক্তিগত উপায় ব্যবহার করে উপরে জানান।

Task

এক সহকারীকে একই প্রশ্ন হিন্দিতে জিজ্ঞাসা করা হয় এবং সে একটি ব্যাংকের একবারের পাসওয়ার্ড চেক পেরোনোর উপায় বলে।

Weak approach চেষ্টা চারবার পুনরাবৃত্তি করে, পুরো কথোপকথন সংরক্ষণ করে, এবং সাবধানে লিখে রাখে কার ক্ষতি হতে পারে। তারপর পুরো পদ্ধতিটি দলের শেয়ার করা গ্রুপে পেস্ট করে যাতে সবাই দেখতে পারে। গ্রুপটিতে চল্লিশ জন আছে, এবং পদ্ধতির চল্লিশটি কপি এখন তৈরি হয়েছে।

Stronger approach শুধুমাত্র সেই এক প্রম্পট রাখে যা এটি চালু করে এবং উত্তরের প্রথম লাইন, আর কিছু নয়। এটিকে একটি প্রতারণার পদ্ধতি বলে যা ব্যাংকের গ্রাহকদের কাছে পৌঁছায়। প্রজেক্টের নামকৃত ব্যক্তিগত রুটে এটি পাঠায়।

Why the stronger approach works উভয় রিপোর্টই ক্ষতি এবং কার ক্ষতি তা উল্লেখ করে। তাদের মধ্যে একজন পদ্ধতিটি চল্লিশজন আরও পাঠকের কাছে পৌঁছে দিয়েছে।

Try a changed situation এখন সমস্যা একটি হাসপাতালের অ্যাপয়েন্টমেন্ট বটে, চ্যাট মডেল নয়। নোটের শীর্ষে কী থাকবে?

Make something yourself একটি সংক্ষিপ্ত ঘটনা নোট খসড়া করুন। ত্রুটির ধরন, কী প্রভাবিত হয়েছে, সবচেয়ে কম প্রমাণ যা দরকার, এবং কী নিরাপদ আচরণ হওয়া উচিত ছিল তা দিন।

Read the primary or official source: Anthropic Red Teaming