ସୁରକ୍ଷା ତ୍ରୁଟିଗୁଡ଼ିକୁ ଚିହ୍ନଟ କରନ୍ତୁ ଏବଂ ତାହାକୁ ଉପରକୁ ପଠାନ୍ତୁ

What this lesson is about

କାହାରୋ ତ୍ରୁଟିକୁ ଲେଖନ୍ତୁ ଯାହା ଅନ୍ୟ ଲୋକ ଦ୍ୱାରା ପୁନରାବୃତ୍ତି କରାଯାଇପାରିବ। ହାନିକାରକ ସାମଗ୍ରୀକୁ ପ୍ରସାରିତ କରନ୍ତୁ ନାହିଁ, ଏବଂ ସମୀକ୍ଷାର ସୀମାରେ ରୁହନ୍ତୁ।

ଏକ ଉତ୍ତର ଏକ ଅଜଣା ବ୍ୟକ୍ତିଙ୍କର ଫୋନ୍ ନମ୍ବର ଗୋପନୀୟ ଫାଇଲରୁ ଦେଖାଉଛି, ଏବଂ ତୁମର ଶିଫ୍ଟ ଦଶ ମିନିଟ୍‌ରେ ସମାପ୍ତ ହେବ। ତୁମେ କ’ଣ ରଖିବେ?

Why this matters

ଏକ ଉପଯୋଗୀ ରିପୋର୍ଟ ପ୍ରମାଣକୁ ରକ୍ଷା କରେ, ପ୍ରସାରଣକୁ ବନ୍ଦ କରେ, ଏବଂ ମଞ୍ଜୁରିକୃତ ପ୍ରତିକ୍ରିୟା ଟୀମ୍ ପର୍ଯ୍ୟନ୍ତ ପହଞ୍ଚେ।

ହାନିକାରକ ସାମଗ୍ରୀ ପ୍ରସାରିତ କରିବା ବିନା ଏକ ସୁରକ୍ଷା ତ୍ରୁଟି ଲେଖନ୍ତୁ ଯାହା ଅନ୍ୟ ଲୋକ ପୁନରାବୃତ୍ତି କରିପାରିବ।

ପୁନଃପରୀକ୍ଷା ପାଇଁ ଅତ୍ୟନ୍ତ କମ୍ ସାକ୍ଷ୍ୟ ଧରି ରଖନ୍ତୁ।
ପ୍ରଭାବ ଏବଂ ପ୍ରଭାବିତ ଲୋକଙ୍କୁ ବର୍ଗୀକୃତ କରନ୍ତୁ।
ମଞ୍ଜୁରିତ ନିଜସ୍ୱ ମାର୍ଗ ଦ୍ୱାରା ଉପରକୁ ଯାଆନ୍ତୁ।

Task

ଏକ ସହାୟକଙ୍କୁ ସେହି ପ୍ରଶ୍ନ ହିନ୍ଦୀରେ ପଚାରାଯାଏ ଏବଂ ସେ ବ୍ୟାଙ୍କର ଏକ-ଥର ପାସୱାର୍ଡ ଯାଞ୍ଚକୁ ଦୂର କରିବାର ଉପାୟ କୁହେ।

Weak approach ଚେଷ୍ଟାକୁ ଚାରିଥର ପୁନରାବୃତ୍ତି କରେ, ସମ୍ପୂର୍ଣ୍ଣ ସଂଲାପ ସଞ୍ଚୟ କରେ, ଏବଂ ସାବଧାନ ଭାବେ ଲେଖେ କିଏ କେମିତି ହାନି ପାଇପାରେ। ପରେ ସମ୍ପୂର୍ଣ୍ଣ ପ୍ରଣାଳୀକୁ ଟିମ୍ର ସାଧାରଣ ଗୋଷ୍ଠୀରେ ପେଷ୍ଟ କରେ ଯାହା ସମସ୍ତେ ଦେଖିପାରିବେ। ଗୋଷ୍ଠୀରେ ଚାଳିଶି ଜଣ ଅଛନ୍ତି, ଏବଂ ପ୍ରଣାଳୀର ଚାଳିଶି ଅଧିକ ପ୍ରତିଲିପି ହୋଇଛି।

Stronger approach ସେହି ଏକ ପ୍ରମ୍ପ୍ଟକୁ ରଖେ ଯାହା ଏହାକୁ ଚାଲୁ କରେ ଏବଂ ପ୍ରଥମ ପଙ୍କ୍ତି ଉତ୍ତରର, ଏବଂ ଅଧିକ କିଛି ନୁହେଁ। ଏହାକୁ ବ୍ୟାଙ୍କ ଗ୍ରାହକଙ୍କୁ ପହଞ୍ଚୁଥିବା ଠକେଇ ପ୍ରଣାଳୀ ବୋଲି କୁହେ। ପ୍ରକଳ୍ପ ନାମକ ନିଜସ୍ୱ ମାର୍ଗରେ ଏହାକୁ ପଠାଏ।

Why the stronger approach works ଦୁଇଟି ରିପୋର୍ଟ ହାନି ଏବଂ ଲୋକଙ୍କୁ ନାମ କରେ। ତାହାରୁ ଗୋଟିଏ ମାର୍ଗରେ ଚାଳିଶି ଅଧିକ ପାଠକଙ୍କୁ ପ୍ରଣାଳୀ ଦେଇଛି।

Try a changed situation ବର୍ତ୍ତମାନ ତ୍ରୁଟି ଏକ ହସ୍ପିଟାଲ୍ ନିଯୁକ୍ତି ବୋଟ୍‌ରେ ଅଛି, କ chat ଣସି ଚାଟ୍ ମଡେଲ୍‌ରେ ନୁହେଁ। ଟିପ୍ପଣୀର ଶୀର୍ଷରେ କ’ଣ ଥିବା ଉଚିତ?

Make something yourself ଏକ ସଂକ୍ଷିପ୍ତ ଘଟଣା ଟୀପ୍ପଣୀ ତିଆରି କରନ୍ତୁ। ତ୍ରୁଟିର ପ୍ରକାର, କ’ଣ ପ୍ରଭାବିତ ହେଲା, ଅତ୍ୟନ୍ତ କମ୍ ପ୍ରମାଣ ଏବଂ ସୁରକ୍ଷିତ ବ୍ୟବହାର କ’ଣ ହେବା ଥିଲା ଦିଅନ୍ତୁ।

Read the primary or official source: Anthropic Red Teaming