- Learn
- See
- Try
- Make
ଅନ୍ୟମାନଙ୍କ ସହିତ ଏକ ସମୀକ୍ଷା ଦୌର ଚାଲାନ୍ତୁ
What this lesson is about
ତିନି ଜଣ ସମୀକ୍ଷକଙ୍କୁ ସେହି ସମାନ ମାମଲା ଦିଅନ୍ତୁ, ସେମାନେ କେଉଁଠାରେ ବିଭକ୍ତ ହେଉଛନ୍ତି ତାହା ତୁଳନା କରନ୍ତୁ, ଏବଂ ଲୋକଙ୍କୁ ନୁହେଁ, ନିର୍ଦ୍ଦେଶନକୁ ସଠିକ୍ କରନ୍ତୁ।
ପାଞ୍ଚଟି ମାମଲା ବାଣ୍ଟାଗଲା। ଶେଷଟିରେ, ଦୁଇଜଣ ଏହି ସନ୍ଦେଶକୁ ଧମକ ବୋଲି କହିଲେ ଏବଂ ଗୋଟିଏ ଏହାକୁ ମଜାକ କହିଲେ। ଏବେ କଣ କରିବେ?
Why this matters
ଏକ ରାଉଣ୍ଡର ଉଦ୍ଦେଶ୍ୟ ଖରାପ ସମୀକ୍ଷକଙ୍କୁ ଧରିବା ନୁହେଁ। ଏକ ପ୍ରକାଶିତ ସୁରକ୍ଷା ଅଧ୍ୟୟନରେ, ତିନିଜଣ ସମୀକ୍ଷକ ସେହି ପାଞ୍ଚ ଶତାଧିକ ମାମଲାକୁ ମୂଲ୍ୟାଙ୍କନ କରିଥିଲେ। ଲେଖକ ସହିତ, ଚାରିଜଣଙ୍କ ମଧ୍ୟରେ ସମ୍ମତି 0.32 ଥିଲା ଯେତେବେଳେ ସଂଯୋଗକୁ ବାହାର କରାଗଲା। ଏହା 0.49 ପର୍ଯ୍ୟନ୍ତ ବୃଦ୍ଧି ପାଇଲା ଯେତେବେଳେ ମୂଲ୍ୟାଙ୍କନକୁ କେବଳ ହଁ କିମ୍ବା ନାରେ ସୀମିତ କରାଗଲା। ଲେଖକମାନେ ଦୋଷ ଲୋକଙ୍କୁ ନୁହେଁ, ସେମାନଙ୍କର କାର୍ଯ୍ୟର ଶବ୍ଦାବଳୀକୁ ଦେଇଥିଲେ।
Read the primary or official source: Ganguli et al., Red Teaming Language Models to Reduce Harms (arXiv)