ଇନାମ ଚାଳାକି ଚିହ୍ନଟ କରନ୍ତୁ

What this lesson is about

ଏହି ସଂକ୍ଷିପ୍ତ ପଥ ଖୋଜନ୍ତୁ ଯାହା ଏକ ସଂଖ୍ୟା ବଢ଼ାଏ ବେନା ସଠିକ୍ କାମ କରିବା, ଏବଂ ସେହି ପରିବର୍ତ୍ତନ ଯାହା ଏହାକୁ ବନ୍ଦ କରେ।

ଏକ ହେଲ୍ପଲାଇନ୍ ଏକ କଲ୍ ସମାଧାନ ହୋଇଛି ବୋଲି ଗଣନା କରେ ଯେତେବେଳେ କଲର୍ ସେହି କଲ୍ ମଧ୍ୟରେ ପୁନର୍ବାର ପ୍ରଶ୍ନ କରେ ନାହିଁ। ଆପଣ ସେହି ସଂଖ୍ୟାକୁ କିପରି ପଢିବେ?

Why this matters

ପ୍ରତ୍ୟେକ ମାପ ଶେଷରେ କାମ କରାଯାଏ, ସେଥିରେ ସେହି ଅଂଶ ମଧ୍ୟ ଯାହା କେହି ଚାହାଁନଥିଲେ।

ଏକ ମାପକୁ ପଢ଼ନ୍ତୁ ଯେଉଁଥିରେ ସବୁଠାରୁ ସସ୍ତା ଉପାୟରେ ସଂଖ୍ୟା ବଢ଼ାଯାଏ, ଏବଂ ଏହାକୁ ବନ୍ଦ କରିବା ପାଇଁ ଦ୍ୱିତୀୟ ଯାଞ୍ଚ ନାମକରଣ କରନ୍ତୁ।

ପ୍ରତ୍ୟେକ ମାପ ଶେଷରେ କାମ କରାଯାଏ, ସେଥିରେ ସେହି ଅଂଶ ମଧ୍ୟ ଯାହା କେହି ଚାହାଁନଥିଲେ।

କାମ କରିବା ବିନା କିପରି ସ୍କୋର ବଢ଼େ ପ୍ରଶ୍ନ କରନ୍ତୁ।
ଏକ ମାପକୁ ଏମିତି ଯାଞ୍ଚ ସହିତ ଯୋଡନ୍ତୁ ଯାହା ସେ ମାପ ଏକାକୀ ପୂରଣ କରିପାରିବ ନାହିଁ।
ସେହି ମାପକୁ ଦେଖନ୍ତୁ ଯାହା ତାହାର ପରିଣାମ ସହିତ ଚାଲୁନାହିଁ।

Task

ହେଲ୍ପଲାଇନ୍ ସହାୟକଙ୍କୁ ସେହି ସମ୍ବାଦ ଉପରେ ମୂଲ୍ୟାଙ୍କନ ମିଳେ ଯେଉଁଥିରେ କଲକର୍ତ୍ତା ପୁଣି ପ୍ରଶ୍ନ କରେ ନାହିଁ।

Weak approach ତିନି ମାସର ସମାଧାନ ହୋଇଥିବା ଆଙ୍କଡା ତୁଳନା କରେ, ତାହାକୁ ଚିତ୍ରାଙ୍କନ କରେ, ଏବଂ ଦେଖେ ଯେ ଏହା ସାଠରୁ ଏଠାରେ ଚଢ଼ୁଛି। ଗଣନା ସଠିକ୍ ଭାବେ ହେଉଛି କି ନାହିଁ ଯାଞ୍ଚ କରେ, ଏବଂ ହେଉଛି। କେବେ ଏହା ପଚାରେ ନାହିଁ ଯେ ବୃଦ୍ଧି ପାଉଥିବା ଆଙ୍କଡାର ଅର୍ଥ ଅନ୍ୟ କ’ଣ ହୋଇପାରେ, ଏବଂ ଯେଉଁ ଫୋନ କଲେ ହାର ମାନି ଛାଡ଼ିଦିଏ ସେ ମଧ୍ୟ ସମାଧାନ ଭାବରେ ଗଣନା ହୁଏ।

Stronger approach ଚୁପ୍ପି ସଂକ୍ଷିପ୍ତ ପଥକୁ ନାମକରଣ କରେ, ଏକ ସପ୍ତାହ ପରେ କଲ୍ ବ୍ୟାକ୍ ଯାଞ୍ଚ ଯୋଗ କରେ, ଏବଂ ଦୁଇଟି ମାପକୁ ସାଥେ ସାଥେ ଦେଖେ।

Why the stronger approach works ଦ୍ୱିତୀୟ ଯାଞ୍ଚ ହେଉଛି ମୁଖ୍ୟ ବିଷୟ। ଏକାକୀ ସଂଖ୍ୟା ପ୍ରମାଣ ହେବା ପୂର୍ବରୁ ଲକ୍ଷ୍ୟ ହୁଏ।

Try a changed situation ଏକ ଜିଲ୍ଲା କାର୍ଯ୍ୟାଳୟ ଏବେ ପ୍ରତି ସପ୍ତାହରେ ବନ୍ଦ ହେଉଥିବା ଫାଇଲ୍ ଦ୍ୱାରା ତାଙ୍କର କର୍ମଚାରୀଙ୍କୁ ମୂଲ୍ୟାଙ୍କନ କରୁଛି। କେଉଁ ନିୟମ ଏହିଥିରେ ମଧ୍ୟ ପ୍ରୟୋଗ ହୁଏ?

Make something yourself ଆପଣଙ୍କର କାର୍ଯ୍ୟସ୍ଥଳ, କଲେଜ କିମ୍ବା ଟୀମ୍ ଯାହା ମାପାଯାଏ ଏମିତି ଗୋଟିଏ ସଂଖ୍ୟା ନିଅନ୍ତୁ। ସଠିକ୍ କାମ କରିବା ବିନା ଏହାକୁ ବଢ଼ାଇବାର ସବୁଠାରୁ ସସ୍ତା ଉପାୟ ଲେଖନ୍ତୁ, ଏବଂ ଦ୍ୱିତୀୟ ଯାଞ୍ଚ ଯାହା ଏହାକୁ ପକାଇବ।

Read the primary or official source: Concrete Problems in AI Safety