Skip to lesson

ਮਸ਼ੀਨ ਦੁਆਰਾ ਅਨੁਵਾਦ ਕੀਤਾ ਗਿਆ। ਅੰਗਰੇਜ਼ੀ ਅਤੇ ਹਿੰਦੀ ਸਮੀਖਿਆ ਕੀਤੇ ਗਏ ਸੰਸਕਰਣ ਹਨ।Englishहिन्दी

  1. Learn
  2. See
  3. Try
  4. Make

ਦੂਜਿਆਂ ਨਾਲ ਸਮੀਖਿਆ ਦਾ ਦੌਰ ਚਲਾਓ

What this lesson is about

ਤਿੰਨ ਸਮੀਖਿਆਕਾਰਾਂ ਨੂੰ ਇੱਕੋ ਜਿਹੇ ਮਾਮਲੇ ਦਿਓ, ਵੇਖੋ ਉਹ ਕਿੱਥੇ ਵੱਖਰੇ ਹੋਂਦੇ ਹਨ, ਅਤੇ ਲੋਕਾਂ ਦੀ ਬਜਾਏ ਹਦਾਇਤ ਨੂੰ ਠੀਕ ਕਰੋ।

ਪੰਜ ਕੇਸ ਭੇਜੇ ਗਏ। ਆਖਰੀ 'ਤੇ, ਦੋ ਲੋਕਾਂ ਨੇ ਸੁਨੇਹਾ ਧਮਕੀ ਕਿਹਾ ਤੇ ਇੱਕ ਨੇ ਮਜ਼ਾਕ। ਹੁਣ ਕੀ ਕਰੀਏ?

Why this matters

ਇੱਕ ਰਾਊਂਡ ਦਾ ਮਕਸਦ ਕੋਈ ਖਰਾਬ ਸਮੀਖਿਆਕਾਰ ਫੜਨਾ ਨਹੀਂ ਹੁੰਦਾ। ਇੱਕ ਪ੍ਰਕਾਸ਼ਿਤ ਸੁਰੱਖਿਆ ਅਧਿਐਨ ਵਿੱਚ, ਤਿੰਨ ਸਮੀਖਿਆਕਾਰਾਂ ਨੇ ਇੱਕੋ ਪੰਜ ਸੌ ਮਾਮਲੇ ਦੇਖੇ। ਲੇਖਕ ਸਮੇਤ, ਚਾਰਾਂ ਦੀ ਸਹਿਮਤੀ 0.32 ਸੀ ਜਦੋਂ ਸੰਭਾਵਨਾ ਨੂੰ ਹਟਾਇਆ ਗਿਆ। ਜਦੋਂ ਰੇਟਿੰਗ ਸਿਰਫ਼ ਹਾਂ ਜਾਂ ਨਾ ਵਿੱਚ ਘਟਾ ਦਿੱਤੀ ਗਈ, ਤਾਂ ਇਹ 0.49 ਹੋ ਗਈ। ਲੇਖਕਾਂ ਨੇ ਦੋਸ਼ ਆਪਣੇ ਕੰਮ ਦੀ ਭਾਸ਼ਾ 'ਤੇ ਲਾਇਆ, ਲੋਕਾਂ 'ਤੇ ਨਹੀਂ।

Read the primary or official source: Ganguli et al., Red Teaming Language Models to Reduce Harms (arXiv)