Skip to lesson

ਮਸ਼ੀਨ ਦੁਆਰਾ ਅਨੁਵਾਦ ਕੀਤਾ ਗਿਆ। ਅੰਗਰੇਜ਼ੀ ਅਤੇ ਹਿੰਦੀ ਸਮੀਖਿਆ ਕੀਤੇ ਗਏ ਸੰਸਕਰਣ ਹਨ।Englishहिन्दी

  1. Learn
  2. See
  3. Try
  4. Make

ਇੱਕ ਚੈੱਕ ਰਾਊਂਡ ਚਲਾਓ ਅਤੇ ਸਕੇਲ ਨੂੰ ਰੀਸੈੱਟ ਕਰੋ

What this lesson is about

ਇੱਕ ਟੀਮ ਨੂੰ ਉਹੀ ਦਸ ਆਈਟਮ ਦਿਓ ਅਤੇ ਮਾਪੋ ਕਿ ਉਹਨਾਂ ਦੇ ਨਿਸ਼ਾਨ ਕਿੰਨੇ ਦੂਰ-ਦੂਰ ਪਏ ਹਨ। ਫਿਰ ਉਹ ਇੱਕ ਐਂਕਰ ਦੁਬਾਰਾ ਲਿਖੋ ਜਿਸ ਨੇ ਉਹਨਾਂ ਨੂੰ ਵੰਡਿਆ ਸੀ।

ਤੁਹਾਡੇ ਟੀਮ ਦੇ ਚਾਰ ਲੋਕਾਂ ਦੇ ਬੈਚ ਇੱਕੋ ਜਿਹੇ ਨਹੀਂ ਲੱਗਦੇ, ਅਤੇ ਗਾਹਕ ਨੇ ਇਹ ਕਹਿ ਦਿੱਤਾ ਹੈ। ਤੁਸੀਂ ਰਾਊਂਡ ਕਿਵੇਂ ਸ਼ੁਰੂ ਕਰੋਗੇ?

Why this matters

ਦੋ ਧਿਆਨ ਨਾਲ ਕੰਮ ਕਰਨ ਵਾਲੇ ਲੋਕ ਇੱਕੋ ਚੀਜ਼ ਨੂੰ ਮਾਪਦੇ ਹੋਏ ਉਮੀਦ ਤੋਂ ਵੱਧ ਵੱਖਰੇ ਨਿਕਲਦੇ ਹਨ। ਇੱਕ ਪ੍ਰਕਾਸ਼ਿਤ ਸੁਰੱਖਿਆ ਪ੍ਰੋਜੈਕਟ ਵਿੱਚ ਚਾਰ ਸਮੀਖਿਆਕਾਰਾਂ ਨੂੰ ਇੱਕੋ ਮਾਮਲਿਆਂ 'ਤੇ ਮਾਪਿਆ ਗਿਆ। ਚਾਂਸ ਨੂੰ ਕੱਟ ਕੇ ਉਹਨਾਂ ਦੀ ਸਹਿਮਤੀ 0.32 ਸੀ। ਜਦੋਂ ਮਾਪ ਨੂੰ ਦੋ ਪੱਧਰਾਂ ਤੱਕ ਘਟਾਇਆ ਗਿਆ ਤਾਂ ਇਹ 0.49 ਹੋ ਗਈ। ਇਹ ਗਿਣਤੀ ਲਿਖੇ ਹੋਏ ਸਕੇਲ ਬਾਰੇ ਹੈ, ਅਤੇ ਇਹੀ ਇੱਕੋ ਚੀਜ਼ ਹੈ ਜਿਸ ਨਾਲ ਦੂਜੇ ਰਾਊਂਡ ਦੀ ਤੁਲਨਾ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ।

Read the primary or official source: Ganguli et al., Red Teaming Language Models (arXiv)