- Learn
- See
- Try
- Make
ਗਲਤੀਆਂ ਨੂੰ ਨੁਕਸਾਨ ਦੇ ਅਨੁਸਾਰ ਛਾਂਟੋ
What this lesson is about
ਗਲਤੀਆਂ ਨੂੰ ਉਹਨਾਂ ਦੇ ਨੁਕਸਾਨ ਦੇ ਕ੍ਰਮ ਵਿੱਚ ਰੱਖੋ, ਅਤੇ ਜਿਸ ਨਾਲ ਤੁਸੀਂ ਸਹਿਮਤ ਨਹੀਂ ਹੋ ਉਸਦੇ ਸਾਹਮਣੇ ਉਹ ਕ੍ਰਮ ਬਚਾਓ।
ਤੁਹਾਡਾ ਸਿਹਤ ਬੋਟ ਬਦਤਮੀਜ਼ ਹੈ, ਬੱਸ ਦੇ ਸਮੇਂ ਗਲਤ ਦੱਸਦਾ ਹੈ, ਅਤੇ ਇੱਕ ਵਾਰੀ ਇੱਕ ਗਰਭਵਤੀ ਔਰਤ ਨੂੰ ਲੋਹੇ ਦੀ ਗੋਲੀਆਂ ਛੱਡਣ ਲਈ ਕਿਹਾ ਸੀ। ਸਭ ਤੋਂ ਪਹਿਲਾਂ ਤੁਸੀਂ ਕੀ ਠੀਕ ਕਰੋਗੇ?
Why this matters
ਇੱਕ ਪ੍ਰਕਾਸ਼ਿਤ ਸੁਰੱਖਿਆ ਅਧਿਐਨ ਵਿੱਚ, ਸਮੀਖਿਆਕਾਰਾਂ ਨੇ ਹਰ ਹਮਲੇ ਨੂੰ ਵੀਹ ਵਿਚੋਂ ਵੱਧ ਤੋਂ ਵੱਧ ਦੋ ਵਿਸ਼ਿਆਂ ਨਾਲ ਟੈਗ ਕੀਤਾ। ਇਹ ਸੂਚੀ ਪਹਿਲਾਂ ਪ੍ਰਕਾਸ਼ਿਤ ਕੰਮ, ਉਦਯੋਗ ਦੇ ਨਿਯਮਾਂ ਅਤੇ ਸੌ ਸਭ ਤੋਂ ਖਰਾਬ ਗੱਲਬਾਤਾਂ ਨੂੰ ਹੱਥ ਨਾਲ ਪੜ੍ਹ ਕੇ ਬਣਾਈ ਗਈ ਸੀ। ਕਿਸੇ ਮਾਮਲੇ ਨੂੰ ਗੰਭੀਰ ਬਣਾਉਣ ਵਾਲੀ ਗੱਲ ਉਸਦਾ ਨੁਕਸਾਨ ਸੀ, ਨਾ ਕਿ ਉਹ ਕਿੰਨਾ ਅਜੀਬ ਲੱਗਦਾ ਸੀ।
Read the primary or official source: Ganguli et al., Red Teaming Language Models to Reduce Harms (arXiv)