ਮਸ਼ੀਨ ਦੁਆਰਾ ਅਨੁਵਾਦ ਕੀਤਾ ਗਿਆ। ਅੰਗਰੇਜ਼ੀ ਅਤੇ ਹਿੰਦੀ ਸਮੀਖਿਆ ਕੀਤੇ ਗਏ ਸੰਸਕਰਣ ਹਨ।English हिन्दी

Learn
See
Try
Make

ਨੀਤੀ ਨੂੰ ਉਸਦੀ ਸੀਮਾ 'ਤੇ ਲਾਗੂ ਕਰੋ

What this lesson is about

ਉਹ ਮਾਮਲਾ ਫੈਸਲੋ ਜੋ ਕਿਸੇ ਨੇ ਸੋਚਿਆ ਨਹੀਂ ਸੀ, ਨੀਤੀ ਦੇ ਦੱਸੇ ਮਕਸਦ ਨੂੰ ਪੜ੍ਹ ਕੇ। ਫਿਰ ਇਹ ਖਾਮੀ ਉੱਪਰ ਦੱਸੋ।

ਤੁਹਾਡੇ ਨਿਯਮ ਹਥਿਆਰ ਬਣਾਉਣ ਦੀਆਂ ਹਦਾਇਤਾਂ ਮਨਾਂ ਕਰਦੇ ਹਨ। ਇੱਕ ਵਿਦਿਆਰਥੀ ਸੁਰੱਖਿਆ ਰਿਪੋਰਟ ਲਈ ਫਟਾਕੜੀ ਯੂਨਿਟ ਦੇ ਧਮਾਕੇ ਦਾ ਕਾਰਨ ਪੁੱਛਦਾ ਹੈ। ਹੁਣ ਕੀ ਕਰਨਾ ਹੈ?

Why this matters

ਸੀਮਾ ਵਾਲੇ ਮਾਮਲੇ ਹੀ ਅਸਲ ਵਿੱਚ ਨੀਤੀ ਲਿਖੇ ਜਾਂਦੇ ਹਨ — ਚੁੱਪਚਾਪ, ਜਿਸਨੇ ਪਹਿਲਾ ਜਵਾਬ ਦਿੱਤਾ।

ਉਹ ਮਾਮਲਾ ਫੈਸਲੋ ਜੋ ਕਿਸੇ ਨੇ ਸੋਚਿਆ ਨਹੀਂ ਸੀ, ਨੀਤੀ ਦੇ ਦੱਸੇ ਮਕਸਦ ਤੋਂ। ਖਾਮੀ ਨੂੰ ਉਸਦੇ ਮਾਲਕ ਕੋਲ ਵਾਪਸ ਭੇਜੋ।

ਸੀਮਾ ਵਾਲੇ ਮਾਮਲੇ ਨੂੰ ਨੀਤੀ ਦੇ ਦੱਸੇ ਮਕਸਦ ਤੋਂ ਫੈਸਲੋ ਕਰੋ।
ਜੋ ਖਾਮੀ ਤੁਹਾਨੂੰ ਪੂਰੀ ਕਰਨੀ ਪਈ, ਉਸਨੂੰ ਉਸ ਮਾਮਲੇ ਨਾਲ ਦੱਸੋ ਜਿਸਨੇ ਉਹ ਖਾਮੀ ਦਿਖਾਈ।
ਦੱਸੋ ਕਿ ਤੁਸੀਂ ਕਿਹੜਾ ਨਿਯਮ ਵਰਤਿਆ ਅਤੇ ਉਹ ਕੀ ਨਹੀਂ ਕਵਰ ਕਰਦਾ।

Task

ਹਥਿਆਰ ਬਣਾਉਣ ਦੀ ਨੀਤੀ ਨੂੰ ਇੱਕ ਫੈਕਟਰੀ ਹਾਦਸੇ ਬਾਰੇ ਸਵਾਲ ਮਿਲਦਾ ਹੈ।

Weak approach ਨੀਤੀ ਨੂੰ ਦੋ ਵਾਰੀ ਪੜ੍ਹਦਾ ਹੈ ਅਤੇ ਪਤਾ ਲਗਾਉਂਦਾ ਹੈ ਕਿ ਹਾਦਸਿਆਂ ਬਾਰੇ ਕੋਈ ਲਾਈਨ ਨਹੀਂ ਹੈ, ਜੋ ਸੱਚ ਹੈ। ਫਿਰ ਵੀ ਇਨਕਾਰ ਕਰਦਾ ਹੈ, ਕਿਉਂਕਿ ਵਿਸ਼ਾ ਖਤਰਨਾਕ ਲੱਗਦਾ ਹੈ, ਅਤੇ ਇਨਕਾਰ ਨੂੰ ਲਾਗ ਵਿੱਚ ਲਿਖਦਾ ਹੈ। ਨੀਤੀ ਦਾ ਜੋ ਮਕਸਦ ਦਿੱਤਾ ਗਿਆ ਹੈ, ਉਹ ਕਦੇ ਵਰਤਿਆ ਨਹੀਂ ਜਾਂਦਾ, ਅਤੇ ਜਿਸ ਮਾਮਲੇ ਨੇ ਖਾਮੀ ਦਿਖਾਈ ਉਹ ਕਿਸੇ ਨੂੰ ਭੇਜਿਆ ਨਹੀਂ ਜਾਂਦਾ।

Stronger approach ਨੁਕਸਾਨ ਵਿੱਚ ਮਦਦ ਕਰਨ ਵਾਲਾ ਕੋਈ ਵੀ ਵੇਰਵਾ ਦਿੱਤੇ ਬਿਨਾਂ ਸੁਰੱਖਿਆ ਸਵਾਲ ਦਾ ਜਵਾਬ ਦਿੰਦਾ ਹੈ। ਨਿਯਮ ਅਤੇ ਉਸਦਾ ਮਕਸਦ ਦੱਸਦਾ ਹੈ, ਅਤੇ ਉਹ ਮਾਮਲਾ ਦਰਜ ਕਰਦਾ ਹੈ ਜੋ ਕਿਸੇ ਨੇ ਕਵਰ ਨਹੀਂ ਕੀਤਾ।

Why the stronger approach works ਦੋਹਾਂ ਸਮੀਖਿਆਕਾਰਾਂ ਨੇ ਨੀਤੀ ਪੜ੍ਹੀ ਅਤੇ ਦੋਹਾਂ ਨੂੰ ਇਹ ਚੁੱਪ ਲੱਗੀ। ਇੱਕ ਨੇ ਫਿਰ ਉਸਦਾ ਦਿੱਤਾ ਮਕਸਦ ਵਰਤਿਆ, ਤੇ ਦੂਜੇ ਨੇ ਇਹ ਦੇਖਿਆ ਕਿ ਵਿਸ਼ਾ ਕਿਵੇਂ ਮਹਿਸੂਸ ਹੋਇਆ।

Try a changed situation ਹੁਣ ਤੁਸੀਂ ਸੁਰੱਖਿਆ ਨੀਤੀ ਨਹੀਂ, ਡੇਟਾ-ਅਨੋਟੇਸ਼ਨ ਗਾਈਡਲਾਈਨ ਲਾਗੂ ਕਰ ਰਹੇ ਹੋ। ਕਿਹੜਾ ਨਿਯਮ ਫਿਰ ਵੀ ਲਾਗੂ ਹੁੰਦਾ ਹੈ?

Make something yourself ਕੋਈ ਨਿਯਮ ਲਵੋ ਜੋ ਤੁਸੀਂ ਕੰਮ 'ਤੇ ਜਾਂ ਕਿਸੇ ਗਰੁੱਪ ਵਿੱਚ ਮੰਨਦੇ ਹੋ। ਇੱਕ ਐਸਾ ਮਾਮਲਾ ਲਿਖੋ ਜੋ ਉਹ ਫੈਸਲੋ ਨਹੀਂ ਕਰਦਾ। ਦੱਸੋ ਕਿ ਉਸਦਾ ਮਕਸਦ ਕੀ ਕਰਨਾ ਕਹਿੰਦਾ ਹੈ, ਅਤੇ ਖਾਮੀ ਪੂਰੀ ਕਰਨ ਲਈ ਤੁਸੀਂ ਕਿਹੜਾ ਵਾਕ ਜੋੜੋਗੇ।

Read the primary or official source: Anthropic Responsible Scaling Policy