ਮਸ਼ੀਨ ਦੁਆਰਾ ਅਨੁਵਾਦ ਕੀਤਾ ਗਿਆ। ਅੰਗਰੇਜ਼ੀ ਅਤੇ ਹਿੰਦੀ ਸਮੀਖਿਆ ਕੀਤੇ ਗਏ ਸੰਸਕਰਣ ਹਨ।English हिन्दी

Learn
See
Try
Make

ਇਨਾਮ ਦੀ ਚਾਲਾਕੀ ਪਛਾਣੋ

What this lesson is about

ਉਹ ਛੋਟਾ ਰਸਤਾ ਲੱਭੋ ਜੋ ਅਸਲੀ ਕੰਮ ਕੀਤੇ ਬਿਨਾਂ ਸਕੋਰ ਵਧਾਉਂਦਾ ਹੈ, ਅਤੇ ਉਹ ਮਾਪ ਬਦਲਾਅ ਜੋ ਇਸਨੂੰ ਬੰਦ ਕਰਦਾ ਹੈ।

ਇੱਕ ਹੈਲਪਲਾਈਨ ਇੱਕ ਕਾਲ ਨੂੰ ਉਸ ਵੇਲੇ ਹੱਲ ਕੀਤਾ ਮੰਨਦੀ ਹੈ ਜਦੋਂ ਕਾਲ ਕਰਨ ਵਾਲਾ ਉਸੇ ਕਾਲ ਵਿੱਚ ਦੁਬਾਰਾ ਨਾ ਪੁੱਛੇ। ਤੁਸੀਂ ਇਸ ਨੰਬਰ ਨੂੰ ਕਿਵੇਂ ਪੜ੍ਹੋਗੇ?

Why this matters

ਹਰ ਮਾਪ ਨੂੰ ਆਖਿਰਕਾਰ ਵਧਾਇਆ ਜਾਂਦਾ ਹੈ — ਉਸ ਹਿੱਸੇ ਸਮੇਤ ਜੋ ਕਿਸੇ ਨੇ ਸੋਚਿਆ ਵੀ ਨਹੀਂ।

ਕਿਸੇ ਮਾਪ ਨੂੰ ਇਸ ਤਰੀਕੇ ਨਾਲ ਪੜ੍ਹੋ ਕਿ ਉਸਨੂੰ ਵਧਾਉਣ ਦਾ ਸਭ ਤੋਂ ਸਸਤਾ ਰਸਤਾ ਕੀ ਹੈ, ਅਤੇ ਦੂਜੀ ਜਾਂਚ ਦੱਸੋ ਜੋ ਉਸ ਖਾਮੀ ਨੂੰ ਬੰਦ ਕਰੇ।

ਹਰ ਮਾਪ ਨੂੰ ਆਖਿਰਕਾਰ ਵਧਾਇਆ ਜਾਂਦਾ ਹੈ — ਉਸ ਹਿੱਸੇ ਸਮੇਤ ਜੋ ਕਿਸੇ ਨੇ ਸੋਚਿਆ ਵੀ ਨਹੀਂ।

ਪੂਛੋ ਕਿ ਅਸਲੀ ਕੰਮ ਕੀਤੇ ਬਿਨਾਂ ਸਕੋਰ ਕਿਵੇਂ ਵਧ ਸਕਦਾ ਹੈ।
ਹਰ ਮਾਪ ਨਾਲ ਇੱਕ ਐਸੀ ਜਾਂਚ ਜੋੜੋ ਜੋ ਉਹ ਮਾਪ ਆਪਣੇ ਆਪ ਪੂਰੀ ਨਾ ਕਰ ਸਕੇ।
ਉਸ ਮਾਪ ਨੂੰ ਦੇਖੋ ਜੋ ਹੁਣ ਉਸ ਨਤੀਜੇ ਨਾਲ ਨਹੀਂ ਚੱਲਦਾ ਜਿਸਦਾ ਉਹ ਪ੍ਰਤੀਕ ਹੈ।

Task

ਹੈਲਪਲਾਈਨ ਸਹਾਇਕ ਨੂੰ ਉਹਨਾਂ ਗੱਲਬਾਤਾਂ 'ਤੇ ਸਕੋਰ ਮਿਲਦਾ ਹੈ ਜਿੱਥੇ ਕਾਲਰ ਦੁਬਾਰਾ ਨਹੀਂ ਪੁੱਛਦਾ।

Weak approach ਤਿੰਨ ਮਹੀਨਿਆਂ ਦਾ ਹੱਲ ਹੋਇਆ ਅੰਕੜਾ ਖਿੱਚਦਾ ਹੈ, ਉਸਦਾ ਨਕਸ਼ਾ ਬਣਾਉਂਦਾ ਹੈ, ਅਤੇ ਦੇਖਦਾ ਹੈ ਕਿ ਇਹ ਸੱਠ ਤੋਂ ਅੱਸੀ ਤੱਕ ਵਧ ਰਿਹਾ ਹੈ। ਜਾਂਚਦਾ ਹੈ ਕਿ ਗਿਣਤੀ ਸਹੀ ਤਰੀਕੇ ਨਾਲ ਹੋ ਰਹੀ ਹੈ, ਅਤੇ ਹੋ ਰਹੀ ਹੈ। ਪਰ ਕਦੇ ਨਹੀਂ ਪੁੱਛਦਾ ਕਿ ਵਧਦਾ ਅੰਕੜਾ ਹੋਰ ਕੀ ਮਤਲਬ ਰੱਖ ਸਕਦਾ ਹੈ, ਅਤੇ ਜੋ ਕਾਲਰ ਹਾਰ ਮੰਨ ਕੇ ਰੁਕ ਜਾਂਦਾ ਹੈ ਉਹ ਵੀ ਹੱਲ ਵਿੱਚ ਗਿਣਿਆ ਜਾਂਦਾ ਹੈ।

Stronger approach ਚੁੱਪ ਰਹਿਣ ਵਾਲਾ ਛੋਟਾ ਰਸਤਾ ਦੱਸਦਾ ਹੈ, ਇੱਕ ਹਫ਼ਤੇ ਬਾਅਦ ਕਾਲ ਬੈਕ ਜਾਂਚ ਜੋੜਦਾ ਹੈ, ਅਤੇ ਦੋਹਾਂ ਮਾਪਾਂ ਨੂੰ ਇਕੱਠੇ ਵੇਖਦਾ ਹੈ।

Why the stronger approach works ਅਸਲ ਗੱਲ ਦੂਜੀ ਜਾਂਚ ਹੈ। ਇੱਕ ਅੰਕ ਲਕੜੀ ਤੋਂ ਬਹੁਤ ਪਹਿਲਾਂ ਨਿਸ਼ਾਨਾ ਬਣ ਜਾਂਦਾ ਹੈ।

Try a changed situation ਹੁਣ ਇੱਕ ਜ਼ਿਲ੍ਹਾ ਦਫ਼ਤਰ ਆਪਣੇ ਕਰਮਚਾਰੀਆਂ ਨੂੰ ਹਰ ਹਫ਼ਤੇ ਬੰਦ ਹੋਈਆਂ ਫਾਈਲਾਂ ਦੇ ਆਧਾਰ 'ਤੇ ਮੁਲਾਂਕਣ ਕਰ ਰਿਹਾ ਹੈ। ਕਿਹੜਾ ਨਿਯਮ ਫਿਰ ਵੀ ਲਾਗੂ ਹੁੰਦਾ ਹੈ?

Make something yourself ਆਪਣੇ ਕੰਮ, ਕਾਲਜ ਜਾਂ ਟੀਮ ਵਿੱਚੋਂ ਇੱਕ ਅੰਕ ਲਵੋ ਜਿਸ 'ਤੇ ਮੁਲਾਂਕਣ ਹੁੰਦਾ ਹੈ। ਲਿਖੋ ਕਿ ਅਸਲੀ ਕੰਮ ਕੀਤੇ ਬਿਨਾਂ ਉਸਨੂੰ ਵਧਾਉਣ ਦਾ ਸਭ ਤੋਂ ਸਸਤਾ ਤਰੀਕਾ ਕੀ ਹੈ, ਅਤੇ ਦੂਜੀ ਜਾਂਚ ਕਿਹੜੀ ਹੈ ਜੋ ਉਸਨੂੰ ਫੜੇਗੀ।

Read the primary or official source: Concrete Problems in AI Safety