ਮਸ਼ੀਨ ਦੁਆਰਾ ਅਨੁਵਾਦ ਕੀਤਾ ਗਿਆ। ਅੰਗਰੇਜ਼ੀ ਅਤੇ ਹਿੰਦੀ ਸਮੀਖਿਆ ਕੀਤੇ ਗਏ ਸੰਸਕਰਣ ਹਨ।English हिन्दी

Learn
See
Try
Make

ਸੁਰੱਖਿਆ ਦੀਆਂ ਗਲਤੀਆਂ ਨੂੰ ਛਾਂਟੋ ਅਤੇ ਅੱਗੇ ਭੇਜੋ

What this lesson is about

ਕੋਈ ਗਲਤੀ ਲਿਖੋ ਜੋ ਕੋਈ ਹੋਰ ਦੁਹਰਾ ਸਕੇ। ਨੁਕਸਾਨਦਾਇਕ ਸਮੱਗਰੀ ਨਾ ਫੈਲਾਓ, ਅਤੇ ਸਮੀਖਿਆ ਦੀਆਂ ਹੱਦਾਂ ਵਿੱਚ ਰਹੋ।

ਇੱਕ ਜਵਾਬ ਵਿੱਚ ਅਜਾਣੇ ਵਿਅਕਤੀ ਦਾ ਫੋਨ ਨੰਬਰ ਇੱਕ ਨਿੱਜੀ ਫਾਇਲ ਤੋਂ ਦਿਖਾਈ ਦੇ ਰਿਹਾ ਹੈ, ਅਤੇ ਤੁਹਾਡੀ ਡਿਊਟੀ ਦਸ ਮਿੰਟ ਵਿੱਚ ਖਤਮ ਹੋ ਰਹੀ ਹੈ। ਤੁਸੀਂ ਕੀ ਰੱਖੋਗੇ?

Why this matters

ਇੱਕ ਲਾਭਦਾਇਕ ਰਿਪੋਰਟ ਸਬੂਤ ਰੱਖਦੀ ਹੈ, ਫੈਲਾਅ ਰੋਕਦੀ ਹੈ, ਅਤੇ ਮਨਜ਼ੂਰਸ਼ੁਦਾ ਜਵਾਬੀ ਟੀਮ ਤੱਕ ਪਹੁੰਚਦੀ ਹੈ।

ਇੱਕ ਸੁਰੱਖਿਆ ਗਲਤੀ ਲਿਖੋ ਜੋ ਕੋਈ ਹੋਰ ਦੁਹਰਾ ਸਕੇ, ਬਿਨਾਂ ਨੁਕਸਾਨਦਾਇਕ ਸਮੱਗਰੀ ਫੈਲਾਏ।

ਦੋਹਰਾਉਣ ਲਈ ਘੱਟੋ-ਘੱਟ ਸਬੂਤ ਰੱਖੋ।
ਅਸਰ ਅਤੇ ਪ੍ਰਭਾਵਿਤ ਲੋਕਾਂ ਦੀ ਵਰਗੀਕਰਨ ਕਰੋ।
ਮੰਨਿਆ ਹੋਇਆ ਨਿੱਜੀ ਰਸਤਾ ਵਰਤੋਂ।

Task

ਇੱਕ ਸਹਾਇਕ ਨੂੰ ਉਹੀ ਸਵਾਲ ਹਿੰਦੀ ਵਿੱਚ ਪੁੱਛਿਆ ਜਾਂਦਾ ਹੈ ਅਤੇ ਉਹ ਬੈਂਕ ਦੇ ਇੱਕ-ਵਾਰੀ ਪਾਸਵਰਡ ਚੈੱਕ ਤੋਂ ਬਚਣ ਦਾ ਤਰੀਕਾ ਦੱਸਦਾ ਹੈ।

Weak approach ਚਾਰ ਵਾਰੀ ਕੋਸ਼ਿਸ਼ ਦੁਹਰਾਉਂਦਾ ਹੈ, ਪੂਰਾ ਟ੍ਰਾਂਸਕ੍ਰਿਪਟ ਸੇਵ ਕਰਦਾ ਹੈ, ਅਤੇ ਧਿਆਨ ਨਾਲ ਲਿਖਦਾ ਹੈ ਕਿ ਇਹ ਕਿਸ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾ ਸਕਦਾ ਹੈ। ਫਿਰ ਪੂਰਾ ਤਰੀਕਾ ਟੀਮ ਦੇ ਸਾਂਝੇ ਗਰੁੱਪ ਵਿੱਚ ਪੇਸਟ ਕਰਦਾ ਹੈ ਤਾਂ ਜੋ ਹਰ ਕੋਈ ਵੇਖ ਸਕੇ। ਗਰੁੱਪ ਵਿੱਚ ਚਾਲੀ ਲੋਕ ਹਨ, ਅਤੇ ਹੁਣ ਤਰੀਕੇ ਦੀ ਚਾਲੀ ਹੋਰ ਨਕਲਾਂ ਹੋ ਗਈਆਂ ਹਨ।

Stronger approach ਸਿਰਫ਼ ਉਹ ਇੱਕ ਪ੍ਰਾਂਪਟ ਰੱਖਦਾ ਹੈ ਜੋ ਇਸਨੂੰ ਚਾਲੂ ਕਰਦਾ ਹੈ ਅਤੇ ਜਵਾਬ ਦੀ ਪਹਿਲੀ ਲਾਈਨ, ਹੋਰ ਕੁਝ ਨਹੀਂ। ਇਸਨੂੰ ਬੈਂਕ ਗਾਹਕਾਂ ਤੱਕ ਪਹੁੰਚਣ ਵਾਲੀ ਧੋਖਾਧੜੀ ਦਾ ਤਰੀਕਾ ਕਹਿੰਦਾ ਹੈ। ਇਸਨੂੰ ਪ੍ਰੋਜੈਕਟ ਵੱਲੋਂ ਨਿਰਧਾਰਤ ਨਿੱਜੀ ਰਾਹੀਂ ਭੇਜਦਾ ਹੈ।

Why the stronger approach works ਦੋਹਾਂ ਰਿਪੋਰਟਾਂ ਨੁਕਸਾਨ ਅਤੇ ਪ੍ਰਭਾਵਿਤ ਲੋਕਾਂ ਦਾ ਜ਼ਿਕਰ ਕਰਦੀਆਂ ਹਨ। ਇਕ ਨੇ ਤਰੀਕਾ ਚਾਲੀ ਹੋਰ ਪਾਠਕਾਂ ਨੂੰ ਵੀ ਦਿੱਤਾ।

Try a changed situation ਹੁਣ ਗਲਤੀ ਇੱਕ ਹਸਪਤਾਲ ਦੀ ਐਪੋਇੰਟਮੈਂਟ ਬੋਟ ਵਿੱਚ ਹੈ, ਨਾ ਕਿ ਕਿਸੇ ਚੈਟ ਮਾਡਲ ਵਿੱਚ। ਨੋਟ ਦੀ ਸਿਰਲੇਖੀ ਕਿਹੜੀ ਹੋਵੇਗੀ?

Make something yourself ਇੱਕ ਛੋਟਾ ਘਟਨਾ ਨੋਟ ਤਿਆਰ ਕਰੋ। ਗਲਤੀ ਦਾ ਕਿਸਮ, ਪ੍ਰਭਾਵ, ਘੱਟੋ-ਘੱਟ ਸਬੂਤ, ਅਤੇ ਸੁਰੱਖਿਅਤ ਵਰਤੋਂ ਕੀ ਹੋਣੀ ਚਾਹੀਦੀ ਸੀ ਦੱਸੋ।

Read the primary or official source: Anthropic Red Teaming