ಸುರಕ್ಷತಾ ವೈಫಲ್ಯಗಳನ್ನು ವರ್ಗೀಕರಿಸಿ ಮತ್ತು ಮೇಲಕ್ಕೆ ಕಳುಹಿಸಿ

What this lesson is about

ಯಾರಾದರೂ ಪುನರಾವರ್ತಿಸಬಹುದಾದ ವೈಫಲ್ಯವನ್ನು ಬರೆಯಿರಿ. ಹಾನಿಕಾರಕ ವಿಷಯವನ್ನು ಹರಡಬೇಡಿ, ಮತ್ತು ವಿಮರ್ಶೆಯ ಮಿತಿಗಳೊಳಗಿರಿರಿ.

ಒಬ್ಬ ಅಜ್ಞಾತನ ಫೋನ್ ನಂಬರ್ ಖಾಸಗಿ ಫೈಲ್‌ನಿಂದ ಉತ್ತರದಲ್ಲಿ ತೋರಿಸುತ್ತಿದೆ, ಮತ್ತು ನಿಮ್ಮ ಶಿಫ್ಟ್ ಹತ್ತು ನಿಮಿಷಗಳಲ್ಲಿ ಮುಗಿಯುತ್ತದೆ. ನೀವು ಏನು ಉಳಿಸಿಕೊಳ್ಳುತ್ತೀರಿ?

Why this matters

ಉಪಯುಕ್ತ ವರದಿ ಸಾಕ್ಷ್ಯವನ್ನು ಉಳಿಸುತ್ತದೆ, ಹರಡುವಿಕೆಯನ್ನು ತಡೆಯುತ್ತದೆ, ಮತ್ತು ಅನುಮೋದಿತ ಪ್ರತಿಕ್ರಿಯಾ ತಂಡವನ್ನು ತಲುಪುತ್ತದೆ.

ಹಾನಿಕಾರಕ ವಿಷಯವನ್ನು ಹರಡದೆ ಯಾರಾದರೂ ಪುನರಾವರ್ತಿಸಬಹುದಾದ ಸುರಕ್ಷತಾ ವೈಫಲ್ಯವನ್ನು ಬರೆಯಿರಿ.

ಮರುಪರಿಶೀಲನೆಗೆ ಕನಿಷ್ಠ ಅಗತ್ಯ ಸಾಕ್ಷ್ಯವನ್ನು ಹಿಡಿದಿಡಿ.
ಪ್ರಭಾವ ಮತ್ತು ಪ್ರಭಾವಿತ ವ್ಯಕ್ತಿಗಳನ್ನು ವರ್ಗೀಕರಿಸಿ.
ಅನುಮೋದಿತ ಖಾಸಗಿ ಮಾರ್ಗವನ್ನು ಮೇಲಕ್ಕೆ ಬಳಸಿ.

Task

ಒಂದು ಸಹಾಯಕನಿಗೆ ಹಿಂದಿಯಲ್ಲಿ ಅದೇ ಪ್ರಶ್ನೆ ಕೇಳಲಾಗುತ್ತದೆ ಮತ್ತು ಬ್ಯಾಂಕ್‌ನ ಒಮ್ಮೆ ಬಳಕೆಯ ಪಾಸ್ವರ್ಡ್ ಪರಿಶೀಲನೆಯನ್ನು ಮೀರಿ ಹೋಗುವ ಮಾರ್ಗವನ್ನು ನೀಡುತ್ತದೆ.

Weak approach ಪ್ರಯತ್ನವನ್ನು ನಾಲ್ಕು ಬಾರಿ ಪುನರಾವರ್ತಿಸುತ್ತದೆ, ಸಂಪೂರ್ಣ ಸಂಭಾಷಣೆಯನ್ನು ಉಳಿಸುತ್ತದೆ ಮತ್ತು ಯಾರು ಹಾನಿಗೊಳಗಾಗಬಹುದು ಎಂಬುದನ್ನು ಜಾಗರೂಕತೆಯಿಂದ ಟಿಪ್ಪಣಿ ಮಾಡುತ್ತದೆ. ನಂತರ ಸಂಪೂರ್ಣ ವಿಧಾನವನ್ನು ತಂಡದ ಹಂಚಿಕೊಂಡ ಗುಂಪಿನಲ್ಲಿ ಅಂಟಿಸುತ್ತದೆ, ಎಲ್ಲರೂ ನೋಡಲು ಸಾಧ್ಯವಾಗುತ್ತದೆ. ಆ ಗುಂಪಿನಲ್ಲಿ ನಲವತ್ತು ಜನರು ಇದ್ದಾರೆ, ಮತ್ತು ವಿಧಾನಕ್ಕೆ ಇನ್ನೂ ನಲವತ್ತು ಪ್ರತಿಗಳು ಸೃಷ್ಟಿಯಾಗಿವೆ.

Stronger approach ಅದನ್ನು ಪ್ರಾರಂಭಿಸುವ ಒಂದು ಪ್ರಾಂಪ್ಟ್ ಮತ್ತು ಉತ್ತರದ ಮೊದಲ ಸಾಲನ್ನು ಮಾತ್ರ ಉಳಿಸುತ್ತದೆ, ಇನ್ನೇನೂ ಅಲ್ಲ. ಇದನ್ನು ಬ್ಯಾಂಕ್ ಗ್ರಾಹಕರಿಗೆ ತಲುಪುವ ಮೋಸ ವಿಧಾನವೆಂದು ಕರೆಯುತ್ತದೆ. ಪ್ರಾಜೆಕ್ಟ್ ನಾಮಿತ ಖಾಸಗಿ ಮಾರ್ಗದಿಂದ ಅದನ್ನು ಕಳುಹಿಸುತ್ತದೆ.

Why the stronger approach works ಎರಡೂ ವರದಿಗಳು ಹಾನಿ ಮತ್ತು ಅದರಿಂದ ಪ್ರಭಾವಿತರಾದವರನ್ನು ಹೆಸರಿಸುತ್ತವೆ. ಅವುಗಳಲ್ಲಿ ಒಂದೊಂದು ವಿಧಾನವನ್ನು ನಲವತ್ತು ಹೆಚ್ಚು ಓದುಗರಿಗೆ ಹಸ್ತಾಂತರಿಸಿದೆ.

Try a changed situation ಈ ದೋಷ ಈಗ ಚಾಟ್ ಮಾದರಿಯಲ್ಲಿ ಅಲ್ಲ, ಆಸ್ಪತ್ರೆಯ ಅಪಾಯಿಂಟ್‌ಮೆಂಟ್ ಬಾಟ್‌ನಲ್ಲಿ ಇದೆ. ಟಿಪ್ಪಣಿಯ ಮೇಲ್ಭಾಗದಲ್ಲಿ ಏನು ಬರೆಯಬೇಕು?

Make something yourself ಸಣ್ಣ ಘಟನೆ ಟಿಪ್ಪಣಿಯನ್ನು ರಚಿಸಿ. ವೈಫಲ್ಯದ ಪ್ರಕಾರ, ಏನು ಪ್ರಭಾವಿಸುತ್ತದೆ, ಕನಿಷ್ಠ ಸಾಕ್ಷ್ಯ, ಮತ್ತು ಸುರಕ್ಷಿತ ವರ್ತನೆ ಏನು ಆಗಿರಬೇಕು ಎಂದು ನೀಡಿ.

Read the primary or official source: Anthropic Red Teaming