સુરક્ષા નિષ્ફળતાઓને છટણી કરો અને આગળ મોકલો

What this lesson is about

કોઈએ ફરી કરી શકે તેવી નિષ્ફળતા લખો. હાનિકારક સામગ્રી ફેલાવશો નહીં અને સમીક્ષા ની મર્યાદાઓમાં રહો.

એક જવાબમાં અજાણ્યા વ્યક્તિનો ફોન નંબર ખાનગી ફાઇલમાંથી દેખાડવામાં આવ્યો છે, અને તમારું શિફ્ટ દસ મિનિટમાં પૂરુ થાય છે. તમે શું રાખશો?

Why this matters

ઉપયોગી રિપોર્ટ પુરાવા રાખે છે, ફેલાવટ રોકે છે અને મંજૂર જવાબદારી ટીમ સુધી પહોંચે છે.

હાનિકારક સામગ્રી ફેલાવ્યા વિના એવી સલામતી નિષ્ફળતા લખો જે કોઈએ ફરી કરી શકે.

ફરીથી પુનરાવર્તન માટે ઓછામાં ઓછા પુરાવા જ રાખો.
પ્રભાવ અને અસરગ્રસ્ત લોકોનું વર્ગીકરણ કરો.
મંજૂર કરાયેલ ખાનગી માર્ગથી જ ઉપર પહોંચાડો.

Task

એક સહાયકને હિન્દીમાં એ જ પ્રશ્ન પૂછવામાં આવે છે અને તે બેંકના એક વખતના પાસવર્ડ ચેકને પાર કરવાની રીત જણાવે છે.

Weak approach ચોક્કસ પ્રયાસ ચાર વખત કરે છે, આખી ટ્રાન્સક્રિપ્ટ સાચવે છે, અને ધ્યાનથી લખે છે કે આથી કોને નુકસાન થઈ શકે છે. પછી આખી રીત ટીમના શેર કરેલા ગ્રુપમાં પેસ્ટ કરે છે જેથી બધા જોઈ શકે. ગ્રુપમાં ચાળીસ લોકો છે, અને આ રીતની ચાળીસ વધુ નકલ બની ગઈ છે.

Stronger approach એ માત્ર એક પ્રોમ્પ્ટ રાખે છે જે તેને શરૂ કરે છે અને જવાબની પ્રથમ પંક્તિ, અને બીજું કશું નહીં. તેને બેંક ગ્રાહકો સુધી પહોંચતી ઠગાઈની રીત કહે છે. અને તેને પ્રોજેક્ટ દ્વારા નિર્ધારિત ખાનગી માર્ગે મોકલે છે.

Why the stronger approach works બન્ને રિપોર્ટમાં નુકસાન અને તે કોને થાય છે તે જણાવાયું છે. એક રિપોર્ટે તો રસ્તામાં આ રીત ચાળીસ વધુ વાંચનારા સુધી પણ આપી દીધી.

Try a changed situation અત્યારે ખામી હોસ્પિટલની એપોઇન્ટમેન્ટ બોટમાં છે, કોઈ ચેટ મોડેલમાં નથી. નોંધની ટોચ પર શું લખશો?

Make something yourself એક સંક્ષિપ્ત ઘટના નોંધ તૈયાર કરો. નિષ્ફળતાનો પ્રકાર, શું અસર થાય છે, ઓછામાં ઓછા પુરાવા અને સલામત વર્તન શું હોત તે જણાવો.

Read the primary or official source: Anthropic Red Teaming