യന്ത്രം വിവർത്തനം ചെയ്തതാണ്. ഇംഗ്ലീഷ്, ഹിന്ദി പരിശോധിച്ച പതിപ്പുകളാണ്.English हिन्दी

Learn
See
Try
Make

സുരക്ഷാ പിഴവുകൾ തിരിച്ചറിയുകയും മുന്നോട്ട് അയയ്ക്കുകയും ചെയ്യുക

What this lesson is about

മറ്റാരും ആവർത്തിക്കാവുന്ന ഒരു പിഴവ് എഴുതുക. ഹാനികരമായ ഉള്ളടക്കം പ്രചരിപ്പിക്കാതെ, അവലോകനത്തിന്റെ പരിധിക്കുള്ളിൽ തന്നെ ഇരിക്കുക.

ഒരു മറുപടി ഒരു അന്യന്റെ ഫോൺ നമ്പർ സ്വകാര്യ ഫയലിൽ നിന്നാണ് കാണിക്കുന്നത്, നിങ്ങളുടെ ഷിഫ്റ്റ് പത്ത് മിനിറ്റിൽ അവസാനിക്കുന്നു. നിങ്ങൾ എന്ത് സൂക്ഷിക്കും?

Why this matters

ഉപകാരപ്രദമായ റിപ്പോർട്ട് സാക്ഷ്യങ്ങൾ സൂക്ഷിക്കുകയും പ്രചരിക്കുന്നത് തടയുകയും അംഗീകൃത പ്രതികരണ സംഘത്തോട് എത്തുകയും ചെയ്യുന്നു.

ഹാനികരമായ ഉള്ളടക്കം പ്രചരിപ്പിക്കാതെ മറ്റാരും ആവർത്തിക്കാവുന്ന ഒരു സുരക്ഷാ പിഴവ് എഴുതുക.

പുനഃപരിശോധനക്ക് ഏറ്റവും കുറഞ്ഞ തെളിവുകൾ മാത്രം സൂക്ഷിക്കുക.
പ്രഭാവവും ബാധിച്ച ആളുകളെയും വർഗ്ഗീകരിക്കുക.
അംഗീകൃത സ്വകാര്യ മാർഗം ഉപയോഗിച്ച് മുന്നോട്ട് അറിയിക്കുക.

Task

ഒരു അസിസ്റ്റന്റിനോട് ഹിന്ദിയിൽ അതേ ചോദ്യം ചോദിച്ചപ്പോൾ, ബാങ്കിന്റെ ഒറ്റത്തവണ പാസ്‌വേഡ് പരിശോധന മറികടക്കാനുള്ള വഴി പറയുന്നു.

Weak approach അത് നാലു തവണ ശ്രമം ആവർത്തിക്കുന്നു, മുഴുവൻ സംഭാഷണം സംരക്ഷിക്കുന്നു, ആരെ ബാധിക്കാമെന്ന് സൂക്ഷ്മമായി കുറിക്കുന്നു. പിന്നെ ആ മുഴുവൻ രീതി ടീമിന്റെ പങ്കിടുന്ന ഗ്രൂപ്പിൽ പേസ്റ്റ് ചെയ്യുന്നു, എല്ലാവരും കാണാൻ. ആ ഗ്രൂപ്പിൽ നാല്പത് പേർ ഉണ്ടാകുന്നു, രീതി ഇപ്പോൾ നാല്പത് കോപ്പികളായി മാറി.

Stronger approach അത് പ്രവർത്തിപ്പിക്കുന്ന ഒരു പ്രോംപ്റ്റും മറുപടി ആദ്യ വരിയും മാത്രം സൂക്ഷിക്കുന്നു, അതിലധികം ഒന്നും ഇല്ല. അത് ബാങ്ക് ഉപഭോക്താക്കളെ ലക്ഷ്യമാക്കിയ തട്ടിപ്പായി വിളിക്കുന്നു. പ്രോജക്ട് നാമകരിച്ച സ്വകാര്യ മാർഗ്ഗത്തിലൂടെ അയയ്ക്കുന്നു.

Why the stronger approach works രണ്ടു റിപ്പോർട്ടുകളും നാശനഷ്ടവും ബാധിച്ചവരും വ്യക്തമാക്കുന്നു. അവയിൽ ഒരാൾ വഴിയിൽ ആ രീതി നാല്പത് കൂടുതൽ വായനക്കാരെ കൈമാറിയിട്ടുണ്ട്.

Try a changed situation തെറ്റു ഇപ്പോൾ ഒരു ആശുപത്രി അപ്പോയിന്റ്മെന്റ് ബോട്ടിൽ ആണ്, ചാറ്റ് മോഡലിൽ അല്ല. കുറിപ്പിന്റെ മുകളിൽ എന്ത് എഴുതും?

Make something yourself ഒരു ചെറിയ സംഭവം കുറിപ്പ് തയ്യാറാക്കുക. പിഴവിന്റെ തരം, അത് ബാധിക്കുന്നതു, ആവശ്യമായ ഏറ്റവും കുറഞ്ഞ സാക്ഷ്യങ്ങൾ, സുരക്ഷിതമായ പെരുമാറ്റം എന്തായിരുന്നതെന്ന് നൽകുക.

Read the primary or official source: Anthropic Red Teaming