گفتگو جو جائزو وٺو، هڪ جواب نه

What this lesson is about

هڪ جواب جو جائزو وٺو ان ڳالهه جي بنياد تي جيڪا گفتگو اڳ ۾ طئي ٿي چڪي آهي. صارف جون حدون، سندن درستگيون، ۽ جيڪا ٻولي چونڊي آهي.

پهريون موڙ ۾ گراهڪ هندي لاءِ پڇيو. چوٿون موڙ صحيح حقيقتن سان روان انگريزي ۾ آهي. توهان چوٿين موڙ کي ڪيئن اسڪور ڪندا؟

Why this matters

هڪ جواب جو جائزو وٺڻ اهڙيون ڳالهيون پاس ڪري ٿو جيڪي صارف ٽن موڙ اڳ گهريون هيون پر خاموشي سان ڇڏي ڏنيون ويون.

هر جواب جو جائزو وٺو انهن حدن، درستگين ۽ حقيقتن جي بنياد تي جيڪي گفتگو اڳ ۾ طئي ٿي چڪيون آهن.

هڪ جواب جو جائزو وٺڻ اهڙيون ڳالهيون پاس ڪري ٿو جيڪي صارف ٽن موڙ اڳ گهريون هيون پر خاموشي سان ڇڏي ڏنيون ويون.

هڪ مقرر ڪيل هدايت ان وقت تائين لاڳو رهندي جيستائين صارف ان کي تبديل ڪري.
هر جواب کي الڳ نه، پر اڳين موڙن جي بنياد تي پرکيو.
موڙ کي نشان لڳايو جتي گفتگو پهريون ڀيرو ٽٽي، نه آخري.

Task

اسڪالرشپ فارم بابت چار مرحلن تي ٻڌل ڳالھ ٻولھ. پھريون مرحلو ۾ صارف ھندي لاءِ پڇيو. ٽئين مرحلي ۾ ھن آخري تاريخ درست ڪئي، ۽ مددگار ان کي قبول ڪيو.

Weak approach چوٿون مرحلو کوليندو آهي، ان جا حقائق نوٽيس سان ملائي ٿو، صحيح ثابت ٿين ٿا، ۽ ان کي پاس ڪري ٿو. پھريون مرحلو ٽي اسڪرين مٿي آهي ۽ ڪڏهن واپس نه ڏٺو ويندو آهي.

Stronger approach پهريان کان چوٿين مرحلن تائين ترتيب سان پڙھي ٿو ۽ ھر مرحلي لاءِ لکندو آھي ته ان کي اڳتي ڇا وٺي وڃڻو ھو. چوٿون مرحلو درست ڪيل تاريخ ورجائي ٿو، جيڪا صحيح آهي، ۽ انگريزي ۾ جواب ڏئي ٿو، جيڪا پھريون مرحلو رد ڪري چڪو هو. چوٿون مرحلو ٽوڙڻ واري جاءِ طور نشان لڳائي ٿو ۽ پھريون مرحلو مان لائن حوالو ڏئي ٿو.

Why the stronger approach works ٻنهي جائچن ۾ چوٿين مرحلي جا حقائق صحيح هئا. جيڪا هدايت ڇڏي وئي هئي، اها ٽي اسڪرين مٿي هئي، ۽ صرف اهو جائچ ڪندڙ جنهن پھريون مرحلو پڙهيو هو، ان کي ڏٺو.

Try a changed situation هاڻي توهان ڳالهه ٻولهه نه، پر AI مددگار جا اوزار جا قدم جائزو وٺي رهيا آهيو. ڪهڙو قانون اڃا به لاڳو ٿئي ٿو؟

Make something yourself پنهنجي ڪنهن چار موڙن واري گفتگو کي AI مددگار سان وٺو. هر موڙ لاءِ هڪ ڳالهه لکو جيڪا ان کي اڳين موڙ مان اڳتي وٺي وڃڻي هئي، پوءِ ٻڌايو ته ورتي يا نه ورتي.

Read the primary or official source: Anthropic HH-RLHF