فيصلو ڪريو ته ٽيوننگ ڪڏهن فائديمند آهي

What this lesson is about

گهڻا ڪم بهتر هدايتون گهرجن، ٽيون ٿيل ماڊل نه. سکيو ته ڪهڙا ٿورا ڪم واقعي ٽيوننگ جا محتاج آهن.

هڪ ننڍڙو ماڊل اوهان جون اڌ ماراٺي شڪايتون صحيح جڳهه تي رکي ٿو. اوهان جو ساٿي ھڪ ھفتي جي تربيت شروع ڪرڻ چاهي ٿو. هاڻي ڇا ڪجي؟

Why this matters

Hugging Face ڪورس چوي ٿو ته ٽيوننگ تي صرف تڏهن غور ڪريو جڏهن درخواست بهتر ڪرڻ سان ڪافي نتيجا نه ملن. گهڻا فرق واضح هدايتن ۽ درخواست ۾ ڪجهه مثالن سان گھٽجي وڃن ٿا، جنهن ۾ هڪ ڏينهن لڳي ٿو. ٽيوننگ ۾ هڪ هفتو ۽ هڪ مشين لڳندي آهي، تنهنڪري اهو آخر ۾ ايندو.

ٻن ماپيل انگن سان فيصلو ڪريو ته ڪم کي ٽيوننگ گهرجي يا صرف بهتر درخواست.

گهڻا ڪم جيڪي ٽيوننگ جهڙا لڳن ٿا، انهن کي بهتر هدايتون ۽ بهتر مثال گهرجن.
ترتيب سان ڪوشش ڪريو: واضح هدايتون، درخواست ۾ مثال، پوءِ ٽيوننگ.
ٽيوننگ تڏهن فائديمند آهي جڏهن ڪم جو هڪ مقرر ڍانچو هجي ۽ ڪجهه سؤ سوچيل مثال هجن.

Task

فيصلو ڪريو ته مراٺي شڪايتن کي ٽن خانن ۾ ورهائڻ لاءِ ننڍڙي ماڊل کي ٽيون ڪرڻ گهرجي يا نه.

Weak approach هڪ هفتي لاءِ ٽيوننگ شروع ڪري ٿو ڇو ته سادي هدايتن سان اڌ کان ٿورو شڪايتون صحيح جڳهه تي وڃن ٿيون. هدايت پاڻ ڪڏهن به ٻيهر لکي نٿي وڃي ۽ ڪابه مثال شامل نٿو ڪئي وڃي.

Stronger approach هدايتون ٻيهر لکي ٿو، پوءِ درخواست ۾ ڇهه مثال وجهي ٿو. هر دفعي ساڳين پنجاهه تي اسڪور ڪري ٻنهي انگن کي لکي ٿو.

Why the stronger approach works ڪمزور فيصلو هڪ هفتو خرچ ڪري ٿو جيڪو هڪ ڏينهن ۾ معلوم ٿي سگهي ٿو. مضبوط فيصلو ٻن ماپيل انگن سان اڳ ۾ آهي بغير ڪنهن خرچ جي.

Try a changed situation هڪ ساٿي ماڊل کي ٽيون ڪرڻ چاهي ٿو ڇو ته ان جا جواب تمام ڊگها آهن. ٻيو ڪجهه غلط ناهي. توهان کيس ڇا چوندا؟

Make something yourself هڪ ڪم چونڊيو. لکو ته توهان پهرين ڇا ڪوشش ڪئي، پنهنجي پنجاهه مثالن تي ان سان ڇا تبديلي آئي، ۽ ڇا توهان ٽيون ڪندا. راءِ نه، ٻه انگ ڏيو.

Read the primary or official source: Hugging Face LLM course · supervised fine-tuning