Skip to lesson

यन्त्रानुवादः। आङ्ग्लं च हिन्दी च समीक्षिताः संस्करणाः सन्ति।Englishहिन्दी

  1. Learn
  2. See
  3. Try
  4. Make

महती यन्त्रं विना एकं मॉडलं समायोजय

What this lesson is about

पूर्णं मॉडलं न प्रशिक्षणं कुर्वन् लघुं अतिरिक्तं अङ्गं शिक्षयितुं स्वल्पव्ययेन शिक्षणं जानातु।

तव भ्राता वदति यत् महती कम्प्यूटरेण विना मॉडलः न शक्यते समायोजयितुम्, त्वं च केवलं मुक्तं नोटबुक् धारयसि। किं तस्यै वदसि?

Why this matters

Hugging Face इति पृष्ठे सुलभतया प्रशिक्षणस्य विधयः उक्ताः यत् एतेषां पद्धतीनां केवलं लघु-अनुकूलकं (adapter) एव शिक्ष्यते, न तु समग्रं मॉडल्। तस्य अतिरिक्तं अंशं सामान्यतः LoRA इति कथ्यते। एतत् गणनायाः च भण्डारणस्य च व्ययम् अपहर्तुं शक्नोति, तथा च महतीनां मॉडेलनां सामान्ययन्त्रेषु प्रशिक्षणं सुलभं करोति। मॉडलस्य स्वसंख्यानि न स्पृष्टानि भवन्ति, तस्माद् मुक्तं नोटबुक् पर्याप्तं भवति। एकः प्रलेखितः प्रशिक्षणः, यः Google स्व LoRA शिक्षणपुस्तिकायाः १४ सप्टेम्बर् २०२६ तमे दिनाङ्के पठितः, तस्मिन् Colab T4 मध्ये LoRA रैंक् ४ इति स्थितौ Gemma 3 1B इति मॉडल् एकस्मिन् चक्रम् अनेन प्रशिक्षणं कृतम्। सहस्रं उदाहरणानि एकस्मिन् चक्रम्, एकैकस्य उदाहरणस्य समूहः १, इनपुट् २५६ टोकनपर्यन्तं संक्षिप्तः। तस्य चक्रम् ९२३ सेकण्ड्, लगभग पञ्चदश निमेषाणि अभवत्। शिक्षणपुस्तिका पूर्वं च पश्चात् प्रत्युत्तराणि दर्शयति, न तु स्कोरम्, अतः पृथक् रक्षितः स्कोरः भवतः योजनीयः।

Read the primary or official source: Hugging Face PEFT