Skip to lesson

యంత్ర అనువాదం. ఆంగ్లం మరియు హిందీ సమీక్షించిన వెర్షన్లు.Englishहिन्दी

  1. Learn
  2. See
  3. Try
  4. Make

పెద్ద యంత్రం లేకుండా మోడల్‌ను ట్యూన్ చేయండి

What this lesson is about

మోడల్‌ను మొత్తం కాకుండా చిన్న అదనపు భాగాన్ని మాత్రమే శిక్షణ ఇస్తూ, తక్కువ ఖర్చుతో నేర్చుకోండి.

మీ బంధువు పెద్ద కంప్యూటర్ లేకుండా మోడల్‌ను ట్యూన్ చేయలేమని, మీ దగ్గర ఉచిత నోట్‌బుక్ మాత్రమే ఉందని చెప్తుంది. మీరు ఆమెకు ఏమి చెప్పాలి?

Why this matters

Hugging Face పేజీ చీప్ ట్యూనింగ్ గురించి చెప్తుంది, ఈ పద్ధతులు మొత్తం మోడల్ కాకుండా చిన్న adapter ని మాత్రమే ట్రైన్ చేస్తాయి. ఆ అదనపు భాగం సాధారణంగా LoRA. ఇది కంప్యూటింగ్ మరియు స్టోరేజ్ ఖర్చులను తగ్గిస్తుంది, పెద్ద మోడల్స్ సాధారణ హార్డ్‌వేర్‌పై ట్రైన్ చేయడానికి వీలు కల్పిస్తుంది. మోడల్ యొక్క స్వంత సంఖ్యలు మార్చబడవు, అందుకే ఉచిత నోట్‌బుక్ సరిపోతుంది. ఒక డాక్యుమెంటెడ్ రన్, Google యొక్క LoRA ట్యుటోరియల్ నుండి, 14 సెప్టెంబర్ 2026 న చదివింది. ఇది Colab T4 పై LoRA ర్యాంక్ 4 వద్ద Gemma 3 1B ని ట్యూన్ చేస్తుంది. 1,000 ఉదాహరణలపై ఒకసారి, బ్యాచ్ సైజ్ 1, ఇన్‌పుట్స్ 256 టోకెన్ల వద్ద కట్ చేయబడ్డాయి. ఆ రన్ 923 సెకన్లు, సుమారు 15 నిమిషాలు తీసుకుంది. ట్యుటోరియల్ స్కోరు కాకుండా ముందు మరియు తర్వాత జవాబులు చూపిస్తుంది, కాబట్టి వేరుగా ఉంచిన స్కోరు మీరు జోడించాలి.

Read the primary or official source: Hugging Face PEFT