मशीनान अनुवाद केलेलो. इंग्लिश आनी हिंदी रिव्ह्यू केलेल्या आवृत्त्या आसा.Englishहिन्दी
Learn
See
Try
Make
फुकट मशीनांत एक मॉडल चालव
What this lesson is about
फुकट नोटबुकांत एक छोटे मॉडलाक लोड कर, त्याक दहा इनपुट पाठव, आनी जे परतलें ते सांचो कर.
हिंदींत येवपाचे दहा ग्राहक संदेश आसा आनी एक फुकट मशीन एक तासां खातीर उघडली आसा. तुमका काय करपाचें?
Why this matters
एक ओळ मॉडेलाचें नाव सांगता आणि तें चालोवपाक सेट करतां, आनी पुढील ओळ तुमचें टेक्स्ट पाठवता. मोफत मशीनांत सगळ्यात आधी जें संपतं ते मेमरी, सबर न्हय. मोफत Colab नोटबुक 16 GB चें T4 कार्ड दितां, 14 सप्टेंबर 2026 पर्यंत वाचलें. Colab म्हणता कार्डाची हमी न्हय आनी सत्र जास्तीत जास्त 12 तासांत संपतं. Llama 3.2 1B ला पूर्ण रुंदीवर 2,358 MB लागतात, मणजे तें तशेंच बसतं. जें मॉडेल बसत न्हय तें क्वांटाइज केलं जातं — म्हणजे लहान आकड्यांत साठवलें जातं. Transformers च्या दस्तावेजांत म्हटलेंय 8-बिट साठवणूक मेमरी अर्धी करते आनी 4-बिट तें चार भागांत करते. Meta चें कार्ड तशेंच 1B मॉडेलाचो 4-बिट QLoRA आवृत्ती 1,127 MB वर दाखवता. दस्तावेजांतली खरी किंमत: लहान आकडे शक्य तितकी अचूकता राखतात, पण सगळी न्हय. मणजे क्वांटाइज केल्यांनंतर पुन्हा माप करा.