এখনি এটা মডেল এটা বিনামূলীয়া মেচিনত চলাওক

এটা লাইন মডেলটোৰ নাম দিয়ে আৰু চলাবলৈ সাজু কৰে, আৰু পৰৱৰ্তী লাইনটোত আপোনাৰ পাঠ প্ৰেৰণ কৰে। এটা বিনামূলীয়া মেচিনত প্ৰথমে যি সীমা আহে সেয়া হৈছে মেম'ৰি, ধৈৰ্য নহয়। এটা বিনামূলীয়া Colab নোটবুকত ১৬ GBৰ T4 কাৰ্ড থাকে, ১৪ ছেপ্টেম্বৰ ২০২৬ তাৰিখত পঢ়া। Colab কয় কাৰ্ডটোৰ গেৰাণ্টী নাই আৰু এটা ছেছন সৰ্বাধিক ১২ ঘণ্টাত শেষ হয়। Llama 3.2 1B-এ সম্পূৰ্ণ প্ৰস্থত ২,৩৫৮ MB লাগে, সেয়ে সেয়া ঠিক মেল খায়। যি মডেল মেল নাখায় তাক কোৱাণ্টাইজ কৰা হয় — সৰু সংখ্যাত সংৰক্ষণ কৰা হয়। Transformers ডকুমেণ্টে কয় ৮-বিট সংৰক্ষণে মেম'ৰি অর্ধেক কৰে আৰু ৪-বিটে চতুৰ্থাংশলৈ কমায়। Meta-ৰ কাৰ্ডত একে ১B মডেলৰ ৪-বিট QLoRA সংস্কৰণ ১,১২৭ MBত দেখুওৱা হৈছে। ডকুমেণ্টৰ সঁচা মূল্য: সৰু সংখ্যাবোৰ যত সঠিকতা ৰাখিব পাৰে ততিয়েই ৰাখে, সকলো নহয়। সেয়ে কোৱাণ্টাইজ কৰাৰ পিছত পুনৰ মাপ লওক।