यह कहना कोई अतिशयोक्ति नहीं है कि चैटजीपीटी और जेमिनी जैसे AI बॉट्स को शक्ति देने वाले बड़े भाषा मॉडल दुनिया को बदल रहे हैं। हममें से कई लोग अब कोडिंग, लेखन, सारांश और वेब पर खोज के लिए उन पर निर्भर हैं। अगले कुछ वर्षों में AI जिस भी दिशा में जाएगा, एलएलएम उस भविष्य का हिस्सा होगा।

यदि आप चैटजीपीटी, क्लाउड, पर्प्लेक्सिटी, या किसी अन्य AI प्लेटफॉर्म का उपयोग करते हैं, तो आप एलएलएम का उपयोग कर रहे हैं। जो बात आमतौर पर कम ज्ञात है वह यह है कि ये एलएलएम स्थानीय रूप से, आपके अपने कंप्यूटर पर चलाए जा सकते हैं। मुख्य लाभ ऑफ़लाइन पहुंच और अधिक गोपनीयता हैं, क्योंकि आप किसी और के विश्लेषण या समीक्षा के लिए क्लाउड पर कुछ भी नहीं भेज रहे हैं।

आप किसी भी AI कंपनी को मासिक सदस्यता का भुगतान नहीं कर रहे हैं या कोई उपयोग दर नहीं बढ़ा रहे हैं। कई एलएलएम मुफ्त में डाउनलोड करने के लिए उपलब्ध हैं, जिनमें मेटा और गूगल जैसे बड़े नाम भी शामिल हैं। हालाँकि वे उन ऐप्स के अंदर एलएलएम जितने उन्नत या तेज़ नहीं हैं जिनके लिए आपको भुगतान करना पड़ता है, वे रोजमर्रा के उपयोग के लिए पर्याप्त रूप से सक्षम हैं, और आप आवश्यकतानुसार उनमें से चुन सकते हैं।

यहां अधिक रखरखाव शामिल है, और आप चैटजीपीटी ऐप को लोड करने से मिलने वाली कुछ सुविधा खो देते हैं। (उदाहरण के लिए, आपको अपडेट को स्वयं संभालना होगा।) हालाँकि, आपको अपने लिए एक अधिक वैयक्तिकृत और निजी AI सिस्टम मिलता है, और इसे आरंभ करना मुश्किल नहीं है।

आप विंडोज़, मैकओएस और लिनक्स पर स्थानीय एलएलएम चला सकते हैं, हालांकि अधिकांश AI उत्साही लोगों के लिए मैकओएस पसंदीदा प्लेटफॉर्म है। मैक पर सब कुछ अधिक एकीकृत और सुसंगत है - विंडोज पीसी के विपरीत, केवल एक कंपनी उन्हें बनाती है - और ऐप्पल सिलिकॉन चिप्स CPU, GPU और रैम को एक साथ जोड़ते हैं, जो AI मॉडल को पसंद है।

आप चाहे जिस भी प्लेटफ़ॉर्म पर जाएं, भरपूर रैम होने से मदद मिलती है। न्यूनतम 8 जीबी है, हालाँकि यदि आपके पास इतना ही है, तो आप एलएलएम के आकार के संदर्भ में कुछ हद तक सीमित होंगे और वे कितनी तेजी से चलेंगे। सोलह गिग्स बेहतर है, और यदि आप सबसे बड़े और सबसे तेज़ मॉडल का उपयोग करना चाहते हैं तो 32 या अधिक की आवश्यकता है। सर्वोत्तम परिणामों के लिए, आपको एक समर्पित GPU पर प्रचुर मात्रा में वीआरएएम की आवश्यकता होती है (8 जीबी से ऊपर कुछ भी फर्क पड़ेगा), क्योंकि इस प्रकार की मेमोरी AI मॉडल द्वारा किए जाने वाले कार्यों के लिए अनुकूलित है।

यदि आप विंडोज़ पर हैं, तो एक समर्पित एनवीडिया GPU बहुत मदद करता है: ग्राफिक्स चिप्स मानक प्रोसेसर की तुलना में AI प्रक्रियाओं को चलाने के लिए बेहतर हैं, यही वजह है कि एनवीडिया और AI बूम आपस में इतने करीब से जुड़े हुए हैं। इन समर्पित ग्राफिक्स कार्डों में अपनी रैम भी होगी, जो AI मॉडल को अतिरिक्त सोचने की जगह देती है।

इसलिए जबकि स्थानीय एलएलएम चलाने के लिए कोई "न्यूनतम विशिष्टता" नहीं है, जितना संभव हो उतना रैम और एक अलग ग्राफिक्स कार्ड निश्चित रूप से मदद करेगा। फिर आपको मॉडल को चलाने के लिए (बाहरी इंटरफ़ेस के रूप में कार्य करने के लिए), साथ ही मॉडल को चलाने के लिए सॉफ़्टवेयर के एक टुकड़े की आवश्यकता होगी। दोनों के लिए बहुत सारे विकल्प हैं, इसलिए आप आवश्यकतानुसार चुन सकते हैं।