सोचिए, आपके फोन में एक ऐसा AI model install है जो ChatGPT जैसी power रखता है, लेकिन ना कोई internet चाहिए, ना cloud server, ना monthly subscription। यह sci-fi नहीं है — यह अभी हुआ है। PrismML नाम की एक AI कंपनी ने Bonsai 27B नाम का model launch किया है, जो 27 billion parameters का होते हुए भी सिर्फ 3.9 GB में पूरे phone पर चल जाता है। तो चलिए जानते हैं पूरी बात कि यह टेक्नोलॉजी काम कैसे करती है, और आपके लिए इसका क्या मतलब है...
Bonsai 27B आखिर है क्या?
PrismML, जो Caltech से निकली एक startup है और जिसे Khosla Ventures, Google और Samsung जैसे बड़े नाम back करते हैं, ने 14 जुलाई 2026 को Bonsai 27B launch किया। यह model Qwen3.6 27B architecture पर based है, यानी इसमें 27.8 billion parameters हैं — मतलब यह कोई हल्का-फुल्का chatbot नहीं, बल्कि एक serious reasoning और coding capable model है।
आम तौर पर इतने बड़े model को चलाने के लिए 54 GB memory चाहिए होती है — जो किसी भी फोन में possible नहीं। लेकिन PrismML ने एक trick निकाली, जिसे extreme low-bit quantization कहते हैं।
यह Quantization Trick काम कैसे करती है?
- Normal AI models 16-bit precision में हर parameter store करते हैं
- Bonsai में यही parameters सिर्फ 1-bit या 1.58-bit (ternary) में compress किए गए हैं
- इससे 1-bit version सिर्फ 3.9 GB का रह जाता है, और ternary version 5.9 GB का
- फिर भी company का दावा है कि यह लगभग 90-95% तक original model जितनी accuracy बनाए रखता है
Phone पर Performance कैसी है?
Reports के अनुसार, iPhone 17 Pro पर Bonsai 27B लगभग 11 tokens per second की speed से जवाब generate करता है। यह ज़्यादा तेज़ नहीं है, लेकिन ध्यान रखिए — यह पूरा processing फोन के अंदर ही हो रहा है, किसी data center में नहीं। मतलब आपकी बातचीत, आपका data कहीं बाहर नहीं जाता।
यह model text के साथ-साथ images भी समझ सकता है (multimodal), और इसमें 262,000 tokens तक की context window है — यानी एक बार में बहुत बड़ी document या conversation handle कर सकता है।
India में Android Users के लिए क्या मतलब है?
अभी ईमानदारी से बताएं तो Bonsai 27B officially iPhone, iPad, Mac (MLX के through) और Nvidia GPU (CUDA के through) पर चलने के लिए बना है। Android पर official support अभी confirm नहीं हुआ है। लेकिन चूंकि यह model Apache 2.0 open-source license के तहत free में उपलब्ध है, developers इसे community apps में adapt कर सकते हैं — जैसा पहले भी कई open AI models के साथ हुआ है।
यह इतना बड़ा Update क्यों है?
अब तक मान लिया जाता था कि बड़े, capable AI models के लिए cloud और data centers ज़रूरी हैं। Bonsai 27B यह साबित करता है कि आने वाला समय on-device AI का है — यानी private, बिना internet के, हमेशा available रहने वाला AI।
दिलचस्प बात यह भी है कि CNBC की रिपोर्ट्स के अनुसार, Apple खुद इस technology में interest दिखा रहा है — यानी हो सकता है भविष्य में iPhone में built-in ऐसे compressed models आएं।
अक्सर पूछे जाने वाले सवाल (FAQ)
Bonsai 27B free है या paid?
Bonsai 27B के model weights Apache 2.0 license के तहत पूरी तरह free और open-source हैं। PrismML एक limited developer preview API भी offer कर रहा है।
क्या यह model Android phone पर चलेगा?
अभी official support सिर्फ iPhone, iPad, Mac और Nvidia GPU के लिए है। Android के लिए community adaptations आ सकती हैं, लेकिन अभी confirm नहीं है।
क्या यह ChatGPT से बेहतर है?
यह ChatGPT का competitor नहीं बल्कि एक अलग category है — यह cloud की जगह सीधे आपके device पर चलता है। Accuracy लगभग 90-95% तक full-size models जैसी बताई जा रही है, खासकर math और coding में।
Privacy के लिए यह कितना safe है?
चूंकि processing पूरी तरह device पर होती है और data cloud में नहीं जाता, privacy के नज़रिए से यह traditional cloud-based AI tools से बेहतर माना जा रहा है।
On-device AI की यह दुनिया अभी शुरू हुई है, और आने वाले महीनों में और भी compressed models देखने को मिलेंगे। अगर यह जानकारी helpful लगी, तो अपने tech-savvy दोस्तों के साथ share करें और comment में बताएं — क्या आप बिना internet वाले AI को trust करेंगे?