[ নিজস্ব মেশিনে ৮ জিবি GPU ব্যবহার করে বিনামূল্যে লোকাল LLM (Star2Coder, Gemma 8B) VS Code-এ ইন্টিগ্রেট করে ChatGPT-এর সাহায্যে শক্তিশালী কোডিং সহকারী তৈরি করা সম্ভব হয়েছে। ]
লোকাল লার্জ ল্যাঙ্গুয়েজ মডেল (LLM) ব্যবহার করে নিজের AI কোডিং এজেন্টকে VS Code–এর সঙ্গে ইন্টিগ্রেশন করা—এটা আমার জন্য সত্যিই অসাধারণ এক অভিজ্ঞতা।
আমার কম্পিউটারে GPU ৮ জিবি ১২ বিলিয়ন প্যারামিটারের Star2Coder ও Gemma 8B দারুণ স্মুথভাবে চলে; ল্যাপটপে মাল্টিটাস্কিংয়েও কোনো সমস্যা হয় না।
মজার বিষয়, ৮ জিবি GPU রিসোর্সে কীভাবে একদম বিনা খরচে এসব LLM কাজে লাগানো যায়—এই ভাবনা থেকেই মাথায় আসে VS Code–এর সঙ্গে সরাসরি ইন্টিগ্রেশনের আইডিয়া। এরপর ChatGPT-কে শুধু “কীভাবে করব?” জিজ্ঞেস করেছিলাম; ও ধাপে ধাপে পুরো সমাধান দেখিয়ে দিয়েছে।
Continue এক্সটেনশন ব্যবহার করে ঠিক GitHub Copilot-এর মতোই Local মডেল সিলেক্ট করা ও কোন মোডে কোড করব তা নির্ধারণ করা যায়। সেই একই পদ্ধতিতে আমি লোকাল কোডিং LLM-গুলোকে Agent/Asking মোডে খুব সহজে চালিয়েছি। ফলাফল—নিজের মেশিনে, নিজের নিয়ন্ত্রণে, একদম বিনা খরচে এক শক্তিশালী কোডিং সহকারী।
Posted by Md. Ruhul Amin, 10 hours ago
ডকার ইমেজের সাইজ ছোট রাখা অত্যন্ত গুরুত্বপূর্ণ। নির্দিষ্ট ভার্সন ব্যবহার (যেমন `FROM node:18`), `-slim` ব্যবহার করে বেইজ ইমেজের আকার কমানো, `.dockerignore` ফাইল ব্যবহার করে অপ্রয়োজনীয় ফাইল...
3 months ago
Read more১০ জিবি সার্ভারে ২ জিবি ডকার ইমেজ? স্পেসের ২০% নষ্ট! Docker Multi-Stage Build এর মাধ্যমে ইমেজ সাইজ কমানো সম্ভব। এটি build tools, dev dependencies সরিয়ে ছোট,...
3 months ago
Read moreপারফর্মােন্স ও নিরাপত্তা নিশ্চিত করার জন্য ডাটাবেইজ মনিটরিং অত্যন্ত গুরুত্বপূর্ণ। Percona Monitoring and Management (PMM) টুলটি এই কাজে অসাধারণ। বিভিন্ন এনভায়রনমেন্টের (Production, UAT, Testing, Development) ডাটাবেইজ সার্ভারগুলোকে কেন্দ্রীয়...
3 months ago
Read moreমাইক্রোসার্ভিসে কাস্টম ডোমেইন ব্যবহারের সহজ উপায়। Node.js, PHP, Python এ তৈরি Microservice এর জন্য `http://edns.system.com` URL ব্যবহার। `127.0.0.1` এর পরিবর্তে ডোমেইন ব্যবহারে DNS Server ও HOSTS ফাইলের ভূমিকা।...
5 months ago
Read more