[ নিজস্ব মেশিনে ৮ জিবি GPU ব্যবহার করে বিনামূল্যে লোকাল LLM (Star2Coder, Gemma 8B) VS Code-এ ইন্টিগ্রেট করে ChatGPT-এর সাহায্যে শক্তিশালী কোডিং সহকারী তৈরি করা সম্ভব হয়েছে। ]
লোকাল লার্জ ল্যাঙ্গুয়েজ মডেল (LLM) ব্যবহার করে নিজের AI কোডিং এজেন্টকে VS Code–এর সঙ্গে ইন্টিগ্রেশন করা—এটা আমার জন্য সত্যিই অসাধারণ এক অভিজ্ঞতা।
আমার কম্পিউটারে GPU ৮ জিবি ১২ বিলিয়ন প্যারামিটারের Star2Coder ও Gemma 8B দারুণ স্মুথভাবে চলে; ল্যাপটপে মাল্টিটাস্কিংয়েও কোনো সমস্যা হয় না।
মজার বিষয়, ৮ জিবি GPU রিসোর্সে কীভাবে একদম বিনা খরচে এসব LLM কাজে লাগানো যায়—এই ভাবনা থেকেই মাথায় আসে VS Code–এর সঙ্গে সরাসরি ইন্টিগ্রেশনের আইডিয়া। এরপর ChatGPT-কে শুধু “কীভাবে করব?” জিজ্ঞেস করেছিলাম; ও ধাপে ধাপে পুরো সমাধান দেখিয়ে দিয়েছে।
Continue এক্সটেনশন ব্যবহার করে ঠিক GitHub Copilot-এর মতোই Local মডেল সিলেক্ট করা ও কোন মোডে কোড করব তা নির্ধারণ করা যায়। সেই একই পদ্ধতিতে আমি লোকাল কোডিং LLM-গুলোকে Agent/Asking মোডে খুব সহজে চালিয়েছি। ফলাফল—নিজের মেশিনে, নিজের নিয়ন্ত্রণে, একদম বিনা খরচে এক শক্তিশালী কোডিং সহকারী।
Posted by Md. Ruhul Amin, 2 hours ago
ডকার ইমেজের সাইজ ছোট রাখা অত্যন্ত গুরুত্বপূর্ণ। নির্দিষ্ট ভার্সন ব্যবহার (যেমন `FROM node:18`), `-slim` ব্যবহার করে বেইজ ইমেজের আকার কমানো, `.dockerignore` ফাইল ব্যবহার করে অপ্রয়োজনীয় ফাইল...
3 months ago
Read more১০ জিবি সার্ভারে ২ জিবি ডকার ইমেজ? স্পেসের ২০% নষ্ট! Docker Multi-Stage Build এর মাধ্যমে ইমেজ সাইজ কমানো সম্ভব। এটি build tools, dev dependencies সরিয়ে ছোট,...
3 months ago
Read moreপারফর্মােন্স ও নিরাপত্তা নিশ্চিত করার জন্য ডাটাবেইজ মনিটরিং অত্যন্ত গুরুত্বপূর্ণ। Percona Monitoring and Management (PMM) টুলটি এই কাজে অসাধারণ। বিভিন্ন এনভায়রনমেন্টের (Production, UAT, Testing, Development) ডাটাবেইজ সার্ভারগুলোকে কেন্দ্রীয়...
3 months ago
Read moreমাইক্রোসার্ভিসে কাস্টম ডোমেইন ব্যবহারের সহজ উপায়। Node.js, PHP, Python এ তৈরি Microservice এর জন্য `http://edns.system.com` URL ব্যবহার। `127.0.0.1` এর পরিবর্তে ডোমেইন ব্যবহারে DNS Server ও HOSTS ফাইলের ভূমিকা।...
5 months ago
Read more