دوره Edge AI با SLMs: فاین تیونینگ و استقرار محلی

آنچه یاد خواهید گرفت: طراحی و fine-tune کردن مدل‌های زبانی کوچک (1–7B) به‌طور ویژه برای دستگاه‌های edge و موبایل، با ایجاد تعادل میان دقت، اندازه و تأخیر به‌کارگیری LoRA و QLoRA برای fine-tune کردن SLMها روی GPUهای مصرفی، و کاهش چشمگیر نیاز به VRAM و زمان آموزش برای پروژه‌های واقعی کوانتیزه کردن مدل‌های fine-tune شده (INT8/INT4)، تبدیل آن‌ها به فرمت‌های مناسب edge، و استقرار آن‌ها روی گوشی‌ها، تبلت‌ها و Raspberry Pi ساخت یک pipeline کامل از آماده‌سازی داده و تیونینگ hyperparameterها تا اعتبارسنجی روی دستگاه، benchmark کردن و بهینه‌سازی تشخیص این‌که چه زمانی از prompt engineering ،RAG یا fine-tuning استفاده کنید، و توجیه استقرار روی edge در برابر APIهای ابری برای کاربردهای مختلف کسب‌وکار انتخاب خانواده مناسب SLM (Gemma ،Phi ،Llama ،Mistral) بر اساس محدودیت‌های شما در VRAM، سخت‌افزار، حریم خصوصی و عملکرد روی دستگاه طراحی مجموعه‌داده‌های instruction باکیفیت و تقسیم‌بندی مناسب، و جلوگیری از overfitting و فراموشی فاجعه‌بار در مدل‌های کوچک و تخصصی بسته‌بندی، نسخه‌بندی و به‌روزرسانی مدل‌های روی دستگاه (monolithic در برابر modular adapters) برای اپلیکیشن‌های واقعی مانند طبقه‌بندی، بات‌های پشتیبانی و تولید محتوا پیش‌نیازهای دوره آشنایی کلی با این‌که AI یا مدل‌های «ChatGPT-style» چیستند مفید است، اما این دوره یک مرور مفهومی سریع هم دارد تا مبتدیان با انگیزه بتوانند آن را دنبال کنند. دسترسی به یک کامپیوتر (Windows ،macOS یا Linux) که بتوانید روی آن Python و کتابخانه‌های رایج AI را نصب کنید؛ نیازی به تجربه قبلی در راه‌اندازی نیست. دانش پایه Python (متغیرها، تابع‌ها و اجرای اسکریپت‌های ساده) مفید است اما الزامی نیست؛ همه کدها گام‌به‌گام توضیح داده شده‌اند. توضیحات دوره این دوره یک چارچوب فنی جامع برای fine-tune کردن Small Language Models (SLMs) و استقرار آن‌ها روی دستگاه‌های edge ارائه می‌دهد. این راهنما فراتر از هیاهوی مدل‌های عظیم ابری می‌رود و بر واقعیت مهندسی اجرای AI خصوصی و آفلاین تمرکز دارد. شما روش‌شناسی کامل را یاد می‌گیرید تا مدل‌های عمومی (با 1–7B پارامتر) را به ابزارهایی تخصصی و کارآمد تبدیل کنید که مستقیماً روی سخت‌افزار کاربر بدون وابستگی به اتصال اینترنت یا APIهای خارجی اجرا می‌شوند. آنچه یاد خواهید گرفت: گذار استراتژیک به Edge AI: های معماری میان Cloud و Edge را درک کنید. ما دقیقاً بررسی می‌کنیم چه زمانی باید پردازش را به دستگاه منتقل کرد تا مشکلات تأخیر، حریم خصوصی داده و هزینه‌های تکرارشونده cloud برطرف شوند. مرور عمیق Small Language Models (SLMs): یک تحلیل فنی از چشم‌انداز SLMها (Phi ،Gemma ،Llama، Mistral) و این‌که چرا معماری آن‌ها را برای گوشی‌های هوشمند، تبلت‌ها و سیستم‌های IoT تعبیه‌شده مناسب می‌کند. تکنیک‌های بهینه‌سازی (روش اجرا): سازوکارهای اصلی Parameter-Efficient Fine-Tuning (PEFT) را بررسی می‌کنیم. شما درک خواهید کرد که LoRA و QLoRA چگونه برای سازگار کردن مدل‌ها با GPUهای مصرفی عمل می‌کنند، و Quantization (INT4/INT8) چگونه اندازه مدل را بدون نابود کردن عملکرد کاهش می‌دهد. Pipeline استقرار: نگاهی گام‌به‌گام به چرخه عمر یک مدل محلی؛ از آماده‌سازی dataset و انتخاب hyperparameterها تا تبدیل به فرمت‌های مناسب edge (مانند GGUF یا ONNX). سناریوهای تولید در دنیای واقعی: ما مطالعات موردی ملموس، از جمله طبقه‌بندی اسناد سازمانی و دستیارهای پشتیبانی آفلاین را بررسی می‌کنیم تا عملکرد این سیستم‌ها را از نظر مصرف حافظه، عمر باتری و سرعت inference ارزیابی کنیم. این دوره برای چه کسانی مناسب است؟ دانشجویان دانشگاه، فارغ‌التحصیلان bootcamp و توسعه‌دهندگان junior که از قبل Python پایه را می‌دانند و می‌خواهند بدون نیاز به آموزش مدل‌های عظیم از صفر، مسیری عملی برای ورود به AI کاربردی داشته باشند. بنیان‌گذاران غیر فنی، سازندگان استارتاپ و حرفه‌ای‌های آشنا با فناوری که هر روز کدنویسی نمی‌کنند اما می‌خواهند درک روشن و استراتژیکی از این داشته باشند که مدل‌های کوچک fine-tune شده چگونه می‌توانند به‌صورت خصوصی روی دستگاه‌های کاربر اجرا شوند. مهندسان نرم‌افزار، مهندسان ML و دانشمندان داده که می‌خواهند مدل‌های زبانی کوچک را مستقیماً روی دستگاه‌ها fine-tune و استقرار دهند، به‌جای این‌که فقط به APIهای ابری تکیه کنند. توسعه‌دهندگان backend، موبایل و embedded که علاقه‌مندند قابلیت‌های AI روی دستگاه را به اپلیکیشن‌های اجراشونده روی گوشی‌ها، تبلت‌ها یا سخت‌افزار edge اضافه کنند (طبقه‌بندی، دستیارها، اتوماسیون). لیدهای فنی، معماران، مدیران محصول و مدیران نوآوری که باید trade-offهای میان AI ابری و AI روی دستگاه را از نظر هزینه، تأخیر و حریم خصوصی ارزیابی کنند. فعالان AI/ML که به کار با مدل‌های بزرگ ابری (مثلاً از طریق APIها) عادت دارند و اکنون می‌خواهند LoRA، QLoRA ،quantization و استقرار edge را یاد بگیرند تا مهارت‌های خود را به‌روز کنند.