دوره جامع ام ال آپس

در این قسمت از دوره، سعی می‌کنیم که در کوتاه‌ترین مدت ممکن به ذکر مفاهیم بنیادی از دنیای یادگیری ماشین بپردازیم. البته تلاش خواهیم نمود که تا حد ممکن از ذکر مفاهیم تئوری پرهیز نموده و بیشتر روی انجام کارها بصورت عملی متمرکز شویم.

در این بخش به ذکر اصلی‌ترین مفاهیم موجود در دنیای مهندسی داده می‌پردازیم. نکات مطرح شده در این بخش از کتاب مطرح و پرآوازه‌ی «Fundamentals of Data Engineering» اخذ خواهد شد.

در حال حاضر، بهترین زبان برنامه‌نویسی در دنیای دیتا، پایتون می‌باشد. بنابراین در این کورس تا حد ممکن به بیان مهم‌ترین نکات کار با این زبان برنامه‌نویسی خواهیم پرداخت. 

در این بخش، به نصب WSL در ویندوز پرداخته و سپس اصلی‌ترین دستورات این سیستم عامل را در دنیای مهندسی داده بررسی خواهیم نمود. اگر کامپیوتر شما MacOS است نیازی به این کار نخواهید داشت.

برای اینکه مدل یادگیری ماشین خود را از محیط تست و توسعه به محیط پروداکشن منتقل کنیم، نیاز داریم که ابتدا مدل یادگیری ماشینی که توسعه داده‌ایم را پکیج نموده و آنرا با تمام وابستگی‌های خود به سرورها منتقل نمائیم. در این بخش سعی می‌نمائیم که با انجام یک کار عملی، کل این فرایند را بشما نشان دهیم.

ام‌ال فلو (MLflow) یک پلتفرم متن‌باز برای مدیریت چرخه‌ی عمر (lifecycle) مدل‌های یادگیری ماشین است. این پلت‌فرم شامل چهار مؤلفه‌ی اصلی است:

1. ردیابی مدل‌ها: امکان ردیابی و مستندسازی آزمایشات و نتایج مدل‌ها را فراهم می‌کند.
2. مدیریت مدل: امکان ذخیره، بارگذاری و به اشتراک‌گذاری مدل‌ها را فراهم می‌آورد.
3. اجرای مدل: امکان اجرای مدل‌ها در محیط‌های مختلف را می‌دهد.
4. مدیریت پروژه: به کاربران اجازه می‌دهد پروژه‌های یادگیری ماشین را سازماندهی کنند.

با استفاده از MLflow، تیم‌ها می‌توانند همکاری بهتری داشته باشند و روند توسعه مدل‌ها را بهینه کنند. در این کورس با این ابزار قدرتمند در دنیای ام‌ال‌آپس آشنا شده و اقدام به انجام کار عملی با آن می‌نمائیم. 

FastAPI و Streamlit دو فریم‌ورک مختلف در زبان برنامه‌نویسی پایتون هستند که هر کدام برای اهداف خاص خود طراحی شده‌اند. اما یک مقایسه‌ی بسیار کلی به این دو بشرح ذیل است:

– FastAPI: بیشتر برای ساخت API و سرورهای وب استفاده می‌شود.
– Streamlit: برای ایجاد اپلیکیشن‌های تحلیلی و نمایشی از داده‌ها طراحی شده است.

در این کورس به کمک این دو فریم‌ورک محبوب، اقدام به ساخت اپلیکیشن‌های یادگیری ماشین می‌نمائیم. 

امروزه تمامی مجموعه‌ها در حوزه‌ی تکنولوژی در صورتی که بخواهند یک کار تیمی در حوزه‌ی نرم‌افزار و یا دیتا انجام بدهند، قطعن یک سیستم مدیریت ورژن کد را برای خود انتخاب نموده و طبق آن پیش خواهند رفت. در این کورس آموزشی ما شما را با گیت و گیت‌هاب که جزو بهترین سیستم‌های کنترل ورژن کدها می‌باشد آشنا خواهیم نمود. مفاهیم ابتدایی را بطور کامل مطرح می‌کنیم و به انجام کار عملی در این حوزه خواهیم پرداخت تا شما بطور کامل و دقیق با روند آشنا بشوید.

گیت‌هاب اکشنز یک ویژگی CI/CD (ادغام مداوم/انتشار مداوم) است که توسط گیت‌هاب ارائه می‌شود و به توسعه‌دهندگان امکان می‌دهد که جریان‌های کاری یا پایپ‌لاین‌های خود را به طور خودکار در مخزن‌های گیت‌هاب تنظیم کنند. این کار با استفاده از فایل‌های YAML برای تعریف جریان‌های کاری که می‌توانند با رخدادهای مختلفی مانند ارسال کد (code pushes)، درخواست‌های کشش (Pull request) یا مشکلات (issues) فعال شوند، انجام می‌شود. در حال حاضر در اکثر کمپانی‌های مطرح دنیا، اکثر توسعه‌دهندگان و مهندسان داده از این عملیات‌ها برای محیط پروداکشن مجموعه استفاده می‌نمایند.

تعداد جلسات: 2 جلسه

گیت‌هاب اکشنز یک ویژگی CI/CD (ادغام مداوم/انتشار مداوم) است که توسط گیت‌هاب ارائه می‌شود و به توسعه‌دهندگان امکان می‌دهد که جریان‌های کاری یا پایپ‌لاین‌های خود را به طور خودکار در مخزن‌های گیت‌هاب تنظیم کنند. این کار با استفاده از فایل‌های YAML برای تعریف جریان‌های کاری که می‌توانند با رخدادهای مختلفی مانند ارسال کد (code pushes)، درخواست‌های کشش (Pull request) یا مشکلات (issues) فعال شوند، انجام می‌شود. در حال حاضر در اکثر کمپانی‌های مطرح دنیا، اکثر توسعه‌دهندگان و مهندسان داده از این عملیات‌ها برای محیط پروداکشن مجموعه استفاده می‌نمایند.

تعداد جلسات: 2 جلسه

بعد از استقرار مدل‌های یادگیری ماشین، مانیتور کردن رفتار مدل یک امر حیاتی و اساسی می‌باشد که اگر صورت نگیرد، مدل ما بسرعت کیفیت کار خود را از دست خواهد داد. به همین منظور باید بطور مداوم رفتار آنرا بررسی کرده و اگر در نقطه‌ای از کار، مشکلی وجود دارد آنرا به اصطلاح دیباگ یا رفع نمائیم و یا اینکه مدل خود را مجدد آموزش دهیم. در این کورس با این دو مفهوم آشنا شده و با ابزارهای اساسی در این حوزه اقدام به کار عملی خواهیم نمود. 

همانگونه که در بخش مانیتوریگ شرح داده شد، بعد از دیپلوی نمودن مدل یادگیری ماشین ما ملزم به انجام یکسری اقدامات و امورات هستیم که تا حد ممکن، کیفیت پیش‌بینی (یا هر آنچه مدل ما قصد آنرا دارد) بالا و در حد مطلوبی نگهداریم. در این کورس اقدامایت از جمله امنیت، محرمانگی دیتا بعد از استقرار، و مواردی اینچنینی را بحث و بررسی می‌نمائیم و با ابزارهای مطرح در این راستا کار عملی خواهیم نمود.

آشنایی با پایگاه‌های داده، جزو مهم‌ترین دانسته‌های یک مهندس داده قلمداد می‌گردد. در سال‌های اخیر پوستگرس بعنوان یکی از پیشرفته‌ترین دیتابیس‌ها در دنیای متن‌باز، جایگاه ویژه‌ای را بین صاحبان کسب‌وکارها یافته است. از این روی، آشنایی و کار بصورت حرفه‌ای با این پایگاه داده از اهمیت بسیار زیادی برای مهندسین داده برخوردار می‌باشد. در این کورس، با ابزارهای گرافیکی و خط‌فرمان این پایگاه داده آشنا شده و در این محیط اقدام به آموزش زبان SQL خواهیم نمود. همچنین، برای کامل‌ نمودن معلومات شرکت‌کنندگان، دوره‌ آموزشی «دیتابیس و سی‌کو‌ال برای علم داده» نیز بصورت رایگان در اختیار شما قرار خواهد گرفت.

در این‌روزها که حرف از معماری میکروسرویس همه‌جا هست و فراگیر شده، غیرممکن است که بدون داکر بتوانیم کاری از پیش ببریم. پس با داکر بعنوان یکی از ابزارهای اساسی در دنیای مهندسی داده کار خواهیم نمود.

در دنیای مهندسی داده ETL یکی از کارهای روزمره و اساسی هر مهندس داده است. آپاچی ایرفلو که یکی از اساسی‌ترین ابزارهای مدیریت جریان داده است، به این افراد کمک می‌کند که دیتاپایپ‌لاین‌های مجموعه را براحتی رصد کرده و مدیریت نمایند. از این طریق، بسادگی می‌توانیم نقاطی که دارای مشکل و خطا هستند را ببینیم و در اولین فرصت ممکن به رفع مشکلات بپردازیم.

سال‌ها بود که سیستم‌های یکپارچه از پایگاه‌های داده بعنوان محلی برای تجمیع داده‌ها و ارسال به مصرف‌کنندگان دیتا استفاده می‌کردند. اما معماری میکروسرویس این را برنمی‌تابد. در این معماری باید تولیدکنندگان و مصرف‌کنندگان داده تا حد ممکن از یکدیگر مجزا شوند. اینجا بود که آپاچی کافکا بعنوان یک مکان خاص برای دریافت و ارسال داده‌ها وارد کار شد. آپاچی کافکا در حال حاضر یکی از مهم‌ترین ابزارهای ممکن در دنیای پردازش داده‌های استریم و در لحظه است. میزان تاخیر ارسال داده‌ها در این سیستم در پایین‌ترین حد ممکن قرار دارد. از این رو، آپاچی کافکا توسط 80 درصد شرکت‌های مختلف در حوزه‌ی تکنولوژی دنیا بکار گرفته خواهد شد. در این دوره یکی از مباحث اصلی کار، کافکا می‌باشد که تا حد بسیار عمیقی با آن آشنا خواهیم شد و کارهای عملی عمیقی در آن انجام می‌دهیم.

زمانی هدوپ حرف اول و آخر دنیای پردازش داده‌ها را می‌زد. مهندسین در این حوزه بالاترین دستمزد ممکن را داشتند. تا اینکه آپاچی اسپارک متولد شد و با سرعت وحشتناک خود و اینکه یک سیستم پردازش داده‌ی توزیع‌شده بود، همگان را شگفت‌زده کرد. در این کورس، سعی خواهیم نمود که علاوه بر کافکا، اسپارک را نیز در حد بسیار حرفه‌ای بشما آموزش دهیم. مشابه با کافکا، در این حوزه نیز با دو زبان پایتون و جاوا با هسته‌ی اسپارک ارتباط برقرار خواهیم نمود. با اسپارک تقریبن هر کاری که یک مهندس داده و یک متخصص ام‌ال‌آپس نیاز به آن دارد را می‌توانیم انجام دهیم. از کوئری‌نویسی‌ها در زبان SQL گرفته تا انجام و پیاده‌سازی الگوریتم‌های یادگیری ماشین.

بعد از ظهور دیتابیس‌های رابطه‌ای و عملکرد فوق‌العاده‌ی آنها بتدریج وارد عصری شدیم که دیگر این نوع از دیتابیس‌ها پاسخگوی نیازهای سازمان‌ها نبودند. در این زمان بود که دیتاورهوزها پا به عرضه‌ی وجود گذاشتند. ام بعد از مدت کوتاهی بخاطر حجم بالای داده، این ساختار نیز با مشکلاتی مواجه شد. عصر هوش مصنوعی مفهوم و ساختاری با عنوان دیتالیک را برای ما به ارمغان آورد. اما باز هم گذشت زمان بما ثابت کرد که باز هم زیرساخت‌هایی دیتایی مجموعه خالی از نقص نیست. تا اینکه رسیدیم به ساختار Data Lake House که به کمک ابزارهایی همانند Delta Lake که توسط تیم اسپارک توسعه داده شده بود، اجرا می‌گردید. 
در این دوره یک جلسه را به طراحی و ساخت یک دیتالیک‌هوز با کمک دلتالیک اختصاص داده‌ایم. 

در این قسمت با مفاهیم کلیدی کلاد کامپیوتینگ یا همان محاسبات ابری و سرویس‌های مختلف در پنل ابری ابرآروان آشنا خواهیم شد. تلاش خواهیم نمود که بخش زیادی از تسک‌های دوره را روی این سرویس دهنده‌ی خدمات ابری پیاده‌سازی نمائیم تا شما بصورت عملی با محیط پروداکشن یا تولید بطور کامل آشنا شوید.

یکی از ضعف‌های آپاچی اسپارک این است که سیستمی برای مدیریت کلاستر و نودها ندارد. در دنیای ام‌ال‌آپس به کمک کوبرنتیز که یک ابزار فوق‌العاده قدرتمند است، سعی خواهیم نمود که یک یک کلاستر اسپارک را پیاده‌سازی کرده و مدیریت آنرا به کوبرنتیز بسپاریم. کوبرنتیز، در ابتدا توسط گوگل توسعه داده شد. اما مدتی بعد تبدیل گردید به یک پروژه‌ی متن‌باز. در حال حاضر این ابزار تبدیل شده است به حالت پیش‌فرض در دنیای مدیریت کانتینرها. 

در این کورس ابتدا مقدمات و مفاهیم اساسی این ابزار را خواهیم آموخت. سپس، به انجام کارهای عملی ممکن که یک مهندس داده به آن معلومات و دانسته‌ها نیاز دارد، می‌پردازیم.

در آخرین بخش از این دوره، با تمامی ابزارهایی که کار عملی کردیم، اقدام به ساخت یک مدل یادگیری ماشین نموده و آنرا در سرورهای ابری دیپلوی می‌نمائیم. سپس عملیات پایانی یعنی مانیتورینگ و امورات امنیتی برای محافظت از مدل خود را انجام خواهیم داد. این پروژه تا حد بسیار زیادی بما کمک خواهد نمود که بتوانیم مفاهیم تئوری ذهنی خود را بصورت عملیاتی در آورده و آنها را بسازیم.