دوره جامع مهندسی داده

در این بخش به ذکر اصلی‌ترین مفاهیم موجود در دنیای مهندسی داده می‌پردازیم. نکات مطرح شده در این بخش از کتاب مطرح و پرآوازه‌ی «Fundamentals of Data Engineering» اخذ خواهد شد.

تعداد جلسات: 1 جلسه

🛑 هر جلسه بین 60 الی 90 دقیقه می‌باشد که ممکن است در قالب یک الی چند ویدیو منتشر گردد.

در این بخش، به نصب WSL در ویندوز پرداخته و سپس اصلی‌ترین دستورات این سیستم عامل را در دنیای مهندسی داده بررسی خواهیم نمود. اگر کامپیوتر شما MacOS است نیازی به این کار نخواهید داشت. 

تعداد جلسات: 1 جلسه

امروزه تمامی مجموعه‌ها در حوزه‌ی تکنولوژی در صورتی که بخواهند یک کار تیمی در حوزه‌ی نرم‌افزار و یا دیتا انجام بدهند، قطعن یک سیستم مدیریت ورژن کد را برای خود انتخاب نموده و طبق آن پیش خواهند رفت. در این کورس آموزشی ما شما را با گیت و گیت‌هاب که جزو بهترین سیستم‌های کنترل ورژن کدها می‌باشد آشنا خواهیم نمود. مفاهیم ابتدایی را بطور کامل مطرح می‌کنیم و به انجام کار عملی در این حوزه خواهیم پرداخت تا شما بطور کامل و دقیق با روند آشنا بشوید.

تعداد جلسات: 1 جلسه 

در حال حاضر، بهترین زبان برنامه‌نویسی در دنیای دیتا، پایتون می‌باشد. بنابراین در این کورس تا حد ممکن به بیان مهم‌ترین نکات کار با این زبان برنامه‌نویسی خواهیم پرداخت. همچنین توجه بفرمائید که اگر بخواهید (که قطعن قصد شما همین است) مهندسی داده را بصورت حرفه‌ای دنبال کنید و با ابزارهایی مثل کافکا و اسپارک کار نمائید، طبیعتن به جاوا و قدرت فوق‌العاده‌ی عملکردی آن نیاز پیدا خواهید نمود. پس شما را با جاوا و مهم‌ترین نکات کار با آن نیز آشنا خواهیم نمود.

تعداد جلسات: 1 جلسه

آشنایی با پایگاه‌های داده، جزو مهم‌ترین دانسته‌های یک مهندس داده قلمداد می‌گردد. در سال‌های اخیر پوستگرس بعنوان یکی از پیشرفته‌ترین دیتابیس‌ها در دنیای متن‌باز، جایگاه ویژه‌ای را بین صاحبان کسب‌وکارها یافته است. از این روی، آشنایی و کار بصورت حرفه‌ای با این پایگاه داده از اهمیت بسیار زیادی برای مهندسین داده برخوردار می‌باشد. در این کورس، با ابزارهای گرافیکی و خط‌فرمان این پایگاه داده آشنا شده و در این محیط اقدام به آموزش زبان SQL خواهیم نمود. همچنین، برای کامل‌ نمودن معلومات شرکت‌کنندگان، دوره‌ آموزشی «دیتابیس و سی‌کو‌ال برای علم داده» نیز بصورت رایگان در اختیار شما قرار خواهد گرفت. 

تعداد جلسات: 2 جلسه

در این‌روزها که حرف از معماری میکروسرویس همه‌جا هست و فراگیر شده، غیرممکن است که بدون داکر بتوانیم کاری از پیش ببریم. پس با داکر بعنوان یکی از ابزارهای اساسی در دنیای مهندسی داده کار خواهیم نمود.

تعداد جلسات: 2 جلسه

در دنیای مهندسی داده ETL یکی از کارهای روزمره و اساسی هر مهندس داده است. آپاچی ایرفلو که یکی از اساسی‌ترین ابزارهای مدیریت جریان داده است، به این افراد کمک می‌کند که دیتاپایپ‌لاین‌های مجموعه را براحتی رصد کرده و مدیریت نمایند. از این طریق، بسادگی می‌توانیم نقاطی که دارای مشکل و خطا هستند را ببینیم و در اولین فرصت ممکن به رفع مشکلات بپردازیم. 

تعداد جلسات: 4 جلسه

سال‌ها بود که سیستم‌های یکپارچه از پایگاه‌های داده بعنوان محلی برای تجمیع داده‌ها و ارسال به مصرف‌کنندگان دیتا استفاده می‌کردند. اما معماری میکروسرویس این را برنمی‌تابد. در این معماری باید تولیدکنندگان و مصرف‌کنندگان داده تا حد ممکن از یکدیگر مجزا شوند. اینجا بود که آپاچی کافکا بعنوان یک مکان خاص برای دریافت و ارسال داده‌ها وارد کار شد. آپاچی کافکا در حال حاضر یکی از مهم‌ترین ابزارهای ممکن در دنیای پردازش داده‌های استریم و در لحظه است. میزان تاخیر ارسال داده‌ها در این سیستم در پایین‌ترین حد ممکن قرار دارد. از این رو، آپاچی کافکا توسط 80 درصد شرکت‌های مختلف در حوزه‌ی تکنولوژی دنیا بکار گرفته خواهد شد.

در این دوره، با دو زبان پایتون و جاوا به آموزش این ابزار اساسی خواهیم پرداخت. تمرکز خود را روی Stream API خواهیم گذاشت تا بصورت کاملن حرفه‌ای این غولِ دنیای پردازش استریم را یاد بگیریم. 

تعداد جلسات: 8 جلسه

زمانی هدوپ حرف اول و آخر دنیای پردازش داده‌ها را می‌زد. مهندسین در این حوزه بالاترین دستمزد ممکن را داشتند. تا اینکه آپاچی اسپارک متولد شد و با سرعت وحشتناک خود و اینکه یک سیستم پردازش داده‌ی توزیع‌شده بود، همگان را شگفت‌زده کرد. در این کورس، سعی خواهیم نمود که علاوه بر کافکا، اسپارک را نیز در حد بسیار حرفه‌ای بشما آموزش دهیم. مشابه با کافکا، در این حوزه نیز با دو زبان پایتون و جاوا با هسته‌ی اسپارک ارتباط برقرار خواهیم نمود. با اسپارک تقریبن هر کاری که یک مهندس داده نیاز به آن دارد را می‌توانیم انجام دهیم. از کوئری‌نویسی‌ها در زبان SQL گرفته تا انجام و پیاده‌سازی الگوریتم‌های یادگیری ماشین. 

تعداد جلسات: 7 جلسه

در این قسمت با مفاهیم کلیدی کلاد کامپیوتینگ یا همان محاسبات ابری و سرویس‌های مختلف در پنل ابری ابرآروان آشنا خواهیم شد. تلاش خواعیم نمود که بخش زیادی از تسک‌هتی دوره را روی این سرویس دهنده‌ی خدمات ابری پیاده‌سازی نمائیم تا شما بصورت عملی با محیط پروداکشن یا تولید بطور کامل آشنا شوید.

تعداد جلسات: 2 جلسه

گیت‌هاب اکشنز یک ویژگی CI/CD (ادغام مداوم/انتشار مداوم) است که توسط گیت‌هاب ارائه می‌شود و به توسعه‌دهندگان امکان می‌دهد که جریان‌های کاری یا پایپ‌لاین‌های خود را به طور خودکار در مخزن‌های گیت‌هاب تنظیم کنند. این کار با استفاده از فایل‌های YAML برای تعریف جریان‌های کاری که می‌توانند با رخدادهای مختلفی مانند ارسال کد (code pushes)، درخواست‌های کشش (Pull request) یا مشکلات (issues) فعال شوند، انجام می‌شود. در حال حاضر در اکثر کمپانی‌های مطرح دنیا، اکثر توسعه‌دهندگان و مهندسان داده از این عملیات‌ها برای محیط پروداکشن مجموعه استفاده می‌نمایند.

تعداد جلسات: 2 جلسه

یکی از ضعف‌های آپاچی اسپارک این است که سیستمی برای مدیریت کلاستر و نودها ندارد. در دنیای مهندسی داده به کمک کوبرنتیز که یک ابزار فوق‌العاده قدرتمند است، سعی خواهیم نمود که یک یک کلاستر اسپارک را پیاده‌سازی کرده و مدیریت آنرا به کوبرنتیز بسپاریم. کوبرنتیز، در ابتدا توسط گوگل توسعه داده شد. اما مدتی بعد تبدیل گردید به یک پروژه‌ی متن‌باز. در حال حاضر این ابزار تبدیل شده است به حالت پیش‌فرض در دنیای مدیریت کانتینرها. 

در این کورس ابتدا مقدمات و مفاهیم اساسی این ابزار را خواهیم آموخت. سپس، به انجام کارهای عملی ممکن که یک مهندس داده به آن معلومات و دانسته‌ها نیاز دارد، می‌پردازیم. 

تعداد جلسات: 4 جلسه

در این بخش به پیاده‌سازی یک سیستم کشف تقلب برای یک مجموعه با تعدادی دفتر و دو دیتابیس خواهیم پرداخت. از ابزارهای زیر جهت پیاده‌سازی این پروژه استفاده خواهیم نمود:

1- آپاچی کافکا

2- آپاچی اسپارک

3- پوستگرس

4- مای اس‌کیوال

5- گرافانا

6- ردیس

7- ابرآروان برای پیاده‌سازی نهایی پروژه

تعداد جلسات: 3 جلسه