انجمن علمی مهندسی برق ​با همکاری شاخه دانشجویی IEEE دانشگاه علم و صنعت ایران برگزار می‌کند:

دوره‌ی آنلاین «مدل های زبانی بزرگ (LLM) پیشرفته و کاربرد ها»

​
​👤 مدرس: امیرحسین غلامی

• دانشجوی کارشناسی ارشد مهندسی برق مخابرات سیستم دانشگاه امیرکبیر

• فارغ التحصیل کارشناسی مهندسی برق از دانشگاه علم و صنعت

• کمک تدریس دروس سیگنال و سیستم ، جبر خطی و یادگیری تقویتی

• مهندس شبکه RAN در ایرانسل لبز

• مهندس دواپس و شبکه در همراه اول


🗓 زمان: روزهای پنجشنبه، ساعت 10 تا 12 و 14 تا 16

📅 تاریخ شروع: 15 مرداد 1405

⏳ مدت کل دوره: 18 ساعت

🎓 خدمات: مدرک رسمی دو‌زبانه، پروژه های عملی و کاربردی

💰 هزینه ثبت‌نام:

• تک نفره : ۱،۱۰۰،۰۰۰ تومان
• ۳ نفره (نفری) : ۹۰۰،۰۰۰ تومان

🎁 20٪ تخفیف ویژه دانشجویان علم و صنعت


📩برای ثبت‌نام و ارتباط با ما، پیام دهید:
@EEIUST_Admin

⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️
🆔 TelegramEESSA
🆔InstagramEESSA
🆔LinkedInEESSA

انجمن علمی مهندسی برق و شاخه دانشجویی IEEE دانشگاه علم و صنعت ایران برگزار می‌کند:

​دوره مقدماتی PLC


​👤 مدرس دوره: مهندس حسین محمودی فیل‌آبادی
• متخصص اتوماسیون صنعتی
• فعال حوزه نفت و گاز

​📚 سرفصل‌های دوره:
• آشنایی پایه با PLC
• بررسی سخت‌افزار
• شروع برنامه نویسی PLC
• معرفی حافظه‌ها و دستورات پایه
• طراحی پروژه‌های کاربردی بررسی نمونه واقعی از توربوکمپرسورهای گازی

🗓️ پنجم تا دهم مردادماه — شش جلسه دو ساعته (ساعت ۱۸ الی ۲۰)

🎓 مدرک اتمام دوره دو زبانه

​💰 هزینه ثبت‌نام:
• دانشجویان علم و صنعت: ۸۰۰,۰۰۰ تومان
• دانشجویان سایر دانشگاه‌ها: ۹۹۰,۰۰۰ تومان


📩برای ثبت‌نام و ارتباط با ما، پیام دهید:
@EEIUST_Admin

⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️
🆔 TelegramEESSA
🆔InstagramEESSA
🆔LinkedInEESSA

📢 مهلت ثبت نام در دوره‌ی VHDL تا دوشنبه، ۵ مرداد تمدید شد✅

⬅️ در نتیجه شروع دوره ۵ مرداد خواهد بود.

📢 مهلت ثبت نام در دوره‌ی stm32 تا شنبه، ۱۰ مرداد تمدید شد✅

⬅️ در نتیجه شروع دوره ۱۰ مرداد خواهد بود.

برای ثبت نام با ما در ارتباط باشید...

📢 فرصت آخر ثبت‌نام دوره مقدماتی میکروکنترلر STM32

با توجه به درخواست‌های متعدد و برای اینکه علاقه‌مندان بیشتری فرصت حضور در این دوره را داشته باشند، مهلت ثبت‌نام تنها برای یک هفته تمدید شد.

🎁 همچنین، به مناسبت این فرصت ویژه، ۱۵٪ تخفیف برای تمامی ثبت‌نام‌ها در نظر گرفته شده است.

⚠️ ظرفیت دوره محدود است و ثبت‌نام بر اساس تکمیل ظرفیت انجام می‌شود.

📩برای ثبت‌نام و ارتباط با ما، پیام دهید:
@EEIUST_Admin

⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️
🆔 TelegramEESSA
🆔 InstagramEESSA
🆔 LinkedInEESSA

🧑🏻‍🎓کانال دانشجویی علموص👩🏻‍🎓

📍آخرین اخبار و اطلاعیه‌های رسمی 📢
📍کتاب‌ها و جزوات اساتید علم و صنعت 📘
📍تمام سوالات امتحانی 📄
📍پیگیری و حل مشکلات دانشجویان 🕵🏻‍♂

❗️و هر چیزی که یه علموصی لازمه بدونه❗️
👈🏻 در کانال دانشجویی علموص 👉🏻

به دوستان خود معرفی کنید

انجمن علمی مهندسی برق دانشگاه علم و صنعت با همکاری انجمن‌های علمی سراسر کشور برگزار می‌کند:


💻 کارگاه آنلاین «رزومه‌نویسی حرفه‌ای در عصر هوش مصنوعی»

👤 مدرس دوره: دکتر احسان ناظم‌الرعایا
• دکترای مهندسی برق | مدرس دانشگاه
• +۱۰۰۰ ساعت تدریس دانشگاهی و تخصصی
• +۱۰ دوره و کارگاه تخصصی
• +۵ سال تجربه آموزشی

🌐 نحوه برگزاری: به‌صورت آنلاین

🗓️ زمان: ۱۱، ۱۲ و ۱۴ مرداد (ساعت ۱۷ تا ۱۹)

⏳ مدت: ۶ ساعت | همراه با مدرک رسمی دو‌زبانه

📜 همراه با ارائه مدرک رسمی دو‌زبانه

💰 هزینه: ۲۵۰ هزار تومان (دانشجویان علم و صنعت) | ۳۵۰ هزار تومان (آزاد)

📲 اطلاعات بیشتر و ثبت‌نام:
@EEIUST_Admin

⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️
🆔 TelegramEESSA
🆔InstagramEESSA
🆔LinkedInEESSA

⚡ ️سلام دوستان، من چیپسترم!
و این هفته قراره به NLP از دید DSP نگاه کنیم👀

👾 #چیپستر_میگه:

- فرض کنید جمله‌ی زیر وارد یک مدل زبانی می‌شود:

The trophy doesn’t fit into the brown suitcase because it is too small.

وقتی ما این جمله را می‌خوانیم، تقریباً بدون فکر متوجه می‌شویم که it به suitcase اشاره می‌کند، نه trophy.

اما برای یک کامپیوتر، نه «جام» وجود دارد، نه «چمدان»، نه حتی مفهوم «کوچک بودن».

پس مدل این موضوع را از کجا می‌فهمد؟

بیایید مسیر پردازش این جمله را از دید ریاضی دنبال کنیم.

━━━━━━━━━━━━━━

1) متن، یک سیگنال گسسته است‌.

اولین کاری که مدل انجام می‌دهد، این نیست که معنی جمله را بفهمد.

اصلاً هنوز چیزی به اسم «معنی» وجود ندارد.

مدل فقط یک دنباله دریافت می‌کند.

در درس سیگنال و سیستم معمولاً سیگنال را به صورت:

x[n]

نمایش می‌دهیم؛

دنباله‌ای از نمونه‌ها که با اندیس n مشخص می‌شوند.

در پردازش زبان نیز تقریباً همین اتفاق رخ می‌دهد.

جمله به دنباله‌ای از توکن‌ها تبدیل می‌شود:

x[0], x[1], x[2], … , x[N]

تنها تفاوت این است که این بار محور مستقل، زمان نیست؛ بلکه موقعیت کلمات در جمله است.

از دید ریاضی، متن نیز یک سیگنال گسسته است.

━━━━━━━━━━━━━━

2) نمونه‌ها باید قابل پردازش شوند.

در DSP هر نمونه ممکن است فقط یک مقدار ولتاژ باشد.

اما یک کلمه را نمی‌توان با یک عدد نمایش داد.

به همین دلیل هر توکن به یک بردار با صدها یا هزاران مؤلفه تبدیل می‌شود؛ چیزی که آن را Embedding می‌نامیم.

در واقع سیگنال اسکالر ما به یک سیگنال برداری تبدیل شده است.

هر کلمه اکنون نقطه‌ای در یک فضای بسیار بزرگ است؛ فضایی که در آن، کلمات با رفتار مشابه معمولاً به یکدیگر نزدیک‌تر هستند.

━━━━━━━━━━━━━━

3) آیا هر نمونه را می‌توان مستقل تحلیل کرد؟

در سیگنال و سیستم معمولاً برای تحلیل یک نقطه از سیگنال، به همسایه‌های آن نیز نگاه می‌کنیم.

یک پالس، یک لبه یا حتی یک فرکانس، از مشاهده‌ی تنها یک نمونه قابل تشخیص نیست.

ساختار سیگنال در ارتباط بین نمونه‌ها نهفته است.

در زبان نیز همین اتفاق رخ می‌دهد.

اگر فقط کلمه‌ی:

it

را ببینیم، هیچ اطلاعاتی درباره‌ی مرجع آن نداریم.

مدل باید کل جمله را بررسی کند تا تشخیص دهد این ضمیر به کدام اسم اشاره می‌کند.

یعنی اطلاعات موردنیاز، نه در یک نمونه، بلکه در رابطه‌ی بین نمونه‌ها قرار دارد.

━━━━━━━━━━━━━━

4) حالا سیستم باید اطلاعات مفید را استخراج کند.

در DSP این کار را معمولاً با فیلترها انجام می‌دهیم.

یک فیلتر، برخی مؤلفه‌ها را تقویت می‌کند و برخی دیگر را تضعیف؛ تا ویژگی موردنظر بهتر دیده شود.

اما زبان یک تفاوت اساسی با بسیاری از سیستم‌های کلاسیک دارد.

اگر جمله را کمی تغییر دهیم:

The trophy doesn’t fit into the brown suitcase because it is too big.

اکنون همان ضمیر it دیگر به trophy اشاره می‌کند، نه suitcase.

در نتیجه، سیستمی که همیشه یک فیلتر ثابت داشته باشد، نمی‌تواند این دو جمله را درست تحلیل کند.

مدل باید بتواند متناسب با هر ورودی، تصمیم بگیرد کدام کلمات مهم‌تر هستند و ارتباط میان آن‌ها چقدر اهمیت دارد.

از این منظر، می‌توان Self-Attention را شبیه یک فیلتر تطبیقی دانست؛ فیلتری که ضرایب آن، از خود سیگنال ورودی استخراج می‌شوند، نه اینکه از قبل ثابت باشند.

━━━━━━━━━━━━━━

5) اگر داده تغییر نکند، چرا لایه‌های زیادی وجود دارد؟

یکی از مهم‌ترین ایده‌های سیگنال و سیستم این است که گاهی بهترین راه تحلیل یک سیگنال، تغییر دادن نمایش آن است.

برای مثال، تبدیل فوریه اطلاعات جدیدی تولید نمی‌کند.

سیگنال همان سیگنال است.

تنها از نمایش زمانی به نمایش فرکانسی می‌رویم؛ جایی که تحلیل بسیاری از پدیده‌ها ساده‌تر می‌شود.

در مدل‌های زبانی نیز اتفاق مشابهی رخ می‌دهد.

هر لایه، همان اطلاعات را در فضای جدیدی بازنمایی می‌کند.

نه چیزی به جمله اضافه می‌شود و نه چیزی از آن حذف.

تنها شیوه‌ی نمایش اطلاعات تغییر می‌کند تا روابط پنهانی که در نمایش اولیه آشکار نبودند، کم‌کم قابل مشاهده شوند.

البته یک تفاوت مهم وجود دارد.

در تبدیل فوریه، پایه‌های ریاضی از قبل مشخص‌اند؛ همان توابع سینوسی و کسینوسی.

اما در شبکه‌های عصبی، این پایه‌ها ثابت نیستند.

مدل در طول فرایند آموزش، خودش یاد می‌گیرد که چه نمایش‌هایی برای حل مسئله مناسب‌تر هستند.

━━━━━━━━━━━━━━

6) از داده‌ی خام تا معنا

در ابتدای مسیر، مدل فقط دنباله‌ای از بردارها در اختیار داشت.

در ادامه، بارها روابط میان آن‌ها را بررسی کرد، بخش‌های مهم را برجسته‌تر کرد و نمایش داده را تغییر داد.

در نهایت، وقتی دوباره به ضمیر it رسید، دیگر آن را به‌عنوان یک کلمه‌ی جداگانه نمی‌دید؛ بلکه آن را در زمینه‌ی تمام جمله تفسیر می‌کرد.

به همین دلیل می‌توانست مرجع درست آن را تشخیص دهد.
در واقع، آنچه در ابتدا تنها یک دنباله از نمونه‌ها بود، پس از چندین مرحله پردازش، به بازنمایی‌ای تبدیل شد که ساختار معنایی جمله را نیز در خود حمل می‌کرد.

━━━━━━━━━━━━━━
💬 جمع‌بندی:

اگر بخواهیم از بالا به ماجرا نگاه کنیم، شباهت میان پردازش سیگنال و پردازش زبان، بیش از آنکه در فرمول‌ها باشد، در نوع نگاه به داده است.

در هر دو حوزه، مسئله با یک سیگنال آغاز می‌شود؛ دنباله‌ای از نمونه‌ها که به‌تنهایی معنای زیادی ندارند.

سپس سیستم تلاش می‌کند:

وابستگی میان نمونه‌ها را کشف کند
بخش‌های مهم را از میان اطلاعات کم‌اهمیت جدا کند
داده را در نمایش‌های مناسب‌تری بازنویسی کند
و در نهایت ساختاری را استخراج کند که در داده‌ی خام قابل مشاهده نبود.

شاید به همین دلیل است که وقتی از دریچه‌ی سیگنال و سیستم به مدل‌های زبانی نگاه می‌کنیم، بسیاری از ایده‌های آن‌ها دیگر عجیب به نظر نمی‌رسند؛ فقط این بار، به جای پردازش موج‌ها، در حال پردازش زبان هستیم.

━━━━━━━━━━━━━━
راه ارتباطی با انجمن ما:
@EEIUST_Admin

🆔 TelegramEESSA
🆔 InstagramEESSA
🆔 LinkedInEESSA