با گسترش استفاده از LLM ها در اپلیکیشن‌های تحت وب، و باتوجه به ماهیت غیرقطعی عمل‌کرد آن‌ها، آسیب‌پذیری‌های امنیتی جدیدی پدید آمده‌اند؛ مانند:
- Prompt Injection
- Data Leakage
- Inadequate Sandboxing
- Unauthorized Code Execution
- Model DoS
- Information Disclosure
و …
بنابراین، نیاز به یک دیواره‌ی آتش مناسب برای قرار گرفتن در جلوی مدل‌ها و بررسی درخواست‌ها برای تشخیص سواستفاده بیشتر از پیش حس می‌شود.


۱۰ آسیب‌پذیری در اپلیکیشن‌های مبتنی بر LLM ها به‌گفته‌ی OWASP
https://owasp.org/www-project-top-10-for-large-language-model-applications/

شرکت Cloudflare که جزو بزرگ‌ترین شرکت‌های ارائه‌دهنده‌ی خدمات ابری، CDN و امنیت سایبری و … است، از محصول جدید خود که یک دیواره‌ی آتش (Firewall) برای قرار گرفتن در جلوی LLM هاست، رونمایی کرد. محصول Firewall for AI در واقع یک WAF است که علاوه بر قابلیت‌های مرسوم مانند کنترل rate limit و جلوگیری از injection، قابلیت تحلیل پرامپت‌ها برای تشخیص سوءنیت را نیز دارد.

https://blog.cloudflare.com/firewall-for-ai/


🆔 @GITAnet|باشگاه فناوران اطلاعات مکانی

🔴 مدل claude 3 معرفی شد

الان میتونید رایگان با مدل جدید claude 3 یعنی Sonnet چت کنید، البته ظاهرا شاهکارش روی نسخه Opus هست که توی خیلی از گزینه‌ها از GPT-4 بهتره و اشتراک ۱۸ دلاری ماهیانه لازم داره.
https://claude.ai/chats
پ.ن. یه پیشرفتش که در موردش حرف میزنن جواب‌های مطمئن‌تر هست
پ.ن.۲. کسایی که دوست دارن با یه AI کار کنن که بشه بهش پی‌دی‌اف داد و یا فایل داد بعد بر اساس اون فایل سواال کنیم یا بگیم همونو خلاصه کنید الان claude یکی از بهتریناست.
https://www.anthropic.com/news/claude-3-family


🆔 @GITAnet|باشگاه فناوران اطلاعات مکانی

روش‌های مختلف فاین‌تیون کردن مدل‌های زبانی بزرگ (LLM ها)

همون‌طور که می‌دونید، مدل‌های زبانی بزرگ معمولا از میلیاردها پارامتر قابل آموزش تشکیل شده‌اند که بهینه‌سازی و آموزش کامل همه‌ی آن‌ها نیازمند استفاده از حجم وسیعی داده‌ی متنی و توان پردازشی‌ست که حداقل فعلا از توان عامه‌ی پژوهش‌گرها خارج است و معمولا آزمایشگاه‌های تحقیقاتی بزرگ مانند OpenAI و Google با صرف زمان و هزینه زیاد مدل‌هایی را آموزش می‌دهند که ممکن است برای کاربردهای عمومی مناسب باشند. با این حال برای سفارشی‌سازی این مدل‌ها برای تسک‌های خاص، لازم است که این مدل‌ها روی مجموعه‌داده‌ی مربوط به آن تسک که عموما بسیار کوچک‌تر‌ست، با صرف توان پردازشی به مراتب کمتر، فاین‌تیون (Finetune) شوند.

🆔 @GITAnet|باشگاه فناوران اطلاعات مکانی

برای فاین‌تیون کردن شبکه‌های عصبی عمیق معمولی، پارامترهای مربوط به لایه‌های ابتدایی شبکه که ویژگی‌های پایه را یادگرفته‌اند، freeze شده و پارامترهای لایه‌های آخر که بیشتر با تسک مرتبط‌اند، اصلاح می‌شوند. اما فاین‌تیون کردن مدل‌های زبانی، به این سادگی نیست و حتی با یک اشتباه ممکن است مدل، الگوهای زبانی عمومی را نیز فراموش کند (Catastrophic Forgetting).

روش اول) فاین‌تیون کردن کل مدل
یک مدل Pretrained انتخاب شده و همه‌ی پارامترهای آن بر روی دیتاست مربوط به تسک مورد نظر اصلاح می‌شوند. واضح‌ست که این روش از نظر زمان اجرا و حافظه‌‌ی مصرفی، در عمل، کارا نیست.

روش دوم) روش LoRA
این روش (Low-Rank Adaptation) توسط تیم مایکروسافت معرفی شده که در آن به جای اصلاح پارامترهای مدل زبانی، تعداد کمی پارامتر جدید موسوم به LoRA adapter به مدل اضافه می‌شوند و فقط این پارامترهای جدید بر روی دیتاست مربوط به تسک آموزش می‌بینند و پارامترهای خود مدل زبانی بدون تغییر باقی می‌مانند. واضح‌ست که این روش علاوه بر کارایی و مصرف کم‌تر حافظه، جلوی catastrophic forgetting را هم می‌گیرد.
روش‌های بهینه‌تری مانند QLoRA و +LoRA هم معرفی شده‌اند که می‌توانید در موردشان تحقیق کنید.

روش سوم)‌ روش Prompt Engineering
‌در این روش، پارامترهای LLM اصلاح نمی‌شوند. در واقع از LLM فقط برای فهم زبان استفاده می‌شود و داده‌های مربوط به تسک جدید، در قالب یک پرامپت مهندسی شده، قبل از کوئری، به LLM داده می‌شوند. واضح‌ست که تعداد توکن‌های ورودی LLM ها محدود است و این روش فقط برای زمانی کارایی دارد که تعداد نمونه‌های آموزشی، بسیار اندک‌اند (few-shot learning). همچنین، این روش در معرض خطر توهم (hallucinations) قرار دارد و ممکن‌ست با وجود دریافت چند شات دیتای آموزشی باز هم اطلاعات نادرست خروجی دهد.

روش چهارم) روش RAG
روش Retrieval-Augmented Generation تا حدی شبیه به روش Prompt Engineering است، با این تفاوت که در آن، تولید متن (Text Generation) توسط LLM، به کمک اطلاعاتِ مرتبطِ بازیابی‌شده‌ از یک پایگاه دانش (Knowledge base) انجام می‌گیرد.
به عبارت دیگر، در مرحله‌ی اول، یک مدل Embedding موسوم به مدل Retriever (برای انکودکردن مستندات و کوئری‌ها در یک فضای امبدینگ)، آموزش می‌بیند.
سپس در مرحله‌ي دوم، همه‌ی مستندات متنی مربوط به تسک مورد نظر، یک بار برای همیشه از این مدل امبدینگ عبور کرده و به بردار امبدینگ تبدیل می‌شوند.




🆔 @GITAnet|باشگاه فناوران اطلاعات مکانی

#زکات_علم
سه ربات تلگرامی برای دانلود مقاله های انگلیسی:
@science_nexus2_bot
@mx_nexus_bot
@IN_Imen_Bot

#ربات_تلگرامی
#ابزار_پژوهش
#مقاله_نویسی
#مقاله

🆔 @GITAnet|باشگاه فناوران اطلاعات مکانی

استخدام ثبت اسناد، املاک و نقشه برداری کشور سال 1403



🆔 @GITAnet|باشگاه فناوران اطلاعات مکانی

🔴 دهمین جشنواره ملی ارتباطات و فناوری اطلاعات

🔹 وب سایت:
https://festfava.ict.gov.ir


🆔 @GITAnet|باشگاه فناوران اطلاعات مکانی

در این ویدئو که اخیرا وایرال شده، همکاری شرکت Figure (تولید‌کننده‌ی ربات‌های انسان‌نما) با شرکت OpenAI در زمینه‌ی استفاده از LLM ها در
روبات‌ها را می‌بینید.

شرکت Figure AI اخیرا از مایکروسافت، NVIDIA، جف بزوس، OpenAI و … جذب سرمایه کرده‌ست.

https://www.figure.ai/



🆔 @GITAnet|باشگاه فناوران اطلاعات مکانی

اگر می‌خواهید به‌سادگی مدل‌های یادگیری ماشین رو به صورت realtime روی موبایل (اندروید یا آی‌او‌اس) و یا رزبری‌پای اجرا کنید، از Google MediaPipe استفاده کنید:

https://developers.google.com/mediapipe


مثال: آموزش اعمال فیلتر‌هایی شبیه به SnapChat و Instagram روی دوربین موبایل:
https://www.youtube.com/watch?v=QERl1-ckFr8


🆔 @GITAnet|باشگاه فناوران اطلاعات مکانی

نسخه‌ی جدید TensorFlow (نسخه‌ی ۲.۱۶) منتشر شد.
این نسخه از Keras3 به‌جای Keras2 استفاده می‌کند. بنابراین اگر کد قدیمی‌ای دارید که با Keras جدید سازگار نیست، باید در آن به جای keras از tf-keras (کراس قدیمی ورژن ۲) استفاده کنید.


نصب:
‍‍‍‍
pip install tf-keras~=2.16


فعال‌سازی:

import os
os.environ["TF_USE_LEGACY_KERAS"]=”1”

🆔 @GITAnet|باشگاه فناوران اطلاعات مکانی

👈 باشگاه کتابخوانی (هر هفته یک کتاب)

👈 گروه اپلای و پست داک علوم مکانی

👈 گروه فناوران اطلاعات مکانی


🆔 @GITAnet|باشگاه فناوران اطلاعات مکانی

مدل SIMA توسط Google Deepmind معرفی شد
اولین عامل هوش مصنوعی که دستورات زبانی طبیعی(NLP) رو توی طیف گسترده‌ای از محیط‌های مجازی سه‌بعدی و بازی‌های ویدیویی
اجرا می کنه.
این هوش مصنوعی توی کاربردهایی که نیاز به درک محیط توسط ربات ها دارند، انقلابی به پا خواهد کرد.

https://deepmind.google/discover/blog/sima-generalist-ai-agent-for-3d-virtual-environments


🆔 @GITAnet|باشگاه فناوران اطلاعات مکانی

روز جهانی عدد پی(π)

۱۴م مارس( دیروز) هرسال که به صورت عددی ۳/۱۴ می‌شه، روز عدد پی نام‌گذاری شده. البته مدتی هست این روز رو به عنوان روز جهانی ریاضیات نیز می‌شناسن. عدد پی یک ثابت ریاضیاتی و یک عدد گنگه که طبق آخرین محاسبات،‌ به ۱۰۰تریلیون رقم اعشار رسید. این محاسبات توسط سرویس‌های ابری گوگل، روی یک ماشین مجازی با ۱۲۸ هسته، ۸۶۴ گیگابایت رم و ۶۶۳ ترابایت فضای ذخیره‌سازی انجام شد. هرساله ریاضی‌دان‌ها و موسسات مختلفی این روز رو با خوردن کیک pi جشن می‌گیرن!

https://en.wikipedia.org/wiki/Pi_Day

🆔 @GITAnet|باشگاه فناوران اطلاعات مکانی