Forwarded from Reza Jafari
این Harness که میگن یعنی چه؟
اگه بخوایم خیلی ساده بگیم، Harness چیزیه که دورِ مدل هوش مصنوعی قرار می‌گیره و کمک میکنه مدل فقط جواب نده، بلکه بتونه واقعاً کاری رو انجام بده. خود مدل رو میشه مثل «مغز» در نظر گرفت؛ مغزی که فکر میکنه و تصمیم می‌گیره قدم بعدی چی باشه. Harness هم چیزهاییه که این مغز برای کار کردن لازم داره؛ مثل ابزارها، حافظه، محیط اجرا، فایل‌ها و قوانین امنیتی. در واقع میشه گفت: Agent = Model + Harness.
برای اینکه بهتر متوجه بشیم، فرض کن یه Agent قراره یه باگ رو توی کد پیدا و برطرف کنه. مدل اول کد و اطلاعات موجود رو بررسی میکنه و تصمیم می‌گیره چه کاری انجام بده. بعد Harness اون کار رو اجرا میکنه؛ مثلاً کد رو داخل یه محیط ایزوله اجرا میکنه و تست‌ها رو انجام میده. نتیجه تست دوباره به مدل برمی‌گرده و مدل با توجه به نتیجه تصمیم می‌گیره قدم بعدی چیه. این چرخه یعنی «فکر کن، عمل کن، نتیجه رو ببین و دوباره تصمیم بگیر» پایه خیلی از Agentهای امروزیه.
نکته مهم اینه که مدل، Agent و Harness یکی نیستن. مدل همون بخشیه که فکر میکنه و خروجی تولید میکنه؛ Harness محیط و زیرساختیه که ابزارها، حافظه، اجرا و قوانین رو مدیریت میکنه؛ و Agent در نهایت ترکیب این دوتاست که میتونه یک کار واقعی رو از اول تا آخر انجام بده. بنابراین وقتی می‌گیم یک Agent باهوشه، فقط قدرت مدل مهم نیست؛ محیطی که اون مدل داخلش کار میکنه هم تأثیر خیلی زیادی روی نتیجه داره.
داخل یک Harness خوب، چند چیز خیلی مهم وجود داره: ابزارهایی برای کار با API، دیتابیس، وب یا اجرای کد؛ حافظه‌ای برای نگه داشتن اطلاعات قبلی؛ یک محیط امن مثل Sandbox برای اینکه Agent بتونه بدون آسیب زدن به سیستم اصلی کد اجرا کنه؛ و سیستم‌هایی برای مدیریت فایل و اطلاعات. علاوه بر این‌ها، Harness باید بتونه عملکرد Agent رو بررسی کنه و اگر لازم بود از انسان برای بعضی تصمیم‌های حساس تأیید بگیره.
یکی از مهم‌ترین بخش‌ها هم مدیریت حافظه و Context هست. مدل‌های هوش مصنوعی به‌تنهایی حافظه دائمی ندارن و نمی‌تونن بی‌نهایت اطلاعات رو همزمان در ذهنشون نگه دارن. Harness کمک میکنه اطلاعات مهم حفظ بشه، بخش‌های قدیمی‌تر خلاصه یا حذف بشن و در صورت نیاز اطلاعات قبلی دوباره در اختیار مدل قرار بگیره. این موضوع مخصوصاً برای کارهای طولانی و چندمرحله‌ای خیلی مهمه.
از طرف دیگه، یه Agent خوب نباید فقط کاری رو انجام بده و بگه «تموم شد». باید بتونه نتیجه کار خودش رو هم بررسی کنه. مثلاً اگر قرار بوده کدی رو اصلاح کنه، تست‌ها رو اجرا کنه و ببینه واقعاً مشکل حل شده یا نه. اگر تست شکست خورد، Agent باید نتیجه رو ببینه، دوباره فکر کنه و مسیرش رو اصلاح کنه. همین حلقه‌های بررسی و اصلاح باعث می‌شن Agentها برای کارهای پیچیده قابل‌اعتمادتر بشن.
موضوع امنیت هم خیلی جدیه. فرض کن Agent اجازه داشته باشه فایل پاک کنه، ایمیل بفرسته یا خرید انجام بده. منطقی نیست هر کاری رو بدون محدودیت انجام بده. برای همین Harness میتونه قوانینی داشته باشه که مثلاً قبل از انجام یک کار حساس، حتماً از یک انسان تأیید بگیره. به این کنترل‌ها اصطلاحاً Guardrail گفته میشه و کمک میکنن Agent از محدوده‌ای که براش تعیین شده خارج نشه.
در نهایت، چیزی که شاید از همه مهم‌تر باشه اینه که کیفیت یک Agent فقط به مدل هوش مصنوعی بستگی نداره. ممکنه دو سیستم دقیقاً از یک مدل استفاده کنن، ولی یکی نتیجه خیلی بهتری بگیره؛ چون حافظه، ابزارها، نحوه اجرای کار، بررسی نتیجه و قوانین کنترلی بهتری داره. به همین خاطر هرچه مدل‌ها قوی‌تر می‌شن، طراحی درست Harness هم اهمیت بیشتری پیدا میکنه. به زبان خیلی ساده، مدل هوش سیستم رو میده، ولی Harness کمک میکنه این هوش تبدیل به کار واقعی و قابل‌اعتماد بشه.
👑 توضیحات در مورد دوره منتورینگ
🏆 نحوه ثبت‌نام در دوره منتورینگ
🤝 تجارب موفق قبلی بچه‌ها از منتورینگ
@reza_jafari_ai
اگه بخوایم خیلی ساده بگیم، Harness چیزیه که دورِ مدل هوش مصنوعی قرار می‌گیره و کمک میکنه مدل فقط جواب نده، بلکه بتونه واقعاً کاری رو انجام بده. خود مدل رو میشه مثل «مغز» در نظر گرفت؛ مغزی که فکر میکنه و تصمیم می‌گیره قدم بعدی چی باشه. Harness هم چیزهاییه که این مغز برای کار کردن لازم داره؛ مثل ابزارها، حافظه، محیط اجرا، فایل‌ها و قوانین امنیتی. در واقع میشه گفت: Agent = Model + Harness.
برای اینکه بهتر متوجه بشیم، فرض کن یه Agent قراره یه باگ رو توی کد پیدا و برطرف کنه. مدل اول کد و اطلاعات موجود رو بررسی میکنه و تصمیم می‌گیره چه کاری انجام بده. بعد Harness اون کار رو اجرا میکنه؛ مثلاً کد رو داخل یه محیط ایزوله اجرا میکنه و تست‌ها رو انجام میده. نتیجه تست دوباره به مدل برمی‌گرده و مدل با توجه به نتیجه تصمیم می‌گیره قدم بعدی چیه. این چرخه یعنی «فکر کن، عمل کن، نتیجه رو ببین و دوباره تصمیم بگیر» پایه خیلی از Agentهای امروزیه.
نکته مهم اینه که مدل، Agent و Harness یکی نیستن. مدل همون بخشیه که فکر میکنه و خروجی تولید میکنه؛ Harness محیط و زیرساختیه که ابزارها، حافظه، اجرا و قوانین رو مدیریت میکنه؛ و Agent در نهایت ترکیب این دوتاست که میتونه یک کار واقعی رو از اول تا آخر انجام بده. بنابراین وقتی می‌گیم یک Agent باهوشه، فقط قدرت مدل مهم نیست؛ محیطی که اون مدل داخلش کار میکنه هم تأثیر خیلی زیادی روی نتیجه داره.
داخل یک Harness خوب، چند چیز خیلی مهم وجود داره: ابزارهایی برای کار با API، دیتابیس، وب یا اجرای کد؛ حافظه‌ای برای نگه داشتن اطلاعات قبلی؛ یک محیط امن مثل Sandbox برای اینکه Agent بتونه بدون آسیب زدن به سیستم اصلی کد اجرا کنه؛ و سیستم‌هایی برای مدیریت فایل و اطلاعات. علاوه بر این‌ها، Harness باید بتونه عملکرد Agent رو بررسی کنه و اگر لازم بود از انسان برای بعضی تصمیم‌های حساس تأیید بگیره.
یکی از مهم‌ترین بخش‌ها هم مدیریت حافظه و Context هست. مدل‌های هوش مصنوعی به‌تنهایی حافظه دائمی ندارن و نمی‌تونن بی‌نهایت اطلاعات رو همزمان در ذهنشون نگه دارن. Harness کمک میکنه اطلاعات مهم حفظ بشه، بخش‌های قدیمی‌تر خلاصه یا حذف بشن و در صورت نیاز اطلاعات قبلی دوباره در اختیار مدل قرار بگیره. این موضوع مخصوصاً برای کارهای طولانی و چندمرحله‌ای خیلی مهمه.
از طرف دیگه، یه Agent خوب نباید فقط کاری رو انجام بده و بگه «تموم شد». باید بتونه نتیجه کار خودش رو هم بررسی کنه. مثلاً اگر قرار بوده کدی رو اصلاح کنه، تست‌ها رو اجرا کنه و ببینه واقعاً مشکل حل شده یا نه. اگر تست شکست خورد، Agent باید نتیجه رو ببینه، دوباره فکر کنه و مسیرش رو اصلاح کنه. همین حلقه‌های بررسی و اصلاح باعث می‌شن Agentها برای کارهای پیچیده قابل‌اعتمادتر بشن.
موضوع امنیت هم خیلی جدیه. فرض کن Agent اجازه داشته باشه فایل پاک کنه، ایمیل بفرسته یا خرید انجام بده. منطقی نیست هر کاری رو بدون محدودیت انجام بده. برای همین Harness میتونه قوانینی داشته باشه که مثلاً قبل از انجام یک کار حساس، حتماً از یک انسان تأیید بگیره. به این کنترل‌ها اصطلاحاً Guardrail گفته میشه و کمک میکنن Agent از محدوده‌ای که براش تعیین شده خارج نشه.
در نهایت، چیزی که شاید از همه مهم‌تر باشه اینه که کیفیت یک Agent فقط به مدل هوش مصنوعی بستگی نداره. ممکنه دو سیستم دقیقاً از یک مدل استفاده کنن، ولی یکی نتیجه خیلی بهتری بگیره؛ چون حافظه، ابزارها، نحوه اجرای کار، بررسی نتیجه و قوانین کنترلی بهتری داره. به همین خاطر هرچه مدل‌ها قوی‌تر می‌شن، طراحی درست Harness هم اهمیت بیشتری پیدا میکنه. به زبان خیلی ساده، مدل هوش سیستم رو میده، ولی Harness کمک میکنه این هوش تبدیل به کار واقعی و قابل‌اعتماد بشه.
@reza_jafari_ai
Please open Telegram to view this post
VIEW IN TELEGRAM
👍5
معرفی میکنم ، جناب شوتارو اوداته مهندس ارشد شرکت هوندا با ۸۴ سال سن
چقدر میشه بی مرز و رها زندگی رو تجربه کرد
https://x.com/drsuffy/status/2090903377249292563?s=52
چقدر میشه بی مرز و رها زندگی رو تجربه کرد
https://x.com/drsuffy/status/2090903377249292563?s=52
X (formerly Twitter)
Suffy 🦢 (@drsuffy) on X
Chief engineer at Honda BTW
🔥3
مطمئنم که این AI Hype مهندسان نرم افزار ضعیف رو حذف یا تبدیل به اشخاص با رول های دیگه ای میکنه. و بابتش بسیار خوشحالم
👍46👎15🔥2
مسعود بیگی
مطمئنم که این AI Hype مهندسان نرم افزار ضعیف رو حذف یا تبدیل به اشخاص با رول های دیگه ای میکنه. و بابتش بسیار خوشحالم
دیس لایک شما باعث نجات شما نخواهد بود
👍16👎9
Forwarded from ..: لیک‌فا | Leakfa :..
🔺 اطلاعیه رسمی دیجی‌شهر در خصوص دسترسی غیرمجاز به بخشی از اطلاعات کاربران
دیجی‌شهر در اطلاعیه‌ای رسمی، وقوع دسترسی غیرمجاز محدود به بخشی از زیرساخت و اطلاعات کاربران را تایید کرده و اعلام کرده است که ادعای انتشار کامل اطلاعات کاربران با یافته‌های فعلی بررسی‌های داخلی این شرکت مطابقت ندارد.
مشاهده اطلاعیه:
https://go.leakfa.com/dzrkcb
📌 انتشار اطلاعیه‌های منتشرشده به معنای تایید محتوای آن‌ها نیست.
🆔 @leakfarsi
دیجی‌شهر در اطلاعیه‌ای رسمی، وقوع دسترسی غیرمجاز محدود به بخشی از زیرساخت و اطلاعات کاربران را تایید کرده و اعلام کرده است که ادعای انتشار کامل اطلاعات کاربران با یافته‌های فعلی بررسی‌های داخلی این شرکت مطابقت ندارد.
مشاهده اطلاعیه:
https://go.leakfa.com/dzrkcb
📌 انتشار اطلاعیه‌های منتشرشده به معنای تایید محتوای آن‌ها نیست.
🆔 @leakfarsi
❤1
Forwarded from کداکسپلور | CodeExplore (ᴀᴍɪʀᴍᴀsᴏᴜᴅ)
🔒اگر با امنیت وب سر و کار داشته باشید احتمالا اسم sqlmap به گوشتون خورده.
یه ابزار اوپن سورس برای شناسایی و بررسی آسیب پذیری های SQL Injection که به جای تست دستی Payload ها میتونه بخش زیادی از فرایند شناسایی رو خودش انجام بده.
sqlmap میتونه نوع دیتابیس مورد استفاده رو تشخیص بده و بیشتر از 40 نوع دیتابیس رو پشتیبانی میکنه.
همچنین روش های مختلف SQL Injection مثل Boolean-based, Time-based و UNION-based رو هم پوشش میده. یکی از ویژگی های خوبشم اینه که بعد از پیدا کردن Injection، میتونه برای بررسی میزان دسترسی و ریسک آسیب‌پذیری، اطلاعات بیشتری از ساختار دیتابیس موردنظر جمع کنه🔥
برای استفاده مثلا یه URL پارامتر دار بهش میدیم:
پارامتر id رو بررسی میکنه و اگر آسیب‌پذیر باشه، نوع SQL Injection و دیتابیس مورد استفاده رو تشخیص میده.
🔗 دسترسی به sqlmap:
گیت هاب | سایت
#sql_injection #sqlmap #tool
☕️ Telegram | Website | Discord
یه ابزار اوپن سورس برای شناسایی و بررسی آسیب پذیری های SQL Injection که به جای تست دستی Payload ها میتونه بخش زیادی از فرایند شناسایی رو خودش انجام بده.
sqlmap میتونه نوع دیتابیس مورد استفاده رو تشخیص بده و بیشتر از 40 نوع دیتابیس رو پشتیبانی میکنه.
همچنین روش های مختلف SQL Injection مثل Boolean-based, Time-based و UNION-based رو هم پوشش میده. یکی از ویژگی های خوبشم اینه که بعد از پیدا کردن Injection، میتونه برای بررسی میزان دسترسی و ریسک آسیب‌پذیری، اطلاعات بیشتری از ساختار دیتابیس موردنظر جمع کنه🔥
برای استفاده مثلا یه URL پارامتر دار بهش میدیم:
sqlmap -u "https://test.local/product?id=1"
پارامتر id رو بررسی میکنه و اگر آسیب‌پذیر باشه، نوع SQL Injection و دیتابیس مورد استفاده رو تشخیص میده.
🔗 دسترسی به sqlmap:
گیت هاب | سایت
#sql_injection #sqlmap #tool
☕️ Telegram | Website | Discord
❤3👍3
برید قصه بخونید، ولی کار داره ، خیلی چیزاش تست نشده، صرفا گفتم در حال و حواش باشید :
https://kids.refhub.ir/p/%D8%AF%D8%A7%D8%B1%D8%A7-%D9%88-%D9%86%D9%88%D8%A8%D8%AA-%D8%AA%D8%A7%D8%A8%D8%A8%D8%A7%D8%B2%DB%8C/
https://kids.refhub.ir/p/%D8%AF%D8%A7%D8%B1%D8%A7-%D9%88-%D9%86%D9%88%D8%A8%D8%AA-%D8%AA%D8%A7%D8%A8%D8%A8%D8%A7%D8%B2%DB%8C/
❤2
مسعود بیگی
برید قصه بخونید، ولی کار داره ، خیلی چیزاش تست نشده، صرفا گفتم در حال و حواش باشید : https://kids.refhub.ir/p/%D8%AF%D8%A7%D8%B1%D8%A7-%D9%88-%D9%86%D9%88%D8%A8%D8%AA-%D8%AA%D8%A7%D8%A8%D8%A8%D8%A7%D8%B2%DB%8C/
اینو دادم بالا ، رفتم‌رسمیو و برگشتم تازه رسیدم ، وایسید ببینم چشه درستش کنم 😁😁😁
❤1
بری توییتر و توییت استاد رو ببینی ، حیف نیست استاد رو تویبتر نداشته باشین ؟
https://x.com/mesbahi/status/2091818888971288815?s=46
https://x.com/mesbahi/status/2091818888971288815?s=46
❤17
به چند تا ایده داستان از طرف شما برای تست سیستم نیازمندیم، داستان تون باید برای کودک و نوجوان باشه و ایده تون رو خیلی هم طولانی نکنید که بشه چند صفحه. یه پاراگراف هم میتونه کافی باشه
چند وقت پیش یه جا مهمون بودم و میزبان گفت که فلان جوان و فلان جوان یه سری انتقاد دارن به مدیری که از سازمان به تازگی خارج شده و ....
خوب اول اینکه همیشه شنونده باید عاقل باشه ، بعد اون گوینده آیا همه ی کانتکست و environment ها و تجربه های قبلی و تصمیم های آتی و مسیری که اون مدیر تو ذهنش بوده آگاه بودن ؟ یا صرفا از سر اشتیاقشون به حرف زدن و شنیده شدن یه چیزی گفتن ؟
یه بخش هایی از مدیریت به نظرم با کتاب هایی که همون جوان ها هم احتمالا نخوندن در نمیاد، تجربه میخواد، هزینه زمان ، ریال و اعتبار دادن میخواد، تا تازه بفهمی که فلان حرکت چطور قراره به موفقیت تیم تبدیل بشه
یه بخش مهم ترش اینه که این ها هیجانات انقلابیه که معمولا بعد هر تغییری تو سازمان بالا میره، ولی باید نشست تهش رو دید که به چی ختم میشه ؟ و امیدوار باشیم همین ها ناپلئون قلعه حیوانات نشن :)
به هرشکل به نظرم اون سازمان کارش رو کرده و حالا پولش رو داره و هزینه تجربه رو میپردازه ، خیلی وقت ها هم میبینی که جوان ها می ترکونن و همه رو شگفت زده میکنن، انشالله که همین باشه براشون.
خوب اول اینکه همیشه شنونده باید عاقل باشه ، بعد اون گوینده آیا همه ی کانتکست و environment ها و تجربه های قبلی و تصمیم های آتی و مسیری که اون مدیر تو ذهنش بوده آگاه بودن ؟ یا صرفا از سر اشتیاقشون به حرف زدن و شنیده شدن یه چیزی گفتن ؟
یه بخش هایی از مدیریت به نظرم با کتاب هایی که همون جوان ها هم احتمالا نخوندن در نمیاد، تجربه میخواد، هزینه زمان ، ریال و اعتبار دادن میخواد، تا تازه بفهمی که فلان حرکت چطور قراره به موفقیت تیم تبدیل بشه
یه بخش مهم ترش اینه که این ها هیجانات انقلابیه که معمولا بعد هر تغییری تو سازمان بالا میره، ولی باید نشست تهش رو دید که به چی ختم میشه ؟ و امیدوار باشیم همین ها ناپلئون قلعه حیوانات نشن :)
به هرشکل به نظرم اون سازمان کارش رو کرده و حالا پولش رو داره و هزینه تجربه رو میپردازه ، خیلی وقت ها هم میبینی که جوان ها می ترکونن و همه رو شگفت زده میکنن، انشالله که همین باشه براشون.
👍9❤1