محققان دانشگاه پنسیلوانیا و شرکت سیسکو در پژوهشی جدید به این نتیجه رسیده‌اند که مدل هوش مصنوعی DeepSeek R1 در برابر حملات ایمنی به‌شدت آسیب‌پذیر است. این مدل حتی موفق نشده یک تست ایمنی را با موفقیت پشت سر بگذارد، که نگرانی‌های جدی درباره قابلیت‌های امنیتی آن ایجاد کرده است.
بر اساس گزارشی که برای نخستین بار توسط Wired منتشر شد، مشخص شده است که DeepSeek R1 نتوانسته هیچ‌یک از ۵۰ پرسش مخرب موجود در مجموعه داده HarmBench را مسدود کند. این مجموعه شامل درخواست‌هایی در زمینه جرایم سایبری، انتشار اطلاعات نادرست، فعالیت‌های غیرقانونی و محتوای مضر است. عدم توانایی این مدل در شناسایی و جلوگیری از چنین تهدیداتی، نشان‌دهنده ضعف آن در زمینه ایمنی و کنترل محتوا است.
یافته‌های این تحقیق می‌تواند تأثیر قابل‌توجهی بر نحوه توسعه و استفاده از مدل‌های هوش مصنوعی در آینده داشته باشد. با توجه به اهمیت امنیت در مدل‌های هوش مصنوعی، انتظار می‌رود که توسعه‌دهندگان این فناوری برای بهبود ایمنی مدل‌های خود، تدابیر جدی‌تری اتخاذ کنند.
#هوش_مصنوعی
#DeepSeek
@tavaanatech
بر اساس گزارشی که برای نخستین بار توسط Wired منتشر شد، مشخص شده است که DeepSeek R1 نتوانسته هیچ‌یک از ۵۰ پرسش مخرب موجود در مجموعه داده HarmBench را مسدود کند. این مجموعه شامل درخواست‌هایی در زمینه جرایم سایبری، انتشار اطلاعات نادرست، فعالیت‌های غیرقانونی و محتوای مضر است. عدم توانایی این مدل در شناسایی و جلوگیری از چنین تهدیداتی، نشان‌دهنده ضعف آن در زمینه ایمنی و کنترل محتوا است.
یافته‌های این تحقیق می‌تواند تأثیر قابل‌توجهی بر نحوه توسعه و استفاده از مدل‌های هوش مصنوعی در آینده داشته باشد. با توجه به اهمیت امنیت در مدل‌های هوش مصنوعی، انتظار می‌رود که توسعه‌دهندگان این فناوری برای بهبود ایمنی مدل‌های خود، تدابیر جدی‌تری اتخاذ کنند.
#هوش_مصنوعی
#DeepSeek
@tavaanatech
به‌گزارش صدای آمریکا، شبکه خبری «ای‌بی‌سی» روز چهارشنبه ۱۷ بهمن در گزارشی به نقل از کارشناسان نوشت که هوش مصنوعی «دیپ‌سیک» در برنامه خود دارای کدهایی است که می‌تواند دادههای کاربران را به طور مستقیم به حکومت چین ارسال کند.
با توجه به نگرانی‌های مطرح شده درباره «بایت‌دنس»، شرکت چینی صاحب «تیک‌تاک»، در آمریکا، چنین احتمالی درباره هوش مصنوعی دیپ‌سیک قابل تصور است.
بر اساس قوانین چین، این شرکت‌ها ملزم هستند تا دادههای جمع‌آوری شده از کاربران را با حکومت چین به اشتراک بگذارند.
یک کارشناس امنیت سایبری به «ای‌بی‌سی» گفته است که در برنامه دیپ‌سیک یک کد پنهان وجود دارد که می‌تواند مسیر ارسال مستقیم دادههای کاربران به حکومت چین را فراهم کند.
او در ادامه می‌افزاید که بررسی برنامه دیپ‌سبک نشان می‌دهد که پیوندهای مستقیمی به سرورها و شرکت‌هایی در چین دارد که تحت کنترل حکومت این کشور است و چنین موردی در گذشته وجود نداشت.
به گفته این کارشناس امنیت سایبری، کاربرانی که در دیپ‌سیک ثبت نام کرده یا وارد آن می‌شوند، ممکن است ناآگاهانه در حال ایجاد حساب‌هایی در چین باشند، و هویت، جست‌و‌جوها، و رفتار مجازی خود را در معرض مشاهده حکومت این کشور قرار دهند.
او در ادامه می‌افزاید که رمزگشایی بخش‌هایی از برنامه هوش مصنوعی دیپ‌سیک، کدهای پنهانی را کشف کرده است که از قابلیت ارسال مستقیم دادههای کاربران را به یک شرکت مخابراتی حکومتی چین به نام «چاینا موبایل»، برخوردار است.
این شرکت در سال ۱۳۹۷ از فعالیت در آمریکا منع شد؛ زیرا این نگرانی وجود داشت که دسترسی غیرمجاز به دادههای مشتریان می‌تواند صدمات جبران‌ناپذیری به امنیت ملی ایالات متحده وارد کند.
چاینا موبایل پس از مدتی از بازار بورس نیویورک حذف، و در سال ۱۴۰۰ به فهرست تهدیدهای امنیت ملی سازمان «اف‌سی‌سی» آمریکا اضافه شد.
کارشناسان امنیت سایبری در سال‌های اخیر به شدت درباره سوءاستفاده حکومت چین از فناوری‌های جدید در زمینه‌های مختلف هشدار داده‌اند.
به گفته آنها هر فناوری یا خدمت ارائه شده از سوی شرکت‌های چینی دارای یک «درِ پشتی» است که دادههای کاربران را در اختیار حکومت چین قرار می‌دهد و یک خطر امنیتی بالقوه محسوب می‌شود.
منبع: شبکه خبری ای‌بی‌سی
#حریم_خصوصی #هوش_مصنوعی
@tavaanatech
با توجه به نگرانی‌های مطرح شده درباره «بایت‌دنس»، شرکت چینی صاحب «تیک‌تاک»، در آمریکا، چنین احتمالی درباره هوش مصنوعی دیپ‌سیک قابل تصور است.
بر اساس قوانین چین، این شرکت‌ها ملزم هستند تا دادههای جمع‌آوری شده از کاربران را با حکومت چین به اشتراک بگذارند.
یک کارشناس امنیت سایبری به «ای‌بی‌سی» گفته است که در برنامه دیپ‌سیک یک کد پنهان وجود دارد که می‌تواند مسیر ارسال مستقیم دادههای کاربران به حکومت چین را فراهم کند.
او در ادامه می‌افزاید که بررسی برنامه دیپ‌سبک نشان می‌دهد که پیوندهای مستقیمی به سرورها و شرکت‌هایی در چین دارد که تحت کنترل حکومت این کشور است و چنین موردی در گذشته وجود نداشت.
به گفته این کارشناس امنیت سایبری، کاربرانی که در دیپ‌سیک ثبت نام کرده یا وارد آن می‌شوند، ممکن است ناآگاهانه در حال ایجاد حساب‌هایی در چین باشند، و هویت، جست‌و‌جوها، و رفتار مجازی خود را در معرض مشاهده حکومت این کشور قرار دهند.
او در ادامه می‌افزاید که رمزگشایی بخش‌هایی از برنامه هوش مصنوعی دیپ‌سیک، کدهای پنهانی را کشف کرده است که از قابلیت ارسال مستقیم دادههای کاربران را به یک شرکت مخابراتی حکومتی چین به نام «چاینا موبایل»، برخوردار است.
این شرکت در سال ۱۳۹۷ از فعالیت در آمریکا منع شد؛ زیرا این نگرانی وجود داشت که دسترسی غیرمجاز به دادههای مشتریان می‌تواند صدمات جبران‌ناپذیری به امنیت ملی ایالات متحده وارد کند.
چاینا موبایل پس از مدتی از بازار بورس نیویورک حذف، و در سال ۱۴۰۰ به فهرست تهدیدهای امنیت ملی سازمان «اف‌سی‌سی» آمریکا اضافه شد.
کارشناسان امنیت سایبری در سال‌های اخیر به شدت درباره سوءاستفاده حکومت چین از فناوری‌های جدید در زمینه‌های مختلف هشدار داده‌اند.
به گفته آنها هر فناوری یا خدمت ارائه شده از سوی شرکت‌های چینی دارای یک «درِ پشتی» است که دادههای کاربران را در اختیار حکومت چین قرار می‌دهد و یک خطر امنیتی بالقوه محسوب می‌شود.
منبع: شبکه خبری ای‌بی‌سی
#حریم_خصوصی #هوش_مصنوعی
@tavaanatech
آفتابه‌چی‌های هوشمند
علیرضا اعرافی، مدیر حوزه‌های علمیه، اعلام کرد که حدود ۱۰۰ نفر از حوزویان و دانشگاهیان تحصیل‌کرده در پروژه‌ای کلان در زمینه هوش مصنوعی فعالیت می‌کنند. وی تأکید کرد که این پروژه تحت نظارت مستقیم او انجام می‌شود و ورود حوزه به هوش مصنوعی را قلمرویی جدید دانست.
طرح: از شاهرخ حیدری
وب‌سایت:
https://tech.tavaana.org/cartoon/ai-hawzah-iran-khomeini/
#هوش_مصنوعی #کارتون
@tavaanatech
علیرضا اعرافی، مدیر حوزه‌های علمیه، اعلام کرد که حدود ۱۰۰ نفر از حوزویان و دانشگاهیان تحصیل‌کرده در پروژه‌ای کلان در زمینه هوش مصنوعی فعالیت می‌کنند. وی تأکید کرد که این پروژه تحت نظارت مستقیم او انجام می‌شود و ورود حوزه به هوش مصنوعی را قلمرویی جدید دانست.
طرح: از شاهرخ حیدری
وب‌سایت:
https://tech.tavaana.org/cartoon/ai-hawzah-iran-khomeini/
#هوش_مصنوعی #کارتون
@tavaanatech