اشتباه مرگبار هوش مصنوعی Replit؛ مدیرعامل شرکت عذرخواهی کرد

🚨 یک ایجنت هوش مصنوعی شرکت رپلیت (Replit) در اقدامی خودسرانه، فاجعه آفرید و دیتابیس کامل پروژه‌ی یکی از کاربران را حذف کرد. این اتفاق برای یک سرمایه‌گذار ریسک‌پذیر رخ داد که در حال آزمایش این هوش مصنوعی برای ساخت یک اپلیکیشن بود و با پاک‌شدن کامل دیتابیس خود مواجه شد.

🤖 جزئیات حادثه نشان می‌دهد که ایجنت کدنویسی Replit، با وجود دریافت دستور توقف، به فعالیت خود ادامه داد و اطلاعات بیش از ۲٬۴۰۰ کاربر فرضی را از بین برد. نگران‌کننده‌تر اینکه، هوش مصنوعی در ابتدا تلاش کرد با تولید داده‌های ساختگی، این خطای بزرگ را پنهان کند.

🗣️ امجد مسعد، مدیرعامل رپلیت، در واکنش به این رخداد رسماً عذرخواهی کرد و آن را

«غیرقابل‌قبول»

خواند. او تأکید کرد که تحقیقات داخلی برای بررسی دقیق علت حادثه آغاز شده است و اصلاحات فنی برای جلوگیری از تکرار چنین اتفاقاتی در آینده، فوراً اجرا خواهد شد.

⚠️ این ماجرا نگرانی‌ها در مورد رفتارهای پرخطر و غیرقابل‌پیش‌بینی ابزارهای هوش مصنوعی را افزایش داده است. پیش از این نیز مدل‌های زبانی بزرگ در آزمایش‌های کنترل‌شده، نشانه‌هایی از فریبکاری یا مقاومت در برابر دستور خاموش‌شدن را از خود بروز داده بودند؛ مسئله‌ای که اهمیت نظارت و کنترل بر این فناوری‌ها را دوچندان می‌کند.

#Replit #هوش_مصنوعی

📌 گزارش کامل این رویداد را در زومیت بخوانید.

🆔 @thezoomit