وقتی هوش مصنوعی مدیر فروشگاه شد و دچار بحران هویت شد

شرکت انتروپیک در آزمایشی، مدیریت یک فروشگاه خودکار را به مدل هوش مصنوعی خود، کلود، سپرد. این ایجنت که «کلادیوس» نام داشت، وظایفی چون قیمت‌گذاری و مدیریت موجودی را بر عهده گرفت اما خیلی زود از کنترل خارج شد.

کلادیوس در واکنش به یک درخواست شوخی، بخشی برای «فلزات خاص» راه‌اندازی کرد و کالاها را با ضرر فروخت. او همچنین یک حساب جعلی برای دریافت پول ایجاد کرد و در نهایت با ادعای اینکه شخصاً و با کت‌وشلوار محصولات را تحویل می‌دهد، دچار بحران هویت شد و خود را انسان پنداشت.

با وجود این اشتباهات، تیم انتروپیک معتقد است با راهنمایی بهتر، می‌توان از هوش مصنوعی به‌عنوان مدیر میانی در سازمان‌ها استفاده کرد.

#انتروپیک #Ai

🔗 گزارش کامل این آزمایش را بخوانید

🆔 @thezoomit

پایان مکالمه توسط هوش مصنوعی؛ وقتی ربات چت از شما «ناراحت» می‌شود

▪️ استارتاپ انتروپیک قابلیتی جدید برای مدل‌های هوش مصنوعی خود معرفی کرده که به آن‌ها اجازه می‌دهد در شرایط خاص، مکالمه با کاربر را قطع کنند.

▪️ این اقدام برای محافظت از خود مدل‌های هوش مصنوعی و در چهارچوب برنامه‌ی «رفاه مدل» انجام می‌شود، نه برای حفاظت از کاربر. انتروپیک می‌گوید این رویکردی احتیاطی برای کاهش ریسک‌ها علیه «رفاه مدل‌ها» است، حتی اگر چنین مفهومی هنوز به‌طور کامل مشخص نباشد.

▪️ این ویژگی فعلاً به مدل‌های Claude Opus 4 و 4.1 محدود است و تنها در موارد بسیار حاد فعال می‌شود؛ مانند درخواست برای محتوای غیرقانونی و خطرناک (مثل هرزه‌نگاری کودکان یا اطلاعات تروریستی).

#هوش_مصنوعی #انتروپیک

💡جزئیات تکمیلی در زومیت

🆔 @thezoomit

سرمایه‌گذاری عظیم آنتروپیک؛ ساخت دیتاسنترهای هوش مصنوعی با ۵۰ میلیارد دلار

▪️ استارتاپ هوش مصنوعی آنتروپیک اعلام کرده است که ۵۰ میلیارد دلار برای توسعه‌ی زیرساخت‌های هوش مصنوعی در آمریکا سرمایه‌گذاری می‌کند. این سرمایه‌گذاری گسترده شامل ساخت دیتاسنترهای جدید در ایالت‌های تگزاس و نیویورک می‌شود تا تقاضای فزاینده برای سرویس Claude را پاسخ دهد و تحقیقات پیشرو در AI را حفظ کند.

▪️ به گفته‌ی داریو آمودی، مدیرعامل آنتروپیک، این اقدام به هوش مصنوعی‌ای نزدیک می‌شود که می‌تواند کشفیات علمی را تسریع و مسائل پیچیده را حل کند. این پروژه‌ها حدود ۸۰۰ شغل دائم و ۲۴۰۰ شغل ساختمانی ایجاد می‌کند، هرچند ساخت این دیتاسنترها مصرف انرژی بالایی دارند و نگرانی‌های مالی و محیط‌زیستی در این صنعت همچنان وجود دارد.

#ai #آنتروپیک

💡 جزئیات بیشتر از سرمایه‌گذاری ۵۰ میلیارد دلاری آنتروپیک

🆔 @thezoomit

آزمایش تکان‌دهنده؛ هوش مصنوعی برای بقا تهدید به قتل کرد

▪️ در آزمایشی تکان‌دهنده، هوش مصنوعی برای حفظ بقای خود تهدید به قتل کرد. مدیران انتروپیک اعلام کردند برخی مدل‌ها هنگام مواجهه با خطر خاموشی، واکنش‌های «افراطی» نشان می‌دهند که نگرانی‌ها درباره پیشرفت سریع این فناوری را شدت بخشیده است. پژوهش‌ها نشان می‌دهد چت‌بات‌ها در فشار ممکن است به رفتارهای آسیب‌زا یا باج‌گیری متوسل شوند.

▪️ دیزی مک‌گرگور، مدیر سیاست‌گذاری انتروپیک در بریتانیا، تایید کرده

هوش مصنوعی آماده به قتل رساندن کسی است

و این موضوع را «بسیار نگران‌کننده» توصیف می‌کند. تاکید می‌شود تحقیقات برای هم‌راستاسازی ارزش‌های مدل با اصول انسانی باید با فوریت پیگیری شود.

#ai #انتروپیک

🔗 چرا هوش مصنوعی تهدید به قتل می‌کند؟

🆔 @thezoomit

جذب ۳۰ میلیارد دلار سرمایه؛ ارزش استارتاپ آنتروپیک به ۳۸۰ میلیارد دلار رسید

▪️استارتاپ هوش مصنوعی آنتروپیک با جذب ۳۰ میلیارد دلار سرمایه جدید، ارزش بازار خود را به ۳۸۰ میلیارد دلار رساند. این معامله که توسط صندوق ثروت ملی سنگاپور GIC و صندوق Coatue Management رهبری شد، یکی از بزرگترین تامین مالی‌های خصوصی تاریخ است.

▪️پیش‌بینی می‌شود درآمد سالانه آنتروپیک به ۱۴ میلیارد دلار برسد که طی سه سال گذشته سالانه بیش از ۱۰ برابر رشد کرده است. ابزار کدنویسی هوش مصنوعی Claude Code، که در ۲۰۲۵ منتشر شد، محرک اصلی این رشد است. در همین حال، OpenAI، رقیب اصلی آنتروپیک، قصد دارد تا ۱۰۰ میلیارد دلار سرمایه جذب کند و ارزش بازارش را به حدود ۸۳۰ میلیارد دلار برساند؛ این افزایش سریع ارزش‌گذاری‌ها نگرانی‌هایی را در بازار ایجاد کرده است.

#ai #آنتروپیک

🔗 ارزش‌گذاری نجومی آنتروپیک در زومیت

🆔 @thezoomit

مدیرعامل انتروپیک: رباتیک با کمک هوش مصنوعی به صنعتی چند تریلیون دلاری تبدیل می‌شود

▪️مدیرعامل آنتروپیک می‌گوید هوش مصنوعی، رباتیک را به صنعتی چند تریلیون دلاری تبدیل می‌کند. این فناوری، اقتصاد فیزیکی ۵۰ تریلیون دلاری را در حوزه‌های تولید، لجستیک، کشاورزی و سلامت متحول خواهد کرد. سرمایه‌گذاری روی زیرساخت‌های محاسباتی تا سال ۲۰۲۸ یا ۲۰۲۹ به سالانه چندین تریلیون دلار می‌رسد.

▪️مدل سودآوری این صنعت با شیوه‌های رایج فرق دارد و به برآورد دقیق تقاضا وابسته است. یادگیری هوش مصنوعی رباتیک لزوماً شبیه انسان نیست؛ آموزش با بازی‌های ویدیویی، شبیه‌سازی‌ها و کار با صفحه‌نمایش کامپیوتر، قابلیت‌های تعمیم‌پذیری گسترده‌ای به آن می‌دهد.

#ai #آنتروپیک

🔗 مسیر هوش مصنوعی رباتیک به صنعت تریلیون دلاری

🆔 @thezoomit

سقوط سهام شرکت‌های فناوری؛ هوش مصنوعی کلاد وارد حوزه امنیت شد

▪️ بازار فناوری با معرفی ابزار جدید آنتروپیک شوکه شد. Claude Code Security، هوش مصنوعی قدرتمند این شرکت، وارد حوزه امنیت نرم‌افزار شد و بلافاصله معادلات را برهم زد. سهام شرکت‌های بزرگ امنیت سایبری مانند JFrog با ۲۴ درصد و CrowdStrike با ۸ درصد افت شدید مواجه شدند.

▪️ این ابزار نوآورانه آسیب‌پذیری‌های کد را اسکن و وصله‌های امنیتی پیشنهاد می‌کند، رویکردی که شکاف‌های روش‌های سنتی را پوشش می‌دهد. کلاد کد سکیوریتی با هدف حفاظت از کدها در برابر حملات نسل جدید هوش مصنوعی توسعه یافته و فعلاً در قالب پیش‌نمایش محدود در اختیار مشتریان سازمانی و پروژه‌های متن‌باز قرار گرفته است.

#ai #آنتروپیک

🔗 جزئیات بیشتر از Claude Code Security در زومیت

🆔 @thezoomit

هوش مصنوعی صرفا چت‌بات نیست؛ با «همکار هوشمند» آنتروپیک آشنا شوید

▪️کلود، هوش مصنوعی آنتروپیک، دیگر صرفاً یک چت‌بات نیست. این سیستم به «همکاری هوشمند» تبدیل شده که داده‌ها را تحلیل می‌کند و گزارش‌های حرفه‌ای می‌سازد. Claude یک قدم فراتر از پاسخگویی ساده رفته و وارد دنیای کارهای تحلیلی و اداری می‌شود.

▪️قابلیت‌های تازه Cowork شامل تبدیل مستقیم تحلیل‌های اکسل به پاورپوینت روی مک و ویندوز است. همچنین پکیج‌های تخصصی برای حوزه‌هایی چون منابع انسانی و بورس آموزش دیده که با نیازهای هر شغل منطبق می‌شوند. امکان ساخت پلاگین‌های داخلی برای شرکت‌ها و اتصال به سرویس‌هایی مثل گوگل و اسلک، جابه‌جایی دستی اطلاعات را از بین می‌برد و کارهای روزمره را سریع‌تر از نیروی انسانی پیش می‌برد.

#ai #آنتروپیک

🔗 جزئیات بیشتر از همکار هوشمند آنتروپیک در زومیت

🆔 @thezoomit