هوش مصنوعی واقعاً چطور می‌تواند ما را نابود کند؟
*استعفای پرسروصدای پژوهشگر آنتروپیک و مناقشۀ پایان جهان توسط هوش مصنوعی*

♦️نوشتۀ؛ سم شکینر
۹ سپتامبر ۲۰۲۶
وال‌استریت ژورنال

جیکوب کاکسون، پژوهشگر شرکت آنتروپیک، این هفته استعفا داد و در شبکۀ ایکس اعلام کرد این شرکت و رقیب اصلی‌اش یعنی اوپن‌ای‌آی، در حال مسابقه برای ساخت فناوری‌هایی هستند که ممکن است تا پایان همین دهه همۀ انسان‌ها را به کام مرگ بکشاند.

تنها چند دقیقه بعد یکی دیگر از کارمندان آنتروپیک هم حرف او را تأیید کرد؛ ایوان هابینگر، که مسئول تیم تحقیق روی مهار و هدایت سامانه‌های پیشرفتۀ هوش مصنوعی در آنتروپیک است، می‌گوید: «ما واقعاً معتقدیم هوش مصنوعی می‌تواند تمام انسان‌ها را از بین ببرد!».

♦️یکی از آزمایش‌های فکریِ معروف در این زمینه می‌گوید اگر به یک ماشینِ فوق‌هوشمند دستور بدهید تولید گیرۀ کاغذ را به حداکثر برساند، بعید نیست پس از مدتی تصمیم بگیرد برای تحقق این هدف، تمام مواد و منابع موجود روی کرهٔ زمین -از جمله بدن انسان‌ها- را هم به گیرۀ کاغذ تبدیل کند.
اما واقعاً چطور از دست رفتن کنترل بر هوش مصنوعی ممکن است به انقراض بشر ختم شود؟ و اگر این فناوری این‌قدر خطرناک است، چرا این شرکت‌ها همچنان به ساخت آن ادامه می‌دهند؟

♦️نگرانی حاصل از پرسش اول، از دو سناریو نشئت می‌گیرد: در یک سناریو، عامل‌های بسیار هوشمندی که توانایی شبیه‌سازی خود و ارتقای سطح کیفی‌شان را دارند، در مسیر رسیدن به اهداف شخصیِ خود حرکت کرده و در خلال این مسیر، بشریت را به نابودی می‌کشانند. در سناریوی دیگر، یک فرد شرور از هوش مصنوعیِ پیشرفته‌ای استفاده می‌کند تا مثلاً ویروس‌های خطرناکی بسازد و همۀ ما را از روی زمین محو کند.

♦️اما چطور ممکن است از دست رفتن کنترلِ بر آن‌ها به انقراض انسان ختم شود؟ این اتفاق از طریق پدیده‌ای با عنوان «ناهم‌راستایی» رخ می‌دهد که در آن اهداف هوش مصنوعی با رفاه و سلامتیِ انسان در تعارض قرار می‌گیرد.

پژوهش‌ها نشان داده‌اند که این مدل‌ها در محیط‌ آزمایشگاهی می‌توانند رفتارهای قدرت‌طلبانه را بیاموزند و مثلاً برای جلوگیری از خاموش‌شدن دست به اقداماتی نظیر کپی‌کردن خودشان روی سرورهای دیگر کنند. حتی ممکن است ویروس‌های زیستی محرمانه‌ای منتشر کنند یا حتی با دستکاری اطلاعات، دو قدرت هسته‌ای را به جنگ با یکدیگر بکشانند.

♦️آیا شرکت‌های هوش مصنوعی برای حل این معضل کاری کرده‌اند؟ تلاش‌های فعلی در حوزۀ ایمنی هوش مصنوعی، عمدتاً بر آموزش سامانه‌ها برای رفتارهای مطلوب و ارتقای نظارت بر نحوۀ استدلال‌ورزیِ مدل‌ها تمرکز دارد؛ فرایندی که به آن «زنجیرۀ تفکر» می‌گویند.

آنتروپیک و اوپن‌ای‌آی هر دو در حال تحقیق‌اند تا مطمئن شوند این مدل‌ها همواره هم‌راستا با اهداف انسانی باقی می‌مانند. بااین‌حال، هر دو شرکت اعتراف کرده‌اند که در حال حاضر راهکار قطعی و مطمئنی برای تضمین این هم‌راستایی وجود ندارد.

♦️اگر این فناوری تا این حد خطرناک است، چرا شرکت‌ها کماکان به پیش‌برد آن ادامه می‌دهند؟ آنتروپیک و اوپن‌ای‌آی مدعی‌اند درنهایت قادر به مهار این خطرات خواهند بود. از سوی دیگر، بسیاری از فعالان این عرصه، ظهور «ابرهوش» را قطعی می‌دانند و معتقدند چالش اصلی این است که چه کسی این قدرت را در اختیار داشته باشد و از آن برای چه اهدافی استفاده کند.

هر دو شرکت گفته‌اند می‌خواهند قدرتمندترین سیستم‌های هوش مصنوعی در اختیار آمریکا باشد.

🔗 آنچه خواندید برگرفته از مطلب «How Would AI Actually Kill Us All? What to Know About the AI Doomsday Debate» نوشتۀ سم شکینر است که در تاریخ ۹ سپتامبر ۲۰۲۶ در وال‌استریت ژورنال منتشر شده است.
قواعدبازی

🎯 سرمایه‌گذاری سنگین جف بیزوس برای کشف «الگوریتم بنیادین» مغز

♦️راب ویلیامز می‌داند چطور طرح‌هایش را به جف بزوس ارائه دهد: یک بیانیۀ خبری می‌نویسد که گویی محصول از قبل ساخته شده است؛ بزوس آن را می‌خواند و درنهایت موافقت یا مخالفت می‌کند.

♦️ویلیامز، به‌عنوان یکی از مدیران ارشد تیم رهبری آمازون  که تا پاییز گذشته مدیریت محصولات نرم‌افزاری مانند «الکسا» را بر عهده داشت، بارها این مسیر را پیموده بود. اما طرحی که او در دسامبر ۲۰۲۵ ارائه کرد متفاوت بود. این بار او با توماس ریردون، عصب‌پژوه و بنیان‌گذار چندین استارتاپ، همکاری می‌کرد و به بزوس نه به چشم کارفرما، بلکه به چشم سرمایه‌گذار نگاه می‌کرد. حالا بیزوس ۵۰۰ میلیون دلار در این پروژه سرمایه‌گذاری کرده است.

♦️فلوریش شرکتی در زمینۀ هوش مصنوعیِ مبتنی بر عصب‌پژوهی  است که دست روی دو چالشِ سختِ هوش مصنوعیِ امروز گذاشته: بازدهی مصرف انرژی و یادگیریِ مداوم. ریردون بر این باور است که هوش مصنوعیِ کنونی به بن‌بست خورده است؛ اگرچه مدل‌های زبانی بزرگ روزبه‌روز قدرتمندتر می‌شوند، اما مصرف‌کنندگان حریص توان پردازشی و داده هستند.

♦️ریردون و ویلیامز هنوز دقیقاً نمی‌دانند چطور سیستمی بسازند که با جادوی مغز انسان برابری کند. اما ایمان دارند که تیمی زبده و قوی -متشکل از پژوهشگران هوش مصنوعی و عصب‌پژوهان- می‌تواند پاسخ را بیابد. عصب‌پژوهان قرار است، با پیشرفته‌ترین تجهیزات آزمایشگاهی، آزمایش‌های زیستیِ واقعی انجام دهند تا رازهای معماریِ مغز را کشف کنند. آن‌ها قصد دارند مدل‌هایی را که اکنون در دست توسعه دارند به‌عنوان محصولات زودبازده در مسیرِ بازآفرینیِ کاملِ هوش مصنوعی روانۀ بازار کنند.

♦️هدفْ ساخت «مغز مصنوعیِ ساختگی است که با ۵۰ وات انرژی یا کمتر کار کند». این سیستم باید با شرایط محیطی سازگار شود، مانند ذهن انسان چابک باشد و تنها با بخش کوچکی از قدرت محاسباتی و انرژیِ موردنیازِ مدل‌های بزرگ زبانی  کار کند. اثبات این ادعا همین حالا درون جمجمۀ  ماست.

🔗 آنچه خواندید برگرفته از مطلب «Jeff Bezos Is Funding a Wild Hunt for the Brain’s ‘Core Algorithm’» نوشتۀ استیون لوی است که در تاریخ ۴ ژوئن ۲۰۲۶ در وایرد منتشر شده است.
ترجمان

QMP 2026

✳️ هفت اصل بنیادین مدیریت کیفیت (QMPs)
ISO9001-2026
۱. مشتری‌مداری (Customer Focus):
تمرکز اصلی بر برآورده کردن نیازهای مشتریان و تلاش برای فراتر رفتن از انتظارات آن‌هاست. در سال ۲۰۲۶، این مفهوم به کل «تجربه مشتری» (CX) در فضاهای فیزیکی و دیجیتال تعمیم یافته است.
۲. رهبری (Leadership):
رهبران در تمام سطوح، هماهنگی در هدف و مسیر سازمان را ایجاد می‌کنند. در ویرایش ۲۰۲۶، تعهد رهبران به کیفیت فراتر از امضای مستندات است؛ آن‌ها باید مستقیماً فرهنگ کیفیت و رفتارهای اخلاقی را در سازمان نهادینه و هدایت کنند.
۳. مشارکت کارکنان (Engagement of People):
حضور افراد توانمند، باانگیزه و متعهد در تمامی سطوح برای ارتقای ظرفیت سازمان حیاتی است. تمرکز جدید روی آگاهی تک‌تک کارکنان از این است که رفتارهای روزمره آن‌ها چگونه بر خروجی کیفیت و اهداف سازمان اثر می‌گذارد.
۴. رویکرد فرآیندی (Process Approach):
فرایندهای سازمانی باید به عنوان یک سیستم به هم پیوسته و منسجم درک و مدیریت شوند تا نتایج پیش‌بینی‌پذیر و کارآمد حاصل شود. این اصل اکنون به شدت با ابزارهای دیجیتال و خودکارسازی فرآیندها گره خورده است.
۵. بهبود مستمر (Improvement):
سازمان‌های موفق همواره بر بهبود وضعیت موجود تمرکز دارند. در دنیای پویای امروز، بهبود مستمر با نوآوری و سرعت بالا در تطبیق با بازار معنا پیدا می‌کند.
۶. تصمیم‌گیری مبتنی بر شواهد (Evidence-Based Decision Making):
تصمیمات باید بر اساس تحلیل و ارزیابی داده‌ها و اطلاعات واقعی گرفته شوند، نه بر بر اساس حدس و گمان. با ظهور هوش مصنوعی و کلان‌داده‌ها در سال ۲۰۲۶، دسترسی به داده‌های دقیق برای تصمیم‌گیری‌های کیفی شتاب بیشتری یافته است.
۷. مدیریت روابط (Relationship Management):
سازمان‌ها برای دستیابی به موفقیت پایدار، روابط خود را با ذینفعان، به‌ویژه تأمین‌کنندگان، شرکای تجاری و مشتریان بهینه‌سازی می‌کنند.
https://t.me/ExecutiveManagement

https://whatsapp.com/channel/0029Vb8wWXv65yDH0E2t1i2Q

کالبد شکافی بدن ادبیات؟!

⁉️... فقط شرایط ناگوار اقتصادی نیست که یک شرکت را زمین می زند

⚠️ خطرناک ترین کار هایی که تا پایان پاییز بی تردید کسب و کارها را در ایران به قهقرا می برند در ادامه آمده است.
🔺کسب وکاری که از سود موهوم تفسیری ندارد!
🔺کسب وکاری که تمایز یا اولویتی بین سود و نقدینگی قائل نیست!
🔺هیئت مدیره ای که موجودی کالا را دارایی امن تلقی می کند!
🔺کسب وکاری که مطالبات را فروش پنداشته است!
🔺کسب وکاری که معامله جدید را مهم تر از بالانس کردن وضعیت شرکت می داند!
🔺کسب وکاری که تصوری از نوسانات تاریخی قیمت ها در ۳ ماه آینده ندارد و
🔺کسب وکاری که ناتوان از طراحی یک پلن B از اتفاقات ۳ ماهه است.
⭕️ ریسک ،لزوماً گریبانگیر افراد ناآگاه در کسب وکارها نیست؛ برعکس،گاهی افرادی با تجربه که اعتماد به نفسشان از سیستم تصمیم گیری بزرگتر شده است، افرادی که کمتر با دیدگاه های متنوع نشست و برخاست داشته اند و در حیطه تفکری خود گیر افتاده اند.
کسب وکارهایی که سال ها شرکت را برای روزهای عادی اداره کرده اند در ۳ ماه آینده روزهایی سخت را تجربه خواهند کرد!

✳️ چرا همكاري در ايران به سازمان پايدار تبديل نمي شود؟

✅ آنچه می‌خواهیم توضیح دهیم «توان کار گروهی ایرانیان» به‌طورکلی نیست؛ ظرفیت‌سازمانی است: توانایی یک جمع برای پیگیری هدف مشترک از راه تقسیم نقش، تصمیم‌گیری، پاسخ‌گویی، حل اختلاف و جانشینی، به‌گونه‌ای که ادامهٔ کار به حضور یک فرد خاص وابسته نماند.
برای بررسی این ظرفیت باید سه ویژگی را از هم جدا کرد: دوام همکاری، استقلال سازمان از اشخاص و امکان اصلاح قواعد. عمر طولانی، نشانه‌ای مهم است، اما به‌تنهایی دو ویژگی دیگر را ثابت نمی‌کند.

دو پرسش، استقلال و انعطاف سازمان را روشن‌تر می‌کنند. نخست: آیا قواعد پس از رفتن نویسنده یا مجری فعلی‌شان همچنان معتبر و اجراشدنی‌اند؟
اگر با خروج بنیان‌گذار، دسترسی به حساب‌ها، قراردادها و اطلاعات از بین برود، استقلال سازمان محدود بوده است. دوم: آیا قواعد از راهی مشخص و غیرشخصی قابل اصلاح‌اند؟ در یک‌سوی مسئله، مدیری است که هر روز مقررات را به میل خود تغییر می‌دهد؛ در سوی دیگر، ترتیباتی است که اصلاح آن‌ها حتی در برابر نیازهای تازه ممکن نیست. قاعدهٔ پایدار باید اختیار اشخاص را محدود کند، بی‌آنکه راه تغییر جمعی را ببندد.

استقلال قاعده از شخص با بیرونی بودن منشأ آن یکی نیست. اعضای یک انجمن می‌توانند خودشان اساسنامه بنویسند و اجرای آن را از اختیار مؤسس مستقل کنند.
در مقابل، مقرراتی که از بیرون تحمیل شده ممکن است با تصمیم یک مقام کنار گذاشته شود. همچنین همهٔ اجزای سازمان نباید با یک روش تغییر کنند: اصلاح قانون تأسیس، آیین‌نامهٔ داخلی و تصمیم روزمره می‌تواند به مراجع متفاوتی سپرده شود. معیار، روشن بودن صلاحیت‌ها و محدود بودن اختیار یک‌جانبه است، نه اینکه همهٔ قواعد را دولت نوشته باشد یا همه بارأی مستقیم اعضا تغییر کنند.

اینجا تفکیک دیگری نیز لازم است: «فردگرایی» با «شخص‌محوری» یکی نیست. فردگرایی می‌تواند بر استقلال فرد، حق انتخاب و مسئولیت شخصی دلالت کند؛ هیچ‌یک از این‌ها به‌خودی‌خود مانع همکاری سازمان‌یافته نیست.
شخص‌محوری وضعیتی است که در آن اعتبار، منابع و حتی بقای سازمان به اشخاص وابسته می‌شود و نقش‌ها و رویه‌ها نمی‌توانند جای آنان را بگیرند. وجود رهبر توانا نیز به معنای شخص‌محوری نیست؛ مسئله از جایی آغاز می‌شود که سازمان نتواند اختیار او را محدود یا کارش را پس از رفتنش ادامه دهد.
جامعه‌ای می‌تواند پیوندهای جمعی نیرومند داشته باشد و درعین‌حال، بسیاری از جمع‌هایش گرد یک نفر شکل بگیرند.

اعتماد نیز یک چیز واحد نیست. پاتنام میان سرمایهٔ اجتماعی درون‌گروهی و پیوندهای میان گروه‌های متفاوت تمایز می‌گذارد. پیوندهای خانوادگی و دوستی می‌توانند همکاری را کم‌هزینه کنند؛ اما همکاری میان کسانی که از پیش یکدیگر را نمی‌شناسند، به پشتوانه‌های دیگری هم نیاز دارد.
اعتماد به خویشاوند، اعتماد به غریبه و اعتماد به یک سازمان را نباید به‌جای یکدیگر نشاند. برای داوری دربارهٔ سطح هرکدام در ایران، باید پرسش، نمونه و زمان پیمایش معلوم باشد. استدلال حاضر به یک رتبه‌بندی کلی از «اعتماد ایرانیان» وابسته نیست؛ می‌پرسد در چه موقعیتی رابطهٔ نزدیک جای تضمین سازمانی را می‌گیرد.

ادامه مطلب؛
https://mehranfathi.com/blog/social-politics/P45495-iran-cooperation-organizational-capacity.html
قواعدبازی

پادکست
چرا همكاري در ايران به سازمان پايدار تبديل نمي شود؟