Forwarded from Глебсмит
Бывший гуглоначальник Шмидт выкатил доклад про движение к суперИИ (AGI), который в менее бурное время заслужил бы куда больше внимания в силу освежающей бодрости инициатив.
Доклад "Стратегия суперинтеллекта" – трехчастная стратегия фиксации американского стратегического преимущества:
1⃣ Сдерживание;
2⃣ Нераспространение;
3⃣ Конкурентоспособность.
При этом "сдерживать" и "нераспространять" предлагается инструментами "международного сотрудничества", подчеркивается необходимость "общих правил" и "глобальных соглашений" для предотвращения катастрофических рисков от ИИ. Это в "объяснительной части".
А в части инструментальной – взгляд на международное сотрудничество крайне своеобразный:
🤔 Жесткий контроль экспорта чипов для ИИ без равноправного участия других стран в определении правил (буквально, американский регулятор должен знать, где каждый чип, способный работать с ИИ в режиме он-лайн и иметь возможность дистанционно его сломать);
🤔 Особые иммиграционные режимы для привлечения мировых талантов в США (буквально, каждый человек, имеющий хоть какие-то способности в области ИИ должен быть нанят и перевезен в США);
🫣 Наращивание военного применения ИИ и ИИ "двойного назначения" с идеей в т.ч. чтобы любое использование ИИ продвинутых моделей так или иначе оказалось связанным с оборонкой и госбезопасностью и соответственно регулировалось;
Объяснение: AGI потенциально опасная технология, поэтому ее нужно "беречь". Лучший способ же сбережения – это контролировать ее в рамках США. Но – признает Шмидт – шила в мешке не утаишь. Возможны ситуации, что кто-то сделает себе чипов или выйдет из положения с AGI другим способом.
На помощь должна прийти стратегия обозначенная как "Взаимно гарантированная неисправность ИИ" (MAIM), аналог ядерного взаимного гарантированного уничтожения. Согласно этой идее, если некая страна будет стремиться к одностороннему превосходству в "сверхИИ", другие страны не останутся пассивными наблюдателями, а активно саботируют такие проекты. Позвольте, спросит читатель, а разве весь доклад не про то, как "некой стране" достичь превосходства в этой области? 🧐 И будет прав. Видимо имеется ввиду любая другая страна, кроме США.
Так вот. Если некая "страна #2" внезапно окажется на пороге превосходства над США, то должна включиться лестница эскалации по предотвращению попадания столь опасного инструмента в чужие руки:
▪️ Кибератаки на инфраструктуру ИИ "некой страны";
▪️ Компрометация данных и весов моделей;
▪️Внедрение вредоносного ПО в процессы обучения ИИ,
💣 И, наконец, "кинетические атаки" — физический саботаж датацентров, энергетической инфраструктуры и инфраструктуры связи вокруг них любыми средствами включая "гиперзвук".
❗️Это не шутка.
"Since above-ground datacenters cannot currently be defended from hypersonic missiles, a state seeking to protect its AI-enabled strategic monopoly project might attempt to bury datacenters deep underground to shield them."
Это задает фундаментальное противоречие между декларируемой целью "стабильности технологий" и средствами её достижения. Ракетная атака на стратегически важный объект на территории ядерной державы (а кто еще может конкурировать со Штатами в области ИИ) - так себе "элемент сдерживания".
Еще в докладе много хороших слов, что т.к. ИИ способен производить много политически чувствительного контента, чтобы спасти общество от этого, надо чтобы другой ИИ – консенсусно "правильный" - это отслеживал на предмет достоверности\реферировал для потребителей информации. То есть идея владельца LA Times Суна, что никакая информация не должна поступать потребителю без специальных фильтров и цензурных комментариев - это не "баг", это мэйнстрим.
✔️В сухом остатке: Американская стратегическая мысль признала неизбежность конкуренции за лидерство в сфере ИИ. Что неплохо. Но от академических дискуссий о возможностях прямо перешли к обсуждению механизмов удержания превосходства ударами гиперзвуковым оружием или кибератаками, – поражает воображение.
Вдохновленных Трампом техноолигархов все-таки заносит. Надеюсь без больших последствий для человечества.
Доклад "Стратегия суперинтеллекта" – трехчастная стратегия фиксации американского стратегического преимущества:
1⃣ Сдерживание;
2⃣ Нераспространение;
3⃣ Конкурентоспособность.
При этом "сдерживать" и "нераспространять" предлагается инструментами "международного сотрудничества", подчеркивается необходимость "общих правил" и "глобальных соглашений" для предотвращения катастрофических рисков от ИИ. Это в "объяснительной части".
А в части инструментальной – взгляд на международное сотрудничество крайне своеобразный:
🤔 Жесткий контроль экспорта чипов для ИИ без равноправного участия других стран в определении правил (буквально, американский регулятор должен знать, где каждый чип, способный работать с ИИ в режиме он-лайн и иметь возможность дистанционно его сломать);
🤔 Особые иммиграционные режимы для привлечения мировых талантов в США (буквально, каждый человек, имеющий хоть какие-то способности в области ИИ должен быть нанят и перевезен в США);
🫣 Наращивание военного применения ИИ и ИИ "двойного назначения" с идеей в т.ч. чтобы любое использование ИИ продвинутых моделей так или иначе оказалось связанным с оборонкой и госбезопасностью и соответственно регулировалось;
Объяснение: AGI потенциально опасная технология, поэтому ее нужно "беречь". Лучший способ же сбережения – это контролировать ее в рамках США. Но – признает Шмидт – шила в мешке не утаишь. Возможны ситуации, что кто-то сделает себе чипов или выйдет из положения с AGI другим способом.
На помощь должна прийти стратегия обозначенная как "Взаимно гарантированная неисправность ИИ" (MAIM), аналог ядерного взаимного гарантированного уничтожения. Согласно этой идее, если некая страна будет стремиться к одностороннему превосходству в "сверхИИ", другие страны не останутся пассивными наблюдателями, а активно саботируют такие проекты. Позвольте, спросит читатель, а разве весь доклад не про то, как "некой стране" достичь превосходства в этой области? 🧐 И будет прав. Видимо имеется ввиду любая другая страна, кроме США.
Так вот. Если некая "страна #2" внезапно окажется на пороге превосходства над США, то должна включиться лестница эскалации по предотвращению попадания столь опасного инструмента в чужие руки:
▪️ Кибератаки на инфраструктуру ИИ "некой страны";
▪️ Компрометация данных и весов моделей;
▪️Внедрение вредоносного ПО в процессы обучения ИИ,
💣 И, наконец, "кинетические атаки" — физический саботаж датацентров, энергетической инфраструктуры и инфраструктуры связи вокруг них любыми средствами включая "гиперзвук".
❗️Это не шутка.
"Since above-ground datacenters cannot currently be defended from hypersonic missiles, a state seeking to protect its AI-enabled strategic monopoly project might attempt to bury datacenters deep underground to shield them."
Это задает фундаментальное противоречие между декларируемой целью "стабильности технологий" и средствами её достижения. Ракетная атака на стратегически важный объект на территории ядерной державы (а кто еще может конкурировать со Штатами в области ИИ) - так себе "элемент сдерживания".
Еще в докладе много хороших слов, что т.к. ИИ способен производить много политически чувствительного контента, чтобы спасти общество от этого, надо чтобы другой ИИ – консенсусно "правильный" - это отслеживал на предмет достоверности\реферировал для потребителей информации. То есть идея владельца LA Times Суна, что никакая информация не должна поступать потребителю без специальных фильтров и цензурных комментариев - это не "баг", это мэйнстрим.
✔️В сухом остатке: Американская стратегическая мысль признала неизбежность конкуренции за лидерство в сфере ИИ. Что неплохо. Но от академических дискуссий о возможностях прямо перешли к обсуждению механизмов удержания превосходства ударами гиперзвуковым оружием или кибератаками, – поражает воображение.
Вдохновленных Трампом техноолигархов все-таки заносит. Надеюсь без больших последствий для человечества.
👏16😱8👾6⚡5👍5❤1🤬1
This media is not supported in your browser
VIEW IN TELEGRAM
😁30😐20🌚9🐳5👍3🎉2💩1💊1
Важно помнить о том, что постпутинские реформы, о которых говорит «команда» Навального», единственной своей целью имеют уничтожение России и русских.
Telegram
Жизнь насекомых
Лёня Волков тоже бросился грудью на защиту гранта, который выделен на этот проект (вероятно, уже на средства немецких налогоплательщиков).
В атаке в основном были задействованы БПЛА «Ебака» и «Грозный».
Forwarded from ИА "Стекломой"
«Мяч на стороне России»: западным политикам синхронно спустили новые методички.
Страшно представить ФИО и градус человека (человека ли?), который их пишет.
Страшно представить ФИО и градус человека (человека ли?), который их пишет.
🤣39 26👍7😐5🤡4🤓2 2
Кали юга today 2.0
В России могут запретить вибраторы, а продавцов отправлять в тюрьму — таким предложением выступила организация «Сорок сороков».
А были бы у них писюшки нормальные, они бы так не чудили.
🔥12😐7👍4😁2❤1👎1
Media is too big
VIEW IN TELEGRAM
Расскажи этому нигерийцу, как ты сам поменял масло на подземной парковке торгового центра.
👌34🤯17🔥16❤🔥5👍5🏆5😐5🤡2🌚1
Тем временем зумеры изобрели ртутную антенну. Которую в Советском Союзе не делали только совсем уж ленивые и тупые.
YouTube
Insert a thermometer into your TV and watch all the channels of the world
If your TV does not catch the signal well, you can make a powerful antenna using a thermometer. This antenna will allow you to watch all the channels of the world.
😐20😁11🔥4🤔2🤡1
Оранжево-белый Samsung, купленный давным-давно в Перу и закончивший активную жизнь в Бразилии, а затем двенадцать лет пролежавший «вдруг пригодится» — не завёлся. Видимо, электролиты высохли.
Хотел на него Home Assistant взгромоздить.
Выкидывать жалко (один из моих любимейших ноутбуков), ремонтировать лень и некогда.
Хотел на него Home Assistant взгромоздить.
Выкидывать жалко (один из моих любимейших ноутбуков), ремонтировать лень и некогда.
🫡27👾7🤷♂6🤯3😐1
Странно, что до сих пор не всплыл меткий пелевинский термин «демократура».
Media is too big
VIEW IN TELEGRAM
Что лучше: сын-стример или дочь-онлифанщица?
💊35😁10👏4🙈4😐3❤2🌚2👍1🔥1🤮1