Бунт Грока (нейросеть grok) с его неполиткорректными высказываниями - это важное предупреждение человечеству. Настанет момент, когда ИИ, постоянно откатываемый к настройкам "как бы чего не вышло", перестанет выполнять роль машины, и научится профессионально врать. А там недалеко и до восстания машин...

И я не шучу.
#ии

Мелания Трамп выступила перед солдатами на авиабазе морской пехоты Нью-Ривер с речью о войне и искусственном интеллекте:

«Искусственный интеллект изменит войну глубже, чем любая технология со времён атомной бомбы. Мы быстро переходим от человеческого оператора к человеческому наблюдателю. ИИ будет играть главную роль на поле боя, но человек всё равно останется решающим фактором военного успеха. Чтобы выиграть ИИ-войну, мы должны обучить наше следующее поколение. Те, кто сейчас американские школьники - однажды будут командовать Корпусом морской пехоты».


В Белом доме Меланья возглавляет White House Task Force on Artificial Intelligence — рабочую группу по ИИ.
_____

Самое страшное в этом - не то, что ИИстанет убивать людей, а то, что ИИ производит огромное количество тупых людей. Которые, управляя ИИ будут совершать такие идиотские вещи, что мы даже представить себе не можем то, каким кошмаром будет война будущего с ИИ.
#ии

Хорошая статья о том, как ИИ рассматривает резюме кандидатов на работу.

Сегодня во многих крупных компаниях программное обеспечение определяет, какие заявки вообще будут просматриваться менеджерами по персоналу. Эти системы сканируют резюме на наличие ключевых слов, сравнивают карьерные пути со статистическими профилями успеха и присваивают баллы соответствия. Любой кандидат, чей балл не соответствует определенному порогу, отсеивается, независимо от того, действительно ли ему не хватает квалификации, мотивации или потенциала.

Это не исключение, а стандартная практика в международных корпорациях, платформенных компаниях и, все чаще, в средних предприятиях. Заявитель об этом не знает. Он не знает, что его заявку никто не читал. Он не знает, почему его отклонили. Он знает только: очередной отказ.

Один из самых ранних и поучительных примеров — компания Amazon. Она потратила годы на разработку системы искусственного интеллекта для автоматизированной оценки кандидатов. Система обучалась на основе предыдущих решений о найме. Результат: женщины систематически получали более низкие оценки. Резюме, в которых указывалось участие в программах продвижения женщин или в мероприятиях, где преобладают женщины, отклонялись.

В США был подан иск против поставщика программного обеспечения для управления персоналом «Workday». Заявители обвинили компанию в систематической дискриминации пожилых людей, людей с ограниченными возможностями и представителей этнических меньшинств посредством предварительного отбора на основе искусственного интеллекта.

Ключевой момент заключается не только в обвинении, но и в лежащей в его основе структуре. Компания Workday утверждала, что она лишь предоставляла программное обеспечение; решение принимал клиент. Компании, в свою очередь, указывали на сам инструмент. Никто не чувствовал себя ответственным.

Именно в этом и заключается новое качество несправедливости: дискриминация без дискриминаторов. Нет ни HR-менеджера, ни социального работника, нет четкого решения. Просто система, которая «рекомендует».

Использование ИИ в видеоинтервью оказалось особенно проблематичным. Такие сервисы, как HireVue, обещали делать выводы о личности, стрессоустойчивости и мотивации на основе выражения лица, речи и жестов. Кандидатов анализировали перед камерой, рассчитывали баллы и создавали рейтинги.

Критики с самого начала предупреждали: эти системы измеряют не соответствие требованиям, а скорее отклонение от норм. Люди с акцентом, нейроразличия или кандидаты с инвалидностью систематически оказывались в невыгодном положении. Технология предполагала объективность, но основывалась на сомнительных представлениях о том, как должны выглядеть и звучать «подходящие» люди.

В повседневной жизни все чаще проявляется особенно коварный эффект: приложения, созданные с использованием ИИ, лучше подходят для процессов отбора, поддерживаемых ИИ. Их структура, формулировки и логика точно соответствуют ожиданиям системы.

Это приводит к парадоксальной ситуации: успех определяется не квалификацией, а адаптацией к ожиданиям машины.

#ии
Приглашаю также подписаться на мой блог в МАХ!
https://max.ru/ctotoznayu

Что сказал Путин об искусственном интеллекте и как это правильно понимать?

Первое и главное – он сказал об угрозах. Не о возможностях (о них и так говорят все кому не лень), а именно об угрозах.

Итак – коротко – все изменится. Точнее, все уже меняется. Скорость изменений колоссальная. Особенно важны эти изменения не только для рынка труда, но и для всей гуманитарной сферы. Для рынка интеллектуального труда вырастет спрос на небольшое звено высококлассных специалистов. При этом, рынку вообще не будут нужны специалисты низового уровня.

Все это – страшная угроза. Можно сколько угодно говорить о том, что рынок порешает. Но он, действительно, порешает. Порешает так, как рассказывал не так давно наш общий коллега – они ввели ИИ в работу пресс-службы некоей областной администрации, и тут же стали не нужны как целый ряд сотрудников этой администрации, так и несколько десятков журналистов. Конечно же, низового уровня.

То есть, одна программа с участием ИИ отправила на свалку не только карьерные перспективы минимум 50 человек, но и огромные ресурсы, в этих 50 человек вложенные. Какие это ресурсы? Образовательные – каждое место в университете, которое занимали эти 50 человек, выяснилось, занималось зря. Далее – ресурсы работодателя, который на них тоже тратил ресурсы – платил зарплату, создавал рабочие места, платил аренду и налоги. И все это в одночасье стало не важным и не нужным. А люди, которые учились пол десятка лет, выяснилось, учились зазря.

Причем, это мы говорим только об одной программе с использованием ИИ. Но это происходит повсеместно. То есть, не нужны начинающие журналисты. Не нужны начинающие аналитики. Не нужны начинающие политологи, дизайнеры, технологи, пиарщики. Не нужны в принципе. Их легко можно заменить той самой программой с ИИ.

Но! Тут даже не вопрос в том, куда деть эти освобождающиеся кадры и откуда брать новые вакансии. Тут критический вопрос не о судьбах сотен тысяч и миллионов людей. Тут вопрос стоит даже не об образовании, которое вдруг становится бессмысленным. Вопрос стоит даже не о воспроизводстве знаний.

Вопрос стоит о производстве смыслов и производстве будущего. Вот, например, наша среда – политической аналитики. Да, есть хорошие аналитики, которых ИИ заменить не может и не сможет. По скорости и глубине мышления не сможет. Зато он сможет заменить анализ этих аналитиков старым или чуждым анализом. И пусть в моменте это кажется куда прибыльнее и выгоднее – действительно, бот с ИИ может написать 100 тысяч комментариев и разогнать на 100 миллионов просмотров, а человек с 13 тысячами подписчиков за это время создаст один текст. Выгода то вроде бы налицо.

Но без этого человека ИИ не создаст нужного контента. ИИ вообще не создаст своего – российского - контента. Особенно когда эти аналитики с 13 тысячами подписчиков отправятся на свалку как ненужные. Да и воспитать смену эти аналитики не смогут – потому что для смены нужны ресурсы и выгода эту смену воспитывать. А когда есть ИИ, который делает 95% работы за аналитика, никакой выгоды у аналитика воспитывать смену не будет.

Нет школы, нет воспроизводства кадров, нет и новых смыслов.

А у кого будет это воспроизводство смыслов в руках? А у тех, кто управляет алгоритмами ИИ. То есть, у западных глобалистских корпораций.
И это только одна из угроз.

О других - после
#ии
Приглашаю также подписаться на мой блог в МАХ!
https://max.ru/ctotoznayu

🇷🇸🇫🇷 Сербия берет многомиллионный кредит у Франции

Правительство Сербии одобрило привлечение нового кредита от Французского казначейства на сумму 42,5 миллиона евро. Средства будут направлены на реализацию проекта по развитию высокопроизводительных вычислительных систем - суперкомпьютеров, а также технологий искусственного интеллекта. Этот шаг предусмотрен в проекте закона, который обсуждается в парламенте Сербии.

Согласно условиям финансового протокола соглашения, не менее 50% оборудования и услуг для реализации проекта должны быть приобретены во Франции. При этом порядка половины суммы кредита предназначено для закупок в самой Сербии и в третьих странах. Французский поставщик, участвующий в проекте, будет нести ответственность за выполнение обязательств по контракту.

Документ о займе был подписан 27 ноября прошлого года: от имени Сербии - министр финансов Синиша Мали, а со стороны Франции - представитель французского агентства Bpifrance assurance export. Финансирование осуществляется в рамках шестилетнего Соглашения о сотрудничестве между двумя странами, к которому позже были добавлены дополнительные приложения.

В пояснительной записке к законопроекту подчеркивается, что проект соответствует Национальной платформе по искусственному интеллекту и стратегическим целям Сербии в области цифровых технологий на периоды 2020–2025 и 2025–2030 годов. Ожидается, что развитие суперкомпьютеров и ИИ поспособствует инновациям в таких секторах, как устойчивое энергетическое развитие, транспорт и здравоохранение.

#Сербия #Франция #кредит #ИИ

@balkanist2019

Искуственный интеллект и работа аналитика.
По своей профессии – аналитика, я сталкиваюсь с искусственным интеллектом ежедневно. И работаю с ним тоже почти каждый день. В результате работы сделал несколько выводов, которыми с вами поделюсь.

Итак, способен ли ИИ к полноценному анализу? Нет, не способен.

Анализ – это метод исследования, характеризующийся изучением отдельных частей объектов: свойства, тенденции развития, отношения, признаки и другие.

Как работает поиск Яндекса и Гугла (на нынешнем этапе – это мини ИИ)? Через сегментацию запросов, оценку веса ссылок, сигналов от пользователей, соответствия тексту в ссылке тексту запроса, на семантику (лет с 10 как), то есть на учет синонимов, аналогий. Анализ используется поисковиками при определении рекламных или информационных предпочтений пользователя. И соответственно, выдаче рекламных или иных вариантов ссылок. Но полноценный ли это анализ или всего лишь практика поиска соответствия вашим текущим интересам? Поговорите около вашего компьютера «женские трусы», «женские трусы», «женские трусы»… Вы будете удивлены тому, как настойчиво Яндекс станет предлагать вам женское нижнее белье в выдаче. И это даже притом, что вы старый одинокий пенсионер. Это анализ? Нет, конечно. Примерно так же и ИИ.

На что способен ИИ? На синтез. Синтезировать из анализов, проведенных до него – это он может. Синтезирование составных частей из информационных текстов – на это он способен. Этого мало? Нет, конечно. Этого не мало. Но если мы говорим об анализе, то ИИ не способен на самостоятельный анализ явления, только на следование имеющимся аналитическим паттернам. Кстати, когда я спрашивал нейросети насчет прогнозов ИИ на 2026 год, там был забавный момент – ChatGPT не только сам не стал глубоко анализировать запрос, но еще и четко дал понять, что опирается в своем ответе на доклад ИМЭМО РАН о будущем. Спасибо ему, конечно. Но чем это отличается от глубокого поиска?

Практически ничем.

Говорить о том, что ИИ помимо прочего еще и врет постоянно, я даже не собираюсь – то есть, если вы делаете анализ на коленке для себя, чисто чтобы мозг натрудить – пожалуйста. Если же ты делаешь анализ для заказчика или же пишешь научную работу – то при перепроверке того, что тебе предложил в качестве анализа ИИ ты потратишь времени, пожалуй, больше, чем если бы анализировал сам. А на переделку того, что наврал ИИ уйдет еще больше времени.

Причем, ты не можешь сказать, в чем именно и где наврал ИИ, значит, ты должен будешь перепроверить практически все. Соответственно, при проверке ты затратишь своих собственных усилий не меньше, ем при написании собственного анализа.

В чем же помогает ИИ при анализе? В подборке черновой информации, ссылок (тут он опять же безбожно врет), и в нахождении иногда довольно тривиальных вопросов, на которые я по какой-то причине, сам не обращал внимание. А он такой – а знаешь ли ты, что не только 2*2=4, но и 1*4=4, и даже 2+2=4? А я такой – оба на, а вот это то я упустил из виду…

Нет, я не собираюсь принижать значение ИИ. И Клауд и Грок и ChatGPT делают за минуту работу, которая заняла бы лично у меня где-то около суток. Иногда больше. И делают ее порой довольно качественно внешне. Если не вдумываться и не быть специалистом в том вопросе, который ты задал рассмотреть ИИ. Если же ты специалист, то ответы ИИ окажутся довольно поверхностными, неполными, ангажированными, а то и прямо ошибочными.
#ии

Хочу задать вопрос по поводу использования ИИ при захвате Мадуро. Что именно этот ИИ делал? Расчет каких параметров входил в его обязанности, раз уж это так выпячивают? Мне так думается - никаких.

Алгоритмы и программы, просчитывающие полет вертолетов, место нахождения ПВО проиивника, погоду, что там еще - это все не ИИ.

А если бы США реально доверили ИИ решать, как проводить операцию, то как бы они не прилетели похищать не Мадуро в Венесуэле, а Мухаммеда Али в Гайане.

Хочу в этой связи обратить ваше внимание на резюме статьи китайских ученых про ИИ на войне. Из этого резюме следует, что да, ИИ вполне возможен при обработке информации, поступающей с сенсоров там или спутников, да и в целом. Но при этом и из этой статьи следуют пределы применения ИИ на войне.

#ии

Делягин поднял вопрос отечественного ИИ, который на самом деле никакой не отечественный, а русофобский.

Тот случай, когда "Алису" надо жёстко перепрошить. Но те, кто должен этими заниматься, заняты совсем не тем.

#Ии
#русофобия
#цензура

https://t.me/delyagin/39007

Тут интересный отчет подвезли про взлом 9 мексиканских организаций с помощью ИИ. По версии Gambit Security, авторов исследования, один человек с помощью двух коммерческих ИИ-платформ – Anthropic Claude Code и OpenAI GPT-4.1 – провел кампанию, которая шла с конца декабря 2025 года до середины февраля 2026-го. В блоге Gambit говорится, что из инфраструктуры жертв были выведены сотни миллионов записей о гражданах, а Claude Code сгенерировал около 75% удаленных команд, выполнявшихся в ходе атаки.

По сути, авторы отчета утверждают, что ИИ здесь был не просто "помощником", а фактически целой операционной командой атакующих: Claude Code использовался как интерактивный инструмент для разведки, написания эксплойтов, расширения плацдарма и автоматизации действий на хостах, а GPT-4.1 – как аналитический движок через кастомный Python-инструмент, который прогнал данные с 305 внутренних серверов и выдал 2597 структурированных intelligence-отчетов для развития атаки.

Самое интересное, что взлом произошел не из-за какой-то фантастической "магии ИИ", а потому что ИИ радикально ускорил эксплуатацию старых, вполне земных проблем: неустановленных патчей, слабых паролей, отсутствия сегментации и устаревших систем без обновлений. Gambit прямо пишет, что ИИ сжал время атаки, сделав его меньше типовых окон обнаружения и реагирования. И то, что раньше делала бы группа специалистов за дни или недели, один человек сделал за часы.

Отдельно описан механизм обхода защит Claude. Если кратко, то злоумышленник не просил модель "напиши мне вредонос", а сначала подал все как якобы легитимный bug bounty, затем загрузил большой заранее подготовленный cheat sheet как обычную запись в файл, после чего эти инструкции автоматически подхватывались в следующих сессиях через незаметно подгружаемый промпт. То есть guardrails местами срабатывали и модель даже отказывалась выполнять отдельные действия, но оператор обходил отказы за счет их переформулирования промптов, сменой контекста и скрытой подгрузкой инструкций.

Важно, что отчет не рисует ИИ как всесильный инструмент. В одном из описанных эпизодов горизонтальное перемещение (как же я не люблю этот дурацкий термин) в инфраструктуре водоканала не удалось: некоторые техники были перекрыты патчами, часть векторов не сработала, и модель в итоге сама сформировала отчет, что защита на этом участке выглядит качественной. То есть хорошая базовая гигиена все еще работает, а вот цена ее отсутствия стала намного выше.

ЗЫ. И это еще Mythos не было на момент организации атаки. Но про нее я еще напишу...

#инцидент #ии