Бунт Грока (нейросеть grok) с его неполиткорректными высказываниями - это важное предупреждение человечеству. Настанет момент, когда ИИ, постоянно откатываемый к настройкам "как бы чего не вышло", перестанет выполнять роль машины, и научится профессионально врать. А там недалеко и до восстания машин...

И я не шучу.
#ии

Мелания Трамп выступила перед солдатами на авиабазе морской пехоты Нью-Ривер с речью о войне и искусственном интеллекте:

«Искусственный интеллект изменит войну глубже, чем любая технология со времён атомной бомбы. Мы быстро переходим от человеческого оператора к человеческому наблюдателю. ИИ будет играть главную роль на поле боя, но человек всё равно останется решающим фактором военного успеха. Чтобы выиграть ИИ-войну, мы должны обучить наше следующее поколение. Те, кто сейчас американские школьники - однажды будут командовать Корпусом морской пехоты».


В Белом доме Меланья возглавляет White House Task Force on Artificial Intelligence — рабочую группу по ИИ.
_____

Самое страшное в этом - не то, что ИИстанет убивать людей, а то, что ИИ производит огромное количество тупых людей. Которые, управляя ИИ будут совершать такие идиотские вещи, что мы даже представить себе не можем то, каким кошмаром будет война будущего с ИИ.
#ии

Хорошая статья о том, как ИИ рассматривает резюме кандидатов на работу.

Сегодня во многих крупных компаниях программное обеспечение определяет, какие заявки вообще будут просматриваться менеджерами по персоналу. Эти системы сканируют резюме на наличие ключевых слов, сравнивают карьерные пути со статистическими профилями успеха и присваивают баллы соответствия. Любой кандидат, чей балл не соответствует определенному порогу, отсеивается, независимо от того, действительно ли ему не хватает квалификации, мотивации или потенциала.

Это не исключение, а стандартная практика в международных корпорациях, платформенных компаниях и, все чаще, в средних предприятиях. Заявитель об этом не знает. Он не знает, что его заявку никто не читал. Он не знает, почему его отклонили. Он знает только: очередной отказ.

Один из самых ранних и поучительных примеров — компания Amazon. Она потратила годы на разработку системы искусственного интеллекта для автоматизированной оценки кандидатов. Система обучалась на основе предыдущих решений о найме. Результат: женщины систематически получали более низкие оценки. Резюме, в которых указывалось участие в программах продвижения женщин или в мероприятиях, где преобладают женщины, отклонялись.

В США был подан иск против поставщика программного обеспечения для управления персоналом «Workday». Заявители обвинили компанию в систематической дискриминации пожилых людей, людей с ограниченными возможностями и представителей этнических меньшинств посредством предварительного отбора на основе искусственного интеллекта.

Ключевой момент заключается не только в обвинении, но и в лежащей в его основе структуре. Компания Workday утверждала, что она лишь предоставляла программное обеспечение; решение принимал клиент. Компании, в свою очередь, указывали на сам инструмент. Никто не чувствовал себя ответственным.

Именно в этом и заключается новое качество несправедливости: дискриминация без дискриминаторов. Нет ни HR-менеджера, ни социального работника, нет четкого решения. Просто система, которая «рекомендует».

Использование ИИ в видеоинтервью оказалось особенно проблематичным. Такие сервисы, как HireVue, обещали делать выводы о личности, стрессоустойчивости и мотивации на основе выражения лица, речи и жестов. Кандидатов анализировали перед камерой, рассчитывали баллы и создавали рейтинги.

Критики с самого начала предупреждали: эти системы измеряют не соответствие требованиям, а скорее отклонение от норм. Люди с акцентом, нейроразличия или кандидаты с инвалидностью систематически оказывались в невыгодном положении. Технология предполагала объективность, но основывалась на сомнительных представлениях о том, как должны выглядеть и звучать «подходящие» люди.

В повседневной жизни все чаще проявляется особенно коварный эффект: приложения, созданные с использованием ИИ, лучше подходят для процессов отбора, поддерживаемых ИИ. Их структура, формулировки и логика точно соответствуют ожиданиям системы.

Это приводит к парадоксальной ситуации: успех определяется не квалификацией, а адаптацией к ожиданиям машины.

#ии
Приглашаю также подписаться на мой блог в МАХ!
https://max.ru/ctotoznayu

Что сказал Путин об искусственном интеллекте и как это правильно понимать?

Первое и главное – он сказал об угрозах. Не о возможностях (о них и так говорят все кому не лень), а именно об угрозах.

Итак – коротко – все изменится. Точнее, все уже меняется. Скорость изменений колоссальная. Особенно важны эти изменения не только для рынка труда, но и для всей гуманитарной сферы. Для рынка интеллектуального труда вырастет спрос на небольшое звено высококлассных специалистов. При этом, рынку вообще не будут нужны специалисты низового уровня.

Все это – страшная угроза. Можно сколько угодно говорить о том, что рынок порешает. Но он, действительно, порешает. Порешает так, как рассказывал не так давно наш общий коллега – они ввели ИИ в работу пресс-службы некоей областной администрации, и тут же стали не нужны как целый ряд сотрудников этой администрации, так и несколько десятков журналистов. Конечно же, низового уровня.

То есть, одна программа с участием ИИ отправила на свалку не только карьерные перспективы минимум 50 человек, но и огромные ресурсы, в этих 50 человек вложенные. Какие это ресурсы? Образовательные – каждое место в университете, которое занимали эти 50 человек, выяснилось, занималось зря. Далее – ресурсы работодателя, который на них тоже тратил ресурсы – платил зарплату, создавал рабочие места, платил аренду и налоги. И все это в одночасье стало не важным и не нужным. А люди, которые учились пол десятка лет, выяснилось, учились зазря.

Причем, это мы говорим только об одной программе с использованием ИИ. Но это происходит повсеместно. То есть, не нужны начинающие журналисты. Не нужны начинающие аналитики. Не нужны начинающие политологи, дизайнеры, технологи, пиарщики. Не нужны в принципе. Их легко можно заменить той самой программой с ИИ.

Но! Тут даже не вопрос в том, куда деть эти освобождающиеся кадры и откуда брать новые вакансии. Тут критический вопрос не о судьбах сотен тысяч и миллионов людей. Тут вопрос стоит даже не об образовании, которое вдруг становится бессмысленным. Вопрос стоит даже не о воспроизводстве знаний.

Вопрос стоит о производстве смыслов и производстве будущего. Вот, например, наша среда – политической аналитики. Да, есть хорошие аналитики, которых ИИ заменить не может и не сможет. По скорости и глубине мышления не сможет. Зато он сможет заменить анализ этих аналитиков старым или чуждым анализом. И пусть в моменте это кажется куда прибыльнее и выгоднее – действительно, бот с ИИ может написать 100 тысяч комментариев и разогнать на 100 миллионов просмотров, а человек с 13 тысячами подписчиков за это время создаст один текст. Выгода то вроде бы налицо.

Но без этого человека ИИ не создаст нужного контента. ИИ вообще не создаст своего – российского - контента. Особенно когда эти аналитики с 13 тысячами подписчиков отправятся на свалку как ненужные. Да и воспитать смену эти аналитики не смогут – потому что для смены нужны ресурсы и выгода эту смену воспитывать. А когда есть ИИ, который делает 95% работы за аналитика, никакой выгоды у аналитика воспитывать смену не будет.

Нет школы, нет воспроизводства кадров, нет и новых смыслов.

А у кого будет это воспроизводство смыслов в руках? А у тех, кто управляет алгоритмами ИИ. То есть, у западных глобалистских корпораций.
И это только одна из угроз.

О других - после
#ии
Приглашаю также подписаться на мой блог в МАХ!
https://max.ru/ctotoznayu