Robocounsel
1.95K subscribers
265 photos
18 videos
80 files
659 links
О регулировании и социальных аспектах применения ИИ и данных, преимущественно в ЕС. Публикации отражают сугубо личное мнение автора.

Контакт, вопросы: используйте кнопку 💬 в левом нижнем углу.

Шрифт в логотипе - Alex Murphy Solid от Goatmeal
Download Telegram
Последний шанс записаться на мой завтрашний вебинар по ответственному генеративному ИИ на английском (напишите, если хотите поучаствовать, но оплата в евро вам недоступна).

А в понедельник выступаю на индийском форуме C20/G20 по проблеме этики и управления рисками ИИ-систем.

Кстати, если хотите вместе изучать фреймворки, благодаря которым предприятия могут не на словах, а на деле управлять этими рисками, вступайте в наше закрытое сообщество. Пишите на @robocounsel_bot.
🔥5❤3
США могут решиться на федеральное регулирование ИИ

Администрация Байдена во вторник начала консультации по вопросу возможного регулирования на федеральном уровне для систем искусственного интеллекта, сообщает Рейтер.

Напомню, что ранее Администрация полагалась на добровольные стандарты и саморегулирование.

Означает ли это возможную поддержку исполнительной властью затихшей парламентской инициативы по Algorithmic Accountability Act 2019 года (переизложенной в 2022 году), либо Администрация думает о собственном проекте нормативного акта, пока не ясно.

Поводом для возможной смены позиции, вероятно, стали новые скандалы и озабоченности вокруг недавно взлетевших в популярности новых продуктов генеративного ИИ общего назначения.
👍4
Вчера провёл первый в истории вебинар по ответственному использованию генеративного ИИ (ChatGPT, Midjorney, и т.п.).

Дал рекомендации, как не обжечься на этих инструментах, если вы предприниматель или менеджер, и чему нужно обязательно научить ваших сотрудников. Как не подставить своего работодателя или клиента, если вы работаете по найму или в консалтинге. Как правильно выбрать рабочие юзкейсы, если вы сами делаете ИИ-стартап. На что обратить внимание в продукте и команде, если вы инвестор.

Если пропустили, то ближайшая дата для следующего шанса на русском - 21 апреля (пятница), на английском - 28 апреля (тоже пятница). Проходите по ссылкам, регистрируйтесь заранее.

Если нужны групповые скидки, удобные другие даты или адаптированный под вас контент - напишите мне, организуем.

Отзывы:

Наталья Вьюркова:
"Очень понравилось то, что информация была подана структурировано и системно. Много примеров, четкая логика🔥"

Хольгер Цшайге:
"Судя по моей ленте LinkedIn, в эти дни все целыми днями носятся с генеративным ИИ (да-да, все это связано с работой, конечно 😉). Как говорится, это все веселье и игры, пока кто-то не наступит на реальные "грабли". Если вы используете или планируете использовать генеративный ИИ в корпоративной среде, послушайте, что говорит Александр Тюльканов о том, как ответственно использовать ИИ. Я знаю его уже несколько лет, он знает, о чем говорит, и стал одним из ведущих известных мне экспертов по этике ИИ."
🔥8❤1
Илон Маск создаёт свою ИИ-компанию — X.AI

Как сообщает Уолл-Стрит Джорнел, бизнесмен уже зарегистрировал её в Неваде и теперь занят поиском подходящих кадров в дополнение к тем, что уже работали над ИИ в Тесла Инк.

В частности, сообщается о найме Игоря Бабушкина, одного из ведущих учёных из Дипмайнд (входит в одну группу компаний с Алфабет Инк и Гугл) и других специалистов из той же организации, а также из Оупен-Эй-Ай.

Ранее сообщалось о приобретении бизнесменом у НВИДИА "тысяч" графических процессоров, предназначенных для построения ЦОД для ИИ-систем.

По мнению экспертов, компания Маска может составить конкуренцию Оупен-Эй-Ай.
👍3❤2🥴2🤔1
Аудит и оценка соответствия ИИ-систем: в чём разница?

Увидел мнение о том, что проект Регламента ЕС по ИИ предполагает аудит ИИ-систем.

Это не так. Аудита в проекте Регламента пока нет. Есть — только для систем повышенной опасности — оценка соответствия, притом в основном собственными силами провайдера и только в редких случаях с подтверждением соответствия со стороны нотифицированного органа.

Очень важно не путать смежные, но разные понятия.

Что предполагает настоящий аудит ИИ-систем (как сейчас в сфере финансов для публичных компаний) и чего нет в процедуре оценки соответствия (которая сейчас предусмотрена Регламентом ЕС по ИИ):

1) выполнение оценки сертифицированными специалистами;
2) объективные, не субъективные критерии оценки;
3) строгая независимость оценивающего (запрет на иные вызывающие конфликт интересов взаимодействия, например запрет на консалтинг для того же клиента в течение определённого срока), обычно установлена нормативно, см. акт Сарбейнс-Оксли;
4) критерии оценки бинарные (соответствие/несоответствие) и устанавливаются не проверяющим, а независимо (например, профессиональной ассоциацией);
5) выгодоприобретателем оценки является общество и пользователи отчёта об оценке, а не его заказчик;
6) для аудитора недопустима обратная связь с проверяемым в процессе оценки, итеративное решение обнаруживаемых проблем заказчика, его обучение тому "как надо";
7) аудитор несёт ответственность за ложные заверения о соответствии;
8) конечной целью аудита является публикация общедоступного отчёта об оценке.

Итак, Регламент ЕС об ИИ пока не предполагает независимого аудита ИИ-систем, хотя призывы к таким аудитам есть, в особенности в отношении систем, которые оказывают наибольшее влияние на жизнь и права граждан.

Так, за независимые аудиты своих и подобных им систем выступает лидер рынка генеративного ИИ Оупен-Эй-Ай.

На мой взгляд, со временем мы глобально придём к таким аудитам для наиболее значимых ИИ-систем точно так же, как это произошло для публичных финансов. Это крайне важно для защиты общества и прав человека.

Напомню, что первой юрисдикцией, в которой такие аудиты уже требуются по закону (начиная с грядущего лета), стали, как ни странно, США. Но не на федеральном уровне, а пока только на муниципальном - в Нью-Йорке, и пока только в части систем, используемых для найма на работу и оценки персонала.

Однако это как раз одна из сфер применения ИИ, которая наиболее чувствительна для прав граждан, поэтому служит хорошим знаком для дальнейшего расширения независимых аудитов ИИ-систем — в интересах общества.
❤3👍3
Валидация псевдонауки машинным обучением — плохая идея

Если кто-то пропустил исследования по этой теме, полиграф является средством диагностики с недоказанной эффективностью. Перепроверять его незачем, так как мы тем самым создаём видимость эффективности неэффективного метода.

На мой взгляд — перепроверять полиграф машинным обучением — это всё равно, что валидировать расклады карт таро или предсказания астрологов.

Стивен Новелла, невролог:

"Сейчас достаточно хорошо известно, что тест на полиграфе недостаточно надежен для практического использования.

По ссылке — хорошее резюме Американской психологической ассоциации (APA).

Суть в том, что сама идея детектора лжи проблематична по разным причинам.

Во-первых, гипотезы о его работе не были получены в результате психологических исследований и никогда не были ими подтверждены.

В основе использования полиграфа лежит гипотеза о том, что люди демонстрируют физиологические признаки стресса, когда пытаются кого-то обмануть или когда сталкиваются с изобличающей их информацией. Однако связь между физиологическими признаками и психическим стрессом слишком сложна, чтобы можно было разработать какой-либо тест. Ложь не имеет какого-то универсального физиологического маркера, который можно было бы выявить" (источник).

Зачем Сбер занимается пропагандой псевдонауки? Мне это непонятно.
👍9❤2🔥2🤔1
Robocounsel
Последний шанс записаться на мой завтрашний вебинар по ответственному генеративному ИИ на английском (напишите, если хотите поучаствовать, но оплата в евро вам недоступна). А в понедельник выступаю на индийском форуме C20/G20 по проблеме этики и управления…
Напомню, что сегодня в 17:00 по Москве выступаю на мероприятии Civil20/G20 по вопросам управления применением искусственного интеллекта.

С коллегами обсудим основные проблемы в этой сфере и наши рекомендации политическим лидерам G20.

Регистрируйтесь!
❤3🔥3
Обещал стрим по риск-менеджменту в ИИ — провожу.

Завтра в 19 ч. по Мск, прямо здесь. В момент начала просто нажмите кнопку, которая здесь появится.
🔥10❤3👍3
Live stream scheduled for
Robocounsel
Валидация псевдонауки машинным обучением — плохая идея Если кто-то пропустил исследования по этой теме, полиграф является средством диагностики с недоказанной эффективностью. Перепроверять его незачем, так как мы тем самым создаём видимость эффективности…
И ещё теперь об уже скандальной публикации в Нейчер про полиграфы

Для тех, кто не видит у меня на Фейсбуке теперь подзамочный пост, который я репостнул, и недоумевает, что это было: господин Альберт Ефимов из дата саенс Сбера выпилился из моих френдов и скрыл свою вроде как гордость — публикацию в Нейчер, где он и его коллеги предлагают валидировать полиграф моделями на основе машинного обучения.

Мне было ценно иметь Альберта во френдах, но истина дороже. То, что он и его коллеги сделали (и Нейчер, которые это всё пропустили) - очень вредно для всех нас.

Кому-то полиграф необоснованно загубит карьеру. Сам Сбер пострадает, потому что отфильтрует отличных кандидатов, единственной "проблемой" которых является нормальное человеческое волнение при проверке на полиграфе. И мы все с вами тоже пострадаем потому, что оказывающие нам услуги и поставляющие нам товары будут отобраны не по заслугам, а на основе чего-то сродни астрологии или хиромантии.

Такое вредительство поощрять нельзя и нужно всячески останавливать.

Отдельно обсудим этот пример как образчик провала в корпоративном управлении ИИ-рисками на сегодняшнем стриме.
🔥13❤7
Robocounsel
Обещал стрим по риск-менеджменту в ИИ — провожу. Завтра в 19 ч. по Мск, прямо здесь. В момент начала просто нажмите кнопку, которая здесь появится.
Пост для вопросов по риск-менеджменту в ИИ

В ходе стрима сегодня постараюсь ориентироваться на ваши комментарии к этому посту
❤5
Live stream started
Live stream finished (57 minutes)
Бот на боте и ботом погоняет: автоматическая проверка сгенерированного контента

Некоторые из моих практических рекомендаций поставщикам ИИ-решений в статье про чатбот-диффамацию вызвали дискуссии.

Некоторые полагают, что notice & take down (удаление порочащих сведений по запросу) может оказаться невыполнимым, поскольку переобучение большой языковой модели (БЯМ) при каждом получении запроса — нерентабельно.

Да, такой подход к удалению диффамаций проблематичен.

Но есть и другой путь: маркировать либо отфильтровывать проблемные результаты другой моделью, работающей поверх основной БЯМ. Я бы предпочел маркировку, но крупные провайдеры пока выбрали жёсткую фильтрацию.

В частности, опция жёсткой фильтрации, похоже, уже реализована в ЧатГПТ и Бинг. То ли в ответ на недавние обвинения в распространении клеветы со стороны некоторых ньюсмейкеров, то ли благодаря усилиям продуктовых команд, пытающихся заранее снять таким образом озабоченность пользователей по поводу генерации недостоверных результатов.

Я проверил, и похоже, что как только в запросе (промте) обнаруживаются имена определенных лиц, срабатывает фильтр, который заставляет модель (1) немедленно остановиться, прежде чем модель выдаст что-то "запрещённое" разработчиком (ЧатГПТ) или (2) заменить потенциально проблематичный контент, по мере его генерации, общим ответом "спросите что-нибудь ещё" (Бинг).

Недостатком такого подхода, конечно, является то, что приложение становится менее полезным для пользователя, поскольку автоматический фильтр неизбежно фильтрует не только ложную информацию, но и ту, которая может выглядеть дискредитирующей, но соответствует фактам (и, следовательно, не является диффамацией и может быть полезна пользователям).

Однако я бы предложил более интересный и менее ограничивающий пользователя подход с использованием маркировки. На изображении в качестве примера представлен концептуальный вариант реализации.

Что именно он означает и какие уже существующие технические решения позволят его реализовать, читайте сегодня в Robocounsel Plus.
👍5
Robocounsel pinned Deleted message
Robocounsel
И ещё теперь об уже скандальной публикации в Нейчер про полиграфы Для тех, кто не видит у меня на Фейсбуке теперь подзамочный пост, который я репостнул, и недоумевает, что это было: господин Альберт Ефимов из дата саенс Сбера выпилился из моих френдов и скрыл…
В моей заметке на Линкдине на тему вреда полиграфов в бизнесе и бессмысленности попыток их валидации машинным обучением я рекомендую общее правило: оценивать любой бизнес-процесс на осмысленность, прежде чем автоматизировать его.

Это навело одного из моих подписчиков, Питера Дитерта, на обобщение, которое мне кажется очень точным.

Заимствуя идеи из защиты окружающей среды, Питер предлагает последовательно проверять все бизнес-процессы на возможность:

- во-первых — ликвидации,
- во-вторых — улучшения,
- и только в-третьих — автоматизации.

При этом всегда нужно держать в уме, что ни один поставщик решений по автоматизации не заинтересован в том, чтобы советовать вам:
- уменьшить вашу зависимость от информационных технологий,
- использовать ваши собственные, оптимизированные по объёму и качеству информационные ресурсы.
❤4👍3🔥1
Больше оценок, хороших и разных

Проводите оценку вреда для субъектов персональных данных по 152-ФЗ (DPIA по GDPR)?

И, возможно, уже замахнулись на на оценку влияния вашего бизнеса на права человека (HRIA по UNGP)?

Или готовитесь к управлению рисками применения систем искусственного интеллекта?

Тогда вам будет интересно посмотреть на экспериментальную методологию оценки влияния квантовых технологий (QIA).

Да, теперь и такое есть.
👍1
Robocounsel
Генеративный ИИ: угроза для мастеров пера и кисти? На фоне обсуждений творчества ChatGPT, Midjourney и т. п. все интересуются темой, требуют ставить вотермарки, защитить или, наоборот, обесправить, промт-инженеров и авторов оригинального контента, на котором…
Чем вы лучше робота?

Тема, которую я поднимал в январе в своей статье про генеративный ИИ, получила практическое продолжение.

Юнивёрсал Мьюзик требует от стриминговых платформ снимать с ротации треки, сгенерированные искусственным интеллектом, и рассылать всем сопричастным уведомления о нарушении исключительных прав. По словам лейбла, обучение нейросетей на существующей музыке нарушает права как самого лейбла, так и представляемых им артистов.

Однако так ли это? В своей январской статье я уже задавался вопросом: является ли генеративный ИИ угрозой для творческой экономики?

Моя гипотеза в том, что если вы делаете деньги на своём творчестве, но какие-то из его ценителей без колебаний готовы переключиться на безликий генеративный контент, значит:

а) либо запросы конкретно ушедшей от вас части потребителей не столь высоки, как они сами считали, и на самом деле они изначально были потребителями не вашего продукта, а "любой в достаточной степени похожей имитации",

б) либо ваши творческие способности не столь велики, как вы сами считали, и на самом деле ваш рынок — это не рынок уникальных работ-шедевров, а рынок ширпотреба, на котором продажи происходят не на основе представлений о ценности, а на основе соображений о затратах и цене,

в) либо имеет место сочетание "а" и "б".

Выражаясь словами Джона Уорнера: боты "не способны убить ничего такого, что было бы достойно спасения".

Соответственно, если вы испытываете опасения, или даже видите реальный тренд — подписчики и клиенты от вас уходят и говорят, что уходят именно в сторону потребления генеративного контента — вам нужно что-то менять в том, что и как вы делаете и как себя позиционируете на рынке.

Времена, когда вы могли просто сидеть и получать ренту с продаж чего-то "более-менее сносного" — ушли.

Подписчики и клиенты должны видеть для себя уникальную ценность в том, что и как вы делаете. Ценность настолько большую, что им даже в голову не придёт сопоставлять ваше творчество и генеративные поделки.

Либо можно пойти в баристы — с навыками делать и артистично подавать кофе у роботов пока всё не очень хорошо.

Хотя нет, с кофе вы уже опоздали.
👍7❤2
Robocounsel
Чем вы лучше робота? Тема, которую я поднимал в январе в своей статье про генеративный ИИ, получила практическое продолжение. Юнивёрсал Мьюзик требует от стриминговых платформ снимать с ротации треки, сгенерированные искусственным интеллектом, и рассылать…
P.S. хотя вы и опоздали с кофе, вы ещё не опоздали на новый вебинар по генеративному ИИ, который я планирую в мае. Если хотите поучаствовать — проходите в @robocounsel_bot и напишите там "вебинар".
❤1
Ваши интуиции о том, как языковые модели обрабатывают данные, могут быть ошибочными

Спорю сейчас с одним известным прайваси-экстремистом по поводу того, что он может, и чего не может требовать от оператора большой языковой модели.

Модель выдавала недостоверную информацию о нём. Он пожаловался, оператор установил фильтр и больше никакая информация о нём не выдаётся.

Он недоволен. Хочет, чтобы оператор уничтожил или перетренировал языковую модель таким образом, чтобы она "не хранила" информацию о нём.

Насколько я могу судить, проблема в непонимании им (1) того, как работают языковые модели, и (2) того, что ни одно из прав человека не абсолютно, и суды всегда балансируют их между собой (например, право на неприкосновенность частной жизни и на свободу предпринимательства или свободу распространения информации).

В случае с большими языковыми моделями:

1. Обработка данных для обучения.

На обработку персональных данных для обучения модели у разработчика имелось точно такое же правовое основание, как у Гугла или Яндекса на обработку в том числе персональных данных в ходе парсинга интернета.

2. Обработка данных при эксплуатации.

Натренированная модель сама по себе не содержит никаких персональных данных. Она предсказывает слова методом статистического вывода на основе вводной. Если ваша вводная "Кто такой Иван Иванов", модель включит эти данные в свой расчёт и выдумает, какое продолжение могло бы быть у такого текста.

Поэтому если гражданин обратился с законной просьбой прекратить обработку его персональных данных, установки фильтра, блокирующего упоминание о нём в генерируемых результатах — вполне достаточно.

Требовать переобучить или уничтожить модель на этом основании — неразумно.
🔥5❤1👍1