Robocounsel
1.95K subscribers
265 photos
18 videos
80 files
659 links
О регулировании и социальных аспектах применения ИИ и данных, преимущественно в ЕС. Публикации отражают сугубо личное мнение автора.

Контакт, вопросы: используйте кнопку 💬 в левом нижнем углу.

Шрифт в логотипе - Alex Murphy Solid от Goatmeal
Download Telegram
Не хватает ИИ-новостей, интересных статей, обсуждений и мемов?

Или просто хотите поддержать канал и автора?

Напомню, что для этого у нас есть сообщество AI Governance (и бонусный канал к нему — Robocounsel Plus).

Подписывайтесь!
👍1🥴1
Обучение ИИ-моделей на книгах без согласия правообладателей: fair use в США или нет?

Сразу по двум разным делам в США двое судей признали обучение ИИ-моделей на произведениях, охраняемых авторским правом, добросовестным использованием.

Обстоятельства дел отличаются, решения промежуточные и по упрощённой процедуре, а инициатива применения упрощённой процедуры — и соответственно бремя доказывания — лежали в этих делах на разных сторонах процесса, поэтому сильно разнятся и мотивировочные части решений. Общность в том, что доктрина добросовестного использования к обучению ИИ-моделей применяться может.

Но судьи разошлись по ряду оценок.

Судья Чабрия по делу Меты* пришёл к выводу, что если бы истцы смогли показать, как вместо приобретения произведений истцов потребители будут взамен оплачивать подписку на сервисы ИИ-компаний, это было бы сильным аргументом в пользу истцов, но они даже не пытались развить эту мысль.

Тем не менее, судья предвидит, что в будущем аналогичные дела другие истцы могут вполне вероятно выигрывать, если они как следует аргументируют наличие таких экономических эффектов (а мы с вами знаем, что они действительно есть — к примеру, рынок стоковых фото и иллюстраций уже существенно пострадал: потребители теперь чаще платят деньги ИИ-компаниям за генерацию изображений, чем покупают их на стоке или заказывают иллюстраторам).

Судья Олсап по делу Антропика не принял эту аргументацию и считает, что такое вытеснение авторов произведений на рынке ИИ-компаниями выходит за рамки релевантного для авторского права. В то же время он более строго, чем коллега, оценил факт использования для обучения ИИ-моделей экземпляров произведений, полученных из "пиратских" источников.

Частично модели Антропика были обучены на таких произведениях, и в отношении последствий такого шага будет ещё вынесено отдельное решение. Но в части обучения на отсканированных экземплярах книг — Антропик приобрёл миллионы экземпляров и потратил на это многие миллионы долларов — нарушения интересов правообладателей судья не усмотрел.

Решения интересные и стимулируют к огромному количеству размышлений. В том числе о необходимости давать отдельную оценку потенциальным нарушениям (а) на стадии обучения ИИ-модели и (б) на стадии её последующего использования. Практика постепенно формируется.

* Деятельность Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook и Instagram запрещена в РФ
😁4👍2🤔1😱1
Бесплатный вебинар: система на базе LLM как медицинское изделие

Prof. Valmed утверждают, что они первыми в мире получили сертификат соответствия ИСО 13485 на свою систему поддержки принятия решений для врачей на базе большой языковой модели (с применением RAG-подхода), как медизделие класса IIb согласно EU MDR.

Доктор Хью Харви завтра проводит с ними вебинар на Линкдине.

Так что если SaMD ваша тема — не пропустите.
🥴4👍2❤1😁1
Robocounsel
Нижняя палата парламента США одобрила законопроект о моратории на нормотворчество в области ИИ на уровне отдельных штатов 22 мая 2025 года Палата представителей Конгресса США минимальным перевесом голосов (215 против 214) одобрила законопроект "One Big Beautiful…
США: субъекты американской федерации сохранят право регулировать ИИ

Сенат 99 голосами против 1 исключил из законопроекта о федеральном бюджете одиозное положение о запрете штатам принимать законы для защиты своих граждан от злоупотреблений со стороны ИИ-компаний.

В последней редакции запрет был трансформирован в санкцию: будете регулировать эти вопросы на уровне штатов — не получите часть федерального финансирования. Но даже эта модификация не помогла: сенаторы посчитали любой федеральный мораторий — в условиях отсутствия проходных федеральных законопроектов на эту тему — слишком щедрым подарком ИИ-компаниям.

В числе лоббировавших провалившийся мораторий Оупен-Эй-Ай и Гугл. О сути предложений писал ранее.

Лоббисты уже в истерике.
👍6😢1
Почему базовые регуляторные требования к кибербезопасности и угроза штрафов для компаний — это хорошо

Национальная комиссия Франции по информатизации и гражданским свободам (CNIL) опубликовала анализ экономического эффекта требований ОРЗД (GDPR) в области кибербезопасности для компаний и общества в целом.

Даже если ограничить такой анализ только утечками данных (далеко не единственная угроза, против которой направлены требования ОРЗД), эффект сугубо положительный, притом как для самих компаний, так и — что важнее — для общества в целом.

Благодаря закреплению в ОРЗД базовых требований к кибербезопасности, к информированию субъектов об утечках их данных, и благодаря установлению штрафов за несоблюдение этих требований, общий размер предотвращённого вреда от утечек в ЕС составил от 0,5 до 1,4 млрд. евро (82% от этой цифры — предотвращённые убытки компаний), количество утечек сократилось на 2,5-6,1%.

При этом анализ показывает, что в отсутствие регуляторных требований и угрозы штрафов компании не имели бы достаточной мотивации раскрывать крупнейшие утечки.

Эти выгоды представляют собой лишь небольшую часть общей пользы, приносимой ОРЗД в плане сокращения киберпреступности. Они отражают влияние лишь одного из его положений на конкретный вид киберпреступности (кража личных данных). Необходимо также учитывать положительное влияние соблюдения GDPR на кибервымогательство, ботнеты, вредоносное ПО и т. д. Экономистам было бы полезно более глубоко изучить проблему кибербезопасности, чтобы получить более полное представление об этой теме.
❤5👍2🤬1
This media is not supported in your browser
VIEW IN TELEGRAM
Паузы в применении Регламента ЕС по ИИ не будет

В последнее время было много спекуляций по этому поводу, со ссылкой на обсуждения в кулуарах Еврокомиссии.

В частности, ссылались на слова Хенны Вирккунен, исполнительного вице-президента Еврокомиссии по технологическому суверенитету (отвечающую за ИИ-тематику) на служебном совещании 6 июня:

Если мы увидим, что стандарты и руководства. . . не будут готовы вовремя, мы не должны исключать возможность отсрочки по некоторым положениям Регламента об ИИ.


Тем не менее, сегодня пресс-секретарь Еврокомиссии по тому же самому техническому суверенитету Томас Ренье подытожил:

Нет никакой остановки часов, никакого льготного периода, никакой паузы. Почему? Потому что у нас есть юридически обязательные сроки, установленные нормативным актом, по наступлении которых Еврокомиссия будет обеспечивать применение этих норм и следить за тем, чтобы компании соблюдали требования Регламента ЕС по ИИ.
👍5
Персональные данные и ИИ

Чуть не забыл, у меня же в эту пятницу двухчасовой практический вебинар по пересечению требований Регламента ЕС по ИИ и ОРЗД/GDPR.

Как почти всё лучшее в этой жизни, вебинар платный. По сути — это сфокусированный на данной теме фрагмент моего четырёхнедельного курса по Регламенту, для тех, кто его пока не прошёл и не имеет на это достаточного времени.

Если это вам нужно для вашего профессионального развития — записывайтесь на сайте.
Если вы хотите оплатить в рублях — пишите через бот.
👍5❤4😁2
Четыре проблемы копирайта в эпоху ИИ

Отличная статья Андреса Гуадамуза на эту тему. Не даёт решений, но отмечает, что они сугубо в области политики права, в руках законодателей и в области de lege ferenda, а не в страусиной надежде засунуть голову в de lege lata сложившееся авторское право и ждать, пока оно всё решит. Не решит.

Почему? Читайте в статье. Но если вкратце, его аргументы таковы:

1) ИИ-модели уже обучены на огромных массивах данных. И даже при теоретическом обанкрочивании всех ИИ-компаний, до которых правообладатели могли бы дотянуться, это не прекратит существование этих моделей и их глобальное распространение, в том числе в юрисдикциях, по сути игнорирующих копирайт. При любом раскладе ИИ-модели останутся в репозиториях и на рынке (прежде всего опенсорсные модели, каковых всё больше). Копирайт-индустрия пытается догнать уже ушедший поезд, тогда как переговоры о лицензировании следовало бы провести заранее, несколько лет назад.

2) Процесс обучения ИИ-модели предполагает доступ к экземпляру произведения для извлечения данных, но не влечёт создания производного произведения и не приводит сам по себе к опубликованию экземпляра — исходного или производного произведения — в правовом смысле, что делает потенциальный ущерб, который можно потребовать в суде к возмещению, незначительным. По крайней мере в тех юрисдикциях, где размеры компенсаций за нарушения авторского права не установлены законом.

3) Само по себе обучение ИИ-модели на материале произведения не является исключительным правом автора, поэтому извлечение информации из законно приобретенного произведения (как в случае, когда Антропик приобрёл на рынке миллионы физических экземпляров книг) само по себе не нарушает исключительного права.

4) Старые экономические модели роялти не работают из-за масштаба и доли отдельного произведения в корпусе данных, на которых обучены ИИ-модели. Крупнейшие — и популярнейшие — ИИ-модели требуют миллиардов токенов для обучения, что в сочетании с необходимостью приобретения только одного экземпляра произведения делает ценность лицензионного рынка ничтожной — создатели получали бы стремящиеся к нулю доли процента от и без того небольших сумм — на порядки меньше, чем они сейчас получают в виде роялти от суммы каждой подписки потребителя на Яндекс.Музыку или Спотифай.

P.S. Автор статьи относит себя к копирайт-минималистам. О предыдущих эпизодах копирайт-войн тупоконечников (минималистов) с остроконечниками (максималистами) читайте в другой его статье.
❤7👍4
Опубликован Свод практик для операторов GPAI моделей

Свод практик — ко-регуляторный инструмент, разработанный во исполнение требований Регламента ЕС по ИИ, касающихся поставщиков ИИ-моделей общего назначения (к ним относятся модели семейств GPT-4, Claude, DeepSeek и подобные).

В разработке Свода участвовал широкий круг лиц и организаций, включая саму ИИ-индустрию. Не обязателен к присоединению, но в случае присоединения обязателен к выполнению.

Документ состоит из трёх глав, посвящённых порядку выполнения требований Регламента к поставщикам ИИ-моделей общего назначения:
- о транспарентности,
- о соблюдении норм авторского права,
- об обеспечении общественной безопасности и кибербезопасности самих систем (управление системными рисками).
🔥8
Robocounsel
Опубликован Свод практик для операторов GPAI моделей Свод практик — ко-регуляторный инструмент, разработанный во исполнение требований Регламента ЕС по ИИ, касающихся поставщиков ИИ-моделей общего назначения (к ним относятся модели семейств GPT-4, Claude…
Оупен-Эй-Ай планирует подписать Свод практик ЕС для поставщиков GPAI моделей

Компания заявила о намерении сделать это при условии одобрения проекта Свода со стороны Европейского совета по искусственному интеллекту (AI Board, формируется из представителей государств-членов ЕС).

Также в заявлении компании излагается позиция по поводу желаемый дальнейших шагов в отношении европейской ИИ-стратегии.

Совет и Еврокомиссия рассматривают проект Свода в данный момент, как это предусмотрено Регламентом ЕС по ИИ.

Насколько мне известно, это первое заявление со стороны одного из ведущих игроков рынка, на которых распространяется Регламент.

Ждём позиций Антропика и Мистраля.
🔥8🤬2🌚1
Спецификации для людей и машин

Шон Гроув из Оупен-Эй-Ай проводит параллели между тем, что делают ИИ-инженеры и юристы, формируя базовый текст, определяющий требуемое положение дел.

Параллель интересная, только вот "clear, unambiguous" спецификация для социальных отношений это очень большая условность.

Сами регулируемые отношения и их субъекты настолько сложнопредсказуемы и зависят от ценностных суждений, что о точности правовых "спецификаций" говорить не приходится.

Да, есть какие-то универсалии, вроде тех, что "убийство — это плохо", но даже они подвержены оговоркам и заранее всё специфицировать невозможно и бесполезно.

А у ИИ-инженеров другая проблема: как верно отмечают в комментариях под видео, текущие ИИ-продукты не умеют писать стабильный код по этим самым чётким, однозначным спецификациям. Которые для кода-то как раз возможны.

Поэтому видео интересное, аналогия любопытная, но неточная и продукты Шона тоже не работают так, как он пытается нас убедить.

Ну и концовка по поводу приглашения идти к ним строить AGI — кринж. Никакого AGI его компания не строит. Тут он либо намеренно обманывает, и позор ему, либо у него AGI головного мозга, и сочувствие и соболезнования ему.

Его компания делает конкурентоспособные продукты, полезные, игнорируя ряд этических дилемм. Но не AGI. Эти сказки оставьте для детей, Шон.
1👍4
AI Agent Mailbox Access Threat Table - 2025-07-18.pdf
216.2 KB
"Все побежали, и я побежал"?

Ведущие ИИ-компании анонсировали новых агентов, которые умеют автономно выполнять ваши задачи в интернете.

И у меня в соцсетях пошла пропаганда от ИИ-энтузиастов, которые с горящими глазами подключают этих агентов к своей почте и дают широкие права доступа к другим своим ИТ-ресурсам.

Прежде чем бежать за ними вслед сломя голову, остановитесь и подумайте 5 минут, как вы этим самым создаёте новые угрозы и увеличиваете риски — не только для себя, но и для других людей. Коллег, друзей, просто посторонних.

Для одного только сценария доступа агента к почте за 5 минут получится примерно такой список, как во вложении. Если подумать больше 5 минут, то список угроз гарантированно вырастет.

Для других сценариев — будут дополнительные угрозы.

Поэтому сначала думаем, идентифицируем угрозы, снижаем риски до приемлемого уровня, и только потом экспериментируем.

Или не экспериментируем, если риски для вас или, что важно, для других потенциальных жертв — неприемлемы.
❤7👍3🌚2
Robocounsel
Оупен-Эй-Ай планирует подписать Свод практик ЕС для поставщиков GPAI моделей Компания заявила о намерении сделать это при условии одобрения проекта Свода со стороны Европейского совета по искусственному интеллекту (AI Board, формируется из представителей…
Антропик и Мистраль присоединяются к Своду практик ЕС для поставщиков GPAI моделей

Майкрософт вычитывает и сообщает, что "вероятно" подпишет тоже.

Подписанты:
✅ OpenAI 🇺🇸
✅ Anthropic 🇺🇸
✅ Mistral 🇫🇷

Баба-Яга против:
❌ Meta* 🇺🇸

* Деятельность Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook и Instagram запрещена в РФ
👍3
Яндекс сертифицировал свою систему менеджмента ИИ-систем по ИСО/МЭК 42001

И присоединился таким образом к числу компаний, которые также получили подобный сертификат ранее. Среди них Антропик, Амазон Веб Сервисез, Самсунг и ряд других технологических компаний.

Насколько мне известно, это первая российская компания, прошедшая такую процедуру.

Сертификация подтверждает, что независимый орган провёл аудит и удостоверился в том, что компания внедрила базовые политики и процессы, необходимые для ответственной разработки и внедрения систем искусственного интеллекта в соответствии с требованиями стандарта, включая:
1) понимание контекста организации и потребностей клиентов и иных заинтересованных лиц;
2) функции руководства, внедрение политик, распределение ответственности и полномочий;
3) планирование действий для управления рисками, постановки и достижения целей, управления изменениями;
4) управление ресурсами, компетенциями, коммуникацией и документацией,
5) оперативное управление, оценка и обработка рисков, оценка воздействия;
6) оценка результатов, мониторинг, внутренние аудиты и анализ со стороны руководства;
7) постоянное улучшение, управление несоответствиями и корректирующие действия.

Как сертифицированный специалист по внедрению этого стандарта на предприятиях рад за коллег.

В отличие от AWS и Anthropic, Яндекс — по крайней мере пока — не опубликовал заявление о применимости (Statement of Applicability), которое показывает, какие именно меры по управлению рисками (контроли) внедрены компанией из числа предлагаемых в Приложении А к стандарту.

P.S. 42001 — стандарт на систему менеджмента. Сертификация не гарантирует безопасности ИИ-систем или соответствия их нормативным требованиям или ожиданиям публики, но подтверждает, что компания проделала работу по созданию базовой системы менеджмента для организаций, разрабатывающих или внедряющих ИИ. При прочих равных — это очевидное конкурентное преимущество.

О применении стандарта в контексте подготовки к выполнению требований Регламента ЕС по ИИ я рассказываю на своём курсе.

Сертификат выдан TÜV Austria. В России идентичный стандарт утверждён в форме ГОСТ Р ИСО/МЭК 42001—2024.
❤14👍1
Кто уже пострадал от бездумного внедрения ИИ-агентов

Внедрение ИИ-агентов с избыточными правами доступа уже привело к целой серии утечек данных. В числе пострадавших:
- клиенты Майкрософта, установившие Копилот, который раскрывал данные сразу при получении письма с инструкциями злоумышленников,
- Самсунг Электроникс, сотрудники которого раскрыли коммерческую тайну, касающуюся производства чипов, "благодаря" бездумному использованию ChatGPT инженерами,
- пользователи Slack, ввиду уязвимости Slack AI...

Интересный обзор.
👍3😱3
Запись сегодняшней сессии вопросов и ответов AI Governance and Audit

По любезному приглашению Патрика Салливана вместе с коллегами — практикующими аудиторами, консультантами, инхаусами, а также поставщиками комплаенс-ПО обсудили вопросы, поступившие от пользователей на Линкдине.

Очень богатая на информацию сессия получилась. Затронули в числе прочего Регламент ЕС по ИИ, ИСО/МЭК 42001, стандарты СЕН/СЕНЕЛЕК и ЭТСИ.

Смотреть здесь.
👍11❤1🔥1
Спешите, спешите, поставщики ИИ-моделей общего назначения!

Специальная акция от Еврокомиссии: выведите свою модель на рынок ЕС до 2 августа 2025 года и получите освобождение от правоприменения и штрафов до 2 августа 2027 года! Остался только один день :)

Ну а если кроме шуток — небольшая памятка по срокам начала применения различных требований Регламента ЕС по ИИ.
😁8👍3
Индексируются ли чаты с ChatGPT в поисковых системах?

Я обычно не поднимаю панику зря.

Поэтому когда вчера в сети завирусилась новость о том, что чаты в ChatGPT якобы по умолчанию попадают в поиск Google, я сделал несколько возражений в комментариях.

Потому что по моему опыту чат индексировался только при соблюдении целого ряда условий, которые невозможно соблюсти случайно:
1) нажать "Share",
2) увидеть предупреждение о публичном доступе и чувствительных данных,
3) подтвердить и создать ссылку на чат,
4) и самое главное — явно согласиться на индексацию в поиске, как на скриншоте.

Но теперь я уже не так уверен. Коллега Мэтью Вемисс написал мне, что в его версии ChatGPT этого четвёртого шага не было.

А сегодня утром он исчез и у меня!

Оупен-Эй-Ай за ночь изменили интерфейс. Теперь шаги 1-3 остались, но опция индексации пропала. Похоже, теперь никакие чаты не индексируются в поисковиках вообще, даже если очень хочется.

Более того, сегодня в Гугле больше вообще не найти ни одного shared-чата. Попробуйте сами — ничего не выдаст. Всё деиндексировали за ночь.

Единственная загадка: почему изначально у меня и у других был разный интерфейс? По какому принципу Оупен-Эй-Ай сегментировал пользователей?

Я подумал, что это как с обучением ИИ в Линкдин: они не обучали ИИ-модели на постах пользователей из ЕС (у нас тут есть права), а в США — очень даже обучали, после шумихи добавив опцию опт-аут.

Но с ЧатГПТ не так — и мой аккаунт, и аккаунт Мэтью созданы из ЕС. В общем, загадка остаётся, ответа у меня нет.
❤6🤔2👍1
Robocounsel
Индексируются ли чаты с ChatGPT в поисковых системах? Я обычно не поднимаю панику зря. Поэтому когда вчера в сети завирусилась новость о том, что чаты в ChatGPT якобы по умолчанию попадают в поиск Google, я сделал несколько возражений в комментариях. Потому…
Загадка раскрытых чатов разгадана: разработчик ChatGPT проводил A/Б тестирование

В его рамках части пользователей (когорта А) предоставлялась "экспериментальная" опция не просто поделиться чатом, а ещё и сделать его индексируемым поисковыми системами. А остальным пользователям (когорта Б) такая возможность не давалась. От того, в какой стране находится пользователь, отбор, похоже, не зависел.

Отсюда и разница в наблюдаемой реальности.

В связи с шумихой по этому поводу компания за ночь отключила эту экспериментальную функцию у всех.

Гугл и Яндекс в свою очередь, удалили все ранее проиндексированные чаты из поисковой выдачи. Больше вы там ничего не найдёте.
🌚7❤3👍1
Новый поток курса по Регламенту ЕС по ИИ

Поскольку многие просят у меня информацию о курсе на одну страницу — вот она. Пятый поток стартует в сентябре, и на этот раз я добавляю разбор нового GPAI Model Code of Practice и специфичных для ИИ аспектов кибербезопасности (учитывая все дополнительные риски, которые создают набирающие популярность ИИ-агенты).

🌟 Курс станет первым в мире, который будет использовать новейшее издание 2025/2026 Annotated AI Act от Арнуда Энгельфрита в качестве обязательного чтения.

✅ Почему этот курс особенный: у меня за плечами профильное образование (LL.M. in Innovation, Technology and the Law, Edinburgh) и десятилетие работы в профильной сфере, я участвую в разработке технических стандартов к Регламенту ЕС об ИИ в СЕН/СЕНЭЛЕК. Я не набираю большие группы, все задания (да, письменные работы, а не только тесты) проверяю лично я. Чтобы сохранить качество, количество мест строго ограничено.

🕒 Для работающих профессионалов: курс длится 4 недели, помимо 2 часов в Зуме вам потребуется около 6 часов в неделю в удобном для вас темпе, но со сроками сдачи заданий я достаточно гибок — понимаю, что работа может быть приоритетом. Занятия в зуме (2 часа в неделю) проходят по пятницам вечером, но вы можете смотреть записи, если так удобнее. Дополнительные часы для личного приёма помогут вам разобраться в конкретных вопросах, даже если вы не успеваете за группой.

⚡️ Регистрируйтесь сейчас, пока есть места на сентябрь. Подробности, отзывы и регистрация с оплатой в евро — на сайте курса. Для оплаты в рублях — оставьте заявку через бот.

💼 Дополнительные плюсы: работодатель может оплатить ваше обучение, а сертификат подходит для подтверждения CPD/CPE-кредитов в рамках обязательного повышения квалификации (но уточняйте у организации, которая предъявляет к вам требования, политика может различаться). Вам также будут предоставлены эксклюзивные условия для членства в AI Governance Community of Practice.
❤7🔥3