Не хватает ИИ-новостей, интересных статей, обсуждений и мемов?
Или просто хотите поддержать канал и автора?
Напомню, что для этого у нас есть сообщество AI Governance (и бонусный канал к нему — Robocounsel Plus).
Подписывайтесь!
Или просто хотите поддержать канал и автора?
Напомню, что для этого у нас есть сообщество AI Governance (и бонусный канал к нему — Robocounsel Plus).
Подписывайтесь!
Telegram
Tribute
This bot helps content creators receive financial support from their followers directly in the app.
👍1🥴1
Обучение ИИ-моделей на книгах без согласия правообладателей: fair use в США или нет?
Сразу по двум разным делам в США двое судей признали обучение ИИ-моделей на произведениях, охраняемых авторским правом, добросовестным использованием.
Обстоятельства дел отличаются, решения промежуточные и по упрощённой процедуре, а инициатива применения упрощённой процедуры — и соответственно бремя доказывания — лежали в этих делах на разных сторонах процесса, поэтому сильно разнятся и мотивировочные части решений. Общность в том, что доктрина добросовестного использования к обучению ИИ-моделей применяться может.
Но судьи разошлись по ряду оценок.
Судья Чабрия по делу Меты* пришёл к выводу, что если бы истцы смогли показать, как вместо приобретения произведений истцов потребители будут взамен оплачивать подписку на сервисы ИИ-компаний, это было бы сильным аргументом в пользу истцов, но они даже не пытались развить эту мысль.
Тем не менее, судья предвидит, что в будущем аналогичные дела другие истцы могут вполне вероятно выигрывать, если они как следует аргументируют наличие таких экономических эффектов (а мы с вами знаем, что они действительно есть — к примеру, рынок стоковых фото и иллюстраций уже существенно пострадал: потребители теперь чаще платят деньги ИИ-компаниям за генерацию изображений, чем покупают их на стоке или заказывают иллюстраторам).
Судья Олсап по делу Антропика не принял эту аргументацию и считает, что такое вытеснение авторов произведений на рынке ИИ-компаниями выходит за рамки релевантного для авторского права. В то же время он более строго, чем коллега, оценил факт использования для обучения ИИ-моделей экземпляров произведений, полученных из "пиратских" источников.
Частично модели Антропика были обучены на таких произведениях, и в отношении последствий такого шага будет ещё вынесено отдельное решение. Но в части обучения на отсканированных экземплярах книг — Антропик приобрёл миллионы экземпляров и потратил на это многие миллионы долларов — нарушения интересов правообладателей судья не усмотрел.
Решения интересные и стимулируют к огромному количеству размышлений. В том числе о необходимости давать отдельную оценку потенциальным нарушениям (а) на стадии обучения ИИ-модели и (б) на стадии её последующего использования. Практика постепенно формируется.
* Деятельность Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook и Instagram запрещена в РФ
Сразу по двум разным делам в США двое судей признали обучение ИИ-моделей на произведениях, охраняемых авторским правом, добросовестным использованием.
Обстоятельства дел отличаются, решения промежуточные и по упрощённой процедуре, а инициатива применения упрощённой процедуры — и соответственно бремя доказывания — лежали в этих делах на разных сторонах процесса, поэтому сильно разнятся и мотивировочные части решений. Общность в том, что доктрина добросовестного использования к обучению ИИ-моделей применяться может.
Но судьи разошлись по ряду оценок.
Судья Чабрия по делу Меты* пришёл к выводу, что если бы истцы смогли показать, как вместо приобретения произведений истцов потребители будут взамен оплачивать подписку на сервисы ИИ-компаний, это было бы сильным аргументом в пользу истцов, но они даже не пытались развить эту мысль.
Тем не менее, судья предвидит, что в будущем аналогичные дела другие истцы могут вполне вероятно выигрывать, если они как следует аргументируют наличие таких экономических эффектов (а мы с вами знаем, что они действительно есть — к примеру, рынок стоковых фото и иллюстраций уже существенно пострадал: потребители теперь чаще платят деньги ИИ-компаниям за генерацию изображений, чем покупают их на стоке или заказывают иллюстраторам).
Судья Олсап по делу Антропика не принял эту аргументацию и считает, что такое вытеснение авторов произведений на рынке ИИ-компаниями выходит за рамки релевантного для авторского права. В то же время он более строго, чем коллега, оценил факт использования для обучения ИИ-моделей экземпляров произведений, полученных из "пиратских" источников.
Частично модели Антропика были обучены на таких произведениях, и в отношении последствий такого шага будет ещё вынесено отдельное решение. Но в части обучения на отсканированных экземплярах книг — Антропик приобрёл миллионы экземпляров и потратил на это многие миллионы долларов — нарушения интересов правообладателей судья не усмотрел.
Решения интересные и стимулируют к огромному количеству размышлений. В том числе о необходимости давать отдельную оценку потенциальным нарушениям (а) на стадии обучения ИИ-модели и (б) на стадии её последующего использования. Практика постепенно формируется.
* Деятельность Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook и Instagram запрещена в РФ
CourtListener
Order – #598 in Kadrey v. Meta Platforms, Inc. (N.D. Cal., 3:23-cv-03417) – CourtListener.com
ORDER Denying the Plaintiffs' 482 Motion for Partial Summary Judgment and Granting Meta's 501 Cross-Motion for Partial Summary Judgment. Signed by Judge Vince Chhabria on 6/25/2025. (vclc1, COURT STAFF) (Filed on 6/25/2025) (Entered: 06/25/2025)
😁4👍2🤔1😱1
Бесплатный вебинар: система на базе LLM как медицинское изделие
Prof. Valmed утверждают, что они первыми в мире получили сертификат соответствия ИСО 13485 на свою систему поддержки принятия решений для врачей на базе большой языковой модели (с применением RAG-подхода), как медизделие класса IIb согласно EU MDR.
Доктор Хью Харви завтра проводит с ними вебинар на Линкдине.
Так что если SaMD ваша тема — не пропустите.
Prof. Valmed утверждают, что они первыми в мире получили сертификат соответствия ИСО 13485 на свою систему поддержки принятия решений для врачей на базе большой языковой модели (с применением RAG-подхода), как медизделие класса IIb согласно EU MDR.
Доктор Хью Харви завтра проводит с ними вебинар на Линкдине.
Так что если SaMD ваша тема — не пропустите.
LinkedIn
LinkedIn Login, Sign in | LinkedIn
Login to LinkedIn to keep in touch with people you know, share ideas, and build your career.
🥴4👍2❤1😁1
Robocounsel
Нижняя палата парламента США одобрила законопроект о моратории на нормотворчество в области ИИ на уровне отдельных штатов 22 мая 2025 года Палата представителей Конгресса США минимальным перевесом голосов (215 против 214) одобрила законопроект "One Big Beautiful…
США: субъекты американской федерации сохранят право регулировать ИИ
Сенат 99 голосами против 1 исключил из законопроекта о федеральном бюджете одиозное положение о запрете штатам принимать законы для защиты своих граждан от злоупотреблений со стороны ИИ-компаний.
В последней редакции запрет был трансформирован в санкцию: будете регулировать эти вопросы на уровне штатов — не получите часть федерального финансирования. Но даже эта модификация не помогла: сенаторы посчитали любой федеральный мораторий — в условиях отсутствия проходных федеральных законопроектов на эту тему — слишком щедрым подарком ИИ-компаниям.
В числе лоббировавших провалившийся мораторий Оупен-Эй-Ай и Гугл. О сути предложений писал ранее.
Лоббисты уже в истерике.
Сенат 99 голосами против 1 исключил из законопроекта о федеральном бюджете одиозное положение о запрете штатам принимать законы для защиты своих граждан от злоупотреблений со стороны ИИ-компаний.
В последней редакции запрет был трансформирован в санкцию: будете регулировать эти вопросы на уровне штатов — не получите часть федерального финансирования. Но даже эта модификация не помогла: сенаторы посчитали любой федеральный мораторий — в условиях отсутствия проходных федеральных законопроектов на эту тему — слишком щедрым подарком ИИ-компаниям.
В числе лоббировавших провалившийся мораторий Оупен-Эй-Ай и Гугл. О сути предложений писал ранее.
Лоббисты уже в истерике.
The Wall Street Journal
Senate Votes to Remove Ban on State AI Laws From GOP Megabill
The move is a setback for tech companies and White House officials who fear a patchwork of state regulations will slow the development of AI.
👍6😢1
Почему базовые регуляторные требования к кибербезопасности и угроза штрафов для компаний — это хорошо
Национальная комиссия Франции по информатизации и гражданским свободам (CNIL) опубликовала анализ экономического эффекта требований ОРЗД (GDPR) в области кибербезопасности для компаний и общества в целом.
Даже если ограничить такой анализ только утечками данных (далеко не единственная угроза, против которой направлены требования ОРЗД), эффект сугубо положительный, притом как для самих компаний, так и — что важнее — для общества в целом.
Благодаря закреплению в ОРЗД базовых требований к кибербезопасности, к информированию субъектов об утечках их данных, и благодаря установлению штрафов за несоблюдение этих требований, общий размер предотвращённого вреда от утечек в ЕС составил от 0,5 до 1,4 млрд. евро (82% от этой цифры — предотвращённые убытки компаний), количество утечек сократилось на 2,5-6,1%.
При этом анализ показывает, что в отсутствие регуляторных требований и угрозы штрафов компании не имели бы достаточной мотивации раскрывать крупнейшие утечки.
Национальная комиссия Франции по информатизации и гражданским свободам (CNIL) опубликовала анализ экономического эффекта требований ОРЗД (GDPR) в области кибербезопасности для компаний и общества в целом.
Даже если ограничить такой анализ только утечками данных (далеко не единственная угроза, против которой направлены требования ОРЗД), эффект сугубо положительный, притом как для самих компаний, так и — что важнее — для общества в целом.
Благодаря закреплению в ОРЗД базовых требований к кибербезопасности, к информированию субъектов об утечках их данных, и благодаря установлению штрафов за несоблюдение этих требований, общий размер предотвращённого вреда от утечек в ЕС составил от 0,5 до 1,4 млрд. евро (82% от этой цифры — предотвращённые убытки компаний), количество утечек сократилось на 2,5-6,1%.
При этом анализ показывает, что в отсутствие регуляторных требований и угрозы штрафов компании не имели бы достаточной мотивации раскрывать крупнейшие утечки.
Эти выгоды представляют собой лишь небольшую часть общей пользы, приносимой ОРЗД в плане сокращения киберпреступности. Они отражают влияние лишь одного из его положений на конкретный вид киберпреступности (кража личных данных). Необходимо также учитывать положительное влияние соблюдения GDPR на кибервымогательство, ботнеты, вредоносное ПО и т. д. Экономистам было бы полезно более глубоко изучить проблему кибербезопасности, чтобы получить более полное представление об этой теме.
CNIL
Cybersecurity: The Economic Benefits of GDPR
In its review of the economic impact of GDPR, five years after its entry into force, the CNIL noted that economic studies on the regulation tend to focus mainly on its costs and only marginally address its benefits. The CNIL undertook to study some of these…
❤5👍2🤬1
This media is not supported in your browser
VIEW IN TELEGRAM
Паузы в применении Регламента ЕС по ИИ не будет
В последнее время было много спекуляций по этому поводу, со ссылкой на обсуждения в кулуарах Еврокомиссии.
В частности, ссылались на слова Хенны Вирккунен, исполнительного вице-президента Еврокомиссии по технологическому суверенитету (отвечающую за ИИ-тематику) на служебном совещании 6 июня:
Тем не менее, сегодня пресс-секретарь Еврокомиссии по тому же самому техническому суверенитету Томас Ренье подытожил:
В последнее время было много спекуляций по этому поводу, со ссылкой на обсуждения в кулуарах Еврокомиссии.
В частности, ссылались на слова Хенны Вирккунен, исполнительного вице-президента Еврокомиссии по технологическому суверенитету (отвечающую за ИИ-тематику) на служебном совещании 6 июня:
Если мы увидим, что стандарты и руководства. . . не будут готовы вовремя, мы не должны исключать возможность отсрочки по некоторым положениям Регламента об ИИ.
Тем не менее, сегодня пресс-секретарь Еврокомиссии по тому же самому техническому суверенитету Томас Ренье подытожил:
Нет никакой остановки часов, никакого льготного периода, никакой паузы. Почему? Потому что у нас есть юридически обязательные сроки, установленные нормативным актом, по наступлении которых Еврокомиссия будет обеспечивать применение этих норм и следить за тем, чтобы компании соблюдали требования Регламента ЕС по ИИ.
👍5
Персональные данные и ИИ
Чуть не забыл, у меня же в эту пятницу двухчасовой практический вебинар по пересечению требований Регламента ЕС по ИИ и ОРЗД/GDPR.
Как почти всё лучшее в этой жизни, вебинар платный. По сути — это сфокусированный на данной теме фрагмент моего четырёхнедельного курса по Регламенту, для тех, кто его пока не прошёл и не имеет на это достаточного времени.
Если это вам нужно для вашего профессионального развития — записывайтесь на сайте.
Если вы хотите оплатить в рублях — пишите через бот.
Чуть не забыл, у меня же в эту пятницу двухчасовой практический вебинар по пересечению требований Регламента ЕС по ИИ и ОРЗД/GDPR.
Как почти всё лучшее в этой жизни, вебинар платный. По сути — это сфокусированный на данной теме фрагмент моего четырёхнедельного курса по Регламенту, для тех, кто его пока не прошёл и не имеет на это достаточного времени.
Если это вам нужно для вашего профессионального развития — записывайтесь на сайте.
Если вы хотите оплатить в рублях — пишите через бот.
Webinar - EU AI Act and GDPR
This webinar aims to provide you with curated guidance on the interplay between the EU AI Act and the GDPR
👍5❤4😁2
Четыре проблемы копирайта в эпоху ИИ
Отличная статья Андреса Гуадамуза на эту тему. Не даёт решений, но отмечает, что они сугубо в области политики права, в руках законодателей и в области de lege ferenda, а не в страусиной надежде засунуть голову в de lege lata сложившееся авторское право и ждать, пока оно всё решит. Не решит.
Почему? Читайте в статье. Но если вкратце, его аргументы таковы:
1) ИИ-модели уже обучены на огромных массивах данных. И даже при теоретическом обанкрочивании всех ИИ-компаний, до которых правообладатели могли бы дотянуться, это не прекратит существование этих моделей и их глобальное распространение, в том числе в юрисдикциях, по сути игнорирующих копирайт. При любом раскладе ИИ-модели останутся в репозиториях и на рынке (прежде всего опенсорсные модели, каковых всё больше). Копирайт-индустрия пытается догнать уже ушедший поезд, тогда как переговоры о лицензировании следовало бы провести заранее, несколько лет назад.
2) Процесс обучения ИИ-модели предполагает доступ к экземпляру произведения для извлечения данных, но не влечёт создания производного произведения и не приводит сам по себе к опубликованию экземпляра — исходного или производного произведения — в правовом смысле, что делает потенциальный ущерб, который можно потребовать в суде к возмещению, незначительным. По крайней мере в тех юрисдикциях, где размеры компенсаций за нарушения авторского права не установлены законом.
3) Само по себе обучение ИИ-модели на материале произведения не является исключительным правом автора, поэтому извлечение информации из законно приобретенного произведения (как в случае, когда Антропик приобрёл на рынке миллионы физических экземпляров книг) само по себе не нарушает исключительного права.
4) Старые экономические модели роялти не работают из-за масштаба и доли отдельного произведения в корпусе данных, на которых обучены ИИ-модели. Крупнейшие — и популярнейшие — ИИ-модели требуют миллиардов токенов для обучения, что в сочетании с необходимостью приобретения только одного экземпляра произведения делает ценность лицензионного рынка ничтожной — создатели получали бы стремящиеся к нулю доли процента от и без того небольших сумм — на порядки меньше, чем они сейчас получают в виде роялти от суммы каждой подписки потребителя на Яндекс.Музыку или Спотифай.
P.S. Автор статьи относит себя к копирайт-минималистам. О предыдущих эпизодах копирайт-войн тупоконечников (минималистов) с остроконечниками (максималистами) читайте в другой его статье.
Отличная статья Андреса Гуадамуза на эту тему. Не даёт решений, но отмечает, что они сугубо в области политики права, в руках законодателей и в области de lege ferenda, а не в страусиной надежде засунуть голову в de lege lata сложившееся авторское право и ждать, пока оно всё решит. Не решит.
Почему? Читайте в статье. Но если вкратце, его аргументы таковы:
1) ИИ-модели уже обучены на огромных массивах данных. И даже при теоретическом обанкрочивании всех ИИ-компаний, до которых правообладатели могли бы дотянуться, это не прекратит существование этих моделей и их глобальное распространение, в том числе в юрисдикциях, по сути игнорирующих копирайт. При любом раскладе ИИ-модели останутся в репозиториях и на рынке (прежде всего опенсорсные модели, каковых всё больше). Копирайт-индустрия пытается догнать уже ушедший поезд, тогда как переговоры о лицензировании следовало бы провести заранее, несколько лет назад.
2) Процесс обучения ИИ-модели предполагает доступ к экземпляру произведения для извлечения данных, но не влечёт создания производного произведения и не приводит сам по себе к опубликованию экземпляра — исходного или производного произведения — в правовом смысле, что делает потенциальный ущерб, который можно потребовать в суде к возмещению, незначительным. По крайней мере в тех юрисдикциях, где размеры компенсаций за нарушения авторского права не установлены законом.
3) Само по себе обучение ИИ-модели на материале произведения не является исключительным правом автора, поэтому извлечение информации из законно приобретенного произведения (как в случае, когда Антропик приобрёл на рынке миллионы физических экземпляров книг) само по себе не нарушает исключительного права.
4) Старые экономические модели роялти не работают из-за масштаба и доли отдельного произведения в корпусе данных, на которых обучены ИИ-модели. Крупнейшие — и популярнейшие — ИИ-модели требуют миллиардов токенов для обучения, что в сочетании с необходимостью приобретения только одного экземпляра произведения делает ценность лицензионного рынка ничтожной — создатели получали бы стремящиеся к нулю доли процента от и без того небольших сумм — на порядки меньше, чем они сейчас получают в виде роялти от суммы каждой подписки потребителя на Яндекс.Музыку или Спотифай.
P.S. Автор статьи относит себя к копирайт-минималистам. О предыдущих эпизодах копирайт-войн тупоконечников (минималистов) с остроконечниками (максималистами) читайте в другой его статье.
TechnoLlama
How AI is breaking traditional remuneration models
It’s been a busy few weeks in the AI and copyright beat, and while I’ve been following all of the developments closely, I haven’t had the time to react to everything in the blog. …
❤7👍4
Опубликован Свод практик для операторов GPAI моделей
Свод практик — ко-регуляторный инструмент, разработанный во исполнение требований Регламента ЕС по ИИ, касающихся поставщиков ИИ-моделей общего назначения (к ним относятся модели семейств GPT-4, Claude, DeepSeek и подобные).
В разработке Свода участвовал широкий круг лиц и организаций, включая саму ИИ-индустрию. Не обязателен к присоединению, но в случае присоединения обязателен к выполнению.
Документ состоит из трёх глав, посвящённых порядку выполнения требований Регламента к поставщикам ИИ-моделей общего назначения:
- о транспарентности,
- о соблюдении норм авторского права,
- об обеспечении общественной безопасности и кибербезопасности самих систем (управление системными рисками).
Свод практик — ко-регуляторный инструмент, разработанный во исполнение требований Регламента ЕС по ИИ, касающихся поставщиков ИИ-моделей общего назначения (к ним относятся модели семейств GPT-4, Claude, DeepSeek и подобные).
В разработке Свода участвовал широкий круг лиц и организаций, включая саму ИИ-индустрию. Не обязателен к присоединению, но в случае присоединения обязателен к выполнению.
Документ состоит из трёх глав, посвящённых порядку выполнения требований Регламента к поставщикам ИИ-моделей общего назначения:
- о транспарентности,
- о соблюдении норм авторского права,
- об обеспечении общественной безопасности и кибербезопасности самих систем (управление системными рисками).
Shaping Europe’s digital future
The General-Purpose AI Code of Practice
The code of practice helps industry comply with the AI Act legal obligations on safety, transparency and copyright of general-purpose AI models.
🔥8
Robocounsel
Опубликован Свод практик для операторов GPAI моделей Свод практик — ко-регуляторный инструмент, разработанный во исполнение требований Регламента ЕС по ИИ, касающихся поставщиков ИИ-моделей общего назначения (к ним относятся модели семейств GPT-4, Claude…
Оупен-Эй-Ай планирует подписать Свод практик ЕС для поставщиков GPAI моделей
Компания заявила о намерении сделать это при условии одобрения проекта Свода со стороны Европейского совета по искусственному интеллекту (AI Board, формируется из представителей государств-членов ЕС).
Также в заявлении компании излагается позиция по поводу желаемый дальнейших шагов в отношении европейской ИИ-стратегии.
Совет и Еврокомиссия рассматривают проект Свода в данный момент, как это предусмотрено Регламентом ЕС по ИИ.
Насколько мне известно, это первое заявление со стороны одного из ведущих игроков рынка, на которых распространяется Регламент.
Ждём позиций Антропика и Мистраля.
Компания заявила о намерении сделать это при условии одобрения проекта Свода со стороны Европейского совета по искусственному интеллекту (AI Board, формируется из представителей государств-членов ЕС).
Также в заявлении компании излагается позиция по поводу желаемый дальнейших шагов в отношении европейской ИИ-стратегии.
Совет и Еврокомиссия рассматривают проект Свода в данный момент, как это предусмотрено Регламентом ЕС по ИИ.
Насколько мне известно, это первое заявление со стороны одного из ведущих игроков рынка, на которых распространяется Регламент.
Ждём позиций Антропика и Мистраля.
OpenAI
The EU Code of Practice and future of AI in Europe
OpenAI joins the EU Code of Practice, advancing responsible AI while partnering with European governments to drive innovation, infrastructure, and economic growth.
🔥8🤬2🌚1
Спецификации для людей и машин
Шон Гроув из Оупен-Эй-Ай проводит параллели между тем, что делают ИИ-инженеры и юристы, формируя базовый текст, определяющий требуемое положение дел.
Параллель интересная, только вот "clear, unambiguous" спецификация для социальных отношений это очень большая условность.
Сами регулируемые отношения и их субъекты настолько сложнопредсказуемы и зависят от ценностных суждений, что о точности правовых "спецификаций" говорить не приходится.
Да, есть какие-то универсалии, вроде тех, что "убийство — это плохо", но даже они подвержены оговоркам и заранее всё специфицировать невозможно и бесполезно.
А у ИИ-инженеров другая проблема: как верно отмечают в комментариях под видео, текущие ИИ-продукты не умеют писать стабильный код по этим самым чётким, однозначным спецификациям. Которые для кода-то как раз возможны.
Поэтому видео интересное, аналогия любопытная, но неточная и продукты Шона тоже не работают так, как он пытается нас убедить.
Ну и концовка по поводу приглашения идти к ним строить AGI — кринж. Никакого AGI его компания не строит. Тут он либо намеренно обманывает, и позор ему, либо у него AGI головного мозга, и сочувствие и соболезнования ему.
Его компания делает конкурентоспособные продукты, полезные, игнорируя ряд этических дилемм. Но не AGI. Эти сказки оставьте для детей, Шон.
Шон Гроув из Оупен-Эй-Ай проводит параллели между тем, что делают ИИ-инженеры и юристы, формируя базовый текст, определяющий требуемое положение дел.
Параллель интересная, только вот "clear, unambiguous" спецификация для социальных отношений это очень большая условность.
Сами регулируемые отношения и их субъекты настолько сложнопредсказуемы и зависят от ценностных суждений, что о точности правовых "спецификаций" говорить не приходится.
Да, есть какие-то универсалии, вроде тех, что "убийство — это плохо", но даже они подвержены оговоркам и заранее всё специфицировать невозможно и бесполезно.
А у ИИ-инженеров другая проблема: как верно отмечают в комментариях под видео, текущие ИИ-продукты не умеют писать стабильный код по этим самым чётким, однозначным спецификациям. Которые для кода-то как раз возможны.
Поэтому видео интересное, аналогия любопытная, но неточная и продукты Шона тоже не работают так, как он пытается нас убедить.
Ну и концовка по поводу приглашения идти к ним строить AGI — кринж. Никакого AGI его компания не строит. Тут он либо намеренно обманывает, и позор ему, либо у него AGI головного мозга, и сочувствие и соболезнования ему.
Его компания делает конкурентоспособные продукты, полезные, игнорируя ряд этических дилемм. Но не AGI. Эти сказки оставьте для детей, Шон.
1👍4
AI Agent Mailbox Access Threat Table - 2025-07-18.pdf
216.2 KB
"Все побежали, и я побежал"?
Ведущие ИИ-компании анонсировали новых агентов, которые умеют автономно выполнять ваши задачи в интернете.
И у меня в соцсетях пошла пропаганда от ИИ-энтузиастов, которые с горящими глазами подключают этих агентов к своей почте и дают широкие права доступа к другим своим ИТ-ресурсам.
Прежде чем бежать за ними вслед сломя голову, остановитесь и подумайте 5 минут, как вы этим самым создаёте новые угрозы и увеличиваете риски — не только для себя, но и для других людей. Коллег, друзей, просто посторонних.
Для одного только сценария доступа агента к почте за 5 минут получится примерно такой список, как во вложении. Если подумать больше 5 минут, то список угроз гарантированно вырастет.
Для других сценариев — будут дополнительные угрозы.
Поэтому сначала думаем, идентифицируем угрозы, снижаем риски до приемлемого уровня, и только потом экспериментируем.
Или не экспериментируем, если риски для вас или, что важно, для других потенциальных жертв — неприемлемы.
Ведущие ИИ-компании анонсировали новых агентов, которые умеют автономно выполнять ваши задачи в интернете.
И у меня в соцсетях пошла пропаганда от ИИ-энтузиастов, которые с горящими глазами подключают этих агентов к своей почте и дают широкие права доступа к другим своим ИТ-ресурсам.
Прежде чем бежать за ними вслед сломя голову, остановитесь и подумайте 5 минут, как вы этим самым создаёте новые угрозы и увеличиваете риски — не только для себя, но и для других людей. Коллег, друзей, просто посторонних.
Для одного только сценария доступа агента к почте за 5 минут получится примерно такой список, как во вложении. Если подумать больше 5 минут, то список угроз гарантированно вырастет.
Для других сценариев — будут дополнительные угрозы.
Поэтому сначала думаем, идентифицируем угрозы, снижаем риски до приемлемого уровня, и только потом экспериментируем.
Или не экспериментируем, если риски для вас или, что важно, для других потенциальных жертв — неприемлемы.
❤7👍3🌚2
Robocounsel
Оупен-Эй-Ай планирует подписать Свод практик ЕС для поставщиков GPAI моделей Компания заявила о намерении сделать это при условии одобрения проекта Свода со стороны Европейского совета по искусственному интеллекту (AI Board, формируется из представителей…
Антропик и Мистраль присоединяются к Своду практик ЕС для поставщиков GPAI моделей
Майкрософт вычитывает и сообщает, что "вероятно" подпишет тоже.
Подписанты:
✅ OpenAI 🇺🇸
✅ Anthropic 🇺🇸
✅ Mistral 🇫🇷
Баба-Яга против:
❌ Meta* 🇺🇸
* Деятельность Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook и Instagram запрещена в РФ
Майкрософт вычитывает и сообщает, что "вероятно" подпишет тоже.
Подписанты:
✅ OpenAI 🇺🇸
✅ Anthropic 🇺🇸
✅ Mistral 🇫🇷
Баба-Яга против:
❌ Meta* 🇺🇸
* Деятельность Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook и Instagram запрещена в РФ
AI News
Tech giants split on EU AI code as compliance deadline looms
Microsoft signals support for EU AI code while Meta refuses to sign voluntary compliance framework. OpenAI and Mistral already committed as AuG 2025 deadline approaches.
👍3
Яндекс сертифицировал свою систему менеджмента ИИ-систем по ИСО/МЭК 42001
И присоединился таким образом к числу компаний, которые также получили подобный сертификат ранее. Среди них Антропик, Амазон Веб Сервисез, Самсунг и ряд других технологических компаний.
Насколько мне известно, это первая российская компания, прошедшая такую процедуру.
Сертификация подтверждает, что независимый орган провёл аудит и удостоверился в том, что компания внедрила базовые политики и процессы, необходимые для ответственной разработки и внедрения систем искусственного интеллекта в соответствии с требованиями стандарта, включая:
1) понимание контекста организации и потребностей клиентов и иных заинтересованных лиц;
2) функции руководства, внедрение политик, распределение ответственности и полномочий;
3) планирование действий для управления рисками, постановки и достижения целей, управления изменениями;
4) управление ресурсами, компетенциями, коммуникацией и документацией,
5) оперативное управление, оценка и обработка рисков, оценка воздействия;
6) оценка результатов, мониторинг, внутренние аудиты и анализ со стороны руководства;
7) постоянное улучшение, управление несоответствиями и корректирующие действия.
Как сертифицированный специалист по внедрению этого стандарта на предприятиях рад за коллег.
В отличие от AWS и Anthropic, Яндекс — по крайней мере пока — не опубликовал заявление о применимости (Statement of Applicability), которое показывает, какие именно меры по управлению рисками (контроли) внедрены компанией из числа предлагаемых в Приложении А к стандарту.
P.S. 42001 — стандарт на систему менеджмента. Сертификация не гарантирует безопасности ИИ-систем или соответствия их нормативным требованиям или ожиданиям публики, но подтверждает, что компания проделала работу по созданию базовой системы менеджмента для организаций, разрабатывающих или внедряющих ИИ. При прочих равных — это очевидное конкурентное преимущество.
О применении стандарта в контексте подготовки к выполнению требований Регламента ЕС по ИИ я рассказываю на своём курсе.
Сертификат выдан TÜV Austria. В России идентичный стандарт утверждён в форме ГОСТ Р ИСО/МЭК 42001—2024.
И присоединился таким образом к числу компаний, которые также получили подобный сертификат ранее. Среди них Антропик, Амазон Веб Сервисез, Самсунг и ряд других технологических компаний.
Насколько мне известно, это первая российская компания, прошедшая такую процедуру.
Сертификация подтверждает, что независимый орган провёл аудит и удостоверился в том, что компания внедрила базовые политики и процессы, необходимые для ответственной разработки и внедрения систем искусственного интеллекта в соответствии с требованиями стандарта, включая:
1) понимание контекста организации и потребностей клиентов и иных заинтересованных лиц;
2) функции руководства, внедрение политик, распределение ответственности и полномочий;
3) планирование действий для управления рисками, постановки и достижения целей, управления изменениями;
4) управление ресурсами, компетенциями, коммуникацией и документацией,
5) оперативное управление, оценка и обработка рисков, оценка воздействия;
6) оценка результатов, мониторинг, внутренние аудиты и анализ со стороны руководства;
7) постоянное улучшение, управление несоответствиями и корректирующие действия.
Как сертифицированный специалист по внедрению этого стандарта на предприятиях рад за коллег.
В отличие от AWS и Anthropic, Яндекс — по крайней мере пока — не опубликовал заявление о применимости (Statement of Applicability), которое показывает, какие именно меры по управлению рисками (контроли) внедрены компанией из числа предлагаемых в Приложении А к стандарту.
P.S. 42001 — стандарт на систему менеджмента. Сертификация не гарантирует безопасности ИИ-систем или соответствия их нормативным требованиям или ожиданиям публики, но подтверждает, что компания проделала работу по созданию базовой системы менеджмента для организаций, разрабатывающих или внедряющих ИИ. При прочих равных — это очевидное конкурентное преимущество.
О применении стандарта в контексте подготовки к выполнению требований Регламента ЕС по ИИ я рассказываю на своём курсе.
Сертификат выдан TÜV Austria. В России идентичный стандарт утверждён в форме ГОСТ Р ИСО/МЭК 42001—2024.
❤14👍1
Кто уже пострадал от бездумного внедрения ИИ-агентов
Внедрение ИИ-агентов с избыточными правами доступа уже привело к целой серии утечек данных. В числе пострадавших:
- клиенты Майкрософта, установившие Копилот, который раскрывал данные сразу при получении письма с инструкциями злоумышленников,
- Самсунг Электроникс, сотрудники которого раскрыли коммерческую тайну, касающуюся производства чипов, "благодаря" бездумному использованию ChatGPT инженерами,
- пользователи Slack, ввиду уязвимости Slack AI...
Интересный обзор.
Внедрение ИИ-агентов с избыточными правами доступа уже привело к целой серии утечек данных. В числе пострадавших:
- клиенты Майкрософта, установившие Копилот, который раскрывал данные сразу при получении письма с инструкциями злоумышленников,
- Самсунг Электроникс, сотрудники которого раскрыли коммерческую тайну, касающуюся производства чипов, "благодаря" бездумному использованию ChatGPT инженерами,
- пользователи Slack, ввиду уязвимости Slack AI...
Интересный обзор.
Linkedin
AI Security: Major Incidents Exposing Risks of AI Access to IT Tools & Systems
"Just grant the AI access and see what happens" – famous last words! 😅 The rush to adopt AI agents is real – every day brings new demos of AI reading emails, managing calendars, and automating "agentic" workflows. I am also building workflows with n8n - it's…
👍3😱3
Запись сегодняшней сессии вопросов и ответов AI Governance and Audit
По любезному приглашению Патрика Салливана вместе с коллегами — практикующими аудиторами, консультантами, инхаусами, а также поставщиками комплаенс-ПО обсудили вопросы, поступившие от пользователей на Линкдине.
Очень богатая на информацию сессия получилась. Затронули в числе прочего Регламент ЕС по ИИ, ИСО/МЭК 42001, стандарты СЕН/СЕНЕЛЕК и ЭТСИ.
Смотреть здесь.
По любезному приглашению Патрика Салливана вместе с коллегами — практикующими аудиторами, консультантами, инхаусами, а также поставщиками комплаенс-ПО обсудили вопросы, поступившие от пользователей на Линкдине.
Очень богатая на информацию сессия получилась. Затронули в числе прочего Регламент ЕС по ИИ, ИСО/МЭК 42001, стандарты СЕН/СЕНЕЛЕК и ЭТСИ.
Смотреть здесь.
👍11❤1🔥1
Спешите, спешите, поставщики ИИ-моделей общего назначения!
Специальная акция от Еврокомиссии: выведите свою модель на рынок ЕС до 2 августа 2025 года и получите освобождение от правоприменения и штрафов до 2 августа 2027 года! Остался только один день :)
Ну а если кроме шуток — небольшая памятка по срокам начала применения различных требований Регламента ЕС по ИИ.
Специальная акция от Еврокомиссии: выведите свою модель на рынок ЕС до 2 августа 2025 года и получите освобождение от правоприменения и штрафов до 2 августа 2027 года! Остался только один день :)
Ну а если кроме шуток — небольшая памятка по срокам начала применения различных требований Регламента ЕС по ИИ.
😁8👍3
Индексируются ли чаты с ChatGPT в поисковых системах?
Я обычно не поднимаю панику зря.
Поэтому когда вчера в сети завирусилась новость о том, что чаты в ChatGPT якобы по умолчанию попадают в поиск Google, я сделал несколько возражений в комментариях.
Потому что по моему опыту чат индексировался только при соблюдении целого ряда условий, которые невозможно соблюсти случайно:
1) нажать "Share",
2) увидеть предупреждение о публичном доступе и чувствительных данных,
3) подтвердить и создать ссылку на чат,
4) и самое главное — явно согласиться на индексацию в поиске, как на скриншоте.
Но теперь я уже не так уверен. Коллега Мэтью Вемисс написал мне, что в его версии ChatGPT этого четвёртого шага не было.
А сегодня утром он исчез и у меня!
Оупен-Эй-Ай за ночь изменили интерфейс. Теперь шаги 1-3 остались, но опция индексации пропала. Похоже, теперь никакие чаты не индексируются в поисковиках вообще, даже если очень хочется.
Более того, сегодня в Гугле больше вообще не найти ни одного shared-чата. Попробуйте сами — ничего не выдаст. Всё деиндексировали за ночь.
Единственная загадка: почему изначально у меня и у других был разный интерфейс? По какому принципу Оупен-Эй-Ай сегментировал пользователей?
Я подумал, что это как с обучением ИИ в Линкдин: они не обучали ИИ-модели на постах пользователей из ЕС (у нас тут есть права), а в США — очень даже обучали, после шумихи добавив опцию опт-аут.
Но с ЧатГПТ не так — и мой аккаунт, и аккаунт Мэтью созданы из ЕС. В общем, загадка остаётся, ответа у меня нет.
Я обычно не поднимаю панику зря.
Поэтому когда вчера в сети завирусилась новость о том, что чаты в ChatGPT якобы по умолчанию попадают в поиск Google, я сделал несколько возражений в комментариях.
Потому что по моему опыту чат индексировался только при соблюдении целого ряда условий, которые невозможно соблюсти случайно:
1) нажать "Share",
2) увидеть предупреждение о публичном доступе и чувствительных данных,
3) подтвердить и создать ссылку на чат,
4) и самое главное — явно согласиться на индексацию в поиске, как на скриншоте.
Но теперь я уже не так уверен. Коллега Мэтью Вемисс написал мне, что в его версии ChatGPT этого четвёртого шага не было.
А сегодня утром он исчез и у меня!
Оупен-Эй-Ай за ночь изменили интерфейс. Теперь шаги 1-3 остались, но опция индексации пропала. Похоже, теперь никакие чаты не индексируются в поисковиках вообще, даже если очень хочется.
Более того, сегодня в Гугле больше вообще не найти ни одного shared-чата. Попробуйте сами — ничего не выдаст. Всё деиндексировали за ночь.
Единственная загадка: почему изначально у меня и у других был разный интерфейс? По какому принципу Оупен-Эй-Ай сегментировал пользователей?
Я подумал, что это как с обучением ИИ в Линкдин: они не обучали ИИ-модели на постах пользователей из ЕС (у нас тут есть права), а в США — очень даже обучали, после шумихи добавив опцию опт-аут.
Но с ЧатГПТ не так — и мой аккаунт, и аккаунт Мэтью созданы из ЕС. В общем, загадка остаётся, ответа у меня нет.
❤6🤔2👍1
Robocounsel
Индексируются ли чаты с ChatGPT в поисковых системах? Я обычно не поднимаю панику зря. Поэтому когда вчера в сети завирусилась новость о том, что чаты в ChatGPT якобы по умолчанию попадают в поиск Google, я сделал несколько возражений в комментариях. Потому…
Загадка раскрытых чатов разгадана: разработчик ChatGPT проводил A/Б тестирование
В его рамках части пользователей (когорта А) предоставлялась "экспериментальная" опция не просто поделиться чатом, а ещё и сделать его индексируемым поисковыми системами. А остальным пользователям (когорта Б) такая возможность не давалась. От того, в какой стране находится пользователь, отбор, похоже, не зависел.
Отсюда и разница в наблюдаемой реальности.
В связи с шумихой по этому поводу компания за ночь отключила эту экспериментальную функцию у всех.
Гугл и Яндекс в свою очередь, удалили все ранее проиндексированные чаты из поисковой выдачи. Больше вы там ничего не найдёте.
В его рамках части пользователей (когорта А) предоставлялась "экспериментальная" опция не просто поделиться чатом, а ещё и сделать его индексируемым поисковыми системами. А остальным пользователям (когорта Б) такая возможность не давалась. От того, в какой стране находится пользователь, отбор, похоже, не зависел.
Отсюда и разница в наблюдаемой реальности.
В связи с шумихой по этому поводу компания за ночь отключила эту экспериментальную функцию у всех.
Гугл и Яндекс в свою очередь, удалили все ранее проиндексированные чаты из поисковой выдачи. Больше вы там ничего не найдёте.
Business-Standard
OpenAI removes ChatGPT share tool after privacy risks, Google indexing
ChatGPT Shared Links: OpenAI removes ChatGPT's public sharing feature after privacy concerns emerge over Google indexing sensitive user conversations that they did not intend to make public
🌚7❤3👍1
Новый поток курса по Регламенту ЕС по ИИ
Поскольку многие просят у меня информацию о курсе на одну страницу — вот она. Пятый поток стартует в сентябре, и на этот раз я добавляю разбор нового GPAI Model Code of Practice и специфичных для ИИ аспектов кибербезопасности (учитывая все дополнительные риски, которые создают набирающие популярность ИИ-агенты).
🌟 Курс станет первым в мире, который будет использовать новейшее издание 2025/2026 Annotated AI Act от Арнуда Энгельфрита в качестве обязательного чтения.
✅ Почему этот курс особенный: у меня за плечами профильное образование (LL.M. in Innovation, Technology and the Law, Edinburgh) и десятилетие работы в профильной сфере, я участвую в разработке технических стандартов к Регламенту ЕС об ИИ в СЕН/СЕНЭЛЕК. Я не набираю большие группы, все задания (да, письменные работы, а не только тесты) проверяю лично я. Чтобы сохранить качество, количество мест строго ограничено.
🕒 Для работающих профессионалов: курс длится 4 недели, помимо 2 часов в Зуме вам потребуется около 6 часов в неделю в удобном для вас темпе, но со сроками сдачи заданий я достаточно гибок — понимаю, что работа может быть приоритетом. Занятия в зуме (2 часа в неделю) проходят по пятницам вечером, но вы можете смотреть записи, если так удобнее. Дополнительные часы для личного приёма помогут вам разобраться в конкретных вопросах, даже если вы не успеваете за группой.
⚡️ Регистрируйтесь сейчас, пока есть места на сентябрь. Подробности, отзывы и регистрация с оплатой в евро — на сайте курса. Для оплаты в рублях — оставьте заявку через бот.
💼 Дополнительные плюсы: работодатель может оплатить ваше обучение, а сертификат подходит для подтверждения CPD/CPE-кредитов в рамках обязательного повышения квалификации (но уточняйте у организации, которая предъявляет к вам требования, политика может различаться). Вам также будут предоставлены эксклюзивные условия для членства в AI Governance Community of Practice.
Поскольку многие просят у меня информацию о курсе на одну страницу — вот она. Пятый поток стартует в сентябре, и на этот раз я добавляю разбор нового GPAI Model Code of Practice и специфичных для ИИ аспектов кибербезопасности (учитывая все дополнительные риски, которые создают набирающие популярность ИИ-агенты).
🌟 Курс станет первым в мире, который будет использовать новейшее издание 2025/2026 Annotated AI Act от Арнуда Энгельфрита в качестве обязательного чтения.
✅ Почему этот курс особенный: у меня за плечами профильное образование (LL.M. in Innovation, Technology and the Law, Edinburgh) и десятилетие работы в профильной сфере, я участвую в разработке технических стандартов к Регламенту ЕС об ИИ в СЕН/СЕНЭЛЕК. Я не набираю большие группы, все задания (да, письменные работы, а не только тесты) проверяю лично я. Чтобы сохранить качество, количество мест строго ограничено.
🕒 Для работающих профессионалов: курс длится 4 недели, помимо 2 часов в Зуме вам потребуется около 6 часов в неделю в удобном для вас темпе, но со сроками сдачи заданий я достаточно гибок — понимаю, что работа может быть приоритетом. Занятия в зуме (2 часа в неделю) проходят по пятницам вечером, но вы можете смотреть записи, если так удобнее. Дополнительные часы для личного приёма помогут вам разобраться в конкретных вопросах, даже если вы не успеваете за группой.
⚡️ Регистрируйтесь сейчас, пока есть места на сентябрь. Подробности, отзывы и регистрация с оплатой в евро — на сайте курса. Для оплаты в рублях — оставьте заявку через бот.
💼 Дополнительные плюсы: работодатель может оплатить ваше обучение, а сертификат подходит для подтверждения CPD/CPE-кредитов в рамках обязательного повышения квалификации (но уточняйте у организации, которая предъявляет к вам требования, политика может различаться). Вам также будут предоставлены эксклюзивные условия для членства в AI Governance Community of Practice.
❤7🔥3