Robocounsel
Для борьбы с дипфейками японские фотокамеры оснастят ЭЦП Никон, Сони и Кэнон (совместно контролируют около 90% мирового рынка цифровых фотоаппаратов) объявили о том, что с этого года их новые камеры будут подписывать фотографии электронной цифровой подписью…
Индустрия стандартизирует подходы по подтверждению подлинности фото
Помните, я писал о том, как ключевые игроки рынка цифровых фотоаппаратов стали внедрять в них электронную цифровую подпись (ЭЦП)? Она может быть применена к фотографии и её метаданным автоматически самим фотоаппаратом в момент съёмки. Благодаря этому впоследствии можно доказать, что конкретное фото было сделано конкретным фотоаппаратом, в конкретной геолокации, в конкретное время, и так далее.
С момента анонса стали понятны технические детали. Для стандартизации метаданных и ЭЦП индустрия разработала и развивает техническую спецификацию C2PA. Её детали доступны здесь.
Хочется надеяться, что её вскоре поддержат и внедрят все без исключения производители фотоаппаратов и мобильных телефонов, чтобы не ограничивать сферу применения только дорогостоящей профессиональной техникой.
То, что уже сейчас новостные агентства и СМИ могут таким образом верифицировать происхождение материалов от своих источников — хорошо. Но с учётом "демократизации" создания дипфейков (нынче, например, можно наложить на фото вашей машины имитацию повреждений от ДТП прямо в ChatGPT), доказательства "нефейковости" фото — актуальный вопрос для всех, а не только для СМИ.
Самостоятельно проверить происхождение фотографии, при наличии в файле метаданных, можно через сервис Content Credentials.
Помните, я писал о том, как ключевые игроки рынка цифровых фотоаппаратов стали внедрять в них электронную цифровую подпись (ЭЦП)? Она может быть применена к фотографии и её метаданным автоматически самим фотоаппаратом в момент съёмки. Благодаря этому впоследствии можно доказать, что конкретное фото было сделано конкретным фотоаппаратом, в конкретной геолокации, в конкретное время, и так далее.
С момента анонса стали понятны технические детали. Для стандартизации метаданных и ЭЦП индустрия разработала и развивает техническую спецификацию C2PA. Её детали доступны здесь.
Хочется надеяться, что её вскоре поддержат и внедрят все без исключения производители фотоаппаратов и мобильных телефонов, чтобы не ограничивать сферу применения только дорогостоящей профессиональной техникой.
То, что уже сейчас новостные агентства и СМИ могут таким образом верифицировать происхождение материалов от своих источников — хорошо. Но с учётом "демократизации" создания дипфейков (нынче, например, можно наложить на фото вашей машины имитацию повреждений от ДТП прямо в ChatGPT), доказательства "нефейковости" фото — актуальный вопрос для всех, а не только для СМИ.
Самостоятельно проверить происхождение фотографии, при наличии в файле метаданных, можно через сервис Content Credentials.
Telegram
Robocounsel
Для борьбы с дипфейками японские фотокамеры оснастят ЭЦП
Никон, Сони и Кэнон (совместно контролируют около 90% мирового рынка цифровых фотоаппаратов) объявили о том, что с этого года их новые камеры будут подписывать фотографии электронной цифровой подписью…
Никон, Сони и Кэнон (совместно контролируют около 90% мирового рынка цифровых фотоаппаратов) объявили о том, что с этого года их новые камеры будут подписывать фотографии электронной цифровой подписью…
👍5❤3
⚡️⚡️OpenAI анонсировала выпуск новой open-source модели "в ближайшие месяцы"
Это произойдёт впервые за последние шесть лет — последней большой языковой моделью, выпущенной компанией с открытыми "весами" — в 2019 году — была GPT-2.
Анонс опубликовал Сэм Альтман несколько часов назад в X/Twitter.
Одновременно компания опубликовала форму обратной связи, где желающие могут сообщить о своих ожиданиях и пожеланиях по поводу возможностей и планируемых сценариях использования новой модели.
Для разработчиков будет проведена серия мероприятий: сначала в Сан-Франциско, а затем в Европе и Азиатско-Тихоокеанском регионе.
Ранее требование о том, чтобы OpenAI возобновила практику открытой публикации своих разработок, было предъявлено в иске к компании со стороны Илона Маска, одного из её основателей.
Это произойдёт впервые за последние шесть лет — последней большой языковой моделью, выпущенной компанией с открытыми "весами" — в 2019 году — была GPT-2.
Анонс опубликовал Сэм Альтман несколько часов назад в X/Twitter.
Одновременно компания опубликовала форму обратной связи, где желающие могут сообщить о своих ожиданиях и пожеланиях по поводу возможностей и планируемых сценариях использования новой модели.
Для разработчиков будет проведена серия мероприятий: сначала в Сан-Франциско, а затем в Европе и Азиатско-Тихоокеанском регионе.
Ранее требование о том, чтобы OpenAI возобновила практику открытой публикации своих разработок, было предъявлено в иске к компании со стороны Илона Маска, одного из её основателей.
👍3❤1😱1
Robocounsel
Индустрия стандартизирует подходы по подтверждению подлинности фото Помните, я писал о том, как ключевые игроки рынка цифровых фотоаппаратов стали внедрять в них электронную цифровую подпись (ЭЦП)? Она может быть применена к фотографии и её метаданным автоматически…
Как писал позавчера, на днях ЧатГПТ сильно облегчил подделку документов и фотодоказательств. Вас это волнует?
Final Results
14%
Нет, не вижу в этом проблемы
55%
Да, вижу в этом проблему
31%
Не знаю, ещё не осознал(а) суть или масштаб проблемы
Robocounsel
Как писал позавчера, на днях ЧатГПТ сильно облегчил подделку документов и фотодоказательств. Вас это волнует?
Media is too big
VIEW IN TELEGRAM
Так в чём проблема с "демократизацией" дипфейков?
Записал видео для моего Линкдина с небольшим пояснением о последствиях.
Выкладываю и тут. Все упомянутые в видео ссылки — в комментарии к посту здесь.
Записал видео для моего Линкдина с небольшим пояснением о последствиях.
Выкладываю и тут. Все упомянутые в видео ссылки — в комментарии к посту здесь.
❤9🔥3👍2
Деволд и его судебный дефолт
Перепутав зал судебного заседания с цирковой ареной, Джером Деволд, представляющий себя в деле самостоятельно, решил, что идеальной стратегией будет надипфейчить себе аватар адвоката, который, конечно же, убьёт суд наповал своей аргументацией, ведь живые юристы — это прошлый век.
Суд такие инновации не оценил.
Перепутав зал судебного заседания с цирковой ареной, Джером Деволд, представляющий себя в деле самостоятельно, решил, что идеальной стратегией будет надипфейчить себе аватар адвоката, который, конечно же, убьёт суд наповал своей аргументацией, ведь живые юристы — это прошлый век.
Суд такие инновации не оценил.
YouTube
US Man Uses AI Avatar In COURT But Judges REJECT It
A US man, Jerome Dewald, left judges stunned after he attempted to argue his case in a New York appeals court using an AI-generated avatar. The virtual stunt unfolded during a live hearing on March 26, as part of an employment dispute. Dewald later issued…
🔥10😁1
ai-privacy-risks-and-mitigations-in-llms.pdf
3.2 MB
Практическое руководство по управлению прайваси-рисками генеративного ИИ
Европейский совет по защите данных (EDPB) опубликовал документ, который заслуживает пристального внимания всех специалистов, работающих на стыке персональных данных и управления рисками ИИ. Руководство, разработанное моей коллегой по рабочим группам СЕН/СЕНЕЛЕК Изабель Барбера, предлагает структурированный подход к управлению рисками систем генеративного искусственного интеллекта в контексте персональных данных.
Документ основан на методологии управления рисками, продвигаемой существующими стандартами ИСО/МЭК, а также разрабатываемым нами в СЕН/СЕНЕЛЕК стандартом по управлению ИИ-рисками для целей Регламента ЕС по ИИ. Автор приводит конкретные примеры рисков, связанных с использованием ИИ, и предлагает меры по снижению этих рисков.
Методология, описанная в документе, позволяет организациям выстроить системный подход к выявлению потенциальных угроз при внедрении ИИ-решений и разработать эффективные стратегии минимизации рисков. Это особенно актуально в свете совершенствования требований к обработке персональных данных и повышенного внимания регуляторов к системам искусственного интеллекта.
Руководство включает разбор примеров использования ИИ в ряде сценариев.
Для специалистов по комплаенсу, разработчиков ИИ-систем и руководителей, принимающих решения о внедрении искусственного интеллекта, этот документ станет ценным инструментом, помогающим внедрять инновации, обеспечивая при этом соответствие нормативным требованиям.
Разбирать инсайты из документа будем на моём курсе — записаться на ближайшие новые даты в мае и июне можно здесь.
Европейский совет по защите данных (EDPB) опубликовал документ, который заслуживает пристального внимания всех специалистов, работающих на стыке персональных данных и управления рисками ИИ. Руководство, разработанное моей коллегой по рабочим группам СЕН/СЕНЕЛЕК Изабель Барбера, предлагает структурированный подход к управлению рисками систем генеративного искусственного интеллекта в контексте персональных данных.
Документ основан на методологии управления рисками, продвигаемой существующими стандартами ИСО/МЭК, а также разрабатываемым нами в СЕН/СЕНЕЛЕК стандартом по управлению ИИ-рисками для целей Регламента ЕС по ИИ. Автор приводит конкретные примеры рисков, связанных с использованием ИИ, и предлагает меры по снижению этих рисков.
Методология, описанная в документе, позволяет организациям выстроить системный подход к выявлению потенциальных угроз при внедрении ИИ-решений и разработать эффективные стратегии минимизации рисков. Это особенно актуально в свете совершенствования требований к обработке персональных данных и повышенного внимания регуляторов к системам искусственного интеллекта.
Руководство включает разбор примеров использования ИИ в ряде сценариев.
Для специалистов по комплаенсу, разработчиков ИИ-систем и руководителей, принимающих решения о внедрении искусственного интеллекта, этот документ станет ценным инструментом, помогающим внедрять инновации, обеспечивая при этом соответствие нормативным требованиям.
Разбирать инсайты из документа будем на моём курсе — записаться на ближайшие новые даты в мае и июне можно здесь.
👍9❤4🔥2
Мета изменила политику и будет обучать свой ИИ на ваших данных по умолчанию
Начиная с конца мая компания* будет использовать данные всех взрослых пользователей Фейсбука и Инстаграма из ЕС для обучения своих приложений искусственного интеллекта, включая чатбота Meta-AI в WhatsApp и языковые модели, такие как Llama.
Сюда входят все ранее опубликованные и публикуемые в будущем посты, комментарии, фотографии и подписи к ним.
Для жителей других стран такая политика уже действовала ранее.
Жителям стран ЕС предоставлено право отказаться от этой практики. Для реализации права необходимо авторизоваться на сайте и указать свой емейл в форме отказа (обосновывать своё желание не требуется):
Формы отказа от предоставления данных для обучения ИИ:
Фейсбук
Инстаграм
Официальный анонс.
* Деятельность Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook и Instagram запрещена в РФ
Начиная с конца мая компания* будет использовать данные всех взрослых пользователей Фейсбука и Инстаграма из ЕС для обучения своих приложений искусственного интеллекта, включая чатбота Meta-AI в WhatsApp и языковые модели, такие как Llama.
Сюда входят все ранее опубликованные и публикуемые в будущем посты, комментарии, фотографии и подписи к ним.
Для жителей других стран такая политика уже действовала ранее.
Жителям стран ЕС предоставлено право отказаться от этой практики. Для реализации права необходимо авторизоваться на сайте и указать свой емейл в форме отказа (обосновывать своё желание не требуется):
Формы отказа от предоставления данных для обучения ИИ:
Фейсбук
Инстаграм
Официальный анонс.
* Деятельность Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook и Instagram запрещена в РФ
Meta Newsroom
Making AI Work Harder for Europeans
Today, we’re announcing our plans to train AI at Meta using public content —like public posts and comments— shared by adults on our products in the EU.
😱5🥴3👍2❤1
Отличное введение в искусственный интеллект от Яна Лекуна
Одно из самых доступных видеообъяснений из всех, что я видел за последние годы, от одного из отцов-основателей современного ИИ.
Бонусом — о перспективах развития на ближайшие 10 лет и о том, какие стартапы могут быть перспективны, а также во что можно инвестировать.
Одно из самых доступных видеообъяснений из всех, что я видел за последние годы, от одного из отцов-основателей современного ИИ.
Бонусом — о перспективах развития на ближайшие 10 лет и о том, какие стартапы могут быть перспективны, а также во что можно инвестировать.
YouTube
WTF is Artificial Intelligence Really? | Yann LeCun x Nikhil Kamath | People by WTF Ep #4
A lot of us have heard conjectures around A.I., edge cases of the positive and negative side of A.I., and a lot of us are trying to predict what’s next. Most of my understanding of A.I. comes only from viewing what is apparent today.. reinforcement learning…
👍8
Небольшой Пайпергейт вокруг Регламента ЕС по ИИ
Партнёр из DLA Piper разместил в Линкдине их руководство по ИИ Акту, полное ошибок. Я откомментировал - он стёр мои комментарии. Я сделал репост с теми же комментариями - он удалил пост, мой репост тоже удалился.
В чём суть — можно прочитать здесь.
Партнёр из DLA Piper разместил в Линкдине их руководство по ИИ Акту, полное ошибок. Я откомментировал - он стёр мои комментарии. Я сделал репост с теми же комментариями - он удалил пост, мой репост тоже удалился.
В чём суть — можно прочитать здесь.
Linkedin
⚠️𝐓𝐡𝐞 𝐃𝐋𝐀 𝐏𝐢𝐩𝐞𝐫'𝐬 𝐠𝐮𝐢𝐝𝐞 𝐨𝐧 𝐭𝐡𝐞 𝐀𝐈 𝐀𝐜𝐭 𝐢𝐬 𝐟𝐮𝐥𝐥 𝐨𝐟 𝐞𝐫𝐫𝐨𝐫𝐬! | Aleksandr Tiulkanov LL.M., CIPP/E
⚠️𝐓𝐡𝐞 𝐃𝐋𝐀 𝐏𝐢𝐩𝐞𝐫'𝐬 𝐠𝐮𝐢𝐝𝐞 𝐨𝐧 𝐭𝐡𝐞 𝐀𝐈 𝐀𝐜𝐭 𝐢𝐬 𝐟𝐮𝐥𝐥 𝐨𝐟 𝐞𝐫𝐫𝐨𝐫𝐬! As its poster has deleted my purely factual, non-personal comments, I am escalating them to a post, as a public service, minding that this guide has allegedly already reached thousands of their clients…
😁8🔥3🌚1
Как разметка документов тегами экономит время при работе с чатботами
Недавно столкнулся с интересным кейсом применения разметки в промптах для ИИ-ассистентов.
Задача была классической для юридической работы — сравнить две версии документа и создать на их основе протокол изменений (разногласий).
Да, Ворд умеет и сам сравнивать две версии документа и создавать третью версию, с визуально выделенными изменениями (redline). Но мне нужен был именно протокол изменений, для подачи предложений в рамках наших процедур СЕН/СЕНЭЛЕК.
Сначала подумал, что бот справится на основе одного файла с выделенными правками - того самого redline. Загрузил один документ с активированными изменениями (track changes), предполагая, что современные ИИ-модели смогут распознать и интерпретировать эту стандартную разметку Word. Однако, несмотря на многочисленные попытки с разными моделями (разные топовые модели в платном Перплексити, а также бесплатные версии Джемини и ЧатГПТ), ни одна из них не смогла выдать корректный протокол на основе одного лишь redline.
Прочитал, что люди рекомендуют брать две версии документа, и предварительно разметить текст в них с помощью уникальных HTML-/XML-подобных тегов.
В теле документа "до" правок вначале поставил <RandomTagName1>, в конце — </RandomTagName1>, а документ "после" правок — разметил аналогично другими уникальными тегами. Для надёжности выбрал имена тегов, которые гарантированно не встречаются в тексте документов, чтобы помочь ИИ-модели избежать ошибок в интерпретации.
Затем оба документа загрузил в Перплексити, выбрал модель Claude 2.7 (без веб-поиска), и дал четкую инструкцию по формированию таблицы, с указанием её структуры, включая номера пунктов, текущей формулировки и предлагаемой формулировки, с выделением изменений и расшифровки их сути жирным шрифтом:
Результат оказался впечатляющим — ИИ корректно идентифицировал и структурировал большинство изменений. Два изменения пропустил, но возможно с другой моделью или другим чатботом точность будет выше.
После получения первичного результата дополнительно дал инструкцию скорректировать мотивировки изменений, указав типовые причины единообразно:
Это позволило избежать многократной вставки вручную однотипных обоснований.
В целом — подход помог сэкономить много времени.
И более широко — теги помогают ИИ-системе с большей точностью понять, что и где брать в массиве данных и что с этим всем делать. Потому что иначе всё, что вы загрузите — превращается в один сплошной промт, в котором разобраться очень сложно.
Пользуйтесь, делитесь опытом!
Недавно столкнулся с интересным кейсом применения разметки в промптах для ИИ-ассистентов.
Задача была классической для юридической работы — сравнить две версии документа и создать на их основе протокол изменений (разногласий).
Да, Ворд умеет и сам сравнивать две версии документа и создавать третью версию, с визуально выделенными изменениями (redline). Но мне нужен был именно протокол изменений, для подачи предложений в рамках наших процедур СЕН/СЕНЭЛЕК.
Сначала подумал, что бот справится на основе одного файла с выделенными правками - того самого redline. Загрузил один документ с активированными изменениями (track changes), предполагая, что современные ИИ-модели смогут распознать и интерпретировать эту стандартную разметку Word. Однако, несмотря на многочисленные попытки с разными моделями (разные топовые модели в платном Перплексити, а также бесплатные версии Джемини и ЧатГПТ), ни одна из них не смогла выдать корректный протокол на основе одного лишь redline.
Прочитал, что люди рекомендуют брать две версии документа, и предварительно разметить текст в них с помощью уникальных HTML-/XML-подобных тегов.
В теле документа "до" правок вначале поставил <RandomTagName1>, в конце — </RandomTagName1>, а документ "после" правок — разметил аналогично другими уникальными тегами. Для надёжности выбрал имена тегов, которые гарантированно не встречаются в тексте документов, чтобы помочь ИИ-модели избежать ошибок в интерпретации.
Затем оба документа загрузил в Перплексити, выбрал модель Claude 2.7 (без веб-поиска), и дал четкую инструкцию по формированию таблицы, с указанием её структуры, включая номера пунктов, текущей формулировки и предлагаемой формулировки, с выделением изменений и расшифровки их сути жирным шрифтом:
Attached are two Microsoft .docx, the original version (content enclosed between <OriginalText> and </OriginalText> and the version with proposed changes (content enclosed between <ProposedChange> and </ProposedChange>). Output the proposed changes in a table format, first column - clause number, second column - current wording, third column - proposed wording. Reproduce the whole sentence where changes are introduced, but highlight the actual change proposed in bold. In each row of the third column, add a sentence in bold summarising the substance of proposed change.
Результат оказался впечатляющим — ИИ корректно идентифицировал и структурировал большинство изменений. Два изменения пропустил, но возможно с другой моделью или другим чатботом точность будет выше.
После получения первичного результата дополнительно дал инструкцию скорректировать мотивировки изменений, указав типовые причины единообразно:
amend the substance of some proposed changes in column 3 as follows:
- where I propose "level of automation (autonomy)" instead of "autonomy", this is for consistency with ISO/IEC 22989:2022 terminology.
- where I replace risks with hazards or foreseeable hazards, or risky with hazardous, or risk for level of risk, it is for consistency with EN AI RM
- where I expand the acronym, it is for clarity;
- where I add new requirement for biometrics, it is for consistency with the EU AI Act art 14(5) requirement.
Это позволило избежать многократной вставки вручную однотипных обоснований.
В целом — подход помог сэкономить много времени.
И более широко — теги помогают ИИ-системе с большей точностью понять, что и где брать в массиве данных и что с этим всем делать. Потому что иначе всё, что вы загрузите — превращается в один сплошной промт, в котором разобраться очень сложно.
Пользуйтесь, делитесь опытом!
👍16❤1
Разъяснения по GPAIM: открыта публичная консультация
Еврокомиссия запустила эту консультацию для сбора экспертных мнений по будущим разъяснениям, касающимся ИИ-моделей общего назначения (GPAIM), в контексте Регламента ЕС по ИИ.
Срок: до 22 мая 2025 г.
В прилагаемом рабочем документе много интересного и иногда не очень понятного: например, Комиссия предполагает, что модели для генерации изображений тоже подпадают под понятие GPAIM.
Логики в этом я никакой не вижу. Если модель не мультимодальная, то есть не предназначена одновременно для генерации, в частности, текста, генерация только изображений — это довольно узкая задача. Соответственно, такие модели не пригодны для построения ИИ-систем иных, кроме предназначенных для этой узкой задачи.
Любопытно, что будет в итоговых разъяснениях.
Еврокомиссия запустила эту консультацию для сбора экспертных мнений по будущим разъяснениям, касающимся ИИ-моделей общего назначения (GPAIM), в контексте Регламента ЕС по ИИ.
Срок: до 22 мая 2025 г.
В прилагаемом рабочем документе много интересного и иногда не очень понятного: например, Комиссия предполагает, что модели для генерации изображений тоже подпадают под понятие GPAIM.
Логики в этом я никакой не вижу. Если модель не мультимодальная, то есть не предназначена одновременно для генерации, в частности, текста, генерация только изображений — это довольно узкая задача. Соответственно, такие модели не пригодны для построения ИИ-систем иных, кроме предназначенных для этой узкой задачи.
Любопытно, что будет в итоговых разъяснениях.
ec.europa.eu
Consultation: Commission Guidelines to Clarify the Scope of the General-purpose AI Rules in the AI Act
EUSurvey is an online survey-management system built for the creation and publishing of globally accessible forms, such as user satisfaction surveys and public consultations.
👍5
ETSI опубликовал первый международный стандарт по кибербезопасности ИИ-систем
Документ ETSI TS 104 223 V1.1.1 (2025-04) Европейского института телекоммуникационных стандартов свободно доступен на их сайте и впервые стандартизирует на международном уровне общие принципы и базовые требования, специфичные для кибербезопасности ИИ-систем.
Принцип 1: Повышать осведомленность об угрозах и рисках безопасности ИИ
Принцип 2: Проектировать системы ИИ с учетом безопасности, а также функциональности и производительности
Принцип 3: Оценивать угрозы и управлять рисками для системы ИИ
Принцип 4: Обеспечивать ответственность людей за системы ИИ
Принцип 5: Идентифицировать, отслеживать и защищать активы
Принцип 6: Обеспечивать безопасность инфраструктуры
Принцип 7: Обеспечивать безопасность цепочки поставок
Принцип 8: Документировать данные, модели и промпты
Принцип 9: Проводить соответствующее тестирование и оценку
Принцип 10: Коммуникация и процессы, связанные с конечными пользователями и затрагиваемыми субъектами
Принцип 11: Поддерживать регулярные обновления безопасности, патчи и меры по смягчению последствий
Принцип 12: Отслеживать поведение системы
Принцип 13: Обеспечивать надлежащую утилизацию данных и моделей
Каждый из принципов сопровождается обязательными требованиями и рекомендациями для пользователей стандарта.
Стандарт не является гармонизированным стандартом для целей Регламента ЕС по ИИ, но имплементация его требований может способствовать подготовке к выполнению требований Регламента в части кибербезопасности ИИ-систем.
Документ ETSI TS 104 223 V1.1.1 (2025-04) Европейского института телекоммуникационных стандартов свободно доступен на их сайте и впервые стандартизирует на международном уровне общие принципы и базовые требования, специфичные для кибербезопасности ИИ-систем.
Принцип 1: Повышать осведомленность об угрозах и рисках безопасности ИИ
Принцип 2: Проектировать системы ИИ с учетом безопасности, а также функциональности и производительности
Принцип 3: Оценивать угрозы и управлять рисками для системы ИИ
Принцип 4: Обеспечивать ответственность людей за системы ИИ
Принцип 5: Идентифицировать, отслеживать и защищать активы
Принцип 6: Обеспечивать безопасность инфраструктуры
Принцип 7: Обеспечивать безопасность цепочки поставок
Принцип 8: Документировать данные, модели и промпты
Принцип 9: Проводить соответствующее тестирование и оценку
Принцип 10: Коммуникация и процессы, связанные с конечными пользователями и затрагиваемыми субъектами
Принцип 11: Поддерживать регулярные обновления безопасности, патчи и меры по смягчению последствий
Принцип 12: Отслеживать поведение системы
Принцип 13: Обеспечивать надлежащую утилизацию данных и моделей
Каждый из принципов сопровождается обязательными требованиями и рекомендациями для пользователей стандарта.
Стандарт не является гармонизированным стандартом для целей Регламента ЕС по ИИ, но имплементация его требований может способствовать подготовке к выполнению требований Регламента в части кибербезопасности ИИ-систем.
❤4👍1
Компания, укомплектованная ИИ-агентами, потерпела фиаско
Исследователи из Университета Карнеги-Меллон провели любопытный эксперимент, создав виртуальную компанию, полностью укомплектованную ИИ-агентами - приложениями, предназначенными для самостоятельного выполнения задач.
Результаты оказались удручающе смешными.
Как сообщает Business Insider, даже агент на базе лучшей модели в эксперименте - Claude 3.5 Sonnet от Anthropic - смогла выполнить лишь 24% поставленных задач. При этом такая "работа" оказалась непомерно дорогой: в среднем каждая задача требовала около 30 шагов и обходилась более чем в 6 долларов.
Gemini 2.0 Flash от Google показал второй результат с успешностью всего 11,4%, затрачивая в среднем 40 шагов на каждую выполненную задачу. Худшим "сотрудником" оказался Amazon Nova Pro v1, справившийся лишь с 1,7% заданий.
Исследователи также отметили проблему самообмана у ИИ-агентов. Например, в одном случае агент, не найдя нужного "человека" в корпоративном чате, просто переименовал другого пользователя, присвоив ему имя того, кого искал.
Эксперимент наглядно демонстрирует, что хотя ИИ-агенты могут иногда справляться с некоторыми простыми задачами, они явно не готовы к более сложной работе.
Исследователи из Университета Карнеги-Меллон провели любопытный эксперимент, создав виртуальную компанию, полностью укомплектованную ИИ-агентами - приложениями, предназначенными для самостоятельного выполнения задач.
Результаты оказались удручающе смешными.
Как сообщает Business Insider, даже агент на базе лучшей модели в эксперименте - Claude 3.5 Sonnet от Anthropic - смогла выполнить лишь 24% поставленных задач. При этом такая "работа" оказалась непомерно дорогой: в среднем каждая задача требовала около 30 шагов и обходилась более чем в 6 долларов.
Gemini 2.0 Flash от Google показал второй результат с успешностью всего 11,4%, затрачивая в среднем 40 шагов на каждую выполненную задачу. Худшим "сотрудником" оказался Amazon Nova Pro v1, справившийся лишь с 1,7% заданий.
Исследователи также отметили проблему самообмана у ИИ-агентов. Например, в одном случае агент, не найдя нужного "человека" в корпоративном чате, просто переименовал другого пользователя, присвоив ему имя того, кого искал.
Эксперимент наглядно демонстрирует, что хотя ИИ-агенты могут иногда справляться с некоторыми простыми задачами, они явно не готовы к более сложной работе.
Futurism
Professors Staffed a Fake Company Entirely With AI Agents, and You'll Never Guess What Happened
An experiment by researchers at Carnegie Melon University staffed a fake software company with AI Agents, and the results were dismal.
🔥7😁6🤩1
ФТК США пресекла практику распространения заведомо ложной рекламы ИИ-продукта
Федеральная торговая комиссия США (FTC) приняла предварительное решение против компании Workado, продвигавшей свой "детектор контента, сгенерированного ИИ". Регулятор установил, что продукт, позиционируемый как инструмент для определения авторства текстов (человек или ИИ), демонстрировал точность не выше случайного угадывания - 53% вместо заявленных 98%.
Заведомо ложные утверждения о точности инструмента являются актом недобросовестной конкуренции, вводящим в заблуждение как рядовых пользователей, так и профессиональных клиентов.
По условиям соглашения с ФТК, компания обязана прекратить распространение необоснованных заявлений о продукте, не подтверждённых доказательно, уведомить клиентов о решении ФТК и ежегодно отчитываться о выполнении требований. Штраф за нарушение условий соглашения будет составлять до $53 тыс. за каждый случай.
Федеральная торговая комиссия США (FTC) приняла предварительное решение против компании Workado, продвигавшей свой "детектор контента, сгенерированного ИИ". Регулятор установил, что продукт, позиционируемый как инструмент для определения авторства текстов (человек или ИИ), демонстрировал точность не выше случайного угадывания - 53% вместо заявленных 98%.
Заведомо ложные утверждения о точности инструмента являются актом недобросовестной конкуренции, вводящим в заблуждение как рядовых пользователей, так и профессиональных клиентов.
По условиям соглашения с ФТК, компания обязана прекратить распространение необоснованных заявлений о продукте, не подтверждённых доказательно, уведомить клиентов о решении ФТК и ежегодно отчитываться о выполнении требований. Штраф за нарушение условий соглашения будет составлять до $53 тыс. за каждый случай.
Federal Trade Commission
FTC Order Requires Workado to Back Up Artificial Intelligence Detection Claims
The Federal Trade Commission issued a proposed order requiring Workado, LLC to stop advertising the accuracy of its artificial intelligence (AI) detection products unless it maintains competent and
❤4👏4
Регулирование в ЕС блокирует инновации?
В следующий раз, когда кто-то будет снова воспроизводить глупости по поводу того, что ЕС подавляет инновационный бизнес своим избыточным регулированием цифровых рынков, просто покажите ему или ей этот пост Тима Суини, руководителя Epic Games:
ЕС является одним из редких рынков в мире, где регулирование методично защищает добросовестную конкуренцию в цифровой среде и препятствует антиконкурентным практикам со стороны платформ-монополий.
Согласно решению Еврокомиссии от 23 апреля 2025 года, в соответствии с Регламентом ЕС о цифровых рынках (DMA), разработчики приложений, распространяющие свои продукты через App Store от Apple, должны иметь возможность бесплатно информировать клиентов об альтернативных предложениях за пределами App Store, направлять их к этим предложениям и позволять им совершать покупки.
Комиссия установила, что Apple не соблюдает данное обязательство. Из-за ряда ограничений, наложенных Apple, разработчики приложений не могут в полной мере пользоваться преимуществами альтернативных каналов распространения за пределами App Store. Аналогично, потребители не имеют возможности воспользоваться альтернативными и более выгодными предложениями, поскольку Apple препятствует прямому информированию клиентов разработчиками о таких предложениях. Компания не смогла доказать, что эти ограничения объективно необходимы и соразмерны.
В рамках своего решения Комиссия обязала Apple устранить технические и коммерческие ограничения на перенаправление клиентов и воздержаться от продолжения несоответствующего требованиям поведения в будущем, включая принятие мер с аналогичной целью или эффектом.
За допущенные антиконкурентные практики на Apple наложен штраф в 500 млн. евро. Ранее в марте на компанию также был наложен штраф в 1,8 млрд. евро за включение в договоры с провайдерами стриминга положений, явно обременительных и необоснованно ущемляющих права данных провайдеров.
В следующий раз, когда кто-то будет снова воспроизводить глупости по поводу того, что ЕС подавляет инновационный бизнес своим избыточным регулированием цифровых рынков, просто покажите ему или ей этот пост Тима Суини, руководителя Epic Games:
Apple не даёт Epic Games Store возможности конкурировать с App Store на платформе iOS в США и по всему миру, за исключением Европы. Только Европа дает нам, американской компании-разработчику, возможность соперничать с Apple!
Вместо того чтобы критиковать Европу за противодействие монополиям и защиту конкуренции, нам следует возродить эффективное антимонопольное регулирование в США и защитить права всех американских разработчиков приложений и потребителей от злоупотреблений со стороны Apple и Google.
ЕС является одним из редких рынков в мире, где регулирование методично защищает добросовестную конкуренцию в цифровой среде и препятствует антиконкурентным практикам со стороны платформ-монополий.
Согласно решению Еврокомиссии от 23 апреля 2025 года, в соответствии с Регламентом ЕС о цифровых рынках (DMA), разработчики приложений, распространяющие свои продукты через App Store от Apple, должны иметь возможность бесплатно информировать клиентов об альтернативных предложениях за пределами App Store, направлять их к этим предложениям и позволять им совершать покупки.
Комиссия установила, что Apple не соблюдает данное обязательство. Из-за ряда ограничений, наложенных Apple, разработчики приложений не могут в полной мере пользоваться преимуществами альтернативных каналов распространения за пределами App Store. Аналогично, потребители не имеют возможности воспользоваться альтернативными и более выгодными предложениями, поскольку Apple препятствует прямому информированию клиентов разработчиками о таких предложениях. Компания не смогла доказать, что эти ограничения объективно необходимы и соразмерны.
В рамках своего решения Комиссия обязала Apple устранить технические и коммерческие ограничения на перенаправление клиентов и воздержаться от продолжения несоответствующего требованиям поведения в будущем, включая принятие мер с аналогичной целью или эффектом.
За допущенные антиконкурентные практики на Apple наложен штраф в 500 млн. евро. Ранее в марте на компанию также был наложен штраф в 1,8 млрд. евро за включение в договоры с провайдерами стриминга положений, явно обременительных и необоснованно ущемляющих права данных провайдеров.
👏12👍8😁1🤔1🌚1
Соотношение категорий ИИ-систем в Регламенте ЕС по ИИ
Помните мою схему про соотношение категорий систем ИИ повышенной опасности и систем, требующих транспарентности?
Меня процитировали в апрельской публикации кассационного (верховного) суда Франции — Cour de cassation et intelligence artificielle : préparer la Cour de demain, 2025.
Помните мою схему про соотношение категорий систем ИИ повышенной опасности и систем, требующих транспарентности?
Меня процитировали в апрельской публикации кассационного (верховного) суда Франции — Cour de cassation et intelligence artificielle : préparer la Cour de demain, 2025.
👍16🔥16
Что будут представлять из себя шоппинг-боты от Визы?
Технология анонсирована: вы сообщаете боту, какие кроссовки (отель, сервис и т.д.) вы хотите, выделяете бюджет, ограниченный параметрами виртуальной платёжной карты, а бот находит и покупает нужное:
Понятно, что у Визы и/или платёжных партнёров есть вся нужная базовая инфраструктура, доступ к истории транзакций (необходимый для опциональной персонализации), АПИ, антифрод-системы, токенизация платёжных реквизитов, и т. д.
Но готовой для потребителя реализации пока нет, и первые пилотные проекты лишь "ожидаются в ближайшие месяцы".
Вопросов пока больше, чем ответов: и по стеку технологий, и по потребительскому опыту, и по учёту ожиданий поставщиков товаров и услуг. Например:
— какие поставщики смогут попасть в отбор шоппинг-агенту,
— какие из них будут приоритизированы для пользователя и по какому принципу,
— как будут учитываться программы лояльности, купоны на скидку и прочие спецпредложения,
— как будут учитываться опции оплаты в рассрочку или в кредит,
— как точно будет выполняться запрос в части предпочтений (конкретная конфигурация ноутбука, опции комнаты в отеле, и т.д.),
— как продажи через шоппинг-ботов повлияют на продажи через другие каналы и на маркетинговые стратегии поставщиков товаров и услуг,
— и т.д.
Тем не менее, ряд технических деталей от глобального главы потребительских продуктов Визы Марка Нильсена доступен здесь.
Технология анонсирована: вы сообщаете боту, какие кроссовки (отель, сервис и т.д.) вы хотите, выделяете бюджет, ограниченный параметрами виртуальной платёжной карты, а бот находит и покупает нужное:
Visa запускает «Intelligent Commerce», набор интегрированных API и партнерскую программу, чтобы позволить платформам искусственного интеллекта и разработчикам внедрять платежи непосредственно в процесс коммерции.
Система позволяет пользователям безопасно загружать информацию о своей карте в ИИ-агент с помощью платежных ключей Visa, которые затем токенизируются. Пользователи могут давать инструкции по оплате и устанавливать настраиваемые параметры, например, лимиты расходов, позволяя агенту ИИ находить и приобретать товары или услуги от их имени.
Система Visa Intelligent Commerce призвана трансформировать онлайн-шопинг, создав удобный, персонализированный и плавный процесс: вместо поиска и выбора товаров — непосредственно к покупкам.
Понятно, что у Визы и/или платёжных партнёров есть вся нужная базовая инфраструктура, доступ к истории транзакций (необходимый для опциональной персонализации), АПИ, антифрод-системы, токенизация платёжных реквизитов, и т. д.
Но готовой для потребителя реализации пока нет, и первые пилотные проекты лишь "ожидаются в ближайшие месяцы".
Вопросов пока больше, чем ответов: и по стеку технологий, и по потребительскому опыту, и по учёту ожиданий поставщиков товаров и услуг. Например:
— какие поставщики смогут попасть в отбор шоппинг-агенту,
— какие из них будут приоритизированы для пользователя и по какому принципу,
— как будут учитываться программы лояльности, купоны на скидку и прочие спецпредложения,
— как будут учитываться опции оплаты в рассрочку или в кредит,
— как точно будет выполняться запрос в части предпочтений (конкретная конфигурация ноутбука, опции комнаты в отеле, и т.д.),
— как продажи через шоппинг-ботов повлияют на продажи через другие каналы и на маркетинговые стратегии поставщиков товаров и услуг,
— и т.д.
Тем не менее, ряд технических деталей от глобального главы потребительских продуктов Визы Марка Нильсена доступен здесь.
PYMNTS.com
Visa Gives AI Shopping Agents ‘Intelligent Commerce’ Superpowers | PYMNTS.com
Visa wants the next wave of agentic artificial intelligence (AI) to do more than curate a dream vacation or the perfect outfit to wear for it. It wants it
❤2👍2🔥1
Побывал на подкасте у Елены Гуревич и Алисы Седнёвой
Рассказал про некоторые пересечения между ОРЗД (GDPR) и Регламентом ЕС по ИИ.
Запись здесь.
Рассказал про некоторые пересечения между ОРЗД (GDPR) и Регламентом ЕС по ИИ.
Запись здесь.
YouTube
Episode 37 "Two Towers: EU AI Act & GDPR"
Together with Aleksandr Tiulkanov we will map broad data protection concerns across an AI system's lifecycle, discuss technical standards for the AI Act, and explore whether the EU AI Act and GDPR overlap.
🎙️ New to streaming or looking to level up? Check…
🎙️ New to streaming or looking to level up? Check…
👍6🔥2❤1
ИИ-заявление погибшего в суде: технологический прорыв или угроза процессуальным правам?
В Аризоне впервые в США родственники жертвы убийства использовали ИИ для создания вымышленного видеообращения погибшего, которое, с предварительным раскрытием этого факта, было продемонстрировано в суде перед вынесением приговора. Технология позволила "воскресить" Кристофера Пелки, погибшего в 2021 году в результате конфликта на дороге, чтобы он мог "лично" выступить на слушании по делу.
Это вызывает серьезные этические вопросы. Несмотря на то, что некоторые эксперты называют такое применение ИИ-дипфейков "вызывающим наименьшие возражения", важно отметить, что видео было продемонстрировано после установления вины, но до вынесения приговора. Это означает, что оно могло повлиять на решение судьи о строгости наказания. В данном случае Габриэль Хоркаситас был приговорен к 10,5 годам лишения свободы (типичный срок для таких преступлений в Аризоне), при этом судья Тодд Ланг даже выразил одобрение использованию ИИ, что вызывает вопросы о влиянии дипфейка на его решение.
Можно предположить, что эмоциональное воздействие ИИ-сгенерированного видео на судью может быть значительно сильнее, чем традиционных заявлений от родственников, учитывая, что речь идет о погибшем, который физически не мог бы выступить в суде.
Это создает риск нарушения процессуальных прав обвиняемого, поскольку технология может непропорционально усиливать эмоциональное воздействие свидетельства. Адвокат Хоркаситаса уже подал апелляцию, предполагая, что судья мог неправомерно полагаться на ИИ-видео при вынесении приговора.
Данный случай поднимает более широкий вопрос о месте ИИ в судебной системе. Профессор Бруклинской школы права Синтия Годсоу предупреждает, что такие технологии могут "разжигать эмоции сильнее, чем фотографии", и призывает суды быть осторожными. Другие эксперты отмечают, что поскольку видео было показано судье, а не присяжным, и не представлялось как доказательство, его влияние ограничено.
В Аризоне впервые в США родственники жертвы убийства использовали ИИ для создания вымышленного видеообращения погибшего, которое, с предварительным раскрытием этого факта, было продемонстрировано в суде перед вынесением приговора. Технология позволила "воскресить" Кристофера Пелки, погибшего в 2021 году в результате конфликта на дороге, чтобы он мог "лично" выступить на слушании по делу.
Это вызывает серьезные этические вопросы. Несмотря на то, что некоторые эксперты называют такое применение ИИ-дипфейков "вызывающим наименьшие возражения", важно отметить, что видео было продемонстрировано после установления вины, но до вынесения приговора. Это означает, что оно могло повлиять на решение судьи о строгости наказания. В данном случае Габриэль Хоркаситас был приговорен к 10,5 годам лишения свободы (типичный срок для таких преступлений в Аризоне), при этом судья Тодд Ланг даже выразил одобрение использованию ИИ, что вызывает вопросы о влиянии дипфейка на его решение.
Можно предположить, что эмоциональное воздействие ИИ-сгенерированного видео на судью может быть значительно сильнее, чем традиционных заявлений от родственников, учитывая, что речь идет о погибшем, который физически не мог бы выступить в суде.
Это создает риск нарушения процессуальных прав обвиняемого, поскольку технология может непропорционально усиливать эмоциональное воздействие свидетельства. Адвокат Хоркаситаса уже подал апелляцию, предполагая, что судья мог неправомерно полагаться на ИИ-видео при вынесении приговора.
Данный случай поднимает более широкий вопрос о месте ИИ в судебной системе. Профессор Бруклинской школы права Синтия Годсоу предупреждает, что такие технологии могут "разжигать эмоции сильнее, чем фотографии", и призывает суды быть осторожными. Другие эксперты отмечают, что поскольку видео было показано судье, а не присяжным, и не представлялось как доказательство, его влияние ограничено.
NPR
Family shows AI video of slain victim as an impact statement — possibly a legal first
AI experts say this is likely the first time that AI has been used in the U.S. to create an impact statement read by an AI rendering of the deceased victim
😱7❤1🤩1
Нужна квалифицированная подпись для госзакупок, госуслуг и контрактов в ЕС?
Вчера возникла такая потребность, поэтому делюсь с теми, кому будет тоже актуально.
Электронные подписи в ЕС регулируются Регламентом eIDAS.
Для понимания, в eIDAS четыре вида подписи:
1) SES (SMS, OTP-коды и т.п.)
2) AdES
3) AdES/QC
4) QES — самая надёжная. При получении сертификата на такую подпись от поставщика из любой страны ЕС, проставленные вами подписи признаются во всех остальных странах для практически всех документов. Госзакупки, госуслуги, любые договоры, и так далее. Ну, кроме, завещаний и чего-то ещё, где действительна только письменная форма на бумаге.
Мне для одной французской госуслуги нужен был сертификат подписи не ниже AdES/QC. Поставщик, которого нашёл, выдаёт облачные QES, что даже ещё лучше. Так как весь процесс у них 100% онлайн, физические токены для граждан они не выпускают — только облачные сертификаты. Насчёт корпоративных решений не уточнял, но компания работает и с бизнесом.
Само подписание документов их сертификатом возможно либо через их же облачный сервис, либо в Docusign или Adobe Sign.
Сервис называется TrustPro, идентифицируют по видео: нужно на камеру прочитать текст с экрана, номер проверочной смс и показать паспорт — российский заграничный тоже принимают без проблем. Через полчаса всё готово. Проверяют люди, поэтому допускаю, что ночью вам ничего не активируют.
1) Сервис выдачи сертификатов ЭЦП QES eIDAS, который я нашёл и использовал
2) Сервис Еврокомиссии для проверки валидности ЭЦП на документах по eIDAS
3) Полный список всех доверенных поставщиков ЭЦП eIDAS в ЕС, если хотите посмотреть все альтернативы
4) Регламент eIDAS.
Вчера возникла такая потребность, поэтому делюсь с теми, кому будет тоже актуально.
Электронные подписи в ЕС регулируются Регламентом eIDAS.
Для понимания, в eIDAS четыре вида подписи:
1) SES (SMS, OTP-коды и т.п.)
2) AdES
3) AdES/QC
4) QES — самая надёжная. При получении сертификата на такую подпись от поставщика из любой страны ЕС, проставленные вами подписи признаются во всех остальных странах для практически всех документов. Госзакупки, госуслуги, любые договоры, и так далее. Ну, кроме, завещаний и чего-то ещё, где действительна только письменная форма на бумаге.
Мне для одной французской госуслуги нужен был сертификат подписи не ниже AdES/QC. Поставщик, которого нашёл, выдаёт облачные QES, что даже ещё лучше. Так как весь процесс у них 100% онлайн, физические токены для граждан они не выпускают — только облачные сертификаты. Насчёт корпоративных решений не уточнял, но компания работает и с бизнесом.
Само подписание документов их сертификатом возможно либо через их же облачный сервис, либо в Docusign или Adobe Sign.
Сервис называется TrustPro, идентифицируют по видео: нужно на камеру прочитать текст с экрана, номер проверочной смс и показать паспорт — российский заграничный тоже принимают без проблем. Через полчаса всё готово. Проверяют люди, поэтому допускаю, что ночью вам ничего не активируют.
1) Сервис выдачи сертификатов ЭЦП QES eIDAS, который я нашёл и использовал
2) Сервис Еврокомиссии для проверки валидности ЭЦП на документах по eIDAS
3) Полный список всех доверенных поставщиков ЭЦП eIDAS в ЕС, если хотите посмотреть все альтернативы
4) Регламент eIDAS.
👍12❤4