Robocounsel
1.95K subscribers
265 photos
18 videos
81 files
660 links
О регулировании и социальных аспектах применения ИИ и данных, преимущественно в ЕС. Публикации отражают сугубо личное мнение автора.

Контакт, вопросы: используйте кнопку 💬 в левом нижнем углу.

Шрифт в логотипе - Alex Murphy Solid от Goatmeal
Download Telegram
Robocounsel
Спасибо за поддержку! Очень благодарен всем, поддерживающим канал (кнопочка наверху). Теперь у меня нормальный микрофон и следующий стрим на канале будет с хорошим звуком. Напомню, что бонусом всем подписавшимся на донаты предоставляется доступ к закрытой…
16 февраля стартовый созвон по обсуждению Automation bias

Для участников закрытой группы опубликовал приглашение на звонок по обсуждению проблематики слепого доверия автоматизированным системам (automation bias). Ранее описывал данный феномен в этой и этой заметках.

Обсуждение организовано ForHumanity, некоммерческой организацией, осуществляющей подготовку и сертификацию специалистов — будущих аудиторов ИИ-систем.

Данная организация в настоящее время разрабатывает критерии для аудита информационных систем на предмет соответствия регуляторным требованиям, а также критерии аккредитации перспективных органов по сертификации. В частности, по просьбе британского регулятора в области персональных данных (ICO) — для информационных систем, обрабатывающих персональные данные.

Как присоединиться к закрытой группе — описано здесь.
👍2
Robocounsel
Photo
Блок-схема и статья про ЧатГПТ окончательно ушли в народ

Мне написал бывший коллега по Сименсу, что прочитал обо мне в Зюддойче Цайтунг. Я проверил — и правда. В электронной версии газеты также приведена ссылка на мою блок-схему.
🔥19👍8🤯4
Robocounsel
Бесплатных социальных сетей не бывает Последнее дело о штрафах против Фейсбука - не только про приватность, но и про модели монетизации интернет-сервисов. В моей новой статье я размышляю о том: - что сейчас в фокусе общественного обсуждения, - что на самом…
Подкаст: "Данные - новая валюта или почему не бывает бесплатных соцсетей"

Возможно, вы уже читали мою недавнюю статью по поводу нашумевшего дела о штрафах Фейсбуку за персонализированную рекламу. Напомню, что Макс Шремс (да, опять он) хотел заставить оператора соцсети получать у пользователей согласие на просмотр персонализированной рекламы. Оператор же делал это на основании договора, и считал, что этого достаточно.

По ходу рассмотрения дела произошло много интересного.

В целом все (кроме оператора Фейсбука) согласились с тем, что хоронить согласие на такую рекламу внутри договора, не раскрывая это обстоятельство более явно — непозволительно непрозрачно. Но вот в части принципиальной возможности полагаться на договор позиции регуляторов разделились.

В частности, поссорились Европейский совет по защите данных (EDPB), поддержавший Шремса, и ирландский орган по защите данных, чья позиция оказалась более бизнес-ориентированной.

И вот, мы обсудили это дело с коллегами из подкаста "Не для галочки".

Ведущие выпуска:
Ирина Шурмина, SEAMLESS Legal
Кристина Боровикова, со-основатель RPPA, Kept
Елизавета Дмитриева, data privacy engineer в российском инхаусе

Гости:
Екатерина Калугина, Head of Privacy в международной компании, член RPPA, IAPP, BCI Society
Александр Тюльканов, LL.M., ассоциированный исследователь CEIPI (Страсбург), CIPP/E

Слушайте здесь либо на любой доступной вам подкаст-платформе.
👍6🔥2
Скрытное применение ЧатГПТ для создания академических работ будет приравниваться к плагиату

Расположенная в Берлине высшая школа по международному управлению Херти (Hertie School of Governance), выпустила правила применения систем искусственного интеллекта в образовательном процессе.

В целом использование студентами таких инструментов, как ЧатГПТ, не запрещается, но остаётся на усмотрение преподавателя по конкретному курсу.

Вместе с тем, сдача работ, созданных с применением инструментов по генерации текста и машинного перевода, без раскрытия этого факта, признаётся нарушением академической дисциплины и карается по правилам, применимым к плагиату.
👍7
Конструктор автоматических шахмат

Друзья, ко мне обратился Дмитрий, ученик одной из московских школ.

На всероссийскую олимпиаду по робототехнике Дмитрий готовит проект "Конструктор автоматических шахмат".

Конструктор будет представлять собой каркас, манипуляторы, шахматные фигуры и другие компоненты, а также инструкцию, которая поможет собрать и запрограммировать автоматические шахматы.

Для определения целевой аудитории проекта, возможной корректировки задач по нему и дальнейшего его развития Дмитрий проводит исследование.

Давайте поможем ему, поучаствовав в этом опросе.
😍4
AtMan: "Сейчас всё объясню"

Если помните, объяснимость работы машинно-обученных моделей — одна из основных целей всех фреймворков по регулированию и стандартизации ИИ.

Группа исследователей утверждает, что у них получилось — в отношении генеративных моделей-трансформеров, при помощи созданной ими модели AtMan.

С работой можно ознакомиться здесь.
Вебинар: стандартизация систем ИИ в Европе с учётом проекта Регламента ЕС по ИИ

В эту пятницу, 17 февраля 2023 г., в 13 ч. МСК, Институт Алана Тьюринга проводит вебинар.

Спикер: д-р Себастиан Халленслебен, председатель комитета JTC 21 ЕКС-СЕНЕЛЕК (CEN-CENELEC, европейские органы по стандартизации).

Спикер расскажет, какие стандарты запланированы к разработке комитетом. Пояснит, как они связаны с проектом Регламента ЕС по ИИ и международным регулированием ИИ в целом. Также выделено время для вопросов и ответов аудитории.

Участие бесплатное, через Зум. Регистрируйтесь.
👍4
CAI Revised zero draft Jan 2023.pdf
386.9 KB
Европейская конвенция об ИИ: опубликован первый проект

Совет Европы продолжает работу над Конвенцией об искусственном интеллекте.

Для обсуждения и переговоров опубликован обновлённый "нулевой" проект, подготовленный секретариатом и председателем комитета CAI.

Проект предполагает, что действие Конвенции будет охватывать:
- применение ИИ в публичном секторе, включая правосудие, госуправление и делегирование публичных функций,
- применения ИИ в частном секторе, связанные с риском нарушения прав человека и фундаментальных свобод.

Участники Конвенции будут обязаны установить в национальном праве правила, обеспечивающие защиту от таких нарушений при предоставлении товаров, возможностей и услуг с применением ИИ в ключевых областях, в том числе включающих:
- здравоохранение,
- уход за членами семьи,
- предоставление жилья,
- энергопотребление,
- транспорт,
- питание и продовольствие,
- образование,
- трудоустройство,
- финансы,
- защита окружающей среды,
- цифровая информация, СМИ и коммуникации.

Cодержание Конвенции:
1) определения и общие положения;
2) принципы применения ИИ государственными органами;
3) принципы применения ИИ при предоставлении товаров, возможностей и услуг;
4) базовые принципы проектирования, разработки и применения систем ИИ;
5) меры, обеспечивающие ответственное применение ИИ и доступность средств правовой защиты;
6) процедура оценки риска и последствий применения систем ИИ;
7) полномочия национальных надзорных органов, консультации сторон и международное сотрудничество;
8) заключительные положения.

Одна из надежд СЕ — глобальное влияние будущей Конвенции за счёт присоединения государств, не состоящих в СЕ, прежде всего США.

В связи с этим, по запросу американской делегации переговоры по правкам в текст ведутся непублично и без участия НКО, с предоставлением им возможности комментариев на промежуточных стадиях.

Не исключено, что переговоры по Конвенции могут быть задержаны ввиду позиции органов Евросоюза, заинтересованных в приоритетном принятии своего Регламента по ИИ.
👍8
Вебинар: Женщины продвигают приватность

23 февраля 2023 г., 22:00 МСК

Луиза Яровски, активист и автор блога "Заклинатель приватности" (Privacy Whisperer), приглашает на своё первое мероприятие такого рода.

Трансляция в Линкдин.
👍9
Моя новая сертификация

Только что успешно сдал экзамен по основам независимого аудита ИИ-систем (FIAAIS).

Далее планирую пройти более специализированные курсы, в частности сертифицироваться как специалист по риск-менеджменту в отношении ИИ-систем.

Напомню, что если у вас есть аналогичный интерес, у нас есть закрытое сообщество, где мы вместе изучаем фреймворки по риск-менеджменту применительно к ИИ.

Для вступления в сообщество необходимо подписаться на донаты (кнопка в закреплённом сообщении) и сообщить о своём желании через @robocounsel_bot.
🔥19👏2👍1
Robocounsel
CAI Revised zero draft Jan 2023.pdf
Нравится ли мне определение ИИ в проекте Конвенции СЕ об ИИ?

Вынесу свой ответ из вопроса в комментариях.

Документ всего лишь проект, и ещё не отражает позиции ни одной конкретной национальной делегации. Поэтому всё может ещё поменяться.

В целом же каждое определение в юридическом документе должно быть не академическим, а подчинено конкретной поставленной задаче.

В случае с фокусом конвенции (защита прав человека) лучше, чтобы определение было шире, нежели уже, и концентрировалось в основном на использовании систем в процессе принятия решений (влияющих на права человека).

Та заготовка, которая предложена для обсуждения, достаточно широкая. В любом случае, как и во всех конвенциях СЕ, здесь будет оставлено пространство для манёвра национальным властям — каждый участник конвенции будет вправе для целей своего правопорядка создавать своё определение на основе элементов из этого.

Если же выйти за рамки темы защиты прав человека, с точки зрения абстрактной полноты лично мне нравится определение ОЭСР:

AI system: An AI system is a (1) machine-based system that can, for a given set of (2) human-defined objectives, (3) make predictions, recommendations, or decisions influencing real or virtual environments. (4) AI systems are designed to operate with varying levels of autonomy.

Здесь отражаются более-менее часто встречающиеся критерии автономных систем:
1) некоторая степень автономии системы,
2) инженерный (небиологический) характер системы,
3) способность влиять на внешнюю среду (для роботов производить действия во внешней среде, обычно за счёт актуаторов и манипуляторов),
4) способность действовать целенаправленно (подчиняться целям).

Также можно подразумевать ещё:
5) способность получать информацию извне (для роботов способность воспринимать внешнюю среду, обычно за счёт сенсоров).

И для роботов:
6) физическое воплощение системы.
👍3
Robocounsel
Нравится ли мне определение ИИ в проекте Конвенции СЕ об ИИ? Вынесу свой ответ из вопроса в комментариях. Документ всего лишь проект, и ещё не отражает позиции ни одной конкретной национальной делегации. Поэтому всё может ещё поменяться. В целом же каждое…
Пробелы в определениях

Тем не менее, для полноты картины, вот анализ определений "системы искусственного интеллекта" в четырёх популярных инструментах по регулированию ИИ.
🔥5
Когда персональные данные перестают быть персональными?

Визуализация от Future of Privacy Forum
100 женщин-экспертов в области этики применения ИИ

Мне, как организатору и участнику множества вебинаров и других мероприятий вокруг ИИ, не секрет, что иногда на них не хватает женщин.

С учётом того, что в дисциплинах вокруг ИИ часто преобладают мужчины, некоторые даже не задумываются о том, что у них в составе спикеров не оказывается женщин.

Хотя хорошая практика — задумываться. И приглашать.

Благодаря подобным инициативам это будет проще. Единственное — пока там маловато русскоязычных.

Но всё в ваших руках. Заявляйте себя и своих коллег-женщин, номинантов добавят в справочник, а в конце года кого-то, возможно, и в "Список 100".

А для девушек, задумывающихся о получении или смене профессии — есть возможность осознать наличие такого карьерного пути и присмотреться к возможным ролевым моделям.
👍7🔥5
Менторство, коучинг и консультирование

Возможно, вам нравится мой канал или контент на Линкдине. Не исключено, что вы задумываетесь о том, как развиваться в том же направлении, что и я. Как строить карьеру в этой же сфере.

Либо вам просто нужна консультация по какому-то вопросу, связанному с регулированием ИИ и данных, трендами и возможностями в этом направлении, в особенности в Европе.

Или вы хотите пригласить меня провести семинар, воркшоп, лекцию.

В этом случае обращайтесь в @robocounsel_bot, я отвечу.
❤9🔥3
Дипфейк-видеоаватары как сервис

Денис из канала Sexy IT пишет, что наткнулся на "прикольный проект который пилят коллеги по ИИ-цеху".

Проект предполагает создание полноценного виртуального аватара, который и разговаривает, и выглядит на видео как вы в жизни. Называя вещи терминами из европейского законодательства — аватар-дипфейк.

Денис предполагает, что "в конце концов это будет дефолтная фича в Zoom и аналогах".

Спешу огорчить Дениса и коллег по ИИ-цеху. Дефолтной фичей это никогда не будет, потому что ни одна крупная компания в мире не купит продукт и не встроит функционал, которые не соответствуют базовым требованиям будущего Регламента ЕС об искусственном интеллекте (ориентировочно вступит в силу в 2025 году).

Европейский рынок слишком большой и выгодный, чтобы на него не выходить, в глобальном масштабе. А крупные игроки готовятся ко всему заранее. Точно так же, как это было до вступления в силу GDPR.

А базовое требование Регламента ЕС по ИИ — недопустимость использования дипфейков, в отношении которых не раскрыто или не очевидно, что это дипфейки.

Так, например в кодексе поведения интеграторов продуктов Майкрософт уже прописано — разумеется, не дожидаясь вступления Регламента в силу — что если вы, например, используете их продукты речевого синтеза, то вы не можете одновременно с реалистичным голосом использовать реалистичный аватар. Как минимум что-то одно должно быть явно и очевидно ненатуральным, чтобы не вводить других людей в заблуждение относительно того, с кем они взаимодействуют (не с человеком). Если вы как интегратор или пользователь не соблюдаете это требование — вы нарушаете кодекс поведения и договор с Майкрософт, и можете быть "отлучены" от услуг.

Буду рад проконсультировать коллег Дениса по ИТ-цеху (и любых иных желающих), как выходить на глобальные рынки и развивать продукт с должным вниманием к регуляторике, не нарываясь на миллионные штрафы. Обращаться можно в @robocounsel_bot.
👍8❤2🔥2
USCO Decision - Zarya of the Dawn.pdf
7.3 MB
Бюро авторского права США: сгенерированные ИИ картинки не охраняются

Своим решением вчера Бюро отозвало сертификат о регистрации, ранее выданный Кристине Каштановой на комикс "Zarya of the Dawn" ("Заря зари"), в свете новой информации представленной её юристом по запросу Бюро.

Как пояснило Бюро, поскольку им стало известно, что изображения в комиксе сгенерированы системой ИИ —Миджорни, они не имеют автора и поэтому неохраноспособны.

Кристине будет выдан новый сертификат с прежней датой, распространяющийся только на охраноспособные элементы комикса, например, сопровождающий текст и компоновку кадров.
👍9❤1🤬1
2302.08927 (1).pdf
4.6 MB
Пять минут в Метаверсе — и вы под колпаком

Исследователи Калифорнийского университета на выборке в свыше 50 тыс. человек исследовали, насколько возможно вычислить человека по его поведению в средах виртуальной реальности типа Метаверса.

Оказалось, что довольно легко.

Машинно-обученная модель, разработанная исследователями, позволила им на основе пяти минут записи в Метаверсе движений любого человека создать его цифровой профиль и затем отличать его от всех остальных пользователей.

После записи такого профиля  (описывающего особенности движения его рук и головы), соответствующего ему пользователя возможно идентифицировать при любом следующем появлении в любой точке Метаверса за 100 секунд с точностью 94,33% или всего за 10 секунд с точностью 73,20%.

Поэтому в следующий раз, когда вам предложат посетить какой-то интернет-ресурс в его метаверсной версии, спросите себя: стоят ли того дополнительные риски для вашей приватности, либо лучше будет по-старинке зайти на аналогичный ресурс через обычный браузер в режиме инкогнито, не оставляя лишних следов.
😱7👍5🤔1
Robocounsel
USCO Decision - Zarya of the Dawn.pdf
Пятничное

Обсуждаем с Настей с канала Вычислить по IP, почему Бюро не увидело творческого вклада в использовании Кристиной Каштановой для своих комиксов картинок из Миджорни.

Дело в том, что здесь важно, насколько существенно эти картинки были Кристиной обработаны для помещения в комикс.

Исходя из Настиного анализа, Кристина "редактировала мелкие детали, но этого было недостаточно, что-то там подзакрасила, где-то подфайнтюнила".

Реакция сотрудников Бюро — на фото.
❤3👍1😁1
Исследователи в Майкрософт экспериментируют с использованием ЧатГПТ для управления роботами

"Мы пишем ЧатГПТ команду (промт), в которой описываем задачу, и указываем, какие функции доступны из библиотеки подпрограмм. Мы также указываем применимые ограничения и формат требуемого нам результата".

Команда разработчиков провела несколько демонстраций, включая разработку кода для управления беспилотными летательными аппаратами и различными манипуляторами.

Основным ограничением такого подхода, по словам разработчиков, остаётся то, что инженерам приходится давать ЧатГПТ детальные инструкции по поводу того, как работает прикладной программный интерфейс для управления роботами. В противном случае модель не справляется с задачей.
👍1