Robocounsel
1.95K subscribers
265 photos
18 videos
80 files
659 links
О регулировании и социальных аспектах применения ИИ и данных, преимущественно в ЕС. Публикации отражают сугубо личное мнение автора.

Контакт, вопросы: используйте кнопку 💬 в левом нижнем углу.

Шрифт в логотипе - Alex Murphy Solid от Goatmeal
Download Telegram
T-PD(2022)1rev10_EN_ FINAL 2749-8559-2328.1.docx.pdf
435.1 KB
Комитет Конвенции 108 (T-PD) утвердил типовые договорные условия (MCC) для трансграничной передачи данных

Условия предназначены для трансграничной передачи персональных данных между двумя операторами в тех случаях, когда такая передача осуществляется в государство, не являющееся участником Конвенции 108 Совета Европы (СЕ) о персональных данных.

Принятие условий в виде отдельного соглашения или дополнения к договору является мерой, способствующей достижению адекватного уровня защиты персональных данных, требуемого Конвенцией.

В отличие от аналогичного инструмента ЕС, имеющего прямое действие, типовые договорные условия СЕ должны быть одобрены национальным органом по надзору в сфере персональных данных государства, в юрисдикции которого находится оператор-экспортёр, и введены в действие нормативным актом на национальном уровне.

Комитет Конвенции также готовит к утверждению ещё два модуля, адресующего другие сценарии передачи данных, помимо сценария "от оператора к оператору".

Напомню, что Россия остаётся участником Конвенции, несмотря на прекращение членства в СЕ, так как инструмент открыт для присоединения также государствам, не участвующим в организации.
👍8
Создаёт ли исследование и развитие искусственного интеллекта угрозу для человечества?

Видео дебатов между Бенджиа, Тегмарком (поддерживающими тезис) и Митчелл, Лекуном (не поддерживающими тезис).

По правилам этих дебатов сторона, не поддерживающая тезис, выиграла, поскольку увеличила число сторонников своей позиции. Вместе с тем, большая часть аудитории продолжила поддерживать тезис (уменьшившись с 67 до 64%).

Итоги дебатов, аудиозапись, расшифровка здесь.
👍3❤2
Robocounsel
Заканчивается регистрация на вебинар "Системы ИИ: ответственное применение в бизнесе с учётом Регламента ЕС" Вебинар состоится сегодня в пятницу 23 июня, 19:00 МСК. Если вы хотели его посетить, но не успели зарегистрироваться или внести оплату, осталось…
Запись моего вебинара "Системы ИИ: ответственное применение в бизнесе с учётом Регламента ЕС" (июнь 2023 г.)

Свежая, сегодняшняя, доступна уже сейчас!

Подойдёт тем, кто хочет сжато получить основную, наиболее важную информацию:
- с чего начинали и что произошло с проектом Регламента за последнее время,
- какие изменения в Регламенте обусловлены появлением на рынке генеративных ИИ-систем,
- каковы последствия для разработчиков,
- каковы параллельные регуляторные треки в Европе (стандартизация в CEN-CENELEC, Конвенция Совета Европы),
- когда Регламент вступает в силу и как начинать готовиться, если вы корпоративный пользователь или разработчик ИИ-систем.

Запись выкладываю следующим постом. Оплатить доступ можно прямо в Телеграме, нажав на запись. В случае технических проблем пишите на @robocounsel_bot.
👍3❤2👏1
Машинное разобучение

В рамках NeurIPS 2023 Гугл анонсировал конкурс на разработку алгоритма машинного разобучения (machine unlearning). Будучи применённым к уже обученной модели, такой алгоритм позволил бы ей "развидеть" некоторые нежелательные для разработчиков закономерности и данные, которые она усвоила и научилась воспроизводить.

В случае успеха разработчики систем на базе машинного обучения смогут поправлять некорректно обученные модели, так, что они без ущерба для общей производительности перестанут воспроизводить нежелательные элементы обучающей выборки.

В результате можно было бы исключить не просто выдачу, но и саму возможность воспроизведения случайно попавших в обучающую выборку персональных данных, сознательно искажённых или неактуальных данных или конфиденциальной информации.

Исследования в данном направлении особенно перспективны потому, что достижение того же результата за счёт повторного переобучения модели требует несоразмерных затрат.

Текущий же подход — фильтрация получающихся результатов уже на этапе их выдачи пользователю (как в ЧатГПТ и Бинг ИИ), хотя и позволяет для ряда сценариев достичь схожих результатов, всё-таки не приводит к удалению информации из самой модели.
👍7❤2
Computer says no

Бурное обсуждение, местами, к сожалению, переходящее в подмену тезиса, породил один мой простой вопрос в Фейсбуке:

"Знаете ли вы ВУЗы, где не допускают до защиты на основании одного лишь отчёта системы антиплагиата/антиИИ?"

Казалось бы, всё просто и очевидно: эта практика, если она где-то вообще существует, нарушает требования статьи 16 Федерального закона "О персональных данных": принимать такие судьбоносные решения на основании одного лишь отчёта автоматизированной системы — незаконно.

В то же время, совершенно нормальной является практика, которую описал в ответе на мой пост Александр Савельев:

"Не допускают [к защите] не потому, что [данное студентом] обоснование не устроило, а потому что преподаватели под микроскопом начинают смотреть работу, где превышен порог заимствований и фигурирует "отписка" от студента по данному факту. И то, и другое обстоятельство имеют статус red flag, а не безусловного основания для снятия работы с защиты".

Таким образом, моя позиция состоит лишь в том, что снятие работы с защиты только потому, что она показалась подозрительной какой-то автоматизированной системе — незаконно.

Дисквалификация же работы на основании мотивированного решения, вынесенного после оценки работы человеком с учётом отчёта автоматизированной системы —нормальная, законная практика.

При условии, конечно, что мотивировка не ограничивается ссылкой на отчёт автоматизированной системы ("Computer says no"), а содержит также аргументацию, посылки и логику которой можно легко понять, перепроверить и при желании оспорить.

P. S. Строго формально, закон говорит о возможности существования исключений в законе или согласия, которые могли бы легитимировать полностью автоматическое решение.

Но, насколько мне известно, таких исключений в законе об образовании нет. А любое "согласие", данное студентом в контексте неравноправных и практически властно-подчинённых отношений с администрацией вуза, скорее всего не будет добровольным и потому не будет действительным.
❤4👍2
Новая сертификация: AI Governance Professional

Если вы ранее приобретали у меня руководство по подготовке к экзамену CIPP/E (таких уже более 50 человек), вы знаете, что такое IAPP (Международная ассоциация специалистов по приватности), и каким авторитетом обладают её экзамены и сертификации на международном уровне.

В октябре у них появится новая сертификация — по ИИ, не завязанная узко на персональных данных, а рассматривающая более широко риски при разработке и эксплуатации ИИ-систем.

Курсов пока нигде нет, и до октября не будет. Но начать готовиться к сертификации вы можете уже прямо сейчас — вместе со мной.

Начиная с понедельника 10 июля, в новом канале, доступном по платной подписке, я буду публиковать короткие заметки на английском и ссылки на ресурсы, которые позволят вам в режиме самоподготовки постепенно, за год, освоить весь объём знаний, необходимый для получения сертификации IAPP AI Governance Professional.

Стоимость подписки составляет всего 4 500 рублей в месяц. [Cсылка удалена в связи с окончанием регистрации].

Рассматриваемые темы будут строго соответствовать IAPP AI GP Body of Knowledge:

• Domain 1: ″Understanding the Foundations of Artificial Intelligence,″ defines AI and machine learning, provides an overview of the different types of AI systems and their use cases, and positions AI models in the broader socio-cultural context.

• Domain 2: ″Understanding AI Impacts and Responsible AI Principles,″ identifies the risks that ungoverned AI systems can have on humans and society and describes the characteristics and principles that are essential to trustworthy and ethical AI.

• Domain 3: ″Understanding How Current Laws Apply to AI Systems,″ surveys the current laws that govern the use of artificial intelligence.

• Domain 4: ″Understanding the Existing and Emerging AI Laws and Standards,″ outlines the global AI-specific laws (like the EU AI Act and Canada’s Bill C-27) and the major frameworks that show how AI systems can be responsibly governed.

• Domain 5: ″Understanding the AI Development Life Cycle,″ broadly outlines the context in which AI risks are managed.

• Domain 6: ″Implementing Responsible AI Governance and Risk Management,″ explains how the major AI stakeholders collaborate in a layered approach, to manage AI risks while fulfilling the potential benefits AI systems have for society.

• Domain 7: ″Contemplating Ongoing Issues and Concerns,″ presents some of the debated issues around AI governance.
👍4🔥3❤2
Правила для ИИ от Папы Римского

Так бы озаглавили эту новость в жёлтой прессе. Если же чуть академичнее, то Институт технологии, этики и культуры (совместный проект Дикастерии Ватикана по культуре и образованию и Центра Марккула при Университете Санта-Клары) опубликовали руководство по этике для ИТ-проектов.

Документ (Ethics in the Age of Disruptive Technologies: An Operational Roadmap) задуман в качестве пособия по этическим вопросам, возникающим в организациях при внедрении машинного обучения и других "прорывных" технологий.
🤔2
Мета задерживает запуск своего аналога Твиттера в ЕС из-за регулирования

В мае я уже рассказывал подписчикам Робокаунсел Плюс о планах Меты по запуску в июне приложения-конкурента Твиттера.

Запуск задержался, но состоялся. Приложение называетcя Threads, войти в него можно используя логин и пароль от существующей учётной записи в Инстаграме.

Threads сфокусирован на текстовых постах с ограничением в 500 знаков (больше, чем в Твиттере, но меньше чем сейчас в подписи к постам в Инстаграме), но с возможностью прикреплять ссылки, фото и видео.

Несмотря на глобальный запуск, приложение пока недоступно в Евросоюзе.

Объясняя причины невыхода приложения в ЕС, гендиректор Инстаграма Адам Моссери сообщил The Verge:

"Некоторые законы, вступающие в силу [в ЕС] в следующем году, весьма сложны для исполнения. Мы не хотим [прямо сейчас] запускать ничего несовместимого с тем перспективным регулированием, о котором мы уже знаем или догадываемся.

Нам просто нужно больше времени, чтобы не просто обеспечить соответствие нашего продукта регулированию, но и объяснить, как мы обеспечили это соответствие. Так, чтобы любые наши заявления соответствовали высоким требованиям наших внутренних документов и были провалидированы в наших собственных тест-центрах."

Напомню, что в следующем году в полной мере вступают в силу положения Регламентов ЕС О цифровых рынках (Digital Markets Act) и О цифровых услугах (Digital Services Act), возлагающие на операторов больших онлайн-платформ ряд обязательств. В их числе:
— необходимость сбора отдельных согласий на таргетированную рекламу (DMA),
— гласность информации о работе алгоритмов платформы (DSA),
— запрет на манипулятивный дизайн и манипулятивные интерфейсы (dark patterns, DSA),
— оценка рисков для пользователей, в том числе создаваемых алгоритмами модерации и рекомендации контента, принципами работы интерфейсов и их настройками по умолчанию (DSA),
— независимый комплаенс-аудит (DSA).
👍1🤔1
Effective counsel.pdf
824.7 KB
Правила хорошего тона в документах: рекомендации Ассоциации корпоративных юристов (ACC)

Очень хорошие рекомендации, которые будут полезны не только юристам.

Пять правил для документов:

1. Приоритизируйте понятность, жертвуйте полнотой.
2. Не перегружайте читателя ненужными деталями.
3. Начните с главного (ответа или выводов).
4. Активнее :) используйте активный залог.
5. Не стремитесь сделать идеальные документы: практикуйтесь улучшать их с каждой новой редакцией.

10 секретов хорошего электронного письма:

1. Укажите в теме письма суть и требует ли оно действий.
2. Обозначьте цель письма в его начале.
3. Установите реалистичные сроки и выделите их жирным или цветом.
4. Давайте контекста не более, чем нужно для понимания письма. Удаляйте лишнее, включая предыдущую переписку.
5. Избегайте юризмов, жаргона, необщепринятых сокращений.
6. Отредактируйте черновик: сокращайте, упрощайте, фокусируйте. Важное письмо? Попросите, чтобы его перепроверил коллега.
7. Включайте в переписку только тех, от кого требуется действие или кому точно жизненно важно быть в курсе.
8. У письма много адресатов? Может быть лучше разбить его на несколько для разных групп получателей?
9. Поставьте сверхзадачу уложиться в пять или менее предложений. Даже если получится больше, такая постановка задачи заставит вас сократить всё лишнее.
10. Не нажимайте "Отправить", не проверив письмо по этому чеклисту.
🔥10❤4
CIPP/E: Изменение цен

Я долго это откладывал, но...

С понедельника 10 июля цена на доступ к руководству по подготовке к CIPP/E будет увеличена с 3000 до 4500 рублей. Если вы подумывали о его приобретении, ещё есть время сделать это по старой цене здесь.

Дополнительно вы можете получить скидку, если подписаны на Robocounsel Plus либо приходите по рекомендации того, кто уже приобрёл это руководство. Для получения скидки напишите мне.
👍2
Исчерпывающий анализ ситуации с Тредз

– Имеет ли Твиттер правовые основания для иска против Меты* за переманивание разработчиков и копирование функционала? – задаётся вопросом Андрес Гуадамуз, один из ведущих исследователей и преподавателей по праву интеллектуальной собственности и информационному праву.

– Нет.

* Деятельность Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook и Instagram запрещена в РФ
😁13
Суд в Канаде признал действительность emoji-wrap договора

Как сообщает Си-Эн-Эн, за неисполнение договора, заключённого через мессенджер, суд взыскал с канадского фермера 82 тыс. долларов.

Исходя из материалов дела, фермер проставил в мессенджере "лайк" на скан договора с просьбой "подтвердить договор на поставку льна".

Для контекста важно понимать, что более чем десятилетие правовая доктрина и судебная практика по всему миру признают действительность договоров, заключаемых так называемыми конклюдентными действиями в электронной форме. Например, простым нажатием на элемент веб-интерфейса ("click-wrap", см. Савельев А. И. Электронная коммерция в России без ЭЦП: иллюзия или реальность? // Вестник гражданского права. 2013. № 3).

Времена меняются, но новые реалии часто вполне охватываются правилами, которые деловой оборот и юристы выработали сотни лет назад.

Так, в этом новейшем случае суд принял во внимание заведённый порядок: тот же фермер ранее исполнил как минимум четыре договора, также заключённые путём обмена сообщениями, с той только разницей, что вместо лайка он ранее одобрял сканы контрактов фразами типа "ОК", "ага" ("yup") и "годится" ("looks good").

Как разъяснял еще в 1911 году в Учебнике русского гражданского права Шершеневич, заведённый порядок в договорных отношениях "представляет собою... однообразно повторяемое применение правила, но без сознания его необходимости" (9-е изд., с. 42).

Или, как пояснил канадский судья:

"На основании баланса вероятностей я убеждён, что Крис одобрил или утвердил договор точно так же, как и ранее, за исключением того, что в этот раз он использовал эмодзи 👍. По моему мнению, с учетом всех обстоятельств это означало одобрение договора на поставку льна, а не просто то, что он получил контракт и собирается подумать над ним. На мой взгляд, разумный сторонний наблюдатель, зная эти обстоятельства, объективно понял бы, что стороны достигли согласия по предмету договора, ровно так же, как и ранее во многих других случаях".
👍13🔥4
Robocounsel
CIPP/E — ваш пропуск для работы с персональными данными в Европе А у меня отличные новости — полку сертифицированных по CIPP/E специалистов по работе с персональными данными прибыло. Моя подписчица Ксения успешно сдала экзамен, и написала мне сегодня: "Александр…
CIPP/E: 59 подписчиков приобрели руководство по подготовке к экзамену

Если вы тоже задумываетесь над тем, чтобы сертифицироваться как эксперт по европейскому регулированию персональных данных и улучшить свои карьерные перспективы — самое время присоединиться.

Достаточно просто нажать кнопку ниже:
👍2
Robocounsel
Суд в Канаде признал действительность emoji-wrap договора Как сообщает Си-Эн-Эн, за неисполнение договора, заключённого через мессенджер, суд взыскал с канадского фермера 82 тыс. долларов. Исходя из материалов дела, фермер проставил в мессенджере "лайк"…
В продолжение поста о emoji-wrap договорах

Специально для юристов-ультрапозитивистов.

То, что в доктрине русского (российского) права называется "заведённым порядком", на языке ГК РФ - "практика, установившаяся во взаимных отношениях сторон".

Институт заведённого порядка позитивно закреплён в части первой ст. 431 ГК РФ, а также в специальной норме о сообщениях - п. 2 ст. 165.1 ГК РФ.

В процессуальных документах, для суда лучше использовать категорию из ГК, но в литературе и обсуждениях лучше использовать доктринальную категорию, ввиду полной тождественности смысла и большей краткости.

Как вариант - один раз дать в сноске расшифровку и пояснение этого тождества, а дальше по тексту везде использовать "заведённый порядок".
👍8😁1
Robocounsel
Европарламент принял резолюцию по проекту Регламента ЕС по ИИ Текст проекта утверждён в редакции, ранее согласованной комитетами ИМКО и ЛИБЕ, без изменений. Все предложения о дополнительных поправках были отклонены, сообщает Еврактив. В частности, осталось…
Регламент ЕС по ИИ: прошли первые сессии трилога

Как я освещал ранее, 14 июня Европарламент принял резолюцию со своей версией Регламента по искусственному интеллекту.

Сразу же после этого начался процесс трилога — согласительной процедуры по трём разным версиям текста: Еврокомиссии (2021 г.), Совета ЕС (декабрь 2022 г.) и Европарламента (по итогам голосования в июне).

Как сообщает Кай Зеннер (помощник одного из ведущих европарламентариев по данной теме), на первых сессиях трилога, состоявшихся к этому моменту, стороны успели обсудить следующие положения:
— Организации, которые будут проводить оценку соответствия систем ИИ регламенту, и органы по аккредитации этих организаций (статьи 30-39),
— Обязательства поставщиков и эксплуатантов систем ИИ и других лиц (статьи 16-27),
— Стандарты, процедура оценки соответствия, сертификаты, регистрация (статьи 40-51).

В оптимистичном сценарии трилог должен завершиться в этом году, что позволит принять Регламент в начале 2024 года со вступлением его в силу в 2026 году (с учётом двухлетней отсрочки, предусмотренной Регламентом).
👍3❤1
Шнейдер Электрик открыла позицию руководителя команды по генеративному ИИ

А вот это интересно. Для тех, кто не в курсе — Шнейдер Электрик — это основанная в 1836 году французская транснациональная компания профиля Дженерал Электрик, АББ, Сименс.

Исходя из описания вакансии, команда по генеративному ИИ в Шнейдер Электрик (1) должна изучать все новейшие достижения в области генеративного искусственного интеллекта и (2) быстро прорабатывать сценарии его использования по трём основным направлениям:
- существующие продукты и услуги для подразделений компании,
- существующие продукты и услуги для клиентов,
- новые продукты и услуги.

При этом по тексту объявления также указано, что (3) одной из ключевых задач является именно то, что я освещал на недавнем вебинаре: ответственное внедрение генеративного ИИ в корпоративной среде. Кстати, если вы на него не ходили, можете посмотреть запись прямо здесь.
❤2🥴1
Stable Doodle: От наброска к изображению

Интересное на субботу: разработчики объединили Stable Diffusion XL (SDXL), модель, генерирующую изображения по текстовому описанию, с адаптером T2I от Tencent, распознающим и расшифровывающим наброски пользователя.

Распознав набросок, T2I-адаптер передает его расшифровку SDXL в понятном для неё формате, так что модель при генерации изображения руководствуется одновременно и контурами с наброска, и текстовой командой (промтом).

В результате люди с самыми рудиментарными навыками рисования могут на основе своих набросков делать интересные иллюстрации — например, для своего блога, сайта или приложения.

Порисовать можно здесь.
👏6👍1
Продолжаю набор на первый поток экспериментального курса по AI Governance на английском языке

Напомню, что IAPP (Международная ассоциация специалистов по приватности), совсем недавно анонсировала новую сертификацию по этому направлению. И, к счастью, судя по методическим материалам, курс совсем не про приватность, а как и положено в данном случае — гораздо шире. Рассматриваются более широко риски при разработке и эксплуатации ИИ-систем.

Официальных курсов пока нигде нет, и как минимум до октября, видимо, не будет.

Но начать готовиться к сертификации вы можете уже прямо сейчас — вместе со мной.

Пользуясь своим опытом разработки руководства к экзамену IAPP CIPP/E (его у меня приобрели уже более 60 человек), я строго следую по методичке IAPP - проходим чётко по всем вопросам, знания по которым требуются для сертификации.

Напомню, что никакого собственно образовательного контента в методичке от IAPP нет — но тут как раз для вас и оказываются ценными мои экспертиза и знания.

Насколько мне известно, я был в принципе первым в России юристом, изучившим регулирование автономных систем на уровне вузовского предмета ещё в 2015 году — в Эдинбургском ун-те, и последовательно все эти годы занимавшимся этим вопросом и в теории, и на практике, и в частном секторе, и в публичном, на национальном и международном уровнях.

Про то, каким авторитетом обладает сертификация IAPP на международном уровне - говорить излишне. Авторитетнее просто ничего нет.

Поэтому, начиная с понедельника 10 июля, в новом телеграм-канале, доступном по платной подписке, я начал публиковать короткие заметки на английском и ссылки на ресурсы, которые позволят вам в режиме самоподготовки постепенно, за год, освоить весь объём знаний, необходимый для получения сертификации IAPP AI Governance Professional.

Стоимость подписки 4 500 р. в месяц и фиксируется на год, но только для тех, кто подписывается сейчас.

Рассматриваемые темы - по IAPP AIGP Body of Knowledge.

Подписаться и оплатить:
1) [ссылка удалена в связи с окончанием регистрации]
2) в евро.
🔥4❤1