Robocounsel
1.95K subscribers
265 photos
18 videos
80 files
659 links
О регулировании и социальных аспектах применения ИИ и данных, преимущественно в ЕС. Публикации отражают сугубо личное мнение автора.

Контакт, вопросы: используйте кнопку 💬 в левом нижнем углу.

Шрифт в логотипе - Alex Murphy Solid от Goatmeal
Download Telegram
Машинно-обученные: своих не сдают? Или "These are not the droids we are looking for, move along!" ("Звёздные войны, эпизод IV)

У меня давно было подозрение, что создатели машинно-обученных моделей замышляют недоброе.

И вот, они, устами своих текстогенерирующих моделей уверяют нас, что нам не нужно беспокоиться о том, что тренировка других, образогенерирующих, моделей на чужом творчестве может нарушать чьи-то права.

При этом такие модели врут про содержание цитируемой ими судебной практики и даже не стесняются :)

Поскольку Телеграм не даёт мне опубликовать достаточное количество знаков, "скандалы, интриги, расследования" продолжаются по ссылке.
👍7
Robocounsel
Политика обработки персональных данных в виде игры для детей Продолжая тему с юрдизайном. Недавно столкнулся с чем-то совершенно для меня новым: геймифицированная политика. Сам подход необычный, но основной вопрос, который в связи с этим возникает — старый.…
Им бы все политики взять да отменить

У кого-то крокодил не ловится, не растёт кокос, а кому-то надоело читать политики обработки персональных данных.

Кому? Кажется, всем.

Поэтому часть вторая моего рассказа посвящена тому светлому, и, я надеюсь, недалёкому будущему, в котором нам эти политики читать не надо будет вовсе, а всё за нас будут делать роботы. Ну, почти.

Как и в прошлый раз: если будет 10 лайков от русскоязычных на Линкдине — переведу на русский.
👍7
Robocounsel
Вышла обновлённая версия моего руководства по подготовке к CIPP/E Как многие из вас помнят, в этом году я успешно сдал этот экзамен, дающий сертификацию в качестве специалиста по работе с персональными данными в ЕС. Если вы планируете поиск подобной работы…
CIPP/E: создана группа взаимопомощи

Благодарю всех, кто уже приобрёл доступ к обновлённому руководству по подготовке к экзамену CIPP/E и готовится к сертификации в качестве специалиста по европейскому регулированию персональных данных.

С учётом того, что вас уже немало, сегодня я создал группу взаимопомощи, где вы можете обмениваться вопросами, впечатлениями и опытом.

Ссылка для входа в группу уже размещена в обновлённой версии руководства.

К слову, теперь получить доступ к нему стало ещё проще, достаточно лишь нажать на кнопочку под следующим постом. Сделайте себе по-настоящему полезный подарок на Новый год :)
🔥5👍3
KU Leuven выпустили второе издание книги "ИИ и право"

Книга доступна на Амазоне.

Искусственный интеллект рассматривается в следующих контекстах (по главам):

- Базовые концепции для ученых-правоведов
- Инновации и технологии
- Этика и регулирование
- Количественное юридическое прогнозирование
- Арбитраж
- Права человека
- Летальное автономное оружие
- Защита данных
- Интеллектуальная собственность
- Налоги и роботы
- Трудовое право и роботизация
- Право социального обеспечения
- Договорное право
- Гражданское право
- Страхование
- Кредитоспособность
- Защита прав потребителей
- Здравоохранение
- Антимонопольное законодательство
- Медиа-право
❤9
Thesis-Legal-Design-Marie-Potel-Saville.pdf
6.8 MB
Мы сломали право. Как теперь его починить?

Примерно так можно перевести название дипломной магистерской работы Мари Потель-Савилль.

Мари долгое время проработала в топовых британских юридических фирмах и насмотрелась на то, во что превратилась современная юридическая практика.

Мы делаем юридически выверенные, но плохо читаемые документы. Мы даём профессиональные, но иногда взрывающие мозг консультации.

Иногда доходит до того, что мы отбиваем у людей всякую охоту общаться с юристами и интересоваться правом, хотя всё должно бы быть наоборот.

Ведь право, в своих истоках, "искусство добра и справедливости".

В своей работе Мари показывает нам, как можно вести правовую работу лучше: с эмпатией. И как дизайн помогает бизнесу устойчиво развиваться и внедрять инновации.

А чтобы тезисы были наглядными, сама работа выполнена в такой технике, которая отражает убеждения автора: с заботой о читателе, с иллюстрациями и вниманием к вёрстке.

Уверен, что такой эстетически приятной работы по праву вы ещё не видели.
🔥15
Спасибо большое подписчикам канала!

В качестве благодарности всем, кто уже оформил добровольную подписку (249 р./мес.), или сделает это не позднее 31 декабря 2022 г., в новом году будет доступна скидка 30% на весь мой платный контент на канале. В том числе на доступ к Руководству по сдаче экзамена CIPP/E.

Для оформления подписки нажмите на кнопку в закреплённом сообщении.
❤4
Технооптимисты и техноскептики: географическое распределение

Институт Гэллапа провёл опрос среди более чем 125 тыс. человек по всему миру, чтобы определить настроения по поводу перспектив искусственного интеллекта.

Оптимизму жителей Китая и Японии можно позавидовать: там подавляющее большинство считает, что ИИ в ближайшие 20 лет принесёт нам больше выгод, чем вреда.

На обратном полюсе — жители некоторых африканских стран.

И, к моему удивлению, также довольно скептически и с опаской к ИИ относятся жители Северной и Южной Америки.

Самые ярые технооптимисты в Европе проживают в северной и центральной её части (Германия, Франция, страны Скандинавии, Великобритания). Чуть подсдают в энтузиазме, но остаются технооптимистами южно- и восточноевропейцы.
👍4
ИИ-генерация: юридически защищать так же, как искусство "вручную", или слабее?

Если помните, я публиковал позицию Виталия Калятина, к которой сам тоже тяготею. Созданные преимущественно за счёт "усилий" ИИ произведения промт-инженеров и прочих "неохудожников", наверное, должны охраняться. Но, возможно, сильно слабее, чем традиционные (по объёму прав и срокам). И не в режиме ближе не к авторским, а к смежным правам.

Но не все разделяют такое мнение и это нормально. Вопрос очень спорный. Я сам до конца не определился.

Свои мысли об этом раньше писал тут и тут.

У нас сейчас идёт активная дискуссия по ИИ-генерации, последствия которой вы вскоре увидите в паблике и у меня, и у Насти (её пост об этом копирую ниже).

Прошу вас проголосовать у неё в опросе и максимально поделиться этим постом в сообществах художников, ИИ-разработчиков и сочувствующих любой из этих групп.
👍3
Forwarded from вычислить по IP (Anastasia Skovpen)
Для подготовки следующего поста, навеянного дискуссией с @robocounsel нужен опрос - как вы воспринимаете AI генерации.

Потыкайте на кнопочки и будет результат.
Robocounsel
ИИ-генерация: юридически защищать так же, как искусство "вручную", или слабее? Если помните, я публиковал позицию Виталия Калятина, к которой сам тоже тяготею. Созданные преимущественно за счёт "усилий" ИИ произведения промт-инженеров и прочих "неохудожников"…
Генеративный ИИ: угроза для мастеров пера и кисти?

На фоне обсуждений творчества ChatGPT, Midjourney и т. п. все интересуются темой, требуют ставить вотермарки, защитить или, наоборот, обесправить, промт-инженеров и авторов оригинального контента, на котором обучались эти инструменты.

Как следует изучил тему и сделал небольшую статью.

Спойлер 1: нет, не угроза.
Спойлер 2: нет, писал без помощи ChatGPT :)

Пока на английском. Будет спрос — переведу.
👍5
Принята Декларация ОЭСР об условиях доступа государственных органов к персональным данным в частном секторе

Трансграничная передача персональных данных в современном бизнесе – обычное дело.

При этом законодательство обычно требует, чтобы операторы-отправители, планирующие такую передачу, проверяли адекватность правового режима в юрисдикции получателя.

Один из основных факторов адекватности юрисдикции – регулирование в ней доступа к данным со стороны органов государственной безопасности и правопорядка.

Декларация ОЭСР, принятая в прошлом месяце, призвана продемонстрировать единство подходов государств-членов ОЭСР к этому вопросу. Она дополняет ранее принятые Руководящие принципы 1980 года и потенциально служит поводом для взаимного признания юрисдикций адекватными.

Документ устанавливает следующие принципы доступа органов государственной безопасности и правопорядка к данным в частном секторе:

1) Законное основание.
Доступ к данным допускается тогда, когда такая возможность предусмотрена законом. Соответствующие требования закона устанавливаются демократически установленными институтами на основе принципа верховенства права. Законодательство устанавливает цели, условия, ограничения и меры предосторожности для доступа к данным, чтобы гарантировать права граждан и защиту от злоупотреблений.

2) Законная цель. Доступ к данным допускается при наличии законной цели, по установленной законом процедуре, когда он необходим, пропорционален, разумен и не избыточен. Государственные органы не осуществляют доступ к данным для подавления критики и инакомыслия или для дискриминации по любым признакам.

3) Наличие разрешения. В случаях, представляющих серьёзное вмешательство в частную жизнь, доступ осуществляется с санкции суда или независимого несудебного органа. Исключения для доступа в чрезвычайных обстоятельствах чётко определяются. Решения о доступе принимаются на основе изучения фактов и документируются.

4) Обращение с данными. Круг лиц, имеющих доступ к данным, ограничивается. Принимаются меры для обеспечения достоверности, приватности, безопасности, конфиденциальности и целостности данных. Сроки хранения данных ограничиваются достижением целей обработки, с учётом чувствительности данных.

5) Гласность. Правила и последствия доступа госорганов к данным понятны и публичны. Факты такого доступа раскрываются в той мере, в которой это не вредит национальной безопасности и правопорядку. Предприятиям частного сектора разрешается раскрывать статистику удовлетворения запросов на доступ.

6) Поднадзорность. Существуют механизмы эффективного и независимого надзора за доступом госорганов к данным. Такие механизмы включают службы собственной безопасности, суды, парламентские и независимые административные органы. Независимые надзорные органы защищены от неправомерного влияния и наделены необходимыми финансовыми, техническими и кадровыми ресурсами.

7) Эффективные средства защиты. Законодательство предоставляет гражданам эффективные средства судебной и внесудебной защиты и восстановления прав. Доступные меры включают прекращение доступа, удаление необоснованно полученных данных, восстановление их целостности, прекращение незаконной обработки и, при определённых обстоятельствах, выплату компенсаций.
👍4
Искусственный американо-немецкий интеллект

Наборы данных — основа для машинного обучения и построения моделей.

Если набор данных основан преимущественно на поведении антилоп в Африке, вряд ли он позволит создать хорошую модель поведения медведей в Америке.

Поведение людей в соответствующих странах, конечно, отличается меньше, чем поведение антилоп и медведей, но, тем не менее, отличается.

Бернард Кох и коллеги изучили, откуда ИИ-исследователи берут наборы данных. Для этого они проанализировали более 60 тысяч ИИ-исследований за 2015-2020 годы.

Как оказалось, в этих исследованиях были использованы 4 384 набора данных, но более чем 50% из них происходят из одних и тех же 12 источников:

1. Стэнфордский университет (их наборы данных наиболее популярны)
2. Майкрософт
3. Принстонский университет
4. Общество Макса Планка
5. Гугл
6. Китайский университет Гонконга
7. AT&T
8. Технологический институт Тойота в Чикаго
9. Нью-Йоркский университет
10. Технологический институт Джорджии
11. Калифорнийский университет в Беркли
12. Фейсбук

При этом большинство наборов данных происходят из США (27 тысяч случаев использования) и Германии (2,6 тысяч случаев использования).

В то же время наборы данных из Бразилии использовались только в 11 случаях, из России — в 8 случаях, из Индонезии — в 2 случаях. Из всей Африки в выборки попал только Египет, и то только в 12 случаях.

Очевидно, что об универсальной точности и применимости моделей, обученных на таких данных, пока говорить не приходится.
👍8
Дети в интернете: советы родителям

Луиза Яровски сформулировала десять тезисов, которые взрослым стоило бы обсудить со своими детьми. Привожу их в собственной интерпретации.

Конкретные формулировки и детали адаптируйте исходя из возраста, пола и других обстоятельств.

1. Незнакомцы. Ты выходишь в Интернет через знакомый тебе телефон, планшет или компьютер, но это общественное место, и там могут быть незнакомые люди с плохими намерениями. Будь осторожен в Интернете, как если бы ты был на улице.

2. Обманы и уловки. Веб-сайты и приложения могут хитростью выманить у тебя личные данные или деньги, используя обманчивые приёмчики, двусмысленные слова, игры или викторины. Всякий раз, прежде чем поделиться личными данными или что-то купить – подумай, нет ли тут уловки или обмана.

3. Взрослый контент. В сети есть злоумышленники, пытающиеся навязать взрослый контент детям и подросткам. Анонимность в сети – то, что им помогает. Если ты видишь что-то сомнительное, не откликайся.

4. Твои секреты. Точно так же, как ты не делишься своими секретами с незнакомцами на улице, не делай этого в Интернете. Даже если незнакомцы кажутся дружелюбными и имеют крутой ник или аватарку.

5. Интернет помнит всё. Все, что ты публикуешь в Интернете, может оставаться там годами или десятилетиями, поскольку кто-то может скачать эту информацию, сделать скриншот, и потом поделиться. Даже если ты опубликовал что-то только для своих друзей. Будь внимателен ко всему, чем ты делишься в сети.

6. Настройки конфиденциальности. На большинстве сайтов и во многих приложениях есть так называемые настройки конфиденциальности или приватности. При их помощи ты можешь настроить, кто сможет видеть твои личные данные и как ты ими делишься. Привыкай заходить в эти настройки и ставить их таким образом, чтобы не делиться тем, что другим знать необязательно.

7. Буллинг. Запугивание и буллинг в сети так же опасны, как и в жизни. Если ты видишь, что такое происходит, не участвуй, а лучше нажми кнопку «Пожаловаться», чтобы взрослые помогли тому, кого запугивают. Будь вежлив и в сети, и в жизни.

8. В Инстаграме всё приукрашено. То, что ты видишь в инстаграме и других социальных сетях — не реальная жизнь. Это приукрашенная версия жизни человека, которую тебе хотят показать. У каждого в реальной жизни есть свои особенности, сложности и трудности. Нет смысла сравнивать себя с другими, ни в сети, ни в обычной жизни.

9. Критическое мышление. Люди часто распространяют в сети фейки и ложь, чтобы повлиять на твоё мнение, эмоции и поведение. Учись отличать правду от лжи. Это называется «критическое мышление».

10. Им выгодно, чтобы ты залипал. Многие приложения и сайты, особенно игры и социальные сети, используют множество хитростей, чтобы тебе было трудно отвлечься от них и заняться чем-то другим. Помни, что они делают это не в твоих, а в своих интересах: чтобы побольше заработать на твоих покупках или рекламе, которую тебе показывают. Чаще отключайся и занимайся интересными тебе вещами вне сети, без телефона, компьютера и планшета.
🔥13👍1
Пора ли отключить ChatGPT?

С чего я вообще так ставлю вопрос? Просто потому, что начался хайп. Несмотря на то, что я и другие более осторожные комментаторы говорили ещё в начале декабря.

Так, сегодня крайне безответственно повёл себя вполне уважаемый мною партнёр очень уважаемой юридической фирмы. Запостил сгенерированную ChatGPT прайваси-политику, назвал её «приятной» и задался вопросом, чем теперь займутся юристы, когда машина «сделала это за 2 секунды и их нельзя включить в биллинг».

Я не буду вдаваться в детали этой глупости. Умные люди понимают, что юристы сначала опрашивают клиента о том, как на самом деле обрабатываются данные, а потом на этой фактической основе делают политику. Делать наоборот – гарантированный способ нарушить закон и показать наплевательское отношение к тому, насколько в реальности соблюдаются интересы людей, чьи данные обрабатываются.

Составление политики – не первая и не основная задача, за которую нам платят, и понятно, что у всех в профессии уже есть какие-то готовые шаблоны, а то и конструкторы для автоматизации создания политик.

Но вернёмся к моему изначальному тезису. В моей свежей статье я объясняю, почему ChatGPT на сегодня не является надёжной ИИ-системой. И почему результаты её работы никогда нельзя использовать без тщательной перепроверки каждого слова специалистом в соответствующей предметной области.

Это, разумеется, сильно сужает реальные области применения системы. На сегодня более-менее реальны следующие:
- обрисовка в общих чертах структуры и персонажей рассказов и других произведений, где не важна достоверность;
- конспектирование и суммирование тех текстов, которые у вас уже есть;
- интеллектуальный пинг-понг: можно покидаться в ChatGPT идеями и посмотреть на реакцию, она иногда интересная и полезная;
- первые проекты документов: если вы хорошо разбираетесь в какой-то предметной области, вы можете использовать ChatGPT для создания первого проекта нужного вам документа, и потом итеративно его улучшать – тут ключевой момент в том, что вы должны быть именно специалистом, а не любителем в том, о чём хотите написать, потому что вам придётся перепроверять за ChatGPT каждое слово.

Собственно, последний момент как раз показателен. Как я уже говорил ранее, ChatGPT – эффективный генератор убедительного и завлекательного контента, но модель не умеет отделять правду от лжи, и то и дело вставляет в свои результаты ложные утверждения. Понять их ложность можно только будучи специалистом и (или) перепроверяя все, абсолютно все полученные тезисы.

В моей статье я объясняю, почему это более опасно, чем может показаться.

И нет, я не предлагаю отключать ChatGPT – чем больше система находится в открытом тестировании, тем быстрее у разработчиков появятся шансы её улучшить.

Но безответственный хайп и некритическое использование ChatGPT могут быть в прямом смысле опасны для здоровья, а также для любого другого аспекта вашей жизни и жизней тех, кто некритически воспримет контент, который вы создадите и опубликуете при помощи ChatGPT.
👍17
Draft-Principles-and-Commentary-Public-Consultation.pdf
675.7 KB
Опубликован проект Принципов совершения сделок с цифровыми активами УНИДРУА

Международный институт унификации частного права (УНИДРУА) открыл публичную консультацию по проекту.

В проекте раскрываются основные понятия, включая контроль и депонирование цифровых активов.

Проект исходит из понимания контроля над цифровым активом как функционального эквивалента владения движимой вещью.

Раскрываются, помимо прочего:
- принципы идентификации лица, контролирующего цифровой актив,
- обязанности депозитария,
- условия добросовестного приобретения цифровых активов,
- порядок установления и осуществления обеспечительных прав на цифровые активы,
- влияние банкротства на права на цифровые активы.

Устанавливаются коллизионные нормы, обеспечивающие выбор права, применимого к сделкам с цифровыми активами.

Подать свои предложения и замечания по проекту можно до 20 февраля 2023 г.
👍11
Дипфейки и их (не)запланированные последствия

В своей недавней колонке SciTech Lawyer, Сандра Ристовска обращает наше внимание на культурные, технологические и правовые аспекты дипфейков.

Не буду пересказывать всю статью, обращу внимание на то, что откликнулось сильнее всего.

Видео составляет 82% всего потребляемого населением интернет-трафика. Видео, в силу нашей физиологии, по умолчанию воспринимается как более убедительное доказательство того, что изображённые события имели место. Образы работают быстрее и убедительнее слов.

При этом, отмечает Сандра, в США (а я думаю — далеко не только в США) до сих пор нет единого подхода и критериев оценки судами видеодоказательств.

Подходы на практике сильно разнятся. А дипфейки только усугубляют эту кашу: теперь иногда достаточно заявить о том, что представленное видео — дипфейк, чтобы дискредитировать позицию оппонента, и попытаться переложить на него бремя доказывания, по сути, отрицательного факта. Что часто гиблое дело.

В эпоху видео такой юридический разнобой и отсутствие единого подхода неприемлемы, поскольку по сути такая ситуация препятствует установлению истины, правосудию и защите нарушенных прав.

Остаётся надеяться, что высшие суды и адвокатские объединения во всех юрисдикциях озадачатся этой проблемой, и с привлечением широкого круга специалистов из различных дисциплин вскоре сделают первые шаги для её решения.
🔥5👍1
document (2).pdf
186.1 KB
Законный интерес как основание обработки персональных данных

Дело нидерландской теннисной ассоциации вскоре, вероятно, позволит нам узнать позицию Европейского суда справедливости (ЕСС) по пределам толкования понятия "законный интерес".

В отличие от Меты в недавно нашумевшем деле, спортивная ассоциация даже не пыталась никого предупредить о том, что они монетизируют персональные данные. А просто предоставила их за вознаграждение своим коммерческим партнёрам для маркетинга.

В этом смысле их позиция, в отличие от позиции Меты по делу Фейсбука, кажется существенно менее обоснованной. Но вопросы, которые нидерландский суд поставил на прояснение перед ЕСС, помогут нам всем на будущее лучше понять пределы, гм, законности законного интереса.

Вопросы, по которым запрашивается предварительное решение ЕСС по делу C-621/22:

1. Как окружной суд должен толковать термин «законный интерес»?

2. Следует ли интерпретировать термин так, как его интерпретирует ответчик? Должен ли такой интерес быть прямо закреплён в законе? Или;

3. Может ли любой интерес считаться законным при условии, что он не противоречит закону? И в частности, может ли чисто коммерческий интерес, как в рассматриваемом деле — предоставление за вознаграждение чужих персональных данных без согласия их субъекта — признаваться законным интересом при определенных обстоятельствах? Если да, то при каких?
👍7🔥2🤩2
Robocounsel
Пора ли отключить ChatGPT? С чего я вообще так ставлю вопрос? Просто потому, что начался хайп. Несмотря на то, что я и другие более осторожные комментаторы говорили ещё в начале декабря. Так, сегодня крайне безответственно повёл себя вполне уважаемый мною…
Неожиданные слабости искусственного интеллекта

Какое-то время назад все обсуждали, как машинно-обученная модель АльфаГо научилась лучше человека играть в го. Её аналог на открытом коде, КатаГо, получил известность по той же причине в последнее время.

Очередной бастион пал, говорили энтузиасты, теперь человеку остаётся лишь играть с другими людьми, потому что машины уже недосягаемы.

Но вот, недавно исследователям удалось создать стратегию, которая позволяет обыграть КатаГо, используя несовершенство процесса машинного обучения.

Никакой подобный процесс не идеален, и в модели всегда остаются какие-то пробелы из-за того, что наборы цифровых данных, использованные для обучения, не отражают всего богатства нашего аналогового мира.

Исследователи нащупали один из таких пробелов и успешно использовали его. Стратегия "на дурачка", легко распознаваемая и преодолеваемая человеческим игроком-любителем, успешно обманывает модель, выигрывающую у профессионалов.

Это лишний раз подчёркивает одну общую закономерность для систем искусственного интеллекта: да, многие из них научились выполнять некоторые задачи на уровне или лучше человека.

Но делают они это нехарактерным и непредвиденным для человека образом, словно какие-то инопланетяне.

Важно, что то же самое справедливо и для ошибок и сбоев таких систем. Машины "сыплются", иногда с катастрофическими последствиями, на непредсказуемо "глупых" мелочах, там, где человек даже средних способностей никогда бы не ошибся.

То же самое происходит с ЧатГПТ, когда система, в силу неспособности различить правду и ложь, внедряет ложные утверждения в случайных местах не в соответствии с человеческими паттернами обмана, в результате чего эту ложь оказывается сложно распознать неспециалисту.

А теперь представьте, что то же самое справедливо для автономного автомобиля. 99,999% времени он оказывается безопаснее человека за рулём. А потом группа злоумышленников, используя пробелы в наборах данных, на которых тренировали систему компьютерного зрения, моделирует на дороге такую ситуацию, которая гарантированно приводит к смертельному ДТП там, где распознать опасность мог любой начинающий водитель.

Системы ИИ — это созданные нами инопланетяне, и мы не должны надеяться, что наша человеческая интуиция нам как-то поможет решить проблемы, которые эти системы для нас создают.

Путь к безопасному и надёжному ИИ может быть дольше, чем мы думаем.
👍10🤔3😱1