Robocounsel
1.95K subscribers
265 photos
18 videos
81 files
660 links
О регулировании и социальных аспектах применения ИИ и данных, преимущественно в ЕС. Публикации отражают сугубо личное мнение автора.

Контакт, вопросы: используйте кнопку 💬 в левом нижнем углу.

Шрифт в логотипе - Alex Murphy Solid от Goatmeal
Download Telegram
Принята Декларация ОЭСР об условиях доступа государственных органов к персональным данным в частном секторе

Трансграничная передача персональных данных в современном бизнесе – обычное дело.

При этом законодательство обычно требует, чтобы операторы-отправители, планирующие такую передачу, проверяли адекватность правового режима в юрисдикции получателя.

Один из основных факторов адекватности юрисдикции – регулирование в ней доступа к данным со стороны органов государственной безопасности и правопорядка.

Декларация ОЭСР, принятая в прошлом месяце, призвана продемонстрировать единство подходов государств-членов ОЭСР к этому вопросу. Она дополняет ранее принятые Руководящие принципы 1980 года и потенциально служит поводом для взаимного признания юрисдикций адекватными.

Документ устанавливает следующие принципы доступа органов государственной безопасности и правопорядка к данным в частном секторе:

1) Законное основание.
Доступ к данным допускается тогда, когда такая возможность предусмотрена законом. Соответствующие требования закона устанавливаются демократически установленными институтами на основе принципа верховенства права. Законодательство устанавливает цели, условия, ограничения и меры предосторожности для доступа к данным, чтобы гарантировать права граждан и защиту от злоупотреблений.

2) Законная цель. Доступ к данным допускается при наличии законной цели, по установленной законом процедуре, когда он необходим, пропорционален, разумен и не избыточен. Государственные органы не осуществляют доступ к данным для подавления критики и инакомыслия или для дискриминации по любым признакам.

3) Наличие разрешения. В случаях, представляющих серьёзное вмешательство в частную жизнь, доступ осуществляется с санкции суда или независимого несудебного органа. Исключения для доступа в чрезвычайных обстоятельствах чётко определяются. Решения о доступе принимаются на основе изучения фактов и документируются.

4) Обращение с данными. Круг лиц, имеющих доступ к данным, ограничивается. Принимаются меры для обеспечения достоверности, приватности, безопасности, конфиденциальности и целостности данных. Сроки хранения данных ограничиваются достижением целей обработки, с учётом чувствительности данных.

5) Гласность. Правила и последствия доступа госорганов к данным понятны и публичны. Факты такого доступа раскрываются в той мере, в которой это не вредит национальной безопасности и правопорядку. Предприятиям частного сектора разрешается раскрывать статистику удовлетворения запросов на доступ.

6) Поднадзорность. Существуют механизмы эффективного и независимого надзора за доступом госорганов к данным. Такие механизмы включают службы собственной безопасности, суды, парламентские и независимые административные органы. Независимые надзорные органы защищены от неправомерного влияния и наделены необходимыми финансовыми, техническими и кадровыми ресурсами.

7) Эффективные средства защиты. Законодательство предоставляет гражданам эффективные средства судебной и внесудебной защиты и восстановления прав. Доступные меры включают прекращение доступа, удаление необоснованно полученных данных, восстановление их целостности, прекращение незаконной обработки и, при определённых обстоятельствах, выплату компенсаций.
👍4
Искусственный американо-немецкий интеллект

Наборы данных — основа для машинного обучения и построения моделей.

Если набор данных основан преимущественно на поведении антилоп в Африке, вряд ли он позволит создать хорошую модель поведения медведей в Америке.

Поведение людей в соответствующих странах, конечно, отличается меньше, чем поведение антилоп и медведей, но, тем не менее, отличается.

Бернард Кох и коллеги изучили, откуда ИИ-исследователи берут наборы данных. Для этого они проанализировали более 60 тысяч ИИ-исследований за 2015-2020 годы.

Как оказалось, в этих исследованиях были использованы 4 384 набора данных, но более чем 50% из них происходят из одних и тех же 12 источников:

1. Стэнфордский университет (их наборы данных наиболее популярны)
2. Майкрософт
3. Принстонский университет
4. Общество Макса Планка
5. Гугл
6. Китайский университет Гонконга
7. AT&T
8. Технологический институт Тойота в Чикаго
9. Нью-Йоркский университет
10. Технологический институт Джорджии
11. Калифорнийский университет в Беркли
12. Фейсбук

При этом большинство наборов данных происходят из США (27 тысяч случаев использования) и Германии (2,6 тысяч случаев использования).

В то же время наборы данных из Бразилии использовались только в 11 случаях, из России — в 8 случаях, из Индонезии — в 2 случаях. Из всей Африки в выборки попал только Египет, и то только в 12 случаях.

Очевидно, что об универсальной точности и применимости моделей, обученных на таких данных, пока говорить не приходится.
👍8
Дети в интернете: советы родителям

Луиза Яровски сформулировала десять тезисов, которые взрослым стоило бы обсудить со своими детьми. Привожу их в собственной интерпретации.

Конкретные формулировки и детали адаптируйте исходя из возраста, пола и других обстоятельств.

1. Незнакомцы. Ты выходишь в Интернет через знакомый тебе телефон, планшет или компьютер, но это общественное место, и там могут быть незнакомые люди с плохими намерениями. Будь осторожен в Интернете, как если бы ты был на улице.

2. Обманы и уловки. Веб-сайты и приложения могут хитростью выманить у тебя личные данные или деньги, используя обманчивые приёмчики, двусмысленные слова, игры или викторины. Всякий раз, прежде чем поделиться личными данными или что-то купить – подумай, нет ли тут уловки или обмана.

3. Взрослый контент. В сети есть злоумышленники, пытающиеся навязать взрослый контент детям и подросткам. Анонимность в сети – то, что им помогает. Если ты видишь что-то сомнительное, не откликайся.

4. Твои секреты. Точно так же, как ты не делишься своими секретами с незнакомцами на улице, не делай этого в Интернете. Даже если незнакомцы кажутся дружелюбными и имеют крутой ник или аватарку.

5. Интернет помнит всё. Все, что ты публикуешь в Интернете, может оставаться там годами или десятилетиями, поскольку кто-то может скачать эту информацию, сделать скриншот, и потом поделиться. Даже если ты опубликовал что-то только для своих друзей. Будь внимателен ко всему, чем ты делишься в сети.

6. Настройки конфиденциальности. На большинстве сайтов и во многих приложениях есть так называемые настройки конфиденциальности или приватности. При их помощи ты можешь настроить, кто сможет видеть твои личные данные и как ты ими делишься. Привыкай заходить в эти настройки и ставить их таким образом, чтобы не делиться тем, что другим знать необязательно.

7. Буллинг. Запугивание и буллинг в сети так же опасны, как и в жизни. Если ты видишь, что такое происходит, не участвуй, а лучше нажми кнопку «Пожаловаться», чтобы взрослые помогли тому, кого запугивают. Будь вежлив и в сети, и в жизни.

8. В Инстаграме всё приукрашено. То, что ты видишь в инстаграме и других социальных сетях — не реальная жизнь. Это приукрашенная версия жизни человека, которую тебе хотят показать. У каждого в реальной жизни есть свои особенности, сложности и трудности. Нет смысла сравнивать себя с другими, ни в сети, ни в обычной жизни.

9. Критическое мышление. Люди часто распространяют в сети фейки и ложь, чтобы повлиять на твоё мнение, эмоции и поведение. Учись отличать правду от лжи. Это называется «критическое мышление».

10. Им выгодно, чтобы ты залипал. Многие приложения и сайты, особенно игры и социальные сети, используют множество хитростей, чтобы тебе было трудно отвлечься от них и заняться чем-то другим. Помни, что они делают это не в твоих, а в своих интересах: чтобы побольше заработать на твоих покупках или рекламе, которую тебе показывают. Чаще отключайся и занимайся интересными тебе вещами вне сети, без телефона, компьютера и планшета.
🔥13👍1
Пора ли отключить ChatGPT?

С чего я вообще так ставлю вопрос? Просто потому, что начался хайп. Несмотря на то, что я и другие более осторожные комментаторы говорили ещё в начале декабря.

Так, сегодня крайне безответственно повёл себя вполне уважаемый мною партнёр очень уважаемой юридической фирмы. Запостил сгенерированную ChatGPT прайваси-политику, назвал её «приятной» и задался вопросом, чем теперь займутся юристы, когда машина «сделала это за 2 секунды и их нельзя включить в биллинг».

Я не буду вдаваться в детали этой глупости. Умные люди понимают, что юристы сначала опрашивают клиента о том, как на самом деле обрабатываются данные, а потом на этой фактической основе делают политику. Делать наоборот – гарантированный способ нарушить закон и показать наплевательское отношение к тому, насколько в реальности соблюдаются интересы людей, чьи данные обрабатываются.

Составление политики – не первая и не основная задача, за которую нам платят, и понятно, что у всех в профессии уже есть какие-то готовые шаблоны, а то и конструкторы для автоматизации создания политик.

Но вернёмся к моему изначальному тезису. В моей свежей статье я объясняю, почему ChatGPT на сегодня не является надёжной ИИ-системой. И почему результаты её работы никогда нельзя использовать без тщательной перепроверки каждого слова специалистом в соответствующей предметной области.

Это, разумеется, сильно сужает реальные области применения системы. На сегодня более-менее реальны следующие:
- обрисовка в общих чертах структуры и персонажей рассказов и других произведений, где не важна достоверность;
- конспектирование и суммирование тех текстов, которые у вас уже есть;
- интеллектуальный пинг-понг: можно покидаться в ChatGPT идеями и посмотреть на реакцию, она иногда интересная и полезная;
- первые проекты документов: если вы хорошо разбираетесь в какой-то предметной области, вы можете использовать ChatGPT для создания первого проекта нужного вам документа, и потом итеративно его улучшать – тут ключевой момент в том, что вы должны быть именно специалистом, а не любителем в том, о чём хотите написать, потому что вам придётся перепроверять за ChatGPT каждое слово.

Собственно, последний момент как раз показателен. Как я уже говорил ранее, ChatGPT – эффективный генератор убедительного и завлекательного контента, но модель не умеет отделять правду от лжи, и то и дело вставляет в свои результаты ложные утверждения. Понять их ложность можно только будучи специалистом и (или) перепроверяя все, абсолютно все полученные тезисы.

В моей статье я объясняю, почему это более опасно, чем может показаться.

И нет, я не предлагаю отключать ChatGPT – чем больше система находится в открытом тестировании, тем быстрее у разработчиков появятся шансы её улучшить.

Но безответственный хайп и некритическое использование ChatGPT могут быть в прямом смысле опасны для здоровья, а также для любого другого аспекта вашей жизни и жизней тех, кто некритически воспримет контент, который вы создадите и опубликуете при помощи ChatGPT.
👍17
Draft-Principles-and-Commentary-Public-Consultation.pdf
675.7 KB
Опубликован проект Принципов совершения сделок с цифровыми активами УНИДРУА

Международный институт унификации частного права (УНИДРУА) открыл публичную консультацию по проекту.

В проекте раскрываются основные понятия, включая контроль и депонирование цифровых активов.

Проект исходит из понимания контроля над цифровым активом как функционального эквивалента владения движимой вещью.

Раскрываются, помимо прочего:
- принципы идентификации лица, контролирующего цифровой актив,
- обязанности депозитария,
- условия добросовестного приобретения цифровых активов,
- порядок установления и осуществления обеспечительных прав на цифровые активы,
- влияние банкротства на права на цифровые активы.

Устанавливаются коллизионные нормы, обеспечивающие выбор права, применимого к сделкам с цифровыми активами.

Подать свои предложения и замечания по проекту можно до 20 февраля 2023 г.
👍11
Дипфейки и их (не)запланированные последствия

В своей недавней колонке SciTech Lawyer, Сандра Ристовска обращает наше внимание на культурные, технологические и правовые аспекты дипфейков.

Не буду пересказывать всю статью, обращу внимание на то, что откликнулось сильнее всего.

Видео составляет 82% всего потребляемого населением интернет-трафика. Видео, в силу нашей физиологии, по умолчанию воспринимается как более убедительное доказательство того, что изображённые события имели место. Образы работают быстрее и убедительнее слов.

При этом, отмечает Сандра, в США (а я думаю — далеко не только в США) до сих пор нет единого подхода и критериев оценки судами видеодоказательств.

Подходы на практике сильно разнятся. А дипфейки только усугубляют эту кашу: теперь иногда достаточно заявить о том, что представленное видео — дипфейк, чтобы дискредитировать позицию оппонента, и попытаться переложить на него бремя доказывания, по сути, отрицательного факта. Что часто гиблое дело.

В эпоху видео такой юридический разнобой и отсутствие единого подхода неприемлемы, поскольку по сути такая ситуация препятствует установлению истины, правосудию и защите нарушенных прав.

Остаётся надеяться, что высшие суды и адвокатские объединения во всех юрисдикциях озадачатся этой проблемой, и с привлечением широкого круга специалистов из различных дисциплин вскоре сделают первые шаги для её решения.
🔥5👍1
document (2).pdf
186.1 KB
Законный интерес как основание обработки персональных данных

Дело нидерландской теннисной ассоциации вскоре, вероятно, позволит нам узнать позицию Европейского суда справедливости (ЕСС) по пределам толкования понятия "законный интерес".

В отличие от Меты в недавно нашумевшем деле, спортивная ассоциация даже не пыталась никого предупредить о том, что они монетизируют персональные данные. А просто предоставила их за вознаграждение своим коммерческим партнёрам для маркетинга.

В этом смысле их позиция, в отличие от позиции Меты по делу Фейсбука, кажется существенно менее обоснованной. Но вопросы, которые нидерландский суд поставил на прояснение перед ЕСС, помогут нам всем на будущее лучше понять пределы, гм, законности законного интереса.

Вопросы, по которым запрашивается предварительное решение ЕСС по делу C-621/22:

1. Как окружной суд должен толковать термин «законный интерес»?

2. Следует ли интерпретировать термин так, как его интерпретирует ответчик? Должен ли такой интерес быть прямо закреплён в законе? Или;

3. Может ли любой интерес считаться законным при условии, что он не противоречит закону? И в частности, может ли чисто коммерческий интерес, как в рассматриваемом деле — предоставление за вознаграждение чужих персональных данных без согласия их субъекта — признаваться законным интересом при определенных обстоятельствах? Если да, то при каких?
👍7🔥2🤩2
Robocounsel
Пора ли отключить ChatGPT? С чего я вообще так ставлю вопрос? Просто потому, что начался хайп. Несмотря на то, что я и другие более осторожные комментаторы говорили ещё в начале декабря. Так, сегодня крайне безответственно повёл себя вполне уважаемый мною…
Неожиданные слабости искусственного интеллекта

Какое-то время назад все обсуждали, как машинно-обученная модель АльфаГо научилась лучше человека играть в го. Её аналог на открытом коде, КатаГо, получил известность по той же причине в последнее время.

Очередной бастион пал, говорили энтузиасты, теперь человеку остаётся лишь играть с другими людьми, потому что машины уже недосягаемы.

Но вот, недавно исследователям удалось создать стратегию, которая позволяет обыграть КатаГо, используя несовершенство процесса машинного обучения.

Никакой подобный процесс не идеален, и в модели всегда остаются какие-то пробелы из-за того, что наборы цифровых данных, использованные для обучения, не отражают всего богатства нашего аналогового мира.

Исследователи нащупали один из таких пробелов и успешно использовали его. Стратегия "на дурачка", легко распознаваемая и преодолеваемая человеческим игроком-любителем, успешно обманывает модель, выигрывающую у профессионалов.

Это лишний раз подчёркивает одну общую закономерность для систем искусственного интеллекта: да, многие из них научились выполнять некоторые задачи на уровне или лучше человека.

Но делают они это нехарактерным и непредвиденным для человека образом, словно какие-то инопланетяне.

Важно, что то же самое справедливо и для ошибок и сбоев таких систем. Машины "сыплются", иногда с катастрофическими последствиями, на непредсказуемо "глупых" мелочах, там, где человек даже средних способностей никогда бы не ошибся.

То же самое происходит с ЧатГПТ, когда система, в силу неспособности различить правду и ложь, внедряет ложные утверждения в случайных местах не в соответствии с человеческими паттернами обмана, в результате чего эту ложь оказывается сложно распознать неспециалисту.

А теперь представьте, что то же самое справедливо для автономного автомобиля. 99,999% времени он оказывается безопаснее человека за рулём. А потом группа злоумышленников, используя пробелы в наборах данных, на которых тренировали систему компьютерного зрения, моделирует на дороге такую ситуацию, которая гарантированно приводит к смертельному ДТП там, где распознать опасность мог любой начинающий водитель.

Системы ИИ — это созданные нами инопланетяне, и мы не должны надеяться, что наша человеческая интуиция нам как-то поможет решить проблемы, которые эти системы для нас создают.

Путь к безопасному и надёжному ИИ может быть дольше, чем мы думаем.
👍10🤔3😱1
Фреймворки по управлению рисками искусственного интеллекта

Кодексы этики, этические принципы, регулирование — это всё прекрасно. Но для практического применения — недостаточно.

Поэтому я решил создать сообщество для сбора информации и обсуждения всех уже опубликованных фреймворков управления ИИ-рисками (EU AI HLEG, НИСТ, Национальной разведки США, и др.) которые позволяют перейти от принципов к практике.

К конкретному алгоритму и конкретным шагам, необходимым бизнесу или внешним консультантам для того, чтобы обеспечить соответствие ИИ-систем принципам и формирующимся регуляторным требованиям.

Присоединиться просто.

1) Оформляете платную подписку (наверху кнопка — "Поддержать канал").
2) После подписки пишете мне в @robocounsel_bot о своём интересе.
3) В течение 24 часов я открываю вам доступ к базе знаний, которую начал создавать в Ноушен, и к группе для обсуждения.

Я уже сделал там стартовую подборку по фреймворкам (на английском).

Если вы уже оплатили подписку ранее — просто напишите в бот о желании получить доступ к Ноушен и группе.

Давайте делать практические шаги вместе!
👍4
Бесплатных социальных сетей не бывает

Последнее дело о штрафах против Фейсбука - не только про приватность, но и про модели монетизации интернет-сервисов.

В моей новой статье я размышляю о том:
- что сейчас в фокусе общественного обсуждения,
- что на самом деле поставлено на карту этим решением,
- кто может решать, какие модели монетизации легитимны.
🔥6
LawtechUK_Discussion Paper_AI Technology.pdf
7.2 MB
Юртех в Великобритании: Минюст приглашает к диалогу

При поддержке Министерства юстиции в Великобритании запущена публичная консультация по вопросам применения юридических технологий, в особенности машинного обучения.

В рамках этой инициативы опубликован документ для обсуждения, отражающий текущую ситуацию и вопросы.

Обозначены основные области применения юртеха:
- повседневный ИИ (поиск, ИИ-ассистенты и т.п.);
- дью дилидженс;
- раскрытие доказательств (e-discovery);
- чатботы;
- предиктивная судебная аналитика.

Затронуты основные пути внедрения (приобретение продуктов на рынке, инхаус-разработка), преимущества и риски применения инструментов на базе машинного обучения.

Также обозначены виды юридико-технологических услуг, которые могут без нарушения закона оказываться в Великобритании без получения статуса адвоката и открытия юридической фирмы.

Также дан ряд полезных ссылок на тематические интернет-ресурсы.

До 5 февраля 2023 г. участники рынка могут дать свои комментарии и предложения, которые затем войдут в сводный отчёт, планируемый к публикации в марте 2023 года.
👍5❤3
Думаете, использовать ли ChatGPT для ваших задач?

Используйте простой алгоритм по мотивам моей недавней статьи.
👍12❤3😁1
Forwarded from Skolkovo Leaks
This media is not supported in your browser
VIEW IN TELEGRAM
Пятничное видео от Boston Dynamics с их двуногим железным другом по имени Atlas.

@skolkovoleaks
🔥3😱2
UN Handbook for Privacy-Preserving Techniques.pdf
1.7 MB
Опубликовано Руководство ООН по подходам, обеспечивающим конфиденциальность при обработке данных

Документ одобрен Глобальной рабочей группой ООН по большим данным.

Даются описания, мотивы и практические примеры использования следующих подходов:
1) Безопасные многосторонние вычисления (MPC)
2) (Полностью) гомоморфное шифрование (HE или FHE)
3) Доверенные среды исполнения (TEE)
4) Дифференциальная конфиденциальность
5) Доказательства с нулевым знанием (ZK-доказательства).

Документ описывает, как технически возможно обеспечить конфиденциальность "чувствительных" данных и при этом сохранить возможность их анализа.

Рассмотрены методы, позволяющие обеспечить конфиденциальность данных в процессе их обработки, а не только во время хранения или при передаче между системами.

Документ предназначен для широкого круга специалистов по статистике и анализу данных, кураторов и архитекторов данных, ИТ-специалистов, специалистов по безопасности и защите информации. В связи с этим документ не описывает технические криптографические аспекты описываемых технологий.
👍8🔥5
DOJ & States v. Google.pdf
2.1 MB
Минюст США требует разделить рекламный бизнес Гугла

Сегодня во вторник Министерство юстиции США подало в суд на компанию "Гугл", обвинив ее в злоупотреблении доминирующим положением в цифровом рекламном бизнесе.

Представители Минюста просят суд принудить Гугл к продаже пакета сервисов Google Ad Manager, чтобы уменьшить концентрацию на рынке рекламы.

К требованиям Минюста присоединились власти восьми штатов.
👍4🔥3
Результаты поиска в Бинге будут включать ответы ИИ-ассистента

Источники в Майкрософт сообщают, что компания уже работает над интеграцией ИИ-ассистента от ОпенЭйАй в свою поисковую систему.

Вследствие этого результаты поиска будут включать не только ссылки, но и готовые контекстуальные подсказки, как это уже происходит в Гугл поиске по ряду запросов, либо ещё более персонализированные ответы.

Таким образом, гипотезы некоторых о том, что Майкрософт может интегрировать ЧатГПТ со своим Бингом, уже не гипотезы, а ближайшая вероятная реальность.
👍3
Robocounsel
Фреймворки по управлению рисками искусственного интеллекта Кодексы этики, этические принципы, регулирование — это всё прекрасно. Но для практического применения — недостаточно. Поэтому я решил создать сообщество для сбора информации и обсуждения всех уже…
Mapping_AI_RMF_1_0_OECD_EO_AIA_BoR.pdf
201.4 KB
НИСТ опубликовал свой фреймворк по управлению рисками ИИ-систем (AI RMF 1.0)

Сегодня великий день, поскольку полку практико-ориентированных ИИ-фреймворков прибыло. На этот раз специалистов порадовал Национальный институт США по стандартам и технологиям.

Во вложении показано соотношение фреймворка НИСТ с требованиями, предъявляемыми регулирующими документами ОЭСР, ЕС и США.

Поскольку одними законами и кодексами этики сыт не будешь, опубликованный НИСТ пакет документов включает не только принципы и правила управления рисками ИИ-систем, но и рекомендации по конкретным действиям.

Такие фреймворки — именно то, что необходимо практикам: компаниям и специалистам, которые нуждаются в разъяснениях, как именно реализовать те принципы и требования, которые провозглашают международные организации и национальные законодатели и регуляторы.

Хотите изучать и обсуждать этот и другие фреймворки вместе, и готовиться к практической работе по ним? Вам сюда.
🔥4👍1
ЧатГПТ не будут использовать в суде

Основатель компании ДуНотПэй Джошуа Браудер отказался от своей сомнительной затеи.

Ранее он предлагал 1 млн. долларов подопытному, который согласится через наушник слушать советы от бота по поводу того, как вести себя при рассмотрении дела в суде.

Получив множество предупреждений от адвокатских палат и посоветовавшись с настоящим юристом, он понял, что за подобные эксперименты над людьми с доказанно ненадёжным ботом ему грозит до 6 месяцев заключения.

После этого желание экспериментировать у незадачливого коммерсанта пропало.
👍5😁3
Robocounsel
Думаете, использовать ли ChatGPT для ваших задач? Используйте простой алгоритм по мотивам моей недавней статьи.
34 173 просмотра, 510 лайков, 113 репостов, и их число продолжает увеличиваться.

Моя упрощённая блок-схема (доверять ли задачу ЧатГПТ) получила небывалую популярность в Линкдине.

Здорово, что этот очень важный месседж достигает большого количества людей на пике хайпа и поможет смотреть на возможности подобных инструментов более критическим взглядом.

И очень интересные комментарии при репостах (во вложении).
👍13🔥6