Robocounsel
1.95K subscribers
265 photos
18 videos
81 files
659 links
О регулировании и социальных аспектах применения ИИ и данных, преимущественно в ЕС. Публикации отражают сугубо личное мнение автора.

Контакт, вопросы: используйте кнопку 💬 в левом нижнем углу.

Шрифт в логотипе - Alex Murphy Solid от Goatmeal
Download Telegram
​​#awards

💙Объявлены победители Russian Privacy Awards 2021💙

Мы от всей души поздравляем всех участников, а также причастных к организации единственной в России Премии в области приватности!

💙DPO года - Елена Богданова, Grohe

💙Консультант года - Ксения Андреева, Morgan Lewis

💙Privacy-евангелист - Александр Тюльканов

💙Privacy-стартап - Privacy Accelerator

💙Лучший кейс по Privacy - Eurasian Digital Foundation

💙Лучшее решение в PrivacyTech - SAS Personal Data Protection Management

🪆Все участники получат именные сертификаты
🪆А победителей ждут памятные призы

📢Трансляция

С любовью и морозным солнцем,
Команда Awards
Правосубъектность артефактов — оксюморон, которому не дают умереть

Две общепарламентские группы Британского парламента — по ИИ и по будущим поколениям провели 13 декабря совместное мероприятие.

Снова обсуждалась странная для меня идея правосубъектности систем с ИИ.

Казалось бы — пообсуждали в академической литературе эту тему уже давным давно, не увидели в этом пользы, и разошлись.

Не нашли практических кейсов, где это давало бы что-то, кроме возможности для операторов и разработчиков систем с ИИ элегантно уйти от ответственности за низкое качество своих систем.

Но полуразложившийся труп этой кажется очевидно гнилой идеи продолжает бродить по Европе и, как видно, даже давать гастроли на Британских островах.

К счастью, британские парламентарии пригласили Джоанну Брайсон, которая, кажется, разложила всё по полочкам.

Тезисы её выступления можно прочитать здесь.

Удивительно, конечно, что кто-то из коллег всё ещё увлечён идеями "оправосубъектить" артефакты. Единственная очевидная полезная (не для общества) цель данного предприятия давно понятна, а адекватных альтернативных аргументов так и не появилось.
Формирующееся регулирование ИИ в Европе: верхнеуровневый обзор

Президент Специального комитета по ИИ Совета Европы Грегор Строин сделал интересный обзор. В нём отражены основные направления регуляторной работы по ИИ в Европе в 2021 году и перспектива на 2022.

Рекомендую к прочтению.

Если ссылка выше у вас не открывается из-за отсутствия доступа к Линкдин, смотрите сохранённую версию через веб-архив.
Робособака смешная, а ситуация с правами человека — не очень

Можно, конечно, умиляться китайским клонам американских робособак, которые Госинспекция по недвижимости начинает использовать в Москве.

Но есть одна проблема: по всем правонарушениям, которые фиксируются роботами, для удобства правоприменения практически отменяют презумпцию невиновности (см. иллюстрацию из КоАП).

Вас сначала оштрафуют, а потом вы можете доказывать, что вы — не совсем верблюд.

Технический прогресс движется, а сфера действия прав человека сужается.
👍2
И на старуху бывает проруха

Блестящий популяризатор научного знания Стивен Пинкер, к сожалению, сильно и неоднократно ошибся в своей статье, развенчивающей риски продвинутого ИИ.

Вопреки его утверждениям, не менее 70% технических экспертов по ИИ считают, что перспективные системы ИИ будущего (включая разработки в направлении AGI) несут реальные риски для безопасности человечества.

Мотивированные контраргументы Пинкеру приводит в своём видео другой популяризатор науки, специализирующийся на ИИ, Роберт Майлз (статья Пинкера доступна здесь).

Помимо ютуб-канала, Роберт ведёт специализированный подкаст по безопасности ИИ — Alignment newsletter podcast. Подкаст посвящён одноимённой проблеме отклонения деятельности сложных ИИ-систем от целей, заданных человеком.

Речь не о том, что мы все умрём и нужно (или уже не нужно) паниковать. А о том, что сложа руки сидеть нельзя, проблема реальна и ею нужно заниматься сейчас, а не когда станет поздно.

А тем, кто предпочитает текстовый формат, стоит подписаться на первоисточник — рассылку по этой теме от исследователя по безопасности ИИ Роина Ша.

Безопасного нам всем ИИ в новом 2022 году!
👍1
Эксперт: опция Full Self-Driving (FSD) для Теслы не стоит своих денег

Так отозвался об этой опции Михаил Бакунин, специалист из автопрома Силиконовой долины в своём новом видеообзоре на Tesla Y.

Исходя из данных, приведённых в обзоре, машина во многих случаях пока не способна сама уверенно менять полосу движения, а это, по мнению Михаила, — наиболее интересное из заявленных преимуществ текущей версии FSD.

Помимо этого, видео подсвечивает три интересных обстоятельства.

Во-первых, Тесла по-прежнему продолжает именовать свой ADAS-функционал "Full Self-Driving", что, на мой взгляд, может вводить в заблуждение потребителей: ведь полноценного автономного вождения машина не обеспечивает.

Во-вторых, опция FSD, по-видимому, доступна только по подписке (199 долл. в месяц). Сумма не астрономическая, но сама концепция лишний раз напоминает нам о том, что переход от продуктовых на подписочные модели теперь происходит не только в секторе разработки программного обеспечения.

По мере того, как всё больше вещей вокруг нас становятся зависимыми от встроенного ПО и могут контролироваться производителем или поставщиком удалённо, модель подписки становится возможной в бизнесе традиционно "офлайновом", "железном" или даже "кирпичном" ("brick and mortar").

В-третьих, для ряда пользователей Тесла предлагает опцию FSD с большим функционалом, но только если поведение водителя за рулём отвечает понятиям компании о безопасном вождении.

Это означает, что расширение функционала возможно не иначе, как в обмен на сбор американской компанией дополнительных персональных данных о поведении водителя.

И при условии, что водитель согласен на автоматический скоринг по такому поведению. Ещё один скоринг, незаметно входящий в нашу жизнь.
👍1
Снова про биометрию и её использование в неожиданных (для кого-то) целях

Ну вот и про случай, который мы обсуждали с Денисом Садовниковым и Сергеем Воронкевичем как гипотетический в прошлом году, пишет Роскомсвобода (UPD: Мосметро отрицает).

«Очень инновационно продвинутый мужчина узнал, что можно платить лицом в метро, зарегистрировался в Face Pay, сдал биометрию и стал ездить. Через пару дней ему прилетел штраф за проезд в метро без маски — 3 тысячи рублей.

Остальные тоже ездят без маски, но их нельзя идентифицировать по лицу. Его можно, и он не знает, как теперь отозвать своё лицо из этой системы и кому оно ещё досталось».

Что можно сказать? Берегите биометрические персональные данные смолоду. И, если не уверены в том, в каком неизвестном контексте они могут быть использованы, не делитесь такими данными.

Ну и, наверное, это повод заново — а для кого-то впервые — посмотреть наше прошлогоднее обсуждение :)

А также вспомнить о замечательной книге Хелен Ниссенбаум "Приватность в контексте".

Про то, почему при распространении информации о частной жизни для человека (и общества в целом!) на самом деле важен не сам абстрактный факт её распространения, а неожиданность и неадекватность нового контекста, в который эта информация помещается без его ведома.
👍3❤1
Лицевая биометрия: наднациональное регулирование у нас в Европе

На Privacy Day в эту пятницу 28 января (13:00 МСК) расскажу про регулирование лицевой биометрии на уровне Совета Европы.

Сессия, в которой выступаю, касается в первую очередь применения биометрии в частном секторе.

Присоединяйтесь!
5 уровней автоматизации принятия решений в госуправлении по Яну Зизингу

Многим знакома традиционная пятиступенчатая классификация степени автоматизации автомобилей от SAE.

Ян Зизинг предложил по аналогии проклассифицировать степень автоматизации принятия юридически значимых решений в сфере госуправления.

Получившаяся у него схема - на картинке. Подробности - в его докладе для круглого стола, который проводил Комитет по демократии и госуправлению Совета Европы (с. 16 документа).

Как вам классификация?
👍2
GDPR-2: Судный день для ИИ в Европе

На экранах 11 февраля в 18.00 по Москве :)

Продолжим диалоги с Денисом Садовниковым и Сергеем Воронкевичем. На этот раз в фокусе проект Регламента ЕС об ИИ. Также затронем грядущее регулирование на уровне Совета Европы.

Регистрируйтесь здесь.
👍8
Как развивается рынок робототехники: рассказывает Алиса Конюховская

Алиса крутая, а ICT Moscow очень удачно взяли у нее интервью ко дню робототехники. Так что всем интересующимся трендами на этом рынке – рекомендую.

Также у них на канале сегодня вышла подборка каналов про робототехнику. Как минимум один знакомый вам там уже есть :)

И поздравляю всех причастных с профессиональным праздником!
👍8
Robocounsel
Справедливо ли владельцу автономного автомобиля отвечать за вред, причинённый окружающим? Ваша вероятность получить увечье больше, когда с вами столкнулся не пешеход, а автомобилист, Владельцы автомобилей добровольно их покупают и выводят на дорогу, то есть…
Гражданская ответственность за автономные авто в Германии

Автономный автомобиль – сложная система. А с точки зрения права ещё и объект повышенной опасности.

В своей свежайшей статье Мартин Эберс описывает, кто и когда может отвечать за ущерб, нанесённый эксплуатацией таких машин в Германии.

Сначала разбирает ситуацию по ныне применимым в Германии правовым нормам, а затем даёт рекомендации – что и почему можно изменить.

Основной посыл, кажется, такой: основным «аккумулятором» гражданской ответственности является – и должен оставаться – владелец автомобиля. Он извлекает пользу из эксплуатации источника повышенной опасности – ему и нести риски.

Но при этом есть сильные аргументы в пользу расширения ответственности производителей таких авто.

Во-первых, возможно изменить стандарт ответственности – ограничить случаи, когда ответственность производителя зависит от его вины. И, соответственно, чаще (хотя и не всегда) вменять ему ущерб от ДТП объективно, просто по факту события.

И, во-вторых, возможно сделать ответственности владельца и производителя авто перед потерпевшими солидарной. Чтобы они могли взыскивать убытки по своему выбору с владельца, производителя или обоих в любой желаемой пропорции.
Вышел доклад ВЭФ о моделях управления обменом персональных данных с помощью посредников

В одном из предыдущих докладов ВЭФ уже поднималась проблема тупика, в котором мы оказались с нынешней реализацией модели уведомления и согласия (Notice & Consent).

Большинство людей не читают зубодробительные политики и согласия на обработку персональных данных. Их слишком много, они часто плохо структурированы.

И нет никакой стандартизации, поэтому для обычного пользователя временные затраты на осмысленное принятие условий транзакций с персональными данными неприемлемо велики.

А куки-баннеры многие вообще просто ненавидят.

С другой стороны, в некоторых современных или будущих контекстах текущая реализация уведомлений и согласий, ориентированная на экраны или бумагу, применима с изъянами или вообще не работает - будь то сбор данных по телефону или при взаимодействии с подошедшим к вам роботом.

Развивая эту тему, новый доклад ВЭФ исследует риски и преимущества, которые может привнести включение в цепочку управления и (или) обмена персональными данными независимых посредников, действующих в интересах не операторов, а пользователя. Описываются различные формы, которые может принимать такое посредничество.

Также рассматриваются характеристики технических средств, которые могут обеспечить основу для управления персональными данными по таким моделям.

Очень рад был поучаствовать в работе над этим докладом и, разумеется, всем его рекомендую. Также буду рад здесь вашим комментариям.

P. S. Предыдущий доклад по Notice & Consent доступен здесь.
👍3
Искусственный интеллект: регулирование в Европе

Только что завершил лекцию, которую на данную тему провёл для студентов по приглашению МГИМО. Благодарен коллегам за возможность выступить.

Видео уже доступно.

Обзорно рассказал о мотивах регулирования в этой области и о том, что уже сделано на уровне ЮНЕСКО, ОЭСР и чуть более подробно о том, что планируется Еврокомиссией и в Совете Европы.
👍10
Персонализированные цены: этика и регулирование

В свежей колонке Иван Бегтин напоминает про одну из этически спорных практик на рынке: персонализация цен. Когда на основании собранных о потребителях данных им предлагаются разные цены на одни и те же продукты и услуги.

Сегодня это стало возможным благодаря тому, что возможности бизнеса по предсказанию поведения потребителей на основе собранных о них персональных данных постепенно увеличиваются.

Можно впомнить одиозные и уже достаточно древние случаи типа рекомендаций от американского магазина по покупке подгузников в адрес родителей неожиданно (для них, но не для для магазина) беременной школьницы.

Что уж говорить о создателях нынешних экосистем, приложений и рекламораспространителях. На рынке потребительских товаров и услуг сложилась и усугубляется очевидная информационная ассиметрия: лидеры рынка благодаря своим приложениям и кукис знают и могут предсказать о вас существенно больше, чем тот магазин.

А далее... об этом хорошо писали Эзрахи и Штуке в одной из книг, которые я рекомендовал своим читателям в ФБ несколько лет назад. В новых условиях у обладателей наиболее качественных наборов персональных данных и наиболее точных предиктивных моделей (движимых, как и все предприниматели, максимизацией прибыли) создаётся реальная, ранее почти не осуществимая возможность максимизировать изъятие потребительского излишка через совершенную ценовую дискриминацию.

Поясню.

Если имеющаяся у предпринимателя машинно-обученная модель на основе персональных данных профилей потребителей может с достаточной точностью предсказать, что Иван купит некий товар или услугу не более, чем за 100 рублей, а Пётр - не более, чем за 200 (а иначе они вовсе откажутся), можно сделать им персонализированные предложения и получить 300 рублей выручки. Вместо прежней ситуации, когда товар мог предлагаться каждому из них по единой цене в 100 рублей, и выручка составила бы 200.

В России такая необоснованная ценовая дискриминация запрещена ст.10 ч.1 п.6, ст.11 ч.4 п.2, ст.11.1 ч.3 п.2 и ст.16 п.2 Закона о защите конкуренции.

Но не для всех, а только для публичных и квазипубличных органов, а также для бизнеса, занимающего доминирующее положение на рынке или пытающегося вводить такие практики согласованно с другими.

Более того, по мнению некоторых экономистов ценовая дискриминация, если она не сопровождается монополизацией рынка, способствует увеличению продаж, и, в результате, увеличению благосостояния общества в целом.

Как поясняет д.э.н. Светлана Авдашева, "объяснение этого эффекта довольно простое, если подойти к нему "от противного". Скажем, если бы все покупатели приобретали товар по одной и той же цене, то какие-то группы покупателей (которые в случае ценовой дискриминации приобретают по более низким ценам) вообще отказались бы от приобретения".

При этом запрещена ценовая дискриминация для предпринимателей, оказывающих услуги или продающих товар на условиях так называемого публичного договора (сюда относятся любые розничные продажи, медицинские и гостиничные услуги, услуги общественного транспорта, связи, энергоснабжения и т.п.). Согласно ст. 426 ГК РФ дискриминационные ценовые условия таких сделок ничтожны.

В остальных сценариях на сегодня, например, предприятие малого бизнеса, не имеющее доминирующего положения на соответствующем рынке и не действующее согласованно с другими, может беспрепятственно экспериментировать с персонализированными ценами на свои товары и услуги.

По крайней мере - пока. Закон о защите прав потребителей запрещает ценовую дискриминацию только по критерию способа оплаты (напр., картой или наличными, ст. 16.1, п.4). А инициатива депутатов по запрету иной ценовой дискриминации в онлайн-торговле пока, по всей видимости, не получила развития.
👍4👏1
❗️❗️❗️Сбор предложений для антикризисных мер поддержки робототехники
Дедлайн 24:00 28.02.2022

НАУРР по запросу Минпромторга собирает информацию о необходимых мерах поддержки участников рынка робототехники.

1. Государственные меры поддержки участников рынка робототехники.
Возможные меры поддержки:
• финансовые меры поддержки
• отраслевые меры поддержки
• регуляторные меры поддержки
• меры технического регулирования

2. Поддержка передовых исследований
Если вы осуществляет НИОКР в критически важных областях робототехники и вам требуется финансирование, то сообщите об это в Ассоциацию.

Файл для сбора предложений находится здесь. Обратите внимание, там две вкладки. Необходимо сделать запрос на редактирование документа.
Пожалуйста, заполните файл для сбора предложений или напишите письмо в свободной форме о необходимых мерах или поддержке исследований на почту info@robotunion.ru

Если у вас есть вопросы по сбору предложений, вы можете обратиться к @MudrovaOlga, исполнительному директору НАУРР.
К вопросу о личной информационной безопасности

В текущей ситуации многие спешат купить какую-то технику, включая компьютеры из категории всё ещё доступных по цене.

Один из таких вариантов - Хроумбуки. Уолл-стрит Джорнэл в своей вчерашней статье напоминает, что у всех них есть дата запланированного устаревания, после которой Хроумбуки хотя и не превращаются сразу в кирпич, но перестают получать важные обновления от Гугла.

Без них компьютер может перестать быть защищённым от вновь выявляемых уязвимостей, не говоря уже о постепенной возможной потере работоспособности на определённых ресурсах.

Поэтому, прежде чем покупать Хроумбук, особенно с рук и по относительно низкой цене, обратите внимание на возможные причины: проверьте дату запланированного устаревания модели, обозначенную на сайте Гугла.

Всем мира!
👍6
Минцифра против беззакония

Как вы уже могли заметить, некоторые российские суды начинают выносить заведомо неправосудные, на мой взгляд, решения в отношении сторон с иностранным участием. Отказывают во взыскании, исполнении решений по надуманным основаниям, ничего общего не имеющим с правом.

В свою очередь, некоторые западные компании вопреки, казалось бы, фундаментальным постулатам о недопустимости незаконной дискриминации по любому основанию, массово дискриминируют российских граждан и предпринимателей, закрывая счета, расторгая договоры и отказывая в базовых услугах. На основе "культуры отмены" и "коллективной вины", которая в принципе никак не совместима ни с верховенством права, ни с другими фундаментальными общечеловеческими ценностями.

На фоне происходящего приятно отметить такую принципиальную позицию Минцифры по вопросу недопустимости легализации пиратского ПО и преследования руководителей дочерних обществ западных компаний.

Побольше бы таких адекватных заявлений от лиц, принимающих решения.
👍21❤2👎1🔥1