Robocounsel
1.95K subscribers
265 photos
18 videos
81 files
660 links
О регулировании и социальных аспектах применения ИИ и данных, преимущественно в ЕС. Публикации отражают сугубо личное мнение автора.

Контакт, вопросы: используйте кнопку 💬 в левом нижнем углу.

Шрифт в логотипе - Alex Murphy Solid от Goatmeal
Download Telegram
notification_draft_2021_344_D_EN.DOC
978 KB
Основное требование к ВАТС в Германии: машина должна избегать столкновений в соответствии с достигнутым уровнем техники

Минтранс ФРГ подготовил проект приказа о порядке допуска и эксплуатации моторных ТС с функцией автономного вождения на отведённых для этого участках (AFGBV). Приказ необходим для того, чтобы заработал ранее принятый закон.

Для одобрения типа ВАТС изготовитель будет обязан обратиться в Федеральный орган по моторному транспорту и предоставить декларацию, подтверждающую, что (а) ВАТС соответствует уровню техники, описанному в Приказе, а также что (б) изготовитель обязуется соблюдать требования законодательства о дорожном движении.

Прежде всего ВАТС должно быть способно распознавать других участников дорожного движения, иных лиц, животных и имущество, предсказывать их поведение, проводить оценку риска столкновения и с её учётом совершать манёвр, необходимый для избежания столкновения.

Основные технические требования к ВАТС, процессам и документации изготовителя изложены в Приложениях.
Robocounsel
notification_draft_2021_344_D_EN.DOC
Кстати, о подходе немецких коллег к оценке регулирующего воздействия — из пояснительной записки к проекту приказа.

И про расходы для бизнеса, и заодно про то, что эксплуатации гражданами ВАТС в "обозримом будущем" не ожидается.
NHTSA проверяет "Автопилот"

Национальное управление США по безопасности дорожного движения сегодня инициировало расследование в отношении безопасности "Автопилота" Теслы.

Расследование начато по мотивам 11 случаев, в которых с 2018 года данная автоматизированная система помощи водителю (ADAS) привела к столкновению Тесл с машинами экстренных служб.
ИИ в государственном управлении: вопрос

Какие образцово-положительные примеры применения ИИ в госуправлении вы знаете? В какой стране?
Сегодня в неформальной обстановке буду в гостях у Кристины — подключайтесь
​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​#events #privacy #radiogroot

Когда: 31 августа 19:00(мск)
Где: голосовой чат в канале Privacy GDPR Russia
Тема: RadioGroot. Privacy поболтушки
В гостях: Александр Тюльканов
Организатор: RPPA
Язык: русский
Стоимость: бесплатно
Подробности: заходи в канал

🗓 Добавить в календарь

💬Оставляй вопросы спикеру здесь⬇️⬇️⬇️
14-15 сентября - Конференция Reghorizon AI Policy

Выступаю 15 сентября в панели № 4 с 11:15 до 12:30 по Москве

Обсудим, как в регулировании применения технологий нам могут помочь эти же самые технологии.

Язык — английский.

Регистрируйтесь здесь!
Robocounsel
14-15 сентября - Конференция Reghorizon AI Policy Выступаю 15 сентября в панели № 4 с 11:15 до 12:30 по Москве Обсудим, как в регулировании применения технологий нам могут помочь эти же самые технологии. Язык — английский. Регистрируйтесь здесь!
Итак, наша панель, завершилась —спасибо всем, кто смотрел!

А вот и результаты опроса в эфире...

P. S. Мероприятие продолжается, следующая панель в 12:45 по Москве.
Почему мало популярны инструменты для управления предвзятостью (fairness frameworks)?

Ранее я рассказывал про недобросовестные практики в машинном обучении. А именно, про "отмывание" ML-моделей (fairwashing), при котором для модели, выдающей несправедливые решения, строится убедительное объяснение, показывающее её в ложно хорошем свете.

Вчера на Reghorizon затронул и обратную сторону — добросовестные практики в машинном обучении. В данном случае — на этапе отбора данных для обучения модели.

Существуют решения с открытым исходным кодом, которые помогают строить модели методологически корректно и выявлять проблемы с данными (fairness frameworks).

Например, Aequitas, Fairlearn, Google What-if tool, IBM Fairness 360, PyMetrics Audit AI, Scikit-fairness.

Но, судя недавнему опросу кембриждских исследователей, только 54% специалистов по исследованию данных и ML когда-либо пробовали пользоваться этими инструментами.

Почему? Из-за несовершенства инструментов, их малой известности или неосознанности проблемы?
Хоть горшком назови, только в печку не ставь

В чате, который шёл на Reghorizon параллельно нашей сессии, обсуждали тезис о том, уместно ли называть "adjudication" ("судебным разрешением спора") деятельность автоматизированной системы, выносящей решение по спору без участия человека.

Чем такую деятельность точно нельзя назвать, так это "administration of justice" ("отправление правосудия").

Дело в том, что правосудие не ограничивается задачей (1) поиска наиболее подходящих к делу норм закона или (2) наиболее подходящих судебных прецедентов. Эта задача без участия человека на современном уровне техники решается лишь отчасти.

Правосудие предполагает, помимо этого, (3) учёт всех обстоятельств дела (а в инквизитивном процессе — ещё и инициативное их выявление), (4) доктрины и применение с необходимостью абстрактных норм и принципов, включающих (5) ценностные суждения. Эта задача без участия человека на современном уровне техники не решается вовсе.

Ну и, разумеется, правосудие предполагает собственно некую (6) процедуру, предполагающую возможность стороны ответить на аргументы другой стороны, получить новые доказательства и предоставить суду дополнительные аргументы, которые суд должен быть способен понять. Эта задача без участия человека на современном уровне техники также не решается.

Поэтому, когда вы обращаетесь к боту за оспариванием какого-то действия и решения, а бот выносит решение без участия человека и оно имеет для вас правовое значение (потому что это следует из закона или договора) — вы наблюдаете — в лучшем случае — автоматизированное правоприменение (application of law), но не правосудие (administration of justice) и не разрешение спора (adjudication).
Robocounsel
Хоть горшком назови, только в печку не ставь В чате, который шёл на Reghorizon параллельно нашей сессии, обсуждали тезис о том, уместно ли называть "adjudication" ("судебным разрешением спора") деятельность автоматизированной системы, выносящей решение по…
Уточним соотношение терминов

Комментарий Сергея Халатова к моему посту на Фейсбуке по этой теме породил желание уточнить термины и их соотношение. Чтобы все были, как говорят англоязычные, на одной странице. Считайте это поправкой к заметке.
CAHAI-LFG: 4-е заседание

Сегодня состоится предпоследнее заседание группы по правовым основам (Legal framework group) Спецкомитета по искусственному интеллекту Совета Европы. Группе предстоит обсудить элементы, которые могут потенциально быть включены в Конвенцию СЕ по ИИ.

Группа включает представителей России, участницы целого ряда предыдущих Конвенций СЕ, включая Конвенцию 108+, которая является правовой основой для российского закона о персональных данных.

Ранее 21 мая 2021 года, на своей 131 сессии Комитет Министров СЕ призвал своих представителей сфокусироваться, прежде всего, на возможности выработки обязывающего правового акта общего характера по общим принципам регулирования (в практике СЕ это конвенции), который может сопровождаться обязывающими или рекомендательными отраслевыми правовыми актами.
Robocounsel
Хоть горшком назови, только в печку не ставь В чате, который шёл на Reghorizon параллельно нашей сессии, обсуждали тезис о том, уместно ли называть "adjudication" ("судебным разрешением спора") деятельность автоматизированной системы, выносящей решение по…
В расширенной англоязычной версии заметки сделал важное уточнение по мотивам статьи о новейших практиках из Поднебесной:

“Суд провинции рекомендует судьям Хайнаня принять на вооружение интеллектуальную систему, которая при помощи обработки речи, графов знаний и глубокого обучения пытается вывести суть дела и сформировать решение на основе прецедентов” (с. 18).

Когда суд выносит правосудное решение, он делает это благодаря правовому анализу (legal reasoning).

Если вы подменяете (а не просто дополняете) правовой анализ статистическим, вы пытаетесь (притом грубым механистическим образом) вывести должное из сущего, что попросту методологически некорректно.
Robocounsel
В расширенной англоязычной версии заметки сделал важное уточнение по мотивам статьи о новейших практиках из Поднебесной: “Суд провинции рекомендует судьям Хайнаня принять на вооружение интеллектуальную систему, которая при помощи обработки речи, графов знаний…
Верховенство данных вместо верховенства права?

В продолжение темы: вышла свежая статья моих коллег Я. Менесёра и К. Барбаро — "Artificial intelligence and the judicial memory: the great misunderstanding".

Авторы раскрывают проблематику "предсказательного правосудия". В основе критика, схожая с моей: вы не можете просто взять и заменить правовую аргументацию статистическим анализом.

Но выводы и опасения авторов более глубокие: при излишнем увлечении "государственным управлением, основанным на данных", при постановке "телеги" данных впереди государственной "лошади" существует риск подмены базовых ориентиров в регулировании.

Сейчас этими базовыми ориентирами в развитых демократиях всё ещё являются идеалы прав человека и верховенства права.

Но останутся ли они такими же ориентирами, скажем, через 20 лет или будут незаметно подменены идеалами эффективной технократии — большой вопрос.
Конференция: на пути к гармонизированному регулированию ИИ

Если вам показалось, что в последнее время на канале мало постов — вам не показалось. Пришлось этим немного временно пожертвовать, так как мы с коллегами в последние месяцы приложили огромное количество усилий, чтобы завтра провести одну из крупнейших конференций по регулированию применения ИИ.

И завтра, во вторник 26 октября, вы сможете её увидеть в прямом эфире здесь. Там же вы можете ознакомиться с программой и спикерами (скорее смотрите, они потрясающие).

Откроют конференцию генеральный секретарь Совета Европы, президент ПАСЕ и представители нынешнего Венгерского председательства Комитета Министров Совета Европы.

Ждём вас завтра в эфире в 11:00 по Москве.
Подводные камни предиктивной аналитики на российских судебных актах

В комментариях к посту нашего коллеги Сергея Халатова мы с ним затронули проблему, критически значимую для построения систем предсказательной судебной аналитики.

По 25-летнему опыту Сергея российские судебные акты — по всем категориям дел — стабильно демонстрируют два существенных недостатка: (1) неполное или ошибочное отражение обстоятельств, положенных в основу решения, (2) отсутствие адекватной мотивировочной части, позволяющей логически увязать обстоятельства и вынесенное решение.

Ввиду этого, на мой взгляд — и Сергей согласен — на основе анализа одного лишь корпуса российских судебных актов затруднительно понять, почему российские суды принимают те решения, которые они принимают.

И без дополнительных данных не только бесполезно, но и вредно было бы пытаться на основе такого анализа давать какие-то далеко идущие рекомендации по улучшению законодательства или, например, пытаться создавать хорошую автоматизированную систему предсказательной судебной аналитики.

Для получения необходимой дополнительной информации требуется глубокое погружение: работа напрямую со сторонами соответствующих споров, анализ условий договоров, в связи с которыми такие споры возникают, изучение иных материалов дела, опрос непосредственных участников событий.

Именно на основе всех этих не отражённых в тексте судебного акта предпосылок на самом деле действуют стороны и суд, затем выносящий решение.

Предсказательная судебная аналитическая система, не учитывающая этого, заведомо будет бесполезной или вредной.
👍1
Отличная колонка от Ивана Бегтина
про лицевую биометрию в Мосметро


Если ещё не читали — здесь.

Мне всегда казалось, что давать себя пропускать в метро по лицу — это какое-то дико непропорциональное обременение себя дополнительными рисками без каких-то ощутимых выгод.

"Тройка" отлично работает, так же быстро пропускает через турникет и при необходимости может покупаться за наличные совершенно анонимно.

Тот самый случай, когда заявленная цель обработки персональных данных (исполнение договора на оказание транспортной услуги) достигается прекрасно без их [избыточного] сбора. То есть нарушается один из базовых принципов обработки персональных данных, предусмотренных 152-ФЗ и Конвенцией 108+ (неизбыточность).

Такое ощущение, что декларируемая цель сбора биометрии здесь совершенно притворная, а собираемые данные нужны и ценны для непонятно каких иных целей.
Ваше отношение к оплате товаров и услуг с аутентификацией по лицу (FacePay)? В комментариях можете пояснить мотивы.
Anonymous Poll
7%
Уже пользуюсь
11%
Не пользуюсь, но интересно
82%
Не пользуюсь и не интересно
Robocounsel
Подводные камни предиктивной аналитики на российских судебных актах В комментариях к посту нашего коллеги Сергея Халатова мы с ним затронули проблему, критически значимую для построения систем предсказательной судебной аналитики. По 25-летнему опыту Сергея…
Недостатки российских судебных актов: комментарий Р. С. Бевзенко

С описанной выше оценкой Сергея Александровича Халатова соглашается и другой известный российский юрист — Роман Сергеевич Бевзенко.

На наш вопрос в чате его канала Loader from SVO о том, действительно ли российские судебные акты стабильно демонстрируют вышеописанные недостатки, Роман Сергеевич ответил:

"Конечно. Особенность российских судебных актов в том, что в них судьи (1) произвольно описывают обстоятельства дела, упоминая только те из них, которые им "выгодны" для подкрепления решения, (2) произвольно описывают аргументы сторон, выбирая только те из них, с которыми они согласны или которые они могут опровергнуть, (3) вместо демонстрации логики своих рассуждений российские судьи просто цитируют нормы законов (это делается для того, чтобы дать как можно меньше поводов проверочным инстанциям для отмены)".

Есть о чём задуматься — и коллегам из судебной системы, и антрепренёрам юртеха...