Robocounsel
1.95K subscribers
265 photos
18 videos
81 files
660 links
О регулировании и социальных аспектах применения ИИ и данных, преимущественно в ЕС. Публикации отражают сугубо личное мнение автора.

Контакт, вопросы: используйте кнопку 💬 в левом нижнем углу.

Шрифт в логотипе - Alex Murphy Solid от Goatmeal
Download Telegram
Сейчас на Legal AI 2019
С победительницей розыгрыша -- Дарьей
Forwarded from Daria
Daria
Photo
С коллегами -- слева направо -- Олегом Блиновым (Джум), Антоном Вашкевичем (Симплоер), Андреем Незнамовым (Сбербанк), Вадимом Переваловым (Бейкер Маккензи).

Обсудили автоматизированное принятие юридически значимых решений (алгоритмическое управление) и охрану произведений, сгенерированных компьютером (ПСК).

Алгоритмическое управление: не нужно им пугать, человек сам -- тот ещё черный ящик. В российских реалиях -- особенно. Хотя не всё может быть делегировано машине. И не всякая архитектура, не все методы машинного обучения подойдут для систем, принимающих серьёзные юридически значимые решения.

ПСК: отсутствие творческого вклада в акт создания произведения не должно быть, как сейчас, препятствием для возникновения интеллектуальных прав. Нужно стимулировать инвестиции в разработку и использование ИИ, решающего творческие задачи. На выходе может быть ценный результат, достойный правовой охраны. Вопрос лишь в том, закреплять ли права за разработчиками или пользователями (заказчиками ПО).
О нас пишут

Адвокатская газета опубликовала заметку по итогам LegalAI:
https://www.advgazeta.ru/novosti/sposoben-li-iskusstvennyy-intellekt-zamenit-sudyu/?sphrase_id=43064

Если вы не были на мероприятии, то уточню, что, конечно, мы не говорили об "интеллектуальных правах искусственного интеллекта". Всё-таки мероприятие было практическое, а не научно-фантастическое.

Поэтому говорили о том, кому из существующих субъектов права (разработчики ПО, пользователи ПО) могут принадлежать интеллектуальные права на результаты "творчества" ПО.
https://youtu.be/2LBk1YS2JAs

Дойче Бан запустил в Бад Бирнбах новый маршрут полностью автономных микроавтобусов ioki как средство доставки последней мили. Милые, коляскодоступные, нравятся бабушкам ))

Немецкий подход: на дороги общего пользования уже сейчас, но с сопровождающим и на пониженной скорости. Сопровождающим, не водителем -- традиционных органов управления нет, только красная стоп-кнопка. Баланс прогресса и безопасности.

Опытная эксплуатация началась в 2017 году.
Справедливо ли владельцу автономного автомобиля отвечать за вред, причинённый окружающим?

Ваша вероятность получить увечье больше, когда с вами столкнулся не пешеход, а автомобилист, Владельцы автомобилей добровольно их покупают и выводят на дорогу, то есть по своей инициативе повышают риск для окружающих. Поэтому по общему правилу владельцы автомобилей отвечают за вред окружающим даже если вели себя безупречно (без вины).

Премии по обязательному страхованию ответственности владельца автомобиля — одни из стимулов безаварийного вождения. Чем меньше аварий, тем меньше владелец платит страховщику.

В случае с полностью автономными автомобилями владельцы по-прежнему принимают первичное решение об их приобретении и выводе на дорогу, повышая риск для окружающих. Но напрямую не контролируют безаварийность вождения. И, соответственно, не могут влиять на размер страховой премии, которую должны уплатить,

Одним это может казаться несправедливым. Но можно возразить: ситуация ровно та же, что и при найме владельцем автомобиля личного водителя. Как и такой водитель, автоматизированная система вождения выполняет поездки по заданию и в интересах владельца.

Как в случае с наёмным водителем, так и в случае с автоматизированной системой вождения владелец не имеет полного контроля над тем, как будет двигаться автомобиль, но
продолжает отвечать перед окружающими за любой вред, причинённый автомобилем. И может опосредованно влиять на аварийность (и размер страховой премии), выбирая того или иного водителя либо автоматизированную систему.
Справедливо ли в таком случае оставлять владельца полностью автономного автомобиля ответственным перед окружающими за любой вред?
Anonymous Poll
57%
Да, за вред перед потерпевшим должен отвечать владелец автономного автомобиля
43%
Нет, за вред перед потерпевшим должен отвечать производитель или продавец автономного автомобиля
Robocounsel
Справедливо ли владельцу автономного автомобиля отвечать за вред, причинённый окружающим? Ваша вероятность получить увечье больше, когда с вами столкнулся не пешеход, а автомобилист, Владельцы автомобилей добровольно их покупают и выводят на дорогу, то есть…
P. S. Кажется вероятным, что в крупных городах массовое внедрение автономных автомобилей совпадёт с усилением тенденции отказываться от владения личным транспортом.

И владельцами таких автомобилей (а других и не будет) останутся крупные коммерческие операторы вроде Яндекс.Такси, Ситимобил и т. п.
Естественные права и искусственный интеллект

Тему, поднятую мною три года назад на Moscow Legal Tech 2017, продолжим c Nikolay Dmitrik завтра на форуме Цифровизация-2019 в МГУ.

Архитектура информационных систем, подобно праву, ограничивает и регулирует поведение людей. При этом она работает жёстче права: законодатель только грозит санкциями, а системный архитектор — мечта, да? — может просто исключить неприемлемое поведение на уровне настроек системы.

Вопрос в том, чем должна быть ограничена свобода самого архитектора в определении того, что неприемлемо? Постреволюционным криптоправосознанием? Национальным правом? Социальными нормами? Конвенцией о защите прав человека?

Должны ли информационные системы содержать технические средства защиты прав и правопорядка?

Приходите завтра в 13:00, зал 6, Ломоносовский проспект, д. 27, корп.1

Регистрация на http://forum.msu.ru/

#events
Цифровизация - 2019

Все в сборе. Александр Скворцов — первый выступающий.

Фото Николая Дмитрика
Дипфейки и право на голос

В связи с заметкой Медузы (https://tinyurl.com/y4g9ukw6) Артём Карапетов затронул на Фейсбуке данную тему в контексте возможного признания права челововека на свой голос.

Мы с коллегами в IP IT Law Chat обсуждали этот вопрос.

Мнения разделились:
47% - голос - нематериальное благо (НМБ), можно запретить использование,
12% - НМБ, но запретить использование нельзя
41% - не НМБ.

Меньше возражений против запрета, когда есть непрозрачность* - введение в заблуждение относительно подлинности голоса (говорил ли реальный человек эти слова).

В основном коллеги - противники признания голоса НМБ наряду с именем и изображением ссылаются на отсутствие позитивной нормы либо полагают, что возможные злоупотребления закрываются через диффамацию или недобросовестную конкуренцию.

Также есть позиция о том что голос охраняется через право на исполнение.

На Западе проще, цитирую Савра Тараскаева:

"Дело Бэт Мидлер (известной американской певицы) против Ford Motor Company.

Форд использовали имитацию голоса Мидлер в своей рекламе (фрагмент песни исполнила другая певица, подражавшая голосу Мидлер). В итоге суд решил, что такое использование нарушает право Мидлер на голос как таковой:
The appellate court ruled that the voice of someone famous as a singer is distinctive to their person and image and therefore, as a part of their identity, it is unlawful to imitate their voice without express consent and approval".

https://tinyurl.com/yyrmykug

* В тему регулирования применения ИИ: вспоминаем обсуждаемый принцип прозрачности и самоидентификации систем с ИИ при взаимодействии с человеком.
👍1
Круглый стол «Регулирование искусственного интеллекта в Российской Федерации: роль международных стандартов»

1 ноября в 12:00
в Аналитическом центре при Правительстве РФ с коллегами обсудим, какие элементы регулирования применения ИИ целесообразно вынести на наднациональный уровень и почему.

Регистрация:
http://ac.gov.ru/events/announcements/024694.html

Адрес:
Академика Сахарова, 12
https://goo.gl/maps/TW6Jjxgo3amVENZYA

#events
Круглый стол «IP-BATTLE: интеллектуальные права на объекты, создаваемые искусственным интеллектом»

10 декабря (вторник) с 18:00 до 20:00
в Малом зале ТПП РФ подебатируем, достойны ли правовой охраны результаты деятельности искусственных интеллектуальных агентов.

Вопрос интересный, и требует, на мой взгляд, в первую очередь, разграничения работ, созданных компьютером (computer-generated works, CGW) и работ, созданных при помощи компьютера (computer-assisted works, CAW). Обычно в качестве критерия разделения выступает наличие творческого вклада человека (во втором классе работ).

Далее, необходимо понять, насколько сейчас и в обозримом будущем возможно появление таких достойных охраны работ, где не было бы хотя бы минимального творческого вклада человека. И если возможно, то по какой модели должна быть организована их защита - через инструменты классического права интеллектуальной собственности (авторское, смежное право, sui generis режим), антимонопольного права...

И, если предлагается классический режим защиты ИС, нужны ли сокращённые сроки защиты, ввиду меньших издержек на создание работ компьютером?

Адрес:
ул. Ильинка, д. 6/1

Регистрируйтесь сейчас:
https://tinyurl.com/w6gpqhs

#events
Прямая трансляция заседания НCБТ по определению причин смертельного ДТП с автономным Убером

19 ноября в 21:30 по Москве
в Вашингтоне пройдёт открытое заседание совета Национального совета по безопасности на транспорте США (NTSB).

https://www.ntsb.gov/news/press-releases/Pages/ma20191017.aspx

Цель заседания — установить причины, по которым автономный автомобиль компании Убер совершил смертельный наезд на пешехода в период опытной эксплуатации в Темпе, штат Аризона, 18 марта 2018 г.

Ссылка на онлайн-трансляцию появится на сайте http://ntsb.windrosemedia.com/ в день заседания.

В преддверии заседания НСБТ разместил в открытом доступе документы предварительного расследования.

https://dms.ntsb.gov/pubdms/search/hitlist.cfm?docketID=62978&CurrentPage=1&EndRow=15&StartRow=1&order=1&sort=0&TXTSEARCHT=

#events
Роль инженерных решений в исходе ДТП с автономным Убером

Исходя из отчёта об автоматизации транспортного средства (https://dms.ntsb.gov/pubdms/search/document.cfm?docID=477717&docketID=62978&mkey=96894), несмотря на возможную халатность оператора ТС, инцидента, вероятно, можно было бы избежать, если бы не ряд инженерных решений.

Так, система не была настроена распознавать профиль идущего вне пешеходного перехода спешившегося велосипедиста. Это не позволило его вовремя классифицировать и спрогнозировать траекторию его движения по отношению к автомобилю.

Кроме того, система была настроена не применять торможение сразу при обнаружении препятствия, а задержать действие на 1 сек. для подтверждения риска или перехвата управления оператором.

По истечении секундной паузы, экстренное автоматическое торможение применялось лишь при определённых параметрах ускорения.

За пределами этих параметров система лишь подавала сигнал водителю для возможности перехвата им управления и медленно останавливала ТС. #robocars
Robocounsel
Роль инженерных решений в исходе ДТП с автономным Убером Исходя из отчёта об автоматизации транспортного средства (https://dms.ntsb.gov/pubdms/search/document.cfm?docID=477717&docketID=62978&mkey=96894), несмотря на возможную халатность оператора ТС, инцидента…
... По итогам внутреннего разбора инцидента Убер:
1) отключил 1-секундную задержку,
2) сделал принудительным автоматическое экстренное торможение при любых параметрах ускорения
3) внёс необходимые данные в модель определения препятствий для обнаружения и правильного построения траекторий движения пешеходов, в том числе за пределами пешеходного перехода
4) настроил для совместной работы ранее отключенную ввиду технического конфликта встроенную автопроизводителем систему избежания столкновения (Вольво).

По итогам симуляции при новых параметрах системы инцидента, аналогичного произошедшему, возможно было избежать.

#robocars
NTSB Board Meeting: Crash involving a pedestrian and an Uber test vehicle

Начало через полчаса по ссылке:
http://ntsb.windrosemedia.com/live/