Robocounsel
1.95K subscribers
265 photos
18 videos
81 files
659 links
О регулировании и социальных аспектах применения ИИ и данных, преимущественно в ЕС. Публикации отражают сугубо личное мнение автора.

Контакт, вопросы: используйте кнопку 💬 в левом нижнем углу.

Шрифт в логотипе - Alex Murphy Solid от Goatmeal
Download Telegram
Дипфейки и право на голос

В связи с заметкой Медузы (https://tinyurl.com/y4g9ukw6) Артём Карапетов затронул на Фейсбуке данную тему в контексте возможного признания права челововека на свой голос.

Мы с коллегами в IP IT Law Chat обсуждали этот вопрос.

Мнения разделились:
47% - голос - нематериальное благо (НМБ), можно запретить использование,
12% - НМБ, но запретить использование нельзя
41% - не НМБ.

Меньше возражений против запрета, когда есть непрозрачность* - введение в заблуждение относительно подлинности голоса (говорил ли реальный человек эти слова).

В основном коллеги - противники признания голоса НМБ наряду с именем и изображением ссылаются на отсутствие позитивной нормы либо полагают, что возможные злоупотребления закрываются через диффамацию или недобросовестную конкуренцию.

Также есть позиция о том что голос охраняется через право на исполнение.

На Западе проще, цитирую Савра Тараскаева:

"Дело Бэт Мидлер (известной американской певицы) против Ford Motor Company.

Форд использовали имитацию голоса Мидлер в своей рекламе (фрагмент песни исполнила другая певица, подражавшая голосу Мидлер). В итоге суд решил, что такое использование нарушает право Мидлер на голос как таковой:
The appellate court ruled that the voice of someone famous as a singer is distinctive to their person and image and therefore, as a part of their identity, it is unlawful to imitate their voice without express consent and approval".

https://tinyurl.com/yyrmykug

* В тему регулирования применения ИИ: вспоминаем обсуждаемый принцип прозрачности и самоидентификации систем с ИИ при взаимодействии с человеком.
👍1
Круглый стол «Регулирование искусственного интеллекта в Российской Федерации: роль международных стандартов»

1 ноября в 12:00
в Аналитическом центре при Правительстве РФ с коллегами обсудим, какие элементы регулирования применения ИИ целесообразно вынести на наднациональный уровень и почему.

Регистрация:
http://ac.gov.ru/events/announcements/024694.html

Адрес:
Академика Сахарова, 12
https://goo.gl/maps/TW6Jjxgo3amVENZYA

#events
Круглый стол «IP-BATTLE: интеллектуальные права на объекты, создаваемые искусственным интеллектом»

10 декабря (вторник) с 18:00 до 20:00
в Малом зале ТПП РФ подебатируем, достойны ли правовой охраны результаты деятельности искусственных интеллектуальных агентов.

Вопрос интересный, и требует, на мой взгляд, в первую очередь, разграничения работ, созданных компьютером (computer-generated works, CGW) и работ, созданных при помощи компьютера (computer-assisted works, CAW). Обычно в качестве критерия разделения выступает наличие творческого вклада человека (во втором классе работ).

Далее, необходимо понять, насколько сейчас и в обозримом будущем возможно появление таких достойных охраны работ, где не было бы хотя бы минимального творческого вклада человека. И если возможно, то по какой модели должна быть организована их защита - через инструменты классического права интеллектуальной собственности (авторское, смежное право, sui generis режим), антимонопольного права...

И, если предлагается классический режим защиты ИС, нужны ли сокращённые сроки защиты, ввиду меньших издержек на создание работ компьютером?

Адрес:
ул. Ильинка, д. 6/1

Регистрируйтесь сейчас:
https://tinyurl.com/w6gpqhs

#events
Прямая трансляция заседания НCБТ по определению причин смертельного ДТП с автономным Убером

19 ноября в 21:30 по Москве
в Вашингтоне пройдёт открытое заседание совета Национального совета по безопасности на транспорте США (NTSB).

https://www.ntsb.gov/news/press-releases/Pages/ma20191017.aspx

Цель заседания — установить причины, по которым автономный автомобиль компании Убер совершил смертельный наезд на пешехода в период опытной эксплуатации в Темпе, штат Аризона, 18 марта 2018 г.

Ссылка на онлайн-трансляцию появится на сайте http://ntsb.windrosemedia.com/ в день заседания.

В преддверии заседания НСБТ разместил в открытом доступе документы предварительного расследования.

https://dms.ntsb.gov/pubdms/search/hitlist.cfm?docketID=62978&CurrentPage=1&EndRow=15&StartRow=1&order=1&sort=0&TXTSEARCHT=

#events
Роль инженерных решений в исходе ДТП с автономным Убером

Исходя из отчёта об автоматизации транспортного средства (https://dms.ntsb.gov/pubdms/search/document.cfm?docID=477717&docketID=62978&mkey=96894), несмотря на возможную халатность оператора ТС, инцидента, вероятно, можно было бы избежать, если бы не ряд инженерных решений.

Так, система не была настроена распознавать профиль идущего вне пешеходного перехода спешившегося велосипедиста. Это не позволило его вовремя классифицировать и спрогнозировать траекторию его движения по отношению к автомобилю.

Кроме того, система была настроена не применять торможение сразу при обнаружении препятствия, а задержать действие на 1 сек. для подтверждения риска или перехвата управления оператором.

По истечении секундной паузы, экстренное автоматическое торможение применялось лишь при определённых параметрах ускорения.

За пределами этих параметров система лишь подавала сигнал водителю для возможности перехвата им управления и медленно останавливала ТС. #robocars
Robocounsel
Роль инженерных решений в исходе ДТП с автономным Убером Исходя из отчёта об автоматизации транспортного средства (https://dms.ntsb.gov/pubdms/search/document.cfm?docID=477717&docketID=62978&mkey=96894), несмотря на возможную халатность оператора ТС, инцидента…
... По итогам внутреннего разбора инцидента Убер:
1) отключил 1-секундную задержку,
2) сделал принудительным автоматическое экстренное торможение при любых параметрах ускорения
3) внёс необходимые данные в модель определения препятствий для обнаружения и правильного построения траекторий движения пешеходов, в том числе за пределами пешеходного перехода
4) настроил для совместной работы ранее отключенную ввиду технического конфликта встроенную автопроизводителем систему избежания столкновения (Вольво).

По итогам симуляции при новых параметрах системы инцидента, аналогичного произошедшему, возможно было избежать.

#robocars
NTSB Board Meeting: Crash involving a pedestrian and an Uber test vehicle

Начало через полчаса по ссылке:
http://ntsb.windrosemedia.com/live/
Robocounsel
NTSB Board Meeting: Crash involving a pedestrian and an Uber test vehicle Начало через полчаса по ссылке: http://ntsb.windrosemedia.com/live/
Сотрудник НСБТ отмечает роль известного феномена "успокоения автоматизацией" ("automation compacency"): халатного полагания оператора на надёжность автоматики, в то время, как в тестируемом ТС сам оператор являлся частью системы, обеспечивающей безопасность. Именно на него возлагалась ответственность за предотвращение ДТП при ошибках системы.

Интересные факты:
- оператор ни разу не тестировался на наркотики,
- компания не имела практики проверять записи с камер в салоне, в т.ч. на предмет отвлечения водителей от работы и привлечения их к ответственности за это,
- в вопросе возможных нарушений оператором запрета на использование мобильного телефона компания полагалась только на то, что это заметят другие операторы,
- при этом количество операторов в машине было уменьшено с 2 до 1 на момент ДТП,
- подход Убера излишним полаганием на оператора не был адекватным способом обеспечить безопасность
Сотрудник НСБТ: На федеральном уровне необходимо установить обязательные требования к допуску автоматизированных автомобилей для опытной эксплуатации на дорогах общего пользования.

Как минимум, компании должны предоставлять отчёт о результатах внутренней оценки безопасности, который должен проверяться и одобряться.
Сотрудник НСБТ: Убер на момент ДТП:
- не имел корпоративной системы управления безопасностью (SMS),
- не определил, кто в компании имеет конкретные должностные обязанности в вопросе обеспечения безопасности и в чём они состоят,
- не сформировал отдельного подразделения по безопасности и не назначил специалиста по безопасности, отвечающего за оценку и снижение рисков.
Член Совета НСБТ (NTSB) Хоменди жёстко критикует Национальное управление по безопасности дорожного движения (NHTSA, НУБДД) за пробизнесовый подход к политике развития автоматизированного транспорта.

- Доктор Поланд, вы согласны с тем, что добровольные рекомендации, которые на федеральному уровне всё, что у нас есть из регулирования, они прикрывают тестирование машин в интересах бизнеса, и недостаточны для защиты других участников дорожного движения?
- Да
- Это вообще смехотворно, я читаю эту политику НУБДД, на с. 12, "компании не обязаны подавать добровольный отчёт об оценке безопасности". Это жирным выделено.
НСБТ утвердил отчёт с вероятной причиной смертельного ДТП с автономным Убером

Согласно отчёту:

1. Вероятной причиной ДТП был ненадлежащий контроль за дорожной обстановкой и работой автоматизированной системы вождения транспортного средства со стороны его оператора, зрительное внимание которого в поездке было отвлечено на личный мобильный телефон.

2. Способствовали ДТП следующие упущения со стороны компании "Убер":
1) неадекватные процедуры оценки рисков,
2) неэффективный надзор за операторами ТС,
3) непринятие достаточных мер для решения проблемы избыточного полагания на автоматику со стороны операторов ТС.

Все данные упущения были следствием отсутствия в компании адекватной культуры безопасности.

3. ДТП также способствовали:
1) переход пешеходом дороги вне пешеходного перехода в состоянии опьянения,
2) недостаточный надзор за ходом опытной эксплуатации автоматизированных ТС со стороны Департамента транспорта штата Аризона.
НСБТ утвердил 6 рекомендаций по результатам расследования смертельного ДТП с автономным Убером

Национальному управлению по безопасности дорожного движения:
1. Обязать лиц, планирующих опытную эксплуатацию ТС с автоматизированной системой вождения на дорогах общего пользования, подавать в Управление отчёт о собственной оценке безопасности.
2. Установить порядок для проверки на постоянной основе отчётов, упомянутых в Рекомендации 1, и определить, предусмотрены ли адекватные меры предосторожности для опытной эксплуатации автоматизированных систем вождения на дорогах общего пользования, включая наблюдение за внимательностью оператора ТС, если применимо.

Штату Аризона:
3. Обязать разработчиков для проведения опытной эксплуатации ТС с автоматизированной системой вождения подавать заявки, содержащие как минимум план, обеспечивающий управление рисками, связанными с ДТП и невнимательностью оператора ТС, и принятия мер по предотвращению ДТП или уменьшению их последствий в пределах параметров опытной эксплуатации.
4. Сформировать экспертную группу для оценки упомянутых в Рекомендации 3 заявок на опытную эксплуатацию ТС с автоматизированной системой вождения до выдачи разрешения на опытную эксплуатацию.

Американской ассоциации владельцев транспортных средств:
5. Проинформировать штаты об обстоятельствах ДТП в Темпе и призвать их:
1) обязать разработчиков для проведения опытной эксплуатации ТС с автоматизированной системой вождения подавать заявки, содержащие как минимум план, обеспечивающий управление рисками, связанными с ДТП и невнимательностью оператора ТС, и принятия мер по предотвращению ДТП или уменьшению их последствий в пределах параметров опытной эксплуатации.
2) сформировать экспертную группу для оценки заявок до выдачи разрешения на опытную эксплуатацию.

Компании Убер:
6. Завершить внедрение системы управления безопасностью при опытной эксплуатации автоматизированной системы вождения, включающей, как минимум, политику безопасности, управление рисками безопасности, обеспечение безопасности и продвижение безопасности.
Из публикации ЮНЕСКО "Steering AI and Advanced ICTs for Knowledge Societies", 2019.

А вы согласны либо нет с выделенным фрагментом?

Словоупотребление виртуальных ассистентов влияет на языковые и, шире, социальные нормы людей, которые ими пользуются?

Делитесь в чате!
Draft-OMB-Memo-on-Regulation-of-AI-1-7-19.pdf
305.3 KB
Администрация президента США опубликовала проект рекомендаций для разработки регулирования ИИ

Рекомендации адресованы руководителям федеральных органов исполнительной власти США. Цель — улучшить качество и прозрачность разработки нового отраслевого регулирования в этой сфере.

Проект опубликован в рамках процедуры запроса формальных замечаний (принимаются до 13 марта 2020 г.):
https://tinyurl.com/wh10ai

Обзор основных положений документа:
https://tinyurl.com/ai10explained
Наша подписчица поделилась интересной новостью
Forwarded from Daria
BKC PrincipledAI_FinalGraphic.jpg
2.8 MB