Дипфейки и право на голос
В связи с заметкой Медузы (https://tinyurl.com/y4g9ukw6) Артём Карапетов затронул на Фейсбуке данную тему в контексте возможного признания права челововека на свой голос.
Мы с коллегами в IP IT Law Chat обсуждали этот вопрос.
Мнения разделились:
47% - голос - нематериальное благо (НМБ), можно запретить использование,
12% - НМБ, но запретить использование нельзя
41% - не НМБ.
Меньше возражений против запрета, когда есть непрозрачность* - введение в заблуждение относительно подлинности голоса (говорил ли реальный человек эти слова).
В основном коллеги - противники признания голоса НМБ наряду с именем и изображением ссылаются на отсутствие позитивной нормы либо полагают, что возможные злоупотребления закрываются через диффамацию или недобросовестную конкуренцию.
Также есть позиция о том что голос охраняется через право на исполнение.
На Западе проще, цитирую Савра Тараскаева:
"Дело Бэт Мидлер (известной американской певицы) против Ford Motor Company.
Форд использовали имитацию голоса Мидлер в своей рекламе (фрагмент песни исполнила другая певица, подражавшая голосу Мидлер). В итоге суд решил, что такое использование нарушает право Мидлер на голос как таковой:
The appellate court ruled that the voice of someone famous as a singer is distinctive to their person and image and therefore, as a part of their identity, it is unlawful to imitate their voice without express consent and approval".
https://tinyurl.com/yyrmykug
* В тему регулирования применения ИИ: вспоминаем обсуждаемый принцип прозрачности и самоидентификации систем с ИИ при взаимодействии с человеком.
В связи с заметкой Медузы (https://tinyurl.com/y4g9ukw6) Артём Карапетов затронул на Фейсбуке данную тему в контексте возможного признания права челововека на свой голос.
Мы с коллегами в IP IT Law Chat обсуждали этот вопрос.
Мнения разделились:
47% - голос - нематериальное благо (НМБ), можно запретить использование,
12% - НМБ, но запретить использование нельзя
41% - не НМБ.
Меньше возражений против запрета, когда есть непрозрачность* - введение в заблуждение относительно подлинности голоса (говорил ли реальный человек эти слова).
В основном коллеги - противники признания голоса НМБ наряду с именем и изображением ссылаются на отсутствие позитивной нормы либо полагают, что возможные злоупотребления закрываются через диффамацию или недобросовестную конкуренцию.
Также есть позиция о том что голос охраняется через право на исполнение.
На Западе проще, цитирую Савра Тараскаева:
"Дело Бэт Мидлер (известной американской певицы) против Ford Motor Company.
Форд использовали имитацию голоса Мидлер в своей рекламе (фрагмент песни исполнила другая певица, подражавшая голосу Мидлер). В итоге суд решил, что такое использование нарушает право Мидлер на голос как таковой:
The appellate court ruled that the voice of someone famous as a singer is distinctive to their person and image and therefore, as a part of their identity, it is unlawful to imitate their voice without express consent and approval".
https://tinyurl.com/yyrmykug
* В тему регулирования применения ИИ: вспоминаем обсуждаемый принцип прозрачности и самоидентификации систем с ИИ при взаимодействии с человеком.
Meduza
Голос Путина рассказал о новой разработке Тимура Бекмамбетова. Она синтезирует голоса знаменитостей (да, и Путина тоже)
Искусственный интеллект Vera Voice, созданный компанией Screenlife Technologies Тимура Бекмамбетова и командой проекта «Робот Вера», умеет разговаривать голосами знаменитостей. Например, голосом Владимира Путина.
👍1
Круглый стол «Регулирование искусственного интеллекта в Российской Федерации: роль международных стандартов»
1 ноября в 12:00 в Аналитическом центре при Правительстве РФ с коллегами обсудим, какие элементы регулирования применения ИИ целесообразно вынести на наднациональный уровень и почему.
Регистрация:
http://ac.gov.ru/events/announcements/024694.html
Адрес:
Академика Сахарова, 12
https://goo.gl/maps/TW6Jjxgo3amVENZYA
#events
1 ноября в 12:00 в Аналитическом центре при Правительстве РФ с коллегами обсудим, какие элементы регулирования применения ИИ целесообразно вынести на наднациональный уровень и почему.
Регистрация:
http://ac.gov.ru/events/announcements/024694.html
Адрес:
Академика Сахарова, 12
https://goo.gl/maps/TW6Jjxgo3amVENZYA
#events
Круглый стол «IP-BATTLE: интеллектуальные права на объекты, создаваемые искусственным интеллектом»
10 декабря (вторник) с 18:00 до 20:00 в Малом зале ТПП РФ подебатируем, достойны ли правовой охраны результаты деятельности искусственных интеллектуальных агентов.
Вопрос интересный, и требует, на мой взгляд, в первую очередь, разграничения работ, созданных компьютером (computer-generated works, CGW) и работ, созданных при помощи компьютера (computer-assisted works, CAW). Обычно в качестве критерия разделения выступает наличие творческого вклада человека (во втором классе работ).
Далее, необходимо понять, насколько сейчас и в обозримом будущем возможно появление таких достойных охраны работ, где не было бы хотя бы минимального творческого вклада человека. И если возможно, то по какой модели должна быть организована их защита - через инструменты классического права интеллектуальной собственности (авторское, смежное право, sui generis режим), антимонопольного права...
И, если предлагается классический режим защиты ИС, нужны ли сокращённые сроки защиты, ввиду меньших издержек на создание работ компьютером?
Адрес:
ул. Ильинка, д. 6/1
Регистрируйтесь сейчас:
https://tinyurl.com/w6gpqhs
#events
10 декабря (вторник) с 18:00 до 20:00 в Малом зале ТПП РФ подебатируем, достойны ли правовой охраны результаты деятельности искусственных интеллектуальных агентов.
Вопрос интересный, и требует, на мой взгляд, в первую очередь, разграничения работ, созданных компьютером (computer-generated works, CGW) и работ, созданных при помощи компьютера (computer-assisted works, CAW). Обычно в качестве критерия разделения выступает наличие творческого вклада человека (во втором классе работ).
Далее, необходимо понять, насколько сейчас и в обозримом будущем возможно появление таких достойных охраны работ, где не было бы хотя бы минимального творческого вклада человека. И если возможно, то по какой модели должна быть организована их защита - через инструменты классического права интеллектуальной собственности (авторское, смежное право, sui generis режим), антимонопольного права...
И, если предлагается классический режим защиты ИС, нужны ли сокращённые сроки защиты, ввиду меньших издержек на создание работ компьютером?
Адрес:
ул. Ильинка, д. 6/1
Регистрируйтесь сейчас:
https://tinyurl.com/w6gpqhs
#events
statut.timepad.ru
Круглый стол «IP-BATTLE: интеллектуальные права на объекты, создаваемые искусственным интеллектом (роботом)» / События на TimePad.ru
IP CLUB в партнерстве со Школой права «Статут» проводит «IP-battle: интеллектуальные права на объекты, создаваемые искусственным интеллектом (роботом)».
Прямая трансляция заседания НCБТ по определению причин смертельного ДТП с автономным Убером
19 ноября в 21:30 по Москве в Вашингтоне пройдёт открытое заседание совета Национального совета по безопасности на транспорте США (NTSB).
https://www.ntsb.gov/news/press-releases/Pages/ma20191017.aspx
Цель заседания — установить причины, по которым автономный автомобиль компании Убер совершил смертельный наезд на пешехода в период опытной эксплуатации в Темпе, штат Аризона, 18 марта 2018 г.
Ссылка на онлайн-трансляцию появится на сайте http://ntsb.windrosemedia.com/ в день заседания.
В преддверии заседания НСБТ разместил в открытом доступе документы предварительного расследования.
https://dms.ntsb.gov/pubdms/search/hitlist.cfm?docketID=62978&CurrentPage=1&EndRow=15&StartRow=1&order=1&sort=0&TXTSEARCHT=
#events
19 ноября в 21:30 по Москве в Вашингтоне пройдёт открытое заседание совета Национального совета по безопасности на транспорте США (NTSB).
https://www.ntsb.gov/news/press-releases/Pages/ma20191017.aspx
Цель заседания — установить причины, по которым автономный автомобиль компании Убер совершил смертельный наезд на пешехода в период опытной эксплуатации в Темпе, штат Аризона, 18 марта 2018 г.
Ссылка на онлайн-трансляцию появится на сайте http://ntsb.windrosemedia.com/ в день заседания.
В преддверии заседания НСБТ разместил в открытом доступе документы предварительного расследования.
https://dms.ntsb.gov/pubdms/search/hitlist.cfm?docketID=62978&CurrentPage=1&EndRow=15&StartRow=1&order=1&sort=0&TXTSEARCHT=
#events
Роль инженерных решений в исходе ДТП с автономным Убером
Исходя из отчёта об автоматизации транспортного средства (https://dms.ntsb.gov/pubdms/search/document.cfm?docID=477717&docketID=62978&mkey=96894), несмотря на возможную халатность оператора ТС, инцидента, вероятно, можно было бы избежать, если бы не ряд инженерных решений.
Так, система не была настроена распознавать профиль идущего вне пешеходного перехода спешившегося велосипедиста. Это не позволило его вовремя классифицировать и спрогнозировать траекторию его движения по отношению к автомобилю.
Кроме того, система была настроена не применять торможение сразу при обнаружении препятствия, а задержать действие на 1 сек. для подтверждения риска или перехвата управления оператором.
По истечении секундной паузы, экстренное автоматическое торможение применялось лишь при определённых параметрах ускорения.
За пределами этих параметров система лишь подавала сигнал водителю для возможности перехвата им управления и медленно останавливала ТС. #robocars
Исходя из отчёта об автоматизации транспортного средства (https://dms.ntsb.gov/pubdms/search/document.cfm?docID=477717&docketID=62978&mkey=96894), несмотря на возможную халатность оператора ТС, инцидента, вероятно, можно было бы избежать, если бы не ряд инженерных решений.
Так, система не была настроена распознавать профиль идущего вне пешеходного перехода спешившегося велосипедиста. Это не позволило его вовремя классифицировать и спрогнозировать траекторию его движения по отношению к автомобилю.
Кроме того, система была настроена не применять торможение сразу при обнаружении препятствия, а задержать действие на 1 сек. для подтверждения риска или перехвата управления оператором.
По истечении секундной паузы, экстренное автоматическое торможение применялось лишь при определённых параметрах ускорения.
За пределами этих параметров система лишь подавала сигнал водителю для возможности перехвата им управления и медленно останавливала ТС. #robocars
Robocounsel
Роль инженерных решений в исходе ДТП с автономным Убером Исходя из отчёта об автоматизации транспортного средства (https://dms.ntsb.gov/pubdms/search/document.cfm?docID=477717&docketID=62978&mkey=96894), несмотря на возможную халатность оператора ТС, инцидента…
... По итогам внутреннего разбора инцидента Убер:
1) отключил 1-секундную задержку,
2) сделал принудительным автоматическое экстренное торможение при любых параметрах ускорения
3) внёс необходимые данные в модель определения препятствий для обнаружения и правильного построения траекторий движения пешеходов, в том числе за пределами пешеходного перехода
4) настроил для совместной работы ранее отключенную ввиду технического конфликта встроенную автопроизводителем систему избежания столкновения (Вольво).
По итогам симуляции при новых параметрах системы инцидента, аналогичного произошедшему, возможно было избежать.
#robocars
1) отключил 1-секундную задержку,
2) сделал принудительным автоматическое экстренное торможение при любых параметрах ускорения
3) внёс необходимые данные в модель определения препятствий для обнаружения и правильного построения траекторий движения пешеходов, в том числе за пределами пешеходного перехода
4) настроил для совместной работы ранее отключенную ввиду технического конфликта встроенную автопроизводителем систему избежания столкновения (Вольво).
По итогам симуляции при новых параметрах системы инцидента, аналогичного произошедшему, возможно было избежать.
#robocars
Robocounsel
... По итогам внутреннего разбора инцидента Убер: 1) отключил 1-секундную задержку, 2) сделал принудительным автоматическое экстренное торможение при любых параметрах ускорения 3) внёс необходимые данные в модель определения препятствий для обнаружения и…
На видео — срабатывание нескольких систем автономного экстренного торможения (AEB) от разных автопроизводителей. Подобная была штатно установлена и на тот самый Вольво, но отключена во избежание конфликта с ПО Убера. https://www.youtube.com/watch?v=FTKxCE5qmQM
YouTube
Euro NCAP Puts Autonomous Pedestrian Detection to the Test
Euro NCAP is introducing a new test that will check how well vehicles autonomously detect and prevent collisions with pedestrians. With new vehicles offering more autonomous driver assist systems, Euro NCAP’s Autonomous Emergency Braking (AEB) Pedestrian…
NTSB Board Meeting: Crash involving a pedestrian and an Uber test vehicle
Начало через полчаса по ссылке:
http://ntsb.windrosemedia.com/live/
Начало через полчаса по ссылке:
http://ntsb.windrosemedia.com/live/
Robocounsel
NTSB Board Meeting: Crash involving a pedestrian and an Uber test vehicle Начало через полчаса по ссылке: http://ntsb.windrosemedia.com/live/
Сотрудник НСБТ отмечает роль известного феномена "успокоения автоматизацией" ("automation compacency"): халатного полагания оператора на надёжность автоматики, в то время, как в тестируемом ТС сам оператор являлся частью системы, обеспечивающей безопасность. Именно на него возлагалась ответственность за предотвращение ДТП при ошибках системы.
Интересные факты:
- оператор ни разу не тестировался на наркотики,
- компания не имела практики проверять записи с камер в салоне, в т.ч. на предмет отвлечения водителей от работы и привлечения их к ответственности за это,
- в вопросе возможных нарушений оператором запрета на использование мобильного телефона компания полагалась только на то, что это заметят другие операторы,
- при этом количество операторов в машине было уменьшено с 2 до 1 на момент ДТП,
- подход Убера излишним полаганием на оператора не был адекватным способом обеспечить безопасность
Интересные факты:
- оператор ни разу не тестировался на наркотики,
- компания не имела практики проверять записи с камер в салоне, в т.ч. на предмет отвлечения водителей от работы и привлечения их к ответственности за это,
- в вопросе возможных нарушений оператором запрета на использование мобильного телефона компания полагалась только на то, что это заметят другие операторы,
- при этом количество операторов в машине было уменьшено с 2 до 1 на момент ДТП,
- подход Убера излишним полаганием на оператора не был адекватным способом обеспечить безопасность
Сотрудник НСБТ: На федеральном уровне необходимо установить обязательные требования к допуску автоматизированных автомобилей для опытной эксплуатации на дорогах общего пользования.
Как минимум, компании должны предоставлять отчёт о результатах внутренней оценки безопасности, который должен проверяться и одобряться.
Как минимум, компании должны предоставлять отчёт о результатах внутренней оценки безопасности, который должен проверяться и одобряться.
Сотрудник НСБТ: Убер на момент ДТП:
- не имел корпоративной системы управления безопасностью (SMS),
- не определил, кто в компании имеет конкретные должностные обязанности в вопросе обеспечения безопасности и в чём они состоят,
- не сформировал отдельного подразделения по безопасности и не назначил специалиста по безопасности, отвечающего за оценку и снижение рисков.
- не имел корпоративной системы управления безопасностью (SMS),
- не определил, кто в компании имеет конкретные должностные обязанности в вопросе обеспечения безопасности и в чём они состоят,
- не сформировал отдельного подразделения по безопасности и не назначил специалиста по безопасности, отвечающего за оценку и снижение рисков.
Член Совета НСБТ (NTSB) Хоменди жёстко критикует Национальное управление по безопасности дорожного движения (NHTSA, НУБДД) за пробизнесовый подход к политике развития автоматизированного транспорта.
- Доктор Поланд, вы согласны с тем, что добровольные рекомендации, которые на федеральному уровне всё, что у нас есть из регулирования, они прикрывают тестирование машин в интересах бизнеса, и недостаточны для защиты других участников дорожного движения?
- Да
- Это вообще смехотворно, я читаю эту политику НУБДД, на с. 12, "компании не обязаны подавать добровольный отчёт об оценке безопасности". Это жирным выделено.
- Доктор Поланд, вы согласны с тем, что добровольные рекомендации, которые на федеральному уровне всё, что у нас есть из регулирования, они прикрывают тестирование машин в интересах бизнеса, и недостаточны для защиты других участников дорожного движения?
- Да
- Это вообще смехотворно, я читаю эту политику НУБДД, на с. 12, "компании не обязаны подавать добровольный отчёт об оценке безопасности". Это жирным выделено.
НСБТ утвердил отчёт с вероятной причиной смертельного ДТП с автономным Убером
Согласно отчёту:
1. Вероятной причиной ДТП был ненадлежащий контроль за дорожной обстановкой и работой автоматизированной системы вождения транспортного средства со стороны его оператора, зрительное внимание которого в поездке было отвлечено на личный мобильный телефон.
2. Способствовали ДТП следующие упущения со стороны компании "Убер":
1) неадекватные процедуры оценки рисков,
2) неэффективный надзор за операторами ТС,
3) непринятие достаточных мер для решения проблемы избыточного полагания на автоматику со стороны операторов ТС.
Все данные упущения были следствием отсутствия в компании адекватной культуры безопасности.
3. ДТП также способствовали:
1) переход пешеходом дороги вне пешеходного перехода в состоянии опьянения,
2) недостаточный надзор за ходом опытной эксплуатации автоматизированных ТС со стороны Департамента транспорта штата Аризона.
Согласно отчёту:
1. Вероятной причиной ДТП был ненадлежащий контроль за дорожной обстановкой и работой автоматизированной системы вождения транспортного средства со стороны его оператора, зрительное внимание которого в поездке было отвлечено на личный мобильный телефон.
2. Способствовали ДТП следующие упущения со стороны компании "Убер":
1) неадекватные процедуры оценки рисков,
2) неэффективный надзор за операторами ТС,
3) непринятие достаточных мер для решения проблемы избыточного полагания на автоматику со стороны операторов ТС.
Все данные упущения были следствием отсутствия в компании адекватной культуры безопасности.
3. ДТП также способствовали:
1) переход пешеходом дороги вне пешеходного перехода в состоянии опьянения,
2) недостаточный надзор за ходом опытной эксплуатации автоматизированных ТС со стороны Департамента транспорта штата Аризона.
НСБТ утвердил 6 рекомендаций по результатам расследования смертельного ДТП с автономным Убером
Национальному управлению по безопасности дорожного движения:
1. Обязать лиц, планирующих опытную эксплуатацию ТС с автоматизированной системой вождения на дорогах общего пользования, подавать в Управление отчёт о собственной оценке безопасности.
2. Установить порядок для проверки на постоянной основе отчётов, упомянутых в Рекомендации 1, и определить, предусмотрены ли адекватные меры предосторожности для опытной эксплуатации автоматизированных систем вождения на дорогах общего пользования, включая наблюдение за внимательностью оператора ТС, если применимо.
Штату Аризона:
3. Обязать разработчиков для проведения опытной эксплуатации ТС с автоматизированной системой вождения подавать заявки, содержащие как минимум план, обеспечивающий управление рисками, связанными с ДТП и невнимательностью оператора ТС, и принятия мер по предотвращению ДТП или уменьшению их последствий в пределах параметров опытной эксплуатации.
4. Сформировать экспертную группу для оценки упомянутых в Рекомендации 3 заявок на опытную эксплуатацию ТС с автоматизированной системой вождения до выдачи разрешения на опытную эксплуатацию.
Американской ассоциации владельцев транспортных средств:
5. Проинформировать штаты об обстоятельствах ДТП в Темпе и призвать их:
1) обязать разработчиков для проведения опытной эксплуатации ТС с автоматизированной системой вождения подавать заявки, содержащие как минимум план, обеспечивающий управление рисками, связанными с ДТП и невнимательностью оператора ТС, и принятия мер по предотвращению ДТП или уменьшению их последствий в пределах параметров опытной эксплуатации.
2) сформировать экспертную группу для оценки заявок до выдачи разрешения на опытную эксплуатацию.
Компании Убер:
6. Завершить внедрение системы управления безопасностью при опытной эксплуатации автоматизированной системы вождения, включающей, как минимум, политику безопасности, управление рисками безопасности, обеспечение безопасности и продвижение безопасности.
Национальному управлению по безопасности дорожного движения:
1. Обязать лиц, планирующих опытную эксплуатацию ТС с автоматизированной системой вождения на дорогах общего пользования, подавать в Управление отчёт о собственной оценке безопасности.
2. Установить порядок для проверки на постоянной основе отчётов, упомянутых в Рекомендации 1, и определить, предусмотрены ли адекватные меры предосторожности для опытной эксплуатации автоматизированных систем вождения на дорогах общего пользования, включая наблюдение за внимательностью оператора ТС, если применимо.
Штату Аризона:
3. Обязать разработчиков для проведения опытной эксплуатации ТС с автоматизированной системой вождения подавать заявки, содержащие как минимум план, обеспечивающий управление рисками, связанными с ДТП и невнимательностью оператора ТС, и принятия мер по предотвращению ДТП или уменьшению их последствий в пределах параметров опытной эксплуатации.
4. Сформировать экспертную группу для оценки упомянутых в Рекомендации 3 заявок на опытную эксплуатацию ТС с автоматизированной системой вождения до выдачи разрешения на опытную эксплуатацию.
Американской ассоциации владельцев транспортных средств:
5. Проинформировать штаты об обстоятельствах ДТП в Темпе и призвать их:
1) обязать разработчиков для проведения опытной эксплуатации ТС с автоматизированной системой вождения подавать заявки, содержащие как минимум план, обеспечивающий управление рисками, связанными с ДТП и невнимательностью оператора ТС, и принятия мер по предотвращению ДТП или уменьшению их последствий в пределах параметров опытной эксплуатации.
2) сформировать экспертную группу для оценки заявок до выдачи разрешения на опытную эксплуатацию.
Компании Убер:
6. Завершить внедрение системы управления безопасностью при опытной эксплуатации автоматизированной системы вождения, включающей, как минимум, политику безопасности, управление рисками безопасности, обеспечение безопасности и продвижение безопасности.
Robocounsel
НСБТ утвердил отчёт с вероятной причиной смертельного ДТП с автономным Убером Согласно отчёту: 1. Вероятной причиной ДТП был ненадлежащий контроль за дорожной обстановкой и работой автоматизированной системы вождения транспортного средства со стороны его…
Документы заседания НСБТ от 19.11.2019
Резюме отчёта:
https://www.ntsb.gov/news/events/Documents/2019-HWY18MH010-BMG-abstract.pdf
Пресс-релиз:
https://www.ntsb.gov/news/press-releases/Pages/NR20191119c.aspx
Презентации докладчиков:
https://ntsb.gov/news/events/Pages/2019-HWY18MH010-BMG.aspx
Видео:
http://ntsb.windrosemedia.com/11192019b/
Резюме отчёта:
https://www.ntsb.gov/news/events/Documents/2019-HWY18MH010-BMG-abstract.pdf
Пресс-релиз:
https://www.ntsb.gov/news/press-releases/Pages/NR20191119c.aspx
Презентации докладчиков:
https://ntsb.gov/news/events/Pages/2019-HWY18MH010-BMG.aspx
Видео:
http://ntsb.windrosemedia.com/11192019b/
Draft-OMB-Memo-on-Regulation-of-AI-1-7-19.pdf
305.3 KB
Администрация президента США опубликовала проект рекомендаций для разработки регулирования ИИ
Рекомендации адресованы руководителям федеральных органов исполнительной власти США. Цель — улучшить качество и прозрачность разработки нового отраслевого регулирования в этой сфере.
Проект опубликован в рамках процедуры запроса формальных замечаний (принимаются до 13 марта 2020 г.):
https://tinyurl.com/wh10ai
Обзор основных положений документа:
https://tinyurl.com/ai10explained
Рекомендации адресованы руководителям федеральных органов исполнительной власти США. Цель — улучшить качество и прозрачность разработки нового отраслевого регулирования в этой сфере.
Проект опубликован в рамках процедуры запроса формальных замечаний (принимаются до 13 марта 2020 г.):
https://tinyurl.com/wh10ai
Обзор основных положений документа:
https://tinyurl.com/ai10explained
Forwarded from Daria
BKC PrincipledAI_FinalGraphic.jpg
2.8 MB