Добро пожаловать на канал! Здесь будут публиковаться размышления и анонсы новостей о правовом регулировании автономных систем и данных.
Периодически сталкиваюсь с такой постановкой проблемы не-юристами.
Якобы непонятно, кто должен отвечать за последствия действий искусственного интеллектуального агента*, которому делегирована некая задача. А когда задачу выполнял человек, всё было понятно.
У меня вопрос: почему непонятно? Кто делегировал задачу, тот и отвечает. Почему, когда кто-то делегирует задачи калькулятору или бухгалтерской программе, вопрос об ответственности делегирующего перед теми, с кем он взаимодействует, не ставится под сомнение?
И будь калькулятор или пограмма хоть сто раз дефектными, перед посторонними отвечает всё равно их пользователь. Независимо от вины. Дальше он может разбираться с производителем калькулятора или программы, если есть на то основания. Но принцип не меняется.
Есть основания считать иначе?
#liability #delegation
Якобы непонятно, кто должен отвечать за последствия действий искусственного интеллектуального агента*, которому делегирована некая задача. А когда задачу выполнял человек, всё было понятно.
У меня вопрос: почему непонятно? Кто делегировал задачу, тот и отвечает. Почему, когда кто-то делегирует задачи калькулятору или бухгалтерской программе, вопрос об ответственности делегирующего перед теми, с кем он взаимодействует, не ставится под сомнение?
И будь калькулятор или пограмма хоть сто раз дефектными, перед посторонними отвечает всё равно их пользователь. Независимо от вины. Дальше он может разбираться с производителем калькулятора или программы, если есть на то основания. Но принцип не меняется.
Есть основания считать иначе?
#liability #delegation
* Глоссарий канала:
Киберфизическая система – совокупность взаимосвязанных информационной системы и вещи (вещей), в которую (которые) она встроена.
Интеллектуальный агент – система, способная воспринимать окружающую среду и частично или полностью автономно целенаправленно воздействовать на неё.
Робот – интеллектуальный агент, представляющий собой киберфизическую систему.
Искусственный интеллект – моделируемая (искусственно воспроизводимая) интеллектуальным агентом интеллектуальная деятельность человека.
#definitions
Киберфизическая система – совокупность взаимосвязанных информационной системы и вещи (вещей), в которую (которые) она встроена.
Интеллектуальный агент – система, способная воспринимать окружающую среду и частично или полностью автономно целенаправленно воздействовать на неё.
Робот – интеллектуальный агент, представляющий собой киберфизическую систему.
Искусственный интеллект – моделируемая (искусственно воспроизводимая) интеллектуальным агентом интеллектуальная деятельность человека.
#definitions
https://youtu.be/g2FiOz9FlTc
Видео древнее, но тезис, мне кажется, актуален: человеческой интеллект характеризуется способностью принимать разумные решения при недостатке информации.
Машинное обучение ровно про обратное - построить набор данных из миллионов примеров, обеспечить избыток информации и снизить неопределенность до минимума.
В этих условиях для принятия решения уже не нужен интеллект. Это обход проблемы отсутствия интеллекта, а не создание интеллекта!
Возражения?
Видео древнее, но тезис, мне кажется, актуален: человеческой интеллект характеризуется способностью принимать разумные решения при недостатке информации.
Машинное обучение ровно про обратное - построить набор данных из миллионов примеров, обеспечить избыток информации и снизить неопределенность до минимума.
В этих условиях для принятия решения уже не нужен интеллект. Это обход проблемы отсутствия интеллекта, а не создание интеллекта!
Возражения?
YouTube
Why I do not fear Artificial Intelligence | Carl Henrik Ek | TEDxKTH
Carl Henrik gives us a fascinating talk about human beings’ ability to reason under uncertainty and his view on intelligence. He tells us about the beauty and strengths of human intelligence in comparison to that of machines. What makes human intelligence…
Грядут изменения в эксперименте по опытной эксплуатации высокоавтоматизированного транспорта на дорогах общего пользования.
На профильном совещании в Фонде "Сколково" представитель Минпромторга поделился: соответствующие поправки в постановление Правительства № 1415 от 29.11.2018 уже на согласовании в федеральных органах исполнительной власти.
Ключевое:
1) территория эксперимента расширяется с Москвы и Татарстана на дороги Московской, Владимирской, Нижегородской, Новгородской, Самарской, Ленинградской областей, г. Санкт-Петербурга, Чувашской Республики и Краснодарского края,
2) заключение о соответствии ВАТС сможет давать не только НАМИ, а любая лаборатория, аккредитованная на область применения технического регламента Таможенного союза «О безопасности колесных транспортных средств» (ТР ТС 018/2011).
https://regulation.gov.ru/projects#npa=93075
#robocars
На профильном совещании в Фонде "Сколково" представитель Минпромторга поделился: соответствующие поправки в постановление Правительства № 1415 от 29.11.2018 уже на согласовании в федеральных органах исполнительной власти.
Ключевое:
1) территория эксперимента расширяется с Москвы и Татарстана на дороги Московской, Владимирской, Нижегородской, Новгородской, Самарской, Ленинградской областей, г. Санкт-Петербурга, Чувашской Республики и Краснодарского края,
2) заключение о соответствии ВАТС сможет давать не только НАМИ, а любая лаборатория, аккредитованная на область применения технического регламента Таможенного союза «О безопасности колесных транспортных средств» (ТР ТС 018/2011).
https://regulation.gov.ru/projects#npa=93075
#robocars
01.08.2019 - Дискуссия о правовом регулировании автономных систем
Проводится Московскими юрхакерами в рамках Всемирного юрсаммита.
Участвуют:
Андрей Незнамов – исполнительный директор Сбербанка, кандидат юридических наук, руководитель Исследовательского центра проблем регулирования робототехники и ИИ, автор книг о правовых аспектах робототехники,
Елена Введенская — кандидат философских наук, ведущий научный сотрудник ИНИОН РАН, доцент, РНИМУ имени Н.И. Пирогова,
Максим Карлюк — ведущий научный сотрудник Института права и развития ВШЭ — Сколково, заместитель диреткора антимонопольного центра БРИКС, член Глобальной инициативы по этике автономных и умных систем IEEE,
Роман Душкин — директор по науке и технологиям в Агентстве Искусственного Интеллекта, состоит в Ассоциации Транспортных Инженеров и Российской Ассоциации Искусственного Интеллекта, автор более сотни монографий, научных и научно-популярных статей.
Модерирует панель ваш покорный — Александр Тюльканов — заместитель директора по регулированию киберфизических систем и больших данных в департаменте развития и планирования Фонда "Сколково".
Где: 1-й Казачий пер., 7, Москва (м. Полянка).
Вход бесплатный, регистрируйтесь по ссылке сейчас:
https://tinyurl.com/wlsmow2019
#events
Проводится Московскими юрхакерами в рамках Всемирного юрсаммита.
Участвуют:
Андрей Незнамов – исполнительный директор Сбербанка, кандидат юридических наук, руководитель Исследовательского центра проблем регулирования робототехники и ИИ, автор книг о правовых аспектах робототехники,
Елена Введенская — кандидат философских наук, ведущий научный сотрудник ИНИОН РАН, доцент, РНИМУ имени Н.И. Пирогова,
Максим Карлюк — ведущий научный сотрудник Института права и развития ВШЭ — Сколково, заместитель диреткора антимонопольного центра БРИКС, член Глобальной инициативы по этике автономных и умных систем IEEE,
Роман Душкин — директор по науке и технологиям в Агентстве Искусственного Интеллекта, состоит в Ассоциации Транспортных Инженеров и Российской Ассоциации Искусственного Интеллекта, автор более сотни монографий, научных и научно-популярных статей.
Модерирует панель ваш покорный — Александр Тюльканов — заместитель директора по регулированию киберфизических систем и больших данных в департаменте развития и планирования Фонда "Сколково".
Где: 1-й Казачий пер., 7, Москва (м. Полянка).
Вход бесплатный, регистрируйтесь по ссылке сейчас:
https://tinyurl.com/wlsmow2019
#events
Robocounsel
01.08.2019 - Дискуссия о правовом регулировании автономных систем Проводится Московскими юрхакерами в рамках Всемирного юрсаммита. Участвуют: Андрей Незнамов – исполнительный директор Сбербанка, кандидат юридических наук, руководитель Исследовательского…
UPD: у организаторов технический сбой, видео по ссылке заменилось на нерелевантное. Как только они это исправят, сообщу.
Поговорили об автономных системах на московском мероприятии Всемирного юрсаммита
Начало с 1 ч. 47 мин. 51 сек.:
https://www.youtube.com/watch?v=IEqOl-PORLM&t=107m51s
#events #WLS2019
Поговорили об автономных системах на московском мероприятии Всемирного юрсаммита
Начало с 1 ч. 47 мин. 51 сек.:
https://www.youtube.com/watch?v=IEqOl-PORLM&t=107m51s
#events #WLS2019
YouTube
World Legal Summit 2019 Moscow Node
Enjoy the videos and music you love, upload original content, and share it all with friends, family, and the world on YouTube.
Недавно проехался на прототипе беспилотника от питерской команды НПО "СтарЛайн". Модифицированная серийная Шкода, Как положено, обвешана видеокамерами, лазерными дальномерами, радаром, высокоточным GPS/GLONASS. В багажнике несколько компьютеров, доп. аккумуляторы, и прочее оборудование, обычное для прототипа.
Захватывающе.
Команда вместе с другими готовится к "Зимнему городу" у нас в Сколкове - конкурсу, где нужно показать возможности системы автоматизированного вождения в условиях русской зимы. Сами понимаете, это вам не по солнечной Калифорнии ездить.
Банально - из опыта команды - в не рассчитанном на эти условия высокоточном лазерном дальномере скапливается конденсат и он выходит из строя. Не говоря уже о снегопаде и гололедице.
#robocars
Захватывающе.
Команда вместе с другими готовится к "Зимнему городу" у нас в Сколкове - конкурсу, где нужно показать возможности системы автоматизированного вождения в условиях русской зимы. Сами понимаете, это вам не по солнечной Калифорнии ездить.
Банально - из опыта команды - в не рассчитанном на эти условия высокоточном лазерном дальномере скапливается конденсат и он выходит из строя. Не говоря уже о снегопаде и гололедице.
#robocars
Forwarded from Aleksandr Tiulkanov
Media is too big
VIEW IN TELEGRAM