Robocounsel
1.95K subscribers
265 photos
18 videos
81 files
659 links
О регулировании и социальных аспектах применения ИИ и данных, преимущественно в ЕС. Публикации отражают сугубо личное мнение автора.

Контакт, вопросы: используйте кнопку 💬 в левом нижнем углу.

Шрифт в логотипе - Alex Murphy Solid от Goatmeal
Download Telegram
Forwarded from Daria
Школа права Гарварда подготовила сравнительный анализ 36 документов, устанавливающих принципы для ИИ. Текст доклада доступен здесь https://cyber.harvard.edu/publication/2020/principled-ai
2020.04.22 Концепция ИИ и РТ.pdf
261.6 KB
Проходит согласование Концепция развития регулирования искусственного интеллекта и робототехники до 2024 года

Проект документа разработан экспертами Фонда «Сколково», Сбербанка России, тематической рабочей группы «Киберфизические системы» (под руководством В. Б. Наумова), Минэкономразвития России.

Рабочие группы по направлениям «Нормативное регулирование» и «Искусственный интеллект» АНО «Цифровая экономика» в целом одобрили прилагаемый текст.

Впереди — согласование документа с федеральными органами исполнительной власти.
За пределами разумных сомнений

Вот мы, коллеги, спорим о стандартах доказывания в процессе. А смысл? И без наших статей и дискуссий обойдутся. На Сахалине посчитали, что 61% видимого сходства (по заключению системы с искусственным интеллектом) фотографии с камеры с конкретным человеком достаточно, чтобы этого конкретного человека привлечь к ответственности.

https://sakhalin.info/news/187997/

В проекте Концепции развития регулирования искусственного интеллекта, которая сейчас проходит согласование в федеральных органах исполнительной власти, мы с коллегами отдельно обозначили как проблему недостаток доверия к системам с ИИ.

А доверия нет потому, что нет единых стандартов для сопоставления таких систем по надёжности, степени пригодности для работы в той или иной предметной области. И потому, что логика принятия ими решений зачастую непрозрачна.

Это создаёт понятный общественный запрос на регулирование применения таких систем.

Как в данном случае — как вообще можно было одобрить применение системы, или применение таких её настроек, при которых 61% сходства достаточно для вынесения юридически значимого решения в отношении конкретного гражданина? Почему, скажем, не 99%? Кто и где обосновал обратное?

Развитие и применение систем с ИИ нужно всячески поддерживать. Но применение систем с ИИ должно быть ответственным!

В части стандартизации сопоставления систем между собой, конечно, надежда на экспертизу существующих у нас профильных технических комитетов при Росстандарте.

Но решение о критериях приемлемости применения того или иного технического средства, решение о допустимости доказательств - это решение должно быть технически информированным, но в итоге — юридически обоснованным.

А такие практики применения систем с ИИ, как на Сахалине, нужно выжигать калёным железом. И привлекать к дисциплинарной ответственности должностных лиц, ответственных за решение применять систему с такими характеристиками и настройками точности в данной чувствительной предметной области.
Гугл ответил на план Еврокомиссии по регулированию ИИ

https://www.blog.google/documents/77/Googles_submission_to_EC_AI_consultation_1.pdf
2020.07.03 Sk Legal Framework for a Trustworthy AI.pdf
395.3 KB
Trustworthy AI @ Skoltech

Широкое доверие к системам с ИИ будет невозможно, если процесс их внедрения не будет учитывать общие человеческие ценности. А эти ценности традиционно находят отражение в правовых и этических нормах.

3 июля постарались донести эту мысль в презентации, перечисляющей основные принципы, заложенные в Концепции регулирования ИИ и РТ.
Нужен ли в компаниях специалист по этике в ИИ?

Мурат Дурмус предлагает обсудить этот вопрос в своём блоге. Для доступа к блогу из России нужен VPN.

https://www.linkedin.com/pulse/do-companies-need-chief-ai-ethics-officer-murat-durmus/
Нужен ли в организациях, активно применяющих ИИ, специалист по этике в контексте ИИ? (возможно несколько ответов)
Anonymous Poll
47%
Да, внутри комплаенс-функции
25%
Да, внутри юридической функции
3%
Да, в бизнес-подразделении
16%
Да, как отдельная функция
0%
Да, иначе (поясню в чате)
19%
Такой специалист не нужен
Классификация правовых режимов информации

В тематической рабочей группе "Большие данные" сейчас активно работаем над проблематикой общедоступной информации.

Наибольшие вопросы возникают на стыке двух правовых режимов — общедоступной информации (режим определён Законом об информации 149-ФЗ) и персональных данных (режим определён Законом о ПД 152-ФЗ).

Некоторые, кажется, очевидные вещи, становятся яснее на схеме:

1) нормы 149-ФЗ и 152-ФЗ — это нормы информационного права, являющегося одной из отраслей публичного права;
2) нормы 152-ФЗ, регулирующие правовой режим так называемых общедоступных данных, являются специальными по отношению к нормам 149-ФЗ об общедоступной информации;
3) нормы специального закона имеют приоритет в регулируемых ими отношениях по поводу конкретного вида информации — персональных данных (lex specialis derogat lex generali).
Правомерность использования персональных данных

Как видно из схемы, она определяется не только нормами 152-ФЗ.

Следуя принципу законности обработки персональных данных, закреплённому в ст. 5 152-ФЗ, необходимо учитывать, не нарушаются ли требования иных законов.

В частности:
1) не нарушаются ли гражданские права и законные интересы субъекта персональных данных и иных лиц, которые также могут являться обладателями информации по смыслу 149-ФЗ, включая интеллектуальные права;
2) не составляет ли операция по сбору и обработке персональных данных, например, из принадлежащего иному лицу источника информации, акт недобросовестной конкуренции.

То, что персональные данные, возможно, являются общедоступной информацией, является одним из законных оснований для их обработки, что не исключает необходимости соблюдать другие требования закона.
Forwarded from РИА Новости
Кабмин утвердил концепцию регулирования ИИ и робототехники до 2024, заявил Мишустин
РИА Новости
Кабмин утвердил концепцию регулирования ИИ и робототехники до 2024, заявил Мишустин
Об этом премьер сообщил на оперативном совещании с вице-премьерами, сообщается на сайте Правительства России.

http://government.ru/news/40264/
Robocounsel
Об этом премьер сообщил на оперативном совещании с вице-премьерами, сообщается на сайте Правительства России. http://government.ru/news/40264/
«Ещё один вопрос. Президент неоднократно говорил, что необходимо создавать в России условия для разработки и внедрения самых современных технологий, в том числе на основе искусственного интеллекта.

Правительством утверждена Концепция регулирования искусственного интеллекта и робототехники до 2024 года. Соответствующее распоряжение подписано. Концепция определяет принципы, на базе которых в дальнейшем будет совершенствоваться регуляторика, чтобы появились благоприятные условия для развития искусственного интеллекта и робототехники и исчезли существующие барьеры в самых разных сферах – от медицины до космоса. Использование современных решений позволит вывести отрасли на новый, более высокий уровень.
Важно, что все нововведения будут приниматься с учётом того, что технологии искусственного интеллекта и робототехники должны быть безопасны для людей и работать исключительно на благополучие человека – это ключевое положение концепции.

Предусмотрено и финансовое стимулирование. Уже действует ряд мер поддержки разработчиков в этой сфере. Будем их усиливать, развивать государственно-частное партнёрство».
Важное связанное с Концепцией развития регулирования ИИ и РТ мероприятие — обеспечение доступа к данным. Если вы представляете компанию-разработчика, напишите в чате, каких наборов данных вам не хватает.
А вот коллеги и опрос запустили. Давайте коллективно соберём информацию.
Forwarded from База знаний AI
По вашему мнению, каких наборов данных (датасетов) в первую очередь не хватает в открытом доступе для создания новых и доработки существующих ИИ-решений и сервисов? (можно выбрать несколько вариантов)
Final Results
34%
медицинских данных для систем принятий врачебных решений и eHealth-приложений
11%
данных для обучения биометрических систем
14%
датасетов для обучения беспилотных автомобилей
30%
ГИС и urban-данных (пешеходные потоки, посещаемость парков, перемещения городского транспорта, пр.)
21%
наборов аудио и текстовых данных на русском языке
5%
наборов аудио и текстовых данных на иностранных языках
33%
обезличенных городских данных из разных сфер (ЖКХ, городские услуги, контакт-центры, пр.)
27%
ничего из перечисленного: под каждый проект нужно собирать датасет с учетом его специфики
10%
данных достаточно, их нехватка — уже не проблема для разработчиков
Концепция_регулирования_ИИ_и_РТ_утв_Распоряжением_Правительства.pdf
1.7 MB
Официальный текст Концепции регулирования искусственного интеллекта и робототехники до 2024 года
This media is not supported in your browser
VIEW IN TELEGRAM
Сейчас на территории ИЦ "Сколково"
Спасибо за поздравления в связи с утверждением Концепции, @vychislit_po_IP ) отличный канал про интеллектуальную собственность, кстати )
Forwarded from вычислить по IP (Anastasia Skovpen)
@robocounsel мои поздравления :)