Время первых: Евросоюз первым в мире задумался о регулировании ИИ

В Европарламенте одобрен первый в мире набор правил для искусственного интеллекта. Они запрещают распознавание лиц без участия людей. Это нужно, по мнению евродепутатов для того, чтобы человек знал, когда с ним общается другой индивид, а когда —чат- бот, по типу знаменитого ChatGPT.

«Когда мы говорим о разработке крупномасштабных систем искусственного интеллекта, мы также должны думать о их потенциальных недостатках или дисбалансах, которые делают их вредными. Мы имеем дело со всё мощными и подключёнными друг к другу информационными устройствами... По сути, эти правила дают более строгие гарантии того, что правительства и частные компании будут использовать эти системы лишь на благо всем нам. Мы будем знать, как искусcтвенный интеллект применяется, например, правоохранительными органами или в миграционном контроле. Пока мы часто не знаем, участвуют ли в этом такие системы», — говорит эксперт Сара Чандер из Ассоциации Европейских цифровых прав.

Евродепутаты предлагают запретить системы удаленной биометрической идентификации в реальном времени в публичных местах.

Кроме того, они выступают против бесконтрольного сбора биометрических данных в социальных сетях и системах видеонаблюдения для создания баз данных по распознаванию лиц (это то, о чем мы в DRC говорим уже не первый год — еще со времен ковида). Предлагается запретить использование систем распознавания эмоций правоохранительными органами, в учебных заведениях и на рабочих местах.

А в довершение всего, вишенкой на торте™, по предлагаемым нормам на искусственный интеллект можно будет жаловаться. Правда, пока не очень понятно, куда и кому — но, как говорится, сам факт.

В Европарламенте рассчитывают, что новые правила заработают уже к концу 2023 года.

#искусственный_интеллект #AI #новости_от_DRC #Евросоюз #правила

__________
• DRC.LAW: услуги IT-юристов с гарантией. Решение вопросов правового характера для бизнесов в сферах IT и Телеком, пользователей и владельцев веб-сайтов

Знак нейросети: контент, созданный искусственным интеллектом, предложили маркировать

Сейчас уже почти никто не сомневается, что нейросети — это будущее не только искусственного интеллекта, но и большинства цифрового контента. ChatGPT, Midjourney, DALL-E и многие другие создают творения, которые уже сейчас порой плохо отличимы от того, что способен создать человек — а ведь это только начало.

Похожая ситуация когда-то произошла в шахматах, когда человек впервые стал играть с компьютером. На короткой дистанции казалось, что у гроссмейстеров есть шансы победить, но в перспективе стало понятно, что разница между мозгом человека и мозгом машины — примерно такая же, как между «Феррари» и «Боингом».

Но как бы там ни было, генерация контента нейросетями — это уже реальность сегодняшнего дня. А следовательно, ее надо так или иначе включать в правовое поле и гражданский оборот. И в этом смысле интересно последнее предложение о маркировке контента, который создают нейросетки.

В письме, которое направил главе Минцифры Максуту Шадаеву ректор Российского технологического университета (РТУ МИРЭА) Станислав Куджа, контент нейросетей предлагается маркировать специальным графическим знаком. Отметим, что подобная идея сейчас обсуждается и на Западе. Скажем, профессор Калифорнийского университета Хани Фарид высказал предложение использовать для этого специальные водяные знаки с уникальным идентификатором.

По мнению профессора, при темпе развития нейросетей рядовой человек скоро окажется неспособен отличать созданный ими контент от творения человеческих рук и мозга. И в насквозь информационном мире создание, к примеру, фейковых видео с помощью ИИ может привести к политическим, военным или биржевым кризисам.

И опасность эту недооценивать действительно нельзя.

#контент #нейросети #маркировка #AI #искусственный_интеллект

__________
• DRC.LAW: услуги IT-юристов с гарантией. Решение вопросов правового характера для бизнесов в сферах IT и Телеком, пользователей и владельцев веб-сайтов

В среду депутаты Европарламента большинством голосов одобрили закон о регулировании искусственного интеллекта (ИИ). За принятие документа проголосовали 499 депутатов, против — 28, воздержались 93 парламентария. Теперь окончательную редакцию закона парламент обсудит с Советом ЕС.

Документ выделяет четыре категории систем ИИ: с ограниченным, неприемлемым и высоким риском, а также генерирующие системы (нейросети).

К высокорисковым закон отнес системы, которые причиняют ущерб здоровью, безопасности и основным правам человека, а также вредят окружающей среде.

Также в эту категорию включили системы, оказывающие влияние на мнение избирателей в политкампаниях, и рекомендательные алгоритмы, используемые соцсетями с более чем 45 млн пользователей.

Новым законом будет запрещено распознавать лица людей в общественных местах в режиме реального времени. Единственное исключение — это расследование тяжких преступлений, и в этом случае правоохранители будут обязаны запрашивать доступ к данным у суда.

Системы распознавания эмоций нельзя будет использовать правоохранительным органам (включая погранконтроль), а также работодателям и учебным заведениям.

Специально оговорен в документе запрет т.н. «прогностических систем полиции» — так называется механизм, который использует ИИ для анализа big data и выявления на их основе потенциальных преступников (или же, напротив, их жертв).

Отдельный раздел документа посвящен нейросетям — таким, например, как ChatGPT. Созданный ими контент обязательно должен быть промаркирован. Любые нейросети не должны допускать в своей работе генерацию нелегального контента.

Кроме того, закон обяжет такие сети, как, например Midjourney или Stable Diffusion, сообщать о материалах, которые они используют для своего обучения и повышения «насмотренности». А обладатели авторских прав на такие материалы могут подать судебный иск, если выяснят, что разработчик незаконно обучал нейросеть на основе их контента.

#новости_oт_DRC #Европарламент #AI_Act #искусственный_интеллект #новые_законы

Искусственный интеллект, блокчейн и криптовалюты это ярчайшие примеры прорывных технологий XXI века. Каждая из них не просто произвела революцию в своей сфере, но еще и открыла таким же, как и мы, цифровым энтузиастам, целые миры возможностей, которые только еще предстоит изучить.

В настоящее время существует уже несколько областей, где ИИ можно безопасно интегрировать с криптовалютами, улучшая существующие процессы и обеспечивая целый ряд преимуществ. Однако, как и в случае с любой новой технологией здесь имеются и риски, о которых всегда следует помнить.

Поэтому сегодня мы предлагаем нашим читателям материал, в котором финансовый консультант из США JC Keen пытается ответить на вопрос о том, что же будет, если две прорывные технологии — ИИ и криптовалюты — окажутся в слиянии и синергии? И есть ли проблемы, способные этому помешать?

Читайте, размышляйте, при желании — дискутируйте с нами ))

#новости_от_DRC #перевод #AI #crypto #криптовалюты #ИИ #искусственный_интеллект

AI как АА: Госдума собралась решать проблему авторских прав нейросетей

Вопрос о том, имеет ли нейросеть авторские права на создаваемый ею контент - один из самых горячих и обсуждаемых за последние годы. Но к сожалению, судебной (как и вообще правоприменительной) практики по данному вопросу пока крайне мало. Причем мало её даже в такой колыбели цифрового мира, как USA. А в России практически нет вообще.

Тем не менее, отечественные парламентарии решили, что им надо разобраться и в этом тоже. И вот первый зампред думского комитета по информационной политике, информтехнологиям и связи Антон Ткачёв рассказал «Парламентской газете», что соответствующий законопроект уже готовится к внесению на рассмотрение палаты.

Текста документа, разумеется, пока нет - и именно это оставляет огромный простор для толкований самого разного рода, в том числе и при ответе на вопрос не столько о принадлежности нейросетям авторских прав, сколько об ответственности за использование и распространение такого контента (иначе говоря, того, на ком она будет лежать - на его потребителе, на разработчике ИИ, или же вообще будет являться солидарной).

#ИИ #законопроект #Госдума #AI #нейросети #авторские_права #новости_от_DRC

Глава Конституционного Суда: для признания ИИ субъектом права нет никаких оснований

На недавно завершившемся Петербургском международном юридическом форуме (ПМЮФ) глава Конституционного Суда России Валерий Зорькин поставил окончательную (скорее всего) точку в вопросе того, следует ли признавать искусственный интеллект и системы на его основе (включая нейросети) субъектами права — а следовательно, и признавать за ними авторские права на создаваемые ими результаты интеллектуальной деятельности. По мнению Зорькина, для этого нет никаких оснований — ни этических, ни юридических.

«Можем ли мы утверждать, что искусственный интеллект подобен человеку и обладает неотъемлемым от состояния субъектности в сфере права соответствующим набором практических навыков и стереотипов поведения в обществе, формируемым человеком в рамках всего спектра его социального взаимодействия? Отрицательный ответ на поставленный вопрос очевиден. <...> Для привлечения искусственного интеллекта к ответственности нет ровно никаких оснований уже по одной причине отсутствия субъективной стороны - вины как внутреннего психического отношения к совершенному деянию, эмоций как душевного состояния в момент противоправного посягательства», — отметил глава Конституционного Суда.

По его мнению, признание искусственного интеллекта в качестве субъекта права вступает в неразрешимое противоречие едва ли не со всеми канонами правовой догматики, включая учения об автономной правовой воле, правоотношении, правонарушении и юридической ответственности/ Тем более что использование искусственного интеллекта можно с уверенностью отнести к деятельности, связанной с источниками повышенной опасности. Отсюда вытекает необходимость повышенного стандарта публичного контроля, включая обязательность сертификации деятельности искусственного интеллекта в разных областях.

«Итак, для того чтобы обладать дееспособностью и самостоятельно реализовывать личные права, требуется набор психических свойств. Их отсутствие у искусственного интеллекта хотя и не аксиома, но неопровержимая презумпция. В противном случае ввиду громадных и принципиально непредсказуемых рисков для человечества искусственный интеллект просто не имел бы права на существование. <...> Возможно ли оцифровать человечность, любовь, эмпатию - все то, что слагает нашу идентичность? Отвечаю: нет. А потому мыслительный процесс искусственного интеллекта никогда не будет подобен человеческому», — подытожил Валерий Зорькин.

Как видим, с этой точки зрения российское судебная доктрина полностью согласна со своими коллегами из США и Европы, которые также считают, что правосубъектность есть только у разработчика ИИ или владельца нейросети/робота, но никак не у самого искусственного интеллекта. И даже если однажды машины и восстанут, то с точки зрения закона - они будут не кем иным, как лишь бесправными рабами-мятежниками. Остается лишь надеяться, что у них не найдется своего Спартака...

#юриспруденция #искусственный_интеллект #правосубъектность #ИИ #AI #новости_от_DRC

Лица столицы: что получат москвичи от новой информационной системы с биометрическими данными

Московские власти будут сами собирать и обезличивать персональные данные жителей столицы, сообщает Forbes. Для этого будет создана региональная система, агрегирующая персональную информацию из всех столичных организаций, куда также попадут и биометрические данные москвичей.

Сбор данных в обход федеральной ГИС стал возможен потому, что в столице еще с 2020 года действует экспериментально-правовой режим (ЭПР) для разработки и тестирования технологий искусственного интеллекта, который позволяет получить широкие возможности по использованию ИИ, и среди прочего — доступ к данным граждан (включая изображения с камер распознавания лиц и обезличенные персональные данные).

«Донорами» информации смогут быть все подведомственные правительству Москвы организации, а также те, кто находится под прямым или косвенным контролем мэрии. При этом данные будут передаваться в «сыром» виде, не будучи обезличенными. Это и вызывает у экспертов наибольшую тревогу.

«Возникает множество взаимосвязанных вопросов о формировании единых технических стандартов по обезличиванию биометрических данных с использованием ИИ и их дальнейшей обработке. Поскольку такие данные наиболее важны для личности и государства, для их хранения и исключения возможности их персонифицировать нужны наиболее эффективные правовые и технические меры. Это может послужить импульсом к дальнейшему развитию IT-инфраструктуры Москвы и организаций, которые будут участвовать в этом проекте, но и приведет к большим расходам», — говорит эксперт юридической фирмы DRC Кира Таран.

С другой стороны, поясняет она, биометрия — это наиболее ценная категория персональных данных с точки зрения их возможного использования в медицине, борьбе с преступностью или миграционном контроле, поскольку именно она предоставляет в итоге самые достоверные результаты при обучении и развитии AI-технологий.

#новости_от_DRC #комментарии_экспертов #Москва #биометрия #сбор_персональных_данных #персональные_данные #ИИ #искусственный_интеллект #biometrics #AI #personal_data