Время первых: Евросоюз первым в мире задумался о регулировании ИИ

В Европарламенте одобрен первый в мире набор правил для искусственного интеллекта. Они запрещают распознавание лиц без участия людей. Это нужно, по мнению евродепутатов для того, чтобы человек знал, когда с ним общается другой индивид, а когда —чат- бот, по типу знаменитого ChatGPT.

«Когда мы говорим о разработке крупномасштабных систем искусственного интеллекта, мы также должны думать о их потенциальных недостатках или дисбалансах, которые делают их вредными. Мы имеем дело со всё мощными и подключёнными друг к другу информационными устройствами... По сути, эти правила дают более строгие гарантии того, что правительства и частные компании будут использовать эти системы лишь на благо всем нам. Мы будем знать, как искусcтвенный интеллект применяется, например, правоохранительными органами или в миграционном контроле. Пока мы часто не знаем, участвуют ли в этом такие системы», — говорит эксперт Сара Чандер из Ассоциации Европейских цифровых прав.

Евродепутаты предлагают запретить системы удаленной биометрической идентификации в реальном времени в публичных местах.

Кроме того, они выступают против бесконтрольного сбора биометрических данных в социальных сетях и системах видеонаблюдения для создания баз данных по распознаванию лиц (это то, о чем мы в DRC говорим уже не первый год — еще со времен ковида). Предлагается запретить использование систем распознавания эмоций правоохранительными органами, в учебных заведениях и на рабочих местах.

А в довершение всего, вишенкой на торте™, по предлагаемым нормам на искусственный интеллект можно будет жаловаться. Правда, пока не очень понятно, куда и кому — но, как говорится, сам факт.

В Европарламенте рассчитывают, что новые правила заработают уже к концу 2023 года.

#искусственный_интеллект #AI #новости_от_DRC #Евросоюз #правила

__________
• DRC.LAW: услуги IT-юристов с гарантией. Решение вопросов правового характера для бизнесов в сферах IT и Телеком, пользователей и владельцев веб-сайтов

Знак нейросети: контент, созданный искусственным интеллектом, предложили маркировать

Сейчас уже почти никто не сомневается, что нейросети — это будущее не только искусственного интеллекта, но и большинства цифрового контента. ChatGPT, Midjourney, DALL-E и многие другие создают творения, которые уже сейчас порой плохо отличимы от того, что способен создать человек — а ведь это только начало.

Похожая ситуация когда-то произошла в шахматах, когда человек впервые стал играть с компьютером. На короткой дистанции казалось, что у гроссмейстеров есть шансы победить, но в перспективе стало понятно, что разница между мозгом человека и мозгом машины — примерно такая же, как между «Феррари» и «Боингом».

Но как бы там ни было, генерация контента нейросетями — это уже реальность сегодняшнего дня. А следовательно, ее надо так или иначе включать в правовое поле и гражданский оборот. И в этом смысле интересно последнее предложение о маркировке контента, который создают нейросетки.

В письме, которое направил главе Минцифры Максуту Шадаеву ректор Российского технологического университета (РТУ МИРЭА) Станислав Куджа, контент нейросетей предлагается маркировать специальным графическим знаком. Отметим, что подобная идея сейчас обсуждается и на Западе. Скажем, профессор Калифорнийского университета Хани Фарид высказал предложение использовать для этого специальные водяные знаки с уникальным идентификатором.

По мнению профессора, при темпе развития нейросетей рядовой человек скоро окажется неспособен отличать созданный ими контент от творения человеческих рук и мозга. И в насквозь информационном мире создание, к примеру, фейковых видео с помощью ИИ может привести к политическим, военным или биржевым кризисам.

И опасность эту недооценивать действительно нельзя.

#контент #нейросети #маркировка #AI #искусственный_интеллект

__________
• DRC.LAW: услуги IT-юристов с гарантией. Решение вопросов правового характера для бизнесов в сферах IT и Телеком, пользователей и владельцев веб-сайтов

В среду депутаты Европарламента большинством голосов одобрили закон о регулировании искусственного интеллекта (ИИ). За принятие документа проголосовали 499 депутатов, против — 28, воздержались 93 парламентария. Теперь окончательную редакцию закона парламент обсудит с Советом ЕС.

Документ выделяет четыре категории систем ИИ: с ограниченным, неприемлемым и высоким риском, а также генерирующие системы (нейросети).

К высокорисковым закон отнес системы, которые причиняют ущерб здоровью, безопасности и основным правам человека, а также вредят окружающей среде.

Также в эту категорию включили системы, оказывающие влияние на мнение избирателей в политкампаниях, и рекомендательные алгоритмы, используемые соцсетями с более чем 45 млн пользователей.

Новым законом будет запрещено распознавать лица людей в общественных местах в режиме реального времени. Единственное исключение — это расследование тяжких преступлений, и в этом случае правоохранители будут обязаны запрашивать доступ к данным у суда.

Системы распознавания эмоций нельзя будет использовать правоохранительным органам (включая погранконтроль), а также работодателям и учебным заведениям.

Специально оговорен в документе запрет т.н. «прогностических систем полиции» — так называется механизм, который использует ИИ для анализа big data и выявления на их основе потенциальных преступников (или же, напротив, их жертв).

Отдельный раздел документа посвящен нейросетям — таким, например, как ChatGPT. Созданный ими контент обязательно должен быть промаркирован. Любые нейросети не должны допускать в своей работе генерацию нелегального контента.

Кроме того, закон обяжет такие сети, как, например Midjourney или Stable Diffusion, сообщать о материалах, которые они используют для своего обучения и повышения «насмотренности». А обладатели авторских прав на такие материалы могут подать судебный иск, если выяснят, что разработчик незаконно обучал нейросеть на основе их контента.

#новости_oт_DRC #Европарламент #AI_Act #искусственный_интеллект #новые_законы

Искусственный интеллект, блокчейн и криптовалюты это ярчайшие примеры прорывных технологий XXI века. Каждая из них не просто произвела революцию в своей сфере, но еще и открыла таким же, как и мы, цифровым энтузиастам, целые миры возможностей, которые только еще предстоит изучить.

В настоящее время существует уже несколько областей, где ИИ можно безопасно интегрировать с криптовалютами, улучшая существующие процессы и обеспечивая целый ряд преимуществ. Однако, как и в случае с любой новой технологией здесь имеются и риски, о которых всегда следует помнить.

Поэтому сегодня мы предлагаем нашим читателям материал, в котором финансовый консультант из США JC Keen пытается ответить на вопрос о том, что же будет, если две прорывные технологии — ИИ и криптовалюты — окажутся в слиянии и синергии? И есть ли проблемы, способные этому помешать?

Читайте, размышляйте, при желании — дискутируйте с нами ))

#новости_от_DRC #перевод #AI #crypto #криптовалюты #ИИ #искусственный_интеллект

Буквально два дня назад в Китае начали действовать новые правила касательно генеративного искусственного интеллекта.

Учитывая, что многие китайские практики по регулированию цифровой сферы вызывают явный интерес со стороны российских властей, пройти мимо того, что наш Суверенный Интернет™️, возможно, ожидает в будущем - мы, понятное дело не могли.

Поэтому собрали большой материал на тему того, как теперь в Поднебесной собираются регулировать сферу ИИ. И, как говорится, не ждём, но готовимся.

#Китай #ИИ #правила #новости_от_DRC #generative_AI #искусственный_интеллект

Интересное от коллег из Казахстана - журналисты «Курсив медиа» публикуют перевод колонки сотрудников Института инноваций и общественных целей UCL Марианны Маццукато и Фаусто Джерноне о том, как государство должно грамотно выстраивать свою политику в отношении искусственного интеллекта.

Думаем, что с этой точкой зрения как минимум интересно ознакомиться.

#ИИ #перевод #искусственный_интеллект

Программы, руководство и этические стандарты: юристам рассказали, как лучше всего интегрировать искусственный интеллект в работу Legaltech-компаний

Международная ассоциация юристов (International Bar Association) и Центр политики в области ИИ и цифровых технологий недавно опубликовали новый доклад, посвященный роли искусственного интеллекта в юридической профессии. Этот документ предлагает юридические фирмам стратегические рекомендации для эффективного внедрения ИИ в работу юридических фирм.

Основные выводы доклада заключаются в следующем:

✅ Стимулирование внедрения ИИ для небольших фирм: Чтобы сократить технологический разрыв и позволить небольшим юридическим фирмам конкурировать с более крупными игроками, необходимо разработать программы, которые помогут им эффективно интегрировать ИИ.

✅ Укрепление управления ИИ: В отчете подчеркивается важность создания всеобъемлющих руководящих принципов в области управления данными, интеллектуальной собственности, безопасности и конфиденциальности. Эти принципы обеспечат ответственное использование ИИ.

✅ Обновление этических стандартов: По мере того как искусственный интеллект становится неотъемлемой частью юридической практики, этические стандарты должны быть адаптированы, чтобы учесть уникальные вызовы, связанные с этой технологией. Особое внимание следует уделить управлению рисками и обеспечению прозрачности при использовании ИИ для создания юридических материалов.

#новости_от_DRC #право #искусственный_интеллект

Государство или свобода: куда качнется маятник регулирования ИИ?

На Совете по цифровой экономике при Совете Федерации на минувшей неделе презентовали проект обновлённой концепции регулирования искусственного интеллекта (ИИ), который планируют утвердить до конца этого года.

Он должен прийти на смену нынешней Концепции, которая действовала в 2020-2024 годах. На её основе в России начали контролировать рекомендательные алгоритмы, ввели экспериментальные правовые режимы для безопасной отработки новых технологий, приняли Кодекс этики в сфере ИИ и декларацию об ответственном генеративном ИИ, то есть нейросетях.

По мысли авторов нового документа, среди основных принципов регулирования ИИ в России — безопасность, технологический суверенитет, уважение автономии и свободы человека, недискриминация, ответственность, квалифицированная экспертная оценка, этические принципы, запрет причинения вреда человеку по инициативе систем ИИ, подконтрольность человеку, недопущение доминирования интересов конкуренции над интересами развития технологий, прозрачность и правдивость.

В концепции указано, что системы ИИ не могут нести ответственность за свою работу. Ответственность всегда лежит на человеке или организации, которые запрограммировали алгоритмы. Также не до конца понятно, кому принадлежит результат интеллектуальной деятельности ИИ.

Современные нейросети создают стихи, картины и музыку, но они не творят самостоятельно, а учатся на ранее созданных людьми произведениях, часто обесценивая творчество реальных писателей, художников и композиторов. В проекте концепции указано, что вопросы охраны интеллектуальных прав требуют дальнейшей проработки, а также отмечен растущий запрос на маркировку произведений, созданных ИИ.

Как отметила начальник отдела развития технологий искусственного интеллекта Минцифры Вероника Строголева, власти РФ не планируют принимать единый закон об ИИ, как это сделано в некоторых странах. Вместо этого выбрали регулирование по отраслям с учётом их особенностей.

Так, в концепцию включили раздел «Образование», в котором указали недопустимость всех форм академического мошенничества, когда задания выполняются вместо учащегося инструментами искусственного интеллекта, включая генерацию содержания текстов, выполнение тестов и так далее.

Анна Мещерякова, занимающаяся внедрением ИИ в медицине, рассказала, что в системе обязательного медицинского страхования уже предусмотрены отдельные тарифы на услуги с использованием нейросетей. Это означает, что ИИ сможет лечить россиян за счёт государства.
Однако вопрос ответственности за советы, которые «раздают многочисленные приложения для здоровья», остаётся ключевым и нерешённым, подчеркнула эксперт.

Так или иначе, сам факт того, что наше государство всерьез намерено заняться вопросом регулирования ИИ и нейросетей - наверное, ключевым для мира Web 3.0 - внушает достаточно осторожный оптимизм. Главное, не выплеснуть вместе с водой ребёнка и не зарегулировать все и вся в попытке поставить на службу государству и бюрократии то, что должно быть одной из фундаментальных опор свободного цифрового мира.

#новости_от_DRC #ИИ #искусственный_интеллект #Россия