Robocounsel
1.95K subscribers
265 photos
18 videos
81 files
659 links
О регулировании и социальных аспектах применения ИИ и данных, преимущественно в ЕС. Публикации отражают сугубо личное мнение автора.

Контакт, вопросы: используйте кнопку 💬 в левом нижнем углу.

Шрифт в логотипе - Alex Murphy Solid от Goatmeal
Download Telegram
GI-1st-Edition-Report.pdf
44.8 MB
Индекс ответственного ИИ

Вышло новое, но странноватое исследование, пытающееся дать объективные метрики по тому, насколько ответственно разрабатывается и применяется искусственный интеллект в разных странах.

Ещё не прочитал его до конца, поэтому не хотел пока делиться, но вижу, что люди уже начали его обсуждать. Поэтому прокомментирую пока то, что бросилось в глаза из странного:

1) В числе опрошенных локальных экспертов есть уважаемый Иван Бегтин, но никаких данных по России в итоге нет. Возможно, Ивана опрашивали не по России, но в общем и целом ситуация странная. Спросить одного из ведущих российских экспертов, но ничего не включить в отчёт — это мне совершенно не понятно.

2) США у них почти впереди планеты всей по соблюдению прав человека в ИИ. Серьёзно? Это ИИ Акт в США приняли? Или это не там раздробленное по штатам и тематическое фрагментарное регулирование ИИ и данных, фокус которого на экономических свободах (что само по себе неплохо), но никак не на правах человека?
👍6❤2
Рекламу не размещаю

Поскольку участились предложения разместить рекламу в канале повторю публично: не размещаю.

Выбор тематики постов здесь определяется только мной, а не кем-то посторонним.
🔥14❤7😁3😱2👏1
Готовимся к Регламенту ЕС по ИИ

Последний шанс записаться на мой вебинар по этой теме, который пройдёт в пятницу, 28 июня, в 18.00 МСК / 17.00 CEST, на английском.

Полное описание и регистрация здесь.

Для подписчиков канала скидка 30% по промокоду ROBOCOUNSEL. Для подписчиков моих платных групп CIPP/E или AI Governance дополнительная скидка — детали смотрите в этих группах. При необходимости оплаты в рублях пишите мне через бот.
❤5🔥3
Нельзя просто взять и ввести автоматизированный прокторинг на экзаменах

В сентябре 2021 года итальянский орган по надзору за обработкой персональных данных оштрафовал Университет Боккони на 200.000 евро за использование на экзаменах системы автоматизированного прокторинга без законного основания.

Для дистанционной сдачи экзаменов в условиях пандемии коронавируса университет использовал ПО Respondus, состоявшее из компонентов Lockdown browser и Respondus Monitor.

Первый модуль блокировал запуск на компьютере студента неразрешённых программ. Второй отслеживал поведение студента во время экзаменов и в случае обнаружения подозрительных действий посылал экзаменаторам отчёт для перепроверки.

Кажется очевидным, что автоматизированный анализ поведения студентов по данным с видеокамеры, клавиатуры и мыши составляет обработку биометрических данных, которая в данном конкретном случае требовала наличия в итальянском законе или европейском регулировании прямой нормы, разрешающей подобную обработку биометрических данных в данном сценарии и одновременно устанавливающей гарантии для защиты интересов студентов (ст. 9(2)(g) Регламента ЕС о защите данных и ст. 2-sexies(2)(bb) Итальянского кодекса о защите данных).

Хотя вуз успешно оспорил штраф в трибунале Милана, в этом году Верховный суд Италии (Corte Suprema di Cassazione) отменил решение суда первой инстанции и направил дело на новое рассмотрение.

Трибуналу Милана предстоит установить, имелось ли у университета правовое основание для обработки биометрических данных в данном случае.
❤5👍2🔥1
Французский антимонопольный орган оценил ситуацию на рынке генеративного ИИ

По итогам исследования и публичной консультации Autorité de la concurrence сегодня опубликовало свое заключение по этому сектору.

Из анонса:

"Основное внимание в заключении уделяется стратегиям, реализуемым крупными цифровыми игроками для укрепления своего влияния на рынке в самом верху цепочки создания стоимости экосистемы генеративного ИИ (на этапах разработки, обучения и кастомизации больших языковых моделей) и для использования этого влияния для роста в этом быстрорастущем секторе.

В заключении также рассматриваются инвестиции в акционерный капитал и партнерства крупных цифровых игроков, в частности в инновационные компании, специализирующиеся на генеративном ИИ.

💻 В заключении показано, что доступ этих крупных цифровых компаний к ключевым ресурсам для развития генеративного ИИ (вычислительные мощности, большой объем данных, профильные специалисты) дает им огромное преимущество перед конкурентами. Это преимущество усиливается их участием по всей цепочке создания стоимости и на смежных рынках, что не только создает эффект экономии на масштабе и диверсификации их вовлечённости, но и гарантирует им доступ к критической массе пользователей.

Риски для конкуренции, вероятно, возникают по всей цепочке создания стоимости, а также на смежных рынках, как показывает интеграция инструментов генеративного ИИ в некоторые устройства, например смартфоны.

✅ Исследование также анализирует ключевые возникающие проблемы, такие как вознаграждение за контент, значимость приобретения крупными цифровыми игроками долей в стартапах, устранение некоторых барьеров для входа на рынок с помощью технологий с открытым исходным кодом, а также практики, которые могут сложиться на рынке труда. Внимание требуется и в вопросе потенциальных новых барьеров для входа на этот рынок ввиду повышения порога требуемых для этого энергоресурсов и ввиду вертикальной интеграции определенных игроков.

В качестве итога антимонопольный орган дает 🔟 рекомендаций, направленных на стимулирование конкурентной динамики сектора генеративного ИИ, в частности, касающихся нормативно-правовой базы, применимой к этому сектору, инструментов антимонопольного регулирования и предотвращения недобросовестной конкуренции, вычислительных мощностей, вознаграждения правообладателей, а также участия в капитале ИИ-компаний со стороны цифровых гигантов."
❤5👍1
Robocounsel
Без ГМО и LLM Массовые протесты авторов и раздражение части публики по поводу контента, сгенерированного ИИ, кажется, теперь задают новый тренд и для некоторых корпораций: - "В службе поддержки нашего банка только люди", - "Мы не используем большие языковые…
Как знание о том, что работа сгенерирована ИИ, влияет на восприятие её ценности?

Американские исследователи провели эксперимент, по результатам которого подтвердили свою гипотезу.

При показе двум группам одной и той же работы, участники группы, которой сообщалось, что работа сгенерирована ИИ, оценивали её художественную ценность ниже, нежели участники другой группы, которой такая информация не давалась.

Кроме того, первая группа также была более склонна считать, что работа нарушает авторское право и была менее склонна считать, что имеет место добросовестное использование (fair use).

Кажется, что издания и компании, недавно публично анонсировавшие тренд на отказ от контента, сгенерированного ИИ, сделали это очень вовремя и разглядели ту предрасположенность публики, которая теперь подтверждается и объективными исследованиями.

Да, это исследование показывает, что людям в их оценках присуще когнитивное искажение, но компании сделали так, чтобы оно работало на них, а не против них: как говорится, если что-то нельзя предотвратить, лучше это возглавить.
❤4👍2
Как GDPR повлиял на инновации?

Статья в журнале Industry and Innovation исследует ситуацию в Германии и ставит под сомнение упрощённые ответы на данный вопрос ("Всё плохо"), показывая более сложную картину.

Исследование показало, что вступление в силу Общего регламента ЕС по защите данных (GDPR) привело к существенному сдвигу от радикальных инноваций к постепенным улучшениям в продуктах и услугах.

Это объясняется тем, что компании были вынуждены пересмотреть свои ИТ-процессы и управление данными для соответствия новым требованиям.

Хотя эти изменения потребовали дополнительных ресурсов, они также создали новые возможности для улучшения существующих продуктов и услуг на основе более эффективного использования данных. В то же время, дополнительные ресурсы, необходимые для соблюдения GDPR, ограничили способность компаний разрабатывать совершенно новые продукты.

Влияние GDPR оказалось различным в зависимости от размера, сектора деятельности и возраста организаций.

Эффекты от GDPR (как положительные, так и отрицательные) чаще ощущали на себе крупные компании, чем малые, независимо, однако, от срока их существования на рынке.

Положительное влияние GDPR чаще наблюдалось в секторах ИКТ и консалтинга, в то время как негативное влияние было более заметно в инженерных и финансовых услугах, а также в торговле.

Компании, не затронутые GDPR в своей инновационной деятельности, чаще встречались в ряде производственных отраслей с низкой интенсивностью НИОКР (пищевая, лёгкая, лесобумажная промышленность и металлургия), а также в строительстве и транспортных услугах.
🔥9👍2
Как злоупотребляют генеративным ИИ?

Исследование об этом опубликовал Гугл Дипмайнд.

Основные задачи, которые помогает решать генеративный ИИ пропагандистам, злоумышленникам и нечистым на руку дельцам:

1) Манипуляция общественным мнением, в том числе через дипфейки,
2) Монетизация товаров и услуг, в том числе запрещённых к обороту (напр., "ИИ-раздевание" на заказ),
3) Мошенничество,
4) Домогательства и преследование,
5) Расширение охвата коммуникации, в том числе коммерческой.

Главные выводы:

1. Наиболее популярными сценариями злоупотребления являются дипфейки для использования чужой идентичности и фальсификации документов.

2. В большинстве случаев для злоупотребления используются самые простые и доступные возможности генеративного ИИ, без особых ухищрений.

3. Доступность генеративного ИИ приводит к появлению новых форм злоупотребления, не входящих прямо в противоречие с пользовательскими соглашениями поставщиков ИИ-продуктов. Тем не менее это действия сомнительной этичности, включая новые формы политической агитации, самопродвижения и пропаганды.

Исследование также приводит основные способы компрометации генеративных ИИ-систем путём несанкционированного воздействия на ИИ-модель и на данные.
👏4👍3
Человеческие и организационные факторы при управлении рисками ИИ

Такой семинар прошёл вчера в Национальных академиях наук, инженерии и медицины США.

Основа для обсуждения — популярная методология риск-менеджмента в ИИ Национального института стандартов и технологий (NIST AI RMF 1.0).

Темы семинара:
1. Расширение круга стейкхолдеров, участвующих в проектировании и разработке ИИ
2. Оценка, тестирование и надзор
3. Безопасность в контексте: культура, процессы, методология

Запись доступна здесь.
❤4😁1
Становятся ли более высокоавтоматизированные системы менее подконтрольными?

Не обязательно. В определенной степени это ложная дихотомия.

Десятилетиями эксперты в области автоматизации и более широкая публика находились под влиянием таксономии Шеридана-Верпланка (1978, см. на иллюстрации слева), которая в 2014 году была адаптирована и популяризирована SAE в виде уровней автоматизации применительно к автомобилям (см. комментарии к этому посту).

Чрезмерно упрощенное понимание этих понятий привело многих из нас к убеждению, что по мере внедрения систем с всё более высокой степенью автоматизации мы неизбежно должны уступать им контроль за выполнением задачи.

Но в своей статье, опубликованной в 2020 году, Бен Шнейдерман напомнил нам, что это не так.

Вместо того чтобы рассматривать подконтрольность (human control, controllability) как характеристику, расположенную на одной одномерной оси со степенью автоматизации (level of automation), он предложил двухмерную перспективу.

Такая перспектива предполагает, что системы ИИ могут (а иногда и должны) одновременно обладать (1) высоким уровнем автоматизации и (2) высокой степенью подконтрольности.

В качестве примера он привел лифты и современные камеры, которые могут обеспечивать высокий уровень автоматизации при выполнении задач, но также и высокую степень контроля над результатами. Эти устройства работают благодаря автоматизации, но при этом остаются под нашим полным контролем и строго следуют нашим намерениям (при этом, разумеется, камеры работают в гораздо менее стесненных условиях и предоставляют нам больше степеней свободы).

В то же время, как степень автоматизации, так и степень человеческого контроля должны соответствовать конкретной задаче и контексту.

Автоматизация может быть чрезмерной, например, когда разработчики системы не предусматривают передачу управления человеку тогда, когда это необходимо по соображениям безопасности, или когда операторы не обучены или не информированы о том, как задействовать эту функцию (привет, Boeing 737 MAX).

Аналогично, человеческий контроль над системой может быть чрезмерным, например, когда системой управляют обычные потребители, а разработчики забыли заложить "защиту от дурака".

Соответственно, степень автоматизации можно понимать как степень, в которой система способна работать без вмешательства человека. Но степень ее подконтрольности — это отдельная, независимая характеристика.

Возможны предельно автоматизированные и одновременно хорошо контролируемые системы ИИ (отдельный вопрос: кем и каким образом контролируемые). И совершенно ясно, что никому не нужны системы ИИ, которые полностью автоматизированы (автономны) и при этом недостаточно подконтрольны.
👍5
Onlife Manifesto стал самой популярной книгой Шпрингер

Редактор, Лучано Флориди, сообщил о том, что книгу скачали более миллиона раз.

Из описания:

"Каково влияние информационных и коммуникационных технологий (ИКТ) на положение человека? Чтобы ответить на этот вопрос, в 2012 году Европейская комиссия организовала исследовательский проект под названием "Инициатива Onlife: реинжиниринг понятий для переосмысления проблем общества в условиях цифрового перехода". В этом томе собраны результаты инициативы: исследуется, как развитие и широкое использование ИКТ радикально влияет на положение человека.

ИКТ — это не просто инструменты, а скорее социальная сила, которая всё больше влияет на наше самовосприятие (кто мы), наши взаимодействия (как мы социализируемся), наше представление о реальности (наша метафизика) и наше взаимодействие с реальностью (наша деятельность). В каждом случае ИКТ имеют огромное этическое, правовое и политическое значение, которое мы начали осознавать совсем недавно.

Влияние ИКТ обусловлено, по крайней мере, четырьмя основными преобразованиями: стиранием различий между реальностью и виртуальностью; стиранием границ между человеком, машиной и природой; переходом от дефицита информации к её изобилию; и переходом от главенства отдельных вещей, свойств и бинарных отношений к главенству взаимодействий, процессов и сетей.

Такие преобразования подвергают испытаниям основы нашего понятийного аппарата. Наш нынешний понятийный инструментарий уже не подходит для решения новых задач, связанных с ИКТ. Это не только является проблемой само по себе. Это еще и риск, поскольку отсутствие четкого понимания специфики настоящего времени может легко привести к негативным прогнозам на будущее. Поэтому цель "Манифеста" и всей книги, в которой он представлен, — внести вклад в обновление нашей философии. Это конструктивная цель. Книга призвана стать позитивным вкладом в переосмысление философии, на которой строится политика в гиперсвязанном мире, помочь нам понять проблемы, связанные с ИКТ, и найти удовлетворительные решения.

Манифест даёт старт открытой дискуссии о влиянии ИКТ на общественное пространство, политику и ожидания общества в отношении разработки такой политики в рамках Цифровой повестки для Европы. В более широком смысле, он помогает задуматься о том, как гиперсвязанный мир требует переосмысления базовых принципов, на которых строится политика".

Скачать бесплатно можно здесь.
👍5❤1
Robocounsel
1) привлечь меня как эксперта на ваши проекты, записаться ко мне на консультацию, менторство или просто встречу (через сайт или через бота),
Услуги и сотрудничество

Напомню, что вы можете привлечь меня как эксперта на ваши проекты, вебинар, корпоративное обучение, записаться на консультацию, менторство или просто встречу (через сайт или через бота).

Подробнее
❤4👍4🔥2
Немного пятнично-вечернего юмора
😁12🥴4
Почти четверть внедривших генеративный ИИ организаций уже понесли ущерб от "галлюцинаций"

Об этом свидетельствует новое исследование Маккинзи. Количество организаций, осознающих это как риск, за год увеличилось с 56 до 63%.

Другими ключевыми проблемными зонами генеративного ИИ, повлекшими реальный вред, оказались кибербезопасность (16%), невозможность объяснить решения (12%), нарушение прав на интеллектуальную собственность (11%), нарушение регуляторных требований (10%), нарушение неприкосновенности частной жизни (9%) и урон репутации организации (8%).

Тем не менее, готовность организаций к системному управлению рисками в этой области остаётся низкой.

Только 18% имеют в структуре орган, отвечающий за ответственное применение ИИ, и только 1/3 осознаёт, что их собственные технические специалисты должны быть осведомлены о рисках генеративного ИИ и о мерах по управлению этими рисками.

Не хотите присоединиться к тем, кто учится на своих ошибках? Хотите поучиться на чужих? Понять, в каких сценариях и как можно безопасно применять генеративный ИИ в вашей организации?

Нужна практическая консультация без воды? Вебинар? Корпоративный тренинг? Пишите.
❤5👍1
Худшие практики продвижения лучших практик

Скандалы, интриги, расследования — показать всё, что скрыто: в серии публикаций под эгидой EDPB вышла одна, вызвавшая недоумение наиболее внимательных коллег.

В брошюре, продвигающей предложение о том, как сделать применение ИИ более прозрачным, список использованной литературы представляет собой почти полностью галлюцинации ЧатГПТ. Использование которого — надо отдать автору должное — раскрыто, но при этом заявлено, что роль инструмента заключалась лишь в переформатировании списка по определённому стандарту цитирования.

То ли ЧатГПТ не справился с переформатированием, то ли его роль была не только и не столько в переформатировании, сколько в придумывании несуществующей литературы.

Вот что бывает, когда публикация выходит без перепроверки и рецензирования.
😁11❤2👍1
OJ_L_202401689_EN_TXT.pdf
2.5 MB
Регламент ЕС по искусственному интеллекту официально опубликован

Он получил номер 2024/1689. Первые его требования, включая обязанность поставщиков и эксплуатантов любых ИИ-систем обучать свой персонал основам ИИ-грамотности, вступят в силу уже 2 февраля следующего года.

Обязательства по обучению касаются операторов любых ИИ-систем, даже тех, которые не создают повышенной опасности и не нуждаются в раскрытии информации.

Если вы работаете на рынке ЕС, вы можете забронировать подходящий вам курс или вебинар на моём сайте или здесь через бот.
🔥11👍2
240715_Discussion_Paper_Hamburg_DPA_KI_Models.pdf
200.9 KB
Гамбургский орган по защите данных высказался о применимости GDPR к большим языковым моделям (LLM)

Выводы можно распространить более широко на любые ИИ-модели.

По мнению надзорного органа:

1) Обучение ИИ-модели на персональных данных должно соответствовать GDPR.

Вместе с тем, следует разграничивать законность обработки персональных данных в процессе обучения модели и законность применения модели в итоговой ИИ-системе.

2) ИИ-модель сама по себе не содержит персональных данных, поэтому само по себе хранение модели не является обработкой персональных данных.

В то же время, ИИ-система, в которую интегрируется модель, может обрабатывать персональные данные. В этом случае GDPR применяется к такой обработке в этой системе, и в особенности к получению результатов при помощи такой системы.

3) Права субъектов персональных данных, такие как право доступа, удаления или исправления персональных данных, не применяются к данным, хранимым в ИИ-модели.

Однако они применяются к обработке входных данных, поступающих в эксплуатируемую ИИ-систему, за которую отвечают поставщик (provider) и эксплуатант (deployer), и к результатам работы ИИ-системы.

О разграничении между моделью и системой см. мои предыдущие посты. Например, этот.

Классический пример: GPT-4 — это ИИ-модель, а ChatGPT — это ИИ-система, в которую указанная модель интегрирована.
👍8❤3
Автоматизация договоров и ЮНСИТРАЛ

Комиссия ООН по праву международной торговли на днях утвердила новый типовой закон: об автоматизированном заключении договоров.

Речь идёт в том числе об использовании смарт-контрактов и инструментов с применением искусственного интеллекта.

И уже сегодня из Брюсселя пришли новости о том, что этим направлением занялся Департамент Еврокомиссии по правосудию и защите потребителей (DG JUST).

Каковы основные положения нового типового закона, в чём его значимость и кому он будет полезен? Об этом поговорим здесь в прямом эфире с Николаем Дмитриком, директором офиса RPPA и экспертом ЮНСИТРАЛ.

Подключайтесь к стриму прямо здесь во вторник 30 июля, в 17.00 CET / 18.00 MSK!
👍9❤3🔥2