Robocounsel
1.95K subscribers
265 photos
18 videos
81 files
660 links
О регулировании и социальных аспектах применения ИИ и данных, преимущественно в ЕС. Публикации отражают сугубо личное мнение автора.

Контакт, вопросы: используйте кнопку 💬 в левом нижнем углу.

Шрифт в логотипе - Alex Murphy Solid от Goatmeal
Download Telegram
Моя новая сертификация

Только что успешно сдал экзамен по основам независимого аудита ИИ-систем (FIAAIS).

Далее планирую пройти более специализированные курсы, в частности сертифицироваться как специалист по риск-менеджменту в отношении ИИ-систем.

Напомню, что если у вас есть аналогичный интерес, у нас есть закрытое сообщество, где мы вместе изучаем фреймворки по риск-менеджменту применительно к ИИ.

Для вступления в сообщество необходимо подписаться на донаты (кнопка в закреплённом сообщении) и сообщить о своём желании через @robocounsel_bot.
🔥19👏2👍1
Robocounsel
CAI Revised zero draft Jan 2023.pdf
Нравится ли мне определение ИИ в проекте Конвенции СЕ об ИИ?

Вынесу свой ответ из вопроса в комментариях.

Документ всего лишь проект, и ещё не отражает позиции ни одной конкретной национальной делегации. Поэтому всё может ещё поменяться.

В целом же каждое определение в юридическом документе должно быть не академическим, а подчинено конкретной поставленной задаче.

В случае с фокусом конвенции (защита прав человека) лучше, чтобы определение было шире, нежели уже, и концентрировалось в основном на использовании систем в процессе принятия решений (влияющих на права человека).

Та заготовка, которая предложена для обсуждения, достаточно широкая. В любом случае, как и во всех конвенциях СЕ, здесь будет оставлено пространство для манёвра национальным властям — каждый участник конвенции будет вправе для целей своего правопорядка создавать своё определение на основе элементов из этого.

Если же выйти за рамки темы защиты прав человека, с точки зрения абстрактной полноты лично мне нравится определение ОЭСР:

AI system: An AI system is a (1) machine-based system that can, for a given set of (2) human-defined objectives, (3) make predictions, recommendations, or decisions influencing real or virtual environments. (4) AI systems are designed to operate with varying levels of autonomy.

Здесь отражаются более-менее часто встречающиеся критерии автономных систем:
1) некоторая степень автономии системы,
2) инженерный (небиологический) характер системы,
3) способность влиять на внешнюю среду (для роботов производить действия во внешней среде, обычно за счёт актуаторов и манипуляторов),
4) способность действовать целенаправленно (подчиняться целям).

Также можно подразумевать ещё:
5) способность получать информацию извне (для роботов способность воспринимать внешнюю среду, обычно за счёт сенсоров).

И для роботов:
6) физическое воплощение системы.
👍3
Robocounsel
Нравится ли мне определение ИИ в проекте Конвенции СЕ об ИИ? Вынесу свой ответ из вопроса в комментариях. Документ всего лишь проект, и ещё не отражает позиции ни одной конкретной национальной делегации. Поэтому всё может ещё поменяться. В целом же каждое…
Пробелы в определениях

Тем не менее, для полноты картины, вот анализ определений "системы искусственного интеллекта" в четырёх популярных инструментах по регулированию ИИ.
🔥5
Когда персональные данные перестают быть персональными?

Визуализация от Future of Privacy Forum
100 женщин-экспертов в области этики применения ИИ

Мне, как организатору и участнику множества вебинаров и других мероприятий вокруг ИИ, не секрет, что иногда на них не хватает женщин.

С учётом того, что в дисциплинах вокруг ИИ часто преобладают мужчины, некоторые даже не задумываются о том, что у них в составе спикеров не оказывается женщин.

Хотя хорошая практика — задумываться. И приглашать.

Благодаря подобным инициативам это будет проще. Единственное — пока там маловато русскоязычных.

Но всё в ваших руках. Заявляйте себя и своих коллег-женщин, номинантов добавят в справочник, а в конце года кого-то, возможно, и в "Список 100".

А для девушек, задумывающихся о получении или смене профессии — есть возможность осознать наличие такого карьерного пути и присмотреться к возможным ролевым моделям.
👍7🔥5
Менторство, коучинг и консультирование

Возможно, вам нравится мой канал или контент на Линкдине. Не исключено, что вы задумываетесь о том, как развиваться в том же направлении, что и я. Как строить карьеру в этой же сфере.

Либо вам просто нужна консультация по какому-то вопросу, связанному с регулированием ИИ и данных, трендами и возможностями в этом направлении, в особенности в Европе.

Или вы хотите пригласить меня провести семинар, воркшоп, лекцию.

В этом случае обращайтесь в @robocounsel_bot, я отвечу.
❤9🔥3
Дипфейк-видеоаватары как сервис

Денис из канала Sexy IT пишет, что наткнулся на "прикольный проект который пилят коллеги по ИИ-цеху".

Проект предполагает создание полноценного виртуального аватара, который и разговаривает, и выглядит на видео как вы в жизни. Называя вещи терминами из европейского законодательства — аватар-дипфейк.

Денис предполагает, что "в конце концов это будет дефолтная фича в Zoom и аналогах".

Спешу огорчить Дениса и коллег по ИИ-цеху. Дефолтной фичей это никогда не будет, потому что ни одна крупная компания в мире не купит продукт и не встроит функционал, которые не соответствуют базовым требованиям будущего Регламента ЕС об искусственном интеллекте (ориентировочно вступит в силу в 2025 году).

Европейский рынок слишком большой и выгодный, чтобы на него не выходить, в глобальном масштабе. А крупные игроки готовятся ко всему заранее. Точно так же, как это было до вступления в силу GDPR.

А базовое требование Регламента ЕС по ИИ — недопустимость использования дипфейков, в отношении которых не раскрыто или не очевидно, что это дипфейки.

Так, например в кодексе поведения интеграторов продуктов Майкрософт уже прописано — разумеется, не дожидаясь вступления Регламента в силу — что если вы, например, используете их продукты речевого синтеза, то вы не можете одновременно с реалистичным голосом использовать реалистичный аватар. Как минимум что-то одно должно быть явно и очевидно ненатуральным, чтобы не вводить других людей в заблуждение относительно того, с кем они взаимодействуют (не с человеком). Если вы как интегратор или пользователь не соблюдаете это требование — вы нарушаете кодекс поведения и договор с Майкрософт, и можете быть "отлучены" от услуг.

Буду рад проконсультировать коллег Дениса по ИТ-цеху (и любых иных желающих), как выходить на глобальные рынки и развивать продукт с должным вниманием к регуляторике, не нарываясь на миллионные штрафы. Обращаться можно в @robocounsel_bot.
👍8❤2🔥2
USCO Decision - Zarya of the Dawn.pdf
7.3 MB
Бюро авторского права США: сгенерированные ИИ картинки не охраняются

Своим решением вчера Бюро отозвало сертификат о регистрации, ранее выданный Кристине Каштановой на комикс "Zarya of the Dawn" ("Заря зари"), в свете новой информации представленной её юристом по запросу Бюро.

Как пояснило Бюро, поскольку им стало известно, что изображения в комиксе сгенерированы системой ИИ —Миджорни, они не имеют автора и поэтому неохраноспособны.

Кристине будет выдан новый сертификат с прежней датой, распространяющийся только на охраноспособные элементы комикса, например, сопровождающий текст и компоновку кадров.
👍9❤1🤬1
2302.08927 (1).pdf
4.6 MB
Пять минут в Метаверсе — и вы под колпаком

Исследователи Калифорнийского университета на выборке в свыше 50 тыс. человек исследовали, насколько возможно вычислить человека по его поведению в средах виртуальной реальности типа Метаверса.

Оказалось, что довольно легко.

Машинно-обученная модель, разработанная исследователями, позволила им на основе пяти минут записи в Метаверсе движений любого человека создать его цифровой профиль и затем отличать его от всех остальных пользователей.

После записи такого профиля  (описывающего особенности движения его рук и головы), соответствующего ему пользователя возможно идентифицировать при любом следующем появлении в любой точке Метаверса за 100 секунд с точностью 94,33% или всего за 10 секунд с точностью 73,20%.

Поэтому в следующий раз, когда вам предложат посетить какой-то интернет-ресурс в его метаверсной версии, спросите себя: стоят ли того дополнительные риски для вашей приватности, либо лучше будет по-старинке зайти на аналогичный ресурс через обычный браузер в режиме инкогнито, не оставляя лишних следов.
😱7👍5🤔1
Robocounsel
USCO Decision - Zarya of the Dawn.pdf
Пятничное

Обсуждаем с Настей с канала Вычислить по IP, почему Бюро не увидело творческого вклада в использовании Кристиной Каштановой для своих комиксов картинок из Миджорни.

Дело в том, что здесь важно, насколько существенно эти картинки были Кристиной обработаны для помещения в комикс.

Исходя из Настиного анализа, Кристина "редактировала мелкие детали, но этого было недостаточно, что-то там подзакрасила, где-то подфайнтюнила".

Реакция сотрудников Бюро — на фото.
❤3👍1😁1
Исследователи в Майкрософт экспериментируют с использованием ЧатГПТ для управления роботами

"Мы пишем ЧатГПТ команду (промт), в которой описываем задачу, и указываем, какие функции доступны из библиотеки подпрограмм. Мы также указываем применимые ограничения и формат требуемого нам результата".

Команда разработчиков провела несколько демонстраций, включая разработку кода для управления беспилотными летательными аппаратами и различными манипуляторами.

Основным ограничением такого подхода, по словам разработчиков, остаётся то, что инженерам приходится давать ЧатГПТ детальные инструкции по поводу того, как работает прикладной программный интерфейс для управления роботами. В противном случае модель не справляется с задачей.
👍1
Robocounsel
Менторство, коучинг и консультирование Возможно, вам нравится мой канал или контент на Линкдине. Не исключено, что вы задумываетесь о том, как развиваться в том же направлении, что и я. Как строить карьеру в этой же сфере. Либо вам просто нужна консультация…
Спасибо, всем, кто уже записался на консультации!

Очень ценю ваши интерес и доверие.

Ещё осталось немного слотов на следующую неделю, а также немного более свободна неделя с 6 марта.

Записаться можно через @robocounsel_bot
❤6👍2🥰1🤩1😍1
"Спроси меня про сервитуты? Я расскажу за три минуты"

Роберт Амброджи протестировал новый сервис Ко-Каунсел — специализированный ИИ-ассистент для юристов.

Сервис интегрирован с одной из больших языковых моделей Опен-Эй-Ай и на сегодня помогает решать семь задач:
1) поиск по базе данных,
2) проверка документов,
3) резюмирование документов,
4) проверка договоров на соответствие корпоративной политике организации,
5) извлечение требуемой информации из договоров,
6) помощь в подготовке правовых заключений,
7) подготовка к опросу свидетелей по делу.

В частности, при работе в режиме проверки документов пользователь может загрузить их в систему и задать интересующие его вопросы по их содержанию, а система подготовит отчёт с ответами.

Также есть возможность свободных запросов по аналогии с ЧатГПТ, если пользователь сам переведёт систему в "небезопасный" режим. В этом случае система предупреждает пользователя о том, что полученные ответы могут быть недостоверными.

P. S. Для тех, кто не понял, откуда заголовок (а тем более для тех, кто понял) — бонусное видео.
🔥6👍4
Robocounsel
21-2347-2022-08-05.pdf
Прямой эфир по делу Стивена Талера в Верховном Суде Великобритании

На рассмотрение суда поставлены вопросы:
1) требует ли патентное законодательство Великобритании всегда указывать человека в качестве изобретателя;
2) предусматривает ли указанное законодательство возможность выдачи патента без указания человека в качестве изобретателя;
3) вправе ли владелец, создатель и пользователь системы ИИ получить патент на изобретение "созданное" такой системой?

Thaler (Appellant) v Comptroller-General of Patents, Designs and Trademarks (Respondent)

Смотреть прямой эфир
👍6
Как работает ЧатГПТ

Все, что вы хотели узнать о том, как работает ЧатГПТ, но боялись спросить у бородатых программистов.

Человеческим не техническим языком. Английским.

Здесь.
🔥12
Проведено рандомизированное исследование: полезен ли ЧатГПТ для "беловоротничковых" рабочих задач

Новое исследование показывает, что использование инструмента может уменьшать дистанцию в производительности и качестве работы между наиболее неспособными и более способными работниками.

При этом эффект от применения ЧатГПТ для наиболее способных работников почти нулевой или отрицательный.

При первичном применении наблюдался хайп-эффект с повышением удовлетворённости от применения ЧатГПТ.

Вместе с тем, при повторном опросе по истечении двух недель наблюдалось снижение оценки полезности ЧатГПТ и снижение использования инструмента: им продолжали пользоваться лишь 33% попробовавших во время эксперимента и 18% из контрольной группы.

Исследователи полагают, что одним из факторов последующего разочарования оказывается то, что во время исследования испытуемые выполняли довольно простые и абстрактные задачи.

Реальная же работа требует применения умений и знаний в контексте задач и проблем конкретного работодателя и конкретных клиентов, с чем ЧатГПТ помочь не может.
👍4
Robocounsel
Руководство по сдаче экзамена CIPP/E обновлено до версии 29/01/2023 Для чего нужны руководство и сам экзамен ранее писал здесь. Что в последнем обновлении: - в мой фирменный контрольный лист для удобной подготовки (Study Checklist) добавлены нажимаемые ссылки…
Карьера в области персональных данных в ЕС

Появился новый бонус для приобретающих и уже получивших доступ к моему руководству по подготовке к экзамену CIPP/E — де-факто стандарту для допуска к работе с персональными данными в ЕС.

Я договорился с Федерико Маренго, автором уже практически всемирно известного пособия "Право персональных данных в ЕС в схемах", на скидку 10% для всех моих подписчиков. Схемы Федерико полюбили многие — и с ними действительно проще осваивать материал.

Скидка зашита в моём руководстве, приобрести которое можно здесь.
🔥3🤔2
Роботы Сбера не представляются?

Коллеги из Сбера пишут, что у них в колл-центрах широко распространены голосовые помощники:

"Они помогают работать с должниками и проблемными активами (роботы-коллекторы), предлагать клиентам товары и услуги (телемаркетинг), уведомлять кандидатов о собеседованиях и встречах с наставниками (роботы-рекрутеры), проводить опросы удовлетворенности клиентов и так далее".

А вот из дальнейшего пассажа следует интересное. Мол, голосовые роботы Сбера свою машинную сущность не выдают, и это сделано нарочно, чтобы не "отпугнуть собеседника". Хотя и переключают на человека — если попросят. По мнению коллег из Сбера — именно это "мировая практика".

Не очень понимаю, о какой "мировой практике" идёт речь, и на основании чего коллеги так решили.

На самом деле, сегодня мы с вами в силу контекста и несовершенства технологий обычно хорошо понимаем, разговариваем ли мы с голосовым помощником либо с человеком.

Но технологии совершенствуются. Проект Регламента ЕС об ИИ, который наверняка повторит судьбу GDPR как общемирового золотого стандарта, учитывает такие перспективы. И требует: если в каком-то контексте человек не может понять, что он общается с машиной, его необходимо предупредить.

Причины очевидны. Зная, что с ним взаимодействует не другой человек, а ничего не забывающая и всё про него знающая машина, пользователь будет иметь возможность вести себя осторожнее, сообразно вытекающим из этого дополнительным рискам.

Никакой "мировой практики", допускающей умышленное введение людей в заблуждение по этому поводу — не существует.
👍14😱1
Robocounsel
Роботы Сбера не представляются? Коллеги из Сбера пишут, что у них в колл-центрах широко распространены голосовые помощники: "Они помогают работать с должниками и проблемными активами (роботы-коллекторы), предлагать клиентам товары и услуги (телемаркетинг)…
Предположим, коммерческая организация использует чатботов, неотличимых от человека. В контексте звонка или чата с ними, вы бы хотели понимать, общаетесь ли вы с машиной или человеком?
Anonymous Poll
84%
Да, хочу понимать
16%
Нет, мне это не важно