Robocounsel
1.95K subscribers
265 photos
18 videos
80 files
659 links
О регулировании и социальных аспектах применения ИИ и данных, преимущественно в ЕС. Публикации отражают сугубо личное мнение автора.

Контакт, вопросы: используйте кнопку 💬 в левом нижнем углу.

Шрифт в логотипе - Alex Murphy Solid от Goatmeal
Download Telegram
Robocounsel
robocounsel
Отзывы о вебинаре (см. предыдущий пост)

Хольгер Цшайге
Издатель, преподаватель, пытливый ум

Судя по моей ленте LinkedIn, в эти дни все целыми днями носятся с генеративным ИИ (да-да, все это связано с работой, конечно 😉). Как говорится, это все веселье и игры, пока кто-то не наступит на реальные "грабли". Если вы используете или планируете использовать генеративный ИИ в корпоративной среде, послушайте, что говорит Александр Тюльканов о том, как ответственно использовать ИИ. Я знаю его уже несколько лет, он знает, о чем говорит, и стал одним из ведущих известных мне экспертов по этике ИИ.

Наталья Вьюркова
Руководитель юридической функции и DPO, Globus.AI

Очень понравилось то, что информация была подана структурированно и системно. Много примеров, четкая логика.

Екатерина Куссмауль
Юрист в сфере дизайна, архитектуры, IT, IP, Основатель Design-legal.ru

Интересный вебинар, его в обязательно порядке нужно прослушать компаниям, которые начинают разработку искусственного интеллекта, чтобы не допустить ошибок и на начальном этапе продумать политику.

Хотя сама юрист, но услышала новые и важные для себя моменты, о которых ранее не задумывалась.
👍5❤1🌚1
Robocounsel
AIA - IMCO-LIBE report - pre-plenary.pdf
Вниманию разработчиков и интеграторов ИИ-систем

Если вы работаете на европейском рынке или планируете на него выходить, в течение ближайших двух недель есть возможность дать свои предложения по улучшению проекта Регламента по искусственному интеллекту в редакции Европарламента. Предложения будут консолидированы для возможного учёта в ходе трилога (согласительных процедур с Советом ЕС и Еврокомиссией).

При желании поучаствовать — пишите на @robocounsel_bot
🔥4
Не переучиваться на программистов, но повышать свои цифровые компетенции. This is the way.

Периодически интернет начинает пестрить заголовками новостей о скорой замене всего и вся очередной технологией.

В один момент было популярно обсуждать, как смарт-контракты на блокчейне вот-вот убьют контракты обычные, и всем юристам нужно срочно переучиваться в программисты. Не случилось. В другой момент кто-то собрался заменить всех юристов системами искусственного интеллекта — тоже не произошло.

Новый всплеск старых песен о главном мы увидели недавно, на фоне популяризации систем генеративного ИИ.

Однако не так часто мы обсуждаем сценарии и бизнес-процессы, в которых юристы на сегодня не участвуют, но в которых их экспертиза бы не помешала.

Например, во многих организациях применяется вполне разумный подход, при которых договоры по сделкам, не несущим значительных рисков, в принципе не попадают на согласование юристам. Критерии могут быть разными — использование стандартных договорных условий организации (поэтому проверять нечего), незначительность цены договора (поэтому риски неудачных формулировок можно принять как не создающие угроз для бизнеса).

Так вот, постепенное совершенствование юртех-продуктов, особенно таких, которые гибко настраиваются под конкретный бизнес, позволяет, во-первых, создать для бизнес-менеджеров возможность опосредованного использования экспертизы их юристов для таких сделок, для которых она ранее в принципе была недоступна (ввиду их занятости на более значимых сделках). Юристы предприятия могут трансформировать свою экспертизу в пользовательские настройки юртех-продуктов, которые затем могут использоваться бизнес-подразделениями в режиме самообслуживания, на основании запроектированных с глубоким вовлечением юристов процедур и протоколов.

А во-вторых, корректное внедрение юртех-продуктов на предприятии позволяет ещё больше сузить спектр сделок, которые требуют непосредственного вовлечения юристов, сохраняя больше их ресурсов для самого важного и критичного, отсеяв всё остальное.

Как результат — снижение операционных затрат конкретного предприятия и транзакционных издержек в экономике в целом. Главное — правильно подобрать инструменты и корректно их внедрить в бизнес-процессы, заодно перепроверив последние: очень вероятно, что какие-то из них вообще окажутся не нужны.

По крайней мере, по моему опыту на подобного рода проектах так и получалось.
👍12❤2
Детекторы ИИ-сгенерированного текста легко обмануть

Как показывает недавно опубликованное исследование, надежды, возлагаемые некоторыми образовательными учреждениями на детекторы ИИ-сгенерированного текста не оправдываются.

Они практически никак не справляются с обнаружением ИИ-генерации, если она замаскирована за счёт редактирования текста самой же системой генеративного ИИ по запросу пользователя. Может потребоваться несколько итераций, но на выходе в итоге — не распознаваемый детекторами текст.

Также на примере англоязычных текстов установлено, что детекторы гораздо чаще ложноположительно срабатывают на тексты, написанные не носителями языка. В результате последние дискриминируются по сравнению с носителями только из-за того, что их знания языка не совершенны.

С учётом этого видится, что само по себе использование таких детекторов в образовательном процессе может быть бессмысленным или даже вредным.
👍12
Генеративные чатботы не предназначены для поиска точной информации

Дорогой ценой достался этот урок двум "прославившимся" на весь мир юристам, о которых я писал ранее и которые не проверили выдуманные ЧатГПТ ссылки на судебные прецеденты.

На слушании вчера, по итогам которого судья решит, что делать с незадачливыми копипастерами Шварцем и ЛоДукой дальше, было немало народу, и немало эмоций, сообщает Нью-Йорк Таймс:

"Боже, мне бы так хотелось это сделать (перепроверить выдуманные ЧатГПТ дела — А.Т.), но я этого не сделал", - сказал Шварц, добавив, что он чувствует смущение, унижение и глубоко раскаивается.

"Я не понимал, что ЧатГПТ может выдумывать прецеденты", - сказал он судье.

"Я услышал об этом новом сайте и ошибочно принял его за что-то вроде поисковой системы с возможностями нового, более высокого уровня", - приводит слова Шварца газета.

Уровень критического мышления у его коллеги, ЛоДуки, выступавшего в суде с материалами, подготовленными Шварцем, также оставляет желать лучшего.

"Вы читали какие-либо из приведенных дел?" спросил его судья.
"Нет", - ответил ЛоДука.

"Делали ли вы что-нибудь, чтобы убедиться в том, что дела существуют?".
Снова отрицательный ответ.
👍2
Я уже давно рекомендую всем всегда перепроверять все результаты, полученные в ЧатГПТ, ввиду того, что система ненадёжна и постоянно допускает ошибки (хотя работа над этим и ведётся).

Но, например, по мнению Яна ЛеКуна, главного датасаентиста Меты, текущая архитектура популярных (так называемых авторегрессивных) больших языковых моделей конструктивно обречена генерировать ошибочные результаты и не может быть принципиально исправлена — нужна новая архитектура.

В связи с этим наши с коллегами мнения разошлись: кто-то полагает, что Оупен-Эй-Ай делает недостаточно для того, чтобы предупредить пользователей об ошибках в генерируемых результатах. По мнению таких коллег (Луиза Яровски на скриншоте), нужно обязать разработчиков сообщать пользователям, что они должны перепроверять полученные результаты.

Я всех пользователей призываю именно к этому, но не до конца уверен в том, в какой именно форме было бы справедливо требовать от разработчиков информировать пользователей, ведь это снижает доверие к продукту.

С другой стороны, если продукт на самом деле пока и недостоин доверия, и бoльшим риском сейчас является избыточное доверие к ненадёжному продукту, то может быть это и правильно.

Кто-то же считает, что ни о чём более предупреждать не нужно, по крайней мере сверх уже имеющихся в ЧатГПТ дисклеймеров. А они, напомню, были расширены не так давно. Раньше непосредственно перед строкой промта их не было.

Проведём опрос в следующем посте:
❤2🤯1
Torres-AI-disclosure-bill-text.pdf
35 KB
Результаты работы генеративного ИИ предлагают маркировать в США

Член палаты представителей от демократов Ричи Торрес представил одностраничный законопроект, предлагающий добавлять к любым результатам работы систем генеративного ИИ соответствующую маркировку.

Нарушение нормы предлагается квалифицировать в качестве недобросовестной и вводящей в заблуждение практики, полномочия по надзору за которой предоставляются Федеральной торговой комиссии.

Действие законопроекта не ограничивается дипфейками, как это предполагается по проекту Регламента ЕС об ИИ.

Нэнси Мейс, представитель от республиканцев, отвечающая в Палате за инициативы по ИИ, не поддерживая конкретный текст законопроекта, в целом поддержала инициативу:

«Американцы заслуживают того, чтобы знать, когда они взаимодействуют с контентом, сгенерированным ИИ, особенно в политике, где можно легко производить вводящие в заблуждение материалы».
🔥4
Robocounsel
AIA - IMCO-LIBE report - pre-plenary.pdf
Европарламент принял резолюцию по проекту Регламента ЕС по ИИ

Текст проекта утверждён в редакции, ранее согласованной комитетами ИМКО и ЛИБЕ, без изменений. Все предложения о дополнительных поправках были отклонены, сообщает Еврактив.

В частности, осталось без изменений предложение в проекте резолюции полностью запретить использование систем для биометрической идентификации граждан, отвечающих одновременно следующим критериям:
1) проводят идентификацию удалённо (не контактно),
2) в общественных местах,
3) в реальном времени (не постфактум).

Использование систем биометрической идентификации для других сценариев не запрещено, но регулируется по правилам для систем ИИ повышенной опасности (об отличии идентификации от верификации читайте здесь).

Следующий этап — так называемый трилог Европарламента с Советом ЕС и Еврокомиссией. Каждый из данных органов предложил свою редакцию Регламента. В связи с этим потребуется согласование разногласий, хотя основная масса положений и требований к бизнесу уже понятна и меняться не будет.

Ожидается, что согласование может быть завершено к концу этого года. В случае принятия Регламент вступит в силу в 2026 году, по истечении 2-летнего подготовительного периода.

Что необходимо знать в связи с этим тем, кто планирует разрабатывать или поставлять системы ИИ в Евросоюзе или ответственно пользоваться ими — разберём на ближайшем вебинаре.

Также вы можете записаться на консультацию (здесь или на моём сайте) и получить индивидуализированное руководство по подготовке к вступлению Регламента в силу.
❤3👏2🔥1
Год назад я с блестящими результатами сдал экзамен на знание GDPR и получил сертификат CIPP/E - стандартный для отрасли способ подтвердить знания регулирования персональных данных в ЕС. По ходу подготовки к экзамену я сделал для себя методическое пособие и чеклист, которыми затем стал делиться с коллегами.

За этот год 45 человек купили у меня доступ к этому пособию, оно получает только положительные отклики и рекомендации. Некоторые уже подготовились и успешно сдали экзамен сами.

Приобрести пособие, а заодно получить доступ к группе для обмена опытом, взаимопомощи, скидками на учебные пособия и с вакансиями на работу в Европе можно по ссылке ниже.

Присоединяйтесь!

Оплатить можно:
- российской картой,
- зарубежной картой.
❤12
Обязательная экспертная оценка систем для автоматизированных решений в Канаде

Сегодня хотел рассказать вам об одном интересном требовании канадской Директивы об автоматизации принятия административных решений (Directive on Automated Decision-Making).

Это обязательная независимая экспертная оценка (peer review) с обязательной публикацией результатов, для всех систем, начиная со II класса опасности.

II класс опасности (из четырёх возможных) подразумевает, что автоматизированные решения системы могут иметь умеренное влияние на права, здоровье, благополучие и экономические интересы граждан, сообществ или экономические интересы других лиц, а также устойчивость экосистемы. При этом наступающие последствия должны быть преимущественно обратимы и краткосрочны. В ином случае система будет относиться к иному классу опасности.

Альтернативно государственный орган, закупающий или вводящий автоматизированную систему для принятия административных решений вправе опубликовать спецификацию системы в рецензируемом научном журнале. В случае, если доступ к содержанию журнала ограничен, государственный орган обязан опубликовать простое и доступное для восприятия широким кругом лиц резюме (plain language summary).
❤2
Robocounsel
Европарламент принял резолюцию по проекту Регламента ЕС по ИИ Текст проекта утверждён в редакции, ранее согласованной комитетами ИМКО и ЛИБЕ, без изменений. Все предложения о дополнительных поправках были отклонены, сообщает Еврактив. В частности, осталось…
Вебинар: Системы ИИ: ответственное применение в бизнесе с учётом Регламента ЕС

Пройдёт в две даты:
пятница 23 июня (19:00 МСК) и пятница 30 июня (14:00 МСК).

Язык: русский

Подойдёт тем, кто хочет сжато получить основную, наиболее важную информацию:
- с чего начинали и что произошло с проектом Регламента за последнее время,
- какие изменения в Регламенте обусловлены появлением на рынке генеративных ИИ-систем,
- каковы последствия для разработчиков,
- каковы параллельные регуляторные треки в Европе (стандартизация в CEN-CENELEC, Конвенция Совета Европы),
- когда Регламент вступает в силу и как начинать готовиться, если вы корпоративный пользователь или разработчик ИИ-систем.

Выбор даты и регистрация здесь.
🔥5❤2
Инсайты и секреты комплаенса по защите персональных данных (ПД)

💡Работаете в этой сфере? Интересуют актуальные законопроекты и нормативные акты, уведомления о трансграничной передаче ПД и об утечках ПД, локализация ПД в РФ, регулирование оборота биометрии, новые требования к распространению ПД, договоры об обработке ПД, лайфхаки при проверках Роскомнадзора?

👉 Все это и многое другое можно найти на авторском телеграм-канале Privacy Advocates Алексея Мунтяна - эксперта с 15-летним опытом работы в сфере правовой и технической защиты персональных данных. С Алексеем я знаком давно и считаю его одним из ведущих специалистов в отрасли.

🔥Рекомендую вам бесплатно ознакомиться с актуальной подборкой из 40 материалов Алексея по теме Data Privacy.
❤5👍2
ФТК: Амазон должен изменить практики привлечения и удержания подписчиков Амазон Прайм

Об этом говорится в иске, подданном в суд сегодня Федеральной торговой комиссией (ФТК) США.

Выступая в защиту прав потребителей, надзорный орган обвиняет компанию в том, что та использовала недобросовестные практики для манипулятивного привлечения и удержания абонентов платной подписки Амазон Прайм.

После активации подписка продлевается автоматически и позволяет пользователям получать скидки на доставку товаров с маркетплейса компании и пользоваться стриминговым сервисом Прайм Видео.

На основании имеющихся в деле материалов ФТК полагает, что для побуждения потребителей оформить подписку компания использовала вводящие в заблуждение манипулятивные техники ("dark patterns"). В ряде случаев приобрести товары на маркетплейсе, не оформив подписку, оказывалось гораздо сложнее.

Кроме того, по данным ФТК руководство компании сознательно отказывалось упрощать процесс отмены подписки, поскольку это уменьшило бы доходность бизнеса.

По оценке ФТК обе практики нарушают применимые нормы о защите прав потребителей, содержащиеся в американском законодательстве (FTC Act, Restore Online Shoppers’ Confidence Act).
❤2👍2
Robocounsel
Вебинар: Системы ИИ: ответственное применение в бизнесе с учётом Регламента ЕС Пройдёт в две даты: пятница 23 июня (19:00 МСК) и пятница 30 июня (14:00 МСК). Язык: русский Подойдёт тем, кто хочет сжато получить основную, наиболее важную информацию: - с…
Заканчивается регистрация на вебинар "Системы ИИ: ответственное применение в бизнесе с учётом Регламента ЕС"

Вебинар состоится сегодня в пятницу 23 июня, 19:00 МСК.

Если вы хотели его посетить, но не успели зарегистрироваться или внести оплату, осталось менее 2 часов — регистрация закрывается в 13:00 МСК.

Регистрация

Язык: русский

Подойдёт тем, кто хочет сжато получить основную, наиболее важную информацию:
- с чего начинали и что произошло с проектом Регламента за последнее время,
- какие изменения в Регламенте обусловлены появлением на рынке генеративных ИИ-систем,
- каковы последствия для разработчиков,
- каковы параллельные регуляторные треки в Европе (стандартизация в CEN-CENELEC, Конвенция Совета Европы),
- когда Регламент вступает в силу и как начинать готовиться, если вы корпоративный пользователь или разработчик ИИ-систем.
❤1👍1
Федерация адвокатских палат Европы выпустила рекомендации по использованию ЧатГПТ

Рекомендации организации (Fédération des Barreaux d’Europe, Страсбург) отражают основные соображения, которые я и другие эксперты по регулированию и применению ИИ высказывали на протяжении последнего полугодия:

1. Разберитесь с тем, что такое генеративный ИИ

Только разобравшись с тем, что представляет собой технология, каковы её возможности и правовые последствия её использования, вы сможете составить информированное мнение о том, в каких случаях и пределах её допустимо применять в юридической работе.

2. Осознавайте ограничения и оптимальные условия использования

Большие языковые модели и генеративный ИИ при умелом использовании могут повышать производительность юристов. Вместе с тем, необходимо чётко осознавать, для какого типа задач эти инструменты подходят лучше всего, для каких их лучше вообще не использовать, а где возможно использование с ограничениями. И каковы эти ограничения.

3. Придерживайтесь установленных правил использования и лучших практик

Изучите, имеются ли действующие правила и рекомендации вашей адвокатской палаты по этому вопросу. Определите, какие требования нормативных актов в вашей стране должны учитываться при применении генеративного ИИ. Изучите условия договора с поставщиком ИИ-услуг и ИИ-продуктов, которые вы используете. Будьте в курсе изменений.

4. Использование систем ИИ может дополнять ваши знания и навыки, но не может их заменить

Системы генеративного ИИ не способны к юридической аргументации, правовому анализу и не могут заменить вашу экспертизу, навыки и умения. Помните о рисках излишнего полагания на результаты работы систем генеративного ИИ. Эти системы не должны заменять человека в процессе приятия юридически значимых решений. Всегда самостоятельно проверяйте все предложенные системой результаты и аргументацию.

Объясняйте клиентам разницу между запросами к чатботу и настоящей юридической консультацией.

5. Сохраняйте профессиональную тайну

Принимайте меры для защиты информации и поддержания её конфиденциальности. Условия соглашения с поставщиком услуг генеративного ИИ могут предполагать последующее использование введённых вами данных, поэтому сообщение системе данных о клиенте [без их редактуры, анонимизации или псевдонимизации - прим. А. Т.] может быть недопустимо.

6. Не забывайте о требованиях, касающихся защиты персональных данных и неприкосновенности частной жизни

Юристы должны осознавать, что ввод персональных данных в систему генеративного ИИ допускается только при наличии у вас на то законного основания и только при условии соблюдения норм о защите персональных данных и неприкосновенности частной жизни.

Не забывайте, что системы генеративного ИИ могут использовать введённые вами данные не только для ответа на запрос, но и могут сохранять их на будущее для усовершенствования таких систем.

Использование систем генеративного ИИ создаёт дополнительные риски для защиты данных по сравнению с уже имеющимися. Эти риски должны быть оценены и нейтрализованы.

7. Информируйте клиентов и принимайте на себя ответственность

Раскрывайте клиентам факты и условия использования систем генеративного ИИ в вашей работе. Объясняйте, для чего вы это делаете, в каких задачах применяете, в чём преимущества для клиента и какие меры предосторожности вы предпринимаете.

Всегда принимайте на себя всю полноту ответственности за результаты применения вами инструментов генеративного ИИ, осознавая свою возможную профессиональную и правовую ответственность за все последствия.

Установите правила для ответственного применения генеративного ИИ на рабочем месте, ознакомьте с ними коллег и сотрудников и обеспечьте соблюдение этих правил.

Если не знаете, с чего начать — начните с просмотра моего вебинара по этой теме, доступного прямо здесь.

Либо напишите мне — я также консультирую по поводу применения генеративного ИИ на рабочем месте, разрабатываю политики ответственного использования этих инструментов и делаю вебинары и курсы под заказ.
🔥5👍4
Robocounsel
"Спроси меня про сервитуты? Я расскажу за три минуты" Роберт Амброджи протестировал новый сервис Ко-Каунсел — специализированный ИИ-ассистент для юристов. Сервис интегрирован с одной из больших языковых моделей Опен-Эй-Ай и на сегодня помогает решать семь…
Томсон Рейтер покупает юртех-компанию Кейстекст

Напомню, что последняя занимается разработкой систем ИИ для юристов на протяжении последних десяти лет. Ранее в этом году компания Кейстекст представила Ко-Каунсел, специализированного ИИ-ассистента для юристов с функциями проверки, резюмирования и разработки юридических документов.

Томсон Рейтер, в свою очередь, является, наряду со своим конкурентом Лексис, по сути дуополистом на рынке справочно-правовых систем на английском языке (Вестло и Лексис соответственно).

Ранее в этом году Лексис уже запустила в закрытое тестирование свой продукт для юристов на базе генеративного ИИ, а в Томсон Рейтер заявляли об аналогичных планах на этот год.

Пресс-релиз в связи с покупкой Кейстекст также отмечает планы Томсон Рейтер по выводу на рынок инструмента Майкрософт 365 Копилот в версии, адаптированной для юристов.

Сумма сделки составила 650 млн. долларов.
👍3