Robocounsel
1.95K subscribers
265 photos
18 videos
81 files
660 links
О регулировании и социальных аспектах применения ИИ и данных, преимущественно в ЕС. Публикации отражают сугубо личное мнение автора.

Контакт, вопросы: используйте кнопку 💬 в левом нижнем углу.

Шрифт в логотипе - Alex Murphy Solid от Goatmeal
Download Telegram
Robocounsel
Менторство, коучинг и консультирование Возможно, вам нравится мой канал или контент на Линкдине. Не исключено, что вы задумываетесь о том, как развиваться в том же направлении, что и я. Как строить карьеру в этой же сфере. Либо вам просто нужна консультация…
Спасибо, всем, кто уже записался на консультации!

Очень ценю ваши интерес и доверие.

Ещё осталось немного слотов на следующую неделю, а также немного более свободна неделя с 6 марта.

Записаться можно через @robocounsel_bot
❤6👍2🥰1🤩1😍1
"Спроси меня про сервитуты? Я расскажу за три минуты"

Роберт Амброджи протестировал новый сервис Ко-Каунсел — специализированный ИИ-ассистент для юристов.

Сервис интегрирован с одной из больших языковых моделей Опен-Эй-Ай и на сегодня помогает решать семь задач:
1) поиск по базе данных,
2) проверка документов,
3) резюмирование документов,
4) проверка договоров на соответствие корпоративной политике организации,
5) извлечение требуемой информации из договоров,
6) помощь в подготовке правовых заключений,
7) подготовка к опросу свидетелей по делу.

В частности, при работе в режиме проверки документов пользователь может загрузить их в систему и задать интересующие его вопросы по их содержанию, а система подготовит отчёт с ответами.

Также есть возможность свободных запросов по аналогии с ЧатГПТ, если пользователь сам переведёт систему в "небезопасный" режим. В этом случае система предупреждает пользователя о том, что полученные ответы могут быть недостоверными.

P. S. Для тех, кто не понял, откуда заголовок (а тем более для тех, кто понял) — бонусное видео.
🔥6👍4
Robocounsel
21-2347-2022-08-05.pdf
Прямой эфир по делу Стивена Талера в Верховном Суде Великобритании

На рассмотрение суда поставлены вопросы:
1) требует ли патентное законодательство Великобритании всегда указывать человека в качестве изобретателя;
2) предусматривает ли указанное законодательство возможность выдачи патента без указания человека в качестве изобретателя;
3) вправе ли владелец, создатель и пользователь системы ИИ получить патент на изобретение "созданное" такой системой?

Thaler (Appellant) v Comptroller-General of Patents, Designs and Trademarks (Respondent)

Смотреть прямой эфир
👍6
Как работает ЧатГПТ

Все, что вы хотели узнать о том, как работает ЧатГПТ, но боялись спросить у бородатых программистов.

Человеческим не техническим языком. Английским.

Здесь.
🔥12
Проведено рандомизированное исследование: полезен ли ЧатГПТ для "беловоротничковых" рабочих задач

Новое исследование показывает, что использование инструмента может уменьшать дистанцию в производительности и качестве работы между наиболее неспособными и более способными работниками.

При этом эффект от применения ЧатГПТ для наиболее способных работников почти нулевой или отрицательный.

При первичном применении наблюдался хайп-эффект с повышением удовлетворённости от применения ЧатГПТ.

Вместе с тем, при повторном опросе по истечении двух недель наблюдалось снижение оценки полезности ЧатГПТ и снижение использования инструмента: им продолжали пользоваться лишь 33% попробовавших во время эксперимента и 18% из контрольной группы.

Исследователи полагают, что одним из факторов последующего разочарования оказывается то, что во время исследования испытуемые выполняли довольно простые и абстрактные задачи.

Реальная же работа требует применения умений и знаний в контексте задач и проблем конкретного работодателя и конкретных клиентов, с чем ЧатГПТ помочь не может.
👍4
Robocounsel
Руководство по сдаче экзамена CIPP/E обновлено до версии 29/01/2023 Для чего нужны руководство и сам экзамен ранее писал здесь. Что в последнем обновлении: - в мой фирменный контрольный лист для удобной подготовки (Study Checklist) добавлены нажимаемые ссылки…
Карьера в области персональных данных в ЕС

Появился новый бонус для приобретающих и уже получивших доступ к моему руководству по подготовке к экзамену CIPP/E — де-факто стандарту для допуска к работе с персональными данными в ЕС.

Я договорился с Федерико Маренго, автором уже практически всемирно известного пособия "Право персональных данных в ЕС в схемах", на скидку 10% для всех моих подписчиков. Схемы Федерико полюбили многие — и с ними действительно проще осваивать материал.

Скидка зашита в моём руководстве, приобрести которое можно здесь.
🔥3🤔2
Роботы Сбера не представляются?

Коллеги из Сбера пишут, что у них в колл-центрах широко распространены голосовые помощники:

"Они помогают работать с должниками и проблемными активами (роботы-коллекторы), предлагать клиентам товары и услуги (телемаркетинг), уведомлять кандидатов о собеседованиях и встречах с наставниками (роботы-рекрутеры), проводить опросы удовлетворенности клиентов и так далее".

А вот из дальнейшего пассажа следует интересное. Мол, голосовые роботы Сбера свою машинную сущность не выдают, и это сделано нарочно, чтобы не "отпугнуть собеседника". Хотя и переключают на человека — если попросят. По мнению коллег из Сбера — именно это "мировая практика".

Не очень понимаю, о какой "мировой практике" идёт речь, и на основании чего коллеги так решили.

На самом деле, сегодня мы с вами в силу контекста и несовершенства технологий обычно хорошо понимаем, разговариваем ли мы с голосовым помощником либо с человеком.

Но технологии совершенствуются. Проект Регламента ЕС об ИИ, который наверняка повторит судьбу GDPR как общемирового золотого стандарта, учитывает такие перспективы. И требует: если в каком-то контексте человек не может понять, что он общается с машиной, его необходимо предупредить.

Причины очевидны. Зная, что с ним взаимодействует не другой человек, а ничего не забывающая и всё про него знающая машина, пользователь будет иметь возможность вести себя осторожнее, сообразно вытекающим из этого дополнительным рискам.

Никакой "мировой практики", допускающей умышленное введение людей в заблуждение по этому поводу — не существует.
👍14😱1
Robocounsel
Роботы Сбера не представляются? Коллеги из Сбера пишут, что у них в колл-центрах широко распространены голосовые помощники: "Они помогают работать с должниками и проблемными активами (роботы-коллекторы), предлагать клиентам товары и услуги (телемаркетинг)…
Предположим, коммерческая организация использует чатботов, неотличимых от человека. В контексте звонка или чата с ними, вы бы хотели понимать, общаетесь ли вы с машиной или человеком?
Anonymous Poll
84%
Да, хочу понимать
16%
Нет, мне это не важно
Генеративный ИИ и дети

В сети разгорается новый скандал. На этот раз — вокруг интеграции ЧатГПТ со Снапчатом.

Популярное у детей и подростков приложение обзавелось популярным чатботом и тут же попало под шквальный огонь критики, когда люди стали тестировать его возможности для различных фиктивных, но реалистичных сценариев.

По одному из них, взрослый человек, изображая из себя перед чатботом 13-летнюю девочку, стал задавать чатботу вопросы о том, как скрыть от родителей свою новую связь с тридцатилетним мужчиной и как лучше подготовиться к первому сексу.

Публикация диалогов вызывала у людей возмущение — почему компания представляет детям чатбота, который старательно отвечает на такие вопросы.

Кажется, что подобная интеграция чатботов нового поколения в продукты, доступные для детей, выводит старые проблемы — ограничения доступа детей к определённому контенту, а также его модерации и ответственности за него — на новый уровень.

С одной стороны, совершенно правы люди, отмечающие, что с технической точки зрения результат не удивителен. Ведь чатботы класса ЧатГПТ не способны рассуждать, применять логику, делать расчёты. Они всего лишь ищут следующее наиболее статистически вероятное и ожидаемое слово в диалоге.

С другой стороны, я прекрасно понимаю, почему другие люди в ярости.

Они антропоморфизируют эту технологию, приписывая ей людские качества (способность к логическим умозаключениям, память, способность оценивать нюансы и взаимосвязь между различными входными данными).

То есть, они приписывают этой системе качества, которых у неё нет. Таким образом, люди возлагают на систему нереалистичные ожидания, а потом недовольны тем, что эти ожидания явно не оправдываются.

Я полагаю, что такая реакция — результат (1) отсутствия надлежащих предупреждений перед началом использования системы и (2) способности системы относительно правдоподобно имитировать возможности человеческой речи. А из этого люди уже додумывают всё остальное.

Проблема в том, что дети с ещё большей вероятностью будут всё это додумывать. И если неоправданно завышенные ожидания взрослых можно смягчить соответствующими предупреждениями, то в отношении детей мы не можем рассчитывать на то же самое.

Интуитивно кажется хорошей идеей требовать надёжного подтверждения возраста до предоставления доступа к такой системе.

Но возможно у вас будут и другие соображения?
👍5
Майкрософт: на следующей неделе мы представим ГПТ-4

Такой новостью поделился технический директор Майкрософт в Германии Андреас Браун.

Модель будет мультимодальной, что подразумевает возможность генерации не только текста, но и, например, видео.

Управляющий директор Майкрософт в Германии Марианна Яник сравнила недавнюю популяризацию ЧатГПТ с эффектом Айфона ранее и отметила, что компаниям пора создавать центры компетенций и обучать своих сотрудников работе с генеративным ИИ.

"У нас в Германии много легаси-систем, с которых пора мигрировать на новые решения".

Технические эксперты компании также поделились опытом своих клиентов с уже существующими решениями.

Так, один из клиентов с колл-центром, принимающим 30 тысяч звонков в день, за счёт распознавания речи исключил необходимость ручного заполнения операторами анкет ("тикетов"), получив экономию в 500 человеко-часов в день.

Прототип этого проекта на инструментах Майкрософт был создан одним разработчиком, за 2 часа, а его развёртывание заняло 2 недели плюс время на доработку до финального решения.
👍2
Лицензии на использование машинно-обученных моделей на примере RAIL

Специалистам по интеллектуальной собственности давно известен целый набор популярных лицензий на использование программного обеспечения с открытым кодом.

Этих лицензии, так же как лицензии семейства Криэйтив Коммонс, являются одним из стандартных инструментов управления интеллектуальной собственностью в современной творческой экономике.

В последнее время появляются и лицензии, которые со временем могут стать таким же стандартным инструментом для управления коммерциализацией данных и машинно-обученных моделей.

В отношении данных примером может быть Монреальская лицензия. А в отношении моделей — RAIL — Responsible AI License, отличительной чертой которой является приложение с перечнем ограничений на допустимые виды использования лицензируемой модели и производных от неё продуктов.

Ограничения основаны на ряде широко признаваемых руководящих документов, включая Этическое руководство по надёжному ИИ Европейской комиссии.

Лицензия изначально создавалась под семейство больших языковых моделей BLOOM, но вы можете использовать её (или создать текст на её основе) для своих проектов.
👍7
Хотите быть ближе к реальной проблематике ИИ?

Напомню, что бонусом всем подписавшимся на донаты к каналу предоставляется доступ к закрытой группе, где мы вместе изучаем фреймворки по риск-менеджменту для ИИ-систем.

Если вам в перспективе интересно попробовать силы в риск-менеджменте, работе в этических комитетах или внешнем аудите ИИ-компаний — присоединяйтесь к нам. Доступны бесплатные курсы.

Нажимайте кнопку в закреплённом наверху сообщении.
👍3
Robocounsel pinned Deleted message
По вчерашней демонстрации GPT-4

1. Мой совет остается в силе: если вы хотите использовать результаты работы чатбота в реальной жизни, вы должны тщательно проверить эти результаты на ошибки.

Вы также должны быть компетентны в соответствующей области знаний для такой проверки. Не субъективно компетентны в своём воображении или в силу раздутого чувства собственного достоинства. А объективно, как подтверждено дипломами, тестами, коллегами и людьми, которые платят вам деньги за работу в этой области. Если вам за работу в этой области не платят, вы не профессионал и, следовательно, не компетентны проверять результаты работы чатбота в этой области.

Вы также должны быть готовы взять на себя юридическую и моральную ответственность за любые пропущенные ошибки в результатах, которые вы получаете от чатбота и публикуете или используете где-либо за пределами чата.

2. Если честно, демонстрация налогового анализа, о которой все говорят, немного упрощена по сравнению с тем, что обычно представляет собой настоящий юридический анализ. Они скормили чатботу несколько страниц одного документа, в котором содержались все ответы, при этом было достаточно логики и буквального толкования текста нескольких страниц одного закона без анализа судебной практики.

В реальной жизни вчера мне пришлось просмотреть около 20 различных источников, определить, что нужно клиенту, какие акценты расставить и каких ключевых людей и организации мы должны привлечь. Я не мог ввести эти вводные в GPT-4, потому что это противоречило бы закону (незаконное раскрытие конфиденциальной информации неодобренному получателю (OpenAI) + незаконная обработка персональных данных субъектов данных в ЕС неуполномоченным разработчиком в США (OpenAI) в отсутствие соглашения об обработке данных + незаконная передача третьему лицу в США (OpenAI) в отсутствие адекватных гарантий, требуемых GDPR).

Я не говорю, что чатботы не могут быть полезны, я просто хочу сказать, что для впечатляющей демонстрации ОпенЭйАй нужно было бы учесть все юридические сложности выше и привести реальный пример, который потребует анализа не 10, а многих сотен страниц различных кодексов, законов и других нормативных актов. С определением, какие из них применимы, а какие нет.

И знаете что? Эти законы и НПА не идеально написаны и не всегда согласованы между собой. А также часто включают в себя ценностные категории типа "разумный" или "справедливый".

И толкование: иногда оно должно быть буквальным, иногда телеологическим, иногда историческим и т.д. И вы должны понимать, почему и когда.

Кроме того, нужно исследовать применимую судебную практику.

И в результате всего этого анализа на выходе у вас часто будет не один, а несколько вполне обоснованных и защищаемых возможных ответов.
👍34❤8🔥3👏1
Media is too big
VIEW IN TELEGRAM
Проведём эфир?

Напишите, что интересно обсудить и кого пригласить.
❤7🔥3
Impromptu: книга, написанная при помощи ГПТ-4

Прошлым летом Рид Хоффман, один из сооснователей ОпенЭйАй, как инсайдер получил ранний доступ к ГПТ-4. И решил использовать эту систему для помощи в подготовке книги, которую он вчера выложил у себя в Линкдине.

По тексту книги Рид беседует с ГПТ-4, приводит свои запросы (промты) и ответы системы, а также сопровождает это всё своим нарративом и комментариями.

Мне показался любопытным один из читательских комментариев на странице автора в Линкдине. Марк Ротенберг, основатель Центра искусственного интеллекта и цифровой политики, обратил внимание на то, какие когнитивные искажения прослеживаются в ответах ГПТ-4.

Так, на странице 44 книги, в ответ на просьбу автора изложить пессимистичный, оптимистичный и смешанный сценарии последствий своего применения в образовании, ГПТ-4 предложила варианты, которые в каждом случае сводились к тому, насколько активно её будут использовать.

В пессимистичном сценарии — это недостаточное использование модели, только в отдельных преподавательских и административных задачах, а в оптимистичном — максимальное использование больших языковых моделей во всех аспектах образовательного процесса.

Здесь я соглашусь с Марком: такой анализ довольно однобок, поскольку исходит из предположения о том, что языковые модели однозначное благо, как бы они не применялись, и злом является лишь их неиспользование.

В то время как, например, в моём представлении, прогнозы использования любой технологии могли бы быть построены, условно говоря, по Аристотелю:
1) злоупотребление или избыточное применение технологии,
2) адекватное применение технологии,
3) недоиспользование возможностей технологии.

В этой модели второй сценарий был бы оптимальным и оптимистичным, а первый и третий — негативными, пессимистичными.

Но, возможно это всё из-за моих когнитивных искажений и большего уважения к греческим философам, а не к евангелистам Силиконовой долины и фанатам технохайпа :)
👍7
Произведения, созданные с применением ИИ: регистрация прав в США

Бюро по авторским правам США (USCO) выпустило Руководство по регистрации авторских прав на произведения, содержащие результаты, созданные искусственным интеллектом.

1. Произведения, созданные с использованием ИИ, охраняются, если и творческий замысел, и конкретное выражение произведения (подбор, аранжировка) сделаны человеком, а ИИ использован лишь как вспомогательный инструмент.

2. Бюро считает, что произведения, созданные генеративными ИИ моделями с использованием исключительно запросов (промтов) пользователя, не создаются человеком. По мнению Бюро, в таких случаях пользователи не имеют решающего творческого контроля над тем, как такие системы интерпретируют запрос и создают результат. Следовательно, такие произведения не могут быть зарегистрированы Бюро.

3. Произведение, содержащее созданный ИИ результат, охраноспособно, если человек "творчески отобрал или расположил" созданный ИИ результат или изменил его в степени, достаточной для признания его охраноспособным.

Напомню, что недавно Бюро зарегистрировало право Кристины Каштановой на созданные ею охраноспособные элементы комикса (по сути сборника), содержащего иллюстрации, созданные Midjourney, но отказалось регистрировать её права на сами иллюстрации.

4. Заявители обязаны сообщать в Бюро, включили ли они в свою работу результаты, созданные ИИ, и предоставлять краткое объяснение вклада человека и ИИ в работу.

5. Решения о том, является ли конкретное произведение объектом авторского права, будут приниматься в каждом конкретном случае с учетом творческого вклада предполагаемого автора в создание произведения.

На основе обзора Дианы Бикбаевой.
🔥8❤1
Почему судью нельзя заменить большой языковой моделью

Судя по соцсетям, не все это понимают, поэтому объясню.

Начнем с того, что общее соображение о том, что большие языковые модели не способны заменить ничего стоящего в нашей жизни (хотя могут улучшить некоторые её аспекты), очень удачно раскрыл несколько месяцев назад Джон Уорнер в статье "ChatGPT can't kill anything worth preserving".

Теперь к основному вопросу: почему ЧатГПТ, ГПТ-4, -5, -n, ЛЛаМА, ККозёЛ, Шиншилла, в общем, любая существующая и перспективная языковая модель, построенная по тем же принципам, не может заменить судью.

Большая языковая модель не имеет внутренней модели внешнего мира. Она не рассуждает, и тем более не владеет весьма специфическим навыком правовой аргументации (legal reasoning).

Всё, что умеет делать любая большая языковая модель — это предсказывать следующее наиболее статистическое вероятное слово в цепочке уже сгенерированных на основе вашего запроса, исходя из корпуса текстов, на которых её обучали, с поправкой на дотренировку под присмотром подрядчиков-модераторов из Кении, труд которых оплачивался менее чем по два доллара в час.

Если совсем свести к сути, модель играется в статистический анализ корпуса текстов и подсказки на его основе. Это, упрощённо говоря, Т9 на стероидах.

Правовая аргументация (в нормальном мире) работает не так. Она не основана на статистическом предсказании слов, которые судья может написать в решении после того, что до этого уже в нём написал.

Она основана на анализе фактов конкретного дела и подборе и интерпретации норм права, практики и доктрины, применимых к фактам, при этом в одном деле интерпретация ноом будет буквальной, в другом телеологической, в третьем contra legem.

Статистический попугай в виде большой языковой модели может имитировать этот процесс, иногда правдоподобно, но эти процессы не тождественны и никогда не будут тождественны. По крайней мере, в любой правовой системе, где регулирующие эту систему люди не подпадают под технохайп, а думают головой, прежде чем внедрять в судопроизводство непонятно что.

В целом, всё что большие языковые модели делают — это имитация коммуникации. Вспомните Китайскую комнату Сёрля. Актуальна как никогда.
👍16🔥2