Robocounsel
1.95K subscribers
265 photos
18 videos
80 files
659 links
О регулировании и социальных аспектах применения ИИ и данных, преимущественно в ЕС. Публикации отражают сугубо личное мнение автора.

Контакт, вопросы: используйте кнопку 💬 в левом нижнем углу.

Шрифт в логотипе - Alex Murphy Solid от Goatmeal
Download Telegram
Майкрософт: на следующей неделе мы представим ГПТ-4

Такой новостью поделился технический директор Майкрософт в Германии Андреас Браун.

Модель будет мультимодальной, что подразумевает возможность генерации не только текста, но и, например, видео.

Управляющий директор Майкрософт в Германии Марианна Яник сравнила недавнюю популяризацию ЧатГПТ с эффектом Айфона ранее и отметила, что компаниям пора создавать центры компетенций и обучать своих сотрудников работе с генеративным ИИ.

"У нас в Германии много легаси-систем, с которых пора мигрировать на новые решения".

Технические эксперты компании также поделились опытом своих клиентов с уже существующими решениями.

Так, один из клиентов с колл-центром, принимающим 30 тысяч звонков в день, за счёт распознавания речи исключил необходимость ручного заполнения операторами анкет ("тикетов"), получив экономию в 500 человеко-часов в день.

Прототип этого проекта на инструментах Майкрософт был создан одним разработчиком, за 2 часа, а его развёртывание заняло 2 недели плюс время на доработку до финального решения.
👍2
Лицензии на использование машинно-обученных моделей на примере RAIL

Специалистам по интеллектуальной собственности давно известен целый набор популярных лицензий на использование программного обеспечения с открытым кодом.

Этих лицензии, так же как лицензии семейства Криэйтив Коммонс, являются одним из стандартных инструментов управления интеллектуальной собственностью в современной творческой экономике.

В последнее время появляются и лицензии, которые со временем могут стать таким же стандартным инструментом для управления коммерциализацией данных и машинно-обученных моделей.

В отношении данных примером может быть Монреальская лицензия. А в отношении моделей — RAIL — Responsible AI License, отличительной чертой которой является приложение с перечнем ограничений на допустимые виды использования лицензируемой модели и производных от неё продуктов.

Ограничения основаны на ряде широко признаваемых руководящих документов, включая Этическое руководство по надёжному ИИ Европейской комиссии.

Лицензия изначально создавалась под семейство больших языковых моделей BLOOM, но вы можете использовать её (или создать текст на её основе) для своих проектов.
👍7
Хотите быть ближе к реальной проблематике ИИ?

Напомню, что бонусом всем подписавшимся на донаты к каналу предоставляется доступ к закрытой группе, где мы вместе изучаем фреймворки по риск-менеджменту для ИИ-систем.

Если вам в перспективе интересно попробовать силы в риск-менеджменте, работе в этических комитетах или внешнем аудите ИИ-компаний — присоединяйтесь к нам. Доступны бесплатные курсы.

Нажимайте кнопку в закреплённом наверху сообщении.
👍3
Robocounsel pinned Deleted message
По вчерашней демонстрации GPT-4

1. Мой совет остается в силе: если вы хотите использовать результаты работы чатбота в реальной жизни, вы должны тщательно проверить эти результаты на ошибки.

Вы также должны быть компетентны в соответствующей области знаний для такой проверки. Не субъективно компетентны в своём воображении или в силу раздутого чувства собственного достоинства. А объективно, как подтверждено дипломами, тестами, коллегами и людьми, которые платят вам деньги за работу в этой области. Если вам за работу в этой области не платят, вы не профессионал и, следовательно, не компетентны проверять результаты работы чатбота в этой области.

Вы также должны быть готовы взять на себя юридическую и моральную ответственность за любые пропущенные ошибки в результатах, которые вы получаете от чатбота и публикуете или используете где-либо за пределами чата.

2. Если честно, демонстрация налогового анализа, о которой все говорят, немного упрощена по сравнению с тем, что обычно представляет собой настоящий юридический анализ. Они скормили чатботу несколько страниц одного документа, в котором содержались все ответы, при этом было достаточно логики и буквального толкования текста нескольких страниц одного закона без анализа судебной практики.

В реальной жизни вчера мне пришлось просмотреть около 20 различных источников, определить, что нужно клиенту, какие акценты расставить и каких ключевых людей и организации мы должны привлечь. Я не мог ввести эти вводные в GPT-4, потому что это противоречило бы закону (незаконное раскрытие конфиденциальной информации неодобренному получателю (OpenAI) + незаконная обработка персональных данных субъектов данных в ЕС неуполномоченным разработчиком в США (OpenAI) в отсутствие соглашения об обработке данных + незаконная передача третьему лицу в США (OpenAI) в отсутствие адекватных гарантий, требуемых GDPR).

Я не говорю, что чатботы не могут быть полезны, я просто хочу сказать, что для впечатляющей демонстрации ОпенЭйАй нужно было бы учесть все юридические сложности выше и привести реальный пример, который потребует анализа не 10, а многих сотен страниц различных кодексов, законов и других нормативных актов. С определением, какие из них применимы, а какие нет.

И знаете что? Эти законы и НПА не идеально написаны и не всегда согласованы между собой. А также часто включают в себя ценностные категории типа "разумный" или "справедливый".

И толкование: иногда оно должно быть буквальным, иногда телеологическим, иногда историческим и т.д. И вы должны понимать, почему и когда.

Кроме того, нужно исследовать применимую судебную практику.

И в результате всего этого анализа на выходе у вас часто будет не один, а несколько вполне обоснованных и защищаемых возможных ответов.
👍34❤8🔥3👏1
Media is too big
VIEW IN TELEGRAM
Проведём эфир?

Напишите, что интересно обсудить и кого пригласить.
❤7🔥3
Impromptu: книга, написанная при помощи ГПТ-4

Прошлым летом Рид Хоффман, один из сооснователей ОпенЭйАй, как инсайдер получил ранний доступ к ГПТ-4. И решил использовать эту систему для помощи в подготовке книги, которую он вчера выложил у себя в Линкдине.

По тексту книги Рид беседует с ГПТ-4, приводит свои запросы (промты) и ответы системы, а также сопровождает это всё своим нарративом и комментариями.

Мне показался любопытным один из читательских комментариев на странице автора в Линкдине. Марк Ротенберг, основатель Центра искусственного интеллекта и цифровой политики, обратил внимание на то, какие когнитивные искажения прослеживаются в ответах ГПТ-4.

Так, на странице 44 книги, в ответ на просьбу автора изложить пессимистичный, оптимистичный и смешанный сценарии последствий своего применения в образовании, ГПТ-4 предложила варианты, которые в каждом случае сводились к тому, насколько активно её будут использовать.

В пессимистичном сценарии — это недостаточное использование модели, только в отдельных преподавательских и административных задачах, а в оптимистичном — максимальное использование больших языковых моделей во всех аспектах образовательного процесса.

Здесь я соглашусь с Марком: такой анализ довольно однобок, поскольку исходит из предположения о том, что языковые модели однозначное благо, как бы они не применялись, и злом является лишь их неиспользование.

В то время как, например, в моём представлении, прогнозы использования любой технологии могли бы быть построены, условно говоря, по Аристотелю:
1) злоупотребление или избыточное применение технологии,
2) адекватное применение технологии,
3) недоиспользование возможностей технологии.

В этой модели второй сценарий был бы оптимальным и оптимистичным, а первый и третий — негативными, пессимистичными.

Но, возможно это всё из-за моих когнитивных искажений и большего уважения к греческим философам, а не к евангелистам Силиконовой долины и фанатам технохайпа :)
👍7
Произведения, созданные с применением ИИ: регистрация прав в США

Бюро по авторским правам США (USCO) выпустило Руководство по регистрации авторских прав на произведения, содержащие результаты, созданные искусственным интеллектом.

1. Произведения, созданные с использованием ИИ, охраняются, если и творческий замысел, и конкретное выражение произведения (подбор, аранжировка) сделаны человеком, а ИИ использован лишь как вспомогательный инструмент.

2. Бюро считает, что произведения, созданные генеративными ИИ моделями с использованием исключительно запросов (промтов) пользователя, не создаются человеком. По мнению Бюро, в таких случаях пользователи не имеют решающего творческого контроля над тем, как такие системы интерпретируют запрос и создают результат. Следовательно, такие произведения не могут быть зарегистрированы Бюро.

3. Произведение, содержащее созданный ИИ результат, охраноспособно, если человек "творчески отобрал или расположил" созданный ИИ результат или изменил его в степени, достаточной для признания его охраноспособным.

Напомню, что недавно Бюро зарегистрировало право Кристины Каштановой на созданные ею охраноспособные элементы комикса (по сути сборника), содержащего иллюстрации, созданные Midjourney, но отказалось регистрировать её права на сами иллюстрации.

4. Заявители обязаны сообщать в Бюро, включили ли они в свою работу результаты, созданные ИИ, и предоставлять краткое объяснение вклада человека и ИИ в работу.

5. Решения о том, является ли конкретное произведение объектом авторского права, будут приниматься в каждом конкретном случае с учетом творческого вклада предполагаемого автора в создание произведения.

На основе обзора Дианы Бикбаевой.
🔥8❤1
Почему судью нельзя заменить большой языковой моделью

Судя по соцсетям, не все это понимают, поэтому объясню.

Начнем с того, что общее соображение о том, что большие языковые модели не способны заменить ничего стоящего в нашей жизни (хотя могут улучшить некоторые её аспекты), очень удачно раскрыл несколько месяцев назад Джон Уорнер в статье "ChatGPT can't kill anything worth preserving".

Теперь к основному вопросу: почему ЧатГПТ, ГПТ-4, -5, -n, ЛЛаМА, ККозёЛ, Шиншилла, в общем, любая существующая и перспективная языковая модель, построенная по тем же принципам, не может заменить судью.

Большая языковая модель не имеет внутренней модели внешнего мира. Она не рассуждает, и тем более не владеет весьма специфическим навыком правовой аргументации (legal reasoning).

Всё, что умеет делать любая большая языковая модель — это предсказывать следующее наиболее статистическое вероятное слово в цепочке уже сгенерированных на основе вашего запроса, исходя из корпуса текстов, на которых её обучали, с поправкой на дотренировку под присмотром подрядчиков-модераторов из Кении, труд которых оплачивался менее чем по два доллара в час.

Если совсем свести к сути, модель играется в статистический анализ корпуса текстов и подсказки на его основе. Это, упрощённо говоря, Т9 на стероидах.

Правовая аргументация (в нормальном мире) работает не так. Она не основана на статистическом предсказании слов, которые судья может написать в решении после того, что до этого уже в нём написал.

Она основана на анализе фактов конкретного дела и подборе и интерпретации норм права, практики и доктрины, применимых к фактам, при этом в одном деле интерпретация ноом будет буквальной, в другом телеологической, в третьем contra legem.

Статистический попугай в виде большой языковой модели может имитировать этот процесс, иногда правдоподобно, но эти процессы не тождественны и никогда не будут тождественны. По крайней мере, в любой правовой системе, где регулирующие эту систему люди не подпадают под технохайп, а думают головой, прежде чем внедрять в судопроизводство непонятно что.

В целом, всё что большие языковые модели делают — это имитация коммуникации. Вспомните Китайскую комнату Сёрля. Актуальна как никогда.
👍16🔥2
Технологическая защита и так более сильной стороны договора

В 2017 я на конференциях и в сети рассказывал про "передовой" американский опыт дистанционного отключения машин за неуплату кредита, по материалам тогда ещё свежего кейса.

Тогда это было в контексте прихода интернета вещей и перехода бизнеса на подписочные модели с продажных, а заодно и дискредитации владения и собственности как институтов.

А теперь добавляем сюда автомобильный ИИ и весь пазл складывается.

Форд ожидает патент на "достижение" в области автономного движения: в случае просрочки по кредиту машина сама уедет к банку-залогодержателю. Очень удобно!

Интернет вещей + подписка вместо собственности либо залог с технологическим обеспечением самозащиты сильной стороны договора + достижения в области ИИ и робототехники + щепотка вашей любимой антиутопии = будущее, которое мы заслужили.

Баланс интересов? Защита более слабой стороны договора? Злоупотребление правом? Эти термины, видимо, устарели.
👍9😱6
Первая яркая утечка данных пользователей ЧатГПТ

Руководитель ОпенЭйАй признался, что в системе был обнаружен баг, благодаря которому пользователи могли увидеть заголовки истории чужих чатов.

Утверждается, что проблема сейчас устранена.

Также хотелось бы напомнить, что согласно пользовательскому соглашению все поступающие в чатбот данные могут использоваться для дальнейшего обучения системы, если вы не заполнили форму с отказом от этой возможности.

Перед направлением любых запросов чатботу убедитесь, что вы удалили из своего запроса все персональные данные и всю конфиденциальную информацию.
👍4
Большие языковые модели для всех

Компания "Датабрикс" сегодня открыла свободный доступ к коду Dolly, модели, по функционалу напоминающей большую языковую модель ЧатГПТ.

Модель представляет собой надстройку над моделью EleutherAI двухлетней давности (также с открытым исходным кодом), однако за счёт дообучения на небольшом, но качественном датасете, научена следовать текстовым командам аналогично ЧатГПТ. Первоначальная модель таким функционалам не обладала. При этом обучение потребовало одного сервера, трёх часов времени и обошлось в 30 долларов.

По словам руководителя "Датабрикс" Али Годси, этот пример показывает, что большие языковые модели — не прерогатива крупнейших технологических гигантов, а инструмент, вполне доступный даже для стартапов и энтузиастов.
👍8
Генеративный ИИ: где стоит и не стоит применять?

Блестящая статья Барака Туровского поможет с ответом на этот вопрос.

Автор предлагает нам раскладывать сценарии применения генеративного ИИ на графике с 2 осями:
1) требуемая убедительность и выразительность результатов (fluency);
2) требуемая достоверность результатов (accuracy).

Также значимы:
3) цена ошибки (зелёным отмечены менее, а красным — более рискованные сценарии);
4) масштабность применения (мультиплицирует риски).

Основная проблема систем генеративного ИИ — их низкая достоверность. При этом их конструктивные особенности затрудняют одновременное повышение и достоверности, и убедительности (выразительности).

Когда система генеративного ИИ выдаёт неправду — это убедительная неправда (вспомните ЧатГПТ).

Улучшение же достоверности системы требует нелинейно большего количества данных для обучения, и даже при этом не гарантировано.

Нетривиальны и сложности с монетизацией применения генеративного ИИ.

Разработчикам выгоднее всего сосредоточить усилия на...(продолжение с выводами о монетизации — по подписке в закрытом канале Robocounsel Plus).
👍7😁2❤1
Tap the button below to get paid access to "Robocounsel +".​
❤3
Robocounsel pinned «Tap the button below to get paid access to "Robocounsel +".​»
Robocounsel
Большие языковые модели для всех Компания "Датабрикс" сегодня открыла свободный доступ к коду Dolly, модели, по функционалу напоминающей большую языковую модель ЧатГПТ. Модель представляет собой надстройку над моделью EleutherAI двухлетней давности (также…
Альпака — ещё один клон ЧатГПТ, обученный за 600 долларов

В продолжение темы темы с "демократизацией" больших языковых моделей. Исследователи из Стэнфорда сделали свой клон ЧатГПТ — Alpaca, дообучив модель LLaMa 7B компании "Мета" методом файнтюнинга. Расходы на это, по словам учёных, составили, 600 долларов.

В то же время, долго модель не прожила. Исследователи закрыли проект спустя несколько дней.

По их словам, они достигли цели своего эксперимента — показать, как можно недорого клонировать уже популярные модели.

В то же время, их модель так же, как и её аналоги от ОпенЭйАй и Майкрософт, страдает "галлюцинациями" (часто генерирует ложную информацию).

При этом многомиллионных ресурсов на постоянное дообучение, как у больших компаний, у исследователей нет. Поэтому оставлять Альпаку работающей и доступной всем желающим в существующем виде они посчитали неэтичным.
👍7
Способен ли ИИ написать статью в юридический журнал?

Пока нет, так как для этого нужно обладать общим интеллектом и способностью ставить и достигать сложные цели, в том числе договориться с редактором, чтобы опубликовали.

Всех этих способностей нет у современных систем искусственного интеллекта, но они есть у Романа Янковского.

Поэтому такую статью написал он, а не искусственный интеллект, но последний ему пригодился как инструмент, в том числе вся первая часть статьи была подготовлена с его помощью.

Читаем.
❤10🔥1
Генеративный ИИ: практические рекомендации для применения в бизнесе

О генеративном ИИ — ЧатГПТ, Миджорни и т. д. — нынче пишут многие. Кто-то преувеличивает возможности, кто-то фокусируется на рисках.

Но очень мало практических рекомендаций — для инвесторов, для ИИ-стартапов и для организаций, которые думают об ответственном внедрении генеративного ИИ в свою работу.

Чтобы исправить эту ситуацию, я начинаю проводить вебинары.

14 апреля (пт), в 15:00 по Москве — на английском, с оплатой иностранными картами, регистрация здесь.
21 апреля (пт), в 10:00 по Москве — на русском, с оплатой российскими картами, регистрация здесь.

Для подписчиков закрытого канала Robocounsel Plus доступна скидка 30% на версию на английском по промокоду.

Присоединяйтесь!
👍4🔥3
Вы используете большие языковые модели или продукты на их основе (GPT-4, ChatGPT, Bing, Bard, и т.п.)?

В комментариях поделитесь, для каких именно задач.
Anonymous Poll
21%
Да, в том числе в работе, за которую платят деньги
14%
В оплачиваемой работе нет, но для серьёзных личных задач — да
31%
Только для развлечения
35%
Не использую вовсе