Robocounsel
1.95K subscribers
265 photos
18 videos
81 files
660 links
О регулировании и социальных аспектах применения ИИ и данных, преимущественно в ЕС. Публикации отражают сугубо личное мнение автора.

Контакт, вопросы: используйте кнопку 💬 в левом нижнем углу.

Шрифт в логотипе - Alex Murphy Solid от Goatmeal
Download Telegram
Технологическая защита и так более сильной стороны договора

В 2017 я на конференциях и в сети рассказывал про "передовой" американский опыт дистанционного отключения машин за неуплату кредита, по материалам тогда ещё свежего кейса.

Тогда это было в контексте прихода интернета вещей и перехода бизнеса на подписочные модели с продажных, а заодно и дискредитации владения и собственности как институтов.

А теперь добавляем сюда автомобильный ИИ и весь пазл складывается.

Форд ожидает патент на "достижение" в области автономного движения: в случае просрочки по кредиту машина сама уедет к банку-залогодержателю. Очень удобно!

Интернет вещей + подписка вместо собственности либо залог с технологическим обеспечением самозащиты сильной стороны договора + достижения в области ИИ и робототехники + щепотка вашей любимой антиутопии = будущее, которое мы заслужили.

Баланс интересов? Защита более слабой стороны договора? Злоупотребление правом? Эти термины, видимо, устарели.
👍9😱6
Первая яркая утечка данных пользователей ЧатГПТ

Руководитель ОпенЭйАй признался, что в системе был обнаружен баг, благодаря которому пользователи могли увидеть заголовки истории чужих чатов.

Утверждается, что проблема сейчас устранена.

Также хотелось бы напомнить, что согласно пользовательскому соглашению все поступающие в чатбот данные могут использоваться для дальнейшего обучения системы, если вы не заполнили форму с отказом от этой возможности.

Перед направлением любых запросов чатботу убедитесь, что вы удалили из своего запроса все персональные данные и всю конфиденциальную информацию.
👍4
Большие языковые модели для всех

Компания "Датабрикс" сегодня открыла свободный доступ к коду Dolly, модели, по функционалу напоминающей большую языковую модель ЧатГПТ.

Модель представляет собой надстройку над моделью EleutherAI двухлетней давности (также с открытым исходным кодом), однако за счёт дообучения на небольшом, но качественном датасете, научена следовать текстовым командам аналогично ЧатГПТ. Первоначальная модель таким функционалам не обладала. При этом обучение потребовало одного сервера, трёх часов времени и обошлось в 30 долларов.

По словам руководителя "Датабрикс" Али Годси, этот пример показывает, что большие языковые модели — не прерогатива крупнейших технологических гигантов, а инструмент, вполне доступный даже для стартапов и энтузиастов.
👍8
Генеративный ИИ: где стоит и не стоит применять?

Блестящая статья Барака Туровского поможет с ответом на этот вопрос.

Автор предлагает нам раскладывать сценарии применения генеративного ИИ на графике с 2 осями:
1) требуемая убедительность и выразительность результатов (fluency);
2) требуемая достоверность результатов (accuracy).

Также значимы:
3) цена ошибки (зелёным отмечены менее, а красным — более рискованные сценарии);
4) масштабность применения (мультиплицирует риски).

Основная проблема систем генеративного ИИ — их низкая достоверность. При этом их конструктивные особенности затрудняют одновременное повышение и достоверности, и убедительности (выразительности).

Когда система генеративного ИИ выдаёт неправду — это убедительная неправда (вспомните ЧатГПТ).

Улучшение же достоверности системы требует нелинейно большего количества данных для обучения, и даже при этом не гарантировано.

Нетривиальны и сложности с монетизацией применения генеративного ИИ.

Разработчикам выгоднее всего сосредоточить усилия на...(продолжение с выводами о монетизации — по подписке в закрытом канале Robocounsel Plus).
👍7😁2❤1
Tap the button below to get paid access to "Robocounsel +".​
❤3
Robocounsel pinned «Tap the button below to get paid access to "Robocounsel +".​»
Robocounsel
Большие языковые модели для всех Компания "Датабрикс" сегодня открыла свободный доступ к коду Dolly, модели, по функционалу напоминающей большую языковую модель ЧатГПТ. Модель представляет собой надстройку над моделью EleutherAI двухлетней давности (также…
Альпака — ещё один клон ЧатГПТ, обученный за 600 долларов

В продолжение темы темы с "демократизацией" больших языковых моделей. Исследователи из Стэнфорда сделали свой клон ЧатГПТ — Alpaca, дообучив модель LLaMa 7B компании "Мета" методом файнтюнинга. Расходы на это, по словам учёных, составили, 600 долларов.

В то же время, долго модель не прожила. Исследователи закрыли проект спустя несколько дней.

По их словам, они достигли цели своего эксперимента — показать, как можно недорого клонировать уже популярные модели.

В то же время, их модель так же, как и её аналоги от ОпенЭйАй и Майкрософт, страдает "галлюцинациями" (часто генерирует ложную информацию).

При этом многомиллионных ресурсов на постоянное дообучение, как у больших компаний, у исследователей нет. Поэтому оставлять Альпаку работающей и доступной всем желающим в существующем виде они посчитали неэтичным.
👍7
Способен ли ИИ написать статью в юридический журнал?

Пока нет, так как для этого нужно обладать общим интеллектом и способностью ставить и достигать сложные цели, в том числе договориться с редактором, чтобы опубликовали.

Всех этих способностей нет у современных систем искусственного интеллекта, но они есть у Романа Янковского.

Поэтому такую статью написал он, а не искусственный интеллект, но последний ему пригодился как инструмент, в том числе вся первая часть статьи была подготовлена с его помощью.

Читаем.
❤10🔥1
Генеративный ИИ: практические рекомендации для применения в бизнесе

О генеративном ИИ — ЧатГПТ, Миджорни и т. д. — нынче пишут многие. Кто-то преувеличивает возможности, кто-то фокусируется на рисках.

Но очень мало практических рекомендаций — для инвесторов, для ИИ-стартапов и для организаций, которые думают об ответственном внедрении генеративного ИИ в свою работу.

Чтобы исправить эту ситуацию, я начинаю проводить вебинары.

14 апреля (пт), в 15:00 по Москве — на английском, с оплатой иностранными картами, регистрация здесь.
21 апреля (пт), в 10:00 по Москве — на русском, с оплатой российскими картами, регистрация здесь.

Для подписчиков закрытого канала Robocounsel Plus доступна скидка 30% на версию на английском по промокоду.

Присоединяйтесь!
👍4🔥3
Вы используете большие языковые модели или продукты на их основе (GPT-4, ChatGPT, Bing, Bard, и т.п.)?

В комментариях поделитесь, для каких именно задач.
Anonymous Poll
21%
Да, в том числе в работе, за которую платят деньги
14%
В оплачиваемой работе нет, но для серьёзных личных задач — да
31%
Только для развлечения
35%
Не использую вовсе
CIPP/E — ваш пропуск для работы с персональными данными в Европе

А у меня отличные новости — полку сертифицированных по CIPP/E специалистов по работе с персональными данными прибыло. Моя подписчица Ксения успешно сдала экзамен, и написала мне сегодня:

"Александр, добрый день! Спасибо еще раз за гайд по подготовке к CIPP/E, очень помог!)"

Если вы тоже задумываетесь над тем, чтобы сертифицироваться как эксперт по европейскому регулированию персональных данных и улучшить свои карьерные перспективы — приобретайте доступ к моему руководству сейчас.

До конца марта оно было доступно по старой цене. С 1 апреля цена составляет 3000 рублей. Приобрести можно здесь.
❤7🔥3👍1
Почему призыв остановить разработку новых языковых моделей не имеет смысла

Вы могли заметить, что недавно появилось письмо с призывом на полгода заморозить "гонку ИИ-вооружений" — приостановить разработку больших языковых моделей более сложных, чем ГПТ-4. Письмо подписано многими известными людьми, хотя чуть позже стало известно, что некоторые подписанты — фейковые.

Некоторые коллеги поспешили провозгласить это письмо знаковым событием. Они отметили, что поставленные в письме проблемы: риски замены всех людей на ИИ на рабочих местах, риски "утраты контроля за нашей цивилизацией" — это якобы важные вопросы "этического регулирования" ИИ.

В действительности же это письмо — скорее вредно, чем полезно. Моё мнение здесь совпадает с мнением коллег, опрошенных при подготовке этой статьи.

Прежде всего, письмо переключает общественное внимание с реально существующих и важных прямо сейчас проблем с ИИ на футуристические.

Тут уместно сравнение с заезженной псевдопроблемой вагонетки. Люди, не разбирающиеся в настоящей этике ИИ (работе в этических комитетах), часто приводят её в пример как якобы реальную проблему, которую должен решать автономный автомобиль: кого убивать, а кого спасать в случае столкновений на дороге.

В то время, как настоящие автономные автомобили проектируются так, чтобы они просто стремились избегать столкновения (collision avoidance).

Никакой инженер в здравом уме не будет закладывать в автомобиль алгоритм выбора цели столкновения (targeting algorithm), потому что это превратило бы гражданский автомобиль в оружие, а его применение в невоенных целях приводило бы к уголовной ответственности для всех причастных, включая инженера.

Равным образом, письмо об остановке разработки систем "мощнее ГПТ-4" игнорирует очевидные проблемы, которые представляет бесконтрольные разработка и применение уже существующих систем, типа самой ГПТ-4 и её предшественников.

Сами разработчики не вполне представляют в деталях, как именно эти — уже существующие системы — решают задачи.

Не решена проблема выдачи недостоверной информации. Проблема управления рисками нерепрезентативности выборок, на которых обучают системы. Проблема риск-менеджмента на стороне разработчиков. Проблема адекватных критериев для закупки таких систем. Проблема адекватных правил и процедур их применения на стороне клиентов, которые эти системы начинают эксплуатировать.

Не адресуется ни одна из реальных проблем, которые я буду разбирать на своих вебинарах, и для которых я описываю реальные механизмы их решения.

Потому что обществу и бизнесу нужны реальные решения реальных проблем с разработкой и внедрением систем ИИ, а не бессмысленные призывы к приостановке их разработки и увод в сторону под прикрытием тезисов из научной фантастики.
👍14❤1🤔1
PRESS-CAIDP-OpenAI-FTC-Complaint.pdf
605.5 KB
ОпенЭйАй подозревают в нарушении прав потребителей

Американская некоммерческая организация (НКО) "Центр по ИИ и цифровой политике" подала жалобу на компанию в Федеральную торговую комиссию (ФТК) США. В жалобе утверждается, что ОпенЭйАй при выводе на рынок продукта ГПТ-4 нарушила руководящие документы ФТК и требования федерального законодательства о защите прав потребителей.

Ссылаясь на карточку продукта, опубликованную самой компанией, НКО утверждает, что компания вводит потребителей в заблуждение, а продукт имеет множественные недостатки, в том числе в части кибербезопасности, и представляет угрозу для неприкосновенности частной жизни и общественной безопасности.

В связи с этим заявитель просит открыть в отношении ОпенЭйАй расследование и приостановить обращение её продуктов на рынке.
👍5🤔3
Вперёд в прошлое: "демократизация" ИИ, которой не произошло

Какая ирония! 2016 год, Альтман (гендиректор ОпенЭйАй) берёт интервью у Маска (тогда сооснователя). И задаёт ему вопрос про развитие ИИ.

Маск отвечает (11:41), что основной риск в том, что разработка ведущих ИИ-продуктов будет монополизирована лидерами рынка. Именно поэтому нужно движение в обратную сторону: "демократизация" доступа к разработкам в области ИИ.

Это, как вы понимаете, было одним из мотивов создания ОпенЭйАй... превратившегося нынче в одного из тех самых монополистов-лидеров рынка, закрывшего от публики и исследователей свою новейшую разработку тотчас же после появления реальных перспектив её монетизации.
👍10
Robocounsel
Почему призыв остановить разработку новых языковых моделей не имеет смысла Вы могли заметить, что недавно появилось письмо с призывом на полгода заморозить "гонку ИИ-вооружений" — приостановить разработку больших языковых моделей более сложных, чем ГПТ-4.…
Давайте пока не будем бомбить ЦОДы

Письмом Future of Life с призывом на полугодовой (как минимум) глобальный мораторий на разработку новых ИИ-систем "мощнее ГПТ-4" дело не окончилось.

Со своей, ещё более радикальной позицией выступил и господин Юдковский.

Переквалифицировавшись (я надеюсь, временно) из специалиста по ИИ-безопасности в эксперта по глобальной политике и вооружениям, господин Юдковский призвал срочно закрепить тот же мораторий на международном уровне и под угрозой бомбардировок любых центров обработки данных, где будет замечено обучение человековраждебного ИИ.

При этом он подчеркнул, что от таких ударов нельзя отказываться даже если страна, в которой это происходит, будет готова нанести ответный ядерный удар по "защитникам человечества". Потому что защита от ИИ важнее.

С учётом такого накала страстей было невозможно не написать статью.
😁6🤔2
Robocounsel
CIPP/E — ваш пропуск для работы с персональными данными в Европе А у меня отличные новости — полку сертифицированных по CIPP/E специалистов по работе с персональными данными прибыло. Моя подписчица Ксения успешно сдала экзамен, и написала мне сегодня: "Александр…
Кто не успел, тот ещё может успеть

Хотя с 1 апреля цена доступа к руководству по подготовке к CIPP/E увеличилась до 3000 рублей, вы ещё можете сэкономить. Обратитесь к своим знакомым — всем, кто уже приобрёл руководство, я по запросу выдаю личные промокоды на скидку для их знакомых и друзей.

Если таких знакомых у вас нет — спросите в нашем чате.

Если у вас на это нет времени, просто приобретайте доступ здесь, по ссылке ниже.
❤3
Британский подход к регулированию ИИ

На истекшей неделе британское правительство опубликовало доклад, описывающий их подход к регулированию применения искусственного интеллекта.

Был выбран вариант, при котором регуляторные полномочия делегированы существующим отраслевым органам. Этим органам на первоначальном этапе предлагается в добровольном порядке рассмотреть общие принципы регулирования, предложенные правительством. В перспективе, исходя из плана законодательной работы, эти общие принципы также будут обсуждены в парламенте и закреплены в законе.

Также опубликована оценка регулирующего воздействия. Исходя из неё, рассматривались следующие варианты:

Вариант 0 - "Ничего не делать". Основан на предположении, что ЕС примет Регламент об искусственном интеллекте в первоначальной редакции от апреля 2021 года. Великобритания не принимает никаких нормативных требований в отношении ИИ.

Вариант 1 - Делегировать полномочия существующим отраслевым органам, которым будет рекомендовано следовать принципам, предлагаемым правительством. Мягкий вариант, при котором существующие отраслевые органы реализуют межотраслевые принципы в рамках своих полномочий.

Вариант 2 - Делегирование полномочий существующим отраслевым органам, которые будут обязаны следовать принципам, установленным правительством, при поддержке национального регулятора (Выбранный вариант). Новые обязательства для предприятий самим правительством не устанавливаются.

Вариант 3 - Централизованное регулирование с новыми законодательными требованиями к применению ИИ. Великобритания создает новый орган по централизованному регулированию ИИ и устанавливает для предприятий обязательные требования, гармонизированные с требованиями Регламента ЕС об ИИ.
👍3
Опрос для работающих в сфере образования

Коллега в связи с подготовкой магистерской работы проводит опрос по поводу этики, возможностей и рисков использования генеративного ИИ в образовании.

Если вам интересно поучаствовать и вам есть, что сказать, присылайте свой адрес эл. почты на @robocounsel_bot с пометкой Education.

Анкета на английском.
👍2
Проектируемая оспоримость автоматизированных решений

Юристам, работающим с персональными данными, уже известен родственный этому термин.

Это конструктивная, или проектируемая, совместимость с требованиями законодательства о персональных данных.

Если используемая вами информационная система обрабатывает персональные данные, но спроектирована без учёта требований закона — у вас могут быть проблемы. Вы уже можете нарушать закон.

Несколько лет назад я развил эту идею, предложив и вместе с коллегами сформулировав для систем искусственного интеллекта более широкий принцип — принцип их проектируемого соответствия закону:

Применение системы искусственного интеллекта не должно — заведомо для разработчика — приводить к нарушению правовых норм.

То, что благодаря именно моему вкладу в разработку текста Концепции регулирования ИИ, этот принцип в 2020 году стал частью правовой системы России — я считаю одним из моих главных жизненных достижений.

Производным от этого принципа является принцип оспоримости автоматизированных решений.

Он означает, что всякое автоматизированное решение, влияющее на права и интересы граждан, должно быть объяснимо и понятно.

Причём в такой степени, чтобы у человека была реальная возможность подсветить и оспорить (в суде или другом органе) любые неточности и ошибки в данных или логике, на основе которых принято решение.

Потому что если у человека уже есть по закону право оспорить какое-то решение другого человека, органа или организации, это право на оспаривание не может магически исчезать после того, как вместо человека то же решение станет принимать ИИ.

Соответственно, за счёт этого принципа, необъяснимые системы типа "чёрный ящик", к сожалению для их жаждущих лёгкой прибыли разработчиков, и к счастью для всех нас, никогда не смогут быть использованы ни в суде, ни полицией, ни каким иным органом, который решает судьбы людей.

Статья коллег развивает научную дискуссию на эту тему и поможет в правоприменении по будущему Регламенту ЕС об ИИ, который уже содержит принцип объяснимости.
👍20👏3❤2
Мета меняет основание обработки данных на законный интерес

Такие правила будут действовать для пользователей Фейсбука и Инстаграма, находящихся в Евросоюзе, начиная с 5 апреля, сообщает компания.

По данным источников Уолл-Стрит Джорнел, эти пользователи через специальную форму смогут заявить возражение, при удовлетворении которого компания перестанет обрабатывать их персональные данные для показа индивидуализированной рекламы. В этом случае реклама будет индивидуализироваться на основании более широких категорий, таких как возрастная группа и примерный регион проживания.

Ранее компания обрабатывала персональные данные пользователей для индивидуализированной рекламы на основании договора (пользовательского соглашения), однако эта практика была признана незаконной надзорным органом по жалобе прайваси-активистов из NOYB.

Деятельность Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook и Instagram запрещена в РФ
🔥8