Robocounsel
1.95K subscribers
265 photos
18 videos
80 files
659 links
О регулировании и социальных аспектах применения ИИ и данных, преимущественно в ЕС. Публикации отражают сугубо личное мнение автора.

Контакт, вопросы: используйте кнопку 💬 в левом нижнем углу.

Шрифт в логотипе - Alex Murphy Solid от Goatmeal
Download Telegram
7 шагов: никогда ещё Штирлиц не был так близок к провалу

Исследователи американского Института инженеров электротехники и электроники разработали систему, биометрически идентифицирующую посетителя здания через напольные датчики.

Датчики замеряют структурную вибрацию, создаваемую при ходьбе, а подключенная к ним система позволяет сопоставить эти данные с ранее полученным биометрическим образцом и установить или подтвердить личность с точностью 93-98% (в зависимости от материала полов) уже после семи шагов.

Среди преимуществ системы авторы отмечают, в частности, возможность скрытной установки датчиков и сложность намеренной имитации чужой походки.
😱16🔥3👍2
На пути к стандартизации соглашений об использовании данных

Исследователи из Швейцарии и Франции предложили стандартизировать данные соглашения по аналогии с тем, как это сделано для контента в рамках лицензий Криэйтив Коммонс (CC).

Напомню, что CC-лицензии являются глобальным де-факто стандартом, снижающим транзакционные издержки при предоставлении лицензий на объекты авторского права онлайн.

Указание простой формулы (типа CC BY SA) позволяет быстро и недвусмысленно определить, как именно вы разрешаете другим использовать свои работы — авторам нет необходимости разрабатывать или искать подходящий текст лицензионного соглашения, а пользователям сразу ясно, в каких пределах им позволено использовать чужие работы.

В контексте международной торговли товарами аналогичную функцию выполняют ИНКОТЕРМС, где трёхбуквенное обозначение (например, DDP) позволяет чётко и однозначно закрепить распределение рисков и обязанностей между сторонами сделки.

Данные являются "сырьём" для всех современных нематериальных активов, включая в первую очередь модели машинного обучения, лежащие в основе большинства передовых ИТ-продуктов.

Как человеку с опытом договорной работы и сопровождения коммерческих сделок, мне представляется, что все элементы, которые сейчас позиционируются авторами как обязательные (Clause 3) надо сделать опциональными, поскольку первые два из них (прайваси-требования и право на удаление данных) применимы только для персональных данных и специфичны для конкретных юрисдикий, а третий (вирусный копилефт) вообще объявлен обязательным довольно произвольно.

При условии дальнейшего улучшения данных положений — в сторону большей свободы договора — предложения авторов весьма перспективны и могут сыграть такую же позитивную роль для оборота, которую ранее сыграли ИНКОТЕРМС и CC.
❤5👍3
Суд ЕС: страх за судьбу утекших данных может являться самостоятельным основанием для компенсации морального вреда

По запросу болгарского Верховного административного суда Суд ЕС в деле C-340/21 разъяснил:

1) В случае несанкционированного раскрытия персональных данных или несанкционированного доступа к ним суды не могут на основании одного этого факта сделать вывод о том, что меры по защите, принятые оператором, не были адекватными.

2) Суды должны оценить адекватность этих мер в конкретном случае. Именно оператор должен доказать, что принятые защитные меры были надлежащими.

3) В случае если несанкционированное раскрытие персональных данных или несанкционированный доступ к ним были предприняты третьим лицом (например, киберпреступниками), оператор может быть обязан возместить ущерб субъектам персональных данных, если только он не докажет, что он никоим образом не отвечает за этот ущерб.

4) Страх, испытываемый субъектом персональных данных в связи с возможным неправомерным использованием его персональных данных третьими лицами в результате нарушения Регламента ЕС о защите данных (GDPR), сам по себе может наносить моральный вред.
❤3
На чём планирует зарабатывать Мистраль?

Возможно у вас, как и у меня, возник тот же вопрос, когда этот французский новичок на рынке разработки больших языковых моделей опубликовал свою новую модель в режиме опен-сорс. Если модель выкладывается в свободный доступ с весами, а не выдаётся по API, как инвесторы получат прибыль?

Написал об этом заметку в Robocounsel Plus — доступ по подписке.
👍1
Комитет по ИИ Совета Европы опубликовал обновлённый проект Конвенции

Конвенция призвана установить основные общие стандарты разработки и внедрения искусственного интеллекта в Европе и за ее пределами. В число участников переговоров и потенциальных участников, помимо 46 стран-членов Совета, входят Аргентина, Израиль, Мексика, Перу, США, Уругвай и Япония.

1. Сфера применения

Планируется, что Конвенция будет регулировать жизненный цикл только тех систем ИИ, которые относятся к категории высокого риска в том смысле, что они "потенциально могут угрожать правам человека, демократии и верховенству права".

Исключение предусмотрено для НИОКР, за исключением случаев, когда сами исследования могут угрожать вышеупомянутым фундаментальным ценностям.

Важно отметить, что участникам переговоров еще предстоит решить, будет ли конвенция (а) применяться только к использованию систем ИИ госорганами и лицами, действующими от их имени, или (б) будет также распространяться на ИИ с высоким риском и в частном секторе.

Предполагается, что из сферы действия конвенции будет исключена национальная оборона; а её применение в сфере обеспечения национальной безопасности будет ограничено.

2. Определение понятия "система искусственного интеллекта"

Определение Конвенции совпадает с определением ОЭСР и в Регламенте ЕС по ИИ.

3. Принципы

Конвенция потребует от присоединившихся государств принять на национальном уровне меры для того, чтобы:
1) разработчики и эксплуатанты систем ИИ не нарушали международно и национально признанные права человека,
2) использование систем ИИ не подрывало целостность, независимость и эффективность государственных институтов, включая независимую и доступную судебную систему, и демократические процессы, включая возможности для свободного выражения мнений и публичной дискуссии,
3) разработчики и эксплуатанты ИИ уважали человеческое достоинство и автономию, действовали в условиях надлежащей прозрачности и надзора, а также несли ответственность за результаты работы систем ИИ,
4) при использовании ИИ учитывались требования равенства, включая равенство полов и защиту от незаконной дискриминации, требования охраны здоровья населения и окружающей среды.

4. Средства правовой защиты и гарантии

Конвенция требует от государств-участников предоставления доступных и эффективных средств правовой защиты в случае любых неблагоприятных последствий, которые могут возникнуть в результате разработки и внедрения систем ИИ.

Хотя конкретные средства и гарантии должны определяться государствами-участниками, Конвенция предусматривает следующее:
1) протоколирование работы систем искусственного интеллекта, подверженных высокому риску, и предоставление доступа к этим записям уполномоченным государственным органам и, при необходимости, пострадавшим лицам.
2) предоставление пострадавшим лицам процессуальных гарантий, гарантий и прав, включая право на информацию, достаточную для оспаривания решений, принятых или в значительной степени обоснованных системами ИИ высокого риска.
3) обеспечение уведомления граждан о том, что они взаимодействуют с системами ИИ, а не с людьми, в целях обеспечения прозрачности.

5. Следующие шаги

Участникам переговоров еще предстоит прийти к соглашению о том, следует ли включать в Конвенцию положения о защите неприкосновенности частной жизни, регуляторных "песочницах", управлении рисками ИИ, запрещенных видах использования, публичных консультациях, в том числе по перспективным проблемам искусственного интеллекта, и в каких терминах.

Также пока не решено, является ли Конвенция, которая в настоящее время посвящена технологически нейтральным аспектам прав человека при разработке и использовании ИИ, наилучшим местом для положений, касающихся безопасности, защиты, точности, качества данных и других технических и инженерных аспектов.

Обновленный проект планируется рассмотреть в третьем чтении на 9-м пленарном заседании Комитета Совета Европы по ИИ, которое состоится 23-26 января 2024 года.
👏2
Владение системой с искусственным интеллектом, породившей патентоспособный результат, не влечёт возникновения у владельца системы права на патент

В опубликованном сегодня постановлении по делу 2021/0201 Верховный Суд Великобритании поставил точку в споре доктора Талера с патентным ведомством: созданная им система DABUS не может быть признана изобретателем и её владелец не получит права на патент, если будет настаивать на том, что именно машина является изобретателем и что владелец машины приобретает право на патент в силу самого факта владения машиной.

А именно, суд ответил на ключевые вопросы следующим образом:

(a) Требует ли параграф 13(2)(a) Закона о патентах 1977 года ("Закон 1977 года") указания лица в качестве изобретателя во всех случаях, включая те, когда заявитель считает, что изобретение было создано машиной с искусственным интеллектом в отсутствие традиционного изобретателя-человека?

Да, закон требует указания лица в качестве изобретателя. Машина с искусственным интеллектом не является лицом, и тем более не является физическим лицом, и поэтому не может быть указана в качестве изобретателя в заявке на патент (параграф 73 постановления)

(b) Предусматривает ли Закон 1977 года выдачу патента без указания изобретателя-человека?

Нет, закон не предусматривает выдачу патента без указания изобретателя-человека. DABUS не является лицом или лицами, и, по указанным судом мотивам, толкование Закона 1977 года, при котором машина могла бы быть изобретателем, не является состоятельным. Поэтому д-р Талер как заявитель не выполнил требования параграфа 13(2)(а) Закона 1977 года о необходимости указания лица или лиц, которые, по его мнению, являются изобретателем или изобретателями (параграф 94 постановления).

(c) В случае изобретения, сделанного машиной с искусственным интеллектом, имеет ли право владелец, создатель и пользователь этой машины с искусственным интеллектом на выдачу патента на это изобретение?

Нет, владение, создание и пользование машиной с искусственным интеллектом не предоставляет заявителю права на выдачу патента на изобретение. Доктор Талер не доказал и не представил никаких правдоподобных оснований для своего утверждения, что он имел право подать заявку и получить патенты на технические разработки, сделанные DABUS, просто в силу того, что он владел этой машиной (параграф 91 постановления).

Хотите получить патент — не выдумывайте безумных теорий, указывайте в качестве изобретателя человека и объясняйте его роль в процессе создания изобретения.
🔥4❤3👍3
Большие языковые модели запоминают информацию, но не способны к её широкому обобщению

Этот тред Франсуа Шолле в Твиттере, пожалуй, будет самым полезным в этом году для всех интересующихся большими языковыми моделями (LLM). Обязателен к прочтению для всех тех, кто смотрит на все, что связано с LLM, сквозь розовые очки.

Перевод:

"К сожалению, слишком мало людей понимают разницу между запоминанием и пониманием. Это не какой-то возвышенный вопрос вроде "Есть ли у системы внутренняя модель мира?", это очень прагматичное различие в поведении: "Способна ли система к широкому обобщению, или ей доступно лишь локальное обобщение?"

С момента своего появления LLM провалили все бенчмарки и эксперименты, направленные на обобщение. Это не только ARC - это задокументировано буквально в сотнях, возможно, тысячах работ. Способность LLM решать задачи полностью зависит от их знакомства с конкретной задачей (локальное обобщение).

В результате единственным способом повысить производительность LLM в новых задачах/ситуациях является обучение на большем количестве данных - в миллионы раз большем, чем доступно человеку. Но на каком бы количестве данных вы их ни обучали, всегда будут возникать непредвиденные заранее задачи и ситуации, на которых LLM будут спотыкаться.

Связанные с этим аргументы невероятно избиты. Если вы не поняли этого в 2017 году, то не поймете и сейчас.

Тем не менее, по многочисленным просьбам: стартовая подборка статей, которые можно почитать на эту тему.

1) "Comparing Humans, GPT-4, and GPT-4V On Abstraction and Reasoning Tasks": https://arxiv.org/abs/2311.09247
2) "Embers of Autoregression: Understanding Large Language Models Through the Problem They are Trained to Solve": https://arxiv.org/abs/2309.13638
3) "Faith and Fate: Limits of Transformers on Compositionality": https://arxiv.org/abs/2305.18654
4) "The Reversal Curse: LLMs trained on "A is B" fail to learn 'B is A'": https://arxiv.org/abs/2309.12288
5) "On the measure of intelligence": https://arxiv.org/abs/1911.01547

Последняя работа не о LLM, но дает контекст и представление о том, что значит обладать интеллектом, а также о природе обобщения. В ней также представлен бенчмарк ARC, который остается совершенно недоступным для LLM.

По иронии, лучшие баллы по этому тесту получают те системы на основе LLM, которые были обучены на очень большом количестве сгенерированных самими LLM задач, в надежде достичь некоторой золотой середины в обобщении между задачами из тестовой выборки и сгенерированными задачами - LLM не способны справляться ни с какими действительно новыми для них задачами.

В общем и целом, каждые несколько дней появляется новая статья, документирующая отсутствие у LLM способности к широкому обобщению".

Ян ЛеКун, главный датасаентист Меты, комментирует тред Шолле следующим образом:

"Получение ответов на основе (1) приближенного поиска либо на основе (2) понимания и рассуждения представляют собой два конца спектра.

Люди занимают различные позиции на этом спектре, в зависимости от задачи, опыта и глубины понимания.

Студенты, изучающие физику и математику, дают нам яркий пример для такого различения. Одни из них усердно учатся, решают множество задач, изучают шаблоны решений и, возможно, получают проходные баллы. В то время как другие почти не учатся, но получают высшие оценки благодаря своим ментальным моделям, которые позволяют рассуждать и интуитивно понимать.

То же самое относится и к ИИ. Современные (авторегрессивные) LLM находятся довольно близко к концу спектра "поиска". У них нет хороших ментальных моделей ситуаций, с которыми они сталкиваются. Чтобы перейти на следующий уровень в ИИ, нам нужно научить машины создавать ментальные модели, которые можно использовать для рассуждения и планирования.

В этом треде Франсуа указывает на то, что современные LLM провалили практически каждый тест на рассуждение и планирование, который им был предложен. Это происходило всякий раз, когда ответ не присутствовал в обучающей выборке и LLM не могли полагаться только на поиск имеющейся информации".
❤11👍3🤔2
Robocounsel
Ещё два моих клиента успешно сдали CIPP/E В нашем закрытом чате они поделились своими впечатлениями и поблагодарили меня за систематизацию материалов в моём руководстве по подготовке к этому экзамену. Приятно! Если вы хотите присоединиться к нашему сообществу…
Новогодние подарки

1) До конца 2023 года: бонус при оплате доступа к руководству по CIPP/E

Всем, кто приобретёт доступ к руководству по подготовке к этому экзамену (что это и кому это нужно?) в период с 25 по 31 декабря 2023 года — бонус:

Эксклюзивный материал из моего нового авторского англоязычного курса по AI Governance: Какие риски должны учитывать компании при разработке и использовании ИИ-систем в части, касающейся прав человека, социально-экономических возможностей и безопасности населения?

Оплатить доступ к CIPP/E-руководству можно здесь.

2) Карьерные консультации и менторство

Также ограниченное время доступны консультации по развитию карьеры в сфере работы с персональными данными и ИИ со скидкой — пишите сюда. Студентам — дополнительная скидка.
❤8
NYT_Complaint_Dec2023.pdf
7 MB
Нью-Йорк Таймс против Майкрософта и Оупен-Эй-Ай

Вчера редакция газеты подала иск против этих компаний по мотивам нарушения исключительных прав на контент статей, использованных при обучении больших языковых моделей.

Применимы ли доводы решения по делу Authors Guild, Inc. v. Google, Inc. (Google Books) к вчерашнему иску?

Маловероятно, если редакции удастся доказать предполагаемое недобросовестное использование её контента в целях конкуренции.

В деле Google Books суд отметил, что сервис ограничивает доступные для публичного просмотра фрагменты каждой книги до такой степени, что использование сервиса не может заменить собой покупку книги.

В случае же с газетными статьями вы в общем случае не можете воспроизвести в коммерческих целях контент объёмом в несколько страниц, не нарушив при этом исключительное право.

Выдаваемые чатботами результаты также не похожи на результаты традиционного веб-поиска. В жалобе утверждается, что, в отличие от выдаваемых поисковыми системами "сниппетов" (фрагментов текста), выдача ChatGPT, Bing Chat и т. д. в значительной степени воспроизводит содержание статей из газеты и не содержит заметных гиперссылок на эти статьи. Таким образом, ответчики, вероятно, лишают пользователей стимула посещать ресурсы Нью-Йорк Таймс, поскольку результаты работы чатботов могут служить адекватной заменой прочтения самих статей. Таким образом, ответчики могут фактически конкурировать на том же рынке, на котором работает сама газета.

Если редакции удастся это доказать, то защита ответчиков со ссылкой на доктрину fair use (добросовестное использование) не удастся: недобросовестное использование в целях конкуренции согласно этой доктрине не является добросовестным.
👍8🔥3
Спасибо, что читаете!
❤18👍5
О биометрической идентификации и не только

Рекомендую новый материал коллег из Privacy Advocates о новых правилах обработки биометрических данных для контроля и управления доступом в российских условиях.

А на нашем канале в новом году мы поговорим об использовании биометрических сигналов в "нетрадиционных" целях — не для установления/удостоверения личности, а для распознавания психофизиологических состояний (стресс, тревога, возбуждение, и т.д.).

Подобные сценарии интерпретации биометрических сигналов, с одной стороны, находят всё большее применение, в том числе в частном секторе, и, с другой стороны, сопряжены с угрозой для фундаментальных прав граждан.

Именно по этой причине подобная "нетрадиционная" биометрия отнесена к системам повышенной опасности в проекте Регламента ЕС по ИИ, наравне с биометрией традиционной.

В России обработка таких данных пока никак не регулируется и почти не находится в сфере внимания (а зря!).
❤7👍1🔥1
Моя Линкдин-рассылка

Когда вашу рассылку по цифровой политике рекомендует Лучиано Флориди и по ней же просят дать комментарий из Вашингтон пост (даже если вы его проспали в новогодней суете), это что-то значит.

Подписаться можно здесь.
❤16👏9🔥6👍4
"Move fast and break things"

Двигаться быстро и с грацией слона в посудной лавке — девиз компании Марка Цукерберга в начале их пути — по-видимому, был с самого начала и осознанно взят на вооружение многими нынешними лидерами рынка генеративного ИИ.

Вот избранные места из переписки Дэвида Хольца, одного из основателей Миджорни, на их публичном дискорд-сервере.

Команда проекта осознавала, что обучение нейросети на чужих работах без лицензии будет представлять собой нарушение исключительных прав. Но — см. лозунг.
❤6🤔3
Каждое четвертое предложение в ответах систем "генеративного поиска" — галлюцинация

К такому выводу пришли исследователи по результатам оценки качества работы новых продуктов, часто позиционирующихся в качестве замены традиционных поисковых систем.

Идея в том, что новые системы основаны на методе RAG (retrieval augmented generation):
1) поисковая подсистема по запросу пользователя ищет релевантные результаты в поисковом индексе (как обычный поисковик),
2) генеративная подсистема резюмирует найденное, стараясь дать внешне стройный и полезный ответ.

Но, как показывает исследование, несмотря на преимущества подобного подхода, полноценной заменой традиционных поисковиков такие системы пока быть не могут: уровень галлюцинаций в них ещё слишком высок. В среднем только 51,5% ответов поддерживается какими-либо ссылками, при этом только 74,5% приводимых ссылок релевантны (подтверждают сгенерированные ответы).

По собственному опыту отмечу: результаты исследования не означают, что эти новые системы бесполезны. В ряде случаев они помогают в работе, в частности, на начальных стадиях исследования по какому-либо вопросу.

Но все ответы этих систем, как и в принципе любые результаты работы систем генеративного ИИ, необходимо обязательно перепроверять перед тем, как использовать их в любых мало-мальски ответственных задачах.
👍9❤1
Для борьбы с дипфейками японские фотокамеры оснастят ЭЦП

Никон, Сони и Кэнон (совместно контролируют около 90% мирового рынка цифровых фотоаппаратов) объявили о том, что с этого года их новые камеры будут подписывать фотографии электронной цифровой подписью (ЭЦП), содержащей данные об авторе, геолокации, дате и времени съёмки.

Также эта функция станет доступна и для ряда ранее выпущенных моделей — после обновления встроенного программного обеспечения.

Все камеры будут использовать ЭЦП единого стандарта, а пользователи смогут проверить происхождение фотографий в интернете бесплатно при помощи веб-приложения Verify.

Первой камерой с подобным функционалом в октябре прошлого года стала Leica M11-P.
🔥7😱5👍3🤬1😢1
Из электроэнцефалограммы в текст: читаем мысли?

На недавно прошедшей конференции NeurIPS исследователи из Сиднея представили исследование, касающееся прототипа созданной ими системы, позволяющей декодировать мозговую активность в текст на естественном языке неинвазивным методом.

По утверждению авторов, их метод (DeWave) предполагает дискретное кодирование для представления сигналов электроэнцефалограммы (ЭЭГ) в виде последовательности символов, что позволяет затем использовать языковую модель для установления связи между сигналами мозга и словами в тексте.

Как признают авторы, качество перевода мыслей в текст пока еще далеко от необходимого для какого-либо практического применения: требуется значительная дополнительная работа. Кроме того, в экспериментах использовались данные, полученные при чтении текста испытуемыми, а не при простом размышлении. Для реализации концепции непосредственного декодирования мыслей в текст из мозговой активности также нужны дополнительные исследования.

Статья авторов пока не была опубликована в каких-либо рецензируемых научных журналах, а исследование пока не было никем независимо воспроизведено, поэтому всё высказанное авторами следует воспринимать с необходимой долей скепсиса. Тем не менее, если предложенный в статье подход с использованием дискретного кодирования будет в будущем валидирован, в будущем предлагаемый метод может привести к прорыву в построении нейрокомпьютерных интерфейсов.
👍2🤔2