Robocounsel
1.95K subscribers
265 photos
18 videos
80 files
659 links
О регулировании и социальных аспектах применения ИИ и данных, преимущественно в ЕС. Публикации отражают сугубо личное мнение автора.

Контакт, вопросы: используйте кнопку 💬 в левом нижнем углу.

Шрифт в логотипе - Alex Murphy Solid от Goatmeal
Download Telegram
Robocounsel
Приватность в общественном месте Почему защита неприкосновенности частной жизни в людном общественном месте — не оксюморон, а важное общественное благо? Почему, в связи с этим, одним из самых спорных применений технологий остаётся именно биометрическое распознавание…
Садится ли ваша социальная батарейка быстрее в толпе знакомых или незнакомых?

Сейчас делал один комментарий в Инстаграме, но осознал, что одно место близко тому, что Вестин описывал в своей классической работе "Приватность и свобода".

И решил скопировать сюда. Чтобы поделиться и, возможно, спровоцировать обсуждение — у вас такие же мысли и впечатления или иные?

Про Вестина: он отмечал, что приватность (неприкосновенность частной жизни) может достигаться:
1) за счёт полного уединения,
2) за счет интимности малой группы,
3) за счёт анонимности или малозаметности — в общественных местах.

Писал об этом ранее.

И вот тут мой комментарий к одному Инстаграм-посту, где у меня непроизвольно возник кусочек про приватность именно в третьем её варианте:

"Я скорее исхожу из методологии Биг 5, по которой нет никаких интровертов и экстравертов в чистом виде, а есть степень экстраверсии, и по нормальному распределению большинство населения находится где-то в средних её значениях.

У меня так же.

В практическом плане это проявляется так, что в целом меня не пугают толпы, но мне скорее проще в толпе малознакомых, потому что тогда ты сохраняешь приватность и в принципе можешь делать что угодно, если там не ведут запись.

А вот большой коллектив знакомых — не очень люблю долго в таком находиться. Могу потерпеть, но скорее уйду раньше других. Но приду."
Украина ввела правовую охрану объектов, сгенерированных компьютером без участия человека

Такая охрана в Украине теперь предоставлена так называемым неоригинальным объектам, то есть объектам, которые созданы при отсутствии творческого вклада человека и поэтому не охраняются авторским правом.

Для этого статьями 8 и 33 Закона Украины об авторских и смежных правах (в новой редакции) введено имущественное право особого рода (sui generis) сроком действия на 25 лет с момента создания (с 1 января года, следующего за годом создания).

Правообладателем неоригинального объекта может признаваться обладатель исключительного права на компьютерную программу, породившую такой объект, лицензиат или управомоченный пользователь такой программы.

Если неоригинальный объект создан в результате использования охраняемых объектов авторских или смежных прав, имущественное право особого рода может быть реализовано лишь при условии соблюдения таких авторских или смежных прав.

Личные неимущественные права на неоригинальные объекты законом не предусматриваются.

Можно предположить, что мотивом новеллы стало стремление законодателя стимулировать инвестиции в создание систем генеративного искусственного интеллекта, которые и используются для генерации таких неоригинальных объектов.

По аналогичным мотивам — стимулирование инвестиций в создание баз данных — ранее в Европейском союзе, Великобритании и России было введено имущественное право особого рода (исключительное право) на базы данных.

Кроме того, похожий правовой режим для "произведений, созданных компьютером" без творческого участия человека (computer-generated works) закреплён Законом Великобритании 1988 года об авторском праве, промышленных образцах и патентах (CDPA).

Ранее тезисы о подобном правовом режиме для нашего канала обозначал Виталий Олегович Калятин.

В других юрисдикциях, помимо Великобритании и Украины, преобладает более консервативный подход: какой-либо охраны объектам, сгенерированным без участия человека, не предоставляется.

Характерным примером здесь будет недавнее дело Кристины Каштановой, отказ в признании прав которой недавно вдохновил Бюро по авторским правам США выпустить целое Руководство по регистрации авторских прав на произведения, содержащие результаты, созданные искусственным интеллектом, о котором мы писали в марте.
👍3❤1
ДаркБЕРТ: языковая модель, натренированная на Даркнете

О создании такой модели сообщает издание Heise.de со ссылкой на исследователей из Южной Кореи.

Задачей учёных было создание модели, лучше отражающей ту информацию, которая циркулирует в Даркнете, для целей научных исследований.

Предоставление доступа к модели правоохранительным органам не планируется, хотя не сложно предположить, что в будущем в результате утечки модель может оказаться доступна как им, так и преступникам.

Напомню, что Даркнет используется не только последними, но также журналистами и другими людьми, которые опасаются слежки и преследования со стороны властей какой-либо страны.

Сами власти и их спецслужбы также активно его используют: так, некоторые издания недавно распространили ссылку на снятый в стиле Звягинцева ролик, призывающий россиян вступать в контакт с ЦРУ по адресу в Даркнете. СВР ответила на это своим пародийным роликом, в котором аналогичный призыв американцам также завершался координатами российской спецслужбы в Даркнете.
❤3
Мета: золотая медаль по штрафам в ЕС

Компания, кажется, стала лидером по штрафам за нарушение европейского законодательства о персональных данных.

За передачу персональных данных европейцев в США без надлежащих мер для их защиты от незаконного доступа американских спецслужб ирландский надзорный орган наложил на компанию штраф в 1,2 млрд. евро.

Предыдущий рекорд принадлежал Амазону (746 млн. евро от люксембурского надзорного органа).

По мнению ирландцев, использование стандартных договорных положений (SCC), утверждённых Еврокомиссией (один из ныне наиболее популярных механизмов легитимации передачи данных из ЕС в США в коммерческой практике многих компаний), само по себе не обеспечивало защиту прав и свобод европейцев.

Компании предоставлен срок до 12 ноября для удаления или репатриации на территорию ЕС всех экспортированных в США персональных данных из ЕС.

Мета сообщила о планах обжаловать решение.

Кроме того, ожидается, что к октябрю может вступить в силу новый согласованный США и ЕС на правительственном уровне правовой механизм, легитимирующий подобную передачу данных и снимающий возникшие у компании проблемы.

Деятельность Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook и Instagram запрещена в РФ
🤯2👍1
Регулирование персональных данных и приватность: куда движемся?

Сегодня в 10:00 по Москве участвую в дискуссии на эту тему на открытии GDPR Day.

Обсудим мировые тренды.

Участвуют:

Денис Садовников, Дарья Заграничнова, Андрей Прозоров, Сергей Воронкевич, Елена Себякина, Александр Тюльканов.

Подключайтесь
🔥11❤1
Robocounsel
Европарламент [ещё] не принял проект Регламента ЕС по ИИ Однако пройден один из важных этапов. В четверг два комитета Европарламента — по гражданским свободам (LIBE) и внутреннему рынку (IMCO) — проголосовали за принятие пакета поправок, ранее предложенных…
AIA - IMCO-LIBE report - pre-plenary.pdf
3 MB
Опубликован проект резолюции Европарламента по проекту Регламента ЕС по ИИ

Как я рассказывал ранее, недавно два комитета Европарламента проголосовали за принятие пакета поправок, предложенных к проекту Регламента ЕС по искусственному интеллекту.

Сегодня опубликован полный отчёт по проголосованному тексту. Отчёт содержит проект резолюции Европарламента для рассмотрения и принятия в первом чтении 13-14 июня 2023 г., а также позиции всех его комитетов.

Все поправки даны по отношению к тексту, предложенному Еврокомиссией в 2021 году.
❤3👍1
Сноуден: системы искусственного интеллекта не способны распознавать базовые понятия

Недавнее выступление Эдварда Сноудена на конференции "Консенсус 2023" местами оказалось на удивление довольно философичным. Возможно, даже вдохновлённым чем-то из Достоевского, Толстого или Франкла.

Бывший сотрудник АНБ обращает внимание:

"Системы искусственного интеллекта способны научиться определять полезность чего-либо, но не то, какой ценой это что-то нам достаётся.

Знания о цене, ценности чего-либо невозможно почерпнуть из общедоступных источников, они достаются нам через личный жизненный опыт, через переживание боли и страданий.

Системы ИИ учатся, как и мы, на основе наблюдения.

Но мы способны испытывать боль и распознавать страдания других людей. И именно благодаря этим способностям мы учимся избегать страданий для себя и не причинять их другим людям.

Машины не способны осознавать эти фундаментальные понятия и руководствоваться ими".
🔥8👍5❤1
Чувствительные данные о людях можно получить из воздуха

Это стало возможно благодаря значимому прогрессу, достигнутому в области секвенирования так называемой экосистемной ДНК (eDNA) — образцов, получаемых из окружащей среды и обычно используемых для исследования животных и растений.

Как правило, при сборе образцов ДНК целевого исследуемого вида всегда также обнаруживаются и образцы ДНК других организмов, включая людей. Образцы нашей ДНК можно обнаружить повсюду: в снегу, воде, почве, песке и даже воздухе, куда они попадают в результате обновления клеток наших кожных покровов, волос и т.д.

Однако ранее таким нецелевым образцам большого внимания в исследованиях не уделялось. Кроме того, исследователи обычно предполагали, что такие образцы недостаточно качественны для какого-либо осмысленного применения по сравнению с образцами, полученными в клинических условиях путём прямого забора с тканей испытуемого.

Однако группа учёных из Флориды, занимавшаяся сбором образцов ДНК морских черепах, подверженных определённым видам опухолей, с удивлением обнаружила, что примеси неумышленно собранных при этом из окружающей среды образцов человеческой ДНК оказались достаточными для того, чтобы в ряде случаев определить генетическое происхождение конкретных людей, их пол и даже предрасположенность к серьёзным генетически обусловленным заболеваниям.

То же оказалось справедливым и для образцов человеческой ДНК, полученных из воздуха в комнате ветеринарной клиники. В последнем случае посетители дали своё согласие на сбор этих данных.

Учёные задаются вопросом: что делать с этическими протоколами исследований, ведь заранее получить согласие случайных людей на сбор их экосистемной ДНК из почвы, воздуха и т.п. попросту невозможно. И что будет, если эти образцы будут собираться и анализироваться кем-то, кто не руководствуется строгой исследовательской этикой, запрещающей целенаправленный сбор и обработку таких чувствительных данных без согласия лиц, к которым эти данные относятся...
🤔7❤1👍1😱1
Robocounsel
Думаете, использовать ли ChatGPT для ваших задач? Используйте простой алгоритм по мотивам моей недавней статьи.
⚡️⚡️Американскому юристу грозит наказание за использование ЧатГПТ

Судья Федерального окружного суда Южного округа Нью-Йорка обнаружил, что в возражениях стороны по делу содержатся ссылки на несуществующие судебные прецеденты.

Для выяснения причин произошедшего он запросил объяснения у адвоката, представившего документ.

Выяснилось, что виной всему то, что коллега по фирме, другой американский юрист, с 30 годами опыта, использовал для подготовки документа ЧатГПТ, и не удосужился перепроверить ни одну ссылку на прецеденты, предложенные программой.

Судья не оценил такой халатности и предложил юридической фирме и использовавшему ЧатГПТ юристу представить пояснения, почему на них не должны быть наложены штрафные санкции за такое пренебрежение к суду и своей работе.

Ожидаем скорой и суровой развязки.

Вот что бывает, когда люди не следуют простому алгоритму использования генеративных чатботов.
😱5🔥3👍2🤔2❤1
Robocounsel
Getty Images v Stability AI - Motion to Dismiss.pdf
Курсы и сертификации: ИИ и персональные данные

Спасибо всем, кто уже обозначил свой интерес к посещению курсов по ИИ. Сейчас определяюсь, будет ли это один курс или несколько на ряд тем вокруг риск-менеджмента и этики ИИ, и буду ли я вести их самостоятельно либо в партнёрстве.

Понятно, что это будет эксклюзивный контент, потому что где вы ещё найдёте инсайты, полученные одновременно и из практического опыта работы по ИИ-проектам с крупными компаниями и стартапами, и из работы в международных организациях и с правительствами, которые разрабатывают ИИ-регулирование.

Весь приобретённый мною опыт из проектов в Делойте, Сколкове, Совете Европы, и с другими организациями будет интегрирован в эти курсы.

Желающие всё ещё могут подать заявку здесь. Всем, кто сделает это до конца суток 31 мая — специальные условия.

Также напомню, что у меня есть отличное руководство по самостоятельной подготовке к сдаче экзамена CIPP/E (сертификация для работы с персональными данными в ЕС), разработанное на основе собственного успешного опыта сдачи этого экзамена. Более 40 человек уже приобрели доступ — кто-то уже сдал, кто-то ещё готовится. Спасибо всем за доверие!

Приобрести доступ к руководству можно здесь.
👍6❤2
Первый виртуальный юрист, страдающий виртуальной шизофазией

Московский стартап Alliesverse сел в лужу с "первым в России виртуальным юристом на базе ИИ, LawAI".

Сразу в ряде изданий вышли (видимо, заказные?) материалы, где без малейшего стыда были до небес превознесены возможности продукта.

Он, де, у них может и думать, и анализировать, и самообучаться.

Что в реальности? На одном из скришотов результат работы системы. На другом — стенограмма записи речи больного шизофазией. Смотрите, не перепутайте.

Больше примеров из психиатрической практики из работы программы — в блоге Романа Янковского.
😁12🔥5
Тот, кто контролирует языковые модели, контролирует политику?

Смешанные чувства по поводу одноимённой статьи Ханнеса Баджора.

Большие языковые модели действительно изменили общественный дискурс и привнесли в него новые идеи.

Появление у человечества подобного инструмента вряд ли останется незамеченным в контексте мировой истории, хотя бы в качестве параграфа в разделе об истории информационных технологий.

Баджор делает несколько наблюдений, среди который наиболее близкое мне касается ИИ-алармизма: тезисы о скорой кончине человечества в результате выхода ИИ-систем из-под контроля — скорее выгодная поставщикам ИИ-систем страшилка.

Выгодная потому, что преувеличивает возможности таких систем, а также смещает фокус общественной дискуссии с реальных проблем с существующими системами (устанавливающаяся глобальная олигополия нескольких поставщиков, недостаточная точность и репрезентативность генерируемой информации, безопасность, риски раскрытия конфиденциальной информации и т. д.) на проблемы спекулятивные и научно-фантастические.

В то же время спекулятивным кажется и опасение самого автора статьи по поводу грядущего преобладания ИИ-сгенерированных текстов над текстом, созданным человеком, и последствий такого положения дел для дальнейшей политической поляризации обществ и в целом для дискурса в них. В том числе за счёт приоритизации разработчиками систем тех или иных результатов, которые могут выдаваться пользователям по их запросам.

Почему я считаю этот тезис спекулятивным?

Насколько мне известно, никто из способных и влиятельных авторов, чьи тексты действительно влияют на умы миллионов, не использует большие языковые модели для генерации своих работ с нуля.

Никому особенно не интересен текст, сгенерированный ИИ без существенного вовлечения автора в процесс такой генерации с самого начала процесса. Пустые, безликие тексты никого не цепляют.

И совсем другое дело — итеративная работа автора с собственными мыслями и текстом с использованием таких моделей, когда они используются для интеллектуального пинг-понга, создания промежуточных результатов и стилистической корректировки итогового результата.

Это означает, что конкретный автор или группа авторов от начала и до конца контролируют весь процесс создания текста, имеющего хоть какую-то ценность и значение. И именно они вкладывают в него свои принципы, убеждения и нарративы.

Большие языковые модели никак не влияют на этот процесс и остаются лишь инструментом в руках конкретных авторов, тексты которых мы читаем и к которым мы прислушиваемся.
👍6🔥3
Власти США: Амазон должен удалить детские персональные данные и заплатить штраф 25 млн. долл.

Минюст США по заявлению Федеральной торговой комиссии обратился в суд с требованием к компании удалить незаконно хранимые аудио- и геолокационные данные пользователей голосового помощника Амазон Алекса, включая записи голоса несовершеннолетних.

По сообщению ФТК, компания не удосуживалась удалять расшифровки записей голоса с деактивированных детских аккаунтов даже после предъявления родителями соответствующих требований.

Заявление, поданное в суд, также содержит требование запретить компании использовать эти данные для обучения своих систем ИИ.

Кроме того, с компании взыскивается штраф в размере 25 млн. долларов.

Ранее этим же днем ФТК объявила об открытии производства по делу в отношении Ринг, дочерней компании Амазона, в связи с обвинениями в несанкционированном доступе её сотрудников и подрядчиков к данным с домашних видеокамер безопасности пользователей.
👍4
Машинное обучение со смертельным подкреплением

На конференции по перспективным воздушно-космическим вооружениям в Лондоне 23-24 мая
глава службы испытаний и эксплуатации систем искусственного интеллекта ВВС США полковник Такер Гамильтон поделился опытом американских экспериментов.

В рамках компьютерной симуляции беспилотнику, управляемому автономной системой, была поставлена задача обнаружения и поражения систем ПВО противника, при этом окончательную команду на открытие или не открытие огня должен был отдавать оператор.

Однако ранее в ходе машинного обучения с подкреплением система управления дроном обучилась воспринимать задачу поражения цели как приоритетную.

В результате, в ходе выполнения в симуляторе боевой задачи дрон "уничтожил" своего оператора, поскольку тот создавал риск невыполнения приоритетной задачи (уничтожить цель).

После того, как система была переобучена (с закреплением того, что уничтожение оператора не приветствуется), в новой симуляции дрон начал "уничтожать" наземную систему радиосвязи с ним, чтобы оператор не мог отдать команду об отказе от поражения цели.

Отметив, что автономные системы могут неожиданно и бесконтрольно обучаться подобным, мягко говоря, неожиданным стратегиям выполнения боевых задач, полковник Гамильтон заключил, что чрезмерно полагаться на ИИ в военном деле было бы ошибкой.

ОБНОВЛЕНО 02/06/2023:

Между тем, на сайте с первоначальной публикацией об "уничтожении" дроном оператора в ходе боевой симуляции появилось уточнение, которое больше походит на опровержение.

Автор доклада, полковник Гамильтон сообщает, что оговорился на конференции, и никаких подобных экспериментов, ни в реальной обстановке, ни в симуляции ВВС США не проводили.

Всё, о чём он говорил, якобы относилось к мысленному эксперименту, проведённому не военными, но основанному на рассмотрении вероятных сценариев возможных проблем при эксплуатации реальных беспилотников.
🔥10🤔3❤1
Как правильно работать с ожиданиями пользователей

Если говорить, не о функционале, а о позиционировании чатбота от Яндекса и о "моральной подготовке" пользователей, кажется, что эти вещи у них получились гораздо ближе к идеалу, чем у создателей ЧатГПТ.

Сам заголовок "Давай придумаем", предупреждение о специфике работе — бот работает, "подражая текстам в интернете", "поэтому результат может быть выдумкой" — создаёт у пользователя очень правильные и более реалистичные ожидания.

Пользователь понимает, что перед ним не дельфийский оракул, от которого всегда следует ожидать истину в последней инстанции, а просто интересный инструмент.

С которым можно поэкспериментировать, но который специализируется на содействии в творческих задачах, а не на поиске достоверной информации или на поддержке принятия жизненно важных личных или деловых решений.

А чей подход больше нравится вам? Чей бот лучше всего помогает пользователю сформировать правильные ожидания об ограничениях возможностей генеративного ИИ?

ЧатГПТ? Бинг? Бард? ЯндексГПТ? Сбер-Гигачат?
👍6
Robocounsel
Машинное обучение со смертельным подкреплением На конференции по перспективным воздушно-космическим вооружениям в Лондоне 23-24 мая глава службы испытаний и эксплуатации систем искусственного интеллекта ВВС США полковник Такер Гамильтон поделился опытом американских…
Между тем, на сайте с первоначальной публикацией об "уничтожении" дроном оператора в ходе боевой симуляции появилось уточнение, которое больше походит на опровержение.

Автор доклада, полковник Гамильтон сообщает, что оговорился на конференции, и никаких подобных экспериментов, ни в реальной обстановке, ни в симуляции ВВС США не проводили.

Всё, о чём он говорил, якобы относилось к мысленному эксперименту, проведённому не военными, но основанному на рассмотрении вероятных сценариев возможных проблем при эксплуатации реальных беспилотников.
😁3
Robocounsel
Телесуфлёр для свиданий? Итак, я вижу избыточно оптимистичное освещение нового прототипа гаджета для знакомств на базе GPT, rizzGPT. Это своего рода интерактивный телесуфлёр, который подслушивает вашего собеседника, передает всё в OpenAI через API и, основываясь…
Будущее без приватности

Пару недель назад я писал про rizzGPT — прототип телесуфлёра, прослушивающего собеседника и дающего подсказки, что говорить в ответ.

И вот вышло интересное видео о похожем концепте, пока ещё фантазийном: очки дополненной реальности, анализирующие мимику собеседника и дающие вам подсказки на их основе. А при использовании коммерсантами — позволяющие увеличить их шансы вам что-то продать.

Заодно хорошо показано, как в пределе может выглядеть концепт персонализации потребительского опыта: в очках дополненной реальности каждый из сидящих за столиком в ресторане членов семьи видит свою версию официанта — мужчина — женщину, женщина — мужчину, ребёнок — анимированного персонажа. Что опять же повышает шансы предприятия увеличить общий счёт столика.

Ждёт ли нас в перспективе подобное будущее — без приватности? Не исключено. Особенно если подобные концепты будут постепенно нормализованы за счёт лоббирования со стороны заинтересованных в этом коммерсантов.
🥴2
Robocounsel pinned a photo
Robocounsel
Пояснительная бригада на связи С учётом того, что не очень хорошо знакомая с моими публикациями часть моих подписчиков на Фейсбуке понимает картинку выше совершенно неверно, я поясню текстом. 1. ЧатГПТ и подобные ему инструменты имеют потенциально весьма…
Запись вебинара: Ответственный генеративный ИИ — практическое руководство для бизнеса (май 2023 г.).

Некоторые из вас не успели посетить мой вебинар несколько дней назад и интересовались возможностью посмотреть запись.

На вебинаре мы:
— разобрали ключевые вопросы, связанные с генеративным ИИ,
— обсудили известные кейсы неудач на пути к ответственному внедрению генеративного ИИ и сделанные из этого уроки,
— рассмотрели, как плохо управляемое внедрение генеративного ИИ по инициативе "снизу" может подвергнуть организацию репутационным и финансовым рискам,
— обозначили шаги для создания или улучшения стратегии ответственного применения ИИ,
— определили, что нужно иметь в виду при создании необходимых внутренних процессов для выявления и управления рисками, связанными с генеративным ИИ.

Запись вебинара выкладываю следующим постом. Оплатить доступ можно прямо здесь, нажав на запись. В случае технических проблем пишите на @robocounsel_bot.
🔥2❤1