Robocounsel
1.95K subscribers
265 photos
18 videos
80 files
659 links
О регулировании и социальных аспектах применения ИИ и данных, преимущественно в ЕС. Публикации отражают сугубо личное мнение автора.

Контакт, вопросы: используйте кнопку 💬 в левом нижнем углу.

Шрифт в логотипе - Alex Murphy Solid от Goatmeal
Download Telegram
Rosenthal_GAIRA.xlsx
225.6 KB
Инструмент для оценки рисков при применении генеративного ИИ в ваших проектах

Давид Розенталь уже многим известен благодаря своим публикациям и бесплатным инструментам для оценки рисков в области защиты персональных данных.

Сегодня он опубликовал для публичного обсуждения новый инструмент — GAIRA — для оценки рисков применения генеративного ИИ в контексте конкретных проектов, на основе положений проекта Регламента ЕС по ИИ.

Подход к оценке похож на DPIA (оценку рисков для субъектов персональных данных), но покрывает также репутационные и финансовые риски, а также не строго юридические аспекты (ИИ-этика).

В инструмент (заполняемая эксель-таблица с формулами, см. приложение к этому посту) заранее включены 65 риск-сценариев, а также DPIA.

Инструмент распространяется на условиях ограниченной лицензии CC BY ND 4.0.
👍11
Нравится контент Robocounsel, но хочется больше?

Вы можете поддержать меня, подписавшись на Robocounsel Plus.

Платная подписка взаимовыгодна. Вам она позволит получать ссылки на дополнительные материалы — которые теперь, с 1 ноября, размещаются на Robocounsel Plus ежедневно. А мне она помогает понять, что вам интересен и ценен и этот, основной канал. И продолжать держать его полностью свободным от коммерческой рекламы.

Подписаться на Robocounsel Plus можно за 499 рублей в месяц — проходите по этой ссылке.
❤6👍2🔥1👏1
Цифровые двойники и симулятор общества

Компания CulturePulse, основанная специалистами по антропологии и компьютерному моделированию, работает по контракту с Программой Развития ООН над подготовкой "цифрового двойника" Израиля и Палестинских территорий.

По задумке учёных, разрабатываемая ими мультиагентная модель позволит смоделировать вероятные исходы тех или иных возможных решений по политике в зоне конфликта.

Социальные эксперименты, которые было бы неэтично или по иным причинам невозможно провести в Палестине настоящей, можно будет многократно и с разными параметрами провести в симуляторе Палестины.

Незадолго до последнего обострения учёные собрали информацию на местах и ведут подготовительную работу, чтобы, в случае продления контракта на второй этап в следующем году, начать основную работу по разработке модели.

Журналист Wired, описывающий проект, пишет, что:

"По словам Шульца и Лейна, эта модель позволит создать виртуальную версию каждого из 15 млн. человек, проживающих в Израиле и на Палестинских территориях, каждый из которых будет иметь демографические характеристики, религиозные убеждения и моральные цености, повторяющие их реальные аналоги".

В общей сложности модель CulturePulse якобы будет учитывать более 80 категорий данных для каждого "агента", включая психологические черты и убеждения.

В статье не поясняется, собираются ли, и каким образом, авторы собрать точные данные, описывающие все 15 млн. человек.

Либо это фигура речи, и на самом деле речь идёт о создании мультиагентной модели синтетического общества такой сложности и размера, но сугубо на основе вторичных данных. Таких как публикации в прессе, освещающие конфликт, дополненные серией интервью очевидцев на местах — такие данные авторы ранее уже использовали для моделирования поведения людей в других регионах мира.

Так, авторы утверждают, что ранее созданная ими модель для Белфаста верно заранее предсказала рост инцидентов вооруженного противостояния после Брекзита и установления нового пограничного режима для Северной Ирландии в Ирландском море.

Статья, описывающая использованный тогда метод, была в 2018 году опубликована в Журнале искусственных обществ и социальной симуляции (заодно мы узнали, что по этому направлению есть отдельный научный журнал).
❤7👍5🔥5
Лицензирование оборота ИИ-систем повышенной опасности?

Такое предложение предлагают рассмотреть в опубликованной вчера научной статье Мальгьери и Паскуале.

По сути речь идёт об ужесточении того правового режима, который предлагается в проекте Регламента ЕС по ИИ, и который, как представляется, уже достаточно строг — хотя я не сказал бы, что он строг избыточно.

Напомню, что проект Регламента ЕС по ИИ уже предполагает для систем повышенной опасности внедрение системы управления рисками, качеством и процедуры подтверждения соответствия.

Как минимум, кажется преждевременным серьёзно говорить об ужесточении этого режима, пока не сделана оценка регулирующего воздействия, которая показывала бы, что преимущества этого шага превышают все неизбежно вытекающие из этого негативные последствия — упущенные возможности для повышения уровня жизни людей, эффективности бизнеса и государственного управления и инвестиционной привлекательности соответствующей юрисдикции.

С другой стороны, обратил бы внимание на недавнее исследование TechBetter и EthicsGrade, показывающее: принятие на себя технологическими компаниями обязательств по соблюдению всяческих кодексов ИИ-этики само по себе никак не влияет на их реальные бизнес-практики и никак не улучшает ситуацию с управлением ИИ-рисками.

То есть на одной этике никуда не уедешь, регулирование для систем ИИ повышенной опасности обязательно нужно, но вот степень его жёсткости можно и нужно обсуждать.
👍2🔥1
Robocounsel
Цифровые двойники и симулятор общества Компания CulturePulse, основанная специалистами по антропологии и компьютерному моделированию, работает по контракту с Программой Развития ООН над подготовкой "цифрового двойника" Израиля и Палестинских территорий. …
CulturePulse ответят на вопросы по ИИ-симуляторам обществ

Я связался с Джастином Лейном, одним из авторов работы по созданию ИИ-симуляции обществ, которую я описывал в посте на прошлой неделе. Он предварительно согласился ответить на наши с вами уточняющие вопросы, которые остаются открытыми после заметки в Wired о ИИ-симуляторе Палестины.

Со своей стороны я планирую уточнить, что именно подразумевается под созданием виртуальной модели населения, какие меры принимаются для оценки рисков и обеспечения конфиденциальности персональных данных, и какова доказательная база для утверждений об эффективности применяемых методов моделирования.

Вопросы, которые вас интересуют, пишите и поддерживайте в комментариях к этому посту — они помогут мне лучше понять и построить направление для дискуссии.
❤3
Edge cases: где заканчивается область безопасного применения ИИ-систем

Как пишет канал "Полный беспилот", стали известны характерные подробности недавнего ДТП с беспилотником GM Cruise в Калифорнии.

Пешеход, сбитый обычным автомобилем, попал под колеса беспилотника. Водитель обычного автомобиля в такой ситуации применил бы экстренное торможение и покинул бы машину для оценки обстановки и организации помощи.

Но беспилотник не обладает интеллектом. Поэтому он "попытался съехать на обочину и припарковаться, чтобы не блокировать проезд, в результате чего протащил пешехода еще несколько метров и в итоге остановился задним колесом на ноге пострадавшей".

Здесь проявилась характерная слабость ИИ-систем. Они демонстрируют только то поведение и те способности, данные о которых можно было извлечь из обучающей выборки. И, как показывают исследования, очень плохо, по сравнению с людьми, справляются с обработкой ситуаций, выходящих за рамки типичного (edge cases).

Человек с такими ситуациями справляется. А система, в которой за всё отвечает только ИИ-компонент и в которой нет человека, готового перехватить управление в неожиданной нетипичной ситуации — с треском проваливает "упражнение". Иногда с вот такими вот кровавыми последствиями.

Что, собственно, в очередной раз ставит под вопрос осмысленность и безопасность допуска на дороги общего пользования в городах автомобилей, уровень автономии которых превышает просто ADAS (системы содействия водителю, облегчающие ему жизнь, но предполагающие наличие его за рулём и полный контроль им дорожной обстановки).
🔥2
ОЭСР обновили своё определение ИИ-системы

От прежнего не фундаментально, но отличается: в частности, опущено упоминание о том, что цели работы системы обязательно задаются человеком.

"Система искусственного интеллекта - это машинная система, которая для достижения явно или неявно заданных целей на основе получаемых входных данных рассчитывает, как сформировать результат, например, прогнозы, контент, рекомендации или решения, которые могут влиять на физическую или виртуальную среду. Системы ИИ различаются по уровню автономности и приспособляемости после развертывания".

"An AI system is a machine-based system that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments. Different AI systems vary in their levels of autonomy and adaptiveness after deployment."

Новое определение ближе к тому, которое предложено в последних редакциях проекта Регламента ЕС по ИИ.
👍6
Что понимает вымышленный осьминог?

В продолжение нашей с Александром Болдачёвым периодической дискуссии о том, демонстрируют ли большие языковые модели понимание.

Ранее в чате к этому каналу я уже делился ссылками на тезисы из лекции Эмили Бендер по этому вопросу (её ответ на поставленный вопрос — отрицательный, а у Александра — положительный).

Осьминожный текст (The Octopus Test), который она часто приводит как аргумент, периодически подвергается разумной и интересной критике.

В этой статье Джулиана Майкла — обобщение одной из широких дискуссий по этому поводу. Со ссылками на исходную статью Эмили Бендер и Александра Коллера, разумеется. Где основной тезис в том, что значение высказываний не может быть усвоено лишь за счёт обучения на формах этих высказываний ("language meaning cannot be learned from form alone").

И с собственными выводами автора, среди которых одни из наиболее важных:

1) "Нужно различать (а) что мы моделируем при помощи больших языковых моделей и (б) как мы эти модели потом используем".

2) "Термин "понимание" очень нагружен: его использование по отношению к [информационной] системе создаёт сильную коннотацию наличия в ней подходящих [под]систем для выведения причинно-следственных зависимостей и понятий истинности, ложности, логического следования, убеждений и других знакомых людям и полезных для них концепций.

У нас нет никаких оснований полагать, что языковые модели оперируют этими концепциями в сколь-либо полезной или узнаваемой для нас форме. Мы можем лишь сказать, что они представляют собой эффективное статистическое обобщение данных из обучающей выборки.

Бросая по ходу серьёзного разговора тезис о том, что модели "понимают язык", мы игнорируем всё описанное выше"
.
👍4❤3🔥2
Мастера по ремонту техники смотрят и скачивают интимные фото и иную приватную информацию

Журналисты редакции Си-Би-Эс Маркетплейс провели расследование, сдав в ремонт свои телефоны и ноутбуки в 20 различных пунктах по ремонту техники в Онтарио (Канада), включая крупные сети Best Buy и Mobile Klinik.

В 9 из 16 ателье, деятельность которых удалось записать, мастера просматривали содержащиеся на устройстве личные данные, при этом один из мастеров даже скопировал их себе на флешку.

Подробнее в статье.
😱3😢2😁1🥴1
Artificial_Intelligence_Research,_Innovation,_and_Accountability.pdf
109.2 KB
Новый законопроект по ИИ в США

Сенаторы США внесли на рассмотрение новый законопроект об искусственном интеллекте (Artificial Intelligence Research, Innovation, and Accountability Act).

Ранее американские парламентарии уже предпринимали несколько попыток в этом направлении, но все они заканчивались ничем. Этот законопроект внесён представителями от обеих партий, включая лидера парламентского меньшинства от республиканцев, поэтому, вероятно, у него больше шансов на прохождение.

В содержательном плане много всего:
- обязанности для эксплуатантов систем ИИ повышенной и критической опасности,
- внедрение процедуры подтверждения соответствия,
- разработка государственных стандартов на испытания, оценку и валидацию таких систем,
- широкий круг обязанностей разработчиков по информационной поддержке эксплуатантов систем,
- обязательное раскрытие искусственного происхождения контента для интернет-платформ,
- всеми любимые штрафы,
- и многое другое.

Детали в моём анализе на Линкдин.
👍6
Лучшее описание драмы с ОпенЭйАй для нормальных людей

Комментировать тут нечего, нужно просто читать.

Местами очень смешно.
🔥5
Это не те дроиды, которых вы ищете

Не секрет, что в наше время уже стало неприлично проводить ИТ-панели или конференции, не позаботившись о том, чтобы среди спикеров были женщины, а не только одни лишь мужчины (как это бывало раньше).

Организатор конференции для разработчиков Devternity понимал это, и поэтому решил... для подъема продаж выставить на своем сайте как минимум одного вымышленного спикера-женщину для имитации искомого гендерного баланса.

Описание профиля было полностью сгенерировано ИИ, и, судя по комментарию организатора в Твиттере, ему в моменте не пришло в голову, что так делать нельзя.

Сожаления пошли только после того, как правда вскрылась, и приличные люди стали отказываться от участия в конференции со столь сомнительными практиками. Причём виноваты во всём по-прежнему все, кроме организатора.
😁5😱2
Ещё два моих клиента успешно сдали CIPP/E

В нашем закрытом чате они поделились своими впечатлениями и поблагодарили меня за систематизацию материалов в моём руководстве по подготовке к этому экзамену.

Приятно!

Если вы хотите присоединиться к нашему сообществу, задать вопросы, подготовиться и также сдать этот экзамен — вам сюда.

А если просто хотите поздравить меня с днём рождения и поддержать канал, то подписывайтесь и вносите донат на Robocounsel Plus здесь (отписаться можно в любой момент).

Спасибо, что вы со мной!
❤11🔥4👏1
Итоги трилога по Регламенту ЕС по искусственному интеллекту

Несколько часов назад началось — как все надеются финальное — совещание в рамках трилога.

Напомню, трилог — это процедура межведомственного согласования проектов общеевропейских нормативных актов, в которой участвуют Еврокомиссия (исполнительный орган ЕС), Совет ЕС (представители исполнительной власти государств-членов) и Европарламент (законодательный орган ЕС).

Итоги начавшегося сегодня совещания будут озвучены на пресс-конференции завтра, 7 декабря, в 8 утра CET (10:00 МСК) — смотреть в прямом эфире можно здесь (выбрав канал EbS+ Live).

В случае благополучного достижения компромисса по тексту к завтрашнему утру окончательный текст акта будет консолидирован примерно к январю.

Список пока открытых (спорных) вопросов состоит из 23 пунктов, основным из которых остаётся целесообразность специального регулирования для базовых ИИ-моделей (таких как GPT-4), против чего ранее выступали Германия, Франция и и Италия.
❤4
Robocounsel
Как сообщает специальный корреспондент Еврактив Лука Бертуцци, час назад Еврокомиссия внесла на рассмотрение новое предложение по тексту, касающемуся базовых моделей.
Трилог по Регламенту ЕС по ИИ затягивается

Пресс-конференция Совета в 8:00 утра (10 МСК) отменена. Такое же мероприятие европарламентариев пока стоит в повестке на 10:00 утра (12 МСК), но судя по списку ещё открытых вопросов так же может быть перенесено.

Позитивная новость только одна: никто не вышел из переговоров, трилог продолжается.

UPD: Прервались в 14 ч., после 22 часов переговоров взяли перерыв до 9 ч. утра завтра.
🔥4
Robocounsel
Трилог по Регламенту ЕС по ИИ затягивается Пресс-конференция Совета в 8:00 утра (10 МСК) отменена. Такое же мероприятие европарламентариев пока стоит в повестке на 10:00 утра (12 МСК), но судя по списку ещё открытых вопросов так же может быть перенесено.…
Так что там с трилогом по Регламенту ЕС по ИИ?

Трилог продолжается. Репортёр Еврактив Лука Бертуцци пишет о промежуточных итогах и контексте.

Даю в моём переводе:

"Политики ЕС готовятся к этому неожиданному второму раунду, [... где] многое будет зависеть от содокладчика Европарламента Брандо Бенифея и левоцентристской фракции парламента ЕС.

На повестке дня всё еще остается около 10 открытых вопросов, но реальными препятствиями являются [запрещенные области применения ИИ], удаленная биометрическая идентификация и изъятия [из положений Регламента ЕС об ИИ] для целей национальной безопасности. Вчера Испания, председательствующая в Совете ЕС, предоставила представителям Европарламента пакет предложений, близкий к позиции Совета ЕС, и на парламентариев было оказано огромное давление, чтобы они согласились.

Испанский пакет содержит ряд положений, которые крайне сложно принять представителям прогрессивных партий, начиная с широкого исключения всех военных применений ИИ и заканчивая широкой свободой действий для правоохранительных органов в использовании ИИ для распознавания эмоций, прогностической работы полиции и профилирования граждан по признаку расовой принадлежности.

Со стороны парламента группа EPP (правоцентристская - А. Т.) традиционно близка к правоохранителям. Второй содокладчик Европарламента Драгош Тудораке (центрист - A. T.) настаивал на принятии предложенного Советом ЕС текста. Левоцентристские евродепутаты не изменили своей позиции, и был объявлен перерыв. Но даже в лагере Бенифея (Прогрессивный альянс социалистов и демократов, S&D, левоцентристы - А. Т.) на него оказывают давление, чтобы он принял текст.

Испанские социалисты не только входят в правительство в Мадриде, но и являются самой большой делегацией в Прогрессивном альянсе [Европейского парламента]. Председатель группы, Ираце Гарсия, лично вмешалась в ситуацию, поскольку достижение соглашения по этому эпохальному законопроекту стало бы огромной дипломатической победой для Испании.

Однако после вчерашнего трилога Бенифей заявил на мероприятии Фонда европейских прогрессивных исследований, что соглашение не обязательно будет достигнуто сегодня. Это прямая угроза для планов испанского председательства Совета ЕС, поскольку у него не будет достаточно времени, чтобы организовать еще один трилог до конца семестра.

Серьезно ли настроен Бенифей? Да, серьезно. Перед началом трилога в среду он сказал журналистам: "Мы несколько раз слышали от председательствующих в Совете ЕС, что наступит конец света, если мы не пойдём на сделку с ними. В итоге мы добились лучшей сделки с последующим председательствующим".

Что дальше? Я полагаю, что испанскому председательству [Совета ЕС] придется проявить некоторую гибкость, если левоцентристские евродепутаты выступят единым фронтом. Некоторое отклонение испанского председательства от предоставленного ему государствами-членами мандата, с последующей попыткой убедить их в правильности достигнутого компромисса выглядит предпочтительнее, чем срыв всей политической сделки после того, как в переговоры было вложено так много сил."
👍4
Регламент ЕС по ИИ становится реальностью

Политическое соглашение по Регламенту ЕС об искусственном интеллекте достигнуто.

Теперь согласованный текст должен быть формально одобрен Европарламентом и Советом ЕС.

ОБНОВЛЕНО: Голосование в парламентских комитетах по внутреннему рынку и гражданским свободам состоится на следующих их заседаниях 22 и 24 января 2024 г.
👍3🔥2
Трилоги: Бонус

Интересующимся дальнейшим процессом по Регламенту ЕС по ИИ и желающим разобраться в процедуре в деталях и с первоисточниками — моя заметка-ориентир в Твиттере и на Линкдине по тому, где и что смотреть. Разумеется, на английском, потому что если вы хотите знакомиться с первоисточниками, они в любом случае на английском.

А для тех, кто хочет понимать, как механизм трилогов появился, как он в принципе работает и как учтён в положениях Регламента Европарламента — вот эта справка от Европейской парламентской исследовательской службы.
👍4❤3
Очередной конфуз с использованием генеративных чатботов

Подданная британской короны миссис Харбер решила оспорить штраф, наложенный на неё налоговым органом, и обратилась в суд.

Оспаривая решение налоговой, она сослалась в поддержку своей позиции на ряд судебных решений.

Проблема со ссылкой на эти решения заключалась в том, что все они не существовали и были выдуманы чатботом, который миссис Харбер решила использовать при подготовке жалобы.

На что и обратил внимание суд, отказывая в удовлетворении жалобы.

Как мы видим, дело Авианки ранее в этом году не всех научило, что в ЧатГПТ и аналогичных чатботах нельзя искать судебную практику.

Это не справочно-правовая система. Это даже не RAG-система, которая генерирует текст, но с опорой на результаты поиска в Интернете.

Это просто система, которая генерирует текст, соответствие которого реальности никто не гарантирует.

Как мы видим, соответствующего понимания у многих людей всё ещё нет, и это прискорбно.
👍9