Robocounsel
1.95K subscribers
265 photos
18 videos
81 files
660 links
О регулировании и социальных аспектах применения ИИ и данных, преимущественно в ЕС. Публикации отражают сугубо личное мнение автора.

Контакт, вопросы: используйте кнопку 💬 в левом нижнем углу.

Шрифт в логотипе - Alex Murphy Solid от Goatmeal
Download Telegram
Первый виртуальный юрист, страдающий виртуальной шизофазией

Московский стартап Alliesverse сел в лужу с "первым в России виртуальным юристом на базе ИИ, LawAI".

Сразу в ряде изданий вышли (видимо, заказные?) материалы, где без малейшего стыда были до небес превознесены возможности продукта.

Он, де, у них может и думать, и анализировать, и самообучаться.

Что в реальности? На одном из скришотов результат работы системы. На другом — стенограмма записи речи больного шизофазией. Смотрите, не перепутайте.

Больше примеров из психиатрической практики из работы программы — в блоге Романа Янковского.
😁12🔥5
Тот, кто контролирует языковые модели, контролирует политику?

Смешанные чувства по поводу одноимённой статьи Ханнеса Баджора.

Большие языковые модели действительно изменили общественный дискурс и привнесли в него новые идеи.

Появление у человечества подобного инструмента вряд ли останется незамеченным в контексте мировой истории, хотя бы в качестве параграфа в разделе об истории информационных технологий.

Баджор делает несколько наблюдений, среди который наиболее близкое мне касается ИИ-алармизма: тезисы о скорой кончине человечества в результате выхода ИИ-систем из-под контроля — скорее выгодная поставщикам ИИ-систем страшилка.

Выгодная потому, что преувеличивает возможности таких систем, а также смещает фокус общественной дискуссии с реальных проблем с существующими системами (устанавливающаяся глобальная олигополия нескольких поставщиков, недостаточная точность и репрезентативность генерируемой информации, безопасность, риски раскрытия конфиденциальной информации и т. д.) на проблемы спекулятивные и научно-фантастические.

В то же время спекулятивным кажется и опасение самого автора статьи по поводу грядущего преобладания ИИ-сгенерированных текстов над текстом, созданным человеком, и последствий такого положения дел для дальнейшей политической поляризации обществ и в целом для дискурса в них. В том числе за счёт приоритизации разработчиками систем тех или иных результатов, которые могут выдаваться пользователям по их запросам.

Почему я считаю этот тезис спекулятивным?

Насколько мне известно, никто из способных и влиятельных авторов, чьи тексты действительно влияют на умы миллионов, не использует большие языковые модели для генерации своих работ с нуля.

Никому особенно не интересен текст, сгенерированный ИИ без существенного вовлечения автора в процесс такой генерации с самого начала процесса. Пустые, безликие тексты никого не цепляют.

И совсем другое дело — итеративная работа автора с собственными мыслями и текстом с использованием таких моделей, когда они используются для интеллектуального пинг-понга, создания промежуточных результатов и стилистической корректировки итогового результата.

Это означает, что конкретный автор или группа авторов от начала и до конца контролируют весь процесс создания текста, имеющего хоть какую-то ценность и значение. И именно они вкладывают в него свои принципы, убеждения и нарративы.

Большие языковые модели никак не влияют на этот процесс и остаются лишь инструментом в руках конкретных авторов, тексты которых мы читаем и к которым мы прислушиваемся.
👍6🔥3
Власти США: Амазон должен удалить детские персональные данные и заплатить штраф 25 млн. долл.

Минюст США по заявлению Федеральной торговой комиссии обратился в суд с требованием к компании удалить незаконно хранимые аудио- и геолокационные данные пользователей голосового помощника Амазон Алекса, включая записи голоса несовершеннолетних.

По сообщению ФТК, компания не удосуживалась удалять расшифровки записей голоса с деактивированных детских аккаунтов даже после предъявления родителями соответствующих требований.

Заявление, поданное в суд, также содержит требование запретить компании использовать эти данные для обучения своих систем ИИ.

Кроме того, с компании взыскивается штраф в размере 25 млн. долларов.

Ранее этим же днем ФТК объявила об открытии производства по делу в отношении Ринг, дочерней компании Амазона, в связи с обвинениями в несанкционированном доступе её сотрудников и подрядчиков к данным с домашних видеокамер безопасности пользователей.
👍4
Машинное обучение со смертельным подкреплением

На конференции по перспективным воздушно-космическим вооружениям в Лондоне 23-24 мая
глава службы испытаний и эксплуатации систем искусственного интеллекта ВВС США полковник Такер Гамильтон поделился опытом американских экспериментов.

В рамках компьютерной симуляции беспилотнику, управляемому автономной системой, была поставлена задача обнаружения и поражения систем ПВО противника, при этом окончательную команду на открытие или не открытие огня должен был отдавать оператор.

Однако ранее в ходе машинного обучения с подкреплением система управления дроном обучилась воспринимать задачу поражения цели как приоритетную.

В результате, в ходе выполнения в симуляторе боевой задачи дрон "уничтожил" своего оператора, поскольку тот создавал риск невыполнения приоритетной задачи (уничтожить цель).

После того, как система была переобучена (с закреплением того, что уничтожение оператора не приветствуется), в новой симуляции дрон начал "уничтожать" наземную систему радиосвязи с ним, чтобы оператор не мог отдать команду об отказе от поражения цели.

Отметив, что автономные системы могут неожиданно и бесконтрольно обучаться подобным, мягко говоря, неожиданным стратегиям выполнения боевых задач, полковник Гамильтон заключил, что чрезмерно полагаться на ИИ в военном деле было бы ошибкой.

ОБНОВЛЕНО 02/06/2023:

Между тем, на сайте с первоначальной публикацией об "уничтожении" дроном оператора в ходе боевой симуляции появилось уточнение, которое больше походит на опровержение.

Автор доклада, полковник Гамильтон сообщает, что оговорился на конференции, и никаких подобных экспериментов, ни в реальной обстановке, ни в симуляции ВВС США не проводили.

Всё, о чём он говорил, якобы относилось к мысленному эксперименту, проведённому не военными, но основанному на рассмотрении вероятных сценариев возможных проблем при эксплуатации реальных беспилотников.
🔥10🤔3❤1
Как правильно работать с ожиданиями пользователей

Если говорить, не о функционале, а о позиционировании чатбота от Яндекса и о "моральной подготовке" пользователей, кажется, что эти вещи у них получились гораздо ближе к идеалу, чем у создателей ЧатГПТ.

Сам заголовок "Давай придумаем", предупреждение о специфике работе — бот работает, "подражая текстам в интернете", "поэтому результат может быть выдумкой" — создаёт у пользователя очень правильные и более реалистичные ожидания.

Пользователь понимает, что перед ним не дельфийский оракул, от которого всегда следует ожидать истину в последней инстанции, а просто интересный инструмент.

С которым можно поэкспериментировать, но который специализируется на содействии в творческих задачах, а не на поиске достоверной информации или на поддержке принятия жизненно важных личных или деловых решений.

А чей подход больше нравится вам? Чей бот лучше всего помогает пользователю сформировать правильные ожидания об ограничениях возможностей генеративного ИИ?

ЧатГПТ? Бинг? Бард? ЯндексГПТ? Сбер-Гигачат?
👍6
Robocounsel
Машинное обучение со смертельным подкреплением На конференции по перспективным воздушно-космическим вооружениям в Лондоне 23-24 мая глава службы испытаний и эксплуатации систем искусственного интеллекта ВВС США полковник Такер Гамильтон поделился опытом американских…
Между тем, на сайте с первоначальной публикацией об "уничтожении" дроном оператора в ходе боевой симуляции появилось уточнение, которое больше походит на опровержение.

Автор доклада, полковник Гамильтон сообщает, что оговорился на конференции, и никаких подобных экспериментов, ни в реальной обстановке, ни в симуляции ВВС США не проводили.

Всё, о чём он говорил, якобы относилось к мысленному эксперименту, проведённому не военными, но основанному на рассмотрении вероятных сценариев возможных проблем при эксплуатации реальных беспилотников.
😁3
Robocounsel
Телесуфлёр для свиданий? Итак, я вижу избыточно оптимистичное освещение нового прототипа гаджета для знакомств на базе GPT, rizzGPT. Это своего рода интерактивный телесуфлёр, который подслушивает вашего собеседника, передает всё в OpenAI через API и, основываясь…
Будущее без приватности

Пару недель назад я писал про rizzGPT — прототип телесуфлёра, прослушивающего собеседника и дающего подсказки, что говорить в ответ.

И вот вышло интересное видео о похожем концепте, пока ещё фантазийном: очки дополненной реальности, анализирующие мимику собеседника и дающие вам подсказки на их основе. А при использовании коммерсантами — позволяющие увеличить их шансы вам что-то продать.

Заодно хорошо показано, как в пределе может выглядеть концепт персонализации потребительского опыта: в очках дополненной реальности каждый из сидящих за столиком в ресторане членов семьи видит свою версию официанта — мужчина — женщину, женщина — мужчину, ребёнок — анимированного персонажа. Что опять же повышает шансы предприятия увеличить общий счёт столика.

Ждёт ли нас в перспективе подобное будущее — без приватности? Не исключено. Особенно если подобные концепты будут постепенно нормализованы за счёт лоббирования со стороны заинтересованных в этом коммерсантов.
🥴2
Robocounsel pinned a photo
Robocounsel
Пояснительная бригада на связи С учётом того, что не очень хорошо знакомая с моими публикациями часть моих подписчиков на Фейсбуке понимает картинку выше совершенно неверно, я поясню текстом. 1. ЧатГПТ и подобные ему инструменты имеют потенциально весьма…
Запись вебинара: Ответственный генеративный ИИ — практическое руководство для бизнеса (май 2023 г.).

Некоторые из вас не успели посетить мой вебинар несколько дней назад и интересовались возможностью посмотреть запись.

На вебинаре мы:
— разобрали ключевые вопросы, связанные с генеративным ИИ,
— обсудили известные кейсы неудач на пути к ответственному внедрению генеративного ИИ и сделанные из этого уроки,
— рассмотрели, как плохо управляемое внедрение генеративного ИИ по инициативе "снизу" может подвергнуть организацию репутационным и финансовым рискам,
— обозначили шаги для создания или улучшения стратегии ответственного применения ИИ,
— определили, что нужно иметь в виду при создании необходимых внутренних процессов для выявления и управления рисками, связанными с генеративным ИИ.

Запись вебинара выкладываю следующим постом. Оплатить доступ можно прямо здесь, нажав на запись. В случае технических проблем пишите на @robocounsel_bot.
🔥2❤1
Robocounsel
robocounsel
Отзывы о вебинаре (см. предыдущий пост)

Хольгер Цшайге
Издатель, преподаватель, пытливый ум

Судя по моей ленте LinkedIn, в эти дни все целыми днями носятся с генеративным ИИ (да-да, все это связано с работой, конечно 😉). Как говорится, это все веселье и игры, пока кто-то не наступит на реальные "грабли". Если вы используете или планируете использовать генеративный ИИ в корпоративной среде, послушайте, что говорит Александр Тюльканов о том, как ответственно использовать ИИ. Я знаю его уже несколько лет, он знает, о чем говорит, и стал одним из ведущих известных мне экспертов по этике ИИ.

Наталья Вьюркова
Руководитель юридической функции и DPO, Globus.AI

Очень понравилось то, что информация была подана структурированно и системно. Много примеров, четкая логика.

Екатерина Куссмауль
Юрист в сфере дизайна, архитектуры, IT, IP, Основатель Design-legal.ru

Интересный вебинар, его в обязательно порядке нужно прослушать компаниям, которые начинают разработку искусственного интеллекта, чтобы не допустить ошибок и на начальном этапе продумать политику.

Хотя сама юрист, но услышала новые и важные для себя моменты, о которых ранее не задумывалась.
👍5❤1🌚1
Robocounsel
AIA - IMCO-LIBE report - pre-plenary.pdf
Вниманию разработчиков и интеграторов ИИ-систем

Если вы работаете на европейском рынке или планируете на него выходить, в течение ближайших двух недель есть возможность дать свои предложения по улучшению проекта Регламента по искусственному интеллекту в редакции Европарламента. Предложения будут консолидированы для возможного учёта в ходе трилога (согласительных процедур с Советом ЕС и Еврокомиссией).

При желании поучаствовать — пишите на @robocounsel_bot
🔥4
Не переучиваться на программистов, но повышать свои цифровые компетенции. This is the way.

Периодически интернет начинает пестрить заголовками новостей о скорой замене всего и вся очередной технологией.

В один момент было популярно обсуждать, как смарт-контракты на блокчейне вот-вот убьют контракты обычные, и всем юристам нужно срочно переучиваться в программисты. Не случилось. В другой момент кто-то собрался заменить всех юристов системами искусственного интеллекта — тоже не произошло.

Новый всплеск старых песен о главном мы увидели недавно, на фоне популяризации систем генеративного ИИ.

Однако не так часто мы обсуждаем сценарии и бизнес-процессы, в которых юристы на сегодня не участвуют, но в которых их экспертиза бы не помешала.

Например, во многих организациях применяется вполне разумный подход, при которых договоры по сделкам, не несущим значительных рисков, в принципе не попадают на согласование юристам. Критерии могут быть разными — использование стандартных договорных условий организации (поэтому проверять нечего), незначительность цены договора (поэтому риски неудачных формулировок можно принять как не создающие угроз для бизнеса).

Так вот, постепенное совершенствование юртех-продуктов, особенно таких, которые гибко настраиваются под конкретный бизнес, позволяет, во-первых, создать для бизнес-менеджеров возможность опосредованного использования экспертизы их юристов для таких сделок, для которых она ранее в принципе была недоступна (ввиду их занятости на более значимых сделках). Юристы предприятия могут трансформировать свою экспертизу в пользовательские настройки юртех-продуктов, которые затем могут использоваться бизнес-подразделениями в режиме самообслуживания, на основании запроектированных с глубоким вовлечением юристов процедур и протоколов.

А во-вторых, корректное внедрение юртех-продуктов на предприятии позволяет ещё больше сузить спектр сделок, которые требуют непосредственного вовлечения юристов, сохраняя больше их ресурсов для самого важного и критичного, отсеяв всё остальное.

Как результат — снижение операционных затрат конкретного предприятия и транзакционных издержек в экономике в целом. Главное — правильно подобрать инструменты и корректно их внедрить в бизнес-процессы, заодно перепроверив последние: очень вероятно, что какие-то из них вообще окажутся не нужны.

По крайней мере, по моему опыту на подобного рода проектах так и получалось.
👍12❤2
Детекторы ИИ-сгенерированного текста легко обмануть

Как показывает недавно опубликованное исследование, надежды, возлагаемые некоторыми образовательными учреждениями на детекторы ИИ-сгенерированного текста не оправдываются.

Они практически никак не справляются с обнаружением ИИ-генерации, если она замаскирована за счёт редактирования текста самой же системой генеративного ИИ по запросу пользователя. Может потребоваться несколько итераций, но на выходе в итоге — не распознаваемый детекторами текст.

Также на примере англоязычных текстов установлено, что детекторы гораздо чаще ложноположительно срабатывают на тексты, написанные не носителями языка. В результате последние дискриминируются по сравнению с носителями только из-за того, что их знания языка не совершенны.

С учётом этого видится, что само по себе использование таких детекторов в образовательном процессе может быть бессмысленным или даже вредным.
👍12
Генеративные чатботы не предназначены для поиска точной информации

Дорогой ценой достался этот урок двум "прославившимся" на весь мир юристам, о которых я писал ранее и которые не проверили выдуманные ЧатГПТ ссылки на судебные прецеденты.

На слушании вчера, по итогам которого судья решит, что делать с незадачливыми копипастерами Шварцем и ЛоДукой дальше, было немало народу, и немало эмоций, сообщает Нью-Йорк Таймс:

"Боже, мне бы так хотелось это сделать (перепроверить выдуманные ЧатГПТ дела — А.Т.), но я этого не сделал", - сказал Шварц, добавив, что он чувствует смущение, унижение и глубоко раскаивается.

"Я не понимал, что ЧатГПТ может выдумывать прецеденты", - сказал он судье.

"Я услышал об этом новом сайте и ошибочно принял его за что-то вроде поисковой системы с возможностями нового, более высокого уровня", - приводит слова Шварца газета.

Уровень критического мышления у его коллеги, ЛоДуки, выступавшего в суде с материалами, подготовленными Шварцем, также оставляет желать лучшего.

"Вы читали какие-либо из приведенных дел?" спросил его судья.
"Нет", - ответил ЛоДука.

"Делали ли вы что-нибудь, чтобы убедиться в том, что дела существуют?".
Снова отрицательный ответ.
👍2
Я уже давно рекомендую всем всегда перепроверять все результаты, полученные в ЧатГПТ, ввиду того, что система ненадёжна и постоянно допускает ошибки (хотя работа над этим и ведётся).

Но, например, по мнению Яна ЛеКуна, главного датасаентиста Меты, текущая архитектура популярных (так называемых авторегрессивных) больших языковых моделей конструктивно обречена генерировать ошибочные результаты и не может быть принципиально исправлена — нужна новая архитектура.

В связи с этим наши с коллегами мнения разошлись: кто-то полагает, что Оупен-Эй-Ай делает недостаточно для того, чтобы предупредить пользователей об ошибках в генерируемых результатах. По мнению таких коллег (Луиза Яровски на скриншоте), нужно обязать разработчиков сообщать пользователям, что они должны перепроверять полученные результаты.

Я всех пользователей призываю именно к этому, но не до конца уверен в том, в какой именно форме было бы справедливо требовать от разработчиков информировать пользователей, ведь это снижает доверие к продукту.

С другой стороны, если продукт на самом деле пока и недостоин доверия, и бoльшим риском сейчас является избыточное доверие к ненадёжному продукту, то может быть это и правильно.

Кто-то же считает, что ни о чём более предупреждать не нужно, по крайней мере сверх уже имеющихся в ЧатГПТ дисклеймеров. А они, напомню, были расширены не так давно. Раньше непосредственно перед строкой промта их не было.

Проведём опрос в следующем посте:
❤2🤯1
Torres-AI-disclosure-bill-text.pdf
35 KB
Результаты работы генеративного ИИ предлагают маркировать в США

Член палаты представителей от демократов Ричи Торрес представил одностраничный законопроект, предлагающий добавлять к любым результатам работы систем генеративного ИИ соответствующую маркировку.

Нарушение нормы предлагается квалифицировать в качестве недобросовестной и вводящей в заблуждение практики, полномочия по надзору за которой предоставляются Федеральной торговой комиссии.

Действие законопроекта не ограничивается дипфейками, как это предполагается по проекту Регламента ЕС об ИИ.

Нэнси Мейс, представитель от республиканцев, отвечающая в Палате за инициативы по ИИ, не поддерживая конкретный текст законопроекта, в целом поддержала инициативу:

«Американцы заслуживают того, чтобы знать, когда они взаимодействуют с контентом, сгенерированным ИИ, особенно в политике, где можно легко производить вводящие в заблуждение материалы».
🔥4