Robocounsel
Обещал стрим по риск-менеджменту в ИИ — провожу. Завтра в 19 ч. по Мск, прямо здесь. В момент начала просто нажмите кнопку, которая здесь появится.
Пост для вопросов по риск-менеджменту в ИИ
В ходе стрима сегодня постараюсь ориентироваться на ваши комментарии к этому посту
В ходе стрима сегодня постараюсь ориентироваться на ваши комментарии к этому посту
❤5
Бот на боте и ботом погоняет: автоматическая проверка сгенерированного контента
Некоторые из моих практических рекомендаций поставщикам ИИ-решений в статье про чатбот-диффамацию вызвали дискуссии.
Некоторые полагают, что notice & take down (удаление порочащих сведений по запросу) может оказаться невыполнимым, поскольку переобучение большой языковой модели (БЯМ) при каждом получении запроса — нерентабельно.
Да, такой подход к удалению диффамаций проблематичен.
Но есть и другой путь: маркировать либо отфильтровывать проблемные результаты другой моделью, работающей поверх основной БЯМ. Я бы предпочел маркировку, но крупные провайдеры пока выбрали жёсткую фильтрацию.
В частности, опция жёсткой фильтрации, похоже, уже реализована в ЧатГПТ и Бинг. То ли в ответ на недавние обвинения в распространении клеветы со стороны некоторых ньюсмейкеров, то ли благодаря усилиям продуктовых команд, пытающихся заранее снять таким образом озабоченность пользователей по поводу генерации недостоверных результатов.
Я проверил, и похоже, что как только в запросе (промте) обнаруживаются имена определенных лиц, срабатывает фильтр, который заставляет модель (1) немедленно остановиться, прежде чем модель выдаст что-то "запрещённое" разработчиком (ЧатГПТ) или (2) заменить потенциально проблематичный контент, по мере его генерации, общим ответом "спросите что-нибудь ещё" (Бинг).
Недостатком такого подхода, конечно, является то, что приложение становится менее полезным для пользователя, поскольку автоматический фильтр неизбежно фильтрует не только ложную информацию, но и ту, которая может выглядеть дискредитирующей, но соответствует фактам (и, следовательно, не является диффамацией и может быть полезна пользователям).
Однако я бы предложил более интересный и менее ограничивающий пользователя подход с использованием маркировки. На изображении в качестве примера представлен концептуальный вариант реализации.
Что именно он означает и какие уже существующие технические решения позволят его реализовать, читайте сегодня в Robocounsel Plus.
Некоторые из моих практических рекомендаций поставщикам ИИ-решений в статье про чатбот-диффамацию вызвали дискуссии.
Некоторые полагают, что notice & take down (удаление порочащих сведений по запросу) может оказаться невыполнимым, поскольку переобучение большой языковой модели (БЯМ) при каждом получении запроса — нерентабельно.
Да, такой подход к удалению диффамаций проблематичен.
Но есть и другой путь: маркировать либо отфильтровывать проблемные результаты другой моделью, работающей поверх основной БЯМ. Я бы предпочел маркировку, но крупные провайдеры пока выбрали жёсткую фильтрацию.
В частности, опция жёсткой фильтрации, похоже, уже реализована в ЧатГПТ и Бинг. То ли в ответ на недавние обвинения в распространении клеветы со стороны некоторых ньюсмейкеров, то ли благодаря усилиям продуктовых команд, пытающихся заранее снять таким образом озабоченность пользователей по поводу генерации недостоверных результатов.
Я проверил, и похоже, что как только в запросе (промте) обнаруживаются имена определенных лиц, срабатывает фильтр, который заставляет модель (1) немедленно остановиться, прежде чем модель выдаст что-то "запрещённое" разработчиком (ЧатГПТ) или (2) заменить потенциально проблематичный контент, по мере его генерации, общим ответом "спросите что-нибудь ещё" (Бинг).
Недостатком такого подхода, конечно, является то, что приложение становится менее полезным для пользователя, поскольку автоматический фильтр неизбежно фильтрует не только ложную информацию, но и ту, которая может выглядеть дискредитирующей, но соответствует фактам (и, следовательно, не является диффамацией и может быть полезна пользователям).
Однако я бы предложил более интересный и менее ограничивающий пользователя подход с использованием маркировки. На изображении в качестве примера представлен концептуальный вариант реализации.
Что именно он означает и какие уже существующие технические решения позволят его реализовать, читайте сегодня в Robocounsel Plus.
👍5
Robocounsel
И ещё теперь об уже скандальной публикации в Нейчер про полиграфы Для тех, кто не видит у меня на Фейсбуке теперь подзамочный пост, который я репостнул, и недоумевает, что это было: господин Альберт Ефимов из дата саенс Сбера выпилился из моих френдов и скрыл…
В моей заметке на Линкдине на тему вреда полиграфов в бизнесе и бессмысленности попыток их валидации машинным обучением я рекомендую общее правило: оценивать любой бизнес-процесс на осмысленность, прежде чем автоматизировать его.
Это навело одного из моих подписчиков, Питера Дитерта, на обобщение, которое мне кажется очень точным.
Заимствуя идеи из защиты окружающей среды, Питер предлагает последовательно проверять все бизнес-процессы на возможность:
- во-первых — ликвидации,
- во-вторых — улучшения,
- и только в-третьих — автоматизации.
При этом всегда нужно держать в уме, что ни один поставщик решений по автоматизации не заинтересован в том, чтобы советовать вам:
- уменьшить вашу зависимость от информационных технологий,
- использовать ваши собственные, оптимизированные по объёму и качеству информационные ресурсы.
Это навело одного из моих подписчиков, Питера Дитерта, на обобщение, которое мне кажется очень точным.
Заимствуя идеи из защиты окружающей среды, Питер предлагает последовательно проверять все бизнес-процессы на возможность:
- во-первых — ликвидации,
- во-вторых — улучшения,
- и только в-третьих — автоматизации.
При этом всегда нужно держать в уме, что ни один поставщик решений по автоматизации не заинтересован в том, чтобы советовать вам:
- уменьшить вашу зависимость от информационных технологий,
- использовать ваши собственные, оптимизированные по объёму и качеству информационные ресурсы.
Linkedin
Automation is useful, except when it isn’t
Today, I’ve stumbled upon an interesting matrix chart by Uwais Iqbal, that proposes to address AI use cases in the legal domain across the dimensions of risk and volume of relevant operations. In his original post, he refers to “AI”, but I think in this case…
❤4👍3🔥1
Больше оценок, хороших и разных
Проводите оценку вреда для субъектов персональных данных по 152-ФЗ (DPIA по GDPR)?
И, возможно, уже замахнулись на на оценку влияния вашего бизнеса на права человека (HRIA по UNGP)?
Или готовитесь к управлению рисками применения систем искусственного интеллекта?
Тогда вам будет интересно посмотреть на экспериментальную методологию оценки влияния квантовых технологий (QIA).
Да, теперь и такое есть.
Проводите оценку вреда для субъектов персональных данных по 152-ФЗ (DPIA по GDPR)?
И, возможно, уже замахнулись на на оценку влияния вашего бизнеса на права человека (HRIA по UNGP)?
Или готовитесь к управлению рисками применения систем искусственного интеллекта?
Тогда вам будет интересно посмотреть на экспериментальную методологию оценки влияния квантовых технологий (QIA).
Да, теперь и такое есть.
👍1
Robocounsel
Генеративный ИИ: угроза для мастеров пера и кисти? На фоне обсуждений творчества ChatGPT, Midjourney и т. п. все интересуются темой, требуют ставить вотермарки, защитить или, наоборот, обесправить, промт-инженеров и авторов оригинального контента, на котором…
Чем вы лучше робота?
Тема, которую я поднимал в январе в своей статье про генеративный ИИ, получила практическое продолжение.
Юнивёрсал Мьюзик требует от стриминговых платформ снимать с ротации треки, сгенерированные искусственным интеллектом, и рассылать всем сопричастным уведомления о нарушении исключительных прав. По словам лейбла, обучение нейросетей на существующей музыке нарушает права как самого лейбла, так и представляемых им артистов.
Однако так ли это? В своей январской статье я уже задавался вопросом: является ли генеративный ИИ угрозой для творческой экономики?
Моя гипотеза в том, что если вы делаете деньги на своём творчестве, но какие-то из его ценителей без колебаний готовы переключиться на безликий генеративный контент, значит:
а) либо запросы конкретно ушедшей от вас части потребителей не столь высоки, как они сами считали, и на самом деле они изначально были потребителями не вашего продукта, а "любой в достаточной степени похожей имитации",
б) либо ваши творческие способности не столь велики, как вы сами считали, и на самом деле ваш рынок — это не рынок уникальных работ-шедевров, а рынок ширпотреба, на котором продажи происходят не на основе представлений о ценности, а на основе соображений о затратах и цене,
в) либо имеет место сочетание "а" и "б".
Выражаясь словами Джона Уорнера: боты "не способны убить ничего такого, что было бы достойно спасения".
Соответственно, если вы испытываете опасения, или даже видите реальный тренд — подписчики и клиенты от вас уходят и говорят, что уходят именно в сторону потребления генеративного контента — вам нужно что-то менять в том, что и как вы делаете и как себя позиционируете на рынке.
Времена, когда вы могли просто сидеть и получать ренту с продаж чего-то "более-менее сносного" — ушли.
Подписчики и клиенты должны видеть для себя уникальную ценность в том, что и как вы делаете. Ценность настолько большую, что им даже в голову не придёт сопоставлять ваше творчество и генеративные поделки.
Либо можно пойти в баристы — с навыками делать и артистично подавать кофе у роботов пока всё не очень хорошо.
Хотя нет, с кофе вы уже опоздали.
Тема, которую я поднимал в январе в своей статье про генеративный ИИ, получила практическое продолжение.
Юнивёрсал Мьюзик требует от стриминговых платформ снимать с ротации треки, сгенерированные искусственным интеллектом, и рассылать всем сопричастным уведомления о нарушении исключительных прав. По словам лейбла, обучение нейросетей на существующей музыке нарушает права как самого лейбла, так и представляемых им артистов.
Однако так ли это? В своей январской статье я уже задавался вопросом: является ли генеративный ИИ угрозой для творческой экономики?
Моя гипотеза в том, что если вы делаете деньги на своём творчестве, но какие-то из его ценителей без колебаний готовы переключиться на безликий генеративный контент, значит:
а) либо запросы конкретно ушедшей от вас части потребителей не столь высоки, как они сами считали, и на самом деле они изначально были потребителями не вашего продукта, а "любой в достаточной степени похожей имитации",
б) либо ваши творческие способности не столь велики, как вы сами считали, и на самом деле ваш рынок — это не рынок уникальных работ-шедевров, а рынок ширпотреба, на котором продажи происходят не на основе представлений о ценности, а на основе соображений о затратах и цене,
в) либо имеет место сочетание "а" и "б".
Выражаясь словами Джона Уорнера: боты "не способны убить ничего такого, что было бы достойно спасения".
Соответственно, если вы испытываете опасения, или даже видите реальный тренд — подписчики и клиенты от вас уходят и говорят, что уходят именно в сторону потребления генеративного контента — вам нужно что-то менять в том, что и как вы делаете и как себя позиционируете на рынке.
Времена, когда вы могли просто сидеть и получать ренту с продаж чего-то "более-менее сносного" — ушли.
Подписчики и клиенты должны видеть для себя уникальную ценность в том, что и как вы делаете. Ценность настолько большую, что им даже в голову не придёт сопоставлять ваше творчество и генеративные поделки.
Либо можно пойти в баристы — с навыками делать и артистично подавать кофе у роботов пока всё не очень хорошо.
Хотя нет, с кофе вы уже опоздали.
Telegram
Robocounsel
Генеративный ИИ: угроза для мастеров пера и кисти?
На фоне обсуждений творчества ChatGPT, Midjourney и т. п. все интересуются темой, требуют ставить вотермарки, защитить или, наоборот, обесправить, промт-инженеров и авторов оригинального контента, на котором…
На фоне обсуждений творчества ChatGPT, Midjourney и т. п. все интересуются темой, требуют ставить вотермарки, защитить или, наоборот, обесправить, промт-инженеров и авторов оригинального контента, на котором…
👍7❤2
Robocounsel
Чем вы лучше робота? Тема, которую я поднимал в январе в своей статье про генеративный ИИ, получила практическое продолжение. Юнивёрсал Мьюзик требует от стриминговых платформ снимать с ротации треки, сгенерированные искусственным интеллектом, и рассылать…
P.S. хотя вы и опоздали с кофе, вы ещё не опоздали на новый вебинар по генеративному ИИ, который я планирую в мае. Если хотите поучаствовать — проходите в @robocounsel_bot и напишите там "вебинар".
❤1
Ваши интуиции о том, как языковые модели обрабатывают данные, могут быть ошибочными
Спорю сейчас с одним известным прайваси-экстремистом по поводу того, что он может, и чего не может требовать от оператора большой языковой модели.
Модель выдавала недостоверную информацию о нём. Он пожаловался, оператор установил фильтр и больше никакая информация о нём не выдаётся.
Он недоволен. Хочет, чтобы оператор уничтожил или перетренировал языковую модель таким образом, чтобы она "не хранила" информацию о нём.
Насколько я могу судить, проблема в непонимании им (1) того, как работают языковые модели, и (2) того, что ни одно из прав человека не абсолютно, и суды всегда балансируют их между собой (например, право на неприкосновенность частной жизни и на свободу предпринимательства или свободу распространения информации).
В случае с большими языковыми моделями:
1. Обработка данных для обучения.
На обработку персональных данных для обучения модели у разработчика имелось точно такое же правовое основание, как у Гугла или Яндекса на обработку в том числе персональных данных в ходе парсинга интернета.
2. Обработка данных при эксплуатации.
Натренированная модель сама по себе не содержит никаких персональных данных. Она предсказывает слова методом статистического вывода на основе вводной. Если ваша вводная "Кто такой Иван Иванов", модель включит эти данные в свой расчёт и выдумает, какое продолжение могло бы быть у такого текста.
Поэтому если гражданин обратился с законной просьбой прекратить обработку его персональных данных, установки фильтра, блокирующего упоминание о нём в генерируемых результатах — вполне достаточно.
Требовать переобучить или уничтожить модель на этом основании — неразумно.
Спорю сейчас с одним известным прайваси-экстремистом по поводу того, что он может, и чего не может требовать от оператора большой языковой модели.
Модель выдавала недостоверную информацию о нём. Он пожаловался, оператор установил фильтр и больше никакая информация о нём не выдаётся.
Он недоволен. Хочет, чтобы оператор уничтожил или перетренировал языковую модель таким образом, чтобы она "не хранила" информацию о нём.
Насколько я могу судить, проблема в непонимании им (1) того, как работают языковые модели, и (2) того, что ни одно из прав человека не абсолютно, и суды всегда балансируют их между собой (например, право на неприкосновенность частной жизни и на свободу предпринимательства или свободу распространения информации).
В случае с большими языковыми моделями:
1. Обработка данных для обучения.
На обработку персональных данных для обучения модели у разработчика имелось точно такое же правовое основание, как у Гугла или Яндекса на обработку в том числе персональных данных в ходе парсинга интернета.
2. Обработка данных при эксплуатации.
Натренированная модель сама по себе не содержит никаких персональных данных. Она предсказывает слова методом статистического вывода на основе вводной. Если ваша вводная "Кто такой Иван Иванов", модель включит эти данные в свой расчёт и выдумает, какое продолжение могло бы быть у такого текста.
Поэтому если гражданин обратился с законной просьбой прекратить обработку его персональных данных, установки фильтра, блокирующего упоминание о нём в генерируемых результатах — вполне достаточно.
Требовать переобучить или уничтожить модель на этом основании — неразумно.
🔥5❤1👍1
Вебинар: влияние генеративного ИИ на юридический бизнес
Проводится Европейской ассоциацией юридических технологий (ELTA) завтра, 25 апреля в 18.00 по Москве.
Участники:
Том Мартин — генеральный директор и основатель Lawdroid (модератор),
Натали Энн Ноултон — соучредитель компании Access to Justice Ventures, LLC,
Дазза Гринвуд — основатель law.MIT.edu и CIVICS.com,
Александр Тюльканов — консультант по цифровой политике и регулированию ИИ и данных,
Хенрик Верс — руководитель отдела юридических технологий Allen & Overy Europe.
Регистрация здесь
Проводится Европейской ассоциацией юридических технологий (ELTA) завтра, 25 апреля в 18.00 по Москве.
Участники:
Том Мартин — генеральный директор и основатель Lawdroid (модератор),
Натали Энн Ноултон — соучредитель компании Access to Justice Ventures, LLC,
Дазза Гринвуд — основатель law.MIT.edu и CIVICS.com,
Александр Тюльканов — консультант по цифровой политике и регулированию ИИ и данных,
Хенрик Верс — руководитель отдела юридических технологий Allen & Overy Europe.
Регистрация здесь
❤3
РПЦ в глобальном тренде по вопросам этики и регулирования ИИ?
Интересные новости приходят из Русской православной церкви.
Как сообщает РБК, «председатель Патриаршей комиссии по вопросам семьи, защиты материнства и детей РПЦ иерей Федор Лукьянов призвал запретить изображение искусственного интеллекта с человеческим лицом».
Что интересно, схожие предложения уже закреплены в правилах использования систем речевого синтеза Майкрософт: во избежание введения пользователей в заблуждение разработчикам рекомендуется не использовать фотореалистичные аватары в сочетании с естественно звучащим синтезированным голосом.
При нарушении этого требования Майкрософт может прекратить доступ нарушителя к сервису речевого синтеза.
«Также отец Федор рекомендовал разработать и закрепить на законодательном уровне введение маркировки для нейросетей, чтобы человек, который ими пользуется, понимал, что общается с искусственным интеллектом».
Аналогичное требование уже закреплено в статье 52 Регламента ЕС по ИИ: если в каком-то контексте человек не может понять, что он общается с машиной, его необходимо об этом предупредить.
Остаётся надеяться, что к этим вполне разумным требованиям прислушаются и некоторые лидеры российского рынка, ранее заявлявшие о своём движении против глобальных трендов.
Интересные новости приходят из Русской православной церкви.
Как сообщает РБК, «председатель Патриаршей комиссии по вопросам семьи, защиты материнства и детей РПЦ иерей Федор Лукьянов призвал запретить изображение искусственного интеллекта с человеческим лицом».
Что интересно, схожие предложения уже закреплены в правилах использования систем речевого синтеза Майкрософт: во избежание введения пользователей в заблуждение разработчикам рекомендуется не использовать фотореалистичные аватары в сочетании с естественно звучащим синтезированным голосом.
При нарушении этого требования Майкрософт может прекратить доступ нарушителя к сервису речевого синтеза.
«Также отец Федор рекомендовал разработать и закрепить на законодательном уровне введение маркировки для нейросетей, чтобы человек, который ими пользуется, понимал, что общается с искусственным интеллектом».
Аналогичное требование уже закреплено в статье 52 Регламента ЕС по ИИ: если в каком-то контексте человек не может понять, что он общается с машиной, его необходимо об этом предупредить.
Остаётся надеяться, что к этим вполне разумным требованиям прислушаются и некоторые лидеры российского рынка, ранее заявлявшие о своём движении против глобальных трендов.
РБК
В РПЦ призвали запретить ИИ с человеческим лицом
В РПЦ выступают за запрет на «перенесение человеческого образа и его свойств на неодушевленные предметы» и требуют ввести маркировку для искусственного интеллекта
🔥5
Robocounsel
Могут ли вращающиеся 👀 на автономном автомобиле снизить количество ДТП? Возможно, утверждают исследователи Токийского университета в недавно опубликованном исследовании. А чтобы было совсем наглядно, они записали видеоролик. И хотя исследование основано…
Европарламентарии урегулировали основные разногласия по проекту Регламента ЕС об ИИ
Соглашение было достигнуто на прошлой неделе и предполагает, что существенные новые поправки до пленарного голосования в середине июня больше вноситься не будут.
Исключением стал вопрос о возможном запрете применения в ЕС технологий биометрической идентификации* в общественных местах для охраны правопорядка. По предложению Еврокомиссии такой запрет должен был распространяться только на идентификацию в реальном времени, но депутаты левых фракций выступили за полный запрет. Против запретов возражают представители правых партий и правоохранительных органов.
В то же время, достигнут консенсус по поводу запрета на применение ИИ-систем для целенаправленного манипулирования поведением, а также для распознавания эмоций на рабочем месте, в образовании, в сфере контроля миграции и в правоохранительной деятельности.
Также будет запрещено применение предсказательных моделей для предотвращения уголовных и административных правонарушений (predictive policing).
Специальные нормы будут установлены для оборота систем ИИ общего назначения и базовых моделей (foundation models) наподобие GPT-4.
Вместе с тем, сужено понятие систем ИИ повышенной опасности: теперь таковыми будут признаваться не все системы, применяемые в перечисленных в Приложении III областях (обслуживание критической инфраструктуры, правоохранительная деятельность, трудовые отношения, образование и т. д.), а только создающие при этом значительную угрозу причинения вреда здоровью, безопасности, правам человека или окружающей среде.
Также — по случайной аналогии с положениями проекта Цифрового кодекса Киргизии — введена новая статья с общими принципами, которые должны будут учитываться при разработке систем и технических стандартов для них:
- подконтрольность систем ИИ человеку,
- техническая надёжность (робастность) и безопасность,
- неприкосновенность частной жизни и управление данными,
- открытость (transparency),
- социальное и экологическое благополучие,
- социальное многообразие (diversity),
- предотвращение дискриминации,
- справедливость (fairness).
* Напомню, что под идентификацией понимается установление личности по базе данных — поиск сходства одного взятого биометрического образца со множеством других — в основном используется в правоохранительной деятельности.
Идентификацию не следует путать с верификацией — популярным способом удостоверения личности путём сопоставления одного взятого биометрического образца с одним ранее взятым другим — например, при разблокировке телефона по отпечатку пальца.
Соглашение было достигнуто на прошлой неделе и предполагает, что существенные новые поправки до пленарного голосования в середине июня больше вноситься не будут.
Исключением стал вопрос о возможном запрете применения в ЕС технологий биометрической идентификации* в общественных местах для охраны правопорядка. По предложению Еврокомиссии такой запрет должен был распространяться только на идентификацию в реальном времени, но депутаты левых фракций выступили за полный запрет. Против запретов возражают представители правых партий и правоохранительных органов.
В то же время, достигнут консенсус по поводу запрета на применение ИИ-систем для целенаправленного манипулирования поведением, а также для распознавания эмоций на рабочем месте, в образовании, в сфере контроля миграции и в правоохранительной деятельности.
Также будет запрещено применение предсказательных моделей для предотвращения уголовных и административных правонарушений (predictive policing).
Специальные нормы будут установлены для оборота систем ИИ общего назначения и базовых моделей (foundation models) наподобие GPT-4.
Вместе с тем, сужено понятие систем ИИ повышенной опасности: теперь таковыми будут признаваться не все системы, применяемые в перечисленных в Приложении III областях (обслуживание критической инфраструктуры, правоохранительная деятельность, трудовые отношения, образование и т. д.), а только создающие при этом значительную угрозу причинения вреда здоровью, безопасности, правам человека или окружающей среде.
Также — по случайной аналогии с положениями проекта Цифрового кодекса Киргизии — введена новая статья с общими принципами, которые должны будут учитываться при разработке систем и технических стандартов для них:
- подконтрольность систем ИИ человеку,
- техническая надёжность (робастность) и безопасность,
- неприкосновенность частной жизни и управление данными,
- открытость (transparency),
- социальное и экологическое благополучие,
- социальное многообразие (diversity),
- предотвращение дискриминации,
- справедливость (fairness).
* Напомню, что под идентификацией понимается установление личности по базе данных — поиск сходства одного взятого биометрического образца со множеством других — в основном используется в правоохранительной деятельности.
Идентификацию не следует путать с верификацией — популярным способом удостоверения личности путём сопоставления одного взятого биометрического образца с одним ранее взятым другим — например, при разблокировке телефона по отпечатку пальца.
EURACTIV
MEPs seal the deal on Artificial Intelligence Act
Following months of intense negotiations, members of the European Parliament (MEPs) have bridged their difference and reached a provisional political deal on the world’s first Artificial Intelligence rulebook.
👍7
О машиночитаемости на дорогах
Безопасное массовое автономное движение машин по дорогам общего пользования — сильно более отдалённая перспектива, чем некоторые могли бы подумать.
Учитывая текущий уровень техники и количество нерешённых с полной автономией проблем, многие специалисты из этой сферы говорят: в ближайшей перспективе выгоднее инвестировать в системы содействия водителю (ADAS), попутно решая проблемы, которые в каком-то сложно обозримом будущем могут привести и к полной автономии.
Охотно верю.
Одна из нерешённых проблем — взаимодействие автономных авто со спецслужбами.
И смешно, и грустно: полицейским в Сан-Франциско на днях еле удалось предотвратить наезд автономного экспериментального Waymo на пожарные рукава на дороге.
Машина не реагировала ни на пожарное оборудование, ни на сотрудника спецслужб, и упорно пыталась двигаться по своему маршруту.
В таких ситуациях кажется, что прежде чем мы начнём думать о машиночитаемости права, мы должны решить проблему машиночитаемости сотрудников спецслужб. Например, разместив на их форменной одежде радиометки или куар-коды для машин.
Это бы сделало таких сотрудников в буквальном смысле машиночитаемыми, и в этой шутке — лишь доля шутки.
Безопасное массовое автономное движение машин по дорогам общего пользования — сильно более отдалённая перспектива, чем некоторые могли бы подумать.
Учитывая текущий уровень техники и количество нерешённых с полной автономией проблем, многие специалисты из этой сферы говорят: в ближайшей перспективе выгоднее инвестировать в системы содействия водителю (ADAS), попутно решая проблемы, которые в каком-то сложно обозримом будущем могут привести и к полной автономии.
Охотно верю.
Одна из нерешённых проблем — взаимодействие автономных авто со спецслужбами.
И смешно, и грустно: полицейским в Сан-Франциско на днях еле удалось предотвратить наезд автономного экспериментального Waymo на пожарные рукава на дороге.
Машина не реагировала ни на пожарное оборудование, ни на сотрудника спецслужб, и упорно пыталась двигаться по своему маршруту.
В таких ситуациях кажется, что прежде чем мы начнём думать о машиночитаемости права, мы должны решить проблему машиночитаемости сотрудников спецслужб. Например, разместив на их форменной одежде радиометки или куар-коды для машин.
Это бы сделало таких сотрудников в буквальном смысле машиночитаемыми, и в этой шутке — лишь доля шутки.
Mission Local
‘No! You stay!’ Cops, firefighters bewildered as driverless cars behave badly
Reports and videos document San Francisco cops and firefighters' problems with Waymo and Cruise driverless cars breaching emergency scenes.
👍8
Getty Images v Stability AI - Motion to Dismiss.pdf
136.8 KB
Гетти пытается предъявить ещё один иск за машинное обучение
Ранее в этом году компания уже обратилась в суд в Великобритании, полагая, что Стабилити Эй-Ай, создатель генератора изображений Стейбл дифьюжн, нарушила их права при обучении модели на их фотографиях.
Теперь аналогичный иск подан и в Делавере, США, к материнской американской компании и дочерней британской.
Ответчик возражает по процессуальным основаниям и просит оставить заявление без рассмотрения, поскольку находится в Великобритании.
Альтернативно ответчик предлагает передать дело для объединения в Калифорнию, где уже рассматривается аналогичный иск, но коллективный.
Британское дело, в свою очередь, интересно тем, что по нему будут применяться нормы о так называемой TDM-оговорке: исключению, которое при определённых условиях допускает извлечение текста и данных из охраняемых произведений.
Ранее в этом году компания уже обратилась в суд в Великобритании, полагая, что Стабилити Эй-Ай, создатель генератора изображений Стейбл дифьюжн, нарушила их права при обучении модели на их фотографиях.
Теперь аналогичный иск подан и в Делавере, США, к материнской американской компании и дочерней британской.
Ответчик возражает по процессуальным основаниям и просит оставить заявление без рассмотрения, поскольку находится в Великобритании.
Альтернативно ответчик предлагает передать дело для объединения в Калифорнию, где уже рассматривается аналогичный иск, но коллективный.
Британское дело, в свою очередь, интересно тем, что по нему будут применяться нормы о так называемой TDM-оговорке: исключению, которое при определённых условиях допускает извлечение текста и данных из охраняемых произведений.
👍3
Быть или не быть курсам по ИИ, вот в чём вопрос
Друзья, некоторые из вас интересовались, планирую ли я помимо разовых вебинаров вести курсы. По риск-менеджменту, этике ИИ и т. п.
Если вы из числа потенциально заинтересованных, пожалуйста, пройдите короткий опрос.
Друзья, некоторые из вас интересовались, планирую ли я помимо разовых вебинаров вести курсы. По риск-менеджменту, этике ИИ и т. п.
Если вы из числа потенциально заинтересованных, пожалуйста, пройдите короткий опрос.
Справочные правовые системы вышли на рынок генеративного ИИ
А вот это уже серьёзно: Лексис Нексис, один из старейших разработчиков справочных правовых систем (СПС), запустил новый сервис Lexis+ AI.
На первых порах сервис предоставляет возможности:
- диалогового поиска по справочной базе по аналогии с ЧатГПТ,
- генерации справок-обобщений (например, анализа судебной практики по заданному вопросу),
- содействия в разработке проектов документов.
По утверждению компании, главные преимущества сервиса таковы:
1) сервис использует не одну, а несколько языковых моделей, каждая из которых наиболее подходит под определённый тип задач,
2) все модели проприетарные, то есть обучены либо дообучены самой компанией на имеющихся в её распоряжении высококачественных базах данных юридических документов,
3) по этой же причине по сравнению с неспециализированными системами значительно снижена вероятность выдачи ошибочной информации, кроме того, сгенерированные результаты сопровождаются гиперссылками на соответствующую судебную практику и нормативные акты,
4) пользовательские данные (запросы) остаются в пределах защищённого контура самой компании и не передаются третьим лицам.
Сейчас сервис запущен в тестовом режиме, доступ предоставлен только небольшому числу фирм из списка Ам Ло 50 (крупнейшие юрфирмы США по объёму выручки), включая Бейкер Маккензи, Рид Смит, а также Фоли энд Ларднер. "Думаем, наши клиенты скажут нам, когда сочтут продукт готовым для вывода в более широкую коммерческую эксплуатацию", сообщил руководитель по продуктам компании Джефф Пфайфер.
Основной конкурент Лексис Нексис, компания Томсон Рейтер (СПС Вестло) планирует внедрить элементы генеративного ИИ в свои продукты во второй половине этого года.
А вот это уже серьёзно: Лексис Нексис, один из старейших разработчиков справочных правовых систем (СПС), запустил новый сервис Lexis+ AI.
На первых порах сервис предоставляет возможности:
- диалогового поиска по справочной базе по аналогии с ЧатГПТ,
- генерации справок-обобщений (например, анализа судебной практики по заданному вопросу),
- содействия в разработке проектов документов.
По утверждению компании, главные преимущества сервиса таковы:
1) сервис использует не одну, а несколько языковых моделей, каждая из которых наиболее подходит под определённый тип задач,
2) все модели проприетарные, то есть обучены либо дообучены самой компанией на имеющихся в её распоряжении высококачественных базах данных юридических документов,
3) по этой же причине по сравнению с неспециализированными системами значительно снижена вероятность выдачи ошибочной информации, кроме того, сгенерированные результаты сопровождаются гиперссылками на соответствующую судебную практику и нормативные акты,
4) пользовательские данные (запросы) остаются в пределах защищённого контура самой компании и не передаются третьим лицам.
Сейчас сервис запущен в тестовом режиме, доступ предоставлен только небольшому числу фирм из списка Ам Ло 50 (крупнейшие юрфирмы США по объёму выручки), включая Бейкер Маккензи, Рид Смит, а также Фоли энд Ларднер. "Думаем, наши клиенты скажут нам, когда сочтут продукт готовым для вывода в более широкую коммерческую эксплуатацию", сообщил руководитель по продуктам компании Джефф Пфайфер.
Основной конкурент Лексис Нексис, компания Томсон Рейтер (СПС Вестло) планирует внедрить элементы генеративного ИИ в свои продукты во второй половине этого года.
🔥11👍8❤1
Куалкомм обвиняют в незаконном сборе данных
Это следует из опубликованного на днях отчёта Нитроки, немецкого разработчика решений в области информационной безопасности, сообщает Сайберньюс.
По утверждению автора отчёта, Куалкомм, американский производитель чипов, устанавливаемых как в Айфоны, так и в телефоны на базе Андроид, собирает о пользователях массу данных, о которых те даже не подозревают.
Всё дело в программном обеспечении XTRA, которое необходимо для более точной работы GPS на телефоне. По утверждениям в отчёте, компания не только передавала на телефоны необходимые данные, но и собирала данные с телефонов, притом даже когда GPS не использовался.
В объём получаемых Куалкомм данных входили айпи-адрес устройства, геолокация, сведения о мобильном операторе и установленных на телефон программах, состояние батареи и другая информация.
По словам исследователя, сбор этих данных не был упомянут производителем использованного им устройства (Сони), и поэтому может входить в противоречие с законодательством о персональных данных.
Утверждается, что описанное выше может быть справедливо и для устройств других производителей.
В ответ на публикацию в Куалкомм заявили, что отчёт полон неточностей и вероятно мотивирован коммерческими интересами автора отчёта, а сбор компанией данных соответствует закону.
Это следует из опубликованного на днях отчёта Нитроки, немецкого разработчика решений в области информационной безопасности, сообщает Сайберньюс.
По утверждению автора отчёта, Куалкомм, американский производитель чипов, устанавливаемых как в Айфоны, так и в телефоны на базе Андроид, собирает о пользователях массу данных, о которых те даже не подозревают.
Всё дело в программном обеспечении XTRA, которое необходимо для более точной работы GPS на телефоне. По утверждениям в отчёте, компания не только передавала на телефоны необходимые данные, но и собирала данные с телефонов, притом даже когда GPS не использовался.
В объём получаемых Куалкомм данных входили айпи-адрес устройства, геолокация, сведения о мобильном операторе и установленных на телефон программах, состояние батареи и другая информация.
По словам исследователя, сбор этих данных не был упомянут производителем использованного им устройства (Сони), и поэтому может входить в противоречие с законодательством о персональных данных.
Утверждается, что описанное выше может быть справедливо и для устройств других производителей.
В ответ на публикацию в Куалкомм заявили, что отчёт полон неточностей и вероятно мотивирован коммерческими интересами автора отчёта, а сбор компанией данных соответствует закону.
Cybernews
Android phone chip provider was secretly collecting user data | Cybernews
A multinational Qualcomm corporation that manufactures wireless telecommunications hardware has allegedly been secretly collecting private user data.
😱1
Пояснительная бригада на связи
С учётом того, что не очень хорошо знакомая с моими публикациями часть моих подписчиков на Фейсбуке понимает картинку выше совершенно неверно, я поясню текстом.
1. ЧатГПТ и подобные ему инструменты имеют потенциально весьма широкую, но с совсем другой стороны ограниченную область применения.
2. Эти возможности и ограничения обусловлены архитектурой, техническими особенностями этих инструментов (их я подробно разбираю на своих вебинарах).
3. По на мой взгляд меткому высказыванию Джона Уорнера "ЧатГПТ не способен убить [в нашей культуре или работе] ничего такого, что было бы достойно спасения".
4. Соответственно, если ваш труд сегодня состоит в чём-то, что полностью легко воспроизводимо посредством ЧатГПТ при помощи очевидных запросов (промтов), вам нужно срочно учиться зарабатывать на чём-то другом, потому что ваш труд вскоре перестанет быть актуален чуть более, чем полностью.
Кстати, на моих вебинарах в мае я подробно разбираю возможности, ограничения и риски применения инструментов генеративного ИИ в бизнес-контексте.
Не знать эту информацию сейчас становится просто профессионально небезопасно: пока одни лишь теоретизируют, другие в течение последних 6 месяцев активно осваивают эти инструменты и ушли далеко вперёд в понимании их возможностей и ограничений.
Сегодня — последняя возможность забронировать место на этих вебинарах со скидкой 25%.
Ссылка на вебинар здесь, а также в куар-коде на картинке выше. Английская версия с оплатой картами нероссийских банков здесь.
Если для нужного вам варианта вебинара не указан подходящий вам способ оплаты, пишите.
С учётом того, что не очень хорошо знакомая с моими публикациями часть моих подписчиков на Фейсбуке понимает картинку выше совершенно неверно, я поясню текстом.
1. ЧатГПТ и подобные ему инструменты имеют потенциально весьма широкую, но с совсем другой стороны ограниченную область применения.
2. Эти возможности и ограничения обусловлены архитектурой, техническими особенностями этих инструментов (их я подробно разбираю на своих вебинарах).
3. По на мой взгляд меткому высказыванию Джона Уорнера "ЧатГПТ не способен убить [в нашей культуре или работе] ничего такого, что было бы достойно спасения".
4. Соответственно, если ваш труд сегодня состоит в чём-то, что полностью легко воспроизводимо посредством ЧатГПТ при помощи очевидных запросов (промтов), вам нужно срочно учиться зарабатывать на чём-то другом, потому что ваш труд вскоре перестанет быть актуален чуть более, чем полностью.
Кстати, на моих вебинарах в мае я подробно разбираю возможности, ограничения и риски применения инструментов генеративного ИИ в бизнес-контексте.
Не знать эту информацию сейчас становится просто профессионально небезопасно: пока одни лишь теоретизируют, другие в течение последних 6 месяцев активно осваивают эти инструменты и ушли далеко вперёд в понимании их возможностей и ограничений.
Сегодня — последняя возможность забронировать место на этих вебинарах со скидкой 25%.
Ссылка на вебинар здесь, а также в куар-коде на картинке выше. Английская версия с оплатой картами нероссийских банков здесь.
Если для нужного вам варианта вебинара не указан подходящий вам способ оплаты, пишите.
Вебинар - Системы ИИ: ответственное применение в бизнесе с учётом Регламента ЕС
Европарламент принял резолюцию по проекту Регламента ЕС по искусственному интеллекту. Системы искусственного интеллекта — такие как ChatGPT, GPT-4, DALL-E и Midjourney — продолжают набирать популярность. Ажиотаж вокруг возможностей и обсуждение рисков растут.…
❤5👍1