Robocounsel
В продолжение темы о Зуме и ИИ Записал небольшое видео, объясняющее детали (на английском). Без ВПН доступно по платной подписке Robocounsel Plus.
Оперативная реакция от Зум
Семь часов назад я опубликовал это видео на Линкдине.
И вот, как сообщает американский коллега, к этому часу они поправили своё пользовательское соглашение.
В частности, включив положение о том, что и сторонним разработчикам (а не только своим) данные звонков они для машинного обучения не передают.
Это был один из моментов, на которые я обращал внимание в своей критике. Насколько мне известно, другие комментаторы об этом не упоминали.
Хорошо, когда вас читают где нужно.
Будем следить за дальнейшими изменениями в документе.
Семь часов назад я опубликовал это видео на Линкдине.
И вот, как сообщает американский коллега, к этому часу они поправили своё пользовательское соглашение.
В частности, включив положение о том, что и сторонним разработчикам (а не только своим) данные звонков они для машинного обучения не передают.
Это был один из моментов, на которые я обращал внимание в своей критике. Насколько мне известно, другие комментаторы об этом не упоминали.
Хорошо, когда вас читают где нужно.
Будем следить за дальнейшими изменениями в документе.
🔥21❤6
Какими инструментами текстового генеративного ИИ (ГенИИ) вы пользуетесь? Выберите все подходящие варианты.
Final Results
56%
OpenAI ChatGPT/GPT3.5/GPT4
6%
Microsoft Bing AI
6%
Google Bard
4%
Anthropic Claude
7%
Сбер ГигаЧАТ
10%
Яндекс GPT
3%
Текстовый ГенИИ от другого разработчика
6%
Текстовый ГенИИ, встроенный в самостоятельный продукт (например, Notion)
40%
Не пользуюсь никаким текстовым ГенИИ
Почему некоторые люди переоценивают возможности чатботов?
Некоторые верят в то, что современные чатботы не просто полезны для решения ряда прикладных задач, а уже способны понимать любую информацию так же, как её понимает человек. Некоторые идут в своих выводах и дальше, начиная рассуждать о сознании, самосознании и прочем.
Балдур Бьярнарсон сравнивает верующих в это с людьми, убеждёнными в сверхспособностях экстрасенсов. Его статья на эту тему большая и очень подробная, приведу лишь некоторые тезисы из неё:
1. Аудитория потенциальных верующих формируется из людей со схожими взглядами.
Люди, скептически настроенные к ИИ-чатботам, менее склонны их использовать. Те, кто убеждён в ограниченности их возможностей, не поддаются хайпу. И наборот, самыми активными будут ранние пользователи, энтузиасты технологий и искренние сторонники AGI, которые смотрят на технологии менее критически и более открыты для нового.
2. Всё располагает к тому, чтобы уверовать.
Пользователи настроены в нужном направлении благодаря сопутствующему ажиотажу. Среда формирует настроение и ожидания. Предупреждения о том, что это "ранние дни" и "галлюцинации", одновременно антропоморфизируют бота и создают дополнительные готовые оправдания для его постоянных ошибок.
3. Контекст ответа задаётся запросом пользователя.
Все взаимодействуют с чатботами по-разному. Кто-то принимает первоначальный ответ как готовое решение своей проблемы, кто-то докручивает промт, делая вариации до момента получения желаемого ответа. Обе эти группы не подвержены иллюзиям и спокойно переходят от использования бота к другим повседневным делам. Но некоторые пользователи вступают в то, что им кажется "разговором" и эмоционально вовлекаются в "общение".
4. Кажущаяся специфичность ответов.
Ответы чатбота выглядят крайне релевантными в том контексте, в котором пользователь их задаёт, но на самом деле они статистически универсальны. Математическая модель, стоящая за чатботом, просто предоставляет статистически вероятный, на основе анализа обучающей выборки текстов, ответ на вопрос. Те пользователи, которые считают ответ специфическим и убедительным, ещё более вовлекаются в "общение".
5. Петля субъективного самоубеждения.
Пользователь задает серию вопросов, и все ответы звучат как обоснованные ответы, специфичные для контекста, но на самом деле являются лишь статистически обоснованными прогнозами того, что хочет увидеть пользователь. Чем больше пользователь взаимодействует с ботом, тем больше он убеждается в его "интеллекте".
6. "Ого! Этот чатбот думает! В нем есть искры разума!"
Уверовавший пользователь остается с ощущением, что чатбот поразительно близок к самосознанию и определенно способен к рассуждениям. Хотя на самом деле это лишь статистика в действии, помноженная на когнитивные ошибки уверовавшего.
Некоторые верят в то, что современные чатботы не просто полезны для решения ряда прикладных задач, а уже способны понимать любую информацию так же, как её понимает человек. Некоторые идут в своих выводах и дальше, начиная рассуждать о сознании, самосознании и прочем.
Балдур Бьярнарсон сравнивает верующих в это с людьми, убеждёнными в сверхспособностях экстрасенсов. Его статья на эту тему большая и очень подробная, приведу лишь некоторые тезисы из неё:
1. Аудитория потенциальных верующих формируется из людей со схожими взглядами.
Люди, скептически настроенные к ИИ-чатботам, менее склонны их использовать. Те, кто убеждён в ограниченности их возможностей, не поддаются хайпу. И наборот, самыми активными будут ранние пользователи, энтузиасты технологий и искренние сторонники AGI, которые смотрят на технологии менее критически и более открыты для нового.
2. Всё располагает к тому, чтобы уверовать.
Пользователи настроены в нужном направлении благодаря сопутствующему ажиотажу. Среда формирует настроение и ожидания. Предупреждения о том, что это "ранние дни" и "галлюцинации", одновременно антропоморфизируют бота и создают дополнительные готовые оправдания для его постоянных ошибок.
3. Контекст ответа задаётся запросом пользователя.
Все взаимодействуют с чатботами по-разному. Кто-то принимает первоначальный ответ как готовое решение своей проблемы, кто-то докручивает промт, делая вариации до момента получения желаемого ответа. Обе эти группы не подвержены иллюзиям и спокойно переходят от использования бота к другим повседневным делам. Но некоторые пользователи вступают в то, что им кажется "разговором" и эмоционально вовлекаются в "общение".
4. Кажущаяся специфичность ответов.
Ответы чатбота выглядят крайне релевантными в том контексте, в котором пользователь их задаёт, но на самом деле они статистически универсальны. Математическая модель, стоящая за чатботом, просто предоставляет статистически вероятный, на основе анализа обучающей выборки текстов, ответ на вопрос. Те пользователи, которые считают ответ специфическим и убедительным, ещё более вовлекаются в "общение".
5. Петля субъективного самоубеждения.
Пользователь задает серию вопросов, и все ответы звучат как обоснованные ответы, специфичные для контекста, но на самом деле являются лишь статистически обоснованными прогнозами того, что хочет увидеть пользователь. Чем больше пользователь взаимодействует с ботом, тем больше он убеждается в его "интеллекте".
6. "Ого! Этот чатбот думает! В нем есть искры разума!"
Уверовавший пользователь остается с ощущением, что чатбот поразительно близок к самосознанию и определенно способен к рассуждениям. Хотя на самом деле это лишь статистика в действии, помноженная на когнитивные ошибки уверовавшего.
Out of the Software Crisis
The LLMentalist Effect: how chat-based Large Language Models rep…
The new era of tech seems to be built on superstitious behaviour
👍4❤1
Robocounsel
21-2347-2022-08-05.pdf
Суд в США отказался признать охраноспособными произведения, созданные без участия человека
Проиграв дело против Патентного бюро США в прошлом году, неугомонный разработчик системы искусственного интеллекта "Дабус" доктор Стивен Талер другой своей мишенью выбрал Бюро США по авторским правам.
В новом иске доктор Талер просил суд признать, что произведения, созданные компьютером без участия человека, охраняются авторским правом в соответствии с федеральным законодательством США и что авторские права должны принадлежать Талеру на основании принципов общего права и доктрины "работы по найму".
Как сообщает Франклин Грейвз (CreatorEconomyLaw.com), сегодня судья Окружного суда округа Колумбия отказал Талеру в иске.
С учётом прежнего опыта будет удивительно, если истец не подаст очередную — вероятно, снова бесполезную — апелляционную жалобу.
А произведения, созданные без участия человека, по-прежнему не охраняются.
Проиграв дело против Патентного бюро США в прошлом году, неугомонный разработчик системы искусственного интеллекта "Дабус" доктор Стивен Талер другой своей мишенью выбрал Бюро США по авторским правам.
В новом иске доктор Талер просил суд признать, что произведения, созданные компьютером без участия человека, охраняются авторским правом в соответствии с федеральным законодательством США и что авторские права должны принадлежать Талеру на основании принципов общего права и доктрины "работы по найму".
Как сообщает Франклин Грейвз (CreatorEconomyLaw.com), сегодня судья Окружного суда округа Колумбия отказал Талеру в иске.
С учётом прежнего опыта будет удивительно, если истец не подаст очередную — вероятно, снова бесполезную — апелляционную жалобу.
А произведения, созданные без участия человека, по-прежнему не охраняются.
🔥7👍1
Публичные заявления ИТ-индустрии о приверженности ИИ-этике расходятся с практикой
Об этом свидетельствует недавнее исследование учёных из Стэнфорда по результатам опроса инсайдеров.
В опросе участвовали 25 специалистов из самой индустрии, из которых 21 работают или имели опыт работы над инициативами ответственного применения ИИ хотя бы в одной, а зачастую в нескольких крупных технологических компаниях — со штатом от 6 тысяч до сотен тысяч человек.
По данным опроса, технологические компании крайне непоследовательно подходят к этической оценке выпускаемых продуктов и последствий их применения. Вплоть до того, что иногда специалистов по ИИ-этике лишь ставят перед фактом за короткое время перед выходом нового продукта.
Этические команды часто недофинансируются, не получают достаточной поддержки от руководства компаний и не наделяются полномочиями для участия в процессе принятия решений и для принуждения к соблюдению внутренних этических политик и процедур.
Для исправления ситуации исследователи, соответственно, рекомендуют технологическим компаниям делать этическую оценку обязательным, а не просто желательным элементом любого процесса разработки продуктов, и наделять этические команды необходимыми полномочиями.
Несоблюдение этих рекомендаций чревато усугублением репутационного ущерба, который компании уже несут из-за — как оказалось, справедливых — обвинений в том, что участие в этических инициативах для ряда компаний лишь ширма для прикрытия сомнительного ведения бизнеса по-старинке.
Об этом свидетельствует недавнее исследование учёных из Стэнфорда по результатам опроса инсайдеров.
В опросе участвовали 25 специалистов из самой индустрии, из которых 21 работают или имели опыт работы над инициативами ответственного применения ИИ хотя бы в одной, а зачастую в нескольких крупных технологических компаниях — со штатом от 6 тысяч до сотен тысяч человек.
По данным опроса, технологические компании крайне непоследовательно подходят к этической оценке выпускаемых продуктов и последствий их применения. Вплоть до того, что иногда специалистов по ИИ-этике лишь ставят перед фактом за короткое время перед выходом нового продукта.
Этические команды часто недофинансируются, не получают достаточной поддержки от руководства компаний и не наделяются полномочиями для участия в процессе принятия решений и для принуждения к соблюдению внутренних этических политик и процедур.
Для исправления ситуации исследователи, соответственно, рекомендуют технологическим компаниям делать этическую оценку обязательным, а не просто желательным элементом любого процесса разработки продуктов, и наделять этические команды необходимыми полномочиями.
Несоблюдение этих рекомендаций чревато усугублением репутационного ущерба, который компании уже несут из-за — как оказалось, справедливых — обвинений в том, что участие в этических инициативах для ряда компаний лишь ширма для прикрытия сомнительного ведения бизнеса по-старинке.
hai.stanford.edu
Ethics Teams in Tech Are Stymied by Lack of Support | Stanford HAI
Because tech industry ethics teams lack resources and authority, their effectiveness is spotty at best, according to a new study.
👍4🔥3😱1😈1
Можно ли управлять применением ИИ?
Регламент ИИ в ЕС — луч света в тёмном царстве или очередное средство наднационального контроля? И что там с Конвенцией Совета Европы?
Об этом и не только 29 августа в 15:15 по МСК поговорим с Грегором Строиным, зампредседателя Комитета по ИИ Совета Европы.
Регистрируйтесь здесь.
Регламент ИИ в ЕС — луч света в тёмном царстве или очередное средство наднационального контроля? И что там с Конвенцией Совета Европы?
Об этом и не только 29 августа в 15:15 по МСК поговорим с Грегором Строиным, зампредседателя Комитета по ИИ Совета Европы.
Регистрируйтесь здесь.
❤6🥰2
ИИ пришёл: для профессионалов всё пропало?
ИИ-оптимисты часто предсказывают, что системы ИИ, ориентированные на потребителя, уже в ближайшее время заменят профессионалов. Когда им возражают, ссылаясь на те ключевые элементы бизнес-процессов, где нельзя обойтись без критического мышления и профессиональных суждений и решений человека, они отвечают: "Это пока".
Но "Это пока" может означать совершенно разные прогнозы по времени.
В частности, когда кто-то пытается делать смелые прогнозы, выходящие далеко за пределы его узкой специализации, обычно этот кто-то сильно преувеличивает темпы и степень автоматизации сложных функций (ввиду полного непонимания их содержания).
Например, меня всегда забавит то, как люди преувеличивают влияние автоматизации в сфере права. Как это делают люди, которые ничего не знают о праве и о том, как оно работает в обществе. Да, у юристов появились все эти новые инструменты, но они как были, так и останутся в основном именно инструментами для профессионалов, которые позволяют им сокращать время и расходы на решение клиентских задач. Всё самое важное и осмысленное по-прежнему делают юристы.
При условии экономического роста, а значит, и увеличения числа бизнес-проектов, молодые специалисты могут переключаться на новые юридические задачи и просто использовать автоматизацию, чтобы делать больше.
То же самое можно сказать и о разработке программного обеспечения. С чего это нам нужно будет меньше молодых специалистов? Вы считаете, что завтра будет меньше проектов по разработке ПО и они будут менее сложными, чем сегодня? Почему?
К тому же мы очень далеки от появления машин, реализующих наши замыслы с точностью, достаточной для достижения результатов на профессиональном уровне. На создание таких машин уйдут не годы, а десятилетия.
И отдельно о карьерных перспективах.
В отношении них энтузиасты ИИ также недооценивают значение навыков работы с людьми. Во всех беловоротничковых профессиях профессионалы, претендующие на лидерство внутри компании или как независимый игрок на рынке, добиваются успеха благодаря навыкам работы с людьми, а не техническим навыкам. Бизнес-навыки — это тоже прежде всего про людей. Про работу с вашими клиентами, с рынком.
С другой стороны, если вы только начинаете осваивать профессию, то цифровая, технологическая грамотность — это, по сути, сейчас просто одна из составляющих общей профпригодности.
Конечно, освоение новых технологий не происходит одновременно для всех, но в масштабе поколений это уже вопрос решенный.
В качестве примера можно привести юриспруденцию. Сейчас никто не пользуется бумажной литературой для поиска прецедентов, все пользуются справочными правовыми системами. В крайнем случае — интернет-поиском.
Но при этом вы нигде в прессе не увидите заголовков типа "Этот юрист разорился, потому что продолжал искать судебную практику в местной библиотеке".
Изменения происходят медленнее и постепеннее, и люди старшего возраста, не столь подкованные в технологиях, могут спокойно постепенно отходить от дел, используя свой опыт и навыки работы с людьми (которые в любом случае важнее для получения дохода).
Та же аналогия применима и к использованию более продвинутых форм автоматизации.
ИИ-оптимисты часто предсказывают, что системы ИИ, ориентированные на потребителя, уже в ближайшее время заменят профессионалов. Когда им возражают, ссылаясь на те ключевые элементы бизнес-процессов, где нельзя обойтись без критического мышления и профессиональных суждений и решений человека, они отвечают: "Это пока".
Но "Это пока" может означать совершенно разные прогнозы по времени.
В частности, когда кто-то пытается делать смелые прогнозы, выходящие далеко за пределы его узкой специализации, обычно этот кто-то сильно преувеличивает темпы и степень автоматизации сложных функций (ввиду полного непонимания их содержания).
Например, меня всегда забавит то, как люди преувеличивают влияние автоматизации в сфере права. Как это делают люди, которые ничего не знают о праве и о том, как оно работает в обществе. Да, у юристов появились все эти новые инструменты, но они как были, так и останутся в основном именно инструментами для профессионалов, которые позволяют им сокращать время и расходы на решение клиентских задач. Всё самое важное и осмысленное по-прежнему делают юристы.
При условии экономического роста, а значит, и увеличения числа бизнес-проектов, молодые специалисты могут переключаться на новые юридические задачи и просто использовать автоматизацию, чтобы делать больше.
То же самое можно сказать и о разработке программного обеспечения. С чего это нам нужно будет меньше молодых специалистов? Вы считаете, что завтра будет меньше проектов по разработке ПО и они будут менее сложными, чем сегодня? Почему?
К тому же мы очень далеки от появления машин, реализующих наши замыслы с точностью, достаточной для достижения результатов на профессиональном уровне. На создание таких машин уйдут не годы, а десятилетия.
И отдельно о карьерных перспективах.
В отношении них энтузиасты ИИ также недооценивают значение навыков работы с людьми. Во всех беловоротничковых профессиях профессионалы, претендующие на лидерство внутри компании или как независимый игрок на рынке, добиваются успеха благодаря навыкам работы с людьми, а не техническим навыкам. Бизнес-навыки — это тоже прежде всего про людей. Про работу с вашими клиентами, с рынком.
С другой стороны, если вы только начинаете осваивать профессию, то цифровая, технологическая грамотность — это, по сути, сейчас просто одна из составляющих общей профпригодности.
Конечно, освоение новых технологий не происходит одновременно для всех, но в масштабе поколений это уже вопрос решенный.
В качестве примера можно привести юриспруденцию. Сейчас никто не пользуется бумажной литературой для поиска прецедентов, все пользуются справочными правовыми системами. В крайнем случае — интернет-поиском.
Но при этом вы нигде в прессе не увидите заголовков типа "Этот юрист разорился, потому что продолжал искать судебную практику в местной библиотеке".
Изменения происходят медленнее и постепеннее, и люди старшего возраста, не столь подкованные в технологиях, могут спокойно постепенно отходить от дел, используя свой опыт и навыки работы с людьми (которые в любом случае важнее для получения дохода).
Та же аналогия применима и к использованию более продвинутых форм автоматизации.
🔥5👍2
Как провалить рассылку об изменениях в пользовательском соглашении
1) Разошлите емейлы. Так вы сделаете вид, что заботитесь о прозрачности.
2) Никогда не пишите, что именно поменялось (например, мы увеличили/уменьшили время рассмотрения претензий до X дней, будем передавать ваши данные новому обработчику Y и использовать их для новой цели Z).
3) Когда люди убили время на чтение бесполезного письма, заставьте из убить ещё больше времени на прочтение всего документа на сайте целиком.
4) Ни при каких обстоятельствах не давайте им краткого описания изменений и не выделяйте и не давайте ссылки на те части документов, которые меняются.
1) Разошлите емейлы. Так вы сделаете вид, что заботитесь о прозрачности.
2) Никогда не пишите, что именно поменялось (например, мы увеличили/уменьшили время рассмотрения претензий до X дней, будем передавать ваши данные новому обработчику Y и использовать их для новой цели Z).
3) Когда люди убили время на чтение бесполезного письма, заставьте из убить ещё больше времени на прочтение всего документа на сайте целиком.
4) Ни при каких обстоятельствах не давайте им краткого описания изменений и не выделяйте и не давайте ссылки на те части документов, которые меняются.
👍14😁8
Заспамим всё: низкокачественный ИИ-контент отравляет инфосферу
В последнее время слышу: в интернете становится слишком много бесполезного, низкокачественного контента, сгенерированного ИИ.
Результаты поиска — по крайней мере, по некоторым темам — начинают заполняться, если не переполняться, таким "тяп-ляп творчеством", качество которого хуже, чем посредственное.
Это касается разных форматов: музыка на Спотифай, видео на Ютубе и т. д. На Амазоне выставляются на продажу целые библиотеки нагенерированных книг.
Замечаете ли вы эту тенденцию при поиске контента? Если да, то в каких контекстах вы сталкиваетесь с этим чаще всего?
Я наблюдаю это на Ютубе и Спотифае, по крайней мере, когда пытаюсь изучить что-то новое, злободневное.
Например, кто-то пытается привлечь внимание, выкладывая полностью сгенерированные ИИ новостные обзоры в Ютубе. И иногда такой контент рекомендательными системами не распознается и не деприоритизируется как низкокачественный (хотя на самом деле он такой и есть).
Я понимаю, что такое происходит, когда ИИ используется без включения головного мозга — умышленно или просто по глупости.
Вместо того, чтобы использовать инструменты генеративного ИИ для помощи в творческом процессе, люди просто пользуются ботами для генерации и публикации контента без какого-либо осмысленного редактирования и руководства всем процессом.
Когда весь процесс от поиска тем до генерации и публикации полностью алгоритмизирован, результаты, как правило, оставляют желать лучшего.
До появления генеративного ИИ загрязнять наше общее информационное пространство в массовом масштабе было сложнее.
Но сейчас это можно делать и масштабировать при весьма скромных затратах.
И что же нам делать, как пользователям?
Результаты нашего поиска засоряют. Мы тратим часть своего времени впустую. А затем у нас есть выбор: либо терпеть это, тренируя себя распознавать сгенерированный ИИ контент в результатах поиска перед тем, как кликнуть... Либо пользоваться только заранее известными, проверенными источниками.
Мои выводы?
Во-первых, предсказываю, что фильтры поиска контента, которые позволяют выбрать только проверенные и (или) авторитетные источники, будут становиться все более распространенными. И это поможет пользователям справиться с новой проблемой.
Во-вторых, для платформ процесс публикации и проверки контента, вероятно, станет более сложным.
И, в-третьих, для действительно серьезного контента (например, книга по съедобным и ядовитым грибам) решение по-прежнему — как и должно было быть всегда — заключается в том, чтобы фильтровать источники на основе их репутации, репутации автора и рецензий его коллег.
Ну, то есть вы не будете покупать книги на серьезные темы без хороших отзывов, если автор не признан коллегами (например, указан на сайте профильной профессиональной ассоциации как действующий её член).
Это, однако, означает сложные времена для новичков, особенно с неординарными взглядами. Нет репутации — нет продаж.
В последнее время слышу: в интернете становится слишком много бесполезного, низкокачественного контента, сгенерированного ИИ.
Результаты поиска — по крайней мере, по некоторым темам — начинают заполняться, если не переполняться, таким "тяп-ляп творчеством", качество которого хуже, чем посредственное.
Это касается разных форматов: музыка на Спотифай, видео на Ютубе и т. д. На Амазоне выставляются на продажу целые библиотеки нагенерированных книг.
Замечаете ли вы эту тенденцию при поиске контента? Если да, то в каких контекстах вы сталкиваетесь с этим чаще всего?
Я наблюдаю это на Ютубе и Спотифае, по крайней мере, когда пытаюсь изучить что-то новое, злободневное.
Например, кто-то пытается привлечь внимание, выкладывая полностью сгенерированные ИИ новостные обзоры в Ютубе. И иногда такой контент рекомендательными системами не распознается и не деприоритизируется как низкокачественный (хотя на самом деле он такой и есть).
Я понимаю, что такое происходит, когда ИИ используется без включения головного мозга — умышленно или просто по глупости.
Вместо того, чтобы использовать инструменты генеративного ИИ для помощи в творческом процессе, люди просто пользуются ботами для генерации и публикации контента без какого-либо осмысленного редактирования и руководства всем процессом.
Когда весь процесс от поиска тем до генерации и публикации полностью алгоритмизирован, результаты, как правило, оставляют желать лучшего.
До появления генеративного ИИ загрязнять наше общее информационное пространство в массовом масштабе было сложнее.
Но сейчас это можно делать и масштабировать при весьма скромных затратах.
И что же нам делать, как пользователям?
Результаты нашего поиска засоряют. Мы тратим часть своего времени впустую. А затем у нас есть выбор: либо терпеть это, тренируя себя распознавать сгенерированный ИИ контент в результатах поиска перед тем, как кликнуть... Либо пользоваться только заранее известными, проверенными источниками.
Мои выводы?
Во-первых, предсказываю, что фильтры поиска контента, которые позволяют выбрать только проверенные и (или) авторитетные источники, будут становиться все более распространенными. И это поможет пользователям справиться с новой проблемой.
Во-вторых, для платформ процесс публикации и проверки контента, вероятно, станет более сложным.
И, в-третьих, для действительно серьезного контента (например, книга по съедобным и ядовитым грибам) решение по-прежнему — как и должно было быть всегда — заключается в том, чтобы фильтровать источники на основе их репутации, репутации автора и рецензий его коллег.
Ну, то есть вы не будете покупать книги на серьезные темы без хороших отзывов, если автор не признан коллегами (например, указан на сайте профильной профессиональной ассоциации как действующий её член).
Это, однако, означает сложные времена для новичков, особенно с неординарными взглядами. Нет репутации — нет продаж.
👍2❤1🤔1
Вы сталкиваетесь с низкокачественным контентом, который кажется вам сгенерированным на скорую руку ИИ-инструментами?
Anonymous Poll
39%
Не сталкиваюсь
22%
Сталкиваюсь, но это не мешает и не раздражает
39%
Сталкиваюсь, и это мешает или раздражает
Нужно ли отдельное согласие на использование записи голоса для создания голосового помощника?
Фабула дела тут.
Вкратце: друзья опознали голос своей знакомой в порнорекламе. Это стало для неё неприятной неожиданностью, так как давным-давно она озвучивала совсем другой текст для Тинькофф. Но, по словам Тинькофф, передала им право на любую переработку записи.
Тинькофф считает, что это включает и право на переработку записи для создания совсем другого объекта — программы речевого синтеза, которой пользователи могут озвучивать любые тексты, в том числе порнорекламу.
Что, кажется, не учтено?
Обсуждаемое спорное использование — последствие, которое артистка не могла предвидеть на момент записи для совсем другой цели, если только договор не включал прямое согласие на переработку записи для синтеза речи.
Соответственно, такое использование может не охватываться волей сторон договора и может быть незаконным. Если же Тинькофф имел на это планы, но скрыл от артистки — она может требовать признания договора в этой части недействительным как заключённым под влиянием обмана или заблуждения. Или требовать изменения условий, навязанных банком по договору присоединения.
Также артистка может требовать (1) компенсации уже причинённого морального вреда и (2) пресечения его на будущее путём запрета по суду (а) эксплуатации системы речевого синтеза с её голосом разработчиком и иными лицами и (б) изъятия из оборота любых произведений, содержащих синтезированную запись её голоса – удаления файлов хостинг-провайдерами и удаления ссылок на них из поисковой выдачи.
Очень надеюсь, что суд по справедливости решит это дело и сориентирует оборот на будущее так, чтобы разработчики систем речевого синтеза не злоупотребляли правом, а прямо, открыто и на справедливых условиях просили разрешение на переработку записи именно для синтеза речи, отдельно согласуя потенциально порочащие репутацию человека виды использования.
Справедливая компенсация за это, очевидно, на порядки выше компенсации за озвучание одного конкретного текста.
Фабула дела тут.
Вкратце: друзья опознали голос своей знакомой в порнорекламе. Это стало для неё неприятной неожиданностью, так как давным-давно она озвучивала совсем другой текст для Тинькофф. Но, по словам Тинькофф, передала им право на любую переработку записи.
Тинькофф считает, что это включает и право на переработку записи для создания совсем другого объекта — программы речевого синтеза, которой пользователи могут озвучивать любые тексты, в том числе порнорекламу.
Что, кажется, не учтено?
Обсуждаемое спорное использование — последствие, которое артистка не могла предвидеть на момент записи для совсем другой цели, если только договор не включал прямое согласие на переработку записи для синтеза речи.
Соответственно, такое использование может не охватываться волей сторон договора и может быть незаконным. Если же Тинькофф имел на это планы, но скрыл от артистки — она может требовать признания договора в этой части недействительным как заключённым под влиянием обмана или заблуждения. Или требовать изменения условий, навязанных банком по договору присоединения.
Также артистка может требовать (1) компенсации уже причинённого морального вреда и (2) пресечения его на будущее путём запрета по суду (а) эксплуатации системы речевого синтеза с её голосом разработчиком и иными лицами и (б) изъятия из оборота любых произведений, содержащих синтезированную запись её голоса – удаления файлов хостинг-провайдерами и удаления ссылок на них из поисковой выдачи.
Очень надеюсь, что суд по справедливости решит это дело и сориентирует оборот на будущее так, чтобы разработчики систем речевого синтеза не злоупотребляли правом, а прямо, открыто и на справедливых условиях просили разрешение на переработку записи именно для синтеза речи, отдельно согласуя потенциально порочащие репутацию человека виды использования.
Справедливая компенсация за это, очевидно, на порядки выше компенсации за озвучание одного конкретного текста.
👍11🔥3
Сотрудничаем ли мы с тем, что создаём?
Коллеги Эванс, Роббинс и Брайсон отмечают, что некоторые авторы, как минимум в англоязычной литературе, начали использовать термины типа "collaboration" и "co-workers" ("сотрудничество" и "коллеги по работе") для описания некоторых видов взаимодействия с ИИ-системами.
Честно говоря, не замечал, чтобы такая проблема была хоть сколько-нибудь заметна именно в научной литературе, но с учётом того, что коллеги по долгу службы вынуждены читать больше литературы, наверное, им виднее.
В чём я с ними согласен, так это в критике антропоморфизации ИИ-систем со стороны их разработчиков и отдельных фанатов технологий. Вот от них подобное периодически действительно слышно.
Мы не сотрудничаем с тостером в деле приготовления бутербродов. Мы не сотрудничаем с чатботом при поиске информации. Мы ставим задачу, машина — выполняет. Антропоморфизировать некоторые системы только потому, что они стали чуть лучше выполнять поставленные задачи — означает путать субъектов (людей) с объектами (оборудованием и программами).
Использование терминов типа "помощник" помогает разработчикам скрывать тот очевидный факт, что ИИ-системы разрабатываются и вводятся в эксплуатацию для извлечения прибыли.
Новый ИИ-инструмент — ваш друг и помощник? Нет, это просто коммерческий продукт. Который может быть безопасным и полезным... а может и не быть, и помогать компании лучше вами манипулировать, получать больше чувствительных данных и продавать вам услуги и товары, без которых вы могли бы обойтись или которые выбраны не по вашим потребностям, а благодаря комиссии, которую разработчик получит от поставщиков.
Без независимой проверки системы сторонними экспертами этого исключать нельзя. Поэтому нет, мы не сотрудничаем с системами ИИ. Мы их используем для достижения целей — будем надеяться, что своих собственных, а не чужих.
Коллеги Эванс, Роббинс и Брайсон отмечают, что некоторые авторы, как минимум в англоязычной литературе, начали использовать термины типа "collaboration" и "co-workers" ("сотрудничество" и "коллеги по работе") для описания некоторых видов взаимодействия с ИИ-системами.
Честно говоря, не замечал, чтобы такая проблема была хоть сколько-нибудь заметна именно в научной литературе, но с учётом того, что коллеги по долгу службы вынуждены читать больше литературы, наверное, им виднее.
В чём я с ними согласен, так это в критике антропоморфизации ИИ-систем со стороны их разработчиков и отдельных фанатов технологий. Вот от них подобное периодически действительно слышно.
Мы не сотрудничаем с тостером в деле приготовления бутербродов. Мы не сотрудничаем с чатботом при поиске информации. Мы ставим задачу, машина — выполняет. Антропоморфизировать некоторые системы только потому, что они стали чуть лучше выполнять поставленные задачи — означает путать субъектов (людей) с объектами (оборудованием и программами).
Использование терминов типа "помощник" помогает разработчикам скрывать тот очевидный факт, что ИИ-системы разрабатываются и вводятся в эксплуатацию для извлечения прибыли.
Новый ИИ-инструмент — ваш друг и помощник? Нет, это просто коммерческий продукт. Который может быть безопасным и полезным... а может и не быть, и помогать компании лучше вами манипулировать, получать больше чувствительных данных и продавать вам услуги и товары, без которых вы могли бы обойтись или которые выбраны не по вашим потребностям, а благодаря комиссии, которую разработчик получит от поставщиков.
Без независимой проверки системы сторонними экспертами этого исключать нельзя. Поэтому нет, мы не сотрудничаем с системами ИИ. Мы их используем для достижения целей — будем надеяться, что своих собственных, а не чужих.
Wiley Online Library
Do We Collaborate With What We Design?
This article critically assesses the accuracy and desirability of using terms like “collaboration” to describe interactions between humans and AI systems. This article concludes that we cannot collab...
👏4❤1👍1
Лайк — он и в Африке лайк
В июле я писал о том, что суд в Канаде признал: проставление в мессенджере “лайка” на предложенные условия договора может означать, что договор заключен.
Настя сообщает, что и российский арбитражный суд совсем недавно при похожих обстоятельствах признал эмодзи “👍🏼” в переписке согласованием условий договора:
«Данный знак в обычно принятом и распространённом понимании при общении посредством электронной переписки означает “хорошо”».
Уверен, римские юристы бы тоже одобрили: “Pacta sunt servanda” — договоры должны выполняться.
В июле я писал о том, что суд в Канаде признал: проставление в мессенджере “лайка” на предложенные условия договора может означать, что договор заключен.
Настя сообщает, что и российский арбитражный суд совсем недавно при похожих обстоятельствах признал эмодзи “👍🏼” в переписке согласованием условий договора:
«Данный знак в обычно принятом и распространённом понимании при общении посредством электронной переписки означает “хорошо”».
Уверен, римские юристы бы тоже одобрили: “Pacta sunt servanda” — договоры должны выполняться.
👍17👏4❤1🥴1
Французский депутат оспорил механизм передачи данных из ЕС в США
Подавший заявление по этому поводу в Суд ЕС Филипп Латомб полагает, что недавно одобренный механизм передачи данных из ЕС в США (EU-US Data Privacy Framework, DPF) страдает недостатками своего предшественника, аннулированного по жалобе прайваси-активиста Макса Шремса ранее.
По мнению Латомба, также являющегося комиссаром КНИЛ, французского органа по защите прав субъектов персональных данных, текст DPF не соответствует Хартии о фундаментальных правах ЕС и Общему регламенту о защите данных (GDPR/RGPD).
В коммюнике для прессы депутат отмечает, что DPF не обеспечивает достаточной защиты данных и прав европейцев, в том числе при принятии в отношении них автоматизированных решений, и не даёт им доступа к беспристрастному суду.
Также французский депутат полагает, что DPF должен быть признан недействительным и по процессуальным основаниям: текст акта, имплементирующего DPF, не был опубликован в Официальном журнале ЕС и не был направлен Еврокомиссией национальным властям стран ЕС на их национальных языках.
"Никакие редакции текста, кроме редакции на английском, не были разработаны и не доступны на сегодняшний день... Это досадное упущение... само по себе заслуживает полноценного анализа", отмечает Латомб.
Механизм оспаривания, выбранный Латомбом, отличается от использованного Шремсом.
Оспаривая акт-предшественник, Шремс делал это в связи с нарушением его прав как субъекта при передаче в США его данных конкретным оператором (ирландским подразделением Меты), и запрос в Суд ЕС подавался не самим Шремсом, а ирландским судом, рассматривавшим его дело.
Латомб, в свою очередь, подал обращение напрямую в Суд ЕС на основании статьи 263 Договора о функционировании Европейского Союза (TFEU/TFUE) — не как комиссар КНИЛ или депутат, а в своём персональном качестве, как обычный гражданин ЕС.
Эта процедура значительно быстрее использованной Шремсом.
Однако Согласно практике Суда ЕС, условием принятия к рассмотрению подобного обращения является прямая (Дело C-486/01 Front national v. European Parliament) и личная (C-25/62 Plaumann v. Commission) заинтересованность заявителя в исходе дела.
Для этого Латомбу нужно продемонстрировать, что какой-либо из находящихся в европейской юрисдикции операторов передаёт его персональные данные в США и делает это именно на основании DPF.
Сможет ли он это сделать — покажет время.
В чём сомневаться сложно, так это в том, что Шремс тоже не останется в стороне и подаст свою жалобу на DPF тотчас же, как это станет возможно исходя из его собственного правового анализа.
Подавший заявление по этому поводу в Суд ЕС Филипп Латомб полагает, что недавно одобренный механизм передачи данных из ЕС в США (EU-US Data Privacy Framework, DPF) страдает недостатками своего предшественника, аннулированного по жалобе прайваси-активиста Макса Шремса ранее.
По мнению Латомба, также являющегося комиссаром КНИЛ, французского органа по защите прав субъектов персональных данных, текст DPF не соответствует Хартии о фундаментальных правах ЕС и Общему регламенту о защите данных (GDPR/RGPD).
В коммюнике для прессы депутат отмечает, что DPF не обеспечивает достаточной защиты данных и прав европейцев, в том числе при принятии в отношении них автоматизированных решений, и не даёт им доступа к беспристрастному суду.
Также французский депутат полагает, что DPF должен быть признан недействительным и по процессуальным основаниям: текст акта, имплементирующего DPF, не был опубликован в Официальном журнале ЕС и не был направлен Еврокомиссией национальным властям стран ЕС на их национальных языках.
"Никакие редакции текста, кроме редакции на английском, не были разработаны и не доступны на сегодняшний день... Это досадное упущение... само по себе заслуживает полноценного анализа", отмечает Латомб.
Механизм оспаривания, выбранный Латомбом, отличается от использованного Шремсом.
Оспаривая акт-предшественник, Шремс делал это в связи с нарушением его прав как субъекта при передаче в США его данных конкретным оператором (ирландским подразделением Меты), и запрос в Суд ЕС подавался не самим Шремсом, а ирландским судом, рассматривавшим его дело.
Латомб, в свою очередь, подал обращение напрямую в Суд ЕС на основании статьи 263 Договора о функционировании Европейского Союза (TFEU/TFUE) — не как комиссар КНИЛ или депутат, а в своём персональном качестве, как обычный гражданин ЕС.
Эта процедура значительно быстрее использованной Шремсом.
Однако Согласно практике Суда ЕС, условием принятия к рассмотрению подобного обращения является прямая (Дело C-486/01 Front national v. European Parliament) и личная (C-25/62 Plaumann v. Commission) заинтересованность заявителя в исходе дела.
Для этого Латомбу нужно продемонстрировать, что какой-либо из находящихся в европейской юрисдикции операторов передаёт его персональные данные в США и делает это именно на основании DPF.
Сможет ли он это сделать — покажет время.
В чём сомневаться сложно, так это в том, что Шремс тоже не останется в стороне и подаст свою жалобу на DPF тотчас же, как это станет возможно исходя из его собственного правового анализа.
POLITICO
French lawmaker challenges transatlantic data deal before EU court
MP Philippe Latombe launches the latest round of legal fighting.
👍5❤3
FPF - US 2023 - Key Dates for State Privacy Laws.pdf
72 KB
США: тренд на регулирование персональных данных
Более 73% американцев хотят, чтобы федеральное правительство полноценно отрегулировало оборот персональных данных в частном секторе.
И хотя ничего похожего на GDPR или 152-ФЗ в США пока не предвидится, спрос на защиту частной жизни граждан всё-таки начинает удовлетворяться — на уровне отдельных штатов.
В 2023 году наблюдается целый бум: как сообщает Кир Ламонт, Директор Future Privacy Forum (FPF), вчера закон о персональных данных подписал губернатор Делавера.
Этот штат стал двенадцатым — и уже седьмым (!) в этом году — в числе штатов, которые ввели комплексное регулирование по этому вопросу.
Перечень региональных нормативных актов со ссылками на аналитику FPF — во вложении.
Более 73% американцев хотят, чтобы федеральное правительство полноценно отрегулировало оборот персональных данных в частном секторе.
И хотя ничего похожего на GDPR или 152-ФЗ в США пока не предвидится, спрос на защиту частной жизни граждан всё-таки начинает удовлетворяться — на уровне отдельных штатов.
В 2023 году наблюдается целый бум: как сообщает Кир Ламонт, Директор Future Privacy Forum (FPF), вчера закон о персональных данных подписал губернатор Делавера.
Этот штат стал двенадцатым — и уже седьмым (!) в этом году — в числе штатов, которые ввели комплексное регулирование по этому вопросу.
Перечень региональных нормативных актов со ссылками на аналитику FPF — во вложении.
❤3👍3
ИСО сделала свой стандарт по терминам в сфере ИИ общедоступным
Речь идёт о документе ISO/IEC 22989 Information technology — Artificial intelligence — Artificial intelligence concepts and terminology (Информационные технологии. Искусственный интеллект. Концепции искусственного интеллекта и терминология).
Ранее он был доступен широкой публике только за плату.
Скачать стандарт можно на сайте ИСО.
Речь идёт о документе ISO/IEC 22989 Information technology — Artificial intelligence — Artificial intelligence concepts and terminology (Информационные технологии. Искусственный интеллект. Концепции искусственного интеллекта и терминология).
Ранее он был доступен широкой публике только за плату.
Скачать стандарт можно на сайте ИСО.
standards.iso.org
Publicly Available Standards
❤11
Пятничное про DPF
Тюрингский орган по надзору в области персональных данных: EU-US DPF (механизм легализации передачи данных в США) с большой вероятностью будет аннулирован судом.
Их коллеги в других землях: (см. картинку).
Сюжет в деталях — на Линкдине.
Тюрингский орган по надзору в области персональных данных: EU-US DPF (механизм легализации передачи данных в США) с большой вероятностью будет аннулирован судом.
Их коллеги в других землях: (см. картинку).
Сюжет в деталях — на Линкдине.
😁3
Не стоит воспринимать буквально
Хорошая иллюстрация, вызывающая размышления.
Периодически наблюдаю, как люди делают далеко идущие ошибочные выводы из простых аналогий.
Устройство компьютерных нейросетей было вдохновлено биологическими нейронными сетями и напоминает последние в некоторых аспектах.
Но из этого не следует, что они функционально одинаковы. Слова "нейронная сеть" в контексте информатики используются лишь как грубая аналогия, никак не намекая на тождество.
Точно также, как модель солнечной системы в школьном классе, состоящая из пластмассовых шариков — а можно и из арбузов сделать — не имеет свойств настоящей солнечной системы.
"Нейрон" в искусственных нейронных сетях — аналогия по отношению к нейрону настоящему не лучшая, чем пластмассовый шарик или арбуз по отношению к настоящей планете.
Но и не худшая. И полезная — в определённых пределах.
Точно также следует воспринимать употребление термина "reasoning". В ИТ-отрасли, особенно после бума больших языковых моделей, его часто употребляют в смысле каком угодно, кроме указания на настоящий процесс рассуждения.
Большие языковые модели не рассуждают. Они предсказывают (вычисляют) релевантные слова для вывода на основе слов на входе.
Хорошая иллюстрация, вызывающая размышления.
Периодически наблюдаю, как люди делают далеко идущие ошибочные выводы из простых аналогий.
Устройство компьютерных нейросетей было вдохновлено биологическими нейронными сетями и напоминает последние в некоторых аспектах.
Но из этого не следует, что они функционально одинаковы. Слова "нейронная сеть" в контексте информатики используются лишь как грубая аналогия, никак не намекая на тождество.
Точно также, как модель солнечной системы в школьном классе, состоящая из пластмассовых шариков — а можно и из арбузов сделать — не имеет свойств настоящей солнечной системы.
"Нейрон" в искусственных нейронных сетях — аналогия по отношению к нейрону настоящему не лучшая, чем пластмассовый шарик или арбуз по отношению к настоящей планете.
Но и не худшая. И полезная — в определённых пределах.
Точно также следует воспринимать употребление термина "reasoning". В ИТ-отрасли, особенно после бума больших языковых моделей, его часто употребляют в смысле каком угодно, кроме указания на настоящий процесс рассуждения.
Большие языковые модели не рассуждают. Они предсказывают (вычисляют) релевантные слова для вывода на основе слов на входе.
🔥3❤2👏1
"Акела промахнулся" (с настройками доступа)
ИИ-исследователи из Майкрософт немного ошиблись с настройками и вместе с запланированной публикацией кода очередной ИИ-модели заопенсорсили также 38 терабайт приватной информации, включая резервные копии дисков двух рабочих ПК и 30 тыс. сообщений из переписки в Тимс.
Будьте аккуратнее с разрешениями на доступ.
ИИ-исследователи из Майкрософт немного ошиблись с настройками и вместе с запланированной публикацией кода очередной ИИ-модели заопенсорсили также 38 терабайт приватной информации, включая резервные копии дисков двух рабочих ПК и 30 тыс. сообщений из переписки в Тимс.
Будьте аккуратнее с разрешениями на доступ.
😁6👏4👍1🥴1
Как нам избавиться от термина "искусственный интеллект"?
Стефано Квинтарелли отмечает, что AI (artificial intelligence) — это заряженный термин, который искажает представления широкой публики о реальных возможностях систем и порождает множество в основном спекулятивных, ненужных или просто вредных ассоциаций — с сознанием, эмоциями, личностью и сверхчеловеческими способностями.
Квинтарелли предлагает альтернативный термин: SALAMI — Systematic Approaches to Learning Algorithms and Machine Inferences.
Я предлагаю близкий по смыслу аналог на русском: КОЛБАСА - Комплексные Обучающиеся Лексические Боты, Алгоритмы и Системы Анализа.
Это сразу позволяет под правильным углом посмотреть на обсуждение ряда популярных вопросов, таких как:
— Способна ли КОЛБАСА испытывать эмоции?
— Имеет ли КОЛБАСА личность?
— Способна ли КОЛБАСА преодолеть естественные человеческие ограничения и превзойти человека?
— Может ли КОЛБАСА полюбить нас так, как мы её?
Стефано Квинтарелли отмечает, что AI (artificial intelligence) — это заряженный термин, который искажает представления широкой публики о реальных возможностях систем и порождает множество в основном спекулятивных, ненужных или просто вредных ассоциаций — с сознанием, эмоциями, личностью и сверхчеловеческими способностями.
Квинтарелли предлагает альтернативный термин: SALAMI — Systematic Approaches to Learning Algorithms and Machine Inferences.
Я предлагаю близкий по смыслу аналог на русском: КОЛБАСА - Комплексные Обучающиеся Лексические Боты, Алгоритмы и Системы Анализа.
Это сразу позволяет под правильным углом посмотреть на обсуждение ряда популярных вопросов, таких как:
— Способна ли КОЛБАСА испытывать эмоции?
— Имеет ли КОЛБАСА личность?
— Способна ли КОЛБАСА преодолеть естественные человеческие ограничения и превзойти человека?
— Может ли КОЛБАСА полюбить нас так, как мы её?
😁35❤5🔥4🥴1