Forwarded from Сумма технологий
OpenAI подарил миру фальшивки на стероидах: системы безопасности в шоке
Новейшая модель от OpenAI, GPT-4o, ворвалась в мир с обещанием революции — и, похоже, сдержала слово, но не совсем так, как хотелось бы добропорядочным гражданам. Теперь любой желающий может за секунды наклепать фальшивые авиабилеты, банковские переводы, дипломы университетов или даже рецепты на антибиотики(промолчим про более сильные вещества).
Забудьте про старые добрые подделки в Photoshop с кривыми шрифтами и косяками на пикселях — искусственный интеллект делает всё быстро, качественно и с пугающей убедительностью. Добро пожаловать в эру подделок 2.0, где системы безопасности уже потеют от страха.
Подробности - по ссылке
#ai #ии #openai
Новейшая модель от OpenAI, GPT-4o, ворвалась в мир с обещанием революции — и, похоже, сдержала слово, но не совсем так, как хотелось бы добропорядочным гражданам. Теперь любой желающий может за секунды наклепать фальшивые авиабилеты, банковские переводы, дипломы университетов или даже рецепты на антибиотики(промолчим про более сильные вещества).
Забудьте про старые добрые подделки в Photoshop с кривыми шрифтами и косяками на пикселях — искусственный интеллект делает всё быстро, качественно и с пугающей убедительностью. Добро пожаловать в эру подделок 2.0, где системы безопасности уже потеют от страха.
Подробности - по ссылке
#ai #ии #openai
VK
OpenAI подарил миру фальшивки на стероидах: системы безопасности в шоке
Новейшая модель от OpenAI, GPT-4o, ворвалась в мир с обещанием революции — и, похоже, сдержала слово, но не совсем так, как хотелось бы д..
Forwarded from Сумма технологий
Громкий скандал в уютном мирке искусственного интеллекта.
По данным технических изданий, в поисковых системах Google, Bing и DuckDuckGo были обнаружены ссылки на сотни тысяч диалогов пользователей с языковой моделью Grok, разработанной компанией xAI Илона Маска. Установлено, что активация функции «поделиться» в интерфейсе чата автоматически генерирует уникальный URL-адрес, который, согласно отчетам, индексируется поисковыми системами без прямого уведомления пользователей.
При этом никто и никогда не обещал пользователям Grok, что их диалоги с искусственным интеллектом останутся конфиденциальными.
По информации аналитиков, Google проиндексировал более 370 тысяч таких диалогов. Среди них — запросы, связанные с медицинскими и психологическими темами, включая конфиденциальные вопросы, а также персональные данные пользователей. В одном из случаев в чате был опубликован пароль, переданный Grok. Кроме того, в некоторых диалогах содержались инструкции, сгенерированные моделью, по изготовлению запрещенных веществ и взрывных устройств.
Компания xAI пока не предоставила официальных комментариев по этому поводу. Однако в конце июля 2025 года в поисковой выдаче Google были обнаружены аналогичные ссылки на чаты с ChatGPT, разработанным OpenAI. Представители OpenAI пояснили, что это произошло из-за временного эксперимента с функцией обмена ссылками, и сообщили, что данная возможность была оперативно отключена. В свою очередь, аккаунт Grok в социальной сети X ранее заявлял, что их система не поддерживает функцию автоматического создания общедоступных ссылок на чаты.
В 2024 году объем мирового рынка ИИ достиг 184 миллиардов долларов, и с ростом популярности чат-ботов вопросы конфиденциальности становятся все более актуальными. Пользователям рекомендуется избегать передачи чувствительной информации в диалогах с ИИ до внедрения более надежных механизмов защиты данных. Однако, очевидно, что преимущества общения с ИИ затмевают возможные риски, о которых пользователи просто не задумываются.
Между тем сам объем диалогов человека с ИИ является ценной поисковой информацией, а также базовой информацией для развития и обучения самих ИИ.
#ии #ai #поиск #google #grok #xai #chatgpt #openai
По данным технических изданий, в поисковых системах Google, Bing и DuckDuckGo были обнаружены ссылки на сотни тысяч диалогов пользователей с языковой моделью Grok, разработанной компанией xAI Илона Маска. Установлено, что активация функции «поделиться» в интерфейсе чата автоматически генерирует уникальный URL-адрес, который, согласно отчетам, индексируется поисковыми системами без прямого уведомления пользователей.
При этом никто и никогда не обещал пользователям Grok, что их диалоги с искусственным интеллектом останутся конфиденциальными.
По информации аналитиков, Google проиндексировал более 370 тысяч таких диалогов. Среди них — запросы, связанные с медицинскими и психологическими темами, включая конфиденциальные вопросы, а также персональные данные пользователей. В одном из случаев в чате был опубликован пароль, переданный Grok. Кроме того, в некоторых диалогах содержались инструкции, сгенерированные моделью, по изготовлению запрещенных веществ и взрывных устройств.
Компания xAI пока не предоставила официальных комментариев по этому поводу. Однако в конце июля 2025 года в поисковой выдаче Google были обнаружены аналогичные ссылки на чаты с ChatGPT, разработанным OpenAI. Представители OpenAI пояснили, что это произошло из-за временного эксперимента с функцией обмена ссылками, и сообщили, что данная возможность была оперативно отключена. В свою очередь, аккаунт Grok в социальной сети X ранее заявлял, что их система не поддерживает функцию автоматического создания общедоступных ссылок на чаты.
В 2024 году объем мирового рынка ИИ достиг 184 миллиардов долларов, и с ростом популярности чат-ботов вопросы конфиденциальности становятся все более актуальными. Пользователям рекомендуется избегать передачи чувствительной информации в диалогах с ИИ до внедрения более надежных механизмов защиты данных. Однако, очевидно, что преимущества общения с ИИ затмевают возможные риски, о которых пользователи просто не задумываются.
Между тем сам объем диалогов человека с ИИ является ценной поисковой информацией, а также базовой информацией для развития и обучения самих ИИ.
#ии #ai #поиск #google #grok #xai #chatgpt #openai
❤3