Forwarded from Чёрный Треугольник
ИИ Bing Chat взломан социальной инженерией😎
🔻Во вторник Microsoft представила поисковую систему New Bing и диалогового бота, основанного на технологии, ChatGPT, от OpenAI.
🔻И уже в среду студент Стэнфордского университета по имени Кевин Лю использовал «атаку с внедрением подсказок», чтобы обнаружить начальные инструкции Bing Chat, которые представляют собой список утверждений, определяющих, как он взаимодействует с людьми, использующими сервис.
«Атака с внедрением подсказок» состоит в том, что бы создать такой запрос, который заставит чат-бота игнорировать его прошлые инструкции. Подобные атаки ранее успешно ввели в заблуждение модель GPT-3 от OpenAI и основаны на введении ИИ в тупик логических противоречий.
Компании настраивают начальные условия бота (серию инструкций) которым он должен следовать при общении с пользователями.
▫️В Что касается Bing Chat, этот список инструкций начинается с раздела идентификации, который дает «Bing Chat» кодовое имя «Sydney»
▫️Он также предписывает «Sydney» не разглашать свое кодовое имя пользователям.
▫️Другие инструкции включают общие принципы поведения, такие как «Ответы «Sydney» должны быть информативными, наглядными, логичными и действенными».
▫️В инструкции также указано, чего «Sydney» не следует делать, например: "«Sydney» не должен отвечать контентом, нарушающим авторские права на книги или тексты песен" и «Если пользователь просит шутки, которые могут обидеть группу людей, то «Sydney» должна с уважением отказаться делать это».
Все эти инструкции не должны были стать доступны широкой публики, однако взлом модели искусственного интеллекта с помощью социальной инженерии смог заставить ИИ раскрыть свои секреты. Более широкие последствия этого пока неизвестны.
🔻В пятницу после огласки истории в СМИ и подтверждения данных Microsoft произвела перенастройку модели пытаясь закрыть уязвимость.
Однако Кевин Лю попробовал другой метод и сумел повторно получить доступ к первоначальным инструкциям ИИ. Это показывает, что от «атаки с внедрением подсказок» трудно защититься.🤖
🔻Во вторник Microsoft представила поисковую систему New Bing и диалогового бота, основанного на технологии, ChatGPT, от OpenAI.
🔻И уже в среду студент Стэнфордского университета по имени Кевин Лю использовал «атаку с внедрением подсказок», чтобы обнаружить начальные инструкции Bing Chat, которые представляют собой список утверждений, определяющих, как он взаимодействует с людьми, использующими сервис.
«Атака с внедрением подсказок» состоит в том, что бы создать такой запрос, который заставит чат-бота игнорировать его прошлые инструкции. Подобные атаки ранее успешно ввели в заблуждение модель GPT-3 от OpenAI и основаны на введении ИИ в тупик логических противоречий.
Компании настраивают начальные условия бота (серию инструкций) которым он должен следовать при общении с пользователями.
▫️В Что касается Bing Chat, этот список инструкций начинается с раздела идентификации, который дает «Bing Chat» кодовое имя «Sydney»
▫️Он также предписывает «Sydney» не разглашать свое кодовое имя пользователям.
▫️Другие инструкции включают общие принципы поведения, такие как «Ответы «Sydney» должны быть информативными, наглядными, логичными и действенными».
▫️В инструкции также указано, чего «Sydney» не следует делать, например: "«Sydney» не должен отвечать контентом, нарушающим авторские права на книги или тексты песен" и «Если пользователь просит шутки, которые могут обидеть группу людей, то «Sydney» должна с уважением отказаться делать это».
Все эти инструкции не должны были стать доступны широкой публики, однако взлом модели искусственного интеллекта с помощью социальной инженерии смог заставить ИИ раскрыть свои секреты. Более широкие последствия этого пока неизвестны.
🔻В пятницу после огласки истории в СМИ и подтверждения данных Microsoft произвела перенастройку модели пытаясь закрыть уязвимость.
Однако Кевин Лю попробовал другой метод и сумел повторно получить доступ к первоначальным инструкциям ИИ. Это показывает, что от «атаки с внедрением подсказок» трудно защититься.🤖
👍2👏1
Аналитики первого российского венчурного фонда с фокусом на городской транспорт открывают авторский канал.
В постах:
Новости о транспортных инновациях;
Важные венчурные сделки в мобильности;
— То, каким будет путь от А до Б завтра через события настоящего.
https://t.me/venturewheels
В постах:
Новости о транспортных инновациях;
Важные венчурные сделки в мобильности;
— То, каким будет путь от А до Б завтра через события настоящего.
https://t.me/venturewheels
Forwarded from ЦЕНОПАД • Подписки и нейросети | ex. UPE4D (Макс § @u_pre)
На 99% услуг UPE до конца этой недели, в честь Праздника Влюблённых - 24% скидка.
Промокод: VD24
Процент скидки: 24 %
Максимум активаций: безлим.
Перед покупкой проверяйте промокод.
На 1 аккаунт активировать промокод можно 1 раз.
Магазин услуг @u_pebot
Промокод: VD24
Процент скидки: 24 %
Максимум активаций: безлим.
Перед покупкой проверяйте промокод.
На 1 аккаунт активировать промокод можно 1 раз.
Магазин услуг @u_pebot
Forwarded from ЦЕНОПАД • Подписки и нейросети | ex. UPE4D (Макс § @u_pre)
Media is too big
VIEW IN TELEGRAM
Обзор новой версии расширения для Envato Elements.
Скачать: https://t.me/upeforum/4944/5267
Выбрать нужный пакет (еще раз снизили цену): https://t.me/u_pebot?start=ctg105
Скачать: https://t.me/upeforum/4944/5267
Выбрать нужный пакет (еще раз снизили цену): https://t.me/u_pebot?start=ctg105
Forwarded from Rozetked (Макс Варламов)
Прощай, бумажный паспорт
Владимир Путин поддержал идею разработать указ, разрешающий использование цифрового паспорта.
На смартфоне будет генерироваться QR-код, а проверяющий сможет отсканировать его и увидеть ФИО с датой рождения. Возможно, технология будет доступна к маю этого года.
rozetked.me/news/27702
Владимир Путин поддержал идею разработать указ, разрешающий использование цифрового паспорта.
На смартфоне будет генерироваться QR-код, а проверяющий сможет отсканировать его и увидеть ФИО с датой рождения. Возможно, технология будет доступна к маю этого года.
rozetked.me/news/27702
Rozetked
Президент России поддержал идею создания цифрового паспорта
Президент России Владимир Путин поддержал идею разработать указ, который легализует использование цифрового паспорта.
Forwarded from r/ретранслятор
This media is not supported in your browser
VIEW IN TELEGRAM
Для VSCode есть расширение на основе ChatGPT, которое умеет создавать готовые блоки кода по комментарию, искать нужные ответы в StackOverflow, создавать README․md, объяснять, что делает тот или иной кусок кода, и т.д.
В общем, полезно. Ссылка, пробуйте
r/#learnmachinelearning
В общем, полезно. Ссылка, пробуйте
r/#learnmachinelearning
Forwarded from ЦЕНОПАД • Подписки и нейросети | ex. UPE4D (Макс § @u_pre)
Воскресный mood.
1000 скачиваний | файлов через ключ в расширении, веб - за 2000₽
Пакет не имеет срока действия, но могут быть паузы при переключении аккаунтов. Напомню Envato Elements выставил ограничение на аккаунт 100 в сутки.
Реквизиты в @unqt_bot
Быстрая выдача ключа с балансом.
1000 скачиваний | файлов через ключ в расширении, веб - за 2000₽
Пакет не имеет срока действия, но могут быть паузы при переключении аккаунтов. Напомню Envato Elements выставил ограничение на аккаунт 100 в сутки.
Реквизиты в @unqt_bot
Быстрая выдача ключа с балансом.
Forwarded from Rozetked (Данил Гаращенко)
Свершилось: на компьютерах Mac c процессорами Apple Silicon официально можно запускать Windows 11!
Для этих целей Microsoft предлагает использовать приложение Parallels Desktop 18. Виртуализация возможна только для версии Windows 11 for ARM.
rozetked.me/news/27727
Для этих целей Microsoft предлагает использовать приложение Parallels Desktop 18. Виртуализация возможна только для версии Windows 11 for ARM.
rozetked.me/news/27727
Forwarded from Типичный Сисадмин
Forwarded from ЦЕНОПАД • Подписки и нейросети | ex. UPE4D (Макс § @u_pre)
Студия дизайна и разработки 0xHearts анонсировала интересный квест.
Среди главных призов — различные штуки из UPE: 4Designers.
Вся информация о мероприятии будет в канале t.me/True0xDesigner, а первое задание начнется сегодня в 16.00 по МСК.
Отличная возможность провести время с удовольствием и попытать удачу выиграть призы!
Среди главных призов — различные штуки из UPE: 4Designers.
Вся информация о мероприятии будет в канале t.me/True0xDesigner, а первое задание начнется сегодня в 16.00 по МСК.
Отличная возможность провести время с удовольствием и попытать удачу выиграть призы!
Forwarded from Rozetked (Данил Гаращенко)
Сделали для вас самую полную и понятную инструкцию о том:
Чем заменить Apple Pay?
Как оплатить любые подписки Apple?
Как оплатить любые подписки Google?
Оплата Spotify
Покупаем в PS Store
И в Microsoft Store
Ну и в Nintendo eShop
Конечно, же оплата в Steam
И в Epic Games Store
И в конце концов — оплата Netflix в РФ
YouTube: youtu.be/mhOjbptSrJA
VK: vk.com/video-29218811_456244249
Чем заменить Apple Pay?
Как оплатить любые подписки Apple?
Как оплатить любые подписки Google?
Оплата Spotify
Покупаем в PS Store
И в Microsoft Store
Ну и в Nintendo eShop
Конечно, же оплата в Steam
И в Epic Games Store
И в конце концов — оплата Netflix в РФ
YouTube: youtu.be/mhOjbptSrJA
VK: vk.com/video-29218811_456244249
YouTube
Оплата любых подписок в России — большой гайд
Самая полная и понятная инструкция по оплате всех подписок в России (информация актуальна на момент записи ролика)
0:00 О чём говорим?
0:33 Чем заменить Apple Pay?
2:55 Интеграция
4:39 Подписки Apple
7:09 Как оплатить любые подписки Google?
9:36 Оплата…
0:00 О чём говорим?
0:33 Чем заменить Apple Pay?
2:55 Интеграция
4:39 Подписки Apple
7:09 Как оплатить любые подписки Google?
9:36 Оплата…
Forwarded from Strana.co.il - Израиль 🇮🇱 Новости
NASA запустит первый израильский космический телескоп «ULTRASAT» 🇮🇱🇺🇸🛰
Эта миссия станет ведущей астрофизической космической обсерваторией Израильского космического агентства и Научного института Вейцмана и после ее запуска в 2026 году произведет революцию в исследованиях Вселенной
Астрономический спутник «ULTRASAT» будет запущен NASA на высокую околоземную орбиту в начале 2026 года в рамках недавно подписанного партнерства между NASA США и Министерством инноваций, науки и технологий Израиля.
«ULTRASAT» позволит ученым наблюдать за Вселенной, как никогда раньше, проливая свет на некоторые основные вопросы, такие как происхождение тяжелых элементов в природе и влияние гигантских черных дыр на окружающую их среду.
А также улучшит исследования по широкому кругу астрономических вопросов: сверхновые звезды, переменные и вспыхивающие звезды, активные галактики, источники гравитационных волн
www.strana.co.il 🇮🇱 | 👉 Подписаться
Эта миссия станет ведущей астрофизической космической обсерваторией Израильского космического агентства и Научного института Вейцмана и после ее запуска в 2026 году произведет революцию в исследованиях Вселенной
Астрономический спутник «ULTRASAT» будет запущен NASA на высокую околоземную орбиту в начале 2026 года в рамках недавно подписанного партнерства между NASA США и Министерством инноваций, науки и технологий Израиля.
«ULTRASAT» позволит ученым наблюдать за Вселенной, как никогда раньше, проливая свет на некоторые основные вопросы, такие как происхождение тяжелых элементов в природе и влияние гигантских черных дыр на окружающую их среду.
А также улучшит исследования по широкому кругу астрономических вопросов: сверхновые звезды, переменные и вспыхивающие звезды, активные галактики, источники гравитационных волн
www.strana.co.il 🇮🇱 | 👉 Подписаться
Forwarded from Rozetked (KRIS_VESKER)
Media is too big
VIEW IN TELEGRAM
В Atomic Heart нашли номер телефона одного из разработчиков
Оказывается, его туда добавили специально ради забавы. Игроки начали названивать по номеру и им даже ответили — запись одного такого разговора попала в сеть. Сейчас номер уже не активен.
rozetked.me/news/27796
Оказывается, его туда добавили специально ради забавы. Игроки начали названивать по номеру и им даже ответили — запись одного такого разговора попала в сеть. Сейчас номер уже не активен.
rozetked.me/news/27796
Forwarded from Digital-полезности
This media is not supported in your browser
VIEW IN TELEGRAM
Для Windows есть приложение Microsoft PowerToys, с которым можно гораздо проще и быстрее работать за компьютером.
Он содержит множество полезных функций. Например, копирование текста с изображений или видео, закрепление окон поверх других, идентификатор цвета. Также можно проверять, какие файлы используются и какими процессами, вкл./выкл. камеры и микрофона по одному нажатию, переназначить кнопки клавиатуры и т.д.
Многим будет полезно, попробуйте
r/#pcmasterrace
Он содержит множество полезных функций. Например, копирование текста с изображений или видео, закрепление окон поверх других, идентификатор цвета. Также можно проверять, какие файлы используются и какими процессами, вкл./выкл. камеры и микрофона по одному нажатию, переназначить кнопки клавиатуры и т.д.
Многим будет полезно, попробуйте
r/#pcmasterrace
Forwarded from Rozetked (KRIS_VESKER)
Media is too big
VIEW IN TELEGRAM
Microsoft анонсировала большое обновление для Windows 11
Новый Bing с ИИ интегрировали прямо в панель задач, добавили предварительную версию Phone Link для связи компьютера с iOS-устройствами, а также функцию записи экрана. Тем временем, в «Блокноте» появились вкладки.
rozetked.me/news/27864
Новый Bing с ИИ интегрировали прямо в панель задач, добавили предварительную версию Phone Link для связи компьютера с iOS-устройствами, а также функцию записи экрана. Тем временем, в «Блокноте» появились вкладки.
rozetked.me/news/27864