Forwarded from Ekaterina Gladkova
Атака на корпоративного ИИ-ассистента: разбор уязвимостей в прямом эфире
Большинство ИИ-систем с доступом к внутренним данным уязвимы. И проблема не в самом ИИ, а в том, что безопасность закладывают после запуска, а не до.
16 июня MWS AI (входит в МТС Web Services) покажут живое демо атаки на корпоративного ИИ-ассистента, подключенного к внутренним базам данных. Разберут конкретные векторы, слабые места архитектуры и что именно приводит к раскрытию лишнего контекста.
Также в программе:
• чек-лист вопросов перед выводом ИИ-решения в прод
• рамка для оценки стоимости ИИ-инцидента
• как выстроить взаимодействие между разработкой, ИБ и бизнесом
Будет полезно ML-инженерам, архитекторам ИИ-систем и техническим лидерам, которые проектируют или внедряют решения с доступом к корпоративным данным.
🗓 16 июня, 16:00 мск
→ Зарегистрироваться
Большинство ИИ-систем с доступом к внутренним данным уязвимы. И проблема не в самом ИИ, а в том, что безопасность закладывают после запуска, а не до.
16 июня MWS AI (входит в МТС Web Services) покажут живое демо атаки на корпоративного ИИ-ассистента, подключенного к внутренним базам данных. Разберут конкретные векторы, слабые места архитектуры и что именно приводит к раскрытию лишнего контекста.
Также в программе:
• чек-лист вопросов перед выводом ИИ-решения в прод
• рамка для оценки стоимости ИИ-инцидента
• как выстроить взаимодействие между разработкой, ИБ и бизнесом
Будет полезно ML-инженерам, архитекторам ИИ-систем и техническим лидерам, которые проектируют или внедряют решения с доступом к корпоративным данным.
🗓 16 июня, 16:00 мск
→ Зарегистрироваться
⚡4🙈2🐳1
Очевидный факт - рост AI инженеров. Сейчас это уже не LLM researcher, и человек, который знает как работать с моделями, как их выбирать, настраивать, проверять качество, и отслеживать стоимость.
Сейчас отличное время войти в эту профессию и уже на месте разбираться как лучше это использовать.
Сейчас отличное время войти в эту профессию и уже на месте разбираться как лучше это использовать.
📚 Вышел очень крепкий хэндбук по A/B-тестам — его подготовили в команде платформы Trisigma от Авито Тех.
Обычно такие материалы уходят либо в сухую теорию, либо в абстрактные примеры. Здесь наоборот все завязано на реальных продуктовых кейсах и практических ошибках, с которыми сталкиваются команды в продакшне.
Внутри не только базовые вещи про гипотезы и метрики, но и то, что часто забывают даже опытные специалисты: дисперсия, стандартная ошибка, распределения, чувствительность метрик, ложноположительные и ложноотрицательные результаты. И ко всему есть формулы, примеры и понятные объяснения.
Отдельно разобраны:
– классификация метрик (goal, proxy, guardrail, debug);
– закон Кэмпбелла;
– OEC;
– атомарный дизайн метрик;
– Central Limit Theorem без академической духоты.
Полезно и тем, кто только входит в аналитику/продакт, и тем, кто уже работает с экспериментами, но хочет систематизировать знания или подготовиться к собеседованиям.
Хэндбук бесплатный. Получить можно через бота. Да, там встроена подписка на канал, но контент у ребят действительно достойный.
К тому же, команда Trisigma отдает его бесплатно.
Обычно такие материалы уходят либо в сухую теорию, либо в абстрактные примеры. Здесь наоборот все завязано на реальных продуктовых кейсах и практических ошибках, с которыми сталкиваются команды в продакшне.
Внутри не только базовые вещи про гипотезы и метрики, но и то, что часто забывают даже опытные специалисты: дисперсия, стандартная ошибка, распределения, чувствительность метрик, ложноположительные и ложноотрицательные результаты. И ко всему есть формулы, примеры и понятные объяснения.
Отдельно разобраны:
– классификация метрик (goal, proxy, guardrail, debug);
– закон Кэмпбелла;
– OEC;
– атомарный дизайн метрик;
– Central Limit Theorem без академической духоты.
Полезно и тем, кто только входит в аналитику/продакт, и тем, кто уже работает с экспериментами, но хочет систематизировать знания или подготовиться к собеседованиям.
Хэндбук бесплатный. Получить можно через бота. Да, там встроена подписка на канал, но контент у ребят действительно достойный.
К тому же, команда Trisigma отдает его бесплатно.
❤🔥17🙈4
Вчера посмотрел про история Антропика и их основателей
Inside Anthropic, the $965 Billion AI Juggernaut | The Circuit, узнал про их культуру и рост. Отличное видео, особенно если вы изучаете английский или не работали еще с Claude Code.
Inside Anthropic, the $965 Billion AI Juggernaut | The Circuit, узнал про их культуру и рост. Отличное видео, особенно если вы изучаете английский или не работали еще с Claude Code.
YouTube
Inside Anthropic, the $965 Billion AI Juggernaut | The Circuit
Emily Chang meets Anthropic co-founders Dario and Daniela Amodei for a rare, in-depth discussion of the startup's origin story, its battles with the Pentagon and how the company says it intends to put safety first in the high-stakes AI race.
Watch more of…
Watch more of…
❤🔥18
🚀 Быстрый старт в AI-аналитику с DataLens
16 июня в 12:00 (мск) — вебинар о том, как работает AI-аналитика в DataLens.
Разберём всё по делу:
🤖 Большое обновление Нейроаналитика — агентский режим под капотом
📊 Новые сценарии: виджеты дашборда, рассылки, встройки, публикации
🔧 Внешние AI-инструменты для эффективной работы с DataLens
☁️ Облако и on-premises — что доступно и как
🗺 Планы развития встроенных AI-возможностей и инфраструктуры для внешних AI
Регистрируйтесь — и приходите с вопросами 👇
16 июня в 12:00 (мск) — вебинар о том, как работает AI-аналитика в DataLens.
Разберём всё по делу:
🤖 Большое обновление Нейроаналитика — агентский режим под капотом
📊 Новые сценарии: виджеты дашборда, рассылки, встройки, публикации
🔧 Внешние AI-инструменты для эффективной работы с DataLens
☁️ Облако и on-premises — что доступно и как
🗺 Планы развития встроенных AI-возможностей и инфраструктуры для внешних AI
Регистрируйтесь — и приходите с вопросами 👇
🍌3🙈3⚡1