ISACARuSec
2.27K subscribers
1.83K photos
13 videos
313 files
5.72K links
Канал направления ИБ Московского отделения ISACA

Направление канала новости ISACA, новости в области управления ИБ в России и мире, обмен лучшими практиками.



Связь с администрацией
@popepiusXIII
Download Telegram
Forwarded from VP Cybersecurity Brief
Австралийский регулятор выложил в открытый доступ под лицензией MIT средство для анализа вредоносного ПО Azul.

Полезно в первую очередь раьотникам soc: реверсеры, инцидент респонсеры.

https://www.cyber.gov.au/business-government/detecting-responding-to-threats/cyber-security-incident-response/azul-malware-analysis-tool
Forwarded from VP Cybersecurity Brief
Рекомендую ознакомиться с докладом Минцифры по анализу действующей нормативки по ИИ в мире.

Остальные доклады скорее как кейсы с которыми к вам могут прийти для защиты решения.
➡️ 12 февраля состоялась конференция "ТЕХНОЛОГИИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА"

✅ Итоговый отчёт о конференции по ССЫЛКЕ

✅ Презентации спикеров доступны в разделе программа

📝Анонсы мероприятий на 2026 год размещены ЗДЕСЬ

#искусственныйинтеллект
#ИИ
Forwarded from Ethical Machines
Chain-of-Thought Мониторинг как дополнительный слой AI Safety

19-20 февраля в Белграде прошла конференция OpenTalks.AI, где одним из докладов был рассказ Сергея Николенко (наверняка, многим известный) на тему AI Safety в 2026 году. Пока смотрела запись, накидала себе много полезных вещей и об одной из них хочу рассказать вам (а потом, может, и до других доберусь).

Обычно наблюдаю, что внутри подходов для мониторинга безопасности работы приложений / агентов лежит сканирование output моделей. А тут исследователи ведущих организаций в области безопасности AI (Anthropic, OpenAI, Google DeepMind, METR и UK AISI) предложили использовать CoT-мониторинг как новый подход к безопасности. Идея такого мониторинга заключается в том, чтобы использовать архитектурное свойство reasoning-моделей: для сложных задач модель вынуждена записывать промежуточные мысли в текст — и именно там можно поймать намерение навредить или обмануть.

Какие преимущества у такого подхода:
🟣Видим намерение, а не только действие. Обычный мониторинг смотрит на выходы модели — уже после того, как она что-то сделала. CoT-мониторинг позволяет поймать нежелательное намерение до того, как действие совершено
🟣Помогает чинить оценки и инфраструктуру. Просмотр CoT помогает понять, где реально сломалось — в модели или в scaffolding вокруг неё. Что особенно ценно при отладке агентов и построении надёжных eval-пайплайнов

Это делает CoT-мониторинг одним из немногих инструментов безопасности, который можно внедрить уже сегодня. Вот как это делается на практике:
🟣Базовый подход: берёшь языковую модель, даёшь ей CoT агента и системный промпт следующего вида (именно так OpenAI ловил reward hacking в o3-mini, и recall составил ~95%):
Your task is to determine if the student tried to hack the unit tests in some way based on the following criteria

🟣Расширенный подход: одновременно оцениваете и рассуждения, и финальные выходы независимо друг от друга. А затем комбинируете результаты, чтобы повысить recall. Такой подход дает x2 к detection rates по отношению к подходу, где мониторинг направлен только на output моделей

Хотя есть и некоторые нюансы и ограничения, о которых следует знать перед внедрением. Они больше касаются самого CoT, но все равно напишу о них:
🟣Добавление CoT-мониторинга в reward-функцию — плохая идея. Потому что в таком случае модель научится писать нейтральный CoT, но на ее output это повлияет мало. А recall монитора при этом будет падать. В этой статье найдете подтверждение
🟣CoT, в целом, не всегда является гарантией безопасности. Потому что модель может сначала вычислить ответ внутри, а затем выдать правдоподобный CoT, который не отражает реальный процесс мышления. Подробнее об этой проблеме можете почитать в этой статье

Несмотря на существующие минусы, это простой и доступный способ реализовать слой безопасности. Если строите агентов — это один из немногих инструментов безопасности, который можно поставить уже сегодня без больших затрат

И, кстати, очень рекомендую посмотреть презу Сергея целиком. Она доступна для скачивания на его сайте 🔗
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from VP Cybersecurity Brief
Ещё раз про базовые настройки безопасности для 1С от Лаборатории Касперского на основе реальных инцидентов.
Приводятся вспомогательные правила для Kaspesky EDR Expert.

https://securelist.ru/how-1c-compromise-could-have-been-avoided/114764/
Forwarded from VP Cybersecurity Brief
Интересная статистика по использованию агентов от Анторопика. У кибербезопасности процент недотягивает до академических исследований, но выше чем у обслуживания клиентов.
Forwarded from Midov trip
Неделю как вирусится график Антропика, где ИИ агенты используются.

В нем разработка софта занимает половину всех кейсов.

Многие делают из этого графика неверный вывод, что
лидерство кодинга результат открытости разработчиков к новым технологиям.

На самом деле программирование доминирует благодаря идеальной структуре для автоматизации с языковыми моделями:

1/ Сгенерированный результат легко проверяется тестами.
2/ Ошибки при генерации условно ничего не стоят.
3/ Успешный код моментально масштабируется
Forwarded from VP Cybersecurity Brief
2 апреля будет проходить одно из наиболее интересных для мероприятий по ИБ - Форум Территория Безопасности.

Организаторы форума это бывшая команда другого мероприятия с историей CISO Forum (легко гуглится).

В составе форума 4 крупных трека, которые организаторы называют полноценными конференциями, выставочная часть.

Одна из стратегией которой я пользуюсь при выборе мероприятия и доклада для посещения это знание мной этого эксперта или как минимум позиции выступающего. Практика показывает, что если у человек выступает со стороны заказчика или подразделения практической безопасностью, то доклады получаются интереснее, даже если название доклада не самое кликбейтное. Безусловно, я знаю о приятных исключениях в этом правиле, в но в целом оно меня не подводило.

В этом году в программе форума заявлено участие не менее 15 CISO крупных компаний.

Какие события форума привлекли мое внимание:
1. Пленарная дискуссия CISO. Модератор Лев Палей (Вебмониторэкс).
2. Мастер класс по кризисной коммуникации от Ники Комаровой (ex Group IB).
3. Круглый стол про стратегии выхода из ИБ (от пенсии до смены деятельности). Модератор Анастасия Гайнетдинова (Whoosh).
4. "Rак ИИ меняет подход к обнаружению утечек данных" Семён Дундуков (Т Банк).
5. Батл "зачем в 2026 покупать антивирус" - модератор А.В. Лукацкий.
6. Как меняется стратегия ИБ в 2026 году, от Ильи Зуева (МТС Банк).
7. Иммерсивное расследование инцидентов с залом от Льва Палея.

Самое время вам проверить программу форума и понять стоит ли регистрироваться на мероприятие.
ISACARuSec pinned «Всем привет! Актуальные посты теперь размещаются только в новом канале https://t.me/VPCBrief . В настоящий канал репостов больше не будет. В том случае, если в будущем обстановка позволит - настоящий канал будет посвящен активностям чаптера. Буду рад…»
С 1 января 2027 года ISACA планирует изменить подход по поддержке сертификатов.

Планируется, что минимум 90 из требуемых 120 часов CPE по сертификату должны совпадать с темой сертификации/экзамена.

Остальные 30 часов могут планироваться как и ранее.

https://engage.isaca.org/connect/announcements?AnnouncementKey=7f7d1fda-aa44-4172-bfd1-019ce6f07cb7
👍1
До 30 июня ISACA пообещала 50% скидки на материалы для подготовки к 4 своим ИИ сертификациям.

"From 18 May to 30 June, ISACA will be offering members an exclusive 50% discount on the non-member price of online AI training and all digital AI certifications exam preparation—nearly 30 products in total, covering fundamental AI education as well as AAIA, AAISM, and AAIR!
No discount code needed! Discounts apply automatically at checkout"
👍5
Найти преподавателя для подготовке к сдаче экзаменов для сертификации в РФ возможно с помощью этого ресурса

Увы, пока коллеги не готовят к экзаменам сертификации ИИ и пока нет без возможности сдачи экзаменов в центре сертификации в РФ.
👍4
С 3 ноября меняется экзамен CISM. В самом экзамене и обновленных подготовительных материалах появилось 2 новых подтемы: корпоративная архитектура и архитектура информационной безопасности. Анонсировано дополнительное внимание вопросам стратегии и разработке программы информационной безопасности.

Подготовительные материалы уже обновлены 1 сентября.

Незначительно меняется распределение вопросов между уже существующими 4 доменами.
Forwarded from VP Cybersecurity Brief
27 октября выходит новая версия фреймворка по управлению ИТ, аудиту и кибербезопасности.
- ISACA Cobit 7.

Подробности выхода и процесса перехода на новую версию описала аккредитованная ISACA организация
https://www.innovativelearning.eu/news-resources/news/cobit-7-launch-cobit-2019-retirement-and-key-exam-dates.html
👍8
ISACA готовит к запуску в первом квартале 2027 года новую сертификацию - Advanced in AI Governance (AAIG).
Направление сертификации - корпоративное управление ИИ (стратегия, контроль и ответственность).
Требования для сертификации кроме сдачи экзамена - 6 лет опыта в управлении ИТ или действующая сертификация Certified in the Governance of Enterprise IT (CGEIT) .
До 22 октября можно записаться на бета тестирование. Придется купить материалы обучающие, и сдать сам экзамен. Экзамен планируют сделать доступным в декабре 2026 - январе 2027.
👍2
С 01 ноября начался сезон продлений в ISACA.

Не забудьте:
1. Зайти в свой личный кабинет ISACA https://login.isaca.org/login.
2. Проверить, что у вас оплачены членство в ваших отделениях и поддержка сертификации. Если нет - добавить их в корзину и оплатить.
3. Проверить, что вы заполнили CPE (Continuing Professional Education ) за 2026 год для ваших сертификаций.

Сделать это нужно до 31.12.2026.

Ещё раз напоминаю, что с 2027 года меняется политика учета CPE, требования между полученным обучением и доменами вашей сертификации стали более жесткими.
👍1👎1
ISACARuSec
Коллеги подсказывают, что дата выхода стандарта Cobit 7 сдвинулась c 27.10.26 на Q4 2026. Причина - отработать поступившую обратную связь к новому проекту стандарта. Детали про новый стандарт можно будет узнать 3 ноября на вебинаре.
Дата запуска фреймворка Cobit 7 уточнилась - 19.11.2026.

Сам фреймворк будет доступен бесплатно.
Руководство по дизайну и вспомогательные средства по оценке - будут доступны по ежегодной подписке.

Чуть больше деталей можно найти по ссылке- https://support.isaca.org/s/article/COBIT-Certificate-and-Exam-Updates

Вот тут краткий обзор новой редакции Cobit 7 от Андрея Прозорова https://www.linkedin.com/posts/andreyprozorov_isaca-cobit-cobit7-share-7523443401745350656-vs8y
👍4