Лучшие менеджерские поактики по безопасности ИИ от регуляторов США, Великобритании и Австралии.
Предварительный анализ говорит скорее в пользу этого документа, чем Governance checklist OWASP.
https://media.defense.gov/2025/May/22/2003720601/-1/-1/0/CSI_AI_DATA_SECURITY.PDF
Предварительный анализ говорит скорее в пользу этого документа, чем Governance checklist OWASP.
https://media.defense.gov/2025/May/22/2003720601/-1/-1/0/CSI_AI_DATA_SECURITY.PDF
Рекомендации скорее в целом про оценку влияния ИИ на людей и организации. Есть пара отсылок на ИБ.
Forwarded from AISecHub
ISO/IEC 42005:2025 has been formally published! ISO 42005 provides guidance for organizations conducting AI system impact assessments.
Establishing a process and performing an AI system impact assessment is integral for organizations looking to pursue ISO 42001 certification. More importantly, the AI impact assessment allows organizations to identify high risk AI systems and determine any potential impact to individuals, groups, or societies as it relates to fairness, safety, and transparency. - https://www.iso.org/standard/44545.html
Establishing a process and performing an AI system impact assessment is integral for organizations looking to pursue ISO 42001 certification. More importantly, the AI impact assessment allows organizations to identify high risk AI systems and determine any potential impact to individuals, groups, or societies as it relates to fairness, safety, and transparency. - https://www.iso.org/standard/44545.html
ISO
ISO/IEC 42005:2025
Information technology — Artificial intelligence (AI) — AI system impact assessment
Forwarded from RED BLUE Machines | ИИ и безопасность
В Майкрософте отредтимили 100 аи-содержащих продуктов и вот что поняли:
* Нужно понимать тестируемую систему и контекст её использования
* Необязательно использовать сложные методы для тестирования (промт инжиниринга иногда достаточно)
* AI red teaming ≠ Safety Benchmarking (редтиминг должен выявлять новые категории угроз, которые невозможно учесть стандартными метриками безопасности)
* Стоит автоматизировать редтиминг, чтобы охватить больше рисков
* Роль человека остается ключевой
* LLM усиливают существующие риски и создают новые
* Безопасность ИИ-систем никогда не будет до конца обеспечена
+ рассматривают в качестве примеров отдельные кейсы
Не то чтобы статья-откровение, но если прям очень далеки, то стоит посмотреть
Lessons From Red Teaming 100 Generative AI Products
https://arxiv.org/abs/2501.07238
* Нужно понимать тестируемую систему и контекст её использования
* Необязательно использовать сложные методы для тестирования (промт инжиниринга иногда достаточно)
* AI red teaming ≠ Safety Benchmarking (редтиминг должен выявлять новые категории угроз, которые невозможно учесть стандартными метриками безопасности)
* Стоит автоматизировать редтиминг, чтобы охватить больше рисков
* Роль человека остается ключевой
* LLM усиливают существующие риски и создают новые
* Безопасность ИИ-систем никогда не будет до конца обеспечена
+ рассматривают в качестве примеров отдельные кейсы
Не то чтобы статья-откровение, но если прям очень далеки, то стоит посмотреть
Lessons From Red Teaming 100 Generative AI Products
https://arxiv.org/abs/2501.07238
arXiv.org
Lessons From Red Teaming 100 Generative AI Products
In recent years, AI red teaming has emerged as a practice for probing the safety and security of generative AI systems. Due to the nascency of the field, there are many open questions about how...
👍2
Переход на постквантовую криптографию для менеджера ИБ
https://pqcc.org/post-quantum-cryptography-migration-roadmap/
https://pqcc.org/post-quantum-cryptography-migration-roadmap/
Forwarded from Ассоциация ФинТех
Практический_гайд_по_созданию_ИИ_агентов.pdf
41.1 MB
Сбер представил гайд по созданию ИИ-агентов для бизнеса.
На конференции ЦИПР старший вице-президент, руководитель блока «Технологическое развитие» Сбербанка Андрей Белевцев представил практический гайд по созданию ИИ-агентов — автономных систем, которые самостоятельно выполняют различные задачи с помощью генеративного искусственного интеллекта, пишет Лента.ру.
Сообщается, что данное руководство будет полезно ИТ-специалистам, архитекторам, участникам команды разработки, которые хотят разобраться в ключевых аспектах построения и внедрения мультиагентных систем в условиях реальной корпоративной среды.
На конференции ЦИПР старший вице-президент, руководитель блока «Технологическое развитие» Сбербанка Андрей Белевцев представил практический гайд по созданию ИИ-агентов — автономных систем, которые самостоятельно выполняют различные задачи с помощью генеративного искусственного интеллекта, пишет Лента.ру.
Сообщается, что данное руководство будет полезно ИТ-специалистам, архитекторам, участникам команды разработки, которые хотят разобраться в ключевых аспектах построения и внедрения мультиагентных систем в условиях реальной корпоративной среды.
👍4
Анализ инцидентов в облаках CSA и рекомендуемые меры митигации.
https://cloudsecurityalliance.org/artifacts/top-threats-to-cloud-computing-2025
https://cloudsecurityalliance.org/artifacts/top-threats-to-cloud-computing-2025
cloudsecurityalliance.org
Top Threats 2025 | 8 Real-World Cybersecurity Breaches | CSA
Use CSA’s Top Threats report to reflect on recent cybersecurity breaches, including the Snowflake data breach, CrowdStrike outage, & Microsoft breach 2024.
https://cyber-ed.ru/start-karery-v-blue-team
Новый бесплатный курс для защитников.
К концу года коллеги возможно выпустят бесплатный курс по реверсу.
Новый бесплатный курс для защитников.
К концу года коллеги возможно выпустят бесплатный курс по реверсу.
CyberED
Специалист по противодействию кибератакам
На бесплатном курсе вы узнаете: с чего начинается информационная безопасность, как выстраивать защиту компьютерных систем, данных и сетей.
Рекомендую к просмотру слайды с конференции по безопасности контейнеров БеКон. Позже обещали выложить презентации и на сам сайт конференции. @bekon_conf (в канале конференции есть ещё презентации)
Forwarded from Конференция БеКон
Неочевидные_и_непонятные_моменты_безопасности_Kubernetes_Дмитрий.pdf
2.5 MB
Дмитрий Евдокимов переходит к своему докладу: "Неочевидные и непонятные моменты безопасности Kubernetes".
👍1👎1
https://csrc.nist.gov/pubs/cswp/45/metrics-and-methodology-for-hardware-security-cons/final
Небольшой документ от NIST по безопасности оборудования.
Небольшой документ от NIST по безопасности оборудования.
CSRC | NIST
Metrics and Methodology for Hardware Security Constructs
Although hardware is commonly believed to be security-resilient, it is often susceptible to vulnerabilities that arise from design and implementation flaws. These flaws can jeopardize the hardware’s security, its operations, and critical user information.…