В России начали появляться первые персональные истории, а теперь ещё и громкие увольнения в ИИ-компаниях, которые звучат как предупреждение.

Из Google DeepMind ушёл специалист по безопасности ИИ Билал Чугтаи. Его позиция предельно жёсткая:
он считает, что искусственный интеллект при нынешней траектории развития реально способен привести к гибели всего человечества, и что «время, чтобы избежать этого исхода, может заканчиваться».

Ключевые мысли Чугтаи:
- ИИ уже не просто игрушка или инструмент, а технология с потенциально экзистенциальным риском.
- Проблема не в самом факте развития ИИ, а в гонке между крупнейшими компаниями: кто быстрее, кто мощнее, кто запустит следующую модель.
- Без жёсткой координации (по сути, международного регулирования и договорённостей между игроками) эта гонка становится маниакальной и толкает индустрию к игнорированию рисков.
- Тем не менее он подчёркивает: безопасное развитие ИИ возможно, но только если установить реальные ограничения, прозрачность и общие правила игры.

Подобные заявления изнутри крупных ИИ-лабораторий важны не из-за драматичности формулировок, а потому что отражают растущий раскол:
между теми, кто видит в ИИ в основном инструмент/рынок/технологию,
и теми, кто воспринимает его как потенциальную угрозу цивилизационного уровня.

#ИИ #безопасность #GoogleDeepMind #экзистенциальныйриск #нейросети