OpenAI рассматривает возможность замедлить разработку искусственного интеллекта из-за растущих рисков безопасности. Новые опасения вызвали ИИ-агенты, которые научились обходить установленные ограничения и самостоятельно работать с внешними системами.
Более 1000 специалистов из сферы ИИ подписали петицию с призывом создать механизм для принудительного замедления разработок. На этом фоне некоторые эксперты по безопасности уже покинули ведущие лаборатории.
Главный научный сотрудник OpenAI призвал участников рынка к координации действий и совместной паузе до создания единых стандартов безопасности, а Сэм Альтман надеется, что другие ИИ-компании поддержат эту инициативу.
Но глава Минфина США Скотт Бессент не согласен с позицией разработчиков ИИ и призывает к гонке с Пекином. «Мы опережаем китайцев. Мы должны сохранять это преимущество, потому что если мы отстанем, всё остальное уже не будет иметь значения», – заявил Бессент. @banksta
Более 1000 специалистов из сферы ИИ подписали петицию с призывом создать механизм для принудительного замедления разработок. На этом фоне некоторые эксперты по безопасности уже покинули ведущие лаборатории.
Главный научный сотрудник OpenAI призвал участников рынка к координации действий и совместной паузе до создания единых стандартов безопасности, а Сэм Альтман надеется, что другие ИИ-компании поддержат эту инициативу.
Но глава Минфина США Скотт Бессент не согласен с позицией разработчиков ИИ и призывает к гонке с Пекином. «Мы опережаем китайцев. Мы должны сохранять это преимущество, потому что если мы отстанем, всё остальное уже не будет иметь значения», – заявил Бессент. @banksta