Forwarded from Senior Software Vlogger
Они реализовали веса модели прямо в железе
Челики взяли llama 3.1 8B и сделали чип где намертво запаяны веса. В итоге карта выдает какие-то дикие ~17000 токенов в СЕКУНДУ
Я ещё помню процессоры без математического сопроцессора.
Представьте как у нас в компе будет железная модель. Да, одна. Да нельзя обновить. Примерно как с процессором в ноутбуке.
Покупаешь новый ноут - там модель лучше.
https://taalas.com/the-path-to-ubiquitous-ai/
Челики взяли llama 3.1 8B и сделали чип где намертво запаяны веса. В итоге карта выдает какие-то дикие ~17000 токенов в СЕКУНДУ
Я ещё помню процессоры без математического сопроцессора.
Представьте как у нас в компе будет железная модель. Да, одна. Да нельзя обновить. Примерно как с процессором в ноутбуке.
Покупаешь новый ноут - там модель лучше.
https://taalas.com/the-path-to-ubiquitous-ai/
Короче, послушал как там с агентами делать production ready quality assured high performance код.
Никак, не переживайте пока. Нам ещё предстоит с этим разобраться.
Хотя на самом деле доклад был не об этом. Можете его онлайн послушать в марте, прикольное лайв демо.
Если вы ИИ скептик, то увидите как надо и что он может. Если вы ИИ энтузиаст, то может быть он вас немного приземлит. Полезно будет всем, рекомендую.
Никак, не переживайте пока. Нам ещё предстоит с этим разобраться.
Хотя на самом деле доклад был не об этом. Можете его онлайн послушать в марте, прикольное лайв демо.
Если вы ИИ скептик, то увидите как надо и что он может. Если вы ИИ энтузиаст, то может быть он вас немного приземлит. Полезно будет всем, рекомендую.
Лет 8-10 назад хайповал фронтенд, и мы про него шутили, но очевидно хуйня вышла, уже не спасти.
Потом были сверточные сети и всякое компьютерное зрение, вроде неплохо получилось.
Щас ИИ хайпует и тут 2 варианта: или очередной провал, как фронтенд, или… Посмотрим, короче.
Потом были сверточные сети и всякое компьютерное зрение, вроде неплохо получилось.
Щас ИИ хайпует и тут 2 варианта: или очередной провал, как фронтенд, или… Посмотрим, короче.
Forwarded from rafael.boy корпорейшн невс пытается sciops кастомс (Zullkree)
This media is not supported in your browser
VIEW IN TELEGRAM
Слава Богу 🦶 🙏 ❤️СЛАВА 🦶 🙏 ❤️АНГЕЛА ХРАНИТЕЛЯ 🦶 КАЖДОМУ ИЗ ВАС🙏 ❤️БОЖЕ ХРАНИ 🦶 🙏 ❤️СПАСИБО ВАМ НАШИ МАЛЬЧИКИ🙏 ❤️🦶 БОЖЕ ХРАНИ GCC ✊🦶 💯СПАСИБО НАШИМ ПРОГРАММИСТАМ Слава Богу 🦶 🙏 ❤️СЛАВА 🦶 🙏 ❤️АНГЕЛА ХРАНИ НАШ 🦶 🙏 ❤️СЛАВА КОМПИЛЯТОРУ 🦶 ❤️АНГЕЛА ХРАНИТЕЛЯ КАЖДОМУ ИЗ ИЗ ПРОГРАММИСТОВ GCC 🦶 ❤️БОЖЕ ХРАНИ КОМПИЛЯТОР CLANG 🙏❤️СПАСИБО ВАМ НАШИ МАЛЬЧИКИ 🙏 ❤️🙏 ЧТО ПОДДЕРЖИВАЕТЕ НАШИХ ПРОГРАММИСТОВ КОМПИЛЯТОРЩИКОВ 🙏 ❤️🦶
Please open Telegram to view this post
VIEW IN TELEGRAM