Инжиниринг Данных
22.4K subscribers
1.68K photos
49 videos
177 files
2.98K links
Делюсь новостями из мира аналитики и карьерными советами;)

15 лет в Аналитике и Инжиниринге Данных, 9 лет в FAANG

🛠️ dataengineer.ru

🏄‍♂️ Surfalytics.com

№5017813306

Реклама:
https://almond-rule-130.notion.site/1199f595f76a8030ba1be1e607c9a8ce
Download Telegram
Вопросы к стриму
Live stream finished (1 hour)
Запись трансляции
🧠 dbt: С ЧЕГО НАЧАТЬ? | Вебинар с Дмитрием Аношиным 🚀
Live stream scheduled for
Всем доброе утро! Мы начинаю 2ю часть!
Live stream finished (1 hour)
Запись стрима
Forwarded from Roman Ponomarev
Media is too big
VIEW IN TELEGRAM
Если вы делали проект в vk cloud, не забудьте удалить БД, а то она будет кушать кредиты
А кто не смог оффлайн, будет онлайн, но нужно зарегестрироваться, чтобы ссылку на стрим прислали.
Очень хорошо прошло утро понедельника в Т-Банк! Шикарная организация, вкусный завтрак и теплая компания! Спасибо всем, кто смог прийти или подключиться онлайн.

Вот, что у меня есть из материалов:
1. Моя презентация - Примеры аналитических решений и команд из реальных проектов
2. Все презентации.
3. Запись на YouTube и VK
4. Космический фотоотчет от профессионального фотографа Екатерины Советкиной, можете себя найти!

PS Долетел до Ванкувера без задержек.
Dbt labs купили SDF стартап.

SDF — это высокопроизводительный набор инструментов для разработки на SQL, объединённый в одну CLI. Он включает в себя мультидиалектный SQL-компилятор, систему типов, фреймворк для трансформаций, линтер и сервер языка. Написанный на Rust, он обладает высокой степенью параллелизации и рассчитан на масштабирование.

Этот набор инструментов основан на передовых разработках в понимании SQL. SDF представляет каждый SQL-диалект (Snowflake, Redshift, BigQuery и др.) как полную ANTLR-грамматику с определениями всех типов данных, правил приведения, функций, тонкостей областей видимости и многого другого.

В отличие от исторического подхода dbt (где SQL воспринимался как строки текста), SDF видит объекты, типы, синтаксис и семантику.

Точно так же, как виртуальные машины (VMs) эмулируют физическое оборудование, SDF эмулирует SQL-компиляторы, нативные для используемых вами платформ данных.


SDF основанная дуэтом отец/сын (Лукас и Вольфрам Шульте, CEO и CTO соответственно) и с основной командой исследователей баз данных из Microsoft Research, Meta и других организаций, компания включает в себя одних из самых квалифицированных специалистов на планете для решения задачи надежного и масштабируемого понимания SQL.

Почему это важно:

1. dbt исторически рассматривал SQL как текстовые строки с некоторым Jinja-шаблонированием. SDF (SQL Development Framework) приносит настоящую поддержку SQL — парсинг, системы типов и семантический анализ для различных диалектов.

2. Практическое влияние огромное: примерно в 100 раз быстрее компиляция, поддержка IDE и детализированная lineage без подключения к вашему хранилищу данных.

3. Самое интересное, SDF эмулирует компиляторы SQL нативно, так что может обнаруживать ошибки на этапе разработки, а не во время выполнения.

Это действительно полезная покупка, так как одна из главных задач dbt это генерация (compile) SQL запросов.

Для бесплатной версии dbt core пока ничего нового.
Media is too big
VIEW IN TELEGRAM
Личный пример использования VSCode + Claude. Нашел плагин для VSCode - Cline (раньше назывался Claude Dev). Он позволяет открыть окно чата. Ему нужен ключ API от Claude.

У меня была простая и скучная задача - для поля type сделать CASE WHEN для 40+ сценариев. Я скопировал исходный код из приложения, показал пример в prompt и плагин сразу обновил мой файл с dbt моделью, даже написал сколько это стоило.
Каникулы закончились, самое время пойти учиться!

Совет: лучше тратить деньги работодателя на курсы, чем свои. Но выхлопа за свои всегда больше! 👌
Please open Telegram to view this post
VIEW IN TELEGRAM