Давненько у меня не было 🔥

Если раньше софт был неповоротливый и большой типа Enterprise BI - SAP Business Objects, который при обновлении может сломаться, если например интернет отвалится во время установки. У меня было такой случай https://t.me/rockyourdata/4385 и там же я описал про Looker, который я тоже сломал.

Вчера я решил попробовать что-то новое. У нас есть GCP Kubernetes engine, и с помощью helm charts там задеплоено вообще все. В моем случае у нас был очень интересный кейс использования Airbyte backend базы данных. Исторически эта база данных использовалась как часть хранилища данных. Удобно же, Airbyte читает данные из Amplitude и пишет сама в себя, и потом с помощью Trino мы можешь кверить данные. Но не тут-то было, одна из таблиц этой внутренней базы данных содержит все пароли в открытом доступе и доступна через BI слой (metabase).

Если вы не знаете, что такое Airbyte - то это набор конвекторов, например извлечь данные из SalesForce и загрузить в хранилище данных. Платный аналог Fivetran, бесплатный Metabase. Такие экстракторы необходимы, если вы работаете с dbt.

В общем очевидно, что надо фиксить пароли, и решение было добавить Google Cloud Secrets, чтобы туда сохранялись все пароли, согласно документации.

У нас есть staging среда, которая уже давно сломана. Сам я пока не очень с helm charts, вроде бы идея простая, это просто YAML файлы, которые описывают Kubernetes, но выполняются они через Ansible. Ох уж эти DevOps штуки и Open Source, каждый раз, как в первый класс.

В общем по классике, часов в 11 вечера, перед сном, я решил попробовать первый раз что-нибудь сделать с Airbyte Staging, но случайно выполнил команды, которая просто деплоит helm charts для Production.

Это чудо, начало скачивать обновления, новую версию Airbyte, новую версию helm charts, и все это деплоить, а там наверно 6 разных контейнеров с Airbyte сервисам. Ну и конечно все упало. Очевидно, что это проблема, потому что мы же используем Airbyte db как хранилище данных для важной отчетности, и реплицируем данные, которые тоже важны для отчетности.

В итоге до 2х ночи с помощью ChatGPT4o я изучал Airbyte, Helm Charts, GCP Kubernetes Engine. И действительно, выучил много, больше, чем за последние 4 месяца.

Проблем было много:
- Часть проблем решил, откатив helm chart Revision к последней успешной

- Потом оказалось, что Airbyte используют параметры в ConfigMap и Secrets, которые не хранятся в helm-charts, и были прописаны вручную и при обновлении заменены.

Изначальные параметры и их значения пропали, и вообще он почему-то хотел S3 параметры, а не GCP. Методом научного тыка, с помощью CLI “kubectl” я смог с 40го раза подобрать нужную конфигурацию параметров и все Pods запустились

- Даже смог залогиниться, но внутри ничего не работало. Оказалось, что это чудо при обновлении еще стал писать в backend базу данных (GCP CloudSQL) и последний штрих был откатить базу, но это уже kudos моему коллеге на Филиппинах, у него как раз был день. Узнал я про это утром, хотя когда шел спать, уже ментально был готов закончить работу в этой компании🙃 А утром оказалось, что все работает. Значит еще не время.

В общем, такой вот вечер из жизни дата инженера. Я думаю многим вообще не понятно, про что я пишу. Если честно, мне самому не очень понятно. В этом и заключается работа инженера, чтобы разобраться, сломать, починить. Желательно знать еще best practices.

Тем не менее получен ценный опыт, еще одна история про продакш. Можно наверно, сказать - “если я ломаю продакшн, значит я живу работаю”.

Теперь очевидные вещи:
- всегда делайте back up
- не делайте update критических вещей вечером
- оцените риски, вы готовы потерять работу? (Это конечно крайне сложно, обычно это норм - ломать, чинить, учится. Но если вас хотят скинуть или посадить на PIP, то самое то)
- лучше делать такие вещи вместе с коллегой, у кого есть опыт в этом
- неплохо бы попрактиковаться на “кошках”, у меня так и лежат в закладках курсы по Kubernetes + ansible + helm charts, я даже в самолет себе загрузил на прошлой неделе, но смотрел сериал Fallout в итоге😝

В этом году не получилось на конференцию по Snowflake:(

Не получится набрать стикеров, футболок, бутылок и другого хлама (за счет VC и инвестиций в data стартапы), но зато все самое интересное все будут постить, а я буду репостить! 👙

Сегодня познакомился с новым термином - HIFI. Можно было сделать интерактив и оставить место для вашей фантазии в комментариях. Но, не буду, сразу расскажу, что к чему, можете добавить в резюме, рядом с CICD, HELM, K8S, DBT.

Нет, это не группа из нашего детства (а кто еще наверно даже не родился).

HIFIs — high-income, financially insecure people — are another dimension of the economic experience, joining the diverse ranks of DINKs, HENRYs, and ALICEs.

Так, еще больше сокращений. Давайте их тоже посмотрим:

DINK - a dual-income couple with no kids.

Так это не про меня…

HENRYs — high earners, not rich yet, a term first coined over 20 years ago by Fortune's Shawn Tully. They might someday own the assets to make them millionaires, but for now, they're just raking in plump paychecks.

Так, уже ближе. Я же “почти” мульти миллионер со своими ипотеками в одном из самых дорогих городов мира (пока со знаком минус, но если взять модуль от ипотек, будет солидно).

ALICEs — or Asset Limited, Income Constrained, Employed — is a term coined by United Way's United For ALICE program to describe Americans who work and make more than the Federal Poverty Level for a family of four of $31,200, or $15,060 for an individual, but who struggle to pay for basic needs.

Ну тут уже получается мы все немного ALICE. Мне кажется если вы employed (не путать с over-employed), то вы точно ограничены и живете от зарплаты до зарплаты, и далее следует большой список базовых нужд, high cost of living, и тп.

Хорошо, давайте вернемся к термину - HIFI - я уверен, что большинство людей в ИТ сфере более менее зарабатывают хорошо. Хорошо это конечно относительно, например зп 100т в год (6т в месяц на руки в Канаде) - это ОЧЕНЬ хорошая зарплата для Канады, если вы не в ИТ. А вот для ИТ это лишь половинка от хорошей зарплаты в 200т. Значит, вы что-то делаете не так или работаете не там. Это не значит, что всем платят 200т, это значит что есть перспектива зарабатывать от 200т до 300т, работая на одной работе, обладая нужной компетенцией. (В штатах там всякие FAANG платят по 500к-600к, как вы знаете🤱)

В целом не важно, сколько вы зарабатываете. Обычно, чем больше вы зарабатываете, тем больше вы тратите. Ведь нужно себя награждать за труды. И получается, чем больше зарабатываете, тем более вы insecure.

Вообще, согласно статье все проблемы связаны с вашими дорогими покупками

Inflation and the rising cost of living in the US are partially to blame for HIFIs' precarious financial situation. Inflation rates are double what they were 10 years ago, according to the Bureau of Labor Statistics. The consumer price index for US cities, which assesses the cost of living, rose by about 8% in the past 10 years.

Короче, (у нас в Ванкувере уже дело к ночи), постарайтесь своими дорогими покупками не раздувать инфляцию, вкладывайтесь в Surfalytics свои знания и навыки и покупайте только те вещи, от которых вас реально прет.

PS как у вас с расходами, вы можете их контролировать, или по классике “авось пронесет”🫣

PPS у меня есть идеальный пример товарища, который точно не HIFI. Я уже писал про Никиту, кто был бизнес аналитиком в Ванкувере с зп 93 на руки и крутыми навыками Excel (до Surfalytics), через месяцев 5, он стал Sr Data Analyst и работал с Snowflake, dbt, Sigma, Fivetran, еще через почти 6-8 месяцев его total comp составляет 270к🔥Ради такого я даже добавил новые tires в Club500, теперь у нас есть club 200-300-400-500. Самое интересно, что Никита продолжает жить на тебе 93к в год и это идеальный пример, когда у вас растет доход, нужно постараться оставить расходы прежними. Есть и противоположные примеры и магазинами Cartier, Rolex, новыми машинами.