Ivan Begtin
9.1K subscribers
2.72K photos
5 videos
116 files
5.6K links
I write about Open Data, Data Engineering, Government, Privacy, Digital Preservation and etc.

CTO&Founder of Dateno https://dateno.io

Telegram @ibegtin
Facebook - https://facebook.com/ibegtin
Email ivan@begtin.tech

Ads/promotion agent: @k0shk
Download Telegram
В рубрике как это устроено у них ITStats отраслевая система статистики Республики Корея. Включает множество показателей по доходам, объёмам рынков, занятости, дефиците кадров, экспорте товаров и услуг и многое другое в привязке именно к ИТ рынку. Существует только на корейском языке (но это легко преодолевается расширениями для перевода для браузеров). Внутри работает на базе статистической платформы KOSIS на которой работает и национальная система показателей Южной Кореи.

#statistics #southkorea #datacatalogs
👍5
Написал в рассылку на Substack текст Про рынки и биржи данных будет полезным для всех кто думает про маркетплейсы данных так или иначе.

Краткий вывод - лучше много раз подумать, потому что бизнес модели, кроме некоторых случаев, вызывают большие сомнения. Совсем подробный и длинный текст будет как-нибудь в другой раз, а пока обзорный для тех кто об этом думает.

#data #datacatalogs
👍3
🔻 Каталоги данных Всемирной организации здравоохранения

У WHO нет одного «главного открытого портала». Это целое семейство каталогов: глобальные индикаторы, микроданные обследований, региональные хабы, карты и реестр клинических исследований. Все перечисленные ниже — открытый доступ.

Глобальная статистика

📊 WHO Data — основной публичный портал индикаторов. Заменил старый интерфейс Global Health Observatory как главную точку входа: здоровье 194 стран-членов, ЦУР, эпидемии, системы здравоохранения. Есть API. https://data.who.int

📈 Global Health Observatory (GHO) — классический репозиторий: больше 1000 индикаторов по смертности, бремени болезней, питанию детей, иммунизации, ВИЧ, туберкулёзу, малярии, НИЗ, экологии и неравенству. https://www.who.int/data/gho/data/indicators

🪦 WHO Mortality Database — смертность по стране, году, полу, возрасту и причине смерти. Источник — национальные системы гражданской регистрации; это отдельный продукт, не дубль GHO. https://platform.who.int/mortality

Микроданные обследований

🏥 WHO Health Information Systems Data Catalog — каталог обследований систем здравоохранения по странам (платформа NADA): домохозяйства, индивиды, метаданные и файлы. apps.who.int/healthinfo/systems/surveydata/index.php/catalog

🚬 WHO NCD Microdata Repository — микроданные по неинфекционным заболеваниям: STEPS, GATS (табак), GSHS и GYTS (школьники) из стран по всему миру. https://extranet.who.int/ncdsmicrodata

🏨 Health Facility Assessment Archive — архив оценок медучреждений: HHFA, SARA и SAM. Метаданные опросов, отчёты, вопросники и сопутствующие материалы (десятки стран). https://data-archive.hhfa.online

Региональные хабы

🇪🇺 European Health Information Gateway — данные Европейского региона WHO: демография, состояние здоровья, факторы риска, ресурсы и расходы здравоохранения. Семейство баз Health for All, профили стран, выгрузка таблиц. https://gateway.euro.who.int/en/datasets/

🌍 Regional Health Data Hub (RDHUB) — «центр медицинской разведки» Африканского региона: 47 стран, индикаторы, датасеты и дашборды по приоритетным болезням, иммунизации, материнскому здоровью, устойчивости к антибиотикам и системам здравоохранения. Портал на CKAN, есть API. https://data.afro.who.int/

🌎 PAHO/EIH Open Data — открытые данные Панамериканской организации здравоохранения (региональный офис WHO для Америк): больше 140 базовых индикаторов здоровья, дашборды и выгрузка CSV. https://opendata.paho.org/en

🦠 PAHO COVID-19 Response Hub — эпидемиологические данные COVID-19 по странам и территориям Америк: случаи, смертность, вакцинация, COVAX, ситуационные отчёты. Карты и таблицы, обновление по мере поступления национальных данных. https://paho-covid19-response-who.hub.arcgis.com/
Карты и исследования

🗺 WHO ArcGIS Server — картографические сервисы общественного здравоохранения: слои и REST API для карт WHO. https://extranet.who.int/map/rest/services

🔬 ICTRP Search Portal — единая точка поиска по клиническим исследованиям: идущие и завершённые испытания из сети регистров WHO, с привязкой к исходным записям. https://trialsearch.who.int/

🧪 Exposome Explorer (IARC) — база МАИР, агентства WHO по изучению рака: биомаркеры воздействия факторов окружающей среды, связанных с риском заболеваний. http://exposome-explorer.iarc.fr/

Если нужен один старт — WHO Data. Если погружение в сырые обследования — три NADA-каталога. Если страна в Европе, Африке или Америках — сразу в региональный хаб.

#opendata #WHO #statistics #datacatalogs
Please open Telegram to view this post
VIEW IN TELEGRAM
❤‍🔥6✍3🔥3
В рубрике как это устроено у них Rwanda Data Sharing Platform платформа обмена данными Руанды, де-факто портал открытых данных страны. Содержит 265 наборов данных, в первую очередь статистических показателей и микроданных. Имеет весьма продуманный интерфейс с документированными схемами данных, прегенрированным кодом Python, Curl, JS и тд. для выгрузки данных, возможностью их предпросмотра, подробным описанием и так далее.

Из минусов:
- сейчас данные только одного ведомства, статслужбы, видимо оно функциональный заказчик у непосредственного заказчика разработки RISA - агентства информационного общества страны
- портал адаптирован под отображение табличных данных и там сейчас только плоские таблицы.

Видно что его заказывали статистики, он построен полностью вокруг таблиц и, тоже, по модели что один набор данных = один файл = одна таблица. Архитектурно - это ошибка, но если там будет только статистика то это допустимо. И это точно удобнее чем извлекать данных с сайта их статслужбы где, конечно, есть Excel файлы, но API завсегда удобнее когда актуально и обновляется.

Справочно: Руанда быстро развивающаяся восточноафриканская страна с 14 миллионами населения и 16 миллиардами USD ВВП.

#opendata #datacatalogs #rwanda #statistics
👍4✍1🔥1
🇬🇪 Открытые данные Грузии: где искать?

Разбираем экосистему грузинских каталогов данных — от национального портала до городских карт.

Вот главные источники:
📊 Data.gov.ge — национальный портал открытых данных Официальный портал, запущенный в рамках инициативы Open Government Partnership. Ведёт Агентство цифрового управления при Минюсте. Наборы данных госорганов, интерфейсы на грузинском и английском. 🔗 data.gov.ge
📈 GEOSTAT Data Catalog — статистика Грузии Официальная база Национального статистического управления (Geostat) на платформе PxWeb. Демография, экономика, сельское хозяйство, экология — многомерные таблицы с открытым API (PxWeb API). 🔗 https://pc-axis.geostat.ge/PXWeb/pxweb/ka/Database
🗺 NSDI.gov.ge — национальный геопортал Геопортал национальной инфраструктуры пространственных данных от Национального агентства публичного реестра (NAPR). Поиск, просмотр и скачивание геоданных, каталог метаданных. А рядом — интерактивная кадастровая карта maps.gov.ge с участками, адресами и ортофото.
🌲 Forest & Land Use Atlas — atlas.mepa.gov.ge Атлас лесов и землепользования Министерства экологии и сельского хозяйства на ArcGIS Hub.
🔬 OpenScience.ge — научный репозиторий Цифровой репозиторий грузинских научных работ (DSpace-CRIS) Национальной научной библиотеки: статьи, диссертации, научная продукция. Есть API и OAI-PMH.

💰 Тематические порталы:
▫️ opendata.spa.ge — госзакупки в формате Open Contracting Data Standard
▫️ sdg.gov.ge — мониторинг Целей устойчивого развития
▫️ budgetmonitor.ge — бюджетный монитор Счётной палаты

🏘 Городские геопорталы:
▫️ Тбилиси — архитектурная карта мэрии (mgis.tbilisi.gov.ge)
▫️ Батуми — карта аварийных зданий (maps.batumi.gov.ge)
▫️ Кутаиси — геопортал мэрии (map.kutaisi.gov.ge)

📉 Бонус:
Caucasus Barometer (caucasusbarometer.org) — ежегодные данные социологических опросов по Кавказу от CRRC.

#opendata #georgia #datacatalogs #data #datasets
👍4🔥2✍1
Forwarded from Open Data Armenia
🇦🇲 Каталоги данных Армении: где искать цифры, карты и микроданные

У Армении нет официального государственного open data-портала. Зато есть сильная официальная статистика, живой гражданский CKAN и довольно зрелая геоинфраструктура. Ниже — что реально работает и куда идти в первую очередь.

📊 Официальная статистика — главная опора
Ядро публикует Statistical Committee (Armstat). Это классический «скандинавский» стек, а не витрина PDF.
• ArmStatBank — национальный банк таблиц на PxWeb: население, экономика, сельское хозяйство, транспорт, экология. Есть API (EN/HY).
 https://statbank.armstat.am
• SDG Armenia — национальный OpenSDG. 306 индикаторов ЦУР, 85% уже выложены онлайн (261 из 306). Слабое место — цель 14 «жизнь под водой»: онлайн только 31%.
 https://sdg.armstat.am
• NSDP — страница макропоказателей по стандарту МВФ SDDS, с выгрузками SDMX.
 https://armstat.am/nsdp/
• ArmStat Microdata Library — 26 исследований в NADA: переписи, ILCS (условия жизни домохозяйств), DHS, сельхозперепись 2014, AGRIS. Часть файлов открыта, часть — по запросу или на внешних площадках вроде DHS Program.
 https://microdata.armstat.am
Отдельно — статистика Центрального банка: денежный рынок, финансы, макроряды. https://www.cba.am/en/statistics

📂 Открытые данные: гражданский каталог вместо госпортала
Р
оль национального каталога фактически играет команда Open Data Armenia.
• data.opendata.am — CKAN, 823 набора. Агрегирует госданные, науку и НКО: 8 организаций, крупнейший паблишер — сама Open Data Armenia (404 датасета), далее WorldPop, REC Caucasus, горная сеть Caucasus. Есть полноценный CKAN API.
 https://data.opendata.am

Рядом — прикладные источники, которых нет в «красивом каталоге»:
• ARMEPS — электронные закупки Минфина. В публичных отчётах — Excel по процедурам, заявкам и контрактам.
 https://armeps.am
• AirQuality.am — гражданский портал качества воздуха: PM1/PM2.5/PM10, температура и влажность, в том числе сенсоры мэрии Еревана. Есть JSON API и массовые выгрузки.
 https://airquality.am
• Armhydromet — гидрометеоцентр Минприроды: наблюдения сети станций, месячные данные, годовые сводки.
 https://meteomonitoring.am

🗺 Геоданные: кадастр, Севан, леса, недра
З
десь картина богаче, чем у многих соседей.
• Национальный геопортал (Комитет кадастра) — кадастр, адреса, ортофото, границы, рельеф, гидрография, транспорт. Это официальный NSDI-узел страны.
 https://geoportal.am
• EcoPortal Минприроды — слои по озеру Севан, гидрографии, землепокрову и климатическим рискам. Публикуется через GeoServer WMS.
 https://ecoportal.am
• Forest Atlas — интерактивный лесной атлас (MapBuilder Global Forest Watch), лицензия CC BY 4.0.
 https://forestatlas.am
• Геологический фонд — месторождения, паспорта шахт, лицензии на недра, интерактивная карта.
 https://www.geo-fund.am
• GIS Еревана — муниципальный ArcGIS Enterprise.
 https://gis.yerevan.am/portal
• Ecosystem Accounting of Armenia — NextGIS-каталог Центра сохранения биоразнообразия: землепокров, экосистемные услуги, слои InVEST.
 https://bccarmenia.nextgis.com

🔬 Наука
•
 ArVO / Бюракан — виртуальная обсерватория: оцифрованные пластины First Byurakan Survey и спектры, доступ через IVOA TAP.
 http://arvo-registry.sci.am/
• ArmLifeBank — биомедицина Института молекулярной биологии НАН: геномика, транскриптомика, клинические и мультиомные наборы на FAIRDOM-SEEK.
 https://armlifebank.am/
• OpenAIRE NOAD — цифровая библиотека Института проблем информатики НАН, OAI-PMH.
 https://noad.sci.am

⚠️ Что важно понимать
Госпортала открытых данных нет. Если нужен «единый вход» — это CKAN сообщества, а не data.gov.am.
Лучший официальный слой — Armstat + кадастр + Минприроды, не министерские витрины.

#opendata #armenia #datacatalogs #datasets
🔥4❤2✍1
FAIRDOM-SEEK: каталоги научных данных, моделей и протоколов

FAIRDOM-SEEK — открытая платформа для описания, публикации и связывания научных активов: датасетов, моделей, SOP и вычислительных пайплайнов. Под капотом ISA-структура (investigation → study → assay), JSON API, DOI и форматы вроде RO-Crate. Сайт проекта: https://seek4science.org
Флагман сообщества — FAIRDOMHub: публичный хаб системной биологии, который ведут консорциум FAIRDOM и ELIXIR Germany. https://fairdomhub.org/

Рядом стоят специализированные инстансы того же стека:
• WorkflowHub — реестр вычислительных workflows (CWL и не только)
 https://workflowhub.eu/
• DataHub (ELIXIR Belgium) — метаданные экспериментов и брокеринг в репозитории EBI
 https://datahub.elixir-belgium.org/
• IBISBA Knowledge Hub — промышленная биотехнология
 https://hub.ibisba.eu/
• LiSyM SEEK — системы медицины печени
 https://seek.lisym.org/
• Leipzig Health Atlas — модели и клинические данные Лейпцига
 https://www.health-atlas.de/
• ArmLifeBank — биомедицинские данные Армении (геномика, клиника, мультиомика)
 https://armlifebank.am/

Отдельный пласт — Local Data Hub консорциума NFDI4Health: локальные SEEK-каталоги клиник и исследовательских центров Германии. Метаданные исследований можно публиковать в центральный Health Study Hub, а сами данные остаются у держателя.

Сейчас в этой сети, помимо Leipzig Health Atlas и MeDIZ.Rostock, открыты хабы:
• Stroke Unit Köln — https://ldh.stroke-koeln.imise.uni-leipzig.de/
 • UK Erlangen — https://ldh.uker.imise.uni-leipzig.de/
 • ZKS Leipzig — https://ldh.zks.uni-leipzig.de/
 • DZKJ Göttingen — https://ldh-dzkj.vm.gwdguser.de/
 • IMISE / Leipzig University — https://ldh.imise.uni-leipzig.de/
 • UK Schleswig-Holstein — https://ldh.uksh.imise.uni-leipzig.de/
 • UK Würzburg — https://ldh.uk-wuerzburg.imise.uni-leipzig.de/
 • DIZ Greifswald — https://ldh.diz-umg.imise.uni-leipzig.de/
 • LIR Mainz — https://ldh.lir-mainz.imise.uni-leipzig.de/
 • DRFZ Berlin — https://ldh.drfz.imise.uni-leipzig.de/
 • ZKS Freiburg — https://ldh.zks-freiburg.imise.uni-leipzig.de/
 • ZKS Hannover (MHH) — https://ldh.zks-mhh.imise.uni-leipzig.de/
 • ZKS Witten/Herdecke — https://ldh.zks-uwh.imise.uni-leipzig.de/
 • MeDIZ.Rostock — https://ldh.mediz-rostock.imise.uni-leipzig.de/

Итого: один общий движок и очень разные роли — от общеевропейского реестра workflows до клинических LDH, где публикуют не столько сырые персональные данные, сколько FAIR-метаданные исследований, протоколы и связанные файлы.

#opendata #researchdata #datasets #datacatalogs
✍2⚡1👍1🔥1
В рубрике как это устроено у них открытые данные города Sieam Reap в Камбоджа. Наборов данных там немного, всего 7 штук и это статистические данные которые ещё и отображаются в виде интерактивных визуализаций. Сайт позиционируется как портал данных умного города, каталог данных весьма экзотичен, отображает данные в виде таблиц и поддерживает экспорт в Excel формат. Плюс часть данных представлены в разделе карт, но без экспорта данных из слоев, но их можно скачать через недокументированное API.

И никаких упоминаний об условиях использования данных. В целом ничего невероятного, как пример портала данных можно рассматривать его скорее как делать не надо, но знать про него полезно. Что-то для пользователей может быть и полезно, например, визуализация.

#opendata #cambodia #datasets #datacatalogs
💯1
В реестре каталогов данных Dateno, с которым я вожусь вот уже долгое время, больше всего порталов с геоданными. Что, в общем-то, только подтверждает тезис о том что геоданные в мире повсюду, что их больше всего количественно, хотя объёмно среди них велики только данные спутниковых снимков.

К этому можно добавить и огромное разнообразие продуктов на которых геопорталы создаются. Некоторые из них, созданные на базе Geonetwork, GeoNode, ArcGIS Hub - это полноценные каталоги данных имеющие все необходимые характеристики такого каталога: наличие возможности выгрузки, документиированное API, определенные лицензии на использование и поддержку стандартов DCAT, Schema.org и других.

Другие геопорталы - это множество продуктов большого числа вендоров, часто охватывающих от нескольких до сотен геопорталов местного значения. Например, e-mapa.net в Польше, охватывающий более сотни муниципалитетов.

Сейчас в реестре 248 программных продуктов используемых для геопорталов, значительная часть из которых - это SaaS продукты, особенно для муниципалитетов у которых мало ресурсов на развертывание собственных инсталляций.

Надо сказать что всё это на фоне того что в мире геоданных безусловным лидером является Esri с их облачными продуктами ArcGIS, как корпоративными, так и ArcGIS Hub, который позиционируется не совсем как только про геоданные, но и про любые данные в принципе (хотя для остальных типов данных используется он нечасто).

Параллельно существует очень много ПО с открытым кодом для геопорталов, обычно реализующее OGC интерфейсы. Если Вы выбираете ПО для геопортала то в реестре есть отдельный раздел с описанием каждого и файл выгрузки software.jsonl в котором все они собраны. По моим наблюдениям, в 99% случаев можно воспользоваться GeoNode и Geonetwork, но есть и другие варианты.

Скорее всего число видов ПО для каталогов данных будет расти, потому что чем дальше тем больше находится самых разных продуктов.

#opendata #geodata #datacatalogs #dateno
❤3✍3🔥2❤‍🔥1
Какие данные по странам существуют в почти реальном времени? В Кении местное космическое агентство публикует данные погодных наблюдений через публичный экземпляр визуализации данных на базе Grafana который отображает на карте и в графиках данные с погодных станций по стране.

Тут надо отменить что Grafana - это продукт по визуализации данных с открытым кодом экземпляры которого редко публично и чаще используются для внутренних задач по отображению данных, например, ИТ инфраструктуры.

Но иногда его используют и для отображения данных публичных. Ещё один пример, это Saskatchewan Electricity Mix общественный проект собирающий ежесуточно данные с сайта компании SaskPower канадской провинции Саскачеван.

Таких примеров немного и вообще ежесуточных и более частотных данных не так много доступно, особенно по развивающимся странам.

#opendata #dataviz #statistics #data #datacatalogs
✍6👍1
🇷🇺 Новые российские геопорталы в реестре: сентябрь 2026

За последние две недели в dataportals-registry добавлено 45 геопорталов из России — от спутниковых архивов ScanEx до районных карт Москвы. Это продолжение обзора от 9 сентября: здесь только то, что ещё не попадало в канал.

🛰 Семейство «Космоснимки» (ScanEx, платформа GeoMixer)
• Космоснимки — главный геопортал платформы: мозаики снимков, базовые карты, тематические слои и JS/REST API, на котором построены десятки сторонних карт. https://www.kosmosnimki.ru
• Каталоги ДЗЗ — поиск по архивам сверхвысокого разрешения: GeoEye, Ikonos, QuickBird, WorldView-1/2, Eros-A/B. Контуры сцен, метаданные съёмки, заказ онлайн. https://search.kosmosnimki.ru
• Kosmosnimki Fires — оперативный спутниковый мониторинг пожаров: термоточки, гари и пожарная погода почти в реальном времени. https://fires.ru
• WarFly — волонтёрская карта немецкой аэрофотосъёмки 1939–1945 гг. (оригиналы — в Национальном архиве США): привязанные кадры и каталог по городам. http://warfly.ru

🌲 Природа и ООПТ
• ГИС ООПТ РФ (проект huntmap.ru) — границы нацпарков, заповедников и заказников федерального и регионального значения. https://оопт.рф
• Центрально-Лесной заповедник — пожарный мониторинг, ветровалы, фотоловушки, зимние маршрутные учёты. https://cfnr.nextgis.com
• ГИС ИФМ СО РАН — леса Бурятии и Прибайкалья: дистанционное зондирование, ООПТ, данные для PolInSAR-исследований высоты леса. https://forest03.nextgis.com

🏙 Города
• Магнитогорск — InGeo-Web: генплан, ПЗЗ, участки, адреса, ортофото. https://gisportal.magnitogorsk.ru
• Иркутск — муниципальный геопортал с каталогом слоёв и ситуационной картой. https://map.admirk.ru
• Нижний Новгород — генплан, адресный план, топосъёмка, рекламные конструкции. http://geonn.grad-nn.ru
• Волгоград — картографический фонд: ПЗЗ, дороги, благоустройство, инвестплощадки, избирательные округа. https://volgmap.ru
• 3D Сургут — город на Cesium: рельеф, здания, участки, зонирование. https://maps3d.admsurgut.ru/map/
• ГИСОГД Мегиона и ГИСОГД Ленинградской области — градостроительные документы и слои. https://gisapps.admmegion.ru/pzz https://gisogd.lenobl.ru
• Москва, районный уровень — сразу 12 геопорталов на ActiveMap GIS (geofsm.ru): префектуры ВАО и СВАО, «Жилищники» Басманного, Аэропорта, Бибирева, Зюзино, Коптево, Котловки, Черёмушек, Дмитровского и Пресненского районов.

🛣 Дороги
• РОСДОРНИИ, Дальневосточный филиал (Хабаровск) — паспорта и диагностика дорог на платформе IndorRoad. https://gisdvrosdornii.ru
• Владупрадор — дороги Владимирской области, тот же стек. https://gis.corp.uprdor33.ru
• ГлавТатДорТранс — дорожная сеть Татарстана. https://gds.geofsm.ru
• VAD — геопортал дорожно-строительной компании на QGIS Web Client: геология, рельеф, инженерные сети. https://vadgis.ru

🗺 Ещё интересное
•
 RuMap — открытая карта России и СНГ от «Геоцентр-Консалтинг»: геокодер, маршруты, пробки, изохроны, импорт GeoJSON и Shapefile. https://rumap.ru
• МИС УЗОР — муниципальные слои Дубны и Костромы на GIS WebServer SE, открытые WMS/WFS. https://web.gisuzor.ru
• Гипрониигаз ZuluGIS Online — карты газораспределения: Новосибирская область, Тында. https://zulu.niigaz.ru/ZuluWeb/
• Инвесткарты: Амурская область и Забайкальский край — площадки, индустриальные парки, ТОР, недра. https://investmap.amurobl.ru https://www.zab-investportal.ru/ru/invest-map/
• Верхневолжье и Верхнее Подвинье в XVI–XVII вв. — историческая ГИС: Бежецкая пятина, Бельский уезд. https://belaya.nextgis.com
Заметное разнообразие платформ: GeoMixer, ActiveMap GIS, InGeo-Web, GIS WebServer SE, ZuluGIS, IndorRoad, Geometa, QGIS Web Client, Cesium, NextGIS.

Полный список — в реестре: github.com/commondataio/dataportals-registry (country=RU, type=Geoportal).

#geoportals #opendata #russia #datacatalogs
❤6⚡3✍3🔥3
На сайте экосистемы CKAN опубликовали дашборд с каталогом инсталляций CKAN в мире там есть 732 каталога данных, их текущий статус (живые или нет), версии и так далее.

Для тех кто не знает, CKAN - это один из наиболее популярных продуктов с открытым кодом для создания порталов открытых данных.

С одной стороны полезный список, а с другой...

Я довольно таки зол на сообщество и ребят которые этим занимаются потому что я постоянно тыкаю их носом в то что в реестре порталов данных Dateno есть информация о 2021 каталоге данных на базе CKAN и это почти в 3 раза больше чем то что ребята перечисляют на сайте экосистемы.

Но повторно использовать чужие наработки им не хочется, даже если они сильно более полные и под свободными лицензиями. Очень странные люди.

#opendata #datacatalogs
💯5
В рубрике как это устроено у них NeTEx стандарт Евросоюза по публикации данных о транспорте, расписании и инфраструре. Публикуется в таких каталогах данных как Open Data Portal for Belgian Public Transport наряду с данными в формате GTFS и другими. А также используемый в системах автоматизированного управления транспортом в Евросоюзе наряду со многими другими стандартами.

#opendata #eu #transport #datacatalogs #standards
✍3👍1🔥1
Каталоги данных о мобильности

В реестре dataportals-registry европейская тема Transport стоит у 2337 активных каталогов: 1537 геопорталов и 641 портал открытых данных. Большая часть - общие витрины, где дороги, остановки или ДТП оказываются одним из разделов.

Отдельный слой - специализированные каталоги mobility: национальные точки доступа, порталы операторов и глобальные сборники фидов. География темы перекошена в сторону США: 692 записи, в основном ArcGIS-хабы дорожных ведомств штатов.

Европейские точки доступа

National Access Point по директиве ITS в реестре делится на два типа данных.

Дорога и трафик, обычно DATEX II: немецкая Mobilithek, датский Dataudveksleren, финский каталог Digitraffic, испанский NAP DGT, хорватский promet-info.hr, словенский nap.si, румынский pna.cestrin.ro, бельгийский transportdata.be, кипрский traffic4cyprus.org.cy, чешский registr.dopravniinfo.cz, голландский NTM, норвежский Transportportal, шведский trafficdata.se, греческий data.nap.gov.gr.

Расписания и мультимодальные поездки, обычно NeTEx, GTFS и SIRI: французский transport.data.gouv.fr, австрийский mobilitydata.gv.at, испанский nap.transportes.gob.es (второй NAP Испании, рядом с DGT), финский FINAP, итальянский каталог CCISS, португальский nap-portugal.imt-ip.pt, латвийский transportdata.gov.lv.

Такая точка доступа публикует метаданные и адрес фида производителя. Сам файл часто лежит у оператора.

Операторы и города

Швейцария: федеральная платформа data.opentransportdata.swiss (CKAN, GTFS и realtime), отдельно SBB и женевский TPG.

Франция: Île-de-France Mobilités и API-портал PRIM, RATP, SNCF, сеть STAR в Ренне, каталог Navitia.

Германия: 10 марта 2024 Deutsche Bahn закрыла свой CKAN. Наборы переехали в Mobilithek, GovData и Open Data ÖPNV. API расписаний, станций и GBFS остались на developers.deutschebahn.com. Рядом земельная MobiData BW и портал RNV.

Дальше по карте: BKK в Будапеште (GTFS и GTFS-Realtime), японский ODPT, тайваньский TDX как национальный API-хаб, Transport for NSW и Transport Victoria, голландские данные RDW (транспортные средства и парковки), лиссабонские EMEL и геопортал TML, боготинская Secretaría de Movilidad, мадридский CRTM. Ирландский NTA вынес GTFS и realtime в портал разработчика: developer.nationaltransport.ie.

В российской части реестра отдельно стоит GeoServer «Московского транспорта»: transport.mos.ru/geoserver. Это публикация геослоёв WMS/WFS.

Мир и агрегаторы

Mobility Database — глобальный каталог GTFS, GTFS-Realtime и GBFS от MobilityData, со скачиваемым sources.csv.

Transport Data Commons — коалиционный CKAN по транспорту. Витрина OpenDataSoft: transport.opendatasoft.com. Digital Transport for Africa — GitLab-инвентарь городских GTFS для Африки и Латинской Америки. TUMI Data Hub собирает данные городской мобильности. Mobito — коммерческая витрина: каталог открыт без входа, покупка данных идёт через аккаунт.

Рядом исследовательские каталоги: немецкий FID move и Urban Mobility Observatory TU Delft. Статистика, а не фиды: корейская KTDB, американские data.transportation.gov и data.bts.gov.

Как собирать

Расписания ищите в NeTEx или GTFS у точки доступа и у оператора. Пробки и дорожные работы - в DATEX II у дорожного NAP. Шеринг - в GBFS. Один и тот же фид часто числится в национальном каталоге, у перевозчика и в агрегаторе: сверяйте канонический URL источника.

#opendata #transport #datacatalogs
⚡4❤4👍3✍2
Молдова: каталоги данных

В реестре 31 каталог по Молдове, 30 из них действуют. Четыре типа: открытые данные, геопорталы, статистические индикаторы и научные репозитории.

Открытые данные (6)

Правительственный портал открытых данных - https://dataset.gov.md, на CKAN. Второй CKAN ведёт Агентство электронного управления: https://dataset.live.egov.md.

Тематические витрины:
- госзакупки MTender в формате OCDS: https://mtender.gov.md
-внешняя помощь, платформа AMP: https://amp.gov.md/portal/
реестры интеллектуальной собственности AGEPI (патенты,
- товарные знаки, промышленные образцы): https://db.agepi.md
официальный монитор: https://monitorul.gov.md/

Геоданные (12)

Ядро национальной инфраструктуры пространственных данных у Агентства геодезии, картографии и кадастра:
- геопортал GEODATA (MapStore): https://www.geodata.gov.md
- каталог метаданных (GeoNetwork): https://geoportalinds.gov.md/geonetwork/
- GeoServer НИПД: https://geodata.gov.md/geoserver

ГИС местного уровня SIGSNL - https://sigsnl.gov.md, тоже MapStore и отдельный GeoServer.

Отраслевые и городские сервисы:
- интерактивная карта дорог https://harta.asd.md/ и GeoServer
- Национальной администрации дорог https://data.asd.md/geoserver
- кадастр недвижимости: https://map.cadastru.md/geoserver
- государственный водный кадастр: https://csa.gov.md/
слои архитектуры и землеустройства Кишинёва (ArcGIS): https://portal.dgaurf.md/arcgis/rest/services
- коммерческий GeoServer Royal Map: https://data.iharta.md/geoserver

Сервер Службы публичных экологических данных http://oikumena.md в реестре неактивен: хост больше не открывается.

Статистика (4)

Национальное бюро статистики ведёт банк таблиц Statbank на
PxWeb - https://statbank.statistica.md: ряды, выгрузки и API к каждой таблице. Индикаторы ЦУР выложены на

OpenSDG: https://statisticamd.github.io/sdg-site-moldova/.

Страница NSDP по стандарту распространения данных МВФ: http://www.statistica.md/SDDS/NSDP/.

Национальный банк публикует денежную, финансовую и макростатистику в генераторе отчётов: https://www.bnm.md/bdi/?lang=en

Наука (9)

Все девять записей - институциональные репозитории на DSpace.

Национальный уровень: библиотечное дело и информационные науки (Национальная библиотека, http://moldlis.bnrm.md) и экономические исследования Национального института экономических исследований (https://rses.ince.md).

Кишинёв:
- Молдавский госуниверситет - https://msuir.usm.md
- Технический университет - https://repository.utm.md
- Университет медицины и фармации им. Тестемицану - https://repository.usmf.md
- Академия экономических знаний (IREK) - https://irek.ase.md/xmlui
- Педуниверситет им. Крянгэ - https://dir.upsc.md
- Академия музыки, театра и изобразительных искусств - https://repository.amtap.md

Бельцы: архив госуниверситета им. Алеку Руссо - http://dspace.usarb.md:8080/xmlui

Коротко по ландшафту. Статистика и карты держатся на двух опорах - НБС и агентстве геодезии. Открытые данные разложены по нескольким порталам: общий CKAN, закупки, помощь доноров, интеллектуальная собственность. Научные материалы живут в вузовских DSpace: у каждого учреждения свой архив публикаций и диссертаций.

#opendata #moldova #eu #datacatalogs #datasets
🔥4✍2👍1
В рубрике интересных каталогов данных SciOp каталог наборов данных и веб архивов собранных из исчезающих ресурсов, многие уже исчезнувшие. В отличие от других каталогов данных распространяются все датасеты там через торрент сервер, при этом данные большого объёма, могут достигать сотен гигабайт и десятков терабайт.

#opendata #digitalpreservation #webarchives #datacatalogs
✍5⚡1
Каталоги данных Ирана

Картина короткая. Национальный портал открытых данных есть, статистика живёт на сайтах Центра статистики и Центробанка, пространственные данные разложены по GeoServer, GeoNode и муниципальным ArcGIS. Почти всё на фарси.

Открытые данные

Национальный портал - data.gov.ir. Это CKAN Организации информационных технологий Ирана: единая витрина наборов госорганов, с открытым CKAN API.

Рядом независимый Iran Open Data - гражданский каталог официальных, международных и неофициальных рядов по экономике, обществу и энергетике, на фарси и английском. Бесплатный уровень узкий (ограниченные просмотры и скачивания). Полные выгрузки - по подписке, а платный доступ из Ирана закрыт из-за санкционных ограничений платёжных сервисов.

Отдельная полка - Peykaregan, DKAN Центра компьютерных исследований исламских наук (Noor). В каталоге заявлено 127 корпусов и NLP-наборов по персидскому языку, есть data.json.

Статистика

База Центра статистики Ирана - официальные показатели по темам и периодам, ежегодник выходит с 1345 года по солнечной хиджре. Фарси и английский, машиночитаемого API нет.

Статистика Центрального банка - денежно-кредитные, банковские и макроэкономические ряды. Тоже таблицы на сайте, без API.

Геоданные

Национальная инфраструктура пространственных данных - GeoServer Национального картографического центра: WMS, WFS и WCS.

Дальше отраслевые и коммерческие серверы: • пригодность земель, Институт исследований почв и вод - nlss.ir, ArcGIS Server • кадастр и участки Zamin Tarsim - ztclock.ir • тайлы справочника Behtarino - maps.behtarino.com, MapTiler

Провинциальные ИПД на GeoNode, с каталогом CSW: • Курдистан - sdi.kmporg.ir • Зенджан - zanjansdi.ir • Йезд - sdi.yazdmporg.ir

Городские ГИС: • Казвин - map137.qazvin.ir • Илам - 137.ilam.ir • Фалаварджан (Исфахан), включая реестр уличных деревьев - tree.falavarjan.ir • Кередж - map.karaj.ir, веб-карта районов и городских объектов, без API

Наука

Единственный научный репозиторий - IPT узла OBIS по Персидскому заливу и Оманскому заливу при Национальном институте океанографии и атмосферных наук: PEGO-OBIS. Морские находки, публикация в GBIF.

Пробелы

Каталогов микроданных, моделей машинного обучения и маркетплейсов в реестре нет. Английский есть у Центра статистики, Центробанка, Iran Open Data и морского IPT. Статистика отдаётся таблицами, а не API. Пространственный слой заметно гуще, чем слой открытых данных.
—
Этот и все страновые обзоры на основе реестра каталогов данных Dateno.

#opendata #datacatalogs #dateno #iran
❤3🔥3👍2⚡1✍1
Распределение геопорталов по популярности по странам

Одна картинка лучше тысячи слов ()

Больше всего в мире геопорталов на базе ArcGIS Server и ArcGIS Hub, но если смотреть по конкретным странам то картина меняется и в большинстве стран лидируют собственные вендоры ГИС систем, в некоторых странах SaaS платформы охватывает все [или почти все] муниципальные образования.

Заодно это о том что существующие поисковики вроде GeoSeer или Spatineo охватывающие только OGC и ArcGIS эндпоинты полной картины не дают потому что большая часть геокаталогов и геопорталов не поддерживают, и то, и то. В лучшем случае они покрывают 50% всех геоданных. Dateno пока тоже охватывает далеко не всё, но есть к чему стремиться.

#opendata #geodata #datasets #datacatalogs #dateno
🔥3✍1❤1👍1
🤖 Где искать датасеты для ИИ в России: обзор каталогов

Подборка российских каталогов данных для машинного обучения - от государственных реестров до исследовательских коллекций. Сохраняйте, пригодится 👇

🏛 Реестр наборов данных и моделей ИИ - registry.cit.gov.ru/datasets Официальный государственный реестр: датасеты и модели ИИ с описательными метаданными. Первый пункт, если нужны данные с госучастием.

🏙 Moscow AI Datasets - ai.mos.ru/datasets Анонимизированные данные Москвы для обучения моделей: мобильность населения, путевые листы ЖКХ, заявки на нестационарную торговлю.
Каталог открытый, есть сэмплы для скачивания.

🔬 Yandex Research Datasets - research.yandex.com/datasets Исследовательские датасеты Яндекса: бенчмарки для графового ML (GraphLand, гетерофильные графы), табличный ML с временным дрейфом (TabReD), данные для ранжирования. Золото для исследователей.

🎬 MSU Datasets Collection - videoprocessing.ai/datasets Коллекция лаборатории графики и медиа МГУ: базы качества видео с субъективными оценками (SAVAM, MSU CVQAD), артефакты JPEG AI, стерео-датасеты. Стандарт де-факто для бенчмарков видеокодеков.

🫁 MosMedData - mosmed.ai/datasets Аксиальные КТ-снимки грудной клетки (в том числе COVID-19), большинство случаев - с сериями срезов. Один из самых известных медицинских датасетов из России.

🏥 Medical Data Hub - medicaldatahub.ru/datasets Каталог медицинских данных для ML - дополнение к MosMed для тех, кто строит модели в медицине.

🔎 Бонус-трек - не совсем ML, но полезно:
▫️ OpenUrbanData (openurbandata.ru) - поисковик по источникам данных для городских исследований
▫️ DetCorpus (detcorpus.ru) - корпус русской детективной литературы для NLP-экспериментов
▫️ RusPsyData (ruspsydata.figshare.com) - данные и инструменты психологических исследований

#opendata #russia #ai #ml #datasets #datacatalogs
❤5✍2👍2🔥1
🌐 Национальные каталоги данных для машинного обучения

Пока все смотрят на Hugging Face, государства строят собственные платформы с датасетами для ИИ. Собрал самые значимые - все они есть в нашем реестре dataportals-registry (43 000+ каталогов данных со всего мира).

🇰🇷 Южная Корея - AI Hub
aihub.or.kr
Крупнейшая государственная платформа ИИ-данных: тысячи датасетов на корейском языке - речь, текст, компьютерное зрение. Оператор - агентство NIA при министерстве науки и ИКТ.

🇮🇳 Индия - AIKosh
aikosh.indiaai.gov.in
Репозиторий миссии IndiaAI (министерство электроники и IT): более 12 000 наборов данных, моделей и кейсов для разработки ИИ.

🇪🇺 Евросоюз - AI-on-Demand
catalogue.aiodp.eu
Единый каталог ИИ-активов Европы в рамках платформы AI4Europe: датасеты, библиотеки, инструменты и контейнеры.

🇺🇸 США - NAIRR Pilot
nairrpilot.org
Пилот Национального ресурса ИИ-исследований под руководством NSF: проверенные датасеты, предобученные модели и инструменты для исследований и образования.

🇯🇵 Япония - NICT AI Data Testbed
ai-data.nict.go.jp
Каталог национального института NICT: речь и язык, био- и нейроданные, атмосфера, космическая погода, кибербезопасность.

🇨🇳 Китай - BAAI Data Platform
data.baai.ac.cn
Платформа Пекинской академии ИИ с большими корпусами для обучения LLM. Рядом - целая экосистема: OpenDataLab, Tianchi, ModelScope.

🇷🇺 Россия - Реестр наборов данных и моделей ИИ
registry.cit.gov.ru/datasets
Публичный реестр датасетов для машинного обучения и моделей ИИ от ФГАУ «Цифровые индустриальные технологии».

Общее у всех: открытый доступ, государственная поддержка и ставка на данные для обучения моделей, а не просто «открытые данные для отчётности».

Полный список ML-каталогов (сегодня их 91) - в открытом реестре:
github.com/datenoio/dataportals-registry


#opendata #ai #ml #datacatalogs #datasets
✍5👍4❤2