Нормализованные данные с портала открытых данных Москвы: различия между версиями

Материал из GIS-Lab
Перейти к навигации Перейти к поиску
Строка 96: Строка 96:
! | Оригинал
! | Оригинал
! | Данные
! | Данные
|-
|
| Все данные
| Все
|
|
|
|
| [http://gis-lab.info/data/mos.ru/csv.7z csv]
| [http://gis-lab.info/data/mos.ru/norm.7z csv_norm]<br>[http://gis-lab.info/data/mos.ru/shp.7z shp]<br>[http://gis-lab.info/data/mos.ru/osm.7z osm]
|-
|
|
|
|
|
|
|
|
|
|-
|-
| 493
| 493
Строка 1590: Строка 1610:
| [http://gis-lab.info/data/mos.ru/861.7z csv]
| [http://gis-lab.info/data/mos.ru/861.7z csv]
| [http://gis-lab.info/data/mos.ru/861_norm.7z csv_norm]<br>[http://gis-lab.info/data/mos.ru/861_shp.7z shp]<br>[http://gis-lab.info/data/mos.ru/861_osm.7z osm]
| [http://gis-lab.info/data/mos.ru/861_norm.7z csv_norm]<br>[http://gis-lab.info/data/mos.ru/861_shp.7z shp]<br>[http://gis-lab.info/data/mos.ru/861_osm.7z osm]
|-
| 914
| [http://data.mos.ru/datasets/914 Автодромы аттракционные]
| Отдых
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/914.7z csv]
| еще не импортирован<br><br>
|-
| 915
| [http://data.mos.ru/datasets/915 Автодромы детские учебные]
| Образование
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/915.7z csv]
| еще не импортирован<br><br>
|-
| 903
| [http://data.mos.ru/datasets/903 Автодромы спортивные]
| Физическая культура и спорт
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/903.7z csv]
| еще не импортирован<br><br>
|-
| 890
| [http://data.mos.ru/datasets/890 Бассейны плавательные крытые]
| Физическая культура и спорт
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/890.7z csv]
| еще не импортирован<br><br>
|-
| 894
| [http://data.mos.ru/datasets/894 Бассейны плавательные открытые]
| Физическая культура и спорт
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/894.7z csv]
| еще не импортирован<br><br>
|-
| 916
| [http://data.mos.ru/datasets/916 Велопарковки]
| Физическая культура и спорт
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/916.7z csv]
| еще не импортирован<br><br>
|-
| 911
| [http://data.mos.ru/datasets/911 Городки веревочные]
| Отдых
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/911.7z csv]
| еще не импортирован<br><br>
|-
| 896
| [http://data.mos.ru/datasets/896 Городки тренажерные (воркауты)]
| Физическая культура и спорт
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/896.7z csv]
| еще не импортирован<br><br>
|-
| 898
| [http://data.mos.ru/datasets/898 Городки тренажерные универсальные]
| Физическая культура и спорт
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/898.7z csv]
| еще не импортирован<br><br>
|-
| 901
| [http://data.mos.ru/datasets/901 Гребные базы и каналы]
| Физическая культура и спорт
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/901.7z csv]
| еще не импортирован<br><br>
|-
| 905
| [http://data.mos.ru/datasets/905 Детские развивающие центры]
| Образование
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/905.7z csv]
| еще не импортирован<br><br>
|-
| 899
| [http://data.mos.ru/datasets/899 Дорожки беговые-прогулочные]
| Физическая культура и спорт
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/899.7z csv]
| еще не импортирован<br><br>
|-
| 897
| [http://data.mos.ru/datasets/897 Дорожки велосипедные]
| Физическая культура и спорт
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/897.7z csv]
| еще не импортирован<br><br>
|-
| 919
| [http://data.mos.ru/datasets/919 Зоны отдыха у воды]
| Отдых
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/919.7z csv]
| еще не импортирован<br><br>
|-
| 906
| [http://data.mos.ru/datasets/906 Летние эстрады, сцены]
| Отдых
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/906.7z csv]
| еще не импортирован<br><br>
|-
| 907
| [http://data.mos.ru/datasets/907 Лодочные станции]
| Отдых
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/907.7z csv]
| еще не импортирован<br><br>
|-
| 909
| [http://data.mos.ru/datasets/909 Места для летнего купания]
| Отдых
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/909.7z csv]
| еще не импортирован<br><br>
|-
| 910
| [http://data.mos.ru/datasets/910 Мини-зоопарки]
| Отдых
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/910.7z csv]
| еще не импортирован<br><br>
|-
| 920
| [http://data.mos.ru/datasets/920 Пешеходные зоны]
| Улично-дорожная сеть
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/920.7z csv]
| еще не импортирован<br><br>
|-
| 904
| [http://data.mos.ru/datasets/904 Площадки детские игровые]
| Отдых
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/904.7z csv]
| еще не импортирован<br><br>
|-
| 917
| [http://data.mos.ru/datasets/917 Площадки для городошного спорта]
| Физическая культура и спорт
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/917.7z csv]
| еще не импортирован<br><br>
|-
| 913
| [http://data.mos.ru/datasets/913 Площадки для настольных игр]
| Отдых
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/913.7z csv]
| еще не импортирован<br><br>
|-
| 912
| [http://data.mos.ru/datasets/912 Площадки для пикника]
| Отдых
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/912.7z csv]
| еще не импортирован<br><br>
|-
| 884
| [http://data.mos.ru/datasets/884 Площадки для пляжных видов спорта]
| Физическая культура и спорт
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/884.7z csv]
| еще не импортирован<br><br>
|-
| 895
| [http://data.mos.ru/datasets/895 Площадки пейнтбольные]
| Физическая культура и спорт
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/895.7z csv]
| еще не импортирован<br><br>
|-
| 893
| [http://data.mos.ru/datasets/893 Площадки спортивные универсальные]
| Физическая культура и спорт
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/893.7z csv]
| еще не импортирован<br><br>
|-
| 883
| [http://data.mos.ru/datasets/883 Поля для гольфа]
| Физическая культура и спорт
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/883.7z csv]
| еще не импортирован<br><br>
|-
| 892
| [http://data.mos.ru/datasets/892 Поля для мини-гольфа]
| Физическая культура и спорт
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/892.7z csv]
| еще не импортирован<br><br>
|-
| 902
| [http://data.mos.ru/datasets/902 Поля конно-спортивные для конкура и выездки]
| Физическая культура и спорт
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/902.7z csv]
| еще не импортирован<br><br>
|-
| 885
| [http://data.mos.ru/datasets/885 Поля регбийные]
| Физическая культура и спорт
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/885.7z csv]
| еще не импортирован<br><br>
|-
| 886
| [http://data.mos.ru/datasets/886 Поля футбольные]
| Физическая культура и спорт
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/886.7z csv]
| еще не импортирован<br><br>
|-
| 887
| [http://data.mos.ru/datasets/887 Прокаты спортивного инвентаря (отдельностоящие)]
| Физическая культура и спорт
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/887.7z csv]
| еще не импортирован<br><br>
|-
| 908
| [http://data.mos.ru/datasets/908 Роллердромы, скейтпарки]
| Отдых
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/908.7z csv]
| еще не импортирован<br><br>
|-
| 900
| [http://data.mos.ru/datasets/900 Скалодромы]
| Физическая культура и спорт
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/900.7z csv]
| еще не импортирован<br><br>
|-
| 918
| [http://data.mos.ru/datasets/918 Станции проката велосипедов]
| Физическая культура и спорт
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/918.7z csv]
| еще не импортирован<br><br>
|-
| 888
| [http://data.mos.ru/datasets/888 Стрелковые тиры]
| Физическая культура и спорт
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/888.7z csv]
| еще не импортирован<br><br>
|-
| 889
| [http://data.mos.ru/datasets/889 Стрельбища]
| Физическая культура и спорт
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/889.7z csv]
| еще не импортирован<br><br>
|-
| 891
| [http://data.mos.ru/datasets/891 Теннисные корты]
| Физическая культура и спорт
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/891.7z csv]
| еще не импортирован<br><br>
|-
| 921
| [http://data.mos.ru/datasets/921 Гарантированный перечень услуг по погребению]
| Справочная информация
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/921.7z csv]
| еще не импортирован<br><br>
|-
| 941
| [http://data.mos.ru/datasets/941 Реестр контрольных мероприятий (по выявленным нарушениям)]
| Справочная информация
| X
| bgcolor="Yellow" | еще не импортирован
| да
| [http://gis-lab.info/data/mos.ru/941.7z csv]
| еще не импортирован<br><br>
|}
|}


Версия от 21:09, 31 июля 2013

Эта страница опубликована в основном списке статей сайта
по адресу http://gis-lab.info/qa/data-mos.html


Описание данных и копия данных в более удобном для ГИС формате

Источник данных: Портал открытых данных г. Москва http://data.mos.ru

Об исходных данных

Системы координат данных:

  • EPSG: 4326 (latlon/WGS84)
  • EPSG: 3857 (Web Mercator/WGS84)
  • Местная московская система координат (ПМСК 1, 2)

Формат данных: CSV
Кодировка: UTF-8
Формат хранения геометрий: WKT или пара полей с координатами.

Лицензия данных разрешает любое использование (включая коммерческое) при условии наличия ссылки на первоисточник. 

Условия использования набора данных не предполагают ограничений использования набора данных в некоммерческих и коммерческих целях.

Лицензия не указывает явным образом согласие с CT OpenStreetMap.

Сомнительные места организации исходных данных

Уровень проблемности этих пунктов разный. Некоторые из них не позволят даже начать работу с данными, многие улучшили бы данные, но не помешают их использовать специалисту. Пометка "-> исправлено" означает, что данная проблема исправлена в производной версии данных представленной в этом описании ниже.

  1. Служебная информация в названиях полей -> исправлено
  2. Исходные данные в системе координат: EPSG:3857 (плохая СК для распространения векторных данных) -> исправлено
  3. Исходные данные в системе координат: ПМСК (местная система координат г. Москвы) (ужасная СК для распространения векторных данных) -> исправлено
  4. Смешивание данных в разных системах координат в одних и тех же столбцах в одном наборе данных -> исправлено
  5. Непоследовательное применение WKT представлений координат, то используется, то не используется.
  6. Названия полей на кириллице (проблемы с конвертацией в ESRI Shape) -> исправлено
  7. Названия полей очень длинные (проблемы с конвертацией в ESRI Shape) -> исправлено
  8. Названия полей содержат спецсимволы (например "№", "/", "," - проблемы с конвертацией) -> исправлено
  9. Одни и те же названия полей то в кавычках, то без (просто некрасиво) -> исправлено
  10. Одни и те же названия полей то с пробелами, то с "_" вместо пробелов (просто некрасиво) -> исправлено
  11. Названия полей с опечатками (например "1_Дополнителтная информация", "0_Дифицит_профицит", просто некрасиво) -> исправлено
  12. Варианты в названиях полей обозначающие одно и тоже (например "0_POINT_X", "0_X", просто некрасиво) -> исправлено
  13. Отсутствуют вспомогательные файлы описания системы координат данных -> исправлено
  14. Отсутствуют файлы csvt (проблемы с конвертацией с распознаванием корректного типа значений) -> исправлено
  15. Отсутствуют файлы vrt (проблемы с немедленной подгрузкой данных в ГИС) -> исправлено
  16. Многочисленные неоправданные последовательности символов "пробел" в атрибутике -> исправлено
  17. Пустые поля. ";" в конце заголовка и ";" в конце каждой записи (пример: 619), иногда нерегулярно встречается "; " -> исправлено
  18. На данный момент (20130609) многие наборы данных, ранее имевшие геопривязку, ее потеряли - используйте архивные версии.
  19. Неоправданные разрывы строк в записях (например: 493.csv от 20130611, форум) -> исправлено

TODO

  • *.csvt файлы пока рассматривают все поля как тип String(255). Нужно пройтись по всем полям и выяснить их тип, добавив его в fields.csv
  • создать *.qml
  • сконвертировать все в GeoJSON
  • обновлять только обновившееся, дату можно взять из метаданных, (но вдруг нас обманут? :) либо побайтово сравнивать с пред.версией CSV

Актуальность производных данных и архив

Текущая версия данных расположенная здесь: 22 мая 2013.

Чтобы посмотреть архивную версию данных, возьмите ссылку из таблице ниже и добавьте дату в формате YYYYMMDD. Например:
Актуальная версия: 

 http://gis-lab.info/data/mos.ru/493_shp.7z

Архивная: 

 http://gis-lab.info/data/mos.ru/20130213/493_shp.7z

Доступны архивы за следующие числа:
20130213,20130222,20130503,20130522,20130611,20130626

Вы можете также воспользоваться специальным сервисом, который следит за обновлениями исходных данных на data.mos.ru и архивирует все версии. Пока этот сервис не занимается нормализацией данных. Планируется объединить эти два сервиса.

Что делать если в свежей версии поломаны данные?

ДИТ периодически "ломает" выкладываемые данные (см. перечень проблем выше). Возможно данные или геоданные не поломаны в архивной версии. Соответственно, чтобы восстановить данные, нужно взять их предыдущую версию. Для этого нужно:

  1. Выбрать одну из архивных версий выше, например 20130222.
  2. Определить старый номер набора данных (да, у ДИТа нестабильные номера наборов данных), посмотрев в файл _list.csv лежащий в папке архива. Если такого файла не, то нужно посмотреть список наборов по этой ссылке.
  3. Определить старый номер этого набора (если он изменился) и скачать соответствующий набор из папки архива.

Нормализованные данные

О нормализованных данных

Все данные - в UTF-8, геометрии - в EPSG:4326. Дополнительно 2 поля: LAT, LON содержащие координаты исходно хранящиеся в 3 разных системах (см. выше), приведенные в эту систему координат в преобразованных данных.

В таблице в поле Источник и Данные данные для скачивания:

  • csv - исходные данные 'как есть' на data.mos.ru.
  • csv-norm - данные в формате CSV, с нормализованными названиями полей, *.csvt, *.prj, *.vrt файлами.
  • shp - данные в формате ESRI Shape (максимальная длина строк 255 символов).
  • osm - данные в формате OSM XML, без обрезки атрибутики.

Полный перечень названий полей и их замен для нормализованых данных.

Скачать данные

Поле "изменение" показывает сравнение с версией от 20130611.

Цветами показаны: увеличение или уменьшение количества объектов, новый набор (отсутствовавший 20130611)

Код Описание набора Категория Объектов Изменение Геоданные Оригинал Данные
Все данные Все csv csv_norm
shp
osm
493 Дома культуры и клубы Досуг и отдых 279 0 да csv csv_norm
shp
osm
494 Парки (включая парки не подведомственные) Досуг и отдых 80 0 да csv csv_norm
shp
osm
495 Кинотеатры Досуг и отдых 204 0 да csv csv_norm
shp
osm
496 Молодежные центры Досуг и отдых 15 0 да csv csv_norm
shp
osm
497 Учреждения семейной и молодежной политики Досуг и отдых 5 0 да csv csv_norm
shp
osm
498 Аттракционная техника с механическим приводом, установленная в скверах и парках Досуг и отдых 388 +33 да csv csv_norm
shp
osm
499 Государственные учреждения, подведомственные Департаменту жилищно-коммунального хозяйства и благоустройства города Москвы Жилищно-коммунальное хозяйство 27 0 да csv csv_norm
shp
osm
500 Районные инженерные службы Жилищно-коммунальное хозяйство 119 0 да csv csv_norm
shp
osm
501 Аптеки Здравоохранение 4123 0 да csv csv_norm
shp
osm
502 Больницы города Москвы Здравоохранение 100 0 да csv csv_norm
shp
osm
503 Городские поликлиники Здравоохранение 265 0 да csv csv_norm
shp
osm
504 Госпитали всех наименований, учредителем которых является город Москва Здравоохранение 4 0 да csv csv_norm
shp
osm
505 Детские поликлиники Здравоохранение 172 0 да csv csv_norm
shp
osm
506 Детские стоматологические поликлиники Здравоохранение 25 0 да csv csv_norm
shp
osm
507 Диспансеры Здравоохранение 54 0 да csv csv_norm
shp
osm
508 Дома ребенка, в том числе специалзированные Здравоохранение 19 0 да csv csv_norm
shp
osm
509 Женские консультации Здравоохранение 13 0 да csv csv_norm
shp
osm
510 Здравоохранение. Санатории Здравоохранение 42 0 да csv csv_norm
shp
osm
511 Консультативно диагностические центры Здравоохранение 19 0 да csv csv_norm
shp
osm
512 Молочные кухни Здравоохранение 181 0 да csv csv_norm
shp
osm
513 Научно-практические медицинские центры, учредителем которых является город Москва Здравоохранение 66 0 да csv csv_norm
shp
osm
514 Родильные дома г. Москвы Здравоохранение 23 +4 да csv csv_norm
shp
osm
515 Станции переливания крови Здравоохранение 1 0 да csv csv_norm
shp
osm
516 Станции скорой и неотложной медицинской помощи Здравоохранение 1 0 да csv csv_norm
shp
osm
517 Стационары Здравоохранение 50 0 да csv csv_norm
shp
osm
518 Стоматологические поликлиники Здравоохранение 39 0 да csv csv_norm
shp
osm
519 Хосписы Здравоохранение 8 0 да csv csv_norm
shp
osm
520 Паспортизация квартир в домах-новостройках, строительство которых выполнено за счет городского бюджета и по инвестиционным проектам Имущество и земля города Москвы 1048 0 да csv csv_norm
shp
osm
521 Земельные участки, находящиеся в собственности г. Москвы Имущество и земля города Москвы 1000 0 нет csv csv_norm

522 Рейтинг топ-100 должников арендной платы Имущество и земля города Москвы 100 0 нет csv csv_norm

523 Нежилые помещения, зарегистрированные в собственность г. Москвы Имущество и земля города Москвы 37849 0 да csv csv_norm
shp
osm
524 Ремонтируемые объекты жилищного фонда Имущество и земля города Москвы 1050 0 нет csv csv_norm

525 Ремонтируемые объекты нежилого фонда Имущество и земля города Москвы 41 0 да csv csv_norm
shp
osm
526 Библиотеки Культура 524 0 да csv csv_norm
shp
osm
527 Выставочные залы Культура 26 0 да csv csv_norm
shp
osm
528 Концертные организации Культура 87 0 да csv csv_norm
shp
osm
529 Музеи Культура 288 0 да csv csv_norm
shp
osm
530 Объекты культурного наследия и Выявленные объекты культурного наследия Культура 6104 0 да csv csv_norm
shp
osm
531 Театры Культура 237 0 да csv csv_norm
shp
osm
532 Детские музыкальные школы Образование 107 0 да csv csv_norm
shp
osm
533 Детские художественные школы Образование 19 0 да csv csv_norm
shp
osm
534 Детские школы искусств Образование 47 0 да csv csv_norm
shp
osm
535 Вечерние школы Образование 7 0 да csv csv_norm
shp
osm
536 Военно-патриотическое направление Образование 9 0 да csv csv_norm
shp
osm
537 Учреждения высшего профессионального образования Образование 10 0 да csv csv_norm
shp
osm
538 Гимназия Образование 84 0 да csv csv_norm
shp
osm
539 Детские сады в составе школ (образовательные комплексы) Образование 132 0 да csv csv_norm
shp
osm
540 Детские сады Образование 1155 0 да csv csv_norm
shp
osm
541 Детский сад комбинированного вида Образование 405 0 да csv csv_norm
shp
osm
542 Детский сад компенсирующего вида Образование 190 0 да csv csv_norm
shp
osm
543 Естественнонаучное направление Образование 6 0 да csv csv_norm
shp
osm
544 Кадетские школы Образование 8 0 да csv csv_norm
shp
osm
545 Кадетские школы-интернаты Образование 11 0 да csv csv_norm
shp
osm
546 Колледжи Образование 107 0 да csv csv_norm
shp
osm
547 Коррекционная начальная школа-детский сад Образование 5 0 да csv csv_norm
shp
osm
548 Коррекционная общеобразовательная школа Образование 25 0 да csv csv_norm
shp
osm
549 Коррекционная общеобразовательная школа-интернат Образование 29 0 да csv csv_norm
shp
osm
550 Коррекционная школа-интернат для детей-сирот и детей, оставшихся без попечения родителей Образование 4 0 да csv csv_norm
shp
osm
551 Культурологическое направление Образование 60 0 да csv csv_norm
shp
osm
552 Лицей Образование 40 0 да csv csv_norm
shp
osm
553 Научно-техническое направление Образование 10 0 да csv csv_norm
shp
osm
554 Начальная школа - десткий сад компенсирующего вида Образование 14 0 да csv csv_norm
shp
osm
555 Начальная школа - детский сад Образование 13 0 да csv csv_norm
shp
osm
556 Образовательные учреждения города Москвы, реализующие программы среднего профессионального образования. Техникумы Образование 9 0 да csv csv_norm
shp
osm
557 Прогимназия Образование 24 0 да csv csv_norm
shp
osm
559 Санаторная школа-интернат Образование 5 0 да csv csv_norm
shp
osm
560 Санаторно-лесная школа Образование 5 0 да csv csv_norm
shp
osm
561 Социально-педагогическое направление Образование 41 0 да csv csv_norm
shp
osm
562 Социально-экономическое направление Образование 2 0 да csv csv_norm
shp
osm
563 Специальная общеобразовательная школа для детей и подростков с девиантным поведением Образование 7 0 да csv csv_norm
shp
osm
564 Спортивно-техническое направление Образование 2 0 да csv csv_norm
shp
osm
565 Средняя образовательная школа Образование 786 0 да csv csv_norm
shp
osm
566 Средняя образовательная школа "Школа Здоровья" Образование 59 0 да csv csv_norm
shp
osm
567 Средняя образовательная школа с углубленным изучением отдельных предметов Образование 169 0 да csv csv_norm
shp
osm
568 Средняя общеобразовательная школа с этнокультурным (национальным) компонентом образования Образование 22 0 да csv csv_norm
shp
osm
569 Туристко-краеведческое направление Образование 9 0 да csv csv_norm
shp
osm
570 Учебно-производственные комбинаты Образование 3 0 да csv csv_norm
shp
osm
571 Учреждения для детей-сирот и детей, оставшихся без попечения родителей Образование 29 0 да csv csv_norm
shp
osm
572 Физкультурно-спортивное направление Образование 14 0 да csv csv_norm
shp
osm
573 Художественно-эстетическое направление Образование 74 0 да csv csv_norm
shp
osm
574 Центр диагностики и консультирования Образование 6 0 да csv csv_norm
shp
osm
575 Центр лечебной педагогики и дифференцированного обучения Образование 4 0 да csv csv_norm
shp
osm
576 Центр образования Образование 180 0 да csv csv_norm
shp
osm
577 Центр психолого-педагогической реабилитации и коррекции Образование 16 0 да csv csv_norm
shp
osm
578 Центры повышения квалификации Образование 3 0 да csv csv_norm
shp
osm
579 Центры психолого-медико-социального сопровождения Образование 25 0 да csv csv_norm
shp
osm
580 Школа-интернат для детей-сирот и детей, оставшихся без попечения родителей Образование 3 0 да csv csv_norm
shp
osm
581 Школы надомного обучения Образование 13 0 да csv csv_norm
shp
osm
582 Школы, имеющие в своем составе детские сады (образовательные комплексы) Образование 132 0 да csv csv_norm
shp
osm
583 Школы-интернаты Образование 6 0 да csv csv_norm
shp
osm
584 Школы-интернаты с углубленным изучением отдельных предметов Образование 4 0 да csv csv_norm
shp
osm
585 Эколого-биологическое направление Образование 4 0 да csv csv_norm
shp
osm
586 Объекты розничной торговли и общественного питания, имеющие лицензию на розничную продажу алкогольной продукции с указанием срока ее дейст Общественное питание 10874 0 да csv csv_norm
shp
osm
587 Сезонные кафе при стационарных объектах общественного питания Общественное питание 1633 0 да csv csv_norm
shp
osm
588 Объекты гаражного назначения по программе «Народный гараж» Объекты общегородских программ 172 0 да csv csv_norm
shp
osm
589 Органы ЗАГС Москвы Органы государственной власти города Москвы 38 0 да csv csv_norm
shp
osm
590 Судебные участки мировых судей города Москвы Органы государственной власти города Москвы 438 0 да csv csv_norm
shp
osm
591 Перечень выданных субсидий организациям промышленности, науки и инновационной инфраструктуры города Реестр справочной информации 52 0 нет csv csv_norm

593 Перечень приоритетных продуктов и технологий, используемых в отраслях городского хозяйства Реестр справочной информации 363 +27 нет csv csv_norm

594 Городские отделы жилищных субсидий Социальная сфера 130 0 да csv csv_norm
shp
osm
596 Центры социально-трудовой адаптации и профориентации Социальная сфера 4 0 да csv csv_norm
shp
osm
597 Городской центр - Дети улиц Социальная сфера 17 0 да csv csv_norm
shp
osm
598 Детские дома Социальная сфера 27 -2 да csv csv_norm
shp
osm
599 Объекты инфраструктуры приспособленные для инвалидов Социальная сфера 203 0 да csv csv_norm
shp
osm
600 Пансионаты для ветеранов Социальная сфера 14 0 да csv csv_norm
shp
osm
601 Психоневрологические интернаты Социальная сфера 18 0 да csv csv_norm
shp
osm
602 Территориальные центры социального обслуживания и филиалы Социальная сфера 131 0 да csv csv_norm
shp
osm
603 Управления социальной защиты населения Социальная сфера 126 0 да csv csv_norm
shp
osm
604 Центр социальной помощи семье и детям Социальная сфера 37 0 да csv csv_norm
shp
osm
605 Центры психологической помощи Социальная сфера 13 0 да csv csv_norm
shp
osm
606 Центры реабилитации Социальная сфера 16 0 да csv csv_norm
shp
osm
607 Объекты ритуального обслуживания Социальная сфера 137 0 да csv csv_norm
shp
osm
608 Отделы трудоустройства Социальная сфера 52 0 да csv csv_norm
shp
osm
609 Специализированные центры труда и занятости населения города Москвы Социальная сфера 29 0 да csv csv_norm
shp
osm
610 Центры занятости населения Социальная сфера 11 0 да csv csv_norm
shp
osm
611 Многофункциональные центры Социальная сфера 55 0 да csv csv_norm
shp
osm
612 Расположение мест приема документов ДЗР Территориальное планирование 12 0 да csv csv_norm
shp
osm
613 Границы зон охраны объектов культурного наследия Территориальное планирование 456 0 да csv csv_norm
shp
osm
614 Границы территорий объектов культурного наследия Территориальное планирование 1483 0 да csv csv_norm
shp
osm
615 Границы административных округов г. Москвы Территориальное планирование 12 0 да csv csv_norm
shp
osm
616 Границы внутригородских муницип обр в г Москве Территориальное планирование 150 0 да csv csv_norm
shp
osm
617 Границы районов города Москвы Территориальное планирование 129 0 да csv csv_norm
shp
osm
618 Границы территорий, по которым утверждены проекты планировок Территориальное планирование 287 0 да csv csv_norm
shp
osm
619 Нестационарные торговые объекты Торговля 11795 0 да csv csv_norm
shp
osm
620 Ярмарки выходного дня Торговля 122 0 да csv csv_norm
shp
osm
621 Парковки такси Транспорт 226 0 да csv csv_norm
shp
osm
622 Перехватывающие парковки Транспорт 62 0 да csv csv_norm
shp
osm
623 Платные парковки на улично-дорожной сети Транспорт 485 0 да csv csv_norm
shp
osm
624 Станции метрополитена Транспорт 579 0 да csv csv_norm
shp
osm
625 Объекты капитального ремонта улично-дорожной сети Улично-дорожная сеть 379 0 да csv csv_norm
shp
osm
626 Горнолыжные склоны Москвы Физическая культура и спорт 8 0 да csv csv_norm
shp
osm
627 Лыжные трассы города Москвы Физическая культура и спорт 197 0 да csv csv_norm
shp
osm
628 Открытые ледовые катки города Москвы Физическая культура и спорт 123 0 да csv csv_norm
shp
osm
629 Спортивные объекты города Москвы Физическая культура и спорт 3986 +1341 да csv csv_norm
shp
osm
630 Спортивные секции города Москвы Физическая культура и спорт 1761 0 да csv csv_norm
shp
osm
651 Государственные казенные учреждения дирекции ЖКХ и благоустройства административных округов города Москвы Жилищно-коммунальное хозяйство 16 0 да csv csv_norm
shp
osm
652 Инфраструктура поддержки малого и среднего предпринимательства Объекты общегородских программ 10 0 да csv csv_norm
shp
osm
653 Региональные ярмарки Торговля 39 0 да csv csv_norm
shp
osm
654 Розничные рынки Торговля 51 0 да csv csv_norm
shp
osm
655 Выданные разрешения на осуществление деятельности по перевозке пассажиров и багажа легковым такси Транспорт 28818 +3151 нет csv csv_norm

658 Тарифы на проезд в городском пассажирском транспорте Транспорт 283 0 нет csv csv_norm

671 Продажа билетов на пригородные поезда Транспорт 85498 0 нет csv csv_norm

672 Реестр стационарных объектов наблюдения Транспорт 601 0 да csv csv_norm
shp
osm
673 Точки продажи билетов для проезда на наземном городском пассажирском транспорте Транспорт 643 0 да csv csv_norm
shp
osm
674 Реестр искусственных неровностей Улично-дорожная сеть 3452 0 да csv csv_norm
shp
osm
744 Перечень приютов для бродячих животных (включая приюты префектур АО) Жилищно-коммунальное хозяйство 17 0 нет csv csv_norm

745 Пешеходные тоннели и фонтаны Жилищно-коммунальное хозяйство 450 0 нет csv csv_norm

746 Реестр образовательных учреждений. Дополнительное образование Образование 36535 0 нет csv csv_norm

747 Реестр образовательных учреждений. Общие сведения Образование 3492 0 нет csv csv_norm

749 Специализированные службы по вопросам похоронного дела Социальная сфера 22 0 да csv csv_norm
shp
osm
750 Список аккредитованных социальных магазинов Торговля 451 0 да csv csv_norm
shp
osm
751 Маршруты мобильных комплексов фиксации нарушений Транспорт 205 0 да csv csv_norm
shp
osm
752 Остановки НГПТ Транспорт 11935 0 да csv csv_norm
shp
osm
753 Список АЗС города Москвы, реализующих моторное топливо, соответствующее установленным экологическим требованиям Экология 47 -35 нет csv csv_norm

754 Список АЗС города Москвы, реализующих моторное топливо, несоответствующее установленным экологическим требованиям Экология 12 +5 нет csv csv_norm

758 Межрегиональные маршруты пассажирских перевозок Транспорт 660 0 да csv csv_norm
shp
osm
759 Нарушения ПДД выявляемые с использованием автоматической системы фотовидеофиксации нарушений ПДД Транспорт 85 0 нет csv csv_norm

760 Согласованные маршруты пассажирских перевозок коммерческими перевозчиками Транспорт 608 0 да csv csv_norm
shp
osm
761 Данные по проверкам Госинспекции по недвижимости с нарушениями за 2012 год Имущество и земля города Москвы 5042 0 нет csv csv_norm

781 Перечень выданных субсидий и льгот субъектам малого и среднего предпринимательства Реестр справочной информации 551 0 нет csv csv_norm

782 Итоги размещения госзаказа в сфере городской информатизации за 2012 год Реестр справочной информации 362 0 нет csv csv_norm

801 График отключения горячей воды Жилищно-коммунальное хозяйство 50506 0 нет csv csv_norm

821 Ремонтируемые объекты жилищного фонда Имущество и земля города Москвы 1050 0 да csv csv_norm
shp
osm
841 Таксофоны МГТС Связь 3033 да csv csv_norm
shp
osm
842 Стационарные общественные туалеты Социальная сфера 215 да csv csv_norm
shp
osm
861 Wi-Fi в парках Связь 132 да csv csv_norm
shp
osm
914 Автодромы аттракционные Отдых X еще не импортирован да csv еще не импортирован

915 Автодромы детские учебные Образование X еще не импортирован да csv еще не импортирован

903 Автодромы спортивные Физическая культура и спорт X еще не импортирован да csv еще не импортирован

890 Бассейны плавательные крытые Физическая культура и спорт X еще не импортирован да csv еще не импортирован

894 Бассейны плавательные открытые Физическая культура и спорт X еще не импортирован да csv еще не импортирован

916 Велопарковки Физическая культура и спорт X еще не импортирован да csv еще не импортирован

911 Городки веревочные Отдых X еще не импортирован да csv еще не импортирован

896 Городки тренажерные (воркауты) Физическая культура и спорт X еще не импортирован да csv еще не импортирован

898 Городки тренажерные универсальные Физическая культура и спорт X еще не импортирован да csv еще не импортирован

901 Гребные базы и каналы Физическая культура и спорт X еще не импортирован да csv еще не импортирован

905 Детские развивающие центры Образование X еще не импортирован да csv еще не импортирован

899 Дорожки беговые-прогулочные Физическая культура и спорт X еще не импортирован да csv еще не импортирован

897 Дорожки велосипедные Физическая культура и спорт X еще не импортирован да csv еще не импортирован

919 Зоны отдыха у воды Отдых X еще не импортирован да csv еще не импортирован

906 Летние эстрады, сцены Отдых X еще не импортирован да csv еще не импортирован

907 Лодочные станции Отдых X еще не импортирован да csv еще не импортирован

909 Места для летнего купания Отдых X еще не импортирован да csv еще не импортирован

910 Мини-зоопарки Отдых X еще не импортирован да csv еще не импортирован

920 Пешеходные зоны Улично-дорожная сеть X еще не импортирован да csv еще не импортирован

904 Площадки детские игровые Отдых X еще не импортирован да csv еще не импортирован

917 Площадки для городошного спорта Физическая культура и спорт X еще не импортирован да csv еще не импортирован

913 Площадки для настольных игр Отдых X еще не импортирован да csv еще не импортирован

912 Площадки для пикника Отдых X еще не импортирован да csv еще не импортирован

884 Площадки для пляжных видов спорта Физическая культура и спорт X еще не импортирован да csv еще не импортирован

895 Площадки пейнтбольные Физическая культура и спорт X еще не импортирован да csv еще не импортирован

893 Площадки спортивные универсальные Физическая культура и спорт X еще не импортирован да csv еще не импортирован

883 Поля для гольфа Физическая культура и спорт X еще не импортирован да csv еще не импортирован

892 Поля для мини-гольфа Физическая культура и спорт X еще не импортирован да csv еще не импортирован

902 Поля конно-спортивные для конкура и выездки Физическая культура и спорт X еще не импортирован да csv еще не импортирован

885 Поля регбийные Физическая культура и спорт X еще не импортирован да csv еще не импортирован

886 Поля футбольные Физическая культура и спорт X еще не импортирован да csv еще не импортирован

887 Прокаты спортивного инвентаря (отдельностоящие) Физическая культура и спорт X еще не импортирован да csv еще не импортирован

908 Роллердромы, скейтпарки Отдых X еще не импортирован да csv еще не импортирован

900 Скалодромы Физическая культура и спорт X еще не импортирован да csv еще не импортирован

918 Станции проката велосипедов Физическая культура и спорт X еще не импортирован да csv еще не импортирован

888 Стрелковые тиры Физическая культура и спорт X еще не импортирован да csv еще не импортирован

889 Стрельбища Физическая культура и спорт X еще не импортирован да csv еще не импортирован

891 Теннисные корты Физическая культура и спорт X еще не импортирован да csv еще не импортирован

921 Гарантированный перечень услуг по погребению Справочная информация X еще не импортирован да csv еще не импортирован

941 Реестр контрольных мероприятий (по выявленным нарушениям) Справочная информация X еще не импортирован да csv еще не импортирован

Известные проблемы нормализации

1. Закавыченные строки с "разделителем" слепятся, например (исходник, результат 529.csv #64): 

 ;"www.tretyakovgallery.ru;tretyakov.ru"; -> ;www.tretyakovgallery.rutretyakov.ru;

2. Пока не обрабатываются значения вида (пример 821.csv) 

 55.735571:37.616719,55.735571:37.61672,55.735572:37.616719

Использованные скрипты и сопутствующие файлы, процесс обновления

Язык - Python. Все скрипты можно взять на Github.

По шагам:

1. batch_download.py - Загружаем данные в папку data. Скрипт использует http://gis-lab.info/data/mos.ru/data/_listings/_general.csv как источник кодов для ссылок: 

 python batch_download.py

2. Архивируем всё для истории 

 for %i in (*.csv) do C:/tools/7-Zip/7z.exe a -t7z -m0=lzma -mx=9 -mfb=64 -md=32m -ms=on %~ni.7z %i

и выгружаем на FTP в качестве исходников.

3. batch_field_sanitizer_read.py - Экстрагируем названия полей из CSV файлов 

 python batch_field_sanitizer_read.py data\ fields.csv yes yes
  • fields.csv - все названия полей данных
  • yes - обновлять существующий файл замен имен полей
  • yes - использовать транслит для новых полей

4. Вручную редактируем файл fields.csv добавляя замены
5. batch_field_sanitizer_write.py - Нормализуем поля CSV файлов с данными, используя fields.csv 

 python batch_field_sanitizer_write.py data\ data-norm fields.csv

6. batch_process.py - подготовщик данных, конвертация, и т.п. Использует GDAL/OGR, использует wgs84.prj. 

 python batch_process.py
  • wgs84.prj - файл описания результирующей нормализованной системы координат

7. batch_table.py - Формируем таблицу в вики-формате (для этой страницы), использует http://gis-lab.info/data/mos.ru/data/_listings/_general.csv 

 python batch_table.py > table.wiki
Источник — https://wiki.gis-lab.info/index.php?title=Нормализованные_данные_с_портала_открытых_данных_Москвы&oldid=13790