Нашли неточность или есть что добавить? Напишите автору
Проектировать структуры данных до их реализации в системах.
Зачем моделирование и проектирование данных
ПрактикаПрактикаНабор ресурсов организации для выполнения работы определённого типа.ITIL 4 отвечает за то, чтобы структуры данных продумывались до того, как их построят в системах. DAMA-DMBOK описывает моделирование так: требования к данным выявляют, разбирают и формулируют, а потом записывают в строго заданном виде — в модели — и доводят до тех, кому по ней работать. Работа идёт кругами и обычно даёт три модели: концептуальную, логическую и физическую 1.
Цель практики: понять устройство данных, подтвердить это понимание и записать его. На такой записи строят приложения под сегодняшние и завтрашние потребности бизнеса, и с неё же начинают крупные начинания — управление основными данными и руководство данными 1.
Модели данных задают единую терминологию, собирают точное знание о данных и системах, служат главным средством общения в проектах и становятся отправной точкой при настройке, интеграции или замене приложений 1.
Именно поэтому практика не сводится к рисованию схем: модель — это способ договориться о смысле до того, как несогласие станет дорогим.
Когда практика работает
Три вопроса, ответы на которые видны по ходу проектов.
Модель есть до реализации. Как проверить: перед изменением структуры хранилища существует согласованная модель.
Уровни разведены. Как проверить: организация различает концептуальную, логическую и физическую модели 1.
Модели сопровождаются. Как проверить: сопровождение моделей — отдельная работа практики, а не разовое действие в проекте 1.
Что входит и что рядом
| Входит в практику | Рядом, но это другая практика |
|---|---|
| Планирование работ по моделированию | Общая картина данных — DtAУправление архитектурой данных |
| Концептуальная, логическая, физическая модели | Смысл полей и происхождение — MtMУправление метаданными |
| Проверка и оценка качества моделей | Качество самих данных — DQMУправление качеством данных |
| Соглашения об именовании | Хранение и эксплуатация — DtOХранение и операции с данными |
| Выбор типа базы и физическое проектирование | Требования к решению — MRDУправление требованиями |
| Сопровождение моделей | Разработка программ — DEVРазработка и управление ПО |
Что на входе и что на выходе
Что приходит
- DtAУправление архитектурой данныхтребования и модель, от которых идёт проектирование
- MRDУправление требованиямитребования к решению, которые ложатся в структуры
- MtMУправление метаданнымистандарты описания и словарь терминов
Что уходит
- DEVРазработка и управление ПОпроект структур данных для разработки
- DtOХранение и операции с даннымифизический проект базы для эксплуатации
- DQMУправление качеством данныхправила и ограничения, задающие качество на входе
- DtWВедение хранилищ и бизнес-аналитикамодели для хранилищ и витрин
Каждая связь в этом блоке — из одного источника1
DAMA-DMBOK перечисляет вход и выход прямо. На вход идут 1:
- модели и базы, которые уже есть;
- принятые в организации стандарты;
- сами наборы данных и первые требования к ним;
- требования к тому, откуда данные берутся;
- архитектура данных и принятая система понятий.
На выходе — три модели: концептуальная, логическая и физическая.
Три уровня модели и зачем их различать
Уровни идут по возрастанию подробности 1.
Концептуальная модель записывает требования к данным крупными мазками — набором связанных понятий. В неё берут только то, без чего бизнес не обходится: главные сущности области, у каждой пояснение, что она значит, и указание, чем она связана с соседними 1. На этом уровне спорят о смысле — что считать абитуриентом, заявлением, школой.
Логическая модель уточняет структуру безотносительно к конкретной системе хранения: атрибуты, ключи, правила связей.
Физическая модель описывает реализацию в конкретной базе: типы, индексы, разбиение, особенности выбранной системы хранения 1.
Практический смысл разделения — в порядке разговоров. Пока не согласована концептуальная модель, спор о типах полей бессмыслен: люди обсуждают разные предметы, думая, что говорят об одном.
DAMA-DMBOK перечисляет и схемы представления данных; чаще всего пользуются шестью: реляционной, многомерной, объектно-ориентированной, основанной на фактах, хронологической и NoSQL 1. Выбор схемы — решение практики, а не следствие привычки разработчика.
Как это работает
Практика раскладывается на четыре работы: планирование моделирования, построение моделей, проверка и оценка их качества, сопровождение 1.
| Шаг | Работа на шаге | Что после него остаётся |
|---|---|---|
| 1. План | Определяем, что и зачем моделируем | План работ по моделированию 1 |
| 2. Понятия | Строим концептуальную модель | Согласованный смысл сущностей 1 |
| 3. Структура | Строим логическую модель | Атрибуты, ключи, связи 1 |
| 4. Реализация | Строим физическую модель | Проект базы данных 1 |
| 5. Проверка | Оцениваем качество моделей | Замечания и правки 1 |
| 6. Согласование | Договариваемся со сторонами | Принятая модель 1 |
| 7. Сопровождение | Ведём модели вслед за изменениями | Живые модели 1 |
Две строки этой таблицы стоит развернуть.
Второй шаг — разговор с бизнесом, а не с системой. Концептуальная модель содержит только то, без чего бизнесу не обойтись, и описания связей между понятиями 1. Если её строит один разработчик, договорённости не возникает.
Седьмой шаг определяет, останется ли практика. Сопровождение моделей выделено отдельной работой 1: модель, разошедшаяся с базой, вводит в заблуждение вернее, чем её отсутствие.
Что с чем путают
Модель данных и схема базы. Схема — реализация; модель включает и уровень понятий 1.
Моделирование и архитектура данных. Архитектура даёт общую картину и требования, моделирование — конкретные структуры. Разбор про архитектуру — DtAУправление архитектурой данных.
Логическая модель и физическая. Первая не зависит от системы хранения, вторая учитывает её особенности 1.
Модель и документация. DAMA-DMBOK называет модели главным средством общения в проектах 1 — то есть рабочим инструментом, а не отчётом.
Именование и вкусовщина. DAMA-DMBOK относит соглашения об именовании к методам практики 1: это правила, а не предпочтения.
Кто участвует
| Роль | За что отвечает | Кем обычно бывает |
|---|---|---|
| Специалист по моделированию | Построение и сопровождение моделей | Моделировщик данных 1 |
| Бизнес-аналитик | Перевод потребностей в требования к данным | Аналитик 1 |
| Архитектор данных | Согласие моделей с общей картиной | Архитектор 1 |
| Администратор базы данных | Физическое проектирование и реализация | Администратор баз 1 |
| Распорядитель данных | Смысл сущностей в своей области | Стюард данных 1 |
Как измерять
| Показатель | Что показывает | Чем плох, если единственный |
|---|---|---|
| Доля значимых областей с концептуальной моделью | Охват практики 1 | Охват не равен согласию |
| Качество моделей по принятым мерам | Годность моделей 1 | Меры выбирает сама организация |
| Расхождения моделей с реальными базами | Живут ли модели 1 | Требует сверки |
| Доля проектов, где модель была до реализации | Влияние практики на ход работ | Модель бывает формальной |
| Число переделок из-за неучтённых связей | Цену пропущенного моделирования | Считается задним числом |
| Соблюдение соглашений об именовании | Дисциплину проектирования 1 | Проверяется выборочно |
У качества модели есть готовая мерка со счётом в баллах. DMBOK приводит шаблон ведомости оценки модели данных Data Model Scorecard® (Hoberman, 2015): десять категорий, у каждой свой максимум баллов, эксперт выставляет оценку в этих пределах, а рядом считается процент 1. Категории такие:
- насколько хорошо в модели отражены требования к данным;
- достаточно ли модель полна;
- насколько она согласуется со схемой представления данных;
- насколько проработана структурно;
- насколько эффективно использует обобщённые структуры;
- соблюдаются ли стандарты именования;
- читабельна ли модель;
- насколько хорошо сформулированы определения;
- согласуется ли модель с корпоративной практикой;
- достаточно ли метаданные описывают данные 1.
Балл без объяснения не принимается. В ведомости есть столбец «Комментарии», и заполнять его обязательно: проверяющий «должен объяснять причины снижения оценки относительно максимальной и/или давать рекомендации по устранению недостатков» 1. Это и отличает ведомость от рейтинга: она не выносит приговор модели, а называет, что в ней чинить. Пример счёта книга даёт прямо: 10 баллов из 15 возможных по первой категории дают в столбце степени соответствия значение 66% 1.
Мерка требует эталона. «К объективной оценке качества моделей данных можно подходить с различными наборами мерок и критериев, но в любом случае необходима эталонная база сравнения» 1. Без ответа на вопрос «по сравнению с чем» сумма баллов остаётся числом, о котором нечего сказать.
Зрелость моделирования и проектирования данных
Уровень 2ПовторяемыйСтруктуры проектирует тот, кто пишет код.
- Структуры данных где-то зафиксированы
- Изменения структур обсуждаются внутри команды
- Есть представление, какие сущности главные
Уровень 3ОпределённыйМодель появляется до реализации.
- Перед изменением структуры данных строится модель
- Приняты соглашения об именовании
- Модели хранятся в известном месте
- У моделей есть ответственные
Уровень 4УправляемыйУровни разведены, дело участвует.
- Разговор о смысле сущностей идёт отдельно от разговора о полях
- Представители дела участвуют в согласовании модели
- Качество моделей проверяется по принятым мерам
- Модель согласуется с общей картиной данных
Уровень 5ОптимизируемыйМодели живут вместе с системами.
- Модели обновляются при изменении баз
- Схема представления данных выбирается осознанно
- Модели используются как средство общения в проектах
Где ломается чаще всего
Шесть мест, в порядке частоты.
Модель появляется после базы. Структуру рисуют по факту созданного, и договорённости о смысле не возникает.
Уровни смешаны. Разговор о понятиях подменяется спором о типах полей 1.
Модель не сопровождается. База ушла вперёд, модель осталась в прошлом году 1.
Именование стихийное. Одна сущность называется тремя способами в трёх системах 1.
Дело в моделировании не участвует. Концептуальную модель строит разработчик, а спорят потом с заказчиком 1.
Схема выбрана по привычке. Перечислены шесть распространённых схем представления данных — выбор стоит делать осознанно 1.
Что говорят своды
69Своды знаний и стандарты — разобраны отдельноЧем ITIL отличается от COBIT и ISO, что из этого обязательно, а что на выбор, и где брать первоисточник. У каждого свода отмечено, развивается он или давно заморожен, и есть ли действующий ГОСТ. По 51 практикам из 62 проставлено соответствие COBIT.Открыть →DAMA-DMBOK держит моделирование и проектирование данных отдельной областью знаний с определением, целями, входами, выходами и четырьмя работами 1.
COBIT отдельной цели под моделирование не заводит: требования к структурам данных приходят через управление данными и архитектуру предприятия 2.
ITIL ближайшую работу описывает в проектировании услугУслугаСпособ дать потребителю нужный результат, не перекладывая на него управление затратами и рисками.ITIL 4, книга ITIL Foundation и разработке: требования к решению и его устройству 3.
Отсюда следует вот что. Моделирование данных — та работа, которую своды управления услугами оставляют смежным дисциплинам, и потому в ИТ-службах она часто оказывается ничьей.
Где описано
| Источник | Что даёт | Доступ |
|---|---|---|
| DAMA-DMBOK, глава о моделировании | Уровни моделей, схемы представления, работы, роли | Платно, русское издание есть |
| COBIT | Управление данными и архитектура предприятия | Частично бесплатно |
| ITIL 4, практические руководства | Требования к решению и проектирование услуги | Платно |
Что почитать дальше
Три соседние практики: DtAУправление архитектурой данных — общая картина данных, MtMУправление метаданными — смысл полей, MRDУправление требованиями — как требования доходят до решения.
Источники
- DAMA International. DAMA-DMBOK. Свод знаний по управлению данными. Второе издание, глава 5 «Моделирование и проектирование данных». 2020. Второе издание свода вышло на английском в 2017 году, русское издание — в 2020-м. свод знаний по управлению данными, русское издание «Олимп-Бизнес», экземпляр из нашей библиотеки
- ISACA. COBIT 2019: цель управления APO14 «Managed Data» и цель управления архитектурой предприятия. 2018. Использовано для сопоставления сводов. свод руководства и управления ИТ, перечень целей и практик из бесплатного набора COBIT Toolkit
- AXELOS. Service Design и Business Analysis. ITIL 4 Practice Guides. 2020. Использовано для сопоставления сводов. практические руководства свода практик из нашей библиотеки