Матеріали

Дашборд якості даних: як не сховати проблему в середньому

Чотири показники на першому екрані, матриця замість однієї цифри, ціль від власника даних і PDF-звіт. Плюс демо на синтетичних даних.

3 хв читанняСергій Бєляков

Дашборд якості даних найчастіше показує одну велику цифру, і вона майже завжди зелена. Я зібрав демо, на якому видно, чому одна цифра мало що каже і що показувати замість неї.

Дані в демо синтетичні: 360 записів, 12 місяців, 6 регіонів, 5 напрямів. Кілька проблем я заклав туди навмисно, щоб було що шукати. Логіка показників та сама, що і в робочих проєктах.

Відкрити демо дашборду

Демо дашборду якості даних: сторінка «Огляд»

Чотири цифри на першому екрані

На першому екрані вистачає чотирьох показників, якщо в кожного є записане визначення:

  • Опрацьовано записів. Обсяг дає вагу відсотку: 97% від тисячі записів і від мільйона означають різну кількість людей, яких зачепить помилка.
  • Якість даних. Частка валідних записів: сума valid / сума processed. Працює лише тоді, коли записано, що саме вважається валідним.
  • Доступність джерел. Чи дійшли дані взагалі. Тримаю її окремо від якості, бо в цих проблем різні причини і різні власники.
  • Інциденти на 100 тис. записів. Абсолютна кількість залежить від розміру сегмента, а частота дозволяє порівнювати великий регіон із малим.

Середнє ховає проблему

У демо загальна якість 97,55% при цілі 97%. Зелено. Опускаємося на рівень нижче, і картина майже не змінюється:

Рівень агрегації Якість
Усі дані за рік 97,55%
Одеська, усі напрями 97,43%
Охорона здоров’я, усі регіони 97,41%
Серпень, усі сегменти 97,45%
Одеська × Охорона здоров’я, рік 96,87%
Одеська × Охорона здоров’я, серпень 93,80%

Провал до 93,80% і 25 інцидентів (у звичайні місяці їх від 1 до 4) видно лише на останньому рядку. Приклад умовний, але механіка реальна: кожна агрегація розбавляє проблему сусідніми нормальними даними.

Це як середній бал класу: 4,5 не скаже, що один учень завалив контрольну. Аналогія неідеальна, бо в даних «учень» це тисячі записів одного сегмента, і їхня помилка потрапляє в рішення одночасно.

Тому в демо дві речі замість однієї цифри: матриця «регіон × напрям» з кольором за статусом і список винятків на рівні «місяць × регіон × напрям», відсортований за тяжкістю.

Ціль задає власник даних, а не дашборд

У демо цільовий рівень якості змінюється повзунком. На тих самих даних при цілі 96% нижче неї 5 сегментів із 360, при 97% уже 94, при 98% цілих 256.

Поріг змінює картину в десятки разів, тому це управлінське рішення, а не налаштування за замовчуванням. Його приймає власник даних разом із тими, хто на цих даних ухвалює рішення, і записує в методику.

Джерела окремо від якості

Ще один заклад у демо: Харківська × Геопросторові дані, червень. Записи валідні на 98,20%, тобто на графіку якості все зелене. А доступність джерела 96,40% при SLA 99% і затримка 410 мс при SLA 250 мс.

Середня доступність цього джерела за рік 99,06%, формально вище SLA. Тож провал розчиняється вже вдруге. Для джерел у демо окрема сторінка: доступність, затримка, частота оновлення, тип інтеграції і власник.

Звіт, який читають

Керівник рідко відкриває дашборд, а PDF у пошті читає. Тому звіт формується в один клік за поточними фільтрами: ключові показники, висновки, структура, матриця якості, винятки, стан джерел і методика розрахунку.

Методика в самому звіті важлива: цифру з PDF мають змогу перевірити ті, хто її не рахував. PDF формується у браузері, дані нікуди не надсилаються. Можна завантажити й свій CSV у форматі зразка.

Як перевірити свій дашборд

  1. Чи записане визначення кожного показника, зокрема що таке «валідний запис»?
  2. Чи можна за два кліки опуститися до сегмента «місяць × регіон × напрям»?
  3. Хто і де зафіксував цільовий рівень якості?
  4. Чи видно доступність джерел окремо від якості записів?
  5. Чи є в звіті методика, за якою можна перерахувати цифри?

Якщо на два питання з п’яти відповідь «ні», дашборд швидше заспокоює, ніж контролює. Детальніше про підхід на сторінках якість даних і бізнес-аналітика.

Демо відкрите: покрутіть фільтри і завантажте PDF. А ваш дашборд показує середнє чи сегменти?

Схожа задача у вашій команді?

Опишіть ситуацію кількома реченнями. Відповім, з чого я б почав і чи можу допомогти.

Обговорити задачу

Короткі розбори про дані щотижня в Telegram-каналі: @belyakovconsult

Усі матеріали