数据可观测性是最被低估的术语之一,正如其名称所示,它是关于观测并为决策提供分析和分析(Analysis and Analytics)的。
数据可观测性属于元数据管理范畴。
是的,数据可观测性旨在关注组织内每个数据管道、数据转换、DDL、DML、数据治理标准、安全和隐私政策等方面。它以全面的视角创建,有助于找出问题所在,并通过调试步骤帮助做出未来决策,以避免同样的问题再次发生。
数据可观测性的支柱:
1.新鲜度
2.谱系
3.模式
4.容量
5.分布
现在的问题是,如何观测?我们能否让一个框架访问企业中的所有框架?当然,安全、风险、合规和审计部门不会允许这种情况发生。但是,如果仅在元数据管理工具上请求访问权限,那么就不会发生这种情况。是的,数据可观测性主要访问企业元数据数据。
可观测到:
Ø所有数据存储中所有表的元数据
Ø所有上下游数据存储和应用程序
Ø按请求观测样本数据以进行调试。
Ø仪表板、报告、代码集、KPI 等
Ø所有 ETL/ ELT 工具和 shell 脚本
Ø所有日志
Ø等等。
下一个问题可能是,即使企业中所有元数据存储库都被授予访问权限,当所有框架都坐落在许多簇、许多网络段、不同的网络区域、多个环境中,并且每个环境都由防火墙等支持时,是否可能实现它。因此,在没有集中控制的IT世界中,数据可观测性将是一个挑战。
理想情况下,通过数据编织实现企业数据可观测性是可行的。