最近更改 - 搜索:

功能总览?

产品介绍?

安装指南

用户指南

文档下载


FAQ.chm

调度专题.pdf

项目成员管理专题.pdf

数据质量与报告推送配置专题指导.pdf

edit SideBar

质量配置

质量管理位于公共功能中,数据质量用于展示数据质量情况,按配置的质量规则定时检测质量,并输出质量报表,帮助用户监控数据的质量情况。


质量配置

质量配置可对数据资源目录中的数据资源表进行数据质量检测。

新建任务

Step1:

进入数据资源目录,点击数据资源中的表列表,进入数据质量配置,如下图所示。

Step2:

进入该任务的数据质量管理页面后,可看到页面左侧目录树为检测任务目录,用于展示某数据资源对应的检测任务信息。
右侧主窗体用于展示某个检测任务的信息,显示配置的检测规则和评分指数。

点击右上角的【操作说明】查看数据质量功能操作说明,然后可点击左侧的【点击创建】按钮,为该业务表创建数据质量检测任务,如下图所示。

Step3:

在弹出的新建检测任务弹框中,设置任务名成和任务的调度周期,并选择数据读取模式,这里的数据读取模式支持增量和全量两种,如下图所示。

Step4:

点击【确定】按钮后,质量检测任务创建成功,如下图所示。

编辑任务

从数据资源中心进入具体资源表的数据质量任务编辑页面后,点击左侧检测任务名后的...再选择【编辑】,可在任务编辑弹框中修改该任务的名称以及调度周期等配置,如下图所示。

删除任务

从数据资源中心进入具体资源表的数据质量任务编辑页面后,点击左侧检测任务名后的...再选择【删除】,弹出确认删除弹框,如下图所示。

任务规则配置

进入数据资源目录,点击数据资源中的表列表,进入数据质量配置,如下图所示。

从模板创建

规则模板配置

系统支持规则模板配置,如果选择从模板创建,则需前往数据质量配置规则模板后使用。当前在配置界面的模板有两个来源:

页面上点击新增模板按钮,得到新的规则
在质量规则配置界面,通过转换为模板操作,得到新的规则。新的规则将被放置到选定的质量维度下面。

规则模板配置界面分两部分展示,左侧的模板分类目录用于展示模板目录树,新增质量维度可以添加目录树的一级节点。 右侧是特定质量维度(一级节点)下的所有质量检测规则模板展示。支持展示名称、模板类型、描述、质量维度、更新日期,操作(编辑、删除)等信息。

模板类型为过滤表达式

Step1:

点击数据质量任务检测页面的【前往数据质量中心】,进入数据质量管理页面,如下图所示。

Step2:

进入数据质量管理页面后,点击数据治理下拉列表中的【规则模板配置】,进入规则模板配置页面,如下图所示。

Step3:

进入规则配置页面后,点击模板分类下的具体分类中的【新增规则模板】,弹出规则配置弹框,如下图所示。

Step4:

在弹出中模板规则配置弹框中,设置模板名称、模板类型以及过滤表达式,如下图所示。

参数说明:

参数描述
模板名称设置模板名称
质量维度创建模板时选择的质量维度
模板类型选过滤表达式
过滤表达式支持生成where表达式,表达式可以通过辅助生成按钮生成。列名用$1...$N指代
辅助生成用于生成过滤表达式,支持展示和选择所有的内置函数,用户可以组合这些函数完成表达式生成
描述该规则的描述信息

Step5:

规则配置完成,可在右则列表中进行查看,如下图所示。

模板类型为自定义SQL

Step1:

点击数据质量任务检测页面的【前往数据质量中心】,进入数据质量管理页面,如下图所示。

Step2:

进入数据质量管理页面后,点击数据治理下拉列表中的【规则模板配置】,进入规则模板配置页面,如下图所示。

Step3:

进入规则配置页面后,点击模板分类下的具体分类中的【新增规则模板】,弹出规则配置弹框,如下图所示。

Step4:

在弹出中模板规则配置弹框中,设置模板名称、模板类型(这里选择自定义SQL)以及过滤表达式,如下图所示。

参数说明:

参数描述
模板名称设置模板名称
质量维度和新建模板时选定的维度一致
模板类型选自定义SQL
过滤表达式如果模板类型选择自定义SQL,则支持SQL语句编写,输出必须是单行单列。输入的字段名用$1...$N指代,表名用$table指代
规则字段规则字段置为表级规则,同时置灰不可修改
校验方式目前仅支持与固定值比较方式
比较方式包括大于、大于等于、等于、不等于、小于和小于等于6种比较方式
描述该规则的描述信息

Step5:

规则配置完成,可在右则列表中进行查看,如下图所示。

规则配置

规则配置_模板类型为过滤表达式

Step1:

模板完成后,可在质量任务中选择从模板创建,并引用之前创建的质量规则模板。 点击【从模板创建】,弹出规则创建弹框,如下图所示。

Step2:

在规则创建弹框中,设置规则名称,选规则来源(这里选择过滤表达式模板)并选择具体的规模模板,选定模板后,过滤表达式输入框中会默认加载该模板设置的表达式,接下来修改$1为具体字段,如下图所示。

Step3:

配置完成,点击【确定】,质量检测任务的规则创建成功,如下图所示。

规则配置_模板类型为自定义SQL

Step1:

模板完成后,可在质量任务中选择从模板创建,并引用之前创建的质量规则模板。 点击【从模板创建】,弹出规则创建弹框,如下图所示。

Step2:

在规则创建弹框中,设置规则名称,选规则来源(这里选择SQL模板)并选择具体的规模模板,选定模板后,过滤表达式输入框中会默认加载该模板设置的表达式,接下来修改$1为具体字段,如下图所示。

Step3:

配置完成,点击【确定】,质量检测任务的规则创建成功,如下图所示。

自定义创建

过滤表达式类型

Step1:

点击【自定义创建】,弹出规则创建弹框,如下图所示。

Step2:

在规则创建弹框中,设置规则名称,自定义类型选择【过滤表达式】,并依据实际情况选择质量维度,接下来设置过滤表达式(也可通过辅助生成来完表达式设置),如下图所示。

Step3:

配置完成,点击【确定】,质量检测任务的规则创建成功,如下图所示。

自定义SQL类型

Step1:

点击【自定义创建】,弹出规则创建弹框,如下图所示。

Step2:

在规则创建弹框中,设置规则名称,自定义类型选择【过滤表达式】,并依据实际情况选择质量维度,接下来设置过滤表达式(字段类型和字段名可在辅助生成中查看),如下图所示。

Step3:

配置完成,点击【确定】,质量检测任务的规则创建成功,如下图所示。

更多操作

规则列表

进入公共功能中心,点击【数据质量】-【任务规则管理】进入规则管理页面,可查看数据资源中心所有的质量任务。左侧目录树为四层结构,在现有数据资源目录结构上新增一层检测任务,用于展示某数据资源对应的检测任务信息,如下图所示。

规则复制

选择具体规则,点击【复制规则】,规则复制成功,如下图所示。

转换为模板

Step1:鼠标移动到规则列表上,点击操作中的【更多操作】-【转换为模板】,如下图所示。

Step2:模板转换成功后,点击【前往数据资源中心】,查看转换后的模板,如下图所示。

规则删除

鼠标移动到规则列表上,点击操作中的【更多操作】-【删除】,弹出删除确认弹框,点击【确定】,规则删除成功,如下图所示。

结果监控

结果监控用于查看当前数据资源的数据质量监控任务运行情况。

试跑

规则配置完成后,可以点击【试跑】按钮,运行当前的检测规则。

上一次检查结果

试跑完成或需要查看最近依次的质量检查结果,可点击【上一次检查结果】或结果监控标签页查看质量检测结果。。

结果监控

从数据资源中心进入的数据质量页面,仅展示该数据资源的质量检测结果。 查询支持资源名称、质量检测任务名称、状态和开始时间、结束时间的检索。 列表展示质量检测任务、状态、数据资源名称、得分、责任人、创建时间、开始时间和结束时间、操作等。

当点击【结果查看】按钮后,如果任务运行成功,可以查看详细的评分情况。其他情况则结果查看不可点。

结果监控列表

结果监控列表用于查看所有数据质量监控任务运行情况,可以完成任务检索和列表展示功能。 查询支持资源名称、质量检测任务名称、状态和开始时间、结束时间的检索。 列表展示质量检测任务、状态、数据资源名称、得分、责任人、创建时间、开始时间和结束时间、操作等。从数据资源中心进入的数据质量页面,仅展示该数据资源的质量检测结果。

质量展示

系统支持从多个维度展示系统的数据质量情况。 最上方展示总览情况,显示质量检测总次数,平均质量评分、今日质量检测次数和今日质量评分。 下面报表支持输出近七天平均质量评分TOP10、近七天平均质量评分最低TOP10、近七天平均质量评分分布,以及按照不同的质量维度展示检测结果分布。根据维度的不同,最下面的结果分布展示的数量也不同。

返回 数据资源中心

编辑 - 版本历史 - 打印 - 最近更改 - 搜索
本页面最后修订于:2021年-07月-14日