ETL转换在钉钉到金蝶云星空数据集成中的应用

  • 轻易云集成顾问-彭亮

钉钉数据集成到金蝶云星空:案例分享

在诸多企业系统中,如何实现不同平台之间的数据无缝对接是一个普遍的挑战。本文将详细讨论一个实际运行的方案,即将钉钉通讯录中的员工信息集成到金蝶云星空的人力资源管理模块,以优化企业人力资源数据的整合与运用。

我们的目标是通过轻易云数据集成平台,使用透明化、可视化操作界面,高效地完成这一任务。方案命名为“钉钉通讯录->金蝶员工”,包括以下核心技术环节:

  1. 调用钉钉接口topapi/v2/user/get
    首先,通过执行定时任务从钉钉API获取最新的员工信息。因为这个接口支持分页,我们需要设计能够自动处理分页和限流问题的抓取机制,以确保不漏单、不重复。

  2. 快速大批量写入金蝶云星空
    批量数据写入是提高效率的重要手段。我们使用了金蝶云星空提供的API接口batchSave,将抓取的数据快速高效地写入其数据库,同时设置异常处理和错误重试机制,保证每一条记录都能准确存储。

  3. 数据格式转换与映射对接
    由于两者间存在一定的数据格式差异,我们采用定制化映射规则,在传输和转换过程中确保字段的一致性。例如,将来自于顶级主管部门的信息正确对应至金蝶系统中的相应字段,并进行适当单位及编码转换。

  4. 实时监控与日志记录
    在整个集成过程中,所有步骤都同步生成日志并监控,便于后续追溯和问题排查。这不仅提升了流程透明度,也为后期维护及优化提供了有力支持。

此次案例将展示一种简洁且有效的方法,通过合理利用已有平台功能,实现两个不同生态系统的人力资源信息互通,从而打破数据孤岛,为企业运营提供更强劲助力。 金蝶与外部系统打通接口

调用钉钉接口topapi/v2/user/get获取并加工数据

在数据集成的生命周期中,调用源系统接口是至关重要的一步。本文将深入探讨如何通过轻易云数据集成平台调用钉钉接口topapi/v2/user/get,并对获取的数据进行加工处理。

接口调用配置

首先,我们需要配置元数据,以便正确调用钉钉接口。以下是元数据配置的详细信息:

{
  "api": "topapi/v2/user/get",
  "method": "POST",
  "number": "name",
  "id": "userid",
  "idCheck": true,
  "request": [
    {"field": "userid", "label": "用户的userid", "type": "string"},
    {"field": "language", "label": "通讯录语言", "type": "string", "value":"zh_CN"},
    {"field": "dep_strategy", "label": "部门集成策略ID", "type":"string", "value":"4834a432-6c90-3304-bf2d-030a25e388c4"}
  ]
}

请求参数解析

  1. API路径topapi/v2/user/get

    • 表示我们将调用钉钉的用户信息获取接口。
  2. 请求方法POST

    • 使用POST方法发送请求,确保数据传输的安全性和完整性。
  3. 字段映射

    • number: 对应用户名称字段。
    • id: 对应用户唯一标识字段userid
    • idCheck: 设置为true,表示需要对用户ID进行校验。
  4. 请求参数

    • userid: 用户的唯一标识,需要在实际调用时动态传入。
    • language: 通讯录语言,默认值为zh_CN(中文)。
    • dep_strategy: 部门集成策略ID,用于指定部门集成策略,默认值为一个预定义的UUID。

数据请求与清洗

在实际操作中,我们需要先从钉钉系统获取用户信息,然后对返回的数据进行清洗和加工。以下是具体步骤:

  1. 发送请求: 使用轻易云平台提供的API调用功能,发送POST请求到topapi/v2/user/get,传入必要的参数如userid, language, 和 dep_strategy

  2. 处理响应: 钉钉接口返回的数据通常是一个JSON对象,其中包含了用户的详细信息。我们需要解析这个JSON对象,并提取出有用的信息,如用户名、部门、职位等。

  3. 数据清洗: 对获取的数据进行清洗,包括但不限于以下操作:

    • 去除无用字段:只保留业务需要的字段。
    • 数据格式转换:将日期、时间等字段转换为标准格式。
    • 数据校验:检查关键字段是否为空或格式是否正确。

数据转换与写入

经过清洗后的数据,需要进一步转换为目标系统所需的格式,并写入到金蝶员工系统中。这一步通常包括以下操作:

  1. 字段映射: 将清洗后的数据字段映射到金蝶员工系统所需的字段。例如,将钉钉中的用户名映射到金蝶中的员工姓名字段。

  2. 数据转换: 根据目标系统要求,对数据进行必要的转换。例如,将部门ID转换为目标系统中的部门编码。

  3. 写入操作: 使用轻易云平台提供的数据写入功能,将转换后的数据写入到金蝶员工系统中。确保每条记录都能正确插入或更新到目标表中。

通过上述步骤,我们可以高效地实现从钉钉通讯录到金蝶员工系统的数据集成。这不仅简化了复杂的数据处理过程,还提高了业务运作的透明度和效率。 用友与SCM系统接口开发配置

轻易云数据集成平台生命周期中的ETL转换:钉钉通讯录到金蝶云星空API接口

在轻易云数据集成平台中,数据处理生命周期的第二步是将已经集成的源平台数据进行ETL(提取、转换、加载)转换,并转为目标平台能够接收的格式。本文将重点探讨如何将钉钉通讯录的数据通过ETL转换,写入金蝶云星空API接口。

数据请求与清洗

在数据请求与清洗阶段,我们从钉钉通讯录中提取员工信息,包括姓名、编码、手机号和员工编号等。这个过程确保了原始数据的准确性和完整性,为后续的ETL转换打下基础。

数据转换与写入

在数据转换阶段,我们需要根据金蝶云星空API接口的要求,将源数据进行格式化和转换。以下是具体的元数据配置及其应用:

{
  "api": "batchSave",
  "method": "POST",
  "number": "FBillNo",
  "pagination": {
    "pageSize": 500
  },
  "idCheck": true,
  "operation": {
    "method": "batchArraySave",
    "rows": 1,
    "rowsKey": "array"
  },
  "request": [
    {
      "field": "FName",
      "label": "名称",
      "type": "string",
      "value": "{name}"
    },
    {
      "field": "FNumber",
      "label": "编码",
      "type": "string",
      "value": "{unionid}"
    },
    {
      "field": "FUseOrgId",
      "label": "使用组织",
      "type": "string",
      "value": "2.01",
      "parser": {
        "name": "ConvertObjectParser",
        "params": "FNumber"
      }
    },
    {
      "field": "FCreateOrgId",
      ...
API接口配置解析
  1. API与方法

    • api: batchSave,表示批量保存操作。
    • method: POST,表示使用HTTP POST方法提交请求。
  2. 分页设置

    • pagination: 设置每次请求的数据条数上限为500,以避免单次请求数据量过大导致性能问题。
  3. ID检查

    • idCheck: 设置为true,确保在写入前检查记录是否已存在,避免重复插入。
  4. 操作配置

    • operation: 使用batchArraySave方法,每次处理一行数据(rows: 1),并将所有行数据封装在一个数组键中(rowsKey: array)。
请求字段映射
  • 名称 (FName)

    • 对应钉钉通讯录中的员工姓名,通过占位符 {name} 引用。
  • 编码 (FNumber)

    • 对应钉钉通讯录中的唯一标识符 unionid,通过占位符 {unionid} 引用。
  • 使用组织 (FUseOrgId) 和 创建组织 (FCreateOrgId)

    • 固定值 2.01,并使用 ConvertObjectParser 转换为金蝶所需的格式。
  • 手机号 (FMobile) 和 员工编号 (FStaffNumber)

    • 分别对应钉钉通讯录中的手机号和用户ID,通过占位符 {userid} 引用。
附加请求参数
  • 业务对象表单ID (FormId)

    • 固定值 BD_Empinfo,指定金蝶系统中的员工信息表单。
  • 执行操作 (Operation)

    • 固定值 BatchSave,指明批量保存操作。
  • 提交并审核 (IsAutoSubmitAndAudit) 和 验证基础资料 (IsVerifyBaseDataField)**:

    • 分别设置为 truefalse,控制自动提交审核及基础资料验证行为。

实际应用案例

假设我们从钉钉通讯录中获取了以下员工信息:

[
  {"name":"张三", 
   ...

通过上述元数据配置,我们可以将这些信息成功转换并写入金蝶云星空系统,实现不同系统间的数据无缝对接。这不仅提高了业务流程的自动化程度,还确保了数据的一致性和准确性。 用友与WMS系统接口开发配置

更多系统对接方案