利用轻易云ETL实现金蝶云星空收款单数据转换与写入

  • 轻易云集成顾问-杨嫦

金蝶云星空收款单数据集成案例分享

在企业管理系统的日常运维中,保证不同系统之间的数据同步和一致性是一个重要且复杂的任务。本文将详细介绍如何利用轻易云数据集成平台,将金蝶云星空中的收款单数据高效、可靠地集成到另一个金蝶云星空实例中。在这个案例中,我们主要探讨了方案收款单-新20231120 的具体实现过程和关键技术点。

此次集成的核心需求包括:

  1. 大容量数据写入:为了确保大量收款单能够迅速而准确地被导入目标金蝶云星空系统,我们采用了支持高吞吐量的数据写入机制。
  2. 实时监控与告警:通过集中式监控和告警系统,实时跟踪每个步骤的数据流动状态,确保及时发现并处理任何异常情况。
  3. 自定义转换逻辑:由于源端和目标端可能存在一定的数据结构差异,自定义数据转换逻辑成为必要,以避免不一致性问题。

首先,通过调用金蝶云星空提供的API接口 executeBillQuery,我们从源系统获取待集成的收款单数据。这一步骤需要特别注意分页处理及限流策略,以防止对API服务造成过大的压力,从而影响整体性能。

POST /k3cloud/Kingdee.BOS.WebApi.ServicesStub.DynamicFormService.ExecuteBillQuery.common.kdsvc

{
    "data": {
        "formid": "ar_receivable",
        "filterString": "",
        ...
    }
}

获取到原始数据后,需要进行一系列预处理,包括但不限于字段映射、格式转换以及校验等操作。然后,通过调用目标金蝶云星空实例的 batchSave 接口,将整理后的收款单批量写入目标数据库。

POST /k3cloud/Kingdee.BOS.WebApi.ServicesStub.DynamicFormService.batchSave.common.kdsvc

{
    "data": [
        {
            ...
            // 数据内容
            ...
        },
        ...
    ]
}

整个流程设计不仅关注效率,同时也注重稳定性。例如,在接口调用失败或网络波动时,会实施自动重试机制,并记录详细日志以供后续分析。另外,通过定期执行稽核任务来验证已导出与已导入数据的一致性,有助于快速发现潜在的问题并做出相应修正。

综上所述,此次"收款单-新20231120"方案展示了如何有效利用多种技术手段,实现跨系统间复杂业务场景下的数据无缝对接。在接下来部分,我将进一步深入解析各个 打通用友BIP数据接口

调用金蝶云星空接口executeBillQuery获取并加工数据

在数据集成过程中,调用源系统的API接口是至关重要的一步。本文将详细探讨如何通过轻易云数据集成平台调用金蝶云星空的executeBillQuery接口,获取并加工收款单数据。

接口配置与请求参数

首先,我们需要配置调用金蝶云星空接口的元数据。根据提供的元数据配置,我们可以看到以下关键参数:

  • API: executeBillQuery
  • Method: POST
  • FormId: AR_RECEIVEBILL
  • Pagination: 每页500条记录
  • FilterString: 过滤条件,示例为FApproveDate >='{{LAST_SYNC_TIME|date}}'

请求字段包括但不限于以下内容:

  • 实体主键(FID)
  • 单据编号(FBillNo)
  • 单据状态(FDOCUMENTSTATUS)
  • 创建人(FCreatorId)
  • 审核人(FAPPROVERID)
  • 创建日期(FCreateDate)
  • 结算组织(FSETTLEORGID.FNumber)

构建请求报文

根据上述元数据配置,我们需要构建一个POST请求报文。以下是一个示例请求报文:

{
    "FormId": "AR_RECEIVEBILL",
    "FieldKeys": "FID,FBillNo,FDOCUMENTSTATUS,FCreatorId,FAPPROVERID,FCreateDate,FSETTLEORGID.FNumber",
    "FilterString": "FApproveDate >='2023-01-01'",
    "Limit": 500,
    "StartRow": 0,
    "TopRowCount": true
}

调用API接口

使用轻易云数据集成平台的HTTP客户端模块,我们可以发送上述请求到金蝶云星空API。以下是一个示例代码片段:

import requests

url = "https://api.kingdee.com/k3cloud/Kingdee.BOS.WebApi.ServicesStub.DynamicFormService.ExecuteBillQuery.common.kdsvc"
headers = {
    'Content-Type': 'application/json'
}
payload = {
    "FormId": "AR_RECEIVEBILL",
    "FieldKeys": "FID,FBillNo,FDOCUMENTSTATUS,FCreatorId,FAPPROVERID,FCreateDate,FSETTLEORGID.FNumber",
    "FilterString": "FApproveDate >='2023-01-01'",
    "Limit": 500,
    "StartRow": 0,
    "TopRowCount": True
}

response = requests.post(url, headers=headers, json=payload)
data = response.json()

数据清洗与转换

获取到原始数据后,需要对其进行清洗和转换,以便后续处理和存储。常见的数据清洗操作包括:

  1. 字段重命名:将API返回的字段名转换为目标系统所需的字段名。
  2. 数据类型转换:确保每个字段的数据类型符合目标系统的要求。
  3. 缺失值处理:处理缺失或异常值,例如填充默认值或删除不完整记录。

以下是一个简单的数据清洗示例:

import pandas as pd

# 假设data是从API返回的数据列表
df = pd.DataFrame(data)

# 字段重命名
df.rename(columns={
    'FID': 'entity_id',
    'FBillNo': 'bill_number',
    'FDOCUMENTSTATUS': 'document_status',
    'FCreatorId': 'creator_id',
    'FAPPROVERID': 'approver_id',
    'FCreateDate': 'create_date',
    'FSETTLEORGID.FNumber': 'settle_org_number'
}, inplace=True)

# 数据类型转换
df['create_date'] = pd.to_datetime(df['create_date'])

# 缺失值处理
df.fillna({'approver_id': 'N/A'}, inplace=True)

数据写入目标系统

完成数据清洗和转换后,可以将处理后的数据写入目标系统。这一步通常涉及数据库操作或调用目标系统的API接口。

# 示例:将DataFrame写入数据库
from sqlalchemy import create_engine

engine = create_engine('mysql+pymysql://user:password@host/dbname')
df.to_sql('receive_bill', con=engine, if_exists='replace', index=False)

通过上述步骤,我们实现了从金蝶云星空获取收款单数据,并进行清洗、转换和写入目标系统的全过程。这一过程不仅提高了数据处理效率,还确保了数据的一致性和准确性。 钉钉与ERP系统接口开发配置

利用轻易云数据集成平台实现金蝶云星空API接口的数据ETL转换

在数据集成生命周期的第二步中,关键任务是将已经集成的源平台数据进行ETL(Extract, Transform, Load)转换,使其符合目标平台金蝶云星空API接口的要求,并最终写入目标平台。本文将详细探讨这一过程中的技术细节和配置要点。

API接口配置

在本案例中,我们使用金蝶云星空的batchSave API接口,该接口采用POST方法进行数据提交。以下是相关的元数据配置:

{
  "api": "batchSave",
  "method": "POST",
  "idCheck": true,
  "operation": {
    "method": "merge",
    "field": "FBillTypeID,FBillNo,FDATE,FPAYORGI",
    "bodyName": "details",
    "header": ["FBillNo", "FSETTLEORGID", "FDATE", "FCURRENCYID", "FBillTypeID", "FCONTACTUNITTYPE", "FCONTACTUNIT", "FPAYUNITTYPE", "FPAYUNIT", "FBUSINESSTYPE", "FPAYORGID", "FSETTLECUR"],
    "body": ["FSETTLETYPEID", "FRECTOTALAMOUNTFOR", "FACCOUNTID", "FPURPOSEID", "FRECEIVEITEMTYPE", "FSALEORDERNO"]
  },
  ...
}

数据转换与映射

在ETL过程中,数据转换和映射是关键步骤。我们需要确保源数据字段能够正确映射到目标API所需的字段格式和类型。以下是一些重要字段的配置示例:

  • 单据编号 (FBillNo):

    {
    "field": "FBillNo",
    "label": "单据编号",
    "type": "string",
    ...
    }
  • 结算组织 (FSETTLEORGID):

    {
    ...
    "parser": {"name":"ConvertObjectParser","params":"FNumber"},
    ...
    }
  • 币别 (FCURRENCYID):

    {
    ...
    {"name":"ConvertObjectParser","params":"FNumber"},
    ...
    }

这些字段通过ConvertObjectParser解析器将源数据转换为目标系统所需的格式。

收款单明细配置

收款单明细部分是一个数组结构,需要特别处理每个子项的数据映射。例如:

  • 结算方式 (FSETTLETYPEID):

    {
    ...
    {"name":"ConvertObjectParser","params":"FNumber"},
    ...
    }
  • 表体-应收金额 (FRECTOTALAMOUNTFOR):

    {
    ...
    {"value":"{FRECTOTALAMOUNTFOR}"},
    ...
    }

这些配置确保了每个明细项都能正确地映射和转换。

请求参数配置

除了字段映射外,还需要配置一些请求参数,以确保API调用成功。例如:

  • 业务对象表单Id:

    {
      ...
      {"value":"AR_RECEIVEBILL"}
      ...
    }
  • 执行操作:

    {
      ...
      {"value":"BatchSave"}
      ...
    }

这些参数直接影响到API调用的行为和结果。

实际应用案例

假设我们从源系统获取了一条收款单数据,其主要字段如下:

{
   ... 
   { 
     FBillNo: '20231120', 
     FSETTLEORGID: '1001', 
     FDATE: '2023-11-20', 
     FCURRENCYID: 'CNY', 
     FBillTypeID: 'SKDLX01_SYS',
     FCONTACTUNITTYPE: 'Customer',
     FCONTACTUNIT: 'CUST001',
     FPAYUNITTYPE: 'Company',
     FPAYUNIT: 'COMP001',
     FBUSINESSTYPE: 'Sale',
     FPAYORGID: 'ORG001',
     FSETTLECUR: 'CNY',
     details: [
       { 
         FSETTLETYPEID: 'Cash', 
         FRECTOTALAMOUNTFOR: '1000.00', 
         FACCOUNTID: 'BANK001', 
         FPURPOSEID: 'SFKYT01_SYS', 
         FRECEIVEITEMTYPE: 'Order', 
         FSALEORDERNO: 'SO20231120' 
       } 
     ] 
   } 
}

经过ETL转换后,生成符合金蝶云星空API要求的数据格式,并通过batchSave接口提交。

通过以上详细步骤,我们可以确保源系统的数据能够准确无误地转换并写入到金蝶云星空平台,实现不同系统间的数据无缝对接。这一过程不仅提升了业务透明度和效率,也为企业提供了强大的数据管理能力。 金蝶与CRM系统接口开发配置

更多系统对接方案