一、实验背景1.1 实验目标本实验的核心目标是让使用者掌握助睿零代码数据集成平台ETL 平台的关键功能与实操流程具体涵盖以下内容掌握转换任务的新建、组件添加、转换执行等基础操作步骤熟练掌握表输入、记录集连接、字段筛选、记录过滤、Excel 文件输出等常用组件的配置方式理解多表关联、数据过滤与分流处理的 ETL 设计逻辑与实现思路通过本次实验学习者能够独立借助助睿平台完成常见的数据加工任务为后续处理更复杂的数据场景筑牢基础。1.2 实验环境零代码在线实验平台本次实验依托助睿数智Uniplore一站式数据科学平台开展。该平台覆盖数据接入、ETL 处理、机器学习建模到可视化呈现的全链路零代码能力既适用于数据分析教学场景也可满足企业数据加工需求。产品官方网站为https://www.uniplore.com/本次实验的访问地址为https://lab.guilian.cn/。数据库MySQL内置订单数据与产品信息数据。数据准备订单明细表business_anaylsis.order_detail、产品信息表business_anaylsis.product。1.3 业务场景在企业经营分析的实际工作中常常需要将多张数据表进行关联以此计算订单利润并根据利润的正负情况对订单数据进行分类存储。本实验以 “订单利润分流处理” 为案例通过零代码拖拽式操作完整复现这一典型的数据处理任务。1.4 数据处理流程将订单明细表与产品信息表进行左外连接后移除数据表中的重复字段根据 “利润是否大于等于 0” 的条件对数据进行分流将盈利订单与亏损订单分别导出至两个独立的 Excel 文件中。数据库小知识左外连接Left Outer Join常简称左连接是 SQL 中一种多表关联方式。它的核心规则是以左边的表为 “基准表”保留左表的所有行再去匹配右边的表匹配上就把右表的字段拼过来匹配不上的右表字段就用NULL填充。二、实验步骤2.1 登录实验平台在贵兰在线对应的课程学习页面点击 “实验课 1助睿 ETL 入门实验”点击课程实训说明中的“大数据实训平台”即可前往实验地址 https://lab.guilian.cn/自动登录成功后进入实验平台首页2.2 基本概念助睿一站式大数据平台中的数据集成平台通过可视化方式做数据 ETL抽取、转换、加载。Pipeline转换面向数据流处理数据的一个功能单元由多个 Transform 组成。Workflow作业面向任务完成一件完整的事由多个 Action 组成必须包含开始项。Transform步骤转换内的最小单元如 Excel 输入、字段选择每个步骤独立线程运行。Action任务项作业的执行单位如 启动、发送邮件。Hops节点连接数据传输通道连接步骤或任务项。2.3团队管理在该环节每个小组的组长可以创建该小组的团队方便团队实验作业的管理。进入实验平台后选择”数据集成/ETL”进入数据集成页面。点击“团队管理”菜单并点击“新增团队”。在弹出的窗口中填写团队名称和团队描述点击“确认”。创建成功后点击团队卡片右上角的“更多”选择“添加成员”输入手机号查询组员勾选后点击“添加”即可3.4创建实验项目点击新建”新建项目”填写”项目名称”后点击”确认”创建成功后即可看到新创建的项目3.5 同步数据源项目创建成功后点击该项目右上角 “…”点击 “打开项目”在项目页面可以看到左侧有 3 个菜单资源库、文件、元数据详细说明资源库用于对工作流的管理包括新建、删除、修改、查看工作流的信息导出导入工作空间调度管理等操作文件库用于保存工作流中需要用到的文件和工作流产生的文件元数据管理是数据集成的重要基石可以为工作流定义 “运行配置”、“数据库”、“flink 集群” 等配置本次实验主要用到资源库和文件库首先获取本次实验数据集点击”元数据”右键”关系数据库”点击”同步数据源”切换“文件库”菜单再切换回到元数据可以看到成功同步的数据库“线上公共数据源(Readonly)”2.6 新建转换流本次实验将创建 “订单利润分流处理” 转换流实现订单数据与产品信息的关联并根据利润正负将数据分流为盈利订单和亏损订单分别输出到两个 Excel 文件。整体逻辑订单明细表 → 左外连接产品信息表 → 移除重复 ID 字段 → 按利润≥0 分流 → 盈利订单 / 亏损订单分别输出各组件作用表输入订单 / 产品读取原始数据记录集连接按产品 ID 关联两表字段选择移除重复的 ID 字段过滤记录根据利润正负分流Excel 输出分别输出盈利 / 亏损订单新建转换流具体操作如下切换到资源库同样右键根目录点击 “新建转换”输入转换流名字“订单利润分流处理”点击“确定”创建成功后进入转换流设计页面转换流设计页面每次打开都是锁定状态需要解锁后才可编辑转换流点击”锁”图标进行解锁2.7 添加组件在建立转换任务后可添加相应操作组件到转换任务中。以订单数据business_anaylsis.order_detail和产品信息数据business_anaylsis.product生成盈利订单数据和亏损订单数据为例来构建转换任务按如下顺序向转换中添加组件1添加表输入组件本次实验需要将两类数据进行合并计算所以需要添加2个表输入组件读取2个不同表的数据。点击“组件库”由于组件库的组件数量较多可以通过关键字搜索快速获取在搜索输入框中输入“表输入”即可查询到“表输入”组件将表输入组件拖拽至画布中再次拖拽表输入组件拖拽至画布中即拖拽2个表输入组件至画布中右键表输入组件点击 “编辑组件”修改步骤名称为订单_详细订单点击 “确认”对应表输入组件被命名为 “订单_详细订单”相同的另一表输入组件修改为订单_产品信息2添加记录集连接组件使用表输入组件读取数据后需要通过记录集连接组件将表输入组件的数据进行关联。在搜索输入框中输入 “记录集连接”将记录集连接组件拖拽至画布中创建两个表输入组件到记录集连接组件的连接线如下图在建立连接线时会出现 “排序需要” 的提示。这是由于记录集连接组件是按接收数据的顺序进行记录关联的如果接收的数据是无序的可能会造成记录连接结果出错。右上角3添加字段选择组件两个表数据进行连接后会出现重复的字段 “产品 ID”。我们可以通过 “字段选择” 组件移除这个多余字段。在搜索输入框中输入 “字段选择”将字段选择组件拖拽至画布中将字段选择组件名字修改为 “移除产品 ID_1 字段”创建记录集连接组件到字段选择组件的连接线如下图4添加过滤记录组件本次实验是根据订单的利润情况对订单进行分流。使用 “过滤记录” 组件可以根据记录中某个字段的值进行记录分流。在搜索输入框中输入 “过滤记录”将过滤记录组件拖拽至画布中。创建字段选择组件到过滤记录组件的连接线如下图在选择连接线的弹窗中点击 “主输出步骤”。由于在进行字段选择操作时可能有记录不满足要求导致记录被标记为错误。主输出步骤表示满足要求的记录通过该连接线传输数据。5添加 excel 输出组件记录经过 “过滤记录” 组件后会被分成 2 个记录流。我们可以根据业务需求将 2 个记录流输出到指定位置文件、数据库表。在本次实验中我们选择将记录输出到 Excel 文件中。在搜索输入框中输入 “excel 输出”将 2 个表输出组件拖拽至画布中。2 个 excel 输出组件分别命名为 “盈利订单” 和 “亏损订单”并创建过滤记录组件到两个 excel 输出组件的连接线在选择连接线类型的弹窗中分别选择 “True 输出” 和 “False 输出”“True 输出” 表示满足过滤条件的记录输出。“False 输出” 表示不满足过滤条件的记录输出。至此一个完整的转换任务流程构建完毕如下图所示2.8 配置组件信息组件添加完成后需要对其进行相应配置。2.8.1 表输入组件配置双击订单_详细订单表输入组件弹出组件配置页面。在数据库连接下拉框中选择已同步的 “线上公共数据源 (Readonly)” 如下图所示点击 “获取 SQL 查询语句”自动生成 SQL 查询语句。点开 “线上公共数据源 (Readonly)”-“表” 目录。下滑找到 “business_anaylsis.order_detail” 并点击它再点击 “确定”在系统提示弹窗中点击 “确认”系统自动填写了完整的 SQL 查询语句点击 “确认”。当自动生成的 SQL 语句无法满足业务需求时也可以通过在文本框输入自定义 SQL 语句。表输入组件的其他配置保持默认即可。另一个订单_产品信息表输入也参考上述配置获取 “business_anaylsis.product” 的 SQL 查询语句。2.8.2 记录集连接组件配置双击记录集连接组件在下拉列表中选择需要连接的数据来源- 第一个Transform选择”订单_详细订单”- 第二个Transform选择”订单_产品信息”- 连接类型选择”LEFT OUTER”点击第一个Transform的连接字段中的“获得连接字段”按钮即可获取表输入组件在订单_详细订单中查询到的字段。同样的获取第二个 Transform 的连接字段。第一个 Transform 字段保留 produc_id第二个 Transform 的字段保留 id连接类型选择 LEFT OUTER表示使用订单_详细订单的字段 produc_id 与 订单_产品信息的字段 id 进行左外连接。第一个 Transform 字段中除了 produc_id 外的其他字段右键点击 “删除选中的行”第二个 Transform 字段中除了 id 外的其他字段右键点击 “删除选中的行”。删除完后点击 “确认”若删除错误可重新获取连接字段再进行删除。2.8.3 字段选择组件配置通过记录集连接后我们可以发现字段 produc_id 与字段 id 内容相同只需要保留一个因此需要使用 “移除产品 ID_1 字段” 字段选择组件的移除选项移除字段 id具体操作如下双击 “移除产品 ID_1 字段” 字段选择组件点击 “移除”并点击 “获取字段”。在获取的字段中选中除id字段以外的字段右键点击 “删除选中的行”。(注意这里是选择其他字段删除┗|O′|┛ 嗷~~ 不要直接选中id字段删除哈 主包之前就是没注意操作导致后面会出错哟)可以看到字段 “id” 已被删除点击 “确认”。2.8.4 过滤记录组件配置根据业务需求需要将盈利订单和亏损订单分开存储两个订单可以使用字段利润来区分。双击 “过滤记录” 组件在弹窗中的下拉列表中选择将结果发送给不同的后续处理步骤。选择字段利润profit来作为判断字段选中 “profit (Number)” 后点击 “确定”。如果这里只能显示id字段的很有可能在2.8.3步骤与主包犯了相同的错~ 设置0作为判断条件点击 “”在函数中选择 “”点击 “确定”。点击 “value”值类型选择 “Integer”值输入 “0”点击 “确定”。至此过滤条件已配置完成点击 “确认”。2.8.5 Excel 输出组件配置将接收到的结果写入到 Excel 表中双击 “盈利订单” excel 表输出组件在配置弹窗中文件名修改为 “盈利订单”选择文件拓展名 “xlsx [Excel 2007 and above]”。在配置弹窗中点击 “输出字段”在空白表格处右键点击 “获取字段”。字段获取后点击 “确认”。“亏损订单” 的 excel 组件也进行同样的设置。这里主包就不再放出图片哈(●◡●)2.9 执行转换组件配置完成后可执行转换任务点击启动按钮播放图标。在弹出的窗口中点击 “启动”任务即可开始运行任务执行成功可以看到流程中的所有组件都已标记为绿色对勾表示运行无错误。2.10 查看执行日志任务执行过程中会将相关操作记录到日志中。任务执行完毕后可查看执行结果及日志如下所示2.11 查看结果点击 “文件库”右键根目录刷新可以看到转换任务的输出结果盈利订单.xlsx 和 亏损订单.xlsx可以右键下载查看文件内容。至此通过一系列配置整个订单利润分流处理流程已经全部完成数据已按预期分流并输出到目标文件中。主包也是顺利完成了该实验任务。点击订单表格选中”预览输出”能预览表格哟三、实验结果盈利订单.xlsx profit ≥ 0 的订单 可进一步分析高利润产品 亏损订单.xlsx profit 0 的订单 可用于亏损原因追踪 实验成功实现了订单数据的关联与分流处理为后续的盈利分析提供了规范的数据基础。四、核心组件说明组件 作用 本实验配置要点 表输入 读取数据库表 配置数据源和 SQL自动获取字段 记录集连接 多表关联 选择连接类型和连接字段 字段选择 字段筛选与重命名 移除重复的 id 字段 过滤记录 按条件分流 设置 profit ≥ 0 Excel 输出 导出结果 配置文件名和输出字段五、问题与解决在实验过程中遇到了两个问题问题 1Excel 输出获取不到字段解决方法配置 Excel 输出时点击 “获取字段” 没有反应。原因是过滤记录到 Excel 输出的连接线类型选错了盈利订单应连接 “True 输出”亏损订单应连接 “False 输出”。重新创建连接线并正确选择后恢复正常。问题 2Excel 输出组件因文件名相同导致执行报错解决方法配置完两个 Excel 输出组件后执行转换系统报错。检查发现两个组件的默认输出文件名都是 “file”没有修改。两个输出步骤使用了相同的文件名导致平台无法区分。将盈利订单和亏损订单的 “文件名” 分别修改为 “盈利订单.xlsx” 和 “亏损订单.xlsx” 即可解决。问题3字段选择组件操作错误导致过滤记录组件时缺失字段解决方法删除字段选择组件重新正确操作就能恢复正常。六、实验总结通过本次实验我熟悉了助睿零代码ETL平台的基础操作流程涵盖项目创建、数据源同步、转换流搭建、组件配置与调试、任务执行及结果验证全流程。同时我系统掌握了表输入、记录集连接、字段选择、过滤记录、Excel输出等核心组件的配置逻辑并深刻理解了多表关联、条件分流在数据处理场景中的实际应用价值。相较于传统编写SQL和脚本的数据处理方式助睿平台的零代码拖拽式操作更加直观高效组件间的数据流向清晰可视化大幅降低了流程理解与问题调试的门槛尤其适合初学者快速上手高效完成常见数据加工任务。