遇到大数据量的excel文件如何快速导入到数据仓库中

数据上报 未结 2 245
雷震子
雷震子 LV4 2024年1月10日 16:04 发表
<p>小伙伴们经常遇到客户从业务系统中导出大数据量的excel文件,如果从网页端进行导入,对浏览器加载压力是个挑战,那么如何入库呢?下边跟我来操作</p><p>1、比如有客户导出的excel文件数据,30-50列,好几万行数据。</p><p><img src="http://www.wrenchdata.com:8443/uploaded/202401/20240110155440_go.png" style="max-width:100%;"><br></p><p>2、二话不说,打开荣培数据控制台,构建上报表单。加入可上传附件的控件,如下图</p><p><img src="http://www.wrenchdata.com:8443/uploaded/202401/20240110155547_us.png" style="max-width:100%;"><br></p><p>发布后如下图,直接双击上传即可。</p><p><img src="http://www.wrenchdata.com:8443/uploaded/202401/20240110155622_gf.png" style="max-width:100%;"><br></p><p>3、在荣培数据加工厂创建变量任务,如下图所示,动态获取每个月的上传附件的名称。</p><p><img src="http://www.wrenchdata.com:8443/uploaded/202401/20240110155742_5a.png" style="max-width:100%;"><br></p><p><img src="http://www.wrenchdata.com:8443/uploaded/202401/20240110155756_uf.png" style="max-width:100%;"><br></p><p>4、在数据库里建数据表用来存文件读取的数据。然后构建文件抽取任务。</p><p><img src="http://www.wrenchdata.com:8443/uploaded/202401/20240110155857_tk.png" style="max-width:100%;"><br></p><p><img src="http://www.wrenchdata.com:8443/uploaded/202401/20240110155935_ck.png" style="max-width:100%;"><br></p><p><img src="http://www.wrenchdata.com:8443/uploaded/202401/20240110155957_86.png" style="max-width:100%;"><br></p><p>5、建立作业,建立调度计划。</p><p><img src="http://www.wrenchdata.com:8443/uploaded/202401/20240110160042_s5.png" style="max-width:100%;"><br></p><p><img src="http://www.wrenchdata.com:8443/uploaded/202401/20240110160109_ev.png" style="max-width:100%;"><br></p><p>6、在表单属性里关联上调度计划,这样每次上传点击保存后,后台自动将上传的excel抽取到DW的库表中。</p><p><img src="http://www.wrenchdata.com:8443/uploaded/202401/20240110160213_aq.png" style="max-width:100%;"><br></p><p>7、打开表单,上传后,点击保存。看一下效果。</p><p><img src="http://www.wrenchdata.com:8443/uploaded/202401/20240110160254_0c.png" style="max-width:100%;"><br></p><p>看一下后台抽取日志</p><p><img src="http://www.wrenchdata.com:8443/uploaded/202401/20240110160331_bf.png" style="max-width:100%;"><br></p><p>12秒,跑了2W7的数据入库。也可以了。总比让客户一直等着前台加载,转转转不停好的多。。。。。</p><p>小伙伴们,用起来吧!</p>
收藏(0)  分享
相关标签: 数据字典 表单管理 数据导入 调度计划
注意:本文归作者所有,未经作者允许,不得转载
2个回复
  • 雷震子
    2024年1月10日 16:07
    那个动态拼接的地址为:C:\ROLLDATA\05_1产品安装包\webapps\ROOT\uploadFile\${filename} 注意后边的变量名称是加工厂里前一步自己做的变量设置 img[http://help.wrenchdata.com:80/uploaded/202401/20240110160729_lo.png]
    0 0
  • 雷震子
    2024年1月17日 09:38
    遇到上报文件大小超过5M的应该会超过系统默认限制。可以在后台进行修改。对应的修改配置表如下图。 img[http://help.wrenchdata.com:80/uploaded/202401/20240117093842_bv.png]
    0 0