当前位置: 首页 > news >正文

哪个网站可查询有没有做社保卡短视频营销案例

哪个网站可查询有没有做社保卡,短视频营销案例,企业管理软件a6怎么新建账套,北京代理记账公司招聘参考视频 大数据Sqoop教程丨从零开始讲解大数据业务及数据采集和迁移需求_哔哩哔哩_bilibili 介绍 Sqoop是Hadoop生态体系和RDBMS(关系型数据库)体系之间传送数据的一种工具 Hadop生态系统:HDFS,Hbase,Hive等 RDBMS包…

参考视频

        大数据Sqoop教程丨从零开始讲解大数据业务及数据采集和迁移需求_哔哩哔哩_bilibili

介绍

Sqoop是Hadoop生态体系和RDBMS(关系型数据库)体系之间传送数据的一种工具

        Hadop生态系统:HDFS,Hbase,Hive等

        RDBMS包括:Mysql,Oracle,DB2等

        Import:数据导入, RDBMS(DBinputFormat) -> Hadoop(TestoutputFormat)

        export:  数据导出,Hadoop(DBoutputFormat) -> RDBMS(TestInputFormat)

机制

        Sqoop工作机制是将导入或导出命令翻译成MapReduce程序来实现,在翻译出的MapReduce中主要对ImportFormat和OutFormat进行定制

安装部署

前置条件:

安装java,hadoop

配置文件(基于sqoop1.4.6):

上传,解压,修改配置

cd $SQOOP_HOME/conf
mv sqoop-env-template.sh sqoop-env.sh
vim sqoop-env.shexport HADOOP_CONFIG_HOME=/export/../hadoop-2.7.5
export HADOOP_MAPRED_HOME=/export/../hadoop-2.7.5
export HIVE_HOME=/export/../hive

加入mysql的jdbc驱动包

cp /hive/lib/mysql-connector-java-5.1.32.jar $SQOOP_HOME/lib/

验证

bin/sqoop list-databases \
--connect jdbc:mysql://localhost:3306/ \
--username root --password 123456\: 一行过长,用\表示一行还没有完,等待

sqoop导入

bin/sqoop import \
--connect jdbc:mysql://ip:port/dbName \
--username roor \
--password 123456\
--delete-target-dir \ (如果target-dir 的路径存在,提前删除)
--target-dir /sqoopresult \ (可以用来存放导出数据存放到HDFS的目录)
--table myTableName \
--m 1 \ (可以理解成maptask ,并行度,表有主键根据主键分,没有主键需要指定字段)
--split-by id \ (根据什么字段切割,最好是数字字段)
--fields-terminated-by '\t' (指定分隔符,还可以,等,默认,)条件导入
--where "age>12" (条件查询导入,可改成每天时间,则是每日导出)
--query 'select id,name,age from myTableName where age>18 and $CONDITIONS' (1 不加--table,2 必须有where条件, 3必须加上$CONDITIONS, 4 sql必须是单引号)增量导入
--check-column(col)  (指定列,一般是主键或者时间戳,自增长不重复)
--incremental(mode)  (append:追加 lastmodified:最后的修改时间)
--last-value(value)  (指定上次导入后判断的最大值,也可以自己指定某一个值)
--merge-key (col)(append模式下可以合并文件,不会每次导入都在hdfs里新增一个文件.除了追加合并外,如果之前的数据有修改也可以进行修改操作,且数据不会重复)
eg:
--check-column id
--incremental append
--last-value 1205 
--merge-key id (追加,id>=1205的数据)
--check-column create_time
--incremental lastmodified
--last-value '2020-02-01 15:00:00' (追加,大于整个时间的数据)

sqoop导出

目标表必须存在数据库当中

导出的三种模式

1 默认,执行insert语句,插入到表里

2 更新模式,sqoop将生成UPDATE置换数据库中现有记录的语句

3 调用模式,sqoop将为每条记录场景一个存储过程调用

待补充

参考文档:

Sqoop简介以及使用-CSDN博客

http://www.zhongyajixie.com/news/32528.html

相关文章:

  • 保定网站建设求职简历app推广接单平台
  • 如何用ps做网站页面设计快速提高排名
  • 一级a做爰片免播放器网站百度网页高级搜索
  • 济南网站制作公司哪家好求职seo推荐
  • 嘉兴网站建设技术托管网站排名工具
  • 南宁网站建设哪里有网站联盟
  • php做网站需要学的东西免费的推广引流软件下载
  • wordpress.com vip东莞搜索优化十年乐云seo
  • 广众人才网猎头网站建设建设网站流程
  • 口碑最好的购物网站平台重庆百度推广优化排名
  • 网站制作手机网站域名服务器查询
  • 用vs2010做免费网站模板优化 保证排名
  • wordpress wordcloudseo优化范畴
  • 电影采集网站建设免费下载百度并安装
  • 网站建设策划案模板外贸订单怎样去寻找
  • 网站做外国生意网站域名备案信息查询
  • 服装网站建设的目的无线新闻台直播app下载
  • 购物商城网站开发代写软文费用全网天下实惠
  • asp网站安全如何做搜狗网站收录提交入口
  • 做网站设计参考文献怎样做企业推广
  • 成都优化网站优化大师 win10下载
  • 辽宁省建设监理协会网站优化整站
  • 济源市网站建设企业网站seo案例
  • asp.net网站项目seo怎么做关键词排名
  • 网站建设定制百度客服中心
  • 网站开发需求收集口碑营销的作用
  • 如何建立一个网站收会员费无人区在线观看高清1080
  • 用dw做动态网站乱码怎么弄百度代理授权查询
  • 天津武清做网站的公司如何在百度上做推广
  • asp网站安全吗短期培训学什么好