当前位置: 首页 > news >正文

泉州做网站公司百度营业执照怎么办理

泉州做网站公司,百度营业执照怎么办理,网站页面示意图怎么做,专业网站建站RocksDB是Flink中用于持久化状态的默认后端,它提供了高性能和可靠的状态存储。然而,当处理大型状态并频繁读写时,可能会导致背压问题,因为RocksDB需要从磁盘读取和写入数据,而这可能成为瓶颈。 遇到的问题 Flink开发…

RocksDB是Flink中用于持久化状态的默认后端,它提供了高性能和可靠的状态存储。然而,当处理大型状态并频繁读写时,可能会导致背压问题,因为RocksDB需要从磁盘读取和写入数据,而这可能成为瓶颈。

遇到的问题

Flink开发中遇到读写state大对象的问题,Flink webUI 火焰图表现如下:
在这里插入图片描述从图上看,瓶颈卡在序列化与反序列化,结合业务逻辑代码,业务涉及state大对象的读写,并且是ValueState。

问题分析

如上,作为初学者来说,如果要在键值状态中存储Map<K, V>数据结构的状态,可能会认为使用ValueState<HashMap<K, V>>或者使用MapState<K, V>都是可行的。

如果我们选择使用HashMap状态后端,那么两种方式的性能上不会有很大差异,但是如果我们选择使用RocksDB状态后端,则推荐使用MapState<K, V>,避免使用ValueState<HashMap<K, V>>。

  • 因为ValueState<HashMap<K, V>>在将数据写入RocksDB时,是将一整个HashMap<K, V>序列化为字节数组之后写入的。
  • 同样,在读取时,也是先读取到字节数组,然后反序列化为一整个HashMap<K, V>后,再给用户使用。

所以每次访问和更新ValueState时,实际上都是对HashMap<K, V>这个集合类的大对象做序列化以及反序列化(如上图所示),而这是一个及其耗费资源的过程,很容易就会导致Flink作业产生性能瓶颈,所以极不推荐在ValueState中存储大对象。

问题调优

使用MapState代替ValueState,精简state数据量,问题解决。
除此之外还有一些其他调优策略:

  1. 增加算子并行度:通过增加算子的并行度,可以将负载分布到多个任务实例上,从而提高整体处理能力。这样可以减少单个任务实例的读写压力。

  2. 增加RocksDB的内存限制:RocksDB使用内存来缓存热数据,可以通过增加RocksDB的内存限制来提高缓存效果。可以通过Flink的配置选项state.backend.rocksdb.memory.managed来设置内存限制。

  3. 调整RocksDB的配置参数:RocksDB有许多配置参数可以调整,以优化读写性能。可以根据具体情况调整参数,例如write_buffer_size、max_write_buffer_number、max_background_compactions等。

  4. 使用异步快照:Flink提供了异步快照机制,可以将状态异步地持久化到RocksDB。这可以减少同步写入RocksDB的开销,并提高整体吞吐量。

  5. 定期进行状态清理和压缩:定期清理过期的状态数据和进行状态压缩可以减少磁盘占用和提高读写性能。可以使用Flink的状态后端接口进行定期的清理和压缩操作等等。

拿当前实例来说,虽然调优有很多种方式,例如:可以通过增量subtask并行度来提高处理能力(数据量大了还是会出现处理上的瓶颈,不可持续),但并没有找出问题的根本原因,或者说调优最大化。通过使用MapState代替ValueState,精简state数据量,可以达到调优最大化,以最小的代价解决最大的问题。

http://www.zhongyajixie.com/news/61900.html

相关文章:

  • 建设银行的财务网站百度高级搜索首页
  • 阿里云部署一个自己做的网站吗网站优化推广哪家好
  • 做网站 工资高吗网站seo系统
  • 房地产网站做编辑刚刚入行网站推广营销运营方式
  • 怎么做刷钻网站宁波seo关键词优化报价
  • 在什么网站可以做硬件项目网络游戏推广公司
  • 密云建设网站沈阳百度推广优化
  • 深圳专业网站制作平台查看网站流量的工具
  • 商务网站制作语言基础软文营销的特点
  • 黄页号码标记申诉西安网站建设方案优化
  • 企业网站建设情况汇报搜索引擎优化公司排行
  • 哪些网站适合新手编程做项目网页点击量统计
  • 新乡建设网站公司人民日报评网络暴力
  • 电子商务网站规划建设与管理seo全网营销公司
  • 网站开发论文靠谱不调研报告万能模板
  • 如何把自己做的网站网站一般怎么推广
  • 学java做安卓还是做网站好青岛网站设计公司哪家好
  • 私人公司怎么做网站百度竞价推广属于什么广告
  • 揭阳做网站建设公司百度seo手机
  • 网站建设四个阶段的流程seo去哪学
  • 厦门网站建设合同武汉seo排名优化
  • 使用 私有云 做视频网站qq推广链接
  • 网站的备案信息站外推广渠道
  • 个人博客网站logo中国国家培训网官网入口
  • wordpress最好的中文主题小时seo
  • 做网站的技巧独立站seo实操
  • 济南360做网站电话推广普通话手抄报
  • 怎样做_网站做seo上海整站seo
  • 网站域名网站权重等级
  • 制作网页如何添加图片网站seo优化培训