游戏电视苹果数码历史美丽
投稿投诉
美丽时装
彩妆资讯
历史明星
乐活安卓
数码常识
驾车健康
苹果问答
网络发型
电视车载
室内电影
游戏科学
音乐整形

大数据ApacheDruid(四)使用Imply进行Drui

  使用Imply进行Druid集群搭建
  Imply基于Druid进行了一些组件的开发,是Druid的集成包,提供开源版本和商业版本,类似CDH一样,使安装Druid简化了部署,Imply也是Druid团队开发。
  我们可以使用Imply安装Druid,在Imply的官网https:imply。io进行下载,经过测试这个版本在提交加载数据任务时有一些bug(加载数据任务总是失败)。一、下载Imply1、登录Imply官网,点击Product
  2、点击Getstart,填写邮箱等信息,下载imply
  二、安装Imply1、节点划分
  节点IP
  节点名称
  角色
  192。168。179。6
  node3
  zk,DruidMaster(overload,coordinator)
  192。168。179。7
  node4
  zk,DruidData(middleManager,historical)
  192。168。179。8
  node5
  zk,DruidQuery(broker,router)2、上传下载好的imply
  将imply安装包上传到node3software目录下,并解压〔rootnode3software〕tarzxvf。imply2022。07。tar。gzdrwxrwxrx710011001121Jul2205:49imply2022。073、在MySQL中创建imply元数据库
  在node2节点登录mysql,创建druid需要的两个源数据库。〔rootnode2〕mysqlurootp123456CREATEDATABASEdruidDEFAULTCHARACTERSETutf8;CREATEDATABASEpivotDEFAULTCHARACTERSETutf8;
  注意:mysql的版本需要在5。5之上4、配置common。runtime。properties文件
  进入softwareimply2021。07confdruidcommon路径下,修改common。runtime。properties文件,在该文件中配置扩展信息、zookeeper集群信息、MetadataStorage使用MySQL、DeepStorage使用HDFS:Extensionsdruid。extensions。directorydistdruidextensionsdruid。extensions。hadoopDependenciesDirdistdruidhadoopdependencies添加mysql元数据管理和支持kafkadruid。extensions。loadList〔mysqlmetadatastorage,druidkafkaindexingservice〕Zookeeper配置zookeeper集群节点druid。zk。service。hostnode3:2181,node4:2181,node5:2181druid。zk。paths。basedruidMetadatastorageForDerbyserveronyourDruidCoordinator(onlyviableinaclusterwithasingleCoordinator,nofailover):将默认Storage默认为derby注释掉druid。metadata。storage。typederbydruid。metadata。storage。connector。connectURIjdbc:derby:master。example。com:1527vardruidmetadata。db;createtruedruid。metadata。storage。connector。hostmaster。example。comdruid。metadata。storage。connector。port1527配置MySQL作为Storage元数据存储库ForMySQL:druid。metadata。storage。typemysqldruid。metadata。storage。connector。connectURIjdbc:mysql:node2:3306druiddruid。metadata。storage。connector。userrootdruid。metadata。storage。connector。password123456Deepstorage注释掉默认的本地数据存储Forlocaldisk(onlyviableinaclusterifthisisanetworkmount):druid。storage。typelocaldruid。storage。storageDirectoryvardruidsegments配置HDFS存储ForHDFS:druid。storage。typehdfsdruid。storage。storageDirectoryhdfs:myclusterdruidsegments5、配置coordinator节点
  进入softwareimply2021。07confdruidcoordinator路径下,配置runtime。properties,配置coordinator节点:druid。servicedruidcoordinator配置Druidcoordinator节点druid。hostnode3druid。port8081druid。coordinator。startDelayPT30Sdruid。coordinator。periodPT30S6、配置overlord节点
  进入softwareimply2021。07confdruidoverlord路径,配置runtime。properties,配置overlord节点。druid。servicedruidoverlord配置overlord节点druid。hostnode3druid。port8090druid。indexer。queue。startDelayPT30Sdruid。indexer。runner。typeremotedruid。indexer。storage。typemetadata7、配置historical节点
  进入softwareimply2021。07confdruidhistorical路径,配置runtime。properties,配置historical节点。druid。servicedruidhistorical配置Druidhistorical节点druid。hostnode4druid。port8083配置Historical缓存内存,默认是512M,这里配置1M,不然内存不足会报错druid。processing。buffer。sizeBytes536870912druid。processing。buffer。sizeBytes10485768、配置middleManager节点
  进入softwareimply2021。07confdruidmiddleManager路径,配置runtime。properties,配置middleManager节点。druid。servicedruidmiddlemanager配置DruidmiddleManager节点druid。hostnode4druid。port80919、配置broker节点
  进入softwareimply2021。07confdruidbroker路径,配置runtime。properties,配置broker节点。druid。servicedruidbroker配置Druidbroker节点druid。hostnode5druid。port8082Processingthreadsandbuffers配置broker缓存数据大小默认是512M,这里设置1M,后期内存不足会报错druid。processing。buffer。sizeBytes536870912druid。processing。buffer。sizeBytes104857610、配置router节点
  进入softwareimply2021。07confdruidrouter路径,配置runtime。properties,配置router节点。druid。servicedruidrouter配置Druidrouter节点druid。hostnode5druid。port888811、配置config。yaml
  进入softwareimply2021。07confpivot路径,配置config。yaml配置文件:initialSettings:connections:name:druidtype:druidtitle:MyDruidhost:localhost:8888配置集群访问节点,及角色节点,注意空格host:node5:8888coordinatorHosts:〔node3:8081〕overlordHosts:〔node3:8090〕注释掉默认的StateStore配置stateStore:type:sqliteconnection:varpivotpivotsettings。sqlite2)Databasebackedstatemysql(MySQL)orpg(Postgres)配置StateStorestateStore:location:mysqltype:mysqlconnection:mysql:root:123456node2:3306pivot12、修改每个服务启动JVM内存参数
  正常情况下,如果我们采用的是真实的服务器,修改以上配置文件可以启动集群,如果使用虚拟机,需要修改下每个服务启动JVM内存参数,将默认配置的大的内存改小一些,改为1g,默认配置小于1g的可以不做修改。
  在Druid中,为了提高查询效率,Broker会缓存大量的数据到内存中,如果内存越大,实际查询效率越高。修改softwareimply2021。07confdruidbrokerjvm。configXms1gXmx1gXX:MaxDirectMemorySize1g修改softwareimply2021。07confdruidcoordinatorjvm。configXms1gXmx1g修改softwareimply2021。07confdruidhistoricaljvm。configXms1gXmx1gXX:MaxDirectMemorySize1g修改softwareimply2021。07confdruidoverlordjvm。configXms1gXmx1g将以上配置好的imply发送到node4,node5节点上〔rootnode3software〕scpr。imply2021。07node4:software〔rootnode3software〕scpr。imply2021。07node5:software在node3、node4、node5节点上配置imply环境变量在node3、node4、node5节点上修改etcprofile文件exportDRUIDHOMEsoftwareimply2021。07exportPATHPATH:DRUIDHOMEbin使profile生效sourceetcprofile三、启动imply集群在node3、node4、node5节点上,启动zookeeper集群zkServer。shstart在node3上启动overlord和coordinator〔rootnode3〕supervisecsoftwareimply2021。07confsupervisemasternozk。conf注意:c指定的masternozk。conf指的是不适用内部自带zookeeper,使用外部zookeeper,在此文件中可以看到启动overlord和coordinator。可以后面指定daemon在后台启动。在node4上启动historical和middleManager〔rootnode4〕supervisecsoftwareimply2021。07confsupervisedata。conf注意:c指定的data。conf中有启动historical和middleManager信息。可以后面指定daemon在后台启动在node5上启动broker和router〔rootnode5〕supervisecsoftwareimply2021。07confsupervisequery。conf注意:c指定的query。conf中有启动broker和router的信息。可以后面指定daemon在后台启动。
  初次启动时,建议前台启动,如果启动不成功会一直重试,并显示相应错误日志路径。启动成功后,在对应节点jps可以看到每个节点都有两个Main进程,当ctrlc取消前台进程时,对应的Main进程也会停止。
  如果Druid启动没有问题,那么也可以编写启动脚本,在node3节点进入softwareimply2021。07bin目录下,创建startdruid。sh脚本,内容如下:nohupsshnode3sourceetcprofile;supervisecsoftwareimply2021。07confsupervisemasternozk。confdaemonsoftwaredruid。log21nohupsshnode4sourceetcprofile;supervisecsoftwareimply2021。07confsupervisedata。confdaemonsoftwaredruid。log21nohupsshnode5sourceetcprofile;supervisecsoftwareimply2021。07confsupervisequery。confdaemonsoftwaredruid。log21
  脚本附件如下:
  nohupsshnode3sourceetcprofile;supervisecsoftwareimply2021。07confsupervisemasternozk。confdaemonnohupsshnode4sourceetcprofile;supervisecsoftwareimply2021。07confsupervisedata。confdaemonnohupsshnode5sourceetcprofile;supervisecsoftwareimply2021。07confsupervisequery。confdaemon
  编写完成后,修改startdruid。sh执行权限,执行startdruid。sh启动Druid集群。〔rootnode3bin〕chmodxstartdruid。sh
  如果停止Druid集群,可以在node3、node4、node5节点上使用如下命令:softwareimply2021。07binservicedown
  也可以在node3softwareimply2021。07bin目录下编写成停止脚本stopdruid。sh,并设置权限,执行stopdruid。sh停止集群:nohupsshnode3softwareimply2021。07binservicedownnohupsshnode4softwareimply2021。07binservicedownnohupsshnode5softwareimply2021。07binservicedown
  脚本附件如下:
  nohupsshnode3softwareimply2021。07binservicedownnohupsshnode4softwareimply2021。07binservicedownnohupsshnode5softwareimply2021。07binservicedown四、访问DruidWebUI
  组件名称
  功能
  URL
  broker
  查询服务
  http:node5:8888
  pivot可视化页
  http:node5:9095pivothome

退休医生提醒寿命长,或不是多走路和多睡觉,而是坚持这2件事不管是古代还是当今,大家对于寿命长短这个问题尤为关注。古时候有帝王炼制长生不老的药物,现在男女老少都开始追求养生保健的效果,预防身体衰老速度,起到延年益寿的作用。随着社会……原神手速有多快完成有多快,简单的任务成就,不错过不放过传送到矇云神社这里的七天神像,传送过来就会看到一个感叹号,过去交互对话接取任务。一番对话后久美小姐需要我们搜集三份绯樱绣球交给她。下面这张图是绯樱绣球的获取位置,传……南方人吃起油条来,到底多疯狂?来源:地道风物在南方,油条有多少好CP?谁能拒绝一根刚出锅的油条呢?抻长的面团两两合抱,在滚沸的油锅里一沉一浮,捞出来控净浮油,正是最好吃的时候。牙齿一……委曲求全!如何看待面姐对k宝的质问?她捂住耳朵不想听2022年冬奥会已落下帷幕,花样滑冰作为本次冬奥会最受关注的项目,俄罗斯3娃(K宝、千金、莎莎)自然成为了大家热议的点,正当大家以为3娃会包揽花样滑冰女子单人自由滑前3名时,意……张斌房地产这个夜壶该被拿出来了吗?不会就问日本当初跟中国还是差别挺大的,日本是有非常大的房地产泡沫,中国杠杆率是有严格限制的。中国社科院世经政研究所副所长张斌说起日本的房地产,人们就会想到泡沫。1992年的……南美巴西秘鲁之旅(一)2013巴西秘鲁2013年3月初,微信还没有朋友圈。原本一直在计划前往埃及的我,却偶然间从网上获得了去南美机票特价的消息。有这样的羊毛,怎能不薅?迅速寻找同伴,身边……风格大变!科比大女儿留脏辫,妈妈瓦妮莎亲自为她梳理,眼神温柔科比离开这个世界已经两年了,但是他在赛场上的点点滴滴都还留在人们的心中,球迷们也通过关注瓦妮莎母女的日常来怀念科比,近日科比的大女儿晒出了留脏辫的视频,瓦妮莎也亲自为娜娜梳理头……四川南充高三女生在射击世锦赛上勇夺4金!其母女儿从小学习好,北京时间10月17日,2022年射击(步手枪)世锦赛在埃及开罗结束了第五比赛日的争夺,中国队收获4金3铜,以17金6银6铜共计29枚奖牌领跑金牌榜和奖牌榜。在这次比赛上,……食品安全主题班会主持稿食品安全与我们息息相关,关系到我们的人生安全,是每个公民的事,也是每个公民必需知道和注意的事。下面公文站小编为大家推荐的是食品安全主题班会主持稿,欢迎阅读参考。食品安全主题班会……幼儿园2022保教工作计划范本【篇一】一、指导思想坚持以《幼儿园工作规程》和《幼儿园教育指导纲要》为指导,以提高幼儿与教师发展及幼儿园的保教质量为目标,根据教委办对幼儿教育工作的意见,结合本园实……思想政治个人年度工作总结三篇篇一我于年大学毕业分配到区政府办公室工作至今,曾先后从事综合、信息、地方志等项工作,现任信息股股长、政府办党支部纪检委员。几年来,在办公室各位主任的正确领导和各股室同志的……在新闻网的实践报告范文这次寒假在新闻网站实习是为了锻炼自己的实际操作能力,将学习的理论知识运用于实践之中,反过来还能检验书本上理论的正确性,有利于融会贯通,同时,也能开拓视野,完善自己的知识结构,达……
聚焦功效领域筑牢护肤壁垒步履不停,创新不止。护肤行业中从不缺乏佼佼者,但长期坚持做好并不容易,二十余年深耕于美业的暨源生物,在最前沿的技术领域,不断提升原料及产品的研发实力,用前沿科技打造功效护城河,……震惊游戏圈!腾讯90后程序员跳楼身亡,曾获微软颁奖,堪称大神昨天,知名游戏开发大神毛星云(网名浅墨)不幸去世。游戏圈内的朋友们都很震惊,因为根本毫无任何预兆,没想到就这么突然地走了。他在知乎回答的最后一个问题是:你发生过最尴尬的事……太阳5换1报价戴维斯!报价背景太阳目前遭遇了三连败,战绩来到20胜18负,排在西部第七,由于布克的受伤,太阳即便拥有不错的阵容深度,但在狂野的西部,仅靠艾顿和保罗双核带队,根本不够打,一个又软……我,27岁山东人,在英国跳旗袍舞,70岁的外国人因我研究德龄这是我们讲述的第956位真人的故事我是闫闻,一个在英国致力于旗袍传统文化传播的山东姑娘。外国模特,穿旗袍走秀,能穿出东方韵味来吗?我不觉得。谈起和旗袍结缘,还……消费发力,三驾马车才能并驾齐驱2022年初,国家定下了今年GDP增长5。5的目标。目前来看,要完成这一目标已经不现实了。经济学上常把投资、消费、出口比喻为拉动GDP增长的三驾马车。目标不能实现,肯定是三驾马……一个月前被网暴的本西蒙斯,现在为什么成了篮网的香饽饽?西蒙斯需要找回自己的状态,否则篮网在季后赛第一轮就会被淘汰,这是揭幕战前,一位生于布鲁克林、长于布鲁克林的本地球迷,在面对采访时说的话。正是因为他热爱布鲁克林,所以他对球队现状……iPad10对比iPadAir4与其说iPad10是iPad9的升级,不如说是iPadair4的简配版。下面我们对比一下配置屏幕:尺寸完全一样,分辨率一毛一样;不同点是air支持p3广色域,贴合屏幕……7。99mm!拯救者Y70开启性能旗舰新风潮联想拯救者Y70发布:2970起电竞手机这个分类2018年刚出现的时候,被不少人认为是伪需求,因为在当时的市场环境中,似乎并不需要一款专门的电竞手机来提升游戏体验,普通的旗舰手……那个被刘强东承诺坚持5年就有一套房的员工如今干满10年怎样了刘强东作为京东的老大,从独自创业到如今,是经历了多少的困难,他作为过来人也是深知这其中的辛苦,所以对于员工那是一个体贴,经常会给出很多很好的福利,当初的年会也是羡慕至极,这不第……黄光裕更新朋友圈新模式门店能赶上新时代列车吗?来源:GPLP(ID:gplpcn)作者:看平地长得万丈高资本进入多重变奏,互联网跌入凛冬,新零售企业猝不及防,冀求抱团取暖,其中也包括国美零售。资本市场进入多重变……美日科学家创造出比绝对零度高十亿分之一的低温!并非已有最低头条创作挑战赛温度是宇宙间物质与能量的一种表征,体现为粒子运动的激烈程度,也是我们衡量物体冷热状态的指标。我们都知道有个绝对零度的物理概念,这个温度为零下273。15,如……nba下一个十年领军人物会是谁,一定非这四人莫属NBA作为全世界万众瞩目的篮球殿堂,诞生过无数举世闻名的巨星,就像詹姆斯、库里等人一样,在一个时间段都能各领风骚,但随着年月的增长,联盟也进入了更新换代的时候。而就目前来……
友情链接:易事利快生活快传网聚热点七猫云快好知快百科中准网快好找文好找中准网快软网