這篇文章給大家分享的是有關(guān)flink1.9.1升級到flink1.12.1有什么改變的內(nèi)容。小編覺得挺實用的,因此分享給大家做個參考,一起跟隨小編過來看看吧。
創(chuàng)新互聯(lián)公司主要業(yè)務(wù)有網(wǎng)站營銷策劃、成都網(wǎng)站制作、網(wǎng)站建設(shè)、微信公眾號開發(fā)、小程序開發(fā)、H5開發(fā)、程序開發(fā)等業(yè)務(wù)。一次合作終身朋友,是我們奉行的宗旨;我們不僅僅把客戶當(dāng)客戶,還把客戶視為我們的合作伙伴,在開展業(yè)務(wù)的過程中,公司還積累了豐富的行業(yè)經(jīng)驗、網(wǎng)絡(luò)營銷推廣資源和合作伙伴關(guān)系資源,并逐漸建立起規(guī)范的客戶服務(wù)和保障體系。
在1.10和_1.11_版本中,F(xiàn)link 分別對TaskManager和JobManager的內(nèi)存配置方法做出了較大的改變。 部分配置參數(shù)被移除了,或是語義上發(fā)生了變化。
jobmanager.heap.size
jobmanager.heap.mb
盡管這兩個參數(shù)以“堆(Heap)”命名,在此之前它們實際上只有在獨(dú)立部署模式才完全對應(yīng)于 JVM 堆內(nèi)存。 在容器化部署模式下(Kubernetes 和 Yarn),它們指定的內(nèi)存還包含了其他堆外內(nèi)存部分。 JVM 堆空間的實際大小,是參數(shù)指定的大小減去容器切除(Cut-Off)內(nèi)存后剩余的部分。 容器切除內(nèi)存在 1.11 及以上版本中已被徹底移除。
上述兩個參數(shù)此前對 Mesos 部署模式并不生效。 Flink 在 Mesos 上啟動 JobManager 進(jìn)程時并未設(shè)置任何 JVM 內(nèi)存參數(shù)。 從 1.11 版本開始,F(xiàn)link 將采用與獨(dú)立部署模式相同的方式設(shè)置這些參數(shù)。
這兩個配置參數(shù)目前已被棄用。 如果配置了上述棄用的參數(shù),同時又沒有配置與之對應(yīng)的新配置參數(shù),那它們將按如下規(guī)則對應(yīng)到新的配置參數(shù)。
獨(dú)立部署模式(Standalone Deployment)、Mesos 部署模式下:JVM 堆內(nèi)存(jobmanager.memory.heap.size
)
容器化部署模式(Containerized Deployement)下(Kubernetes、Yarn):進(jìn)程總內(nèi)存(jobmanager.memory.process.size
)
建議您盡早使用新的配置參數(shù)取代啟用的配置參數(shù),它們在今后的版本中可能會被徹底移除。
如果僅配置了 Flink 總內(nèi)存或進(jìn)程總內(nèi)存,那么 JVM 堆內(nèi)存將是總內(nèi)存減去其他內(nèi)存部分后剩余的部分。 請參考如何配置總內(nèi)存。 此外,也可以通過配置 jobmanager.memory.heap.size
的方式直接指定 JVM 堆內(nèi)存。
新的內(nèi)存配置要求用戶至少指定下列配置參數(shù)(或參數(shù)組合)的其中之一,否則 Flink 將無法啟動。
TaskManager: | JobManager: |
---|---|
taskmanager.memory.flink.size | jobmanager.memory.flink.size |
taskmanager.memory.process.size | jobmanager.memory.process.size |
taskmanager.memory.task.heap.size 和taskmanager.memory.managed.size | jobmanager.memory.heap.size |
在原本的內(nèi)存配置方法中,用于指定 JVM 堆內(nèi)存 的配置參數(shù)是:
修改配置
jobmanager.heap.size: 1024m --> jobmanager.memory.process.size: 1024m
taskmanager.heap.size: 2048m --> taskmanager.memory.flink.size: 2048m
flink的版本升級:<flink.version>1.9.1</flink.version> --> <flink.version>1.12.1</flink.version>
kafka connector版本升級:<artifactId>flink-connector-kafka-0.11_${scala.binary.version}</artifactId> --> <artifactId>flink-connector-kafka_2.11</artifactId>
廢棄方法去除:env.getConfig().disableSysoutLogging(); --> //env.getConfig().disableSysoutLogging();
消費(fèi)者:FlinkKafkaConsumer011<String> consumer = new FlinkKafkaConsumer011<>( --> FlinkKafkaConsumer<String> consumer = new FlinkKafkaConsumer<>(
感謝各位的閱讀!關(guān)于“flink1.9.1升級到flink1.12.1有什么改變”這篇文章就分享到這里了,希望以上內(nèi)容可以對大家有一定的幫助,讓大家可以學(xué)到更多知識,如果覺得文章不錯,可以把它分享出去讓更多的人看到吧!
當(dāng)前名稱:flink1.9.1升級到flink1.12.1有什么改變
文章來源:http://sd-ha.com/article0/popcio.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供網(wǎng)站制作、小程序開發(fā)、虛擬主機(jī)、響應(yīng)式網(wǎng)站、企業(yè)建站、App開發(fā)
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)