上篇筆記對Flume的使用處景和系統架構做了介紹,本篇筆記以實例說明Flume的配置方法。下面開始正文。
1. Flume使用實例
1.1 配置
Flume agent的3個組件及其拓撲關系是在配置文件中指定的,總的原則是必須列出source/channel/sink的name/type等重要的配置項,并通過channel將source(s)和sink(s)連接起來,另外,1個source可以指定多個channel,而1個sink只能接收來自1個channel的數據。
這里給出的是部署1套含1個source、1個channel、1個sink的Flume agent的配置示例,更多的配置規則可以參考Flume User Guide的Configuration部份。
假定外部數據源是nginx的access_log,為保證數據不丟失(通過ExecSource履行tail
生活不易,碼農辛苦
如果您覺得本網站對您的學習有所幫助,可以手機掃描二維碼進行捐贈