Fluentd+WebHDFSの書き込み問題


以前に晒したFluentdからWebHDFSに対してログを流し込むフローの部分を、
少しキツ目の環境にブっこんで運用したら色々問題点がでてきたので記しておきます。

どちらかというとFluentdというよりはHDFSよりの話になります。



HDFSファイルのCREATEエラー

複数のFluentd CollectorからHDFSの1ファイルへ共通して書き込むというスタイルをとってみました。こんな感じに1分毎のHDFSファイルとして。

これをやると、必ずファイルの新規作成時にそれなりの頻度でエラーが発生します。
正直言うと、こうなるだろうことは予想していましたが、簡素な負荷試験では見受けられませんでした。

なぜエラーが起きるかというと、WebHDFSの書き込み仕様によるところが強いのですが、ファイルの新規作成をCREATE、追記がAPPENDとなっていて、その辺はこちらに詳しく書いてあります。

  • Hadoop Distributed File System-2.0.0-cdh4.0.1 – WebHDFS REST API

  • どちらにせよ、NameNodeにHTTPでリクエストを投げて、返す刀でLocation先となるDataNodeにHTTPでデータを送信する流れになっています。

    で、fluent-plugin-webhdfs はAPPENDにも対応していて、簡単に言うと APPEND してみて失敗したら CREATE するようになっています。これはSQLで言うところのUPDATE -> INSERT の技法で、参照クエリを省略できる方法です。

    それ自体は問題ないのですが(若干の問題については次回)、2HTTPで1リクエストである点と、HDFSにはトランザクションとか排他制御の概念は無いことから、複数Collectorから同時にCREATEをするタイミングでエラーとなります。

    このCREATEエラーはこんなのがDataNodeから返されます。

    対策としては

  • 再送でAPPEND成功するからいいべ => カコワルイ
  • APPEND -> CREATE -> APPEND にしたらカバーできるべ => カコワルイ

  • ということで、素直に collector : hdfs file = 1 : 1 にするのが良いと判断し、
    前に、webhdfsプラグインの path に %{tag} を使えるようにしたと書きましたが、
    %{hostname} も使えるようにして対応しました。

    書き込み頻度やpath条件を調整してマシにはできるかもしれませんが、この部分は 100% の成功を目指す所なので、エラーの可能性を残すことはやりません。WebHDFSの仕様もそうですが、HDFSの構造上、この辺を高望みしていてもしょうがないと思われるので、並列CREATEやAPPENDは大人しくやめるのが吉でしょう。

    HDFSへの高速APPENDエラー

    CREATEとAPPENDの考察

    CREATEと同じくAPPENDの信頼度も高いはずもなく、1HDFSファイルに大量にAPPENDをしているとこのようなエラーが出ます。

    このエラーは、1HDFSファイルに対して単発Collectorであろうと複数Collectorであろうと出ます。

    なので 1Collector : 1HDFSファイル で1分毎pathのファイルの場合で話をしますが、
    例えば、1秒毎にHDFSにFlushすると、1CREATE+59APPEND になり、
    10秒毎だと1CREATE+6APPEND になるわけです。

    APPENDが複数になるパターンは、エラー頻度を緩和できても絶対起きないとは言い切れません。
    しかし、1分ファイルに対して60秒毎にFlushした場合、1CREATE+1APPENDになるため (1CREATEのみになることはまずないでしょう)、APPENDの衝突という線は無くなります。とはいえ、CREATEしたものの何かに時間がかかってAPPENDが失敗する、という線はゼロではないですが、pathを時間区切りにする以上は必須の処理ですし、それほど遅いとしたらそもそも大幅に改善すべき状態なので、そこは気にしないでよいかなと。

    と書いてて 300秒毎 にしたら真ん中4ファイルはCREATEだけになるなーとか思ったけど、APPENDがなくなるわけじゃないしログ配送遅延となるので、それなら全てのファイルに平均した負荷にして調整する方が正統派のような気がしました


    Fluentdの仕様による高速APPEND

    この部分は本来fluentdのソースを奥まで読みといてから書くべきところですが、いちいち読んでたら使ってる意味無いので感覚的でMaybeなノリで書きます。

    APPENDがーAPPENDがーと言ってる間にふと気になったので仲間に見てもらったのですが、そもそも60秒間隔でHDFSに書き込んだとして、実際にCREATEとAPPENDは何回発生しているのかという話。

    1:31 – 2:30 と 2:31 – 3:30 のデータをFlushするとして、2:00 – 2:59 のHDFSファイルはイメージ通り 1CREATE+1APPENDで収まっているのだろうかと。

    で、まず flush_interval 60 で見たところ、HDFSへの書き込み間隔はだいたい60秒に1回なんだけど、どうやらその1回の中身が60chunk になっていて結果として 1CREATE+59APPEND になっていたっぽい罠。どうりで単発Collectorでもエラーが無くならないわけだ、と。

    それはマズいと次に time_slice_wait 60 を試したところ、エラーは出なくなって、どうやら 1ファイル当たり1CREATE+1APPEND になって効率が良くなったようだ、という見解。この辺がfluentdの奥の方に隠蔽されているので追っていない。

    time_slice_wait と flush_interval は同時に設定できないので片方のみ利用すること



    間隔設定とかはもう少しちゃんと動作を知っておきたいところ。
    60秒にしたら起動直後からキッカリ60秒刻みになるのか、少しずつズレていくのか、とか、pathに使われた最低単位の時間と間隔設定を合わせて最も効率の良いタイミングでFlushしてくれないかな、とか。

    あとtimeout関係もまだ曖昧にしたままだな。
    とはいえ、元気に動きそうな感じにはなってます。


    次回は、今回と少し関係して log4j のことでも軽く。

    Fluentd+WebHDFSの書き込み問題 への1件のコメント

    1. 財布、腕時計、バッグ スーパーコピー
      当店の主要な経営のブランド:ヴィトン ディオール
      シャネル グッチ コーチ ロレックスなど.
      当社の目標はコピーブランド品質第一、信用第一スーパーコピーブランド、ユーザー第一の原則を守り、
      心地よい親切で最高のインターネットサービスご提供することです。
      品質を重視、納期も厳守、信用第一は当社の方針です。
      弊社長年の豊富な経験と実績があり。
      輸入手続も一切は弊社におまかせてください。
      質が一番、最も合理的な価格の商品をお届けいたします。

    コメントを残す

    メールアドレスが公開されることはありません。

    次のHTML タグと属性が使えます: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code class="" title="" data-url=""> <del datetime=""> <em> <i> <q cite=""> <strike> <strong> <img localsrc="" alt=""> <pre class="" title="" data-url=""> <span class="" title="" data-url="">