タグ別アーカイブ: cdh4

CDH4 Configurations with YARN, Capacity Scheduler and Hive

検索 前回の続きで、私がCDH4で利用している外道式設定ファイルの紹介です。 非常に手間暇かけて作成したものなので墓の下まで持って行きたいところですが、某所からの圧力と社会のために、恥ずかしながら放出したいと思います。

How to upgrade from CDH3 to CDH4 for Debian

検索 イベント2つを経て、何から書くか迷うところですが、先に @tagomoris との約束を果たすためにCDH3からCDH4への具体的なアップグレード手順を紹介します。 この約束を果たすと、@ryu_kobayashi … 続きを読む

Fluentd+WebHDFSのAPPENDエラーをlog4jで除外

検索 前回に続いてFluendからWebHDFSに書き込んだ時の話ですが、今回はどちらかというと log4j の話になります。 log4j についてずっとド素人なままHadoopを使ってきたのですが、さすがに放っておけな … 続きを読む

Fluentd+WebHDFSの書き込み問題

検索 以前に晒したFluentdからWebHDFSに対してログを流し込むフローの部分を、 少しキツ目の環境にブっこんで運用したら色々問題点がでてきたので記しておきます。 どちらかというとFluentdというよりはHDFS … 続きを読む

YARN+Capacity Schedulerの管理画面

検索 まだ続いてみるYARN+Capacity Scheduler。 プロパティの説明だけではわかりづらいので、 簡単な説明をつけた管理画面のキャプチャを貼ります。