Hadoop」カテゴリーアーカイブ

CDH4 LogPath and LogLevel Configurations

Hadoop実践シリーズの続きで、地味ながら重要な所をいきます。 CDH4+YARNの運用において、どのログを見れば良いのか、ログレベルはどのように設定するのか、というなんとも痒いところに手が届く孫の手編となります。

CDH4 Configurations with YARN, Capacity Scheduler and Hive

前回の続きで、私がCDH4で利用している外道式設定ファイルの紹介です。 非常に手間暇かけて作成したものなので墓の下まで持って行きたいところですが、某所からの圧力と社会のために、恥ずかしながら放出したいと思います。

How to upgrade from CDH3 to CDH4 for Debian

イベント2つを経て、何から書くか迷うところですが、先に @tagomoris との約束を果たすためにCDH3からCDH4への具体的なアップグレード手順を紹介します。 この約束を果たすと、@ryu_kobayashi が … 続きを読む

XENのFaultToleranceでHadoopを完全冗長化できないか

XENにはFaultToleranceという耐障害性技術があります。 現段階ではただの構想ですが、Hadoopなど冗長性が重要なのに機能的に乏しいシステムに適用できないかなーと思い調べてみました。ゆくゆくは試してみたい構 … 続きを読む

Fluentd+WebHDFSのAPPENDエラーをlog4jで除外

前回に続いてFluendからWebHDFSに書き込んだ時の話ですが、今回はどちらかというと log4j の話になります。 log4j についてずっとド素人なままHadoopを使ってきたのですが、さすがに放っておけない事象 … 続きを読む