中野 宏朗
nakan****@nttco*****
2011年 12月 16日 (金) 09:49:30 JST
中野です。 おはようございます。 (2011/12/15 18:41), SGU HARADA wrote: > > 原田です。 > いろいろとお調べいただきましてありがとうございます。 > > 本日、事象が発生した環境とは別の検証環境を構築して確認したところ > 事象が再現することが確認できました。 > > 以下のような感じで検証環境を構築しました。 > 仮想環境(OracleVM 完全仮想化)を使用しましたが、元々の環境は全て独立した > 物理サーバ上にUMとリアルサーバをそれぞれ構築して運用しております。 > > ・上位メールゲートウェイ (UM通過前にデータの破損が無いかの確認用) > CentOS 5.7 > postfix-2.8.7 + MailArchiva > > ・ロードバランサ (仮想環境でCPU 2コア割り当て) > Scientific Linux 6.1 (2.6.32-131.21.1.el6.x86_64) > 最小インストール、SELinux無効、yum update実施 > UltraMonkey-L7-3.0.2をソースからコンパイル (当初ご報告した環境ではrpmを使用) > UMのインストール手順はほぼuml7-install_manual_3.0.0_ja.txtの通り > (apache-log5cxx-0.10.0のmake install時に"will not overwrite just-created~" > のエラーが出るので、Makefile.amを修正する手順を加えています) > TCP/25番で受けた通信をリアルサーバ2台のどちらかのTCP/25番に > sessionless/rrで投げるようl7directord.cfを設定 > > ・リアルサーバ > CentOS 5.7 > postfix-2.3.3-2.3.el5_6 (Maildir形式) > > 検証目的のため、リアルサーバ2台はデータの同期を行なっていません。 > (メールはUMで振り分けられてどちらか一方のリアルサーバに入る) > > このような環境で試したところ、UltraMonkey-L7 3.0.2を経由させた場合は、先のメールで > 提供させて頂いたサンプルと同様、立石様からご指摘いただいたようにユーザーデータの > 一部に重複が発生する事象が再現できました。 > 念のため、Ultramonkey-L7 3.0.2を経由させず、上位メールゲートウェイから > リアルサーバの1台にメールを直接配送したところ、事象は発生しませんでした。 > 3.0.1では事象は発生しないのかという点につきましては、これから確認したいと思います。 ありがとうございます。 やはりdrbdとかは関係なく、v3.0.2のバグのようです。。。 こちらでも再現環境を組んでみようと思うので、 環境を参考にさせてもらいます。 > 中野様からコメント頂きました、全データではなく、たまにそうなるのは気になる、という > 点ですが、今回の検証環境では全体的に遅い回線(当初事象が発生した環境は > LAN内の1Gbpsで各機器を接続しているのに対し、今回は機器間は仮想環境内の100Mbpsで > 上位ゲートウェイサーバはインターネット上のVPSサービスを利用)で構築してみました。 > 結果、同じ添付ファイルを送信した場合でも、データの受け渡し完了までに時間がかかった > ように思われたのですが、それが影響しているのか重複したユーザデータが増えていました。 > (同じ添付ファイルで検証した結果、30カ所以上のユーザデータの重複が発生) > ご参考になりますでしょうか。 なるほどです。 上記事象から推測できることとしては、 ・仮想環境でUM-L7のバッファが小さめになったか、回線帯域の減少でデータ送信の分割単位が 細かくなって、データ重複箇所が増えた。 ・回線帯域が狭くなってデータ送信に時間がかかったため、データ送信側と受信側それぞれの スレッドでイベント状態遷移を司るメッセージの順番制御にバグがあり、それが顕在化 しやすくなった。(UM-L7 v3系はクライアント<->UM-L7も、UM-L7<->リアルサーバも 非同期処理を行っているので、そのあたりのバグの可能性も考えられます。) というところです。 こちらでも再現環境を組みつつ、怪しげなところにデバッグコードを埋め込みながら 試験してみるので、解析まで少々お時間をください。 > また3.0.1について検証して引き続きご報告させていただきます。 > よろしくお願いいたします。 > > > _______________________________________________ > Ultramonkey-l7-users mailing list > Ultra****@lists***** > http://lists.sourceforge.jp/mailman/listinfo/ultramonkey-l7-users > > > -- 中野 宏朗 (NAKANO Hiroaki) NTTコムウェア 品質生産性技術本部 技術SE部 基盤ソフトSE・OSS部門 OSS適用推進担当 Tel: 043-211-2452 (Ext: 特番+26-8341), Fax: 043-211-5086 Zip/Address: 261-0023 千葉県千葉市美浜区中瀬1-6 NTT幕張ビル21F-En