膨大なログ情報を高速・低コストで管理する、
ログ分析基盤を整備

株式会社QUICK

コンサルティング営業本部 コンサルティンググループ
リードエキスパート 小出 淳二様、高橋 健太郎様
株式会社QUICK
公開日:2020年2月19日
BEFORE
  • 1日で数百GBにもなるWebサーバーのログを収集、集計する業務は半日がかり
  • ログ収集は1台ずつ実施のため、スムーズなトラブルシューティングができない
  • 導入時に大きなコストをかけられないため、スモールスタートでスケールできることが条件
AFTER
  • 効率良いログ解析実行環境を Amazon AthenaとAmazon Kinesis Data Firehose、S3により構築
  • ログの収集時間を大きく短縮、10分程度のタイムラグで解析ができるように
  • 稼働工数単位でのサポート契約により、社内に開発ノウハウを蓄積しつつ効率よく実現

株式会社QUICKは、日本経済新聞社グループの金融情報サービス会社として、世界の証券・ 金融情報、政治 ・経済ニュースをリアルタイムで配信。資産運用業務の支援サービス、注文執行業務の支援サービス、情報ネットワーク構築の支援サービス等、証券・金融業務に関連する総合的なソリューションを提供しています。

同社で扱うログは大量で、ログ情報をリアルタイムに近い形で有効に活用できないことが同社の課題でした。コストや管理上の課題から、スモールスタートが出来てスケールが可能、かつ大規模になっても費用がリーズナブルで手間いらず、という要件が必須でした。

クラスメソッドにはログ基盤システムの構築サポートを依頼いただきました。
そのサポートの様子を、コンサルティング営業本部 コンサルティンググループ リードエキスパートの小出 淳二様と、同本部 同グループの高橋 健太郎様にお話を伺いました。

AWS活用とコスト抑制の知見を求めて

オンプレミス時代はピーク時で数千台のサーバーがありました。大量のWEBサーバーのログは1日数百GBになり、1日1回の収集・集計業務に半日程度掛かっていました。
そのため、何か問題が発生した場合には都度、サーバーから1台ずつ当日のログを集めてこなければなりませんでした。スムーズなトラブルシューティングが出来ないのは大きな課題でした。

課題を解決するために、同社ではAWSのサービスを活用したログ分析基盤の検討を開始しました。
そこで、
「技術力の高さに信頼感があり、何よりもAWSに精通しているため、是非お願いしてみようと思いました」(小出様)
と、ログ分析基盤構築のご依頼をいただいたのです。

株式会社QUICK

アクセスログの欠損を防ぎ、少ないタイムラグでの解析を可能に

QUICK社にはログを使いやすくしたい、ゆくゆくはリアルタイムに近い解析にも使いたいというニーズがありました。
クラスメソッドへの依頼は、このニーズを解決するべくデータの構造化を行い、扱いやすい形にする処理の開発サポートでした。
クラスメソッドのエンジニアの支援を受けて、QUICK社はAmazon Athena(S3内のデータを標準SQLで分析できるサーバーレスサービス)を使って効率よく解析できるようにするため、Amazon Kinesis Data Firehose(ストリーミングデータをデータレイクやデータストアなどにロードする仕組み)を利用してS3に出力する、という処理を作成しました。

AWS 構成図

ALBのアクセスログは5分毎に出力する仕様ですが、顧客別に大量のALBがあるため、ログ出力が集中してログ欠損を避けるために非同期処理を行い、10分程度のタイムラグで解析ができるよう実装しました。

AWS 構成図

ログの収集、処理時間を大きく短縮した効果について、高橋様、小出様は口々に語ります。

「今まで何時間もかけてやっていたログの処理が、短時間でできるようになっています。データによっては複数人で対応しなければいけないものもありましたが、これもすべて一人でできるようになりました。」(高橋様)

株式会社QUICK
「自分の望む条件で検索し、結果を調べられるようになることで、ログ解析の課題がよりスピード感を出して解決できるようになりました。」(小出様)

今後は、ログ情報を活用した顧客サービスの展開も進めていけそうです。

自社にエンジニアリングノウハウが蓄積、開発のスピード感もアップ

QUICK社はクラスメソッドと稼働工数によるサポート契約を結んだ上で、基本的には自社での構築を成し遂げました。こうしたサポート契約を選択した理由について、同社の小出様はビジネスのスピード感のためだったといいます。

「システム構築を丸投げにせず、自社でビジネス・エンジニアリングの知識を持ってある程度のことができるようになってから、足りないところ・専門的なところをプロフェッショナルに依頼して構築を進めていくことで、もっともスピード感が出るのです。また、お願いしたところの成果の部分が自社のノウハウになり、さらにブーストしていく感覚を得られました。」(小出様)

将来的なビジネスのスピードアップを視野に、自社に構築ノウハウを蓄積していくことを目的としていたQUICK社では、構築の要所要所で専門家にアドバイスを頼むことができる稼働工数単位でのサポート契約が効率良かったそうです。

現場の実情とコストを踏まえた実装

クラスメソッドのサポートについて特に役立ったポイントは、専門家ならではの技術情報の速さだけでなく、実際の構築・運用の現場事情を踏まえたアドバイスでした。

「とにかく顧客目線でいろいろご検討いただけたのが助かりました。案も複数出していただき、価格は高いがこの部分が良いというもの、安いが折り合いをつけないといけないものなど、比べられるような提案もしてくれました。
コストと性能はトレードオフになることが多いですよね。そうした現場の実情も踏まえてお話してくれるのは心強いです。」(小出様)

「情報のキャッチアップがとにかく早いです。そしてクラスメソッドさんはとにかくコストを細かくみてくれるのが助かりました。規模の大きなシステムは費用も大きく、性能とコストの比較をしてくれて選択肢を与えて頂けるのが助かりました。」(高橋様)


データは、使いたい人が使いたい形で活用できる環境を整えることで、初めて情報としての価値が出てくるものです。

この度のログ分析基盤の整備で、QUICK社が自社のため、顧客のために取り出したい情報をスムーズに取り出せるサポートができました。同社のビジネスの推進に貢献できたのが何よりです。

この事例はAWSコンサルティングをご利用いただいています

クラスメソッドのAWSコンサルティングは、公式資格を持つエンジニアがお客様の要件にマッチしたAWSのクラウドインフラ設計、サービス選定をご提案。AWSの広い知見を活かし、コスト削減からハイパフォーマンスな構成までじっくりとアドバイスします。

AWSコンサルティングを詳しく見る
AWSコンサルティング

お客様の業界・課題に合った事例や支援内容も個別にご提案可能です。
まずはお気軽にご連絡ください。

お問い合わせ
不明点はなんでもご相談ください
0120-991-668 平日9:30〜18:30 お問い合わせ