ETL処理をAWS Lambdaでストリーム化、
サーバーレス化実装
プラントのデータ処理滞留時間を短縮、IoT・AI活用

JFEエンジニアリング株式会社

技術本部 ICTセンターAI・IoTプロジェクト部
部長 小林義孝 様、チームリーダー 兼子覚 様、玉川耕介 様

公開日:2021年6月3日

  • データ量が増えるにつれて分析処理にかかる時間が増大
  • よりリアルタイムなデータ処理を行いたい
  • 常に正確な判断を行えるよう、データ処理の安定性を重視したい

  • ボトルネックになっていたETL処理を見直し
  • AWS Lambdaを用いたストリームデータ処理を実装
  • データの完全性の担保と検証方法を提案

環境・エネルギープラントなど基幹インフラの建設、運営をおこなうJFEエンジニアリング株式会社(以下「JFEエンジニアリング」)は、近年では太陽光、地熱、バイオマス等の再生可能エネルギーによる発電プラントも多数手がけています。生活インフラを支えるプラントの安定した稼働には、設備の適切なモニタリングと保全が欠かせません。

同社がモニタリングしているプラントからは、数多くのセンサーや計測機器などの多種多様かつ膨大な量のデータが、時々刻々と送られてきます。これらの時系列データは異常予兆検知・需要予測・因果推論などのAIを通じてプラントの運転高度化に使われていきますが、データ量が増えるにつれてデータ整形・保存にかかる時間も増大し、課題となってきていました。

この問題を解決するため、同社では従来のETL処理を、AWS Lambdaを用いたアーキテクチャーで再実装することで、リアルタイムに処理する仕組み作りを行いました。また、将来を見据えて、より即時性の高いエッジAIを用いたシステムを構築する取り組みも進めています。
クラスメソッドは、このプロジェクトのパートナーとして、開発支援をおこないました。クラスメソッドに依頼いただいた経緯や、現在進めている取り組み、技術本部ICTセンターAI・IoTプロジェクト部の小林さん、兼子さん、玉川さんにお話をうかがいました。

AWS Lambdaによるストリームデータ処理を実装、リアルタイムに

JFEエンジニアリング株式会社では、ITの専門知識を持たない社員でもAI・ビッグデータを容易に活用できるデータ解析プラットフォーム「Pla'cello(プラッチェロ)」を開発し、2018年から運用しています。同社では、このPla'celloを活用してデータ分析を行うことで、プラントから収集されたデータを元に設備の稼働状況の確認や、予兆検知などができる体制を作ってきました。

以前に比べると、センシング技術の発展やストレージコストが低下したおかげで、収集・蓄積可能なデータ量は大きく増えてきています。分析の精度を高めるためにも、より短いタイムスパンで、より多くの種類のデータを収集できるのは重要なことです。
ところが、収集するデータ量が増えたことで、新たな問題がでてきました。取得したデータを処理してクラウドにアップロードし、実際に事象を把握できるようになるまで、長時間を要するケースがでてきたのです。

ボトルネックは、あるツールで行っていたETL処理にありました。この処理速度を上げるために、同社ではAmazon EC2のスペックを上げてみるなど、さまざまな改善に取り組みましたが、思うような時間短縮は果たせず、ETL処理そのものを抜本的に見直すこととなりました。
候補の一つに上がったのが、AWS Lambdaを用いたストリームデータ処理です。従来はバッチで行ってきた処理をストリーム化することで、リアルタイムに近い処理を目指すことを考えました。

しかし、AWS LambdaとRDSの併用を「アンチパターン」だとする情報もあり、実装に向けては不明点も多く、不安もあったそうです。そこで、2020年7月、クラスメソッドにご相談をいただきました。

兼子さんはクラスメソッドに相談いただいた際のことを、このように話します。

「クラスメソッドに相談し、Lambdaを用いたストリーム化・サーバーレス化のアーキテクチャーを提案いただきました。自分たちでもLambdaを使ってはどうかと検討はしていたのですが、私どもが持っている知識では万全と言えないところがありました。いただいた提案は、これなら安心できると思える構成でしたので、設計から構築までクラスメソッドにお願いすることになりました。」

データ遅延・欠損を防いで安定稼動させるための技術検証と、設計の柔軟性

クラスメソッドに依頼いただいたのは、AWS LambdaによるETL処理の再実装と関連する技術検証、CI/CD環境の構築でした。

プラントから収集されるデータの量は非常に膨大で、センサーから収集されたテキストベースのものでも、年間ではTBサイズにまで累積していきます。このデータを遅延や漏れなく、さらには安定して処理する必要がありました。

「今回の開発では、転送の速度をまず重要視していました。次に、データの漏れがないこと。データの欠損があると、正しい判断ができなくなります。収集したデータを毎回遅延なく、正確に処理できるようになっていないといけません。Lambdaで全てをおこなうと遅延の心配もあります。」(兼子さん)

「Lambdaの挙動が不安定になってしまうと、その間のデータが送られてこなくなることも考えられます。ストリームでデータを取ってくるからこそ、安定して稼働することも必要な要件でした。」(玉川さん)

クラスメソッドは、こうしたデータの完全性の担保や検証の仕方についても検討を行いました。送信したデータの結果については、1日に1回確認できるようにしているということですが、稼働開始から数ヶ月経過した現在までデータの抜けがなく送れているそうです。また、運用開始後にもパラメーターを調整できる柔軟な設計を行い、実際の稼働状況に応じた設定で安定性を目指せるようにしたことも評価いただいています。

「今回作った、RDSからLambdaでデータを取り出す仕組みの部分については、負荷が変化した時にデータを時間内に送りきれなくなったりする危険もありました。運用を始めてから様子を見てパラメーターを調整して、安定稼働まで持っていくことができたので、いい作り方をしてもらったと思っています。」(小林さん)

クラスメソッドによる構築は2020年9月末に完了。構築後の環境は、JFEエンジニアリングにて問題なく調整・運用を行える構成としているほか、スキルトランスファーも意識した引継ぎを行っています。

「CI/CDの仕組みを導入したことで、今まで手動でデプロイをしていたものが、自動化できるようになりました。おかげでミスが無くなり助かっています。AWSの構成だけではなく、コーディングの際の分割の方法のようなところも結構勉強になり、助かりました。」(兼子さん)

今回のプロジェクトを経て、同社におけるサーバーレス化を一気に進めることができたと言います。

IoT・機械学習の活用による予知保全の仕組み作りに向けて

JFEエンジニアリング事例 JFEエンジニアリングでは、プラントの予兆検知の仕組みをさらに推し進めて、より即時性の高い分析をおこなえるエッジAIシステムの構築にも取り組んでいます。エッジ側システムにAWS IoT Greengrassを用いてデータを収集し、機械学習を行って判定結果を返す仕組みです。
クラスメソッドは、この仕組みの構築においても、AWS上に送信されたデータの処理部分について、Amazon Kinesis、AWS Lambdaなどを用いた設計を提案し、引き続き構築支援を行っています。

また、将来的には分析対象のデータについても、さらに種類を増やしていくことを検討されているそうです。

「これまではセンサーデータだけを対象にしていましたが、今後は、センサーデータ以外のデータにも分析ニーズが出てくると思っています。データ活用の幅を広げて、弊社事業の拡大にも繋げられる仕事にしていきます。」(兼子さん)

クラスメソッドは、JFEエンジニアリングが進めるIoT、AIを活用した先進的な取り組みを、AWSの豊富な技術支援実績による知見と、最新技術の知識により、引き続き支援してまいります。

この事例はAWSコンサルティングをご利用いただいています

クラスメソッドのAWSコンサルティングは、公式資格を持つエンジニアがお客様の要件にマッチしたAWSのクラウドインフラ設計、サービス選定をご提案。AWSの広い知見を活かし、コスト削減からハイパフォーマンスな構成までじっくりとアドバイスします。

AWSコンサルティングを詳しく見る

AWSコンサルティング

関連する事例

相談しやすいスペシャリストを
お探しなら
まずはクラスメソッドまで

  • すべてのサービスや企業情報をまとめた一冊

  • 導入前の不明点はなんでもご相談ください

お電話でのお問い合わせはこちら。
大小問わず不明点はなんでもご相談ください
0120-991-668 (平日9:30~18:30)
  • AWSプレミアコンサルティングパートナー
  • AWSプレミアコンサルティングパートナー
  • 「APN Certification Distinction」の認定を取得
  • LINE Biz Partner Program 認定バッジ「OMO」
  • alteryx PARTNER OF THE YEAR 2018
  • プライバシーマーク認証マーク
  • ISO/IEC 27001
  • ISO/IEC 27017
  • ISO/IEC 20000-1
  • pcidss
  • AICPA SOC2 Type1 レポート受領
  • ベストモチベーションカンパニーアワード2021受賞