セールスポイント
-
1
Amazon SageMaker Batch Transformを用いた推論の自動化
-
2
CLIによるデータ・実行結果管理機能を実装し、研究作業をスムーズに
-
3
サーバレスなサービス（Lambda, Batch Transform）による構成でコスト最適化と高可用性を実現
お客様の課題
東京農工大学大学院工学研究院生体信号情報学研究室では、AIを活用した脳波の機械判読によるてんかん診断・治療支援の研究を行っています。当研究室では、脳波データがAWS S3に集約される仕組みを既に構築していましたが、S3に設置されたデータを自動で推論する機構は存在せず、ローカルのマシンにダウンロードして都度推論するという運用が行われていました。また、推論結果管理についても属人化しており、過去の推論結果を検索するのにも手間がかかっていました。
ご提案内容
1日に1度推論を行いたいというご要望を伺い、Amazon SageMaker Batch Transformを使用した自動推論環境をご提案しました。一つのモデルだけでなく、複数のモデルの推論結果を比較するケースや複数のモデルを組み合わせて推論するケースもあると伺ったので、推論処理を拡張性にも配慮した設計になっています。また、AWS SDK を使用してモデル・データ・結果の管理や検索、モデルのデプロイなどが行えるCLIの開発もご提案しました。フルサーバレスな構成になっており、運用費用も抑えることができます。
導入効果
これまで、推論結果を得るためには「推論処理を動かす」という作業が必要でしたが、自動化によってその作業が不要となり、データをアップロードすれば推論結果が得られるようになりました。また、推論結果の検索やモデル間での比較をスムーズに行うことができ、業務を効率化することができました。開発中のモデルを本番環境にデプロイし性能を確認することもできるようになり、モデル開発のスピードも向上しました。
.png)
