セールスポイント
-
1
統一された利用環境の学内共有により、先生方が目的に合わせたアプリを作って授業で活用できる土台を確立
-
2
学生が手元から気軽に質問できる仕組みを構築したことで、TAの対応工数を削減
-
3
OSS版Difyのセルフホスト+顧客要件に合わせて独自に開発した管理アプリケーションで、教育の公平性を担保した全学規模の生成AI活用基盤を整備し、利用状況やナレッジの一元管理を実現
お客さまの課題
九州大学様では、ChatGPTの普及とともに学生・教員が個人のアカウントで生成AIを利用する状況が急速に広がり、今では9割を超える学生が日常的に利用するまでになっています。しかし大学として統一的な管理環境がなく、授業での利用では有料・無料プランの違いによる回答品質のばらつき、部局ごとに乱立したDify環境によるLLM利用料やAPIキーの分散管理など、ガバナンス・コスト両面での課題が山積していました。加えて、クラウド型SaaSはユーザー数に応じた課金体系となるため、全学規模での一斉導入には費用面でのハードルが高いことも課題となっていました。
ご提案内容
OSS版DifyをAWS上にセルフホストし、Fusicが九州大学様の要件に合わせて開発した管理アプリケーションを組み合わせた、全学統一の生成AI活用基盤を構築しました。セルフホスト構成を採用したことで、利用料をユーザー数ではなくトークン使用量に応じて設定できるようになり、全学規模で展開してもコストが利用者数に比例して膨らまない仕組みを実現しています。管理アプリケーションは、管理者側の操作がDify本体の挙動に影響を与えないよう責任分解点を明確に設計し、疎結合な連携を保っています。ここでは、Dify内のナレッジ登録状況やアプリ利用状況、トーク履歴をタグ付け等を用いて一元把握できます。さらに、Upstageの文字認識(OCR)技術を活用したプラグイン「Document Parse」を組み込むことで、Dify上で表構造を含む資料も高精度に読み取り、活用できる環境を整備しました。
導入効果
大学全体で統一された生成AI活用環境が整い、管理者が学内のAI利用状況をひとつの管理アプリケーションから俯瞰・管理できるようになりました。RAGチャットボットの導入により、授業資料に基づいた正確な回答が返ってくるようになり、TAへの質問数が大幅に減少しました。APIごとに利用上限を設定し、超過が見込まれる場合には通知が届く仕組みも整備したことで、コストを継続的に把握・コントロールできる体制も実現しています。散在していた複数のDify環境をひとつに統合できる見通しが立ち、費用・APIキー・運用管理のすべてを一本化することで、管理コストの大幅な削減が期待されています。蓄積される利用ログは、九州大学様が長年取り組んできたラーニングアナリティクスとの連携も視野に入っており、今後の教育研究への活用も期待されています。