LLMを用いたアプリケーション開発において利用されるLangChainライブラリ、UIはStreamlitライブラリを利用した、Retrieval-Augmented Generation(RAG)を活用したLLMアプリケーション。
会話履歴はボタン一つでNotionに保存可能。
- RAGを用い、LLMが学習していない最新情報や社内文書等をアップロードし、そのデータを組み合わせてLLMに回答させる。
- Notion APIを利用し、LLMとの会話履歴をNotionに保管する。
- LLMの回答の根拠をコンソールで確認可能。
- 「そもそもRAGとは？」という方向けに、RAGの有用性を理解してもらうこと。
- LangChainは多くの機能を持つが、本アプリでは基本的な機能のみ実装されている。まずはLangChainに触れたことのない方向けに、ローカルで動かしながら理解してもらいたい。
- LLMはOpenAI社のChatGPT、VectorDBにはOSSのFAISSを利用している。
特定のクラウドAIサービスを利用することも検討したが、その場合は利用したサービスに特化したコードを記述するため、まずはRAGのコア部分をシンプルに理解できるよう、特定のクラウドAIサービスを敢えて利用しない方針で開発した。
本アプリの処理フローを以下に図示する。
