TWITTER
FACEBOOK
はてブ
2022年末に登場したChatGPTは世界中を驚かせ、その自然な文章生成能力は本格的なAI時代の到来をわたし達に実感させました。
まるでチャットの先に人間がいると錯覚してしまうほど、スムーズに進むテキストコミュニケーションは圧巻。
日本においても2023年初頭よりメディアでの注目を集め、そのユーザー数を一気に拡大させました。
2023年10月現在、ChatGPTへのアクセス数は日本国内が世界3位。
アメリカ、インドに次ぐChatGPT利用率を誇る国となっているのです。
気軽な会話から、人には言えない相談、時には言語学習といった勉強面にまで対応するChatGPTの能力は、今では無くてはならないものになりつつあります。
ChatGPTに関する基本的な概要は、下記記事をご覧ください。
非常に便利なChatGPTですが、1つの弱点があります。
それは、訓練に含まれていない高度な専門知識、もしくは今朝のニュースといった最新の情報には対応できない点です。
ChatGPTは過去の情報、既存のデータを参考にわたし達へ情報提供するしかないのでしょうか。
本記事では、ChatGPTの弱点を解決、強化するライブラリ「LlamaIndex（ラマインデックス）」を紹介します。
LlamaIndexの基本的な概要から使用方法について解説しますので、ChatGPT機能をより深く活用したいと考える方はぜひ最後までご覧ください。
目次
|LlamaIndexとは？
LlamaIndexはChatGPTの機能と使用例を拡大し、より利便性の高いAIサービスへと接続することを目的にしたオープンソースプロジェクトです。
元UberのJerry Liu氏によって設立され、現在では様々なフレームワークを提供しています。
LlamaIndexがChatGPTへ与える機能は、入力プロンプトにコンテキストを埋め込む形で実現。
外部情報を大規模言語モデルへ接続することで、最新の情報や専門的な知識に対しても適切な回答を行うことが可能になるのです。
ChatGPTが持っている情報を補完する、巨大な図書館のような引用元を用意した状態をイメージしていただければ分かりやすいかもしれません。
ChatGPTが的確な答えを用意できなくても、外部の情報元を参考にすることで正確な回答が実現するのです。
活用できる領域事例
ChatGPTとLlamaIndexの連携は、様々な領域において活用できます。
例えば、ChatGPTとWikipediaを連携させれば、回答の中にWikipediaからの情報を含めて返答してもらえます。
そのため、Wikipediaのページを検索することなく、ChatGPT経由で情報が確認できるのです。
同様に、社内のドキュメントと連携させることで、自然言語を通じた検索も実現。
顧客からの質疑応答に返答するボットへの活用においても、最新の製品情報などと連携した上で回答が可能になります。
またクローズドな情報、例えば繊密機器の使用マニュアルなどと連携させることで、ChatGPTを通じて利用方法を教えてもらえます。
ChatGPTに知っておいて欲しい情報をLlamaIndexによって連携させ、それらをテキストベースで回答してもらうことが可能となるのです。
|ChatGPTの回答精度を高める
ChatGPTを始めとした大規模言語生成AIは、スムーズなコミュニケーションが実現する反面、提供される情報の精度が低い場合があるという弱点を持っています。
書き込んだ文章の添削、質問への回答といった分野は得意ですが、情報取得元や何かしらの検索機能といった面ではまだまだ課題が残ります。
例えば、2023年9月時点の最新家電情報について答えて欲しいと思っても、ChatGPTが2021年9月時点の情報しか持っていない場合、正確な回答を得ることは不可能です。
そのため、自身が保有している最新の情報といった外部データを大規模言語モデルに組み込み、それらを参照した上でChatGPTに返答してもらうのです。
上手くLlamaIndexを活用すれば、自身が理想とするChatGPTを訓練し、的確な答えをもらえるように育てることが可能となるでしょう。
質問botの作成が可能
LlamaIndexを活用すれば、専門知識を持った質問botの作成が可能となります。
前述したように、LlamaIndexは外部データの情報をChatGPTへ提供できます。
そのため、特定のデータや情報を大量に読み込ませることで、高度な専門知識を有したアドバイザーのような存在になれるのです。
例えば、特定の製品マニュアル情報をChatGPTに提供します。
そうすると、不具合が発生した場合でも、内容をChatGPTに質問するだけで的確な返答が返ってきます。
このように、特定分野におけるアドバイザーや専門家を即座に生み出せるのです。
ChatGPTのデメリットを補う
LlamaIndexの機能はChatGPTのデメリットを補い、より強力なAIサービスへと進化させる可能性を持っています。
回答に使用したデータの精度を高め、常に最新の情報を使用する。
こういった作業はChatGPT自身が自動で行えるわけではありません。
LlamaIndexを使用し、少し人の手でサポートすればより強力なパートナーになるでしょう。
ChatGPTはAPIを通じた外部連携も可能ですが、実際の中身をカスタマイズできるわけではありません。
より柔軟に、想定した回答をもらいたいと考える場合、LlamaIndexの使用が最も適切といえるでしょう。
|LlamaIndexの使用方法
LlamaIndexを利用するためには、プログラミング言語であるPython3.8以上のバージョンが必要となります。
そのためLlamaIndexとChatGPTを連携させたい場合は、Pythonの知識が求められますので注意しましょう。
まず、LlamaIndexはpipによってインストール可能。
本来、ChatGPTのプロンプトには数KBの情報しか与えられませんが、LlamaIndexではテキストを分割することで対応しています。
各ノードに対する質問として、最初のノードの回答を次のノードに入力する流れで最終的な出力を実現するのです。
また、日本語のPDFをLlamaIndexで読み込む場合、一部エラーが発生することがあります。
これは日本語が英語とはことなり、スペースで分割されていないことから起きる現象であり、句読点の後にスペースを入れることで回避可能です。
LlamaIndexの利用料金
LlamaIndexの利用には一定の料金が発生します。
おおよそ、1.2MBのインデックスの作成には72,737トークンが使用され、およそ0.14ドル（約30円）がかかります。
しかし利便性を考慮したランニングコストと考えると、受けられる恩恵の方が大きいでしょう。
想定する使用シーンなどを含めて考えることをおすすめします。
|まとめ
ChatGPTの回答精度を向上させ、想定する質問に対する答えをLlamaIndexによって強化させる方法を解説しました。
Wikipediaといった外部データと連携させ、検索の手間を省く。
ビジネス現場においてマニュアルを読み込ませ、製品等に関する質疑応答を実現させる。
専門知識が記載された文書を読み込ませ、高精度な返答を得る。
ChatGPTとLlamaIndexの連携にはあらゆる可能性が広がっています。
ChatGPTの可能性を広げ、より利便性を高めたいと考える方はぜひLlamaIndexとの連携をご検討ください。
