LLM

LLMとは？

LLMとは、大量の文章を学習し、文章の理解や返答の作成ができる大規模なAIのことです。

仕組みは？

Large Language Model（大規模言語モデル）の略です。文脈から次に来る言葉を予測する仕組みで、質問への回答や要約、言い換えができます。ただし、知らないことをもっともらしく答える誤り（ハルシネーション）が起こることがあります。

電話業務ではどう使われる？

AI電話では、音声認識で文字になった相手の言葉を理解し、返答を考える役割です。誤りを減らすために、会社の資料を参照させるRAGの仕組みがよく使われます。資料にない内容は答えず、確認して折り返す設計にします。

関連する用語

声と文字の変換を担う音声認識と音声合成の間で、会話の中身を作るのがLLMです。応答の速さはレイテンシ、会話の割り込みはバージインに影響します。資料を参照させる方式はRAGと呼びます。