レイテンシとは？
レイテンシとは、ある操作を行ってから結果が返るまでにかかる待ち時間（遅延）のことです。
仕組みは？
AI電話では、相手が話し終えてからAIが話し始めるまでの時間を指すことが多いです。この間には、音声認識、LLMの返答作成、音声合成、回線の伝送が含まれます。どこかが遅いと、全体の待ち時間が伸びます。会話では、わずかな遅れでも相手に伝わりやすい点が特徴です。
電話業務ではどう使われる？
待ち時間が長いと、相手は「聞こえていないのかな」と感じて、もう一度話してしまいます。そのため、各工程の速さを測って短くする調整が行われます。返答の最初の部分から読み上げ始める方法も使われます。短いほど会話は自然になります。
関連する用語
待ち時間に関わる技術は音声認識、LLM、音声合成です。話し始めを遮る場面の扱いはバージインと呼びます。電話回線側の事情はSIPトランクも関係します。
よくある質問
どのくらいの待ち時間なら自然ですか？
人によって感じ方が異なり、一律の目安は示せません。通話の試聴を重ねて、違和感が出ない範囲に調整します。
待ち時間が長いと何が困りますか？
相手が聞こえていないと思って話し直し、会話が重なりやすくなります。通話への信頼感も下がります。