https://haruki256.com/tag/llm/ Recent content in LLM on haruki256.com Hugo ja-JP Sun, 27 Sep 2026 09:00:00 +0900 https://haruki256.com/shorts/2026/09/27/llm-token-id-is-not-semantic-distance/ Sun, 27 Sep 2026 09:00:00 +0900 https://haruki256.com/shorts/2026/09/27/llm-token-id-is-not-semantic-distance/ <blockquote> <p><strong>結論</strong></p> <p>LLMの入力を追うときは、トークンIDと、モデルが計算に使うベクトルを分けて見ます。トークンIDの大小や差を意味の近さとして読むと、語彙表を引くための番号と、意味や文脈を表す数値を混同してしまいます。</p>