大規模言語モデル「LLM-jp-4.1」シリーズを公開

国立情報学研究所 大規模言語モデル研究開発センター（LLMC）は、オープンかつ日本語に強い大規模言語モデル「LLM-jp-4.1」シリーズを公開します。本シリーズは、2026年4月より順次公開している「LLM-jp-4」シリーズの事後学習を改善したものです。主な改良点は、STEM（科学・技術・工学・数学）分野における性能向上、外部ツールと連携する「ツール呼び出し」への新規対応、回答の詳細さの調整の3点です。これらの改良にあたり、事後学習に用いる学習データの大幅な拡充と改善を行いました。

LLM-jp-4.1の技術的詳細は、テックブログをご参照ください。

主な改良点

STEM分野の性能向上

LLM-jp-4.1では特にSTEM分野の学習データを拡充しました。評価フレームワーク「swallow-evaluation-instruct」による評価では、数学、科学、指示への追従などで、従来のLLM-jp-4の同規模のThinkingモデルを上回る性能を確認しました。

ツール呼び出し機能のサポート

外部のプログラムやAPIを呼び出すための「ツール呼び出し」 に新たに対応しました。この機能は、外部ツールと連携してタスクを実行するエージェントシステムの構築に活用できます。

回答の詳細さの調整

LLM-jp-4モデルには、質問で求められていない内容まで回答に含める傾向がありました。LLM-jp-4.1 では要点を簡潔に答えるよう事後学習データを改善しました。数学や科学などの問題では、解答に必要な詳しい説明を維持するようにしています。

API・チャット提供

LLM-jp-4.1のモデル公開に加え、APIエンドポイントとチャットサービスを試験的に提供します。これらは、東京大学が開発・運用する「mdx-MaaS」を通じて、主に研究者向けに提供するものです。 なお、このmdx-MaaSは学術クラウド基盤mdx1のGPUを使用しています。 10月中旬頃から段階的に募集を開始する予定ですので、利用申請や提供条件については、mdx-MaaSのウェブサイト をご確認ください。

モデル

今回公開するモデルは以下の通りです。各モデルはApache License 2.0のもとで公開します。モデルの利用方法や利用条件については、それぞれの公開ページをご確認ください。

• llm-jp-4.1-8b-thinking
  • 約86億パラメータのDenseモデルです。
  • https://huggingface.co/llm-jp/llm-jp-4.1-8b-thinking
• llm-jp-4.1-32b-a3b-thinking
  • 約320億パラメータのMixture of Experts（MoE）モデルです。
  • https://huggingface.co/llm-jp/llm-jp-4.1-32b-a3b-thinking
• llm-jp-4.1-33b-thinking
  • 約332億パラメータのDenseモデルです。
  • https://huggingface.co/llm-jp/llm-jp-4.1-33b-thinking

学習データ

また、各モデルの学習に使用した学習データも公開します。

• 教師ありファインチューニング (SFT)  データ
  • https://huggingface.co/datasets/llm-jp/llm-jp-4.1-thinking-sft-data
• 直接選好最適化 (DPO) データ
  • https://huggingface.co/datasets/llm-jp/llm-jp-4.1-8b-thinking-dpo-data
  • https://huggingface.co/datasets/llm-jp/llm-jp-4.1-32b-a3b-thinking-dpo-data
  • https://huggingface.co/datasets/llm-jp/llm-jp-4.1-33b-thinking-dpo-data
    

今後の計画

LLMCでは次期シリーズ「LLM-jp-4.2」の開発を進めています。学習データのさらなる拡充や強化学習の導入を通じて、推論能力やエージェント機能の向上に取り組んでおり、これらの成果を次期シリーズに反映し、オープンな形で公開していく方針です。