LLM-jp-3 172B: オープンかつ日本語に強いGPT-3級大規模言語モデル

大規模言語モデル研究開発センター（LLMC）では、オープンかつ日本語に強いGPT-3級大規模言語モデル「LLM-jp-3 172B」の開発を進めています。このページでは、本モデルの最新の開発状況について継続的にアップデー […]

LLM-jp-3 172B beta2 の公開

大規模言語モデル研究開発センター（LLMC）ではオープンかつ日本語に強いGPT-3級大規模言語モデル「LLM-jp-3 172B」の開発を進めています。 このたび、目標学習量の約3分の2にあたる1.4兆トークンを学習した […]

LLM-jp-3 172B alpha1, alpha2 の公開

大規模言語モデル研究開発センター（LLMC）ではオープンかつ日本語に強いGPT-3級大規模言語モデル「LLM-jp-3 172B」の開発を進めています。 このたび、同モデルの開発の初期段階で得られた、学習設定の問題（※） […]

LLM-jp-3 1.8B・3.7B・13B の公開

大規模言語モデル研究開発センター（LLMC）ではオープンかつ日本語に強いGPT-3級大規模言語モデル「LLM-jp-3 172B」の開発を進めています。 このたび、LLM-jp-3 172B の事前学習に使用しているコー […]

約1720億パラメータ（GPT-3級）の大規模言語モデルのフルスクラッチ学習を行い、プレビュー版「LLM-jp-3 172B beta1」を公開～学習データを含めすべてオープンにしたモデルとしては世界最大～

第14回LLM勉強会のお知らせ

第13回LLM勉強会

2024年10月29日（火）に国立情報学研究所にて第13回 LLM 勉強会を開催しました。

第13回LLM勉強会のお知らせ

第12回LLM勉強会

2024年8月27日（火）に国立情報学研究所にて第12回LLM勉強会を開催しました。

第12回LLM勉強会のお知らせ

第12回LLM勉強会は2024年8月27日（火）14:30～18:00に国立情報学研究所（＋オンライン）にて開催予定です。

GENIAC成果報告会で成果発表・GENIACコミュニティ賞受賞

GENIAC成果報告会で、成果を発表しました。 また大規模言語モデル研究開発センター（LLM研究開発センター）の小田悠介特任准教授が、GENIACコミュニティの活性化に貢献した個人に贈られる「GENIACコミュニティ賞」 […]

第19回AAMT長尾賞受賞

LLM-jp が「第19回AAMT長尾賞」を受賞しました。

日経クロステック　NIIが約1720億パラメーターのオープンLLMを開発、学習データ公開で透明性を確保

NIKKEI Tech Foresight　国立情報学研究所、透明性確保したLLM　学習データ公開

電波タイムズ　オープンモデルでは最大級のLLMを公開

CodeZineニュース　NIIの大規模言語モデル研究開発センター、プレビュー版「LLM-jp-3 172B beta1」を公開

科学技術情報プラットフォーム　NIIのLLMC、LLMのプレビュー版”LLM-jp-3 172B beta1″を公開

多文化・多言語対応の安全な大規模言語モデルの構築を目指して

本センターが後援をし、関根聡特任教授がスピーカーとして登壇予定のイベントをご案内します。 開催日時 2024年11月11日（月）10:00-11:00 会場 Zoomウェビナー（登録はこちらへ） 申込方法 事前申込制（当 […]

NII/LLMC Invited Talk “Foundation Models for Medicine (and Education) by Prof. Dr. Wolfgang Nejdl

LLMシンポジウム2024「大規模言語モデルのあるべき姿とは？」資料・動画公開

本センター主催の『LLMシンポジウム2024「大規模言語モデルのあるべき姿とは？」の資料及び動画を公開します。 開催概要　◎日時：2024年9月25日（水）13:00-17:45　◎会場：一橋大学 一橋講堂（ハイブリッド […]

LLMシンポジウム2024「大規模言語モデルのあるべき姿とは？」

LLMシンポジウム2024「大規模言語モデルのあるべき姿とは？」 国立情報学研究所では、文部科学省の「生成AIモデルの透明性・信頼性の確保に向けた研究開発拠点形成」事業を実施する拠点として、2024年4月1日に「大規模言 […]

LLM-jp技術講演 “Technical Discussion with Jonathan Frankle”