楽天が日本語LLM／SLMを新たに開発 LLMは8倍規模の高密度モデルに匹敵する性能

Rakuten AI 2.0：高効率な先進モデル構築. 入力トークンに対して、最も関連性の高いエキスパートを動的に選択するMoEアーキテクチャを採用しており、計算効率関連キーワードはありません