Qwen3.8-Flash-NextをゲーミングPCで動かす推論エンジン「Strata」公開

最終更新 2026年10月2日 21:002026年10月2日 21時のランキングで9位に初登場

大規模言語モデル「Qwen3.8-Flash-Next」を、ビデオカード1枚のゲーミングPCで高速に動かせる推論エンジン「Strata」がGitHubで公開され、話題になっています。秒間60〜95トークンで動くと報じられています。

内容

大規模言語モデル「Qwen3.8-Flash-Next」を、コンシューマ向けのPCで高速に実行するための推論エンジン「Strata」がGitHubで公開されたと報じられています。開発したのは個人の開発者で、ライセンスはMITです。

報道によると、Qwen3.8-Flash-Nextは総パラメータが125B（1,250億）、そのうち実際に使われるアクティブパラメータが6B（60億）のモデルです。Strataを使うと、ビデオカード1枚のゲーミングPCでも秒間60〜95トークンの速度で動作するとされています。

出典：PC Watch（@pc_watch）（X）

報道では速度の速さが中心に伝えられていますが、ネット上ではメモリ容量や使い勝手に関心が集まっています。モデルのファイルサイズが大きく読み込みが手間ではないかという声や、メモリを買い足そうかという声が見られます。

また、16GBのビデオメモリと96GBのメインメモリを積んだ環境で、圧縮したモデルを使って毎秒70トークン前後で快適に動き、3Dのボクセルアートの課題も満足のいく結果が出たという投稿もあります。一方で、速さに比べて回答の賢さには物足りなさがあるのではという受け止めも出ています。