ローカルLLM– tag –

GPUもAPIも正常に見えていたのに、生成だけが返らず16時間停止していました。状態監視・疎通監視・進捗監視の違いを、実測ログから整理します。

GMKtec EVO-X2 64GB/1TBを、仮想マシン母艦とローカルLLM入門機として見る。32GB+32GB運用、64GB全振り運用、2.5GbEの弱点、同等自作構成の価格感を整理する。

GMKtec EVO-X2は、128GB統合メモリのRyzen AI Max+ 395機を単体AI箱として導入しやすい候補です。ただし、ラボのバックボーンへ本格的に組み込むなら、10GbE×2とPCIe x16を備えるMinisforum MS-S1 MAXも無視できません。