ProsGrow エンジニアリング

最先端の AI 研究を企業のワークロードへ。

AI モデルと推論サービングシステムの進歩を企業のワークロードに適用した実測結果を、性能・品質・コストのトレードオフとともに紹介します。

同じMI325X GPU8基でのGLM-5.2出力スループット:3.03から9.05 tokens/s/GPUへ。同時実行数4でローカルベースラインの約3倍。
·4分

ProsGrow Managed InferenceでAMD GPU上のGLM-5.2スループットを約3倍に

4リクエスト同時実行のエージェントベンチマークで、ProsGrowはMI325X GPU8基のサーバーにおけるGLM-5.2の実測出力スループットを199%向上させました。既存インフラから、より多くの処理能力を引き出す機会です。

記事を読む : ProsGrow Managed InferenceでAMD GPU上のGLM-5.2スループットを約3倍に
同じMI300X GPU4基・32セッションで、DeepSeekの最初のトークンまでの平均時間が1.52秒から0.80秒へ、47.1%短縮。
·4分

ProsGrowがAMD MI300X GPU上でDeepSeekの最初のトークンまでの待ち時間を47%短縮した方法

32セッションのDeepSeek V4.1 Flashベンチマークで、ProsGrowは最初のトークンまでの平均時間を1.52秒から0.80秒に短縮し、出力スループットも16.7%向上させました。

記事を読む : ProsGrowがAMD MI300X GPU上でDeepSeekの最初のトークンまでの待ち時間を47%短縮した方法