富士通が、GPU上で動作するAI処理の計算効率を大幅に向上させる新技術を開発した。「AI computing broker」(ACB技術)と名付けられたこのミドルウェア技術は、GPUの演算効率を高め、AI処理の最適化を自動で行う。

ACB技術の核心は、富士通の「アダプティブGPUアロケーター技術」と各種AI処理の最適化技術を統合したことだ。この技術により、複数のプログラム中からGPUを必要とするAI処理部分を特定し、計算リソースの割り当てと最適化を自動的に行う。GPUメモリの管理機能により、ユーザーはプログラムが使用するGPUメモリ量やGPUの物理的なメモリ容量を気にすることなく、多数のAI処理を割り付けることが可能になった。

富士通は2024年5月から、トレーダムやさくらインターネットなど5社と共同で、単一GPUによるACB技術の先行トライアルを実施した。その結果、ACB技術を適用しない場合と比較して、顧客環境におけるGPUの単位時間当たりの処理性能が最大で2.25倍向上したことが確認された。

さらに、GPUメモリ管理機能の効果も顕著だった。この機能により、GPUの物理メモリ容量の約5倍に相当する150GBものメモリを必要とするAI処理を同時に取り扱えることが実証された。富士通は今後、AI処理におけるGPUの演算効率向上とGPUコスト削減を目指すAIサービス事業者や、1つのGPUに多くのAI処理を割り当てたいクラウドサービス事業者など、GPU資源提供者を中心にこの技術の提供を進めていく方針だ。