Myrtle.ai、AMD Alveo V80コンピューティング・アクセラレータカード上で大規模モデルのマイクロ秒レベルのML推論レイテンシを実現

2025-07-29 21:22

ケンブリッジ(イギリス), 2025年7月29日 /PRNewswire/ --Myrtle.aiは、機械学習推論の高速化における先駆的企業として知られており、同社は本日、同社の推論アクセラレータ「VOLLO®」が AMD Alveo™ V80コンピューティング・アクセラレータカードに対応したことを発表しました。

Microsecond ML inference
Microsecond ML inference

VOLLOは、1マイクロ秒未満という業界最先端のML推論計算レイテンシを実現しながら、優れたスループット、電力効率、およびラックスペース効率を提供します。この新しいリリースにより、大規模モデルを扱うML開発者は、単一のFPGA上で動作させることで、極めて低いレイテンシの恩恵を受けることが可能になります。たとえば、2,200万パラメータの3層LSTMモデルは、p99レイテンシが10マイクロ秒未満で動作します。さらに大規模なモデルであっても、複数のFPGAに分割(シャーディング)して実行することで、依然として競合ソリューションよりも低いレイテンシを実現できます。

VOLLOは、金融取引、無線通信、サイバーセキュリティ、ネットワーク管理など、極限まで低いレイテンシでML推論を実行することが、セキュリティ、安全性、収益性、効率性、コスト面での優位性につながる幅広い分野で高い需要があります。

「VOLLOへの需要は両面から来ています。」と、Myrtle.aiのCEOであるPeter Baldwin氏は述べています。「一定のレイテンシ制約があるお客様にとっては、これまで小規模なモデルでしか達成できなかったレイテンシで、より大規模なモデルを実行できるようになったことに大変満足されています。また、特定のモデルに対して可能な限り低いレイテンシを求めるお客様もいらっしゃいます。単一のFPGA上で実行可能なモデルのサイズを拡大できたことは、両者にとって大きな助けとなりました。」

「メモリ集約型ワークロード向けに本番環境対応となったAMD Alveo V80コンピューティング・アクセラレータでVOLLOがサポートされることを大変嬉しく思います。」と、AMDのデータセンター向けFPGA事業ディレクターであるGirish Malipeddi氏は述べています。「AMDの顧客は、VOLLOを用いることで非常に低いレイテンシでML推論を実行できるようになり、また、VOLLOの実行に適したコンピューティング・アクセラレータを購入したい方には、VOLLOがこれまでに対応した中で最大のモデル容量を持つ単一FPGAであるAlveo V80を選択するという選択肢が提供されます。」

Alveo V80カードは、2.6M LUTのロジック密度、32GBのHBM、さらに32GBのDDR4および800Gネットワークインターフェースを備えたAMD Versal™Adaptive SoCをベースにしています。このカードは、アプリケーションに応じてハードウェアを柔軟に適応させるFPGAファブリックを特徴とし、大規模なデータセットやメモリ集約型の計算処理に対応するHBM2eを組み合わせています。

ご興味のある方は、本日よりvollo.myrtle.aiからML向けのVOLLOコンパイラをダウンロードし、ご自身のモデルがAMD Alveo V80コンピューティング・アクセラレータカード上でどのようなレイテンシを達成できるかをお確かめいただけます。

Myrtle.aiについて

Myrtle.aiは、主要なFPGAサプライヤー各社のFPGAベースプラットフォーム上で、世界水準の推論アクセラレータを提供するAI/MLソフトウェア企業です。Myrtleは、あらゆる種類のMLネットワークに対応するニューラルネットワークの専門知識を有しており、FinTech、音声処理、レコメンデーション向けにアクセラレータを提供してきました。

AMD、AMDロゴ、Alveo、Versal、およびこれらの組み合わせは、Advanced Micro Devices, Inc.の商標です。

写真:https://mma.prnasia.com/media2/2739187/Myrtle_ai.jpg?p=medium600
ロゴ:https://mma.prnasia.com/media2/2739186/Myrtle_ai_Logo.jpg?p=medium600

  1. 「法律違反に問われる可能性」「辞任すべき」 関文科大臣の“議員会館パーティー”を野党が非難
  2. 東京・葛飾区に出現した“片角のシカ”を麻酔銃使って捕獲
  3. 【 工藤静香 】柿を使ったパンとスイーツのレシピ公開に反響「いつも食べてみたいと思っています」「そろそろレシピ本お願いします」
  4. アメリカ商務省 2024年にメガスピード社に対する調査を開始と発表
  5. 史上初の米中ロ首脳会談へ…“蚊帳の外”の日本 どう存在感示す? 高市総理の外交ウィーク始まる【news23】
  6. 【 花田虎上 】 彩り豊かな朝食プレート&旬の春巻きなど豪華中華を堪能 娘を迎えに行った帰りの夕食を報告
  7. 千葉豪雨時のドライバー「移動続けることが怖かった」7割超 5割弱がタイヤ半分以上の冠水を経験… 「危険の深刻さ伝わらず」東大など調査
  8. 【 中川翔子 】「原因不明のくちびるが腫れるクインケ浮腫になりましたなう、、、」双子子育て「ティッシュビリビリにアートしてました」
  9. 10月の緊急地震速報の“誤報” プログラム不具合への対応を完了 原因は「プログラム設計と確認のミス」 気象庁
  10. 【 小倉優子 】 「旅行気分で楽しんでいます」ロケで日光から鬼怒川温泉まで蒸気機関車に乗車「子ども達と一緒に乗りたいなぁ」 紅葉ショットも公開
  1. 「グリ下」の“帝王”と呼ばれた30歳男を逮捕 生活保護費約78万円を不正受給した疑い 先月には少女への性的暴行でも逮捕 大阪府警
  2. 「食事後、色々言われて面白くなくて刺した」東京・中野の路上女性刺殺 39歳男コンカフェの客と従業員として約4年前に知り合い計画的犯行か
  3. 【訃報】江夏豊さん、78歳で死去 “江夏の21球”、オールスター9者連続三振と逸話を残した名投手
  4. 東京・葛飾区の住宅街にシカ出没 小学校の通学路近くで発見…パトカーで農園の出入り口塞ぎ封じ込め 「ブロッコリー食われたらおじゃんに…」
  5. アメリカ当局 ホンダ車103万台を調査 アイドリングストップ後にエンジン再始動せず
  6. 【 中川翔子 】「原因不明のくちびるが腫れるクインケ浮腫になりましたなう、、、」双子子育て「ティッシュビリビリにアートしてました」
  7. 10月の緊急地震速報の“誤報” プログラム不具合への対応を完了 原因は「プログラム設計と確認のミス」 気象庁
  8. 東京・葛飾区に出現した“片角のシカ”を麻酔銃使って捕獲
  9. 【マヂカルラブリー】先輩・パンサー尾形の仕打ちに〝マジ最低、デリカシーが無い〟村上の双子は驚異の成長スピード
  10. 【Snow Man・目黒蓮】カナダで鍛えた「全力お手振り」披露〝自分の腕が限界迎えてもファンに手を振りたい〟カナダ生活振り返り〝ピュアで幸せな時間でした〟
  11. アメリカ商務省 2024年にメガスピード社に対する調査を開始と発表
  12. 【 工藤静香 】柿を使ったパンとスイーツのレシピ公開に反響「いつも食べてみたいと思っています」「そろそろレシピ本お願いします」