Arcfra、Neutree 1.2をリリースし、LLM以外のモデルへのサポート追加と、AI運用の簡素化を図る
Flex Engineには、MinerU、PaddleOCR、および厳選されたMLモデルが追加され、リソース管理も簡素化
シンガポール、2026年9月17日 /PRNewswire/ --Arcfraは、エンタープライズAIプラットフォーム向けのモデル対応を拡大し、リソース計画および運用管理を簡素化する新バージョン「Neutree 1.2」を発表しました。
Neutree 1.2では、Flex Engineが導入されました。これはArcfraが開発した推論エンジンであり、MinerUやPaddleOCRといった非LLM モデルもサポートしています。vLLMやSGLangなどの標準的な推論エンジンを基盤として、ユーザーは言語、マルチモーダル、埋め込み、再ランク付け、文書解析、OCR、機械学習の各モデルを単一のプラットフォーム上で管理し、Neutreeの統合モデルゲートウェイを通じてサービス呼び出しの公開や管理を行うことができます。これにより、プラットフォーム作業の重複が削減され、モデルの検証から実用化までのプロセスが加速されます。
ビジュアルモデルレジストリ管理は、モデルアセットの可視性を向上させます。Neutree 1.2は、パブリックモデルとプライベートモデルの統合管理に対応しており、1つのインターフェース上で、ソース、接続状態、可視性、モデル数、ストレージ使用量、更新日時に加え、各モデルのパラメータ数、サイズ、精度を表示します。
KVキャッシュとGPUメモリの自動計算機能により、デプロイメントの予測可能性が高まります。このプラットフォームは、モデルの構造を解析し、ユーザーのコンテキストウィンドウおよび並行処理設定に基づいてデプロイに必要なKVキャッシュを計算したうえで、必要なGPUメモリを推奨します。これにより、デプロイの失敗リスクを低減し、不要なGPUメモリの浪費を防ぐことができます。
また、このプラットフォームでは、プロジェクトベースのAPIキー管理が追加され、ユーザーは複数のAPIキーをビジネスプロジェクトごとにグループ化し、プロジェクト名や説明を通じて所有者を特定できるようになりました。キーには、ワークスペース、ステータス、使用状況、レート制限、サポートされているモデル、作成日時が表示され、検索やフィルタリングも可能です。これにより、APIキーの管理が単なるキーのリストからビジネス志向の視点へと移行し、チーム間の業務責任の所在が明確になります。
Neutreeは、標準化されたモデル提供、統合されたコンピューティングおよびモデル管理、モデルガバナンス、ゲートウェイ管理、そしてエンドツーエンドの可観測性を通じて、企業がモデルの展開から、モデル、コンピューティング、アプリケーションを横断する統合的なガバナンスへと移行できるよう支援します。Arcfra Enterprise Cloud Platformを組み合わせることで、企業は本番環境対応かつガバナンスの効いたモデル推論インフラを構築できます。
数社のお客様がNeutreeの利用を開始しました。ある製造業界のリーディングカンパニーは、既存のArcfraインフラを本番環境向けのAI基盤として活用し、モデルの提供プロセスを効率化するとともに、演算リソースとモデルリソースの管理を統合しました。また、造船業界の顧客は、演算管理、モデル管理、およびモデルゲートウェイを単一のプラットフォームに統合することで、モデルの迅速な展開、一元化されたアクセス、および可視化された可観測性を実現しました。
Neutree 1.2は、GitHubでオープンソースとして公開されています。Neutree Enterpriseについては、Arcfraチームまでお問い合わせください。
