AIネイティブ製品向けの推論プラットフォームを提供する"Baseten"がSeries Cで評価額$825Mで$75Mを調達

Basetenは、IVPとSpark Capitalが共同リードし、Greylock、Convictionなどが参加するSeries Cで$75Mを調達し、評価額は$825Mに拡大した。同社のこれまでの資金調達額は$135Mに達した。

2019年にサンフランシスコで設立されたLLMやその他のAIアプリケーション向けの高性能な推論に特化したAIスタートアップのBasetenは、企業がクラウドまたは自社のオンプレミスインフラでLLMを運用できるAI推論プラットフォームを開発しました。AIアプリケーションをスケールさせるには、極めて高速かつ信頼性の高い推論へのアクセスが必要です。推論とは、モデルにクエリを送り、レスポンスを計算するプロセスを指します。

しかし、多くの企業にとって、これを実現するのは困難です。推論を支える高性能なGPUの確保が難しく、十分なリソースを確保できないと、アプリケーションのパフォーマンスが低下したり、場合によってはダウンタイムが発生することもあります。さらに、GPUの不足によりコストが高騰するケースもあります。

Basetenは自社のデータセンターを運営するのではなく、Amazon Web Services、Google Cloud、Microsoftなどのクラウドインフラを活用しています。これらのクラウドプラットフォームのリソースを組み合わせることで、より良いGPUアクセスを提供できるとしています。さらに、顧客は自社のデータセンターで同社のソフトウェアを運用することも可能です。

Basetenのプラットフォームは、高性能な推論を実現するために必要なすべてを提供します。これには、独自およびオープンソースの幅広いモデルライブラリ、LLMの本番環境へのデプロイ、管理、スケール、保守のための最新ツールやワークフロー、リージョンやAIモデルの種類を超えてスケール可能なマルチクラスタ・マルチクラウドインフラが含まれます。

また、応用研究へのアクセスも提供しており、顧客は最新の技術やフレームワークを活用してAIアプリケーションのパフォーマンスとコスト効率を向上させることができます。さらに、AI専門のエンジニアがアプリのデプロイを支援します。

Basetenの共同創業者兼CEOは、同社の最大の強みの一つがGPUリソースへの確実なアクセスを保証できる点であると述べています。多くの企業がAIモデルを独自にデプロイしていますが、適切な地理的ロケーションで十分なGPUを確保するのに苦労していると述べています。

さらに、顧客は、使用しているGPUが突然メンテナンスモードに入るという事前通知なしのトラブルに悩まされることもあります。しかし、Basetenは十分なリソースを確保しており、このような問題を回避できると同氏は説明しました。

加えて、Basetenは顧客のコスト削減にも貢献し、同社のサービスを導入した顧客は推論コストが平均約40%削減されるだけでなく、パフォーマンスの向上も実現していると述べています。

こうした要因が、同社が過去12か月で売上を6倍以上に伸ばすことができた理由かもしれません。ただし、具体的な売上の数値は明かされていません。

一方で、同社は100社以上の企業顧客を抱えていると主張しており、その中にはクラウドファンディングプラットフォームのPatreon、AIスタートアップのWriter、動画編集企業のDescriptが含まれています。

Basetenは、顧客が高品質なAIプロダクトを迅速に市場に投入できることを最優先しており、それを実現するためにBasetenを選択していると述べました。「スピード、信頼性、コスト効率は妥協できない要素であり、それこそが私たちの100%の焦点です」と付け加えました。

「AIプロダクトが推論に関する問題をまだ経験していないなら、それは単にまだ本格的なスケールに達していないからに過ぎません。成功するAIプロジェクトには、優れた推論パフォーマンスが不可欠です。そうでなければ、誰も使いたがりません。製品や企業の未来を推論性能に賭けるなら、適切なパートナーを選ぶことが成功か失敗かを決めるのです。」とSpark CapitalのGeneral Partnerは述べています。

Basetenはソフトウェア、専門知識、研究を組み合わせ、このニーズに応えています。同社は、AIネイティブ製品を本番環境で運用するために必要なすべてを提供しており、その範囲は以下の通りです。

モデルツーリングとワークフロー
本番環境でのモデルのデプロイ、管理、スケーリング、監視を行い、モデルのパフォーマンスを確保し、イテレーションサイクルを加速します。
マルチクラスタ・マルチクラウドインフラストラクチャ
あらゆる環境、リージョン、モデルモダリティに対応し、自動スケールを実現することで、最大限のパフォーマンスと信頼性を提供します。
応用パフォーマンス研究
最新の技術とフレームワークを活用し、出力品質を損なうことなく、モデルのパフォーマンスとコスト効率を向上させます。
エンベデッドAIエンジニア
AIネイティブ製品のデプロイおよびスケーリングに関する深い知識を活かし、顧客の市場投入スピードを加速し、24時間365日のサポートを提供します。

Basetenは成長を支えるために、従業員数を前年比3倍に増やし、現在はGitHub、Google、Uber、Amazon、Palantir、Atlassian、Confluent、Yelp、AirTableといった企業出身の50名のチームを擁しています。また、本番環境向けのマルチクラウド対応、マルチクラスタ対応、ハイブリッドクラウド対応、TensorRTのようなランタイムとの統合、AWSやGCPとのパートナーシップによる最先端ハードウェアへのアクセスなど、新機能の開発を継続的に進めています。