OpenAIが10億人規模のストレージ基盤「Habitat」を解説 — PythonからRustへ、毎秒7000万リクエスト・500PB超

OpenAIは2026年9月11日、オンラインストレージ基盤「Habitat」が10億人規模の利用をどう支えてきたかを解説するエンジニアリング記事の第1回を公開した。Habitatは週10億人超の利用者、約40の地理リージョン、毎秒7000万超のリクエスト、500ペタバイト超のデータを処理する分散システムで、2年前は単一データベースに接続するシンプルなPythonライブラリだったという。

ライブラリからサービスへ：独立サービス化の経緯

• 起点（2024年半ば）: HabitatはChatGPTのメインサーバーとやり取りする小さなPythonライブラリとして開始。背後はAzure Cosmos DBで、スキーマ参照・ルーティング・認可・暗号化・シリアライズ・接続プールを肩代わりし、製品チームがデータベース管理を意識せずに済む設計だった。
• 限界（2025年半ば）: サービス数の増加とともに、後方互換なプロトコル変更が事実上不可能に。重要データセットのリージョン分散移行では、数十サービスとの展開調整に何日もかかり、ロールバックで障害を招いた事例もあったという。
• サービス化: ストレージロジックを独立サービスに切り出し、デプロイ・可観測性・機能改善の単一制御点に。アクセス制御ポリシーの集中適用、監査ログ、基盤ストレージへのアクセス制限など、データ保護の要にもなっている。

Pythonサービスのまま拡張する工夫とRustへの書き換え

• Python継続の判断: 高スループット用途でのPythonのオーバーヘッドを認識しつつ、製品開発の停滞回避と基盤安定を優先する「戦略的な技術的負債」としてPythonサービス化。将来的な移行はCodexとGPTに賭けたとしている。
• テール遅延対策: asyncioのスケジューリング遅延、Statsigの機能フラグ設定の定期的JSONパース、aiohttpのLIFO接続再利用によるメタ安定障害（FIFO再利用で解消）、EnvoyによるHTTP/2多重化と接続集約など、運用で得た具体策を列挙している。
• Rust移行（2026年Q2）: 2名のエンジニアがCodexとGPT-5.5を用いてサービス全体をRustに書き換え。Rust版が本番リクエストの95%を処理し、Python版は数週間で廃止予定。Rust版はCPU効率6倍・メモリ効率15倍で、平均・テール遅延も大幅に改善したとしている（いずれもOpenAIの公称値）。
• 設計思想: 任意SQLではなくTAOに着想を得た制約的なNoSQL APIに限定し、予測可能な定量作業のリクエストに最適化。複雑なクエリはCDC経由でRocksetのオフライン二次ビューに逃がし、オンラインストレージを分析負荷から隔離している。

次回予告と位置づけ

• 第2回では、大規模マルチテナンシーの信頼性、読み取り性能の階層的最適化、Azure Cosmos DBとのパートナーシップ拡張を扱う予定。
• 本稿の数値（7000万リクエスト/秒、500PB超、効率6倍・15倍など）はすべてOpenAIの公称値で、独立した第三者評価は示されていない点に留意が必要だ。

出典

• Rapidly scaling online storage to serve over 1 billion ChatGPT users | OpenAI