UCloud 人工知能と Intel の背後にある技術的なストーリーを分析する (パート 2)

前回の記事では、UAI-Service が Intel のテクノロジーを活用して、クラウド ホストを使用するのと同じくらい便利に AI サービスを使用できるようにする方法など、技術的な問題を紹介しました。本稿では、UAI-Service がいかにして低い TCO で効率的な AI サービスを実現できるかといった問題について引き続き議論していきます。

UAI サービスのもう 1 つの重要な利点は、プラットフォーム内のデータのセキュリティです。

1. まず、UAI サービスは各仮想マシンに 1 つの AI ノードのみを展開するため、さまざまな AI タスク間の分離を実現します。

2. 次に、プラットフォーム自体には AI トレーニング データとトレーニング方法が含まれないため、操作中に必要なのはモデル ファイルとインターフェイス コードのみであり、データ漏洩の可能性が排除されます。

3. 最後に、UCloud は SDN テクノロジーに基づいてネットワーク リンク層の分離を実装し、各顧客の UAI サービス プロジェクト サブネットを相互に分離して、ネットワーク セキュリティを向上させます。

UAI-Service では、AI モデルとユーザー間のインターフェース コードが安全に分離され、完全に自動化された展開プロセスにより、運用および保守担当者が機密データにアクセスできないため、データ セキュリティがさらに向上します。

UAI-Service の普遍的な利点は、企業がさまざまな AI フレームワークに直面したときに直面する「選択麻痺」を解決します。 UAI-Service は、TensorFlow*、Keras*、Caffe*、MXNet* などの主流の AI フレームワークを適切にサポートします。企業はビジネスニーズに応じて、アクセスするさまざまな AI フレームワークを選択できます。

UAI-サービスフレームワーク図

従来の AI フレームワークに加えて、UAI-Service は Intel と協力して、より優れたパフォーマンスを備えた AI フレームワーク、Intel 向けに最適化された Caffe フレームワークも導入しました。建築。従来の AI フレームワークと比較して、このバージョンの Caffe フレームワークは、Intel Xeon プロセッサー ファミリーと Intel Xeon Phi プロセッサー ファミリーをより適切にサポートし、最新バージョンの Intel Math Kernel Library 2017 を統合しているため、Intel AVX の処理能力をより効率的に活用できます。

UCloud の一連のテスト結果によると、Intel 向けに最適化された Caffe フレームワークの助けにより、アーキテクチャにより、テスト システムで同時に実行されるスレッドの数を大幅に増やすことができます。このフレームワークに基づいて、テスト システムの実行時間は、変更前の 37 秒から最適化後の 3.6 秒に短縮され、全体的な実行パフォーマンスは 10 倍以上向上します。このフレームワークを採用することで、UAI-Service の AI オンライン サービスの効率が大幅に向上したことがわかりました。

低いTCOで効率的なAIサービスを実現

現段階では、AI 開発とイノベーションに取り組んでいる企業のほとんどは、ビジネスの変革とアップグレードを求めているスタートアップ企業または従来型企業であるため、TCO 管理には特に敏感です。コスト効率の高いオンライン AI 機能をどのように取得するかは、企業ユーザーの間で広く関心を集めている話題です。

画像認識や自然言語処理など、AI が重要な役割を果たしている分野では、大量の浮動小数点演算が必要になることが多いため、従来は、浮動小数点計算の高速化のみを提供する GPU プラットフォームの方が AI システムの構築に適していると考えられてきました。しかし、AI モデルの導入実務においては、GPU は非常に高価であり、価格は数万元にもなります。さらに、スケーラビリティが不足しているため、一度導入すると通常は単一のコンピューティング タスクしか実行できず、作業タスクの調整や変更に応じてタイムリーに適応することが困難になります。

このように、UCloud はデータセンターに大量に導入され、あらゆるサーバーに搭載される汎用プロセッサに着目しました。 「技術的な分析により、仮想クラウドホストのプロセッサは主に単純な命令セットで動作しており、Intel Xeonプロセッサに統合されているIntel AVXは十分に活用されていないことがわかりました。」 UCloudのYe Lideng氏は、「これは、浮動小数点演算性能で有名なIntel AVXの機能が、より適切なソリューションを提供してくれる可能性があることを意味します」と語った。

Intel AVX は、SIMD (Single Instruction Multiple Data) 命令セット仕様の完全なセットです。最大の利点は、256 ビットのベクトル計算をサポートし、プロセッサの浮動小数点計算パフォーマンスが大幅に向上することです。強化されたデータ再配置機能により、データをより効率的に保存および読み取ることもできます。 UCloud のエンジニアは、Intel AVX とその処理ユニットの特性と利点を十分に理解した後、各仮想マシンでこれまで十分に活用されていなかった Intel AVX 機能を活用して、AI オンライン サービスのコンピューティング ニーズを満たすという大胆なイノベーションを開始しました。

この偉業を達成するために、UCloud と Intel のエンジニアが協力して、AI オンライン サービスにおける Intel AVX のパフォーマンスを最適化しました。最適化と検証を繰り返した結果、AIオンラインサービスの重要な技術指標であるレイテンシを数百ミリ秒まで短縮することに成功し、UCloudユーザーの実際のアプリケーションニーズを完全に満たすことができました。

レイテンシ パフォーマンス指標が満たされる一方で、Intel Xeon E5 プロセッサー製品ファミリーの優れたスケーラビリティにより、その強力なアプリケーションの可能性も発揮され始めています。データセンターやサーバーに搭載されている無数の Intel プロセッサーをシステムに拡張することで、AI オンライン サービスに必要な浮動小数点演算能力をさらに強化できます。これは、GPU ソリューションよりもはるかにコスト効率の高いソリューションです。結局のところ、これらのプロセッサ ノードはすでに UCloud の既存の投資であり、さらに 1 ペニーも費やす必要はありません。

「これが、Intel プロセッサーの強力なスケーラビリティの力です。クラウド コンピューティング プラットフォームでは、プロセッサー リソースを迅速に、大量に拡張できます。現在のソリューションでは、各仮想マシンに AI オンライン サービス コンピューティング ノードが展開されます。つまり、将来的に、ユーザーのニーズに応じて、追加コストをあまりかけずに AI オンライン サービスを迅速かつ大規模に拡張できるということです。」 UCloudのYe Lideng氏は満足そうに語った。

この革新的な成果を検証するために、UAI-Service は、Intel Xeon E5 プロセッサー製品ファミリーをベースにした 200 台以上の仮想マシン ノードに AI オンライン サービス コンピューティング ノードを展開しました。検証テストの結果、Intel Xeon プロセッサーをベースにした AI オンライン サービス コンピューティング ノードがユーザーのパフォーマンス要件を完全に満たすことができることが示されました。ユーザーが TCO を効果的に削減できるように支援すると同時に、データセンターにおける環境保護と省エネの開発方向にも対応します。

最新の進歩: 機械が「幸福、怒り、悲しみ、喜び」をより早く認識できるようにする

UAI-Service は、初期段階での開発とテストの成功に基づき、最近、顔認識技術の応用において最新の進歩を達成しました。顔認識は常に人工知能における重要な研究方向です。 Intel Xeon サーバー プラットフォームをベースとし、Intel AVX でサポートされている UAI-Service は、一連の表情認識テストで優れたパフォーマンスを達成し、基礎知識のないユーザーが強力な AI 機能を習得できるようにする可能性を検証しました。

テストでは、UCloud は Tensorflow が提供する TF-Slim 実験ライブラリと、合計 35,887 枚の顔画像を含む公開表情認識データベース fer2013 を選択しました。テストサンプルは年齢、顔などが大きく異なるため、技術的なテストは極めて困難です。

テスト結果によると、同時実行性を前提とした場合、UAI-Service AI オンライン サービスのパフォーマンスは、一般に 8 コア 8G クラウド ホストよりも高いことがわかりました。先ほど取得した評価データによると、同時実行ノード数が 8 ～ 16 の場合、AI オンライン サービスのパフォーマンスは基本的に GPU ベースのソリューションと同じになります。これは、UAI-Service AI オンライン サービスに表情認識アプリケーションを導入すると優れた結果が得られることを示しているだけでなく、Intel AVX サポートに基づく UAI-Service が人工知能アプリケーションにおける従来のソリューションと十分に競合できることも証明しています。

結論は

UCloudは、UAI-Serviceでのこれまでの成功したコラボレーションに基づいて、今後Intelとの革新的なコラボレーションをさらに深める予定です。これには、Intelプロセッサに最適化された最新のAIフレームワークをUAI-Serviceオンラインサービスプラットフォームに導入すること、新世代のIntel Xeonスケーラブルプロセッサの機能、特に統合された新しいIntel AVX-512によってもたらされるより強力な浮動小数点コンピューティング機能を十分に活用することなどが含まれます。これにより、AIオンラインサービスをさらに最適化し、AIイノベーションとアプリケーションに重点を置く企業ユーザーが、引き続き合理的なコストでより強力なAIコンピューティングパワーサポートを得ることができます。

経験

AIオンラインサービスの普及には、技術的な進歩だけでなく、展開の利便性、既存のクラウドコンピューティング機能との統合度、分散クラスターへの展開の実現可能性も必要であり、これらは企業ユーザーのAI研究開発と応用プロセスにも大きな影響を及ぼします。 UCloud の UAI サービスがユーザーの悩みや具体的なニーズを正確に捉えているからこそ、ユーザーの支持を得ているのです。

データセンター内のアイドル状態のプロセッサ コンピューティング リソースという一般的な現象に着想を得て、私たちはアイドル状態の浮動小数点コンピューティング能力を AI オンライン サービスに創造的に活用しました。これは単なる技術革新ではなく、AI処理作業モードにおける新たな探求と試みでもあります。これは、企業ユーザーの TCO 削減に効果的に役立ち、データセンターにおける環境保護と省エネの開発動向に適合します。