AWS Batch を使用すると、バッチジョブのコードをパッケージ化し、依存関係を指定して、AWS マネジメントコンソール、CLI、または SDK を使用してバッチジョブを送信するだけです。 AWS Batch を使用すると、実行パラメータとタスクの依存関係を指定できるだけでなく、さまざまな一般的なバッチコンピューティングワークフローエンジンや言語 (Pegasus WMS、Luigi、AWS Step Functions など) との統合も容易になります。 AWS Batch は、ジョブの要件に基づいて Amazon EC2 およびスポットインスタンスを効率的かつ動的にプロビジョニングおよびスケーリングします。 AWS Batch では、すぐに開始できるようにデフォルトのタスクキューとコンピューティング環境定義が用意されています。
特性 きめ細かなタスク定義 AWS Batch を使用すると、vCPU やメモリ、AWS Identity and Access Management (IAM) ロール、ボリュームマウントポイント、コンテナプロパティ、環境変数などのリソース要件を指定して、タスクの実行方法を定義できます。 AWS Batch は、Amazon ECS で実行されているコンテナ化されたアプリケーションと同じようにタスクを実行します。
シンプルなタスク依存関係モデリング AWS Batch を使用すると、さまざまなタスク間の依存関係を定義できます。たとえば、バッチ ジョブは 3 つの異なる処理段階に分割され、それぞれに異なるリソースが必要になる場合があります。依存関係を使用すると、リソース要件が異なる 3 つのタスクを作成できます。この場合、後続の各タスクは前のタスクに依存します。
一般的なワークフローエンジンをサポート AWS Batch は、Pegasus WMS や Luigi などの商用オープンソースワークフローエンジンおよび言語と統合され、使い慣れたワークフロー言語を使用してバッチコンピューティングパイプラインをモデル化できます。
動的なコンピューティングリソースのプロビジョニングと拡張 AWS Batch は、送信されたジョブのボリュームとリソース要件に基づいてコンピューティングリソースを動的にプロビジョニングおよびスケーリングするマネージドコンピューティング環境を提供します。 EC2 インスタンスタイプ、VPC サブネット構成、すべてのインスタンスの最小/最大/ベース vCPU、スポット入札など、要件に基づいて AWS Batch マネージドコンピューティング環境を構成できます。 さらに、AWS Batch 管理対象コンピューティングリソースで提供されるものとは異なる EC2 インスタンス構成 (より大きな EBS ボリュームや別のオペレーティングシステムなど) が必要な場合は、AWS Batch 管理対象外コンピューティングリソースで独自のコンピューティングリソースをプロビジョニングおよび管理できます。 Amazon ECS エージェントを使用して EC2 インスタンスをプロビジョニングし、サポートされているバージョンの Linux と Docker を実行するだけです。その後、AWS Batch はプロビジョニングした EC2 インスタンス上でバッチジョブを実行します。
優先度ベースのタスクスケジューリング AWS Batch を使用すると、優先順位の異なる複数のキューを設定できます。タスクのバッチは、実行するためのコンピューティング リソースが利用可能になるまでキューに保存されます。 AWS Batch スケジューラは、各タスクのリソース要件に基づいて、キューに送信されたタスクをいつ、どこで、どのように実行するかを評価します。スケジューラは各キューの優先度を評価し、タスク間の依存関係が決定されている限り、最も効率的なコンピューティング リソース (メモリや最適化された CPU など) の優先度に基づいてタスクを実行します。
ダイナミック入札 AWS Batch を使用すると、Amazon EC2 Spot を簡単に使用して、バッチジョブの実行コストをさらに削減できます。 AWS Batch は、タスクの数とタスクのリソース要件、およびコンピューティングリソースに設定された構成パラメータに基づいて、お客様に代わってスポットインスタンスに動的に入札します。
統合監視とログ記録 AWS Batch は、AWS マネジメントコンソールにバッチジョブの主要な運用メトリクスを表示します。コンピューティング容量に関連するメトリックや、アクティブ、保留中、完了したタスクを表示できます。タスクログ (STDERR や STDOUT など) は AWS マネジメントコンソールで表示でき、Amazon CloudWatch Logs に書き込むこともできます。
きめ細かなアクセス制御 AWS Batch は IAM を使用して、Amazon DynamoDB テーブルなど、ジョブがアクセスできる AWS リソースを制御および監視します。さらに、IAM を使用すると、組織内のさまざまなユーザーに対してポリシーを定義することができます。たとえば、管理者はすべての AWS Batch API 操作にフルアクセスでき、開発者はコンピューティング環境の設定とジョブの登録に関連する限定的な権限を持つことができ、エンドユーザーはジョブの送信と削除に必要な権限のみを持つことができます。 |
>>: AWS Identity and Access Management (IAM) の概要
以前、私はウェブサイトデザインの観点から Taobao と Paipai を考察した記事を書きました...
確かに、Baidu は Google や 360 Search よりはるかに遅いと言わざるを得ません...
李偉著2006 年に Google が YouTube を買収したことで、「ユーザー生成コンテンツ ...
導入この記事では、最新かつあまり一般的ではない Kubernetes エコシステム ツールの概要をま...
タオバオに店を開くことは、今でも多くの若者がオンラインで自分のビジネスを始めるために選ぶ方法です。『...
【編集後記】この記事は@一只土贼の個人ブログから転載したものです。これまでの単純で粗雑な「ブレーンス...
検索エンジンのスナップショットが停滞しているということは、検索エンジンがそのウェブサイトを信頼してい...
Weiboマーケティングの事例やWeiboマーケティングの概念は数多く存在しますが、Weiboマーケ...
毎年恒例のクリスマス期間中、hostdare は年間で最も安い VPS プロモーションを実施し、ロサ...
Baidu の検索システムの全面的なアップグレードにより、大量の高品質コンテンツをより速く、より完全...
Qunarや58.comを含む一部の企業にとって、株式公開は明らかに投資を求め、発展を続けるための重...
Geek Hosting (GKE) は、シンガポールとロサンゼルスのデータセンターのすべての VP...
ホストを紹介する前に、少し説明が必要です。Arvixe は 2003 年に設立され、2011 年に米...
デスクトップ仮想化テクノロジは、セキュリティ、管理性、柔軟性を向上させることが期待されているため、関...
AWS Wavelength は、5G ネットワークのエッジに AWS コンピューティングとストレー...