IOの基本原則を実装する方法

IOの基本原則を実装する方法

最近、IO の基本的な実装原則を学ぶために、JAVA NIO について読んでいます。

IO に関連する基本的な概念は次のとおりです。

1) バッファ操作。 2) カーネル空間とユーザー空間。 3) 仮想メモリ。 4) ページング技術。

1. 仮想メモリ

仮想メモリは、ハードウェア例外 (ページ フォールト例外)、ハードウェア アドレス変換、メイン メモリ、ディスク ファイル、およびカーネル ソフトウェアの完全な相互作用であり、各プロセスに大規模で一貫性のあるプライベート アドレス空間を提供します。

仮想メモリの 3 つの主な機能: 1. メイン メモリをディスク上に保存されたアドレス空間のキャッシュとして扱います。 ②各プロセスに一貫したアドレス空間を提供する。 ③各プロセスのアドレス空間が他のプロセスによって破壊されないように保護する。

仮想メモリの 2 つの主な利点: ① 複数の仮想アドレスが同じ物理メモリ アドレスを指すことができます。 ② 仮想メモリ空​​間は、実際に使用可能なハードウェアメモリよりも大きくなる可能性があります。

[[207226]]

第二に、ユーザー空間とカーネル空間

仮想アドレスが 32 ビットであると仮定すると、仮想アドレス空間の範囲は 0 ~ 4G になります。オペレーティングシステムは 4G を 2 つの部分に分割し、最大の 1G バイト (仮想アドレス範囲: 0xC0000000-0xFFFFFFFF) をカーネルの使用に使用します。これをカーネル空間と呼びます。下位 3G バイトは各プロセスによって使用され、ユーザー スペースと呼ばれます。

カーネルはすべてのプロセスによって共有されるため、各プロセスはシステム コールを通じてカーネルに入ることができます。特定のプロセスごとに 4G の仮想アドレス空間が認識されます。これは、各プロセスが 4G の仮想アドレス空間を持つのと同じです。

3. IO操作

一般的な IO バッファ操作:

1) ユーザープロセスは、read() システムコールを使用して、ユーザー空間バッファを埋めるように要求します。

2) カーネルはディスク コントローラ ハードウェアにコマンドを送信し、ディスクからデータを読み取ります。

3) ディスク コントローラは DMA を使用してデータをカーネル バッファにコピーします (データは CPU を通過しません)。

4) カーネルは、ユーザー プロセスが read() 呼び出しを開始したときに指定されたユーザー バッファーにカーネル バッファーからデータをコピーします。

上の図からわかるように、ディスク内のデータは最初にカーネル バッファーに読み込まれます。次に、カーネルのバッファからユーザーのバッファにコピーされます。なぜこのようなことが起こるのでしょうか?

ユーザー空間プロセスはハードウェアに直接アクセスできない(ディスク コントローラーを操作できない)ためです。ディスクは、一度に固定サイズのブロックで動作するブロックベースのストレージ ハードウェア デバイスですが、ユーザー要求では任意のサイズのデータ​​ ブロックを要求する場合があります。したがって、データはディスクからユーザー空間に渡され、カーネルがデータの分解と再構成を担当します。

メモリマップ IO: 複数の仮想アドレスを再利用して、同じ物理メモリ アドレスを指します。カーネル空間(カーネルアドレス空間)のバッファアドレスは物理メモリアドレス領域にマッピングされ、ユーザー空間(ユーザーアドレス空間)のバッファアドレスも同じ物理メモリアドレス領域にマッピングされます。したがって、カーネル バッファーによってマップされた物理メモリ アドレスからユーザー バッファーによってマップされた物理メモリ アドレスにデータを移動する必要はありません。

要件: ① ユーザー バッファーとカーネル バッファーは同じページ サイズを使用してアラインメントされている必要があります。 ②バッファのサイズは、ディスク コントローラのブロック サイズ (512 バイトのディスク セクター) の倍数である必要があります。これは、ディスクがブロック ストレージ ベースのハードウェア デバイスであり、一度に固定サイズのデータ​​ ブロックのみを操作できるためです。

ユーザー バッファーはページ境界に配置され、IO 効率が向上します。このため、JAVA で新しいバイト配列を作成するときに指定するサイズは 2 の倍数 (4096) になります。

4 番目に、JAVA の IO は基本的に、データをバッファ内またはバッファ外へ移動することです。

read() および write() システム コールは、カーネル バッファーによってマップされた物理メモリ空間内のデータを、ユーザー バッファーによってマップされた物理メモリ空間にコピーするために使用されます。

したがって、メモリマップド IO を使用する場合、ユーザープロセスはファイルデータを直接メモリとして扱うと考えられ、read() または write() システムコールを使用する必要はありません。

read() システム コールが開始されると、読み取るデータの場所に応じて仮想アドレスが生成され (ユーザー プロセスは仮想アドレスを使用します)、MMU によって物理アドレスに変換されます。カーネル内に対応するデータがない場合、ページ フォールト要求が生成されます。カーネルは、ディスクからカーネル バッファーによってマップされた物理メモリにデータを読み込むためのページ ロードを担当します。ユーザー プログラムにとって、これはすべて無意識のうちに起こります。

つまり、基本的には、ページング技術によってデータがディスクからメモリにページ単位でロードされます。

5. JAVA NIO における直接キャッシュと非直接キャッシュ

ダイレクト キャッシュ: ヒープ上に割り当てられたストレージではなく、JVM の外部に配置されます。これは JAVA の GC によって管理されず、カーネル バッファと同等です。非直接キャッシュ: JAVA ヒープ上に構築され、JVM によって管理されるキャッシュ。ユーザー バッファーと同等です。

上記の 3 番目のポイントによると、直接キャッシュにデータをチャネルに書き込む方が、非直接キャッシュにデータを書き込むよりも高速です。チャネルに接続されているもう一方の端は、何らかの形式のハードウェアであるファイル (ディスク、FileChannel) またはネットワーク (ソケット チャネル) であるためです。したがって、非直接キャッシュの場合、データはカーネル バッファーを介してバッファーからハードウェアに転送されます。ダイレクト キャッシュはカーネル バッファに直接マップされるため、これは必要ありません。

<<:  58.com の高可用性 Docker コンテナ クラウド プラットフォームの技術的進化

>>:  クラウドスタックの3つの主要サービスモデルの分析

推薦する

公式アカウントのファン獲得方法、サイト運営の考え方、ファン獲得の実践スキル

ショートビデオ、セルフメディア、インフルエンサーのためのワンストップサービス1. 背景著者は以前、あ...

Baidu Green Radish Algorithm 2.0 の影響を受ける業界の内訳

7月1日以降、百度の青大根アルゴリズムは再びアップグレードされ、そのターゲットはより具体的になり、一...

優れたウェブマスターツールの推奨事項: Baidu 外部リンクツール

ウェブサイト上の外部リンクの数は、常に重要な SEO 最適化指標となっています。以前は、ウェブサイト...

グリーンラディッシュアルゴリズムのターゲットSEO手法

Baiduのアルゴリズムのアップデートにより、私たちSEO担当者は皆、SEO作業の優先順位を変えざる...

霧の中のコンピューティングノード通信: 調査と研究の課題

オープンソースの詳細については、以下をご覧ください。 51CTO オープンソース基本ソフトウェアコミ...

中国のインターネット「第2位」リストとその生存論理

Lenovo が世界最大の PC 販売会社になった後に人気になったジョークを繰り返す必要があるでしょ...

インターネット取引プラットフォームの征服:ウェブサイト取引の静かな台頭を分析

21世紀に入り、世界はインターネット時代に入り、電子商取引が普及しています。2013年には、インター...

SEO最適化ソフト記事の正しい書き方について簡単に解説

豊富なウェブサイト コンテンツは、間違いなくウェブサイトのユーザー エクスペリエンスを向上させること...

自分でテストしました!ウェブサイトの最適化の詳細が明らかに

Baidu が何度も調整を行って以来、ウェブサイト SEO の道は行き詰まりに陥っているようです。最...

Kubernetes (K8S) 管理、グラフィカル インターフェース、Web UI

1. k8s管理インターフェース主なものを3つ挙げます。公式 kubernetes-dashboar...

Neosurge128M小メモリXENVPSが利用可能

Neosurge の VPS ホスト cat は 3 回言及されています (詳細については を参照)...

アマゾン ウェブ サービス、武田薬品工業、アクセンチュアが共同で TakedaSpark+ を開発し、武田中国のデジタル化をさらに推進

アマゾン ウェブ サービスは2022年11月9日、第5回中国国際輸入博覧会(CIIE)の期間中、アマ...

Amazon Web Services、AWS Glue サービスのセキュリティ脆弱性を修正

[51CTO.com クイック翻訳] Amazon Web Services は、AWS Glue ...

Hengchuang Technology - 香港クラウドホスト(OpenStackクラウドアーキテクチャVPS)の簡単な評価

私は香港のデータセンターでHengchuang TechnologyからVPSを取得しました。この記...