Skip to main content
Edit this page

ストレージとコンピュートの分離

概要​

このガイドは、ClickHouseとS3を使用して、ストレージとコンピュートを分離したアーキテクチャを実装する方法を探ります。

ストレージとコンピュートの分離とは、コンピューティングリソースとストレージリソースを独立して管理することを意味します。ClickHouseでは、スケーラビリティ、コスト効率、柔軟性を向上させることができます。必要に応じてストレージとコンピュートリソースを別々にスケールし、パフォーマンスとコストを最適化できます。

ClickHouseにS3をバックエンドとして使用することは、特に「コールド」データのクエリパフォーマンスがあまり重要でないユースケースにおいて有用です。ClickHouseはS3BackedMergeTreeを使用して、MergeTreeエンジンのストレージとしてS3をサポートします。このテーブルエンジンは、S3のスケーラビリティとコストの利点を活用しながら、MergeTreeエンジンのインサートとクエリのパフォーマンスを維持することができます。

ストレージとコンピュートの分離アーキテクチャの実装と管理は、標準のClickHouseデプロイと比較してより複雑であることに注意してください。このガイドで説明するように、セルフマネージド型のClickHouseはストレージとコンピュートの分離を可能にしますが、設定なしでこのアーキテクチャを使用できるClickHouse Cloudの利用をお勧めします。これにはSharedMergeTreeテーブルエンジンを使用してください。

このガイドは、ClickHouseバージョン22.8以上を使用していることを前提としています。

Danger

AWS/GCSライフサイクルポリシーを設定しないでください。これはサポートされておらず、テーブルが破損する可能性があります。

1. ClickHouseディスクとしてS3を使用する​

ディスクの作成​

ストレージ構成を保存するためにClickHouseのconfig.dディレクトリに新しいファイルを作成します:

vim /etc/clickhouse-server/config.d/storage_config.xml

次のXMLを新しく作成したファイルにコピーし、データを保存したいAWSのバケット詳細に応じてBUCKET、ACCESS_KEY_ID、SECRET_ACCESS_KEYを置き換えます:

<clickhouse>
  <storage_configuration>
    <disks>
      <s3_disk>
        <type>s3</type>
        <endpoint>$BUCKET</endpoint>
        <access_key_id>$ACCESS_KEY_ID</access_key_id>
        <secret_access_key>$SECRET_ACCESS_KEY</secret_access_key>
        <metadata_path>/var/lib/clickhouse/disks/s3_disk/</metadata_path>
      </s3_disk>
      <s3_cache>
        <type>cache</type>
        <disk>s3_disk</disk>
        <path>/var/lib/clickhouse/disks/s3_cache/</path>
        <max_size>10Gi</max_size>
      </s3_cache>
    </disks>
    <policies>
      <s3_main>
        <volumes>
          <main>
            <disk>s3_disk</disk>
          </main>
        </volumes>
      </s3_main>
    </policies>
  </storage_configuration>
</clickhouse>

S3ディスクの設定をさらに詳細に指定する必要がある場合、例えばregionを指定したりカスタムHTTPheaderを送信したりする必要がある場合は、関連する設定の一覧をこちらで確認できます。

また、access_key_idとsecret_access_keyを以下に置き換えることで、環境変数やAmazon EC2メタデータから資格情報を取得しようとすることもできます:

<use_environment_credentials>true</use_environment_credentials>

設定ファイルを作成した後、ファイルの所有者をclickhouseユーザーとグループに更新する必要があります:

chown clickhouse:clickhouse /etc/clickhouse-server/config.d/storage_config.xml

クリックハウスサーバーを再起動して変更を適用することができます:

service clickhouse-server restart

2. S3をバックエンドにしたテーブルを作成​

S3ディスクが正しく設定されていることをテストするために、テーブルを作成してクエリを試みます。

新しいS3ストレージポリシーを指定してテーブルを作成します:

CREATE TABLE my_s3_table
  (
    `id` UInt64,
    `column1` String
  )
ENGINE = MergeTree
ORDER BY id
SETTINGS storage_policy = 's3_main';

エンジンをS3BackedMergeTreeとして指定する必要がないことを注意してください。ClickHouseは、テーブルがストレージにS3を使用していると検出すると、エンジンタイプを内部的に自動で変換します。

テーブルが正しいポリシーで作成されたことを確認します:

SHOW CREATE TABLE my_s3_table;

次の結果が表示されるはずです:

┌─statement────────────────────────────────────────────────────
│ CREATE TABLE default.my_s3_table
(
  `id` UInt64,
  `column1` String
)
ENGINE = MergeTree
ORDER BY id
SETTINGS storage_policy = 's3_main', index_granularity = 8192
└──────────────────────────────────────────────────────────────

新しいテーブルに行を挿入しましょう:

INSERT INTO my_s3_table (id, column1)
  VALUES (1, 'abc'), (2, 'xyz');

行が挿入されたことを確認しましょう:

SELECT * FROM my_s3_table;
┌─id─┬─column1─┐
│  1 │ abc     │
│  2 │ xyz     │
└────┴─────────┘

2 rows in set. Elapsed: 0.284 sec.

AWSコンソールにて、データがS3に正常に挿入された場合、指定されたバケットにClickHouseが新しいファイルを作成したことが確認できるはずです。

すべてが正常に動作した場合、ストレージとコンピュートが分離された状態でClickHouseを使用していることになります！

コンピュートとストレージの分離を使ったS3バケットの例

3. フォールトトレランスのためのレプリケーションの実装 (オプション)​

Danger

AWS/GCSライフサイクルポリシーを設定しないでください。これはサポートされておらず、テーブルが破損する可能性があります。

フォールトトレランスを確保するために、複数のAWSリージョンに分散された複数のClickHouseサーバーノードと、それぞれのノードに対するS3バケットを使用することができます。

S3ディスクを用いたレプリケーションは、ReplicatedMergeTreeテーブルエンジンを使用することで実現できます。詳細は次のガイドを参照してください:

参考文献​