{ “title”: “トレース”, “language”: “ja”, “description”: “この記事では、コアなオブザーバビリティデータの一つであるTraceのストレージと分析の実践について紹介します。” }
Trace
本記事では、可観測性データの中核の一つであるTraceのストレージと分析の実践について紹介します。完全な可観測性ソリューションの概要については、概要を参照してください。リソース評価、クラスターデプロイメント、および最適化については、Logを参照してください。
1. テーブル作成
Traceデータは書き込みとクエリパターンにおいて固有の特性を持っています。テーブル作成時の適切な設定により、パフォーマンスを大幅に向上させることができます。以下の主要なガイドラインに基づいてテーブルを作成してください：
パーティショニングとソート
- 時間フィールドにRANGEパーティショニングを使用し、動的パーティショニングを有効にして日単位でパーティションを自動管理します。
service_nameとDATETIME型の時間フィールドをキーとして使用します。これにより、特定のサービスの特定期間のトレースをクエリする際に数倍の高速化が可能です。
バケッティング
- バケット数はクラスター内の総ディスク数の約3倍に設定する必要があります。
- RANDOMバケッティング戦略を使用します。書き込み時のシングルタブレットインジェストと組み合わせることで、バッチ書き込み効率が向上します。
コンパクション
- time_seriesコンパクション戦略を使用して書き込み増幅を削減します。これは高スループットインジェスト下でのリソース最適化に重要です。
VARIANTデータタイプ
span_attributesやresource_attributesなどの拡張Traceフィールドには半構造化VARIANTデータタイプを使用します。これによりJSONデータが自動的にサブカラムに分割されてストレージされ、圧縮率が向上してストレージスペースが削減され、フィルタリングとサブカラム分析のパフォーマンスも向上します。
インデクシング
- 頻繁にクエリされるフィールドにインデックスを構築します。
- 全文検索が必要なフィールドについては、parserパラメータを指定します。Unicode tokenizationが一般的にほとんどのニーズを満たします。フレーズクエリをサポートするには
support_phraseオプションを有効にします。不要な場合はfalseに設定してストレージ使用量を削減します。
ストレージ
- ホットデータについては、クラウドディスクを使用する場合は1レプリカ、物理ディスクを使用する場合は最低2レプリカを設定します。
log_s3オブジェクトストレージとlog_policy_3dayポリシーを使用したホット・コールド階層ストレージ設定を使用し、3日を超えたデータをS3に移動します。
CREATE DATABASE log_db; USE log_db; -- Not required for compute-storage separation mode CREATE RESOURCE "log_s3" PROPERTIES ( "type" = "s3", "s3.endpoint" = "your_endpoint_url", "s3.region" = "your_region", "s3.bucket" = "your_bucket", "s3.root.path" = "your_path", "s3.access_key" = "your_ak", "s3.secret_key" = "your_sk" ); -- Not required for compute-storage separation mode CREATE STORAGE POLICY log_policy_3day PROPERTIES( "storage_resource" = "log_s3", "cooldown_ttl" = "259200" ); CREATE TABLE trace_table ( service_name VARCHAR(200), timestamp DATETIME(6), service_instance_id VARCHAR(200), trace_id VARCHAR(200), span_id STRING, trace_state STRING, parent_span_id STRING, span_name STRING, span_kind STRING, end_time DATETIME(6), duration BIGINT, span_attributes VARIANT, events ARRAY<STRUCT<timestamp:DATETIME(6), name:STRING, attributes:MAP<STRING, STRING>>>, links ARRAY<STRUCT<trace_id:STRING, span_id:STRING, trace_state:STRING, attributes:MAP<STRING, STRING>>>, status_message STRING, status_code STRING, resource_attributes VARIANT, scope_name STRING, scope_version STRING, INDEX idx_timestamp(timestamp) USING INVERTED, INDEX idx_service_instance_id(service_instance_id) USING INVERTED, INDEX idx_trace_id(trace_id) USING INVERTED, INDEX idx_span_id(span_id) USING INVERTED, INDEX idx_trace_state(trace_state) USING INVERTED, INDEX idx_parent_span_id(parent_span_id) USING INVERTED, INDEX idx_span_name(span_name) USING INVERTED, INDEX idx_span_kind(span_kind) USING INVERTED, INDEX idx_end_time(end_time) USING INVERTED, INDEX idx_duration(duration) USING INVERTED, INDEX idx_span_attributes(span_attributes) USING INVERTED, INDEX idx_status_message(status_message) USING INVERTED, INDEX idx_status_code(status_code) USING INVERTED, INDEX idx_resource_attributes(resource_attributes) USING INVERTED, INDEX idx_scope_name(scope_name) USING INVERTED, INDEX idx_scope_version(scope_version) USING INVERTED ) ENGINE = OLAP DUPLICATE KEY(service_name, timestamp) PARTITION BY RANGE(timestamp) () DISTRIBUTED BY RANDOM BUCKETS 250 PROPERTIES ( "compression" = "zstd", "compaction_policy" = "time_series", "inverted_index_storage_format" = "V2", "dynamic_partition.enable" = "true", "dynamic_partition.create_history_partition" = "true", "dynamic_partition.time_unit" = "DAY", "dynamic_partition.start" = "-30", "dynamic_partition.end" = "1", "dynamic_partition.prefix" = "p", "dynamic_partition.buckets" = "250", "dynamic_partition.replication_num" = "2", -- Not required for compute-storage separation "replication_num" = "2", -- Not required for compute-storage separation "storage_policy" = "log_policy_3day" -- Not required for compute-storage separation );
2. Trace Collection
Dorisは、OpenTelemetryなどのTrace収集システムと統合できる、オープンで汎用的なStream HTTP APIを提供しています。
OpenTelemetry Integration
- アプリケーション側でのOpenTelemetry SDKとの統合
ここでは、OpenTelemetry Java SDKと統合したSpring Bootサンプルアプリケーションを使用します。サンプルアプリケーションは公式のdemoから取得したもので、パス"/“へのリクエストに対して単純な”Hello World!"文字列を返します。
OpenTelemetry Java Agentをダウンロードしてください。Java Agentを使用する利点は、既存のアプリケーションに変更を加える必要がないことです。他の言語や統合方法については、OpenTelemetry公式サイトのLanguage APIs & SDKsまたはZero-code Instrumentationを参照してください。
- OpenTelemetry Collectorのデプロイと設定
OpenTelemetry Collectorをダウンロードして展開してください。Doris Exporterが含まれる“otelcol-contrib”で始まるパッケージをダウンロードする必要があります。
以下のようにotel_demo.yaml設定ファイルを作成してください。詳細については、Doris Exporterのdocumentationを参照してください。
receivers: otlp: # OTLP protocol, receiving data sent by the OpenTelemetry Java Agent protocols: grpc: endpoint: 0.0.0.0:4317 http: endpoint: 0.0.0.0:4318 processors: batch: send_batch_size: 100000 # Number of records per batch; recommended batch size between 100MB-1GB timeout: 10s exporters: doris: endpoint: http://localhost:8030 # FE HTTP address database: doris_db_name username: doris_username password: doris_password table: traces: doris_table_name create_schema: true # Whether to auto-create schema; manual table creation is needed if set to false mysql_endpoint: localhost:9030 # FE MySQL address history_days: 10 create_history_days: 10 timezone: Asia/Shanghai timeout: 60s # Timeout for HTTP stream load client log_response: true sending_queue: enabled: true num_consumers: 20 queue_size: 1000 retry_on_failure: enabled: true initial_interval: 5s max_interval: 30s headers: load_to_single_tablet: "true"
- OpenTelemetry Collectorを実行する
./otelcol-contrib --config otel_demo.yaml
- Spring Boot サンプルアプリケーションの開始
アプリケーションを開始する前に、コードを変更することなく、いくつかの環境変数を追加するだけです。
export JAVA_TOOL_OPTIONS="${JAVA_TOOL_OPTIONS} -javaagent:/your/path/to/opentelemetry-javaagent.jar" # Path to OpenTelemetry Java Agent export OTEL_JAVAAGENT_LOGGING="none" # Disable Otel logs to prevent interference with application logs export OTEL_SERVICE_NAME="myproject" export OTEL_TRACES_EXPORTER="otlp" # Send trace data using OTLP protocol export OTEL_EXPORTER_OTLP_ENDPOINT="http://localhost:4317" # Address of the OpenTelemetry Collector java -jar myproject-0.0.1-SNAPSHOT.jar
- Spring Boot サンプルサービスにアクセスして Trace データを生成する
curl localhost:8080 を実行すると、hello サービスへの呼び出しがトリガーされます。OpenTelemetry Java Agent は自動的に Trace データを生成し、OpenTelemetry Collector に送信します。Collector は設定された Doris Exporter を通じて Trace データを Doris テーブル（デフォルトは otel.otel_traces）に書き込みます。
3. Trace クエリ
Trace クエリは通常、Grafana などのビジュアルクエリインターフェースを使用します。
時間範囲とサービス名でフィルタして Trace サマリーを表示し、レイテンシ分布チャートと詳細な個別 Trace を含みます。
リンクをクリックして Trace 詳細を表示します。