JSON 追蹤記錄設定檔

回報問題 查看來源

如要迅速瞭解 Bazel 在叫用期間花多少時間,JSON 追蹤記錄設定檔就非常實用。

根據預設,所有類似建構的指令及查詢 Bazel 都會將這類設定檔寫入 command.profile.gz。您可以使用 --generate_json_trace_profile 標記設定是否要寫入設定檔,以及使用 --profile 標記寫入設定檔的位置。結尾為 .gz 的位置都會使用 GZIP 壓縮。使用旗標 --experimental_announce_profile_path,在記錄檔中顯示這個檔案的路徑。

工具

您可以將此設定檔載入 chrome://tracing,或使用其他工具分析及進行後續處理。

chrome://tracing

如要以視覺化方式呈現設定檔,請在 Chrome 瀏覽器分頁中開啟 chrome://tracing,按一下「Load」,然後選擇 (可能壓縮的) 設定檔。如要查看更詳細的結果,請按一下左下角的方塊。

個人資料範例:

範例個人資料

圖 1 範例個人資料。

您可以使用下列鍵盤控制項進行瀏覽:

  • 按下 1 鍵即可進入「選取」模式。在這個模式下,您可以勾選特定方塊來查看事件詳細資料 (請見左下角)。選取多個事件,即可取得匯總統計資料和匯總統計資料。
  • 按下 2 鍵可查看「平移」模式。然後拖曳滑鼠來移動檢視畫面。您也可以使用 a/d 來左右移動。
  • 按下 3 鍵即可進入「縮放」模式。然後拖曳滑鼠來縮放。您也可以使用 w/s 來放大/縮小。
  • 按下 4 做為「計時」模式,即可測量兩個事件之間的距離。
  • ? 即可查看所有控制選項。

bazel analyze-profile

Bazel 子指令 analyze-profile 會使用設定檔格式,並顯示每個建構階段中不同工作類型的累計統計資料,以及重要路徑的分析。

舉例來說

$ bazel build --profile=/tmp/profile.gz //path/to:target
...
$ bazel analyze-profile /tmp/profile.gz

可能會產生以下形式的輸出結果:

INFO: Profile created on Tue Jun 16 08:59:40 CEST 2020, build ID: 0589419c-738b-4676-a374-18f7bbc7ac23, output base: /home/johndoe/.cache/bazel/_bazel_johndoe/d8eb7a85967b22409442664d380222c0

=== PHASE SUMMARY INFORMATION ===

Total launch phase time         1.070 s   12.95%
Total init phase time           0.299 s    3.62%
Total loading phase time        0.878 s   10.64%
Total analysis phase time       1.319 s   15.98%
Total preparation phase time    0.047 s    0.57%
Total execution phase time      4.629 s   56.05%
Total finish phase time         0.014 s    0.18%
------------------------------------------------
Total run time                  8.260 s  100.00%

Critical path (4.245 s):
       Time Percentage   Description
    8.85 ms    0.21%   _Ccompiler_Udeps for @local_config_cc// compiler_deps
    3.839 s   90.44%   action 'Compiling external/com_google_protobuf/src/google/protobuf/compiler/php/php_generator.cc [for host]'
     270 ms    6.36%   action 'Linking external/com_google_protobuf/protoc [for host]'
    0.25 ms    0.01%   runfiles for @com_google_protobuf// protoc
     126 ms    2.97%   action 'ProtoCompile external/com_google_protobuf/python/google/protobuf/compiler/plugin_pb2.py'
    0.96 ms    0.02%   runfiles for //tools/aquery_differ aquery_differ

Bazel 叫用分析工具

開放原始碼 Bazel Invocation Analyzer 會使用設定檔格式,並輸出建議改善建構效能的建議。這項分析可以使用其 CLI 或 https://analyzer.engflow.com

jq

jq 和 JSON 資料的 sed 一樣。使用 jq 的範例,可在本機動作執行作業中,擷取沙箱建立步驟的所有持續時間:

$ zcat $(../bazel-6.0.0rc1-linux-x86_64 info output_base)/command.profile.gz | jq '.traceEvents | .[] | select(.name == "sandbox.createFileSystem") | .dur'
6378
7247
11850
13756
6555
7445
8487
15520
[...]

合作夥伴資料

設定檔含有多列。通常這幾列代表 Bazel 執行緒及其對應的事件,但也包含一些特殊資料列。

包含的特殊資料列可能取決於建立設定檔時叫用的 Bazel 版本,而且可能會透過不同的標記自訂。

圖 1 顯示使用 Bazel v5.3.1 建立的設定檔,當中包含下列資料列:

  • action count:顯示中同時執行的操作數。按一下即可查看實際值。應改用乾淨建構中的 --jobs 值。
  • CPU usage (Bazel):顯示建構的每一秒,其中顯示 Bazel 使用的 CPU 數量 (值為 1 表示一個核心等於 100% 忙碌中)。
  • Critical Path:針對重要路徑中的每個動作顯示一個區塊。
  • Main Thread:Bazel 的主執行緒。很適合用來概略瞭解 Bazel 的運作情形,例如「Launch Blaze」、「eMeasurementTargetPatterns」和「runAnalysisPhase」。
  • Garbage Collector:顯示小和主要垃圾收集 (GC) 暫停。

常見效能問題

分析成效概況時,請找出:

  • 比預期的分析階段 (runAnalysisPhase) 慢,尤其是在漸進式版本中。這可能表示規則實作方式不佳,例如整併依附元件。過多目標、複雜巨集或遞迴 glob 會使套件載入速度變慢。
  • 個別的緩慢動作,尤其是重要路徑上的動作。您可將大型動作分割為多個較小的動作,或減少一組 (轉換) 依附元件以加快動作。另請檢查異常高的非 PROCESS_TIME 值 (例如 REMOTE_SETUPFETCH)。
  • 瓶頸,只有少量執行緒處於忙碌狀態,其他執行緒則都在閒置 / 等待結果 (請參閱圖 1 約 22 和 29 的說明)。如要最佳化這項作業,最有可能需改變規則實作項目或 Bazel 本身,以產生更多平行處理。當垃圾收集數量異常時,也可能會發生這種情況。

設定檔檔案格式

頂層物件包含中繼資料 (otherData) 和實際的追蹤資料 (traceEvents)。中繼資料包含額外資訊,例如叫用 ID 和 Bazel 叫用的日期。

示例:

{
  "otherData": {
    "build_id": "101bff9a-7243-4c1a-8503-9dc6ae4c3b05",
    "date": "Wed Oct 26 08:22:35 CEST 2022",
    "profile_finish_ts": "1677666095162000",
    "output_base": "/usr/local/google/_bazel_johndoe/573d4be77eaa72b91a3dfaa497bf8cd0"
  },
  "traceEvents": [
    {"name":"thread_name","ph":"M","pid":1,"tid":0,"args":{"name":"Critical Path"}},
    ...
    {"cat":"build phase marker","name":"Launch Blaze","ph":"X","ts":-1306000,"dur":1306000,"pid":1,"tid":21},
    ...
    {"cat":"package creation","name":"foo","ph":"X","ts":2685358,"dur":784,"pid":1,"tid":246},
    ...
    {"name":"thread_name","ph":"M","pid":1,"tid":11,"args":{"name":"Garbage Collector"}},
    {"cat":"gc notification","name":"minor GC","ph":"X","ts":825986,"dur":11000,"pid":1,"tid":11},
    ...
    {"cat":"action processing","name":"Compiling foo/bar.c","ph":"X","ts":54413389,"dur":357594,"pid":1,"args":{"mnemonic":"CppCompile"},"tid":341},
 ]
}

追蹤記錄事件中的時間戳記 (ts) 和持續時間 (dur) 是以微秒為單位。類別 (cat) 是 ProfilerTask 的其中一個列舉值。請注意,有些事件很短且彼此接近,會合併在一起;如要避免事件合併,請傳遞 --noslim_json_profile

另請參閱 Chrome 追蹤事件格式規格