src/ci/pgo.sh

   1 #!/bin/bash
   2
   3 set -euxo pipefail
   4
   5 # Compile several crates to gather execution PGO profiles.
   6 # Arg0 => profiles (Debug, Opt)
   7 # Arg1 => scenarios (Full, IncrFull, All)
   8 # Arg2 => crates (syn, cargo, ...)
   9 gather_profiles () {
  10   cd /checkout/obj
  11
  12   # Compile libcore, both in opt-level=0 and opt-level=3
  13   RUSTC_BOOTSTRAP=1 ./build/$PGO_HOST/stage2/bin/rustc \
  14       --edition=2021 --crate-type=lib ../library/core/src/lib.rs
  15   RUSTC_BOOTSTRAP=1 ./build/$PGO_HOST/stage2/bin/rustc \
  16       --edition=2021 --crate-type=lib -Copt-level=3 ../library/core/src/lib.rs
  17
  18   cd rustc-perf
  19
  20   # Run rustc-perf benchmarks
  21   # Benchmark using profile_local with eprintln, which essentially just means
  22   # don't actually benchmark -- just make sure we run rustc a bunch of times.
  23   RUST_LOG=collector=debug \
  24   RUSTC=/checkout/obj/build/$PGO_HOST/stage0/bin/rustc \
  25   RUSTC_BOOTSTRAP=1 \
  26   /checkout/obj/build/$PGO_HOST/stage0/bin/cargo run -p collector --bin collector -- \
  27           profile_local \
  28           eprintln \
  29           /checkout/obj/build/$PGO_HOST/stage2/bin/rustc \
  30           --id Test \
  31           --profiles $1 \
  32           --cargo /checkout/obj/build/$PGO_HOST/stage0/bin/cargo \
  33           --scenarios $2 \
  34           --include $3
  35
  36   cd /checkout/obj
  37 }
  38
  39 rm -rf /tmp/rustc-pgo
  40
  41 # We collect LLVM profiling information and rustc profiling information in
  42 # separate phases. This increases build time -- though not by a huge amount --
  43 # but prevents any problems from arising due to different profiling runtimes
  44 # being simultaneously linked in.
  45
  46 python3 ../x.py build --target=$PGO_HOST --host=$PGO_HOST \
  47     --stage 2 library/std \
  48     --llvm-profile-generate
  49
  50 # Compile rustc perf
  51 cp -r /tmp/rustc-perf ./
  52 chown -R $(whoami): ./rustc-perf
  53 cd rustc-perf
  54
  55 # Build the collector ahead of time, which is needed to make sure the rustc-fake
  56 # binary used by the collector is present.
  57 RUSTC=/checkout/obj/build/$PGO_HOST/stage0/bin/rustc \
  58 RUSTC_BOOTSTRAP=1 \
  59 /checkout/obj/build/$PGO_HOST/stage0/bin/cargo build -p collector
  60
  61 # Here we're profiling LLVM, so we only care about `Debug` and `Opt`, because we want to stress
  62 # codegen. We also profile some of the most prolific crates.
  63 gather_profiles "Debug,Opt" "Full" \
  64 "syn-1.0.89,cargo-0.60.0,serde-1.0.136,ripgrep-13.0.0,regex-1.5.5,clap-3.1.6,hyper-0.14.18"
  65
  66 # Merge the profile data we gathered for LLVM
  67 # Note that this uses the profdata from the clang we used to build LLVM,
  68 # which likely has a different version than our in-tree clang.
  69 /rustroot/bin/llvm-profdata \
  70     merge -o /tmp/llvm-pgo.profdata ./build/$PGO_HOST/llvm/build/profiles
  71
  72 # Rustbuild currently doesn't support rebuilding LLVM when PGO options
  73 # change (or any other llvm-related options); so just clear out the relevant
  74 # directories ourselves.
  75 rm -r ./build/$PGO_HOST/llvm ./build/$PGO_HOST/lld
  76
  77 # Okay, LLVM profiling is done, switch to rustc PGO.
  78
  79 python3 ../x.py build --target=$PGO_HOST --host=$PGO_HOST \
  80     --stage 2 library/std \
  81     --rust-profile-generate=/tmp/rustc-pgo
  82
  83 # Here we're profiling the `rustc` frontend, so we also include `Check`.
  84 # The benchmark set includes various stress tests that put the frontend under pressure.
  85 gather_profiles "Check,Debug,Opt" "All" \
  86   "externs,ctfe-stress-4,cargo-0.60.0,token-stream-stress,match-stress,tuple-stress"
  87
  88 # Merge the profile data we gathered
  89 ./build/$PGO_HOST/llvm/bin/llvm-profdata \
  90     merge -o /tmp/rustc-pgo.profdata /tmp/rustc-pgo
  91
  92 # Rustbuild currently doesn't support rebuilding LLVM when PGO options
  93 # change (or any other llvm-related options); so just clear out the relevant
  94 # directories ourselves.
  95 rm -r ./build/$PGO_HOST/llvm ./build/$PGO_HOST/lld
  96
  97 # This produces the actual final set of artifacts, using both the LLVM and rustc
  98 # collected profiling data.
  99 $@ \
 100     --rust-profile-use=/tmp/rustc-pgo.profdata \
 101     --llvm-profile-use=/tmp/llvm-pgo.profdata