src/ci/run.sh

   1 #!/usr/bin/env bash
   2
   3 set -e
   4
   5 if [ -n "$CI_JOB_NAME" ]; then
   6   echo "[CI_JOB_NAME=$CI_JOB_NAME]"
   7 fi
   8
   9 if [ "$NO_CHANGE_USER" = "" ]; then
  10   if [ "$LOCAL_USER_ID" != "" ]; then
  11     useradd --shell /bin/bash -u $LOCAL_USER_ID -o -c "" -m user
  12     export HOME=/home/user
  13     unset LOCAL_USER_ID
  14
  15     # Ensure that runners are able to execute git commands in the worktree,
  16     # overriding the typical git protections. In our docker container we're running
  17     # as root, while the user owning the checkout is not root.
  18     # This is only necessary when we change the user, otherwise we should
  19     # already be running with the right user.
  20     #
  21     # For NO_CHANGE_USER done in the small number of Dockerfiles affected.
  22     echo -e '[safe]\n\tdirectory = *' > /home/user/gitconfig
  23
  24     exec su --preserve-environment -c "env PATH=$PATH \"$0\"" user
  25   fi
  26 fi
  27
  28 # only enable core dump on Linux
  29 if [ -f /proc/sys/kernel/core_pattern ]; then
  30   ulimit -c unlimited
  31 fi
  32
  33 # There was a bad interaction between "old" 32-bit binaries on current 64-bit
  34 # kernels with selinux enabled, where ASLR mmap would sometimes choose a low
  35 # address and then block it for being below `vm.mmap_min_addr` -> `EACCES`.
  36 # This is probably a kernel bug, but setting `ulimit -Hs` works around it.
  37 # See also `dist-i686-linux` where this setting is enabled.
  38 if [ "$SET_HARD_RLIMIT_STACK" = "1" ]; then
  39   rlimit_stack=$(ulimit -Ss)
  40   if [ "$rlimit_stack" != "" ]; then
  41     ulimit -Hs "$rlimit_stack"
  42   fi
  43 fi
  44
  45 ci_dir=`cd $(dirname $0) && pwd`
  46 source "$ci_dir/shared.sh"
  47
  48 if command -v python > /dev/null; then
  49     PYTHON="python"
  50 elif command -v python3 > /dev/null; then
  51     PYTHON="python3"
  52 else
  53     PYTHON="python2"
  54 fi
  55
  56 if ! isCI || isCiBranch auto || isCiBranch beta || isCiBranch try || isCiBranch try-perf; then
  57     RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --set build.print-step-timings --enable-verbose-tests"
  58     RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --set build.metrics"
  59     HAS_METRICS=1
  60 fi
  61
  62 RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --enable-sccache"
  63 RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --disable-manage-submodules"
  64 RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --enable-locked-deps"
  65 RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --enable-cargo-native-static"
  66 RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --set rust.codegen-units-std=1"
  67
  68 # Only produce xz tarballs on CI. gz tarballs will be generated by the release
  69 # process by recompressing the existing xz ones. This decreases the storage
  70 # space required for CI artifacts.
  71 RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --dist-compression-formats=xz"
  72
  73 if [ "$DIST_SRC" = "" ]; then
  74   RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --disable-dist-src"
  75 fi
  76
  77 # Always set the release channel for bootstrap; this is normally not important (i.e., only dist
  78 # builds would seem to matter) but in practice bootstrap wants to know whether we're targeting
  79 # master, beta, or stable with a build to determine whether to run some checks (notably toolstate).
  80 export RUST_RELEASE_CHANNEL=$(releaseChannel)
  81 RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --release-channel=$RUST_RELEASE_CHANNEL"
  82
  83 if [ "$DEPLOY$DEPLOY_ALT" = "1" ]; then
  84   RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --enable-llvm-static-stdcpp"
  85   RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --set rust.remap-debuginfo"
  86   RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --debuginfo-level-std=1"
  87
  88   if [ "$NO_LLVM_ASSERTIONS" = "1" ]; then
  89     RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --disable-llvm-assertions"
  90   elif [ "$DEPLOY_ALT" != "" ]; then
  91     if [ "$NO_PARALLEL_COMPILER" = "" ]; then
  92       RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --set rust.parallel-compiler"
  93     fi
  94     RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --enable-llvm-assertions"
  95     RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --set rust.verify-llvm-ir"
  96   fi
  97 else
  98   # We almost always want debug assertions enabled, but sometimes this takes too
  99   # long for too little benefit, so we just turn them off.
 100   if [ "$NO_DEBUG_ASSERTIONS" = "" ]; then
 101     RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --enable-debug-assertions"
 102   fi
 103
 104   # Same for overflow checks
 105   if [ "$NO_OVERFLOW_CHECKS" = "" ]; then
 106     RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --enable-overflow-checks"
 107   fi
 108
 109   # In general we always want to run tests with LLVM assertions enabled, but not
 110   # all platforms currently support that, so we have an option to disable.
 111   if [ "$NO_LLVM_ASSERTIONS" = "" ]; then
 112     RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --enable-llvm-assertions"
 113   fi
 114
 115   RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --set rust.verify-llvm-ir"
 116
 117   # We enable this for non-dist builders, since those aren't trying to produce
 118   # fresh binaries. We currently don't entirely support distributing a fresh
 119   # copy of the compiler (including llvm tools, etc.) if we haven't actually
 120   # built LLVM, since not everything necessary is copied into the
 121   # local-usage-only LLVM artifacts. If that changes, this could maybe be made
 122   # true for all builds. In practice it's probably a good idea to keep building
 123   # LLVM continuously on at least some builders to ensure it works, though.
 124   # (And PGO is its own can of worms).
 125   if [ "$NO_DOWNLOAD_CI_LLVM" = "" ]; then
 126     RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --set llvm.download-ci-llvm=if-available"
 127   else
 128     # When building for CI we want to use the static C++ Standard library
 129     # included with LLVM, since a dynamic libstdcpp may not be available.
 130     RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --set llvm.static-libstdcpp"
 131   fi
 132 fi
 133
 134 if [ "$RUST_RELEASE_CHANNEL" = "nightly" ] || [ "$DIST_REQUIRE_ALL_TOOLS" = "" ]; then
 135     RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --enable-missing-tools"
 136 fi
 137
 138 export COMPILETEST_NEEDS_ALL_LLVM_COMPONENTS=1
 139
 140 # Print the date from the local machine and the date from an external source to
 141 # check for clock drifts. An HTTP URL is used instead of HTTPS since on Azure
 142 # Pipelines it happened that the certificates were marked as expired.
 143 datecheck() {
 144   echo "== clock drift check =="
 145   echo -n "  local time: "
 146   date
 147   echo -n "  network time: "
 148   curl -fs --head http://ci-caches.rust-lang.org | grep ^Date: \
 149       | sed 's/Date: //g' || true
 150   echo "== end clock drift check =="
 151 }
 152 datecheck
 153 trap datecheck EXIT
 154
 155 # We've had problems in the past of shell scripts leaking fds into the sccache
 156 # server (#48192) which causes Cargo to erroneously think that a build script
 157 # hasn't finished yet. Try to solve that problem by starting a very long-lived
 158 # sccache server at the start of the build, but no need to worry if this fails.
 159 SCCACHE_IDLE_TIMEOUT=10800 sccache --start-server || true
 160
 161 $SRC/configure $RUST_CONFIGURE_ARGS
 162
 163 retry make prepare
 164
 165 # Display the CPU and memory information. This helps us know why the CI timing
 166 # is fluctuating.
 167 if isMacOS; then
 168     system_profiler SPHardwareDataType || true
 169     sysctl hw || true
 170     ncpus=$(sysctl -n hw.ncpu)
 171 else
 172     cat /proc/cpuinfo || true
 173     cat /proc/meminfo || true
 174     ncpus=$(grep processor /proc/cpuinfo | wc -l)
 175 fi
 176
 177 if [ ! -z "$SCRIPT" ]; then
 178   sh -x -c "$SCRIPT"
 179 else
 180   do_make() {
 181     echo "make -j $ncpus $1"
 182     make -j $ncpus $1
 183     local retval=$?
 184     return $retval
 185   }
 186
 187   do_make "$RUST_CHECK_TARGET"
 188 fi
 189
 190 if [ "$RUN_CHECK_WITH_PARALLEL_QUERIES" != "" ]; then
 191   rm -f config.toml
 192   $SRC/configure --set rust.parallel-compiler
 193
 194   # Save the build metrics before we wipe the directory
 195   if [ $HAS_METRICS = 1 ]; then
 196     mv build/metrics.json .
 197   fi
 198   rm -rf build
 199   if [ $HAS_METRICS = 1 ]; then
 200     mkdir build
 201     mv metrics.json build
 202   fi
 203
 204   CARGO_INCREMENTAL=0 $PYTHON ../x.py check
 205 fi
 206
 207 sccache --show-stats || true