src/ci/run.sh

   1 #!/usr/bin/env bash
   2
   3 set -e
   4
   5 if [ -n "$CI_JOB_NAME" ]; then
   6   echo "[CI_JOB_NAME=$CI_JOB_NAME]"
   7 fi
   8
   9 if [ "$NO_CHANGE_USER" = "" ]; then
  10   if [ "$LOCAL_USER_ID" != "" ]; then
  11     useradd --shell /bin/bash -u $LOCAL_USER_ID -o -c "" -m user
  12     export HOME=/home/user
  13     unset LOCAL_USER_ID
  14     exec su --preserve-environment -c "env PATH=$PATH \"$0\"" user
  15   fi
  16 fi
  17
  18 # only enable core dump on Linux
  19 if [ -f /proc/sys/kernel/core_pattern ]; then
  20   ulimit -c unlimited
  21 fi
  22
  23 ci_dir=`cd $(dirname $0) && pwd`
  24 source "$ci_dir/shared.sh"
  25
  26 branch_name=$(getCIBranch)
  27
  28 if [ ! isCI ] || [ "$branch_name" = "auto" ] || [ "$branch_name" = "try" ]; then
  29     RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --set build.print-step-timings --enable-verbose-tests"
  30 fi
  31
  32 RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --enable-sccache"
  33 RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --disable-manage-submodules"
  34 RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --enable-locked-deps"
  35 RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --enable-cargo-native-static"
  36 RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --set rust.codegen-units-std=1"
  37
  38 if [ "$DIST_SRC" = "" ]; then
  39   RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --disable-dist-src"
  40 fi
  41
  42 # If we're deploying artifacts then we set the release channel, otherwise if
  43 # we're not deploying then we want to be sure to enable all assertions because
  44 # we'll be running tests
  45 #
  46 # FIXME: need a scheme for changing this `nightly` value to `beta` and `stable`
  47 #        either automatically or manually.
  48 export RUST_RELEASE_CHANNEL=nightly
  49 if [ "$DEPLOY$DEPLOY_ALT" = "1" ]; then
  50   RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --release-channel=$RUST_RELEASE_CHANNEL"
  51   RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --enable-llvm-static-stdcpp"
  52   RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --set rust.remap-debuginfo"
  53   RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --debuginfo-level-std=1"
  54
  55   if [ "$NO_LLVM_ASSERTIONS" = "1" ]; then
  56     RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --disable-llvm-assertions"
  57   elif [ "$DEPLOY_ALT" != "" ]; then
  58     if [ "$NO_PARALLEL_COMPILER" = "" ]; then
  59       RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --set rust.parallel-compiler"
  60     fi
  61     RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --enable-llvm-assertions"
  62     RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --set rust.verify-llvm-ir"
  63   fi
  64 else
  65   # We almost always want debug assertions enabled, but sometimes this takes too
  66   # long for too little benefit, so we just turn them off.
  67   if [ "$NO_DEBUG_ASSERTIONS" = "" ]; then
  68     RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --enable-debug-assertions"
  69   fi
  70
  71   # In general we always want to run tests with LLVM assertions enabled, but not
  72   # all platforms currently support that, so we have an option to disable.
  73   if [ "$NO_LLVM_ASSERTIONS" = "" ]; then
  74     RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --enable-llvm-assertions"
  75   fi
  76
  77   RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --set rust.verify-llvm-ir"
  78 fi
  79
  80 if [ "$RUST_RELEASE_CHANNEL" = "nightly" ] || [ "$DIST_REQUIRE_ALL_TOOLS" = "" ]; then
  81     RUST_CONFIGURE_ARGS="$RUST_CONFIGURE_ARGS --enable-missing-tools"
  82 fi
  83
  84 # Print the date from the local machine and the date from an external source to
  85 # check for clock drifts. An HTTP URL is used instead of HTTPS since on Azure
  86 # Pipelines it happened that the certificates were marked as expired.
  87 datecheck() {
  88   echo "== clock drift check =="
  89   echo -n "  local time: "
  90   date
  91   echo -n "  network time: "
  92   curl -fs --head http://detectportal.firefox.com/success.txt | grep ^Date: \
  93       | sed 's/Date: //g' || true
  94   echo "== end clock drift check =="
  95 }
  96 datecheck
  97 trap datecheck EXIT
  98
  99 # We've had problems in the past of shell scripts leaking fds into the sccache
 100 # server (#48192) which causes Cargo to erroneously think that a build script
 101 # hasn't finished yet. Try to solve that problem by starting a very long-lived
 102 # sccache server at the start of the build, but no need to worry if this fails.
 103 SCCACHE_IDLE_TIMEOUT=10800 sccache --start-server || true
 104
 105 if [ "$RUN_CHECK_WITH_PARALLEL_QUERIES" != "" ]; then
 106   $SRC/configure --enable-parallel-compiler
 107   CARGO_INCREMENTAL=0 python2.7 ../x.py check
 108   rm -f config.toml
 109   rm -rf build
 110 fi
 111
 112 $SRC/configure $RUST_CONFIGURE_ARGS
 113
 114 retry make prepare
 115
 116 make check-bootstrap
 117
 118 # Display the CPU and memory information. This helps us know why the CI timing
 119 # is fluctuating.
 120 if isOSX; then
 121     system_profiler SPHardwareDataType || true
 122     sysctl hw || true
 123     ncpus=$(sysctl -n hw.ncpu)
 124 else
 125     cat /proc/cpuinfo || true
 126     cat /proc/meminfo || true
 127     ncpus=$(grep processor /proc/cpuinfo | wc -l)
 128 fi
 129
 130 if [ ! -z "$SCRIPT" ]; then
 131   sh -x -c "$SCRIPT"
 132 else
 133   do_make() {
 134     echo "make -j $ncpus $1"
 135     make -j $ncpus $1
 136     local retval=$?
 137     return $retval
 138   }
 139
 140   do_make "$RUST_CHECK_TARGET"
 141 fi
 142
 143 sccache --show-stats || true