src/bootstrap/util.rs

   1 //! Various utility functions used throughout rustbuild.
   2 //!
   3 //! Simple things like testing the various filesystem operations here and there,
   4 //! not a lot of interesting happenings here unfortunately.
   5
   6 use std::env;
   7 use std::fs;
   8 use std::io;
   9 use std::path::{Path, PathBuf};
  10 use std::process::{Command, Stdio};
  11 use std::str;
  12 use std::time::{Instant, SystemTime, UNIX_EPOCH};
  13
  14 use crate::builder::Builder;
  15 use crate::config::{Config, TargetSelection};
  16
  17 /// A helper macro to `unwrap` a result except also print out details like:
  18 ///
  19 /// * The file/line of the panic
  20 /// * The expression that failed
  21 /// * The error itself
  22 ///
  23 /// This is currently used judiciously throughout the build system rather than
  24 /// using a `Result` with `try!`, but this may change one day...
  25 #[macro_export]
  26 macro_rules! t {
  27     ($e:expr) => {
  28         match $e {
  29             Ok(e) => e,
  30             Err(e) => panic!("{} failed with {}", stringify!($e), e),
  31         }
  32     };
  33     // it can show extra info in the second parameter
  34     ($e:expr, $extra:expr) => {
  35         match $e {
  36             Ok(e) => e,
  37             Err(e) => panic!("{} failed with {} ({:?})", stringify!($e), e, $extra),
  38         }
  39     };
  40 }
  41 pub use t;
  42
  43 /// Given an executable called `name`, return the filename for the
  44 /// executable for a particular target.
  45 pub fn exe(name: &str, target: TargetSelection) -> String {
  46     if target.contains("windows") { format!("{}.exe", name) } else { name.to_string() }
  47 }
  48
  49 /// Returns `true` if the file name given looks like a dynamic library.
  50 pub fn is_dylib(name: &str) -> bool {
  51     name.ends_with(".dylib") || name.ends_with(".so") || name.ends_with(".dll")
  52 }
  53
  54 /// Returns `true` if the file name given looks like a debug info file
  55 pub fn is_debug_info(name: &str) -> bool {
  56     // FIXME: consider split debug info on other platforms (e.g., Linux, macOS)
  57     name.ends_with(".pdb")
  58 }
  59
  60 /// Returns the corresponding relative library directory that the compiler's
  61 /// dylibs will be found in.
  62 pub fn libdir(target: TargetSelection) -> &'static str {
  63     if target.contains("windows") { "bin" } else { "lib" }
  64 }
  65
  66 /// Adds a list of lookup paths to `cmd`'s dynamic library lookup path.
  67 /// If the dylib_path_var is already set for this cmd, the old value will be overwritten!
  68 pub fn add_dylib_path(path: Vec<PathBuf>, cmd: &mut Command) {
  69     let mut list = dylib_path();
  70     for path in path {
  71         list.insert(0, path);
  72     }
  73     cmd.env(dylib_path_var(), t!(env::join_paths(list)));
  74 }
  75
  76 include!("dylib_util.rs");
  77
  78 /// Adds a list of lookup paths to `cmd`'s link library lookup path.
  79 pub fn add_link_lib_path(path: Vec<PathBuf>, cmd: &mut Command) {
  80     let mut list = link_lib_path();
  81     for path in path {
  82         list.insert(0, path);
  83     }
  84     cmd.env(link_lib_path_var(), t!(env::join_paths(list)));
  85 }
  86
  87 /// Returns the environment variable which the link library lookup path
  88 /// resides in for this platform.
  89 fn link_lib_path_var() -> &'static str {
  90     if cfg!(target_env = "msvc") { "LIB" } else { "LIBRARY_PATH" }
  91 }
  92
  93 /// Parses the `link_lib_path_var()` environment variable, returning a list of
  94 /// paths that are members of this lookup path.
  95 fn link_lib_path() -> Vec<PathBuf> {
  96     let var = match env::var_os(link_lib_path_var()) {
  97         Some(v) => v,
  98         None => return vec![],
  99     };
 100     env::split_paths(&var).collect()
 101 }
 102
 103 pub struct TimeIt(bool, Instant);
 104
 105 /// Returns an RAII structure that prints out how long it took to drop.
 106 pub fn timeit(builder: &Builder<'_>) -> TimeIt {
 107     TimeIt(builder.config.dry_run, Instant::now())
 108 }
 109
 110 impl Drop for TimeIt {
 111     fn drop(&mut self) {
 112         let time = self.1.elapsed();
 113         if !self.0 {
 114             println!("\tfinished in {}.{:03} seconds", time.as_secs(), time.subsec_millis());
 115         }
 116     }
 117 }
 118
 119 /// Used for download caching
 120 pub(crate) fn program_out_of_date(stamp: &Path, key: &str) -> bool {
 121     if !stamp.exists() {
 122         return true;
 123     }
 124     t!(fs::read_to_string(stamp)) != key
 125 }
 126
 127 /// Symlinks two directories, using junctions on Windows and normal symlinks on
 128 /// Unix.
 129 pub fn symlink_dir(config: &Config, src: &Path, dest: &Path) -> io::Result<()> {
 130     if config.dry_run {
 131         return Ok(());
 132     }
 133     let _ = fs::remove_dir(dest);
 134     return symlink_dir_inner(src, dest);
 135
 136     #[cfg(not(windows))]
 137     fn symlink_dir_inner(src: &Path, dest: &Path) -> io::Result<()> {
 138         use std::os::unix::fs;
 139         fs::symlink(src, dest)
 140     }
 141
 142     // Creating a directory junction on windows involves dealing with reparse
 143     // points and the DeviceIoControl function, and this code is a skeleton of
 144     // what can be found here:
 145     //
 146     // http://www.flexhex.com/docs/articles/hard-links.phtml
 147     #[cfg(windows)]
 148     fn symlink_dir_inner(target: &Path, junction: &Path) -> io::Result<()> {
 149         use std::ffi::OsStr;
 150         use std::os::windows::ffi::OsStrExt;
 151         use std::ptr;
 152
 153         use winapi::shared::minwindef::{DWORD, WORD};
 154         use winapi::um::fileapi::{CreateFileW, OPEN_EXISTING};
 155         use winapi::um::handleapi::CloseHandle;
 156         use winapi::um::ioapiset::DeviceIoControl;
 157         use winapi::um::winbase::{FILE_FLAG_BACKUP_SEMANTICS, FILE_FLAG_OPEN_REPARSE_POINT};
 158         use winapi::um::winioctl::FSCTL_SET_REPARSE_POINT;
 159         use winapi::um::winnt::{
 160             FILE_SHARE_DELETE, FILE_SHARE_READ, FILE_SHARE_WRITE, GENERIC_WRITE,
 161             IO_REPARSE_TAG_MOUNT_POINT, MAXIMUM_REPARSE_DATA_BUFFER_SIZE, WCHAR,
 162         };
 163
 164         #[allow(non_snake_case)]
 165         #[repr(C)]
 166         struct REPARSE_MOUNTPOINT_DATA_BUFFER {
 167             ReparseTag: DWORD,
 168             ReparseDataLength: DWORD,
 169             Reserved: WORD,
 170             ReparseTargetLength: WORD,
 171             ReparseTargetMaximumLength: WORD,
 172             Reserved1: WORD,
 173             ReparseTarget: WCHAR,
 174         }
 175
 176         fn to_u16s<S: AsRef<OsStr>>(s: S) -> io::Result<Vec<u16>> {
 177             Ok(s.as_ref().encode_wide().chain(Some(0)).collect())
 178         }
 179
 180         // We're using low-level APIs to create the junction, and these are more
 181         // picky about paths. For example, forward slashes cannot be used as a
 182         // path separator, so we should try to canonicalize the path first.
 183         let target = fs::canonicalize(target)?;
 184
 185         fs::create_dir(junction)?;
 186
 187         let path = to_u16s(junction)?;
 188
 189         unsafe {
 190             let h = CreateFileW(
 191                 path.as_ptr(),
 192                 GENERIC_WRITE,
 193                 FILE_SHARE_READ | FILE_SHARE_WRITE | FILE_SHARE_DELETE,
 194                 ptr::null_mut(),
 195                 OPEN_EXISTING,
 196                 FILE_FLAG_OPEN_REPARSE_POINT | FILE_FLAG_BACKUP_SEMANTICS,
 197                 ptr::null_mut(),
 198             );
 199
 200             #[repr(C, align(8))]
 201             struct Align8<T>(T);
 202             let mut data = Align8([0u8; MAXIMUM_REPARSE_DATA_BUFFER_SIZE as usize]);
 203             let db = data.0.as_mut_ptr() as *mut REPARSE_MOUNTPOINT_DATA_BUFFER;
 204             let buf = core::ptr::addr_of_mut!((*db).ReparseTarget) as *mut u16;
 205             let mut i = 0;
 206             // FIXME: this conversion is very hacky
 207             let v = br"\??\";
 208             let v = v.iter().map(|x| *x as u16);
 209             for c in v.chain(target.as_os_str().encode_wide().skip(4)) {
 210                 *buf.offset(i) = c;
 211                 i += 1;
 212             }
 213             *buf.offset(i) = 0;
 214             i += 1;
 215             (*db).ReparseTag = IO_REPARSE_TAG_MOUNT_POINT;
 216             (*db).ReparseTargetMaximumLength = (i * 2) as WORD;
 217             (*db).ReparseTargetLength = ((i - 1) * 2) as WORD;
 218             (*db).ReparseDataLength = (*db).ReparseTargetLength as DWORD + 12;
 219
 220             let mut ret = 0;
 221             let res = DeviceIoControl(
 222                 h as *mut _,
 223                 FSCTL_SET_REPARSE_POINT,
 224                 db.cast(),
 225                 (*db).ReparseDataLength + 8,
 226                 ptr::null_mut(),
 227                 0,
 228                 &mut ret,
 229                 ptr::null_mut(),
 230             );
 231
 232             let out = if res == 0 { Err(io::Error::last_os_error()) } else { Ok(()) };
 233             CloseHandle(h);
 234             out
 235         }
 236     }
 237 }
 238
 239 /// The CI environment rustbuild is running in. This mainly affects how the logs
 240 /// are printed.
 241 #[derive(Copy, Clone, PartialEq, Eq, Debug)]
 242 pub enum CiEnv {
 243     /// Not a CI environment.
 244     None,
 245     /// The Azure Pipelines environment, for Linux (including Docker), Windows, and macOS builds.
 246     AzurePipelines,
 247     /// The GitHub Actions environment, for Linux (including Docker), Windows and macOS builds.
 248     GitHubActions,
 249 }
 250
 251 impl CiEnv {
 252     /// Obtains the current CI environment.
 253     pub fn current() -> CiEnv {
 254         if env::var("TF_BUILD").map_or(false, |e| e == "True") {
 255             CiEnv::AzurePipelines
 256         } else if env::var("GITHUB_ACTIONS").map_or(false, |e| e == "true") {
 257             CiEnv::GitHubActions
 258         } else {
 259             CiEnv::None
 260         }
 261     }
 262
 263     pub fn is_ci() -> bool {
 264         Self::current() != CiEnv::None
 265     }
 266
 267     /// If in a CI environment, forces the command to run with colors.
 268     pub fn force_coloring_in_ci(self, cmd: &mut Command) {
 269         if self != CiEnv::None {
 270             // Due to use of stamp/docker, the output stream of rustbuild is not
 271             // a TTY in CI, so coloring is by-default turned off.
 272             // The explicit `TERM=xterm` environment is needed for
 273             // `--color always` to actually work. This env var was lost when
 274             // compiling through the Makefile. Very strange.
 275             cmd.env("TERM", "xterm").args(&["--color", "always"]);
 276         }
 277     }
 278 }
 279
 280 pub fn forcing_clang_based_tests() -> bool {
 281     if let Some(var) = env::var_os("RUSTBUILD_FORCE_CLANG_BASED_TESTS") {
 282         match &var.to_string_lossy().to_lowercase()[..] {
 283             "1" | "yes" | "on" => true,
 284             "0" | "no" | "off" => false,
 285             other => {
 286                 // Let's make sure typos don't go unnoticed
 287                 panic!(
 288                     "Unrecognized option '{}' set in \
 289                         RUSTBUILD_FORCE_CLANG_BASED_TESTS",
 290                     other
 291                 )
 292             }
 293         }
 294     } else {
 295         false
 296     }
 297 }
 298
 299 pub fn use_host_linker(target: TargetSelection) -> bool {
 300     // FIXME: this information should be gotten by checking the linker flavor
 301     // of the rustc target
 302     !(target.contains("emscripten")
 303         || target.contains("wasm32")
 304         || target.contains("nvptx")
 305         || target.contains("fortanix")
 306         || target.contains("fuchsia")
 307         || target.contains("bpf")
 308         || target.contains("switch"))
 309 }
 310
 311 pub fn is_valid_test_suite_arg<'a, P: AsRef<Path>>(
 312     path: &'a Path,
 313     suite_path: P,
 314     builder: &Builder<'_>,
 315 ) -> Option<&'a str> {
 316     let suite_path = suite_path.as_ref();
 317     let path = match path.strip_prefix(".") {
 318         Ok(p) => p,
 319         Err(_) => path,
 320     };
 321     if !path.starts_with(suite_path) {
 322         return None;
 323     }
 324     let abs_path = builder.src.join(path);
 325     let exists = abs_path.is_dir() || abs_path.is_file();
 326     if !exists {
 327         panic!(
 328             "Invalid test suite filter \"{}\": file or directory does not exist",
 329             abs_path.display()
 330         );
 331     }
 332     // Since test suite paths are themselves directories, if we don't
 333     // specify a directory or file, we'll get an empty string here
 334     // (the result of the test suite directory without its suite prefix).
 335     // Therefore, we need to filter these out, as only the first --test-args
 336     // flag is respected, so providing an empty --test-args conflicts with
 337     // any following it.
 338     match path.strip_prefix(suite_path).ok().and_then(|p| p.to_str()) {
 339         Some(s) if !s.is_empty() => Some(s),
 340         _ => None,
 341     }
 342 }
 343
 344 pub fn run(cmd: &mut Command, print_cmd_on_fail: bool) {
 345     if !try_run(cmd, print_cmd_on_fail) {
 346         crate::detail_exit(1);
 347     }
 348 }
 349
 350 pub fn try_run(cmd: &mut Command, print_cmd_on_fail: bool) -> bool {
 351     let status = match cmd.status() {
 352         Ok(status) => status,
 353         Err(e) => fail(&format!("failed to execute command: {:?}\nerror: {}", cmd, e)),
 354     };
 355     if !status.success() && print_cmd_on_fail {
 356         println!(
 357             "\n\ncommand did not execute successfully: {:?}\n\
 358              expected success, got: {}\n\n",
 359             cmd, status
 360         );
 361     }
 362     status.success()
 363 }
 364
 365 pub fn check_run(cmd: &mut Command, print_cmd_on_fail: bool) -> bool {
 366     let status = match cmd.status() {
 367         Ok(status) => status,
 368         Err(e) => {
 369             println!("failed to execute command: {:?}\nerror: {}", cmd, e);
 370             return false;
 371         }
 372     };
 373     if !status.success() && print_cmd_on_fail {
 374         println!(
 375             "\n\ncommand did not execute successfully: {:?}\n\
 376              expected success, got: {}\n\n",
 377             cmd, status
 378         );
 379     }
 380     status.success()
 381 }
 382
 383 pub fn run_suppressed(cmd: &mut Command) {
 384     if !try_run_suppressed(cmd) {
 385         crate::detail_exit(1);
 386     }
 387 }
 388
 389 pub fn try_run_suppressed(cmd: &mut Command) -> bool {
 390     let output = match cmd.output() {
 391         Ok(status) => status,
 392         Err(e) => fail(&format!("failed to execute command: {:?}\nerror: {}", cmd, e)),
 393     };
 394     if !output.status.success() {
 395         println!(
 396             "\n\ncommand did not execute successfully: {:?}\n\
 397              expected success, got: {}\n\n\
 398              stdout ----\n{}\n\
 399              stderr ----\n{}\n\n",
 400             cmd,
 401             output.status,
 402             String::from_utf8_lossy(&output.stdout),
 403             String::from_utf8_lossy(&output.stderr)
 404         );
 405     }
 406     output.status.success()
 407 }
 408
 409 pub fn make(host: &str) -> PathBuf {
 410     if host.contains("dragonfly")
 411         || host.contains("freebsd")
 412         || host.contains("netbsd")
 413         || host.contains("openbsd")
 414     {
 415         PathBuf::from("gmake")
 416     } else {
 417         PathBuf::from("make")
 418     }
 419 }
 420
 421 #[track_caller]
 422 pub fn output(cmd: &mut Command) -> String {
 423     let output = match cmd.stderr(Stdio::inherit()).output() {
 424         Ok(status) => status,
 425         Err(e) => fail(&format!("failed to execute command: {:?}\nerror: {}", cmd, e)),
 426     };
 427     if !output.status.success() {
 428         panic!(
 429             "command did not execute successfully: {:?}\n\
 430              expected success, got: {}",
 431             cmd, output.status
 432         );
 433     }
 434     String::from_utf8(output.stdout).unwrap()
 435 }
 436
 437 /// Returns the last-modified time for `path`, or zero if it doesn't exist.
 438 pub fn mtime(path: &Path) -> SystemTime {
 439     fs::metadata(path).and_then(|f| f.modified()).unwrap_or(UNIX_EPOCH)
 440 }
 441
 442 /// Returns `true` if `dst` is up to date given that the file or files in `src`
 443 /// are used to generate it.
 444 ///
 445 /// Uses last-modified time checks to verify this.
 446 pub fn up_to_date(src: &Path, dst: &Path) -> bool {
 447     if !dst.exists() {
 448         return false;
 449     }
 450     let threshold = mtime(dst);
 451     let meta = match fs::metadata(src) {
 452         Ok(meta) => meta,
 453         Err(e) => panic!("source {:?} failed to get metadata: {}", src, e),
 454     };
 455     if meta.is_dir() {
 456         dir_up_to_date(src, threshold)
 457     } else {
 458         meta.modified().unwrap_or(UNIX_EPOCH) <= threshold
 459     }
 460 }
 461
 462 fn dir_up_to_date(src: &Path, threshold: SystemTime) -> bool {
 463     t!(fs::read_dir(src)).map(|e| t!(e)).all(|e| {
 464         let meta = t!(e.metadata());
 465         if meta.is_dir() {
 466             dir_up_to_date(&e.path(), threshold)
 467         } else {
 468             meta.modified().unwrap_or(UNIX_EPOCH) < threshold
 469         }
 470     })
 471 }
 472
 473 fn fail(s: &str) -> ! {
 474     eprintln!("\n\n{}\n\n", s);
 475     crate::detail_exit(1);
 476 }
 477
 478 /// Copied from `std::path::absolute` until it stabilizes.
 479 ///
 480 /// FIXME: this shouldn't exist.
 481 pub(crate) fn absolute(path: &Path) -> PathBuf {
 482     if path.as_os_str().is_empty() {
 483         panic!("can't make empty path absolute");
 484     }
 485     #[cfg(unix)]
 486     {
 487         t!(absolute_unix(path), format!("could not make path absolute: {}", path.display()))
 488     }
 489     #[cfg(windows)]
 490     {
 491         t!(absolute_windows(path), format!("could not make path absolute: {}", path.display()))
 492     }
 493     #[cfg(not(any(unix, windows)))]
 494     {
 495         println!("warning: bootstrap is not supported on non-unix platforms");
 496         t!(std::fs::canonicalize(t!(std::env::current_dir()))).join(path)
 497     }
 498 }
 499
 500 #[cfg(unix)]
 501 /// Make a POSIX path absolute without changing its semantics.
 502 fn absolute_unix(path: &Path) -> io::Result<PathBuf> {
 503     // This is mostly a wrapper around collecting `Path::components`, with
 504     // exceptions made where this conflicts with the POSIX specification.
 505     // See 4.13 Pathname Resolution, IEEE Std 1003.1-2017
 506     // https://pubs.opengroup.org/onlinepubs/9699919799/basedefs/V1_chap04.html#tag_04_13
 507
 508     use std::os::unix::prelude::OsStrExt;
 509     let mut components = path.components();
 510     let path_os = path.as_os_str().as_bytes();
 511
 512     let mut normalized = if path.is_absolute() {
 513         // "If a pathname begins with two successive <slash> characters, the
 514         // first component following the leading <slash> characters may be
 515         // interpreted in an implementation-defined manner, although more than
 516         // two leading <slash> characters shall be treated as a single <slash>
 517         // character."
 518         if path_os.starts_with(b"//") && !path_os.starts_with(b"///") {
 519             components.next();
 520             PathBuf::from("//")
 521         } else {
 522             PathBuf::new()
 523         }
 524     } else {
 525         env::current_dir()?
 526     };
 527     normalized.extend(components);
 528
 529     // "Interfaces using pathname resolution may specify additional constraints
 530     // when a pathname that does not name an existing directory contains at
 531     // least one non- <slash> character and contains one or more trailing
 532     // <slash> characters".
 533     // A trailing <slash> is also meaningful if "a symbolic link is
 534     // encountered during pathname resolution".
 535
 536     if path_os.ends_with(b"/") {
 537         normalized.push("");
 538     }
 539
 540     Ok(normalized)
 541 }
 542
 543 #[cfg(windows)]
 544 fn absolute_windows(path: &std::path::Path) -> std::io::Result<std::path::PathBuf> {
 545     use std::ffi::OsString;
 546     use std::io::Error;
 547     use std::os::windows::ffi::{OsStrExt, OsStringExt};
 548     use std::ptr::null_mut;
 549     #[link(name = "kernel32")]
 550     extern "system" {
 551         fn GetFullPathNameW(
 552             lpFileName: *const u16,
 553             nBufferLength: u32,
 554             lpBuffer: *mut u16,
 555             lpFilePart: *mut *const u16,
 556         ) -> u32;
 557     }
 558
 559     unsafe {
 560         // encode the path as UTF-16
 561         let path: Vec<u16> = path.as_os_str().encode_wide().chain([0]).collect();
 562         let mut buffer = Vec::new();
 563         // Loop until either success or failure.
 564         loop {
 565             // Try to get the absolute path
 566             let len = GetFullPathNameW(
 567                 path.as_ptr(),
 568                 buffer.len().try_into().unwrap(),
 569                 buffer.as_mut_ptr(),
 570                 null_mut(),
 571             );
 572             match len as usize {
 573                 // Failure
 574                 0 => return Err(Error::last_os_error()),
 575                 // Buffer is too small, resize.
 576                 len if len > buffer.len() => buffer.resize(len, 0),
 577                 // Success!
 578                 len => {
 579                     buffer.truncate(len);
 580                     return Ok(OsString::from_wide(&buffer).into());
 581                 }
 582             }
 583         }
 584     }
 585 }
 586
 587 /// Adapted from https://github.com/llvm/llvm-project/blob/782e91224601e461c019e0a4573bbccc6094fbcd/llvm/cmake/modules/HandleLLVMOptions.cmake#L1058-L1079
 588 ///
 589 /// When `clang-cl` is used with instrumentation, we need to add clang's runtime library resource
 590 /// directory to the linker flags, otherwise there will be linker errors about the profiler runtime
 591 /// missing. This function returns the path to that directory.
 592 pub fn get_clang_cl_resource_dir(clang_cl_path: &str) -> PathBuf {
 593     // Similar to how LLVM does it, to find clang's library runtime directory:
 594     // - we ask `clang-cl` to locate the `clang_rt.builtins` lib.
 595     let mut builtins_locator = Command::new(clang_cl_path);
 596     builtins_locator.args(&["/clang:-print-libgcc-file-name", "/clang:--rtlib=compiler-rt"]);
 597
 598     let clang_rt_builtins = output(&mut builtins_locator);
 599     let clang_rt_builtins = Path::new(clang_rt_builtins.trim());
 600     assert!(
 601         clang_rt_builtins.exists(),
 602         "`clang-cl` must correctly locate the library runtime directory"
 603     );
 604
 605     // - the profiler runtime will be located in the same directory as the builtins lib, like
 606     // `$LLVM_DISTRO_ROOT/lib/clang/$LLVM_VERSION/lib/windows`.
 607     let clang_rt_dir = clang_rt_builtins.parent().expect("The clang lib folder should exist");
 608     clang_rt_dir.to_path_buf()
 609 }