]> git.lizzy.rs Git - rust.git/blob - src/bootstrap/lib.rs
Rollup merge of #93400 - ChayimFriedman2:dont-suggest-using-const-with-bounds-unused...
[rust.git] / src / bootstrap / lib.rs
1 //! Implementation of rustbuild, the Rust build system.
2 //!
3 //! This module, and its descendants, are the implementation of the Rust build
4 //! system. Most of this build system is backed by Cargo but the outer layer
5 //! here serves as the ability to orchestrate calling Cargo, sequencing Cargo
6 //! builds, building artifacts like LLVM, etc. The goals of rustbuild are:
7 //!
8 //! * To be an easily understandable, easily extensible, and maintainable build
9 //!   system.
10 //! * Leverage standard tools in the Rust ecosystem to build the compiler, aka
11 //!   crates.io and Cargo.
12 //! * A standard interface to build across all platforms, including MSVC
13 //!
14 //! ## Architecture
15 //!
16 //! The build system defers most of the complicated logic managing invocations
17 //! of rustc and rustdoc to Cargo itself. However, moving through various stages
18 //! and copying artifacts is still necessary for it to do. Each time rustbuild
19 //! is invoked, it will iterate through the list of predefined steps and execute
20 //! each serially in turn if it matches the paths passed or is a default rule.
21 //! For each step rustbuild relies on the step internally being incremental and
22 //! parallel. Note, though, that the `-j` parameter to rustbuild gets forwarded
23 //! to appropriate test harnesses and such.
24 //!
25 //! Most of the "meaty" steps that matter are backed by Cargo, which does indeed
26 //! have its own parallelism and incremental management. Later steps, like
27 //! tests, aren't incremental and simply run the entire suite currently.
28 //! However, compiletest itself tries to avoid running tests when the artifacts
29 //! that are involved (mainly the compiler) haven't changed.
30 //!
31 //! When you execute `x.py build`, the steps executed are:
32 //!
33 //! * First, the python script is run. This will automatically download the
34 //!   stage0 rustc and cargo according to `src/stage0.json`, or use the cached
35 //!   versions if they're available. These are then used to compile rustbuild
36 //!   itself (using Cargo). Finally, control is then transferred to rustbuild.
37 //!
38 //! * Rustbuild takes over, performs sanity checks, probes the environment,
39 //!   reads configuration, and starts executing steps as it reads the command
40 //!   line arguments (paths) or going through the default rules.
41 //!
42 //!   The build output will be something like the following:
43 //!
44 //!   Building stage0 std artifacts
45 //!   Copying stage0 std
46 //!   Building stage0 test artifacts
47 //!   Copying stage0 test
48 //!   Building stage0 compiler artifacts
49 //!   Copying stage0 rustc
50 //!   Assembling stage1 compiler
51 //!   Building stage1 std artifacts
52 //!   Copying stage1 std
53 //!   Building stage1 test artifacts
54 //!   Copying stage1 test
55 //!   Building stage1 compiler artifacts
56 //!   Copying stage1 rustc
57 //!   Assembling stage2 compiler
58 //!   Uplifting stage1 std
59 //!   Uplifting stage1 test
60 //!   Uplifting stage1 rustc
61 //!
62 //! Let's disect that a little:
63 //!
64 //! ## Building stage0 {std,test,compiler} artifacts
65 //!
66 //! These steps use the provided (downloaded, usually) compiler to compile the
67 //! local Rust source into libraries we can use.
68 //!
69 //! ## Copying stage0 {std,test,rustc}
70 //!
71 //! This copies the build output from Cargo into
72 //! `build/$HOST/stage0-sysroot/lib/rustlib/$ARCH/lib`. FIXME: this step's
73 //! documentation should be expanded -- the information already here may be
74 //! incorrect.
75 //!
76 //! ## Assembling stage1 compiler
77 //!
78 //! This copies the libraries we built in "building stage0 ... artifacts" into
79 //! the stage1 compiler's lib directory. These are the host libraries that the
80 //! compiler itself uses to run. These aren't actually used by artifacts the new
81 //! compiler generates. This step also copies the rustc and rustdoc binaries we
82 //! generated into build/$HOST/stage/bin.
83 //!
84 //! The stage1/bin/rustc is a fully functional compiler, but it doesn't yet have
85 //! any libraries to link built binaries or libraries to. The next 3 steps will
86 //! provide those libraries for it; they are mostly equivalent to constructing
87 //! the stage1/bin compiler so we don't go through them individually.
88 //!
89 //! ## Uplifting stage1 {std,test,rustc}
90 //!
91 //! This step copies the libraries from the stage1 compiler sysroot into the
92 //! stage2 compiler. This is done to avoid rebuilding the compiler; libraries
93 //! we'd build in this step should be identical (in function, if not necessarily
94 //! identical on disk) so there's no need to recompile the compiler again. Note
95 //! that if you want to, you can enable the full-bootstrap option to change this
96 //! behavior.
97 //!
98 //! Each step is driven by a separate Cargo project and rustbuild orchestrates
99 //! copying files between steps and otherwise preparing for Cargo to run.
100 //!
101 //! ## Further information
102 //!
103 //! More documentation can be found in each respective module below, and you can
104 //! also check out the `src/bootstrap/README.md` file for more information.
105
106 use std::cell::{Cell, RefCell};
107 use std::collections::{HashMap, HashSet};
108 use std::env;
109 use std::fs::{self, File};
110 use std::path::{Path, PathBuf};
111 use std::process::{self, Command};
112 use std::str;
113
114 #[cfg(unix)]
115 use std::os::unix::fs::symlink as symlink_file;
116 #[cfg(windows)]
117 use std::os::windows::fs::symlink_file;
118
119 use build_helper::{mtime, output, run, run_suppressed, t, try_run, try_run_suppressed};
120 use filetime::FileTime;
121
122 use crate::builder::Kind;
123 use crate::config::{LlvmLibunwind, TargetSelection};
124 use crate::util::{exe, libdir, CiEnv};
125
126 mod builder;
127 mod cache;
128 mod cc_detect;
129 mod channel;
130 mod check;
131 mod clean;
132 mod compile;
133 mod config;
134 mod dist;
135 mod doc;
136 mod flags;
137 mod format;
138 mod install;
139 mod metadata;
140 mod native;
141 mod run;
142 mod sanity;
143 mod setup;
144 mod tarball;
145 mod test;
146 mod tool;
147 mod toolstate;
148 pub mod util;
149
150 #[cfg(windows)]
151 mod job;
152
153 #[cfg(all(unix, not(target_os = "haiku")))]
154 mod job {
155     pub unsafe fn setup(build: &mut crate::Build) {
156         if build.config.low_priority {
157             libc::setpriority(libc::PRIO_PGRP as _, 0, 10);
158         }
159     }
160 }
161
162 #[cfg(any(target_os = "haiku", target_os = "hermit", not(any(unix, windows))))]
163 mod job {
164     pub unsafe fn setup(_build: &mut crate::Build) {}
165 }
166
167 use crate::cache::{Interned, INTERNER};
168 pub use crate::config::Config;
169 pub use crate::flags::Subcommand;
170
171 const LLVM_TOOLS: &[&str] = &[
172     "llvm-cov",      // used to generate coverage report
173     "llvm-nm",       // used to inspect binaries; it shows symbol names, their sizes and visibility
174     "llvm-objcopy",  // used to transform ELFs into binary format which flashing tools consume
175     "llvm-objdump",  // used to disassemble programs
176     "llvm-profdata", // used to inspect and merge files generated by profiles
177     "llvm-readobj",  // used to get information from ELFs/objects that the other tools don't provide
178     "llvm-size",     // used to prints the size of the linker sections of a program
179     "llvm-strip",    // used to discard symbols from binary files to reduce their size
180     "llvm-ar",       // used for creating and modifying archive files
181     "llvm-as",       // used to convert LLVM assembly to LLVM bitcode
182     "llvm-dis",      // used to disassemble LLVM bitcode
183     "llc",           // used to compile LLVM bytecode
184     "opt",           // used to optimize LLVM bytecode
185 ];
186
187 pub const VERSION: usize = 2;
188
189 /// A structure representing a Rust compiler.
190 ///
191 /// Each compiler has a `stage` that it is associated with and a `host` that
192 /// corresponds to the platform the compiler runs on. This structure is used as
193 /// a parameter to many methods below.
194 #[derive(Eq, PartialOrd, Ord, PartialEq, Clone, Copy, Hash, Debug)]
195 pub struct Compiler {
196     stage: u32,
197     host: TargetSelection,
198 }
199
200 #[derive(PartialEq, Eq, Copy, Clone, Debug)]
201 pub enum DocTests {
202     /// Run normal tests and doc tests (default).
203     Yes,
204     /// Do not run any doc tests.
205     No,
206     /// Only run doc tests.
207     Only,
208 }
209
210 pub enum GitRepo {
211     Rustc,
212     Llvm,
213 }
214
215 /// Global configuration for the build system.
216 ///
217 /// This structure transitively contains all configuration for the build system.
218 /// All filesystem-encoded configuration is in `config`, all flags are in
219 /// `flags`, and then parsed or probed information is listed in the keys below.
220 ///
221 /// This structure is a parameter of almost all methods in the build system,
222 /// although most functions are implemented as free functions rather than
223 /// methods specifically on this structure itself (to make it easier to
224 /// organize).
225 pub struct Build {
226     /// User-specified configuration from `config.toml`.
227     config: Config,
228
229     // Version information
230     version: String,
231
232     // Properties derived from the above configuration
233     src: PathBuf,
234     out: PathBuf,
235     rust_info: channel::GitInfo,
236     cargo_info: channel::GitInfo,
237     rls_info: channel::GitInfo,
238     rust_analyzer_info: channel::GitInfo,
239     clippy_info: channel::GitInfo,
240     miri_info: channel::GitInfo,
241     rustfmt_info: channel::GitInfo,
242     in_tree_llvm_info: channel::GitInfo,
243     local_rebuild: bool,
244     fail_fast: bool,
245     doc_tests: DocTests,
246     verbosity: usize,
247
248     // Targets for which to build
249     build: TargetSelection,
250     hosts: Vec<TargetSelection>,
251     targets: Vec<TargetSelection>,
252
253     // Stage 0 (downloaded) compiler, lld and cargo or their local rust equivalents
254     initial_rustc: PathBuf,
255     initial_cargo: PathBuf,
256     initial_lld: PathBuf,
257     initial_libdir: PathBuf,
258
259     // Runtime state filled in later on
260     // C/C++ compilers and archiver for all targets
261     cc: HashMap<TargetSelection, cc::Tool>,
262     cxx: HashMap<TargetSelection, cc::Tool>,
263     ar: HashMap<TargetSelection, PathBuf>,
264     ranlib: HashMap<TargetSelection, PathBuf>,
265     // Miscellaneous
266     crates: HashMap<Interned<String>, Crate>,
267     is_sudo: bool,
268     ci_env: CiEnv,
269     delayed_failures: RefCell<Vec<String>>,
270     prerelease_version: Cell<Option<u32>>,
271     tool_artifacts:
272         RefCell<HashMap<TargetSelection, HashMap<String, (&'static str, PathBuf, Vec<String>)>>>,
273 }
274
275 #[derive(Debug)]
276 struct Crate {
277     name: Interned<String>,
278     deps: HashSet<Interned<String>>,
279     path: PathBuf,
280 }
281
282 impl Crate {
283     fn local_path(&self, build: &Build) -> PathBuf {
284         self.path.strip_prefix(&build.config.src).unwrap().into()
285     }
286 }
287
288 /// When building Rust various objects are handled differently.
289 #[derive(Debug, Clone, Copy, PartialEq, Eq, PartialOrd, Ord)]
290 pub enum DependencyType {
291     /// Libraries originating from proc-macros.
292     Host,
293     /// Typical Rust libraries.
294     Target,
295     /// Non Rust libraries and objects shipped to ease usage of certain targets.
296     TargetSelfContained,
297 }
298
299 /// The various "modes" of invoking Cargo.
300 ///
301 /// These entries currently correspond to the various output directories of the
302 /// build system, with each mod generating output in a different directory.
303 #[derive(Debug, Hash, Clone, Copy, PartialEq, Eq, PartialOrd, Ord)]
304 pub enum Mode {
305     /// Build the standard library, placing output in the "stageN-std" directory.
306     Std,
307
308     /// Build librustc, and compiler libraries, placing output in the "stageN-rustc" directory.
309     Rustc,
310
311     /// Build a codegen backend for rustc, placing the output in the "stageN-codegen" directory.
312     Codegen,
313
314     /// Build a tool, placing output in the "stage0-bootstrap-tools"
315     /// directory. This is for miscellaneous sets of tools that are built
316     /// using the bootstrap stage0 compiler in its entirety (target libraries
317     /// and all). Typically these tools compile with stable Rust.
318     ToolBootstrap,
319
320     /// Build a tool which uses the locally built std, placing output in the
321     /// "stageN-tools" directory. Its usage is quite rare, mainly used by
322     /// compiletest which needs libtest.
323     ToolStd,
324
325     /// Build a tool which uses the locally built rustc and the target std,
326     /// placing the output in the "stageN-tools" directory. This is used for
327     /// anything that needs a fully functional rustc, such as rustdoc, clippy,
328     /// cargo, rls, rustfmt, miri, etc.
329     ToolRustc,
330 }
331
332 impl Mode {
333     pub fn is_tool(&self) -> bool {
334         matches!(self, Mode::ToolBootstrap | Mode::ToolRustc | Mode::ToolStd)
335     }
336
337     pub fn must_support_dlopen(&self) -> bool {
338         matches!(self, Mode::Std | Mode::Codegen)
339     }
340 }
341
342 impl Build {
343     /// Creates a new set of build configuration from the `flags` on the command
344     /// line and the filesystem `config`.
345     ///
346     /// By default all build output will be placed in the current directory.
347     pub fn new(config: Config) -> Build {
348         let src = config.src.clone();
349         let out = config.out.clone();
350
351         let is_sudo = match env::var_os("SUDO_USER") {
352             Some(sudo_user) => match env::var_os("USER") {
353                 Some(user) => user != sudo_user,
354                 None => false,
355             },
356             None => false,
357         };
358
359         let ignore_git = config.ignore_git;
360         let rust_info = channel::GitInfo::new(ignore_git, &src);
361         let cargo_info = channel::GitInfo::new(ignore_git, &src.join("src/tools/cargo"));
362         let rls_info = channel::GitInfo::new(ignore_git, &src.join("src/tools/rls"));
363         let rust_analyzer_info =
364             channel::GitInfo::new(ignore_git, &src.join("src/tools/rust-analyzer"));
365         let clippy_info = channel::GitInfo::new(ignore_git, &src.join("src/tools/clippy"));
366         let miri_info = channel::GitInfo::new(ignore_git, &src.join("src/tools/miri"));
367         let rustfmt_info = channel::GitInfo::new(ignore_git, &src.join("src/tools/rustfmt"));
368
369         // we always try to use git for LLVM builds
370         let in_tree_llvm_info = channel::GitInfo::new(false, &src.join("src/llvm-project"));
371
372         let initial_target_libdir_str = if config.dry_run {
373             "/dummy/lib/path/to/lib/".to_string()
374         } else {
375             output(
376                 Command::new(&config.initial_rustc)
377                     .arg("--target")
378                     .arg(config.build.rustc_target_arg())
379                     .arg("--print")
380                     .arg("target-libdir"),
381             )
382         };
383         let initial_target_dir = Path::new(&initial_target_libdir_str).parent().unwrap();
384         let initial_lld = initial_target_dir.join("bin").join("rust-lld");
385
386         let initial_sysroot = if config.dry_run {
387             "/dummy".to_string()
388         } else {
389             output(Command::new(&config.initial_rustc).arg("--print").arg("sysroot"))
390         };
391         let initial_libdir = initial_target_dir
392             .parent()
393             .unwrap()
394             .parent()
395             .unwrap()
396             .strip_prefix(initial_sysroot.trim())
397             .unwrap()
398             .to_path_buf();
399
400         let version = std::fs::read_to_string(src.join("src").join("version"))
401             .expect("failed to read src/version");
402         let version = version.trim();
403
404         let mut build = Build {
405             initial_rustc: config.initial_rustc.clone(),
406             initial_cargo: config.initial_cargo.clone(),
407             initial_lld,
408             initial_libdir,
409             local_rebuild: config.local_rebuild,
410             fail_fast: config.cmd.fail_fast(),
411             doc_tests: config.cmd.doc_tests(),
412             verbosity: config.verbose,
413
414             build: config.build,
415             hosts: config.hosts.clone(),
416             targets: config.targets.clone(),
417
418             config,
419             version: version.to_string(),
420             src,
421             out,
422
423             rust_info,
424             cargo_info,
425             rls_info,
426             rust_analyzer_info,
427             clippy_info,
428             miri_info,
429             rustfmt_info,
430             in_tree_llvm_info,
431             cc: HashMap::new(),
432             cxx: HashMap::new(),
433             ar: HashMap::new(),
434             ranlib: HashMap::new(),
435             crates: HashMap::new(),
436             is_sudo,
437             ci_env: CiEnv::current(),
438             delayed_failures: RefCell::new(Vec::new()),
439             prerelease_version: Cell::new(None),
440             tool_artifacts: Default::default(),
441         };
442
443         build.verbose("finding compilers");
444         cc_detect::find(&mut build);
445         // When running `setup`, the profile is about to change, so any requirements we have now may
446         // be different on the next invocation. Don't check for them until the next time x.py is
447         // run. This is ok because `setup` never runs any build commands, so it won't fail if commands are missing.
448         if !matches!(build.config.cmd, Subcommand::Setup { .. }) {
449             build.verbose("running sanity check");
450             sanity::check(&mut build);
451         }
452
453         // If local-rust is the same major.minor as the current version, then force a
454         // local-rebuild
455         let local_version_verbose =
456             output(Command::new(&build.initial_rustc).arg("--version").arg("--verbose"));
457         let local_release = local_version_verbose
458             .lines()
459             .filter_map(|x| x.strip_prefix("release:"))
460             .next()
461             .unwrap()
462             .trim();
463         if local_release.split('.').take(2).eq(version.split('.').take(2)) {
464             build.verbose(&format!("auto-detected local-rebuild {}", local_release));
465             build.local_rebuild = true;
466         }
467
468         build.verbose("learning about cargo");
469         metadata::build(&mut build);
470
471         build
472     }
473
474     // modified from `check_submodule` and `update_submodule` in bootstrap.py
475     /// Given a path to the directory of a submodule, update it.
476     ///
477     /// `relative_path` should be relative to the root of the git repository, not an absolute path.
478     pub(crate) fn update_submodule(&self, relative_path: &Path) {
479         fn dir_is_empty(dir: &Path) -> bool {
480             t!(std::fs::read_dir(dir)).next().is_none()
481         }
482
483         if !self.config.submodules(&self.rust_info) {
484             return;
485         }
486
487         let absolute_path = self.config.src.join(relative_path);
488
489         // NOTE: The check for the empty directory is here because when running x.py the first time,
490         // the submodule won't be checked out. Check it out now so we can build it.
491         if !channel::GitInfo::new(false, &absolute_path).is_git() && !dir_is_empty(&absolute_path) {
492             return;
493         }
494
495         // check_submodule
496         if self.config.fast_submodules {
497             let checked_out_hash = output(
498                 Command::new("git").args(&["rev-parse", "HEAD"]).current_dir(&absolute_path),
499             );
500             // update_submodules
501             let recorded = output(
502                 Command::new("git")
503                     .args(&["ls-tree", "HEAD"])
504                     .arg(relative_path)
505                     .current_dir(&self.config.src),
506             );
507             let actual_hash = recorded
508                 .split_whitespace()
509                 .nth(2)
510                 .unwrap_or_else(|| panic!("unexpected output `{}`", recorded));
511
512             // update_submodule
513             if actual_hash == checked_out_hash.trim_end() {
514                 // already checked out
515                 return;
516             }
517         }
518
519         println!("Updating submodule {}", relative_path.display());
520         self.run(
521             Command::new("git")
522                 .args(&["submodule", "-q", "sync"])
523                 .arg(relative_path)
524                 .current_dir(&self.config.src),
525         );
526
527         // Try passing `--progress` to start, then run git again without if that fails.
528         let update = |progress: bool| {
529             let mut git = Command::new("git");
530             git.args(&["submodule", "update", "--init", "--recursive", "--depth=1"]);
531             if progress {
532                 git.arg("--progress");
533             }
534             git.arg(relative_path).current_dir(&self.config.src);
535             git
536         };
537         // NOTE: doesn't use `try_run` because this shouldn't print an error if it fails.
538         if !update(true).status().map_or(false, |status| status.success()) {
539             self.run(&mut update(false));
540         }
541
542         self.run(Command::new("git").args(&["reset", "-q", "--hard"]).current_dir(&absolute_path));
543         self.run(Command::new("git").args(&["clean", "-qdfx"]).current_dir(absolute_path));
544     }
545
546     /// If any submodule has been initialized already, sync it unconditionally.
547     /// This avoids contributors checking in a submodule change by accident.
548     pub fn maybe_update_submodules(&self) {
549         // WARNING: keep this in sync with the submodules hard-coded in bootstrap.py
550         const BOOTSTRAP_SUBMODULES: &[&str] = &[
551             "src/tools/rust-installer",
552             "src/tools/cargo",
553             "src/tools/rls",
554             "src/tools/miri",
555             "library/backtrace",
556             "library/stdarch",
557         ];
558         // Avoid running git when there isn't a git checkout.
559         if !self.config.submodules(&self.rust_info) {
560             return;
561         }
562         let output = output(
563             Command::new("git")
564                 .args(&["config", "--file"])
565                 .arg(&self.config.src.join(".gitmodules"))
566                 .args(&["--get-regexp", "path"]),
567         );
568         for line in output.lines() {
569             // Look for `submodule.$name.path = $path`
570             // Sample output: `submodule.src/rust-installer.path src/tools/rust-installer`
571             let submodule = Path::new(line.splitn(2, ' ').nth(1).unwrap());
572             // avoid updating submodules twice
573             if !BOOTSTRAP_SUBMODULES.iter().any(|&p| Path::new(p) == submodule)
574                 && channel::GitInfo::new(false, submodule).is_git()
575             {
576                 self.update_submodule(submodule);
577             }
578         }
579     }
580
581     /// Executes the entire build, as configured by the flags and configuration.
582     pub fn build(&mut self) {
583         unsafe {
584             job::setup(self);
585         }
586
587         self.maybe_update_submodules();
588
589         if let Subcommand::Format { check, paths } = &self.config.cmd {
590             return format::format(self, *check, &paths);
591         }
592
593         if let Subcommand::Clean { all } = self.config.cmd {
594             return clean::clean(self, all);
595         }
596
597         if let Subcommand::Setup { profile } = &self.config.cmd {
598             return setup::setup(&self.config.src, *profile);
599         }
600
601         {
602             let builder = builder::Builder::new(&self);
603             if let Some(path) = builder.paths.get(0) {
604                 if path == Path::new("nonexistent/path/to/trigger/cargo/metadata") {
605                     return;
606                 }
607             }
608         }
609
610         if !self.config.dry_run {
611             {
612                 self.config.dry_run = true;
613                 let builder = builder::Builder::new(&self);
614                 builder.execute_cli();
615             }
616             self.config.dry_run = false;
617             let builder = builder::Builder::new(&self);
618             builder.execute_cli();
619         } else {
620             let builder = builder::Builder::new(&self);
621             builder.execute_cli();
622         }
623
624         // Check for postponed failures from `test --no-fail-fast`.
625         let failures = self.delayed_failures.borrow();
626         if failures.len() > 0 {
627             println!("\n{} command(s) did not execute successfully:\n", failures.len());
628             for failure in failures.iter() {
629                 println!("  - {}\n", failure);
630             }
631             process::exit(1);
632         }
633     }
634
635     /// Clear out `dir` if `input` is newer.
636     ///
637     /// After this executes, it will also ensure that `dir` exists.
638     fn clear_if_dirty(&self, dir: &Path, input: &Path) -> bool {
639         let stamp = dir.join(".stamp");
640         let mut cleared = false;
641         if mtime(&stamp) < mtime(input) {
642             self.verbose(&format!("Dirty - {}", dir.display()));
643             let _ = fs::remove_dir_all(dir);
644             cleared = true;
645         } else if stamp.exists() {
646             return cleared;
647         }
648         t!(fs::create_dir_all(dir));
649         t!(File::create(stamp));
650         cleared
651     }
652
653     /// Gets the space-separated set of activated features for the standard
654     /// library.
655     fn std_features(&self, target: TargetSelection) -> String {
656         let mut features = "panic-unwind".to_string();
657
658         match self.config.llvm_libunwind {
659             LlvmLibunwind::InTree => features.push_str(" llvm-libunwind"),
660             LlvmLibunwind::System => features.push_str(" system-llvm-libunwind"),
661             LlvmLibunwind::No => {}
662         }
663         if self.config.backtrace {
664             features.push_str(" backtrace");
665         }
666         if self.config.profiler_enabled(target) {
667             features.push_str(" profiler");
668         }
669         features
670     }
671
672     /// Gets the space-separated set of activated features for the compiler.
673     fn rustc_features(&self, kind: Kind) -> String {
674         let mut features = String::new();
675         if self.config.jemalloc {
676             features.push_str("jemalloc");
677         }
678         if self.config.llvm_enabled() || kind == Kind::Check {
679             features.push_str(" llvm");
680         }
681
682         // If debug logging is on, then we want the default for tracing:
683         // https://github.com/tokio-rs/tracing/blob/3dd5c03d907afdf2c39444a29931833335171554/tracing/src/level_filters.rs#L26
684         // which is everything (including debug/trace/etc.)
685         // if its unset, if debug_assertions is on, then debug_logging will also be on
686         // as well as tracing *ignoring* this feature when debug_assertions is on
687         if !self.config.rust_debug_logging {
688             features.push_str(" max_level_info");
689         }
690
691         features
692     }
693
694     /// Component directory that Cargo will produce output into (e.g.
695     /// release/debug)
696     fn cargo_dir(&self) -> &'static str {
697         if self.config.rust_optimize { "release" } else { "debug" }
698     }
699
700     fn tools_dir(&self, compiler: Compiler) -> PathBuf {
701         let out = self
702             .out
703             .join(&*compiler.host.triple)
704             .join(format!("stage{}-tools-bin", compiler.stage));
705         t!(fs::create_dir_all(&out));
706         out
707     }
708
709     /// Returns the root directory for all output generated in a particular
710     /// stage when running with a particular host compiler.
711     ///
712     /// The mode indicates what the root directory is for.
713     fn stage_out(&self, compiler: Compiler, mode: Mode) -> PathBuf {
714         let suffix = match mode {
715             Mode::Std => "-std",
716             Mode::Rustc => "-rustc",
717             Mode::Codegen => "-codegen",
718             Mode::ToolBootstrap => "-bootstrap-tools",
719             Mode::ToolStd | Mode::ToolRustc => "-tools",
720         };
721         self.out.join(&*compiler.host.triple).join(format!("stage{}{}", compiler.stage, suffix))
722     }
723
724     /// Returns the root output directory for all Cargo output in a given stage,
725     /// running a particular compiler, whether or not we're building the
726     /// standard library, and targeting the specified architecture.
727     fn cargo_out(&self, compiler: Compiler, mode: Mode, target: TargetSelection) -> PathBuf {
728         self.stage_out(compiler, mode).join(&*target.triple).join(self.cargo_dir())
729     }
730
731     /// Root output directory for LLVM compiled for `target`
732     ///
733     /// Note that if LLVM is configured externally then the directory returned
734     /// will likely be empty.
735     fn llvm_out(&self, target: TargetSelection) -> PathBuf {
736         self.out.join(&*target.triple).join("llvm")
737     }
738
739     fn lld_out(&self, target: TargetSelection) -> PathBuf {
740         self.out.join(&*target.triple).join("lld")
741     }
742
743     /// Output directory for all documentation for a target
744     fn doc_out(&self, target: TargetSelection) -> PathBuf {
745         self.out.join(&*target.triple).join("doc")
746     }
747
748     fn test_out(&self, target: TargetSelection) -> PathBuf {
749         self.out.join(&*target.triple).join("test")
750     }
751
752     /// Output directory for all documentation for a target
753     fn compiler_doc_out(&self, target: TargetSelection) -> PathBuf {
754         self.out.join(&*target.triple).join("compiler-doc")
755     }
756
757     /// Output directory for some generated md crate documentation for a target (temporary)
758     fn md_doc_out(&self, target: TargetSelection) -> Interned<PathBuf> {
759         INTERNER.intern_path(self.out.join(&*target.triple).join("md-doc"))
760     }
761
762     /// Returns `true` if no custom `llvm-config` is set for the specified target.
763     ///
764     /// If no custom `llvm-config` was specified then Rust's llvm will be used.
765     fn is_rust_llvm(&self, target: TargetSelection) -> bool {
766         if self.config.llvm_from_ci && target == self.config.build {
767             return true;
768         }
769
770         match self.config.target_config.get(&target) {
771             Some(ref c) => c.llvm_config.is_none(),
772             None => true,
773         }
774     }
775
776     /// Returns the path to `FileCheck` binary for the specified target
777     fn llvm_filecheck(&self, target: TargetSelection) -> PathBuf {
778         let target_config = self.config.target_config.get(&target);
779         if let Some(s) = target_config.and_then(|c| c.llvm_filecheck.as_ref()) {
780             s.to_path_buf()
781         } else if let Some(s) = target_config.and_then(|c| c.llvm_config.as_ref()) {
782             let llvm_bindir = output(Command::new(s).arg("--bindir"));
783             let filecheck = Path::new(llvm_bindir.trim()).join(exe("FileCheck", target));
784             if filecheck.exists() {
785                 filecheck
786             } else {
787                 // On Fedora the system LLVM installs FileCheck in the
788                 // llvm subdirectory of the libdir.
789                 let llvm_libdir = output(Command::new(s).arg("--libdir"));
790                 let lib_filecheck =
791                     Path::new(llvm_libdir.trim()).join("llvm").join(exe("FileCheck", target));
792                 if lib_filecheck.exists() {
793                     lib_filecheck
794                 } else {
795                     // Return the most normal file name, even though
796                     // it doesn't exist, so that any error message
797                     // refers to that.
798                     filecheck
799                 }
800             }
801         } else {
802             let base = self.llvm_out(self.config.build).join("build");
803             let base = if !self.ninja() && self.config.build.contains("msvc") {
804                 if self.config.llvm_optimize {
805                     if self.config.llvm_release_debuginfo {
806                         base.join("RelWithDebInfo")
807                     } else {
808                         base.join("Release")
809                     }
810                 } else {
811                     base.join("Debug")
812                 }
813             } else {
814                 base
815             };
816             base.join("bin").join(exe("FileCheck", target))
817         }
818     }
819
820     /// Directory for libraries built from C/C++ code and shared between stages.
821     fn native_dir(&self, target: TargetSelection) -> PathBuf {
822         self.out.join(&*target.triple).join("native")
823     }
824
825     /// Root output directory for rust_test_helpers library compiled for
826     /// `target`
827     fn test_helpers_out(&self, target: TargetSelection) -> PathBuf {
828         self.native_dir(target).join("rust-test-helpers")
829     }
830
831     /// Adds the `RUST_TEST_THREADS` env var if necessary
832     fn add_rust_test_threads(&self, cmd: &mut Command) {
833         if env::var_os("RUST_TEST_THREADS").is_none() {
834             cmd.env("RUST_TEST_THREADS", self.jobs().to_string());
835         }
836     }
837
838     /// Returns the libdir of the snapshot compiler.
839     fn rustc_snapshot_libdir(&self) -> PathBuf {
840         self.rustc_snapshot_sysroot().join(libdir(self.config.build))
841     }
842
843     /// Returns the sysroot of the snapshot compiler.
844     fn rustc_snapshot_sysroot(&self) -> &Path {
845         self.initial_rustc.parent().unwrap().parent().unwrap()
846     }
847
848     /// Runs a command, printing out nice contextual information if it fails.
849     fn run(&self, cmd: &mut Command) {
850         if self.config.dry_run {
851             return;
852         }
853         self.verbose(&format!("running: {:?}", cmd));
854         run(cmd, self.is_verbose())
855     }
856
857     /// Runs a command, printing out nice contextual information if it fails.
858     fn run_quiet(&self, cmd: &mut Command) {
859         if self.config.dry_run {
860             return;
861         }
862         self.verbose(&format!("running: {:?}", cmd));
863         run_suppressed(cmd)
864     }
865
866     /// Runs a command, printing out nice contextual information if it fails.
867     /// Exits if the command failed to execute at all, otherwise returns its
868     /// `status.success()`.
869     fn try_run(&self, cmd: &mut Command) -> bool {
870         if self.config.dry_run {
871             return true;
872         }
873         self.verbose(&format!("running: {:?}", cmd));
874         try_run(cmd, self.is_verbose())
875     }
876
877     /// Runs a command, printing out nice contextual information if it fails.
878     /// Exits if the command failed to execute at all, otherwise returns its
879     /// `status.success()`.
880     fn try_run_quiet(&self, cmd: &mut Command) -> bool {
881         if self.config.dry_run {
882             return true;
883         }
884         self.verbose(&format!("running: {:?}", cmd));
885         try_run_suppressed(cmd)
886     }
887
888     pub fn is_verbose(&self) -> bool {
889         self.verbosity > 0
890     }
891
892     /// Prints a message if this build is configured in verbose mode.
893     fn verbose(&self, msg: &str) {
894         if self.is_verbose() {
895             println!("{}", msg);
896         }
897     }
898
899     pub fn is_verbose_than(&self, level: usize) -> bool {
900         self.verbosity > level
901     }
902
903     /// Prints a message if this build is configured in more verbose mode than `level`.
904     fn verbose_than(&self, level: usize, msg: &str) {
905         if self.is_verbose_than(level) {
906             println!("{}", msg);
907         }
908     }
909
910     fn info(&self, msg: &str) {
911         if self.config.dry_run {
912             return;
913         }
914         println!("{}", msg);
915     }
916
917     /// Returns the number of parallel jobs that have been configured for this
918     /// build.
919     fn jobs(&self) -> u32 {
920         self.config.jobs.unwrap_or_else(|| num_cpus::get() as u32)
921     }
922
923     fn debuginfo_map_to(&self, which: GitRepo) -> Option<String> {
924         if !self.config.rust_remap_debuginfo {
925             return None;
926         }
927
928         match which {
929             GitRepo::Rustc => {
930                 let sha = self.rust_sha().unwrap_or(&self.version);
931                 Some(format!("/rustc/{}", sha))
932             }
933             GitRepo::Llvm => Some(String::from("/rustc/llvm")),
934         }
935     }
936
937     /// Returns the path to the C compiler for the target specified.
938     fn cc(&self, target: TargetSelection) -> &Path {
939         self.cc[&target].path()
940     }
941
942     /// Returns a list of flags to pass to the C compiler for the target
943     /// specified.
944     fn cflags(&self, target: TargetSelection, which: GitRepo) -> Vec<String> {
945         // Filter out -O and /O (the optimization flags) that we picked up from
946         // cc-rs because the build scripts will determine that for themselves.
947         let mut base = self.cc[&target]
948             .args()
949             .iter()
950             .map(|s| s.to_string_lossy().into_owned())
951             .filter(|s| !s.starts_with("-O") && !s.starts_with("/O"))
952             .collect::<Vec<String>>();
953
954         // If we're compiling on macOS then we add a few unconditional flags
955         // indicating that we want libc++ (more filled out than libstdc++) and
956         // we want to compile for 10.7. This way we can ensure that
957         // LLVM/etc are all properly compiled.
958         if target.contains("apple-darwin") {
959             base.push("-stdlib=libc++".into());
960         }
961
962         // Work around an apparently bad MinGW / GCC optimization,
963         // See: https://lists.llvm.org/pipermail/cfe-dev/2016-December/051980.html
964         // See: https://gcc.gnu.org/bugzilla/show_bug.cgi?id=78936
965         if &*target.triple == "i686-pc-windows-gnu" {
966             base.push("-fno-omit-frame-pointer".into());
967         }
968
969         if let Some(map_to) = self.debuginfo_map_to(which) {
970             let map = format!("{}={}", self.src.display(), map_to);
971             let cc = self.cc(target);
972             if cc.ends_with("clang") || cc.ends_with("gcc") {
973                 base.push(format!("-fdebug-prefix-map={}", map));
974             } else if cc.ends_with("clang-cl.exe") {
975                 base.push("-Xclang".into());
976                 base.push(format!("-fdebug-prefix-map={}", map));
977             }
978         }
979         base
980     }
981
982     /// Returns the path to the `ar` archive utility for the target specified.
983     fn ar(&self, target: TargetSelection) -> Option<&Path> {
984         self.ar.get(&target).map(|p| &**p)
985     }
986
987     /// Returns the path to the `ranlib` utility for the target specified.
988     fn ranlib(&self, target: TargetSelection) -> Option<&Path> {
989         self.ranlib.get(&target).map(|p| &**p)
990     }
991
992     /// Returns the path to the C++ compiler for the target specified.
993     fn cxx(&self, target: TargetSelection) -> Result<&Path, String> {
994         match self.cxx.get(&target) {
995             Some(p) => Ok(p.path()),
996             None => {
997                 Err(format!("target `{}` is not configured as a host, only as a target", target))
998             }
999         }
1000     }
1001
1002     /// Returns the path to the linker for the given target if it needs to be overridden.
1003     fn linker(&self, target: TargetSelection) -> Option<&Path> {
1004         if let Some(linker) = self.config.target_config.get(&target).and_then(|c| c.linker.as_ref())
1005         {
1006             Some(linker)
1007         } else if target.contains("vxworks") {
1008             // need to use CXX compiler as linker to resolve the exception functions
1009             // that are only existed in CXX libraries
1010             Some(self.cxx[&target].path())
1011         } else if target != self.config.build
1012             && util::use_host_linker(target)
1013             && !target.contains("msvc")
1014         {
1015             Some(self.cc(target))
1016         } else if self.config.use_lld && !self.is_fuse_ld_lld(target) && self.build == target {
1017             Some(&self.initial_lld)
1018         } else {
1019             None
1020         }
1021     }
1022
1023     // LLD is used through `-fuse-ld=lld` rather than directly.
1024     // Only MSVC targets use LLD directly at the moment.
1025     fn is_fuse_ld_lld(&self, target: TargetSelection) -> bool {
1026         self.config.use_lld && !target.contains("msvc")
1027     }
1028
1029     fn lld_flags(&self, target: TargetSelection) -> impl Iterator<Item = String> {
1030         let mut options = [None, None];
1031
1032         if self.config.use_lld {
1033             if self.is_fuse_ld_lld(target) {
1034                 options[0] = Some("-Clink-arg=-fuse-ld=lld".to_string());
1035             }
1036
1037             let threads = if target.contains("windows") { "/threads:1" } else { "--threads=1" };
1038             options[1] = Some(format!("-Clink-arg=-Wl,{}", threads));
1039         }
1040
1041         IntoIterator::into_iter(options).flatten()
1042     }
1043
1044     /// Returns if this target should statically link the C runtime, if specified
1045     fn crt_static(&self, target: TargetSelection) -> Option<bool> {
1046         if target.contains("pc-windows-msvc") {
1047             Some(true)
1048         } else {
1049             self.config.target_config.get(&target).and_then(|t| t.crt_static)
1050         }
1051     }
1052
1053     /// Returns the "musl root" for this `target`, if defined
1054     fn musl_root(&self, target: TargetSelection) -> Option<&Path> {
1055         self.config
1056             .target_config
1057             .get(&target)
1058             .and_then(|t| t.musl_root.as_ref())
1059             .or_else(|| self.config.musl_root.as_ref())
1060             .map(|p| &**p)
1061     }
1062
1063     /// Returns the "musl libdir" for this `target`.
1064     fn musl_libdir(&self, target: TargetSelection) -> Option<PathBuf> {
1065         let t = self.config.target_config.get(&target)?;
1066         if let libdir @ Some(_) = &t.musl_libdir {
1067             return libdir.clone();
1068         }
1069         self.musl_root(target).map(|root| root.join("lib"))
1070     }
1071
1072     /// Returns the sysroot for the wasi target, if defined
1073     fn wasi_root(&self, target: TargetSelection) -> Option<&Path> {
1074         self.config.target_config.get(&target).and_then(|t| t.wasi_root.as_ref()).map(|p| &**p)
1075     }
1076
1077     /// Returns `true` if this is a no-std `target`, if defined
1078     fn no_std(&self, target: TargetSelection) -> Option<bool> {
1079         self.config.target_config.get(&target).map(|t| t.no_std)
1080     }
1081
1082     /// Returns `true` if the target will be tested using the `remote-test-client`
1083     /// and `remote-test-server` binaries.
1084     fn remote_tested(&self, target: TargetSelection) -> bool {
1085         self.qemu_rootfs(target).is_some()
1086             || target.contains("android")
1087             || env::var_os("TEST_DEVICE_ADDR").is_some()
1088     }
1089
1090     /// Returns the root of the "rootfs" image that this target will be using,
1091     /// if one was configured.
1092     ///
1093     /// If `Some` is returned then that means that tests for this target are
1094     /// emulated with QEMU and binaries will need to be shipped to the emulator.
1095     fn qemu_rootfs(&self, target: TargetSelection) -> Option<&Path> {
1096         self.config.target_config.get(&target).and_then(|t| t.qemu_rootfs.as_ref()).map(|p| &**p)
1097     }
1098
1099     /// Path to the python interpreter to use
1100     fn python(&self) -> &Path {
1101         self.config.python.as_ref().unwrap()
1102     }
1103
1104     /// Temporary directory that extended error information is emitted to.
1105     fn extended_error_dir(&self) -> PathBuf {
1106         self.out.join("tmp/extended-error-metadata")
1107     }
1108
1109     /// Tests whether the `compiler` compiling for `target` should be forced to
1110     /// use a stage1 compiler instead.
1111     ///
1112     /// Currently, by default, the build system does not perform a "full
1113     /// bootstrap" by default where we compile the compiler three times.
1114     /// Instead, we compile the compiler two times. The final stage (stage2)
1115     /// just copies the libraries from the previous stage, which is what this
1116     /// method detects.
1117     ///
1118     /// Here we return `true` if:
1119     ///
1120     /// * The build isn't performing a full bootstrap
1121     /// * The `compiler` is in the final stage, 2
1122     /// * We're not cross-compiling, so the artifacts are already available in
1123     ///   stage1
1124     ///
1125     /// When all of these conditions are met the build will lift artifacts from
1126     /// the previous stage forward.
1127     fn force_use_stage1(&self, compiler: Compiler, target: TargetSelection) -> bool {
1128         !self.config.full_bootstrap
1129             && compiler.stage >= 2
1130             && (self.hosts.iter().any(|h| *h == target) || target == self.build)
1131     }
1132
1133     /// Given `num` in the form "a.b.c" return a "release string" which
1134     /// describes the release version number.
1135     ///
1136     /// For example on nightly this returns "a.b.c-nightly", on beta it returns
1137     /// "a.b.c-beta.1" and on stable it just returns "a.b.c".
1138     fn release(&self, num: &str) -> String {
1139         match &self.config.channel[..] {
1140             "stable" => num.to_string(),
1141             "beta" => {
1142                 if self.rust_info.is_git() && !self.config.ignore_git {
1143                     format!("{}-beta.{}", num, self.beta_prerelease_version())
1144                 } else {
1145                     format!("{}-beta", num)
1146                 }
1147             }
1148             "nightly" => format!("{}-nightly", num),
1149             _ => format!("{}-dev", num),
1150         }
1151     }
1152
1153     fn beta_prerelease_version(&self) -> u32 {
1154         if let Some(s) = self.prerelease_version.get() {
1155             return s;
1156         }
1157
1158         // Figure out how many merge commits happened since we branched off master.
1159         // That's our beta number!
1160         // (Note that we use a `..` range, not the `...` symmetric difference.)
1161         let count = output(
1162             Command::new("git")
1163                 .arg("rev-list")
1164                 .arg("--count")
1165                 .arg("--merges")
1166                 .arg("refs/remotes/origin/master..HEAD")
1167                 .current_dir(&self.src),
1168         );
1169         let n = count.trim().parse().unwrap();
1170         self.prerelease_version.set(Some(n));
1171         n
1172     }
1173
1174     /// Returns the value of `release` above for Rust itself.
1175     fn rust_release(&self) -> String {
1176         self.release(&self.version)
1177     }
1178
1179     /// Returns the "package version" for a component given the `num` release
1180     /// number.
1181     ///
1182     /// The package version is typically what shows up in the names of tarballs.
1183     /// For channels like beta/nightly it's just the channel name, otherwise
1184     /// it's the `num` provided.
1185     fn package_vers(&self, num: &str) -> String {
1186         match &self.config.channel[..] {
1187             "stable" => num.to_string(),
1188             "beta" => "beta".to_string(),
1189             "nightly" => "nightly".to_string(),
1190             _ => format!("{}-dev", num),
1191         }
1192     }
1193
1194     /// Returns the value of `package_vers` above for Rust itself.
1195     fn rust_package_vers(&self) -> String {
1196         self.package_vers(&self.version)
1197     }
1198
1199     fn llvm_link_tools_dynamically(&self, target: TargetSelection) -> bool {
1200         target.contains("linux-gnu") || target.contains("apple-darwin")
1201     }
1202
1203     /// Returns the `version` string associated with this compiler for Rust
1204     /// itself.
1205     ///
1206     /// Note that this is a descriptive string which includes the commit date,
1207     /// sha, version, etc.
1208     fn rust_version(&self) -> String {
1209         let mut version = self.rust_info.version(self, &self.version);
1210         if let Some(ref s) = self.config.description {
1211             version.push_str(" (");
1212             version.push_str(s);
1213             version.push(')');
1214         }
1215         version
1216     }
1217
1218     /// Returns the full commit hash.
1219     fn rust_sha(&self) -> Option<&str> {
1220         self.rust_info.sha()
1221     }
1222
1223     /// Returns the `a.b.c` version that the given package is at.
1224     fn release_num(&self, package: &str) -> String {
1225         let toml_file_name = self.src.join(&format!("src/tools/{}/Cargo.toml", package));
1226         let toml = t!(fs::read_to_string(&toml_file_name));
1227         for line in toml.lines() {
1228             if let Some(stripped) =
1229                 line.strip_prefix("version = \"").and_then(|s| s.strip_suffix("\""))
1230             {
1231                 return stripped.to_owned();
1232             }
1233         }
1234
1235         panic!("failed to find version in {}'s Cargo.toml", package)
1236     }
1237
1238     /// Returns `true` if unstable features should be enabled for the compiler
1239     /// we're building.
1240     fn unstable_features(&self) -> bool {
1241         match &self.config.channel[..] {
1242             "stable" | "beta" => false,
1243             "nightly" | _ => true,
1244         }
1245     }
1246
1247     /// Returns a Vec of all the dependencies of the given root crate,
1248     /// including transitive dependencies and the root itself. Only includes
1249     /// "local" crates (those in the local source tree, not from a registry).
1250     fn in_tree_crates(&self, root: &str, target: Option<TargetSelection>) -> Vec<&Crate> {
1251         let mut ret = Vec::new();
1252         let mut list = vec![INTERNER.intern_str(root)];
1253         let mut visited = HashSet::new();
1254         while let Some(krate) = list.pop() {
1255             let krate = &self.crates[&krate];
1256             ret.push(krate);
1257             for dep in &krate.deps {
1258                 if !self.crates.contains_key(dep) {
1259                     // Ignore non-workspace members.
1260                     continue;
1261                 }
1262                 // Don't include optional deps if their features are not
1263                 // enabled. Ideally this would be computed from `cargo
1264                 // metadata --features â€¦`, but that is somewhat slow. Just
1265                 // skip `build_helper` since there aren't any operations we
1266                 // want to perform on it. In the future, we may want to
1267                 // consider just filtering all build and dev dependencies in
1268                 // metadata::build.
1269                 if visited.insert(dep)
1270                     && dep != "build_helper"
1271                     && (dep != "profiler_builtins"
1272                         || target
1273                             .map(|t| self.config.profiler_enabled(t))
1274                             .unwrap_or_else(|| self.config.any_profiler_enabled()))
1275                     && (dep != "rustc_codegen_llvm" || self.config.llvm_enabled())
1276                 {
1277                     list.push(*dep);
1278                 }
1279             }
1280         }
1281         ret
1282     }
1283
1284     fn read_stamp_file(&self, stamp: &Path) -> Vec<(PathBuf, DependencyType)> {
1285         if self.config.dry_run {
1286             return Vec::new();
1287         }
1288
1289         let mut paths = Vec::new();
1290         let contents = t!(fs::read(stamp), &stamp);
1291         // This is the method we use for extracting paths from the stamp file passed to us. See
1292         // run_cargo for more information (in compile.rs).
1293         for part in contents.split(|b| *b == 0) {
1294             if part.is_empty() {
1295                 continue;
1296             }
1297             let dependency_type = match part[0] as char {
1298                 'h' => DependencyType::Host,
1299                 's' => DependencyType::TargetSelfContained,
1300                 't' => DependencyType::Target,
1301                 _ => unreachable!(),
1302             };
1303             let path = PathBuf::from(t!(str::from_utf8(&part[1..])));
1304             paths.push((path, dependency_type));
1305         }
1306         paths
1307     }
1308
1309     /// Copies a file from `src` to `dst`
1310     pub fn copy(&self, src: &Path, dst: &Path) {
1311         if self.config.dry_run {
1312             return;
1313         }
1314         self.verbose_than(1, &format!("Copy {:?} to {:?}", src, dst));
1315         if src == dst {
1316             return;
1317         }
1318         let _ = fs::remove_file(&dst);
1319         let metadata = t!(src.symlink_metadata());
1320         if metadata.file_type().is_symlink() {
1321             let link = t!(fs::read_link(src));
1322             t!(symlink_file(link, dst));
1323         } else if let Ok(()) = fs::hard_link(src, dst) {
1324             // Attempt to "easy copy" by creating a hard link
1325             // (symlinks don't work on windows), but if that fails
1326             // just fall back to a slow `copy` operation.
1327         } else {
1328             if let Err(e) = fs::copy(src, dst) {
1329                 panic!("failed to copy `{}` to `{}`: {}", src.display(), dst.display(), e)
1330             }
1331             t!(fs::set_permissions(dst, metadata.permissions()));
1332             let atime = FileTime::from_last_access_time(&metadata);
1333             let mtime = FileTime::from_last_modification_time(&metadata);
1334             t!(filetime::set_file_times(dst, atime, mtime));
1335         }
1336     }
1337
1338     /// Copies the `src` directory recursively to `dst`. Both are assumed to exist
1339     /// when this function is called.
1340     pub fn cp_r(&self, src: &Path, dst: &Path) {
1341         if self.config.dry_run {
1342             return;
1343         }
1344         for f in self.read_dir(src) {
1345             let path = f.path();
1346             let name = path.file_name().unwrap();
1347             let dst = dst.join(name);
1348             if t!(f.file_type()).is_dir() {
1349                 t!(fs::create_dir_all(&dst));
1350                 self.cp_r(&path, &dst);
1351             } else {
1352                 let _ = fs::remove_file(&dst);
1353                 self.copy(&path, &dst);
1354             }
1355         }
1356     }
1357
1358     /// Copies the `src` directory recursively to `dst`. Both are assumed to exist
1359     /// when this function is called. Unwanted files or directories can be skipped
1360     /// by returning `false` from the filter function.
1361     pub fn cp_filtered(&self, src: &Path, dst: &Path, filter: &dyn Fn(&Path) -> bool) {
1362         // Immediately recurse with an empty relative path
1363         self.recurse_(src, dst, Path::new(""), filter)
1364     }
1365
1366     // Inner function does the actual work
1367     fn recurse_(&self, src: &Path, dst: &Path, relative: &Path, filter: &dyn Fn(&Path) -> bool) {
1368         for f in self.read_dir(src) {
1369             let path = f.path();
1370             let name = path.file_name().unwrap();
1371             let dst = dst.join(name);
1372             let relative = relative.join(name);
1373             // Only copy file or directory if the filter function returns true
1374             if filter(&relative) {
1375                 if t!(f.file_type()).is_dir() {
1376                     let _ = fs::remove_dir_all(&dst);
1377                     self.create_dir(&dst);
1378                     self.recurse_(&path, &dst, &relative, filter);
1379                 } else {
1380                     let _ = fs::remove_file(&dst);
1381                     self.copy(&path, &dst);
1382                 }
1383             }
1384         }
1385     }
1386
1387     fn copy_to_folder(&self, src: &Path, dest_folder: &Path) {
1388         let file_name = src.file_name().unwrap();
1389         let dest = dest_folder.join(file_name);
1390         self.copy(src, &dest);
1391     }
1392
1393     fn install(&self, src: &Path, dstdir: &Path, perms: u32) {
1394         if self.config.dry_run {
1395             return;
1396         }
1397         let dst = dstdir.join(src.file_name().unwrap());
1398         self.verbose_than(1, &format!("Install {:?} to {:?}", src, dst));
1399         t!(fs::create_dir_all(dstdir));
1400         drop(fs::remove_file(&dst));
1401         {
1402             if !src.exists() {
1403                 panic!("Error: File \"{}\" not found!", src.display());
1404             }
1405             let metadata = t!(src.symlink_metadata());
1406             if let Err(e) = fs::copy(&src, &dst) {
1407                 panic!("failed to copy `{}` to `{}`: {}", src.display(), dst.display(), e)
1408             }
1409             t!(fs::set_permissions(&dst, metadata.permissions()));
1410             let atime = FileTime::from_last_access_time(&metadata);
1411             let mtime = FileTime::from_last_modification_time(&metadata);
1412             t!(filetime::set_file_times(&dst, atime, mtime));
1413         }
1414         chmod(&dst, perms);
1415     }
1416
1417     fn create(&self, path: &Path, s: &str) {
1418         if self.config.dry_run {
1419             return;
1420         }
1421         t!(fs::write(path, s));
1422     }
1423
1424     fn read(&self, path: &Path) -> String {
1425         if self.config.dry_run {
1426             return String::new();
1427         }
1428         t!(fs::read_to_string(path))
1429     }
1430
1431     fn create_dir(&self, dir: &Path) {
1432         if self.config.dry_run {
1433             return;
1434         }
1435         t!(fs::create_dir_all(dir))
1436     }
1437
1438     fn remove_dir(&self, dir: &Path) {
1439         if self.config.dry_run {
1440             return;
1441         }
1442         t!(fs::remove_dir_all(dir))
1443     }
1444
1445     fn read_dir(&self, dir: &Path) -> impl Iterator<Item = fs::DirEntry> {
1446         let iter = match fs::read_dir(dir) {
1447             Ok(v) => v,
1448             Err(_) if self.config.dry_run => return vec![].into_iter(),
1449             Err(err) => panic!("could not read dir {:?}: {:?}", dir, err),
1450         };
1451         iter.map(|e| t!(e)).collect::<Vec<_>>().into_iter()
1452     }
1453
1454     fn remove(&self, f: &Path) {
1455         if self.config.dry_run {
1456             return;
1457         }
1458         fs::remove_file(f).unwrap_or_else(|_| panic!("failed to remove {:?}", f));
1459     }
1460
1461     /// Returns if config.ninja is enabled, and checks for ninja existence,
1462     /// exiting with a nicer error message if not.
1463     fn ninja(&self) -> bool {
1464         let mut cmd_finder = crate::sanity::Finder::new();
1465
1466         if self.config.ninja_in_file {
1467             // Some Linux distros rename `ninja` to `ninja-build`.
1468             // CMake can work with either binary name.
1469             if cmd_finder.maybe_have("ninja-build").is_none()
1470                 && cmd_finder.maybe_have("ninja").is_none()
1471             {
1472                 eprintln!(
1473                     "
1474 Couldn't find required command: ninja (or ninja-build)
1475
1476 You should install ninja as described at
1477 <https://github.com/ninja-build/ninja/wiki/Pre-built-Ninja-packages>,
1478 or set `ninja = false` in the `[llvm]` section of `config.toml`.
1479 Alternatively, set `download-ci-llvm = true` in that `[llvm]` section
1480 to download LLVM rather than building it.
1481 "
1482                 );
1483                 std::process::exit(1);
1484             }
1485         }
1486
1487         // If ninja isn't enabled but we're building for MSVC then we try
1488         // doubly hard to enable it. It was realized in #43767 that the msbuild
1489         // CMake generator for MSVC doesn't respect configuration options like
1490         // disabling LLVM assertions, which can often be quite important!
1491         //
1492         // In these cases we automatically enable Ninja if we find it in the
1493         // environment.
1494         if !self.config.ninja_in_file && self.config.build.contains("msvc") {
1495             if cmd_finder.maybe_have("ninja").is_some() {
1496                 return true;
1497             }
1498         }
1499
1500         self.config.ninja_in_file
1501     }
1502 }
1503
1504 #[cfg(unix)]
1505 fn chmod(path: &Path, perms: u32) {
1506     use std::os::unix::fs::*;
1507     t!(fs::set_permissions(path, fs::Permissions::from_mode(perms)));
1508 }
1509 #[cfg(windows)]
1510 fn chmod(_path: &Path, _perms: u32) {}
1511
1512 impl Compiler {
1513     pub fn with_stage(mut self, stage: u32) -> Compiler {
1514         self.stage = stage;
1515         self
1516     }
1517
1518     /// Returns `true` if this is a snapshot compiler for `build`'s configuration
1519     pub fn is_snapshot(&self, build: &Build) -> bool {
1520         self.stage == 0 && self.host == build.build
1521     }
1522
1523     /// Returns if this compiler should be treated as a final stage one in the
1524     /// current build session.
1525     /// This takes into account whether we're performing a full bootstrap or
1526     /// not; don't directly compare the stage with `2`!
1527     pub fn is_final_stage(&self, build: &Build) -> bool {
1528         let final_stage = if build.config.full_bootstrap { 2 } else { 1 };
1529         self.stage >= final_stage
1530     }
1531 }
1532
1533 fn envify(s: &str) -> String {
1534     s.chars()
1535         .map(|c| match c {
1536             '-' => '_',
1537             c => c,
1538         })
1539         .flat_map(|c| c.to_uppercase())
1540         .collect()
1541 }