]> git.lizzy.rs Git - rust.git/blob - src/bootstrap/lib.rs
Update to toml 0.4
[rust.git] / src / bootstrap / lib.rs
1 // Copyright 2015 The Rust Project Developers. See the COPYRIGHT
2 // file at the top-level directory of this distribution and at
3 // http://rust-lang.org/COPYRIGHT.
4 //
5 // Licensed under the Apache License, Version 2.0 <LICENSE-APACHE or
6 // http://www.apache.org/licenses/LICENSE-2.0> or the MIT license
7 // <LICENSE-MIT or http://opensource.org/licenses/MIT>, at your
8 // option. This file may not be copied, modified, or distributed
9 // except according to those terms.
10
11 //! Implementation of rustbuild, the Rust build system.
12 //!
13 //! This module, and its descendants, are the implementation of the Rust build
14 //! system. Most of this build system is backed by Cargo but the outer layer
15 //! here serves as the ability to orchestrate calling Cargo, sequencing Cargo
16 //! builds, building artifacts like LLVM, etc. The goals of rustbuild are:
17 //!
18 //! * To be an easily understandable, easily extensible, and maintainable build
19 //!   system.
20 //! * Leverage standard tools in the Rust ecosystem to build the compiler, aka
21 //!   crates.io and Cargo.
22 //! * A standard interface to build across all platforms, including MSVC
23 //!
24 //! ## Architecture
25 //!
26 //! The build system defers most of the complicated logic managing invocations
27 //! of rustc and rustdoc to Cargo itself. However, moving through various stages
28 //! and copying artifacts is still necessary for it to do. Each time rustbuild
29 //! is invoked, it will iterate through the list of predefined steps and execute
30 //! each serially in turn if it matches the paths passed or is a default rule.
31 //! For each step rustbuild relies on the step internally being incremental and
32 //! parallel. Note, though, that the `-j` parameter to rustbuild gets forwarded
33 //! to appropriate test harnesses and such.
34 //!
35 //! Most of the "meaty" steps that matter are backed by Cargo, which does indeed
36 //! have its own parallelism and incremental management. Later steps, like
37 //! tests, aren't incremental and simply run the entire suite currently.
38 //! However, compiletest itself tries to avoid running tests when the artifacts
39 //! that are involved (mainly the compiler) haven't changed.
40 //!
41 //! When you execute `x.py build`, the steps which are executed are:
42 //!
43 //! * First, the python script is run. This will automatically download the
44 //!   stage0 rustc and cargo according to `src/stage0.txt`, or use the cached
45 //!   versions if they're available. These are then used to compile rustbuild
46 //!   itself (using Cargo). Finally, control is then transferred to rustbuild.
47 //!
48 //! * Rustbuild takes over, performs sanity checks, probes the environment,
49 //!   reads configuration, and starts executing steps as it reads the command
50 //!   line arguments (paths) or going through the default rules.
51 //!
52 //!   The build output will be something like the following:
53 //!
54 //!   Building stage0 std artifacts
55 //!   Copying stage0 std
56 //!   Building stage0 test artifacts
57 //!   Copying stage0 test
58 //!   Building stage0 compiler artifacts
59 //!   Copying stage0 rustc
60 //!   Assembling stage1 compiler
61 //!   Building stage1 std artifacts
62 //!   Copying stage1 std
63 //!   Building stage1 test artifacts
64 //!   Copying stage1 test
65 //!   Building stage1 compiler artifacts
66 //!   Copying stage1 rustc
67 //!   Assembling stage2 compiler
68 //!   Uplifting stage1 std
69 //!   Uplifting stage1 test
70 //!   Uplifting stage1 rustc
71 //!
72 //! Let's disect that a little:
73 //!
74 //! ## Building stage0 {std,test,compiler} artifacts
75 //!
76 //! These steps use the provided (downloaded, usually) compiler to compile the
77 //! local Rust source into libraries we can use.
78 //!
79 //! ## Copying stage0 {std,test,rustc}
80 //!
81 //! This copies the build output from Cargo into
82 //! `build/$HOST/stage0-sysroot/lib/rustlib/$ARCH/lib`. FIXME: This step's
83 //! documentation should be expanded -- the information already here may be
84 //! incorrect.
85 //!
86 //! ## Assembling stage1 compiler
87 //!
88 //! This copies the libraries we built in "building stage0 ... artifacts" into
89 //! the stage1 compiler's lib directory. These are the host libraries that the
90 //! compiler itself uses to run. These aren't actually used by artifacts the new
91 //! compiler generates. This step also copies the rustc and rustdoc binaries we
92 //! generated into build/$HOST/stage/bin.
93 //!
94 //! The stage1/bin/rustc is a fully functional compiler, but it doesn't yet have
95 //! any libraries to link built binaries or libraries to. The next 3 steps will
96 //! provide those libraries for it; they are mostly equivalent to constructing
97 //! the stage1/bin compiler so we don't go through them individually.
98 //!
99 //! ## Uplifiting stage1 {std,test,rustc}
100 //!
101 //! This step copies the libraries from the stage1 compiler sysroot into the
102 //! stage2 compiler. This is done to avoid rebuilding the compiler; libraries
103 //! we'd build in this step should be identical (in function, if not necessarily
104 //! identical on disk) so there's no need to recompile the compiler again. Note
105 //! that if you want to, you can enable the full-bootstrap option to change this
106 //! behavior.
107 //!
108 //! Each step is driven by a separate Cargo project and rustbuild orchestrates
109 //! copying files between steps and otherwise preparing for Cargo to run.
110 //!
111 //! ## Further information
112 //!
113 //! More documentation can be found in each respective module below, and you can
114 //! also check out the `src/bootstrap/README.md` file for more information.
115
116 #![deny(warnings)]
117 #![feature(associated_consts)]
118 #![feature(core_intrinsics)]
119
120 #[macro_use]
121 extern crate build_helper;
122 #[macro_use]
123 extern crate serde_derive;
124 extern crate serde;
125 extern crate serde_json;
126 extern crate cmake;
127 extern crate filetime;
128 extern crate gcc;
129 extern crate getopts;
130 extern crate num_cpus;
131 extern crate toml;
132
133 #[cfg(unix)]
134 extern crate libc;
135
136 use std::cell::Cell;
137 use std::cmp;
138 use std::collections::{HashSet, HashMap};
139 use std::env;
140 use std::fs::{self, File};
141 use std::io::Read;
142 use std::path::{PathBuf, Path};
143 use std::process::Command;
144
145 use build_helper::{run_silent, run_suppressed, try_run_silent, try_run_suppressed, output, mtime};
146
147 use util::{exe, libdir, OutputFolder, CiEnv};
148
149 mod cc;
150 mod channel;
151 mod check;
152 mod clean;
153 mod compile;
154 mod metadata;
155 mod config;
156 mod dist;
157 mod doc;
158 mod flags;
159 mod install;
160 mod native;
161 mod sanity;
162 pub mod util;
163 mod builder;
164 mod cache;
165 mod tool;
166
167 #[cfg(windows)]
168 mod job;
169
170 #[cfg(unix)]
171 mod job {
172     use libc;
173
174     pub unsafe fn setup(build: &mut ::Build) {
175         if build.config.low_priority {
176             libc::setpriority(libc::PRIO_PGRP as _, 0, 10);
177         }
178     }
179 }
180
181 #[cfg(not(any(unix, windows)))]
182 mod job {
183     pub unsafe fn setup(_build: &mut ::Build) {
184     }
185 }
186
187 pub use config::Config;
188 pub use flags::{Flags, Subcommand};
189
190 /// A structure representing a Rust compiler.
191 ///
192 /// Each compiler has a `stage` that it is associated with and a `host` that
193 /// corresponds to the platform the compiler runs on. This structure is used as
194 /// a parameter to many methods below.
195 #[derive(Serialize, Deserialize, Eq, PartialEq, Clone, Copy, Hash, Debug)]
196 pub struct Compiler<'a> {
197     stage: u32,
198     host: &'a str,
199 }
200
201 /// Global configuration for the build system.
202 ///
203 /// This structure transitively contains all configuration for the build system.
204 /// All filesystem-encoded configuration is in `config`, all flags are in
205 /// `flags`, and then parsed or probed information is listed in the keys below.
206 ///
207 /// This structure is a parameter of almost all methods in the build system,
208 /// although most functions are implemented as free functions rather than
209 /// methods specifically on this structure itself (to make it easier to
210 /// organize).
211 pub struct Build {
212     // User-specified configuration via config.toml
213     config: Config,
214
215     // User-specified configuration via CLI flags
216     flags: Flags,
217
218     // Derived properties from the above two configurations
219     src: PathBuf,
220     out: PathBuf,
221     rust_info: channel::GitInfo,
222     cargo_info: channel::GitInfo,
223     rls_info: channel::GitInfo,
224     local_rebuild: bool,
225     fail_fast: bool,
226     verbosity: usize,
227
228     // Targets for which to build.
229     build: String,
230     hosts: Vec<String>,
231     targets: Vec<String>,
232
233     // Stage 0 (downloaded) compiler and cargo or their local rust equivalents.
234     initial_rustc: PathBuf,
235     initial_cargo: PathBuf,
236
237     // Probed tools at runtime
238     lldb_version: Option<String>,
239     lldb_python_dir: Option<String>,
240
241     // Runtime state filled in later on
242     // target -> (cc, ar)
243     cc: HashMap<String, (gcc::Tool, Option<PathBuf>)>,
244     // host -> (cc, ar)
245     cxx: HashMap<String, gcc::Tool>,
246     crates: HashMap<String, Crate>,
247     is_sudo: bool,
248     ci_env: CiEnv,
249     delayed_failures: Cell<usize>,
250 }
251
252 #[derive(Debug)]
253 struct Crate {
254     name: String,
255     version: String,
256     deps: Vec<String>,
257     path: PathBuf,
258     doc_step: String,
259     build_step: String,
260     test_step: String,
261     bench_step: String,
262 }
263
264 /// The various "modes" of invoking Cargo.
265 ///
266 /// These entries currently correspond to the various output directories of the
267 /// build system, with each mod generating output in a different directory.
268 #[derive(Serialize, Clone, Copy, PartialEq, Eq)]
269 pub enum Mode {
270     /// Build the standard library, placing output in the "stageN-std" directory.
271     Libstd,
272
273     /// Build libtest, placing output in the "stageN-test" directory.
274     Libtest,
275
276     /// Build librustc and compiler libraries, placing output in the "stageN-rustc" directory.
277     Librustc,
278
279     /// Build some tool, placing output in the "stageN-tools" directory.
280     Tool,
281 }
282
283 impl Build {
284     /// Creates a new set of build configuration from the `flags` on the command
285     /// line and the filesystem `config`.
286     ///
287     /// By default all build output will be placed in the current directory.
288     pub fn new(flags: Flags, config: Config) -> Build {
289         let cwd = t!(env::current_dir());
290         let src = flags.src.clone();
291         let out = cwd.join("build");
292
293         let is_sudo = match env::var_os("SUDO_USER") {
294             Some(sudo_user) => {
295                 match env::var_os("USER") {
296                     Some(user) => user != sudo_user,
297                     None => false,
298                 }
299             }
300             None => false,
301         };
302         let rust_info = channel::GitInfo::new(&src);
303         let cargo_info = channel::GitInfo::new(&src.join("src/tools/cargo"));
304         let rls_info = channel::GitInfo::new(&src.join("src/tools/rls"));
305
306         let hosts = if !flags.host.is_empty() {
307             for host in flags.host.iter() {
308                 if !config.host.contains(host) {
309                     panic!("specified host `{}` is not in configuration", host);
310                 }
311             }
312             flags.host.clone()
313         } else {
314             config.host.clone()
315         };
316         let targets = if !flags.target.is_empty() {
317             for target in flags.target.iter() {
318                 if !config.target.contains(target) {
319                     panic!("specified target `{}` is not in configuration", target);
320                 }
321             }
322             flags.target.clone()
323         } else {
324             config.target.clone()
325         };
326
327         Build {
328             initial_rustc: config.initial_rustc.clone(),
329             initial_cargo: config.initial_cargo.clone(),
330             local_rebuild: config.local_rebuild,
331             fail_fast: flags.cmd.fail_fast(),
332             verbosity: cmp::max(flags.verbose, config.verbose),
333
334             build: config.host[0].clone(),
335             hosts: hosts,
336             targets: targets,
337
338             flags: flags,
339             config: config,
340             src: src,
341             out: out,
342
343             rust_info: rust_info,
344             cargo_info: cargo_info,
345             rls_info: rls_info,
346             cc: HashMap::new(),
347             cxx: HashMap::new(),
348             crates: HashMap::new(),
349             lldb_version: None,
350             lldb_python_dir: None,
351             is_sudo: is_sudo,
352             ci_env: CiEnv::current(),
353             delayed_failures: Cell::new(0),
354         }
355     }
356
357     /// Executes the entire build, as configured by the flags and configuration.
358     pub fn build(&mut self) {
359         unsafe {
360             job::setup(self);
361         }
362
363         if let Subcommand::Clean = self.flags.cmd {
364             return clean::clean(self);
365         }
366
367         self.verbose("finding compilers");
368         cc::find(self);
369         self.verbose("running sanity check");
370         sanity::check(self);
371         // If local-rust is the same major.minor as the current version, then force a local-rebuild
372         let local_version_verbose = output(
373             Command::new(&self.initial_rustc).arg("--version").arg("--verbose"));
374         let local_release = local_version_verbose
375             .lines().filter(|x| x.starts_with("release:"))
376             .next().unwrap().trim_left_matches("release:").trim();
377         let my_version = channel::CFG_RELEASE_NUM;
378         if local_release.split('.').take(2).eq(my_version.split('.').take(2)) {
379             self.verbose(&format!("auto-detected local-rebuild {}", local_release));
380             self.local_rebuild = true;
381         }
382         self.verbose("learning about cargo");
383         metadata::build(self);
384
385         builder::Builder::run(&self);
386     }
387
388     /// Clear out `dir` if `input` is newer.
389     ///
390     /// After this executes, it will also ensure that `dir` exists.
391     fn clear_if_dirty(&self, dir: &Path, input: &Path) {
392         let stamp = dir.join(".stamp");
393         if mtime(&stamp) < mtime(input) {
394             self.verbose(&format!("Dirty - {}", dir.display()));
395             let _ = fs::remove_dir_all(dir);
396         } else if stamp.exists() {
397             return
398         }
399         t!(fs::create_dir_all(dir));
400         t!(File::create(stamp));
401     }
402
403     /// Get the space-separated set of activated features for the standard
404     /// library.
405     fn std_features(&self) -> String {
406         let mut features = "panic-unwind".to_string();
407
408         if self.config.debug_jemalloc {
409             features.push_str(" debug-jemalloc");
410         }
411         if self.config.use_jemalloc {
412             features.push_str(" jemalloc");
413         }
414         if self.config.backtrace {
415             features.push_str(" backtrace");
416         }
417         if self.config.profiler {
418             features.push_str(" profiler");
419         }
420         features
421     }
422
423     /// Get the space-separated set of activated features for the compiler.
424     fn rustc_features(&self) -> String {
425         let mut features = String::new();
426         if self.config.use_jemalloc {
427             features.push_str(" jemalloc");
428         }
429         features
430     }
431
432     /// Component directory that Cargo will produce output into (e.g.
433     /// release/debug)
434     fn cargo_dir(&self) -> &'static str {
435         if self.config.rust_optimize {"release"} else {"debug"}
436     }
437
438     /// Get the directory for incremental by-products when using the
439     /// given compiler.
440     fn incremental_dir(&self, compiler: Compiler) -> PathBuf {
441         self.out.join(compiler.host).join(format!("stage{}-incremental", compiler.stage))
442     }
443
444     /// Returns the libdir where the standard library and other artifacts are
445     /// found for a compiler's sysroot.
446     fn sysroot_libdir(&self, compiler: &Compiler, target: &str) -> PathBuf {
447         if compiler.stage >= 2 {
448             if let Some(ref libdir_relative) = self.config.libdir_relative {
449                 return self.sysroot(compiler).join(libdir_relative)
450                     .join("rustlib").join(target).join("lib")
451             }
452         }
453        self.sysroot(compiler).join("lib").join("rustlib")
454            .join(target).join("lib")
455     }
456
457     /// Returns the root directory for all output generated in a particular
458     /// stage when running with a particular host compiler.
459     ///
460     /// The mode indicates what the root directory is for.
461     fn stage_out(&self, compiler: Compiler, mode: Mode) -> PathBuf {
462         let suffix = match mode {
463             Mode::Libstd => "-std",
464             Mode::Libtest => "-test",
465             Mode::Tool => "-tools",
466             Mode::Librustc => "-rustc",
467         };
468         self.out.join(compiler.host)
469                 .join(format!("stage{}{}", compiler.stage, suffix))
470     }
471
472     /// Returns the root output directory for all Cargo output in a given stage,
473     /// running a particular compiler, wehther or not we're building the
474     /// standard library, and targeting the specified architecture.
475     fn cargo_out(&self,
476                  compiler: Compiler,
477                  mode: Mode,
478                  target: &str) -> PathBuf {
479         self.stage_out(compiler, mode).join(target).join(self.cargo_dir())
480     }
481
482     /// Root output directory for LLVM compiled for `target`
483     ///
484     /// Note that if LLVM is configured externally then the directory returned
485     /// will likely be empty.
486     fn llvm_out(&self, target: &str) -> PathBuf {
487         self.out.join(target).join("llvm")
488     }
489
490     /// Output directory for all documentation for a target
491     fn doc_out(&self, target: &str) -> PathBuf {
492         self.out.join(target).join("doc")
493     }
494
495     /// Output directory for some generated md crate documentation for a target (temporary)
496     fn md_doc_out(&self, target: &str) -> PathBuf {
497         self.out.join(target).join("md-doc")
498     }
499
500     /// Output directory for all crate documentation for a target (temporary)
501     ///
502     /// The artifacts here are then copied into `doc_out` above.
503     fn crate_doc_out(&self, target: &str) -> PathBuf {
504         self.out.join(target).join("crate-docs")
505     }
506
507     /// Returns true if no custom `llvm-config` is set for the specified target.
508     ///
509     /// If no custom `llvm-config` was specified then Rust's llvm will be used.
510     fn is_rust_llvm(&self, target: &str) -> bool {
511         match self.config.target_config.get(target) {
512             Some(ref c) => c.llvm_config.is_none(),
513             None => true
514         }
515     }
516
517     /// Returns the path to `llvm-config` for the specified target.
518     ///
519     /// If a custom `llvm-config` was specified for target then that's returned
520     /// instead.
521     fn llvm_config(&self, target: &str) -> PathBuf {
522         let target_config = self.config.target_config.get(target);
523         if let Some(s) = target_config.and_then(|c| c.llvm_config.as_ref()) {
524             s.clone()
525         } else {
526             self.llvm_out(&self.config.build).join("bin")
527                 .join(exe("llvm-config", target))
528         }
529     }
530
531     /// Returns the path to `FileCheck` binary for the specified target
532     fn llvm_filecheck(&self, target: &str) -> PathBuf {
533         let target_config = self.config.target_config.get(target);
534         if let Some(s) = target_config.and_then(|c| c.llvm_config.as_ref()) {
535             let llvm_bindir = output(Command::new(s).arg("--bindir"));
536             Path::new(llvm_bindir.trim()).join(exe("FileCheck", target))
537         } else {
538             let base = self.llvm_out(&self.config.build).join("build");
539             let exe = exe("FileCheck", target);
540             if !self.config.ninja && self.config.build.contains("msvc") {
541                 base.join("Release/bin").join(exe)
542             } else {
543                 base.join("bin").join(exe)
544             }
545         }
546     }
547
548     /// Directory for libraries built from C/C++ code and shared between stages.
549     fn native_dir(&self, target: &str) -> PathBuf {
550         self.out.join(target).join("native")
551     }
552
553     /// Root output directory for rust_test_helpers library compiled for
554     /// `target`
555     fn test_helpers_out(&self, target: &str) -> PathBuf {
556         self.native_dir(target).join("rust-test-helpers")
557     }
558
559     /// Adds the `RUST_TEST_THREADS` env var if necessary
560     fn add_rust_test_threads(&self, cmd: &mut Command) {
561         if env::var_os("RUST_TEST_THREADS").is_none() {
562             cmd.env("RUST_TEST_THREADS", self.jobs().to_string());
563         }
564     }
565
566     /// Returns the libdir of the snapshot compiler.
567     fn rustc_snapshot_libdir(&self) -> PathBuf {
568         self.initial_rustc.parent().unwrap().parent().unwrap()
569             .join(libdir(&self.config.build))
570     }
571
572     /// Runs a command, printing out nice contextual information if it fails.
573     fn run(&self, cmd: &mut Command) {
574         self.verbose(&format!("running: {:?}", cmd));
575         run_silent(cmd)
576     }
577
578     /// Runs a command, printing out nice contextual information if it fails.
579     fn run_quiet(&self, cmd: &mut Command) {
580         self.verbose(&format!("running: {:?}", cmd));
581         run_suppressed(cmd)
582     }
583
584     /// Runs a command, printing out nice contextual information if it fails.
585     /// Exits if the command failed to execute at all, otherwise returns its
586     /// `status.success()`.
587     fn try_run(&self, cmd: &mut Command) -> bool {
588         self.verbose(&format!("running: {:?}", cmd));
589         try_run_silent(cmd)
590     }
591
592     /// Runs a command, printing out nice contextual information if it fails.
593     /// Exits if the command failed to execute at all, otherwise returns its
594     /// `status.success()`.
595     fn try_run_quiet(&self, cmd: &mut Command) -> bool {
596         self.verbose(&format!("running: {:?}", cmd));
597         try_run_suppressed(cmd)
598     }
599
600     pub fn is_verbose(&self) -> bool {
601         self.verbosity > 0
602     }
603
604     pub fn is_very_verbose(&self) -> bool {
605         self.verbosity > 1
606     }
607
608     /// Prints a message if this build is configured in verbose mode.
609     fn verbose(&self, msg: &str) {
610         if self.is_verbose() {
611             println!("{}", msg);
612         }
613     }
614
615     /// Returns the number of parallel jobs that have been configured for this
616     /// build.
617     fn jobs(&self) -> u32 {
618         self.flags.jobs.unwrap_or_else(|| num_cpus::get() as u32)
619     }
620
621     /// Returns the path to the C compiler for the target specified.
622     fn cc(&self, target: &str) -> &Path {
623         self.cc[target].0.path()
624     }
625
626     /// Returns a list of flags to pass to the C compiler for the target
627     /// specified.
628     fn cflags(&self, target: &str) -> Vec<String> {
629         // Filter out -O and /O (the optimization flags) that we picked up from
630         // gcc-rs because the build scripts will determine that for themselves.
631         let mut base = self.cc[target].0.args().iter()
632                            .map(|s| s.to_string_lossy().into_owned())
633                            .filter(|s| !s.starts_with("-O") && !s.starts_with("/O"))
634                            .collect::<Vec<_>>();
635
636         // If we're compiling on macOS then we add a few unconditional flags
637         // indicating that we want libc++ (more filled out than libstdc++) and
638         // we want to compile for 10.7. This way we can ensure that
639         // LLVM/jemalloc/etc are all properly compiled.
640         if target.contains("apple-darwin") {
641             base.push("-stdlib=libc++".into());
642         }
643
644         // Work around an apparently bad MinGW / GCC optimization,
645         // See: http://lists.llvm.org/pipermail/cfe-dev/2016-December/051980.html
646         // See: https://gcc.gnu.org/bugzilla/show_bug.cgi?id=78936
647         if target == "i686-pc-windows-gnu" {
648             base.push("-fno-omit-frame-pointer".into());
649         }
650         base
651     }
652
653     /// Returns the path to the `ar` archive utility for the target specified.
654     fn ar(&self, target: &str) -> Option<&Path> {
655         self.cc[target].1.as_ref().map(|p| &**p)
656     }
657
658     /// Returns the path to the C++ compiler for the target specified.
659     fn cxx(&self, target: &str) -> Result<&Path, String> {
660         match self.cxx.get(target) {
661             Some(p) => Ok(p.path()),
662             None => Err(format!(
663                     "target `{}` is not configured as a host, only as a target",
664                     target))
665         }
666     }
667
668     /// Returns flags to pass to the compiler to generate code for `target`.
669     fn rustc_flags(&self, target: &str) -> Vec<String> {
670         // New flags should be added here with great caution!
671         //
672         // It's quite unfortunate to **require** flags to generate code for a
673         // target, so it should only be passed here if absolutely necessary!
674         // Most default configuration should be done through target specs rather
675         // than an entry here.
676
677         let mut base = Vec::new();
678         if target != self.config.build && !target.contains("msvc") &&
679             !target.contains("emscripten") {
680             base.push(format!("-Clinker={}", self.cc(target).display()));
681         }
682         base
683     }
684
685     /// Returns the "musl root" for this `target`, if defined
686     fn musl_root(&self, target: &str) -> Option<&Path> {
687         self.config.target_config.get(target)
688             .and_then(|t| t.musl_root.as_ref())
689             .or(self.config.musl_root.as_ref())
690             .map(|p| &**p)
691     }
692
693     /// Returns whether the target will be tested using the `remote-test-client`
694     /// and `remote-test-server` binaries.
695     fn remote_tested(&self, target: &str) -> bool {
696         self.qemu_rootfs(target).is_some() || target.contains("android") ||
697         env::var_os("TEST_DEVICE_ADDR").is_some()
698     }
699
700     /// Returns the root of the "rootfs" image that this target will be using,
701     /// if one was configured.
702     ///
703     /// If `Some` is returned then that means that tests for this target are
704     /// emulated with QEMU and binaries will need to be shipped to the emulator.
705     fn qemu_rootfs(&self, target: &str) -> Option<&Path> {
706         self.config.target_config.get(target)
707             .and_then(|t| t.qemu_rootfs.as_ref())
708             .map(|p| &**p)
709     }
710
711     /// Path to the python interpreter to use
712     fn python(&self) -> &Path {
713         self.config.python.as_ref().unwrap()
714     }
715
716     /// Tests whether the `compiler` compiling for `target` should be forced to
717     /// use a stage1 compiler instead.
718     ///
719     /// Currently, by default, the build system does not perform a "full
720     /// bootstrap" by default where we compile the compiler three times.
721     /// Instead, we compile the compiler two times. The final stage (stage2)
722     /// just copies the libraries from the previous stage, which is what this
723     /// method detects.
724     ///
725     /// Here we return `true` if:
726     ///
727     /// * The build isn't performing a full bootstrap
728     /// * The `compiler` is in the final stage, 2
729     /// * We're not cross-compiling, so the artifacts are already available in
730     ///   stage1
731     ///
732     /// When all of these conditions are met the build will lift artifacts from
733     /// the previous stage forward.
734     fn force_use_stage1(&self, compiler: Compiler, target: &str) -> bool {
735         !self.config.full_bootstrap &&
736             compiler.stage >= 2 &&
737             self.config.host.iter().any(|h| h == target)
738     }
739
740     /// Returns the directory that OpenSSL artifacts are compiled into if
741     /// configured to do so.
742     fn openssl_dir(&self, target: &str) -> Option<PathBuf> {
743         // OpenSSL not used on Windows
744         if target.contains("windows") {
745             None
746         } else if self.config.openssl_static {
747             Some(self.out.join(target).join("openssl"))
748         } else {
749             None
750         }
751     }
752
753     /// Returns the directory that OpenSSL artifacts are installed into if
754     /// configured as such.
755     fn openssl_install_dir(&self, target: &str) -> Option<PathBuf> {
756         self.openssl_dir(target).map(|p| p.join("install"))
757     }
758
759     /// Given `num` in the form "a.b.c" return a "release string" which
760     /// describes the release version number.
761     ///
762     /// For example on nightly this returns "a.b.c-nightly", on beta it returns
763     /// "a.b.c-beta.1" and on stable it just returns "a.b.c".
764     fn release(&self, num: &str) -> String {
765         match &self.config.channel[..] {
766             "stable" => num.to_string(),
767             "beta" => format!("{}-beta{}", num, channel::CFG_PRERELEASE_VERSION),
768             "nightly" => format!("{}-nightly", num),
769             _ => format!("{}-dev", num),
770         }
771     }
772
773     /// Returns the value of `release` above for Rust itself.
774     fn rust_release(&self) -> String {
775         self.release(channel::CFG_RELEASE_NUM)
776     }
777
778     /// Returns the "package version" for a component given the `num` release
779     /// number.
780     ///
781     /// The package version is typically what shows up in the names of tarballs.
782     /// For channels like beta/nightly it's just the channel name, otherwise
783     /// it's the `num` provided.
784     fn package_vers(&self, num: &str) -> String {
785         match &self.config.channel[..] {
786             "stable" => num.to_string(),
787             "beta" => "beta".to_string(),
788             "nightly" => "nightly".to_string(),
789             _ => format!("{}-dev", num),
790         }
791     }
792
793     /// Returns the value of `package_vers` above for Rust itself.
794     fn rust_package_vers(&self) -> String {
795         self.package_vers(channel::CFG_RELEASE_NUM)
796     }
797
798     /// Returns the value of `package_vers` above for Cargo
799     fn cargo_package_vers(&self) -> String {
800         self.package_vers(&self.release_num("cargo"))
801     }
802
803     /// Returns the value of `package_vers` above for rls
804     fn rls_package_vers(&self) -> String {
805         self.package_vers(&self.release_num("rls"))
806     }
807
808     /// Returns the `version` string associated with this compiler for Rust
809     /// itself.
810     ///
811     /// Note that this is a descriptive string which includes the commit date,
812     /// sha, version, etc.
813     fn rust_version(&self) -> String {
814         self.rust_info.version(self, channel::CFG_RELEASE_NUM)
815     }
816
817     /// Returns the `a.b.c` version that the given package is at.
818     fn release_num(&self, package: &str) -> String {
819         let mut toml = String::new();
820         let toml_file_name = self.src.join(&format!("src/tools/{}/Cargo.toml", package));
821         t!(t!(File::open(toml_file_name)).read_to_string(&mut toml));
822         for line in toml.lines() {
823             let prefix = "version = \"";
824             let suffix = "\"";
825             if line.starts_with(prefix) && line.ends_with(suffix) {
826                 return line[prefix.len()..line.len() - suffix.len()].to_string()
827             }
828         }
829
830         panic!("failed to find version in {}'s Cargo.toml", package)
831     }
832
833     /// Returns whether unstable features should be enabled for the compiler
834     /// we're building.
835     fn unstable_features(&self) -> bool {
836         match &self.config.channel[..] {
837             "stable" | "beta" => false,
838             "nightly" | _ => true,
839         }
840     }
841
842     /// Fold the output of the commands after this method into a group. The fold
843     /// ends when the returned object is dropped. Folding can only be used in
844     /// the Travis CI environment.
845     pub fn fold_output<D, F>(&self, name: F) -> Option<OutputFolder>
846         where D: Into<String>, F: FnOnce() -> D
847     {
848         if self.ci_env == CiEnv::Travis {
849             Some(OutputFolder::new(name().into()))
850         } else {
851             None
852         }
853     }
854
855     /// Get a list of crates from a root crate.
856     ///
857     /// Returns Vec<(crate, path to crate, is_root_crate)>
858     fn crates(&self, root: &str) -> Vec<(&str, &Path)> {
859         let mut ret = Vec::new();
860         let mut list = vec![root];
861         let mut visited = HashSet::new();
862         while let Some(krate) = list.pop() {
863             let krate = &self.crates[krate];
864             // If we can't strip prefix, then out-of-tree path
865             let path = krate.path.strip_prefix(&self.src).unwrap_or(&krate.path);
866             ret.push((&*krate.name, path));
867             for dep in &krate.deps {
868                 if visited.insert(dep) && dep != "build_helper" {
869                     list.push(dep);
870                 }
871             }
872         }
873         ret
874     }
875 }
876
877 impl<'a> Compiler<'a> {
878     pub fn with_stage(mut self, stage: u32) -> Compiler<'a> {
879         self.stage = stage;
880         self
881     }
882
883     /// Returns whether this is a snapshot compiler for `build`'s configuration
884     pub fn is_snapshot(&self, build: &Build) -> bool {
885         self.stage == 0 && self.host == build.build
886     }
887
888     /// Returns if this compiler should be treated as a final stage one in the
889     /// current build session.
890     /// This takes into account whether we're performing a full bootstrap or
891     /// not; don't directly compare the stage with `2`!
892     pub fn is_final_stage(&self, build: &Build) -> bool {
893         let final_stage = if build.config.full_bootstrap { 2 } else { 1 };
894         self.stage >= final_stage
895     }
896 }