]> git.lizzy.rs Git - rust.git/blob - src/bootstrap/lib.rs
948bf29bbacc3b2d6a30b5d489ac124269751a4a
[rust.git] / src / bootstrap / lib.rs
1 // Copyright 2015 The Rust Project Developers. See the COPYRIGHT
2 // file at the top-level directory of this distribution and at
3 // http://rust-lang.org/COPYRIGHT.
4 //
5 // Licensed under the Apache License, Version 2.0 <LICENSE-APACHE or
6 // http://www.apache.org/licenses/LICENSE-2.0> or the MIT license
7 // <LICENSE-MIT or http://opensource.org/licenses/MIT>, at your
8 // option. This file may not be copied, modified, or distributed
9 // except according to those terms.
10
11 //! Implementation of rustbuild, the Rust build system.
12 //!
13 //! This module, and its descendants, are the implementation of the Rust build
14 //! system. Most of this build system is backed by Cargo but the outer layer
15 //! here serves as the ability to orchestrate calling Cargo, sequencing Cargo
16 //! builds, building artifacts like LLVM, etc. The goals of rustbuild are:
17 //!
18 //! * To be an easily understandable, easily extensible, and maintainable build
19 //!   system.
20 //! * Leverage standard tools in the Rust ecosystem to build the compiler, aka
21 //!   crates.io and Cargo.
22 //! * A standard interface to build across all platforms, including MSVC
23 //!
24 //! ## Architecture
25 //!
26 //! The build system defers most of the complicated logic managing invocations
27 //! of rustc and rustdoc to Cargo itself. However, moving through various stages
28 //! and copying artifacts is still necessary for it to do. Each time rustbuild
29 //! is invoked, it will iterate through the list of predefined steps and execute
30 //! each serially in turn if it matches the paths passed or is a default rule.
31 //! For each step rustbuild relies on the step internally being incremental and
32 //! parallel. Note, though, that the `-j` parameter to rustbuild gets forwarded
33 //! to appropriate test harnesses and such.
34 //!
35 //! Most of the "meaty" steps that matter are backed by Cargo, which does indeed
36 //! have its own parallelism and incremental management. Later steps, like
37 //! tests, aren't incremental and simply run the entire suite currently.
38 //! However, compiletest itself tries to avoid running tests when the artifacts
39 //! that are involved (mainly the compiler) haven't changed.
40 //!
41 //! When you execute `x.py build`, the steps which are executed are:
42 //!
43 //! * First, the python script is run. This will automatically download the
44 //!   stage0 rustc and cargo according to `src/stage0.txt`, or use the cached
45 //!   versions if they're available. These are then used to compile rustbuild
46 //!   itself (using Cargo). Finally, control is then transferred to rustbuild.
47 //!
48 //! * Rustbuild takes over, performs sanity checks, probes the environment,
49 //!   reads configuration, and starts executing steps as it reads the command
50 //!   line arguments (paths) or going through the default rules.
51 //!
52 //!   The build output will be something like the following:
53 //!
54 //!   Building stage0 std artifacts
55 //!   Copying stage0 std
56 //!   Building stage0 test artifacts
57 //!   Copying stage0 test
58 //!   Building stage0 compiler artifacts
59 //!   Copying stage0 rustc
60 //!   Assembling stage1 compiler
61 //!   Building stage1 std artifacts
62 //!   Copying stage1 std
63 //!   Building stage1 test artifacts
64 //!   Copying stage1 test
65 //!   Building stage1 compiler artifacts
66 //!   Copying stage1 rustc
67 //!   Assembling stage2 compiler
68 //!   Uplifting stage1 std
69 //!   Uplifting stage1 test
70 //!   Uplifting stage1 rustc
71 //!
72 //! Let's disect that a little:
73 //!
74 //! ## Building stage0 {std,test,compiler} artifacts
75 //!
76 //! These steps use the provided (downloaded, usually) compiler to compile the
77 //! local Rust source into libraries we can use.
78 //!
79 //! ## Copying stage0 {std,test,rustc}
80 //!
81 //! This copies the build output from Cargo into
82 //! `build/$HOST/stage0-sysroot/lib/rustlib/$ARCH/lib`. FIXME: This step's
83 //! documentation should be expanded -- the information already here may be
84 //! incorrect.
85 //!
86 //! ## Assembling stage1 compiler
87 //!
88 //! This copies the libraries we built in "building stage0 ... artifacts" into
89 //! the stage1 compiler's lib directory. These are the host libraries that the
90 //! compiler itself uses to run. These aren't actually used by artifacts the new
91 //! compiler generates. This step also copies the rustc and rustdoc binaries we
92 //! generated into build/$HOST/stage/bin.
93 //!
94 //! The stage1/bin/rustc is a fully functional compiler, but it doesn't yet have
95 //! any libraries to link built binaries or libraries to. The next 3 steps will
96 //! provide those libraries for it; they are mostly equivalent to constructing
97 //! the stage1/bin compiler so we don't go through them individually.
98 //!
99 //! ## Uplifting stage1 {std,test,rustc}
100 //!
101 //! This step copies the libraries from the stage1 compiler sysroot into the
102 //! stage2 compiler. This is done to avoid rebuilding the compiler; libraries
103 //! we'd build in this step should be identical (in function, if not necessarily
104 //! identical on disk) so there's no need to recompile the compiler again. Note
105 //! that if you want to, you can enable the full-bootstrap option to change this
106 //! behavior.
107 //!
108 //! Each step is driven by a separate Cargo project and rustbuild orchestrates
109 //! copying files between steps and otherwise preparing for Cargo to run.
110 //!
111 //! ## Further information
112 //!
113 //! More documentation can be found in each respective module below, and you can
114 //! also check out the `src/bootstrap/README.md` file for more information.
115
116 #![deny(warnings)]
117 #![allow(stable_features)]
118 #![feature(associated_consts)]
119
120 #[macro_use]
121 extern crate build_helper;
122 #[macro_use]
123 extern crate serde_derive;
124 #[macro_use]
125 extern crate lazy_static;
126 extern crate serde_json;
127 extern crate cmake;
128 extern crate filetime;
129 extern crate cc;
130 extern crate getopts;
131 extern crate num_cpus;
132 extern crate toml;
133
134 #[cfg(unix)]
135 extern crate libc;
136
137 use std::cell::RefCell;
138 use std::collections::{HashSet, HashMap};
139 use std::env;
140 use std::fs::{self, File};
141 use std::io::Read;
142 use std::path::{PathBuf, Path};
143 use std::process::{self, Command};
144 use std::slice;
145
146 use build_helper::{run_silent, run_suppressed, try_run_silent, try_run_suppressed, output, mtime};
147
148 use util::{exe, libdir, OutputFolder, CiEnv};
149
150 mod cc_detect;
151 mod channel;
152 mod check;
153 mod clean;
154 mod compile;
155 mod metadata;
156 mod config;
157 mod dist;
158 mod doc;
159 mod flags;
160 mod install;
161 mod native;
162 mod sanity;
163 pub mod util;
164 mod builder;
165 mod cache;
166 mod tool;
167 mod toolstate;
168
169 #[cfg(windows)]
170 mod job;
171
172 #[cfg(unix)]
173 mod job {
174     use libc;
175
176     pub unsafe fn setup(build: &mut ::Build) {
177         if build.config.low_priority {
178             libc::setpriority(libc::PRIO_PGRP as _, 0, 10);
179         }
180     }
181 }
182
183 #[cfg(not(any(unix, windows)))]
184 mod job {
185     pub unsafe fn setup(_build: &mut ::Build) {
186     }
187 }
188
189 pub use config::Config;
190 use flags::Subcommand;
191 use cache::{Interned, INTERNER};
192 use toolstate::ToolState;
193
194 /// A structure representing a Rust compiler.
195 ///
196 /// Each compiler has a `stage` that it is associated with and a `host` that
197 /// corresponds to the platform the compiler runs on. This structure is used as
198 /// a parameter to many methods below.
199 #[derive(Eq, PartialEq, Clone, Copy, Hash, Debug)]
200 pub struct Compiler {
201     stage: u32,
202     host: Interned<String>,
203 }
204
205 /// Global configuration for the build system.
206 ///
207 /// This structure transitively contains all configuration for the build system.
208 /// All filesystem-encoded configuration is in `config`, all flags are in
209 /// `flags`, and then parsed or probed information is listed in the keys below.
210 ///
211 /// This structure is a parameter of almost all methods in the build system,
212 /// although most functions are implemented as free functions rather than
213 /// methods specifically on this structure itself (to make it easier to
214 /// organize).
215 pub struct Build {
216     // User-specified configuration via config.toml
217     config: Config,
218
219     // Derived properties from the above two configurations
220     src: PathBuf,
221     out: PathBuf,
222     rust_info: channel::GitInfo,
223     cargo_info: channel::GitInfo,
224     rls_info: channel::GitInfo,
225     rustfmt_info: channel::GitInfo,
226     local_rebuild: bool,
227     fail_fast: bool,
228     verbosity: usize,
229
230     // Targets for which to build.
231     build: Interned<String>,
232     hosts: Vec<Interned<String>>,
233     targets: Vec<Interned<String>>,
234
235     // Stage 0 (downloaded) compiler and cargo or their local rust equivalents.
236     initial_rustc: PathBuf,
237     initial_cargo: PathBuf,
238
239     // Probed tools at runtime
240     lldb_version: Option<String>,
241     lldb_python_dir: Option<String>,
242
243     // Runtime state filled in later on
244     // C/C++ compilers and archiver for all targets
245     cc: HashMap<Interned<String>, cc::Tool>,
246     cxx: HashMap<Interned<String>, cc::Tool>,
247     ar: HashMap<Interned<String>, PathBuf>,
248     // Misc
249     crates: HashMap<Interned<String>, Crate>,
250     is_sudo: bool,
251     ci_env: CiEnv,
252     delayed_failures: RefCell<Vec<String>>,
253 }
254
255 #[derive(Debug)]
256 struct Crate {
257     name: Interned<String>,
258     version: String,
259     deps: Vec<Interned<String>>,
260     path: PathBuf,
261     doc_step: String,
262     build_step: String,
263     test_step: String,
264     bench_step: String,
265 }
266
267 /// The various "modes" of invoking Cargo.
268 ///
269 /// These entries currently correspond to the various output directories of the
270 /// build system, with each mod generating output in a different directory.
271 #[derive(Debug, Hash, Clone, Copy, PartialEq, Eq)]
272 pub enum Mode {
273     /// Build the standard library, placing output in the "stageN-std" directory.
274     Libstd,
275
276     /// Build libtest, placing output in the "stageN-test" directory.
277     Libtest,
278
279     /// Build librustc and compiler libraries, placing output in the "stageN-rustc" directory.
280     Librustc,
281
282     /// Build some tool, placing output in the "stageN-tools" directory.
283     Tool,
284 }
285
286 impl Build {
287     /// Creates a new set of build configuration from the `flags` on the command
288     /// line and the filesystem `config`.
289     ///
290     /// By default all build output will be placed in the current directory.
291     pub fn new(config: Config) -> Build {
292         let cwd = t!(env::current_dir());
293         let src = config.src.clone();
294         let out = cwd.join("build");
295
296         let is_sudo = match env::var_os("SUDO_USER") {
297             Some(sudo_user) => {
298                 match env::var_os("USER") {
299                     Some(user) => user != sudo_user,
300                     None => false,
301                 }
302             }
303             None => false,
304         };
305         let rust_info = channel::GitInfo::new(&config, &src);
306         let cargo_info = channel::GitInfo::new(&config, &src.join("src/tools/cargo"));
307         let rls_info = channel::GitInfo::new(&config, &src.join("src/tools/rls"));
308         let rustfmt_info = channel::GitInfo::new(&config, &src.join("src/tools/rustfmt"));
309
310         Build {
311             initial_rustc: config.initial_rustc.clone(),
312             initial_cargo: config.initial_cargo.clone(),
313             local_rebuild: config.local_rebuild,
314             fail_fast: config.cmd.fail_fast(),
315             verbosity: config.verbose,
316
317             build: config.build,
318             hosts: config.hosts.clone(),
319             targets: config.targets.clone(),
320
321             config,
322             src,
323             out,
324
325             rust_info,
326             cargo_info,
327             rls_info,
328             rustfmt_info,
329             cc: HashMap::new(),
330             cxx: HashMap::new(),
331             ar: HashMap::new(),
332             crates: HashMap::new(),
333             lldb_version: None,
334             lldb_python_dir: None,
335             is_sudo,
336             ci_env: CiEnv::current(),
337             delayed_failures: RefCell::new(Vec::new()),
338         }
339     }
340
341     pub fn build_triple(&self) -> &[Interned<String>] {
342         unsafe {
343             slice::from_raw_parts(&self.build, 1)
344         }
345     }
346
347     /// Executes the entire build, as configured by the flags and configuration.
348     pub fn build(&mut self) {
349         unsafe {
350             job::setup(self);
351         }
352
353         if let Subcommand::Clean { all } = self.config.cmd {
354             return clean::clean(self, all);
355         }
356
357         self.verbose("finding compilers");
358         cc_detect::find(self);
359         self.verbose("running sanity check");
360         sanity::check(self);
361         // If local-rust is the same major.minor as the current version, then force a local-rebuild
362         let local_version_verbose = output(
363             Command::new(&self.initial_rustc).arg("--version").arg("--verbose"));
364         let local_release = local_version_verbose
365             .lines().filter(|x| x.starts_with("release:"))
366             .next().unwrap().trim_left_matches("release:").trim();
367         let my_version = channel::CFG_RELEASE_NUM;
368         if local_release.split('.').take(2).eq(my_version.split('.').take(2)) {
369             self.verbose(&format!("auto-detected local-rebuild {}", local_release));
370             self.local_rebuild = true;
371         }
372         self.verbose("learning about cargo");
373         metadata::build(self);
374
375         builder::Builder::run(&self);
376
377         // Check for postponed failures from `test --no-fail-fast`.
378         let failures = self.delayed_failures.borrow();
379         if failures.len() > 0 {
380             println!("\n{} command(s) did not execute successfully:\n", failures.len());
381             for failure in failures.iter() {
382                 println!("  - {}\n", failure);
383             }
384             process::exit(1);
385         }
386     }
387
388     /// Clear out `dir` if `input` is newer.
389     ///
390     /// After this executes, it will also ensure that `dir` exists.
391     fn clear_if_dirty(&self, dir: &Path, input: &Path) -> bool {
392         let stamp = dir.join(".stamp");
393         let mut cleared = false;
394         if mtime(&stamp) < mtime(input) {
395             self.verbose(&format!("Dirty - {}", dir.display()));
396             let _ = fs::remove_dir_all(dir);
397             cleared = true;
398         } else if stamp.exists() {
399             return cleared;
400         }
401         t!(fs::create_dir_all(dir));
402         t!(File::create(stamp));
403         cleared
404     }
405
406     /// Get the space-separated set of activated features for the standard
407     /// library.
408     fn std_features(&self) -> String {
409         let mut features = "panic-unwind".to_string();
410
411         if self.config.debug_jemalloc {
412             features.push_str(" debug-jemalloc");
413         }
414         if self.config.use_jemalloc {
415             features.push_str(" jemalloc");
416         }
417         if self.config.backtrace {
418             features.push_str(" backtrace");
419         }
420         if self.config.profiler {
421             features.push_str(" profiler");
422         }
423         features
424     }
425
426     /// Get the space-separated set of activated features for the compiler.
427     fn rustc_features(&self) -> String {
428         let mut features = String::new();
429         if self.config.use_jemalloc {
430             features.push_str(" jemalloc");
431         }
432         if self.config.llvm_enabled {
433             features.push_str(" llvm");
434         }
435         features
436     }
437
438     /// Component directory that Cargo will produce output into (e.g.
439     /// release/debug)
440     fn cargo_dir(&self) -> &'static str {
441         if self.config.rust_optimize {"release"} else {"debug"}
442     }
443
444     fn tools_dir(&self, compiler: Compiler) -> PathBuf {
445         let out = self.out.join(&*compiler.host).join(format!("stage{}-tools-bin", compiler.stage));
446         t!(fs::create_dir_all(&out));
447         out
448     }
449
450     /// Get the directory for incremental by-products when using the
451     /// given compiler.
452     fn incremental_dir(&self, compiler: Compiler) -> PathBuf {
453         self.out.join(&*compiler.host).join(format!("stage{}-incremental", compiler.stage))
454     }
455
456     /// Returns the root directory for all output generated in a particular
457     /// stage when running with a particular host compiler.
458     ///
459     /// The mode indicates what the root directory is for.
460     fn stage_out(&self, compiler: Compiler, mode: Mode) -> PathBuf {
461         let suffix = match mode {
462             Mode::Libstd => "-std",
463             Mode::Libtest => "-test",
464             Mode::Tool => "-tools",
465             Mode::Librustc => "-rustc",
466         };
467         self.out.join(&*compiler.host)
468                 .join(format!("stage{}{}", compiler.stage, suffix))
469     }
470
471     /// Returns the root output directory for all Cargo output in a given stage,
472     /// running a particular compiler, whether or not we're building the
473     /// standard library, and targeting the specified architecture.
474     fn cargo_out(&self,
475                  compiler: Compiler,
476                  mode: Mode,
477                  target: Interned<String>) -> PathBuf {
478         self.stage_out(compiler, mode).join(&*target).join(self.cargo_dir())
479     }
480
481     /// Root output directory for LLVM compiled for `target`
482     ///
483     /// Note that if LLVM is configured externally then the directory returned
484     /// will likely be empty.
485     fn llvm_out(&self, target: Interned<String>) -> PathBuf {
486         self.out.join(&*target).join("llvm")
487     }
488
489     /// Output directory for all documentation for a target
490     fn doc_out(&self, target: Interned<String>) -> PathBuf {
491         self.out.join(&*target).join("doc")
492     }
493
494     /// Output directory for some generated md crate documentation for a target (temporary)
495     fn md_doc_out(&self, target: Interned<String>) -> Interned<PathBuf> {
496         INTERNER.intern_path(self.out.join(&*target).join("md-doc"))
497     }
498
499     /// Output directory for all crate documentation for a target (temporary)
500     ///
501     /// The artifacts here are then copied into `doc_out` above.
502     fn crate_doc_out(&self, target: Interned<String>) -> PathBuf {
503         self.out.join(&*target).join("crate-docs")
504     }
505
506     /// Returns true if no custom `llvm-config` is set for the specified target.
507     ///
508     /// If no custom `llvm-config` was specified then Rust's llvm will be used.
509     fn is_rust_llvm(&self, target: Interned<String>) -> bool {
510         match self.config.target_config.get(&target) {
511             Some(ref c) => c.llvm_config.is_none(),
512             None => true
513         }
514     }
515
516     /// Returns the path to `llvm-config` for the specified target.
517     ///
518     /// If a custom `llvm-config` was specified for target then that's returned
519     /// instead.
520     fn llvm_config(&self, target: Interned<String>) -> PathBuf {
521         let target_config = self.config.target_config.get(&target);
522         if let Some(s) = target_config.and_then(|c| c.llvm_config.as_ref()) {
523             s.clone()
524         } else {
525             self.llvm_out(self.config.build).join("bin")
526                 .join(exe("llvm-config", &*target))
527         }
528     }
529
530     /// Returns the path to `FileCheck` binary for the specified target
531     fn llvm_filecheck(&self, target: Interned<String>) -> PathBuf {
532         let target_config = self.config.target_config.get(&target);
533         if let Some(s) = target_config.and_then(|c| c.llvm_config.as_ref()) {
534             let llvm_bindir = output(Command::new(s).arg("--bindir"));
535             Path::new(llvm_bindir.trim()).join(exe("FileCheck", &*target))
536         } else {
537             let base = self.llvm_out(self.config.build).join("build");
538             let exe = exe("FileCheck", &*target);
539             if !self.config.ninja && self.config.build.contains("msvc") {
540                 base.join("Release/bin").join(exe)
541             } else {
542                 base.join("bin").join(exe)
543             }
544         }
545     }
546
547     /// Directory for libraries built from C/C++ code and shared between stages.
548     fn native_dir(&self, target: Interned<String>) -> PathBuf {
549         self.out.join(&*target).join("native")
550     }
551
552     /// Root output directory for rust_test_helpers library compiled for
553     /// `target`
554     fn test_helpers_out(&self, target: Interned<String>) -> PathBuf {
555         self.native_dir(target).join("rust-test-helpers")
556     }
557
558     /// Adds the `RUST_TEST_THREADS` env var if necessary
559     fn add_rust_test_threads(&self, cmd: &mut Command) {
560         if env::var_os("RUST_TEST_THREADS").is_none() {
561             cmd.env("RUST_TEST_THREADS", self.jobs().to_string());
562         }
563     }
564
565     /// Returns the libdir of the snapshot compiler.
566     fn rustc_snapshot_libdir(&self) -> PathBuf {
567         self.initial_rustc.parent().unwrap().parent().unwrap()
568             .join(libdir(&self.config.build))
569     }
570
571     /// Runs a command, printing out nice contextual information if it fails.
572     fn run(&self, cmd: &mut Command) {
573         self.verbose(&format!("running: {:?}", cmd));
574         run_silent(cmd)
575     }
576
577     /// Runs a command, printing out nice contextual information if it fails.
578     fn run_quiet(&self, cmd: &mut Command) {
579         self.verbose(&format!("running: {:?}", cmd));
580         run_suppressed(cmd)
581     }
582
583     /// Runs a command, printing out nice contextual information if it fails.
584     /// Exits if the command failed to execute at all, otherwise returns its
585     /// `status.success()`.
586     fn try_run(&self, cmd: &mut Command) -> bool {
587         self.verbose(&format!("running: {:?}", cmd));
588         try_run_silent(cmd)
589     }
590
591     /// Runs a command, printing out nice contextual information if it fails.
592     /// Exits if the command failed to execute at all, otherwise returns its
593     /// `status.success()`.
594     fn try_run_quiet(&self, cmd: &mut Command) -> bool {
595         self.verbose(&format!("running: {:?}", cmd));
596         try_run_suppressed(cmd)
597     }
598
599     pub fn is_verbose(&self) -> bool {
600         self.verbosity > 0
601     }
602
603     pub fn is_very_verbose(&self) -> bool {
604         self.verbosity > 1
605     }
606
607     /// Prints a message if this build is configured in verbose mode.
608     fn verbose(&self, msg: &str) {
609         if self.is_verbose() {
610             println!("{}", msg);
611         }
612     }
613
614     /// Returns the number of parallel jobs that have been configured for this
615     /// build.
616     fn jobs(&self) -> u32 {
617         self.config.jobs.unwrap_or_else(|| num_cpus::get() as u32)
618     }
619
620     /// Returns the path to the C compiler for the target specified.
621     fn cc(&self, target: Interned<String>) -> &Path {
622         self.cc[&target].path()
623     }
624
625     /// Returns a list of flags to pass to the C compiler for the target
626     /// specified.
627     fn cflags(&self, target: Interned<String>) -> Vec<String> {
628         // Filter out -O and /O (the optimization flags) that we picked up from
629         // cc-rs because the build scripts will determine that for themselves.
630         let mut base = self.cc[&target].args().iter()
631                            .map(|s| s.to_string_lossy().into_owned())
632                            .filter(|s| !s.starts_with("-O") && !s.starts_with("/O"))
633                            .collect::<Vec<_>>();
634
635         // If we're compiling on macOS then we add a few unconditional flags
636         // indicating that we want libc++ (more filled out than libstdc++) and
637         // we want to compile for 10.7. This way we can ensure that
638         // LLVM/jemalloc/etc are all properly compiled.
639         if target.contains("apple-darwin") {
640             base.push("-stdlib=libc++".into());
641         }
642
643         // Work around an apparently bad MinGW / GCC optimization,
644         // See: http://lists.llvm.org/pipermail/cfe-dev/2016-December/051980.html
645         // See: https://gcc.gnu.org/bugzilla/show_bug.cgi?id=78936
646         if &*target == "i686-pc-windows-gnu" {
647             base.push("-fno-omit-frame-pointer".into());
648         }
649         base
650     }
651
652     /// Returns the path to the `ar` archive utility for the target specified.
653     fn ar(&self, target: Interned<String>) -> Option<&Path> {
654         self.ar.get(&target).map(|p| &**p)
655     }
656
657     /// Returns the path to the C++ compiler for the target specified.
658     fn cxx(&self, target: Interned<String>) -> Result<&Path, String> {
659         match self.cxx.get(&target) {
660             Some(p) => Ok(p.path()),
661             None => Err(format!(
662                     "target `{}` is not configured as a host, only as a target",
663                     target))
664         }
665     }
666
667     /// Returns the path to the linker for the given target if it needs to be overriden.
668     fn linker(&self, target: Interned<String>) -> Option<&Path> {
669         if let Some(linker) = self.config.target_config.get(&target)
670                                                        .and_then(|c| c.linker.as_ref()) {
671             Some(linker)
672         } else if target != self.config.build &&
673                   !target.contains("msvc") && !target.contains("emscripten") {
674             Some(self.cc(target))
675         } else {
676             None
677         }
678     }
679
680     /// Returns if this target should statically link the C runtime, if specified
681     fn crt_static(&self, target: Interned<String>) -> Option<bool> {
682         if target.contains("pc-windows-msvc") {
683             Some(true)
684         } else {
685             self.config.target_config.get(&target)
686                 .and_then(|t| t.crt_static)
687         }
688     }
689
690     /// Returns the "musl root" for this `target`, if defined
691     fn musl_root(&self, target: Interned<String>) -> Option<&Path> {
692         self.config.target_config.get(&target)
693             .and_then(|t| t.musl_root.as_ref())
694             .or(self.config.musl_root.as_ref())
695             .map(|p| &**p)
696     }
697
698     /// Returns whether the target will be tested using the `remote-test-client`
699     /// and `remote-test-server` binaries.
700     fn remote_tested(&self, target: Interned<String>) -> bool {
701         self.qemu_rootfs(target).is_some() || target.contains("android") ||
702         env::var_os("TEST_DEVICE_ADDR").is_some()
703     }
704
705     /// Returns the root of the "rootfs" image that this target will be using,
706     /// if one was configured.
707     ///
708     /// If `Some` is returned then that means that tests for this target are
709     /// emulated with QEMU and binaries will need to be shipped to the emulator.
710     fn qemu_rootfs(&self, target: Interned<String>) -> Option<&Path> {
711         self.config.target_config.get(&target)
712             .and_then(|t| t.qemu_rootfs.as_ref())
713             .map(|p| &**p)
714     }
715
716     /// Path to the python interpreter to use
717     fn python(&self) -> &Path {
718         self.config.python.as_ref().unwrap()
719     }
720
721     /// Temporary directory that extended error information is emitted to.
722     fn extended_error_dir(&self) -> PathBuf {
723         self.out.join("tmp/extended-error-metadata")
724     }
725
726     /// Tests whether the `compiler` compiling for `target` should be forced to
727     /// use a stage1 compiler instead.
728     ///
729     /// Currently, by default, the build system does not perform a "full
730     /// bootstrap" by default where we compile the compiler three times.
731     /// Instead, we compile the compiler two times. The final stage (stage2)
732     /// just copies the libraries from the previous stage, which is what this
733     /// method detects.
734     ///
735     /// Here we return `true` if:
736     ///
737     /// * The build isn't performing a full bootstrap
738     /// * The `compiler` is in the final stage, 2
739     /// * We're not cross-compiling, so the artifacts are already available in
740     ///   stage1
741     ///
742     /// When all of these conditions are met the build will lift artifacts from
743     /// the previous stage forward.
744     fn force_use_stage1(&self, compiler: Compiler, target: Interned<String>) -> bool {
745         !self.config.full_bootstrap &&
746             compiler.stage >= 2 &&
747             (self.hosts.iter().any(|h| *h == target) || target == self.build)
748     }
749
750     /// Returns the directory that OpenSSL artifacts are compiled into if
751     /// configured to do so.
752     fn openssl_dir(&self, target: Interned<String>) -> Option<PathBuf> {
753         // OpenSSL not used on Windows
754         if target.contains("windows") {
755             None
756         } else if self.config.openssl_static {
757             Some(self.out.join(&*target).join("openssl"))
758         } else {
759             None
760         }
761     }
762
763     /// Returns the directory that OpenSSL artifacts are installed into if
764     /// configured as such.
765     fn openssl_install_dir(&self, target: Interned<String>) -> Option<PathBuf> {
766         self.openssl_dir(target).map(|p| p.join("install"))
767     }
768
769     /// Given `num` in the form "a.b.c" return a "release string" which
770     /// describes the release version number.
771     ///
772     /// For example on nightly this returns "a.b.c-nightly", on beta it returns
773     /// "a.b.c-beta.1" and on stable it just returns "a.b.c".
774     fn release(&self, num: &str) -> String {
775         match &self.config.channel[..] {
776             "stable" => num.to_string(),
777             "beta" => format!("{}-beta{}", num, channel::CFG_PRERELEASE_VERSION),
778             "nightly" => format!("{}-nightly", num),
779             _ => format!("{}-dev", num),
780         }
781     }
782
783     /// Returns the value of `release` above for Rust itself.
784     fn rust_release(&self) -> String {
785         self.release(channel::CFG_RELEASE_NUM)
786     }
787
788     /// Returns the "package version" for a component given the `num` release
789     /// number.
790     ///
791     /// The package version is typically what shows up in the names of tarballs.
792     /// For channels like beta/nightly it's just the channel name, otherwise
793     /// it's the `num` provided.
794     fn package_vers(&self, num: &str) -> String {
795         match &self.config.channel[..] {
796             "stable" => num.to_string(),
797             "beta" => "beta".to_string(),
798             "nightly" => "nightly".to_string(),
799             _ => format!("{}-dev", num),
800         }
801     }
802
803     /// Returns the value of `package_vers` above for Rust itself.
804     fn rust_package_vers(&self) -> String {
805         self.package_vers(channel::CFG_RELEASE_NUM)
806     }
807
808     /// Returns the value of `package_vers` above for Cargo
809     fn cargo_package_vers(&self) -> String {
810         self.package_vers(&self.release_num("cargo"))
811     }
812
813     /// Returns the value of `package_vers` above for rls
814     fn rls_package_vers(&self) -> String {
815         self.package_vers(&self.release_num("rls"))
816     }
817
818     /// Returns the value of `package_vers` above for rustfmt
819     fn rustfmt_package_vers(&self) -> String {
820         self.package_vers(&self.release_num("rustfmt"))
821     }
822
823     /// Returns the `version` string associated with this compiler for Rust
824     /// itself.
825     ///
826     /// Note that this is a descriptive string which includes the commit date,
827     /// sha, version, etc.
828     fn rust_version(&self) -> String {
829         self.rust_info.version(self, channel::CFG_RELEASE_NUM)
830     }
831
832     /// Return the full commit hash
833     fn rust_sha(&self) -> Option<&str> {
834         self.rust_info.sha()
835     }
836
837     /// Returns the `a.b.c` version that the given package is at.
838     fn release_num(&self, package: &str) -> String {
839         let mut toml = String::new();
840         let toml_file_name = self.src.join(&format!("src/tools/{}/Cargo.toml", package));
841         t!(t!(File::open(toml_file_name)).read_to_string(&mut toml));
842         for line in toml.lines() {
843             let prefix = "version = \"";
844             let suffix = "\"";
845             if line.starts_with(prefix) && line.ends_with(suffix) {
846                 return line[prefix.len()..line.len() - suffix.len()].to_string()
847             }
848         }
849
850         panic!("failed to find version in {}'s Cargo.toml", package)
851     }
852
853     /// Returns whether unstable features should be enabled for the compiler
854     /// we're building.
855     fn unstable_features(&self) -> bool {
856         match &self.config.channel[..] {
857             "stable" | "beta" => false,
858             "nightly" | _ => true,
859         }
860     }
861
862     /// Fold the output of the commands after this method into a group. The fold
863     /// ends when the returned object is dropped. Folding can only be used in
864     /// the Travis CI environment.
865     pub fn fold_output<D, F>(&self, name: F) -> Option<OutputFolder>
866         where D: Into<String>, F: FnOnce() -> D
867     {
868         if self.ci_env == CiEnv::Travis {
869             Some(OutputFolder::new(name().into()))
870         } else {
871             None
872         }
873     }
874
875     /// Updates the actual toolstate of a tool.
876     ///
877     /// The toolstates are saved to the file specified by the key
878     /// `rust.save-toolstates` in `config.toml`. If unspecified, nothing will be
879     /// done. The file is updated immediately after this function completes.
880     pub fn save_toolstate(&self, tool: &str, state: ToolState) {
881         use std::io::{Seek, SeekFrom};
882
883         if let Some(ref path) = self.config.save_toolstates {
884             let mut file = t!(fs::OpenOptions::new()
885                 .create(true)
886                 .read(true)
887                 .write(true)
888                 .open(path));
889
890             let mut current_toolstates: HashMap<Box<str>, ToolState> =
891                 serde_json::from_reader(&mut file).unwrap_or_default();
892             current_toolstates.insert(tool.into(), state);
893             t!(file.seek(SeekFrom::Start(0)));
894             t!(file.set_len(0));
895             t!(serde_json::to_writer(file, &current_toolstates));
896         }
897     }
898
899     /// Get a list of crates from a root crate.
900     ///
901     /// Returns Vec<(crate, path to crate, is_root_crate)>
902     fn crates(&self, root: &str) -> Vec<(Interned<String>, &Path)> {
903         let interned = INTERNER.intern_string(root.to_owned());
904         let mut ret = Vec::new();
905         let mut list = vec![interned];
906         let mut visited = HashSet::new();
907         while let Some(krate) = list.pop() {
908             let krate = &self.crates[&krate];
909             // If we can't strip prefix, then out-of-tree path
910             let path = krate.path.strip_prefix(&self.src).unwrap_or(&krate.path);
911             ret.push((krate.name, path));
912             for dep in &krate.deps {
913                 if visited.insert(dep) && dep != "build_helper" {
914                     list.push(*dep);
915                 }
916             }
917         }
918         ret
919     }
920 }
921
922 impl<'a> Compiler {
923     pub fn with_stage(mut self, stage: u32) -> Compiler {
924         self.stage = stage;
925         self
926     }
927
928     /// Returns whether this is a snapshot compiler for `build`'s configuration
929     pub fn is_snapshot(&self, build: &Build) -> bool {
930         self.stage == 0 && self.host == build.build
931     }
932
933     /// Returns if this compiler should be treated as a final stage one in the
934     /// current build session.
935     /// This takes into account whether we're performing a full bootstrap or
936     /// not; don't directly compare the stage with `2`!
937     pub fn is_final_stage(&self, build: &Build) -> bool {
938         let final_stage = if build.config.full_bootstrap { 2 } else { 1 };
939         self.stage >= final_stage
940     }
941 }