]> git.lizzy.rs Git - rust.git/blob - src/bootstrap/lib.rs
d6b474ab3aff1aafc4266e105a66a8f821965383
[rust.git] / src / bootstrap / lib.rs
1 // Copyright 2015 The Rust Project Developers. See the COPYRIGHT
2 // file at the top-level directory of this distribution and at
3 // http://rust-lang.org/COPYRIGHT.
4 //
5 // Licensed under the Apache License, Version 2.0 <LICENSE-APACHE or
6 // http://www.apache.org/licenses/LICENSE-2.0> or the MIT license
7 // <LICENSE-MIT or http://opensource.org/licenses/MIT>, at your
8 // option. This file may not be copied, modified, or distributed
9 // except according to those terms.
10
11 //! Implementation of rustbuild, the Rust build system.
12 //!
13 //! This module, and its descendants, are the implementation of the Rust build
14 //! system. Most of this build system is backed by Cargo but the outer layer
15 //! here serves as the ability to orchestrate calling Cargo, sequencing Cargo
16 //! builds, building artifacts like LLVM, etc. The goals of rustbuild are:
17 //!
18 //! * To be an easily understandable, easily extensible, and maintainable build
19 //!   system.
20 //! * Leverage standard tools in the Rust ecosystem to build the compiler, aka
21 //!   crates.io and Cargo.
22 //! * A standard interface to build across all platforms, including MSVC
23 //!
24 //! ## Architecture
25 //!
26 //! The build system defers most of the complicated logic managing invocations
27 //! of rustc and rustdoc to Cargo itself. However, moving through various stages
28 //! and copying artifacts is still necessary for it to do. Each time rustbuild
29 //! is invoked, it will iterate through the list of predefined steps and execute
30 //! each serially in turn if it matches the paths passed or is a default rule.
31 //! For each step rustbuild relies on the step internally being incremental and
32 //! parallel. Note, though, that the `-j` parameter to rustbuild gets forwarded
33 //! to appropriate test harnesses and such.
34 //!
35 //! Most of the "meaty" steps that matter are backed by Cargo, which does indeed
36 //! have its own parallelism and incremental management. Later steps, like
37 //! tests, aren't incremental and simply run the entire suite currently.
38 //! However, compiletest itself tries to avoid running tests when the artifacts
39 //! that are involved (mainly the compiler) haven't changed.
40 //!
41 //! When you execute `x.py build`, the steps which are executed are:
42 //!
43 //! * First, the python script is run. This will automatically download the
44 //!   stage0 rustc and cargo according to `src/stage0.txt`, or use the cached
45 //!   versions if they're available. These are then used to compile rustbuild
46 //!   itself (using Cargo). Finally, control is then transferred to rustbuild.
47 //!
48 //! * Rustbuild takes over, performs sanity checks, probes the environment,
49 //!   reads configuration, and starts executing steps as it reads the command
50 //!   line arguments (paths) or going through the default rules.
51 //!
52 //!   The build output will be something like the following:
53 //!
54 //!   Building stage0 std artifacts
55 //!   Copying stage0 std
56 //!   Building stage0 test artifacts
57 //!   Copying stage0 test
58 //!   Building stage0 compiler artifacts
59 //!   Copying stage0 rustc
60 //!   Assembling stage1 compiler
61 //!   Building stage1 std artifacts
62 //!   Copying stage1 std
63 //!   Building stage1 test artifacts
64 //!   Copying stage1 test
65 //!   Building stage1 compiler artifacts
66 //!   Copying stage1 rustc
67 //!   Assembling stage2 compiler
68 //!   Uplifting stage1 std
69 //!   Uplifting stage1 test
70 //!   Uplifting stage1 rustc
71 //!
72 //! Let's disect that a little:
73 //!
74 //! ## Building stage0 {std,test,compiler} artifacts
75 //!
76 //! These steps use the provided (downloaded, usually) compiler to compile the
77 //! local Rust source into libraries we can use.
78 //!
79 //! ## Copying stage0 {std,test,rustc}
80 //!
81 //! This copies the build output from Cargo into
82 //! `build/$HOST/stage0-sysroot/lib/rustlib/$ARCH/lib`. FIXME: This step's
83 //! documentation should be expanded -- the information already here may be
84 //! incorrect.
85 //!
86 //! ## Assembling stage1 compiler
87 //!
88 //! This copies the libraries we built in "building stage0 ... artifacts" into
89 //! the stage1 compiler's lib directory. These are the host libraries that the
90 //! compiler itself uses to run. These aren't actually used by artifacts the new
91 //! compiler generates. This step also copies the rustc and rustdoc binaries we
92 //! generated into build/$HOST/stage/bin.
93 //!
94 //! The stage1/bin/rustc is a fully functional compiler, but it doesn't yet have
95 //! any libraries to link built binaries or libraries to. The next 3 steps will
96 //! provide those libraries for it; they are mostly equivalent to constructing
97 //! the stage1/bin compiler so we don't go through them individually.
98 //!
99 //! ## Uplifiting stage1 {std,test,rustc}
100 //!
101 //! This step copies the libraries from the stage1 compiler sysroot into the
102 //! stage2 compiler. This is done to avoid rebuilding the compiler; libraries
103 //! we'd build in this step should be identical (in function, if not necessarily
104 //! identical on disk) so there's no need to recompile the compiler again. Note
105 //! that if you want to, you can enable the full-bootstrap option to change this
106 //! behavior.
107 //!
108 //! Each step is driven by a separate Cargo project and rustbuild orchestrates
109 //! copying files between steps and otherwise preparing for Cargo to run.
110 //!
111 //! ## Further information
112 //!
113 //! More documentation can be found in each respective module below, and you can
114 //! also check out the `src/bootstrap/README.md` file for more information.
115
116 #![deny(warnings)]
117 #![feature(associated_consts)]
118 #![feature(core_intrinsics)]
119
120 #[macro_use]
121 extern crate build_helper;
122 #[macro_use]
123 extern crate serde_derive;
124 extern crate serde;
125 extern crate serde_json;
126 extern crate cmake;
127 extern crate filetime;
128 extern crate gcc;
129 extern crate getopts;
130 extern crate num_cpus;
131 extern crate rustc_serialize;
132 extern crate toml;
133
134 #[cfg(unix)]
135 extern crate libc;
136
137 use std::cell::Cell;
138 use std::cmp;
139 use std::collections::{HashSet, HashMap};
140 use std::env;
141 use std::fs::{self, File};
142 use std::io::Read;
143 use std::path::{PathBuf, Path};
144 use std::process::Command;
145
146 use build_helper::{run_silent, run_suppressed, try_run_silent, try_run_suppressed, output, mtime};
147
148 use util::{exe, libdir, OutputFolder, CiEnv};
149
150 mod cc;
151 mod channel;
152 mod check;
153 mod clean;
154 mod compile;
155 mod metadata;
156 mod config;
157 mod dist;
158 mod doc;
159 mod flags;
160 mod install;
161 mod native;
162 mod sanity;
163 pub mod util;
164 mod builder;
165 mod cache;
166 mod tool;
167
168 #[cfg(windows)]
169 mod job;
170
171 #[cfg(unix)]
172 mod job {
173     use libc;
174
175     pub unsafe fn setup(build: &mut ::Build) {
176         if build.config.low_priority {
177             libc::setpriority(libc::PRIO_PGRP as _, 0, 10);
178         }
179     }
180 }
181
182 #[cfg(not(any(unix, windows)))]
183 mod job {
184     pub unsafe fn setup(_build: &mut ::Build) {
185     }
186 }
187
188 pub use config::Config;
189 pub use flags::{Flags, Subcommand};
190
191 /// A structure representing a Rust compiler.
192 ///
193 /// Each compiler has a `stage` that it is associated with and a `host` that
194 /// corresponds to the platform the compiler runs on. This structure is used as
195 /// a parameter to many methods below.
196 #[derive(Serialize, Deserialize, Eq, PartialEq, Clone, Copy, Hash, Debug)]
197 pub struct Compiler<'a> {
198     stage: u32,
199     host: &'a str,
200 }
201
202 /// Global configuration for the build system.
203 ///
204 /// This structure transitively contains all configuration for the build system.
205 /// All filesystem-encoded configuration is in `config`, all flags are in
206 /// `flags`, and then parsed or probed information is listed in the keys below.
207 ///
208 /// This structure is a parameter of almost all methods in the build system,
209 /// although most functions are implemented as free functions rather than
210 /// methods specifically on this structure itself (to make it easier to
211 /// organize).
212 pub struct Build {
213     // User-specified configuration via config.toml
214     config: Config,
215
216     // User-specified configuration via CLI flags
217     flags: Flags,
218
219     // Derived properties from the above two configurations
220     src: PathBuf,
221     out: PathBuf,
222     rust_info: channel::GitInfo,
223     cargo_info: channel::GitInfo,
224     rls_info: channel::GitInfo,
225     local_rebuild: bool,
226     fail_fast: bool,
227     verbosity: usize,
228
229     // Targets for which to build.
230     build: String,
231     hosts: Vec<String>,
232     targets: Vec<String>,
233
234     // Stage 0 (downloaded) compiler and cargo or their local rust equivalents.
235     initial_rustc: PathBuf,
236     initial_cargo: PathBuf,
237
238     // Probed tools at runtime
239     lldb_version: Option<String>,
240     lldb_python_dir: Option<String>,
241
242     // Runtime state filled in later on
243     // target -> (cc, ar)
244     cc: HashMap<String, (gcc::Tool, Option<PathBuf>)>,
245     // host -> (cc, ar)
246     cxx: HashMap<String, gcc::Tool>,
247     crates: HashMap<String, Crate>,
248     is_sudo: bool,
249     ci_env: CiEnv,
250     delayed_failures: Cell<usize>,
251 }
252
253 #[derive(Debug)]
254 struct Crate {
255     name: String,
256     version: String,
257     deps: Vec<String>,
258     path: PathBuf,
259     doc_step: String,
260     build_step: String,
261     test_step: String,
262     bench_step: String,
263 }
264
265 /// The various "modes" of invoking Cargo.
266 ///
267 /// These entries currently correspond to the various output directories of the
268 /// build system, with each mod generating output in a different directory.
269 #[derive(Serialize, Clone, Copy, PartialEq, Eq)]
270 pub enum Mode {
271     /// Build the standard library, placing output in the "stageN-std" directory.
272     Libstd,
273
274     /// Build libtest, placing output in the "stageN-test" directory.
275     Libtest,
276
277     /// Build librustc and compiler libraries, placing output in the "stageN-rustc" directory.
278     Librustc,
279
280     /// Build some tool, placing output in the "stageN-tools" directory.
281     Tool,
282 }
283
284 impl Build {
285     /// Creates a new set of build configuration from the `flags` on the command
286     /// line and the filesystem `config`.
287     ///
288     /// By default all build output will be placed in the current directory.
289     pub fn new(flags: Flags, config: Config) -> Build {
290         let cwd = t!(env::current_dir());
291         let src = flags.src.clone();
292         let out = cwd.join("build");
293
294         let is_sudo = match env::var_os("SUDO_USER") {
295             Some(sudo_user) => {
296                 match env::var_os("USER") {
297                     Some(user) => user != sudo_user,
298                     None => false,
299                 }
300             }
301             None => false,
302         };
303         let rust_info = channel::GitInfo::new(&src);
304         let cargo_info = channel::GitInfo::new(&src.join("src/tools/cargo"));
305         let rls_info = channel::GitInfo::new(&src.join("src/tools/rls"));
306
307         let hosts = if !flags.host.is_empty() {
308             for host in flags.host.iter() {
309                 if !config.host.contains(host) {
310                     panic!("specified host `{}` is not in configuration", host);
311                 }
312             }
313             flags.host.clone()
314         } else {
315             config.host.clone()
316         };
317         let targets = if !flags.target.is_empty() {
318             for target in flags.target.iter() {
319                 if !config.target.contains(target) {
320                     panic!("specified target `{}` is not in configuration", target);
321                 }
322             }
323             flags.target.clone()
324         } else {
325             config.target.clone()
326         };
327
328         Build {
329             initial_rustc: config.initial_rustc.clone(),
330             initial_cargo: config.initial_cargo.clone(),
331             local_rebuild: config.local_rebuild,
332             fail_fast: flags.cmd.fail_fast(),
333             verbosity: cmp::max(flags.verbose, config.verbose),
334
335             build: config.host[0].clone(),
336             hosts: hosts,
337             targets: targets,
338
339             flags: flags,
340             config: config,
341             src: src,
342             out: out,
343
344             rust_info: rust_info,
345             cargo_info: cargo_info,
346             rls_info: rls_info,
347             cc: HashMap::new(),
348             cxx: HashMap::new(),
349             crates: HashMap::new(),
350             lldb_version: None,
351             lldb_python_dir: None,
352             is_sudo: is_sudo,
353             ci_env: CiEnv::current(),
354             delayed_failures: Cell::new(0),
355         }
356     }
357
358     /// Executes the entire build, as configured by the flags and configuration.
359     pub fn build(&mut self) {
360         unsafe {
361             job::setup(self);
362         }
363
364         if let Subcommand::Clean = self.flags.cmd {
365             return clean::clean(self);
366         }
367
368         self.verbose("finding compilers");
369         cc::find(self);
370         self.verbose("running sanity check");
371         sanity::check(self);
372         // If local-rust is the same major.minor as the current version, then force a local-rebuild
373         let local_version_verbose = output(
374             Command::new(&self.initial_rustc).arg("--version").arg("--verbose"));
375         let local_release = local_version_verbose
376             .lines().filter(|x| x.starts_with("release:"))
377             .next().unwrap().trim_left_matches("release:").trim();
378         let my_version = channel::CFG_RELEASE_NUM;
379         if local_release.split('.').take(2).eq(my_version.split('.').take(2)) {
380             self.verbose(&format!("auto-detected local-rebuild {}", local_release));
381             self.local_rebuild = true;
382         }
383         self.verbose("learning about cargo");
384         metadata::build(self);
385
386         builder::Builder::run(&self);
387     }
388
389     /// Clear out `dir` if `input` is newer.
390     ///
391     /// After this executes, it will also ensure that `dir` exists.
392     fn clear_if_dirty(&self, dir: &Path, input: &Path) {
393         let stamp = dir.join(".stamp");
394         if mtime(&stamp) < mtime(input) {
395             self.verbose(&format!("Dirty - {}", dir.display()));
396             let _ = fs::remove_dir_all(dir);
397         } else if stamp.exists() {
398             return
399         }
400         t!(fs::create_dir_all(dir));
401         t!(File::create(stamp));
402     }
403
404     /// Get the space-separated set of activated features for the standard
405     /// library.
406     fn std_features(&self) -> String {
407         let mut features = "panic-unwind".to_string();
408
409         if self.config.debug_jemalloc {
410             features.push_str(" debug-jemalloc");
411         }
412         if self.config.use_jemalloc {
413             features.push_str(" jemalloc");
414         }
415         if self.config.backtrace {
416             features.push_str(" backtrace");
417         }
418         if self.config.profiler {
419             features.push_str(" profiler");
420         }
421         features
422     }
423
424     /// Get the space-separated set of activated features for the compiler.
425     fn rustc_features(&self) -> String {
426         let mut features = String::new();
427         if self.config.use_jemalloc {
428             features.push_str(" jemalloc");
429         }
430         features
431     }
432
433     /// Component directory that Cargo will produce output into (e.g.
434     /// release/debug)
435     fn cargo_dir(&self) -> &'static str {
436         if self.config.rust_optimize {"release"} else {"debug"}
437     }
438
439     /// Get the directory for incremental by-products when using the
440     /// given compiler.
441     fn incremental_dir(&self, compiler: Compiler) -> PathBuf {
442         self.out.join(compiler.host).join(format!("stage{}-incremental", compiler.stage))
443     }
444
445     /// Returns the libdir where the standard library and other artifacts are
446     /// found for a compiler's sysroot.
447     fn sysroot_libdir(&self, compiler: &Compiler, target: &str) -> PathBuf {
448         if compiler.stage >= 2 {
449             if let Some(ref libdir_relative) = self.config.libdir_relative {
450                 return self.sysroot(compiler).join(libdir_relative)
451                     .join("rustlib").join(target).join("lib")
452             }
453         }
454        self.sysroot(compiler).join("lib").join("rustlib")
455            .join(target).join("lib")
456     }
457
458     /// Returns the root directory for all output generated in a particular
459     /// stage when running with a particular host compiler.
460     ///
461     /// The mode indicates what the root directory is for.
462     fn stage_out(&self, compiler: Compiler, mode: Mode) -> PathBuf {
463         let suffix = match mode {
464             Mode::Libstd => "-std",
465             Mode::Libtest => "-test",
466             Mode::Tool => "-tools",
467             Mode::Librustc => "-rustc",
468         };
469         self.out.join(compiler.host)
470                 .join(format!("stage{}{}", compiler.stage, suffix))
471     }
472
473     /// Returns the root output directory for all Cargo output in a given stage,
474     /// running a particular compiler, wehther or not we're building the
475     /// standard library, and targeting the specified architecture.
476     fn cargo_out(&self,
477                  compiler: Compiler,
478                  mode: Mode,
479                  target: &str) -> PathBuf {
480         self.stage_out(compiler, mode).join(target).join(self.cargo_dir())
481     }
482
483     /// Root output directory for LLVM compiled for `target`
484     ///
485     /// Note that if LLVM is configured externally then the directory returned
486     /// will likely be empty.
487     fn llvm_out(&self, target: &str) -> PathBuf {
488         self.out.join(target).join("llvm")
489     }
490
491     /// Output directory for all documentation for a target
492     fn doc_out(&self, target: &str) -> PathBuf {
493         self.out.join(target).join("doc")
494     }
495
496     /// Output directory for some generated md crate documentation for a target (temporary)
497     fn md_doc_out(&self, target: &str) -> PathBuf {
498         self.out.join(target).join("md-doc")
499     }
500
501     /// Output directory for all crate documentation for a target (temporary)
502     ///
503     /// The artifacts here are then copied into `doc_out` above.
504     fn crate_doc_out(&self, target: &str) -> PathBuf {
505         self.out.join(target).join("crate-docs")
506     }
507
508     /// Returns true if no custom `llvm-config` is set for the specified target.
509     ///
510     /// If no custom `llvm-config` was specified then Rust's llvm will be used.
511     fn is_rust_llvm(&self, target: &str) -> bool {
512         match self.config.target_config.get(target) {
513             Some(ref c) => c.llvm_config.is_none(),
514             None => true
515         }
516     }
517
518     /// Returns the path to `llvm-config` for the specified target.
519     ///
520     /// If a custom `llvm-config` was specified for target then that's returned
521     /// instead.
522     fn llvm_config(&self, target: &str) -> PathBuf {
523         let target_config = self.config.target_config.get(target);
524         if let Some(s) = target_config.and_then(|c| c.llvm_config.as_ref()) {
525             s.clone()
526         } else {
527             self.llvm_out(&self.config.build).join("bin")
528                 .join(exe("llvm-config", target))
529         }
530     }
531
532     /// Returns the path to `FileCheck` binary for the specified target
533     fn llvm_filecheck(&self, target: &str) -> PathBuf {
534         let target_config = self.config.target_config.get(target);
535         if let Some(s) = target_config.and_then(|c| c.llvm_config.as_ref()) {
536             let llvm_bindir = output(Command::new(s).arg("--bindir"));
537             Path::new(llvm_bindir.trim()).join(exe("FileCheck", target))
538         } else {
539             let base = self.llvm_out(&self.config.build).join("build");
540             let exe = exe("FileCheck", target);
541             if !self.config.ninja && self.config.build.contains("msvc") {
542                 base.join("Release/bin").join(exe)
543             } else {
544                 base.join("bin").join(exe)
545             }
546         }
547     }
548
549     /// Directory for libraries built from C/C++ code and shared between stages.
550     fn native_dir(&self, target: &str) -> PathBuf {
551         self.out.join(target).join("native")
552     }
553
554     /// Root output directory for rust_test_helpers library compiled for
555     /// `target`
556     fn test_helpers_out(&self, target: &str) -> PathBuf {
557         self.native_dir(target).join("rust-test-helpers")
558     }
559
560     /// Adds the `RUST_TEST_THREADS` env var if necessary
561     fn add_rust_test_threads(&self, cmd: &mut Command) {
562         if env::var_os("RUST_TEST_THREADS").is_none() {
563             cmd.env("RUST_TEST_THREADS", self.jobs().to_string());
564         }
565     }
566
567     /// Returns the libdir of the snapshot compiler.
568     fn rustc_snapshot_libdir(&self) -> PathBuf {
569         self.initial_rustc.parent().unwrap().parent().unwrap()
570             .join(libdir(&self.config.build))
571     }
572
573     /// Runs a command, printing out nice contextual information if it fails.
574     fn run(&self, cmd: &mut Command) {
575         self.verbose(&format!("running: {:?}", cmd));
576         run_silent(cmd)
577     }
578
579     /// Runs a command, printing out nice contextual information if it fails.
580     fn run_quiet(&self, cmd: &mut Command) {
581         self.verbose(&format!("running: {:?}", cmd));
582         run_suppressed(cmd)
583     }
584
585     /// Runs a command, printing out nice contextual information if it fails.
586     /// Exits if the command failed to execute at all, otherwise returns its
587     /// `status.success()`.
588     fn try_run(&self, cmd: &mut Command) -> bool {
589         self.verbose(&format!("running: {:?}", cmd));
590         try_run_silent(cmd)
591     }
592
593     /// Runs a command, printing out nice contextual information if it fails.
594     /// Exits if the command failed to execute at all, otherwise returns its
595     /// `status.success()`.
596     fn try_run_quiet(&self, cmd: &mut Command) -> bool {
597         self.verbose(&format!("running: {:?}", cmd));
598         try_run_suppressed(cmd)
599     }
600
601     pub fn is_verbose(&self) -> bool {
602         self.verbosity > 0
603     }
604
605     pub fn is_very_verbose(&self) -> bool {
606         self.verbosity > 1
607     }
608
609     /// Prints a message if this build is configured in verbose mode.
610     fn verbose(&self, msg: &str) {
611         if self.is_verbose() {
612             println!("{}", msg);
613         }
614     }
615
616     /// Returns the number of parallel jobs that have been configured for this
617     /// build.
618     fn jobs(&self) -> u32 {
619         self.flags.jobs.unwrap_or_else(|| num_cpus::get() as u32)
620     }
621
622     /// Returns the path to the C compiler for the target specified.
623     fn cc(&self, target: &str) -> &Path {
624         self.cc[target].0.path()
625     }
626
627     /// Returns a list of flags to pass to the C compiler for the target
628     /// specified.
629     fn cflags(&self, target: &str) -> Vec<String> {
630         // Filter out -O and /O (the optimization flags) that we picked up from
631         // gcc-rs because the build scripts will determine that for themselves.
632         let mut base = self.cc[target].0.args().iter()
633                            .map(|s| s.to_string_lossy().into_owned())
634                            .filter(|s| !s.starts_with("-O") && !s.starts_with("/O"))
635                            .collect::<Vec<_>>();
636
637         // If we're compiling on macOS then we add a few unconditional flags
638         // indicating that we want libc++ (more filled out than libstdc++) and
639         // we want to compile for 10.7. This way we can ensure that
640         // LLVM/jemalloc/etc are all properly compiled.
641         if target.contains("apple-darwin") {
642             base.push("-stdlib=libc++".into());
643         }
644
645         // Work around an apparently bad MinGW / GCC optimization,
646         // See: http://lists.llvm.org/pipermail/cfe-dev/2016-December/051980.html
647         // See: https://gcc.gnu.org/bugzilla/show_bug.cgi?id=78936
648         if target == "i686-pc-windows-gnu" {
649             base.push("-fno-omit-frame-pointer".into());
650         }
651         base
652     }
653
654     /// Returns the path to the `ar` archive utility for the target specified.
655     fn ar(&self, target: &str) -> Option<&Path> {
656         self.cc[target].1.as_ref().map(|p| &**p)
657     }
658
659     /// Returns the path to the C++ compiler for the target specified.
660     fn cxx(&self, target: &str) -> Result<&Path, String> {
661         match self.cxx.get(target) {
662             Some(p) => Ok(p.path()),
663             None => Err(format!(
664                     "target `{}` is not configured as a host, only as a target",
665                     target))
666         }
667     }
668
669     /// Returns flags to pass to the compiler to generate code for `target`.
670     fn rustc_flags(&self, target: &str) -> Vec<String> {
671         // New flags should be added here with great caution!
672         //
673         // It's quite unfortunate to **require** flags to generate code for a
674         // target, so it should only be passed here if absolutely necessary!
675         // Most default configuration should be done through target specs rather
676         // than an entry here.
677
678         let mut base = Vec::new();
679         if target != self.config.build && !target.contains("msvc") &&
680             !target.contains("emscripten") {
681             base.push(format!("-Clinker={}", self.cc(target).display()));
682         }
683         base
684     }
685
686     /// Returns the "musl root" for this `target`, if defined
687     fn musl_root(&self, target: &str) -> Option<&Path> {
688         self.config.target_config.get(target)
689             .and_then(|t| t.musl_root.as_ref())
690             .or(self.config.musl_root.as_ref())
691             .map(|p| &**p)
692     }
693
694     /// Returns whether the target will be tested using the `remote-test-client`
695     /// and `remote-test-server` binaries.
696     fn remote_tested(&self, target: &str) -> bool {
697         self.qemu_rootfs(target).is_some() || target.contains("android") ||
698         env::var_os("TEST_DEVICE_ADDR").is_some()
699     }
700
701     /// Returns the root of the "rootfs" image that this target will be using,
702     /// if one was configured.
703     ///
704     /// If `Some` is returned then that means that tests for this target are
705     /// emulated with QEMU and binaries will need to be shipped to the emulator.
706     fn qemu_rootfs(&self, target: &str) -> Option<&Path> {
707         self.config.target_config.get(target)
708             .and_then(|t| t.qemu_rootfs.as_ref())
709             .map(|p| &**p)
710     }
711
712     /// Path to the python interpreter to use
713     fn python(&self) -> &Path {
714         self.config.python.as_ref().unwrap()
715     }
716
717     /// Tests whether the `compiler` compiling for `target` should be forced to
718     /// use a stage1 compiler instead.
719     ///
720     /// Currently, by default, the build system does not perform a "full
721     /// bootstrap" by default where we compile the compiler three times.
722     /// Instead, we compile the compiler two times. The final stage (stage2)
723     /// just copies the libraries from the previous stage, which is what this
724     /// method detects.
725     ///
726     /// Here we return `true` if:
727     ///
728     /// * The build isn't performing a full bootstrap
729     /// * The `compiler` is in the final stage, 2
730     /// * We're not cross-compiling, so the artifacts are already available in
731     ///   stage1
732     ///
733     /// When all of these conditions are met the build will lift artifacts from
734     /// the previous stage forward.
735     fn force_use_stage1(&self, compiler: Compiler, target: &str) -> bool {
736         !self.config.full_bootstrap &&
737             compiler.stage >= 2 &&
738             self.config.host.iter().any(|h| h == target)
739     }
740
741     /// Returns the directory that OpenSSL artifacts are compiled into if
742     /// configured to do so.
743     fn openssl_dir(&self, target: &str) -> Option<PathBuf> {
744         // OpenSSL not used on Windows
745         if target.contains("windows") {
746             None
747         } else if self.config.openssl_static {
748             Some(self.out.join(target).join("openssl"))
749         } else {
750             None
751         }
752     }
753
754     /// Returns the directory that OpenSSL artifacts are installed into if
755     /// configured as such.
756     fn openssl_install_dir(&self, target: &str) -> Option<PathBuf> {
757         self.openssl_dir(target).map(|p| p.join("install"))
758     }
759
760     /// Given `num` in the form "a.b.c" return a "release string" which
761     /// describes the release version number.
762     ///
763     /// For example on nightly this returns "a.b.c-nightly", on beta it returns
764     /// "a.b.c-beta.1" and on stable it just returns "a.b.c".
765     fn release(&self, num: &str) -> String {
766         match &self.config.channel[..] {
767             "stable" => num.to_string(),
768             "beta" => format!("{}-beta{}", num, channel::CFG_PRERELEASE_VERSION),
769             "nightly" => format!("{}-nightly", num),
770             _ => format!("{}-dev", num),
771         }
772     }
773
774     /// Returns the value of `release` above for Rust itself.
775     fn rust_release(&self) -> String {
776         self.release(channel::CFG_RELEASE_NUM)
777     }
778
779     /// Returns the "package version" for a component given the `num` release
780     /// number.
781     ///
782     /// The package version is typically what shows up in the names of tarballs.
783     /// For channels like beta/nightly it's just the channel name, otherwise
784     /// it's the `num` provided.
785     fn package_vers(&self, num: &str) -> String {
786         match &self.config.channel[..] {
787             "stable" => num.to_string(),
788             "beta" => "beta".to_string(),
789             "nightly" => "nightly".to_string(),
790             _ => format!("{}-dev", num),
791         }
792     }
793
794     /// Returns the value of `package_vers` above for Rust itself.
795     fn rust_package_vers(&self) -> String {
796         self.package_vers(channel::CFG_RELEASE_NUM)
797     }
798
799     /// Returns the value of `package_vers` above for Cargo
800     fn cargo_package_vers(&self) -> String {
801         self.package_vers(&self.release_num("cargo"))
802     }
803
804     /// Returns the value of `package_vers` above for rls
805     fn rls_package_vers(&self) -> String {
806         self.package_vers(&self.release_num("rls"))
807     }
808
809     /// Returns the `version` string associated with this compiler for Rust
810     /// itself.
811     ///
812     /// Note that this is a descriptive string which includes the commit date,
813     /// sha, version, etc.
814     fn rust_version(&self) -> String {
815         self.rust_info.version(self, channel::CFG_RELEASE_NUM)
816     }
817
818     /// Returns the `a.b.c` version that the given package is at.
819     fn release_num(&self, package: &str) -> String {
820         let mut toml = String::new();
821         let toml_file_name = self.src.join(&format!("src/tools/{}/Cargo.toml", package));
822         t!(t!(File::open(toml_file_name)).read_to_string(&mut toml));
823         for line in toml.lines() {
824             let prefix = "version = \"";
825             let suffix = "\"";
826             if line.starts_with(prefix) && line.ends_with(suffix) {
827                 return line[prefix.len()..line.len() - suffix.len()].to_string()
828             }
829         }
830
831         panic!("failed to find version in {}'s Cargo.toml", package)
832     }
833
834     /// Returns whether unstable features should be enabled for the compiler
835     /// we're building.
836     fn unstable_features(&self) -> bool {
837         match &self.config.channel[..] {
838             "stable" | "beta" => false,
839             "nightly" | _ => true,
840         }
841     }
842
843     /// Fold the output of the commands after this method into a group. The fold
844     /// ends when the returned object is dropped. Folding can only be used in
845     /// the Travis CI environment.
846     pub fn fold_output<D, F>(&self, name: F) -> Option<OutputFolder>
847         where D: Into<String>, F: FnOnce() -> D
848     {
849         if self.ci_env == CiEnv::Travis {
850             Some(OutputFolder::new(name().into()))
851         } else {
852             None
853         }
854     }
855
856     /// Get a list of crates from a root crate.
857     ///
858     /// Returns Vec<(crate, path to crate, is_root_crate)>
859     fn crates(&self, root: &str) -> Vec<(&str, &Path)> {
860         let mut ret = Vec::new();
861         let mut list = vec![root];
862         let mut visited = HashSet::new();
863         while let Some(krate) = list.pop() {
864             let krate = &self.crates[krate];
865             // If we can't strip prefix, then out-of-tree path
866             let path = krate.path.strip_prefix(&self.src).unwrap_or(&krate.path);
867             ret.push((&*krate.name, path));
868             for dep in &krate.deps {
869                 if visited.insert(dep) && dep != "build_helper" {
870                     list.push(dep);
871                 }
872             }
873         }
874         ret
875     }
876 }
877
878 impl<'a> Compiler<'a> {
879     pub fn with_stage(mut self, stage: u32) -> Compiler<'a> {
880         self.stage = stage;
881         self
882     }
883
884     /// Returns whether this is a snapshot compiler for `build`'s configuration
885     pub fn is_snapshot(&self, build: &Build) -> bool {
886         self.stage == 0 && self.host == build.build
887     }
888
889     /// Returns if this compiler should be treated as a final stage one in the
890     /// current build session.
891     /// This takes into account whether we're performing a full bootstrap or
892     /// not; don't directly compare the stage with `2`!
893     pub fn is_final_stage(&self, build: &Build) -> bool {
894         let final_stage = if build.config.full_bootstrap { 2 } else { 1 };
895         self.stage >= final_stage
896     }
897 }