]> git.lizzy.rs Git - rust.git/blob - src/bootstrap/step.rs
Rollup merge of #41240 - projektir:weak_docs, r=alexcrichton
[rust.git] / src / bootstrap / step.rs
1 // Copyright 2016 The Rust Project Developers. See the COPYRIGHT
2 // file at the top-level directory of this distribution and at
3 // http://rust-lang.org/COPYRIGHT.
4 //
5 // Licensed under the Apache License, Version 2.0 <LICENSE-APACHE or
6 // http://www.apache.org/licenses/LICENSE-2.0> or the MIT license
7 // <LICENSE-MIT or http://opensource.org/licenses/MIT>, at your
8 // option. This file may not be copied, modified, or distributed
9 // except according to those terms.
10
11 //! Definition of steps of the build system.
12 //!
13 //! This is where some of the real meat of rustbuild is located, in how we
14 //! define targets and the dependencies amongst them. This file can sort of be
15 //! viewed as just defining targets in a makefile which shell out to predefined
16 //! functions elsewhere about how to execute the target.
17 //!
18 //! The primary function here you're likely interested in is the `build_rules`
19 //! function. This will create a `Rules` structure which basically just lists
20 //! everything that rustbuild can do. Each rule has a human-readable name, a
21 //! path associated with it, some dependencies, and then a closure of how to
22 //! actually perform the rule.
23 //!
24 //! All steps below are defined in self-contained units, so adding a new target
25 //! to the build system should just involve adding the meta information here
26 //! along with the actual implementation elsewhere. You can find more comments
27 //! about how to define rules themselves below.
28
29 use std::collections::{BTreeMap, HashSet};
30 use std::mem;
31
32 use check::{self, TestKind};
33 use compile;
34 use dist;
35 use doc;
36 use flags::Subcommand;
37 use install;
38 use native;
39 use {Compiler, Build, Mode};
40
41 pub fn run(build: &Build) {
42     let rules = build_rules(build);
43     let steps = rules.plan();
44     rules.run(&steps);
45 }
46
47 pub fn build_rules<'a>(build: &'a Build) -> Rules {
48     let mut rules = Rules::new(build);
49
50     // This is the first rule that we're going to define for rustbuild, which is
51     // used to compile LLVM itself. All rules are added through the `rules`
52     // structure created above and are configured through a builder-style
53     // interface.
54     //
55     // First up we see the `build` method. This represents a rule that's part of
56     // the top-level `build` subcommand. For example `./x.py build` is what this
57     // is associating with. Note that this is normally only relevant if you flag
58     // a rule as `default`, which we'll talk about later.
59     //
60     // Next up we'll see two arguments to this method:
61     //
62     // * `llvm` - this is the "human readable" name of this target. This name is
63     //            not accessed anywhere outside this file itself (e.g. not in
64     //            the CLI nor elsewhere in rustbuild). The purpose of this is to
65     //            easily define dependencies between rules. That is, other rules
66     //            will depend on this with the name "llvm".
67     // * `src/llvm` - this is the relevant path to the rule that we're working
68     //                with. This path is the engine behind how commands like
69     //                `./x.py build src/llvm` work. This should typically point
70     //                to the relevant component, but if there's not really a
71     //                path to be assigned here you can pass something like
72     //                `path/to/nowhere` to ignore it.
73     //
74     // After we create the rule with the `build` method we can then configure
75     // various aspects of it. For example this LLVM rule uses `.host(true)` to
76     // flag that it's a rule only for host targets. In other words, LLVM isn't
77     // compiled for targets configured through `--target` (e.g. those we're just
78     // building a standard library for).
79     //
80     // Next up the `dep` method will add a dependency to this rule. The closure
81     // is yielded the step that represents executing the `llvm` rule itself
82     // (containing information like stage, host, target, ...) and then it must
83     // return a target that the step depends on. Here LLVM is actually
84     // interesting where a cross-compiled LLVM depends on the host LLVM, but
85     // otherwise it has no dependencies.
86     //
87     // To handle this we do a bit of dynamic dispatch to see what the dependency
88     // is. If we're building a LLVM for the build triple, then we don't actually
89     // have any dependencies! To do that we return a dependency on the `Step::noop()`
90     // target which does nothing.
91     //
92     // If we're build a cross-compiled LLVM, however, we need to assemble the
93     // libraries from the previous compiler. This step has the same name as
94     // ours (llvm) but we want it for a different target, so we use the
95     // builder-style methods on `Step` to configure this target to the build
96     // triple.
97     //
98     // Finally, to finish off this rule, we define how to actually execute it.
99     // That logic is all defined in the `native` module so we just delegate to
100     // the relevant function there. The argument to the closure passed to `run`
101     // is a `Step` (defined below) which encapsulates information like the
102     // stage, target, host, etc.
103     rules.build("llvm", "src/llvm")
104          .host(true)
105          .dep(move |s| {
106              if s.target == build.config.build {
107                  Step::noop()
108              } else {
109                  s.target(&build.config.build)
110              }
111          })
112          .run(move |s| native::llvm(build, s.target));
113
114     // Ok! After that example rule  that's hopefully enough to explain what's
115     // going on here. You can check out the API docs below and also see a bunch
116     // more examples of rules directly below as well.
117
118     // the compiler with no target libraries ready to go
119     rules.build("rustc", "src/rustc")
120          .dep(|s| s.name("create-sysroot").target(s.host))
121          .dep(move |s| {
122              if s.stage == 0 {
123                  Step::noop()
124              } else {
125                  s.name("librustc")
126                   .host(&build.config.build)
127                   .stage(s.stage - 1)
128              }
129          })
130          .run(move |s| compile::assemble_rustc(build, s.stage, s.target));
131
132     // Helper for loading an entire DAG of crates, rooted at `name`
133     let krates = |name: &str| {
134         let mut ret = Vec::new();
135         let mut list = vec![name];
136         let mut visited = HashSet::new();
137         while let Some(krate) = list.pop() {
138             let default = krate == name;
139             let krate = &build.crates[krate];
140             let path = krate.path.strip_prefix(&build.src).unwrap();
141             ret.push((krate, path.to_str().unwrap(), default));
142             for dep in krate.deps.iter() {
143                 if visited.insert(dep) && dep != "build_helper" {
144                     list.push(dep);
145                 }
146             }
147         }
148         return ret
149     };
150
151     // ========================================================================
152     // Crate compilations
153     //
154     // Tools used during the build system but not shipped
155     rules.build("create-sysroot", "path/to/nowhere")
156          .run(move |s| compile::create_sysroot(build, &s.compiler()));
157
158     // These rules are "pseudo rules" that don't actually do any work
159     // themselves, but represent a complete sysroot with the relevant compiler
160     // linked into place.
161     //
162     // That is, depending on "libstd" means that when the rule is completed then
163     // the `stage` sysroot for the compiler `host` will be available with a
164     // standard library built for `target` linked in place. Not all rules need
165     // the compiler itself to be available, just the standard library, so
166     // there's a distinction between the two.
167     rules.build("libstd", "src/libstd")
168          .dep(|s| s.name("rustc").target(s.host))
169          .dep(|s| s.name("libstd-link"));
170     rules.build("libtest", "src/libtest")
171          .dep(|s| s.name("libstd"))
172          .dep(|s| s.name("libtest-link"))
173          .default(true);
174     rules.build("librustc", "src/librustc")
175          .dep(|s| s.name("libtest"))
176          .dep(|s| s.name("librustc-link"))
177          .host(true)
178          .default(true);
179
180     // Helper method to define the rules to link a crate into its place in the
181     // sysroot.
182     //
183     // The logic here is a little subtle as there's a few cases to consider.
184     // Not all combinations of (stage, host, target) actually require something
185     // to be compiled, but rather libraries could get propagated from a
186     // different location. For example:
187     //
188     // * Any crate with a `host` that's not the build triple will not actually
189     //   compile something. A different `host` means that the build triple will
190     //   actually compile the libraries, and then we'll copy them over from the
191     //   build triple to the `host` directory.
192     //
193     // * Some crates aren't even compiled by the build triple, but may be copied
194     //   from previous stages. For example if we're not doing a full bootstrap
195     //   then we may just depend on the stage1 versions of libraries to be
196     //   available to get linked forward.
197     //
198     // * Finally, there are some cases, however, which do indeed comiple crates
199     //   and link them into place afterwards.
200     //
201     // The rule definition below mirrors these three cases. The `dep` method
202     // calculates the correct dependency which either comes from stage1, a
203     // different compiler, or from actually building the crate itself (the `dep`
204     // rule). The `run` rule then mirrors these three cases and links the cases
205     // forward into the compiler sysroot specified from the correct location.
206     fn crate_rule<'a, 'b>(build: &'a Build,
207                           rules: &'b mut Rules<'a>,
208                           krate: &'a str,
209                           dep: &'a str,
210                           link: fn(&Build, &Compiler, &Compiler, &str))
211                           -> RuleBuilder<'a, 'b> {
212         let mut rule = rules.build(&krate, "path/to/nowhere");
213         rule.dep(move |s| {
214                 if build.force_use_stage1(&s.compiler(), s.target) {
215                     s.host(&build.config.build).stage(1)
216                 } else if s.host == build.config.build {
217                     s.name(dep)
218                 } else {
219                     s.host(&build.config.build)
220                 }
221             })
222             .run(move |s| {
223                 if build.force_use_stage1(&s.compiler(), s.target) {
224                     link(build,
225                          &s.stage(1).host(&build.config.build).compiler(),
226                          &s.compiler(),
227                          s.target)
228                 } else if s.host == build.config.build {
229                     link(build, &s.compiler(), &s.compiler(), s.target)
230                 } else {
231                     link(build,
232                          &s.host(&build.config.build).compiler(),
233                          &s.compiler(),
234                          s.target)
235                 }
236             });
237             return rule
238     }
239
240     // Similar to the `libstd`, `libtest`, and `librustc` rules above, except
241     // these rules only represent the libraries being available in the sysroot,
242     // not the compiler itself. This is done as not all rules need a compiler in
243     // the sysroot, but may just need the libraries.
244     //
245     // All of these rules use the helper definition above.
246     crate_rule(build,
247                &mut rules,
248                "libstd-link",
249                "build-crate-std",
250                compile::std_link)
251         .dep(|s| s.name("startup-objects"))
252         .dep(|s| s.name("create-sysroot").target(s.host));
253     crate_rule(build,
254                &mut rules,
255                "libtest-link",
256                "build-crate-test",
257                compile::test_link)
258         .dep(|s| s.name("libstd-link"));
259     crate_rule(build,
260                &mut rules,
261                "librustc-link",
262                "build-crate-rustc-main",
263                compile::rustc_link)
264         .dep(|s| s.name("libtest-link"));
265
266     for (krate, path, _default) in krates("std") {
267         rules.build(&krate.build_step, path)
268              .dep(|s| s.name("startup-objects"))
269              .dep(move |s| s.name("rustc").host(&build.config.build).target(s.host))
270              .run(move |s| compile::std(build, s.target, &s.compiler()));
271     }
272     for (krate, path, _default) in krates("test") {
273         rules.build(&krate.build_step, path)
274              .dep(|s| s.name("libstd-link"))
275              .run(move |s| compile::test(build, s.target, &s.compiler()));
276     }
277     for (krate, path, _default) in krates("rustc-main") {
278         rules.build(&krate.build_step, path)
279              .dep(|s| s.name("libtest-link"))
280              .dep(move |s| s.name("llvm").host(&build.config.build).stage(0))
281              .dep(|s| s.name("may-run-build-script"))
282              .run(move |s| compile::rustc(build, s.target, &s.compiler()));
283     }
284
285     // Crates which have build scripts need to rely on this rule to ensure that
286     // the necessary prerequisites for a build script are linked and located in
287     // place.
288     rules.build("may-run-build-script", "path/to/nowhere")
289          .dep(move |s| {
290              s.name("libstd-link")
291               .host(&build.config.build)
292               .target(&build.config.build)
293          });
294     rules.build("startup-objects", "src/rtstartup")
295          .dep(|s| s.name("create-sysroot").target(s.host))
296          .run(move |s| compile::build_startup_objects(build, &s.compiler(), s.target));
297
298     // ========================================================================
299     // Test targets
300     //
301     // Various unit tests and tests suites we can run
302     {
303         let mut suite = |name, path, mode, dir| {
304             rules.test(name, path)
305                  .dep(|s| s.name("libtest"))
306                  .dep(|s| s.name("tool-compiletest").target(s.host).stage(0))
307                  .dep(|s| s.name("test-helpers"))
308                  .dep(|s| s.name("emulator-copy-libs"))
309                  .default(mode != "pretty") // pretty tests don't run everywhere
310                  .run(move |s| {
311                      check::compiletest(build, &s.compiler(), s.target, mode, dir)
312                  });
313         };
314
315         suite("check-ui", "src/test/ui", "ui", "ui");
316         suite("check-rpass", "src/test/run-pass", "run-pass", "run-pass");
317         suite("check-cfail", "src/test/compile-fail", "compile-fail", "compile-fail");
318         suite("check-pfail", "src/test/parse-fail", "parse-fail", "parse-fail");
319         suite("check-rfail", "src/test/run-fail", "run-fail", "run-fail");
320         suite("check-rpass-valgrind", "src/test/run-pass-valgrind",
321               "run-pass-valgrind", "run-pass-valgrind");
322         suite("check-mir-opt", "src/test/mir-opt", "mir-opt", "mir-opt");
323         if build.config.codegen_tests {
324             suite("check-codegen", "src/test/codegen", "codegen", "codegen");
325         }
326         suite("check-codegen-units", "src/test/codegen-units", "codegen-units",
327               "codegen-units");
328         suite("check-incremental", "src/test/incremental", "incremental",
329               "incremental");
330     }
331
332     if build.config.build.contains("msvc") {
333         // nothing to do for debuginfo tests
334     } else {
335         rules.test("check-debuginfo-lldb", "src/test/debuginfo-lldb")
336              .dep(|s| s.name("libtest"))
337              .dep(|s| s.name("tool-compiletest").target(s.host).stage(0))
338              .dep(|s| s.name("test-helpers"))
339              .dep(|s| s.name("debugger-scripts"))
340              .run(move |s| check::compiletest(build, &s.compiler(), s.target,
341                                          "debuginfo-lldb", "debuginfo"));
342         rules.test("check-debuginfo-gdb", "src/test/debuginfo-gdb")
343              .dep(|s| s.name("libtest"))
344              .dep(|s| s.name("tool-compiletest").target(s.host).stage(0))
345              .dep(|s| s.name("test-helpers"))
346              .dep(|s| s.name("debugger-scripts"))
347              .dep(|s| s.name("emulator-copy-libs"))
348              .run(move |s| check::compiletest(build, &s.compiler(), s.target,
349                                          "debuginfo-gdb", "debuginfo"));
350         let mut rule = rules.test("check-debuginfo", "src/test/debuginfo");
351         rule.default(true);
352         if build.config.build.contains("apple") {
353             rule.dep(|s| s.name("check-debuginfo-lldb"));
354         } else {
355             rule.dep(|s| s.name("check-debuginfo-gdb"));
356         }
357     }
358
359     rules.test("debugger-scripts", "src/etc/lldb_batchmode.py")
360          .run(move |s| dist::debugger_scripts(build, &build.sysroot(&s.compiler()),
361                                          s.target));
362
363     {
364         let mut suite = |name, path, mode, dir| {
365             rules.test(name, path)
366                  .dep(|s| s.name("librustc"))
367                  .dep(|s| s.name("test-helpers"))
368                  .dep(|s| s.name("tool-compiletest").target(s.host).stage(0))
369                  .default(mode != "pretty")
370                  .host(true)
371                  .run(move |s| {
372                      check::compiletest(build, &s.compiler(), s.target, mode, dir)
373                  });
374         };
375
376         suite("check-ui-full", "src/test/ui-fulldeps", "ui", "ui-fulldeps");
377         suite("check-rpass-full", "src/test/run-pass-fulldeps",
378               "run-pass", "run-pass-fulldeps");
379         suite("check-rfail-full", "src/test/run-fail-fulldeps",
380               "run-fail", "run-fail-fulldeps");
381         suite("check-cfail-full", "src/test/compile-fail-fulldeps",
382               "compile-fail", "compile-fail-fulldeps");
383         suite("check-rmake", "src/test/run-make", "run-make", "run-make");
384         suite("check-rustdoc", "src/test/rustdoc", "rustdoc", "rustdoc");
385         suite("check-pretty", "src/test/pretty", "pretty", "pretty");
386         suite("check-pretty-rpass", "src/test/run-pass/pretty", "pretty",
387               "run-pass");
388         suite("check-pretty-rfail", "src/test/run-fail/pretty", "pretty",
389               "run-fail");
390         suite("check-pretty-valgrind", "src/test/run-pass-valgrind/pretty", "pretty",
391               "run-pass-valgrind");
392         suite("check-pretty-rpass-full", "src/test/run-pass-fulldeps/pretty",
393               "pretty", "run-pass-fulldeps");
394         suite("check-pretty-rfail-full", "src/test/run-fail-fulldeps/pretty",
395               "pretty", "run-fail-fulldeps");
396     }
397
398     for (krate, path, _default) in krates("std") {
399         rules.test(&krate.test_step, path)
400              .dep(|s| s.name("libtest"))
401              .dep(|s| s.name("emulator-copy-libs"))
402              .run(move |s| check::krate(build, &s.compiler(), s.target,
403                                         Mode::Libstd, TestKind::Test,
404                                         Some(&krate.name)));
405     }
406     rules.test("check-std-all", "path/to/nowhere")
407          .dep(|s| s.name("libtest"))
408          .dep(|s| s.name("emulator-copy-libs"))
409          .default(true)
410          .run(move |s| check::krate(build, &s.compiler(), s.target,
411                                     Mode::Libstd, TestKind::Test, None));
412
413     // std benchmarks
414     for (krate, path, _default) in krates("std") {
415         rules.bench(&krate.bench_step, path)
416              .dep(|s| s.name("libtest"))
417              .dep(|s| s.name("emulator-copy-libs"))
418              .run(move |s| check::krate(build, &s.compiler(), s.target,
419                                         Mode::Libstd, TestKind::Bench,
420                                         Some(&krate.name)));
421     }
422     rules.bench("bench-std-all", "path/to/nowhere")
423          .dep(|s| s.name("libtest"))
424          .dep(|s| s.name("emulator-copy-libs"))
425          .default(true)
426          .run(move |s| check::krate(build, &s.compiler(), s.target,
427                                     Mode::Libstd, TestKind::Bench, None));
428
429     for (krate, path, _default) in krates("test") {
430         rules.test(&krate.test_step, path)
431              .dep(|s| s.name("libtest"))
432              .dep(|s| s.name("emulator-copy-libs"))
433              .run(move |s| check::krate(build, &s.compiler(), s.target,
434                                         Mode::Libtest, TestKind::Test,
435                                         Some(&krate.name)));
436     }
437     rules.test("check-test-all", "path/to/nowhere")
438          .dep(|s| s.name("libtest"))
439          .dep(|s| s.name("emulator-copy-libs"))
440          .default(true)
441          .run(move |s| check::krate(build, &s.compiler(), s.target,
442                                     Mode::Libtest, TestKind::Test, None));
443     for (krate, path, _default) in krates("rustc-main") {
444         rules.test(&krate.test_step, path)
445              .dep(|s| s.name("librustc"))
446              .dep(|s| s.name("emulator-copy-libs"))
447              .host(true)
448              .run(move |s| check::krate(build, &s.compiler(), s.target,
449                                         Mode::Librustc, TestKind::Test,
450                                         Some(&krate.name)));
451     }
452     rules.test("check-rustc-all", "path/to/nowhere")
453          .dep(|s| s.name("librustc"))
454          .dep(|s| s.name("emulator-copy-libs"))
455          .default(true)
456          .host(true)
457          .run(move |s| check::krate(build, &s.compiler(), s.target,
458                                     Mode::Librustc, TestKind::Test, None));
459
460     rules.test("check-linkchecker", "src/tools/linkchecker")
461          .dep(|s| s.name("tool-linkchecker").stage(0))
462          .dep(|s| s.name("default:doc"))
463          .default(true)
464          .host(true)
465          .run(move |s| check::linkcheck(build, s.target));
466     rules.test("check-cargotest", "src/tools/cargotest")
467          .dep(|s| s.name("tool-cargotest").stage(0))
468          .dep(|s| s.name("librustc"))
469          .host(true)
470          .run(move |s| check::cargotest(build, s.stage, s.target));
471     rules.test("check-tidy", "src/tools/tidy")
472          .dep(|s| s.name("tool-tidy").stage(0))
473          .default(true)
474          .host(true)
475          .only_build(true)
476          .run(move |s| check::tidy(build, s.target));
477     rules.test("check-error-index", "src/tools/error_index_generator")
478          .dep(|s| s.name("libstd"))
479          .dep(|s| s.name("tool-error-index").host(s.host).stage(0))
480          .default(true)
481          .host(true)
482          .run(move |s| check::error_index(build, &s.compiler()));
483     rules.test("check-docs", "src/doc")
484          .dep(|s| s.name("libtest"))
485          .default(true)
486          .host(true)
487          .run(move |s| check::docs(build, &s.compiler()));
488     rules.test("check-distcheck", "distcheck")
489          .dep(|s| s.name("dist-src"))
490          .run(move |_| check::distcheck(build));
491
492     rules.build("test-helpers", "src/rt/rust_test_helpers.c")
493          .run(move |s| native::test_helpers(build, s.target));
494     rules.build("openssl", "path/to/nowhere")
495          .run(move |s| native::openssl(build, s.target));
496
497     // Some test suites are run inside emulators, and most of our test binaries
498     // are linked dynamically which means we need to ship the standard library
499     // and such to the emulator ahead of time. This step represents this and is
500     // a dependency of all test suites.
501     //
502     // Most of the time this step is a noop (the `check::emulator_copy_libs`
503     // only does work if necessary). For some steps such as shipping data to
504     // QEMU we have to build our own tools so we've got conditional dependencies
505     // on those programs as well. Note that the QEMU client is built for the
506     // build target (us) and the server is built for the target.
507     rules.test("emulator-copy-libs", "path/to/nowhere")
508          .dep(|s| s.name("libtest"))
509          .dep(move |s| {
510              if build.qemu_rootfs(s.target).is_some() {
511                 s.name("tool-qemu-test-client").target(s.host).stage(0)
512              } else {
513                  Step::noop()
514              }
515          })
516          .dep(move |s| {
517              if build.qemu_rootfs(s.target).is_some() {
518                 s.name("tool-qemu-test-server")
519              } else {
520                  Step::noop()
521              }
522          })
523          .run(move |s| check::emulator_copy_libs(build, &s.compiler(), s.target));
524
525     rules.test("check-bootstrap", "src/bootstrap")
526          .default(true)
527          .host(true)
528          .only_build(true)
529          .run(move |_| check::bootstrap(build));
530
531     // ========================================================================
532     // Build tools
533     //
534     // Tools used during the build system but not shipped
535     rules.build("tool-rustbook", "src/tools/rustbook")
536          .dep(|s| s.name("librustc"))
537          .run(move |s| compile::tool(build, s.stage, s.target, "rustbook"));
538     rules.build("tool-error-index", "src/tools/error_index_generator")
539          .dep(|s| s.name("librustc"))
540          .run(move |s| compile::tool(build, s.stage, s.target, "error_index_generator"));
541     rules.build("tool-tidy", "src/tools/tidy")
542          .dep(|s| s.name("libstd"))
543          .run(move |s| compile::tool(build, s.stage, s.target, "tidy"));
544     rules.build("tool-linkchecker", "src/tools/linkchecker")
545          .dep(|s| s.name("libstd"))
546          .run(move |s| compile::tool(build, s.stage, s.target, "linkchecker"));
547     rules.build("tool-cargotest", "src/tools/cargotest")
548          .dep(|s| s.name("libstd"))
549          .run(move |s| compile::tool(build, s.stage, s.target, "cargotest"));
550     rules.build("tool-compiletest", "src/tools/compiletest")
551          .dep(|s| s.name("libtest"))
552          .run(move |s| compile::tool(build, s.stage, s.target, "compiletest"));
553     rules.build("tool-build-manifest", "src/tools/build-manifest")
554          .dep(|s| s.name("libstd"))
555          .run(move |s| compile::tool(build, s.stage, s.target, "build-manifest"));
556     rules.build("tool-qemu-test-server", "src/tools/qemu-test-server")
557          .dep(|s| s.name("libstd"))
558          .run(move |s| compile::tool(build, s.stage, s.target, "qemu-test-server"));
559     rules.build("tool-qemu-test-client", "src/tools/qemu-test-client")
560          .dep(|s| s.name("libstd"))
561          .run(move |s| compile::tool(build, s.stage, s.target, "qemu-test-client"));
562     rules.build("tool-cargo", "cargo")
563          .dep(|s| s.name("libstd"))
564          .dep(|s| s.stage(0).host(s.target).name("openssl"))
565          .dep(move |s| {
566              // Cargo depends on procedural macros, which requires a full host
567              // compiler to be available, so we need to depend on that.
568              s.name("librustc-link")
569               .target(&build.config.build)
570               .host(&build.config.build)
571          })
572          .run(move |s| compile::tool(build, s.stage, s.target, "cargo"));
573     rules.build("tool-rls", "rls")
574          .host(true)
575          .dep(|s| s.name("librustc"))
576          .dep(move |s| {
577              // rls, like cargo, uses procedural macros
578              s.name("librustc-link")
579               .target(&build.config.build)
580               .host(&build.config.build)
581          })
582          .run(move |s| compile::tool(build, s.stage, s.target, "rls"));
583
584     // ========================================================================
585     // Documentation targets
586     rules.doc("doc-book", "src/doc/book")
587          .dep(move |s| {
588              s.name("tool-rustbook")
589               .host(&build.config.build)
590               .target(&build.config.build)
591               .stage(0)
592          })
593          .default(build.config.docs)
594          .run(move |s| doc::book(build, s.target, "book"));
595     rules.doc("doc-nomicon", "src/doc/nomicon")
596          .dep(move |s| {
597              s.name("tool-rustbook")
598               .host(&build.config.build)
599               .target(&build.config.build)
600               .stage(0)
601          })
602          .default(build.config.docs)
603          .run(move |s| doc::rustbook(build, s.target, "nomicon"));
604     rules.doc("doc-reference", "src/doc/reference")
605          .dep(move |s| {
606              s.name("tool-rustbook")
607               .host(&build.config.build)
608               .target(&build.config.build)
609               .stage(0)
610          })
611          .default(build.config.docs)
612          .run(move |s| doc::rustbook(build, s.target, "reference"));
613     rules.doc("doc-unstable-book", "src/doc/unstable-book")
614          .dep(move |s| {
615              s.name("tool-rustbook")
616               .host(&build.config.build)
617               .target(&build.config.build)
618               .stage(0)
619          })
620          .default(build.config.docs)
621          .run(move |s| doc::rustbook(build, s.target, "unstable-book"));
622     rules.doc("doc-standalone", "src/doc")
623          .dep(move |s| {
624              s.name("rustc")
625               .host(&build.config.build)
626               .target(&build.config.build)
627               .stage(0)
628          })
629          .default(build.config.docs)
630          .run(move |s| doc::standalone(build, s.target));
631     rules.doc("doc-error-index", "src/tools/error_index_generator")
632          .dep(move |s| s.name("tool-error-index").target(&build.config.build).stage(0))
633          .dep(move |s| s.name("librustc-link"))
634          .default(build.config.docs)
635          .host(true)
636          .run(move |s| doc::error_index(build, s.target));
637     for (krate, path, default) in krates("std") {
638         rules.doc(&krate.doc_step, path)
639              .dep(|s| s.name("libstd-link"))
640              .default(default && build.config.docs)
641              .run(move |s| doc::std(build, s.stage, s.target));
642     }
643     for (krate, path, default) in krates("test") {
644         rules.doc(&krate.doc_step, path)
645              .dep(|s| s.name("libtest-link"))
646              // Needed so rustdoc generates relative links to std.
647              .dep(|s| s.name("doc-crate-std"))
648              .default(default && build.config.compiler_docs)
649              .run(move |s| doc::test(build, s.stage, s.target));
650     }
651     for (krate, path, default) in krates("rustc-main") {
652         rules.doc(&krate.doc_step, path)
653              .dep(|s| s.name("librustc-link"))
654              // Needed so rustdoc generates relative links to std.
655              .dep(|s| s.name("doc-crate-std"))
656              .host(true)
657              .default(default && build.config.docs)
658              .run(move |s| doc::rustc(build, s.stage, s.target));
659     }
660
661     // ========================================================================
662     // Distribution targets
663     rules.dist("dist-rustc", "src/librustc")
664          .dep(move |s| s.name("rustc").host(&build.config.build))
665          .host(true)
666          .only_host_build(true)
667          .default(true)
668          .run(move |s| dist::rustc(build, s.stage, s.target));
669     rules.dist("dist-std", "src/libstd")
670          .dep(move |s| {
671              // We want to package up as many target libraries as possible
672              // for the `rust-std` package, so if this is a host target we
673              // depend on librustc and otherwise we just depend on libtest.
674              if build.config.host.iter().any(|t| t == s.target) {
675                  s.name("librustc-link")
676              } else {
677                  s.name("libtest-link")
678              }
679          })
680          .default(true)
681          .only_host_build(true)
682          .run(move |s| dist::std(build, &s.compiler(), s.target));
683     rules.dist("dist-mingw", "path/to/nowhere")
684          .default(true)
685          .only_host_build(true)
686          .run(move |s| {
687              if s.target.contains("pc-windows-gnu") {
688                  dist::mingw(build, s.target)
689              }
690          });
691     rules.dist("dist-src", "src")
692          .default(true)
693          .host(true)
694          .only_build(true)
695          .only_host_build(true)
696          .run(move |_| dist::rust_src(build));
697     rules.dist("dist-docs", "src/doc")
698          .default(true)
699          .only_host_build(true)
700          .dep(|s| s.name("default:doc"))
701          .run(move |s| dist::docs(build, s.stage, s.target));
702     rules.dist("dist-analysis", "analysis")
703          .default(build.config.extended)
704          .dep(|s| s.name("dist-std"))
705          .only_host_build(true)
706          .run(move |s| dist::analysis(build, &s.compiler(), s.target));
707     rules.dist("dist-rls", "rls")
708          .host(true)
709          .only_host_build(true)
710          .dep(|s| s.name("tool-rls"))
711          .run(move |s| dist::rls(build, s.stage, s.target));
712     rules.dist("install", "path/to/nowhere")
713          .dep(|s| s.name("default:dist"))
714          .run(move |s| install::install(build, s.stage, s.target));
715     rules.dist("dist-cargo", "cargo")
716          .host(true)
717          .only_host_build(true)
718          .dep(|s| s.name("tool-cargo"))
719          .run(move |s| dist::cargo(build, s.stage, s.target));
720     rules.dist("dist-extended", "extended")
721          .default(build.config.extended)
722          .host(true)
723          .only_host_build(true)
724          .dep(|d| d.name("dist-std"))
725          .dep(|d| d.name("dist-rustc"))
726          .dep(|d| d.name("dist-mingw"))
727          .dep(|d| d.name("dist-docs"))
728          .dep(|d| d.name("dist-cargo"))
729          .dep(|d| d.name("dist-rls"))
730          .dep(|d| d.name("dist-analysis"))
731          .run(move |s| dist::extended(build, s.stage, s.target));
732
733     rules.dist("dist-sign", "hash-and-sign")
734          .host(true)
735          .only_build(true)
736          .only_host_build(true)
737          .dep(move |s| s.name("tool-build-manifest").target(&build.config.build).stage(0))
738          .run(move |_| dist::hash_and_sign(build));
739
740     rules.verify();
741     return rules;
742 }
743
744 #[derive(PartialEq, Eq, Hash, Clone, Debug)]
745 struct Step<'a> {
746     /// Human readable name of the rule this step is executing. Possible names
747     /// are all defined above in `build_rules`.
748     name: &'a str,
749
750     /// The stage this step is executing in. This is typically 0, 1, or 2.
751     stage: u32,
752
753     /// This step will likely involve a compiler, and the target that compiler
754     /// itself is built for is called the host, this variable. Typically this is
755     /// the target of the build machine itself.
756     host: &'a str,
757
758     /// The target that this step represents generating. If you're building a
759     /// standard library for a new suite of targets, for example, this'll be set
760     /// to those targets.
761     target: &'a str,
762 }
763
764 impl<'a> Step<'a> {
765     fn noop() -> Step<'a> {
766         Step { name: "", stage: 0, host: "", target: "" }
767     }
768
769     /// Creates a new step which is the same as this, except has a new name.
770     fn name(&self, name: &'a str) -> Step<'a> {
771         Step { name: name, ..*self }
772     }
773
774     /// Creates a new step which is the same as this, except has a new stage.
775     fn stage(&self, stage: u32) -> Step<'a> {
776         Step { stage: stage, ..*self }
777     }
778
779     /// Creates a new step which is the same as this, except has a new host.
780     fn host(&self, host: &'a str) -> Step<'a> {
781         Step { host: host, ..*self }
782     }
783
784     /// Creates a new step which is the same as this, except has a new target.
785     fn target(&self, target: &'a str) -> Step<'a> {
786         Step { target: target, ..*self }
787     }
788
789     /// Returns the `Compiler` structure that this step corresponds to.
790     fn compiler(&self) -> Compiler<'a> {
791         Compiler::new(self.stage, self.host)
792     }
793 }
794
795 struct Rule<'a> {
796     /// The human readable name of this target, defined in `build_rules`.
797     name: &'a str,
798
799     /// The path associated with this target, used in the `./x.py` driver for
800     /// easy and ergonomic specification of what to do.
801     path: &'a str,
802
803     /// The "kind" of top-level command that this rule is associated with, only
804     /// relevant if this is a default rule.
805     kind: Kind,
806
807     /// List of dependencies this rule has. Each dependency is a function from a
808     /// step that's being executed to another step that should be executed.
809     deps: Vec<Box<Fn(&Step<'a>) -> Step<'a> + 'a>>,
810
811     /// How to actually execute this rule. Takes a step with contextual
812     /// information and then executes it.
813     run: Box<Fn(&Step<'a>) + 'a>,
814
815     /// Whether or not this is a "default" rule. That basically means that if
816     /// you run, for example, `./x.py test` whether it's included or not.
817     default: bool,
818
819     /// Whether or not this is a "host" rule, or in other words whether this is
820     /// only intended for compiler hosts and not for targets that are being
821     /// generated.
822     host: bool,
823
824     /// Whether this rule is only for steps where the host is the build triple,
825     /// not anything in hosts or targets.
826     only_host_build: bool,
827
828     /// Whether this rule is only for the build triple, not anything in hosts or
829     /// targets.
830     only_build: bool,
831 }
832
833 #[derive(PartialEq)]
834 enum Kind {
835     Build,
836     Test,
837     Bench,
838     Dist,
839     Doc,
840 }
841
842 impl<'a> Rule<'a> {
843     fn new(name: &'a str, path: &'a str, kind: Kind) -> Rule<'a> {
844         Rule {
845             name: name,
846             deps: Vec::new(),
847             run: Box::new(|_| ()),
848             path: path,
849             kind: kind,
850             default: false,
851             host: false,
852             only_host_build: false,
853             only_build: false,
854         }
855     }
856 }
857
858 /// Builder pattern returned from the various methods on `Rules` which will add
859 /// the rule to the internal list on `Drop`.
860 struct RuleBuilder<'a: 'b, 'b> {
861     rules: &'b mut Rules<'a>,
862     rule: Rule<'a>,
863 }
864
865 impl<'a, 'b> RuleBuilder<'a, 'b> {
866     fn dep<F>(&mut self, f: F) -> &mut Self
867         where F: Fn(&Step<'a>) -> Step<'a> + 'a,
868     {
869         self.rule.deps.push(Box::new(f));
870         self
871     }
872
873     fn run<F>(&mut self, f: F) -> &mut Self
874         where F: Fn(&Step<'a>) + 'a,
875     {
876         self.rule.run = Box::new(f);
877         self
878     }
879
880     fn default(&mut self, default: bool) -> &mut Self {
881         self.rule.default = default;
882         self
883     }
884
885     fn host(&mut self, host: bool) -> &mut Self {
886         self.rule.host = host;
887         self
888     }
889
890     fn only_build(&mut self, only_build: bool) -> &mut Self {
891         self.rule.only_build = only_build;
892         self
893     }
894
895     fn only_host_build(&mut self, only_host_build: bool) -> &mut Self {
896         self.rule.only_host_build = only_host_build;
897         self
898     }
899 }
900
901 impl<'a, 'b> Drop for RuleBuilder<'a, 'b> {
902     fn drop(&mut self) {
903         let rule = mem::replace(&mut self.rule, Rule::new("", "", Kind::Build));
904         let prev = self.rules.rules.insert(rule.name, rule);
905         if let Some(prev) = prev {
906             panic!("duplicate rule named: {}", prev.name);
907         }
908     }
909 }
910
911 pub struct Rules<'a> {
912     build: &'a Build,
913     sbuild: Step<'a>,
914     rules: BTreeMap<&'a str, Rule<'a>>,
915 }
916
917 impl<'a> Rules<'a> {
918     fn new(build: &'a Build) -> Rules<'a> {
919         Rules {
920             build: build,
921             sbuild: Step {
922                 stage: build.flags.stage.unwrap_or(2),
923                 target: &build.config.build,
924                 host: &build.config.build,
925                 name: "",
926             },
927             rules: BTreeMap::new(),
928         }
929     }
930
931     /// Creates a new rule of `Kind::Build` with the specified human readable
932     /// name and path associated with it.
933     ///
934     /// The builder returned should be configured further with information such
935     /// as how to actually run this rule.
936     fn build<'b>(&'b mut self, name: &'a str, path: &'a str)
937                  -> RuleBuilder<'a, 'b> {
938         self.rule(name, path, Kind::Build)
939     }
940
941     /// Same as `build`, but for `Kind::Test`.
942     fn test<'b>(&'b mut self, name: &'a str, path: &'a str)
943                 -> RuleBuilder<'a, 'b> {
944         self.rule(name, path, Kind::Test)
945     }
946
947     /// Same as `build`, but for `Kind::Bench`.
948     fn bench<'b>(&'b mut self, name: &'a str, path: &'a str)
949                 -> RuleBuilder<'a, 'b> {
950         self.rule(name, path, Kind::Bench)
951     }
952
953     /// Same as `build`, but for `Kind::Doc`.
954     fn doc<'b>(&'b mut self, name: &'a str, path: &'a str)
955                -> RuleBuilder<'a, 'b> {
956         self.rule(name, path, Kind::Doc)
957     }
958
959     /// Same as `build`, but for `Kind::Dist`.
960     fn dist<'b>(&'b mut self, name: &'a str, path: &'a str)
961                 -> RuleBuilder<'a, 'b> {
962         self.rule(name, path, Kind::Dist)
963     }
964
965     fn rule<'b>(&'b mut self,
966                 name: &'a str,
967                 path: &'a str,
968                 kind: Kind) -> RuleBuilder<'a, 'b> {
969         RuleBuilder {
970             rules: self,
971             rule: Rule::new(name, path, kind),
972         }
973     }
974
975     /// Verify the dependency graph defined by all our rules are correct, e.g.
976     /// everything points to a valid something else.
977     fn verify(&self) {
978         for rule in self.rules.values() {
979             for dep in rule.deps.iter() {
980                 let dep = dep(&self.sbuild.name(rule.name));
981                 if self.rules.contains_key(&dep.name) || dep.name.starts_with("default:") {
982                     continue
983                 }
984                 if dep == Step::noop() {
985                     continue
986                 }
987                 panic!("\
988
989 invalid rule dependency graph detected, was a rule added and maybe typo'd?
990
991     `{}` depends on `{}` which does not exist
992
993 ", rule.name, dep.name);
994             }
995         }
996     }
997
998     pub fn get_help(&self, command: &str) -> Option<String> {
999         let kind = match command {
1000             "build" => Kind::Build,
1001             "doc" => Kind::Doc,
1002             "test" => Kind::Test,
1003             "bench" => Kind::Bench,
1004             "dist" => Kind::Dist,
1005             _ => return None,
1006         };
1007         let rules = self.rules.values().filter(|r| r.kind == kind);
1008         let rules = rules.filter(|r| !r.path.contains("nowhere"));
1009         let mut rules = rules.collect::<Vec<_>>();
1010         rules.sort_by_key(|r| r.path);
1011
1012         let mut help_string = String::from("Available paths:\n");
1013         for rule in rules {
1014             help_string.push_str(format!("    ./x.py {} {}\n", command, rule.path).as_str());
1015         }
1016         Some(help_string)
1017     }
1018
1019     /// Construct the top-level build steps that we're going to be executing,
1020     /// given the subcommand that our build is performing.
1021     fn plan(&self) -> Vec<Step<'a>> {
1022         // Ok, the logic here is pretty subtle, and involves quite a few
1023         // conditionals. The basic idea here is to:
1024         //
1025         // 1. First, filter all our rules to the relevant ones. This means that
1026         //    the command specified corresponds to one of our `Kind` variants,
1027         //    and we filter all rules based on that.
1028         //
1029         // 2. Next, we determine which rules we're actually executing. If a
1030         //    number of path filters were specified on the command line we look
1031         //    for those, otherwise we look for anything tagged `default`.
1032         //    Here we also compute the priority of each rule based on how early
1033         //    in the command line the matching path filter showed up.
1034         //
1035         // 3. Finally, we generate some steps with host and target information.
1036         //
1037         // The last step is by far the most complicated and subtle. The basic
1038         // thinking here is that we want to take the cartesian product of
1039         // specified hosts and targets and build rules with that. The list of
1040         // hosts and targets, if not specified, come from the how this build was
1041         // configured. If the rule we're looking at is a host-only rule the we
1042         // ignore the list of targets and instead consider the list of hosts
1043         // also the list of targets.
1044         //
1045         // Once the host and target lists are generated we take the cartesian
1046         // product of the two and then create a step based off them. Note that
1047         // the stage each step is associated was specified with the `--step`
1048         // flag on the command line.
1049         let (kind, paths) = match self.build.flags.cmd {
1050             Subcommand::Build { ref paths } => (Kind::Build, &paths[..]),
1051             Subcommand::Doc { ref paths } => (Kind::Doc, &paths[..]),
1052             Subcommand::Test { ref paths, test_args: _ } => (Kind::Test, &paths[..]),
1053             Subcommand::Bench { ref paths, test_args: _ } => (Kind::Bench, &paths[..]),
1054             Subcommand::Dist { ref paths, install } => {
1055                 if install {
1056                     return vec![self.sbuild.name("install")]
1057                 } else {
1058                     (Kind::Dist, &paths[..])
1059                 }
1060             }
1061             Subcommand::Clean => panic!(),
1062         };
1063
1064         let mut rules: Vec<_> = self.rules.values().filter_map(|rule| {
1065             if rule.kind != kind {
1066                 return None;
1067             }
1068
1069             if paths.len() == 0 && rule.default {
1070                 Some((rule, 0))
1071             } else {
1072                 paths.iter().position(|path| path.ends_with(rule.path))
1073                      .map(|priority| (rule, priority))
1074             }
1075         }).collect();
1076
1077         rules.sort_by_key(|&(_, priority)| priority);
1078
1079         rules.into_iter().flat_map(|(rule, _)| {
1080             let hosts = if rule.only_host_build || rule.only_build {
1081                 &self.build.config.host[..1]
1082             } else if self.build.flags.host.len() > 0 {
1083                 &self.build.flags.host
1084             } else {
1085                 &self.build.config.host
1086             };
1087             let targets = if self.build.flags.target.len() > 0 {
1088                 &self.build.flags.target
1089             } else {
1090                 &self.build.config.target
1091             };
1092             // Determine the actual targets participating in this rule.
1093             // NOTE: We should keep the full projection from build triple to
1094             // the hosts for the dist steps, now that the hosts array above is
1095             // truncated to avoid duplication of work in that case. Therefore
1096             // the original non-shadowed hosts array is used below.
1097             let arr = if rule.host {
1098                 // If --target was specified but --host wasn't specified,
1099                 // don't run any host-only tests. Also, respect any `--host`
1100                 // overrides as done for `hosts`.
1101                 if self.build.flags.host.len() > 0 {
1102                     &self.build.flags.host[..]
1103                 } else if self.build.flags.target.len() > 0 {
1104                     &[]
1105                 } else if rule.only_build {
1106                     &self.build.config.host[..1]
1107                 } else {
1108                     &self.build.config.host[..]
1109                 }
1110             } else {
1111                 targets
1112             };
1113
1114             hosts.iter().flat_map(move |host| {
1115                 arr.iter().map(move |target| {
1116                     self.sbuild.name(rule.name).target(target).host(host)
1117                 })
1118             })
1119         }).collect()
1120     }
1121
1122     /// Execute all top-level targets indicated by `steps`.
1123     ///
1124     /// This will take the list returned by `plan` and then execute each step
1125     /// along with all required dependencies as it goes up the chain.
1126     fn run(&self, steps: &[Step<'a>]) {
1127         self.build.verbose("bootstrap top targets:");
1128         for step in steps.iter() {
1129             self.build.verbose(&format!("\t{:?}", step));
1130         }
1131
1132         // Using `steps` as the top-level targets, make a topological ordering
1133         // of what we need to do.
1134         let order = self.expand(steps);
1135
1136         // Print out what we're doing for debugging
1137         self.build.verbose("bootstrap build plan:");
1138         for step in order.iter() {
1139             self.build.verbose(&format!("\t{:?}", step));
1140         }
1141
1142         // And finally, iterate over everything and execute it.
1143         for step in order.iter() {
1144             if self.build.flags.keep_stage.map_or(false, |s| step.stage <= s) {
1145                 self.build.verbose(&format!("keeping step {:?}", step));
1146                 continue;
1147             }
1148             self.build.verbose(&format!("executing step {:?}", step));
1149             (self.rules[step.name].run)(step);
1150         }
1151     }
1152
1153     /// From the top level targets `steps` generate a topological ordering of
1154     /// all steps needed to run those steps.
1155     fn expand(&self, steps: &[Step<'a>]) -> Vec<Step<'a>> {
1156         let mut order = Vec::new();
1157         let mut added = HashSet::new();
1158         added.insert(Step::noop());
1159         for step in steps.iter().cloned() {
1160             self.fill(step, &mut order, &mut added);
1161         }
1162         return order
1163     }
1164
1165     /// Performs topological sort of dependencies rooted at the `step`
1166     /// specified, pushing all results onto the `order` vector provided.
1167     ///
1168     /// In other words, when this method returns, the `order` vector will
1169     /// contain a list of steps which if executed in order will eventually
1170     /// complete the `step` specified as well.
1171     ///
1172     /// The `added` set specified here is the set of steps that are already
1173     /// present in `order` (and hence don't need to be added again).
1174     fn fill(&self,
1175             step: Step<'a>,
1176             order: &mut Vec<Step<'a>>,
1177             added: &mut HashSet<Step<'a>>) {
1178         if !added.insert(step.clone()) {
1179             return
1180         }
1181         for dep in self.rules[step.name].deps.iter() {
1182             let dep = dep(&step);
1183             if dep.name.starts_with("default:") {
1184                 let kind = match &dep.name[8..] {
1185                     "doc" => Kind::Doc,
1186                     "dist" => Kind::Dist,
1187                     kind => panic!("unknown kind: `{}`", kind),
1188                 };
1189                 let host = self.build.config.host.iter().any(|h| h == dep.target);
1190                 let rules = self.rules.values().filter(|r| r.default);
1191                 for rule in rules.filter(|r| r.kind == kind && (!r.host || host)) {
1192                     self.fill(dep.name(rule.name), order, added);
1193                 }
1194             } else {
1195                 self.fill(dep, order, added);
1196             }
1197         }
1198         order.push(step);
1199     }
1200 }
1201
1202 #[cfg(test)]
1203 mod tests {
1204     use std::env;
1205
1206     use Build;
1207     use config::Config;
1208     use flags::Flags;
1209
1210     macro_rules! a {
1211         ($($a:expr),*) => (vec![$($a.to_string()),*])
1212     }
1213
1214     fn build(args: &[&str],
1215              extra_host: &[&str],
1216              extra_target: &[&str]) -> Build {
1217         let mut args = args.iter().map(|s| s.to_string()).collect::<Vec<_>>();
1218         args.push("--build".to_string());
1219         args.push("A".to_string());
1220         let flags = Flags::parse(&args);
1221
1222         let mut config = Config::default();
1223         config.docs = true;
1224         config.build = "A".to_string();
1225         config.host = vec![config.build.clone()];
1226         config.host.extend(extra_host.iter().map(|s| s.to_string()));
1227         config.target = config.host.clone();
1228         config.target.extend(extra_target.iter().map(|s| s.to_string()));
1229
1230         let mut build = Build::new(flags, config);
1231         let cwd = env::current_dir().unwrap();
1232         build.crates.insert("std".to_string(), ::Crate {
1233             name: "std".to_string(),
1234             deps: Vec::new(),
1235             path: cwd.join("src/std"),
1236             doc_step: "doc-crate-std".to_string(),
1237             build_step: "build-crate-std".to_string(),
1238             test_step: "test-crate-std".to_string(),
1239             bench_step: "bench-crate-std".to_string(),
1240             version: String::new(),
1241         });
1242         build.crates.insert("test".to_string(), ::Crate {
1243             name: "test".to_string(),
1244             deps: Vec::new(),
1245             path: cwd.join("src/test"),
1246             doc_step: "doc-crate-test".to_string(),
1247             build_step: "build-crate-test".to_string(),
1248             test_step: "test-crate-test".to_string(),
1249             bench_step: "bench-crate-test".to_string(),
1250             version: String::new(),
1251         });
1252         build.crates.insert("rustc-main".to_string(), ::Crate {
1253             name: "rustc-main".to_string(),
1254             deps: Vec::new(),
1255             version: String::new(),
1256             path: cwd.join("src/rustc-main"),
1257             doc_step: "doc-crate-rustc-main".to_string(),
1258             build_step: "build-crate-rustc-main".to_string(),
1259             test_step: "test-crate-rustc-main".to_string(),
1260             bench_step: "bench-crate-rustc-main".to_string(),
1261         });
1262         return build
1263     }
1264
1265     #[test]
1266     fn dist_baseline() {
1267         let build = build(&["dist"], &[], &[]);
1268         let rules = super::build_rules(&build);
1269         let plan = rules.plan();
1270         println!("rules: {:#?}", plan);
1271         assert!(plan.iter().all(|s| s.stage == 2));
1272         assert!(plan.iter().all(|s| s.host == "A" ));
1273         assert!(plan.iter().all(|s| s.target == "A" ));
1274
1275         let step = super::Step {
1276             name: "",
1277             stage: 2,
1278             host: &build.config.build,
1279             target: &build.config.build,
1280         };
1281
1282         assert!(plan.contains(&step.name("dist-docs")));
1283         assert!(plan.contains(&step.name("dist-mingw")));
1284         assert!(plan.contains(&step.name("dist-rustc")));
1285         assert!(plan.contains(&step.name("dist-std")));
1286         assert!(plan.contains(&step.name("dist-src")));
1287     }
1288
1289     #[test]
1290     fn dist_with_targets() {
1291         let build = build(&["dist"], &[], &["B"]);
1292         let rules = super::build_rules(&build);
1293         let plan = rules.plan();
1294         println!("rules: {:#?}", plan);
1295         assert!(plan.iter().all(|s| s.stage == 2));
1296         assert!(plan.iter().all(|s| s.host == "A" ));
1297
1298         let step = super::Step {
1299             name: "",
1300             stage: 2,
1301             host: &build.config.build,
1302             target: &build.config.build,
1303         };
1304
1305         assert!(plan.contains(&step.name("dist-docs")));
1306         assert!(plan.contains(&step.name("dist-mingw")));
1307         assert!(plan.contains(&step.name("dist-rustc")));
1308         assert!(plan.contains(&step.name("dist-std")));
1309         assert!(plan.contains(&step.name("dist-src")));
1310
1311         assert!(plan.contains(&step.target("B").name("dist-docs")));
1312         assert!(plan.contains(&step.target("B").name("dist-mingw")));
1313         assert!(!plan.contains(&step.target("B").name("dist-rustc")));
1314         assert!(plan.contains(&step.target("B").name("dist-std")));
1315         assert!(!plan.contains(&step.target("B").name("dist-src")));
1316     }
1317
1318     #[test]
1319     fn dist_with_hosts() {
1320         let build = build(&["dist"], &["B"], &[]);
1321         let rules = super::build_rules(&build);
1322         let plan = rules.plan();
1323         println!("rules: {:#?}", plan);
1324         assert!(plan.iter().all(|s| s.stage == 2));
1325
1326         let step = super::Step {
1327             name: "",
1328             stage: 2,
1329             host: &build.config.build,
1330             target: &build.config.build,
1331         };
1332
1333         assert!(!plan.iter().any(|s| s.host == "B"));
1334
1335         assert!(plan.contains(&step.name("dist-docs")));
1336         assert!(plan.contains(&step.name("dist-mingw")));
1337         assert!(plan.contains(&step.name("dist-rustc")));
1338         assert!(plan.contains(&step.name("dist-std")));
1339         assert!(plan.contains(&step.name("dist-src")));
1340
1341         assert!(plan.contains(&step.target("B").name("dist-docs")));
1342         assert!(plan.contains(&step.target("B").name("dist-mingw")));
1343         assert!(plan.contains(&step.target("B").name("dist-rustc")));
1344         assert!(plan.contains(&step.target("B").name("dist-std")));
1345         assert!(!plan.contains(&step.target("B").name("dist-src")));
1346     }
1347
1348     #[test]
1349     fn dist_with_targets_and_hosts() {
1350         let build = build(&["dist"], &["B"], &["C"]);
1351         let rules = super::build_rules(&build);
1352         let plan = rules.plan();
1353         println!("rules: {:#?}", plan);
1354         assert!(plan.iter().all(|s| s.stage == 2));
1355
1356         let step = super::Step {
1357             name: "",
1358             stage: 2,
1359             host: &build.config.build,
1360             target: &build.config.build,
1361         };
1362
1363         assert!(!plan.iter().any(|s| s.host == "B"));
1364         assert!(!plan.iter().any(|s| s.host == "C"));
1365
1366         assert!(plan.contains(&step.name("dist-docs")));
1367         assert!(plan.contains(&step.name("dist-mingw")));
1368         assert!(plan.contains(&step.name("dist-rustc")));
1369         assert!(plan.contains(&step.name("dist-std")));
1370         assert!(plan.contains(&step.name("dist-src")));
1371
1372         assert!(plan.contains(&step.target("B").name("dist-docs")));
1373         assert!(plan.contains(&step.target("B").name("dist-mingw")));
1374         assert!(plan.contains(&step.target("B").name("dist-rustc")));
1375         assert!(plan.contains(&step.target("B").name("dist-std")));
1376         assert!(!plan.contains(&step.target("B").name("dist-src")));
1377
1378         assert!(plan.contains(&step.target("C").name("dist-docs")));
1379         assert!(plan.contains(&step.target("C").name("dist-mingw")));
1380         assert!(!plan.contains(&step.target("C").name("dist-rustc")));
1381         assert!(plan.contains(&step.target("C").name("dist-std")));
1382         assert!(!plan.contains(&step.target("C").name("dist-src")));
1383     }
1384
1385     #[test]
1386     fn dist_target_with_target_flag() {
1387         let build = build(&["dist", "--target=C"], &["B"], &["C"]);
1388         let rules = super::build_rules(&build);
1389         let plan = rules.plan();
1390         println!("rules: {:#?}", plan);
1391         assert!(plan.iter().all(|s| s.stage == 2));
1392
1393         let step = super::Step {
1394             name: "",
1395             stage: 2,
1396             host: &build.config.build,
1397             target: &build.config.build,
1398         };
1399
1400         assert!(!plan.iter().any(|s| s.target == "A"));
1401         assert!(!plan.iter().any(|s| s.target == "B"));
1402         assert!(!plan.iter().any(|s| s.host == "B"));
1403         assert!(!plan.iter().any(|s| s.host == "C"));
1404
1405         assert!(plan.contains(&step.target("C").name("dist-docs")));
1406         assert!(plan.contains(&step.target("C").name("dist-mingw")));
1407         assert!(!plan.contains(&step.target("C").name("dist-rustc")));
1408         assert!(plan.contains(&step.target("C").name("dist-std")));
1409         assert!(!plan.contains(&step.target("C").name("dist-src")));
1410     }
1411
1412     #[test]
1413     fn dist_host_with_target_flag() {
1414         let build = build(&["dist", "--host=B", "--target=B"], &["B"], &["C"]);
1415         let rules = super::build_rules(&build);
1416         let plan = rules.plan();
1417         println!("rules: {:#?}", plan);
1418         assert!(plan.iter().all(|s| s.stage == 2));
1419
1420         let step = super::Step {
1421             name: "",
1422             stage: 2,
1423             host: &build.config.build,
1424             target: &build.config.build,
1425         };
1426
1427         assert!(!plan.iter().any(|s| s.target == "A"));
1428         assert!(!plan.iter().any(|s| s.target == "C"));
1429         assert!(!plan.iter().any(|s| s.host == "B"));
1430         assert!(!plan.iter().any(|s| s.host == "C"));
1431
1432         assert!(plan.contains(&step.target("B").name("dist-docs")));
1433         assert!(plan.contains(&step.target("B").name("dist-mingw")));
1434         assert!(plan.contains(&step.target("B").name("dist-rustc")));
1435         assert!(plan.contains(&step.target("B").name("dist-std")));
1436         assert!(plan.contains(&step.target("B").name("dist-src")));
1437
1438         let all = rules.expand(&plan);
1439         println!("all rules: {:#?}", all);
1440         assert!(!all.contains(&step.name("rustc")));
1441         assert!(!all.contains(&step.name("build-crate-test").stage(1)));
1442
1443         // all stage0 compiles should be for the build target, A
1444         for step in all.iter().filter(|s| s.stage == 0) {
1445             if !step.name.contains("build-crate") {
1446                 continue
1447             }
1448             println!("step: {:?}", step);
1449             assert!(step.host != "B");
1450             assert!(step.target != "B");
1451             assert!(step.host != "C");
1452             assert!(step.target != "C");
1453         }
1454     }
1455
1456     #[test]
1457     fn build_default() {
1458         let build = build(&["build"], &["B"], &["C"]);
1459         let rules = super::build_rules(&build);
1460         let plan = rules.plan();
1461         println!("rules: {:#?}", plan);
1462         assert!(plan.iter().all(|s| s.stage == 2));
1463
1464         let step = super::Step {
1465             name: "",
1466             stage: 2,
1467             host: &build.config.build,
1468             target: &build.config.build,
1469         };
1470
1471         // rustc built for all for of (A, B) x (A, B)
1472         assert!(plan.contains(&step.name("librustc")));
1473         assert!(plan.contains(&step.target("B").name("librustc")));
1474         assert!(plan.contains(&step.host("B").target("A").name("librustc")));
1475         assert!(plan.contains(&step.host("B").target("B").name("librustc")));
1476
1477         // rustc never built for C
1478         assert!(!plan.iter().any(|s| {
1479             s.name.contains("rustc") && (s.host == "C" || s.target == "C")
1480         }));
1481
1482         // test built for everything
1483         assert!(plan.contains(&step.name("libtest")));
1484         assert!(plan.contains(&step.target("B").name("libtest")));
1485         assert!(plan.contains(&step.host("B").target("A").name("libtest")));
1486         assert!(plan.contains(&step.host("B").target("B").name("libtest")));
1487         assert!(plan.contains(&step.host("A").target("C").name("libtest")));
1488         assert!(plan.contains(&step.host("B").target("C").name("libtest")));
1489
1490         let all = rules.expand(&plan);
1491         println!("all rules: {:#?}", all);
1492         assert!(all.contains(&step.name("rustc")));
1493         assert!(all.contains(&step.name("libstd")));
1494     }
1495
1496     #[test]
1497     fn build_filtered() {
1498         let build = build(&["build", "--target=C"], &["B"], &["C"]);
1499         let rules = super::build_rules(&build);
1500         let plan = rules.plan();
1501         println!("rules: {:#?}", plan);
1502         assert!(plan.iter().all(|s| s.stage == 2));
1503
1504         assert!(!plan.iter().any(|s| s.name.contains("rustc")));
1505         assert!(plan.iter().all(|s| {
1506             !s.name.contains("test") || s.target == "C"
1507         }));
1508     }
1509
1510     #[test]
1511     fn test_default() {
1512         let build = build(&["test"], &[], &[]);
1513         let rules = super::build_rules(&build);
1514         let plan = rules.plan();
1515         println!("rules: {:#?}", plan);
1516         assert!(plan.iter().all(|s| s.stage == 2));
1517         assert!(plan.iter().all(|s| s.host == "A"));
1518         assert!(plan.iter().all(|s| s.target == "A"));
1519
1520         assert!(plan.iter().any(|s| s.name.contains("-ui")));
1521         assert!(plan.iter().any(|s| s.name.contains("cfail")));
1522         assert!(plan.iter().any(|s| s.name.contains("cfail-full")));
1523         assert!(plan.iter().any(|s| s.name.contains("codegen-units")));
1524         assert!(plan.iter().any(|s| s.name.contains("debuginfo")));
1525         assert!(plan.iter().any(|s| s.name.contains("docs")));
1526         assert!(plan.iter().any(|s| s.name.contains("error-index")));
1527         assert!(plan.iter().any(|s| s.name.contains("incremental")));
1528         assert!(plan.iter().any(|s| s.name.contains("linkchecker")));
1529         assert!(plan.iter().any(|s| s.name.contains("mir-opt")));
1530         assert!(plan.iter().any(|s| s.name.contains("pfail")));
1531         assert!(plan.iter().any(|s| s.name.contains("rfail")));
1532         assert!(plan.iter().any(|s| s.name.contains("rfail-full")));
1533         assert!(plan.iter().any(|s| s.name.contains("rmake")));
1534         assert!(plan.iter().any(|s| s.name.contains("rpass")));
1535         assert!(plan.iter().any(|s| s.name.contains("rpass-full")));
1536         assert!(plan.iter().any(|s| s.name.contains("rustc-all")));
1537         assert!(plan.iter().any(|s| s.name.contains("rustdoc")));
1538         assert!(plan.iter().any(|s| s.name.contains("std-all")));
1539         assert!(plan.iter().any(|s| s.name.contains("test-all")));
1540         assert!(plan.iter().any(|s| s.name.contains("tidy")));
1541         assert!(plan.iter().any(|s| s.name.contains("valgrind")));
1542     }
1543
1544     #[test]
1545     fn test_with_a_target() {
1546         let build = build(&["test", "--target=C"], &[], &["C"]);
1547         let rules = super::build_rules(&build);
1548         let plan = rules.plan();
1549         println!("rules: {:#?}", plan);
1550         assert!(plan.iter().all(|s| s.stage == 2));
1551         assert!(plan.iter().all(|s| s.host == "A"));
1552         assert!(plan.iter().all(|s| s.target == "C"));
1553
1554         assert!(plan.iter().any(|s| s.name.contains("-ui")));
1555         assert!(!plan.iter().any(|s| s.name.contains("ui-full")));
1556         assert!(plan.iter().any(|s| s.name.contains("cfail")));
1557         assert!(!plan.iter().any(|s| s.name.contains("cfail-full")));
1558         assert!(plan.iter().any(|s| s.name.contains("codegen-units")));
1559         assert!(plan.iter().any(|s| s.name.contains("debuginfo")));
1560         assert!(!plan.iter().any(|s| s.name.contains("docs")));
1561         assert!(!plan.iter().any(|s| s.name.contains("error-index")));
1562         assert!(plan.iter().any(|s| s.name.contains("incremental")));
1563         assert!(!plan.iter().any(|s| s.name.contains("linkchecker")));
1564         assert!(plan.iter().any(|s| s.name.contains("mir-opt")));
1565         assert!(plan.iter().any(|s| s.name.contains("pfail")));
1566         assert!(plan.iter().any(|s| s.name.contains("rfail")));
1567         assert!(!plan.iter().any(|s| s.name.contains("rfail-full")));
1568         assert!(!plan.iter().any(|s| s.name.contains("rmake")));
1569         assert!(plan.iter().any(|s| s.name.contains("rpass")));
1570         assert!(!plan.iter().any(|s| s.name.contains("rpass-full")));
1571         assert!(!plan.iter().any(|s| s.name.contains("rustc-all")));
1572         assert!(!plan.iter().any(|s| s.name.contains("rustdoc")));
1573         assert!(plan.iter().any(|s| s.name.contains("std-all")));
1574         assert!(plan.iter().any(|s| s.name.contains("test-all")));
1575         assert!(!plan.iter().any(|s| s.name.contains("tidy")));
1576         assert!(plan.iter().any(|s| s.name.contains("valgrind")));
1577     }
1578 }