]> git.lizzy.rs Git - rust.git/blob - cargo-miri/bin.rs
233d81826eecfd25fe7daa0c390ce6f2fc9749fd
[rust.git] / cargo-miri / bin.rs
1 #![allow(clippy::useless_format, clippy::derive_partial_eq_without_eq)]
2
3 mod version;
4
5 use std::env;
6 use std::ffi::{OsStr, OsString};
7 use std::fmt::Write as _;
8 use std::fs::{self, File};
9 use std::io::{self, BufRead, BufReader, BufWriter, Read, Write};
10 use std::iter::TakeWhile;
11 use std::ops::Not;
12 use std::path::{Path, PathBuf};
13 use std::process::{self, Command};
14
15 use rustc_version::VersionMeta;
16 use serde::{Deserialize, Serialize};
17
18 use version::*;
19
20 const CARGO_MIRI_HELP: &str = r#"Runs binary crates and tests in Miri
21
22 Usage:
23     cargo miri [subcommand] [<cargo options>...] [--] [<program/test suite options>...]
24
25 Subcommands:
26     run, r                   Run binaries
27     test, t                  Run tests
28     setup                    Only perform automatic setup, but without asking questions (for getting a proper libstd)
29
30 The cargo options are exactly the same as for `cargo run` and `cargo test`, respectively.
31
32 Examples:
33     cargo miri run
34     cargo miri test -- test-suite-filter
35 "#;
36
37 #[derive(Copy, Clone, Debug, PartialEq, Eq)]
38 enum MiriCommand {
39     Run,
40     Test,
41     Setup,
42 }
43
44 /// The information to run a crate with the given environment.
45 #[derive(Serialize, Deserialize)]
46 struct CrateRunEnv {
47     /// The command-line arguments.
48     args: Vec<String>,
49     /// The environment.
50     env: Vec<(OsString, OsString)>,
51     /// The current working directory.
52     current_dir: OsString,
53     /// The contents passed via standard input.
54     stdin: Vec<u8>,
55 }
56
57 impl CrateRunEnv {
58     /// Gather all the information we need.
59     fn collect(args: env::Args, capture_stdin: bool) -> Self {
60         let args = args.collect();
61         let env = env::vars_os().collect();
62         let current_dir = env::current_dir().unwrap().into_os_string();
63
64         let mut stdin = Vec::new();
65         if capture_stdin {
66             std::io::stdin().lock().read_to_end(&mut stdin).expect("cannot read stdin");
67         }
68
69         CrateRunEnv { args, env, current_dir, stdin }
70     }
71 }
72
73 /// The information Miri needs to run a crate. Stored as JSON when the crate is "compiled".
74 #[derive(Serialize, Deserialize)]
75 enum CrateRunInfo {
76     /// Run it with the given environment.
77     RunWith(CrateRunEnv),
78     /// Skip it as Miri does not support interpreting such kind of crates.
79     SkipProcMacroTest,
80 }
81
82 impl CrateRunInfo {
83     fn store(&self, filename: &Path) {
84         let file = File::create(filename)
85             .unwrap_or_else(|_| show_error(format!("cannot create `{}`", filename.display())));
86         let file = BufWriter::new(file);
87         serde_json::ser::to_writer(file, self)
88             .unwrap_or_else(|_| show_error(format!("cannot write to `{}`", filename.display())));
89     }
90 }
91
92 fn show_help() {
93     println!("{}", CARGO_MIRI_HELP);
94 }
95
96 fn show_version() {
97     let mut version = format!("miri {}", env!("CARGO_PKG_VERSION"));
98     // Only use `option_env` on vergen variables to ensure the build succeeds
99     // when vergen failed to find the git info.
100     if let Some(sha) = option_env!("VERGEN_GIT_SHA_SHORT") {
101         // This `unwrap` can never fail because if VERGEN_GIT_SHA_SHORT exists, then so does
102         // VERGEN_GIT_COMMIT_DATE.
103         #[allow(clippy::option_env_unwrap)]
104         write!(&mut version, " ({} {})", sha, option_env!("VERGEN_GIT_COMMIT_DATE").unwrap())
105             .unwrap();
106     }
107     println!("{}", version);
108 }
109
110 fn show_error(msg: String) -> ! {
111     eprintln!("fatal error: {}", msg);
112     std::process::exit(1)
113 }
114
115 // Determines whether a `--flag` is present.
116 fn has_arg_flag(name: &str) -> bool {
117     let mut args = std::env::args().take_while(|val| val != "--");
118     args.any(|val| val == name)
119 }
120
121 /// Yields all values of command line flag `name` as `Ok(arg)`, and all other arguments except
122 /// the flag as `Err(arg)`. (The flag `name` itself is not yielded at all, only its values are.)
123 struct ArgSplitFlagValue<'a, I> {
124     args: TakeWhile<I, fn(&String) -> bool>,
125     name: &'a str,
126 }
127
128 impl<'a, I: Iterator<Item = String>> ArgSplitFlagValue<'a, I> {
129     fn new(args: I, name: &'a str) -> Self {
130         Self {
131             // Stop searching at `--`.
132             args: args.take_while(|val| val != "--"),
133             name,
134         }
135     }
136 }
137
138 impl<I: Iterator<Item = String>> Iterator for ArgSplitFlagValue<'_, I> {
139     type Item = Result<String, String>;
140
141     fn next(&mut self) -> Option<Self::Item> {
142         let arg = self.args.next()?;
143         if let Some(suffix) = arg.strip_prefix(self.name) {
144             // Strip leading `name`.
145             if suffix.is_empty() {
146                 // This argument is exactly `name`; the next one is the value.
147                 return self.args.next().map(Ok);
148             } else if let Some(suffix) = suffix.strip_prefix('=') {
149                 // This argument is `name=value`; get the value.
150                 return Some(Ok(suffix.to_owned()));
151             }
152         }
153         Some(Err(arg))
154     }
155 }
156
157 /// Yields all values of command line flag `name`.
158 struct ArgFlagValueIter<'a>(ArgSplitFlagValue<'a, env::Args>);
159
160 impl<'a> ArgFlagValueIter<'a> {
161     fn new(name: &'a str) -> Self {
162         Self(ArgSplitFlagValue::new(env::args(), name))
163     }
164 }
165
166 impl Iterator for ArgFlagValueIter<'_> {
167     type Item = String;
168
169     fn next(&mut self) -> Option<Self::Item> {
170         loop {
171             if let Ok(value) = self.0.next()? {
172                 return Some(value);
173             }
174         }
175     }
176 }
177
178 /// Gets the value of a `--flag`.
179 fn get_arg_flag_value(name: &str) -> Option<String> {
180     ArgFlagValueIter::new(name).next()
181 }
182
183 fn forward_patched_extern_arg(args: &mut impl Iterator<Item = String>, cmd: &mut Command) {
184     cmd.arg("--extern"); // always forward flag, but adjust filename:
185     let path = args.next().expect("`--extern` should be followed by a filename");
186     if let Some(lib) = path.strip_suffix(".rlib") {
187         // If this is an rlib, make it an rmeta.
188         cmd.arg(format!("{}.rmeta", lib));
189     } else {
190         // Some other extern file (e.g. a `.so`). Forward unchanged.
191         cmd.arg(path);
192     }
193 }
194
195 fn forward_miri_sysroot(cmd: &mut Command) {
196     let sysroot = env::var_os("MIRI_SYSROOT").expect("the wrapper should have set MIRI_SYSROOT");
197     cmd.arg("--sysroot");
198     cmd.arg(sysroot);
199 }
200
201 /// Returns the path to the `miri` binary
202 fn find_miri() -> PathBuf {
203     if let Some(path) = env::var_os("MIRI") {
204         return path.into();
205     }
206     let mut path = std::env::current_exe().expect("current executable path invalid");
207     path.set_file_name("miri");
208     path
209 }
210
211 fn miri() -> Command {
212     Command::new(find_miri())
213 }
214
215 fn version_info() -> VersionMeta {
216     VersionMeta::for_command(miri()).expect("failed to determine underlying rustc version of Miri")
217 }
218
219 fn cargo() -> Command {
220     Command::new(env::var_os("CARGO").unwrap_or_else(|| OsString::from("cargo")))
221 }
222
223 fn xargo_check() -> Command {
224     Command::new(env::var_os("XARGO_CHECK").unwrap_or_else(|| OsString::from("xargo-check")))
225 }
226
227 /// Execute the command. If it fails, fail this process with the same exit code.
228 /// Otherwise, continue.
229 fn exec(mut cmd: Command) {
230     let exit_status = cmd.status().expect("failed to run command");
231     if exit_status.success().not() {
232         std::process::exit(exit_status.code().unwrap_or(-1))
233     }
234 }
235
236 /// Execute the command and pipe `input` into its stdin.
237 /// If it fails, fail this process with the same exit code.
238 /// Otherwise, continue.
239 fn exec_with_pipe(mut cmd: Command, input: &[u8]) {
240     cmd.stdin(process::Stdio::piped());
241     let mut child = cmd.spawn().expect("failed to spawn process");
242     {
243         let stdin = child.stdin.as_mut().expect("failed to open stdin");
244         stdin.write_all(input).expect("failed to write out test source");
245     }
246     let exit_status = child.wait().expect("failed to run command");
247     if exit_status.success().not() {
248         std::process::exit(exit_status.code().unwrap_or(-1))
249     }
250 }
251
252 fn xargo_version() -> Option<(u32, u32, u32)> {
253     let out = xargo_check().arg("--version").output().ok()?;
254     if !out.status.success() {
255         return None;
256     }
257     // Parse output. The first line looks like "xargo 0.3.12 (b004f1c 2018-12-13)".
258     let line = out
259         .stderr
260         .lines()
261         .next()
262         .expect("malformed `xargo --version` output: not at least one line")
263         .expect("malformed `xargo --version` output: error reading first line");
264     let (name, version) = {
265         let mut split = line.split(' ');
266         (
267             split.next().expect("malformed `xargo --version` output: empty"),
268             split.next().expect("malformed `xargo --version` output: not at least two words"),
269         )
270     };
271     if name != "xargo" {
272         // This is some fork of xargo
273         return None;
274     }
275     let mut version_pieces = version.split('.');
276     let major = version_pieces
277         .next()
278         .expect("malformed `xargo --version` output: not a major version piece")
279         .parse()
280         .expect("malformed `xargo --version` output: major version is not an integer");
281     let minor = version_pieces
282         .next()
283         .expect("malformed `xargo --version` output: not a minor version piece")
284         .parse()
285         .expect("malformed `xargo --version` output: minor version is not an integer");
286     let patch = version_pieces
287         .next()
288         .expect("malformed `xargo --version` output: not a patch version piece")
289         .parse()
290         .expect("malformed `xargo --version` output: patch version is not an integer");
291     if version_pieces.next().is_some() {
292         panic!("malformed `xargo --version` output: more than three pieces in version");
293     }
294     Some((major, minor, patch))
295 }
296
297 fn ask_to_run(mut cmd: Command, ask: bool, text: &str) {
298     // Disable interactive prompts in CI (GitHub Actions, Travis, AppVeyor, etc).
299     // Azure doesn't set `CI` though (nothing to see here, just Microsoft being Microsoft),
300     // so we also check their `TF_BUILD`.
301     let is_ci = env::var_os("CI").is_some() || env::var_os("TF_BUILD").is_some();
302     if ask && !is_ci {
303         let mut buf = String::new();
304         print!("I will run `{:?}` to {}. Proceed? [Y/n] ", cmd, text);
305         io::stdout().flush().unwrap();
306         io::stdin().read_line(&mut buf).unwrap();
307         match buf.trim().to_lowercase().as_ref() {
308             // Proceed.
309             "" | "y" | "yes" => {}
310             "n" | "no" => show_error(format!("aborting as per your request")),
311             a => show_error(format!("invalid answer `{}`", a)),
312         };
313     } else {
314         println!("Running `{:?}` to {}.", cmd, text);
315     }
316
317     if cmd.status().unwrap_or_else(|_| panic!("failed to execute {:?}", cmd)).success().not() {
318         show_error(format!("failed to {}", text));
319     }
320 }
321
322 /// Writes the given content to the given file *cross-process atomically*, in the sense that another
323 /// process concurrently reading that file will see either the old content or the new content, but
324 /// not some intermediate (e.g., empty) state.
325 ///
326 /// We assume no other parts of this same process are trying to read or write that file.
327 fn write_to_file(filename: &Path, content: &str) {
328     // Create a temporary file with the desired contents.
329     let mut temp_filename = filename.as_os_str().to_os_string();
330     temp_filename.push(&format!(".{}", std::process::id()));
331     let mut temp_file = File::create(&temp_filename).unwrap();
332     temp_file.write_all(content.as_bytes()).unwrap();
333     drop(temp_file);
334
335     // Move file to the desired location.
336     fs::rename(temp_filename, filename).unwrap();
337 }
338
339 /// Performs the setup required to make `cargo miri` work: Getting a custom-built libstd. Then sets
340 /// `MIRI_SYSROOT`. Skipped if `MIRI_SYSROOT` is already set, in which case we expect the user has
341 /// done all this already.
342 fn setup(subcommand: MiriCommand) {
343     if std::env::var_os("MIRI_SYSROOT").is_some() {
344         if subcommand == MiriCommand::Setup {
345             println!("WARNING: MIRI_SYSROOT already set, not doing anything.")
346         }
347         return;
348     }
349
350     // Subcommands other than `setup` will do a setup if necessary, but
351     // interactively confirm first.
352     let ask_user = subcommand != MiriCommand::Setup;
353
354     // First, we need xargo.
355     if xargo_version().map_or(true, |v| v < XARGO_MIN_VERSION) {
356         if std::env::var_os("XARGO_CHECK").is_some() {
357             // The user manually gave us a xargo binary; don't do anything automatically.
358             show_error(format!("xargo is too old; please upgrade to the latest version"))
359         }
360         let mut cmd = cargo();
361         cmd.args(&["install", "xargo"]);
362         ask_to_run(cmd, ask_user, "install a recent enough xargo");
363     }
364
365     // Determine where the rust sources are located.  The env vars manually setting the source
366     // (`MIRI_LIB_SRC`, `XARGO_RUST_SRC`) trump auto-detection.
367     let rust_src_env_var =
368         std::env::var_os("MIRI_LIB_SRC").or_else(|| std::env::var_os("XARGO_RUST_SRC"));
369     let rust_src = match rust_src_env_var {
370         Some(path) => {
371             let path = PathBuf::from(path);
372             // Make path absolute if possible.
373             path.canonicalize().unwrap_or(path)
374         }
375         None => {
376             // Check for `rust-src` rustup component.
377             let output =
378                 miri().args(&["--print", "sysroot"]).output().expect("failed to determine sysroot");
379             if !output.status.success() {
380                 show_error(format!(
381                     "Failed to determine sysroot; Miri said:\n{}",
382                     String::from_utf8_lossy(&output.stderr).trim_end()
383                 ));
384             }
385             let sysroot = std::str::from_utf8(&output.stdout).unwrap();
386             let sysroot = Path::new(sysroot.trim_end_matches('\n'));
387             // Check for `$SYSROOT/lib/rustlib/src/rust/library`; test if that contains `std/Cargo.toml`.
388             let rustup_src =
389                 sysroot.join("lib").join("rustlib").join("src").join("rust").join("library");
390             if !rustup_src.join("std").join("Cargo.toml").exists() {
391                 // Ask the user to install the `rust-src` component, and use that.
392                 let mut cmd = Command::new("rustup");
393                 cmd.args(&["component", "add", "rust-src"]);
394                 ask_to_run(
395                     cmd,
396                     ask_user,
397                     "install the `rust-src` component for the selected toolchain",
398                 );
399             }
400             rustup_src
401         }
402     };
403     if !rust_src.exists() {
404         show_error(format!("given Rust source directory `{}` does not exist.", rust_src.display()));
405     }
406     if rust_src.file_name().and_then(OsStr::to_str) != Some("library") {
407         show_error(format!(
408             "given Rust source directory `{}` does not seem to be the `library` subdirectory of \
409              a Rust source checkout.",
410             rust_src.display()
411         ));
412     }
413
414     // Next, we need our own libstd. Prepare a xargo project for that purpose.
415     // We will do this work in whatever is a good cache dir for this platform.
416     let dirs = directories::ProjectDirs::from("org", "rust-lang", "miri").unwrap();
417     let dir = dirs.cache_dir();
418     if !dir.exists() {
419         fs::create_dir_all(&dir).unwrap();
420     }
421     // The interesting bit: Xargo.toml (only needs content if we actually need std)
422     let xargo_toml = if std::env::var_os("MIRI_NO_STD").is_some() {
423         ""
424     } else {
425         r#"
426 [dependencies.std]
427 default_features = false
428 # We support unwinding, so enable that panic runtime.
429 features = ["panic_unwind", "backtrace"]
430
431 [dependencies.test]
432 "#
433     };
434     write_to_file(&dir.join("Xargo.toml"), xargo_toml);
435     // The boring bits: a dummy project for xargo.
436     // FIXME: With xargo-check, can we avoid doing this?
437     write_to_file(
438         &dir.join("Cargo.toml"),
439         r#"
440 [package]
441 name = "miri-xargo"
442 description = "A dummy project for building libstd with xargo."
443 version = "0.0.0"
444
445 [lib]
446 path = "lib.rs"
447 "#,
448     );
449     write_to_file(&dir.join("lib.rs"), "#![no_std]");
450
451     // Determine architectures.
452     // We always need to set a target so rustc bootstrap can tell apart host from target crates.
453     let host = version_info().host;
454     let target = get_arg_flag_value("--target");
455     let target = target.as_ref().unwrap_or(&host);
456     // Now invoke xargo.
457     let mut command = xargo_check();
458     command.arg("check").arg("-q");
459     command.arg("--target").arg(target);
460     command.current_dir(&dir);
461     command.env("XARGO_HOME", &dir);
462     command.env("XARGO_RUST_SRC", &rust_src);
463     // Use Miri as rustc to build a libstd compatible with us (and use the right flags).
464     // However, when we are running in bootstrap, we cannot just overwrite `RUSTC`,
465     // because we still need bootstrap to distinguish between host and target crates.
466     // In that case we overwrite `RUSTC_REAL` instead which determines the rustc used
467     // for target crates.
468     // We set ourselves (`cargo-miri`) instead of Miri directly to be able to patch the flags
469     // for `libpanic_abort` (usually this is done by bootstrap but we have to do it ourselves).
470     // The `MIRI_CALLED_FROM_XARGO` will mean we dispatch to `phase_setup_rustc`.
471     let cargo_miri_path = std::env::current_exe().expect("current executable path invalid");
472     if env::var_os("RUSTC_STAGE").is_some() {
473         command.env("RUSTC_REAL", &cargo_miri_path);
474     } else {
475         command.env("RUSTC", &cargo_miri_path);
476     }
477     command.env("MIRI_CALLED_FROM_XARGO", "1");
478     // Make sure there are no other wrappers or flags getting in our way
479     // (Cc https://github.com/rust-lang/miri/issues/1421).
480     // This is consistent with normal `cargo build` that does not apply `RUSTFLAGS`
481     // to the sysroot either.
482     command.env_remove("RUSTC_WRAPPER");
483     command.env_remove("RUSTFLAGS");
484     // Disable debug assertions in the standard library -- Miri is already slow enough.
485     // But keep the overflow checks, they are cheap.
486     command.env("RUSTFLAGS", "-Cdebug-assertions=off -Coverflow-checks=on");
487     // Finally run it!
488     if command.status().expect("failed to run xargo").success().not() {
489         show_error(format!("failed to run xargo"));
490     }
491
492     // That should be it! But we need to figure out where xargo built stuff.
493     // Unfortunately, it puts things into a different directory when the
494     // architecture matches the host.
495     let sysroot = if target == &host { dir.join("HOST") } else { PathBuf::from(dir) };
496     std::env::set_var("MIRI_SYSROOT", &sysroot); // pass the env var to the processes we spawn, which will turn it into "--sysroot" flags
497     // Figure out what to print.
498     let print_sysroot = subcommand == MiriCommand::Setup && has_arg_flag("--print-sysroot"); // whether we just print the sysroot path
499     if print_sysroot {
500         // Print just the sysroot and nothing else; this way we do not need any escaping.
501         println!("{}", sysroot.display());
502     } else if subcommand == MiriCommand::Setup {
503         println!("A libstd for Miri is now available in `{}`.", sysroot.display());
504     }
505 }
506
507 #[derive(Deserialize)]
508 struct Metadata {
509     target_directory: PathBuf,
510     workspace_members: Vec<String>,
511 }
512
513 fn get_cargo_metadata() -> Metadata {
514     let mut cmd = cargo();
515     // `-Zunstable-options` is required by `--config`.
516     cmd.args(["metadata", "--no-deps", "--format-version=1", "-Zunstable-options"]);
517     // The `build.target-dir` config can be passed by `--config` flags, so forward them to
518     // `cargo metadata`.
519     let config_flag = "--config";
520     for arg in ArgSplitFlagValue::new(
521         env::args().skip(3), // skip the program name, "miri" and "run" / "test"
522         config_flag,
523     )
524     // Only look at `Ok`
525     .flatten()
526     {
527         cmd.arg(config_flag).arg(arg);
528     }
529     let mut child = cmd
530         .stdin(process::Stdio::null())
531         .stdout(process::Stdio::piped())
532         .spawn()
533         .expect("failed ro run `cargo metadata`");
534     // Check this `Result` after `status.success()` is checked, so we don't print the error
535     // to stderr if `cargo metadata` is also printing to stderr.
536     let metadata: Result<Metadata, _> = serde_json::from_reader(child.stdout.take().unwrap());
537     let status = child.wait().expect("failed to wait for `cargo metadata` to exit");
538     if !status.success() {
539         std::process::exit(status.code().unwrap_or(-1));
540     }
541     metadata.unwrap_or_else(|e| show_error(format!("invalid `cargo metadata` output: {}", e)))
542 }
543
544 /// Pulls all the crates in this workspace from the cargo metadata.
545 /// Workspace members are emitted like "miri 0.1.0 (path+file:///path/to/miri)"
546 /// Additionally, somewhere between cargo metadata and TyCtxt, '-' gets replaced with '_' so we
547 /// make that same transformation here.
548 fn local_crates(metadata: &Metadata) -> String {
549     assert!(!metadata.workspace_members.is_empty());
550     let mut local_crates = String::new();
551     for member in &metadata.workspace_members {
552         let name = member.split(' ').next().unwrap();
553         let name = name.replace('-', "_");
554         local_crates.push_str(&name);
555         local_crates.push(',');
556     }
557     local_crates.pop(); // Remove the trailing ','
558
559     local_crates
560 }
561
562 fn phase_cargo_miri(mut args: env::Args) {
563     // Check for version and help flags even when invoked as `cargo-miri`.
564     if has_arg_flag("--help") || has_arg_flag("-h") {
565         show_help();
566         return;
567     }
568     if has_arg_flag("--version") || has_arg_flag("-V") {
569         show_version();
570         return;
571     }
572
573     // Require a subcommand before any flags.
574     // We cannot know which of those flags take arguments and which do not,
575     // so we cannot detect subcommands later.
576     let subcommand = match args.next().as_deref() {
577         Some("test" | "t") => MiriCommand::Test,
578         Some("run" | "r") => MiriCommand::Run,
579         Some("setup") => MiriCommand::Setup,
580         // Invalid command.
581         _ =>
582             show_error(format!(
583                 "`cargo miri` supports the following subcommands: `run`, `test`, and `setup`."
584             )),
585     };
586     let verbose = has_arg_flag("-v");
587
588     // We always setup.
589     setup(subcommand);
590
591     // Invoke actual cargo for the job, but with different flags.
592     // We re-use `cargo test` and `cargo run`, which makes target and binary handling very easy but
593     // requires some extra work to make the build check-only (see all the `--emit` hacks below).
594     // <https://github.com/rust-lang/miri/pull/1540#issuecomment-693553191> describes an alternative
595     // approach that uses `cargo check`, making that part easier but target and binary handling
596     // harder.
597     let cargo_miri_path = std::env::current_exe().expect("current executable path invalid");
598     let cargo_cmd = match subcommand {
599         MiriCommand::Test => "test",
600         MiriCommand::Run => "run",
601         MiriCommand::Setup => return, // `cargo miri setup` stops here.
602     };
603     let mut cmd = cargo();
604     cmd.arg(cargo_cmd);
605
606     // Make sure we know the build target, and cargo does, too.
607     // This is needed to make the `CARGO_TARGET_*_RUNNER` env var do something,
608     // and it later helps us detect which crates are proc-macro/build-script
609     // (host crates) and which crates are needed for the program itself.
610     let host = version_info().host;
611     let target = get_arg_flag_value("--target");
612     let target = if let Some(ref target) = target {
613         target
614     } else {
615         // No target given. Pick default and tell cargo about it.
616         cmd.arg("--target");
617         cmd.arg(&host);
618         &host
619     };
620
621     let mut target_dir = None;
622
623     // Forward all arguments before `--` other than `--target-dir` and its value to Cargo.
624     for arg in ArgSplitFlagValue::new(&mut args, "--target-dir") {
625         match arg {
626             Ok(value) => {
627                 if target_dir.is_some() {
628                     show_error(format!("`--target-dir` is provided more than once"));
629                 }
630                 target_dir = Some(value.into());
631             }
632             Err(arg) => {
633                 cmd.arg(arg);
634             }
635         }
636     }
637
638     let metadata = get_cargo_metadata();
639
640     // Detect the target directory if it's not specified via `--target-dir`.
641     let target_dir = target_dir.get_or_insert_with(|| metadata.target_directory.clone());
642
643     // Set `--target-dir` to `miri` inside the original target directory.
644     target_dir.push("miri");
645     cmd.arg("--target-dir").arg(target_dir);
646
647     // Forward all further arguments after `--` to cargo.
648     cmd.arg("--").args(args);
649
650     // Set `RUSTC_WRAPPER` to ourselves.  Cargo will prepend that binary to its usual invocation,
651     // i.e., the first argument is `rustc` -- which is what we use in `main` to distinguish
652     // the two codepaths. (That extra argument is why we prefer this over setting `RUSTC`.)
653     if env::var_os("RUSTC_WRAPPER").is_some() {
654         println!(
655             "WARNING: Ignoring `RUSTC_WRAPPER` environment variable, Miri does not support wrapping."
656         );
657     }
658     cmd.env("RUSTC_WRAPPER", &cargo_miri_path);
659     // Having both `RUSTC_WRAPPER` and `RUSTC` set does some odd things, so let's avoid that.
660     // See <https://github.com/rust-lang/miri/issues/2238>.
661     if env::var_os("RUSTC").is_some() && env::var_os("MIRI").is_none() {
662         println!(
663             "WARNING: Ignoring `RUSTC` environment variable; set `MIRI` if you want to control the binary used as the driver."
664         );
665     }
666     cmd.env_remove("RUSTC");
667
668     let runner_env_name =
669         |triple: &str| format!("CARGO_TARGET_{}_RUNNER", triple.to_uppercase().replace('-', "_"));
670     let host_runner_env_name = runner_env_name(&host);
671     let target_runner_env_name = runner_env_name(target);
672     // Set the target runner to us, so we can interpret the binaries.
673     cmd.env(&target_runner_env_name, &cargo_miri_path);
674     // Unit tests of `proc-macro` crates are run on the host, so we set the host runner to
675     // us in order to skip them.
676     cmd.env(&host_runner_env_name, &cargo_miri_path);
677
678     // Set rustdoc to us as well, so we can run doctests.
679     cmd.env("RUSTDOC", &cargo_miri_path);
680
681     cmd.env("MIRI_LOCAL_CRATES", local_crates(&metadata));
682
683     // Run cargo.
684     if verbose {
685         eprintln!("[cargo-miri miri] RUSTC_WRAPPER={:?}", cargo_miri_path);
686         eprintln!("[cargo-miri miri] {}={:?}", target_runner_env_name, cargo_miri_path);
687         if *target != host {
688             eprintln!("[cargo-miri miri] {}={:?}", host_runner_env_name, cargo_miri_path);
689         }
690         eprintln!("[cargo-miri miri] RUSTDOC={:?}", cargo_miri_path);
691         eprintln!("[cargo-miri miri] {:?}", cmd);
692         cmd.env("MIRI_VERBOSE", ""); // This makes the other phases verbose.
693     }
694     exec(cmd)
695 }
696
697 #[derive(Debug, Copy, Clone, PartialEq)]
698 enum RustcPhase {
699     /// `rustc` called via `xargo` for sysroot build.
700     Setup,
701     /// `rustc` called by `cargo` for regular build.
702     Build,
703     /// `rustc` called by `rustdoc` for doctest.
704     Rustdoc,
705 }
706
707 fn phase_rustc(mut args: env::Args, phase: RustcPhase) {
708     /// Determines if we are being invoked (as rustc) to build a crate for
709     /// the "target" architecture, in contrast to the "host" architecture.
710     /// Host crates are for build scripts and proc macros and still need to
711     /// be built like normal; target crates need to be built for or interpreted
712     /// by Miri.
713     ///
714     /// Currently, we detect this by checking for "--target=", which is
715     /// never set for host crates. This matches what rustc bootstrap does,
716     /// which hopefully makes it "reliable enough". This relies on us always
717     /// invoking cargo itself with `--target`, which `in_cargo_miri` ensures.
718     fn is_target_crate() -> bool {
719         get_arg_flag_value("--target").is_some()
720     }
721
722     /// Returns whether or not Cargo invoked the wrapper (this binary) to compile
723     /// the final, binary crate (either a test for 'cargo test', or a binary for 'cargo run')
724     /// Cargo does not give us this information directly, so we need to check
725     /// various command-line flags.
726     fn is_runnable_crate() -> bool {
727         let is_bin = get_arg_flag_value("--crate-type").as_deref().unwrap_or("bin") == "bin";
728         let is_test = has_arg_flag("--test");
729         is_bin || is_test
730     }
731
732     fn out_filename(prefix: &str, suffix: &str) -> PathBuf {
733         if let Some(out_dir) = get_arg_flag_value("--out-dir") {
734             let mut path = PathBuf::from(out_dir);
735             path.push(format!(
736                 "{}{}{}{}",
737                 prefix,
738                 get_arg_flag_value("--crate-name").unwrap(),
739                 // This is technically a `-C` flag but the prefix seems unique enough...
740                 // (and cargo passes this before the filename so it should be unique)
741                 get_arg_flag_value("extra-filename").unwrap_or_default(),
742                 suffix,
743             ));
744             path
745         } else {
746             let out_file = get_arg_flag_value("-o").unwrap();
747             PathBuf::from(out_file)
748         }
749     }
750
751     let verbose = std::env::var_os("MIRI_VERBOSE").is_some();
752     let target_crate = is_target_crate();
753     let print = get_arg_flag_value("--print").is_some() || has_arg_flag("-vV"); // whether this is cargo/xargo invoking rustc to get some infos
754
755     let store_json = |info: CrateRunInfo| {
756         // Create a stub .d file to stop Cargo from "rebuilding" the crate:
757         // https://github.com/rust-lang/miri/issues/1724#issuecomment-787115693
758         // As we store a JSON file instead of building the crate here, an empty file is fine.
759         let dep_info_name = out_filename("", ".d");
760         if verbose {
761             eprintln!("[cargo-miri rustc] writing stub dep-info to `{}`", dep_info_name.display());
762         }
763         File::create(dep_info_name).expect("failed to create fake .d file");
764
765         let filename = out_filename("", "");
766         if verbose {
767             eprintln!("[cargo-miri rustc] writing run info to `{}`", filename.display());
768         }
769         info.store(&filename);
770         // For Windows, do the same thing again with `.exe` appended to the filename.
771         // (Need to do this here as cargo moves that "binary" to a different place before running it.)
772         info.store(&out_filename("", ".exe"));
773     };
774
775     let runnable_crate = !print && is_runnable_crate();
776
777     if runnable_crate && target_crate {
778         assert!(
779             phase != RustcPhase::Setup,
780             "there should be no interpretation during sysroot build"
781         );
782         let inside_rustdoc = phase == RustcPhase::Rustdoc;
783         // This is the binary or test crate that we want to interpret under Miri.
784         // But we cannot run it here, as cargo invoked us as a compiler -- our stdin and stdout are not
785         // like we want them.
786         // Instead of compiling, we write JSON into the output file with all the relevant command-line flags
787         // and environment variables; this is used when cargo calls us again in the CARGO_TARGET_RUNNER phase.
788         let env = CrateRunEnv::collect(args, inside_rustdoc);
789
790         // Rustdoc expects us to exit with an error code if the test is marked as `compile_fail`,
791         // just creating the JSON file is not enough: we need to detect syntax errors,
792         // so we need to run Miri with `MIRI_BE_RUSTC` for a check-only build.
793         if inside_rustdoc {
794             let mut cmd = miri();
795
796             // Ensure --emit argument for a check-only build is present.
797             // We cannot use the usual helpers since we need to check specifically in `env.args`.
798             if let Some(i) = env.args.iter().position(|arg| arg.starts_with("--emit=")) {
799                 // For `no_run` tests, rustdoc passes a `--emit` flag; make sure it has the right shape.
800                 assert_eq!(env.args[i], "--emit=metadata");
801             } else {
802                 // For all other kinds of tests, we can just add our flag.
803                 cmd.arg("--emit=metadata");
804             }
805
806             cmd.args(&env.args);
807             cmd.env("MIRI_BE_RUSTC", "target");
808
809             if verbose {
810                 eprintln!(
811                     "[cargo-miri rustc] captured input:\n{}",
812                     std::str::from_utf8(&env.stdin).unwrap()
813                 );
814                 eprintln!("[cargo-miri rustc] {:?}", cmd);
815             }
816
817             exec_with_pipe(cmd, &env.stdin);
818         }
819
820         store_json(CrateRunInfo::RunWith(env));
821
822         return;
823     }
824
825     if runnable_crate && ArgFlagValueIter::new("--extern").any(|krate| krate == "proc_macro") {
826         // This is a "runnable" `proc-macro` crate (unit tests). We do not support
827         // interpreting that under Miri now, so we write a JSON file to (display a
828         // helpful message and) skip it in the runner phase.
829         store_json(CrateRunInfo::SkipProcMacroTest);
830         return;
831     }
832
833     let mut cmd = miri();
834     let mut emit_link_hack = false;
835     // Arguments are treated very differently depending on whether this crate is
836     // for interpretation by Miri, or for use by a build script / proc macro.
837     if !print && target_crate {
838         // Forward arguments, but remove "link" from "--emit" to make this a check-only build.
839         let emit_flag = "--emit";
840         while let Some(arg) = args.next() {
841             if let Some(val) = arg.strip_prefix(emit_flag) {
842                 // Patch this argument. First, extract its value.
843                 let val =
844                     val.strip_prefix('=').expect("`cargo` should pass `--emit=X` as one argument");
845                 let mut val: Vec<_> = val.split(',').collect();
846                 // Now make sure "link" is not in there, but "metadata" is.
847                 if let Some(i) = val.iter().position(|&s| s == "link") {
848                     emit_link_hack = true;
849                     val.remove(i);
850                     if !val.iter().any(|&s| s == "metadata") {
851                         val.push("metadata");
852                     }
853                 }
854                 cmd.arg(format!("{}={}", emit_flag, val.join(",")));
855             } else if arg == "--extern" {
856                 // Patch `--extern` filenames, since Cargo sometimes passes stub `.rlib` files:
857                 // https://github.com/rust-lang/miri/issues/1705
858                 forward_patched_extern_arg(&mut args, &mut cmd);
859             } else {
860                 cmd.arg(arg);
861             }
862         }
863
864         // Use our custom sysroot (but not if that is what we are currently building).
865         if phase != RustcPhase::Setup {
866             forward_miri_sysroot(&mut cmd);
867         }
868
869         // During setup, patch the panic runtime for `libpanic_abort` (mirroring what bootstrap usually does).
870         if phase == RustcPhase::Setup
871             && get_arg_flag_value("--crate-name").as_deref() == Some("panic_abort")
872         {
873             cmd.arg("-C").arg("panic=abort");
874         }
875     } else {
876         // For host crates or when we are printing, just forward everything.
877         cmd.args(args);
878     }
879
880     // We want to compile, not interpret. We still use Miri to make sure the compiler version etc
881     // are the exact same as what is used for interpretation.
882     // MIRI_DEFAULT_ARGS should not be used to build host crates, hence setting "target" or "host"
883     // as the value here to help Miri differentiate them.
884     cmd.env("MIRI_BE_RUSTC", if target_crate { "target" } else { "host" });
885
886     // Run it.
887     if verbose {
888         eprintln!("[cargo-miri rustc] {:?}", cmd);
889     }
890     exec(cmd);
891
892     // Create a stub .rlib file if "link" was requested by cargo.
893     // This is necessary to prevent cargo from doing rebuilds all the time.
894     if emit_link_hack {
895         // Some platforms prepend "lib", some do not... let's just create both files.
896         File::create(out_filename("lib", ".rlib")).expect("failed to create fake .rlib file");
897         File::create(out_filename("", ".rlib")).expect("failed to create fake .rlib file");
898         // Just in case this is a cdylib or staticlib, also create those fake files.
899         File::create(out_filename("lib", ".so")).expect("failed to create fake .so file");
900         File::create(out_filename("lib", ".a")).expect("failed to create fake .a file");
901         File::create(out_filename("lib", ".dylib")).expect("failed to create fake .dylib file");
902         File::create(out_filename("", ".dll")).expect("failed to create fake .dll file");
903         File::create(out_filename("", ".lib")).expect("failed to create fake .lib file");
904     }
905 }
906
907 #[derive(Debug, Copy, Clone, PartialEq)]
908 enum RunnerPhase {
909     /// `cargo` is running a binary
910     Cargo,
911     /// `rustdoc` is running a binary
912     Rustdoc,
913 }
914
915 fn phase_runner(binary: &Path, binary_args: env::Args, phase: RunnerPhase) {
916     let verbose = std::env::var_os("MIRI_VERBOSE").is_some();
917
918     let file = File::open(&binary)
919         .unwrap_or_else(|_| show_error(format!("file {:?} not found or `cargo-miri` invoked incorrectly; please only invoke this binary through `cargo miri`", binary)));
920     let file = BufReader::new(file);
921
922     let info = serde_json::from_reader(file).unwrap_or_else(|_| {
923         show_error(format!(
924             "file {:?} contains outdated or invalid JSON; try `cargo clean`",
925             binary
926         ))
927     });
928     let info = match info {
929         CrateRunInfo::RunWith(info) => info,
930         CrateRunInfo::SkipProcMacroTest => {
931             eprintln!(
932                 "Running unit tests of `proc-macro` crates is not currently supported by Miri."
933             );
934             return;
935         }
936     };
937
938     let mut cmd = miri();
939
940     // Set missing env vars. We prefer build-time env vars over run-time ones; see
941     // <https://github.com/rust-lang/miri/issues/1661> for the kind of issue that fixes.
942     for (name, val) in info.env {
943         if verbose {
944             if let Some(old_val) = env::var_os(&name) {
945                 if old_val != val {
946                     eprintln!(
947                         "[cargo-miri runner] Overwriting run-time env var {:?}={:?} with build-time value {:?}",
948                         name, old_val, val
949                     );
950                 }
951             }
952         }
953         cmd.env(name, val);
954     }
955
956     // Forward rustc arguments.
957     // We need to patch "--extern" filenames because we forced a check-only
958     // build without cargo knowing about that: replace `.rlib` suffix by
959     // `.rmeta`.
960     // We also need to remove `--error-format` as cargo specifies that to be JSON,
961     // but when we run here, cargo does not interpret the JSON any more. `--json`
962     // then also nees to be dropped.
963     let mut args = info.args.into_iter();
964     let error_format_flag = "--error-format";
965     let json_flag = "--json";
966     while let Some(arg) = args.next() {
967         if arg == "--extern" {
968             forward_patched_extern_arg(&mut args, &mut cmd);
969         } else if let Some(suffix) = arg.strip_prefix(error_format_flag) {
970             assert!(suffix.starts_with('='));
971             // Drop this argument.
972         } else if let Some(suffix) = arg.strip_prefix(json_flag) {
973             assert!(suffix.starts_with('='));
974             // Drop this argument.
975         } else {
976             cmd.arg(arg);
977         }
978     }
979     // Set sysroot (if we are inside rustdoc, we already did that in `phase_cargo_rustdoc`).
980     if phase != RunnerPhase::Rustdoc {
981         forward_miri_sysroot(&mut cmd);
982     }
983     // Respect `MIRIFLAGS`.
984     if let Ok(a) = env::var("MIRIFLAGS") {
985         // This code is taken from `RUSTFLAGS` handling in cargo.
986         let args = a.split(' ').map(str::trim).filter(|s| !s.is_empty()).map(str::to_string);
987         cmd.args(args);
988     }
989
990     // Then pass binary arguments.
991     cmd.arg("--");
992     cmd.args(binary_args);
993
994     // Make sure we use the build-time working directory for interpreting Miri/rustc arguments.
995     // But then we need to switch to the run-time one, which we instruct Miri do do by setting `MIRI_CWD`.
996     cmd.current_dir(info.current_dir);
997     cmd.env("MIRI_CWD", env::current_dir().unwrap());
998
999     // Run it.
1000     if verbose {
1001         eprintln!("[cargo-miri runner] {:?}", cmd);
1002     }
1003
1004     match phase {
1005         RunnerPhase::Rustdoc => exec_with_pipe(cmd, &info.stdin),
1006         RunnerPhase::Cargo => exec(cmd),
1007     }
1008 }
1009
1010 fn phase_rustdoc(fst_arg: &str, mut args: env::Args) {
1011     let verbose = std::env::var_os("MIRI_VERBOSE").is_some();
1012
1013     // phase_cargo_miri sets the RUSTDOC env var to ourselves, so we can't use that here;
1014     // just default to a straight-forward invocation for now:
1015     let mut cmd = Command::new("rustdoc");
1016
1017     // Because of the way the main function is structured, we have to take the first argument spearately
1018     // from the rest; to simplify the following argument patching loop, we'll just skip that one.
1019     // This is fine for now, because cargo will never pass --extern arguments in the first position,
1020     // but we should defensively assert that this will work.
1021     let extern_flag = "--extern";
1022     assert!(fst_arg != extern_flag);
1023     cmd.arg(fst_arg);
1024
1025     let runtool_flag = "--runtool";
1026     // `crossmode` records if *any* argument matches `runtool_flag`; here we check the first one.
1027     let mut crossmode = fst_arg == runtool_flag;
1028     while let Some(arg) = args.next() {
1029         if arg == extern_flag {
1030             // Patch --extern arguments to use *.rmeta files, since phase_cargo_rustc only creates stub *.rlib files.
1031             forward_patched_extern_arg(&mut args, &mut cmd);
1032         } else if arg == runtool_flag {
1033             // An existing --runtool flag indicates cargo is running in cross-target mode, which we don't support.
1034             // Note that this is only passed when cargo is run with the unstable -Zdoctest-xcompile flag;
1035             // otherwise, we won't be called as rustdoc at all.
1036             crossmode = true;
1037             break;
1038         } else {
1039             cmd.arg(arg);
1040         }
1041     }
1042
1043     if crossmode {
1044         show_error(format!("cross-interpreting doctests is not currently supported by Miri."));
1045     }
1046
1047     // Doctests of `proc-macro` crates (and their dependencies) are always built for the host,
1048     // so we are not able to run them in Miri.
1049     if ArgFlagValueIter::new("--crate-type").any(|crate_type| crate_type == "proc-macro") {
1050         eprintln!("Running doctests of `proc-macro` crates is not currently supported by Miri.");
1051         return;
1052     }
1053
1054     // For each doctest, rustdoc starts two child processes: first the test is compiled,
1055     // then the produced executable is invoked. We want to reroute both of these to cargo-miri,
1056     // such that the first time we'll enter phase_cargo_rustc, and phase_cargo_runner second.
1057     //
1058     // rustdoc invokes the test-builder by forwarding most of its own arguments, which makes
1059     // it difficult to determine when phase_cargo_rustc should run instead of phase_cargo_rustdoc.
1060     // Furthermore, the test code is passed via stdin, rather than a temporary file, so we need
1061     // to let phase_cargo_rustc know to expect that. We'll use this environment variable as a flag:
1062     cmd.env("MIRI_CALLED_FROM_RUSTDOC", "1");
1063
1064     // The `--test-builder` and `--runtool` arguments are unstable rustdoc features,
1065     // which are disabled by default. We first need to enable them explicitly:
1066     cmd.arg("-Z").arg("unstable-options");
1067
1068     // rustdoc needs to know the right sysroot.
1069     forward_miri_sysroot(&mut cmd);
1070     // make sure the 'miri' flag is set for rustdoc
1071     cmd.arg("--cfg").arg("miri");
1072
1073     // Make rustdoc call us back.
1074     let cargo_miri_path = std::env::current_exe().expect("current executable path invalid");
1075     cmd.arg("--test-builder").arg(&cargo_miri_path); // invoked by forwarding most arguments
1076     cmd.arg("--runtool").arg(&cargo_miri_path); // invoked with just a single path argument
1077
1078     if verbose {
1079         eprintln!("[cargo-miri rustdoc] {:?}", cmd);
1080     }
1081
1082     exec(cmd)
1083 }
1084
1085 fn main() {
1086     // Rustc does not support non-UTF-8 arguments so we make no attempt either.
1087     // (We do support non-UTF-8 environment variables though.)
1088     let mut args = std::env::args();
1089     // Skip binary name.
1090     args.next().unwrap();
1091
1092     // Dispatch to `cargo-miri` phase. There are four phases:
1093     // - When we are called via `cargo miri`, we run as the frontend and invoke the underlying
1094     //   cargo. We set RUSTDOC, RUSTC_WRAPPER and CARGO_TARGET_RUNNER to ourselves.
1095     // - When we are executed due to RUSTDOC, we run rustdoc and set both `--test-builder` and
1096     //   `--runtool` to ourselves.
1097     // - When we are executed due to RUSTC_WRAPPER (or as the rustdoc test builder), we build crates
1098     //   or store the flags of binary crates for later interpretation.
1099     // - When we are executed due to CARGO_TARGET_RUNNER (or as the rustdoc runtool), we start
1100     //   interpretation based on the flags that were stored earlier.
1101     //
1102     // Additionally, we also set ourselves as RUSTC when calling xargo to build the sysroot, which
1103     // has to be treated slightly differently than when we build regular crates.
1104
1105     // Dispatch running as part of sysroot compilation.
1106     if env::var_os("MIRI_CALLED_FROM_XARGO").is_some() {
1107         phase_rustc(args, RustcPhase::Setup);
1108         return;
1109     }
1110
1111     // The way rustdoc invokes rustc is indistuingishable from the way cargo invokes rustdoc by the
1112     // arguments alone. `phase_cargo_rustdoc` sets this environment variable to let us disambiguate.
1113     if env::var_os("MIRI_CALLED_FROM_RUSTDOC").is_some() {
1114         // ...however, we then also see this variable when rustdoc invokes us as the testrunner!
1115         // The runner is invoked as `$runtool ($runtool-arg)* output_file`;
1116         // since we don't specify any runtool-args, and rustdoc supplies multiple arguments to
1117         // the test-builder unconditionally, we can just check the number of remaining arguments:
1118         if args.len() == 1 {
1119             let arg = args.next().unwrap();
1120             let binary = Path::new(&arg);
1121             if binary.exists() {
1122                 phase_runner(binary, args, RunnerPhase::Rustdoc);
1123             } else {
1124                 show_error(format!(
1125                     "`cargo-miri` called with non-existing path argument `{}` in rustdoc mode; please invoke this binary through `cargo miri`",
1126                     arg
1127                 ));
1128             }
1129         } else {
1130             phase_rustc(args, RustcPhase::Rustdoc);
1131         }
1132
1133         return;
1134     }
1135
1136     match args.next().as_deref() {
1137         Some("miri") => phase_cargo_miri(args),
1138         Some("rustc") => phase_rustc(args, RustcPhase::Build),
1139         Some(arg) => {
1140             // We have to distinguish the "runner" and "rustdoc" cases.
1141             // As runner, the first argument is the binary (a file that should exist, with an absolute path);
1142             // as rustdoc, the first argument is a flag (`--something`).
1143             let binary = Path::new(arg);
1144             if binary.exists() {
1145                 assert!(!arg.starts_with("--")); // not a flag
1146                 phase_runner(binary, args, RunnerPhase::Cargo);
1147             } else if arg.starts_with("--") {
1148                 phase_rustdoc(arg, args);
1149             } else {
1150                 show_error(format!(
1151                     "`cargo-miri` called with unexpected first argument `{}`; please only invoke this binary through `cargo miri`",
1152                     arg
1153                 ));
1154             }
1155         }
1156         _ =>
1157             show_error(format!(
1158                 "`cargo-miri` called without first argument; please only invoke this binary through `cargo miri`"
1159             )),
1160     }
1161 }