]> git.lizzy.rs Git - rust.git/blob - src/librustc_codegen_ssa/back/link.rs
Rollup merge of #69568 - JOE1994:patch-2, r=Dylan-DPC
[rust.git] / src / librustc_codegen_ssa / back / link.rs
1 use rustc::middle::cstore::{EncodedMetadata, LibSource, NativeLibrary, NativeLibraryKind};
2 use rustc::middle::dependency_format::Linkage;
3 use rustc::session::config::{
4     self, CFGuard, DebugInfo, OutputFilenames, OutputType, PrintRequest, Sanitizer,
5 };
6 use rustc::session::search_paths::PathKind;
7 /// For all the linkers we support, and information they might
8 /// need out of the shared crate context before we get rid of it.
9 use rustc::session::{filesearch, Session};
10 use rustc_data_structures::fx::FxHashSet;
11 use rustc_fs_util::fix_windows_verbatim_for_gcc;
12 use rustc_hir::def_id::CrateNum;
13 use rustc_span::symbol::Symbol;
14 use rustc_target::spec::{LinkerFlavor, PanicStrategy, RelroLevel};
15
16 use super::archive::ArchiveBuilder;
17 use super::command::Command;
18 use super::linker::Linker;
19 use super::rpath::{self, RPathConfig};
20 use crate::{
21     looks_like_rust_object_file, CodegenResults, CrateInfo, METADATA_FILENAME,
22     RLIB_BYTECODE_EXTENSION,
23 };
24
25 use cc::windows_registry;
26 use tempfile::{Builder as TempFileBuilder, TempDir};
27
28 use std::ascii;
29 use std::char;
30 use std::env;
31 use std::ffi::OsString;
32 use std::fmt;
33 use std::fs;
34 use std::io;
35 use std::path::{Path, PathBuf};
36 use std::process::{ExitStatus, Output, Stdio};
37 use std::str;
38
39 pub use rustc_codegen_utils::link::*;
40
41 pub fn remove(sess: &Session, path: &Path) {
42     if let Err(e) = fs::remove_file(path) {
43         sess.err(&format!("failed to remove {}: {}", path.display(), e));
44     }
45 }
46
47 /// Performs the linkage portion of the compilation phase. This will generate all
48 /// of the requested outputs for this compilation session.
49 pub fn link_binary<'a, B: ArchiveBuilder<'a>>(
50     sess: &'a Session,
51     codegen_results: &CodegenResults,
52     outputs: &OutputFilenames,
53     crate_name: &str,
54     target_cpu: &str,
55 ) {
56     let _timer = sess.timer("link_binary");
57     let output_metadata = sess.opts.output_types.contains_key(&OutputType::Metadata);
58     for &crate_type in sess.crate_types.borrow().iter() {
59         // Ignore executable crates if we have -Z no-codegen, as they will error.
60         if (sess.opts.debugging_opts.no_codegen || !sess.opts.output_types.should_codegen())
61             && !output_metadata
62             && crate_type == config::CrateType::Executable
63         {
64             continue;
65         }
66
67         if invalid_output_for_target(sess, crate_type) {
68             bug!(
69                 "invalid output type `{:?}` for target os `{}`",
70                 crate_type,
71                 sess.opts.target_triple
72             );
73         }
74
75         sess.time("link_binary_check_files_are_writeable", || {
76             for obj in codegen_results.modules.iter().filter_map(|m| m.object.as_ref()) {
77                 check_file_is_writeable(obj, sess);
78             }
79         });
80
81         let tmpdir = TempFileBuilder::new()
82             .prefix("rustc")
83             .tempdir()
84             .unwrap_or_else(|err| sess.fatal(&format!("couldn't create a temp dir: {}", err)));
85
86         if outputs.outputs.should_codegen() {
87             let out_filename = out_filename(sess, crate_type, outputs, crate_name);
88             match crate_type {
89                 config::CrateType::Rlib => {
90                     let _timer = sess.timer("link_rlib");
91                     link_rlib::<B>(
92                         sess,
93                         codegen_results,
94                         RlibFlavor::Normal,
95                         &out_filename,
96                         &tmpdir,
97                     )
98                     .build();
99                 }
100                 config::CrateType::Staticlib => {
101                     link_staticlib::<B>(sess, codegen_results, &out_filename, &tmpdir);
102                 }
103                 _ => {
104                     link_natively::<B>(
105                         sess,
106                         crate_type,
107                         &out_filename,
108                         codegen_results,
109                         tmpdir.path(),
110                         target_cpu,
111                     );
112                 }
113             }
114             if sess.opts.json_artifact_notifications {
115                 sess.parse_sess.span_diagnostic.emit_artifact_notification(&out_filename, "link");
116             }
117         }
118
119         if sess.opts.cg.save_temps {
120             let _ = tmpdir.into_path();
121         }
122     }
123
124     // Remove the temporary object file and metadata if we aren't saving temps
125     sess.time("link_binary_remove_temps", || {
126         if !sess.opts.cg.save_temps {
127             if sess.opts.output_types.should_codegen()
128                 && !preserve_objects_for_their_debuginfo(sess)
129             {
130                 for obj in codegen_results.modules.iter().filter_map(|m| m.object.as_ref()) {
131                     remove(sess, obj);
132                 }
133             }
134             for obj in codegen_results.modules.iter().filter_map(|m| m.bytecode_compressed.as_ref())
135             {
136                 remove(sess, obj);
137             }
138             if let Some(ref metadata_module) = codegen_results.metadata_module {
139                 if let Some(ref obj) = metadata_module.object {
140                     remove(sess, obj);
141                 }
142             }
143             if let Some(ref allocator_module) = codegen_results.allocator_module {
144                 if let Some(ref obj) = allocator_module.object {
145                     remove(sess, obj);
146                 }
147                 if let Some(ref bc) = allocator_module.bytecode_compressed {
148                     remove(sess, bc);
149                 }
150             }
151         }
152     });
153 }
154
155 // The third parameter is for env vars, used on windows to set up the
156 // path for MSVC to find its DLLs, and gcc to find its bundled
157 // toolchain
158 pub fn get_linker(sess: &Session, linker: &Path, flavor: LinkerFlavor) -> (PathBuf, Command) {
159     let msvc_tool = windows_registry::find_tool(&sess.opts.target_triple.triple(), "link.exe");
160
161     // If our linker looks like a batch script on Windows then to execute this
162     // we'll need to spawn `cmd` explicitly. This is primarily done to handle
163     // emscripten where the linker is `emcc.bat` and needs to be spawned as
164     // `cmd /c emcc.bat ...`.
165     //
166     // This worked historically but is needed manually since #42436 (regression
167     // was tagged as #42791) and some more info can be found on #44443 for
168     // emscripten itself.
169     let mut cmd = match linker.to_str() {
170         Some(linker) if cfg!(windows) && linker.ends_with(".bat") => Command::bat_script(linker),
171         _ => match flavor {
172             LinkerFlavor::Lld(f) => Command::lld(linker, f),
173             LinkerFlavor::Msvc
174                 if sess.opts.cg.linker.is_none() && sess.target.target.options.linker.is_none() =>
175             {
176                 Command::new(msvc_tool.as_ref().map(|t| t.path()).unwrap_or(linker))
177             }
178             _ => Command::new(linker),
179         },
180     };
181
182     // UWP apps have API restrictions enforced during Store submissions.
183     // To comply with the Windows App Certification Kit,
184     // MSVC needs to link with the Store versions of the runtime libraries (vcruntime, msvcrt, etc).
185     let t = &sess.target.target;
186     if flavor == LinkerFlavor::Msvc && t.target_vendor == "uwp" {
187         if let Some(ref tool) = msvc_tool {
188             let original_path = tool.path();
189             if let Some(ref root_lib_path) = original_path.ancestors().skip(4).next() {
190                 let arch = match t.arch.as_str() {
191                     "x86_64" => Some("x64".to_string()),
192                     "x86" => Some("x86".to_string()),
193                     "aarch64" => Some("arm64".to_string()),
194                     _ => None,
195                 };
196                 if let Some(ref a) = arch {
197                     let mut arg = OsString::from("/LIBPATH:");
198                     arg.push(format!("{}\\lib\\{}\\store", root_lib_path.display(), a.to_string()));
199                     cmd.arg(&arg);
200                 } else {
201                     warn!("arch is not supported");
202                 }
203             } else {
204                 warn!("MSVC root path lib location not found");
205             }
206         } else {
207             warn!("link.exe not found");
208         }
209     }
210
211     // The compiler's sysroot often has some bundled tools, so add it to the
212     // PATH for the child.
213     let mut new_path = sess.host_filesearch(PathKind::All).get_tools_search_paths();
214     let mut msvc_changed_path = false;
215     if sess.target.target.options.is_like_msvc {
216         if let Some(ref tool) = msvc_tool {
217             cmd.args(tool.args());
218             for &(ref k, ref v) in tool.env() {
219                 if k == "PATH" {
220                     new_path.extend(env::split_paths(v));
221                     msvc_changed_path = true;
222                 } else {
223                     cmd.env(k, v);
224                 }
225             }
226         }
227     }
228
229     if !msvc_changed_path {
230         if let Some(path) = env::var_os("PATH") {
231             new_path.extend(env::split_paths(&path));
232         }
233     }
234     cmd.env("PATH", env::join_paths(new_path).unwrap());
235
236     (linker.to_path_buf(), cmd)
237 }
238
239 pub fn each_linked_rlib(
240     info: &CrateInfo,
241     f: &mut dyn FnMut(CrateNum, &Path),
242 ) -> Result<(), String> {
243     let crates = info.used_crates_static.iter();
244     let mut fmts = None;
245     for (ty, list) in info.dependency_formats.iter() {
246         match ty {
247             config::CrateType::Executable
248             | config::CrateType::Staticlib
249             | config::CrateType::Cdylib
250             | config::CrateType::ProcMacro => {
251                 fmts = Some(list);
252                 break;
253             }
254             _ => {}
255         }
256     }
257     let fmts = match fmts {
258         Some(f) => f,
259         None => return Err("could not find formats for rlibs".to_string()),
260     };
261     for &(cnum, ref path) in crates {
262         match fmts.get(cnum.as_usize() - 1) {
263             Some(&Linkage::NotLinked) | Some(&Linkage::IncludedFromDylib) => continue,
264             Some(_) => {}
265             None => return Err("could not find formats for rlibs".to_string()),
266         }
267         let name = &info.crate_name[&cnum];
268         let path = match *path {
269             LibSource::Some(ref p) => p,
270             LibSource::MetadataOnly => {
271                 return Err(format!(
272                     "could not find rlib for: `{}`, found rmeta (metadata) file",
273                     name
274                 ));
275             }
276             LibSource::None => return Err(format!("could not find rlib for: `{}`", name)),
277         };
278         f(cnum, &path);
279     }
280     Ok(())
281 }
282
283 /// We use a temp directory here to avoid races between concurrent rustc processes,
284 /// such as builds in the same directory using the same filename for metadata while
285 /// building an `.rlib` (stomping over one another), or writing an `.rmeta` into a
286 /// directory being searched for `extern crate` (observing an incomplete file).
287 /// The returned path is the temporary file containing the complete metadata.
288 pub fn emit_metadata<'a>(
289     sess: &'a Session,
290     metadata: &EncodedMetadata,
291     tmpdir: &TempDir,
292 ) -> PathBuf {
293     let out_filename = tmpdir.path().join(METADATA_FILENAME);
294     let result = fs::write(&out_filename, &metadata.raw_data);
295
296     if let Err(e) = result {
297         sess.fatal(&format!("failed to write {}: {}", out_filename.display(), e));
298     }
299
300     out_filename
301 }
302
303 // Create an 'rlib'
304 //
305 // An rlib in its current incarnation is essentially a renamed .a file. The
306 // rlib primarily contains the object file of the crate, but it also contains
307 // all of the object files from native libraries. This is done by unzipping
308 // native libraries and inserting all of the contents into this archive.
309 fn link_rlib<'a, B: ArchiveBuilder<'a>>(
310     sess: &'a Session,
311     codegen_results: &CodegenResults,
312     flavor: RlibFlavor,
313     out_filename: &Path,
314     tmpdir: &TempDir,
315 ) -> B {
316     info!("preparing rlib to {:?}", out_filename);
317     let mut ab = <B as ArchiveBuilder>::new(sess, out_filename, None);
318
319     for obj in codegen_results.modules.iter().filter_map(|m| m.object.as_ref()) {
320         ab.add_file(obj);
321     }
322
323     // Note that in this loop we are ignoring the value of `lib.cfg`. That is,
324     // we may not be configured to actually include a static library if we're
325     // adding it here. That's because later when we consume this rlib we'll
326     // decide whether we actually needed the static library or not.
327     //
328     // To do this "correctly" we'd need to keep track of which libraries added
329     // which object files to the archive. We don't do that here, however. The
330     // #[link(cfg(..))] feature is unstable, though, and only intended to get
331     // liblibc working. In that sense the check below just indicates that if
332     // there are any libraries we want to omit object files for at link time we
333     // just exclude all custom object files.
334     //
335     // Eventually if we want to stabilize or flesh out the #[link(cfg(..))]
336     // feature then we'll need to figure out how to record what objects were
337     // loaded from the libraries found here and then encode that into the
338     // metadata of the rlib we're generating somehow.
339     for lib in codegen_results.crate_info.used_libraries.iter() {
340         match lib.kind {
341             NativeLibraryKind::NativeStatic => {}
342             NativeLibraryKind::NativeStaticNobundle
343             | NativeLibraryKind::NativeFramework
344             | NativeLibraryKind::NativeRawDylib
345             | NativeLibraryKind::NativeUnknown => continue,
346         }
347         if let Some(name) = lib.name {
348             ab.add_native_library(name);
349         }
350     }
351
352     // After adding all files to the archive, we need to update the
353     // symbol table of the archive.
354     ab.update_symbols();
355
356     // Note that it is important that we add all of our non-object "magical
357     // files" *after* all of the object files in the archive. The reason for
358     // this is as follows:
359     //
360     // * When performing LTO, this archive will be modified to remove
361     //   objects from above. The reason for this is described below.
362     //
363     // * When the system linker looks at an archive, it will attempt to
364     //   determine the architecture of the archive in order to see whether its
365     //   linkable.
366     //
367     //   The algorithm for this detection is: iterate over the files in the
368     //   archive. Skip magical SYMDEF names. Interpret the first file as an
369     //   object file. Read architecture from the object file.
370     //
371     // * As one can probably see, if "metadata" and "foo.bc" were placed
372     //   before all of the objects, then the architecture of this archive would
373     //   not be correctly inferred once 'foo.o' is removed.
374     //
375     // Basically, all this means is that this code should not move above the
376     // code above.
377     match flavor {
378         RlibFlavor::Normal => {
379             // Instead of putting the metadata in an object file section, rlibs
380             // contain the metadata in a separate file.
381             ab.add_file(&emit_metadata(sess, &codegen_results.metadata, tmpdir));
382
383             // For LTO purposes, the bytecode of this library is also inserted
384             // into the archive.
385             for bytecode in
386                 codegen_results.modules.iter().filter_map(|m| m.bytecode_compressed.as_ref())
387             {
388                 ab.add_file(bytecode);
389             }
390
391             // After adding all files to the archive, we need to update the
392             // symbol table of the archive. This currently dies on macOS (see
393             // #11162), and isn't necessary there anyway
394             if !sess.target.target.options.is_like_osx {
395                 ab.update_symbols();
396             }
397         }
398
399         RlibFlavor::StaticlibBase => {
400             let obj = codegen_results.allocator_module.as_ref().and_then(|m| m.object.as_ref());
401             if let Some(obj) = obj {
402                 ab.add_file(obj);
403             }
404         }
405     }
406
407     ab
408 }
409
410 // Create a static archive
411 //
412 // This is essentially the same thing as an rlib, but it also involves adding
413 // all of the upstream crates' objects into the archive. This will slurp in
414 // all of the native libraries of upstream dependencies as well.
415 //
416 // Additionally, there's no way for us to link dynamic libraries, so we warn
417 // about all dynamic library dependencies that they're not linked in.
418 //
419 // There's no need to include metadata in a static archive, so ensure to not
420 // link in the metadata object file (and also don't prepare the archive with a
421 // metadata file).
422 fn link_staticlib<'a, B: ArchiveBuilder<'a>>(
423     sess: &'a Session,
424     codegen_results: &CodegenResults,
425     out_filename: &Path,
426     tempdir: &TempDir,
427 ) {
428     let mut ab =
429         link_rlib::<B>(sess, codegen_results, RlibFlavor::StaticlibBase, out_filename, tempdir);
430     let mut all_native_libs = vec![];
431
432     let res = each_linked_rlib(&codegen_results.crate_info, &mut |cnum, path| {
433         let name = &codegen_results.crate_info.crate_name[&cnum];
434         let native_libs = &codegen_results.crate_info.native_libraries[&cnum];
435
436         // Here when we include the rlib into our staticlib we need to make a
437         // decision whether to include the extra object files along the way.
438         // These extra object files come from statically included native
439         // libraries, but they may be cfg'd away with #[link(cfg(..))].
440         //
441         // This unstable feature, though, only needs liblibc to work. The only
442         // use case there is where musl is statically included in liblibc.rlib,
443         // so if we don't want the included version we just need to skip it. As
444         // a result the logic here is that if *any* linked library is cfg'd away
445         // we just skip all object files.
446         //
447         // Clearly this is not sufficient for a general purpose feature, and
448         // we'd want to read from the library's metadata to determine which
449         // object files come from where and selectively skip them.
450         let skip_object_files = native_libs
451             .iter()
452             .any(|lib| lib.kind == NativeLibraryKind::NativeStatic && !relevant_lib(sess, lib));
453         ab.add_rlib(
454             path,
455             &name.as_str(),
456             are_upstream_rust_objects_already_included(sess)
457                 && !ignored_for_lto(sess, &codegen_results.crate_info, cnum),
458             skip_object_files,
459         )
460         .unwrap();
461
462         all_native_libs.extend(codegen_results.crate_info.native_libraries[&cnum].iter().cloned());
463     });
464     if let Err(e) = res {
465         sess.fatal(&e);
466     }
467
468     ab.update_symbols();
469     ab.build();
470
471     if !all_native_libs.is_empty() {
472         if sess.opts.prints.contains(&PrintRequest::NativeStaticLibs) {
473             print_native_static_libs(sess, &all_native_libs);
474         }
475     }
476 }
477
478 // Create a dynamic library or executable
479 //
480 // This will invoke the system linker/cc to create the resulting file. This
481 // links to all upstream files as well.
482 fn link_natively<'a, B: ArchiveBuilder<'a>>(
483     sess: &'a Session,
484     crate_type: config::CrateType,
485     out_filename: &Path,
486     codegen_results: &CodegenResults,
487     tmpdir: &Path,
488     target_cpu: &str,
489 ) {
490     info!("preparing {:?} to {:?}", crate_type, out_filename);
491     let (linker, flavor) = linker_and_flavor(sess);
492
493     // The invocations of cc share some flags across platforms
494     let (pname, mut cmd) = get_linker(sess, &linker, flavor);
495
496     if let Some(args) = sess.target.target.options.pre_link_args.get(&flavor) {
497         cmd.args(args);
498     }
499     if let Some(args) = sess.target.target.options.pre_link_args_crt.get(&flavor) {
500         if sess.crt_static() {
501             cmd.args(args);
502         }
503     }
504     if let Some(ref args) = sess.opts.debugging_opts.pre_link_args {
505         cmd.args(args);
506     }
507     cmd.args(&sess.opts.debugging_opts.pre_link_arg);
508
509     if sess.target.target.options.is_like_fuchsia {
510         let prefix = match sess.opts.debugging_opts.sanitizer {
511             Some(Sanitizer::Address) => "asan/",
512             _ => "",
513         };
514         cmd.arg(format!("--dynamic-linker={}ld.so.1", prefix));
515     }
516
517     let pre_link_objects = if crate_type == config::CrateType::Executable {
518         &sess.target.target.options.pre_link_objects_exe
519     } else {
520         &sess.target.target.options.pre_link_objects_dll
521     };
522     for obj in pre_link_objects {
523         cmd.arg(get_file_path(sess, obj));
524     }
525
526     if crate_type == config::CrateType::Executable && sess.crt_static() {
527         for obj in &sess.target.target.options.pre_link_objects_exe_crt {
528             cmd.arg(get_file_path(sess, obj));
529         }
530     }
531
532     if sess.target.target.options.is_like_emscripten {
533         cmd.arg("-s");
534         cmd.arg(if sess.panic_strategy() == PanicStrategy::Abort {
535             "DISABLE_EXCEPTION_CATCHING=1"
536         } else {
537             "DISABLE_EXCEPTION_CATCHING=0"
538         });
539     }
540
541     {
542         let mut linker = codegen_results.linker_info.to_linker(cmd, &sess, flavor, target_cpu);
543         link_sanitizer_runtime(sess, crate_type, &mut *linker);
544         link_args::<B>(
545             &mut *linker,
546             flavor,
547             sess,
548             crate_type,
549             tmpdir,
550             out_filename,
551             codegen_results,
552         );
553         cmd = linker.finalize();
554     }
555     if let Some(args) = sess.target.target.options.late_link_args.get(&flavor) {
556         cmd.args(args);
557     }
558     for obj in &sess.target.target.options.post_link_objects {
559         cmd.arg(get_file_path(sess, obj));
560     }
561     if sess.crt_static() {
562         for obj in &sess.target.target.options.post_link_objects_crt {
563             cmd.arg(get_file_path(sess, obj));
564         }
565     }
566     if let Some(args) = sess.target.target.options.post_link_args.get(&flavor) {
567         cmd.args(args);
568     }
569     for &(ref k, ref v) in &sess.target.target.options.link_env {
570         cmd.env(k, v);
571     }
572     for k in &sess.target.target.options.link_env_remove {
573         cmd.env_remove(k);
574     }
575
576     if sess.opts.debugging_opts.print_link_args {
577         println!("{:?}", &cmd);
578     }
579
580     // May have not found libraries in the right formats.
581     sess.abort_if_errors();
582
583     // Invoke the system linker
584     info!("{:?}", &cmd);
585     let retry_on_segfault = env::var("RUSTC_RETRY_LINKER_ON_SEGFAULT").is_ok();
586     let mut prog;
587     let mut i = 0;
588     loop {
589         i += 1;
590         prog = sess.time("run_linker", || exec_linker(sess, &mut cmd, out_filename, tmpdir));
591         let output = match prog {
592             Ok(ref output) => output,
593             Err(_) => break,
594         };
595         if output.status.success() {
596             break;
597         }
598         let mut out = output.stderr.clone();
599         out.extend(&output.stdout);
600         let out = String::from_utf8_lossy(&out);
601
602         // Check to see if the link failed with "unrecognized command line option:
603         // '-no-pie'" for gcc or "unknown argument: '-no-pie'" for clang. If so,
604         // reperform the link step without the -no-pie option. This is safe because
605         // if the linker doesn't support -no-pie then it should not default to
606         // linking executables as pie. Different versions of gcc seem to use
607         // different quotes in the error message so don't check for them.
608         if sess.target.target.options.linker_is_gnu
609             && flavor != LinkerFlavor::Ld
610             && (out.contains("unrecognized command line option")
611                 || out.contains("unknown argument"))
612             && out.contains("-no-pie")
613             && cmd.get_args().iter().any(|e| e.to_string_lossy() == "-no-pie")
614         {
615             info!("linker output: {:?}", out);
616             warn!("Linker does not support -no-pie command line option. Retrying without.");
617             for arg in cmd.take_args() {
618                 if arg.to_string_lossy() != "-no-pie" {
619                     cmd.arg(arg);
620                 }
621             }
622             info!("{:?}", &cmd);
623             continue;
624         }
625
626         // Here's a terribly awful hack that really shouldn't be present in any
627         // compiler. Here an environment variable is supported to automatically
628         // retry the linker invocation if the linker looks like it segfaulted.
629         //
630         // Gee that seems odd, normally segfaults are things we want to know
631         // about!  Unfortunately though in rust-lang/rust#38878 we're
632         // experiencing the linker segfaulting on Travis quite a bit which is
633         // causing quite a bit of pain to land PRs when they spuriously fail
634         // due to a segfault.
635         //
636         // The issue #38878 has some more debugging information on it as well,
637         // but this unfortunately looks like it's just a race condition in
638         // macOS's linker with some thread pool working in the background. It
639         // seems that no one currently knows a fix for this so in the meantime
640         // we're left with this...
641         if !retry_on_segfault || i > 3 {
642             break;
643         }
644         let msg_segv = "clang: error: unable to execute command: Segmentation fault: 11";
645         let msg_bus = "clang: error: unable to execute command: Bus error: 10";
646         if out.contains(msg_segv) || out.contains(msg_bus) {
647             warn!(
648                 "looks like the linker segfaulted when we tried to call it, \
649                  automatically retrying again. cmd = {:?}, out = {}.",
650                 cmd, out,
651             );
652             continue;
653         }
654
655         if is_illegal_instruction(&output.status) {
656             warn!(
657                 "looks like the linker hit an illegal instruction when we \
658                  tried to call it, automatically retrying again. cmd = {:?}, ]\
659                  out = {}, status = {}.",
660                 cmd, out, output.status,
661             );
662             continue;
663         }
664
665         #[cfg(unix)]
666         fn is_illegal_instruction(status: &ExitStatus) -> bool {
667             use std::os::unix::prelude::*;
668             status.signal() == Some(libc::SIGILL)
669         }
670
671         #[cfg(windows)]
672         fn is_illegal_instruction(_status: &ExitStatus) -> bool {
673             false
674         }
675     }
676
677     match prog {
678         Ok(prog) => {
679             fn escape_string(s: &[u8]) -> String {
680                 str::from_utf8(s).map(|s| s.to_owned()).unwrap_or_else(|_| {
681                     let mut x = "Non-UTF-8 output: ".to_string();
682                     x.extend(s.iter().flat_map(|&b| ascii::escape_default(b)).map(char::from));
683                     x
684                 })
685             }
686             if !prog.status.success() {
687                 let mut output = prog.stderr.clone();
688                 output.extend_from_slice(&prog.stdout);
689                 sess.struct_err(&format!(
690                     "linking with `{}` failed: {}",
691                     pname.display(),
692                     prog.status
693                 ))
694                 .note(&format!("{:?}", &cmd))
695                 .note(&escape_string(&output))
696                 .emit();
697                 sess.abort_if_errors();
698             }
699             info!("linker stderr:\n{}", escape_string(&prog.stderr));
700             info!("linker stdout:\n{}", escape_string(&prog.stdout));
701         }
702         Err(e) => {
703             let linker_not_found = e.kind() == io::ErrorKind::NotFound;
704
705             let mut linker_error = {
706                 if linker_not_found {
707                     sess.struct_err(&format!("linker `{}` not found", pname.display()))
708                 } else {
709                     sess.struct_err(&format!("could not exec the linker `{}`", pname.display()))
710                 }
711             };
712
713             linker_error.note(&e.to_string());
714
715             if !linker_not_found {
716                 linker_error.note(&format!("{:?}", &cmd));
717             }
718
719             linker_error.emit();
720
721             if sess.target.target.options.is_like_msvc && linker_not_found {
722                 sess.note_without_error(
723                     "the msvc targets depend on the msvc linker \
724                      but `link.exe` was not found",
725                 );
726                 sess.note_without_error(
727                     "please ensure that VS 2013, VS 2015, VS 2017 or VS 2019 \
728                      was installed with the Visual C++ option",
729                 );
730             }
731             sess.abort_if_errors();
732         }
733     }
734
735     // On macOS, debuggers need this utility to get run to do some munging of
736     // the symbols. Note, though, that if the object files are being preserved
737     // for their debug information there's no need for us to run dsymutil.
738     if sess.target.target.options.is_like_osx
739         && sess.opts.debuginfo != DebugInfo::None
740         && !preserve_objects_for_their_debuginfo(sess)
741     {
742         if let Err(e) = Command::new("dsymutil").arg(out_filename).output() {
743             sess.fatal(&format!("failed to run dsymutil: {}", e))
744         }
745     }
746 }
747
748 fn link_sanitizer_runtime(sess: &Session, crate_type: config::CrateType, linker: &mut dyn Linker) {
749     let sanitizer = match &sess.opts.debugging_opts.sanitizer {
750         Some(s) => s,
751         None => return,
752     };
753
754     if crate_type != config::CrateType::Executable {
755         return;
756     }
757
758     let name = match sanitizer {
759         Sanitizer::Address => "asan",
760         Sanitizer::Leak => "lsan",
761         Sanitizer::Memory => "msan",
762         Sanitizer::Thread => "tsan",
763     };
764
765     let default_sysroot = filesearch::get_or_default_sysroot();
766     let default_tlib =
767         filesearch::make_target_lib_path(&default_sysroot, sess.opts.target_triple.triple());
768     let channel = option_env!("CFG_RELEASE_CHANNEL")
769         .map(|channel| format!("-{}", channel))
770         .unwrap_or_default();
771
772     match sess.opts.target_triple.triple() {
773         "x86_64-apple-darwin" => {
774             // On Apple platforms, the sanitizer is always built as a dylib, and
775             // LLVM will link to `@rpath/*.dylib`, so we need to specify an
776             // rpath to the library as well (the rpath should be absolute, see
777             // PR #41352 for details).
778             let libname = format!("rustc{}_rt.{}", channel, name);
779             let rpath = default_tlib.to_str().expect("non-utf8 component in path");
780             linker.args(&["-Wl,-rpath".into(), "-Xlinker".into(), rpath.into()]);
781             linker.link_dylib(Symbol::intern(&libname));
782         }
783         "x86_64-unknown-linux-gnu" | "x86_64-fuchsia" | "aarch64-fuchsia" => {
784             let filename = format!("librustc{}_rt.{}.a", channel, name);
785             let path = default_tlib.join(&filename);
786             linker.link_whole_rlib(&path);
787         }
788         _ => {}
789     }
790 }
791
792 /// Returns a boolean indicating whether the specified crate should be ignored
793 /// during LTO.
794 ///
795 /// Crates ignored during LTO are not lumped together in the "massive object
796 /// file" that we create and are linked in their normal rlib states. See
797 /// comments below for what crates do not participate in LTO.
798 ///
799 /// It's unusual for a crate to not participate in LTO. Typically only
800 /// compiler-specific and unstable crates have a reason to not participate in
801 /// LTO.
802 pub fn ignored_for_lto(sess: &Session, info: &CrateInfo, cnum: CrateNum) -> bool {
803     // If our target enables builtin function lowering in LLVM then the
804     // crates providing these functions don't participate in LTO (e.g.
805     // no_builtins or compiler builtins crates).
806     !sess.target.target.options.no_builtins
807         && (info.compiler_builtins == Some(cnum) || info.is_no_builtins.contains(&cnum))
808 }
809
810 pub fn linker_and_flavor(sess: &Session) -> (PathBuf, LinkerFlavor) {
811     fn infer_from(
812         sess: &Session,
813         linker: Option<PathBuf>,
814         flavor: Option<LinkerFlavor>,
815     ) -> Option<(PathBuf, LinkerFlavor)> {
816         match (linker, flavor) {
817             (Some(linker), Some(flavor)) => Some((linker, flavor)),
818             // only the linker flavor is known; use the default linker for the selected flavor
819             (None, Some(flavor)) => Some((
820                 PathBuf::from(match flavor {
821                     LinkerFlavor::Em => {
822                         if cfg!(windows) {
823                             "emcc.bat"
824                         } else {
825                             "emcc"
826                         }
827                     }
828                     LinkerFlavor::Gcc => "cc",
829                     LinkerFlavor::Ld => "ld",
830                     LinkerFlavor::Msvc => "link.exe",
831                     LinkerFlavor::Lld(_) => "lld",
832                     LinkerFlavor::PtxLinker => "rust-ptx-linker",
833                 }),
834                 flavor,
835             )),
836             (Some(linker), None) => {
837                 let stem = linker.file_stem().and_then(|stem| stem.to_str()).unwrap_or_else(|| {
838                     sess.fatal("couldn't extract file stem from specified linker")
839                 });
840
841                 let flavor = if stem == "emcc" {
842                     LinkerFlavor::Em
843                 } else if stem == "gcc"
844                     || stem.ends_with("-gcc")
845                     || stem == "clang"
846                     || stem.ends_with("-clang")
847                 {
848                     LinkerFlavor::Gcc
849                 } else if stem == "ld" || stem == "ld.lld" || stem.ends_with("-ld") {
850                     LinkerFlavor::Ld
851                 } else if stem == "link" || stem == "lld-link" {
852                     LinkerFlavor::Msvc
853                 } else if stem == "lld" || stem == "rust-lld" {
854                     LinkerFlavor::Lld(sess.target.target.options.lld_flavor)
855                 } else {
856                     // fall back to the value in the target spec
857                     sess.target.target.linker_flavor
858                 };
859
860                 Some((linker, flavor))
861             }
862             (None, None) => None,
863         }
864     }
865
866     // linker and linker flavor specified via command line have precedence over what the target
867     // specification specifies
868     if let Some(ret) = infer_from(sess, sess.opts.cg.linker.clone(), sess.opts.cg.linker_flavor) {
869         return ret;
870     }
871
872     if let Some(ret) = infer_from(
873         sess,
874         sess.target.target.options.linker.clone().map(PathBuf::from),
875         Some(sess.target.target.linker_flavor),
876     ) {
877         return ret;
878     }
879
880     bug!("Not enough information provided to determine how to invoke the linker");
881 }
882
883 /// Returns a boolean indicating whether we should preserve the object files on
884 /// the filesystem for their debug information. This is often useful with
885 /// split-dwarf like schemes.
886 pub fn preserve_objects_for_their_debuginfo(sess: &Session) -> bool {
887     // If the objects don't have debuginfo there's nothing to preserve.
888     if sess.opts.debuginfo == config::DebugInfo::None {
889         return false;
890     }
891
892     // If we're only producing artifacts that are archives, no need to preserve
893     // the objects as they're losslessly contained inside the archives.
894     let output_linked = sess
895         .crate_types
896         .borrow()
897         .iter()
898         .any(|&x| x != config::CrateType::Rlib && x != config::CrateType::Staticlib);
899     if !output_linked {
900         return false;
901     }
902
903     // If we're on OSX then the equivalent of split dwarf is turned on by
904     // default. The final executable won't actually have any debug information
905     // except it'll have pointers to elsewhere. Historically we've always run
906     // `dsymutil` to "link all the dwarf together" but this is actually sort of
907     // a bummer for incremental compilation! (the whole point of split dwarf is
908     // that you don't do this sort of dwarf link).
909     //
910     // Basically as a result this just means that if we're on OSX and we're
911     // *not* running dsymutil then the object files are the only source of truth
912     // for debug information, so we must preserve them.
913     if sess.target.target.options.is_like_osx {
914         match sess.opts.debugging_opts.run_dsymutil {
915             // dsymutil is not being run, preserve objects
916             Some(false) => return true,
917
918             // dsymutil is being run, no need to preserve the objects
919             Some(true) => return false,
920
921             // The default historical behavior was to always run dsymutil, so
922             // we're preserving that temporarily, but we're likely to switch the
923             // default soon.
924             None => return false,
925         }
926     }
927
928     false
929 }
930
931 pub fn archive_search_paths(sess: &Session) -> Vec<PathBuf> {
932     sess.target_filesearch(PathKind::Native).search_path_dirs()
933 }
934
935 enum RlibFlavor {
936     Normal,
937     StaticlibBase,
938 }
939
940 pub fn print_native_static_libs(sess: &Session, all_native_libs: &[NativeLibrary]) {
941     let lib_args: Vec<_> = all_native_libs
942         .iter()
943         .filter(|l| relevant_lib(sess, l))
944         .filter_map(|lib| {
945             let name = lib.name?;
946             match lib.kind {
947                 NativeLibraryKind::NativeStaticNobundle | NativeLibraryKind::NativeUnknown => {
948                     if sess.target.target.options.is_like_msvc {
949                         Some(format!("{}.lib", name))
950                     } else {
951                         Some(format!("-l{}", name))
952                     }
953                 }
954                 NativeLibraryKind::NativeFramework => {
955                     // ld-only syntax, since there are no frameworks in MSVC
956                     Some(format!("-framework {}", name))
957                 }
958                 // These are included, no need to print them
959                 NativeLibraryKind::NativeStatic | NativeLibraryKind::NativeRawDylib => None,
960             }
961         })
962         .collect();
963     if !lib_args.is_empty() {
964         sess.note_without_error(
965             "Link against the following native artifacts when linking \
966                                  against this static library. The order and any duplication \
967                                  can be significant on some platforms.",
968         );
969         // Prefix for greppability
970         sess.note_without_error(&format!("native-static-libs: {}", &lib_args.join(" ")));
971     }
972 }
973
974 // Because windows-gnu target is meant to be self-contained for pure Rust code it bundles
975 // own mingw-w64 libraries. These libraries are usually not compatible with mingw-w64
976 // installed in the system. This breaks many cases where Rust is mixed with other languages
977 // (e.g. *-sys crates).
978 // We prefer system mingw-w64 libraries if they are available to avoid this issue.
979 fn get_crt_libs_path(sess: &Session) -> Option<PathBuf> {
980     fn find_exe_in_path<P>(exe_name: P) -> Option<PathBuf>
981     where
982         P: AsRef<Path>,
983     {
984         for dir in env::split_paths(&env::var_os("PATH")?) {
985             let full_path = dir.join(&exe_name);
986             if full_path.is_file() {
987                 return Some(fix_windows_verbatim_for_gcc(&full_path));
988             }
989         }
990         None
991     }
992
993     fn probe(sess: &Session) -> Option<PathBuf> {
994         if let (linker, LinkerFlavor::Gcc) = linker_and_flavor(&sess) {
995             let linker_path = if cfg!(windows) && linker.extension().is_none() {
996                 linker.with_extension("exe")
997             } else {
998                 linker
999             };
1000             if let Some(linker_path) = find_exe_in_path(linker_path) {
1001                 let mingw_arch = match &sess.target.target.arch {
1002                     x if x == "x86" => "i686",
1003                     x => x,
1004                 };
1005                 let mingw_bits = &sess.target.target.target_pointer_width;
1006                 let mingw_dir = format!("{}-w64-mingw32", mingw_arch);
1007                 // Here we have path/bin/gcc but we need path/
1008                 let mut path = linker_path;
1009                 path.pop();
1010                 path.pop();
1011                 // Loosely based on Clang MinGW driver
1012                 let probe_paths = vec![
1013                     path.join(&mingw_dir).join("lib"),                // Typical path
1014                     path.join(&mingw_dir).join("sys-root/mingw/lib"), // Rare path
1015                     path.join(format!(
1016                         "lib/mingw/tools/install/mingw{}/{}/lib",
1017                         &mingw_bits, &mingw_dir
1018                     )), // Chocolatey is creative
1019                 ];
1020                 for probe_path in probe_paths {
1021                     if probe_path.join("crt2.o").exists() {
1022                         return Some(probe_path);
1023                     };
1024                 }
1025             };
1026         };
1027         None
1028     }
1029
1030     let mut system_library_path = sess.system_library_path.borrow_mut();
1031     match &*system_library_path {
1032         Some(Some(compiler_libs_path)) => Some(compiler_libs_path.clone()),
1033         Some(None) => None,
1034         None => {
1035             let path = probe(sess);
1036             *system_library_path = Some(path.clone());
1037             path
1038         }
1039     }
1040 }
1041
1042 pub fn get_file_path(sess: &Session, name: &str) -> PathBuf {
1043     // prefer system {,dll}crt2.o libs, see get_crt_libs_path comment for more details
1044     if sess.target.target.llvm_target.contains("windows-gnu") {
1045         if let Some(compiler_libs_path) = get_crt_libs_path(sess) {
1046             let file_path = compiler_libs_path.join(name);
1047             if file_path.exists() {
1048                 return file_path;
1049             }
1050         }
1051     }
1052     let fs = sess.target_filesearch(PathKind::Native);
1053     let file_path = fs.get_lib_path().join(name);
1054     if file_path.exists() {
1055         return file_path;
1056     }
1057     for search_path in fs.search_paths() {
1058         let file_path = search_path.dir.join(name);
1059         if file_path.exists() {
1060             return file_path;
1061         }
1062     }
1063     PathBuf::from(name)
1064 }
1065
1066 pub fn exec_linker(
1067     sess: &Session,
1068     cmd: &mut Command,
1069     out_filename: &Path,
1070     tmpdir: &Path,
1071 ) -> io::Result<Output> {
1072     // When attempting to spawn the linker we run a risk of blowing out the
1073     // size limits for spawning a new process with respect to the arguments
1074     // we pass on the command line.
1075     //
1076     // Here we attempt to handle errors from the OS saying "your list of
1077     // arguments is too big" by reinvoking the linker again with an `@`-file
1078     // that contains all the arguments. The theory is that this is then
1079     // accepted on all linkers and the linker will read all its options out of
1080     // there instead of looking at the command line.
1081     if !cmd.very_likely_to_exceed_some_spawn_limit() {
1082         match cmd.command().stdout(Stdio::piped()).stderr(Stdio::piped()).spawn() {
1083             Ok(child) => {
1084                 let output = child.wait_with_output();
1085                 flush_linked_file(&output, out_filename)?;
1086                 return output;
1087             }
1088             Err(ref e) if command_line_too_big(e) => {
1089                 info!("command line to linker was too big: {}", e);
1090             }
1091             Err(e) => return Err(e),
1092         }
1093     }
1094
1095     info!("falling back to passing arguments to linker via an @-file");
1096     let mut cmd2 = cmd.clone();
1097     let mut args = String::new();
1098     for arg in cmd2.take_args() {
1099         args.push_str(
1100             &Escape {
1101                 arg: arg.to_str().unwrap(),
1102                 is_like_msvc: sess.target.target.options.is_like_msvc,
1103             }
1104             .to_string(),
1105         );
1106         args.push_str("\n");
1107     }
1108     let file = tmpdir.join("linker-arguments");
1109     let bytes = if sess.target.target.options.is_like_msvc {
1110         let mut out = Vec::with_capacity((1 + args.len()) * 2);
1111         // start the stream with a UTF-16 BOM
1112         for c in std::iter::once(0xFEFF).chain(args.encode_utf16()) {
1113             // encode in little endian
1114             out.push(c as u8);
1115             out.push((c >> 8) as u8);
1116         }
1117         out
1118     } else {
1119         args.into_bytes()
1120     };
1121     fs::write(&file, &bytes)?;
1122     cmd2.arg(format!("@{}", file.display()));
1123     info!("invoking linker {:?}", cmd2);
1124     let output = cmd2.output();
1125     flush_linked_file(&output, out_filename)?;
1126     return output;
1127
1128     #[cfg(unix)]
1129     fn flush_linked_file(_: &io::Result<Output>, _: &Path) -> io::Result<()> {
1130         Ok(())
1131     }
1132
1133     #[cfg(windows)]
1134     fn flush_linked_file(
1135         command_output: &io::Result<Output>,
1136         out_filename: &Path,
1137     ) -> io::Result<()> {
1138         // On Windows, under high I/O load, output buffers are sometimes not flushed,
1139         // even long after process exit, causing nasty, non-reproducible output bugs.
1140         //
1141         // File::sync_all() calls FlushFileBuffers() down the line, which solves the problem.
1142         //
1143         // А full writeup of the original Chrome bug can be found at
1144         // randomascii.wordpress.com/2018/02/25/compiler-bug-linker-bug-windows-kernel-bug/amp
1145
1146         if let &Ok(ref out) = command_output {
1147             if out.status.success() {
1148                 if let Ok(of) = fs::OpenOptions::new().write(true).open(out_filename) {
1149                     of.sync_all()?;
1150                 }
1151             }
1152         }
1153
1154         Ok(())
1155     }
1156
1157     #[cfg(unix)]
1158     fn command_line_too_big(err: &io::Error) -> bool {
1159         err.raw_os_error() == Some(::libc::E2BIG)
1160     }
1161
1162     #[cfg(windows)]
1163     fn command_line_too_big(err: &io::Error) -> bool {
1164         const ERROR_FILENAME_EXCED_RANGE: i32 = 206;
1165         err.raw_os_error() == Some(ERROR_FILENAME_EXCED_RANGE)
1166     }
1167
1168     struct Escape<'a> {
1169         arg: &'a str,
1170         is_like_msvc: bool,
1171     }
1172
1173     impl<'a> fmt::Display for Escape<'a> {
1174         fn fmt(&self, f: &mut fmt::Formatter<'_>) -> fmt::Result {
1175             if self.is_like_msvc {
1176                 // This is "documented" at
1177                 // https://docs.microsoft.com/en-us/cpp/build/reference/at-specify-a-linker-response-file
1178                 //
1179                 // Unfortunately there's not a great specification of the
1180                 // syntax I could find online (at least) but some local
1181                 // testing showed that this seemed sufficient-ish to catch
1182                 // at least a few edge cases.
1183                 write!(f, "\"")?;
1184                 for c in self.arg.chars() {
1185                     match c {
1186                         '"' => write!(f, "\\{}", c)?,
1187                         c => write!(f, "{}", c)?,
1188                     }
1189                 }
1190                 write!(f, "\"")?;
1191             } else {
1192                 // This is documented at https://linux.die.net/man/1/ld, namely:
1193                 //
1194                 // > Options in file are separated by whitespace. A whitespace
1195                 // > character may be included in an option by surrounding the
1196                 // > entire option in either single or double quotes. Any
1197                 // > character (including a backslash) may be included by
1198                 // > prefixing the character to be included with a backslash.
1199                 //
1200                 // We put an argument on each line, so all we need to do is
1201                 // ensure the line is interpreted as one whole argument.
1202                 for c in self.arg.chars() {
1203                     match c {
1204                         '\\' | ' ' => write!(f, "\\{}", c)?,
1205                         c => write!(f, "{}", c)?,
1206                     }
1207                 }
1208             }
1209             Ok(())
1210         }
1211     }
1212 }
1213
1214 fn link_args<'a, B: ArchiveBuilder<'a>>(
1215     cmd: &mut dyn Linker,
1216     flavor: LinkerFlavor,
1217     sess: &'a Session,
1218     crate_type: config::CrateType,
1219     tmpdir: &Path,
1220     out_filename: &Path,
1221     codegen_results: &CodegenResults,
1222 ) {
1223     // Linker plugins should be specified early in the list of arguments
1224     cmd.linker_plugin_lto();
1225
1226     // The default library location, we need this to find the runtime.
1227     // The location of crates will be determined as needed.
1228     let lib_path = sess.target_filesearch(PathKind::All).get_lib_path();
1229
1230     // target descriptor
1231     let t = &sess.target.target;
1232
1233     // prefer system mingw-w64 libs, see get_crt_libs_path comment for more details
1234     if cfg!(windows) && sess.target.target.llvm_target.contains("windows-gnu") {
1235         if let Some(compiler_libs_path) = get_crt_libs_path(sess) {
1236             cmd.include_path(&compiler_libs_path);
1237         }
1238     }
1239
1240     cmd.include_path(&fix_windows_verbatim_for_gcc(&lib_path));
1241
1242     for obj in codegen_results.modules.iter().filter_map(|m| m.object.as_ref()) {
1243         cmd.add_object(obj);
1244     }
1245     cmd.output_filename(out_filename);
1246
1247     if crate_type == config::CrateType::Executable && sess.target.target.options.is_like_windows {
1248         if let Some(ref s) = codegen_results.windows_subsystem {
1249             cmd.subsystem(s);
1250         }
1251     }
1252
1253     // If we're building something like a dynamic library then some platforms
1254     // need to make sure that all symbols are exported correctly from the
1255     // dynamic library.
1256     cmd.export_symbols(tmpdir, crate_type);
1257
1258     // When linking a dynamic library, we put the metadata into a section of the
1259     // executable. This metadata is in a separate object file from the main
1260     // object file, so we link that in here.
1261     if crate_type == config::CrateType::Dylib || crate_type == config::CrateType::ProcMacro {
1262         let obj = codegen_results.metadata_module.as_ref().and_then(|m| m.object.as_ref());
1263         if let Some(obj) = obj {
1264             cmd.add_object(obj);
1265         }
1266     }
1267
1268     let obj = codegen_results.allocator_module.as_ref().and_then(|m| m.object.as_ref());
1269     if let Some(obj) = obj {
1270         cmd.add_object(obj);
1271     }
1272
1273     // Try to strip as much out of the generated object by removing unused
1274     // sections if possible. See more comments in linker.rs
1275     if !sess.opts.cg.link_dead_code {
1276         let keep_metadata = crate_type == config::CrateType::Dylib;
1277         cmd.gc_sections(keep_metadata);
1278     }
1279
1280     let used_link_args = &codegen_results.crate_info.link_args;
1281
1282     if crate_type == config::CrateType::Executable {
1283         let mut position_independent_executable = false;
1284
1285         if t.options.position_independent_executables {
1286             let empty_vec = Vec::new();
1287             let args = sess.opts.cg.link_args.as_ref().unwrap_or(&empty_vec);
1288             let more_args = &sess.opts.cg.link_arg;
1289             let mut args = args.iter().chain(more_args.iter()).chain(used_link_args.iter());
1290
1291             if is_pic(sess) && !sess.crt_static() && !args.any(|x| *x == "-static") {
1292                 position_independent_executable = true;
1293             }
1294         }
1295
1296         if position_independent_executable {
1297             cmd.position_independent_executable();
1298         } else {
1299             // recent versions of gcc can be configured to generate position
1300             // independent executables by default. We have to pass -no-pie to
1301             // explicitly turn that off. Not applicable to ld.
1302             if sess.target.target.options.linker_is_gnu && flavor != LinkerFlavor::Ld {
1303                 cmd.no_position_independent_executable();
1304             }
1305         }
1306     }
1307
1308     let relro_level = match sess.opts.debugging_opts.relro_level {
1309         Some(level) => level,
1310         None => t.options.relro_level,
1311     };
1312     match relro_level {
1313         RelroLevel::Full => {
1314             cmd.full_relro();
1315         }
1316         RelroLevel::Partial => {
1317             cmd.partial_relro();
1318         }
1319         RelroLevel::Off => {
1320             cmd.no_relro();
1321         }
1322         RelroLevel::None => {}
1323     }
1324
1325     // Pass optimization flags down to the linker.
1326     cmd.optimize();
1327
1328     // Pass debuginfo flags down to the linker.
1329     cmd.debuginfo();
1330
1331     // We want to, by default, prevent the compiler from accidentally leaking in
1332     // any system libraries, so we may explicitly ask linkers to not link to any
1333     // libraries by default. Note that this does not happen for windows because
1334     // windows pulls in some large number of libraries and I couldn't quite
1335     // figure out which subset we wanted.
1336     //
1337     // This is all naturally configurable via the standard methods as well.
1338     if !sess.opts.cg.default_linker_libraries.unwrap_or(false) && t.options.no_default_libraries {
1339         cmd.no_default_libraries();
1340     }
1341
1342     // Take careful note of the ordering of the arguments we pass to the linker
1343     // here. Linkers will assume that things on the left depend on things to the
1344     // right. Things on the right cannot depend on things on the left. This is
1345     // all formally implemented in terms of resolving symbols (libs on the right
1346     // resolve unknown symbols of libs on the left, but not vice versa).
1347     //
1348     // For this reason, we have organized the arguments we pass to the linker as
1349     // such:
1350     //
1351     // 1. The local object that LLVM just generated
1352     // 2. Local native libraries
1353     // 3. Upstream rust libraries
1354     // 4. Upstream native libraries
1355     //
1356     // The rationale behind this ordering is that those items lower down in the
1357     // list can't depend on items higher up in the list. For example nothing can
1358     // depend on what we just generated (e.g., that'd be a circular dependency).
1359     // Upstream rust libraries are not allowed to depend on our local native
1360     // libraries as that would violate the structure of the DAG, in that
1361     // scenario they are required to link to them as well in a shared fashion.
1362     //
1363     // Note that upstream rust libraries may contain native dependencies as
1364     // well, but they also can't depend on what we just started to add to the
1365     // link line. And finally upstream native libraries can't depend on anything
1366     // in this DAG so far because they're only dylibs and dylibs can only depend
1367     // on other dylibs (e.g., other native deps).
1368     add_local_native_libraries(cmd, sess, codegen_results);
1369     add_upstream_rust_crates::<B>(cmd, sess, codegen_results, crate_type, tmpdir);
1370     add_upstream_native_libraries(cmd, sess, codegen_results, crate_type);
1371
1372     // Tell the linker what we're doing.
1373     if crate_type != config::CrateType::Executable {
1374         cmd.build_dylib(out_filename);
1375     }
1376     if crate_type == config::CrateType::Executable && sess.crt_static() {
1377         cmd.build_static_executable();
1378     }
1379
1380     if sess.opts.cg.profile_generate.enabled() {
1381         cmd.pgo_gen();
1382     }
1383
1384     if sess.opts.debugging_opts.control_flow_guard != CFGuard::Disabled {
1385         cmd.control_flow_guard();
1386     }
1387
1388     // FIXME (#2397): At some point we want to rpath our guesses as to
1389     // where extern libraries might live, based on the
1390     // addl_lib_search_paths
1391     if sess.opts.cg.rpath {
1392         let target_triple = sess.opts.target_triple.triple();
1393         let mut get_install_prefix_lib_path = || {
1394             let install_prefix = option_env!("CFG_PREFIX").expect("CFG_PREFIX");
1395             let tlib = filesearch::relative_target_lib_path(&sess.sysroot, target_triple);
1396             let mut path = PathBuf::from(install_prefix);
1397             path.push(&tlib);
1398
1399             path
1400         };
1401         let mut rpath_config = RPathConfig {
1402             used_crates: &codegen_results.crate_info.used_crates_dynamic,
1403             out_filename: out_filename.to_path_buf(),
1404             has_rpath: sess.target.target.options.has_rpath,
1405             is_like_osx: sess.target.target.options.is_like_osx,
1406             linker_is_gnu: sess.target.target.options.linker_is_gnu,
1407             get_install_prefix_lib_path: &mut get_install_prefix_lib_path,
1408         };
1409         cmd.args(&rpath::get_rpath_flags(&mut rpath_config));
1410     }
1411
1412     // Finally add all the linker arguments provided on the command line along
1413     // with any #[link_args] attributes found inside the crate
1414     if let Some(ref args) = sess.opts.cg.link_args {
1415         cmd.args(args);
1416     }
1417     cmd.args(&sess.opts.cg.link_arg);
1418     cmd.args(&used_link_args);
1419 }
1420
1421 // # Native library linking
1422 //
1423 // User-supplied library search paths (-L on the command line). These are
1424 // the same paths used to find Rust crates, so some of them may have been
1425 // added already by the previous crate linking code. This only allows them
1426 // to be found at compile time so it is still entirely up to outside
1427 // forces to make sure that library can be found at runtime.
1428 //
1429 // Also note that the native libraries linked here are only the ones located
1430 // in the current crate. Upstream crates with native library dependencies
1431 // may have their native library pulled in above.
1432 pub fn add_local_native_libraries(
1433     cmd: &mut dyn Linker,
1434     sess: &Session,
1435     codegen_results: &CodegenResults,
1436 ) {
1437     let filesearch = sess.target_filesearch(PathKind::All);
1438     for search_path in filesearch.search_paths() {
1439         match search_path.kind {
1440             PathKind::Framework => {
1441                 cmd.framework_path(&search_path.dir);
1442             }
1443             _ => {
1444                 cmd.include_path(&fix_windows_verbatim_for_gcc(&search_path.dir));
1445             }
1446         }
1447     }
1448
1449     let relevant_libs =
1450         codegen_results.crate_info.used_libraries.iter().filter(|l| relevant_lib(sess, l));
1451
1452     let search_path = archive_search_paths(sess);
1453     for lib in relevant_libs {
1454         let name = match lib.name {
1455             Some(l) => l,
1456             None => continue,
1457         };
1458         match lib.kind {
1459             NativeLibraryKind::NativeUnknown => cmd.link_dylib(name),
1460             NativeLibraryKind::NativeFramework => cmd.link_framework(name),
1461             NativeLibraryKind::NativeStaticNobundle => cmd.link_staticlib(name),
1462             NativeLibraryKind::NativeStatic => cmd.link_whole_staticlib(name, &search_path),
1463             NativeLibraryKind::NativeRawDylib => {
1464                 // FIXME(#58713): Proper handling for raw dylibs.
1465                 bug!("raw_dylib feature not yet implemented");
1466             }
1467         }
1468     }
1469 }
1470
1471 // # Rust Crate linking
1472 //
1473 // Rust crates are not considered at all when creating an rlib output. All
1474 // dependencies will be linked when producing the final output (instead of
1475 // the intermediate rlib version)
1476 fn add_upstream_rust_crates<'a, B: ArchiveBuilder<'a>>(
1477     cmd: &mut dyn Linker,
1478     sess: &'a Session,
1479     codegen_results: &CodegenResults,
1480     crate_type: config::CrateType,
1481     tmpdir: &Path,
1482 ) {
1483     // All of the heavy lifting has previously been accomplished by the
1484     // dependency_format module of the compiler. This is just crawling the
1485     // output of that module, adding crates as necessary.
1486     //
1487     // Linking to a rlib involves just passing it to the linker (the linker
1488     // will slurp up the object files inside), and linking to a dynamic library
1489     // involves just passing the right -l flag.
1490
1491     let (_, data) = codegen_results
1492         .crate_info
1493         .dependency_formats
1494         .iter()
1495         .find(|(ty, _)| *ty == crate_type)
1496         .expect("failed to find crate type in dependency format list");
1497
1498     // Invoke get_used_crates to ensure that we get a topological sorting of
1499     // crates.
1500     let deps = &codegen_results.crate_info.used_crates_dynamic;
1501
1502     // There's a few internal crates in the standard library (aka libcore and
1503     // libstd) which actually have a circular dependence upon one another. This
1504     // currently arises through "weak lang items" where libcore requires things
1505     // like `rust_begin_unwind` but libstd ends up defining it. To get this
1506     // circular dependence to work correctly in all situations we'll need to be
1507     // sure to correctly apply the `--start-group` and `--end-group` options to
1508     // GNU linkers, otherwise if we don't use any other symbol from the standard
1509     // library it'll get discarded and the whole application won't link.
1510     //
1511     // In this loop we're calculating the `group_end`, after which crate to
1512     // pass `--end-group` and `group_start`, before which crate to pass
1513     // `--start-group`. We currently do this by passing `--end-group` after
1514     // the first crate (when iterating backwards) that requires a lang item
1515     // defined somewhere else. Once that's set then when we've defined all the
1516     // necessary lang items we'll pass `--start-group`.
1517     //
1518     // Note that this isn't amazing logic for now but it should do the trick
1519     // for the current implementation of the standard library.
1520     let mut group_end = None;
1521     let mut group_start = None;
1522     let mut end_with = FxHashSet::default();
1523     let info = &codegen_results.crate_info;
1524     for &(cnum, _) in deps.iter().rev() {
1525         if let Some(missing) = info.missing_lang_items.get(&cnum) {
1526             end_with.extend(missing.iter().cloned());
1527             if !end_with.is_empty() && group_end.is_none() {
1528                 group_end = Some(cnum);
1529             }
1530         }
1531         end_with.retain(|item| info.lang_item_to_crate.get(item) != Some(&cnum));
1532         if end_with.is_empty() && group_end.is_some() {
1533             group_start = Some(cnum);
1534             break;
1535         }
1536     }
1537
1538     // If we didn't end up filling in all lang items from upstream crates then
1539     // we'll be filling it in with our crate. This probably means we're the
1540     // standard library itself, so skip this for now.
1541     if group_end.is_some() && group_start.is_none() {
1542         group_end = None;
1543     }
1544
1545     let mut compiler_builtins = None;
1546
1547     for &(cnum, _) in deps.iter() {
1548         if group_start == Some(cnum) {
1549             cmd.group_start();
1550         }
1551
1552         // We may not pass all crates through to the linker. Some crates may
1553         // appear statically in an existing dylib, meaning we'll pick up all the
1554         // symbols from the dylib.
1555         let src = &codegen_results.crate_info.used_crate_source[&cnum];
1556         match data[cnum.as_usize() - 1] {
1557             _ if codegen_results.crate_info.profiler_runtime == Some(cnum) => {
1558                 add_static_crate::<B>(cmd, sess, codegen_results, tmpdir, crate_type, cnum);
1559             }
1560             // compiler-builtins are always placed last to ensure that they're
1561             // linked correctly.
1562             _ if codegen_results.crate_info.compiler_builtins == Some(cnum) => {
1563                 assert!(compiler_builtins.is_none());
1564                 compiler_builtins = Some(cnum);
1565             }
1566             Linkage::NotLinked | Linkage::IncludedFromDylib => {}
1567             Linkage::Static => {
1568                 add_static_crate::<B>(cmd, sess, codegen_results, tmpdir, crate_type, cnum);
1569             }
1570             Linkage::Dynamic => add_dynamic_crate(cmd, sess, &src.dylib.as_ref().unwrap().0),
1571         }
1572
1573         if group_end == Some(cnum) {
1574             cmd.group_end();
1575         }
1576     }
1577
1578     // compiler-builtins are always placed last to ensure that they're
1579     // linked correctly.
1580     // We must always link the `compiler_builtins` crate statically. Even if it
1581     // was already "included" in a dylib (e.g., `libstd` when `-C prefer-dynamic`
1582     // is used)
1583     if let Some(cnum) = compiler_builtins {
1584         add_static_crate::<B>(cmd, sess, codegen_results, tmpdir, crate_type, cnum);
1585     }
1586
1587     // Converts a library file-stem into a cc -l argument
1588     fn unlib<'a>(config: &config::Config, stem: &'a str) -> &'a str {
1589         if stem.starts_with("lib") && !config.target.options.is_like_windows {
1590             &stem[3..]
1591         } else {
1592             stem
1593         }
1594     }
1595
1596     // Adds the static "rlib" versions of all crates to the command line.
1597     // There's a bit of magic which happens here specifically related to LTO and
1598     // dynamic libraries. Specifically:
1599     //
1600     // * For LTO, we remove upstream object files.
1601     // * For dylibs we remove metadata and bytecode from upstream rlibs
1602     //
1603     // When performing LTO, almost(*) all of the bytecode from the upstream
1604     // libraries has already been included in our object file output. As a
1605     // result we need to remove the object files in the upstream libraries so
1606     // the linker doesn't try to include them twice (or whine about duplicate
1607     // symbols). We must continue to include the rest of the rlib, however, as
1608     // it may contain static native libraries which must be linked in.
1609     //
1610     // (*) Crates marked with `#![no_builtins]` don't participate in LTO and
1611     // their bytecode wasn't included. The object files in those libraries must
1612     // still be passed to the linker.
1613     //
1614     // When making a dynamic library, linkers by default don't include any
1615     // object files in an archive if they're not necessary to resolve the link.
1616     // We basically want to convert the archive (rlib) to a dylib, though, so we
1617     // *do* want everything included in the output, regardless of whether the
1618     // linker thinks it's needed or not. As a result we must use the
1619     // --whole-archive option (or the platform equivalent). When using this
1620     // option the linker will fail if there are non-objects in the archive (such
1621     // as our own metadata and/or bytecode). All in all, for rlibs to be
1622     // entirely included in dylibs, we need to remove all non-object files.
1623     //
1624     // Note, however, that if we're not doing LTO or we're not producing a dylib
1625     // (aka we're making an executable), we can just pass the rlib blindly to
1626     // the linker (fast) because it's fine if it's not actually included as
1627     // we're at the end of the dependency chain.
1628     fn add_static_crate<'a, B: ArchiveBuilder<'a>>(
1629         cmd: &mut dyn Linker,
1630         sess: &'a Session,
1631         codegen_results: &CodegenResults,
1632         tmpdir: &Path,
1633         crate_type: config::CrateType,
1634         cnum: CrateNum,
1635     ) {
1636         let src = &codegen_results.crate_info.used_crate_source[&cnum];
1637         let cratepath = &src.rlib.as_ref().unwrap().0;
1638
1639         // See the comment above in `link_staticlib` and `link_rlib` for why if
1640         // there's a static library that's not relevant we skip all object
1641         // files.
1642         let native_libs = &codegen_results.crate_info.native_libraries[&cnum];
1643         let skip_native = native_libs
1644             .iter()
1645             .any(|lib| lib.kind == NativeLibraryKind::NativeStatic && !relevant_lib(sess, lib));
1646
1647         if (!are_upstream_rust_objects_already_included(sess)
1648             || ignored_for_lto(sess, &codegen_results.crate_info, cnum))
1649             && crate_type != config::CrateType::Dylib
1650             && !skip_native
1651         {
1652             cmd.link_rlib(&fix_windows_verbatim_for_gcc(cratepath));
1653             return;
1654         }
1655
1656         let dst = tmpdir.join(cratepath.file_name().unwrap());
1657         let name = cratepath.file_name().unwrap().to_str().unwrap();
1658         let name = &name[3..name.len() - 5]; // chop off lib/.rlib
1659
1660         sess.prof.generic_activity_with_arg("link_altering_rlib", name).run(|| {
1661             let mut archive = <B as ArchiveBuilder>::new(sess, &dst, Some(cratepath));
1662             archive.update_symbols();
1663
1664             let mut any_objects = false;
1665             for f in archive.src_files() {
1666                 if f.ends_with(RLIB_BYTECODE_EXTENSION) || f == METADATA_FILENAME {
1667                     archive.remove_file(&f);
1668                     continue;
1669                 }
1670
1671                 let canonical = f.replace("-", "_");
1672                 let canonical_name = name.replace("-", "_");
1673
1674                 let is_rust_object =
1675                     canonical.starts_with(&canonical_name) && looks_like_rust_object_file(&f);
1676
1677                 // If we've been requested to skip all native object files
1678                 // (those not generated by the rust compiler) then we can skip
1679                 // this file. See above for why we may want to do this.
1680                 let skip_because_cfg_say_so = skip_native && !is_rust_object;
1681
1682                 // If we're performing LTO and this is a rust-generated object
1683                 // file, then we don't need the object file as it's part of the
1684                 // LTO module. Note that `#![no_builtins]` is excluded from LTO,
1685                 // though, so we let that object file slide.
1686                 let skip_because_lto = are_upstream_rust_objects_already_included(sess)
1687                     && is_rust_object
1688                     && (sess.target.target.options.no_builtins
1689                         || !codegen_results.crate_info.is_no_builtins.contains(&cnum));
1690
1691                 if skip_because_cfg_say_so || skip_because_lto {
1692                     archive.remove_file(&f);
1693                 } else {
1694                     any_objects = true;
1695                 }
1696             }
1697
1698             if !any_objects {
1699                 return;
1700             }
1701             archive.build();
1702
1703             // If we're creating a dylib, then we need to include the
1704             // whole of each object in our archive into that artifact. This is
1705             // because a `dylib` can be reused as an intermediate artifact.
1706             //
1707             // Note, though, that we don't want to include the whole of a
1708             // compiler-builtins crate (e.g., compiler-rt) because it'll get
1709             // repeatedly linked anyway.
1710             if crate_type == config::CrateType::Dylib
1711                 && codegen_results.crate_info.compiler_builtins != Some(cnum)
1712             {
1713                 cmd.link_whole_rlib(&fix_windows_verbatim_for_gcc(&dst));
1714             } else {
1715                 cmd.link_rlib(&fix_windows_verbatim_for_gcc(&dst));
1716             }
1717         });
1718     }
1719
1720     // Same thing as above, but for dynamic crates instead of static crates.
1721     fn add_dynamic_crate(cmd: &mut dyn Linker, sess: &Session, cratepath: &Path) {
1722         // Just need to tell the linker about where the library lives and
1723         // what its name is
1724         let parent = cratepath.parent();
1725         if let Some(dir) = parent {
1726             cmd.include_path(&fix_windows_verbatim_for_gcc(dir));
1727         }
1728         let filestem = cratepath.file_stem().unwrap().to_str().unwrap();
1729         cmd.link_rust_dylib(
1730             Symbol::intern(&unlib(&sess.target, filestem)),
1731             parent.unwrap_or(Path::new("")),
1732         );
1733     }
1734 }
1735
1736 // Link in all of our upstream crates' native dependencies. Remember that
1737 // all of these upstream native dependencies are all non-static
1738 // dependencies. We've got two cases then:
1739 //
1740 // 1. The upstream crate is an rlib. In this case we *must* link in the
1741 // native dependency because the rlib is just an archive.
1742 //
1743 // 2. The upstream crate is a dylib. In order to use the dylib, we have to
1744 // have the dependency present on the system somewhere. Thus, we don't
1745 // gain a whole lot from not linking in the dynamic dependency to this
1746 // crate as well.
1747 //
1748 // The use case for this is a little subtle. In theory the native
1749 // dependencies of a crate are purely an implementation detail of the crate
1750 // itself, but the problem arises with generic and inlined functions. If a
1751 // generic function calls a native function, then the generic function must
1752 // be instantiated in the target crate, meaning that the native symbol must
1753 // also be resolved in the target crate.
1754 pub fn add_upstream_native_libraries(
1755     cmd: &mut dyn Linker,
1756     sess: &Session,
1757     codegen_results: &CodegenResults,
1758     crate_type: config::CrateType,
1759 ) {
1760     // Be sure to use a topological sorting of crates because there may be
1761     // interdependencies between native libraries. When passing -nodefaultlibs,
1762     // for example, almost all native libraries depend on libc, so we have to
1763     // make sure that's all the way at the right (liblibc is near the base of
1764     // the dependency chain).
1765     //
1766     // This passes RequireStatic, but the actual requirement doesn't matter,
1767     // we're just getting an ordering of crate numbers, we're not worried about
1768     // the paths.
1769     let (_, data) = codegen_results
1770         .crate_info
1771         .dependency_formats
1772         .iter()
1773         .find(|(ty, _)| *ty == crate_type)
1774         .expect("failed to find crate type in dependency format list");
1775
1776     let crates = &codegen_results.crate_info.used_crates_static;
1777     for &(cnum, _) in crates {
1778         for lib in codegen_results.crate_info.native_libraries[&cnum].iter() {
1779             let name = match lib.name {
1780                 Some(l) => l,
1781                 None => continue,
1782             };
1783             if !relevant_lib(sess, &lib) {
1784                 continue;
1785             }
1786             match lib.kind {
1787                 NativeLibraryKind::NativeUnknown => cmd.link_dylib(name),
1788                 NativeLibraryKind::NativeFramework => cmd.link_framework(name),
1789                 NativeLibraryKind::NativeStaticNobundle => {
1790                     // Link "static-nobundle" native libs only if the crate they originate from
1791                     // is being linked statically to the current crate.  If it's linked dynamically
1792                     // or is an rlib already included via some other dylib crate, the symbols from
1793                     // native libs will have already been included in that dylib.
1794                     if data[cnum.as_usize() - 1] == Linkage::Static {
1795                         cmd.link_staticlib(name)
1796                     }
1797                 }
1798                 // ignore statically included native libraries here as we've
1799                 // already included them when we included the rust library
1800                 // previously
1801                 NativeLibraryKind::NativeStatic => {}
1802                 NativeLibraryKind::NativeRawDylib => {
1803                     // FIXME(#58713): Proper handling for raw dylibs.
1804                     bug!("raw_dylib feature not yet implemented");
1805                 }
1806             }
1807         }
1808     }
1809 }
1810
1811 pub fn relevant_lib(sess: &Session, lib: &NativeLibrary) -> bool {
1812     match lib.cfg {
1813         Some(ref cfg) => rustc_attr::cfg_matches(cfg, &sess.parse_sess, None),
1814         None => true,
1815     }
1816 }
1817
1818 pub fn are_upstream_rust_objects_already_included(sess: &Session) -> bool {
1819     match sess.lto() {
1820         config::Lto::Fat => true,
1821         config::Lto::Thin => {
1822             // If we defer LTO to the linker, we haven't run LTO ourselves, so
1823             // any upstream object files have not been copied yet.
1824             !sess.opts.cg.linker_plugin_lto.enabled()
1825         }
1826         config::Lto::No | config::Lto::ThinLocal => false,
1827     }
1828 }
1829
1830 fn is_pic(sess: &Session) -> bool {
1831     let reloc_model_arg = match sess.opts.cg.relocation_model {
1832         Some(ref s) => &s[..],
1833         None => &sess.target.target.options.relocation_model[..],
1834     };
1835
1836     reloc_model_arg == "pic"
1837 }