]> git.lizzy.rs Git - rust.git/blob - src/librustc_trans/back/link.rs
rustc: Implement the #[global_allocator] attribute
[rust.git] / src / librustc_trans / back / link.rs
1 // Copyright 2012-2014 The Rust Project Developers. See the COPYRIGHT
2 // file at the top-level directory of this distribution and at
3 // http://rust-lang.org/COPYRIGHT.
4 //
5 // Licensed under the Apache License, Version 2.0 <LICENSE-APACHE or
6 // http://www.apache.org/licenses/LICENSE-2.0> or the MIT license
7 // <LICENSE-MIT or http://opensource.org/licenses/MIT>, at your
8 // option. This file may not be copied, modified, or distributed
9 // except according to those terms.
10
11 use super::archive::{ArchiveBuilder, ArchiveConfig};
12 use super::linker::Linker;
13 use super::rpath::RPathConfig;
14 use super::rpath;
15 use metadata::METADATA_FILENAME;
16 use rustc::session::config::{self, NoDebugInfo, OutputFilenames, Input, OutputType};
17 use rustc::session::filesearch;
18 use rustc::session::search_paths::PathKind;
19 use rustc::session::Session;
20 use rustc::middle::cstore::{self, LinkMeta, NativeLibrary, LibSource, LinkagePreference,
21                             NativeLibraryKind};
22 use rustc::middle::dependency_format::Linkage;
23 use CrateTranslation;
24 use rustc::util::common::time;
25 use rustc::util::fs::fix_windows_verbatim_for_gcc;
26 use rustc::dep_graph::{DepKind, DepNode};
27 use rustc::hir::def_id::CrateNum;
28 use rustc::hir::svh::Svh;
29 use rustc_back::tempdir::TempDir;
30 use rustc_back::PanicStrategy;
31 use rustc_incremental::IncrementalHashesMap;
32 use context::get_reloc_model;
33 use llvm;
34
35 use std::ascii;
36 use std::char;
37 use std::env;
38 use std::ffi::OsString;
39 use std::fs;
40 use std::io::{self, Read, Write};
41 use std::mem;
42 use std::path::{Path, PathBuf};
43 use std::process::Command;
44 use std::str;
45 use flate2::Compression;
46 use flate2::write::ZlibEncoder;
47 use syntax::ast;
48 use syntax::attr;
49 use syntax_pos::Span;
50
51 /// The LLVM module name containing crate-metadata. This includes a `.` on
52 /// purpose, so it cannot clash with the name of a user-defined module.
53 pub const METADATA_MODULE_NAME: &'static str = "crate.metadata";
54 /// The name of the crate-metadata object file the compiler generates. Must
55 /// match up with `METADATA_MODULE_NAME`.
56 pub const METADATA_OBJ_NAME: &'static str = "crate.metadata.o";
57
58 // same as for metadata above, but for allocator shim
59 pub const ALLOCATOR_MODULE_NAME: &'static str = "crate.allocator";
60 pub const ALLOCATOR_OBJ_NAME: &'static str = "crate.allocator.o";
61
62 // RLIB LLVM-BYTECODE OBJECT LAYOUT
63 // Version 1
64 // Bytes    Data
65 // 0..10    "RUST_OBJECT" encoded in ASCII
66 // 11..14   format version as little-endian u32
67 // 15..22   size in bytes of deflate compressed LLVM bitcode as
68 //          little-endian u64
69 // 23..     compressed LLVM bitcode
70
71 // This is the "magic number" expected at the beginning of a LLVM bytecode
72 // object in an rlib.
73 pub const RLIB_BYTECODE_OBJECT_MAGIC: &'static [u8] = b"RUST_OBJECT";
74
75 // The version number this compiler will write to bytecode objects in rlibs
76 pub const RLIB_BYTECODE_OBJECT_VERSION: u32 = 1;
77
78 // The offset in bytes the bytecode object format version number can be found at
79 pub const RLIB_BYTECODE_OBJECT_VERSION_OFFSET: usize = 11;
80
81 // The offset in bytes the size of the compressed bytecode can be found at in
82 // format version 1
83 pub const RLIB_BYTECODE_OBJECT_V1_DATASIZE_OFFSET: usize =
84     RLIB_BYTECODE_OBJECT_VERSION_OFFSET + 4;
85
86 // The offset in bytes the compressed LLVM bytecode can be found at in format
87 // version 1
88 pub const RLIB_BYTECODE_OBJECT_V1_DATA_OFFSET: usize =
89     RLIB_BYTECODE_OBJECT_V1_DATASIZE_OFFSET + 8;
90
91
92 pub fn find_crate_name(sess: Option<&Session>,
93                        attrs: &[ast::Attribute],
94                        input: &Input) -> String {
95     let validate = |s: String, span: Option<Span>| {
96         cstore::validate_crate_name(sess, &s, span);
97         s
98     };
99
100     // Look in attributes 100% of the time to make sure the attribute is marked
101     // as used. After doing this, however, we still prioritize a crate name from
102     // the command line over one found in the #[crate_name] attribute. If we
103     // find both we ensure that they're the same later on as well.
104     let attr_crate_name = attrs.iter().find(|at| at.check_name("crate_name"))
105                                .and_then(|at| at.value_str().map(|s| (at, s)));
106
107     if let Some(sess) = sess {
108         if let Some(ref s) = sess.opts.crate_name {
109             if let Some((attr, name)) = attr_crate_name {
110                 if name != &**s {
111                     let msg = format!("--crate-name and #[crate_name] are \
112                                        required to match, but `{}` != `{}`",
113                                       s, name);
114                     sess.span_err(attr.span, &msg);
115                 }
116             }
117             return validate(s.clone(), None);
118         }
119     }
120
121     if let Some((attr, s)) = attr_crate_name {
122         return validate(s.to_string(), Some(attr.span));
123     }
124     if let Input::File(ref path) = *input {
125         if let Some(s) = path.file_stem().and_then(|s| s.to_str()) {
126             if s.starts_with("-") {
127                 let msg = format!("crate names cannot start with a `-`, but \
128                                    `{}` has a leading hyphen", s);
129                 if let Some(sess) = sess {
130                     sess.err(&msg);
131                 }
132             } else {
133                 return validate(s.replace("-", "_"), None);
134             }
135         }
136     }
137
138     "rust_out".to_string()
139 }
140
141 pub fn build_link_meta(incremental_hashes_map: &IncrementalHashesMap) -> LinkMeta {
142     let krate_dep_node = &DepNode::new_no_params(DepKind::Krate);
143     let r = LinkMeta {
144         crate_hash: Svh::new(incremental_hashes_map[krate_dep_node].to_smaller_hash()),
145     };
146     info!("{:?}", r);
147     return r;
148 }
149
150 // The third parameter is for env vars, used on windows to set up the
151 // path for MSVC to find its DLLs, and gcc to find its bundled
152 // toolchain
153 pub fn get_linker(sess: &Session) -> (String, Command, Vec<(OsString, OsString)>) {
154     let envs = vec![("PATH".into(), command_path(sess))];
155
156     if let Some(ref linker) = sess.opts.cg.linker {
157         (linker.clone(), Command::new(linker), envs)
158     } else if sess.target.target.options.is_like_msvc {
159         let (cmd, envs) = msvc_link_exe_cmd(sess);
160         ("link.exe".to_string(), cmd, envs)
161     } else {
162         let linker = &sess.target.target.options.linker;
163         (linker.clone(), Command::new(&linker), envs)
164     }
165 }
166
167 #[cfg(windows)]
168 pub fn msvc_link_exe_cmd(sess: &Session) -> (Command, Vec<(OsString, OsString)>) {
169     use gcc::windows_registry;
170
171     let target = &sess.opts.target_triple;
172     let tool = windows_registry::find_tool(target, "link.exe");
173
174     if let Some(tool) = tool {
175         let envs = tool.env().to_vec();
176         (tool.to_command(), envs)
177     } else {
178         debug!("Failed to locate linker.");
179         (Command::new("link.exe"), vec![])
180     }
181 }
182
183 #[cfg(not(windows))]
184 pub fn msvc_link_exe_cmd(_sess: &Session) -> (Command, Vec<(OsString, OsString)>) {
185     (Command::new("link.exe"), vec![])
186 }
187
188 pub fn get_ar_prog(sess: &Session) -> String {
189     sess.opts.cg.ar.clone().unwrap_or_else(|| {
190         sess.target.target.options.ar.clone()
191     })
192 }
193
194 fn command_path(sess: &Session) -> OsString {
195     // The compiler's sysroot often has some bundled tools, so add it to the
196     // PATH for the child.
197     let mut new_path = sess.host_filesearch(PathKind::All)
198                            .get_tools_search_paths();
199     if let Some(path) = env::var_os("PATH") {
200         new_path.extend(env::split_paths(&path));
201     }
202     env::join_paths(new_path).unwrap()
203 }
204
205 pub fn remove(sess: &Session, path: &Path) {
206     match fs::remove_file(path) {
207         Ok(..) => {}
208         Err(e) => {
209             sess.err(&format!("failed to remove {}: {}",
210                              path.display(),
211                              e));
212         }
213     }
214 }
215
216 /// Perform the linkage portion of the compilation phase. This will generate all
217 /// of the requested outputs for this compilation session.
218 pub fn link_binary(sess: &Session,
219                    trans: &CrateTranslation,
220                    outputs: &OutputFilenames,
221                    crate_name: &str) -> Vec<PathBuf> {
222     let mut out_filenames = Vec::new();
223     for &crate_type in sess.crate_types.borrow().iter() {
224         // Ignore executable crates if we have -Z no-trans, as they will error.
225         if (sess.opts.debugging_opts.no_trans ||
226             !sess.opts.output_types.should_trans()) &&
227            crate_type == config::CrateTypeExecutable {
228             continue;
229         }
230
231         if invalid_output_for_target(sess, crate_type) {
232            bug!("invalid output type `{:?}` for target os `{}`",
233                 crate_type, sess.opts.target_triple);
234         }
235         let mut out_files = link_binary_output(sess, trans, crate_type, outputs, crate_name);
236         out_filenames.append(&mut out_files);
237     }
238
239     // Remove the temporary object file and metadata if we aren't saving temps
240     if !sess.opts.cg.save_temps {
241         if sess.opts.output_types.should_trans() {
242             for obj in object_filenames(trans, outputs) {
243                 remove(sess, &obj);
244             }
245         }
246         remove(sess, &outputs.with_extension(METADATA_OBJ_NAME));
247         if trans.allocator_module.is_some() {
248             remove(sess, &outputs.with_extension(ALLOCATOR_OBJ_NAME));
249         }
250     }
251
252     out_filenames
253 }
254
255
256 /// Returns default crate type for target
257 ///
258 /// Default crate type is used when crate type isn't provided neither
259 /// through cmd line arguments nor through crate attributes
260 ///
261 /// It is CrateTypeExecutable for all platforms but iOS as there is no
262 /// way to run iOS binaries anyway without jailbreaking and
263 /// interaction with Rust code through static library is the only
264 /// option for now
265 pub fn default_output_for_target(sess: &Session) -> config::CrateType {
266     if !sess.target.target.options.executables {
267         config::CrateTypeStaticlib
268     } else {
269         config::CrateTypeExecutable
270     }
271 }
272
273 /// Checks if target supports crate_type as output
274 pub fn invalid_output_for_target(sess: &Session,
275                                  crate_type: config::CrateType) -> bool {
276     match (sess.target.target.options.dynamic_linking,
277            sess.target.target.options.executables, crate_type) {
278         (false, _, config::CrateTypeCdylib) |
279         (false, _, config::CrateTypeProcMacro) |
280         (false, _, config::CrateTypeDylib) => true,
281         (_, false, config::CrateTypeExecutable) => true,
282         _ => false
283     }
284 }
285
286 fn is_writeable(p: &Path) -> bool {
287     match p.metadata() {
288         Err(..) => true,
289         Ok(m) => !m.permissions().readonly()
290     }
291 }
292
293 fn filename_for_metadata(sess: &Session, crate_name: &str, outputs: &OutputFilenames) -> PathBuf {
294     let out_filename = outputs.single_output_file.clone()
295         .unwrap_or(outputs
296             .out_directory
297             .join(&format!("lib{}{}.rmeta", crate_name, sess.opts.cg.extra_filename)));
298     check_file_is_writeable(&out_filename, sess);
299     out_filename
300 }
301
302 pub fn filename_for_input(sess: &Session,
303                           crate_type: config::CrateType,
304                           crate_name: &str,
305                           outputs: &OutputFilenames) -> PathBuf {
306     let libname = format!("{}{}", crate_name, sess.opts.cg.extra_filename);
307
308     match crate_type {
309         config::CrateTypeRlib => {
310             outputs.out_directory.join(&format!("lib{}.rlib", libname))
311         }
312         config::CrateTypeCdylib |
313         config::CrateTypeProcMacro |
314         config::CrateTypeDylib => {
315             let (prefix, suffix) = (&sess.target.target.options.dll_prefix,
316                                     &sess.target.target.options.dll_suffix);
317             outputs.out_directory.join(&format!("{}{}{}", prefix, libname,
318                                                 suffix))
319         }
320         config::CrateTypeStaticlib => {
321             let (prefix, suffix) = (&sess.target.target.options.staticlib_prefix,
322                                     &sess.target.target.options.staticlib_suffix);
323             outputs.out_directory.join(&format!("{}{}{}", prefix, libname,
324                                                 suffix))
325         }
326         config::CrateTypeExecutable => {
327             let suffix = &sess.target.target.options.exe_suffix;
328             let out_filename = outputs.path(OutputType::Exe);
329             if suffix.is_empty() {
330                 out_filename.to_path_buf()
331             } else {
332                 out_filename.with_extension(&suffix[1..])
333             }
334         }
335     }
336 }
337
338 pub fn each_linked_rlib(sess: &Session,
339                         f: &mut FnMut(CrateNum, &Path)) -> Result<(), String> {
340     let crates = sess.cstore.used_crates(LinkagePreference::RequireStatic).into_iter();
341     let fmts = sess.dependency_formats.borrow();
342     let fmts = fmts.get(&config::CrateTypeExecutable)
343                    .or_else(|| fmts.get(&config::CrateTypeStaticlib))
344                    .or_else(|| fmts.get(&config::CrateTypeCdylib))
345                    .or_else(|| fmts.get(&config::CrateTypeProcMacro));
346     let fmts = match fmts {
347         Some(f) => f,
348         None => return Err(format!("could not find formats for rlibs"))
349     };
350     for (cnum, path) in crates {
351         match fmts.get(cnum.as_usize() - 1) {
352             Some(&Linkage::NotLinked) |
353             Some(&Linkage::IncludedFromDylib) => continue,
354             Some(_) => {}
355             None => return Err(format!("could not find formats for rlibs"))
356         }
357         let name = sess.cstore.crate_name(cnum).clone();
358         let path = match path {
359             LibSource::Some(p) => p,
360             LibSource::MetadataOnly => {
361                 return Err(format!("could not find rlib for: `{}`, found rmeta (metadata) file",
362                                    name))
363             }
364             LibSource::None => {
365                 return Err(format!("could not find rlib for: `{}`", name))
366             }
367         };
368         f(cnum, &path);
369     }
370     Ok(())
371 }
372
373 fn out_filename(sess: &Session,
374                 crate_type: config::CrateType,
375                 outputs: &OutputFilenames,
376                 crate_name: &str)
377                 -> PathBuf {
378     let default_filename = filename_for_input(sess, crate_type, crate_name, outputs);
379     let out_filename = outputs.outputs.get(&OutputType::Exe)
380                               .and_then(|s| s.to_owned())
381                               .or_else(|| outputs.single_output_file.clone())
382                               .unwrap_or(default_filename);
383
384     check_file_is_writeable(&out_filename, sess);
385
386     out_filename
387 }
388
389 // Make sure files are writeable.  Mac, FreeBSD, and Windows system linkers
390 // check this already -- however, the Linux linker will happily overwrite a
391 // read-only file.  We should be consistent.
392 fn check_file_is_writeable(file: &Path, sess: &Session) {
393     if !is_writeable(file) {
394         sess.fatal(&format!("output file {} is not writeable -- check its \
395                             permissions", file.display()));
396     }
397 }
398
399 fn link_binary_output(sess: &Session,
400                       trans: &CrateTranslation,
401                       crate_type: config::CrateType,
402                       outputs: &OutputFilenames,
403                       crate_name: &str) -> Vec<PathBuf> {
404     let objects = object_filenames(trans, outputs);
405
406     for file in &objects {
407         check_file_is_writeable(file, sess);
408     }
409
410     let tmpdir = match TempDir::new("rustc") {
411         Ok(tmpdir) => tmpdir,
412         Err(err) => sess.fatal(&format!("couldn't create a temp dir: {}", err)),
413     };
414
415     let mut out_filenames = vec![];
416
417     if outputs.outputs.contains_key(&OutputType::Metadata) {
418         let out_filename = filename_for_metadata(sess, crate_name, outputs);
419         emit_metadata(sess, trans, &out_filename);
420         out_filenames.push(out_filename);
421     }
422
423     if outputs.outputs.should_trans() {
424         let out_filename = out_filename(sess, crate_type, outputs, crate_name);
425         match crate_type {
426             config::CrateTypeRlib => {
427                 link_rlib(sess,
428                           trans,
429                           RlibFlavor::Normal,
430                           &objects,
431                           outputs,
432                           &out_filename,
433                           tmpdir.path()).build();
434             }
435             config::CrateTypeStaticlib => {
436                 link_staticlib(sess,
437                                trans,
438                                outputs,
439                                &objects,
440                                &out_filename,
441                                tmpdir.path());
442             }
443             _ => {
444                 link_natively(sess, crate_type, &objects, &out_filename, trans,
445                               outputs, tmpdir.path());
446             }
447         }
448         out_filenames.push(out_filename);
449     }
450
451     if sess.opts.cg.save_temps {
452         let _ = tmpdir.into_path();
453     }
454
455     out_filenames
456 }
457
458 fn object_filenames(trans: &CrateTranslation,
459                     outputs: &OutputFilenames)
460                     -> Vec<PathBuf> {
461     trans.modules.iter().map(|module| {
462         outputs.temp_path(OutputType::Object, Some(&module.name))
463     }).collect()
464 }
465
466 fn archive_search_paths(sess: &Session) -> Vec<PathBuf> {
467     let mut search = Vec::new();
468     sess.target_filesearch(PathKind::Native).for_each_lib_search_path(|path, _| {
469         search.push(path.to_path_buf());
470     });
471     return search;
472 }
473
474 fn archive_config<'a>(sess: &'a Session,
475                       output: &Path,
476                       input: Option<&Path>) -> ArchiveConfig<'a> {
477     ArchiveConfig {
478         sess: sess,
479         dst: output.to_path_buf(),
480         src: input.map(|p| p.to_path_buf()),
481         lib_search_paths: archive_search_paths(sess),
482         ar_prog: get_ar_prog(sess),
483         command_path: command_path(sess),
484     }
485 }
486
487 fn emit_metadata<'a>(sess: &'a Session, trans: &CrateTranslation, out_filename: &Path) {
488     let result = fs::File::create(out_filename).and_then(|mut f| {
489         f.write_all(&trans.metadata.raw_data)
490     });
491
492     if let Err(e) = result {
493         sess.fatal(&format!("failed to write {}: {}", out_filename.display(), e));
494     }
495 }
496
497 enum RlibFlavor {
498     Normal,
499     StaticlibBase,
500 }
501
502 // Create an 'rlib'
503 //
504 // An rlib in its current incarnation is essentially a renamed .a file. The
505 // rlib primarily contains the object file of the crate, but it also contains
506 // all of the object files from native libraries. This is done by unzipping
507 // native libraries and inserting all of the contents into this archive.
508 fn link_rlib<'a>(sess: &'a Session,
509                  trans: &CrateTranslation,
510                  flavor: RlibFlavor,
511                  objects: &[PathBuf],
512                  outputs: &OutputFilenames,
513                  out_filename: &Path,
514                  tmpdir: &Path) -> ArchiveBuilder<'a> {
515     info!("preparing rlib from {:?} to {:?}", objects, out_filename);
516     let mut ab = ArchiveBuilder::new(archive_config(sess, out_filename, None));
517
518     for obj in objects {
519         ab.add_file(obj);
520     }
521
522     // Note that in this loop we are ignoring the value of `lib.cfg`. That is,
523     // we may not be configured to actually include a static library if we're
524     // adding it here. That's because later when we consume this rlib we'll
525     // decide whether we actually needed the static library or not.
526     //
527     // To do this "correctly" we'd need to keep track of which libraries added
528     // which object files to the archive. We don't do that here, however. The
529     // #[link(cfg(..))] feature is unstable, though, and only intended to get
530     // liblibc working. In that sense the check below just indicates that if
531     // there are any libraries we want to omit object files for at link time we
532     // just exclude all custom object files.
533     //
534     // Eventually if we want to stabilize or flesh out the #[link(cfg(..))]
535     // feature then we'll need to figure out how to record what objects were
536     // loaded from the libraries found here and then encode that into the
537     // metadata of the rlib we're generating somehow.
538     for lib in sess.cstore.used_libraries() {
539         match lib.kind {
540             NativeLibraryKind::NativeStatic => {}
541             NativeLibraryKind::NativeStaticNobundle |
542             NativeLibraryKind::NativeFramework |
543             NativeLibraryKind::NativeUnknown => continue,
544         }
545         ab.add_native_library(&lib.name.as_str());
546     }
547
548     // After adding all files to the archive, we need to update the
549     // symbol table of the archive.
550     ab.update_symbols();
551
552     // Note that it is important that we add all of our non-object "magical
553     // files" *after* all of the object files in the archive. The reason for
554     // this is as follows:
555     //
556     // * When performing LTO, this archive will be modified to remove
557     //   objects from above. The reason for this is described below.
558     //
559     // * When the system linker looks at an archive, it will attempt to
560     //   determine the architecture of the archive in order to see whether its
561     //   linkable.
562     //
563     //   The algorithm for this detection is: iterate over the files in the
564     //   archive. Skip magical SYMDEF names. Interpret the first file as an
565     //   object file. Read architecture from the object file.
566     //
567     // * As one can probably see, if "metadata" and "foo.bc" were placed
568     //   before all of the objects, then the architecture of this archive would
569     //   not be correctly inferred once 'foo.o' is removed.
570     //
571     // Basically, all this means is that this code should not move above the
572     // code above.
573     match flavor {
574         RlibFlavor::Normal => {
575             // Instead of putting the metadata in an object file section, rlibs
576             // contain the metadata in a separate file. We use a temp directory
577             // here so concurrent builds in the same directory don't try to use
578             // the same filename for metadata (stomping over one another)
579             let metadata = tmpdir.join(METADATA_FILENAME);
580             emit_metadata(sess, trans, &metadata);
581             ab.add_file(&metadata);
582
583             // For LTO purposes, the bytecode of this library is also inserted
584             // into the archive.  If codegen_units > 1, we insert each of the
585             // bitcode files.
586             for obj in objects {
587                 // Note that we make sure that the bytecode filename in the
588                 // archive is never exactly 16 bytes long by adding a 16 byte
589                 // extension to it. This is to work around a bug in LLDB that
590                 // would cause it to crash if the name of a file in an archive
591                 // was exactly 16 bytes.
592                 let bc_filename = obj.with_extension("bc");
593                 let bc_deflated_filename = tmpdir.join({
594                     obj.with_extension("bytecode.deflate").file_name().unwrap()
595                 });
596
597                 let mut bc_data = Vec::new();
598                 match fs::File::open(&bc_filename).and_then(|mut f| {
599                     f.read_to_end(&mut bc_data)
600                 }) {
601                     Ok(..) => {}
602                     Err(e) => sess.fatal(&format!("failed to read bytecode: {}",
603                                                  e))
604                 }
605
606                 let mut bc_data_deflated = Vec::new();
607                 ZlibEncoder::new(&mut bc_data_deflated, Compression::Default)
608                     .write_all(&bc_data).unwrap();
609
610                 let mut bc_file_deflated = match fs::File::create(&bc_deflated_filename) {
611                     Ok(file) => file,
612                     Err(e) => {
613                         sess.fatal(&format!("failed to create compressed \
614                                              bytecode file: {}", e))
615                     }
616                 };
617
618                 match write_rlib_bytecode_object_v1(&mut bc_file_deflated,
619                                                     &bc_data_deflated) {
620                     Ok(()) => {}
621                     Err(e) => {
622                         sess.fatal(&format!("failed to write compressed \
623                                              bytecode: {}", e));
624                     }
625                 };
626
627                 ab.add_file(&bc_deflated_filename);
628
629                 // See the bottom of back::write::run_passes for an explanation
630                 // of when we do and don't keep .#module-name#.bc files around.
631                 let user_wants_numbered_bitcode =
632                         sess.opts.output_types.contains_key(&OutputType::Bitcode) &&
633                         sess.opts.cg.codegen_units > 1;
634                 if !sess.opts.cg.save_temps && !user_wants_numbered_bitcode {
635                     remove(sess, &bc_filename);
636                 }
637             }
638
639             // After adding all files to the archive, we need to update the
640             // symbol table of the archive. This currently dies on macOS (see
641             // #11162), and isn't necessary there anyway
642             if !sess.target.target.options.is_like_osx {
643                 ab.update_symbols();
644             }
645         }
646
647         RlibFlavor::StaticlibBase => {
648             if trans.allocator_module.is_some() {
649                 ab.add_file(&outputs.with_extension(ALLOCATOR_OBJ_NAME));
650             }
651         }
652     }
653
654     ab
655 }
656
657 fn write_rlib_bytecode_object_v1(writer: &mut Write,
658                                  bc_data_deflated: &[u8]) -> io::Result<()> {
659     let bc_data_deflated_size: u64 = bc_data_deflated.len() as u64;
660
661     writer.write_all(RLIB_BYTECODE_OBJECT_MAGIC)?;
662     writer.write_all(&[1, 0, 0, 0])?;
663     writer.write_all(&[
664         (bc_data_deflated_size >>  0) as u8,
665         (bc_data_deflated_size >>  8) as u8,
666         (bc_data_deflated_size >> 16) as u8,
667         (bc_data_deflated_size >> 24) as u8,
668         (bc_data_deflated_size >> 32) as u8,
669         (bc_data_deflated_size >> 40) as u8,
670         (bc_data_deflated_size >> 48) as u8,
671         (bc_data_deflated_size >> 56) as u8,
672     ])?;
673     writer.write_all(&bc_data_deflated)?;
674
675     let number_of_bytes_written_so_far =
676         RLIB_BYTECODE_OBJECT_MAGIC.len() +                // magic id
677         mem::size_of_val(&RLIB_BYTECODE_OBJECT_VERSION) + // version
678         mem::size_of_val(&bc_data_deflated_size) +        // data size field
679         bc_data_deflated_size as usize;                    // actual data
680
681     // If the number of bytes written to the object so far is odd, add a
682     // padding byte to make it even. This works around a crash bug in LLDB
683     // (see issue #15950)
684     if number_of_bytes_written_so_far % 2 == 1 {
685         writer.write_all(&[0])?;
686     }
687
688     return Ok(());
689 }
690
691 // Create a static archive
692 //
693 // This is essentially the same thing as an rlib, but it also involves adding
694 // all of the upstream crates' objects into the archive. This will slurp in
695 // all of the native libraries of upstream dependencies as well.
696 //
697 // Additionally, there's no way for us to link dynamic libraries, so we warn
698 // about all dynamic library dependencies that they're not linked in.
699 //
700 // There's no need to include metadata in a static archive, so ensure to not
701 // link in the metadata object file (and also don't prepare the archive with a
702 // metadata file).
703 fn link_staticlib(sess: &Session,
704                   trans: &CrateTranslation,
705                   outputs: &OutputFilenames,
706                   objects: &[PathBuf],
707                   out_filename: &Path,
708                   tempdir: &Path) {
709     let mut ab = link_rlib(sess,
710                            trans,
711                            RlibFlavor::StaticlibBase,
712                            objects,
713                            outputs,
714                            out_filename,
715                            tempdir);
716     let mut all_native_libs = vec![];
717
718     let res = each_linked_rlib(sess, &mut |cnum, path| {
719         let name = sess.cstore.crate_name(cnum);
720         let native_libs = sess.cstore.native_libraries(cnum);
721
722         // Here when we include the rlib into our staticlib we need to make a
723         // decision whether to include the extra object files along the way.
724         // These extra object files come from statically included native
725         // libraries, but they may be cfg'd away with #[link(cfg(..))].
726         //
727         // This unstable feature, though, only needs liblibc to work. The only
728         // use case there is where musl is statically included in liblibc.rlib,
729         // so if we don't want the included version we just need to skip it. As
730         // a result the logic here is that if *any* linked library is cfg'd away
731         // we just skip all object files.
732         //
733         // Clearly this is not sufficient for a general purpose feature, and
734         // we'd want to read from the library's metadata to determine which
735         // object files come from where and selectively skip them.
736         let skip_object_files = native_libs.iter().any(|lib| {
737             lib.kind == NativeLibraryKind::NativeStatic && !relevant_lib(sess, lib)
738         });
739         ab.add_rlib(path, &name.as_str(), sess.lto(), skip_object_files).unwrap();
740
741         all_native_libs.extend(sess.cstore.native_libraries(cnum));
742     });
743     if let Err(e) = res {
744         sess.fatal(&e);
745     }
746
747     ab.update_symbols();
748     ab.build();
749
750     if !all_native_libs.is_empty() {
751         sess.note_without_error("link against the following native artifacts when linking against \
752                                  this static library");
753         sess.note_without_error("the order and any duplication can be significant on some \
754                                  platforms, and so may need to be preserved");
755     }
756
757     for lib in all_native_libs.iter().filter(|l| relevant_lib(sess, l)) {
758         let name = match lib.kind {
759             NativeLibraryKind::NativeStaticNobundle |
760             NativeLibraryKind::NativeUnknown => "library",
761             NativeLibraryKind::NativeFramework => "framework",
762             // These are included, no need to print them
763             NativeLibraryKind::NativeStatic => continue,
764         };
765         sess.note_without_error(&format!("{}: {}", name, lib.name));
766     }
767 }
768
769 // Create a dynamic library or executable
770 //
771 // This will invoke the system linker/cc to create the resulting file. This
772 // links to all upstream files as well.
773 fn link_natively(sess: &Session,
774                  crate_type: config::CrateType,
775                  objects: &[PathBuf],
776                  out_filename: &Path,
777                  trans: &CrateTranslation,
778                  outputs: &OutputFilenames,
779                  tmpdir: &Path) {
780     info!("preparing {:?} from {:?} to {:?}", crate_type, objects, out_filename);
781     let flavor = sess.linker_flavor();
782
783     // The invocations of cc share some flags across platforms
784     let (pname, mut cmd, envs) = get_linker(sess);
785     // This will set PATH on windows
786     cmd.envs(envs);
787
788     let root = sess.target_filesearch(PathKind::Native).get_lib_path();
789     if let Some(args) = sess.target.target.options.pre_link_args.get(&flavor) {
790         cmd.args(args);
791     }
792     if let Some(ref args) = sess.opts.debugging_opts.pre_link_args {
793         cmd.args(args);
794     }
795     cmd.args(&sess.opts.debugging_opts.pre_link_arg);
796
797     let pre_link_objects = if crate_type == config::CrateTypeExecutable {
798         &sess.target.target.options.pre_link_objects_exe
799     } else {
800         &sess.target.target.options.pre_link_objects_dll
801     };
802     for obj in pre_link_objects {
803         cmd.arg(root.join(obj));
804     }
805
806     if sess.target.target.options.is_like_emscripten {
807         cmd.arg("-s");
808         cmd.arg(if sess.panic_strategy() == PanicStrategy::Abort {
809             "DISABLE_EXCEPTION_CATCHING=1"
810         } else {
811             "DISABLE_EXCEPTION_CATCHING=0"
812         });
813     }
814
815     {
816         let mut linker = trans.linker_info.to_linker(cmd, &sess);
817         link_args(&mut *linker, sess, crate_type, tmpdir,
818                   objects, out_filename, outputs, trans);
819         cmd = linker.finalize();
820     }
821     if let Some(args) = sess.target.target.options.late_link_args.get(&flavor) {
822         cmd.args(args);
823     }
824     for obj in &sess.target.target.options.post_link_objects {
825         cmd.arg(root.join(obj));
826     }
827     if let Some(args) = sess.target.target.options.post_link_args.get(&flavor) {
828         cmd.args(args);
829     }
830     for &(ref k, ref v) in &sess.target.target.options.link_env {
831         cmd.env(k, v);
832     }
833
834     if sess.opts.debugging_opts.print_link_args {
835         println!("{:?}", &cmd);
836     }
837
838     // May have not found libraries in the right formats.
839     sess.abort_if_errors();
840
841     // Invoke the system linker
842     //
843     // Note that there's a terribly awful hack that really shouldn't be present
844     // in any compiler. Here an environment variable is supported to
845     // automatically retry the linker invocation if the linker looks like it
846     // segfaulted.
847     //
848     // Gee that seems odd, normally segfaults are things we want to know about!
849     // Unfortunately though in rust-lang/rust#38878 we're experiencing the
850     // linker segfaulting on Travis quite a bit which is causing quite a bit of
851     // pain to land PRs when they spuriously fail due to a segfault.
852     //
853     // The issue #38878 has some more debugging information on it as well, but
854     // this unfortunately looks like it's just a race condition in macOS's linker
855     // with some thread pool working in the background. It seems that no one
856     // currently knows a fix for this so in the meantime we're left with this...
857     info!("{:?}", &cmd);
858     let retry_on_segfault = env::var("RUSTC_RETRY_LINKER_ON_SEGFAULT").is_ok();
859     let mut prog;
860     let mut i = 0;
861     loop {
862         i += 1;
863         prog = time(sess.time_passes(), "running linker", || cmd.output());
864         if !retry_on_segfault || i > 3 {
865             break
866         }
867         let output = match prog {
868             Ok(ref output) => output,
869             Err(_) => break,
870         };
871         if output.status.success() {
872             break
873         }
874         let mut out = output.stderr.clone();
875         out.extend(&output.stdout);
876         let out = String::from_utf8_lossy(&out);
877         let msg = "clang: error: unable to execute command: \
878                    Segmentation fault: 11";
879         if !out.contains(msg) {
880             break
881         }
882
883         sess.struct_warn("looks like the linker segfaulted when we tried to \
884                           call it, automatically retrying again")
885             .note(&format!("{:?}", cmd))
886             .note(&out)
887             .emit();
888     }
889
890     match prog {
891         Ok(prog) => {
892             fn escape_string(s: &[u8]) -> String {
893                 str::from_utf8(s).map(|s| s.to_owned())
894                     .unwrap_or_else(|_| {
895                         let mut x = "Non-UTF-8 output: ".to_string();
896                         x.extend(s.iter()
897                                  .flat_map(|&b| ascii::escape_default(b))
898                                  .map(|b| char::from_u32(b as u32).unwrap()));
899                         x
900                     })
901             }
902             if !prog.status.success() {
903                 let mut output = prog.stderr.clone();
904                 output.extend_from_slice(&prog.stdout);
905                 sess.struct_err(&format!("linking with `{}` failed: {}",
906                                          pname,
907                                          prog.status))
908                     .note(&format!("{:?}", &cmd))
909                     .note(&escape_string(&output))
910                     .emit();
911                 sess.abort_if_errors();
912             }
913             info!("linker stderr:\n{}", escape_string(&prog.stderr));
914             info!("linker stdout:\n{}", escape_string(&prog.stdout));
915         },
916         Err(e) => {
917             sess.struct_err(&format!("could not exec the linker `{}`: {}", pname, e))
918                 .note(&format!("{:?}", &cmd))
919                 .emit();
920             if sess.target.target.options.is_like_msvc && e.kind() == io::ErrorKind::NotFound {
921                 sess.note_without_error("the msvc targets depend on the msvc linker \
922                     but `link.exe` was not found");
923                 sess.note_without_error("please ensure that VS 2013 or VS 2015 was installed \
924                     with the Visual C++ option");
925             }
926             sess.abort_if_errors();
927         }
928     }
929
930
931     // On macOS, debuggers need this utility to get run to do some munging of
932     // the symbols
933     if sess.target.target.options.is_like_osx && sess.opts.debuginfo != NoDebugInfo {
934         match Command::new("dsymutil").arg(out_filename).output() {
935             Ok(..) => {}
936             Err(e) => sess.fatal(&format!("failed to run dsymutil: {}", e)),
937         }
938     }
939 }
940
941 fn link_args(cmd: &mut Linker,
942              sess: &Session,
943              crate_type: config::CrateType,
944              tmpdir: &Path,
945              objects: &[PathBuf],
946              out_filename: &Path,
947              outputs: &OutputFilenames,
948              trans: &CrateTranslation) {
949
950     // The default library location, we need this to find the runtime.
951     // The location of crates will be determined as needed.
952     let lib_path = sess.target_filesearch(PathKind::All).get_lib_path();
953
954     // target descriptor
955     let t = &sess.target.target;
956
957     cmd.include_path(&fix_windows_verbatim_for_gcc(&lib_path));
958     for obj in objects {
959         cmd.add_object(obj);
960     }
961     cmd.output_filename(out_filename);
962
963     if crate_type == config::CrateTypeExecutable &&
964        sess.target.target.options.is_like_windows {
965         if let Some(ref s) = trans.windows_subsystem {
966             cmd.subsystem(s);
967         }
968     }
969
970     // If we're building a dynamic library then some platforms need to make sure
971     // that all symbols are exported correctly from the dynamic library.
972     if crate_type != config::CrateTypeExecutable ||
973        sess.target.target.options.is_like_emscripten {
974         cmd.export_symbols(tmpdir, crate_type);
975     }
976
977     // When linking a dynamic library, we put the metadata into a section of the
978     // executable. This metadata is in a separate object file from the main
979     // object file, so we link that in here.
980     if crate_type == config::CrateTypeDylib ||
981        crate_type == config::CrateTypeProcMacro {
982         cmd.add_object(&outputs.with_extension(METADATA_OBJ_NAME));
983     }
984
985     if trans.allocator_module.is_some() {
986         cmd.add_object(&outputs.with_extension(ALLOCATOR_OBJ_NAME));
987     }
988
989     // Try to strip as much out of the generated object by removing unused
990     // sections if possible. See more comments in linker.rs
991     if !sess.opts.cg.link_dead_code {
992         let keep_metadata = crate_type == config::CrateTypeDylib;
993         cmd.gc_sections(keep_metadata);
994     }
995
996     let used_link_args = sess.cstore.used_link_args();
997
998     if crate_type == config::CrateTypeExecutable &&
999        t.options.position_independent_executables {
1000         let empty_vec = Vec::new();
1001         let args = sess.opts.cg.link_args.as_ref().unwrap_or(&empty_vec);
1002         let more_args = &sess.opts.cg.link_arg;
1003         let mut args = args.iter().chain(more_args.iter()).chain(used_link_args.iter());
1004
1005         if get_reloc_model(sess) == llvm::RelocMode::PIC
1006             && !args.any(|x| *x == "-static") {
1007             cmd.position_independent_executable();
1008         }
1009     }
1010
1011     // Pass optimization flags down to the linker.
1012     cmd.optimize();
1013
1014     // Pass debuginfo flags down to the linker.
1015     cmd.debuginfo();
1016
1017     // We want to prevent the compiler from accidentally leaking in any system
1018     // libraries, so we explicitly ask gcc to not link to any libraries by
1019     // default. Note that this does not happen for windows because windows pulls
1020     // in some large number of libraries and I couldn't quite figure out which
1021     // subset we wanted.
1022     if t.options.no_default_libraries {
1023         cmd.no_default_libraries();
1024     }
1025
1026     // Take careful note of the ordering of the arguments we pass to the linker
1027     // here. Linkers will assume that things on the left depend on things to the
1028     // right. Things on the right cannot depend on things on the left. This is
1029     // all formally implemented in terms of resolving symbols (libs on the right
1030     // resolve unknown symbols of libs on the left, but not vice versa).
1031     //
1032     // For this reason, we have organized the arguments we pass to the linker as
1033     // such:
1034     //
1035     //  1. The local object that LLVM just generated
1036     //  2. Local native libraries
1037     //  3. Upstream rust libraries
1038     //  4. Upstream native libraries
1039     //
1040     // The rationale behind this ordering is that those items lower down in the
1041     // list can't depend on items higher up in the list. For example nothing can
1042     // depend on what we just generated (e.g. that'd be a circular dependency).
1043     // Upstream rust libraries are not allowed to depend on our local native
1044     // libraries as that would violate the structure of the DAG, in that
1045     // scenario they are required to link to them as well in a shared fashion.
1046     //
1047     // Note that upstream rust libraries may contain native dependencies as
1048     // well, but they also can't depend on what we just started to add to the
1049     // link line. And finally upstream native libraries can't depend on anything
1050     // in this DAG so far because they're only dylibs and dylibs can only depend
1051     // on other dylibs (e.g. other native deps).
1052     add_local_native_libraries(cmd, sess);
1053     add_upstream_rust_crates(cmd, sess, crate_type, tmpdir);
1054     add_upstream_native_libraries(cmd, sess, crate_type);
1055
1056     // # Telling the linker what we're doing
1057
1058     if crate_type != config::CrateTypeExecutable {
1059         cmd.build_dylib(out_filename);
1060     }
1061
1062     // FIXME (#2397): At some point we want to rpath our guesses as to
1063     // where extern libraries might live, based on the
1064     // addl_lib_search_paths
1065     if sess.opts.cg.rpath {
1066         let sysroot = sess.sysroot();
1067         let target_triple = &sess.opts.target_triple;
1068         let mut get_install_prefix_lib_path = || {
1069             let install_prefix = option_env!("CFG_PREFIX").expect("CFG_PREFIX");
1070             let tlib = filesearch::relative_target_lib_path(sysroot, target_triple);
1071             let mut path = PathBuf::from(install_prefix);
1072             path.push(&tlib);
1073
1074             path
1075         };
1076         let mut rpath_config = RPathConfig {
1077             used_crates: sess.cstore.used_crates(LinkagePreference::RequireDynamic),
1078             out_filename: out_filename.to_path_buf(),
1079             has_rpath: sess.target.target.options.has_rpath,
1080             is_like_osx: sess.target.target.options.is_like_osx,
1081             linker_is_gnu: sess.target.target.options.linker_is_gnu,
1082             get_install_prefix_lib_path: &mut get_install_prefix_lib_path,
1083         };
1084         cmd.args(&rpath::get_rpath_flags(&mut rpath_config));
1085     }
1086
1087     // Finally add all the linker arguments provided on the command line along
1088     // with any #[link_args] attributes found inside the crate
1089     if let Some(ref args) = sess.opts.cg.link_args {
1090         cmd.args(args);
1091     }
1092     cmd.args(&sess.opts.cg.link_arg);
1093     cmd.args(&used_link_args);
1094 }
1095
1096 // # Native library linking
1097 //
1098 // User-supplied library search paths (-L on the command line). These are
1099 // the same paths used to find Rust crates, so some of them may have been
1100 // added already by the previous crate linking code. This only allows them
1101 // to be found at compile time so it is still entirely up to outside
1102 // forces to make sure that library can be found at runtime.
1103 //
1104 // Also note that the native libraries linked here are only the ones located
1105 // in the current crate. Upstream crates with native library dependencies
1106 // may have their native library pulled in above.
1107 fn add_local_native_libraries(cmd: &mut Linker, sess: &Session) {
1108     sess.target_filesearch(PathKind::All).for_each_lib_search_path(|path, k| {
1109         match k {
1110             PathKind::Framework => { cmd.framework_path(path); }
1111             _ => { cmd.include_path(&fix_windows_verbatim_for_gcc(path)); }
1112         }
1113     });
1114
1115     let relevant_libs = sess.cstore.used_libraries().into_iter().filter(|l| {
1116         relevant_lib(sess, l)
1117     });
1118
1119     let search_path = archive_search_paths(sess);
1120     for lib in relevant_libs {
1121         match lib.kind {
1122             NativeLibraryKind::NativeUnknown => cmd.link_dylib(&lib.name.as_str()),
1123             NativeLibraryKind::NativeFramework => cmd.link_framework(&lib.name.as_str()),
1124             NativeLibraryKind::NativeStaticNobundle => cmd.link_staticlib(&lib.name.as_str()),
1125             NativeLibraryKind::NativeStatic => cmd.link_whole_staticlib(&lib.name.as_str(),
1126                                                                         &search_path)
1127         }
1128     }
1129 }
1130
1131 // # Rust Crate linking
1132 //
1133 // Rust crates are not considered at all when creating an rlib output. All
1134 // dependencies will be linked when producing the final output (instead of
1135 // the intermediate rlib version)
1136 fn add_upstream_rust_crates(cmd: &mut Linker,
1137                             sess: &Session,
1138                             crate_type: config::CrateType,
1139                             tmpdir: &Path) {
1140     // All of the heavy lifting has previously been accomplished by the
1141     // dependency_format module of the compiler. This is just crawling the
1142     // output of that module, adding crates as necessary.
1143     //
1144     // Linking to a rlib involves just passing it to the linker (the linker
1145     // will slurp up the object files inside), and linking to a dynamic library
1146     // involves just passing the right -l flag.
1147
1148     let formats = sess.dependency_formats.borrow();
1149     let data = formats.get(&crate_type).unwrap();
1150
1151     // Invoke get_used_crates to ensure that we get a topological sorting of
1152     // crates.
1153     let deps = sess.cstore.used_crates(LinkagePreference::RequireDynamic);
1154
1155     let mut compiler_builtins = None;
1156
1157     for &(cnum, _) in &deps {
1158         // We may not pass all crates through to the linker. Some crates may
1159         // appear statically in an existing dylib, meaning we'll pick up all the
1160         // symbols from the dylib.
1161         let src = sess.cstore.used_crate_source(cnum);
1162         match data[cnum.as_usize() - 1] {
1163             _ if sess.cstore.is_profiler_runtime(cnum) => {
1164                 add_static_crate(cmd, sess, tmpdir, crate_type, cnum);
1165             }
1166             _ if sess.cstore.is_sanitizer_runtime(cnum) => {
1167                 link_sanitizer_runtime(cmd, sess, tmpdir, cnum);
1168             }
1169             // compiler-builtins are always placed last to ensure that they're
1170             // linked correctly.
1171             _ if sess.cstore.is_compiler_builtins(cnum) => {
1172                 assert!(compiler_builtins.is_none());
1173                 compiler_builtins = Some(cnum);
1174             }
1175             Linkage::NotLinked |
1176             Linkage::IncludedFromDylib => {}
1177             Linkage::Static => {
1178                 add_static_crate(cmd, sess, tmpdir, crate_type, cnum);
1179             }
1180             Linkage::Dynamic => {
1181                 add_dynamic_crate(cmd, sess, &src.dylib.unwrap().0)
1182             }
1183         }
1184     }
1185
1186     // compiler-builtins are always placed last to ensure that they're
1187     // linked correctly.
1188     // We must always link the `compiler_builtins` crate statically. Even if it
1189     // was already "included" in a dylib (e.g. `libstd` when `-C prefer-dynamic`
1190     // is used)
1191     if let Some(cnum) = compiler_builtins {
1192         add_static_crate(cmd, sess, tmpdir, crate_type, cnum);
1193     }
1194
1195     // Converts a library file-stem into a cc -l argument
1196     fn unlib<'a>(config: &config::Config, stem: &'a str) -> &'a str {
1197         if stem.starts_with("lib") && !config.target.options.is_like_windows {
1198             &stem[3..]
1199         } else {
1200             stem
1201         }
1202     }
1203
1204     // We must link the sanitizer runtime using -Wl,--whole-archive but since
1205     // it's packed in a .rlib, it contains stuff that are not objects that will
1206     // make the linker error. So we must remove those bits from the .rlib before
1207     // linking it.
1208     fn link_sanitizer_runtime(cmd: &mut Linker,
1209                               sess: &Session,
1210                               tmpdir: &Path,
1211                               cnum: CrateNum) {
1212         let src = sess.cstore.used_crate_source(cnum);
1213         let cratepath = &src.rlib.unwrap().0;
1214
1215         if sess.target.target.options.is_like_osx {
1216             // On Apple platforms, the sanitizer is always built as a dylib, and
1217             // LLVM will link to `@rpath/*.dylib`, so we need to specify an
1218             // rpath to the library as well (the rpath should be absolute, see
1219             // PR #41352 for details).
1220             //
1221             // FIXME: Remove this logic into librustc_*san once Cargo supports it
1222             let rpath = cratepath.parent().unwrap();
1223             let rpath = rpath.to_str().expect("non-utf8 component in path");
1224             cmd.args(&["-Wl,-rpath".into(), "-Xlinker".into(), rpath.into()]);
1225         }
1226
1227         let dst = tmpdir.join(cratepath.file_name().unwrap());
1228         let cfg = archive_config(sess, &dst, Some(cratepath));
1229         let mut archive = ArchiveBuilder::new(cfg);
1230         archive.update_symbols();
1231
1232         for f in archive.src_files() {
1233             if f.ends_with("bytecode.deflate") || f == METADATA_FILENAME {
1234                     archive.remove_file(&f);
1235                     continue
1236                 }
1237         }
1238
1239         archive.build();
1240
1241         cmd.link_whole_rlib(&dst);
1242     }
1243
1244     // Adds the static "rlib" versions of all crates to the command line.
1245     // There's a bit of magic which happens here specifically related to LTO and
1246     // dynamic libraries. Specifically:
1247     //
1248     // * For LTO, we remove upstream object files.
1249     // * For dylibs we remove metadata and bytecode from upstream rlibs
1250     //
1251     // When performing LTO, almost(*) all of the bytecode from the upstream
1252     // libraries has already been included in our object file output. As a
1253     // result we need to remove the object files in the upstream libraries so
1254     // the linker doesn't try to include them twice (or whine about duplicate
1255     // symbols). We must continue to include the rest of the rlib, however, as
1256     // it may contain static native libraries which must be linked in.
1257     //
1258     // (*) Crates marked with `#![no_builtins]` don't participate in LTO and
1259     // their bytecode wasn't included. The object files in those libraries must
1260     // still be passed to the linker.
1261     //
1262     // When making a dynamic library, linkers by default don't include any
1263     // object files in an archive if they're not necessary to resolve the link.
1264     // We basically want to convert the archive (rlib) to a dylib, though, so we
1265     // *do* want everything included in the output, regardless of whether the
1266     // linker thinks it's needed or not. As a result we must use the
1267     // --whole-archive option (or the platform equivalent). When using this
1268     // option the linker will fail if there are non-objects in the archive (such
1269     // as our own metadata and/or bytecode). All in all, for rlibs to be
1270     // entirely included in dylibs, we need to remove all non-object files.
1271     //
1272     // Note, however, that if we're not doing LTO or we're not producing a dylib
1273     // (aka we're making an executable), we can just pass the rlib blindly to
1274     // the linker (fast) because it's fine if it's not actually included as
1275     // we're at the end of the dependency chain.
1276     fn add_static_crate(cmd: &mut Linker,
1277                         sess: &Session,
1278                         tmpdir: &Path,
1279                         crate_type: config::CrateType,
1280                         cnum: CrateNum) {
1281         let src = sess.cstore.used_crate_source(cnum);
1282         let cratepath = &src.rlib.unwrap().0;
1283
1284         // See the comment above in `link_staticlib` and `link_rlib` for why if
1285         // there's a static library that's not relevant we skip all object
1286         // files.
1287         let native_libs = sess.cstore.native_libraries(cnum);
1288         let skip_native = native_libs.iter().any(|lib| {
1289             lib.kind == NativeLibraryKind::NativeStatic && !relevant_lib(sess, lib)
1290         });
1291
1292         if !sess.lto() && crate_type != config::CrateTypeDylib && !skip_native {
1293             cmd.link_rlib(&fix_windows_verbatim_for_gcc(cratepath));
1294             return
1295         }
1296
1297         let dst = tmpdir.join(cratepath.file_name().unwrap());
1298         let name = cratepath.file_name().unwrap().to_str().unwrap();
1299         let name = &name[3..name.len() - 5]; // chop off lib/.rlib
1300
1301         time(sess.time_passes(), &format!("altering {}.rlib", name), || {
1302             let cfg = archive_config(sess, &dst, Some(cratepath));
1303             let mut archive = ArchiveBuilder::new(cfg);
1304             archive.update_symbols();
1305
1306             let mut any_objects = false;
1307             for f in archive.src_files() {
1308                 if f.ends_with("bytecode.deflate") || f == METADATA_FILENAME {
1309                     archive.remove_file(&f);
1310                     continue
1311                 }
1312
1313                 let canonical = f.replace("-", "_");
1314                 let canonical_name = name.replace("-", "_");
1315
1316                 let is_rust_object =
1317                     canonical.starts_with(&canonical_name) && {
1318                         let num = &f[name.len()..f.len() - 2];
1319                         num.len() > 0 && num[1..].parse::<u32>().is_ok()
1320                     };
1321
1322                 // If we've been requested to skip all native object files
1323                 // (those not generated by the rust compiler) then we can skip
1324                 // this file. See above for why we may want to do this.
1325                 let skip_because_cfg_say_so = skip_native && !is_rust_object;
1326
1327                 // If we're performing LTO and this is a rust-generated object
1328                 // file, then we don't need the object file as it's part of the
1329                 // LTO module. Note that `#![no_builtins]` is excluded from LTO,
1330                 // though, so we let that object file slide.
1331                 let skip_because_lto = sess.lto() && is_rust_object &&
1332                                         !sess.cstore.is_no_builtins(cnum);
1333
1334                 if skip_because_cfg_say_so || skip_because_lto {
1335                     archive.remove_file(&f);
1336                 } else {
1337                     any_objects = true;
1338                 }
1339             }
1340
1341             if !any_objects {
1342                 return
1343             }
1344             archive.build();
1345
1346             // If we're creating a dylib, then we need to include the
1347             // whole of each object in our archive into that artifact. This is
1348             // because a `dylib` can be reused as an intermediate artifact.
1349             //
1350             // Note, though, that we don't want to include the whole of a
1351             // compiler-builtins crate (e.g. compiler-rt) because it'll get
1352             // repeatedly linked anyway.
1353             if crate_type == config::CrateTypeDylib &&
1354                !sess.cstore.is_compiler_builtins(cnum) {
1355                 cmd.link_whole_rlib(&fix_windows_verbatim_for_gcc(&dst));
1356             } else {
1357                 cmd.link_rlib(&fix_windows_verbatim_for_gcc(&dst));
1358             }
1359         });
1360     }
1361
1362     // Same thing as above, but for dynamic crates instead of static crates.
1363     fn add_dynamic_crate(cmd: &mut Linker, sess: &Session, cratepath: &Path) {
1364         // If we're performing LTO, then it should have been previously required
1365         // that all upstream rust dependencies were available in an rlib format.
1366         assert!(!sess.lto());
1367
1368         // Just need to tell the linker about where the library lives and
1369         // what its name is
1370         let parent = cratepath.parent();
1371         if let Some(dir) = parent {
1372             cmd.include_path(&fix_windows_verbatim_for_gcc(dir));
1373         }
1374         let filestem = cratepath.file_stem().unwrap().to_str().unwrap();
1375         cmd.link_rust_dylib(&unlib(&sess.target, filestem),
1376                             parent.unwrap_or(Path::new("")));
1377     }
1378 }
1379
1380 // Link in all of our upstream crates' native dependencies. Remember that
1381 // all of these upstream native dependencies are all non-static
1382 // dependencies. We've got two cases then:
1383 //
1384 // 1. The upstream crate is an rlib. In this case we *must* link in the
1385 // native dependency because the rlib is just an archive.
1386 //
1387 // 2. The upstream crate is a dylib. In order to use the dylib, we have to
1388 // have the dependency present on the system somewhere. Thus, we don't
1389 // gain a whole lot from not linking in the dynamic dependency to this
1390 // crate as well.
1391 //
1392 // The use case for this is a little subtle. In theory the native
1393 // dependencies of a crate are purely an implementation detail of the crate
1394 // itself, but the problem arises with generic and inlined functions. If a
1395 // generic function calls a native function, then the generic function must
1396 // be instantiated in the target crate, meaning that the native symbol must
1397 // also be resolved in the target crate.
1398 fn add_upstream_native_libraries(cmd: &mut Linker, sess: &Session, crate_type: config::CrateType) {
1399     // Be sure to use a topological sorting of crates because there may be
1400     // interdependencies between native libraries. When passing -nodefaultlibs,
1401     // for example, almost all native libraries depend on libc, so we have to
1402     // make sure that's all the way at the right (liblibc is near the base of
1403     // the dependency chain).
1404     //
1405     // This passes RequireStatic, but the actual requirement doesn't matter,
1406     // we're just getting an ordering of crate numbers, we're not worried about
1407     // the paths.
1408     let formats = sess.dependency_formats.borrow();
1409     let data = formats.get(&crate_type).unwrap();
1410
1411     let crates = sess.cstore.used_crates(LinkagePreference::RequireStatic);
1412     for (cnum, _) in crates {
1413         for lib in sess.cstore.native_libraries(cnum) {
1414             if !relevant_lib(sess, &lib) {
1415                 continue
1416             }
1417             match lib.kind {
1418                 NativeLibraryKind::NativeUnknown => cmd.link_dylib(&lib.name.as_str()),
1419                 NativeLibraryKind::NativeFramework => cmd.link_framework(&lib.name.as_str()),
1420                 NativeLibraryKind::NativeStaticNobundle => {
1421                     // Link "static-nobundle" native libs only if the crate they originate from
1422                     // is being linked statically to the current crate.  If it's linked dynamically
1423                     // or is an rlib already included via some other dylib crate, the symbols from
1424                     // native libs will have already been included in that dylib.
1425                     if data[cnum.as_usize() - 1] == Linkage::Static {
1426                         cmd.link_staticlib(&lib.name.as_str())
1427                     }
1428                 },
1429                 // ignore statically included native libraries here as we've
1430                 // already included them when we included the rust library
1431                 // previously
1432                 NativeLibraryKind::NativeStatic => {}
1433             }
1434         }
1435     }
1436 }
1437
1438 fn relevant_lib(sess: &Session, lib: &NativeLibrary) -> bool {
1439     match lib.cfg {
1440         Some(ref cfg) => attr::cfg_matches(cfg, &sess.parse_sess, None),
1441         None => true,
1442     }
1443 }