]> git.lizzy.rs Git - rust.git/blob - src/librustc_trans/back/link.rs
ICH: Use 128-bit Blake2b hash instead of 64-bit SipHash for incr. comp. fingerprints.
[rust.git] / src / librustc_trans / back / link.rs
1 // Copyright 2012-2014 The Rust Project Developers. See the COPYRIGHT
2 // file at the top-level directory of this distribution and at
3 // http://rust-lang.org/COPYRIGHT.
4 //
5 // Licensed under the Apache License, Version 2.0 <LICENSE-APACHE or
6 // http://www.apache.org/licenses/LICENSE-2.0> or the MIT license
7 // <LICENSE-MIT or http://opensource.org/licenses/MIT>, at your
8 // option. This file may not be copied, modified, or distributed
9 // except according to those terms.
10
11 use super::archive::{ArchiveBuilder, ArchiveConfig};
12 use super::linker::Linker;
13 use super::rpath::RPathConfig;
14 use super::rpath;
15 use super::msvc;
16 use session::config;
17 use session::config::NoDebugInfo;
18 use session::config::{OutputFilenames, Input, OutputType};
19 use session::filesearch;
20 use session::search_paths::PathKind;
21 use session::Session;
22 use middle::cstore::{self, LinkMeta};
23 use middle::cstore::{LinkagePreference, NativeLibraryKind};
24 use middle::dependency_format::Linkage;
25 use CrateTranslation;
26 use util::common::time;
27 use util::fs::fix_windows_verbatim_for_gcc;
28 use rustc::dep_graph::DepNode;
29 use rustc::hir::def_id::CrateNum;
30 use rustc::hir::svh::Svh;
31 use rustc_back::tempdir::TempDir;
32 use rustc_incremental::IncrementalHashesMap;
33
34 use std::ascii;
35 use std::char;
36 use std::env;
37 use std::ffi::OsString;
38 use std::fs;
39 use std::io::{self, Read, Write};
40 use std::mem;
41 use std::path::{Path, PathBuf};
42 use std::process::Command;
43 use std::str;
44 use flate;
45 use syntax::ast;
46 use syntax_pos::Span;
47
48 // RLIB LLVM-BYTECODE OBJECT LAYOUT
49 // Version 1
50 // Bytes    Data
51 // 0..10    "RUST_OBJECT" encoded in ASCII
52 // 11..14   format version as little-endian u32
53 // 15..22   size in bytes of deflate compressed LLVM bitcode as
54 //          little-endian u64
55 // 23..     compressed LLVM bitcode
56
57 // This is the "magic number" expected at the beginning of a LLVM bytecode
58 // object in an rlib.
59 pub const RLIB_BYTECODE_OBJECT_MAGIC: &'static [u8] = b"RUST_OBJECT";
60
61 // The version number this compiler will write to bytecode objects in rlibs
62 pub const RLIB_BYTECODE_OBJECT_VERSION: u32 = 1;
63
64 // The offset in bytes the bytecode object format version number can be found at
65 pub const RLIB_BYTECODE_OBJECT_VERSION_OFFSET: usize = 11;
66
67 // The offset in bytes the size of the compressed bytecode can be found at in
68 // format version 1
69 pub const RLIB_BYTECODE_OBJECT_V1_DATASIZE_OFFSET: usize =
70     RLIB_BYTECODE_OBJECT_VERSION_OFFSET + 4;
71
72 // The offset in bytes the compressed LLVM bytecode can be found at in format
73 // version 1
74 pub const RLIB_BYTECODE_OBJECT_V1_DATA_OFFSET: usize =
75     RLIB_BYTECODE_OBJECT_V1_DATASIZE_OFFSET + 8;
76
77
78 pub fn find_crate_name(sess: Option<&Session>,
79                        attrs: &[ast::Attribute],
80                        input: &Input) -> String {
81     let validate = |s: String, span: Option<Span>| {
82         cstore::validate_crate_name(sess, &s[..], span);
83         s
84     };
85
86     // Look in attributes 100% of the time to make sure the attribute is marked
87     // as used. After doing this, however, we still prioritize a crate name from
88     // the command line over one found in the #[crate_name] attribute. If we
89     // find both we ensure that they're the same later on as well.
90     let attr_crate_name = attrs.iter().find(|at| at.check_name("crate_name"))
91                                .and_then(|at| at.value_str().map(|s| (at, s)));
92
93     if let Some(sess) = sess {
94         if let Some(ref s) = sess.opts.crate_name {
95             if let Some((attr, ref name)) = attr_crate_name {
96                 if *s != &name[..] {
97                     let msg = format!("--crate-name and #[crate_name] are \
98                                        required to match, but `{}` != `{}`",
99                                       s, name);
100                     sess.span_err(attr.span, &msg[..]);
101                 }
102             }
103             return validate(s.clone(), None);
104         }
105     }
106
107     if let Some((attr, s)) = attr_crate_name {
108         return validate(s.to_string(), Some(attr.span));
109     }
110     if let Input::File(ref path) = *input {
111         if let Some(s) = path.file_stem().and_then(|s| s.to_str()) {
112             if s.starts_with("-") {
113                 let msg = format!("crate names cannot start with a `-`, but \
114                                    `{}` has a leading hyphen", s);
115                 if let Some(sess) = sess {
116                     sess.err(&msg);
117                 }
118             } else {
119                 return validate(s.replace("-", "_"), None);
120             }
121         }
122     }
123
124     "rust_out".to_string()
125
126 }
127
128 pub fn build_link_meta(incremental_hashes_map: &IncrementalHashesMap,
129                        name: &str)
130                        -> LinkMeta {
131     let r = LinkMeta {
132         crate_name: name.to_owned(),
133         crate_hash: Svh::new(incremental_hashes_map[&DepNode::Krate].to_smaller_hash()),
134     };
135     info!("{:?}", r);
136     return r;
137 }
138
139 // The third parameter is for an extra path to add to PATH for MSVC
140 // cross linkers for host toolchain DLL dependencies
141 pub fn get_linker(sess: &Session) -> (String, Command, Option<PathBuf>) {
142     if let Some(ref linker) = sess.opts.cg.linker {
143         (linker.clone(), Command::new(linker), None)
144     } else if sess.target.target.options.is_like_msvc {
145         let (cmd, host) = msvc::link_exe_cmd(sess);
146         ("link.exe".to_string(), cmd, host)
147     } else {
148         (sess.target.target.options.linker.clone(),
149          Command::new(&sess.target.target.options.linker), None)
150     }
151 }
152
153 pub fn get_ar_prog(sess: &Session) -> String {
154     sess.opts.cg.ar.clone().unwrap_or_else(|| {
155         sess.target.target.options.ar.clone()
156     })
157 }
158
159 fn command_path(sess: &Session, extra: Option<PathBuf>) -> OsString {
160     // The compiler's sysroot often has some bundled tools, so add it to the
161     // PATH for the child.
162     let mut new_path = sess.host_filesearch(PathKind::All)
163                            .get_tools_search_paths();
164     if let Some(path) = env::var_os("PATH") {
165         new_path.extend(env::split_paths(&path));
166     }
167     new_path.extend(extra);
168     env::join_paths(new_path).unwrap()
169 }
170
171 pub fn remove(sess: &Session, path: &Path) {
172     match fs::remove_file(path) {
173         Ok(..) => {}
174         Err(e) => {
175             sess.err(&format!("failed to remove {}: {}",
176                              path.display(),
177                              e));
178         }
179     }
180 }
181
182 /// Perform the linkage portion of the compilation phase. This will generate all
183 /// of the requested outputs for this compilation session.
184 pub fn link_binary(sess: &Session,
185                    trans: &CrateTranslation,
186                    outputs: &OutputFilenames,
187                    crate_name: &str) -> Vec<PathBuf> {
188     let _task = sess.dep_graph.in_task(DepNode::LinkBinary);
189
190     let mut out_filenames = Vec::new();
191     for &crate_type in sess.crate_types.borrow().iter() {
192         // Ignore executable crates if we have -Z no-trans, as they will error.
193         if sess.opts.debugging_opts.no_trans &&
194            crate_type == config::CrateTypeExecutable {
195             continue;
196         }
197
198         if invalid_output_for_target(sess, crate_type) {
199            bug!("invalid output type `{:?}` for target os `{}`",
200                 crate_type, sess.opts.target_triple);
201         }
202         let out_file = link_binary_output(sess, trans, crate_type, outputs,
203                                           crate_name);
204         out_filenames.push(out_file);
205     }
206
207     // Remove the temporary object file and metadata if we aren't saving temps
208     if !sess.opts.cg.save_temps {
209         for obj in object_filenames(trans, outputs) {
210             remove(sess, &obj);
211         }
212         remove(sess, &outputs.with_extension("metadata.o"));
213     }
214
215     out_filenames
216 }
217
218
219 /// Returns default crate type for target
220 ///
221 /// Default crate type is used when crate type isn't provided neither
222 /// through cmd line arguments nor through crate attributes
223 ///
224 /// It is CrateTypeExecutable for all platforms but iOS as there is no
225 /// way to run iOS binaries anyway without jailbreaking and
226 /// interaction with Rust code through static library is the only
227 /// option for now
228 pub fn default_output_for_target(sess: &Session) -> config::CrateType {
229     if !sess.target.target.options.executables {
230         config::CrateTypeStaticlib
231     } else {
232         config::CrateTypeExecutable
233     }
234 }
235
236 /// Checks if target supports crate_type as output
237 pub fn invalid_output_for_target(sess: &Session,
238                                  crate_type: config::CrateType) -> bool {
239     match (sess.target.target.options.dynamic_linking,
240            sess.target.target.options.executables, crate_type) {
241         (false, _, config::CrateTypeCdylib) |
242         (false, _, config::CrateTypeProcMacro) |
243         (false, _, config::CrateTypeDylib) => true,
244         (_, false, config::CrateTypeExecutable) => true,
245         _ => false
246     }
247 }
248
249 fn is_writeable(p: &Path) -> bool {
250     match p.metadata() {
251         Err(..) => true,
252         Ok(m) => !m.permissions().readonly()
253     }
254 }
255
256 pub fn filename_for_input(sess: &Session,
257                           crate_type: config::CrateType,
258                           crate_name: &str,
259                           outputs: &OutputFilenames) -> PathBuf {
260     let libname = format!("{}{}", crate_name, sess.opts.cg.extra_filename);
261     match crate_type {
262         config::CrateTypeRlib => {
263             outputs.out_directory.join(&format!("lib{}.rlib", libname))
264         }
265         config::CrateTypeCdylib |
266         config::CrateTypeProcMacro |
267         config::CrateTypeDylib => {
268             let (prefix, suffix) = (&sess.target.target.options.dll_prefix,
269                                     &sess.target.target.options.dll_suffix);
270             outputs.out_directory.join(&format!("{}{}{}", prefix, libname,
271                                                 suffix))
272         }
273         config::CrateTypeStaticlib => {
274             let (prefix, suffix) = (&sess.target.target.options.staticlib_prefix,
275                                     &sess.target.target.options.staticlib_suffix);
276             outputs.out_directory.join(&format!("{}{}{}", prefix, libname,
277                                                 suffix))
278         }
279         config::CrateTypeExecutable => {
280             let suffix = &sess.target.target.options.exe_suffix;
281             let out_filename = outputs.path(OutputType::Exe);
282             if suffix.is_empty() {
283                 out_filename.to_path_buf()
284             } else {
285                 out_filename.with_extension(&suffix[1..])
286             }
287         }
288     }
289 }
290
291 pub fn each_linked_rlib(sess: &Session,
292                         f: &mut FnMut(CrateNum, &Path)) {
293     let crates = sess.cstore.used_crates(LinkagePreference::RequireStatic).into_iter();
294     let fmts = sess.dependency_formats.borrow();
295     let fmts = fmts.get(&config::CrateTypeExecutable)
296                    .or_else(|| fmts.get(&config::CrateTypeStaticlib))
297                    .or_else(|| fmts.get(&config::CrateTypeCdylib))
298                    .or_else(|| fmts.get(&config::CrateTypeProcMacro));
299     let fmts = fmts.unwrap_or_else(|| {
300         bug!("could not find formats for rlibs")
301     });
302     for (cnum, path) in crates {
303         match fmts[cnum.as_usize() - 1] {
304             Linkage::NotLinked | Linkage::IncludedFromDylib => continue,
305             _ => {}
306         }
307         let name = sess.cstore.crate_name(cnum).clone();
308         let path = match path {
309             Some(p) => p,
310             None => {
311                 sess.fatal(&format!("could not find rlib for: `{}`", name));
312             }
313         };
314         f(cnum, &path);
315     }
316 }
317
318 fn link_binary_output(sess: &Session,
319                       trans: &CrateTranslation,
320                       crate_type: config::CrateType,
321                       outputs: &OutputFilenames,
322                       crate_name: &str) -> PathBuf {
323     let objects = object_filenames(trans, outputs);
324     let default_filename = filename_for_input(sess, crate_type, crate_name,
325                                               outputs);
326     let out_filename = outputs.outputs.get(&OutputType::Exe)
327                               .and_then(|s| s.to_owned())
328                               .or_else(|| outputs.single_output_file.clone())
329                               .unwrap_or(default_filename);
330
331     // Make sure files are writeable.  Mac, FreeBSD, and Windows system linkers
332     // check this already -- however, the Linux linker will happily overwrite a
333     // read-only file.  We should be consistent.
334     for file in objects.iter().chain(Some(&out_filename)) {
335         if !is_writeable(file) {
336             sess.fatal(&format!("output file {} is not writeable -- check its \
337                                 permissions", file.display()));
338         }
339     }
340
341     let tmpdir = match TempDir::new("rustc") {
342         Ok(tmpdir) => tmpdir,
343         Err(err) => sess.fatal(&format!("couldn't create a temp dir: {}", err)),
344     };
345
346     match crate_type {
347         config::CrateTypeRlib => {
348             link_rlib(sess, Some(trans), &objects, &out_filename,
349                       tmpdir.path()).build();
350         }
351         config::CrateTypeStaticlib => {
352             link_staticlib(sess, &objects, &out_filename, tmpdir.path());
353         }
354         _ => {
355             link_natively(sess, crate_type, &objects, &out_filename, trans,
356                           outputs, tmpdir.path());
357         }
358     }
359
360     out_filename
361 }
362
363 fn object_filenames(trans: &CrateTranslation,
364                     outputs: &OutputFilenames)
365                     -> Vec<PathBuf> {
366     trans.modules.iter().map(|module| {
367         outputs.temp_path(OutputType::Object, Some(&module.name[..]))
368     }).collect()
369 }
370
371 fn archive_search_paths(sess: &Session) -> Vec<PathBuf> {
372     let mut search = Vec::new();
373     sess.target_filesearch(PathKind::Native).for_each_lib_search_path(|path, _| {
374         search.push(path.to_path_buf());
375     });
376     return search;
377 }
378
379 fn archive_config<'a>(sess: &'a Session,
380                       output: &Path,
381                       input: Option<&Path>) -> ArchiveConfig<'a> {
382     ArchiveConfig {
383         sess: sess,
384         dst: output.to_path_buf(),
385         src: input.map(|p| p.to_path_buf()),
386         lib_search_paths: archive_search_paths(sess),
387         ar_prog: get_ar_prog(sess),
388         command_path: command_path(sess, None),
389     }
390 }
391
392 // Create an 'rlib'
393 //
394 // An rlib in its current incarnation is essentially a renamed .a file. The
395 // rlib primarily contains the object file of the crate, but it also contains
396 // all of the object files from native libraries. This is done by unzipping
397 // native libraries and inserting all of the contents into this archive.
398 fn link_rlib<'a>(sess: &'a Session,
399                  trans: Option<&CrateTranslation>, // None == no metadata/bytecode
400                  objects: &[PathBuf],
401                  out_filename: &Path,
402                  tmpdir: &Path) -> ArchiveBuilder<'a> {
403     info!("preparing rlib from {:?} to {:?}", objects, out_filename);
404     let mut ab = ArchiveBuilder::new(archive_config(sess, out_filename, None));
405     for obj in objects {
406         ab.add_file(obj);
407     }
408
409     for (l, kind) in sess.cstore.used_libraries() {
410         match kind {
411             NativeLibraryKind::NativeStatic => ab.add_native_library(&l),
412             NativeLibraryKind::NativeFramework |
413             NativeLibraryKind::NativeUnknown => {}
414         }
415     }
416
417     // After adding all files to the archive, we need to update the
418     // symbol table of the archive.
419     ab.update_symbols();
420
421     // Note that it is important that we add all of our non-object "magical
422     // files" *after* all of the object files in the archive. The reason for
423     // this is as follows:
424     //
425     // * When performing LTO, this archive will be modified to remove
426     //   objects from above. The reason for this is described below.
427     //
428     // * When the system linker looks at an archive, it will attempt to
429     //   determine the architecture of the archive in order to see whether its
430     //   linkable.
431     //
432     //   The algorithm for this detection is: iterate over the files in the
433     //   archive. Skip magical SYMDEF names. Interpret the first file as an
434     //   object file. Read architecture from the object file.
435     //
436     // * As one can probably see, if "metadata" and "foo.bc" were placed
437     //   before all of the objects, then the architecture of this archive would
438     //   not be correctly inferred once 'foo.o' is removed.
439     //
440     // Basically, all this means is that this code should not move above the
441     // code above.
442     match trans {
443         Some(trans) => {
444             // Instead of putting the metadata in an object file section, rlibs
445             // contain the metadata in a separate file. We use a temp directory
446             // here so concurrent builds in the same directory don't try to use
447             // the same filename for metadata (stomping over one another)
448             let metadata = tmpdir.join(sess.cstore.metadata_filename());
449             match fs::File::create(&metadata).and_then(|mut f| {
450                 f.write_all(&trans.metadata)
451             }) {
452                 Ok(..) => {}
453                 Err(e) => {
454                     sess.fatal(&format!("failed to write {}: {}",
455                                         metadata.display(), e));
456                 }
457             }
458             ab.add_file(&metadata);
459
460             // For LTO purposes, the bytecode of this library is also inserted
461             // into the archive.  If codegen_units > 1, we insert each of the
462             // bitcode files.
463             for obj in objects {
464                 // Note that we make sure that the bytecode filename in the
465                 // archive is never exactly 16 bytes long by adding a 16 byte
466                 // extension to it. This is to work around a bug in LLDB that
467                 // would cause it to crash if the name of a file in an archive
468                 // was exactly 16 bytes.
469                 let bc_filename = obj.with_extension("bc");
470                 let bc_deflated_filename = tmpdir.join({
471                     obj.with_extension("bytecode.deflate").file_name().unwrap()
472                 });
473
474                 let mut bc_data = Vec::new();
475                 match fs::File::open(&bc_filename).and_then(|mut f| {
476                     f.read_to_end(&mut bc_data)
477                 }) {
478                     Ok(..) => {}
479                     Err(e) => sess.fatal(&format!("failed to read bytecode: {}",
480                                                  e))
481                 }
482
483                 let bc_data_deflated = flate::deflate_bytes(&bc_data[..]);
484
485                 let mut bc_file_deflated = match fs::File::create(&bc_deflated_filename) {
486                     Ok(file) => file,
487                     Err(e) => {
488                         sess.fatal(&format!("failed to create compressed \
489                                              bytecode file: {}", e))
490                     }
491                 };
492
493                 match write_rlib_bytecode_object_v1(&mut bc_file_deflated,
494                                                     &bc_data_deflated) {
495                     Ok(()) => {}
496                     Err(e) => {
497                         sess.fatal(&format!("failed to write compressed \
498                                              bytecode: {}", e));
499                     }
500                 };
501
502                 ab.add_file(&bc_deflated_filename);
503
504                 // See the bottom of back::write::run_passes for an explanation
505                 // of when we do and don't keep .#module-name#.bc files around.
506                 let user_wants_numbered_bitcode =
507                         sess.opts.output_types.contains_key(&OutputType::Bitcode) &&
508                         sess.opts.cg.codegen_units > 1;
509                 if !sess.opts.cg.save_temps && !user_wants_numbered_bitcode {
510                     remove(sess, &bc_filename);
511                 }
512             }
513
514             // After adding all files to the archive, we need to update the
515             // symbol table of the archive. This currently dies on OSX (see
516             // #11162), and isn't necessary there anyway
517             if !sess.target.target.options.is_like_osx {
518                 ab.update_symbols();
519             }
520         }
521
522         None => {}
523     }
524
525     ab
526 }
527
528 fn write_rlib_bytecode_object_v1(writer: &mut Write,
529                                  bc_data_deflated: &[u8]) -> io::Result<()> {
530     let bc_data_deflated_size: u64 = bc_data_deflated.len() as u64;
531
532     writer.write_all(RLIB_BYTECODE_OBJECT_MAGIC)?;
533     writer.write_all(&[1, 0, 0, 0])?;
534     writer.write_all(&[
535         (bc_data_deflated_size >>  0) as u8,
536         (bc_data_deflated_size >>  8) as u8,
537         (bc_data_deflated_size >> 16) as u8,
538         (bc_data_deflated_size >> 24) as u8,
539         (bc_data_deflated_size >> 32) as u8,
540         (bc_data_deflated_size >> 40) as u8,
541         (bc_data_deflated_size >> 48) as u8,
542         (bc_data_deflated_size >> 56) as u8,
543     ])?;
544     writer.write_all(&bc_data_deflated)?;
545
546     let number_of_bytes_written_so_far =
547         RLIB_BYTECODE_OBJECT_MAGIC.len() +                // magic id
548         mem::size_of_val(&RLIB_BYTECODE_OBJECT_VERSION) + // version
549         mem::size_of_val(&bc_data_deflated_size) +        // data size field
550         bc_data_deflated_size as usize;                    // actual data
551
552     // If the number of bytes written to the object so far is odd, add a
553     // padding byte to make it even. This works around a crash bug in LLDB
554     // (see issue #15950)
555     if number_of_bytes_written_so_far % 2 == 1 {
556         writer.write_all(&[0])?;
557     }
558
559     return Ok(());
560 }
561
562 // Create a static archive
563 //
564 // This is essentially the same thing as an rlib, but it also involves adding
565 // all of the upstream crates' objects into the archive. This will slurp in
566 // all of the native libraries of upstream dependencies as well.
567 //
568 // Additionally, there's no way for us to link dynamic libraries, so we warn
569 // about all dynamic library dependencies that they're not linked in.
570 //
571 // There's no need to include metadata in a static archive, so ensure to not
572 // link in the metadata object file (and also don't prepare the archive with a
573 // metadata file).
574 fn link_staticlib(sess: &Session, objects: &[PathBuf], out_filename: &Path,
575                   tempdir: &Path) {
576     let mut ab = link_rlib(sess, None, objects, out_filename, tempdir);
577     let mut all_native_libs = vec![];
578
579     each_linked_rlib(sess, &mut |cnum, path| {
580         let name = sess.cstore.crate_name(cnum);
581         ab.add_rlib(path, &name, sess.lto()).unwrap();
582
583         let native_libs = sess.cstore.native_libraries(cnum);
584         all_native_libs.extend(native_libs);
585     });
586
587     ab.update_symbols();
588     ab.build();
589
590     if !all_native_libs.is_empty() {
591         sess.note_without_error("link against the following native artifacts when linking against \
592                                  this static library");
593         sess.note_without_error("the order and any duplication can be significant on some \
594                                  platforms, and so may need to be preserved");
595     }
596
597     for &(kind, ref lib) in &all_native_libs {
598         let name = match kind {
599             NativeLibraryKind::NativeStatic => "static library",
600             NativeLibraryKind::NativeUnknown => "library",
601             NativeLibraryKind::NativeFramework => "framework",
602         };
603         sess.note_without_error(&format!("{}: {}", name, *lib));
604     }
605 }
606
607 // Create a dynamic library or executable
608 //
609 // This will invoke the system linker/cc to create the resulting file. This
610 // links to all upstream files as well.
611 fn link_natively(sess: &Session,
612                  crate_type: config::CrateType,
613                  objects: &[PathBuf],
614                  out_filename: &Path,
615                  trans: &CrateTranslation,
616                  outputs: &OutputFilenames,
617                  tmpdir: &Path) {
618     info!("preparing {:?} from {:?} to {:?}", crate_type, objects, out_filename);
619
620     // The invocations of cc share some flags across platforms
621     let (pname, mut cmd, extra) = get_linker(sess);
622     cmd.env("PATH", command_path(sess, extra));
623
624     let root = sess.target_filesearch(PathKind::Native).get_lib_path();
625     cmd.args(&sess.target.target.options.pre_link_args);
626
627     let pre_link_objects = if crate_type == config::CrateTypeExecutable {
628         &sess.target.target.options.pre_link_objects_exe
629     } else {
630         &sess.target.target.options.pre_link_objects_dll
631     };
632     for obj in pre_link_objects {
633         cmd.arg(root.join(obj));
634     }
635
636     {
637         let mut linker = trans.linker_info.to_linker(&mut cmd, &sess);
638         link_args(&mut *linker, sess, crate_type, tmpdir,
639                   objects, out_filename, outputs);
640     }
641     cmd.args(&sess.target.target.options.late_link_args);
642     for obj in &sess.target.target.options.post_link_objects {
643         cmd.arg(root.join(obj));
644     }
645     cmd.args(&sess.target.target.options.post_link_args);
646
647     if sess.opts.debugging_opts.print_link_args {
648         println!("{:?}", &cmd);
649     }
650
651     // May have not found libraries in the right formats.
652     sess.abort_if_errors();
653
654     // Invoke the system linker
655     info!("{:?}", &cmd);
656     let prog = time(sess.time_passes(), "running linker", || cmd.output());
657     match prog {
658         Ok(prog) => {
659             fn escape_string(s: &[u8]) -> String {
660                 str::from_utf8(s).map(|s| s.to_owned())
661                     .unwrap_or_else(|_| {
662                         let mut x = "Non-UTF-8 output: ".to_string();
663                         x.extend(s.iter()
664                                  .flat_map(|&b| ascii::escape_default(b))
665                                  .map(|b| char::from_u32(b as u32).unwrap()));
666                         x
667                     })
668             }
669             if !prog.status.success() {
670                 let mut output = prog.stderr.clone();
671                 output.extend_from_slice(&prog.stdout);
672                 sess.struct_err(&format!("linking with `{}` failed: {}",
673                                          pname,
674                                          prog.status))
675                     .note(&format!("{:?}", &cmd))
676                     .note(&escape_string(&output[..]))
677                     .emit();
678                 sess.abort_if_errors();
679             }
680             info!("linker stderr:\n{}", escape_string(&prog.stderr[..]));
681             info!("linker stdout:\n{}", escape_string(&prog.stdout[..]));
682         },
683         Err(e) => {
684             sess.struct_err(&format!("could not exec the linker `{}`: {}", pname, e))
685                 .note(&format!("{:?}", &cmd))
686                 .emit();
687             if sess.target.target.options.is_like_msvc && e.kind() == io::ErrorKind::NotFound {
688                 sess.note_without_error("the msvc targets depend on the msvc linker \
689                     but `link.exe` was not found");
690                 sess.note_without_error("please ensure that VS 2013 or VS 2015 was installed \
691                     with the Visual C++ option");
692             }
693             sess.abort_if_errors();
694         }
695     }
696
697
698     // On OSX, debuggers need this utility to get run to do some munging of
699     // the symbols
700     if sess.target.target.options.is_like_osx && sess.opts.debuginfo != NoDebugInfo {
701         match Command::new("dsymutil").arg(out_filename).output() {
702             Ok(..) => {}
703             Err(e) => sess.fatal(&format!("failed to run dsymutil: {}", e)),
704         }
705     }
706 }
707
708 fn link_args(cmd: &mut Linker,
709              sess: &Session,
710              crate_type: config::CrateType,
711              tmpdir: &Path,
712              objects: &[PathBuf],
713              out_filename: &Path,
714              outputs: &OutputFilenames) {
715
716     // The default library location, we need this to find the runtime.
717     // The location of crates will be determined as needed.
718     let lib_path = sess.target_filesearch(PathKind::All).get_lib_path();
719
720     // target descriptor
721     let t = &sess.target.target;
722
723     cmd.include_path(&fix_windows_verbatim_for_gcc(&lib_path));
724     for obj in objects {
725         cmd.add_object(obj);
726     }
727     cmd.output_filename(out_filename);
728
729     // If we're building a dynamic library then some platforms need to make sure
730     // that all symbols are exported correctly from the dynamic library.
731     if crate_type != config::CrateTypeExecutable {
732         cmd.export_symbols(tmpdir, crate_type);
733     }
734
735     // When linking a dynamic library, we put the metadata into a section of the
736     // executable. This metadata is in a separate object file from the main
737     // object file, so we link that in here.
738     if crate_type == config::CrateTypeDylib ||
739        crate_type == config::CrateTypeProcMacro {
740         cmd.add_object(&outputs.with_extension("metadata.o"));
741     }
742
743     // Try to strip as much out of the generated object by removing unused
744     // sections if possible. See more comments in linker.rs
745     if !sess.opts.cg.link_dead_code {
746         let keep_metadata = crate_type == config::CrateTypeDylib;
747         cmd.gc_sections(keep_metadata);
748     }
749
750     let used_link_args = sess.cstore.used_link_args();
751
752     if crate_type == config::CrateTypeExecutable &&
753        t.options.position_independent_executables {
754         let empty_vec = Vec::new();
755         let empty_str = String::new();
756         let args = sess.opts.cg.link_args.as_ref().unwrap_or(&empty_vec);
757         let more_args = &sess.opts.cg.link_arg;
758         let mut args = args.iter().chain(more_args.iter()).chain(used_link_args.iter());
759         let relocation_model = sess.opts.cg.relocation_model.as_ref()
760                                    .unwrap_or(&empty_str);
761         if (t.options.relocation_model == "pic" || *relocation_model == "pic")
762             && !args.any(|x| *x == "-static") {
763             cmd.position_independent_executable();
764         }
765     }
766
767     // Pass optimization flags down to the linker.
768     cmd.optimize();
769
770     // Pass debuginfo flags down to the linker.
771     cmd.debuginfo();
772
773     // We want to prevent the compiler from accidentally leaking in any system
774     // libraries, so we explicitly ask gcc to not link to any libraries by
775     // default. Note that this does not happen for windows because windows pulls
776     // in some large number of libraries and I couldn't quite figure out which
777     // subset we wanted.
778     if t.options.no_default_libraries {
779         cmd.no_default_libraries();
780     }
781
782     // Take careful note of the ordering of the arguments we pass to the linker
783     // here. Linkers will assume that things on the left depend on things to the
784     // right. Things on the right cannot depend on things on the left. This is
785     // all formally implemented in terms of resolving symbols (libs on the right
786     // resolve unknown symbols of libs on the left, but not vice versa).
787     //
788     // For this reason, we have organized the arguments we pass to the linker as
789     // such:
790     //
791     //  1. The local object that LLVM just generated
792     //  2. Local native libraries
793     //  3. Upstream rust libraries
794     //  4. Upstream native libraries
795     //
796     // The rationale behind this ordering is that those items lower down in the
797     // list can't depend on items higher up in the list. For example nothing can
798     // depend on what we just generated (e.g. that'd be a circular dependency).
799     // Upstream rust libraries are not allowed to depend on our local native
800     // libraries as that would violate the structure of the DAG, in that
801     // scenario they are required to link to them as well in a shared fashion.
802     //
803     // Note that upstream rust libraries may contain native dependencies as
804     // well, but they also can't depend on what we just started to add to the
805     // link line. And finally upstream native libraries can't depend on anything
806     // in this DAG so far because they're only dylibs and dylibs can only depend
807     // on other dylibs (e.g. other native deps).
808     add_local_native_libraries(cmd, sess);
809     add_upstream_rust_crates(cmd, sess, crate_type, tmpdir);
810     add_upstream_native_libraries(cmd, sess);
811
812     // # Telling the linker what we're doing
813
814     if crate_type != config::CrateTypeExecutable {
815         cmd.build_dylib(out_filename);
816     }
817
818     // FIXME (#2397): At some point we want to rpath our guesses as to
819     // where extern libraries might live, based on the
820     // addl_lib_search_paths
821     if sess.opts.cg.rpath {
822         let sysroot = sess.sysroot();
823         let target_triple = &sess.opts.target_triple;
824         let mut get_install_prefix_lib_path = || {
825             let install_prefix = option_env!("CFG_PREFIX").expect("CFG_PREFIX");
826             let tlib = filesearch::relative_target_lib_path(sysroot, target_triple);
827             let mut path = PathBuf::from(install_prefix);
828             path.push(&tlib);
829
830             path
831         };
832         let mut rpath_config = RPathConfig {
833             used_crates: sess.cstore.used_crates(LinkagePreference::RequireDynamic),
834             out_filename: out_filename.to_path_buf(),
835             has_rpath: sess.target.target.options.has_rpath,
836             is_like_osx: sess.target.target.options.is_like_osx,
837             linker_is_gnu: sess.target.target.options.linker_is_gnu,
838             get_install_prefix_lib_path: &mut get_install_prefix_lib_path,
839         };
840         cmd.args(&rpath::get_rpath_flags(&mut rpath_config));
841     }
842
843     // Finally add all the linker arguments provided on the command line along
844     // with any #[link_args] attributes found inside the crate
845     if let Some(ref args) = sess.opts.cg.link_args {
846         cmd.args(args);
847     }
848     cmd.args(&sess.opts.cg.link_arg);
849     cmd.args(&used_link_args);
850 }
851
852 // # Native library linking
853 //
854 // User-supplied library search paths (-L on the command line). These are
855 // the same paths used to find Rust crates, so some of them may have been
856 // added already by the previous crate linking code. This only allows them
857 // to be found at compile time so it is still entirely up to outside
858 // forces to make sure that library can be found at runtime.
859 //
860 // Also note that the native libraries linked here are only the ones located
861 // in the current crate. Upstream crates with native library dependencies
862 // may have their native library pulled in above.
863 fn add_local_native_libraries(cmd: &mut Linker, sess: &Session) {
864     sess.target_filesearch(PathKind::All).for_each_lib_search_path(|path, k| {
865         match k {
866             PathKind::Framework => { cmd.framework_path(path); }
867             _ => { cmd.include_path(&fix_windows_verbatim_for_gcc(path)); }
868         }
869     });
870
871     let libs = sess.cstore.used_libraries();
872
873     let staticlibs = libs.iter().filter_map(|&(ref l, kind)| {
874         if kind == NativeLibraryKind::NativeStatic {Some(l)} else {None}
875     });
876     let others = libs.iter().filter(|&&(_, kind)| {
877         kind != NativeLibraryKind::NativeStatic
878     });
879
880     // Some platforms take hints about whether a library is static or dynamic.
881     // For those that support this, we ensure we pass the option if the library
882     // was flagged "static" (most defaults are dynamic) to ensure that if
883     // libfoo.a and libfoo.so both exist that the right one is chosen.
884     cmd.hint_static();
885
886     let search_path = archive_search_paths(sess);
887     for l in staticlibs {
888         // Here we explicitly ask that the entire archive is included into the
889         // result artifact. For more details see #15460, but the gist is that
890         // the linker will strip away any unused objects in the archive if we
891         // don't otherwise explicitly reference them. This can occur for
892         // libraries which are just providing bindings, libraries with generic
893         // functions, etc.
894         cmd.link_whole_staticlib(l, &search_path);
895     }
896
897     cmd.hint_dynamic();
898
899     for &(ref l, kind) in others {
900         match kind {
901             NativeLibraryKind::NativeUnknown => cmd.link_dylib(l),
902             NativeLibraryKind::NativeFramework => cmd.link_framework(l),
903             NativeLibraryKind::NativeStatic => bug!(),
904         }
905     }
906 }
907
908 // # Rust Crate linking
909 //
910 // Rust crates are not considered at all when creating an rlib output. All
911 // dependencies will be linked when producing the final output (instead of
912 // the intermediate rlib version)
913 fn add_upstream_rust_crates(cmd: &mut Linker,
914                             sess: &Session,
915                             crate_type: config::CrateType,
916                             tmpdir: &Path) {
917     // All of the heavy lifting has previously been accomplished by the
918     // dependency_format module of the compiler. This is just crawling the
919     // output of that module, adding crates as necessary.
920     //
921     // Linking to a rlib involves just passing it to the linker (the linker
922     // will slurp up the object files inside), and linking to a dynamic library
923     // involves just passing the right -l flag.
924
925     let formats = sess.dependency_formats.borrow();
926     let data = formats.get(&crate_type).unwrap();
927
928     // Invoke get_used_crates to ensure that we get a topological sorting of
929     // crates.
930     let deps = sess.cstore.used_crates(LinkagePreference::RequireDynamic);
931
932     let mut compiler_builtins = None;
933
934     for &(cnum, _) in &deps {
935         // We may not pass all crates through to the linker. Some crates may
936         // appear statically in an existing dylib, meaning we'll pick up all the
937         // symbols from the dylib.
938         let src = sess.cstore.used_crate_source(cnum);
939         match data[cnum.as_usize() - 1] {
940             // compiler-builtins are always placed last to ensure that they're
941             // linked correctly.
942             _ if sess.cstore.is_compiler_builtins(cnum) => {
943                 assert!(compiler_builtins.is_none());
944                 compiler_builtins = Some(cnum);
945             }
946             Linkage::NotLinked |
947             Linkage::IncludedFromDylib => {}
948             Linkage::Static => {
949                 add_static_crate(cmd, sess, tmpdir, crate_type, cnum);
950             }
951             Linkage::Dynamic => {
952                 add_dynamic_crate(cmd, sess, &src.dylib.unwrap().0)
953             }
954         }
955     }
956
957     // We must always link the `compiler_builtins` crate statically. Even if it
958     // was already "included" in a dylib (e.g. `libstd` when `-C prefer-dynamic`
959     // is used)
960     if let Some(cnum) = compiler_builtins {
961         add_static_crate(cmd, sess, tmpdir, crate_type, cnum);
962     }
963
964     // Converts a library file-stem into a cc -l argument
965     fn unlib<'a>(config: &config::Config, stem: &'a str) -> &'a str {
966         if stem.starts_with("lib") && !config.target.options.is_like_windows {
967             &stem[3..]
968         } else {
969             stem
970         }
971     }
972
973     // Adds the static "rlib" versions of all crates to the command line.
974     // There's a bit of magic which happens here specifically related to LTO and
975     // dynamic libraries. Specifically:
976     //
977     // * For LTO, we remove upstream object files.
978     // * For dylibs we remove metadata and bytecode from upstream rlibs
979     //
980     // When performing LTO, almost(*) all of the bytecode from the upstream
981     // libraries has already been included in our object file output. As a
982     // result we need to remove the object files in the upstream libraries so
983     // the linker doesn't try to include them twice (or whine about duplicate
984     // symbols). We must continue to include the rest of the rlib, however, as
985     // it may contain static native libraries which must be linked in.
986     //
987     // (*) Crates marked with `#![no_builtins]` don't participate in LTO and
988     // their bytecode wasn't included. The object files in those libraries must
989     // still be passed to the linker.
990     //
991     // When making a dynamic library, linkers by default don't include any
992     // object files in an archive if they're not necessary to resolve the link.
993     // We basically want to convert the archive (rlib) to a dylib, though, so we
994     // *do* want everything included in the output, regardless of whether the
995     // linker thinks it's needed or not. As a result we must use the
996     // --whole-archive option (or the platform equivalent). When using this
997     // option the linker will fail if there are non-objects in the archive (such
998     // as our own metadata and/or bytecode). All in all, for rlibs to be
999     // entirely included in dylibs, we need to remove all non-object files.
1000     //
1001     // Note, however, that if we're not doing LTO or we're not producing a dylib
1002     // (aka we're making an executable), we can just pass the rlib blindly to
1003     // the linker (fast) because it's fine if it's not actually included as
1004     // we're at the end of the dependency chain.
1005     fn add_static_crate(cmd: &mut Linker,
1006                         sess: &Session,
1007                         tmpdir: &Path,
1008                         crate_type: config::CrateType,
1009                         cnum: CrateNum) {
1010         let src = sess.cstore.used_crate_source(cnum);
1011         let cratepath = &src.rlib.unwrap().0;
1012         if !sess.lto() && crate_type != config::CrateTypeDylib {
1013             cmd.link_rlib(&fix_windows_verbatim_for_gcc(cratepath));
1014             return
1015         }
1016
1017         let dst = tmpdir.join(cratepath.file_name().unwrap());
1018         let name = cratepath.file_name().unwrap().to_str().unwrap();
1019         let name = &name[3..name.len() - 5]; // chop off lib/.rlib
1020
1021         time(sess.time_passes(), &format!("altering {}.rlib", name), || {
1022             let cfg = archive_config(sess, &dst, Some(cratepath));
1023             let mut archive = ArchiveBuilder::new(cfg);
1024             archive.remove_file(sess.cstore.metadata_filename());
1025             archive.update_symbols();
1026
1027             let mut any_objects = false;
1028             for f in archive.src_files() {
1029                 if f.ends_with("bytecode.deflate") {
1030                     archive.remove_file(&f);
1031                     continue
1032                 }
1033                 let canonical = f.replace("-", "_");
1034                 let canonical_name = name.replace("-", "_");
1035
1036                 // If we're performing LTO and this is a rust-generated object
1037                 // file, then we don't need the object file as it's part of the
1038                 // LTO module. Note that `#![no_builtins]` is excluded from LTO,
1039                 // though, so we let that object file slide.
1040                 if sess.lto() &&
1041                    !sess.cstore.is_no_builtins(cnum) &&
1042                    canonical.starts_with(&canonical_name) &&
1043                    canonical.ends_with(".o") {
1044                     let num = &f[name.len()..f.len() - 2];
1045                     if num.len() > 0 && num[1..].parse::<u32>().is_ok() {
1046                         archive.remove_file(&f);
1047                         continue
1048                     }
1049                 }
1050                 any_objects = true;
1051             }
1052
1053             if !any_objects {
1054                 return
1055             }
1056             archive.build();
1057
1058             // If we're creating a dylib, then we need to include the
1059             // whole of each object in our archive into that artifact. This is
1060             // because a `dylib` can be reused as an intermediate artifact.
1061             //
1062             // Note, though, that we don't want to include the whole of a
1063             // compiler-builtins crate (e.g. compiler-rt) because it'll get
1064             // repeatedly linked anyway.
1065             if crate_type == config::CrateTypeDylib &&
1066                !sess.cstore.is_compiler_builtins(cnum) {
1067                 cmd.link_whole_rlib(&fix_windows_verbatim_for_gcc(&dst));
1068             } else {
1069                 cmd.link_rlib(&fix_windows_verbatim_for_gcc(&dst));
1070             }
1071         });
1072     }
1073
1074     // Same thing as above, but for dynamic crates instead of static crates.
1075     fn add_dynamic_crate(cmd: &mut Linker, sess: &Session, cratepath: &Path) {
1076         // If we're performing LTO, then it should have been previously required
1077         // that all upstream rust dependencies were available in an rlib format.
1078         assert!(!sess.lto());
1079
1080         // Just need to tell the linker about where the library lives and
1081         // what its name is
1082         let parent = cratepath.parent();
1083         if let Some(dir) = parent {
1084             cmd.include_path(&fix_windows_verbatim_for_gcc(dir));
1085         }
1086         let filestem = cratepath.file_stem().unwrap().to_str().unwrap();
1087         cmd.link_rust_dylib(&unlib(&sess.target, filestem),
1088                             parent.unwrap_or(Path::new("")));
1089     }
1090 }
1091
1092 // Link in all of our upstream crates' native dependencies. Remember that
1093 // all of these upstream native dependencies are all non-static
1094 // dependencies. We've got two cases then:
1095 //
1096 // 1. The upstream crate is an rlib. In this case we *must* link in the
1097 // native dependency because the rlib is just an archive.
1098 //
1099 // 2. The upstream crate is a dylib. In order to use the dylib, we have to
1100 // have the dependency present on the system somewhere. Thus, we don't
1101 // gain a whole lot from not linking in the dynamic dependency to this
1102 // crate as well.
1103 //
1104 // The use case for this is a little subtle. In theory the native
1105 // dependencies of a crate are purely an implementation detail of the crate
1106 // itself, but the problem arises with generic and inlined functions. If a
1107 // generic function calls a native function, then the generic function must
1108 // be instantiated in the target crate, meaning that the native symbol must
1109 // also be resolved in the target crate.
1110 fn add_upstream_native_libraries(cmd: &mut Linker, sess: &Session) {
1111     // Be sure to use a topological sorting of crates because there may be
1112     // interdependencies between native libraries. When passing -nodefaultlibs,
1113     // for example, almost all native libraries depend on libc, so we have to
1114     // make sure that's all the way at the right (liblibc is near the base of
1115     // the dependency chain).
1116     //
1117     // This passes RequireStatic, but the actual requirement doesn't matter,
1118     // we're just getting an ordering of crate numbers, we're not worried about
1119     // the paths.
1120     let crates = sess.cstore.used_crates(LinkagePreference::RequireStatic);
1121     for (cnum, _) in crates {
1122         let libs = sess.cstore.native_libraries(cnum);
1123         for &(kind, ref lib) in &libs {
1124             match kind {
1125                 NativeLibraryKind::NativeUnknown => cmd.link_dylib(lib),
1126                 NativeLibraryKind::NativeFramework => cmd.link_framework(lib),
1127                 NativeLibraryKind::NativeStatic => {
1128                     bug!("statics shouldn't be propagated");
1129                 }
1130             }
1131         }
1132     }
1133 }