]> git.lizzy.rs Git - rust.git/blob - src/doc/unstable-book/src/library-features/asm.md
5503b3b4b32fbb22247ee97a5be8b788fc07f66c
[rust.git] / src / doc / unstable-book / src / library-features / asm.md
1 # `asm`
2
3 The tracking issue for this feature is: [#72016]
4
5 [#72016]: https://github.com/rust-lang/rust/issues/72016
6
7 ------------------------
8
9 For extremely low-level manipulations and performance reasons, one
10 might wish to control the CPU directly. Rust supports using inline
11 assembly to do this via the `asm!` macro.
12
13 # Guide-level explanation
14 [guide-level-explanation]: #guide-level-explanation
15
16 Rust provides support for inline assembly via the `asm!` macro.
17 It can be used to embed handwritten assembly in the assembly output generated by the compiler.
18 Generally this should not be necessary, but might be where the required performance or timing
19 cannot be otherwise achieved. Accessing low level hardware primitives, e.g. in kernel code, may also demand this functionality.
20
21 > **Note**: the examples here are given in x86/x86-64 assembly, but other architectures are also supported.
22
23 Inline assembly is currently supported on the following architectures:
24 - x86 and x86-64
25 - ARM
26 - AArch64
27 - RISC-V
28 - NVPTX
29 - PowerPC
30 - Hexagon
31 - MIPS32r2 and MIPS64r2
32 - wasm32
33
34 ## Basic usage
35
36 Let us start with the simplest possible example:
37
38 ```rust,allow_fail
39 #![feature(asm)]
40 unsafe {
41     asm!("nop");
42 }
43 ```
44
45 This will insert a NOP (no operation) instruction into the assembly generated by the compiler.
46 Note that all `asm!` invocations have to be inside an `unsafe` block, as they could insert
47 arbitrary instructions and break various invariants. The instructions to be inserted are listed
48 in the first argument of the `asm!` macro as a string literal.
49
50 ## Inputs and outputs
51
52 Now inserting an instruction that does nothing is rather boring. Let us do something that
53 actually acts on data:
54
55 ```rust,allow_fail
56 #![feature(asm)]
57 let x: u64;
58 unsafe {
59     asm!("mov {}, 5", out(reg) x);
60 }
61 assert_eq!(x, 5);
62 ```
63
64 This will write the value `5` into the `u64` variable `x`.
65 You can see that the string literal we use to specify instructions is actually a template string.
66 It is governed by the same rules as Rust [format strings][format-syntax].
67 The arguments that are inserted into the template however look a bit different then you may
68 be familiar with. First we need to specify if the variable is an input or an output of the
69 inline assembly. In this case it is an output. We declared this by writing `out`.
70 We also need to specify in what kind of register the assembly expects the variable.
71 In this case we put it in an arbitrary general purpose register by specifying `reg`.
72 The compiler will choose an appropriate register to insert into
73 the template and will read the variable from there after the inline assembly finishes executing.
74
75 Let us see another example that also uses an input:
76
77 ```rust,allow_fail
78 #![feature(asm)]
79 let i: u64 = 3;
80 let o: u64;
81 unsafe {
82     asm!(
83         "mov {0}, {1}",
84         "add {0}, {number}",
85         out(reg) o,
86         in(reg) i,
87         number = const 5,
88     );
89 }
90 assert_eq!(o, 8);
91 ```
92
93 This will add `5` to the input in variable `i` and write the result to variable `o`.
94 The particular way this assembly does this is first copying the value from `i` to the output,
95 and then adding `5` to it.
96
97 The example shows a few things:
98
99 First, we can see that `asm!` allows multiple template string arguments; each
100 one is treated as a separate line of assembly code, as if they were all joined
101 together with newlines between them. This makes it easy to format assembly
102 code.
103
104 Second, we can see that inputs are declared by writing `in` instead of `out`.
105
106 Third, one of our operands has a type we haven't seen yet, `const`.
107 This tells the compiler to expand this argument to value directly inside the assembly template.
108 This is only possible for constants and literals.
109
110 Fourth, we can see that we can specify an argument number, or name as in any format string.
111 For inline assembly templates this is particularly useful as arguments are often used more than once.
112 For more complex inline assembly using this facility is generally recommended, as it improves
113 readability, and allows reordering instructions without changing the argument order.
114
115 We can further refine the above example to avoid the `mov` instruction:
116
117 ```rust,allow_fail
118 #![feature(asm)]
119 let mut x: u64 = 3;
120 unsafe {
121     asm!("add {0}, {number}", inout(reg) x, number = const 5);
122 }
123 assert_eq!(x, 8);
124 ```
125
126 We can see that `inout` is used to specify an argument that is both input and output.
127 This is different from specifying an input and output separately in that it is guaranteed to assign both to the same register.
128
129 It is also possible to specify different variables for the input and output parts of an `inout` operand:
130
131 ```rust,allow_fail
132 #![feature(asm)]
133 let x: u64 = 3;
134 let y: u64;
135 unsafe {
136     asm!("add {0}, {number}", inout(reg) x => y, number = const 5);
137 }
138 assert_eq!(y, 8);
139 ```
140
141 ## Late output operands
142
143 The Rust compiler is conservative with its allocation of operands. It is assumed that an `out`
144 can be written at any time, and can therefore not share its location with any other argument.
145 However, to guarantee optimal performance it is important to use as few registers as possible,
146 so they won't have to be saved and reloaded around the inline assembly block.
147 To achieve this Rust provides a `lateout` specifier. This can be used on any output that is
148 written only after all inputs have been consumed.
149 There is also a `inlateout` variant of this specifier.
150
151 Here is an example where `inlateout` *cannot* be used:
152
153 ```rust,allow_fail
154 #![feature(asm)]
155 let mut a: u64 = 4;
156 let b: u64 = 4;
157 let c: u64 = 4;
158 unsafe {
159     asm!(
160         "add {0}, {1}",
161         "add {0}, {2}",
162         inout(reg) a,
163         in(reg) b,
164         in(reg) c,
165     );
166 }
167 assert_eq!(a, 12);
168 ```
169
170 Here the compiler is free to allocate the same register for inputs `b` and `c` since it knows they have the same value. However it must allocate a separate register for `a` since it uses `inout` and not `inlateout`. If `inlateout` was used, then `a` and `c` could be allocated to the same register, in which case the first instruction to overwrite the value of `c` and cause the assembly code to produce the wrong result.
171
172 However the following example can use `inlateout` since the output is only modified after all input registers have been read:
173
174 ```rust,allow_fail
175 #![feature(asm)]
176 let mut a: u64 = 4;
177 let b: u64 = 4;
178 unsafe {
179     asm!("add {0}, {1}", inlateout(reg) a, in(reg) b);
180 }
181 assert_eq!(a, 8);
182 ```
183
184 As you can see, this assembly fragment will still work correctly if `a` and `b` are assigned to the same register.
185
186 ## Explicit register operands
187
188 Some instructions require that the operands be in a specific register.
189 Therefore, Rust inline assembly provides some more specific constraint specifiers.
190 While `reg` is generally available on any architecture, these are highly architecture specific. E.g. for x86 the general purpose registers `eax`, `ebx`, `ecx`, `edx`, `ebp`, `esi`, and `edi`
191 among others can be addressed by their name.
192
193 ```rust,allow_fail,no_run
194 #![feature(asm)]
195 let cmd = 0xd1;
196 unsafe {
197     asm!("out 0x64, eax", in("eax") cmd);
198 }
199 ```
200
201 In this example we call the `out` instruction to output the content of the `cmd` variable
202 to port `0x64`. Since the `out` instruction only accepts `eax` (and its sub registers) as operand
203 we had to use the `eax` constraint specifier.
204
205 Note that unlike other operand types, explicit register operands cannot be used in the template string: you can't use `{}` and should write the register name directly instead. Also, they must appear at the end of the operand list after all other operand types.
206
207 Consider this example which uses the x86 `mul` instruction:
208
209 ```rust,allow_fail
210 #![feature(asm)]
211 fn mul(a: u64, b: u64) -> u128 {
212     let lo: u64;
213     let hi: u64;
214
215     unsafe {
216         asm!(
217             // The x86 mul instruction takes rax as an implicit input and writes
218             // the 128-bit result of the multiplication to rax:rdx.
219             "mul {}",
220             in(reg) a,
221             inlateout("rax") b => lo,
222             lateout("rdx") hi
223         );
224     }
225
226     ((hi as u128) << 64) + lo as u128
227 }
228 ```
229
230 This uses the `mul` instruction to multiply two 64-bit inputs with a 128-bit result.
231 The only explicit operand is a register, that we fill from the variable `a`.
232 The second operand is implicit, and must be the `rax` register, which we fill from the variable `b`.
233 The lower 64 bits of the result are stored in `rax` from which we fill the variable `lo`.
234 The higher 64 bits are stored in `rdx` from which we fill the variable `hi`.
235
236 ## Clobbered registers
237
238 In many cases inline assembly will modify state that is not needed as an output.
239 Usually this is either because we have to use a scratch register in the assembly,
240 or instructions modify state that we don't need to further examine.
241 This state is generally referred to as being "clobbered".
242 We need to tell the compiler about this since it may need to save and restore this state
243 around the inline assembly block.
244
245 ```rust,allow_fail
246 #![feature(asm)]
247 let ebx: u32;
248 let ecx: u32;
249
250 unsafe {
251     asm!(
252         "cpuid",
253         // EAX 4 selects the "Deterministic Cache Parameters" CPUID leaf
254         inout("eax") 4 => _,
255         // ECX 0 selects the L0 cache information.
256         inout("ecx") 0 => ecx,
257         lateout("ebx") ebx,
258         lateout("edx") _,
259     );
260 }
261
262 println!(
263     "L1 Cache: {}",
264     ((ebx >> 22) + 1) * (((ebx >> 12) & 0x3ff) + 1) * ((ebx & 0xfff) + 1) * (ecx + 1)
265 );
266 ```
267
268 In the example above we use the `cpuid` instruction to get the L1 cache size.
269 This instruction writes to `eax`, `ebx`, `ecx`, and `edx`, but for the cache size we only care about the contents of `ebx` and `ecx`.
270
271 However we still need to tell the compiler that `eax` and `edx` have been modified so that it can save any values that were in these registers before the asm. This is done by declaring these as outputs but with `_` instead of a variable name, which indicates that the output value is to be discarded.
272
273 This can also be used with a general register class (e.g. `reg`) to obtain a scratch register for use inside the asm code:
274
275 ```rust,allow_fail
276 #![feature(asm)]
277 // Multiply x by 6 using shifts and adds
278 let mut x: u64 = 4;
279 unsafe {
280     asm!(
281         "mov {tmp}, {x}",
282         "shl {tmp}, 1",
283         "shl {x}, 2",
284         "add {x}, {tmp}",
285         x = inout(reg) x,
286         tmp = out(reg) _,
287     );
288 }
289 assert_eq!(x, 4 * 6);
290 ```
291
292 ## Symbol operands
293
294 A special operand type, `sym`, allows you to use the symbol name of a `fn` or `static` in inline assembly code.
295 This allows you to call a function or access a global variable without needing to keep its address in a register.
296
297 ```rust,allow_fail
298 #![feature(asm)]
299 extern "C" fn foo(arg: i32) {
300     println!("arg = {}", arg);
301 }
302
303 fn call_foo(arg: i32) {
304     unsafe {
305         asm!(
306             "call {}",
307             sym foo,
308             // 1st argument in rdi, which is caller-saved
309             inout("rdi") arg => _,
310             // All caller-saved registers must be marked as clobbered
311             out("rax") _, out("rcx") _, out("rdx") _, out("rsi") _,
312             out("r8") _, out("r9") _, out("r10") _, out("r11") _,
313             out("xmm0") _, out("xmm1") _, out("xmm2") _, out("xmm3") _,
314             out("xmm4") _, out("xmm5") _, out("xmm6") _, out("xmm7") _,
315             out("xmm8") _, out("xmm9") _, out("xmm10") _, out("xmm11") _,
316             out("xmm12") _, out("xmm13") _, out("xmm14") _, out("xmm15") _,
317             // Also mark AVX-512 registers as clobbered. This is accepted by the
318             // compiler even if AVX-512 is not enabled on the current target.
319             out("xmm16") _, out("xmm17") _, out("xmm18") _, out("xmm19") _,
320             out("xmm20") _, out("xmm21") _, out("xmm22") _, out("xmm23") _,
321             out("xmm24") _, out("xmm25") _, out("xmm26") _, out("xmm27") _,
322             out("xmm28") _, out("xmm29") _, out("xmm30") _, out("xmm31") _,
323         )
324     }
325 }
326 ```
327
328 Note that the `fn` or `static` item does not need to be public or `#[no_mangle]`:
329 the compiler will automatically insert the appropriate mangled symbol name into the assembly code.
330
331 ## Register template modifiers
332
333 In some cases, fine control is needed over the way a register name is formatted when inserted into the template string. This is needed when an architecture's assembly language has several names for the same register, each typically being a "view" over a subset of the register (e.g. the low 32 bits of a 64-bit register).
334
335 By default the compiler will always choose the name that refers to the full register size (e.g. `rax` on x86-64, `eax` on x86, etc).
336
337 This default can be overriden by using modifiers on the template string operands, just like you would with format strings:
338
339 ```rust,allow_fail
340 #![feature(asm)]
341 let mut x: u16 = 0xab;
342
343 unsafe {
344     asm!("mov {0:h}, {0:l}", inout(reg_abcd) x);
345 }
346
347 assert_eq!(x, 0xabab);
348 ```
349
350 In this example, we use the `reg_abcd` register class to restrict the register allocator to the 4 legacy x86 register (`ax`, `bx`, `cx`, `dx`) of which the first two bytes can be addressed independently.
351
352 Let us assume that the register allocator has chosen to allocate `x` in the `ax` register.
353 The `h` modifier will emit the register name for the high byte of that register and the `l` modifier will emit the register name for the low byte. The asm code will therefore be expanded as `mov ah, al` which copies the low byte of the value into the high byte.
354
355 If you use a smaller data type (e.g. `u16`) with an operand and forget the use template modifiers, the compiler will emit a warning and suggest the correct modifier to use.
356
357 ## Memory address operands
358
359 Sometimes assembly instructions require operands passed via memory addresses/memory locations.
360 You have to manually use the memory address syntax specified by the respectively architectures.
361 For example, in x86/x86_64 and intel assembly syntax, you should wrap inputs/outputs in `[]`
362 to indicate they are memory operands:
363
364 ```rust,allow_fail
365 #![feature(asm, llvm_asm)]
366 # fn load_fpu_control_word(control: u16) {
367 unsafe {
368     asm!("fldcw [{}]", in(reg) &control, options(nostack));
369
370     // Previously this would have been written with the deprecated `llvm_asm!` like this
371     llvm_asm!("fldcw $0" :: "m" (control) :: "volatile");
372 }
373 # }
374 ```
375
376 ## Labels
377
378 The compiler is allowed to instantiate multiple copies an `asm!` block, for example when the function containing it is inlined in multiple places. As a consequence, you should only use GNU assembler [local labels] inside inline assembly code. Defining symbols in assembly code may lead to assembler and/or linker errors due to duplicate symbol definitions.
379
380 Moreover, due to [an llvm bug], you shouldn't use labels exclusively made of `0` and `1` digits, e.g. `0`, `11` or `101010`, as they may end up being interpreted as binary values.
381
382 ```rust,allow_fail
383 #![feature(asm)]
384
385 let mut a = 0;
386 unsafe {
387     asm!(
388         "mov {0}, 10",
389         "2:",
390         "sub {0}, 1",
391         "cmp {0}, 3",
392         "jle 2f",
393         "jmp 2b",
394         "2:",
395         "add {0}, 2",
396         out(reg) a
397     );
398 }
399 assert_eq!(a, 5);
400 ```
401
402 This will decrement the `{0}` register value from 10 to 3, then add 2 and store it in `a`.
403
404 This example show a few thing:
405
406 First that the same number can be used as a label multiple times in the same inline block.
407
408 Second, that when a numeric label is used as a reference (as an instruction operand, for example), the suffixes b (“backward”) or f (“forward”) should be added to the numeric label. It will then refer to the nearest label defined by this number in this direction.
409
410 [local labels]: https://sourceware.org/binutils/docs/as/Symbol-Names.html#Local-Labels
411 [an llvm bug]: https://bugs.llvm.org/show_bug.cgi?id=36144
412
413 ## Options
414
415 By default, an inline assembly block is treated the same way as an external FFI function call with a custom calling convention: it may read/write memory, have observable side effects, etc. However in many cases, it is desirable to give the compiler more information about what the assembly code is actually doing so that it can optimize better.
416
417 Let's take our previous example of an `add` instruction:
418
419 ```rust,allow_fail
420 #![feature(asm)]
421 let mut a: u64 = 4;
422 let b: u64 = 4;
423 unsafe {
424     asm!(
425         "add {0}, {1}",
426         inlateout(reg) a, in(reg) b,
427         options(pure, nomem, nostack),
428     );
429 }
430 assert_eq!(a, 8);
431 ```
432
433 Options can be provided as an optional final argument to the `asm!` macro. We specified three options here:
434 - `pure` means that the asm code has no observable side effects and that its output depends only on its inputs. This allows the compiler optimizer to call the inline asm fewer times or even eliminate it entirely.
435 - `nomem` means that the asm code does not read or write to memory. By default the compiler will assume that inline assembly can read or write any memory address that is accessible to it (e.g. through a pointer passed as an operand, or a global).
436 - `nostack` means that the asm code does not push any data onto the stack. This allows the compiler to use optimizations such as the stack red zone on x86-64 to avoid stack pointer adjustments.
437
438 These allow the compiler to better optimize code using `asm!`, for example by eliminating pure `asm!` blocks whose outputs are not needed.
439
440 See the reference for the full list of available options and their effects.
441
442 # Reference-level explanation
443 [reference-level-explanation]: #reference-level-explanation
444
445 Inline assembler is implemented as an unsafe macro `asm!()`.
446 The first argument to this macro is a template string literal used to build the final assembly.
447 The following arguments specify input and output operands.
448 When required, options are specified as the final argument.
449
450 The following ABNF specifies the general syntax:
451
452 ```text
453 dir_spec := "in" / "out" / "lateout" / "inout" / "inlateout"
454 reg_spec := <register class> / "<explicit register>"
455 operand_expr := expr / "_" / expr "=>" expr / expr "=>" "_"
456 reg_operand := dir_spec "(" reg_spec ")" operand_expr
457 operand := reg_operand / "const" const_expr / "sym" path
458 option := "pure" / "nomem" / "readonly" / "preserves_flags" / "noreturn" / "nostack" / "att_syntax"
459 options := "options(" option *["," option] [","] ")"
460 asm := "asm!(" format_string *("," format_string) *("," [ident "="] operand) ["," options] [","] ")"
461 ```
462
463 The macro will initially be supported only on ARM, AArch64, Hexagon, PowerPC, x86, x86-64 and RISC-V targets. Support for more targets may be added in the future. The compiler will emit an error if `asm!` is used on an unsupported target.
464
465 [format-syntax]: https://doc.rust-lang.org/std/fmt/#syntax
466
467 ## Template string arguments
468
469 The assembler template uses the same syntax as [format strings][format-syntax] (i.e. placeholders are specified by curly braces). The corresponding arguments are accessed in order, by index, or by name. However, implicit named arguments (introduced by [RFC #2795][rfc-2795]) are not supported.
470
471 An `asm!` invocation may have one or more template string arguments; an `asm!` with multiple template string arguments is treated as if all the strings were concatenated with a `\n` between them. The expected usage is for each template string argument to correspond to a line of assembly code. All template string arguments must appear before any other arguments.
472
473 As with format strings, named arguments must appear after positional arguments. Explicit register operands must appear at the end of the operand list, after named arguments if any.
474
475 Explicit register operands cannot be used by placeholders in the template string. All other named and positional operands must appear at least once in the template string, otherwise a compiler error is generated.
476
477 The exact assembly code syntax is target-specific and opaque to the compiler except for the way operands are substituted into the template string to form the code passed to the assembler.
478
479 The 5 targets specified in this RFC (x86, ARM, AArch64, RISC-V, Hexagon) all use the assembly code syntax of the GNU assembler (GAS). On x86, the `.intel_syntax noprefix` mode of GAS is used by default. On ARM, the `.syntax unified` mode is used. These targets impose an additional restriction on the assembly code: any assembler state (e.g. the current section which can be changed with `.section`) must be restored to its original value at the end of the asm string. Assembly code that does not conform to the GAS syntax will result in assembler-specific behavior.
480
481 [rfc-2795]: https://github.com/rust-lang/rfcs/pull/2795
482
483 ## Operand type
484
485 Several types of operands are supported:
486
487 * `in(<reg>) <expr>`
488   - `<reg>` can refer to a register class or an explicit register. The allocated register name is substituted into the asm template string.
489   - The allocated register will contain the value of `<expr>` at the start of the asm code.
490   - The allocated register must contain the same value at the end of the asm code (except if a `lateout` is allocated to the same register).
491 * `out(<reg>) <expr>`
492   - `<reg>` can refer to a register class or an explicit register. The allocated register name is substituted into the asm template string.
493   - The allocated register will contain an undefined value at the start of the asm code.
494   - `<expr>` must be a (possibly uninitialized) place expression, to which the contents of the allocated register is written to at the end of the asm code.
495   - An underscore (`_`) may be specified instead of an expression, which will cause the contents of the register to be discarded at the end of the asm code (effectively acting as a clobber).
496 * `lateout(<reg>) <expr>`
497   - Identical to `out` except that the register allocator can reuse a register allocated to an `in`.
498   - You should only write to the register after all inputs are read, otherwise you may clobber an input.
499 * `inout(<reg>) <expr>`
500   - `<reg>` can refer to a register class or an explicit register. The allocated register name is substituted into the asm template string.
501   - The allocated register will contain the value of `<expr>` at the start of the asm code.
502   - `<expr>` must be a mutable initialized place expression, to which the contents of the allocated register is written to at the end of the asm code.
503 * `inout(<reg>) <in expr> => <out expr>`
504   - Same as `inout` except that the initial value of the register is taken from the value of `<in expr>`.
505   - `<out expr>` must be a (possibly uninitialized) place expression, to which the contents of the allocated register is written to at the end of the asm code.
506   - An underscore (`_`) may be specified instead of an expression for `<out expr>`, which will cause the contents of the register to be discarded at the end of the asm code (effectively acting as a clobber).
507   - `<in expr>` and `<out expr>` may have different types.
508 * `inlateout(<reg>) <expr>` / `inlateout(<reg>) <in expr> => <out expr>`
509   - Identical to `inout` except that the register allocator can reuse a register allocated to an `in` (this can happen if the compiler knows the `in` has the same initial value as the `inlateout`).
510   - You should only write to the register after all inputs are read, otherwise you may clobber an input.
511 * `const <expr>`
512   - `<expr>` must be an integer constant expression.
513   - The value of the expression is formatted as a string and substituted directly into the asm template string.
514 * `sym <path>`
515   - `<path>` must refer to a `fn` or `static`.
516   - A mangled symbol name referring to the item is substituted into the asm template string.
517   - The substituted string does not include any modifiers (e.g. GOT, PLT, relocations, etc).
518   - `<path>` is allowed to point to a `#[thread_local]` static, in which case the asm code can combine the symbol with relocations (e.g. `@plt`, `@TPOFF`) to read from thread-local data.
519
520 Operand expressions are evaluated from left to right, just like function call arguments. After the `asm!` has executed, outputs are written to in left to right order. This is significant if two outputs point to the same place: that place will contain the value of the rightmost output.
521
522 ## Register operands
523
524 Input and output operands can be specified either as an explicit register or as a register class from which the register allocator can select a register. Explicit registers are specified as string literals (e.g. `"eax"`) while register classes are specified as identifiers (e.g. `reg`). Using string literals for register names enables support for architectures that use special characters in register names, such as MIPS (`$0`, `$1`, etc).
525
526 Note that explicit registers treat register aliases (e.g. `r14` vs `lr` on ARM) and smaller views of a register (e.g. `eax` vs `rax`) as equivalent to the base register. It is a compile-time error to use the same explicit register for two input operands or two output operands. Additionally, it is also a compile-time error to use overlapping registers (e.g. ARM VFP) in input operands or in output operands.
527
528 Only the following types are allowed as operands for inline assembly:
529 - Integers (signed and unsigned)
530 - Floating-point numbers
531 - Pointers (thin only)
532 - Function pointers
533 - SIMD vectors (structs defined with `#[repr(simd)]` and which implement `Copy`). This includes architecture-specific vector types defined in `std::arch` such as `__m128` (x86) or `int8x16_t` (ARM).
534
535 Here is the list of currently supported register classes:
536
537 | Architecture | Register class | Registers | LLVM constraint code |
538 | ------------ | -------------- | --------- | -------------------- |
539 | x86 | `reg` | `ax`, `bx`, `cx`, `dx`, `si`, `di`, `bp`, `r[8-15]` (x86-64 only) | `r` |
540 | x86 | `reg_abcd` | `ax`, `bx`, `cx`, `dx` | `Q` |
541 | x86-32 | `reg_byte` | `al`, `bl`, `cl`, `dl`, `ah`, `bh`, `ch`, `dh` | `q` |
542 | x86-64 | `reg_byte`\* | `al`, `bl`, `cl`, `dl`, `sil`, `dil`, `bpl`, `r[8-15]b` | `q` |
543 | x86 | `xmm_reg` | `xmm[0-7]` (x86) `xmm[0-15]` (x86-64) | `x` |
544 | x86 | `ymm_reg` | `ymm[0-7]` (x86) `ymm[0-15]` (x86-64) | `x` |
545 | x86 | `zmm_reg` | `zmm[0-7]` (x86) `zmm[0-31]` (x86-64) | `v` |
546 | x86 | `kreg` | `k[1-7]` | `Yk` |
547 | AArch64 | `reg` | `x[0-30]` | `r` |
548 | AArch64 | `vreg` | `v[0-31]` | `w` |
549 | AArch64 | `vreg_low16` | `v[0-15]` | `x` |
550 | ARM | `reg` | `r[0-12]`, `r14` | `r` |
551 | ARM (Thumb) | `reg_thumb` | `r[0-r7]` | `l` |
552 | ARM (ARM) | `reg_thumb` | `r[0-r12]`, `r14` | `l` |
553 | ARM | `sreg` | `s[0-31]` | `t` |
554 | ARM | `sreg_low16` | `s[0-15]` | `x` |
555 | ARM | `dreg` | `d[0-31]` | `w` |
556 | ARM | `dreg_low16` | `d[0-15]` | `t` |
557 | ARM | `dreg_low8` | `d[0-8]` | `x` |
558 | ARM | `qreg` | `q[0-15]` | `w` |
559 | ARM | `qreg_low8` | `q[0-7]` | `t` |
560 | ARM | `qreg_low4` | `q[0-3]` | `x` |
561 | MIPS | `reg` | `$[2-25]` | `r` |
562 | MIPS | `freg` | `$f[0-31]` | `f` |
563 | NVPTX | `reg16` | None\* | `h` |
564 | NVPTX | `reg32` | None\* | `r` |
565 | NVPTX | `reg64` | None\* | `l` |
566 | RISC-V | `reg` | `x1`, `x[5-7]`, `x[9-15]`, `x[16-31]` (non-RV32E) | `r` |
567 | RISC-V | `freg` | `f[0-31]` | `f` |
568 | Hexagon | `reg` | `r[0-28]` | `r` |
569 | PowerPC | `reg` | `r[0-31]` | `r` |
570 | PowerPC | `reg_nonzero` | | `r[1-31]` | `b` |
571 | PowerPC | `freg` | `f[0-31]` | `f` |
572 | wasm32 | `local` | None\* | `r` |
573
574 > **Note**: On x86 we treat `reg_byte` differently from `reg` because the compiler can allocate `al` and `ah` separately whereas `reg` reserves the whole register.
575 >
576 > Note #2: On x86-64 the high byte registers (e.g. `ah`) are not available in the `reg_byte` register class.
577 >
578 > Note #3: NVPTX doesn't have a fixed register set, so named registers are not supported.
579 >
580 > Note #4: WebAssembly doesn't have registers, so named registers are not supported.
581
582 Additional register classes may be added in the future based on demand (e.g. MMX, x87, etc).
583
584 Each register class has constraints on which value types they can be used with. This is necessary because the way a value is loaded into a register depends on its type. For example, on big-endian systems, loading a `i32x4` and a `i8x16` into a SIMD register may result in different register contents even if the byte-wise memory representation of both values is identical. The availability of supported types for a particular register class may depend on what target features are currently enabled.
585
586 | Architecture | Register class | Target feature | Allowed types |
587 | ------------ | -------------- | -------------- | ------------- |
588 | x86-32 | `reg` | None | `i16`, `i32`, `f32` |
589 | x86-64 | `reg` | None | `i16`, `i32`, `f32`, `i64`, `f64` |
590 | x86 | `reg_byte` | None | `i8` |
591 | x86 | `xmm_reg` | `sse` | `i32`, `f32`, `i64`, `f64`, <br> `i8x16`, `i16x8`, `i32x4`, `i64x2`, `f32x4`, `f64x2` |
592 | x86 | `ymm_reg` | `avx` | `i32`, `f32`, `i64`, `f64`, <br> `i8x16`, `i16x8`, `i32x4`, `i64x2`, `f32x4`, `f64x2` <br> `i8x32`, `i16x16`, `i32x8`, `i64x4`, `f32x8`, `f64x4` |
593 | x86 | `zmm_reg` | `avx512f` | `i32`, `f32`, `i64`, `f64`, <br> `i8x16`, `i16x8`, `i32x4`, `i64x2`, `f32x4`, `f64x2` <br> `i8x32`, `i16x16`, `i32x8`, `i64x4`, `f32x8`, `f64x4` <br> `i8x64`, `i16x32`, `i32x16`, `i64x8`, `f32x16`, `f64x8` |
594 | x86 | `kreg` | `axv512f` | `i8`, `i16` |
595 | x86 | `kreg` | `axv512bw` | `i32`, `i64` |
596 | AArch64 | `reg` | None | `i8`, `i16`, `i32`, `f32`, `i64`, `f64` |
597 | AArch64 | `vreg` | `fp` | `i8`, `i16`, `i32`, `f32`, `i64`, `f64`, <br> `i8x8`, `i16x4`, `i32x2`, `i64x1`, `f32x2`, `f64x1`, <br> `i8x16`, `i16x8`, `i32x4`, `i64x2`, `f32x4`, `f64x2` |
598 | ARM | `reg` | None | `i8`, `i16`, `i32`, `f32` |
599 | ARM | `sreg` | `vfp2` | `i32`, `f32` |
600 | ARM | `dreg` | `vfp2` | `i64`, `f64`, `i8x8`, `i16x4`, `i32x2`, `i64x1`, `f32x2` |
601 | ARM | `qreg` | `neon` | `i8x16`, `i16x8`, `i32x4`, `i64x2`, `f32x4` |
602 | MIPS32 | `reg` | None | `i8`, `i16`, `i32`, `f32` |
603 | MIPS32 | `freg` | None | `f32`, `f64` |
604 | MIPS64 | `reg` | None | `i8`, `i16`, `i32`, `i64`, `f32`, `f64` |
605 | MIPS64 | `freg` | None | `f32`, `f64` |
606 | NVPTX | `reg16` | None | `i8`, `i16` |
607 | NVPTX | `reg32` | None | `i8`, `i16`, `i32`, `f32` |
608 | NVPTX | `reg64` | None | `i8`, `i16`, `i32`, `f32`, `i64`, `f64` |
609 | RISC-V32 | `reg` | None | `i8`, `i16`, `i32`, `f32` |
610 | RISC-V64 | `reg` | None | `i8`, `i16`, `i32`, `f32`, `i64`, `f64` |
611 | RISC-V | `freg` | `f` | `f32` |
612 | RISC-V | `freg` | `d` | `f64` |
613 | Hexagon | `reg` | None | `i8`, `i16`, `i32`, `f32` |
614 | PowerPC | `reg` | None | `i8`, `i16`, `i32` |
615 | PowerPC | `reg_nonzero` | None | `i8`, `i16`, `i32` |
616 | PowerPC | `freg` | None | `f32`, `f64` |
617 | wasm32 | `local` | None | `i8` `i16` `i32` `i64` `f32` `f64` |
618
619 > **Note**: For the purposes of the above table pointers, function pointers and `isize`/`usize` are treated as the equivalent integer type (`i16`/`i32`/`i64` depending on the target).
620
621 If a value is of a smaller size than the register it is allocated in then the upper bits of that register will have an undefined value for inputs and will be ignored for outputs. The only exception is the `freg` register class on RISC-V where `f32` values are NaN-boxed in a `f64` as required by the RISC-V architecture.
622
623 When separate input and output expressions are specified for an `inout` operand, both expressions must have the same type. The only exception is if both operands are pointers or integers, in which case they are only required to have the same size. This restriction exists because the register allocators in LLVM and GCC sometimes cannot handle tied operands with different types.
624
625 ## Register names
626
627 Some registers have multiple names. These are all treated by the compiler as identical to the base register name. Here is the list of all supported register aliases:
628
629 | Architecture | Base register | Aliases |
630 | ------------ | ------------- | ------- |
631 | x86 | `ax` | `eax`, `rax` |
632 | x86 | `bx` | `ebx`, `rbx` |
633 | x86 | `cx` | `ecx`, `rcx` |
634 | x86 | `dx` | `edx`, `rdx` |
635 | x86 | `si` | `esi`, `rsi` |
636 | x86 | `di` | `edi`, `rdi` |
637 | x86 | `bp` | `bpl`, `ebp`, `rbp` |
638 | x86 | `sp` | `spl`, `esp`, `rsp` |
639 | x86 | `ip` | `eip`, `rip` |
640 | x86 | `st(0)` | `st` |
641 | x86 | `r[8-15]` | `r[8-15]b`, `r[8-15]w`, `r[8-15]d` |
642 | x86 | `xmm[0-31]` | `ymm[0-31]`, `zmm[0-31]` |
643 | AArch64 | `x[0-30]` | `w[0-30]` |
644 | AArch64 | `x29` | `fp` |
645 | AArch64 | `x30` | `lr` |
646 | AArch64 | `sp` | `wsp` |
647 | AArch64 | `xzr` | `wzr` |
648 | AArch64 | `v[0-31]` | `b[0-31]`, `h[0-31]`, `s[0-31]`, `d[0-31]`, `q[0-31]` |
649 | ARM | `r[0-3]` | `a[1-4]` |
650 | ARM | `r[4-9]` | `v[1-6]` |
651 | ARM | `r9` | `rfp` |
652 | ARM | `r10` | `sl` |
653 | ARM | `r11` | `fp` |
654 | ARM | `r12` | `ip` |
655 | ARM | `r13` | `sp` |
656 | ARM | `r14` | `lr` |
657 | ARM | `r15` | `pc` |
658 | RISC-V | `x0` | `zero` |
659 | RISC-V | `x1` | `ra` |
660 | RISC-V | `x2` | `sp` |
661 | RISC-V | `x3` | `gp` |
662 | RISC-V | `x4` | `tp` |
663 | RISC-V | `x[5-7]` | `t[0-2]` |
664 | RISC-V | `x8` | `fp`, `s0` |
665 | RISC-V | `x9` | `s1` |
666 | RISC-V | `x[10-17]` | `a[0-7]` |
667 | RISC-V | `x[18-27]` | `s[2-11]` |
668 | RISC-V | `x[28-31]` | `t[3-6]` |
669 | RISC-V | `f[0-7]` | `ft[0-7]` |
670 | RISC-V | `f[8-9]` | `fs[0-1]` |
671 | RISC-V | `f[10-17]` | `fa[0-7]` |
672 | RISC-V | `f[18-27]` | `fs[2-11]` |
673 | RISC-V | `f[28-31]` | `ft[8-11]` |
674 | Hexagon | `r29` | `sp` |
675 | Hexagon | `r30` | `fr` |
676 | Hexagon | `r31` | `lr` |
677
678 Some registers cannot be used for input or output operands:
679
680 | Architecture | Unsupported register | Reason |
681 | ------------ | -------------------- | ------ |
682 | All | `sp` | The stack pointer must be restored to its original value at the end of an asm code block. |
683 | All | `bp` (x86), `x29` (AArch64), `x8` (RISC-V), `fr` (Hexagon), `$fp` (MIPS) | The frame pointer cannot be used as an input or output. |
684 | ARM | `r7` or `r11` | On ARM the frame pointer can be either `r7` or `r11` depending on the target. The frame pointer cannot be used as an input or output. |
685 | All | `si` (x86-32), `bx` (x86-64), `r6` (ARM), `x19` (AArch64), `r19` (Hexagon), `x9` (RISC-V) | This is used internally by LLVM as a "base pointer" for functions with complex stack frames. |
686 | x86 | `k0` | This is a constant zero register which can't be modified. |
687 | x86 | `ip` | This is the program counter, not a real register. |
688 | x86 | `mm[0-7]` | MMX registers are not currently supported (but may be in the future). |
689 | x86 | `st([0-7])` | x87 registers are not currently supported (but may be in the future). |
690 | AArch64 | `xzr` | This is a constant zero register which can't be modified. |
691 | ARM | `pc` | This is the program counter, not a real register. |
692 | ARM | `r9` | This is a reserved register on some ARM targets. |
693 | MIPS | `$0` or `$zero` | This is a constant zero register which can't be modified. |
694 | MIPS | `$1` or `$at` | Reserved for assembler. |
695 | MIPS | `$26`/`$k0`, `$27`/`$k1` | OS-reserved registers. |
696 | MIPS | `$28`/`$gp` | Global pointer cannot be used as inputs or outputs. |
697 | MIPS | `$ra` | Return address cannot be used as inputs or outputs. |
698 | RISC-V | `x0` | This is a constant zero register which can't be modified. |
699 | RISC-V | `gp`, `tp` | These registers are reserved and cannot be used as inputs or outputs. |
700 | Hexagon | `lr` | This is the link register which cannot be used as an input or output. |
701
702 In some cases LLVM will allocate a "reserved register" for `reg` operands even though this register cannot be explicitly specified. Assembly code making use of reserved registers should be careful since `reg` operands may alias with those registers. Reserved registers are the frame pointer and base pointer
703 - The frame pointer and LLVM base pointer on all architectures.
704 - `r9` on ARM.
705 - `x18` on AArch64.
706
707 ## Template modifiers
708
709 The placeholders can be augmented by modifiers which are specified after the `:` in the curly braces. These modifiers do not affect register allocation, but change the way operands are formatted when inserted into the template string. Only one modifier is allowed per template placeholder.
710
711 The supported modifiers are a subset of LLVM's (and GCC's) [asm template argument modifiers][llvm-argmod], but do not use the same letter codes.
712
713 | Architecture | Register class | Modifier | Example output | LLVM modifier |
714 | ------------ | -------------- | -------- | -------------- | ------------- |
715 | x86-32 | `reg` | None | `eax` | `k` |
716 | x86-64 | `reg` | None | `rax` | `q` |
717 | x86-32 | `reg_abcd` | `l` | `al` | `b` |
718 | x86-64 | `reg` | `l` | `al` | `b` |
719 | x86 | `reg_abcd` | `h` | `ah` | `h` |
720 | x86 | `reg` | `x` | `ax` | `w` |
721 | x86 | `reg` | `e` | `eax` | `k` |
722 | x86-64 | `reg` | `r` | `rax` | `q` |
723 | x86 | `reg_byte` | None | `al` / `ah` | None |
724 | x86 | `xmm_reg` | None | `xmm0` | `x` |
725 | x86 | `ymm_reg` | None | `ymm0` | `t` |
726 | x86 | `zmm_reg` | None | `zmm0` | `g` |
727 | x86 | `*mm_reg` | `x` | `xmm0` | `x` |
728 | x86 | `*mm_reg` | `y` | `ymm0` | `t` |
729 | x86 | `*mm_reg` | `z` | `zmm0` | `g` |
730 | x86 | `kreg` | None | `k1` | None |
731 | AArch64 | `reg` | None | `x0` | `x` |
732 | AArch64 | `reg` | `w` | `w0` | `w` |
733 | AArch64 | `reg` | `x` | `x0` | `x` |
734 | AArch64 | `vreg` | None | `v0` | None |
735 | AArch64 | `vreg` | `v` | `v0` | None |
736 | AArch64 | `vreg` | `b` | `b0` | `b` |
737 | AArch64 | `vreg` | `h` | `h0` | `h` |
738 | AArch64 | `vreg` | `s` | `s0` | `s` |
739 | AArch64 | `vreg` | `d` | `d0` | `d` |
740 | AArch64 | `vreg` | `q` | `q0` | `q` |
741 | ARM | `reg` | None | `r0` | None |
742 | ARM | `sreg` | None | `s0` | None |
743 | ARM | `dreg` | None | `d0` | `P` |
744 | ARM | `qreg` | None | `q0` | `q` |
745 | ARM | `qreg` | `e` / `f` | `d0` / `d1` | `e` / `f` |
746 | MIPS | `reg` | None | `$2` | None |
747 | MIPS | `freg` | None | `$f0` | None |
748 | NVPTX | `reg16` | None | `rs0` | None |
749 | NVPTX | `reg32` | None | `r0` | None |
750 | NVPTX | `reg64` | None | `rd0` | None |
751 | RISC-V | `reg` | None | `x1` | None |
752 | RISC-V | `freg` | None | `f0` | None |
753 | Hexagon | `reg` | None | `r0` | None |
754 | PowerPC | `reg` | None | `0` | None |
755 | PowerPC | `reg_nonzero` | None | `3` | `b` |
756 | PowerPC | `freg` | None | `0` | None |
757
758 > Notes:
759 > - on ARM `e` / `f`: this prints the low or high doubleword register name of a NEON quad (128-bit) register.
760 > - on x86: our behavior for `reg` with no modifiers differs from what GCC does. GCC will infer the modifier based on the operand value type, while we default to the full register size.
761 > - on x86 `xmm_reg`: the `x`, `t` and `g` LLVM modifiers are not yet implemented in LLVM (they are supported by GCC only), but this should be a simple change.
762
763 As stated in the previous section, passing an input value smaller than the register width will result in the upper bits of the register containing undefined values. This is not a problem if the inline asm only accesses the lower bits of the register, which can be done by using a template modifier to use a subregister name in the asm code (e.g. `ax` instead of `rax`). Since this an easy pitfall, the compiler will suggest a template modifier to use where appropriate given the input type. If all references to an operand already have modifiers then the warning is suppressed for that operand.
764
765 [llvm-argmod]: http://llvm.org/docs/LangRef.html#asm-template-argument-modifiers
766
767 ## Options
768
769 Flags are used to further influence the behavior of the inline assembly block.
770 Currently the following options are defined:
771 - `pure`: The `asm` block has no side effects, and its outputs depend only on its direct inputs (i.e. the values themselves, not what they point to) or values read from memory (unless the `nomem` options is also set). This allows the compiler to execute the `asm` block fewer times than specified in the program (e.g. by hoisting it out of a loop) or even eliminate it entirely if the outputs are not used.
772 - `nomem`: The `asm` blocks does not read or write to any memory. This allows the compiler to cache the values of modified global variables in registers across the `asm` block since it knows that they are not read or written to by the `asm`.
773 - `readonly`: The `asm` block does not write to any memory. This allows the compiler to cache the values of unmodified global variables in registers across the `asm` block since it knows that they are not written to by the `asm`.
774 - `preserves_flags`: The `asm` block does not modify the flags register (defined in the rules below). This allows the compiler to avoid recomputing the condition flags after the `asm` block.
775 - `noreturn`: The `asm` block never returns, and its return type is defined as `!` (never). Behavior is undefined if execution falls through past the end of the asm code. A `noreturn` asm block behaves just like a function which doesn't return; notably, local variables in scope are not dropped before it is invoked.
776 - `nostack`: The `asm` block does not push data to the stack, or write to the stack red-zone (if supported by the target). If this option is *not* used then the stack pointer is guaranteed to be suitably aligned (according to the target ABI) for a function call.
777 - `att_syntax`: This option is only valid on x86, and causes the assembler to use the `.att_syntax prefix` mode of the GNU assembler. Register operands are substituted in with a leading `%`.
778
779 The compiler performs some additional checks on options:
780 - The `nomem` and `readonly` options are mutually exclusive: it is a compile-time error to specify both.
781 - The `pure` option must be combined with either the `nomem` or `readonly` options, otherwise a compile-time error is emitted.
782 - It is a compile-time error to specify `pure` on an asm block with no outputs or only discarded outputs (`_`).
783 - It is a compile-time error to specify `noreturn` on an asm block with outputs.
784
785 ## Rules for inline assembly
786
787 - Any registers not specified as inputs will contain an undefined value on entry to the asm block.
788   - An "undefined value" in the context of inline assembly means that the register can (non-deterministically) have any one of the possible values allowed by the architecture. Notably it is not the same as an LLVM `undef` which can have a different value every time you read it (since such a concept does not exist in assembly code).
789 - Any registers not specified as outputs must have the same value upon exiting the asm block as they had on entry, otherwise behavior is undefined.
790   - This only applies to registers which can be specified as an input or output. Other registers follow target-specific rules.
791   - Note that a `lateout` may be allocated to the same register as an `in`, in which case this rule does not apply. Code should not rely on this however since it depends on the results of register allocation.
792 - Behavior is undefined if execution unwinds out of an asm block.
793   - This also applies if the assembly code calls a function which then unwinds.
794 - The set of memory locations that assembly code is allowed the read and write are the same as those allowed for an FFI function.
795   - Refer to the unsafe code guidelines for the exact rules.
796   - If the `readonly` option is set, then only memory reads are allowed.
797   - If the `nomem` option is set then no reads or writes to memory are allowed.
798   - These rules do not apply to memory which is private to the asm code, such as stack space allocated within the asm block.
799 - The compiler cannot assume that the instructions in the asm are the ones that will actually end up executed.
800   - This effectively means that the compiler must treat the `asm!` as a black box and only take the interface specification into account, not the instructions themselves.
801   - Runtime code patching is allowed, via target-specific mechanisms (outside the scope of this RFC).
802 - Unless the `nostack` option is set, asm code is allowed to use stack space below the stack pointer.
803   - On entry to the asm block the stack pointer is guaranteed to be suitably aligned (according to the target ABI) for a function call.
804   - You are responsible for making sure you don't overflow the stack (e.g. use stack probing to ensure you hit a guard page).
805   - You should adjust the stack pointer when allocating stack memory as required by the target ABI.
806   - The stack pointer must be restored to its original value before leaving the asm block.
807 - If the `noreturn` option is set then behavior is undefined if execution falls through to the end of the asm block.
808 - If the `pure` option is set then behavior is undefined if the `asm` has side-effects other than its direct outputs. Behavior is also undefined if two executions of the `asm` code with the same inputs result in different outputs.
809   - When used with the `nomem` option, "inputs" are just the direct inputs of the `asm!`.
810   - When used with the `readonly` option, "inputs" comprise the direct inputs of the `asm!` and any memory that the `asm!` block is allowed to read.
811 - These flags registers must be restored upon exiting the asm block if the `preserves_flags` option is set:
812   - x86
813     - Status flags in `EFLAGS` (CF, PF, AF, ZF, SF, OF).
814     - Floating-point status word (all).
815     - Floating-point exception flags in `MXCSR` (PE, UE, OE, ZE, DE, IE).
816   - ARM
817     - Condition flags in `CPSR` (N, Z, C, V)
818     - Saturation flag in `CPSR` (Q)
819     - Greater than or equal flags in `CPSR` (GE).
820     - Condition flags in `FPSCR` (N, Z, C, V)
821     - Saturation flag in `FPSCR` (QC)
822     - Floating-point exception flags in `FPSCR` (IDC, IXC, UFC, OFC, DZC, IOC).
823   - AArch64
824     - Condition flags (`NZCV` register).
825     - Floating-point status (`FPSR` register).
826   - RISC-V
827     - Floating-point exception flags in `fcsr` (`fflags`).
828 - On x86, the direction flag (DF in `EFLAGS`) is clear on entry to an asm block and must be clear on exit.
829   - Behavior is undefined if the direction flag is set on exiting an asm block.
830 - The requirement of restoring the stack pointer and non-output registers to their original value only applies when exiting an `asm!` block.
831   - This means that `asm!` blocks that never return (even if not marked `noreturn`) don't need to preserve these registers.
832   - When returning to a different `asm!` block than you entered (e.g. for context switching), these registers must contain the value they had upon entering the `asm!` block that you are *exiting*.
833     - You cannot exit an `asm!` block that has not been entered. Neither can you exit an `asm!` block that has already been exited.
834     - You are responsible for switching any target-specific state (e.g. thread-local storage, stack bounds).
835     - The set of memory locations that you may access is the intersection of those allowed by the `asm!` blocks you entered and exited.
836 - You cannot assume that an `asm!` block will appear exactly once in the output binary. The compiler is allowed to instantiate multiple copies of the `asm!` block, for example when the function containing it is inlined in multiple places.
837
838 > **Note**: As a general rule, the flags covered by `preserves_flags` are those which are *not* preserved when performing a function call.