]> git.lizzy.rs Git - plan9front.git/blob - sys/include/libsec.h
libsec: implement SPKI fingerprinting for okCertificate()
[plan9front.git] / sys / include / libsec.h
1 #pragma lib     "libsec.a"
2 #pragma src     "/sys/src/libsec"
3
4
5 #ifndef _MPINT
6 typedef struct mpint mpint;
7 #endif
8
9 /*
10  * AES definitions
11  */
12
13 enum
14 {
15         AESbsize=       16,
16         AESmaxkey=      32,
17         AESmaxrounds=   14
18 };
19
20 typedef struct AESstate AESstate;
21 struct AESstate
22 {
23         ulong   setup;
24         ulong   offset;
25         int     rounds;
26         int     keybytes;
27         void    *ekey;                          /* expanded encryption round key */
28         void    *dkey;                          /* expanded decryption round key */
29         uchar   key[AESmaxkey];                 /* unexpanded key */
30         uchar   ivec[AESbsize];                 /* initialization vector */
31         uchar   storage[512];                   /* storage for expanded keys */
32 };
33
34 /* block ciphers */
35 extern void (*aes_encrypt)(ulong rk[], int Nr, uchar pt[16], uchar ct[16]);
36 extern void (*aes_decrypt)(ulong rk[], int Nr, uchar ct[16], uchar pt[16]);
37
38 void    setupAESstate(AESstate *s, uchar key[], int nkey, uchar *ivec);
39
40 void    aesCBCencrypt(uchar *p, int len, AESstate *s);
41 void    aesCBCdecrypt(uchar *p, int len, AESstate *s);
42 void    aesCFBencrypt(uchar *p, int len, AESstate *s);
43 void    aesCFBdecrypt(uchar *p, int len, AESstate *s);
44 void    aesOFBencrypt(uchar *p, int len, AESstate *s);
45
46 typedef struct AESGCMstate AESGCMstate;
47 struct AESGCMstate
48 {
49         AESstate;
50
51         ulong   H[4];
52         ulong   M[16][256][4];
53 };
54
55 void    setupAESGCMstate(AESGCMstate *s, uchar *key, int keylen, uchar *iv, int ivlen);
56 void    aesgcm_setiv(AESGCMstate *s, uchar *iv, int ivlen);
57 void    aesgcm_encrypt(uchar *dat, ulong ndat, uchar *aad, ulong naad, uchar tag[16], AESGCMstate *s);
58 int     aesgcm_decrypt(uchar *dat, ulong ndat, uchar *aad, ulong naad, uchar tag[16], AESGCMstate *s);
59
60 /*
61  * Blowfish Definitions
62  */
63
64 enum
65 {
66         BFbsize = 8,
67         BFrounds= 16
68 };
69
70 /* 16-round Blowfish */
71 typedef struct BFstate BFstate;
72 struct BFstate
73 {
74         ulong   setup;
75
76         uchar   key[56];
77         uchar   ivec[8];
78
79         u32int  pbox[BFrounds+2];
80         u32int  sbox[1024];
81 };
82
83 void    setupBFstate(BFstate *s, uchar key[], int keybytes, uchar *ivec);
84 void    bfCBCencrypt(uchar*, int, BFstate*);
85 void    bfCBCdecrypt(uchar*, int, BFstate*);
86 void    bfECBencrypt(uchar*, int, BFstate*);
87 void    bfECBdecrypt(uchar*, int, BFstate*);
88
89 /*
90  * Chacha definitions
91  */
92
93 enum
94 {
95         ChachaBsize=    64,
96         ChachaKeylen=   256/8,
97         ChachaIVlen=    96/8,
98         XChachaIVlen=   192/8,
99 };
100
101 typedef struct Chachastate Chachastate;
102 struct Chachastate
103 {
104         union{
105                 u32int  input[16];
106                 struct {
107                         u32int  constant[4];
108                         u32int  key[8];
109                         u32int  counter;
110                         u32int  iv[3];
111                 };
112         };
113         u32int  xkey[8];
114         int     rounds;
115         int     ivwords;
116 };
117
118 void    setupChachastate(Chachastate*, uchar*, ulong, uchar*, ulong, int);
119 void    chacha_setiv(Chachastate *, uchar*);
120 void    chacha_setblock(Chachastate*, u64int);
121 void    chacha_encrypt(uchar*, ulong, Chachastate*);
122 void    chacha_encrypt2(uchar*, uchar*, ulong, Chachastate*);
123
124 void    hchacha(uchar h[32], uchar *key, ulong keylen, uchar nonce[16], int rounds);
125
126 void    ccpoly_encrypt(uchar *dat, ulong ndat, uchar *aad, ulong naad, uchar tag[16], Chachastate *cs);
127 int     ccpoly_decrypt(uchar *dat, ulong ndat, uchar *aad, ulong naad, uchar tag[16], Chachastate *cs);
128
129 /*
130  * Salsa definitions
131  */
132 enum
133 {
134         SalsaBsize=     64,
135         SalsaKeylen=    256/8,
136         SalsaIVlen=     64/8,
137         XSalsaIVlen=    192/8,
138 };
139
140 typedef struct Salsastate Salsastate;
141 struct Salsastate
142 {
143         u32int  input[16];
144         u32int  xkey[8];
145         int     rounds;
146         int     ivwords;
147 };
148
149 void    setupSalsastate(Salsastate*, uchar*, ulong, uchar*, ulong, int);
150 void    salsa_setiv(Salsastate*, uchar*);
151 void    salsa_setblock(Salsastate*, u64int);
152 void    salsa_encrypt(uchar*, ulong, Salsastate*);
153 void    salsa_encrypt2(uchar*, uchar*, ulong, Salsastate*);
154
155 void    salsa_core(u32int in[16], u32int out[16], int rounds);
156
157 void    hsalsa(uchar h[32], uchar *key, ulong keylen, uchar nonce[16], int rounds);
158
159 /*
160  * DES definitions
161  */
162
163 enum
164 {
165         DESbsize=       8
166 };
167
168 /* single des */
169 typedef struct DESstate DESstate;
170 struct DESstate
171 {
172         ulong   setup;
173         uchar   key[8];         /* unexpanded key */
174         ulong   expanded[32];   /* expanded key */
175         uchar   ivec[8];        /* initialization vector */
176 };
177
178 void    setupDESstate(DESstate *s, uchar key[8], uchar *ivec);
179 void    des_key_setup(uchar[8], ulong[32]);
180 void    block_cipher(ulong*, uchar*, int);
181 void    desCBCencrypt(uchar*, int, DESstate*);
182 void    desCBCdecrypt(uchar*, int, DESstate*);
183 void    desECBencrypt(uchar*, int, DESstate*);
184 void    desECBdecrypt(uchar*, int, DESstate*);
185
186 /* for backward compatibility with 7-byte DES key format */
187 void    des56to64(uchar *k56, uchar *k64);
188 void    des64to56(uchar *k64, uchar *k56);
189 void    key_setup(uchar[7], ulong[32]);
190
191 /* triple des encrypt/decrypt orderings */
192 enum {
193         DES3E=          0,
194         DES3D=          1,
195         DES3EEE=        0,
196         DES3EDE=        2,
197         DES3DED=        5,
198         DES3DDD=        7
199 };
200
201 typedef struct DES3state DES3state;
202 struct DES3state
203 {
204         ulong   setup;
205         uchar   key[3][8];              /* unexpanded key */
206         ulong   expanded[3][32];        /* expanded key */
207         uchar   ivec[8];                /* initialization vector */
208 };
209
210 void    setupDES3state(DES3state *s, uchar key[3][8], uchar *ivec);
211 void    triple_block_cipher(ulong keys[3][32], uchar*, int);
212 void    des3CBCencrypt(uchar*, int, DES3state*);
213 void    des3CBCdecrypt(uchar*, int, DES3state*);
214 void    des3ECBencrypt(uchar*, int, DES3state*);
215 void    des3ECBdecrypt(uchar*, int, DES3state*);
216
217 /*
218  * digests
219  */
220
221 enum
222 {
223         SHA1dlen=       20,     /* SHA digest length */
224         SHA2_224dlen=   28,     /* SHA-224 digest length */
225         SHA2_256dlen=   32,     /* SHA-256 digest length */
226         SHA2_384dlen=   48,     /* SHA-384 digest length */
227         SHA2_512dlen=   64,     /* SHA-512 digest length */
228         MD4dlen=        16,     /* MD4 digest length */
229         MD5dlen=        16,     /* MD5 digest length */
230         Poly1305dlen=   16,     /* Poly1305 digest length */
231
232         Hmacblksz       = 64,   /* in bytes; from rfc2104 */
233 };
234
235 typedef struct DigestState DigestState;
236 struct DigestState
237 {
238         uvlong  len;
239         union {
240                 u32int  state[16];
241                 u64int  bstate[8];
242         };
243         uchar   buf[256];
244         int     blen;
245         char    malloced;
246         char    seeded;
247 };
248 typedef struct DigestState SHAstate;    /* obsolete name */
249 typedef struct DigestState SHA1state;
250 typedef struct DigestState SHA2_224state;
251 typedef struct DigestState SHA2_256state;
252 typedef struct DigestState SHA2_384state;
253 typedef struct DigestState SHA2_512state;
254 typedef struct DigestState MD5state;
255 typedef struct DigestState MD4state;
256
257 DigestState*    md4(uchar*, ulong, uchar*, DigestState*);
258 DigestState*    md5(uchar*, ulong, uchar*, DigestState*);
259 DigestState*    sha1(uchar*, ulong, uchar*, DigestState*);
260 DigestState*    sha2_224(uchar*, ulong, uchar*, DigestState*);
261 DigestState*    sha2_256(uchar*, ulong, uchar*, DigestState*);
262 DigestState*    sha2_384(uchar*, ulong, uchar*, DigestState*);
263 DigestState*    sha2_512(uchar*, ulong, uchar*, DigestState*);
264 DigestState*    hmac_x(uchar *p, ulong len, uchar *key, ulong klen,
265                         uchar *digest, DigestState *s,
266                         DigestState*(*x)(uchar*, ulong, uchar*, DigestState*),
267                         int xlen);
268 DigestState*    hmac_md5(uchar*, ulong, uchar*, ulong, uchar*, DigestState*);
269 DigestState*    hmac_sha1(uchar*, ulong, uchar*, ulong, uchar*, DigestState*);
270 DigestState*    hmac_sha2_224(uchar*, ulong, uchar*, ulong, uchar*, DigestState*);
271 DigestState*    hmac_sha2_256(uchar*, ulong, uchar*, ulong, uchar*, DigestState*);
272 DigestState*    hmac_sha2_384(uchar*, ulong, uchar*, ulong, uchar*, DigestState*);
273 DigestState*    hmac_sha2_512(uchar*, ulong, uchar*, ulong, uchar*, DigestState*);
274 char*           md5pickle(MD5state*);
275 MD5state*       md5unpickle(char*);
276 char*           sha1pickle(SHA1state*);
277 SHA1state*      sha1unpickle(char*);
278
279 DigestState*    poly1305(uchar*, ulong, uchar*, ulong, uchar*, DigestState*);
280
281 /*
282  * random number generation
283  */
284 void    genrandom(uchar *buf, int nbytes);
285 void    prng(uchar *buf, int nbytes);
286 ulong   fastrand(void);
287 ulong   nfastrand(ulong);
288
289 /*
290  * primes
291  */
292 void    genprime(mpint *p, int n, int accuracy); /* generate n-bit probable prime */
293 void    gensafeprime(mpint *p, mpint *alpha, int n, int accuracy); /* prime & generator */
294 void    genstrongprime(mpint *p, int n, int accuracy); /* generate n-bit strong prime */
295 void    DSAprimes(mpint *q, mpint *p, uchar seed[SHA1dlen]);
296 int     probably_prime(mpint *n, int nrep);     /* miller-rabin test */
297 int     smallprimetest(mpint *p);  /* returns -1 if not prime, 0 otherwise */
298
299 /*
300  * rc4
301  */
302 typedef struct RC4state RC4state;
303 struct RC4state
304 {
305          uchar  state[256];
306          uchar  x;
307          uchar  y;
308 };
309
310 void    setupRC4state(RC4state*, uchar*, int);
311 void    rc4(RC4state*, uchar*, int);
312 void    rc4skip(RC4state*, int);
313 void    rc4back(RC4state*, int);
314
315 /*
316  * rsa
317  */
318 typedef struct RSApub RSApub;
319 typedef struct RSApriv RSApriv;
320 typedef struct PEMChain PEMChain;
321
322 /* public/encryption key */
323 struct RSApub
324 {
325         mpint   *n;     /* modulus */
326         mpint   *ek;    /* exp (encryption key) */
327 };
328
329 /* private/decryption key */
330 struct RSApriv
331 {
332         RSApub  pub;
333
334         mpint   *dk;    /* exp (decryption key) */
335
336         /* precomputed values to help with chinese remainder theorem calc */
337         mpint   *p;
338         mpint   *q;
339         mpint   *kp;    /* dk mod p-1 */
340         mpint   *kq;    /* dk mod q-1 */
341         mpint   *c2;    /* (inv p) mod q */
342 };
343
344 struct PEMChain{
345         PEMChain*next;
346         uchar   *pem;
347         int     pemlen;
348 };
349
350 RSApriv*        rsagen(int nlen, int elen, int rounds);
351 RSApriv*        rsafill(mpint *n, mpint *e, mpint *d, mpint *p, mpint *q);
352 mpint*          rsaencrypt(RSApub *k, mpint *in, mpint *out);
353 mpint*          rsadecrypt(RSApriv *k, mpint *in, mpint *out);
354 RSApub*         rsapuballoc(void);
355 void            rsapubfree(RSApub*);
356 RSApriv*        rsaprivalloc(void);
357 void            rsaprivfree(RSApriv*);
358 RSApub*         rsaprivtopub(RSApriv*);
359 RSApub*         X509toRSApub(uchar*, int, char*, int);
360 RSApub*         asn1toRSApub(uchar*, int);
361 RSApriv*        asn1toRSApriv(uchar*, int);
362 void            asn1dump(uchar *der, int len);
363 uchar*          decodePEM(char *s, char *type, int *len, char **new_s);
364 PEMChain*       decodepemchain(char *s, char *type);
365 uchar*          X509rsagen(RSApriv *priv, char *subj, ulong valid[2], int *certlen);
366 uchar*          X509rsareq(RSApriv *priv, char *subj, int *certlen);
367 char*           X509rsaverify(uchar *cert, int ncert, RSApub *pk);
368 char*           X509rsaverifydigest(uchar *sig, int siglen, uchar *edigest, int edigestlen, RSApub *pk);
369
370 void            X509dump(uchar *cert, int ncert);
371
372 mpint*          pkcs1padbuf(uchar *buf, int len, mpint *modulus, int blocktype);
373 int             pkcs1unpadbuf(uchar *buf, int len, mpint *modulus, int blocktype);
374 int             asn1encodeRSApub(RSApub *pk, uchar *buf, int len);
375 int             asn1encodedigest(DigestState* (*fun)(uchar*, ulong, uchar*, DigestState*),
376                         uchar *digest, uchar *buf, int len);
377
378 int             X509digestSPKI(uchar *, int, DigestState* (*)(uchar*, ulong, uchar*, DigestState*), uchar *);
379
380 /*
381  * elgamal
382  */
383 typedef struct EGpub EGpub;
384 typedef struct EGpriv EGpriv;
385 typedef struct EGsig EGsig;
386
387 /* public/encryption key */
388 struct EGpub
389 {
390         mpint   *p;     /* modulus */
391         mpint   *alpha; /* generator */
392         mpint   *key;   /* (encryption key) alpha**secret mod p */
393 };
394
395 /* private/decryption key */
396 struct EGpriv
397 {
398         EGpub   pub;
399         mpint   *secret;        /* (decryption key) */
400 };
401
402 /* signature */
403 struct EGsig
404 {
405         mpint   *r, *s;
406 };
407
408 EGpriv*         eggen(int nlen, int rounds);
409 mpint*          egencrypt(EGpub *k, mpint *in, mpint *out);     /* deprecated */
410 mpint*          egdecrypt(EGpriv *k, mpint *in, mpint *out);
411 EGsig*          egsign(EGpriv *k, mpint *m);
412 int             egverify(EGpub *k, EGsig *sig, mpint *m);
413 EGpub*          egpuballoc(void);
414 void            egpubfree(EGpub*);
415 EGpriv*         egprivalloc(void);
416 void            egprivfree(EGpriv*);
417 EGsig*          egsigalloc(void);
418 void            egsigfree(EGsig*);
419 EGpub*          egprivtopub(EGpriv*);
420
421 /*
422  * dsa
423  */
424 typedef struct DSApub DSApub;
425 typedef struct DSApriv DSApriv;
426 typedef struct DSAsig DSAsig;
427
428 /* public/encryption key */
429 struct DSApub
430 {
431         mpint   *p;     /* modulus */
432         mpint   *q;     /* group order, q divides p-1 */
433         mpint   *alpha; /* group generator */
434         mpint   *key;   /* (encryption key) alpha**secret mod p */
435 };
436
437 /* private/decryption key */
438 struct DSApriv
439 {
440         DSApub  pub;
441         mpint   *secret;        /* (decryption key) */
442 };
443
444 /* signature */
445 struct DSAsig
446 {
447         mpint   *r, *s;
448 };
449
450 DSApriv*        dsagen(DSApub *opub);   /* opub not checked for consistency! */
451 DSAsig*         dsasign(DSApriv *k, mpint *m);
452 int             dsaverify(DSApub *k, DSAsig *sig, mpint *m);
453 DSApub*         dsapuballoc(void);
454 void            dsapubfree(DSApub*);
455 DSApriv*        dsaprivalloc(void);
456 void            dsaprivfree(DSApriv*);
457 DSAsig*         dsasigalloc(void);
458 void            dsasigfree(DSAsig*);
459 DSApub*         dsaprivtopub(DSApriv*);
460 DSApriv*        asn1toDSApriv(uchar*, int);
461
462 /*
463  * TLS
464  */
465 typedef struct Thumbprint{
466         struct Thumbprint *next;
467         uchar   hash[SHA2_256dlen];
468         uchar   len;
469 } Thumbprint;
470
471 typedef struct TLSconn{
472         char    dir[40];        /* connection directory */
473         uchar   *cert;  /* certificate (local on input, remote on output) */
474         uchar   *sessionID;
475         uchar   *psk;
476         int     certlen;
477         int     sessionIDlen;
478         int     psklen;
479         int     (*trace)(char*fmt, ...);
480         PEMChain*chain; /* optional extra certificate evidence for servers to present */
481         char    *sessionType;
482         uchar   *sessionKey;
483         int     sessionKeylen;
484         char    *sessionConst;
485         char    *serverName;
486         char    *pskID;
487 } TLSconn;
488
489 /* tlshand.c */
490 int tlsClient(int fd, TLSconn *c);
491 int tlsServer(int fd, TLSconn *c);
492
493 /* thumb.c */
494 Thumbprint* initThumbprints(char *ok, char *crl, char *tag);
495 void    freeThumbprints(Thumbprint *ok);
496 int     okThumbprint(uchar *hash, int len, Thumbprint *ok);
497 int     okCertificate(uchar *cert, int len, Thumbprint *ok);
498
499 /* readcert.c */
500 uchar   *readcert(char *filename, int *pcertlen);
501 PEMChain*readcertchain(char *filename);
502
503 /* aes_xts.c */
504 void aes_xts_encrypt(AESstate *tweak, AESstate *ecb, uvlong sectorNumber, uchar *input, uchar *output, ulong len);
505 void aes_xts_decrypt(AESstate *tweak, AESstate *ecb, uvlong sectorNumber, uchar *input, uchar *output, ulong len);
506
507 typedef struct ECpoint{
508         int inf;
509         mpint *x;
510         mpint *y;
511         mpint *z;       /* nil when using affine coordinates */
512 } ECpoint;
513
514 typedef ECpoint ECpub;
515 typedef struct ECpriv{
516         ECpoint;
517         mpint *d;
518 } ECpriv;
519
520 typedef struct ECdomain{
521         mpint *p;
522         mpint *a;
523         mpint *b;
524         ECpoint G;
525         mpint *n;
526         mpint *h;
527 } ECdomain;
528
529 void    ecdominit(ECdomain *, void (*init)(mpint *p, mpint *a, mpint *b, mpint *x, mpint *y, mpint *n, mpint *h));
530 void    ecdomfree(ECdomain *);
531
532 void    ecassign(ECdomain *, ECpoint *old, ECpoint *new);
533 void    ecadd(ECdomain *, ECpoint *a, ECpoint *b, ECpoint *s);
534 void    ecmul(ECdomain *, ECpoint *a, mpint *k, ECpoint *s);
535 ECpoint*        strtoec(ECdomain *, char *, char **, ECpoint *);
536 ECpriv* ecgen(ECdomain *, ECpriv*);
537 int     ecverify(ECdomain *, ECpoint *);
538 int     ecpubverify(ECdomain *, ECpub *);
539 void    ecdsasign(ECdomain *, ECpriv *, uchar *, int, mpint *, mpint *);
540 int     ecdsaverify(ECdomain *, ECpub *, uchar *, int, mpint *, mpint *);
541 void    base58enc(uchar *, char *, int);
542 int     base58dec(char *, uchar *, int);
543
544 ECpub*  ecdecodepub(ECdomain *dom, uchar *, int);
545 int     ecencodepub(ECdomain *dom, ECpub *, uchar *, int);
546 void    ecpubfree(ECpub *);
547
548 ECpub*  X509toECpub(uchar *cert, int ncert, char *name, int nname, ECdomain *dom);
549 char*   X509ecdsaverify(uchar *cert, int ncert, ECdomain *dom, ECpub *pub);
550 char*   X509ecdsaverifydigest(uchar *sig, int siglen, uchar *edigest, int edigestlen, ECdomain *dom, ECpub *pub);
551
552 /* curves */
553 void    secp256r1(mpint *p, mpint *a, mpint *b, mpint *x, mpint *y, mpint *n, mpint *h);
554 void    secp256k1(mpint *p, mpint *a, mpint *b, mpint *x, mpint *y, mpint *n, mpint *h);
555 void    secp384r1(mpint *p, mpint *a, mpint *b, mpint *x, mpint *y, mpint *n, mpint *h);
556
557 DigestState*    ripemd160(uchar *, ulong, uchar *, DigestState *);
558
559 /*
560  * Diffie-Hellman key exchange
561  */
562
563 typedef struct DHstate DHstate;
564 struct DHstate
565 {
566         mpint   *g;     /* base g */
567         mpint   *p;     /* large prime */
568         mpint   *q;     /* subgroup prime */
569         mpint   *x;     /* random secret */
570         mpint   *y;     /* public key y = g**x % p */
571 };
572
573 /* generate new public key: y = g**x % p */
574 mpint* dh_new(DHstate *dh, mpint *p, mpint *q, mpint *g);
575
576 /* calculate shared key: k = y**x % p */
577 mpint* dh_finish(DHstate *dh, mpint *y);
578
579 /* Curve25519 elliptic curve, public key function */
580 void curve25519(uchar mypublic[32], uchar secret[32], uchar basepoint[32]);
581
582 /* Curve25519 diffie hellman */
583 void curve25519_dh_new(uchar x[32], uchar y[32]);
584 void curve25519_dh_finish(uchar x[32], uchar y[32], uchar z[32]);
585
586 /* password-based key derivation function 2 (rfc2898) */
587 void pbkdf2_x(uchar *p, ulong plen, uchar *s, ulong slen, ulong rounds, uchar *d, ulong dlen,
588         DigestState* (*x)(uchar*, ulong, uchar*, ulong, uchar*, DigestState*), int xlen);
589
590 /* scrypt password-based key derivation function */
591 char* scrypt(uchar *p, ulong plen, uchar *s, ulong slen,
592         ulong N, ulong R, ulong P,
593         uchar *d, ulong dlen);
594
595 /* hmac-based key derivation function (rfc5869) */
596 void hkdf_x(uchar *salt, ulong nsalt, uchar *info, ulong ninfo, uchar *key, ulong nkey, uchar *d, ulong dlen,
597         DigestState* (*x)(uchar*, ulong, uchar*, ulong, uchar*, DigestState*), int xlen);
598
599 /* timing safe memcmp() */
600 int tsmemcmp(void*, void*, ulong);