Integer type name change.
[silc.git] / lib / silccrypt / aes.c
1 /* Modified for SILC. -Pekka */
2 /* The AES */
3
4 /* This is an independent implementation of the encryption algorithm:   */
5 /*                                                                      */
6 /*         RIJNDAEL by Joan Daemen and Vincent Rijmen                   */
7 /*                                                                      */
8 /* which is a candidate algorithm in the Advanced Encryption Standard   */
9 /* programme of the US National Institute of Standards and Technology.  */
10 /*                                                                      */
11 /* Copyright in this implementation is held by Dr B R Gladman but I     */
12 /* hereby give permission for its free direct or derivative use subject */
13 /* to acknowledgment of its origin and compliance with any conditions   */
14 /* that the originators of the algorithm place on its exploitation.     */
15 /*                                                                      */
16 /* Dr Brian Gladman (gladman@seven77.demon.co.uk) 14th January 1999     */
17
18 /* Timing data for Rijndael (rijndael.c)
19
20 Algorithm: rijndael (rijndael.c)
21
22 128 bit key:
23 Key Setup:    305/1389 cycles (encrypt/decrypt)
24 Encrypt:       374 cycles =    68.4 mbits/sec
25 Decrypt:       352 cycles =    72.7 mbits/sec
26 Mean:          363 cycles =    70.5 mbits/sec
27
28 192 bit key:
29 Key Setup:    277/1595 cycles (encrypt/decrypt)
30 Encrypt:       439 cycles =    58.3 mbits/sec
31 Decrypt:       425 cycles =    60.2 mbits/sec
32 Mean:          432 cycles =    59.3 mbits/sec
33
34 256 bit key:
35 Key Setup:    374/1960 cycles (encrypt/decrypt)
36 Encrypt:       502 cycles =    51.0 mbits/sec
37 Decrypt:       498 cycles =    51.4 mbits/sec
38 Mean:          500 cycles =    51.2 mbits/sec
39
40 */
41
42 #include "silcincludes.h"
43 #include "rijndael_internal.h"
44 #include "aes.h"
45
46 /* 
47  * SILC Crypto API for Rijndael
48  */
49
50 /* Sets the key for the cipher. */
51
52 SILC_CIPHER_API_SET_KEY(aes)
53 {
54   SilcUInt32 k[8];
55
56   SILC_GET_WORD_KEY(key, k, keylen);
57   rijndael_set_key((RijndaelContext *)context, k, keylen);
58
59   return TRUE;
60 }
61
62 /* Sets the string as a new key for the cipher. The string is first
63    hashed and then used as a new key. */
64
65 SILC_CIPHER_API_SET_KEY_WITH_STRING(aes)
66 {
67   /*  unsigned char key[md5_hash_len];
68   SilcMarsContext *ctx = (SilcMarsContext *)context;
69
70   make_md5_hash(string, &key);
71   memcpy(&ctx->key, mars_set_key(&key, keylen), keylen);
72   memset(&key, 'F', sizeoof(key));
73   */
74
75   return 1;
76 }
77
78 /* Returns the size of the cipher context. */
79
80 SILC_CIPHER_API_CONTEXT_LEN(aes)
81 {
82   return sizeof(RijndaelContext);
83 }
84
85 /* Encrypts with the cipher in CBC mode. Source and destination buffers
86    maybe one and same. */
87
88 SILC_CIPHER_API_ENCRYPT_CBC(aes)
89 {
90   SilcUInt32 tiv[4];
91   int i;
92
93   SILC_CBC_GET_IV(tiv, iv);
94
95   SILC_CBC_ENC_PRE(tiv, src);
96   rijndael_encrypt((RijndaelContext *)context, tiv, tiv);
97   SILC_CBC_ENC_POST(tiv, dst, src);
98
99   for (i = 16; i < len; i += 16) {
100     SILC_CBC_ENC_PRE(tiv, src);
101     rijndael_encrypt((RijndaelContext *)context, tiv, tiv);
102     SILC_CBC_ENC_POST(tiv, dst, src);
103   }
104
105   SILC_CBC_PUT_IV(tiv, iv);
106
107   return TRUE;
108 }
109
110 /* Decrypts with the cipher in CBC mode. Source and destination buffers
111    maybe one and same. */
112
113 SILC_CIPHER_API_DECRYPT_CBC(aes)
114 {
115   SilcUInt32 tmp[4], tmp2[4], tiv[4];
116   int i;
117
118   SILC_CBC_GET_IV(tiv, iv);
119
120   SILC_CBC_DEC_PRE(tmp, src);
121   rijndael_decrypt((RijndaelContext *)context, tmp, tmp2);
122   SILC_CBC_DEC_POST(tmp2, dst, src, tmp, tiv);
123
124   for (i = 16; i < len; i += 16) {
125     SILC_CBC_DEC_PRE(tmp, src);
126     rijndael_decrypt((RijndaelContext *)context, tmp, tmp2); 
127     SILC_CBC_DEC_POST(tmp2, dst, src, tmp, tiv);
128   }
129   
130   SILC_CBC_PUT_IV(tiv, iv);
131   
132   return TRUE;
133 }
134
135 #define LARGE_TABLES
136
137 u1byte  pow_tab[256];
138 u1byte  log_tab[256];
139 u1byte  sbx_tab[256];
140 u1byte  isb_tab[256];
141 u4byte  rco_tab[ 10];
142 u4byte  ft_tab[4][256];
143 u4byte  it_tab[4][256];
144
145 u4byte  fl_tab[4][256];
146 u4byte  il_tab[4][256];
147
148 u4byte  tab_gen = 0;
149
150 #define ff_mult(a,b)    (a && b ? pow_tab[(log_tab[a] + log_tab[b]) % 255] : 0)
151
152 #define f_rn(bo, bi, n, k)                          \
153     bo[n] =  ft_tab[0][byte(bi[n],0)] ^             \
154              ft_tab[1][byte(bi[(n + 1) & 3],1)] ^   \
155              ft_tab[2][byte(bi[(n + 2) & 3],2)] ^   \
156              ft_tab[3][byte(bi[(n + 3) & 3],3)] ^ *(k + n)
157
158 #define i_rn(bo, bi, n, k)                          \
159     bo[n] =  it_tab[0][byte(bi[n],0)] ^             \
160              it_tab[1][byte(bi[(n + 3) & 3],1)] ^   \
161              it_tab[2][byte(bi[(n + 2) & 3],2)] ^   \
162              it_tab[3][byte(bi[(n + 1) & 3],3)] ^ *(k + n)
163
164 #ifdef LARGE_TABLES
165
166 #define ls_box(x)                \
167     ( fl_tab[0][byte(x, 0)] ^    \
168       fl_tab[1][byte(x, 1)] ^    \
169       fl_tab[2][byte(x, 2)] ^    \
170       fl_tab[3][byte(x, 3)] )
171
172 #define f_rl(bo, bi, n, k)                          \
173     bo[n] =  fl_tab[0][byte(bi[n],0)] ^             \
174              fl_tab[1][byte(bi[(n + 1) & 3],1)] ^   \
175              fl_tab[2][byte(bi[(n + 2) & 3],2)] ^   \
176              fl_tab[3][byte(bi[(n + 3) & 3],3)] ^ *(k + n)
177
178 #define i_rl(bo, bi, n, k)                          \
179     bo[n] =  il_tab[0][byte(bi[n],0)] ^             \
180              il_tab[1][byte(bi[(n + 3) & 3],1)] ^   \
181              il_tab[2][byte(bi[(n + 2) & 3],2)] ^   \
182              il_tab[3][byte(bi[(n + 1) & 3],3)] ^ *(k + n)
183
184 #else
185
186 #define ls_box(x)                            \
187     ((u4byte)sbx_tab[byte(x, 0)] <<  0) ^    \
188     ((u4byte)sbx_tab[byte(x, 1)] <<  8) ^    \
189     ((u4byte)sbx_tab[byte(x, 2)] << 16) ^    \
190     ((u4byte)sbx_tab[byte(x, 3)] << 24)
191
192 #define f_rl(bo, bi, n, k)                                      \
193     bo[n] = (u4byte)sbx_tab[byte(bi[n],0)] ^                    \
194         rotl(((u4byte)sbx_tab[byte(bi[(n + 1) & 3],1)]),  8) ^  \
195         rotl(((u4byte)sbx_tab[byte(bi[(n + 2) & 3],2)]), 16) ^  \
196         rotl(((u4byte)sbx_tab[byte(bi[(n + 3) & 3],3)]), 24) ^ *(k + n)
197
198 #define i_rl(bo, bi, n, k)                                      \
199     bo[n] = (u4byte)isb_tab[byte(bi[n],0)] ^                    \
200         rotl(((u4byte)isb_tab[byte(bi[(n + 3) & 3],1)]),  8) ^  \
201         rotl(((u4byte)isb_tab[byte(bi[(n + 2) & 3],2)]), 16) ^  \
202         rotl(((u4byte)isb_tab[byte(bi[(n + 1) & 3],3)]), 24) ^ *(k + n)
203
204 #endif
205
206 void gen_tabs(void)
207 {   u4byte  i, t;
208     u1byte  p, q;
209
210     /* log and power tables for GF(2**8) finite field with  */
211     /* 0x11b as modular polynomial - the simplest prmitive  */
212     /* root is 0x11, used here to generate the tables       */
213
214     for(i = 0,p = 1; i < 256; ++i)
215     {
216         pow_tab[i] = (u1byte)p; log_tab[p] = (u1byte)i;
217
218         p = p ^ (p << 1) ^ (p & 0x80 ? 0x01b : 0);
219     }
220
221     log_tab[1] = 0; p = 1;
222
223     for(i = 0; i < 10; ++i)
224     {
225         rco_tab[i] = p; 
226
227         p = (p << 1) ^ (p & 0x80 ? 0x1b : 0);
228     }
229
230     /* note that the affine byte transformation matrix in   */
231     /* rijndael specification is in big endian format with  */
232     /* bit 0 as the most significant bit. In the remainder  */
233     /* of the specification the bits are numbered from the  */
234     /* least significant end of a byte.                     */
235
236     for(i = 0; i < 256; ++i)
237     {   
238         p = (i ? pow_tab[255 - log_tab[i]] : 0); q = p; 
239         q = (q >> 7) | (q << 1); p ^= q; 
240         q = (q >> 7) | (q << 1); p ^= q; 
241         q = (q >> 7) | (q << 1); p ^= q; 
242         q = (q >> 7) | (q << 1); p ^= q ^ 0x63; 
243         sbx_tab[i] = (u1byte)p; isb_tab[p] = (u1byte)i;
244     }
245
246     for(i = 0; i < 256; ++i)
247     {
248         p = sbx_tab[i]; 
249
250 #ifdef  LARGE_TABLES        
251         
252         t = p; fl_tab[0][i] = t;
253         fl_tab[1][i] = rotl(t,  8);
254         fl_tab[2][i] = rotl(t, 16);
255         fl_tab[3][i] = rotl(t, 24);
256 #endif
257         t = ((u4byte)ff_mult(2, p)) |
258             ((u4byte)p <<  8) |
259             ((u4byte)p << 16) |
260             ((u4byte)ff_mult(3, p) << 24);
261         
262         ft_tab[0][i] = t;
263         ft_tab[1][i] = rotl(t,  8);
264         ft_tab[2][i] = rotl(t, 16);
265         ft_tab[3][i] = rotl(t, 24);
266
267         p = isb_tab[i]; 
268
269 #ifdef  LARGE_TABLES        
270         
271         t = p; il_tab[0][i] = t; 
272         il_tab[1][i] = rotl(t,  8); 
273         il_tab[2][i] = rotl(t, 16); 
274         il_tab[3][i] = rotl(t, 24);
275 #endif 
276         t = ((u4byte)ff_mult(14, p)) |
277             ((u4byte)ff_mult( 9, p) <<  8) |
278             ((u4byte)ff_mult(13, p) << 16) |
279             ((u4byte)ff_mult(11, p) << 24);
280         
281         it_tab[0][i] = t; 
282         it_tab[1][i] = rotl(t,  8); 
283         it_tab[2][i] = rotl(t, 16); 
284         it_tab[3][i] = rotl(t, 24); 
285     }
286
287     tab_gen = 1;
288 };
289
290 #define star_x(x) (((x) & 0x7f7f7f7f) << 1) ^ ((((x) & 0x80808080) >> 7) * 0x1b)
291
292 #define imix_col(y,x)       \
293     u   = star_x(x);        \
294     v   = star_x(u);        \
295     w   = star_x(v);        \
296     t   = w ^ (x);          \
297    (y)  = u ^ v ^ w;        \
298    (y) ^= rotr(u ^ t,  8) ^ \
299           rotr(v ^ t, 16) ^ \
300           rotr(t,24)
301
302 /* initialise the key schedule from the user supplied key   */
303
304 #define loop4(i)                                    \
305 { \
306    t = ls_box(rotr(t,  8)) ^ rco_tab[i];           \
307     t ^= e_key[4 * i];     e_key[4 * i + 4] = t;    \
308     t ^= e_key[4 * i + 1]; e_key[4 * i + 5] = t;    \
309     t ^= e_key[4 * i + 2]; e_key[4 * i + 6] = t;    \
310     t ^= e_key[4 * i + 3]; e_key[4 * i + 7] = t;    \
311 }
312
313 #define loop6(i)                                    \
314 {   t = ls_box(rotr(t,  8)) ^ rco_tab[i];           \
315     t ^= e_key[6 * i];     e_key[6 * i + 6] = t;    \
316     t ^= e_key[6 * i + 1]; e_key[6 * i + 7] = t;    \
317     t ^= e_key[6 * i + 2]; e_key[6 * i + 8] = t;    \
318     t ^= e_key[6 * i + 3]; e_key[6 * i + 9] = t;    \
319     t ^= e_key[6 * i + 4]; e_key[6 * i + 10] = t;   \
320     t ^= e_key[6 * i + 5]; e_key[6 * i + 11] = t;   \
321 }
322
323 #define loop8(i)                                    \
324 {   t = ls_box(rotr(t,  8)) ^ rco_tab[i];           \
325     t ^= e_key[8 * i];     e_key[8 * i + 8] = t;    \
326     t ^= e_key[8 * i + 1]; e_key[8 * i + 9] = t;    \
327     t ^= e_key[8 * i + 2]; e_key[8 * i + 10] = t;   \
328     t ^= e_key[8 * i + 3]; e_key[8 * i + 11] = t;   \
329     t  = e_key[8 * i + 4] ^ ls_box(t);              \
330     e_key[8 * i + 12] = t;                          \
331     t ^= e_key[8 * i + 5]; e_key[8 * i + 13] = t;   \
332     t ^= e_key[8 * i + 6]; e_key[8 * i + 14] = t;   \
333     t ^= e_key[8 * i + 7]; e_key[8 * i + 15] = t;   \
334 }
335
336 u4byte *rijndael_set_key(RijndaelContext *ctx,
337                          const u4byte in_key[], const u4byte key_len)
338 {   
339     u4byte  i, t, u, v, w;
340     u4byte *e_key = ctx->e_key;
341     u4byte *d_key = ctx->d_key;
342     u4byte k_len;
343
344     if(!tab_gen)
345         gen_tabs();
346
347     k_len = ctx->k_len = (key_len + 31) / 32;
348
349     e_key[0] = in_key[0]; e_key[1] = in_key[1];
350     e_key[2] = in_key[2]; e_key[3] = in_key[3];
351
352     switch(k_len)
353     {
354         case 4: t = e_key[3];
355                 for(i = 0; i < 10; ++i) 
356                     loop4(i);
357                 break;
358
359         case 6: e_key[4] = in_key[4]; t = e_key[5] = in_key[5];
360                 for(i = 0; i < 8; ++i) 
361                     loop6(i);
362                 break;
363
364         case 8: e_key[4] = in_key[4]; e_key[5] = in_key[5];
365                 e_key[6] = in_key[6]; t = e_key[7] = in_key[7];
366                 for(i = 0; i < 7; ++i) 
367                     loop8(i);
368                 break;
369     }
370
371     d_key[0] = e_key[0]; d_key[1] = e_key[1];
372     d_key[2] = e_key[2]; d_key[3] = e_key[3];
373
374     for(i = 4; i < 4 * k_len + 24; ++i)
375     {
376         imix_col(d_key[i], e_key[i]);
377     }
378
379     return e_key;
380 };
381
382 /* encrypt a block of text  */
383
384 #define f_nround(bo, bi, k) \
385     f_rn(bo, bi, 0, k);     \
386     f_rn(bo, bi, 1, k);     \
387     f_rn(bo, bi, 2, k);     \
388     f_rn(bo, bi, 3, k);     \
389     k += 4
390
391 #define f_lround(bo, bi, k) \
392     f_rl(bo, bi, 0, k);     \
393     f_rl(bo, bi, 1, k);     \
394     f_rl(bo, bi, 2, k);     \
395     f_rl(bo, bi, 3, k)
396
397 void rijndael_encrypt(RijndaelContext *ctx,
398                       const u4byte in_blk[4], u4byte out_blk[4])
399 {   
400     u4byte  b0[4], b1[4], *kp;
401     u4byte *e_key = ctx->e_key;
402     u4byte k_len = ctx->k_len;
403
404     b0[0] = in_blk[0] ^ e_key[0]; b0[1] = in_blk[1] ^ e_key[1];
405     b0[2] = in_blk[2] ^ e_key[2]; b0[3] = in_blk[3] ^ e_key[3];
406
407     kp = e_key + 4;
408
409     if(k_len > 6)
410     {
411         f_nround(b1, b0, kp); f_nround(b0, b1, kp);
412     }
413
414     if(k_len > 4)
415     {
416         f_nround(b1, b0, kp); f_nround(b0, b1, kp);
417     }
418
419     f_nround(b1, b0, kp); f_nround(b0, b1, kp);
420     f_nround(b1, b0, kp); f_nround(b0, b1, kp);
421     f_nround(b1, b0, kp); f_nround(b0, b1, kp);
422     f_nround(b1, b0, kp); f_nround(b0, b1, kp);
423     f_nround(b1, b0, kp); f_lround(b0, b1, kp);
424
425     out_blk[0] = b0[0]; out_blk[1] = b0[1];
426     out_blk[2] = b0[2]; out_blk[3] = b0[3];
427 };
428
429 /* decrypt a block of text  */
430
431 #define i_nround(bo, bi, k) \
432     i_rn(bo, bi, 0, k);     \
433     i_rn(bo, bi, 1, k);     \
434     i_rn(bo, bi, 2, k);     \
435     i_rn(bo, bi, 3, k);     \
436     k -= 4
437
438 #define i_lround(bo, bi, k) \
439     i_rl(bo, bi, 0, k);     \
440     i_rl(bo, bi, 1, k);     \
441     i_rl(bo, bi, 2, k);     \
442     i_rl(bo, bi, 3, k)
443
444 void rijndael_decrypt(RijndaelContext *ctx,
445                       const u4byte in_blk[4], u4byte out_blk[4])
446 {   
447     u4byte  b0[4], b1[4], *kp;
448     u4byte *e_key = ctx->e_key;
449     u4byte *d_key = ctx->d_key;
450     u4byte k_len = ctx->k_len;
451
452     b0[0] = in_blk[0] ^ e_key[4 * k_len + 24]; b0[1] = in_blk[1] ^ e_key[4 * k_len + 25];
453     b0[2] = in_blk[2] ^ e_key[4 * k_len + 26]; b0[3] = in_blk[3] ^ e_key[4 * k_len + 27];
454
455     kp = d_key + 4 * (k_len + 5);
456
457     if(k_len > 6)
458     {
459         i_nround(b1, b0, kp); i_nround(b0, b1, kp);
460     }
461
462     if(k_len > 4)
463     {
464         i_nround(b1, b0, kp); i_nround(b0, b1, kp);
465     }
466
467     i_nround(b1, b0, kp); i_nround(b0, b1, kp);
468     i_nround(b1, b0, kp); i_nround(b0, b1, kp);
469     i_nround(b1, b0, kp); i_nround(b0, b1, kp);
470     i_nround(b1, b0, kp); i_nround(b0, b1, kp);
471     i_nround(b1, b0, kp); i_lround(b0, b1, kp);
472
473     out_blk[0] = b0[0]; out_blk[1] = b0[1];
474     out_blk[2] = b0[2]; out_blk[3] = b0[3];
475 };