eng_padlock.c
上传用户:yisoukefu
上传日期:2020-08-09
资源大小:39506k
文件大小:31k
源码类别:

其他游戏

开发平台:

Visual C++

  1. /* 
  2.  * Support for VIA PadLock Advanced Cryptography Engine (ACE)
  3.  * Written by Michal Ludvig <michal@logix.cz>
  4.  *            http://www.logix.cz/michal
  5.  *
  6.  * Big thanks to Andy Polyakov for a help with optimization, 
  7.  * assembler fixes, port to MS Windows and a lot of other 
  8.  * valuable work on this engine!
  9.  */
  10. /* ====================================================================
  11.  * Copyright (c) 1999-2001 The OpenSSL Project.  All rights reserved.
  12.  *
  13.  * Redistribution and use in source and binary forms, with or without
  14.  * modification, are permitted provided that the following conditions
  15.  * are met:
  16.  *
  17.  * 1. Redistributions of source code must retain the above copyright
  18.  *    notice, this list of conditions and the following disclaimer.
  19.  *
  20.  * 2. Redistributions in binary form must reproduce the above copyright
  21.  *    notice, this list of conditions and the following disclaimer in
  22.  *    the documentation and/or other materials provided with the
  23.  *    distribution.
  24.  *
  25.  * 3. All advertising materials mentioning features or use of this
  26.  *    software must display the following acknowledgment:
  27.  *    "This product includes software developed by the OpenSSL Project
  28.  *    for use in the OpenSSL Toolkit. (http://www.OpenSSL.org/)"
  29.  *
  30.  * 4. The names "OpenSSL Toolkit" and "OpenSSL Project" must not be used to
  31.  *    endorse or promote products derived from this software without
  32.  *    prior written permission. For written permission, please contact
  33.  *    licensing@OpenSSL.org.
  34.  *
  35.  * 5. Products derived from this software may not be called "OpenSSL"
  36.  *    nor may "OpenSSL" appear in their names without prior written
  37.  *    permission of the OpenSSL Project.
  38.  *
  39.  * 6. Redistributions of any form whatsoever must retain the following
  40.  *    acknowledgment:
  41.  *    "This product includes software developed by the OpenSSL Project
  42.  *    for use in the OpenSSL Toolkit (http://www.OpenSSL.org/)"
  43.  *
  44.  * THIS SOFTWARE IS PROVIDED BY THE OpenSSL PROJECT ``AS IS'' AND ANY
  45.  * EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  46.  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
  47.  * PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL THE OpenSSL PROJECT OR
  48.  * ITS CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
  49.  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
  50.  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES;
  51.  * LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  52.  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT,
  53.  * STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
  54.  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED
  55.  * OF THE POSSIBILITY OF SUCH DAMAGE.
  56.  * ====================================================================
  57.  *
  58.  * This product includes cryptographic software written by Eric Young
  59.  * (eay@cryptsoft.com).  This product includes software written by Tim
  60.  * Hudson (tjh@cryptsoft.com).
  61.  *
  62.  */
  63. #include <stdio.h>
  64. #include <string.h>
  65. #include <openssl/opensslconf.h>
  66. #include <openssl/crypto.h>
  67. #include <openssl/dso.h>
  68. #include <openssl/engine.h>
  69. #include <openssl/evp.h>
  70. #ifndef OPENSSL_NO_AES
  71. #include <openssl/aes.h>
  72. #endif
  73. #include <openssl/rand.h>
  74. #include <openssl/err.h>
  75. #ifndef OPENSSL_NO_HW
  76. #ifndef OPENSSL_NO_HW_PADLOCK
  77. /* Attempt to have a single source for both 0.9.7 and 0.9.8 :-) */
  78. #if (OPENSSL_VERSION_NUMBER >= 0x00908000L)
  79. #  ifndef OPENSSL_NO_DYNAMIC_ENGINE
  80. #    define DYNAMIC_ENGINE
  81. #  endif
  82. #elif (OPENSSL_VERSION_NUMBER >= 0x00907000L)
  83. #  ifdef ENGINE_DYNAMIC_SUPPORT
  84. #    define DYNAMIC_ENGINE
  85. #  endif
  86. #else
  87. #  error "Only OpenSSL >= 0.9.7 is supported"
  88. #endif
  89. /* VIA PadLock AES is available *ONLY* on some x86 CPUs.
  90.    Not only that it doesn't exist elsewhere, but it
  91.    even can't be compiled on other platforms!
  92.  
  93.    In addition, because of the heavy use of inline assembler,
  94.    compiler choice is limited to GCC and Microsoft C. */
  95. #undef COMPILE_HW_PADLOCK
  96. #if !defined(I386_ONLY) && !defined(OPENSSL_NO_INLINE_ASM)
  97. # if (defined(__GNUC__) && (defined(__i386__) || defined(__i386))) || 
  98.      (defined(_MSC_VER) && defined(_M_IX86))
  99. #  define COMPILE_HW_PADLOCK
  100. static ENGINE *ENGINE_padlock (void);
  101. # endif
  102. #endif
  103. void ENGINE_load_padlock (void)
  104. {
  105. /* On non-x86 CPUs it just returns. */
  106. #ifdef COMPILE_HW_PADLOCK
  107. ENGINE *toadd = ENGINE_padlock ();
  108. if (!toadd) return;
  109. ENGINE_add (toadd);
  110. ENGINE_free (toadd);
  111. ERR_clear_error ();
  112. #endif
  113. }
  114. #ifdef COMPILE_HW_PADLOCK
  115. /* We do these includes here to avoid header problems on platforms that
  116.    do not have the VIA padlock anyway... */
  117. #ifdef _MSC_VER
  118. # include <malloc.h>
  119. # define alloca _alloca
  120. #else
  121. # include <stdlib.h>
  122. #endif
  123. /* Function for ENGINE detection and control */
  124. static int padlock_available(void);
  125. static int padlock_init(ENGINE *e);
  126. /* RNG Stuff */
  127. static RAND_METHOD padlock_rand;
  128. /* Cipher Stuff */
  129. #ifndef OPENSSL_NO_AES
  130. static int padlock_ciphers(ENGINE *e, const EVP_CIPHER **cipher, const int **nids, int nid);
  131. #endif
  132. /* Engine names */
  133. static const char *padlock_id = "padlock";
  134. static char padlock_name[100];
  135. /* Available features */
  136. static int padlock_use_ace = 0; /* Advanced Cryptography Engine */
  137. static int padlock_use_rng = 0; /* Random Number Generator */
  138. #ifndef OPENSSL_NO_AES
  139. static int padlock_aes_align_required = 1;
  140. #endif
  141. /* ===== Engine "management" functions ===== */
  142. /* Prepare the ENGINE structure for registration */
  143. static int
  144. padlock_bind_helper(ENGINE *e)
  145. {
  146. /* Check available features */
  147. padlock_available();
  148. #if 1 /* disable RNG for now, see commentary in vicinity of RNG code */
  149. padlock_use_rng=0;
  150. #endif
  151. /* Generate a nice engine name with available features */
  152. BIO_snprintf(padlock_name, sizeof(padlock_name),
  153. "VIA PadLock (%s, %s)", 
  154.  padlock_use_rng ? "RNG" : "no-RNG",
  155.  padlock_use_ace ? "ACE" : "no-ACE");
  156. /* Register everything or return with an error */ 
  157. if (!ENGINE_set_id(e, padlock_id) ||
  158.     !ENGINE_set_name(e, padlock_name) ||
  159.     !ENGINE_set_init_function(e, padlock_init) ||
  160. #ifndef OPENSSL_NO_AES
  161.     (padlock_use_ace && !ENGINE_set_ciphers (e, padlock_ciphers)) ||
  162. #endif
  163.     (padlock_use_rng && !ENGINE_set_RAND (e, &padlock_rand))) {
  164. return 0;
  165. }
  166. /* Everything looks good */
  167. return 1;
  168. }
  169. /* Constructor */
  170. static ENGINE *
  171. ENGINE_padlock(void)
  172. {
  173. ENGINE *eng = ENGINE_new();
  174. if (!eng) {
  175. return NULL;
  176. }
  177. if (!padlock_bind_helper(eng)) {
  178. ENGINE_free(eng);
  179. return NULL;
  180. }
  181. return eng;
  182. }
  183. /* Check availability of the engine */
  184. static int
  185. padlock_init(ENGINE *e)
  186. {
  187. return (padlock_use_rng || padlock_use_ace);
  188. }
  189. /* This stuff is needed if this ENGINE is being compiled into a self-contained
  190.  * shared-library.
  191.  */
  192. #ifdef DYNAMIC_ENGINE
  193. static int
  194. padlock_bind_fn(ENGINE *e, const char *id)
  195. {
  196. if (id && (strcmp(id, padlock_id) != 0)) {
  197. return 0;
  198. }
  199. if (!padlock_bind_helper(e))  {
  200. return 0;
  201. }
  202. return 1;
  203. }
  204. IMPLEMENT_DYNAMIC_CHECK_FN ();
  205. IMPLEMENT_DYNAMIC_BIND_FN (padlock_bind_fn);
  206. #endif /* DYNAMIC_ENGINE */
  207. /* ===== Here comes the "real" engine ===== */
  208. #ifndef OPENSSL_NO_AES
  209. /* Some AES-related constants */
  210. #define AES_BLOCK_SIZE 16
  211. #define AES_KEY_SIZE_128 16
  212. #define AES_KEY_SIZE_192 24
  213. #define AES_KEY_SIZE_256 32
  214. /* Here we store the status information relevant to the 
  215.    current context. */
  216. /* BIG FAT WARNING:
  217.  *  Inline assembler in PADLOCK_XCRYPT_ASM()
  218.  *  depends on the order of items in this structure.
  219.  *  Don't blindly modify, reorder, etc!
  220.  */
  221. struct padlock_cipher_data
  222. {
  223. unsigned char iv[AES_BLOCK_SIZE]; /* Initialization vector */
  224. union { unsigned int pad[4];
  225. struct {
  226. int rounds:4;
  227. int dgst:1; /* n/a in C3 */
  228. int align:1; /* n/a in C3 */
  229. int ciphr:1; /* n/a in C3 */
  230. unsigned int keygen:1;
  231. int interm:1;
  232. unsigned int encdec:1;
  233. int ksize:2;
  234. } b;
  235. } cword; /* Control word */
  236. AES_KEY ks; /* Encryption key */
  237. };
  238. /*
  239.  * Essentially this variable belongs in thread local storage.
  240.  * Having this variable global on the other hand can only cause
  241.  * few bogus key reloads [if any at all on single-CPU system],
  242.  * so we accept the penatly...
  243.  */
  244. static volatile struct padlock_cipher_data *padlock_saved_context;
  245. #endif
  246. /*
  247.  * =======================================================
  248.  * Inline assembler section(s).
  249.  * =======================================================
  250.  * Order of arguments is chosen to facilitate Windows port
  251.  * using __fastcall calling convention. If you wish to add
  252.  * more routines, keep in mind that first __fastcall
  253.  * argument is passed in %ecx and second - in %edx.
  254.  * =======================================================
  255.  */
  256. #if defined(__GNUC__) && __GNUC__>=2
  257. /*
  258.  * As for excessive "push %ebx"/"pop %ebx" found all over.
  259.  * When generating position-independent code GCC won't let
  260.  * us use "b" in assembler templates nor even respect "ebx"
  261.  * in "clobber description." Therefore the trouble...
  262.  */
  263. /* Helper function - check if a CPUID instruction
  264.    is available on this CPU */
  265. static int
  266. padlock_insn_cpuid_available(void)
  267. {
  268. int result = -1;
  269. /* We're checking if the bit #21 of EFLAGS 
  270.    can be toggled. If yes = CPUID is available. */
  271. asm volatile (
  272. "pushfn"
  273. "popl %%eaxn"
  274. "xorl $0x200000, %%eaxn"
  275. "movl %%eax, %%ecxn"
  276. "andl $0x200000, %%ecxn"
  277. "pushl %%eaxn"
  278. "popfn"
  279. "pushfn"
  280. "popl %%eaxn"
  281. "andl $0x200000, %%eaxn"
  282. "xorl %%eax, %%ecxn"
  283. "movl %%ecx, %0n"
  284. : "=r" (result) : : "eax", "ecx");
  285. return (result == 0);
  286. }
  287. /* Load supported features of the CPU to see if
  288.    the PadLock is available. */
  289. static int
  290. padlock_available(void)
  291. {
  292. char vendor_string[16];
  293. unsigned int eax, edx;
  294. /* First check if the CPUID instruction is available at all... */
  295. if (! padlock_insn_cpuid_available())
  296. return 0;
  297. /* Are we running on the Centaur (VIA) CPU? */
  298. eax = 0x00000000;
  299. vendor_string[12] = 0;
  300. asm volatile (
  301. "pushl %%ebxn"
  302. "cpuidn"
  303. "movl %%ebx,(%%edi)n"
  304. "movl %%edx,4(%%edi)n"
  305. "movl %%ecx,8(%%edi)n"
  306. "popl %%ebx"
  307. : "+a"(eax) : "D"(vendor_string) : "ecx", "edx");
  308. if (strcmp(vendor_string, "CentaurHauls") != 0)
  309. return 0;
  310. /* Check for Centaur Extended Feature Flags presence */
  311. eax = 0xC0000000;
  312. asm volatile ("pushl %%ebx; cpuid; popl %%ebx"
  313. : "+a"(eax) : : "ecx", "edx");
  314. if (eax < 0xC0000001)
  315. return 0;
  316. /* Read the Centaur Extended Feature Flags */
  317. eax = 0xC0000001;
  318. asm volatile ("pushl %%ebx; cpuid; popl %%ebx"
  319. : "+a"(eax), "=d"(edx) : : "ecx");
  320. /* Fill up some flags */
  321. padlock_use_ace = ((edx & (0x3<<6)) == (0x3<<6));
  322. padlock_use_rng = ((edx & (0x3<<2)) == (0x3<<2));
  323. return padlock_use_ace + padlock_use_rng;
  324. }
  325. #ifndef OPENSSL_NO_AES
  326. /* Our own htonl()/ntohl() */
  327. static inline void
  328. padlock_bswapl(AES_KEY *ks)
  329. {
  330. size_t i = sizeof(ks->rd_key)/sizeof(ks->rd_key[0]);
  331. unsigned int *key = ks->rd_key;
  332. while (i--) {
  333. asm volatile ("bswapl %0" : "+r"(*key));
  334. key++;
  335. }
  336. }
  337. #endif
  338. /* Force key reload from memory to the CPU microcode.
  339.    Loading EFLAGS from the stack clears EFLAGS[30] 
  340.    which does the trick. */
  341. static inline void
  342. padlock_reload_key(void)
  343. {
  344. asm volatile ("pushfl; popfl");
  345. }
  346. #ifndef OPENSSL_NO_AES
  347. /*
  348.  * This is heuristic key context tracing. At first one
  349.  * believes that one should use atomic swap instructions,
  350.  * but it's not actually necessary. Point is that if
  351.  * padlock_saved_context was changed by another thread
  352.  * after we've read it and before we compare it with cdata,
  353.  * our key *shall* be reloaded upon thread context switch
  354.  * and we are therefore set in either case...
  355.  */
  356. static inline void
  357. padlock_verify_context(struct padlock_cipher_data *cdata)
  358. {
  359. asm volatile (
  360. "pushfln"
  361. " btl $30,(%%esp)n"
  362. " jnc 1fn"
  363. " cmpl %2,%1n"
  364. " je 1fn"
  365. " popfln"
  366. " subl $4,%%espn"
  367. "1: addl $4,%%espn"
  368. " movl %2,%0"
  369. :"+m"(padlock_saved_context)
  370. : "r"(padlock_saved_context), "r"(cdata) : "cc");
  371. }
  372. /* Template for padlock_xcrypt_* modes */
  373. /* BIG FAT WARNING: 
  374.  *  The offsets used with 'leal' instructions
  375.  *  describe items of the 'padlock_cipher_data'
  376.  *  structure.
  377.  */
  378. #define PADLOCK_XCRYPT_ASM(name,rep_xcrypt)
  379. static inline void *name(size_t cnt,
  380. struct padlock_cipher_data *cdata,
  381. void *out, const void *inp) 
  382. { void *iv; 
  383. asm volatile ( "pushl %%ebxn"
  384. " leal 16(%0),%%edxn"
  385. " leal 32(%0),%%ebxn"
  386. rep_xcrypt "n"
  387. " popl %%ebx"
  388. : "=a"(iv), "=c"(cnt), "=D"(out), "=S"(inp) 
  389. : "0"(cdata), "1"(cnt), "2"(out), "3"(inp) 
  390. : "edx", "cc");
  391. return iv;
  392. }
  393. /* Generate all functions with appropriate opcodes */
  394. PADLOCK_XCRYPT_ASM(padlock_xcrypt_ecb, ".byte 0xf3,0x0f,0xa7,0xc8") /* rep xcryptecb */
  395. PADLOCK_XCRYPT_ASM(padlock_xcrypt_cbc, ".byte 0xf3,0x0f,0xa7,0xd0") /* rep xcryptcbc */
  396. PADLOCK_XCRYPT_ASM(padlock_xcrypt_cfb, ".byte 0xf3,0x0f,0xa7,0xe0") /* rep xcryptcfb */
  397. PADLOCK_XCRYPT_ASM(padlock_xcrypt_ofb, ".byte 0xf3,0x0f,0xa7,0xe8") /* rep xcryptofb */
  398. #endif
  399. /* The RNG call itself */
  400. static inline unsigned int
  401. padlock_xstore(void *addr, unsigned int edx_in)
  402. {
  403. unsigned int eax_out;
  404. asm volatile (".byte 0x0f,0xa7,0xc0" /* xstore */
  405.     : "=a"(eax_out),"=m"(*(unsigned *)addr)
  406.     : "D"(addr), "d" (edx_in)
  407.     );
  408. return eax_out;
  409. }
  410. /* Why not inline 'rep movsd'? I failed to find information on what
  411.  * value in Direction Flag one can expect and consequently have to
  412.  * apply "better-safe-than-sorry" approach and assume "undefined."
  413.  * I could explicitly clear it and restore the original value upon
  414.  * return from padlock_aes_cipher, but it's presumably too much
  415.  * trouble for too little gain...
  416.  *
  417.  * In case you wonder 'rep xcrypt*' instructions above are *not*
  418.  * affected by the Direction Flag and pointers advance toward
  419.  * larger addresses unconditionally.
  420.  */ 
  421. static inline unsigned char *
  422. padlock_memcpy(void *dst,const void *src,size_t n)
  423. {
  424. long       *d=dst;
  425. const long *s=src;
  426. n /= sizeof(*d);
  427. do { *d++ = *s++; } while (--n);
  428. return dst;
  429. }
  430. #elif defined(_MSC_VER)
  431. /*
  432.  * Unlike GCC these are real functions. In order to minimize impact
  433.  * on performance we adhere to __fastcall calling convention in
  434.  * order to get two first arguments passed through %ecx and %edx.
  435.  * Which kind of suits very well, as instructions in question use
  436.  * both %ecx and %edx as input:-)
  437.  */
  438. #define REP_XCRYPT(code)
  439. _asm _emit 0xf3
  440. _asm _emit 0x0f _asm _emit 0xa7
  441. _asm _emit code
  442. /* BIG FAT WARNING: 
  443.  *  The offsets used with 'lea' instructions
  444.  *  describe items of the 'padlock_cipher_data'
  445.  *  structure.
  446.  */
  447. #define PADLOCK_XCRYPT_ASM(name,code)
  448. static void * __fastcall 
  449. name (size_t cnt, void *cdata,
  450. void *outp, const void *inp)
  451. { _asm mov eax,edx
  452. _asm lea edx,[eax+16]
  453. _asm lea ebx,[eax+32]
  454. _asm mov edi,outp
  455. _asm mov esi,inp
  456. REP_XCRYPT(code)
  457. }
  458. PADLOCK_XCRYPT_ASM(padlock_xcrypt_ecb,0xc8)
  459. PADLOCK_XCRYPT_ASM(padlock_xcrypt_cbc,0xd0)
  460. PADLOCK_XCRYPT_ASM(padlock_xcrypt_cfb,0xe0)
  461. PADLOCK_XCRYPT_ASM(padlock_xcrypt_ofb,0xe8)
  462. static int __fastcall
  463. padlock_xstore(void *outp,unsigned int code)
  464. { _asm mov edi,ecx
  465. _asm _emit 0x0f _asm _emit 0xa7 _asm _emit 0xc0
  466. }
  467. static void __fastcall
  468. padlock_reload_key(void)
  469. { _asm pushfd _asm popfd }
  470. static void __fastcall
  471. padlock_verify_context(void *cdata)
  472. { _asm {
  473. pushfd
  474. bt DWORD PTR[esp],30
  475. jnc skip
  476. cmp ecx,padlock_saved_context
  477. je skip
  478. popfd
  479. sub esp,4
  480. skip: add esp,4
  481. mov padlock_saved_context,ecx
  482. }
  483. }
  484. static int
  485. padlock_available(void)
  486. { _asm {
  487. pushfd
  488. pop eax
  489. mov ecx,eax
  490. xor eax,1<<21
  491. push eax
  492. popfd
  493. pushfd
  494. pop eax
  495. xor eax,ecx
  496. bt eax,21
  497. jnc noluck
  498. mov eax,0
  499. cpuid
  500. xor eax,eax
  501. cmp ebx,'tneC'
  502. jne noluck
  503. cmp edx,'Hrua'
  504. jne noluck
  505. cmp ecx,'slua'
  506. jne noluck
  507. mov eax,0xC0000000
  508. cpuid
  509. mov edx,eax
  510. xor eax,eax
  511. cmp edx,0xC0000001
  512. jb noluck
  513. mov eax,0xC0000001
  514. cpuid
  515. xor eax,eax
  516. bt edx,6
  517. jnc skip_a
  518. bt edx,7
  519. jnc skip_a
  520. mov padlock_use_ace,1
  521. inc eax
  522. skip_a: bt edx,2
  523. jnc skip_r
  524. bt edx,3
  525. jnc skip_r
  526. mov padlock_use_rng,1
  527. inc eax
  528. skip_r:
  529. noluck:
  530. }
  531. }
  532. static void __fastcall
  533. padlock_bswapl(void *key)
  534. { _asm {
  535. pushfd
  536. cld
  537. mov esi,ecx
  538. mov edi,ecx
  539. mov ecx,60
  540. up: lodsd
  541. bswap eax
  542. stosd
  543. loop up
  544. popfd
  545. }
  546. }
  547. /* MS actually specifies status of Direction Flag and compiler even
  548.  * manages to compile following as 'rep movsd' all by itself...
  549.  */
  550. #define padlock_memcpy(o,i,n) ((unsigned char *)memcpy((o),(i),(n)&~3U))
  551. #endif
  552. /* ===== AES encryption/decryption ===== */
  553. #ifndef OPENSSL_NO_AES
  554. #if defined(NID_aes_128_cfb128) && ! defined (NID_aes_128_cfb)
  555. #define NID_aes_128_cfb NID_aes_128_cfb128
  556. #endif
  557. #if defined(NID_aes_128_ofb128) && ! defined (NID_aes_128_ofb)
  558. #define NID_aes_128_ofb NID_aes_128_ofb128
  559. #endif
  560. #if defined(NID_aes_192_cfb128) && ! defined (NID_aes_192_cfb)
  561. #define NID_aes_192_cfb NID_aes_192_cfb128
  562. #endif
  563. #if defined(NID_aes_192_ofb128) && ! defined (NID_aes_192_ofb)
  564. #define NID_aes_192_ofb NID_aes_192_ofb128
  565. #endif
  566. #if defined(NID_aes_256_cfb128) && ! defined (NID_aes_256_cfb)
  567. #define NID_aes_256_cfb NID_aes_256_cfb128
  568. #endif
  569. #if defined(NID_aes_256_ofb128) && ! defined (NID_aes_256_ofb)
  570. #define NID_aes_256_ofb NID_aes_256_ofb128
  571. #endif
  572. /* List of supported ciphers. */
  573. static int padlock_cipher_nids[] = {
  574. NID_aes_128_ecb,
  575. NID_aes_128_cbc,
  576. NID_aes_128_cfb,
  577. NID_aes_128_ofb,
  578. NID_aes_192_ecb,
  579. NID_aes_192_cbc,
  580. NID_aes_192_cfb,
  581. NID_aes_192_ofb,
  582. NID_aes_256_ecb,
  583. NID_aes_256_cbc,
  584. NID_aes_256_cfb,
  585. NID_aes_256_ofb,
  586. };
  587. static int padlock_cipher_nids_num = (sizeof(padlock_cipher_nids)/
  588.       sizeof(padlock_cipher_nids[0]));
  589. /* Function prototypes ... */
  590. static int padlock_aes_init_key(EVP_CIPHER_CTX *ctx, const unsigned char *key,
  591. const unsigned char *iv, int enc);
  592. static int padlock_aes_cipher(EVP_CIPHER_CTX *ctx, unsigned char *out,
  593.       const unsigned char *in, size_t nbytes);
  594. #define NEAREST_ALIGNED(ptr) ( (unsigned char *)(ptr) +
  595. ( (0x10 - ((size_t)(ptr) & 0x0F)) & 0x0F ) )
  596. #define ALIGNED_CIPHER_DATA(ctx) ((struct padlock_cipher_data *)
  597. NEAREST_ALIGNED(ctx->cipher_data))
  598. #define EVP_CIPHER_block_size_ECB AES_BLOCK_SIZE
  599. #define EVP_CIPHER_block_size_CBC AES_BLOCK_SIZE
  600. #define EVP_CIPHER_block_size_OFB 1
  601. #define EVP_CIPHER_block_size_CFB 1
  602. /* Declaring so many ciphers by hand would be a pain.
  603.    Instead introduce a bit of preprocessor magic :-) */
  604. #define DECLARE_AES_EVP(ksize,lmode,umode)
  605. static const EVP_CIPHER padlock_aes_##ksize##_##lmode = {
  606. NID_aes_##ksize##_##lmode,
  607. EVP_CIPHER_block_size_##umode,
  608. AES_KEY_SIZE_##ksize,
  609. AES_BLOCK_SIZE,
  610. 0 | EVP_CIPH_##umode##_MODE,
  611. padlock_aes_init_key,
  612. padlock_aes_cipher,
  613. NULL,
  614. sizeof(struct padlock_cipher_data) + 16,
  615. EVP_CIPHER_set_asn1_iv,
  616. EVP_CIPHER_get_asn1_iv,
  617. NULL,
  618. NULL
  619. }
  620. DECLARE_AES_EVP(128,ecb,ECB);
  621. DECLARE_AES_EVP(128,cbc,CBC);
  622. DECLARE_AES_EVP(128,cfb,CFB);
  623. DECLARE_AES_EVP(128,ofb,OFB);
  624. DECLARE_AES_EVP(192,ecb,ECB);
  625. DECLARE_AES_EVP(192,cbc,CBC);
  626. DECLARE_AES_EVP(192,cfb,CFB);
  627. DECLARE_AES_EVP(192,ofb,OFB);
  628. DECLARE_AES_EVP(256,ecb,ECB);
  629. DECLARE_AES_EVP(256,cbc,CBC);
  630. DECLARE_AES_EVP(256,cfb,CFB);
  631. DECLARE_AES_EVP(256,ofb,OFB);
  632. static int
  633. padlock_ciphers (ENGINE *e, const EVP_CIPHER **cipher, const int **nids, int nid)
  634. {
  635. /* No specific cipher => return a list of supported nids ... */
  636. if (!cipher) {
  637. *nids = padlock_cipher_nids;
  638. return padlock_cipher_nids_num;
  639. }
  640. /* ... or the requested "cipher" otherwise */
  641. switch (nid) {
  642.   case NID_aes_128_ecb:
  643.     *cipher = &padlock_aes_128_ecb;
  644.     break;
  645.   case NID_aes_128_cbc:
  646.     *cipher = &padlock_aes_128_cbc;
  647.     break;
  648.   case NID_aes_128_cfb:
  649.     *cipher = &padlock_aes_128_cfb;
  650.     break;
  651.   case NID_aes_128_ofb:
  652.     *cipher = &padlock_aes_128_ofb;
  653.     break;
  654.   case NID_aes_192_ecb:
  655.     *cipher = &padlock_aes_192_ecb;
  656.     break;
  657.   case NID_aes_192_cbc:
  658.     *cipher = &padlock_aes_192_cbc;
  659.     break;
  660.   case NID_aes_192_cfb:
  661.     *cipher = &padlock_aes_192_cfb;
  662.     break;
  663.   case NID_aes_192_ofb:
  664.     *cipher = &padlock_aes_192_ofb;
  665.     break;
  666.   case NID_aes_256_ecb:
  667.     *cipher = &padlock_aes_256_ecb;
  668.     break;
  669.   case NID_aes_256_cbc:
  670.     *cipher = &padlock_aes_256_cbc;
  671.     break;
  672.   case NID_aes_256_cfb:
  673.     *cipher = &padlock_aes_256_cfb;
  674.     break;
  675.   case NID_aes_256_ofb:
  676.     *cipher = &padlock_aes_256_ofb;
  677.     break;
  678.   default:
  679.     /* Sorry, we don't support this NID */
  680.     *cipher = NULL;
  681.     return 0;
  682. }
  683. return 1;
  684. }
  685. /* Prepare the encryption key for PadLock usage */
  686. static int
  687. padlock_aes_init_key (EVP_CIPHER_CTX *ctx, const unsigned char *key,
  688.       const unsigned char *iv, int enc)
  689. {
  690. struct padlock_cipher_data *cdata;
  691. int key_len = EVP_CIPHER_CTX_key_length(ctx) * 8;
  692. if (key==NULL) return 0; /* ERROR */
  693. cdata = ALIGNED_CIPHER_DATA(ctx);
  694. memset(cdata, 0, sizeof(struct padlock_cipher_data));
  695. /* Prepare Control word. */
  696. if (EVP_CIPHER_CTX_mode(ctx) == EVP_CIPH_OFB_MODE)
  697. cdata->cword.b.encdec = 0;
  698. else
  699. cdata->cword.b.encdec = (ctx->encrypt == 0);
  700. cdata->cword.b.rounds = 10 + (key_len - 128) / 32;
  701. cdata->cword.b.ksize = (key_len - 128) / 64;
  702. switch(key_len) {
  703. case 128:
  704. /* PadLock can generate an extended key for
  705.    AES128 in hardware */
  706. memcpy(cdata->ks.rd_key, key, AES_KEY_SIZE_128);
  707. cdata->cword.b.keygen = 0;
  708. break;
  709. case 192:
  710. case 256:
  711. /* Generate an extended AES key in software.
  712.    Needed for AES192/AES256 */
  713. /* Well, the above applies to Stepping 8 CPUs
  714.    and is listed as hardware errata. They most
  715.    likely will fix it at some point and then
  716.    a check for stepping would be due here. */
  717. if (EVP_CIPHER_CTX_mode(ctx) == EVP_CIPH_CFB_MODE ||
  718.     EVP_CIPHER_CTX_mode(ctx) == EVP_CIPH_OFB_MODE ||
  719.     enc)
  720. AES_set_encrypt_key(key, key_len, &cdata->ks);
  721. else
  722. AES_set_decrypt_key(key, key_len, &cdata->ks);
  723. #ifndef AES_ASM
  724. /* OpenSSL C functions use byte-swapped extended key. */
  725. padlock_bswapl(&cdata->ks);
  726. #endif
  727. cdata->cword.b.keygen = 1;
  728. break;
  729. default:
  730. /* ERROR */
  731. return 0;
  732. }
  733. /*
  734.  * This is done to cover for cases when user reuses the
  735.  * context for new key. The catch is that if we don't do
  736.  * this, padlock_eas_cipher might proceed with old key...
  737.  */
  738. padlock_reload_key ();
  739. return 1;
  740. }
  741. /* 
  742.  * Simplified version of padlock_aes_cipher() used when
  743.  * 1) both input and output buffers are at aligned addresses.
  744.  * or when
  745.  * 2) running on a newer CPU that doesn't require aligned buffers.
  746.  */
  747. static int
  748. padlock_aes_cipher_omnivorous(EVP_CIPHER_CTX *ctx, unsigned char *out_arg,
  749. const unsigned char *in_arg, size_t nbytes)
  750. {
  751. struct padlock_cipher_data *cdata;
  752. void  *iv;
  753. cdata = ALIGNED_CIPHER_DATA(ctx);
  754. padlock_verify_context(cdata);
  755. switch (EVP_CIPHER_CTX_mode(ctx)) {
  756. case EVP_CIPH_ECB_MODE:
  757. padlock_xcrypt_ecb(nbytes/AES_BLOCK_SIZE, cdata, out_arg, in_arg);
  758. break;
  759. case EVP_CIPH_CBC_MODE:
  760. memcpy(cdata->iv, ctx->iv, AES_BLOCK_SIZE);
  761. iv = padlock_xcrypt_cbc(nbytes/AES_BLOCK_SIZE, cdata, out_arg, in_arg);
  762. memcpy(ctx->iv, iv, AES_BLOCK_SIZE);
  763. break;
  764. case EVP_CIPH_CFB_MODE:
  765. memcpy(cdata->iv, ctx->iv, AES_BLOCK_SIZE);
  766. iv = padlock_xcrypt_cfb(nbytes/AES_BLOCK_SIZE, cdata, out_arg, in_arg);
  767. memcpy(ctx->iv, iv, AES_BLOCK_SIZE);
  768. break;
  769. case EVP_CIPH_OFB_MODE:
  770. memcpy(cdata->iv, ctx->iv, AES_BLOCK_SIZE);
  771. padlock_xcrypt_ofb(nbytes/AES_BLOCK_SIZE, cdata, out_arg, in_arg);
  772. memcpy(ctx->iv, cdata->iv, AES_BLOCK_SIZE);
  773. break;
  774. default:
  775. return 0;
  776. }
  777. memset(cdata->iv, 0, AES_BLOCK_SIZE);
  778. return 1;
  779. }
  780. #ifndef  PADLOCK_CHUNK
  781. # define PADLOCK_CHUNK 512 /* Must be a power of 2 larger than 16 */
  782. #endif
  783. #if PADLOCK_CHUNK<16 || PADLOCK_CHUNK&(PADLOCK_CHUNK-1)
  784. # error "insane PADLOCK_CHUNK..."
  785. #endif
  786. /* Re-align the arguments to 16-Bytes boundaries and run the 
  787.    encryption function itself. This function is not AES-specific. */
  788. static int
  789. padlock_aes_cipher(EVP_CIPHER_CTX *ctx, unsigned char *out_arg,
  790.    const unsigned char *in_arg, size_t nbytes)
  791. {
  792. struct padlock_cipher_data *cdata;
  793. const  void *inp;
  794. unsigned char  *out;
  795. void  *iv;
  796. int    inp_misaligned, out_misaligned, realign_in_loop;
  797. size_t chunk, allocated=0;
  798. /* ctx->num is maintained in byte-oriented modes,
  799.    such as CFB and OFB... */
  800. if ((chunk = ctx->num)) { /* borrow chunk variable */
  801. unsigned char *ivp=ctx->iv;
  802. switch (EVP_CIPHER_CTX_mode(ctx)) {
  803. case EVP_CIPH_CFB_MODE:
  804. if (chunk >= AES_BLOCK_SIZE)
  805. return 0; /* bogus value */
  806. if (ctx->encrypt)
  807. while (chunk<AES_BLOCK_SIZE && nbytes!=0) {
  808. ivp[chunk] = *(out_arg++) = *(in_arg++) ^ ivp[chunk];
  809. chunk++, nbytes--;
  810. }
  811. else while (chunk<AES_BLOCK_SIZE && nbytes!=0) {
  812. unsigned char c = *(in_arg++);
  813. *(out_arg++) = c ^ ivp[chunk];
  814. ivp[chunk++] = c, nbytes--;
  815. }
  816. ctx->num = chunk%AES_BLOCK_SIZE;
  817. break;
  818. case EVP_CIPH_OFB_MODE:
  819. if (chunk >= AES_BLOCK_SIZE)
  820. return 0; /* bogus value */
  821. while (chunk<AES_BLOCK_SIZE && nbytes!=0) {
  822. *(out_arg++) = *(in_arg++) ^ ivp[chunk];
  823. chunk++, nbytes--;
  824. }
  825. ctx->num = chunk%AES_BLOCK_SIZE;
  826. break;
  827. }
  828. }
  829. if (nbytes == 0)
  830. return 1;
  831. #if 0
  832. if (nbytes % AES_BLOCK_SIZE)
  833. return 0; /* are we expected to do tail processing? */
  834. #else
  835. /* nbytes is always multiple of AES_BLOCK_SIZE in ECB and CBC
  836.    modes and arbitrary value in byte-oriented modes, such as
  837.    CFB and OFB... */
  838. #endif
  839. /* VIA promises CPUs that won't require alignment in the future.
  840.    For now padlock_aes_align_required is initialized to 1 and
  841.    the condition is never met... */
  842. /* C7 core is capable to manage unaligned input in non-ECB[!]
  843.    mode, but performance penalties appear to be approximately
  844.    same as for software alignment below or ~3x. They promise to
  845.    improve it in the future, but for now we can just as well
  846.    pretend that it can only handle aligned input... */
  847. if (!padlock_aes_align_required && (nbytes%AES_BLOCK_SIZE)==0)
  848. return padlock_aes_cipher_omnivorous(ctx, out_arg, in_arg, nbytes);
  849. inp_misaligned = (((size_t)in_arg) & 0x0F);
  850. out_misaligned = (((size_t)out_arg) & 0x0F);
  851. /* Note that even if output is aligned and input not,
  852.  * I still prefer to loop instead of copy the whole
  853.  * input and then encrypt in one stroke. This is done
  854.  * in order to improve L1 cache utilization... */
  855. realign_in_loop = out_misaligned|inp_misaligned;
  856. if (!realign_in_loop && (nbytes%AES_BLOCK_SIZE)==0)
  857. return padlock_aes_cipher_omnivorous(ctx, out_arg, in_arg, nbytes);
  858. /* this takes one "if" out of the loops */
  859. chunk  = nbytes;
  860. chunk %= PADLOCK_CHUNK;
  861. if (chunk==0) chunk = PADLOCK_CHUNK;
  862. if (out_misaligned) {
  863. /* optmize for small input */
  864. allocated = (chunk<nbytes?PADLOCK_CHUNK:nbytes);
  865. out = alloca(0x10 + allocated);
  866. out = NEAREST_ALIGNED(out);
  867. }
  868. else
  869. out = out_arg;
  870. cdata = ALIGNED_CIPHER_DATA(ctx);
  871. padlock_verify_context(cdata);
  872. switch (EVP_CIPHER_CTX_mode(ctx)) {
  873. case EVP_CIPH_ECB_MODE:
  874. do {
  875. if (inp_misaligned)
  876. inp = padlock_memcpy(out, in_arg, chunk);
  877. else
  878. inp = in_arg;
  879. in_arg += chunk;
  880. padlock_xcrypt_ecb(chunk/AES_BLOCK_SIZE, cdata, out, inp);
  881. if (out_misaligned)
  882. out_arg = padlock_memcpy(out_arg, out, chunk) + chunk;
  883. else
  884. out     = out_arg+=chunk;
  885. nbytes -= chunk;
  886. chunk   = PADLOCK_CHUNK;
  887. } while (nbytes);
  888. break;
  889. case EVP_CIPH_CBC_MODE:
  890. memcpy(cdata->iv, ctx->iv, AES_BLOCK_SIZE);
  891. goto cbc_shortcut;
  892. do {
  893. if (iv != cdata->iv)
  894. memcpy(cdata->iv, iv, AES_BLOCK_SIZE);
  895. chunk = PADLOCK_CHUNK;
  896. cbc_shortcut: /* optimize for small input */
  897. if (inp_misaligned)
  898. inp = padlock_memcpy(out, in_arg, chunk);
  899. else
  900. inp = in_arg;
  901. in_arg += chunk;
  902. iv = padlock_xcrypt_cbc(chunk/AES_BLOCK_SIZE, cdata, out, inp);
  903. if (out_misaligned)
  904. out_arg = padlock_memcpy(out_arg, out, chunk) + chunk;
  905. else
  906. out     = out_arg+=chunk;
  907. } while (nbytes -= chunk);
  908. memcpy(ctx->iv, iv, AES_BLOCK_SIZE);
  909. break;
  910. case EVP_CIPH_CFB_MODE:
  911. memcpy (iv = cdata->iv, ctx->iv, AES_BLOCK_SIZE);
  912. chunk &= ~(AES_BLOCK_SIZE-1);
  913. if (chunk) goto cfb_shortcut;
  914. else goto cfb_skiploop;
  915. do {
  916. if (iv != cdata->iv)
  917. memcpy(cdata->iv, iv, AES_BLOCK_SIZE);
  918. chunk = PADLOCK_CHUNK;
  919. cfb_shortcut: /* optimize for small input */
  920. if (inp_misaligned)
  921. inp = padlock_memcpy(out, in_arg, chunk);
  922. else
  923. inp = in_arg;
  924. in_arg += chunk;
  925. iv = padlock_xcrypt_cfb(chunk/AES_BLOCK_SIZE, cdata, out, inp);
  926. if (out_misaligned)
  927. out_arg = padlock_memcpy(out_arg, out, chunk) + chunk;
  928. else
  929. out     = out_arg+=chunk;
  930. nbytes -= chunk;
  931. } while (nbytes >= AES_BLOCK_SIZE);
  932. cfb_skiploop:
  933. if (nbytes) {
  934. unsigned char *ivp = cdata->iv;
  935. if (iv != ivp) {
  936. memcpy(ivp, iv, AES_BLOCK_SIZE);
  937. iv = ivp;
  938. }
  939. ctx->num = nbytes;
  940. if (cdata->cword.b.encdec) {
  941. cdata->cword.b.encdec=0;
  942. padlock_reload_key();
  943. padlock_xcrypt_ecb(1,cdata,ivp,ivp);
  944. cdata->cword.b.encdec=1;
  945. padlock_reload_key();
  946. while(nbytes) {
  947. unsigned char c = *(in_arg++);
  948. *(out_arg++) = c ^ *ivp;
  949. *(ivp++) = c, nbytes--;
  950. }
  951. }
  952. else { padlock_reload_key();
  953. padlock_xcrypt_ecb(1,cdata,ivp,ivp);
  954. padlock_reload_key();
  955. while (nbytes) {
  956. *ivp = *(out_arg++) = *(in_arg++) ^ *ivp;
  957. ivp++, nbytes--;
  958. }
  959. }
  960. }
  961. memcpy(ctx->iv, iv, AES_BLOCK_SIZE);
  962. break;
  963. case EVP_CIPH_OFB_MODE:
  964. memcpy(cdata->iv, ctx->iv, AES_BLOCK_SIZE);
  965. chunk &= ~(AES_BLOCK_SIZE-1);
  966. if (chunk) do {
  967. if (inp_misaligned)
  968. inp = padlock_memcpy(out, in_arg, chunk);
  969. else
  970. inp = in_arg;
  971. in_arg += chunk;
  972. padlock_xcrypt_ofb(chunk/AES_BLOCK_SIZE, cdata, out, inp);
  973. if (out_misaligned)
  974. out_arg = padlock_memcpy(out_arg, out, chunk) + chunk;
  975. else
  976. out     = out_arg+=chunk;
  977. nbytes -= chunk;
  978. chunk   = PADLOCK_CHUNK;
  979. } while (nbytes >= AES_BLOCK_SIZE);
  980. if (nbytes) {
  981. unsigned char *ivp = cdata->iv;
  982. ctx->num = nbytes;
  983. padlock_reload_key(); /* empirically found */
  984. padlock_xcrypt_ecb(1,cdata,ivp,ivp);
  985. padlock_reload_key(); /* empirically found */
  986. while (nbytes) {
  987. *(out_arg++) = *(in_arg++) ^ *ivp;
  988. ivp++, nbytes--;
  989. }
  990. }
  991. memcpy(ctx->iv, cdata->iv, AES_BLOCK_SIZE);
  992. break;
  993. default:
  994. return 0;
  995. }
  996. /* Clean the realign buffer if it was used */
  997. if (out_misaligned) {
  998. volatile unsigned long *p=(void *)out;
  999. size_t   n = allocated/sizeof(*p);
  1000. while (n--) *p++=0;
  1001. }
  1002. memset(cdata->iv, 0, AES_BLOCK_SIZE);
  1003. return 1;
  1004. }
  1005. #endif /* OPENSSL_NO_AES */
  1006. /* ===== Random Number Generator ===== */
  1007. /*
  1008.  * This code is not engaged. The reason is that it does not comply
  1009.  * with recommendations for VIA RNG usage for secure applications
  1010.  * (posted at http://www.via.com.tw/en/viac3/c3.jsp) nor does it
  1011.  * provide meaningful error control...
  1012.  */
  1013. /* Wrapper that provides an interface between the API and 
  1014.    the raw PadLock RNG */
  1015. static int
  1016. padlock_rand_bytes(unsigned char *output, int count)
  1017. {
  1018. unsigned int eax, buf;
  1019. while (count >= 8) {
  1020. eax = padlock_xstore(output, 0);
  1021. if (!(eax&(1<<6))) return 0; /* RNG disabled */
  1022. /* this ---vv--- covers DC bias, Raw Bits and String Filter */
  1023. if (eax&(0x1F<<10)) return 0;
  1024. if ((eax&0x1F)==0) continue; /* no data, retry... */
  1025. if ((eax&0x1F)!=8) return 0; /* fatal failure...  */
  1026. output += 8;
  1027. count  -= 8;
  1028. }
  1029. while (count > 0) {
  1030. eax = padlock_xstore(&buf, 3);
  1031. if (!(eax&(1<<6))) return 0; /* RNG disabled */
  1032. /* this ---vv--- covers DC bias, Raw Bits and String Filter */
  1033. if (eax&(0x1F<<10)) return 0;
  1034. if ((eax&0x1F)==0) continue; /* no data, retry... */
  1035. if ((eax&0x1F)!=1) return 0; /* fatal failure...  */
  1036. *output++ = (unsigned char)buf;
  1037. count--;
  1038. }
  1039. *(volatile unsigned int *)&buf=0;
  1040. return 1;
  1041. }
  1042. /* Dummy but necessary function */
  1043. static int
  1044. padlock_rand_status(void)
  1045. {
  1046. return 1;
  1047. }
  1048. /* Prepare structure for registration */
  1049. static RAND_METHOD padlock_rand = {
  1050. NULL, /* seed */
  1051. padlock_rand_bytes, /* bytes */
  1052. NULL, /* cleanup */
  1053. NULL, /* add */
  1054. padlock_rand_bytes, /* pseudorand */
  1055. padlock_rand_status, /* rand status */
  1056. };
  1057. #endif /* COMPILE_HW_PADLOCK */
  1058. #endif /* !OPENSSL_NO_HW_PADLOCK */
  1059. #endif /* !OPENSSL_NO_HW */