开通博客赚积分
发布资源赚积分
分类

源码开发语言/平台
当前位置：首页 > 源码/资料 > 嵌入式/单片机编程 > 嵌入式Linux > 查看源码
copy_user.S
资源名称：SBC-2410X_kernel.tar.gz　[点击查看]
上传用户：lgb322
上传日期：2013-02-24
资源大小：30529k
文件大小：10k
源码类别：

嵌入式Linux

开发平台：

Unix_Linux

copy_user.S：源码内容
  1. /* copy_user.S: Sparc optimized copy_from_user and copy_to_user code.
  2.  *
  3.  *  Copyright(C) 1995 Linus Torvalds
  4.  *  Copyright(C) 1996 David S. Miller
  5.  *  Copyright(C) 1996 Eddie C. Dost
  6.  *  Copyright(C) 1996,1998 Jakub Jelinek
  7.  *
  8.  * derived from:
  9.  * e-mail between David and Eddie.
  10.  *
  11.  * Returns 0 if successful, otherwise count of bytes not copied yet
  12.  */
  14. #include <asm/cprefix.h>
  15. #include <asm/ptrace.h>
  16. #include <asm/asmmacro.h>
  17. #include <asm/page.h>
  19. #define EX(x,y,a,b,z) 
  20. 98:  x,y;
  21. .section .fixup,z##alloc,z##execinstr;
  22. .align 4;
  23. 99: ba fixupretl;
  24.  a, b, %g3;
  25. .section __ex_table,z##alloc;
  26. .align 4;
  27. .word 98b, 99b;
  28. .text;
  29. .align 4
  31. #define EX2(x,y,c,d,e,a,b,z) 
  32. 98:  x,y;
  33. .section .fixup,z##alloc,z##execinstr;
  34. .align 4;
  35. 99: c, d, e;
  36. ba fixupretl;
  37.  a, b, %g3;
  38. .section __ex_table,z##alloc;
  39. .align 4;
  40. .word 98b, 99b;
  41. .text;
  42. .align 4
  44. #define EXO2(x,y,z) 
  45. 98:  x,##y;
  46. .section __ex_table,z##alloc;
  47. .align 4;
  48. .word 98b, 97f;
  49. .text;
  50. .align 4
  52. #define EXT(start,end,handler,z) 
  53. .section __ex_table,z##alloc;
  54. .align 4;
  55. .word start, 0, end, handler;
  56. .text;
  57. .align 4
  59. /* Please do not change following macros unless you change logic used
  60.  * in .fixup at the end of this file as well
  61.  */
  63. /* Both these macros have to start with exactly the same insn */
  64. #define MOVE_BIGCHUNK(src, dst, offset, t0, t1, t2, t3, t4, t5, t6, t7) 
  65. ldd [%src + offset + 0x00], %t0; 
  66. ldd [%src + offset + 0x08], %t2; 
  67. ldd [%src + offset + 0x10], %t4; 
  68. ldd [%src + offset + 0x18], %t6; 
  69. st %t0, [%dst + offset + 0x00]; 
  70. st %t1, [%dst + offset + 0x04]; 
  71. st %t2, [%dst + offset + 0x08]; 
  72. st %t3, [%dst + offset + 0x0c]; 
  73. st %t4, [%dst + offset + 0x10]; 
  74. st %t5, [%dst + offset + 0x14]; 
  75. st %t6, [%dst + offset + 0x18]; 
  76. st %t7, [%dst + offset + 0x1c];
  78. #define MOVE_BIGALIGNCHUNK(src, dst, offset, t0, t1, t2, t3, t4, t5, t6, t7) 
  79. ldd [%src + offset + 0x00], %t0; 
  80. ldd [%src + offset + 0x08], %t2; 
  81. ldd [%src + offset + 0x10], %t4; 
  82. ldd [%src + offset + 0x18], %t6; 
  83. std %t0, [%dst + offset + 0x00]; 
  84. std %t2, [%dst + offset + 0x08]; 
  85. std %t4, [%dst + offset + 0x10]; 
  86. std %t6, [%dst + offset + 0x18];
  88. #define MOVE_LASTCHUNK(src, dst, offset, t0, t1, t2, t3) 
  89. ldd [%src - offset - 0x10], %t0; 
  90. ldd [%src - offset - 0x08], %t2; 
  91. st %t0, [%dst - offset - 0x10]; 
  92. st %t1, [%dst - offset - 0x0c]; 
  93. st %t2, [%dst - offset - 0x08]; 
  94. st %t3, [%dst - offset - 0x04];
  96. #define MOVE_HALFCHUNK(src, dst, offset, t0, t1, t2, t3) 
  97. lduh [%src + offset + 0x00], %t0; 
  98. lduh [%src + offset + 0x02], %t1; 
  99. lduh [%src + offset + 0x04], %t2; 
  100. lduh [%src + offset + 0x06], %t3; 
  101. sth %t0, [%dst + offset + 0x00]; 
  102. sth %t1, [%dst + offset + 0x02]; 
  103. sth %t2, [%dst + offset + 0x04]; 
  104. sth %t3, [%dst + offset + 0x06];
  106. #define MOVE_SHORTCHUNK(src, dst, offset, t0, t1) 
  107. ldub [%src - offset - 0x02], %t0; 
  108. ldub [%src - offset - 0x01], %t1; 
  109. stb %t0, [%dst - offset - 0x02]; 
  110. stb %t1, [%dst - offset - 0x01];
  112. .text
  113. .align 4
  115. .globl  __copy_user_begin
  116. __copy_user_begin:
  118. .globl C_LABEL(__copy_user)
  119. dword_align:
  120. andcc %o1, 1, %g0
  121. be 4f
  122.  andcc %o1, 2, %g0
  124. EXO2(ldub [%o1], %g2,#)
  125. add %o1, 1, %o1
  126. EXO2(stb %g2, [%o0],#)
  127. sub %o2, 1, %o2
  128. bne 3f
  129.  add %o0, 1, %o0
  131. EXO2(lduh [%o1], %g2,#)
  132. add %o1, 2, %o1
  133. EXO2(sth %g2, [%o0],#)
  134. sub %o2, 2, %o2
  135. b 3f
  136.  add %o0, 2, %o0
  137. 4:
  138. EXO2(lduh [%o1], %g2,#)
  139. add %o1, 2, %o1
  140. EXO2(sth %g2, [%o0],#)
  141. sub %o2, 2, %o2
  142. b 3f
  143.  add %o0, 2, %o0
  145. C_LABEL(__copy_user): /* %o0=dst %o1=src %o2=len */
  146. xor %o0, %o1, %o4
  147. 1:
  148. andcc %o4, 3, %o5
  149. 2:
  150. bne cannot_optimize
  151.  cmp %o2, 15
  153. bleu short_aligned_end
  154.  andcc %o1, 3, %g0
  156. bne dword_align
  157. 3:
  158.  andcc %o1, 4, %g0
  160. be 2f
  161.  mov %o2, %g1
  163. EXO2(ld [%o1], %o4,#)
  164. sub %g1, 4, %g1
  165. EXO2(st %o4, [%o0],#)
  166. add %o1, 4, %o1
  167. add %o0, 4, %o0
  168. 2:
  169. andcc %g1, 0xffffff80, %g7
  170. be 3f
  171.  andcc %o0, 4, %g0
  173. be ldd_std + 4
  174. 5:
  175. MOVE_BIGCHUNK(o1, o0, 0x00, o2, o3, o4, o5, g2, g3, g4, g5)
  176. MOVE_BIGCHUNK(o1, o0, 0x20, o2, o3, o4, o5, g2, g3, g4, g5)
  177. MOVE_BIGCHUNK(o1, o0, 0x40, o2, o3, o4, o5, g2, g3, g4, g5)
  178. MOVE_BIGCHUNK(o1, o0, 0x60, o2, o3, o4, o5, g2, g3, g4, g5)
  179. 80:
  180. EXT(5b, 80b, 50f,#)
  181. subcc %g7, 128, %g7
  182. add %o1, 128, %o1
  183. bne 5b
  184.  add %o0, 128, %o0
  185. 3:
  186. andcc %g1, 0x70, %g7
  187. be copy_user_table_end
  188.  andcc %g1, 8, %g0
  190. sethi %hi(copy_user_table_end), %o5
  191. srl %g7, 1, %o4
  192. add %g7, %o4, %o4
  193. add %o1, %g7, %o1
  194. sub %o5, %o4, %o5
  195. jmpl %o5 + %lo(copy_user_table_end), %g0
  196.  add %o0, %g7, %o0
  198. copy_user_table:
  199. MOVE_LASTCHUNK(o1, o0, 0x60, g2, g3, g4, g5)
  200. MOVE_LASTCHUNK(o1, o0, 0x50, g2, g3, g4, g5)
  201. MOVE_LASTCHUNK(o1, o0, 0x40, g2, g3, g4, g5)
  202. MOVE_LASTCHUNK(o1, o0, 0x30, g2, g3, g4, g5)
  203. MOVE_LASTCHUNK(o1, o0, 0x20, g2, g3, g4, g5)
  204. MOVE_LASTCHUNK(o1, o0, 0x10, g2, g3, g4, g5)
  205. MOVE_LASTCHUNK(o1, o0, 0x00, g2, g3, g4, g5)
  206. copy_user_table_end:
  207. EXT(copy_user_table, copy_user_table_end, 51f,#)
  208. be copy_user_last7
  209.  andcc %g1, 4, %g0
  211. EX(ldd [%o1], %g2, and %g1, 0xf,#)
  212. add %o0, 8, %o0
  213. add %o1, 8, %o1
  214. EX(st %g2, [%o0 - 0x08], and %g1, 0xf,#)
  215. EX2(st %g3, [%o0 - 0x04], and %g1, 0xf, %g1, sub %g1, 4,#)
  216. copy_user_last7:
  217. be 1f
  218.  andcc %g1, 2, %g0
  220. EX(ld [%o1], %g2, and %g1, 7,#)
  221. add %o1, 4, %o1
  222. EX(st %g2, [%o0], and %g1, 7,#)
  223. add %o0, 4, %o0
  224. 1:
  225. be 1f
  226.  andcc %g1, 1, %g0
  228. EX(lduh [%o1], %g2, and %g1, 3,#)
  229. add %o1, 2, %o1
  230. EX(sth %g2, [%o0], and %g1, 3,#)
  231. add %o0, 2, %o0
  232. 1:
  233. be 1f
  234.  nop
  236. EX(ldub [%o1], %g2, add %g0, 1,#)
  237. EX(stb %g2, [%o0], add %g0, 1,#)
  238. 1:
  239. retl
  240.    clr %o0
  242. ldd_std:
  243. MOVE_BIGALIGNCHUNK(o1, o0, 0x00, o2, o3, o4, o5, g2, g3, g4, g5)
  244. MOVE_BIGALIGNCHUNK(o1, o0, 0x20, o2, o3, o4, o5, g2, g3, g4, g5)
  245. MOVE_BIGALIGNCHUNK(o1, o0, 0x40, o2, o3, o4, o5, g2, g3, g4, g5)
  246. MOVE_BIGALIGNCHUNK(o1, o0, 0x60, o2, o3, o4, o5, g2, g3, g4, g5)
  247. 81:
  248. EXT(ldd_std, 81b, 52f,#)
  249. subcc %g7, 128, %g7
  250. add %o1, 128, %o1
  251. bne ldd_std
  252.  add %o0, 128, %o0
  254. andcc %g1, 0x70, %g7
  255. be copy_user_table_end
  256.  andcc %g1, 8, %g0
  258. sethi %hi(copy_user_table_end), %o5
  259. srl %g7, 1, %o4
  260. add %g7, %o4, %o4
  261. add %o1, %g7, %o1
  262. sub %o5, %o4, %o5
  263. jmpl %o5 + %lo(copy_user_table_end), %g0
  264.  add %o0, %g7, %o0
  266. cannot_optimize:
  267. bleu short_end
  268.  cmp %o5, 2
  270. bne byte_chunk
  271.  and %o2, 0xfffffff0, %o3
  272.  
  273. andcc %o1, 1, %g0
  274. be 10f
  275.  nop
  277. EXO2(ldub [%o1], %g2,#)
  278. add %o1, 1, %o1
  279. EXO2(stb %g2, [%o0],#)
  280. sub %o2, 1, %o2
  281. andcc %o2, 0xfffffff0, %o3
  282. be short_end
  283.  add %o0, 1, %o0
  284. 10:
  285. MOVE_HALFCHUNK(o1, o0, 0x00, g2, g3, g4, g5)
  286. MOVE_HALFCHUNK(o1, o0, 0x08, g2, g3, g4, g5)
  287. 82:
  288. EXT(10b, 82b, 53f,#)
  289. subcc %o3, 0x10, %o3
  290. add %o1, 0x10, %o1
  291. bne 10b
  292.  add %o0, 0x10, %o0
  293. b 2f
  294.  and %o2, 0xe, %o3
  296. byte_chunk:
  297. MOVE_SHORTCHUNK(o1, o0, -0x02, g2, g3)
  298. MOVE_SHORTCHUNK(o1, o0, -0x04, g2, g3)
  299. MOVE_SHORTCHUNK(o1, o0, -0x06, g2, g3)
  300. MOVE_SHORTCHUNK(o1, o0, -0x08, g2, g3)
  301. MOVE_SHORTCHUNK(o1, o0, -0x0a, g2, g3)
  302. MOVE_SHORTCHUNK(o1, o0, -0x0c, g2, g3)
  303. MOVE_SHORTCHUNK(o1, o0, -0x0e, g2, g3)
  304. MOVE_SHORTCHUNK(o1, o0, -0x10, g2, g3)
  305. 83:
  306. EXT(byte_chunk, 83b, 54f,#)
  307. subcc %o3, 0x10, %o3
  308. add %o1, 0x10, %o1
  309. bne byte_chunk
  310.  add %o0, 0x10, %o0
  312. short_end:
  313. and %o2, 0xe, %o3
  314. 2:
  315. sethi %hi(short_table_end), %o5
  316. sll %o3, 3, %o4
  317. add %o0, %o3, %o0
  318. sub %o5, %o4, %o5
  319. add %o1, %o3, %o1
  320. jmpl %o5 + %lo(short_table_end), %g0
  321.  andcc %o2, 1, %g0
  322. 84:
  323. MOVE_SHORTCHUNK(o1, o0, 0x0c, g2, g3)
  324. MOVE_SHORTCHUNK(o1, o0, 0x0a, g2, g3)
  325. MOVE_SHORTCHUNK(o1, o0, 0x08, g2, g3)
  326. MOVE_SHORTCHUNK(o1, o0, 0x06, g2, g3)
  327. MOVE_SHORTCHUNK(o1, o0, 0x04, g2, g3)
  328. MOVE_SHORTCHUNK(o1, o0, 0x02, g2, g3)
  329. MOVE_SHORTCHUNK(o1, o0, 0x00, g2, g3)
  330. short_table_end:
  331. EXT(84b, short_table_end, 55f,#)
  332. be 1f
  333.  nop
  334. EX(ldub [%o1], %g2, add %g0, 1,#)
  335. EX(stb %g2, [%o0], add %g0, 1,#)
  336. 1:
  337. retl
  338.    clr %o0
  340. short_aligned_end:
  341. bne short_end
  342.  andcc %o2, 8, %g0
  344. be 1f
  345.  andcc %o2, 4, %g0
  347. EXO2(ld [%o1 + 0x00], %g2,#)
  348. EXO2(ld [%o1 + 0x04], %g3,#)
  349. add %o1, 8, %o1
  350. EXO2(st %g2, [%o0 + 0x00],#)
  351. EX(st %g3, [%o0 + 0x04], sub %o2, 4,#)
  352. add %o0, 8, %o0
  353. 1:
  354. b copy_user_last7
  355.  mov %o2, %g1
  357. .section .fixup,#alloc,#execinstr
  358. .align 4
  359. 97:
  360. mov %o2, %g3
  361. fixupretl:
  362. sethi   %hi(PAGE_OFFSET), %g1
  363. cmp %o0, %g1
  364. blu 1f
  365.  cmp %o1, %g1
  366. bgeu 1f
  367.  nop
  368. save %sp, -64, %sp
  369. mov %i0, %o0
  370. call __bzero
  371.  mov %g3, %o1
  372. restore
  373. 1: retl
  374.  mov %g3, %o0
  376. /* exception routine sets %g2 to (broken_insn - first_insn)>>2 */
  377. 50:
  378. /* This magic counts how many bytes are left when crash in MOVE_BIGCHUNK
  379.  * happens. This is derived from the amount ldd reads, st stores, etc.
  380.  * x = g2 % 12;
  381.  * g3 = g1 + g7 - ((g2 / 12) * 32 + (x < 4) ? 0 : (x - 4) * 4);
  382.  * o0 += (g2 / 12) * 32;
  383.  */
  384. cmp %g2, 12
  385. add %o0, %g7, %o0
  386. bcs 1f
  387.  cmp %g2, 24
  388. bcs 2f
  389.  cmp %g2, 36
  390. bcs 3f
  391.  nop
  392. sub %g2, 12, %g2
  393. sub %g7, 32, %g7
  394. 3: sub %g2, 12, %g2
  395. sub %g7, 32, %g7
  396. 2: sub %g2, 12, %g2
  397. sub %g7, 32, %g7
  398. 1: cmp %g2, 4
  399. bcs,a 60f
  400.  clr %g2
  401. sub %g2, 4, %g2
  402. sll %g2, 2, %g2
  403. 60: and %g1, 0x7f, %g3
  404. sub %o0, %g7, %o0
  405. add %g3, %g7, %g3
  406. ba fixupretl
  407.  sub %g3, %g2, %g3
  408. 51:
  409. /* i = 41 - g2; j = i % 6;
  410.  * g3 = (g1 & 15) + (i / 6) * 16 + (j < 4) ? (j + 1) * 4 : 16;
  411.  * o0 -= (i / 6) * 16 + 16;
  412.  */
  413. neg %g2
  414. and %g1, 0xf, %g1
  415. add %g2, 41, %g2
  416. add %o0, %g1, %o0
  417. 1: cmp %g2, 6
  418. bcs,a 2f
  419.  cmp %g2, 4
  420. add %g1, 16, %g1
  421. b 1b
  422.  sub %g2, 6, %g2
  423. 2: bcc,a 2f
  424.  mov 16, %g2
  425. inc %g2
  426. sll %g2, 2, %g2
  427. 2: add %g1, %g2, %g3
  428. ba fixupretl
  429.  sub %o0, %g3, %o0
  430. 52:
  431. /* g3 = g1 + g7 - (g2 / 8) * 32 + (g2 & 4) ? (g2 & 3) * 8 : 0;
  432.    o0 += (g2 / 8) * 32 */
  433. andn %g2, 7, %g4
  434. add %o0, %g7, %o0
  435. andcc %g2, 4, %g0
  436. and %g2, 3, %g2
  437. sll %g4, 2, %g4
  438. sll %g2, 3, %g2
  439. bne 60b
  440.  sub %g7, %g4, %g7
  441. ba 60b
  442.  clr %g2
  443. 53:
  444. /* g3 = o3 + (o2 & 15) - (g2 & 8) - (g2 & 4) ? (g2 & 3) * 2 : 0;
  445.    o0 += (g2 & 8) */
  446. and %g2, 3, %g4
  447. andcc %g2, 4, %g0
  448. and %g2, 8, %g2
  449. sll %g4, 1, %g4
  450. be 1f
  451.  add %o0, %g2, %o0
  452. add %g2, %g4, %g2
  453. 1: and %o2, 0xf, %g3
  454. add %g3, %o3, %g3
  455. ba fixupretl
  456.  sub %g3, %g2, %g3
  457. 54:
  458. /* g3 = o3 + (o2 & 15) - (g2 / 4) * 2 - (g2 & 2) ? (g2 & 1) : 0;
  459.    o0 += (g2 / 4) * 2 */
  460. srl %g2, 2, %o4
  461. and %g2, 1, %o5
  462. srl %g2, 1, %g2
  463. add %o4, %o4, %o4
  464. and %o5, %g2, %o5
  465. and %o2, 0xf, %o2
  466. add %o0, %o4, %o0
  467. sub %o3, %o5, %o3
  468. sub %o2, %o4, %o2
  469. ba fixupretl
  470.  add %o2, %o3, %g3
  471. 55:
  472. /* i = 27 - g2;
  473.    g3 = (o2 & 1) + i / 4 * 2 + !(i & 3);
  474.    o0 -= i / 4 * 2 + 1 */
  475. neg %g2
  476. and %o2, 1, %o2
  477. add %g2, 27, %g2
  478. srl %g2, 2, %o5
  479. andcc %g2, 3, %g0
  480. mov 1, %g2
  481. add %o5, %o5, %o5
  482. be,a 1f
  483.  clr %g2
  484. 1: add %g2, %o5, %g3
  485. sub %o0, %g3, %o0
  486. ba fixupretl
  487.  add %g3, %o2, %g3
  489. .globl  __copy_user_end
  490. __copy_user_end: