unaligned.c
上传用户:lgb322
上传日期:2013-02-24
资源大小:30529k
文件大小:20k
源码类别:

嵌入式Linux

开发平台:

Unix_Linux

  1. /* $Id: unaligned.c,v 1.23 2001/04/09 04:29:03 davem Exp $
  2.  * unaligned.c: Unaligned load/store trap handling with special
  3.  *              cases for the kernel to do them more quickly.
  4.  *
  5.  * Copyright (C) 1996 David S. Miller (davem@caip.rutgers.edu)
  6.  * Copyright (C) 1996,1997 Jakub Jelinek (jj@sunsite.mff.cuni.cz)
  7.  */
  8. #include <linux/kernel.h>
  9. #include <linux/sched.h>
  10. #include <linux/mm.h>
  11. #include <asm/asi.h>
  12. #include <asm/ptrace.h>
  13. #include <asm/pstate.h>
  14. #include <asm/processor.h>
  15. #include <asm/system.h>
  16. #include <asm/uaccess.h>
  17. #include <linux/smp.h>
  18. #include <linux/smp_lock.h>
  19. #include <asm/fpumacro.h>
  20. #include <asm/bitops.h>
  21. /* #define DEBUG_MNA */
  22. enum direction {
  23. load,    /* ld, ldd, ldh, ldsh */
  24. store,   /* st, std, sth, stsh */
  25. both,    /* Swap, ldstub, cas, ... */
  26. fpld,
  27. fpst,
  28. invalid,
  29. };
  30. #ifdef DEBUG_MNA
  31. static char *dirstrings[] = {
  32.   "load", "store", "both", "fpload", "fpstore", "invalid"
  33. };
  34. #endif
  35. static inline enum direction decode_direction(unsigned int insn)
  36. {
  37. unsigned long tmp = (insn >> 21) & 1;
  38. if(!tmp)
  39. return load;
  40. else {
  41. switch ((insn>>19)&0xf) {
  42. case 15: /* swap* */
  43. return both;
  44. default:
  45. return store;
  46. }
  47. }
  48. }
  49. /* 16 = double-word, 8 = extra-word, 4 = word, 2 = half-word */
  50. static inline int decode_access_size(unsigned int insn)
  51. {
  52. unsigned int tmp;
  53. tmp = ((insn >> 19) & 0xf);
  54. if (tmp == 11 || tmp == 14) /* ldx/stx */
  55. return 8;
  56. tmp &= 3;
  57. if(!tmp)
  58. return 4;
  59. else if(tmp == 3)
  60. return 16; /* ldd/std - Although it is actually 8 */
  61. else if(tmp == 2)
  62. return 2;
  63. else {
  64. printk("Impossible unaligned trap. insn=%08xn", insn);
  65. die_if_kernel("Byte sized unaligned access?!?!", current->thread.kregs);
  66. }
  67. }
  68. static inline int decode_asi(unsigned int insn, struct pt_regs *regs)
  69. {
  70. if (insn & 0x800000) {
  71. if (insn & 0x2000)
  72. return (unsigned char)(regs->tstate >> 24); /* %asi */
  73. else
  74. return (unsigned char)(insn >> 5); /* imm_asi */
  75. } else
  76. return ASI_P;
  77. }
  78. /* 0x400000 = signed, 0 = unsigned */
  79. static inline int decode_signedness(unsigned int insn)
  80. {
  81. return (insn & 0x400000);
  82. }
  83. static inline void maybe_flush_windows(unsigned int rs1, unsigned int rs2,
  84.        unsigned int rd, int from_kernel)
  85. {
  86. if(rs2 >= 16 || rs1 >= 16 || rd >= 16) {
  87. if(from_kernel != 0)
  88. __asm__ __volatile__("flushw");
  89. else
  90. flushw_user();
  91. }
  92. }
  93. static inline long sign_extend_imm13(long imm)
  94. {
  95. return imm << 51 >> 51;
  96. }
  97. static unsigned long fetch_reg(unsigned int reg, struct pt_regs *regs)
  98. {
  99. unsigned long value;
  100. if(reg < 16)
  101. return (!reg ? 0 : regs->u_regs[reg]);
  102. if (regs->tstate & TSTATE_PRIV) {
  103. struct reg_window *win;
  104. win = (struct reg_window *)(regs->u_regs[UREG_FP] + STACK_BIAS);
  105. value = win->locals[reg - 16];
  106. } else if (current->thread.flags & SPARC_FLAG_32BIT) {
  107. struct reg_window32 *win32;
  108. win32 = (struct reg_window32 *)((unsigned long)((u32)regs->u_regs[UREG_FP]));
  109. get_user(value, &win32->locals[reg - 16]);
  110. } else {
  111. struct reg_window *win;
  112. win = (struct reg_window *)(regs->u_regs[UREG_FP] + STACK_BIAS);
  113. get_user(value, &win->locals[reg - 16]);
  114. }
  115. return value;
  116. }
  117. static unsigned long *fetch_reg_addr(unsigned int reg, struct pt_regs *regs)
  118. {
  119. if(reg < 16)
  120. return &regs->u_regs[reg];
  121. if (regs->tstate & TSTATE_PRIV) {
  122. struct reg_window *win;
  123. win = (struct reg_window *)(regs->u_regs[UREG_FP] + STACK_BIAS);
  124. return &win->locals[reg - 16];
  125. } else if (current->thread.flags & SPARC_FLAG_32BIT) {
  126. struct reg_window32 *win32;
  127. win32 = (struct reg_window32 *)((unsigned long)((u32)regs->u_regs[UREG_FP]));
  128. return (unsigned long *)&win32->locals[reg - 16];
  129. } else {
  130. struct reg_window *win;
  131. win = (struct reg_window *)(regs->u_regs[UREG_FP] + STACK_BIAS);
  132. return &win->locals[reg - 16];
  133. }
  134. }
  135. static inline unsigned long compute_effective_address(struct pt_regs *regs,
  136.       unsigned int insn, unsigned int rd)
  137. {
  138. unsigned int rs1 = (insn >> 14) & 0x1f;
  139. unsigned int rs2 = insn & 0x1f;
  140. int from_kernel = (regs->tstate & TSTATE_PRIV) != 0;
  141. if(insn & 0x2000) {
  142. maybe_flush_windows(rs1, 0, rd, from_kernel);
  143. return (fetch_reg(rs1, regs) + sign_extend_imm13(insn));
  144. } else {
  145. maybe_flush_windows(rs1, rs2, rd, from_kernel);
  146. return (fetch_reg(rs1, regs) + fetch_reg(rs2, regs));
  147. }
  148. }
  149. /* This is just to make gcc think die_if_kernel does return... */
  150. static void unaligned_panic(char *str, struct pt_regs *regs)
  151. {
  152. die_if_kernel(str, regs);
  153. }
  154. #define do_integer_load(dest_reg, size, saddr, is_signed, asi, errh) ({
  155. __asm__ __volatile__ (
  156. "wr %4, 0, %%asint"
  157. "cmp %1, 8nt"
  158. "bge,pn %%icc, 9fnt"
  159. " cmp %1, 4nt"
  160. "be,pt %%icc, 6fn"
  161. "4:t" " lduba [%2] %%asi, %%l1n"
  162. "5:t" "lduba [%2 + 1] %%asi, %%l2nt"
  163. "sll %%l1, 8, %%l1nt"
  164. "brz,pt %3, 3fnt"
  165. " add %%l1, %%l2, %%l1nt"
  166. "sllx %%l1, 48, %%l1nt"
  167. "srax %%l1, 48, %%l1n"
  168. "3:t" "ba,pt %%xcc, 0fnt"
  169. " stx %%l1, [%0]n"
  170. "6:t" "lduba [%2 + 1] %%asi, %%l2nt"
  171. "sll %%l1, 24, %%l1n"
  172. "7:t" "lduba [%2 + 2] %%asi, %%g7nt"
  173. "sll %%l2, 16, %%l2n"
  174. "8:t" "lduba [%2 + 3] %%asi, %%g1nt"
  175. "sll %%g7, 8, %%g7nt"
  176. "or %%l1, %%l2, %%l1nt"
  177. "or %%g7, %%g1, %%g7nt"
  178. "or %%l1, %%g7, %%l1nt"
  179. "brnz,a,pt %3, 3fnt"
  180. " sra %%l1, 0, %%l1n"
  181. "3:t" "ba,pt %%xcc, 0fnt"
  182. " stx %%l1, [%0]n"
  183. "9:t" "lduba [%2] %%asi, %%l1n"
  184. "10:t" "lduba [%2 + 1] %%asi, %%l2nt"
  185. "sllx %%l1, 56, %%l1n"
  186. "11:t" "lduba [%2 + 2] %%asi, %%g7nt"
  187. "sllx %%l2, 48, %%l2n"
  188. "12:t" "lduba [%2 + 3] %%asi, %%g1nt"
  189. "sllx %%g7, 40, %%g7nt"
  190. "sllx %%g1, 32, %%g1nt"
  191. "or %%l1, %%l2, %%l1nt"
  192. "or %%g7, %%g1, %%g7n"
  193. "13:t" "lduba [%2 + 4] %%asi, %%l2nt"
  194. "or %%l1, %%g7, %%g7n"
  195. "14:t" "lduba [%2 + 5] %%asi, %%g1nt"
  196. "sllx %%l2, 24, %%l2n"
  197. "15:t" "lduba [%2 + 6] %%asi, %%l1nt"
  198. "sllx %%g1, 16, %%g1nt"
  199. "or %%g7, %%l2, %%g7n"
  200. "16:t" "lduba [%2 + 7] %%asi, %%l2nt"
  201. "sllx %%l1, 8, %%l1nt"
  202. "or %%g7, %%g1, %%g7nt"
  203. "or %%l1, %%l2, %%l1nt"
  204. "or %%g7, %%l1, %%g7nt"
  205. "cmp %1, 8nt"
  206. "be,a,pt %%icc, 0fnt"
  207. " stx %%g7, [%0]nt"
  208. "srlx %%g7, 32, %%l1nt"
  209. "sra %%g7, 0, %%g7nt"
  210. "stx %%l1, [%0]nt"
  211. "stx %%g7, [%0 + 8]n"
  212. "0:nt"
  213. "wr %%g0, %5, %%asinnt"
  214. ".section __ex_tablent"
  215. ".word 4b, " #errh "nt"
  216. ".word 5b, " #errh "nt"
  217. ".word 6b, " #errh "nt"
  218. ".word 7b, " #errh "nt"
  219. ".word 8b, " #errh "nt"
  220. ".word 9b, " #errh "nt"
  221. ".word 10b, " #errh "nt"
  222. ".word 11b, " #errh "nt"
  223. ".word 12b, " #errh "nt"
  224. ".word 13b, " #errh "nt"
  225. ".word 14b, " #errh "nt"
  226. ".word 15b, " #errh "nt"
  227. ".word 16b, " #errh "nnt"
  228. ".previousnt"
  229. : : "r" (dest_reg), "r" (size), "r" (saddr), "r" (is_signed),
  230.   "r" (asi), "i" (ASI_AIUS)
  231. : "l1", "l2", "g7", "g1", "cc");
  232. })
  233. #define store_common(dst_addr, size, src_val, asi, errh) ({
  234. __asm__ __volatile__ (
  235. "wr %3, 0, %%asint"
  236. "ldx [%2], %%l1n"
  237. "cmp %1, 2nt"
  238. "be,pn %%icc, 2fnt"
  239. " cmp %1, 4nt"
  240. "be,pt %%icc, 1fnt"
  241. " srlx %%l1, 24, %%l2nt"
  242. "srlx %%l1, 56, %%g1nt"
  243. "srlx %%l1, 48, %%g7n"
  244. "4:t" "stba %%g1, [%0] %%asint"
  245. "srlx %%l1, 40, %%g1n"
  246. "5:t" "stba %%g7, [%0 + 1] %%asint"
  247. "srlx %%l1, 32, %%g7n"
  248. "6:t" "stba %%g1, [%0 + 2] %%asin"
  249. "7:t" "stba %%g7, [%0 + 3] %%asint"
  250. "srlx %%l1, 16, %%g1n"
  251. "8:t" "stba %%l2, [%0 + 4] %%asint"
  252. "srlx %%l1, 8, %%g7n"
  253. "9:t" "stba %%g1, [%0 + 5] %%asin"
  254. "10:t" "stba %%g7, [%0 + 6] %%asint"
  255. "ba,pt %%xcc, 0fn"
  256. "11:t" " stba %%l1, [%0 + 7] %%asin"
  257. "1:t" "srl %%l1, 16, %%g7n"
  258. "12:t" "stba %%l2, [%0] %%asint"
  259. "srl %%l1, 8, %%l2n"
  260. "13:t" "stba %%g7, [%0 + 1] %%asin"
  261. "14:t" "stba %%l2, [%0 + 2] %%asint"
  262. "ba,pt %%xcc, 0fn"
  263. "15:t" " stba %%l1, [%0 + 3] %%asin"
  264. "2:t" "srl %%l1, 8, %%l2n"
  265. "16:t" "stba %%l2, [%0] %%asin"
  266. "17:t" "stba %%l1, [%0 + 1] %%asin"
  267. "0:nt"
  268. "wr %%g0, %4, %%asinnt"
  269. ".section __ex_tablent"
  270. ".word 4b, " #errh "nt"
  271. ".word 5b, " #errh "nt"
  272. ".word 6b, " #errh "nt"
  273. ".word 7b, " #errh "nt"
  274. ".word 8b, " #errh "nt"
  275. ".word 9b, " #errh "nt"
  276. ".word 10b, " #errh "nt"
  277. ".word 11b, " #errh "nt"
  278. ".word 12b, " #errh "nt"
  279. ".word 13b, " #errh "nt"
  280. ".word 14b, " #errh "nt"
  281. ".word 15b, " #errh "nt"
  282. ".word 16b, " #errh "nt"
  283. ".word 17b, " #errh "nnt"
  284. ".previousnt"
  285. : : "r" (dst_addr), "r" (size), "r" (src_val), "r" (asi), "i" (ASI_AIUS)
  286. : "l1", "l2", "g7", "g1", "cc");
  287. })
  288. #define do_integer_store(reg_num, size, dst_addr, regs, asi, errh) ({
  289. unsigned long zero = 0;
  290. unsigned long *src_val = &zero;
  291. if (size == 16) {
  292. size = 8;
  293. zero = (((long)(reg_num ? 
  294.         (unsigned)fetch_reg(reg_num, regs) : 0)) << 32) |
  295. (unsigned)fetch_reg(reg_num + 1, regs);
  296. } else if (reg_num) src_val = fetch_reg_addr(reg_num, regs);
  297. store_common(dst_addr, size, src_val, asi, errh);
  298. })
  299. /* XXX Need to capture/release other cpu's for SMP around this. */
  300. #define do_atomic(srcdest_reg, mem, errh) ({
  301. unsigned long flags, tmp;
  302. save_and_cli(flags);
  303. tmp = *srcdest_reg;
  304. do_integer_load(srcdest_reg, 4, mem, 0, errh);
  305. store_common(mem, 4, &tmp, errh);
  306. restore_flags(flags);
  307. })
  308. static inline void advance(struct pt_regs *regs)
  309. {
  310. regs->tpc   = regs->tnpc;
  311. regs->tnpc += 4;
  312. if ((current->thread.flags & SPARC_FLAG_32BIT) != 0) {
  313. regs->tpc &= 0xffffffff;
  314. regs->tnpc &= 0xffffffff;
  315. }
  316. }
  317. static inline int floating_point_load_or_store_p(unsigned int insn)
  318. {
  319. return (insn >> 24) & 1;
  320. }
  321. static inline int ok_for_kernel(unsigned int insn)
  322. {
  323. return !floating_point_load_or_store_p(insn);
  324. }
  325. void kernel_mna_trap_fault(struct pt_regs *regs, unsigned int insn) __asm__ ("kernel_mna_trap_fault");
  326. void kernel_mna_trap_fault(struct pt_regs *regs, unsigned int insn)
  327. {
  328. unsigned long g2 = regs->u_regs [UREG_G2];
  329. unsigned long fixup = search_exception_table (regs->tpc, &g2);
  330. if (!fixup) {
  331. unsigned long address = compute_effective_address(regs, insn, ((insn >> 25) & 0x1f));
  332.          if(address < PAGE_SIZE) {
  333.                  printk(KERN_ALERT "Unable to handle kernel NULL pointer dereference in mna handler");
  334.          } else
  335.                  printk(KERN_ALERT "Unable to handle kernel paging request in mna handler");
  336.         printk(KERN_ALERT " at virtual address %016lxn",address);
  337. printk(KERN_ALERT "current->{mm,active_mm}->context = %016lxn",
  338. (current->mm ? current->mm->context :
  339. current->active_mm->context));
  340. printk(KERN_ALERT "current->{mm,active_mm}->pgd = %016lxn",
  341. (current->mm ? (unsigned long) current->mm->pgd :
  342. (unsigned long) current->active_mm->pgd));
  343.         die_if_kernel("Oops", regs);
  344. /* Not reached */
  345. }
  346. regs->tpc = fixup;
  347. regs->tnpc = regs->tpc + 4;
  348. regs->u_regs [UREG_G2] = g2;
  349. regs->tstate &= ~TSTATE_ASI;
  350. regs->tstate |= (ASI_AIUS << 24UL);
  351. }
  352. asmlinkage void kernel_unaligned_trap(struct pt_regs *regs, unsigned int insn, unsigned long sfar, unsigned long sfsr)
  353. {
  354. enum direction dir = decode_direction(insn);
  355. int size = decode_access_size(insn);
  356. if(!ok_for_kernel(insn) || dir == both) {
  357. printk("Unsupported unaligned load/store trap for kernel at <%016lx>.n",
  358.        regs->tpc);
  359. unaligned_panic("Kernel does fpu/atomic unaligned load/store.", regs);
  360. __asm__ __volatile__ ("n"
  361. "kernel_unaligned_trap_fault:nt"
  362. "mov %0, %%o0nt"
  363. "call kernel_mna_trap_faultnt"
  364. " mov %1, %%o1nt"
  365. :
  366. : "r" (regs), "r" (insn)
  367. : "o0", "o1", "o2", "o3", "o4", "o5", "o7",
  368.   "g1", "g2", "g3", "g4", "g5", "g7", "cc");
  369. } else {
  370. unsigned long addr = compute_effective_address(regs, insn, ((insn >> 25) & 0x1f));
  371. #ifdef DEBUG_MNA
  372. printk("KMNA: pc=%016lx [dir=%s addr=%016lx size=%d] retpc[%016lx]n",
  373.        regs->tpc, dirstrings[dir], addr, size, regs->u_regs[UREG_RETPC]);
  374. #endif
  375. switch(dir) {
  376. case load:
  377. do_integer_load(fetch_reg_addr(((insn>>25)&0x1f), regs),
  378. size, (unsigned long *) addr,
  379. decode_signedness(insn), decode_asi(insn, regs),
  380. kernel_unaligned_trap_fault);
  381. break;
  382. case store:
  383. do_integer_store(((insn>>25)&0x1f), size,
  384.  (unsigned long *) addr, regs,
  385.  decode_asi(insn, regs),
  386.  kernel_unaligned_trap_fault);
  387. break;
  388. #if 0 /* unsupported */
  389. case both:
  390. do_atomic(fetch_reg_addr(((insn>>25)&0x1f), regs),
  391.   (unsigned long *) addr,
  392.   kernel_unaligned_trap_fault);
  393. break;
  394. #endif
  395. default:
  396. panic("Impossible kernel unaligned trap.");
  397. /* Not reached... */
  398. }
  399. advance(regs);
  400. }
  401. }
  402. static char popc_helper[] = {
  403. 0, 1, 1, 2, 1, 2, 2, 3,
  404. 1, 2, 2, 3, 2, 3, 3, 4, 
  405. };
  406. int handle_popc(u32 insn, struct pt_regs *regs)
  407. {
  408. u64 value;
  409. int ret, i, rd = ((insn >> 25) & 0x1f);
  410. int from_kernel = (regs->tstate & TSTATE_PRIV) != 0;
  411.                         
  412. if (insn & 0x2000) {
  413. maybe_flush_windows(0, 0, rd, from_kernel);
  414. value = sign_extend_imm13(insn);
  415. } else {
  416. maybe_flush_windows(0, insn & 0x1f, rd, from_kernel);
  417. value = fetch_reg(insn & 0x1f, regs);
  418. }
  419. for (ret = 0, i = 0; i < 16; i++) {
  420. ret += popc_helper[value & 0xf];
  421. value >>= 4;
  422. }
  423. if(rd < 16) {
  424. if (rd)
  425. regs->u_regs[rd] = ret;
  426. } else {
  427. if (current->thread.flags & SPARC_FLAG_32BIT) {
  428. struct reg_window32 *win32;
  429. win32 = (struct reg_window32 *)((unsigned long)((u32)regs->u_regs[UREG_FP]));
  430. put_user(ret, &win32->locals[rd - 16]);
  431. } else {
  432. struct reg_window *win;
  433. win = (struct reg_window *)(regs->u_regs[UREG_FP] + STACK_BIAS);
  434. put_user(ret, &win->locals[rd - 16]);
  435. }
  436. }
  437. advance(regs);
  438. return 1;
  439. }
  440. extern void do_fpother(struct pt_regs *regs);
  441. extern void do_privact(struct pt_regs *regs);
  442. extern void data_access_exception(struct pt_regs *regs);
  443. int handle_ldf_stq(u32 insn, struct pt_regs *regs)
  444. {
  445. unsigned long addr = compute_effective_address(regs, insn, 0);
  446. int freg = ((insn >> 25) & 0x1e) | ((insn >> 20) & 0x20);
  447. struct fpustate *f = FPUSTATE;
  448. int asi = decode_asi(insn, regs);
  449. int flag = (freg < 32) ? FPRS_DL : FPRS_DU;
  450. save_and_clear_fpu();
  451. current->thread.xfsr[0] &= ~0x1c000;
  452. if (freg & 3) {
  453. current->thread.xfsr[0] |= (6 << 14) /* invalid_fp_register */;
  454. do_fpother(regs);
  455. return 0;
  456. }
  457. if (insn & 0x200000) {
  458. /* STQ */
  459. u64 first = 0, second = 0;
  460. if (current->thread.fpsaved[0] & flag) {
  461. first = *(u64 *)&f->regs[freg];
  462. second = *(u64 *)&f->regs[freg+2];
  463. }
  464. if (asi < 0x80) {
  465. do_privact(regs);
  466. return 1;
  467. }
  468. switch (asi) {
  469. case ASI_P:
  470. case ASI_S: break;
  471. case ASI_PL:
  472. case ASI_SL: 
  473. {
  474. /* Need to convert endians */
  475. u64 tmp = __swab64p(&first);
  476. first = __swab64p(&second);
  477. second = tmp;
  478. break;
  479. }
  480. default:
  481. data_access_exception(regs);
  482. return 1;
  483. }
  484. if (put_user (first >> 32, (u32 *)addr) ||
  485.     __put_user ((u32)first, (u32 *)(addr + 4)) ||
  486.     __put_user (second >> 32, (u32 *)(addr + 8)) ||
  487.     __put_user ((u32)second, (u32 *)(addr + 12))) {
  488.      data_access_exception(regs);
  489.      return 1;
  490. }
  491. } else {
  492. /* LDF, LDDF, LDQF */
  493. u32 data[4] __attribute__ ((aligned(8)));
  494. int size, i;
  495. int err;
  496. if (asi < 0x80) {
  497. do_privact(regs);
  498. return 1;
  499. } else if (asi > ASI_SNFL) {
  500. data_access_exception(regs);
  501. return 1;
  502. }
  503. switch (insn & 0x180000) {
  504. case 0x000000: size = 1; break;
  505. case 0x100000: size = 4; break;
  506. default: size = 2; break;
  507. }
  508. for (i = 0; i < size; i++)
  509. data[i] = 0;
  510. err = get_user (data[0], (u32 *)addr);
  511. if (!err) {
  512. for (i = 1; i < size; i++)
  513. err |= __get_user (data[i], (u32 *)(addr + 4*i));
  514. }
  515. if (err && !(asi & 0x2 /* NF */)) {
  516. data_access_exception(regs);
  517. return 1;
  518. }
  519. if (asi & 0x8) /* Little */ {
  520. u64 tmp;
  521. switch (size) {
  522. case 1: data[0] = le32_to_cpup(data + 0); break;
  523. default:*(u64 *)(data + 0) = le64_to_cpup((u64 *)(data + 0));
  524. break;
  525. case 4: tmp = le64_to_cpup((u64 *)(data + 0));
  526. *(u64 *)(data + 0) = le64_to_cpup((u64 *)(data + 2));
  527. *(u64 *)(data + 2) = tmp;
  528. break;
  529. }
  530. }
  531. if (!(current->thread.fpsaved[0] & FPRS_FEF)) {
  532. current->thread.fpsaved[0] = FPRS_FEF;
  533. current->thread.gsr[0] = 0;
  534. }
  535. if (!(current->thread.fpsaved[0] & flag)) {
  536. if (freg < 32)
  537. memset(f->regs, 0, 32*sizeof(u32));
  538. else
  539. memset(f->regs+32, 0, 32*sizeof(u32));
  540. }
  541. memcpy(f->regs + freg, data, size * 4);
  542. current->thread.fpsaved[0] |= flag;
  543. }
  544. advance(regs);
  545. return 1;
  546. }
  547. void handle_ld_nf(u32 insn, struct pt_regs *regs)
  548. {
  549. int rd = ((insn >> 25) & 0x1f);
  550. int from_kernel = (regs->tstate & TSTATE_PRIV) != 0;
  551. unsigned long *reg;
  552.                         
  553. maybe_flush_windows(0, 0, rd, from_kernel);
  554. reg = fetch_reg_addr(rd, regs);
  555. if (from_kernel || rd < 16) {
  556. reg[0] = 0;
  557. if ((insn & 0x780000) == 0x180000)
  558. reg[1] = 0;
  559. } else if (current->thread.flags & SPARC_FLAG_32BIT) {
  560. put_user(0, (int *)reg);
  561. if ((insn & 0x780000) == 0x180000)
  562. put_user(0, ((int *)reg) + 1);
  563. } else {
  564. put_user(0, reg);
  565. if ((insn & 0x780000) == 0x180000)
  566. put_user(0, reg + 1);
  567. }
  568. advance(regs);
  569. }
  570. void handle_lddfmna(struct pt_regs *regs, unsigned long sfar, unsigned long sfsr)
  571. {
  572. unsigned long pc = regs->tpc;
  573. unsigned long tstate = regs->tstate;
  574. u32 insn;
  575. u32 first, second;
  576. u64 value;
  577. u8 asi, freg;
  578. int flag;
  579. struct fpustate *f = FPUSTATE;
  580. if(tstate & TSTATE_PRIV)
  581. die_if_kernel("lddfmna from kernel", regs);
  582. if(current->thread.flags & SPARC_FLAG_32BIT)
  583. pc = (u32)pc;
  584. if (get_user(insn, (u32 *)pc) != -EFAULT) {
  585. asi = sfsr >> 16;
  586. if ((asi > ASI_SNFL) ||
  587.     (asi < ASI_P))
  588. goto daex;
  589. if (get_user(first, (u32 *)sfar) ||
  590.      get_user(second, (u32 *)(sfar + 4))) {
  591. if (asi & 0x2) /* NF */ {
  592. first = 0; second = 0;
  593. } else
  594. goto daex;
  595. }
  596. save_and_clear_fpu();
  597. freg = ((insn >> 25) & 0x1e) | ((insn >> 20) & 0x20);
  598. value = (((u64)first) << 32) | second;
  599. if (asi & 0x8) /* Little */
  600. value = __swab64p(&value);
  601. flag = (freg < 32) ? FPRS_DL : FPRS_DU;
  602. if (!(current->thread.fpsaved[0] & FPRS_FEF)) {
  603. current->thread.fpsaved[0] = FPRS_FEF;
  604. current->thread.gsr[0] = 0;
  605. }
  606. if (!(current->thread.fpsaved[0] & flag)) {
  607. if (freg < 32)
  608. memset(f->regs, 0, 32*sizeof(u32));
  609. else
  610. memset(f->regs+32, 0, 32*sizeof(u32));
  611. }
  612. *(u64 *)(f->regs + freg) = value;
  613. current->thread.fpsaved[0] |= flag;
  614. } else {
  615. daex: data_access_exception(regs);
  616. return;
  617. }
  618. advance(regs);
  619. return;
  620. }
  621. void handle_stdfmna(struct pt_regs *regs, unsigned long sfar, unsigned long sfsr)
  622. {
  623. unsigned long pc = regs->tpc;
  624. unsigned long tstate = regs->tstate;
  625. u32 insn;
  626. u64 value;
  627. u8 asi, freg;
  628. int flag;
  629. struct fpustate *f = FPUSTATE;
  630. if(tstate & TSTATE_PRIV)
  631. die_if_kernel("stdfmna from kernel", regs);
  632. if(current->thread.flags & SPARC_FLAG_32BIT)
  633. pc = (u32)pc;
  634. if (get_user(insn, (u32 *)pc) != -EFAULT) {
  635. freg = ((insn >> 25) & 0x1e) | ((insn >> 20) & 0x20);
  636. asi = sfsr >> 16;
  637. value = 0;
  638. flag = (freg < 32) ? FPRS_DL : FPRS_DU;
  639. if ((asi > ASI_SNFL) ||
  640.     (asi < ASI_P))
  641. goto daex;
  642. save_and_clear_fpu();
  643. if (current->thread.fpsaved[0] & flag)
  644. value = *(u64 *)&f->regs[freg];
  645. switch (asi) {
  646. case ASI_P:
  647. case ASI_S: break;
  648. case ASI_PL:
  649. case ASI_SL: 
  650. value = __swab64p(&value); break;
  651. default: goto daex;
  652. }
  653. if (put_user (value >> 32, (u32 *)sfar) ||
  654.     __put_user ((u32)value, (u32 *)(sfar + 4)))
  655. goto daex;
  656. } else {
  657. daex: data_access_exception(regs);
  658. return;
  659. }
  660. advance(regs);
  661. return;
  662. }