x86inc.asm
上传用户:hjq518
上传日期:2021-12-09
资源大小:5084k
文件大小:12k
源码类别:

Audio

开发平台:

Visual C++

  1. ;*****************************************************************************
  2. ;* x86inc.asm
  3. ;*****************************************************************************
  4. ;* Copyright (C) 2005-2008 Loren Merritt <lorenm@u.washington.edu>
  5. ;*
  6. ;* This program is free software; you can redistribute it and/or modify
  7. ;* it under the terms of the GNU General Public License as published by
  8. ;* the Free Software Foundation; either version 2 of the License, or
  9. ;* (at your option) any later version.
  10. ;*
  11. ;* This program is distributed in the hope that it will be useful,
  12. ;* but WITHOUT ANY WARRANTY; without even the implied warranty of
  13. ;* MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  14. ;* GNU General Public License for more details.
  15. ;*
  16. ;* You should have received a copy of the GNU General Public License
  17. ;* along with this program; if not, write to the Free Software
  18. ;* Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA  02111, USA.
  19. ;*****************************************************************************
  20. ; FIXME: All of the 64bit asm functions that take a stride as an argument
  21. ; via register, assume that the high dword of that register is filled with 0.
  22. ; This is true in practice (since we never do any 64bit arithmetic on strides,
  23. ; and x264's strides are all positive), but is not guaranteed by the ABI.
  24. ; Name of the .rodata section.
  25. ; Kludge: Something on OS X fails to align .rodata even given an align attribute,
  26. ; so use a different read-only section.
  27. %macro SECTION_RODATA 0
  28.     %ifidn __OUTPUT_FORMAT__,macho64
  29.         SECTION .text align=16
  30.     %elifidn __OUTPUT_FORMAT__,macho
  31.         SECTION .text align=16
  32.         fakegot:
  33.     %else
  34.         SECTION .rodata align=16
  35.     %endif
  36. %endmacro
  37. ; PIC support macros.
  38. ; x86_64 can't fit 64bit address literals in most instruction types,
  39. ; so shared objects (under the assumption that they might be anywhere
  40. ; in memory) must use an address mode that does fit.
  41. ; So all accesses to global variables must use this macro, e.g.
  42. ;     mov eax, [foo GLOBAL]
  43. ; instead of
  44. ;     mov eax, [foo]
  45. ;
  46. ; x86_32 doesn't require PIC.
  47. ; Some distros prefer shared objects to be PIC, but nothing breaks if
  48. ; the code contains a few textrels, so we'll skip that complexity.
  49. %ifndef ARCH_X86_64
  50.     %undef PIC
  51. %endif
  52. %ifdef PIC
  53.     %define GLOBAL wrt rip
  54. %else
  55.     %define GLOBAL
  56. %endif
  57. ; Macros to eliminate most code duplication between x86_32 and x86_64:
  58. ; Currently this works only for leaf functions which load all their arguments
  59. ; into registers at the start, and make no other use of the stack. Luckily that
  60. ; covers most of x264's asm.
  61. ; PROLOGUE:
  62. ; %1 = number of arguments. loads them from stack if needed.
  63. ; %2 = number of registers used. pushes callee-saved regs if needed.
  64. ; %3 = list of names to define to registers
  65. ; PROLOGUE can also be invoked by adding the same options to cglobal
  66. ; e.g.
  67. ; cglobal foo, 2,3, dst, src, tmp
  68. ; declares a function (foo), taking two args (dst and src) and one local variable (tmp)
  69. ; TODO Some functions can use some args directly from the stack. If they're the
  70. ; last args then you can just not declare them, but if they're in the middle
  71. ; we need more flexible macro.
  72. ; RET:
  73. ; Pops anything that was pushed by PROLOGUE
  74. ; REP_RET:
  75. ; Same, but if it doesn't pop anything it becomes a 2-byte ret, for athlons
  76. ; which are slow when a normal ret follows a branch.
  77. %macro DECLARE_REG 6
  78.     %define r%1q %2
  79.     %define r%1d %3
  80.     %define r%1w %4
  81.     %define r%1b %5
  82.     %define r%1m %6
  83.     %define r%1  %2
  84. %endmacro
  85. %macro DECLARE_REG_SIZE 2
  86.     %define r%1q r%1
  87.     %define e%1q r%1
  88.     %define r%1d e%1
  89.     %define e%1d e%1
  90.     %define r%1w %1
  91.     %define e%1w %1
  92.     %define r%1b %2
  93.     %define e%1b %2
  94. %ifndef ARCH_X86_64
  95.     %define r%1  e%1
  96. %endif
  97. %endmacro
  98. DECLARE_REG_SIZE ax, al
  99. DECLARE_REG_SIZE bx, bl
  100. DECLARE_REG_SIZE cx, cl
  101. DECLARE_REG_SIZE dx, dl
  102. DECLARE_REG_SIZE si, sil
  103. DECLARE_REG_SIZE di, dil
  104. DECLARE_REG_SIZE bp, bpl
  105. %ifdef ARCH_X86_64
  106.     %define gprsize 8
  107. %else
  108.     %define gprsize 4
  109. %endif
  110. %macro PUSH 1
  111.     push %1
  112.     %assign stack_offset stack_offset+gprsize
  113. %endmacro
  114. %macro POP 1
  115.     pop %1
  116.     %assign stack_offset stack_offset-gprsize
  117. %endmacro
  118. %macro SUB 2
  119.     sub %1, %2
  120.     %ifidn %1, rsp
  121.         %assign stack_offset stack_offset+(%2)
  122.     %endif
  123. %endmacro
  124. %macro ADD 2
  125.     add %1, %2
  126.     %ifidn %1, rsp
  127.         %assign stack_offset stack_offset-(%2)
  128.     %endif
  129. %endmacro
  130. %macro movifnidn 2
  131.     %ifnidn %1, %2
  132.         mov %1, %2
  133.     %endif
  134. %endmacro
  135. %macro movsxdifnidn 2
  136.     %ifnidn %1, %2
  137.         movsxd %1, %2
  138.     %endif
  139. %endmacro
  140. %macro ASSERT 1
  141.     %if (%1) == 0
  142.         %error assert failed
  143.     %endif
  144. %endmacro
  145. %macro DEFINE_ARGS 0-*
  146.     %ifdef n_arg_names
  147.         %assign %%i 0
  148.         %rep n_arg_names
  149.             CAT_UNDEF arg_name %+ %%i, q
  150.             CAT_UNDEF arg_name %+ %%i, d
  151.             CAT_UNDEF arg_name %+ %%i, w
  152.             CAT_UNDEF arg_name %+ %%i, b
  153.             CAT_UNDEF arg_name, %%i
  154.             %assign %%i %%i+1
  155.         %endrep
  156.     %endif
  157.     %assign %%i 0
  158.     %rep %0
  159.         %xdefine %1q r %+ %%i %+ q
  160.         %xdefine %1d r %+ %%i %+ d
  161.         %xdefine %1w r %+ %%i %+ w
  162.         %xdefine %1b r %+ %%i %+ b
  163.         CAT_XDEFINE arg_name, %%i, %1
  164.         %assign %%i %%i+1
  165.         %rotate 1
  166.     %endrep
  167.     %assign n_arg_names %%i
  168. %endmacro
  169. %ifdef ARCH_X86_64 ;========================================================
  170. DECLARE_REG 0, rdi, edi, di,  dil, edi
  171. DECLARE_REG 1, rsi, esi, si,  sil, esi
  172. DECLARE_REG 2, rdx, edx, dx,  dl,  edx
  173. DECLARE_REG 3, rcx, ecx, cx,  cl,  ecx
  174. DECLARE_REG 4, r8,  r8d, r8w, r8b, r8d
  175. DECLARE_REG 5, r9,  r9d, r9w, r9b, r9d
  176. DECLARE_REG 6, rax, eax, ax,  al,  [rsp + stack_offset + 8]
  177. %define r7m [rsp + stack_offset + 16]
  178. %define r8m [rsp + stack_offset + 24]
  179. %macro LOAD_IF_USED 2 ; reg_id, number_of_args
  180.     %if %1 < %2
  181.         mov r%1, [rsp - 40 + %1*8]
  182.     %endif
  183. %endmacro
  184. %macro PROLOGUE 2-3+ ; #args, #regs, arg_names...
  185.     ASSERT %2 >= %1
  186.     ASSERT %2 <= 7
  187.     %assign stack_offset 0
  188.     LOAD_IF_USED 6, %1
  189.     DEFINE_ARGS %3
  190. %endmacro
  191. %macro RET 0
  192.     ret
  193. %endmacro
  194. %macro REP_RET 0
  195.     rep ret
  196. %endmacro
  197. %else ; X86_32 ;==============================================================
  198. DECLARE_REG 0, eax, eax, ax, al,   [esp + stack_offset + 4]
  199. DECLARE_REG 1, ecx, ecx, cx, cl,   [esp + stack_offset + 8]
  200. DECLARE_REG 2, edx, edx, dx, dl,   [esp + stack_offset + 12]
  201. DECLARE_REG 3, ebx, ebx, bx, bl,   [esp + stack_offset + 16]
  202. DECLARE_REG 4, esi, esi, si, null, [esp + stack_offset + 20]
  203. DECLARE_REG 5, edi, edi, di, null, [esp + stack_offset + 24]
  204. DECLARE_REG 6, ebp, ebp, bp, null, [esp + stack_offset + 28]
  205. %define r7m [esp + stack_offset + 32]
  206. %define r8m [esp + stack_offset + 36]
  207. %define rsp esp
  208. %macro PUSH_IF_USED 1 ; reg_id
  209.     %if %1 < regs_used
  210.         push r%1
  211.         %assign stack_offset stack_offset+4
  212.     %endif
  213. %endmacro
  214. %macro POP_IF_USED 1 ; reg_id
  215.     %if %1 < regs_used
  216.         pop r%1
  217.     %endif
  218. %endmacro
  219. %macro LOAD_IF_USED 2 ; reg_id, number_of_args
  220.     %if %1 < %2
  221.         mov r%1, [esp + stack_offset + 4 + %1*4]
  222.     %endif
  223. %endmacro
  224. %macro PROLOGUE 2-3+ ; #args, #regs, arg_names...
  225.     ASSERT %2 >= %1
  226.     %assign stack_offset 0
  227.     %assign regs_used %2
  228.     ASSERT regs_used <= 7
  229.     PUSH_IF_USED 3
  230.     PUSH_IF_USED 4
  231.     PUSH_IF_USED 5
  232.     PUSH_IF_USED 6
  233.     LOAD_IF_USED 0, %1
  234.     LOAD_IF_USED 1, %1
  235.     LOAD_IF_USED 2, %1
  236.     LOAD_IF_USED 3, %1
  237.     LOAD_IF_USED 4, %1
  238.     LOAD_IF_USED 5, %1
  239.     LOAD_IF_USED 6, %1
  240.     DEFINE_ARGS %3
  241. %endmacro
  242. %macro RET 0
  243.     POP_IF_USED 6
  244.     POP_IF_USED 5
  245.     POP_IF_USED 4
  246.     POP_IF_USED 3
  247.     ret
  248. %endmacro
  249. %macro REP_RET 0
  250.     %if regs_used > 3
  251.         RET
  252.     %else
  253.         rep ret
  254.     %endif
  255. %endmacro
  256. %endif ;======================================================================
  257. ;=============================================================================
  258. ; arch-independent part
  259. ;=============================================================================
  260. %assign function_align 16
  261. ; Symbol prefix for C linkage
  262. %macro cglobal 1-2+
  263.     %ifidn __OUTPUT_FORMAT__,elf
  264.         %ifdef PREFIX
  265.             global _%1:function hidden
  266.             %define %1 _%1
  267.         %else
  268.             global %1:function hidden
  269.         %endif
  270.     %else
  271.         %ifdef PREFIX
  272.             global _%1
  273.             %define %1 _%1
  274.         %else
  275.             global %1
  276.         %endif
  277.     %endif
  278.     align function_align
  279.     %1:
  280.     RESET_MM_PERMUTATION ; not really needed, but makes disassembly somewhat nicer
  281.     %if %0 > 1
  282.         PROLOGUE %2
  283.     %endif
  284. %endmacro
  285. %macro cextern 1
  286.     %ifdef PREFIX
  287.         extern _%1
  288.         %define %1 _%1
  289.     %else
  290.         extern %1
  291.     %endif
  292. %endmacro
  293. ; This is needed for ELF, otherwise the GNU linker assumes the stack is
  294. ; executable by default.
  295. %ifidn __OUTPUT_FORMAT__,elf
  296. SECTION .note.GNU-stack noalloc noexec nowrite progbits
  297. %endif
  298. %assign FENC_STRIDE 16
  299. %assign FDEC_STRIDE 32
  300. ; merge mmx and sse*
  301. %macro CAT_XDEFINE 3
  302.     %xdefine %1%2 %3
  303. %endmacro
  304. %macro CAT_UNDEF 2
  305.     %undef %1%2
  306. %endmacro
  307. %macro INIT_MMX 0
  308.     %define RESET_MM_PERMUTATION INIT_MMX
  309.     %define mmsize 8
  310.     %define num_mmregs 8
  311.     %define mova movq
  312.     %define movu movq
  313.     %define movh movd
  314.     %define movnt movntq
  315.     %assign %%i 0
  316.     %rep 8
  317.     CAT_XDEFINE m, %%i, mm %+ %%i
  318.     CAT_XDEFINE nmm, %%i, %%i
  319.     %assign %%i %%i+1
  320.     %endrep
  321.     %rep 8
  322.     CAT_UNDEF m, %%i
  323.     CAT_UNDEF nmm, %%i
  324.     %assign %%i %%i+1
  325.     %endrep
  326. %endmacro
  327. %macro INIT_XMM 0
  328.     %define RESET_MM_PERMUTATION INIT_XMM
  329.     %define mmsize 16
  330.     %define num_mmregs 8
  331.     %ifdef ARCH_X86_64
  332.     %define num_mmregs 16
  333.     %endif
  334.     %define mova movdqa
  335.     %define movu movdqu
  336.     %define movh movq
  337.     %define movnt movntdq
  338.     %assign %%i 0
  339.     %rep num_mmregs
  340.     CAT_XDEFINE m, %%i, xmm %+ %%i
  341.     CAT_XDEFINE nxmm, %%i, %%i
  342.     %assign %%i %%i+1
  343.     %endrep
  344. %endmacro
  345. INIT_MMX
  346. ; I often want to use macros that permute their arguments. e.g. there's no
  347. ; efficient way to implement butterfly or transpose or dct without swapping some
  348. ; arguments.
  349. ;
  350. ; I would like to not have to manually keep track of the permutations:
  351. ; If I insert a permutation in the middle of a function, it should automatically
  352. ; change everything that follows. For more complex macros I may also have multiple
  353. ; implementations, e.g. the SSE2 and SSSE3 versions may have different permutations.
  354. ;
  355. ; Hence these macros. Insert a PERMUTE or some SWAPs at the end of a macro that
  356. ; permutes its arguments. It's equivalent to exchanging the contents of the
  357. ; registers, except that this way you exchange the register names instead, so it
  358. ; doesn't cost any cycles.
  359. %macro PERMUTE 2-* ; takes a list of pairs to swap
  360. %rep %0/2
  361.     %xdefine tmp%2 m%2
  362.     %xdefine ntmp%2 nm%2
  363.     %rotate 2
  364. %endrep
  365. %rep %0/2
  366.     %xdefine m%1 tmp%2
  367.     %xdefine nm%1 ntmp%2
  368.     %undef tmp%2
  369.     %undef ntmp%2
  370.     %rotate 2
  371. %endrep
  372. %endmacro
  373. %macro SWAP 2-* ; swaps a single chain (sometimes more concise than pairs)
  374. %rep %0-1
  375. %ifdef m%1
  376.     %xdefine tmp m%1
  377.     %xdefine m%1 m%2
  378.     %xdefine m%2 tmp
  379.     CAT_XDEFINE n, m%1, %1
  380.     CAT_XDEFINE n, m%2, %2
  381. %else
  382.     ; If we were called as "SWAP m0,m1" rather than "SWAP 0,1" infer the original numbers here.
  383.     ; Be careful using this mode in nested macros though, as in some cases there may be
  384.     ; other copies of m# that have already been dereferenced and don't get updated correctly.
  385.     %xdefine %%n1 n %+ %1
  386.     %xdefine %%n2 n %+ %2
  387.     %xdefine tmp m %+ %%n1
  388.     CAT_XDEFINE m, %%n1, m %+ %%n2
  389.     CAT_XDEFINE m, %%n2, tmp
  390.     CAT_XDEFINE n, m %+ %%n1, %%n1
  391.     CAT_XDEFINE n, m %+ %%n2, %%n2
  392. %endif
  393.     %undef tmp
  394.     %rotate 1
  395. %endrep
  396. %endmacro
  397. %macro SAVE_MM_PERMUTATION 1
  398.     %assign %%i 0
  399.     %rep num_mmregs
  400.     CAT_XDEFINE %1_m, %%i, m %+ %%i
  401.     %assign %%i %%i+1
  402.     %endrep
  403. %endmacro
  404. %macro LOAD_MM_PERMUTATION 1
  405.     %assign %%i 0
  406.     %rep num_mmregs
  407.     CAT_XDEFINE m, %%i, %1_m %+ %%i
  408.     CAT_XDEFINE n, m %+ %%i, %%i
  409.     %assign %%i %%i+1
  410.     %endrep
  411. %endmacro
  412. %macro call 1
  413.     call %1
  414.     %ifdef %1_m0
  415.         LOAD_MM_PERMUTATION %1
  416.     %endif
  417. %endmacro
  418. ; substitutions which are functionally identical but reduce code size
  419. %define movdqa movaps
  420. %define movdqu movups