开通博客赚积分
发布资源赚积分
分类

源码开发语言/平台
当前位置：首页 > 源码/资料 > 嵌入式/单片机编程 > Windows CE > 查看源码
dsputil_mmx_avg.h
资源名称：tcpmp.rar　[点击查看]
上传用户：wstnjxml
上传日期：2014-04-03
资源大小：7248k
文件大小：23k
源码类别：

Windows CE

开发平台：

C/C++

dsputil_mmx_avg.h：源码内容
  1. /*
  2.  * DSP utils : average functions are compiled twice for 3dnow/mmx2
  3.  * Copyright (c) 2000, 2001 Fabrice Bellard.
  4.  * Copyright (c) 2002-2004 Michael Niedermayer
  5.  *
  6.  * This library is free software; you can redistribute it and/or
  7.  * modify it under the terms of the GNU Lesser General Public
  8.  * License as published by the Free Software Foundation; either
  9.  * version 2 of the License, or (at your option) any later version.
  10.  *
  11.  * This library is distributed in the hope that it will be useful,
  12.  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13.  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14.  * Lesser General Public License for more details.
  15.  *
  16.  * You should have received a copy of the GNU Lesser General Public
  17.  * License along with this library; if not, write to the Free Software
  18.  * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
  19.  *
  20.  * MMX optimization by Nick Kurshev <nickols_k@mail.ru>
  21.  * mostly rewritten by Michael Niedermayer <michaelni@gmx.at>
  22.  * and improved by Zdenek Kabelac <kabi@users.sf.net>
  23.  */
  24.  
  25. /* XXX: we use explicit registers to avoid a gcc 2.95.2 register asm
  26.    clobber bug - now it will work with 2.95.2 and also with -fPIC
  27.  */
  28. static void DEF(put_pixels8_x2)(uint8_t *block, const uint8_t *pixels, int line_size, int h)
  29. {
  30.     __asm __volatile(
  31. "lea (%3, %3), %%"REG_a" nt"
  32. "1: nt"
  33. "movq (%1), %%mm0 nt"
  34. "movq (%1, %3), %%mm1 nt"
  35. PAVGB" 1(%1), %%mm0 nt"
  36. PAVGB" 1(%1, %3), %%mm1 nt"
  37. "movq %%mm0, (%2) nt"
  38. "movq %%mm1, (%2, %3) nt"
  39. "add %%"REG_a", %1 nt"
  40. "add %%"REG_a", %2 nt"
  41. "movq (%1), %%mm0 nt"
  42. "movq (%1, %3), %%mm1 nt"
  43. PAVGB" 1(%1), %%mm0 nt"
  44. PAVGB" 1(%1, %3), %%mm1 nt"
  45. "add %%"REG_a", %1 nt"
  46. "movq %%mm0, (%2) nt"
  47. "movq %%mm1, (%2, %3) nt"
  48. "add %%"REG_a", %2 nt"
  49. "subl $4, %0 nt"
  50. "jnz 1b nt"
  51. :"+g"(h), "+S"(pixels), "+D"(block)
  52. :"r" ((long)line_size)
  53. :"%"REG_a, "memory");
  54. }
  56. static void DEF(put_pixels4_l2)(uint8_t *dst, uint8_t *src1, uint8_t *src2, int dstStride, int src1Stride, int h)
  57. {
  58.     __asm __volatile(
  59. "testl $1, %0 nt"
  60.     " jz 1f nt"
  61. "movd (%1), %%mm0 nt"
  62. "movd (%2), %%mm1 nt"
  63. "add %4, %1 nt"
  64. "add $4, %2 nt"
  65. PAVGB" %%mm1, %%mm0 nt"
  66. "movd %%mm0, (%3) nt"
  67. "add %5, %3 nt"
  68. "decl %0 nt"
  69. "1: nt"
  70. "movd (%1), %%mm0 nt"
  71. "add %4, %1 nt"
  72. "movd (%1), %%mm1 nt"
  73. "movd (%2), %%mm2 nt"
  74. "movd 4(%2), %%mm3 nt"
  75. "add %4, %1 nt"
  76. PAVGB" %%mm2, %%mm0 nt"
  77. PAVGB" %%mm3, %%mm1 nt"
  78. "movd %%mm0, (%3) nt"
  79. "add %5, %3 nt"
  80. "movd %%mm1, (%3) nt"
  81. "add %5, %3 nt"
  82. "movd (%1), %%mm0 nt"
  83. "add %4, %1 nt"
  84. "movd (%1), %%mm1 nt"
  85. "movd 8(%2), %%mm2 nt"
  86. "movd 12(%2), %%mm3 nt"
  87. "add %4, %1 nt"
  88. PAVGB" %%mm2, %%mm0 nt"
  89. PAVGB" %%mm3, %%mm1 nt"
  90. "movd %%mm0, (%3) nt"
  91. "add %5, %3 nt"
  92. "movd %%mm1, (%3) nt"
  93. "add %5, %3 nt"
  94. "add $16, %2 nt"
  95. "subl $4, %0 nt"
  96. "jnz 1b nt"
  97. #ifdef PIC //Note "+bm" and "+mb" are buggy too (with gcc 3.2.2 at least) and cant be used
  98. :"+m"(h), "+a"(src1), "+c"(src2), "+d"(dst)
  99. #else
  100. :"+b"(h), "+a"(src1), "+c"(src2), "+d"(dst)
  101. #endif
  102. :"S"((long)src1Stride), "D"((long)dstStride)
  103. :"memory"); 
  104. }
  107. static void DEF(put_pixels8_l2)(uint8_t *dst, uint8_t *src1, uint8_t *src2, int dstStride, int src1Stride, int h)
  108. {
  109.     __asm __volatile(
  110. "testl $1, %0 nt"
  111.     " jz 1f nt"
  112. "movq (%1), %%mm0 nt"
  113. "movq (%2), %%mm1 nt"
  114. "add %4, %1 nt"
  115. "add $8, %2 nt"
  116. PAVGB" %%mm1, %%mm0 nt"
  117. "movq %%mm0, (%3) nt"
  118. "add %5, %3 nt"
  119. "decl %0 nt"
  120. "1: nt"
  121. "movq (%1), %%mm0 nt"
  122. "add %4, %1 nt"
  123. "movq (%1), %%mm1 nt"
  124. "add %4, %1 nt"
  125. PAVGB" (%2), %%mm0 nt"
  126. PAVGB" 8(%2), %%mm1 nt"
  127. "movq %%mm0, (%3) nt"
  128. "add %5, %3 nt"
  129. "movq %%mm1, (%3) nt"
  130. "add %5, %3 nt"
  131. "movq (%1), %%mm0 nt"
  132. "add %4, %1 nt"
  133. "movq (%1), %%mm1 nt"
  134. "add %4, %1 nt"
  135. PAVGB" 16(%2), %%mm0 nt"
  136. PAVGB" 24(%2), %%mm1 nt"
  137. "movq %%mm0, (%3) nt"
  138. "add %5, %3 nt"
  139. "movq %%mm1, (%3) nt"
  140. "add %5, %3 nt"
  141. "add $32, %2 nt"
  142. "subl $4, %0 nt"
  143. "jnz 1b nt"
  144. #ifdef PIC //Note "+bm" and "+mb" are buggy too (with gcc 3.2.2 at least) and cant be used
  145. :"+m"(h), "+a"(src1), "+c"(src2), "+d"(dst)
  146. #else
  147. :"+b"(h), "+a"(src1), "+c"(src2), "+d"(dst)
  148. #endif
  149. :"S"((long)src1Stride), "D"((long)dstStride)
  150. :"memory"); 
  151. //the following should be used, though better not with gcc ...
  152. /* :"+g"(h), "+r"(src1), "+r"(src2), "+r"(dst)
  153. :"r"(src1Stride), "r"(dstStride)
  154. :"memory");*/
  155. }
  157. static void DEF(put_no_rnd_pixels8_l2)(uint8_t *dst, uint8_t *src1, uint8_t *src2, int dstStride, int src1Stride, int h)
  158. {
  159.     __asm __volatile(
  160. "pcmpeqb %%mm6, %%mm6 nt"
  161. "testl $1, %0 nt"
  162.     " jz 1f nt"
  163. "movq (%1), %%mm0 nt"
  164. "movq (%2), %%mm1 nt"
  165. "add %4, %1 nt"
  166. "add $8, %2 nt"
  167. "pxor %%mm6, %%mm0 nt"
  168. "pxor %%mm6, %%mm1 nt"
  169. PAVGB" %%mm1, %%mm0 nt"
  170. "pxor %%mm6, %%mm0 nt"
  171. "movq %%mm0, (%3) nt"
  172. "add %5, %3 nt"
  173. "decl %0 nt"
  174. "1: nt"
  175. "movq (%1), %%mm0 nt"
  176. "add %4, %1 nt"
  177. "movq (%1), %%mm1 nt"
  178. "add %4, %1 nt"
  179. "movq (%2), %%mm2 nt"
  180. "movq 8(%2), %%mm3 nt"
  181. "pxor %%mm6, %%mm0 nt"
  182. "pxor %%mm6, %%mm1 nt"
  183. "pxor %%mm6, %%mm2 nt"
  184. "pxor %%mm6, %%mm3 nt"
  185. PAVGB" %%mm2, %%mm0 nt"
  186. PAVGB" %%mm3, %%mm1 nt"
  187. "pxor %%mm6, %%mm0 nt"
  188. "pxor %%mm6, %%mm1 nt"
  189. "movq %%mm0, (%3) nt"
  190. "add %5, %3 nt"
  191. "movq %%mm1, (%3) nt"
  192. "add %5, %3 nt"
  193. "movq (%1), %%mm0 nt"
  194. "add %4, %1 nt"
  195. "movq (%1), %%mm1 nt"
  196. "add %4, %1 nt"
  197. "movq 16(%2), %%mm2 nt"
  198. "movq 24(%2), %%mm3 nt"
  199. "pxor %%mm6, %%mm0 nt"
  200. "pxor %%mm6, %%mm1 nt"
  201. "pxor %%mm6, %%mm2 nt"
  202. "pxor %%mm6, %%mm3 nt"
  203. PAVGB" %%mm2, %%mm0 nt"
  204. PAVGB" %%mm3, %%mm1 nt"
  205. "pxor %%mm6, %%mm0 nt"
  206. "pxor %%mm6, %%mm1 nt"
  207. "movq %%mm0, (%3) nt"
  208. "add %5, %3 nt"
  209. "movq %%mm1, (%3) nt"
  210. "add %5, %3 nt"
  211. "add $32, %2 nt"
  212. "subl $4, %0 nt"
  213. "jnz 1b nt"
  214. #ifdef PIC //Note "+bm" and "+mb" are buggy too (with gcc 3.2.2 at least) and cant be used
  215. :"+m"(h), "+a"(src1), "+c"(src2), "+d"(dst)
  216. #else
  217. :"+b"(h), "+a"(src1), "+c"(src2), "+d"(dst)
  218. #endif
  219. :"S"((long)src1Stride), "D"((long)dstStride)
  220. :"memory"); 
  221. //the following should be used, though better not with gcc ...
  222. /* :"+g"(h), "+r"(src1), "+r"(src2), "+r"(dst)
  223. :"r"(src1Stride), "r"(dstStride)
  224. :"memory");*/
  225. }
  227. static void DEF(avg_pixels4_l2)(uint8_t *dst, uint8_t *src1, uint8_t *src2, int dstStride, int src1Stride, int h)
  228. {
  229.     __asm __volatile(
  230. "testl $1, %0 nt"
  231.     " jz 1f nt"
  232. "movd (%1), %%mm0 nt"
  233. "movd (%2), %%mm1 nt"
  234. "add %4, %1 nt"
  235. "add $4, %2 nt"
  236. PAVGB" %%mm1, %%mm0 nt"
  237. PAVGB" (%3), %%mm0 nt"
  238. "movd %%mm0, (%3) nt"
  239. "add %5, %3 nt"
  240. "decl %0 nt"
  241. "1: nt"
  242. "movd (%1), %%mm0 nt"
  243. "add %4, %1 nt"
  244. "movd (%1), %%mm1 nt"
  245. "add %4, %1 nt"
  246. PAVGB" (%2), %%mm0 nt"
  247. PAVGB" 4(%2), %%mm1 nt"
  248. PAVGB" (%3), %%mm0   nt"
  249. "movd %%mm0, (%3) nt"
  250. "add %5, %3 nt"
  251. PAVGB" (%3), %%mm1   nt"
  252. "movd %%mm1, (%3) nt"
  253. "add %5, %3 nt"
  254. "movd (%1), %%mm0 nt"
  255. "add %4, %1 nt"
  256. "movd (%1), %%mm1 nt"
  257. "add %4, %1 nt"
  258. PAVGB" 8(%2), %%mm0 nt"
  259. PAVGB" 12(%2), %%mm1 nt"
  260. PAVGB" (%3), %%mm0   nt"
  261. "movd %%mm0, (%3) nt"
  262. "add %5, %3 nt"
  263. PAVGB" (%3), %%mm1   nt"
  264. "movd %%mm1, (%3) nt"
  265. "add %5, %3 nt"
  266. "add $16, %2 nt"
  267. "subl $4, %0 nt"
  268. "jnz 1b nt"
  269. #ifdef PIC //Note "+bm" and "+mb" are buggy too (with gcc 3.2.2 at least) and cant be used
  270. :"+m"(h), "+a"(src1), "+c"(src2), "+d"(dst)
  271. #else
  272. :"+b"(h), "+a"(src1), "+c"(src2), "+d"(dst)
  273. #endif
  274. :"S"((long)src1Stride), "D"((long)dstStride)
  275. :"memory"); 
  276. }
  279. static void DEF(avg_pixels8_l2)(uint8_t *dst, uint8_t *src1, uint8_t *src2, int dstStride, int src1Stride, int h)
  280. {
  281.     __asm __volatile(
  282. "testl $1, %0 nt"
  283.     " jz 1f nt"
  284. "movq (%1), %%mm0 nt"
  285. "movq (%2), %%mm1 nt"
  286. "add %4, %1 nt"
  287. "add $8, %2 nt"
  288. PAVGB" %%mm1, %%mm0 nt"
  289. PAVGB" (%3), %%mm0 nt"
  290. "movq %%mm0, (%3) nt"
  291. "add %5, %3 nt"
  292. "decl %0 nt"
  293. "1: nt"
  294. "movq (%1), %%mm0 nt"
  295. "add %4, %1 nt"
  296. "movq (%1), %%mm1 nt"
  297. "add %4, %1 nt"
  298. PAVGB" (%2), %%mm0 nt"
  299. PAVGB" 8(%2), %%mm1 nt"
  300. PAVGB" (%3), %%mm0   nt"
  301. "movq %%mm0, (%3) nt"
  302. "add %5, %3 nt"
  303. PAVGB" (%3), %%mm1   nt"
  304. "movq %%mm1, (%3) nt"
  305. "add %5, %3 nt"
  306. "movq (%1), %%mm0 nt"
  307. "add %4, %1 nt"
  308. "movq (%1), %%mm1 nt"
  309. "add %4, %1 nt"
  310. PAVGB" 16(%2), %%mm0 nt"
  311. PAVGB" 24(%2), %%mm1 nt"
  312. PAVGB" (%3), %%mm0   nt"
  313. "movq %%mm0, (%3) nt"
  314. "add %5, %3 nt"
  315. PAVGB" (%3), %%mm1   nt"
  316. "movq %%mm1, (%3) nt"
  317. "add %5, %3 nt"
  318. "add $32, %2 nt"
  319. "subl $4, %0 nt"
  320. "jnz 1b nt"
  321. #ifdef PIC //Note "+bm" and "+mb" are buggy too (with gcc 3.2.2 at least) and cant be used
  322. :"+m"(h), "+a"(src1), "+c"(src2), "+d"(dst)
  323. #else
  324. :"+b"(h), "+a"(src1), "+c"(src2), "+d"(dst)
  325. #endif
  326. :"S"((long)src1Stride), "D"((long)dstStride)
  327. :"memory"); 
  328. //the following should be used, though better not with gcc ...
  329. /* :"+g"(h), "+r"(src1), "+r"(src2), "+r"(dst)
  330. :"r"(src1Stride), "r"(dstStride)
  331. :"memory");*/
  332. }
  334. static void DEF(put_pixels16_x2)(uint8_t *block, const uint8_t *pixels, int line_size, int h)
  335. {
  336.     __asm __volatile(
  337. "lea (%3, %3), %%"REG_a" nt"
  338. "1: nt"
  339. "movq (%1), %%mm0 nt"
  340. "movq (%1, %3), %%mm1 nt"
  341. "movq 8(%1), %%mm2 nt"
  342. "movq 8(%1, %3), %%mm3 nt"
  343. PAVGB" 1(%1), %%mm0 nt"
  344. PAVGB" 1(%1, %3), %%mm1 nt"
  345. PAVGB" 9(%1), %%mm2 nt"
  346. PAVGB" 9(%1, %3), %%mm3 nt"
  347. "movq %%mm0, (%2) nt"
  348. "movq %%mm1, (%2, %3) nt"
  349. "movq %%mm2, 8(%2) nt"
  350. "movq %%mm3, 8(%2, %3) nt"
  351. "add %%"REG_a", %1 nt"
  352. "add %%"REG_a", %2 nt"
  353. "movq (%1), %%mm0 nt"
  354. "movq (%1, %3), %%mm1 nt"
  355. "movq 8(%1), %%mm2 nt"
  356. "movq 8(%1, %3), %%mm3 nt"
  357. PAVGB" 1(%1), %%mm0 nt"
  358. PAVGB" 1(%1, %3), %%mm1 nt"
  359. PAVGB" 9(%1), %%mm2 nt"
  360. PAVGB" 9(%1, %3), %%mm3 nt"
  361. "add %%"REG_a", %1 nt"
  362. "movq %%mm0, (%2) nt"
  363. "movq %%mm1, (%2, %3) nt"
  364. "movq %%mm2, 8(%2) nt"
  365. "movq %%mm3, 8(%2, %3) nt"
  366. "add %%"REG_a", %2 nt"
  367. "subl $4, %0 nt"
  368. "jnz 1b nt"
  369. :"+g"(h), "+S"(pixels), "+D"(block)
  370. :"r" ((long)line_size)
  371. :"%"REG_a, "memory");
  372. }
  374. static void DEF(put_pixels16_l2)(uint8_t *dst, uint8_t *src1, uint8_t *src2, int dstStride, int src1Stride, int h)
  375. {
  376.     __asm __volatile(
  377. "testl $1, %0 nt"
  378.     " jz 1f nt"
  379. "movq (%1), %%mm0 nt"
  380. "movq 8(%1), %%mm1 nt"
  381. PAVGB" (%2), %%mm0 nt"
  382. PAVGB" 8(%2), %%mm1 nt"
  383. "add %4, %1 nt"
  384. "add $16, %2 nt"
  385. "movq %%mm0, (%3) nt"
  386. "movq %%mm1, 8(%3) nt"
  387. "add %5, %3 nt"
  388. "decl %0 nt"
  389. "1: nt"
  390. "movq (%1), %%mm0 nt"
  391. "movq 8(%1), %%mm1 nt"
  392. "add %4, %1 nt"
  393. PAVGB" (%2), %%mm0 nt"
  394. PAVGB" 8(%2), %%mm1 nt"
  395. "movq %%mm0, (%3) nt"
  396. "movq %%mm1, 8(%3) nt"
  397. "add %5, %3 nt"
  398. "movq (%1), %%mm0 nt"
  399. "movq 8(%1), %%mm1 nt"
  400. "add %4, %1 nt"
  401. PAVGB" 16(%2), %%mm0 nt"
  402. PAVGB" 24(%2), %%mm1 nt"
  403. "movq %%mm0, (%3) nt"
  404. "movq %%mm1, 8(%3) nt"
  405. "add %5, %3 nt"
  406. "add $32, %2 nt"
  407. "subl $2, %0 nt"
  408. "jnz 1b nt"
  409. #ifdef PIC //Note "+bm" and "+mb" are buggy too (with gcc 3.2.2 at least) and cant be used
  410. :"+m"(h), "+a"(src1), "+c"(src2), "+d"(dst)
  411. #else
  412. :"+b"(h), "+a"(src1), "+c"(src2), "+d"(dst)
  413. #endif
  414. :"S"((long)src1Stride), "D"((long)dstStride)
  415. :"memory"); 
  416. //the following should be used, though better not with gcc ...
  417. /* :"+g"(h), "+r"(src1), "+r"(src2), "+r"(dst)
  418. :"r"(src1Stride), "r"(dstStride)
  419. :"memory");*/
  420. }
  422. static void DEF(avg_pixels16_l2)(uint8_t *dst, uint8_t *src1, uint8_t *src2, int dstStride, int src1Stride, int h)
  423. {
  424.     __asm __volatile(
  425. "testl $1, %0 nt"
  426.     " jz 1f nt"
  427. "movq (%1), %%mm0 nt"
  428. "movq 8(%1), %%mm1 nt"
  429. PAVGB" (%2), %%mm0 nt"
  430. PAVGB" 8(%2), %%mm1 nt"
  431. "add %4, %1 nt"
  432. "add $16, %2 nt"
  433. PAVGB" (%3), %%mm0 nt"
  434. PAVGB" 8(%3), %%mm1 nt"
  435. "movq %%mm0, (%3) nt"
  436. "movq %%mm1, 8(%3) nt"
  437. "add %5, %3 nt"
  438. "decl %0 nt"
  439. "1: nt"
  440. "movq (%1), %%mm0 nt"
  441. "movq 8(%1), %%mm1 nt"
  442. "add %4, %1 nt"
  443. PAVGB" (%2), %%mm0 nt"
  444. PAVGB" 8(%2), %%mm1 nt"
  445. PAVGB" (%3), %%mm0 nt"
  446. PAVGB" 8(%3), %%mm1 nt"
  447. "movq %%mm0, (%3) nt"
  448. "movq %%mm1, 8(%3) nt"
  449. "add %5, %3 nt"
  450. "movq (%1), %%mm0 nt"
  451. "movq 8(%1), %%mm1 nt"
  452. "add %4, %1 nt"
  453. PAVGB" 16(%2), %%mm0 nt"
  454. PAVGB" 24(%2), %%mm1 nt"
  455. PAVGB" (%3), %%mm0 nt"
  456. PAVGB" 8(%3), %%mm1 nt"
  457. "movq %%mm0, (%3) nt"
  458. "movq %%mm1, 8(%3) nt"
  459. "add %5, %3 nt"
  460. "add $32, %2 nt"
  461. "subl $2, %0 nt"
  462. "jnz 1b nt"
  463. #ifdef PIC //Note "+bm" and "+mb" are buggy too (with gcc 3.2.2 at least) and cant be used
  464. :"+m"(h), "+a"(src1), "+c"(src2), "+d"(dst)
  465. #else
  466. :"+b"(h), "+a"(src1), "+c"(src2), "+d"(dst)
  467. #endif
  468. :"S"((long)src1Stride), "D"((long)dstStride)
  469. :"memory"); 
  470. //the following should be used, though better not with gcc ...
  471. /* :"+g"(h), "+r"(src1), "+r"(src2), "+r"(dst)
  472. :"r"(src1Stride), "r"(dstStride)
  473. :"memory");*/
  474. }
  476. static void DEF(put_no_rnd_pixels16_l2)(uint8_t *dst, uint8_t *src1, uint8_t *src2, int dstStride, int src1Stride, int h)
  477. {
  478.     __asm __volatile(
  479. "pcmpeqb %%mm6, %%mm6nt"
  480. "testl $1, %0 nt"
  481.     " jz 1f nt"
  482. "movq (%1), %%mm0 nt"
  483. "movq 8(%1), %%mm1 nt"
  484. "movq (%2), %%mm2 nt"
  485. "movq 8(%2), %%mm3 nt"
  486. "pxor %%mm6, %%mm0 nt"
  487. "pxor %%mm6, %%mm1 nt"
  488. "pxor %%mm6, %%mm2 nt"
  489. "pxor %%mm6, %%mm3 nt"
  490. PAVGB" %%mm2, %%mm0 nt"
  491. PAVGB" %%mm3, %%mm1 nt"
  492. "pxor %%mm6, %%mm0 nt"
  493. "pxor %%mm6, %%mm1 nt"
  494. "add %4, %1 nt"
  495. "add $16, %2 nt"
  496. "movq %%mm0, (%3) nt"
  497. "movq %%mm1, 8(%3) nt"
  498. "add %5, %3 nt"
  499. "decl %0 nt"
  500. "1: nt"
  501. "movq (%1), %%mm0 nt"
  502. "movq 8(%1), %%mm1 nt"
  503. "add %4, %1 nt"
  504. "movq (%2), %%mm2 nt"
  505. "movq 8(%2), %%mm3 nt"
  506. "pxor %%mm6, %%mm0 nt"
  507. "pxor %%mm6, %%mm1 nt"
  508. "pxor %%mm6, %%mm2 nt"
  509. "pxor %%mm6, %%mm3 nt"
  510. PAVGB" %%mm2, %%mm0 nt"
  511. PAVGB" %%mm3, %%mm1 nt"
  512. "pxor %%mm6, %%mm0 nt"
  513. "pxor %%mm6, %%mm1 nt"
  514. "movq %%mm0, (%3) nt"
  515. "movq %%mm1, 8(%3) nt"
  516. "add %5, %3 nt"
  517. "movq (%1), %%mm0 nt"
  518. "movq 8(%1), %%mm1 nt"
  519. "add %4, %1 nt"
  520. "movq 16(%2), %%mm2 nt"
  521. "movq 24(%2), %%mm3 nt"
  522. "pxor %%mm6, %%mm0 nt"
  523. "pxor %%mm6, %%mm1 nt"
  524. "pxor %%mm6, %%mm2 nt"
  525. "pxor %%mm6, %%mm3 nt"
  526. PAVGB" %%mm2, %%mm0 nt"
  527. PAVGB" %%mm3, %%mm1 nt"
  528. "pxor %%mm6, %%mm0 nt"
  529. "pxor %%mm6, %%mm1 nt"
  530. "movq %%mm0, (%3) nt"
  531. "movq %%mm1, 8(%3) nt"
  532. "add %5, %3 nt"
  533. "add $32, %2 nt"
  534. "subl $2, %0 nt"
  535. "jnz 1b nt"
  536. #ifdef PIC //Note "+bm" and "+mb" are buggy too (with gcc 3.2.2 at least) and cant be used
  537. :"+m"(h), "+a"(src1), "+c"(src2), "+d"(dst)
  538. #else
  539. :"+b"(h), "+a"(src1), "+c"(src2), "+d"(dst)
  540. #endif
  541. :"S"((long)src1Stride), "D"((long)dstStride)
  542. :"memory"); 
  543. //the following should be used, though better not with gcc ...
  544. /* :"+g"(h), "+r"(src1), "+r"(src2), "+r"(dst)
  545. :"r"(src1Stride), "r"(dstStride)
  546. :"memory");*/
  547. }
  548.  
  549. /* GL: this function does incorrect rounding if overflow */
  550. static void DEF(put_no_rnd_pixels8_x2)(uint8_t *block, const uint8_t *pixels, int line_size, int h)
  551. {
  552.     MOVQ_BONE(mm6);
  553.     __asm __volatile(
  554. "lea (%3, %3), %%"REG_a" nt"
  555. "1: nt"
  556. "movq (%1), %%mm0 nt"
  557. "movq (%1, %3), %%mm2 nt"
  558. "movq 1(%1), %%mm1 nt"
  559. "movq 1(%1, %3), %%mm3 nt"
  560. "add %%"REG_a", %1 nt"
  561. "psubusb %%mm6, %%mm0 nt"
  562. "psubusb %%mm6, %%mm2 nt"
  563. PAVGB" %%mm1, %%mm0 nt"
  564. PAVGB" %%mm3, %%mm2 nt"
  565. "movq %%mm0, (%2) nt"
  566. "movq %%mm2, (%2, %3) nt"
  567. "movq (%1), %%mm0 nt"
  568. "movq 1(%1), %%mm1 nt"
  569. "movq (%1, %3), %%mm2 nt"
  570. "movq 1(%1, %3), %%mm3 nt"
  571. "add %%"REG_a", %2 nt"
  572. "add %%"REG_a", %1 nt"
  573. "psubusb %%mm6, %%mm0 nt"
  574. "psubusb %%mm6, %%mm2 nt"
  575. PAVGB" %%mm1, %%mm0 nt"
  576. PAVGB" %%mm3, %%mm2 nt"
  577. "movq %%mm0, (%2) nt"
  578. "movq %%mm2, (%2, %3) nt"
  579. "add %%"REG_a", %2 nt"
  580. "subl $4, %0 nt"
  581. "jnz 1b nt"
  582. :"+g"(h), "+S"(pixels), "+D"(block)
  583. :"r" ((long)line_size)
  584. :"%"REG_a, "memory");
  585. }
  587. static void DEF(put_pixels8_y2)(uint8_t *block, const uint8_t *pixels, int line_size, int h)
  588. {
  589.     __asm __volatile(
  590. "lea (%3, %3), %%"REG_a" nt"
  591. "movq (%1), %%mm0 nt"
  592. "sub %3, %2 nt"
  593. "1: nt"
  594. "movq (%1, %3), %%mm1 nt"
  595. "movq (%1, %%"REG_a"), %%mm2 nt"
  596. "add %%"REG_a", %1 nt"
  597. PAVGB" %%mm1, %%mm0 nt"
  598. PAVGB" %%mm2, %%mm1 nt"
  599. "movq %%mm0, (%2, %3) nt"
  600. "movq %%mm1, (%2, %%"REG_a") nt"
  601. "movq (%1, %3), %%mm1 nt"
  602. "movq (%1, %%"REG_a"), %%mm0 nt"
  603. "add %%"REG_a", %2 nt"
  604. "add %%"REG_a", %1 nt"
  605. PAVGB" %%mm1, %%mm2 nt"
  606. PAVGB" %%mm0, %%mm1 nt"
  607. "movq %%mm2, (%2, %3) nt"
  608. "movq %%mm1, (%2, %%"REG_a") nt"
  609. "add %%"REG_a", %2 nt"
  610. "subl $4, %0 nt"
  611. "jnz 1b nt"
  612. :"+g"(h), "+S"(pixels), "+D" (block)
  613. :"r" ((long)line_size)
  614. :"%"REG_a, "memory");
  615. }
  617. /* GL: this function does incorrect rounding if overflow */
  618. static void DEF(put_no_rnd_pixels8_y2)(uint8_t *block, const uint8_t *pixels, int line_size, int h)
  619. {
  620.     MOVQ_BONE(mm6);
  621.     __asm __volatile(
  622. "lea (%3, %3), %%"REG_a" nt"
  623. "movq (%1), %%mm0 nt"
  624. "sub %3, %2 nt"
  625. "1: nt"
  626. "movq (%1, %3), %%mm1 nt"
  627. "movq (%1, %%"REG_a"), %%mm2 nt"
  628. "add %%"REG_a", %1 nt"
  629. "psubusb %%mm6, %%mm1 nt"
  630. PAVGB" %%mm1, %%mm0 nt"
  631. PAVGB" %%mm2, %%mm1 nt"
  632. "movq %%mm0, (%2, %3) nt"
  633. "movq %%mm1, (%2, %%"REG_a") nt"
  634. "movq (%1, %3), %%mm1 nt"
  635. "movq (%1, %%"REG_a"), %%mm0 nt"
  636. "add %%"REG_a", %2 nt"
  637. "add %%"REG_a", %1 nt"
  638. "psubusb %%mm6, %%mm1 nt"
  639. PAVGB" %%mm1, %%mm2 nt"
  640. PAVGB" %%mm0, %%mm1 nt"
  641. "movq %%mm2, (%2, %3) nt"
  642. "movq %%mm1, (%2, %%"REG_a") nt"
  643. "add %%"REG_a", %2 nt"
  644. "subl $4, %0 nt"
  645. "jnz 1b nt"
  646. :"+g"(h), "+S"(pixels), "+D" (block)
  647. :"r" ((long)line_size)
  648. :"%"REG_a, "memory");
  649. }
  651. static void DEF(avg_pixels8)(uint8_t *block, const uint8_t *pixels, int line_size, int h)
  652. {
  653.     __asm __volatile(
  654. "lea (%3, %3), %%"REG_a" nt"
  655. "1: nt"
  656. "movq (%2), %%mm0 nt"
  657. "movq (%2, %3), %%mm1 nt"
  658. PAVGB" (%1), %%mm0 nt"
  659. PAVGB" (%1, %3), %%mm1 nt"
  660. "movq %%mm0, (%2) nt"
  661. "movq %%mm1, (%2, %3) nt"
  662. "add %%"REG_a", %1 nt"
  663. "add %%"REG_a", %2 nt"
  664. "movq (%2), %%mm0 nt"
  665. "movq (%2, %3), %%mm1 nt"
  666. PAVGB" (%1), %%mm0 nt"
  667. PAVGB" (%1, %3), %%mm1 nt"
  668. "add %%"REG_a", %1 nt"
  669. "movq %%mm0, (%2) nt"
  670. "movq %%mm1, (%2, %3) nt"
  671. "add %%"REG_a", %2 nt"
  672. "subl $4, %0 nt"
  673. "jnz 1b nt"
  674. :"+g"(h), "+S"(pixels), "+D"(block)
  675. :"r" ((long)line_size)
  676. :"%"REG_a, "memory");
  677. }
  679. static void DEF(avg_pixels8_x2)(uint8_t *block, const uint8_t *pixels, int line_size, int h)
  680. {
  681.     __asm __volatile(
  682. "lea (%3, %3), %%"REG_a" nt"
  683. "1: nt"
  684. "movq (%1), %%mm0 nt"
  685. "movq (%1, %3), %%mm2 nt"
  686. PAVGB" 1(%1), %%mm0 nt"
  687. PAVGB" 1(%1, %3), %%mm2 nt"
  688. PAVGB" (%2), %%mm0 nt"
  689. PAVGB" (%2, %3), %%mm2 nt"
  690. "add %%"REG_a", %1 nt"
  691. "movq %%mm0, (%2) nt"
  692. "movq %%mm2, (%2, %3) nt"
  693. "movq (%1), %%mm0 nt"
  694. "movq (%1, %3), %%mm2 nt"
  695. PAVGB" 1(%1), %%mm0 nt"
  696. PAVGB" 1(%1, %3), %%mm2 nt"
  697. "add %%"REG_a", %2 nt"
  698. "add %%"REG_a", %1 nt"
  699. PAVGB" (%2), %%mm0 nt"
  700. PAVGB" (%2, %3), %%mm2 nt"
  701. "movq %%mm0, (%2) nt"
  702. "movq %%mm2, (%2, %3) nt"
  703. "add %%"REG_a", %2 nt"
  704. "subl $4, %0 nt"
  705. "jnz 1b nt"
  706. :"+g"(h), "+S"(pixels), "+D"(block)
  707. :"r" ((long)line_size)
  708. :"%"REG_a, "memory");
  709. }
  711. static void DEF(avg_pixels8_y2)(uint8_t *block, const uint8_t *pixels, int line_size, int h)
  712. {
  713.     __asm __volatile(
  714. "lea (%3, %3), %%"REG_a" nt"
  715. "movq (%1), %%mm0 nt"
  716. "sub %3, %2 nt"
  717. "1: nt"
  718. "movq (%1, %3), %%mm1 nt"
  719. "movq (%1, %%"REG_a"), %%mm2 nt"
  720. "add %%"REG_a", %1 nt"
  721. PAVGB" %%mm1, %%mm0 nt"
  722. PAVGB" %%mm2, %%mm1 nt"
  723. "movq (%2, %3), %%mm3 nt"
  724. "movq (%2, %%"REG_a"), %%mm4 nt"
  725. PAVGB" %%mm3, %%mm0 nt"
  726. PAVGB" %%mm4, %%mm1 nt"
  727. "movq %%mm0, (%2, %3) nt"
  728. "movq %%mm1, (%2, %%"REG_a") nt"
  729. "movq (%1, %3), %%mm1 nt"
  730. "movq (%1, %%"REG_a"), %%mm0 nt"
  731. PAVGB" %%mm1, %%mm2 nt"
  732. PAVGB" %%mm0, %%mm1 nt"
  733. "add %%"REG_a", %2 nt"
  734. "add %%"REG_a", %1 nt"
  735. "movq (%2, %3), %%mm3 nt"
  736. "movq (%2, %%"REG_a"), %%mm4 nt"
  737. PAVGB" %%mm3, %%mm2 nt"
  738. PAVGB" %%mm4, %%mm1 nt"
  739. "movq %%mm2, (%2, %3) nt"
  740. "movq %%mm1, (%2, %%"REG_a") nt"
  741. "add %%"REG_a", %2 nt"
  742. "subl $4, %0 nt"
  743. "jnz 1b nt"
  744. :"+g"(h), "+S"(pixels), "+D"(block)
  745. :"r" ((long)line_size)
  746. :"%"REG_a, "memory");
  747. }
  749. // Note this is not correctly rounded, but this function is only used for b frames so it doesnt matter 
  750. static void DEF(avg_pixels8_xy2)(uint8_t *block, const uint8_t *pixels, int line_size, int h)
  751. {
  752.     MOVQ_BONE(mm6);
  753.     __asm __volatile(
  754. "lea (%3, %3), %%"REG_a" nt"
  755. "movq (%1), %%mm0 nt"
  756. PAVGB" 1(%1), %%mm0 nt"
  757. ".balign 8 nt"
  758. "1: nt"
  759. "movq (%1, %%"REG_a"), %%mm2 nt"
  760. "movq (%1, %3), %%mm1 nt"
  761. "psubusb %%mm6, %%mm2 nt"
  762. PAVGB" 1(%1, %3), %%mm1 nt"
  763. PAVGB" 1(%1, %%"REG_a"), %%mm2 nt"
  764. "add %%"REG_a", %1 nt"
  765. PAVGB" %%mm1, %%mm0 nt"
  766. PAVGB" %%mm2, %%mm1 nt"
  767. PAVGB" (%2), %%mm0 nt"
  768. PAVGB" (%2, %3), %%mm1 nt"
  769. "movq %%mm0, (%2) nt"
  770. "movq %%mm1, (%2, %3) nt"
  771. "movq (%1, %3), %%mm1 nt"
  772. "movq (%1, %%"REG_a"), %%mm0 nt"
  773. PAVGB" 1(%1, %3), %%mm1 nt"
  774. PAVGB" 1(%1, %%"REG_a"), %%mm0 nt"
  775. "add %%"REG_a", %2 nt"
  776. "add %%"REG_a", %1 nt"
  777. PAVGB" %%mm1, %%mm2 nt"
  778. PAVGB" %%mm0, %%mm1 nt"
  779. PAVGB" (%2), %%mm2 nt"
  780. PAVGB" (%2, %3), %%mm1 nt"
  781. "movq %%mm2, (%2) nt"
  782. "movq %%mm1, (%2, %3) nt"
  783. "add %%"REG_a", %2 nt"
  784. "subl $4, %0 nt"
  785. "jnz 1b nt"
  786. :"+g"(h), "+S"(pixels), "+D"(block)
  787. :"r" ((long)line_size)
  788. :"%"REG_a,  "memory");
  789. }
  791. //FIXME the following could be optimized too ...
  792. static void DEF(put_no_rnd_pixels16_x2)(uint8_t *block, const uint8_t *pixels, int line_size, int h){
  793.     DEF(put_no_rnd_pixels8_x2)(block  , pixels  , line_size, h);
  794.     DEF(put_no_rnd_pixels8_x2)(block+8, pixels+8, line_size, h);
  795. }
  796. static void DEF(put_pixels16_y2)(uint8_t *block, const uint8_t *pixels, int line_size, int h){
  797.     DEF(put_pixels8_y2)(block  , pixels  , line_size, h);
  798.     DEF(put_pixels8_y2)(block+8, pixels+8, line_size, h);
  799. }
  800. static void DEF(put_no_rnd_pixels16_y2)(uint8_t *block, const uint8_t *pixels, int line_size, int h){
  801.     DEF(put_no_rnd_pixels8_y2)(block  , pixels  , line_size, h);
  802.     DEF(put_no_rnd_pixels8_y2)(block+8, pixels+8, line_size, h);
  803. }
  804. static void DEF(avg_pixels16)(uint8_t *block, const uint8_t *pixels, int line_size, int h){
  805.     DEF(avg_pixels8)(block  , pixels  , line_size, h);
  806.     DEF(avg_pixels8)(block+8, pixels+8, line_size, h);
  807. }
  808. static void DEF(avg_pixels16_x2)(uint8_t *block, const uint8_t *pixels, int line_size, int h){
  809.     DEF(avg_pixels8_x2)(block  , pixels  , line_size, h);
  810.     DEF(avg_pixels8_x2)(block+8, pixels+8, line_size, h);
  811. }
  812. static void DEF(avg_pixels16_y2)(uint8_t *block, const uint8_t *pixels, int line_size, int h){
  813.     DEF(avg_pixels8_y2)(block  , pixels  , line_size, h);
  814.     DEF(avg_pixels8_y2)(block+8, pixels+8, line_size, h);
  815. }
  816. static void DEF(avg_pixels16_xy2)(uint8_t *block, const uint8_t *pixels, int line_size, int h){
  817.     DEF(avg_pixels8_xy2)(block  , pixels  , line_size, h);
  818.     DEF(avg_pixels8_xy2)(block+8, pixels+8, line_size, h);
  819. }