drm_bufs.h
上传用户:lgb322
上传日期:2013-02-24
资源大小:30529k
文件大小:29k
源码类别:

嵌入式Linux

开发平台:

Unix_Linux

  1. /* drm_bufs.h -- Generic buffer template -*- linux-c -*-
  2.  * Created: Thu Nov 23 03:10:50 2000 by gareth@valinux.com
  3.  *
  4.  * Copyright 1999, 2000 Precision Insight, Inc., Cedar Park, Texas.
  5.  * Copyright 2000 VA Linux Systems, Inc., Sunnyvale, California.
  6.  * All Rights Reserved.
  7.  *
  8.  * Permission is hereby granted, free of charge, to any person obtaining a
  9.  * copy of this software and associated documentation files (the "Software"),
  10.  * to deal in the Software without restriction, including without limitation
  11.  * the rights to use, copy, modify, merge, publish, distribute, sublicense,
  12.  * and/or sell copies of the Software, and to permit persons to whom the
  13.  * Software is furnished to do so, subject to the following conditions:
  14.  *
  15.  * The above copyright notice and this permission notice (including the next
  16.  * paragraph) shall be included in all copies or substantial portions of the
  17.  * Software.
  18.  *
  19.  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
  20.  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
  21.  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT.  IN NO EVENT SHALL
  22.  * VA LINUX SYSTEMS AND/OR ITS SUPPLIERS BE LIABLE FOR ANY CLAIM, DAMAGES OR
  23.  * OTHER LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE,
  24.  * ARISING FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR
  25.  * OTHER DEALINGS IN THE SOFTWARE.
  26.  *
  27.  * Authors:
  28.  *    Rickard E. (Rik) Faith <faith@valinux.com>
  29.  *    Gareth Hughes <gareth@valinux.com>
  30.  */
  31. #define __NO_VERSION__
  32. #include <linux/vmalloc.h>
  33. #include "drmP.h"
  34. #ifndef __HAVE_PCI_DMA
  35. #define __HAVE_PCI_DMA 0
  36. #endif
  37. #ifndef __HAVE_SG
  38. #define __HAVE_SG 0
  39. #endif
  40. #ifndef DRIVER_BUF_PRIV_T
  41. #define DRIVER_BUF_PRIV_T u32
  42. #endif
  43. #ifndef DRIVER_AGP_BUFFERS_MAP
  44. #if __HAVE_AGP && __HAVE_DMA
  45. #error "You must define DRIVER_AGP_BUFFERS_MAP()"
  46. #else
  47. #define DRIVER_AGP_BUFFERS_MAP( dev ) NULL
  48. #endif
  49. #endif
  50. /*
  51.  * Compute order.  Can be made faster.
  52.  */
  53. int DRM(order)( unsigned long size )
  54. {
  55. int order;
  56. unsigned long tmp;
  57. for ( order = 0, tmp = size ; tmp >>= 1 ; ++order );
  58. if ( size & ~(1 << order) )
  59. ++order;
  60. return order;
  61. }
  62. int DRM(addmap)( struct inode *inode, struct file *filp,
  63.  unsigned int cmd, unsigned long arg )
  64. {
  65. drm_file_t *priv = filp->private_data;
  66. drm_device_t *dev = priv->dev;
  67. drm_map_t *map;
  68. drm_map_list_t *list;
  69. if ( !(filp->f_mode & 3) ) return -EACCES; /* Require read/write */
  70. map = DRM(alloc)( sizeof(*map), DRM_MEM_MAPS );
  71. if ( !map )
  72. return -ENOMEM;
  73. if ( copy_from_user( map, (drm_map_t *)arg, sizeof(*map) ) ) {
  74. DRM(free)( map, sizeof(*map), DRM_MEM_MAPS );
  75. return -EFAULT;
  76. }
  77. /* Only allow shared memory to be removable since we only keep enough
  78.  * book keeping information about shared memory to allow for removal
  79.  * when processes fork.
  80.  */
  81. if ( (map->flags & _DRM_REMOVABLE) && map->type != _DRM_SHM ) {
  82. DRM(free)( map, sizeof(*map), DRM_MEM_MAPS );
  83. return -EINVAL;
  84. }
  85. DRM_DEBUG( "offset = 0x%08lx, size = 0x%08lx, type = %dn",
  86.    map->offset, map->size, map->type );
  87. if ( (map->offset & (~PAGE_MASK)) || (map->size & (~PAGE_MASK)) ) {
  88. DRM(free)( map, sizeof(*map), DRM_MEM_MAPS );
  89. return -EINVAL;
  90. }
  91. map->mtrr   = -1;
  92. map->handle = 0;
  93. switch ( map->type ) {
  94. case _DRM_REGISTERS:
  95. case _DRM_FRAME_BUFFER:
  96. #if !defined(__sparc__) && !defined(__alpha__)
  97. if ( map->offset + map->size < map->offset ||
  98.      map->offset < virt_to_phys(high_memory) ) {
  99. DRM(free)( map, sizeof(*map), DRM_MEM_MAPS );
  100. return -EINVAL;
  101. }
  102. #endif
  103. #ifdef __alpha__
  104. map->offset += dev->hose->mem_space->start;
  105. #endif
  106. #if __REALLY_HAVE_MTRR
  107. if ( map->type == _DRM_FRAME_BUFFER ||
  108.      (map->flags & _DRM_WRITE_COMBINING) ) {
  109. map->mtrr = mtrr_add( map->offset, map->size,
  110.       MTRR_TYPE_WRCOMB, 1 );
  111. }
  112. #endif
  113. map->handle = DRM(ioremap)( map->offset, map->size );
  114. break;
  115. case _DRM_SHM:
  116. map->handle = vmalloc_32(map->size);
  117. DRM_DEBUG( "%ld %d %pn",
  118.    map->size, DRM(order)( map->size ), map->handle );
  119. if ( !map->handle ) {
  120. DRM(free)( map, sizeof(*map), DRM_MEM_MAPS );
  121. return -ENOMEM;
  122. }
  123. map->offset = (unsigned long)map->handle;
  124. if ( map->flags & _DRM_CONTAINS_LOCK ) {
  125. dev->lock.hw_lock = map->handle; /* Pointer to lock */
  126. }
  127. break;
  128. #if __REALLY_HAVE_AGP
  129. case _DRM_AGP:
  130. #ifdef __alpha__
  131. map->offset += dev->hose->mem_space->start;
  132. #endif
  133. map->offset = map->offset + dev->agp->base;
  134. map->mtrr   = dev->agp->agp_mtrr; /* for getmap */
  135. break;
  136. #endif
  137. case _DRM_SCATTER_GATHER:
  138. if (!dev->sg) {
  139. DRM(free)(map, sizeof(*map), DRM_MEM_MAPS);
  140. return -EINVAL;
  141. }
  142. map->offset = map->offset + dev->sg->handle;
  143. break;
  144. default:
  145. DRM(free)( map, sizeof(*map), DRM_MEM_MAPS );
  146. return -EINVAL;
  147. }
  148. list = DRM(alloc)(sizeof(*list), DRM_MEM_MAPS);
  149. if(!list) {
  150. DRM(free)(map, sizeof(*map), DRM_MEM_MAPS);
  151. return -EINVAL;
  152. }
  153. memset(list, 0, sizeof(*list));
  154. list->map = map;
  155. down(&dev->struct_sem);
  156. list_add(&list->head, &dev->maplist->head);
  157.   up(&dev->struct_sem);
  158. if ( copy_to_user( (drm_map_t *)arg, map, sizeof(*map) ) )
  159. return -EFAULT;
  160. if ( map->type != _DRM_SHM ) {
  161. if ( copy_to_user( &((drm_map_t *)arg)->handle,
  162.    &map->offset,
  163.    sizeof(map->offset) ) )
  164. return -EFAULT;
  165. }
  166. return 0;
  167. }
  168. /* Remove a map private from list and deallocate resources if the mapping
  169.  * isn't in use.
  170.  */
  171. int DRM(rmmap)(struct inode *inode, struct file *filp,
  172.        unsigned int cmd, unsigned long arg)
  173. {
  174. drm_file_t *priv = filp->private_data;
  175. drm_device_t *dev = priv->dev;
  176. struct list_head *list;
  177. drm_map_list_t *r_list = NULL;
  178. drm_vma_entry_t *pt, *prev;
  179. drm_map_t *map;
  180. drm_map_t request;
  181. int found_maps = 0;
  182. if (copy_from_user(&request, (drm_map_t *)arg,
  183.    sizeof(request))) {
  184. return -EFAULT;
  185. }
  186. down(&dev->struct_sem);
  187. list = &dev->maplist->head;
  188. list_for_each(list, &dev->maplist->head) {
  189. r_list = (drm_map_list_t *) list;
  190. if(r_list->map &&
  191.    r_list->map->handle == request.handle &&
  192.    r_list->map->flags & _DRM_REMOVABLE) break;
  193. }
  194. /* List has wrapped around to the head pointer, or its empty we didn't
  195.  * find anything.
  196.  */
  197. if(list == (&dev->maplist->head)) {
  198. up(&dev->struct_sem);
  199. return -EINVAL;
  200. }
  201. map = r_list->map;
  202. list_del(list);
  203. DRM(free)(list, sizeof(*list), DRM_MEM_MAPS);
  204. for (pt = dev->vmalist, prev = NULL; pt; prev = pt, pt = pt->next) {
  205. #if LINUX_VERSION_CODE >= 0x020300
  206. if (pt->vma->vm_private_data == map) found_maps++;
  207. #else
  208. if (pt->vma->vm_pte == map) found_maps++;
  209. #endif
  210. }
  211. if(!found_maps) {
  212. switch (map->type) {
  213. case _DRM_REGISTERS:
  214. case _DRM_FRAME_BUFFER:
  215. #if __REALLY_HAVE_MTRR
  216. if (map->mtrr >= 0) {
  217. int retcode;
  218. retcode = mtrr_del(map->mtrr,
  219.    map->offset,
  220.    map->size);
  221. DRM_DEBUG("mtrr_del = %dn", retcode);
  222. }
  223. #endif
  224. DRM(ioremapfree)(map->handle, map->size);
  225. break;
  226. case _DRM_SHM:
  227. vfree(map->handle);
  228. break;
  229. case _DRM_AGP:
  230. case _DRM_SCATTER_GATHER:
  231. break;
  232. }
  233. DRM(free)(map, sizeof(*map), DRM_MEM_MAPS);
  234. }
  235. up(&dev->struct_sem);
  236. return 0;
  237. }
  238. #if __HAVE_DMA
  239. static void DRM(cleanup_buf_error)(drm_buf_entry_t *entry)
  240. {
  241. int i;
  242. if (entry->seg_count) {
  243. for (i = 0; i < entry->seg_count; i++) {
  244. DRM(free_pages)(entry->seglist[i],
  245. entry->page_order,
  246. DRM_MEM_DMA);
  247. }
  248. DRM(free)(entry->seglist,
  249.   entry->seg_count *
  250.   sizeof(*entry->seglist),
  251.   DRM_MEM_SEGS);
  252. entry->seg_count = 0;
  253. }
  254.     if(entry->buf_count) {
  255.     for(i = 0; i < entry->buf_count; i++) {
  256. if(entry->buflist[i].dev_private) {
  257. DRM(free)(entry->buflist[i].dev_private,
  258.   entry->buflist[i].dev_priv_size,
  259.   DRM_MEM_BUFS);
  260. }
  261. }
  262. DRM(free)(entry->buflist,
  263.   entry->buf_count *
  264.   sizeof(*entry->buflist),
  265.   DRM_MEM_BUFS);
  266. #if __HAVE_DMA_FREELIST
  267.     DRM(freelist_destroy)(&entry->freelist);
  268. #endif
  269. entry->buf_count = 0;
  270. }
  271. }
  272. #if __REALLY_HAVE_AGP
  273. int DRM(addbufs_agp)( struct inode *inode, struct file *filp,
  274.       unsigned int cmd, unsigned long arg )
  275. {
  276. drm_file_t *priv = filp->private_data;
  277. drm_device_t *dev = priv->dev;
  278. drm_device_dma_t *dma = dev->dma;
  279. drm_buf_desc_t request;
  280. drm_buf_entry_t *entry;
  281. drm_buf_t *buf;
  282. unsigned long offset;
  283. unsigned long agp_offset;
  284. int count;
  285. int order;
  286. int size;
  287. int alignment;
  288. int page_order;
  289. int total;
  290. int byte_count;
  291. int i;
  292. drm_buf_t **temp_buflist;
  293. if ( !dma ) return -EINVAL;
  294. if ( copy_from_user( &request, (drm_buf_desc_t *)arg,
  295.      sizeof(request) ) )
  296. return -EFAULT;
  297. count = request.count;
  298. order = DRM(order)( request.size );
  299. size = 1 << order;
  300. alignment  = (request.flags & _DRM_PAGE_ALIGN)
  301. ? PAGE_ALIGN(size) : size;
  302. page_order = order - PAGE_SHIFT > 0 ? order - PAGE_SHIFT : 0;
  303. total = PAGE_SIZE << page_order;
  304. byte_count = 0;
  305. agp_offset = dev->agp->base + request.agp_start;
  306. DRM_DEBUG( "count:      %dn",  count );
  307. DRM_DEBUG( "order:      %dn",  order );
  308. DRM_DEBUG( "size:       %dn",  size );
  309. DRM_DEBUG( "agp_offset: %ldn", agp_offset );
  310. DRM_DEBUG( "alignment:  %dn",  alignment );
  311. DRM_DEBUG( "page_order: %dn",  page_order );
  312. DRM_DEBUG( "total:      %dn",  total );
  313. if ( order < DRM_MIN_ORDER || order > DRM_MAX_ORDER ) return -EINVAL;
  314. if ( dev->queue_count ) return -EBUSY; /* Not while in use */
  315. spin_lock( &dev->count_lock );
  316. if ( dev->buf_use ) {
  317. spin_unlock( &dev->count_lock );
  318. return -EBUSY;
  319. }
  320. atomic_inc( &dev->buf_alloc );
  321. spin_unlock( &dev->count_lock );
  322. down( &dev->struct_sem );
  323. entry = &dma->bufs[order];
  324. if ( entry->buf_count ) {
  325. up( &dev->struct_sem );
  326. atomic_dec( &dev->buf_alloc );
  327. return -ENOMEM; /* May only call once for each order */
  328. }
  329. if (count < 0 || count > 4096) {
  330. up( &dev->struct_sem );
  331. atomic_dec( &dev->buf_alloc );
  332. return -EINVAL;
  333. }
  334. entry->buflist = DRM(alloc)( count * sizeof(*entry->buflist),
  335.     DRM_MEM_BUFS );
  336. if ( !entry->buflist ) {
  337. up( &dev->struct_sem );
  338. atomic_dec( &dev->buf_alloc );
  339. return -ENOMEM;
  340. }
  341. memset( entry->buflist, 0, count * sizeof(*entry->buflist) );
  342. entry->buf_size = size;
  343. entry->page_order = page_order;
  344. offset = 0;
  345. while ( entry->buf_count < count ) {
  346. buf          = &entry->buflist[entry->buf_count];
  347. buf->idx     = dma->buf_count + entry->buf_count;
  348. buf->total   = alignment;
  349. buf->order   = order;
  350. buf->used    = 0;
  351. buf->offset  = (dma->byte_count + offset);
  352. buf->bus_address = agp_offset + offset;
  353. buf->address = (void *)(agp_offset + offset);
  354. buf->next    = NULL;
  355. buf->waiting = 0;
  356. buf->pending = 0;
  357. init_waitqueue_head( &buf->dma_wait );
  358. buf->pid     = 0;
  359. buf->dev_priv_size = sizeof(DRIVER_BUF_PRIV_T);
  360. buf->dev_private = DRM(alloc)( sizeof(DRIVER_BUF_PRIV_T),
  361.        DRM_MEM_BUFS );
  362. if(!buf->dev_private) {
  363. /* Set count correctly so we free the proper amount. */
  364. entry->buf_count = count;
  365. DRM(cleanup_buf_error)(entry);
  366. }
  367. memset( buf->dev_private, 0, buf->dev_priv_size );
  368. #if __HAVE_DMA_HISTOGRAM
  369. buf->time_queued = 0;
  370. buf->time_dispatched = 0;
  371. buf->time_completed = 0;
  372. buf->time_freed = 0;
  373. #endif
  374. DRM_DEBUG( "buffer %d @ %pn",
  375.    entry->buf_count, buf->address );
  376. offset += alignment;
  377. entry->buf_count++;
  378. byte_count += PAGE_SIZE << page_order;
  379. }
  380. DRM_DEBUG( "byte_count: %dn", byte_count );
  381. temp_buflist = DRM(realloc)( dma->buflist,
  382.      dma->buf_count * sizeof(*dma->buflist),
  383.      (dma->buf_count + entry->buf_count)
  384.      * sizeof(*dma->buflist),
  385.      DRM_MEM_BUFS );
  386. if(!temp_buflist) {
  387. /* Free the entry because it isn't valid */
  388. DRM(cleanup_buf_error)(entry);
  389. up( &dev->struct_sem );
  390. atomic_dec( &dev->buf_alloc );
  391. return -ENOMEM;
  392. }
  393. dma->buflist = temp_buflist;
  394. for ( i = 0 ; i < entry->buf_count ; i++ ) {
  395. dma->buflist[i + dma->buf_count] = &entry->buflist[i];
  396. }
  397. dma->buf_count += entry->buf_count;
  398. dma->byte_count += byte_count;
  399. DRM_DEBUG( "dma->buf_count : %dn", dma->buf_count );
  400. DRM_DEBUG( "entry->buf_count : %dn", entry->buf_count );
  401. #if __HAVE_DMA_FREELIST
  402. DRM(freelist_create)( &entry->freelist, entry->buf_count );
  403. for ( i = 0 ; i < entry->buf_count ; i++ ) {
  404. DRM(freelist_put)( dev, &entry->freelist, &entry->buflist[i] );
  405. }
  406. #endif
  407. up( &dev->struct_sem );
  408. request.count = entry->buf_count;
  409. request.size = size;
  410. if ( copy_to_user( (drm_buf_desc_t *)arg, &request, sizeof(request) ) )
  411. return -EFAULT;
  412. dma->flags = _DRM_DMA_USE_AGP;
  413. atomic_dec( &dev->buf_alloc );
  414. return 0;
  415. }
  416. #endif /* __REALLY_HAVE_AGP */
  417. #if __HAVE_PCI_DMA
  418. int DRM(addbufs_pci)( struct inode *inode, struct file *filp,
  419.       unsigned int cmd, unsigned long arg )
  420. {
  421.     drm_file_t *priv = filp->private_data;
  422. drm_device_t *dev = priv->dev;
  423. drm_device_dma_t *dma = dev->dma;
  424. drm_buf_desc_t request;
  425. int count;
  426. int order;
  427. int size;
  428. int total;
  429. int page_order;
  430. drm_buf_entry_t *entry;
  431. unsigned long page;
  432. drm_buf_t *buf;
  433. int alignment;
  434. unsigned long offset;
  435. int i;
  436. int byte_count;
  437. int page_count;
  438. unsigned long *temp_pagelist;
  439. drm_buf_t **temp_buflist;
  440. if ( !dma ) return -EINVAL;
  441. if ( copy_from_user( &request, (drm_buf_desc_t *)arg,
  442.      sizeof(request) ) )
  443. return -EFAULT;
  444. count = request.count;
  445. order = DRM(order)( request.size );
  446. size = 1 << order;
  447. DRM_DEBUG( "count=%d, size=%d (%d), order=%d, queue_count=%dn",
  448.    request.count, request.size, size,
  449.    order, dev->queue_count );
  450. if ( order < DRM_MIN_ORDER || order > DRM_MAX_ORDER ) return -EINVAL;
  451. if ( dev->queue_count ) return -EBUSY; /* Not while in use */
  452. alignment = (request.flags & _DRM_PAGE_ALIGN)
  453. ? PAGE_ALIGN(size) : size;
  454. page_order = order - PAGE_SHIFT > 0 ? order - PAGE_SHIFT : 0;
  455. total = PAGE_SIZE << page_order;
  456. spin_lock( &dev->count_lock );
  457. if ( dev->buf_use ) {
  458. spin_unlock( &dev->count_lock );
  459. return -EBUSY;
  460. }
  461. atomic_inc( &dev->buf_alloc );
  462. spin_unlock( &dev->count_lock );
  463. down( &dev->struct_sem );
  464. entry = &dma->bufs[order];
  465. if ( entry->buf_count ) {
  466. up( &dev->struct_sem );
  467. atomic_dec( &dev->buf_alloc );
  468. return -ENOMEM; /* May only call once for each order */
  469. }
  470. if (count < 0 || count > 4096) {
  471. up( &dev->struct_sem );
  472. atomic_dec( &dev->buf_alloc );
  473. return -EINVAL;
  474. }
  475. entry->buflist = DRM(alloc)( count * sizeof(*entry->buflist),
  476.     DRM_MEM_BUFS );
  477. if ( !entry->buflist ) {
  478. up( &dev->struct_sem );
  479. atomic_dec( &dev->buf_alloc );
  480. return -ENOMEM;
  481. }
  482. memset( entry->buflist, 0, count * sizeof(*entry->buflist) );
  483. entry->seglist = DRM(alloc)( count * sizeof(*entry->seglist),
  484.     DRM_MEM_SEGS );
  485. if ( !entry->seglist ) {
  486. DRM(free)( entry->buflist,
  487.   count * sizeof(*entry->buflist),
  488.   DRM_MEM_BUFS );
  489. up( &dev->struct_sem );
  490. atomic_dec( &dev->buf_alloc );
  491. return -ENOMEM;
  492. }
  493. memset( entry->seglist, 0, count * sizeof(*entry->seglist) );
  494. temp_pagelist = DRM(realloc)( dma->pagelist,
  495.       dma->page_count * sizeof(*dma->pagelist),
  496.       (dma->page_count + (count << page_order))
  497.       * sizeof(*dma->pagelist),
  498.       DRM_MEM_PAGES );
  499. if(!temp_pagelist) {
  500. DRM(free)( entry->buflist,
  501.    count * sizeof(*entry->buflist),
  502.    DRM_MEM_BUFS );
  503. DRM(free)( entry->seglist,
  504.    count * sizeof(*entry->seglist),
  505.    DRM_MEM_SEGS );
  506. up( &dev->struct_sem );
  507. atomic_dec( &dev->buf_alloc );
  508. return -ENOMEM;
  509. }
  510. dma->pagelist = temp_pagelist;
  511. DRM_DEBUG( "pagelist: %d entriesn",
  512.    dma->page_count + (count << page_order) );
  513. entry->buf_size = size;
  514. entry->page_order = page_order;
  515. byte_count = 0;
  516. page_count = 0;
  517. while ( entry->buf_count < count ) {
  518. page = DRM(alloc_pages)( page_order, DRM_MEM_DMA );
  519. if ( !page ) break;
  520. entry->seglist[entry->seg_count++] = page;
  521. for ( i = 0 ; i < (1 << page_order) ; i++ ) {
  522. DRM_DEBUG( "page %d @ 0x%08lxn",
  523.    dma->page_count + page_count,
  524.    page + PAGE_SIZE * i );
  525. dma->pagelist[dma->page_count + page_count++]
  526. = page + PAGE_SIZE * i;
  527. }
  528. for ( offset = 0 ;
  529.       offset + size <= total && entry->buf_count < count ;
  530.       offset += alignment, ++entry->buf_count ) {
  531. buf      = &entry->buflist[entry->buf_count];
  532. buf->idx     = dma->buf_count + entry->buf_count;
  533. buf->total   = alignment;
  534. buf->order   = order;
  535. buf->used    = 0;
  536. buf->offset  = (dma->byte_count + byte_count + offset);
  537. buf->address = (void *)(page + offset);
  538. buf->next    = NULL;
  539. buf->waiting = 0;
  540. buf->pending = 0;
  541. init_waitqueue_head( &buf->dma_wait );
  542. buf->pid     = 0;
  543. #if __HAVE_DMA_HISTOGRAM
  544. buf->time_queued     = 0;
  545. buf->time_dispatched = 0;
  546. buf->time_completed  = 0;
  547. buf->time_freed      = 0;
  548. #endif
  549. DRM_DEBUG( "buffer %d @ %pn",
  550.    entry->buf_count, buf->address );
  551. }
  552. byte_count += PAGE_SIZE << page_order;
  553. }
  554. temp_buflist = DRM(realloc)( dma->buflist,
  555.      dma->buf_count * sizeof(*dma->buflist),
  556.      (dma->buf_count + entry->buf_count)
  557.      * sizeof(*dma->buflist),
  558.      DRM_MEM_BUFS );
  559. if(!temp_buflist) {
  560. /* Free the entry because it isn't valid */
  561. DRM(cleanup_buf_error)(entry);
  562. up( &dev->struct_sem );
  563. atomic_dec( &dev->buf_alloc );
  564. return -ENOMEM;
  565. }
  566. dma->buflist = temp_buflist;
  567. for ( i = 0 ; i < entry->buf_count ; i++ ) {
  568. dma->buflist[i + dma->buf_count] = &entry->buflist[i];
  569. }
  570. dma->buf_count += entry->buf_count;
  571. dma->seg_count += entry->seg_count;
  572. dma->page_count += entry->seg_count << page_order;
  573. dma->byte_count += PAGE_SIZE * (entry->seg_count << page_order);
  574. #if __HAVE_DMA_FREELIST
  575. DRM(freelist_create)( &entry->freelist, entry->buf_count );
  576. for ( i = 0 ; i < entry->buf_count ; i++ ) {
  577. DRM(freelist_put)( dev, &entry->freelist, &entry->buflist[i] );
  578. }
  579. #endif
  580. up( &dev->struct_sem );
  581. request.count = entry->buf_count;
  582. request.size = size;
  583. if ( copy_to_user( (drm_buf_desc_t *)arg, &request, sizeof(request) ) )
  584. return -EFAULT;
  585. atomic_dec( &dev->buf_alloc );
  586. return 0;
  587. }
  588. #endif /* __HAVE_PCI_DMA */
  589. #ifdef __HAVE_SG
  590. int DRM(addbufs_sg)( struct inode *inode, struct file *filp,
  591.                      unsigned int cmd, unsigned long arg )
  592. {
  593. drm_file_t *priv = filp->private_data;
  594. drm_device_t *dev = priv->dev;
  595. drm_device_dma_t *dma = dev->dma;
  596. drm_buf_desc_t request;
  597. drm_buf_entry_t *entry;
  598. drm_buf_t *buf;
  599. unsigned long offset;
  600. unsigned long agp_offset;
  601. int count;
  602. int order;
  603. int size;
  604. int alignment;
  605. int page_order;
  606. int total;
  607. int byte_count;
  608. int i;
  609. drm_buf_t **temp_buflist;
  610. if ( !dma ) return -EINVAL;
  611. if ( copy_from_user( &request, (drm_buf_desc_t *)arg,
  612.                              sizeof(request) ) )
  613. return -EFAULT;
  614. count = request.count;
  615. order = DRM(order)( request.size );
  616. size = 1 << order;
  617. alignment  = (request.flags & _DRM_PAGE_ALIGN)
  618. ? PAGE_ALIGN(size) : size;
  619. page_order = order - PAGE_SHIFT > 0 ? order - PAGE_SHIFT : 0;
  620. total = PAGE_SIZE << page_order;
  621. byte_count = 0;
  622. agp_offset = request.agp_start;
  623. DRM_DEBUG( "count:      %dn",  count );
  624. DRM_DEBUG( "order:      %dn",  order );
  625. DRM_DEBUG( "size:       %dn",  size );
  626. DRM_DEBUG( "agp_offset: %ldn", agp_offset );
  627. DRM_DEBUG( "alignment:  %dn",  alignment );
  628. DRM_DEBUG( "page_order: %dn",  page_order );
  629. DRM_DEBUG( "total:      %dn",  total );
  630. if ( order < DRM_MIN_ORDER || order > DRM_MAX_ORDER ) return -EINVAL;
  631. if ( dev->queue_count ) return -EBUSY; /* Not while in use */
  632. spin_lock( &dev->count_lock );
  633. if ( dev->buf_use ) {
  634. spin_unlock( &dev->count_lock );
  635. return -EBUSY;
  636. }
  637. atomic_inc( &dev->buf_alloc );
  638. spin_unlock( &dev->count_lock );
  639. down( &dev->struct_sem );
  640. entry = &dma->bufs[order];
  641. if ( entry->buf_count ) {
  642. up( &dev->struct_sem );
  643. atomic_dec( &dev->buf_alloc );
  644. return -ENOMEM; /* May only call once for each order */
  645. }
  646. if (count < 0 || count > 4096) {
  647. up( &dev->struct_sem );
  648. atomic_dec( &dev->buf_alloc );
  649. return -EINVAL;
  650. }
  651. entry->buflist = DRM(alloc)( count * sizeof(*entry->buflist),
  652.      DRM_MEM_BUFS );
  653. if ( !entry->buflist ) {
  654. up( &dev->struct_sem );
  655. atomic_dec( &dev->buf_alloc );
  656. return -ENOMEM;
  657. }
  658. memset( entry->buflist, 0, count * sizeof(*entry->buflist) );
  659. entry->buf_size = size;
  660. entry->page_order = page_order;
  661. offset = 0;
  662. while ( entry->buf_count < count ) {
  663. buf          = &entry->buflist[entry->buf_count];
  664. buf->idx     = dma->buf_count + entry->buf_count;
  665. buf->total   = alignment;
  666. buf->order   = order;
  667. buf->used    = 0;
  668. buf->offset  = (dma->byte_count + offset);
  669. buf->bus_address = agp_offset + offset;
  670. buf->address = (void *)(agp_offset + offset + dev->sg->handle);
  671. buf->next    = NULL;
  672. buf->waiting = 0;
  673. buf->pending = 0;
  674. init_waitqueue_head( &buf->dma_wait );
  675. buf->pid     = 0;
  676. buf->dev_priv_size = sizeof(DRIVER_BUF_PRIV_T);
  677. buf->dev_private = DRM(alloc)( sizeof(DRIVER_BUF_PRIV_T),
  678.        DRM_MEM_BUFS );
  679. if(!buf->dev_private) {
  680. /* Set count correctly so we free the proper amount. */
  681. entry->buf_count = count;
  682. DRM(cleanup_buf_error)(entry);
  683. up( &dev->struct_sem );
  684. atomic_dec( &dev->buf_alloc );
  685. return -ENOMEM;
  686. }
  687. memset( buf->dev_private, 0, buf->dev_priv_size );
  688. # if __HAVE_DMA_HISTOGRAM
  689. buf->time_queued = 0;
  690. buf->time_dispatched = 0;
  691. buf->time_completed = 0;
  692. buf->time_freed = 0;
  693. # endif
  694. DRM_DEBUG( "buffer %d @ %pn",
  695.    entry->buf_count, buf->address );
  696. offset += alignment;
  697. entry->buf_count++;
  698. byte_count += PAGE_SIZE << page_order;
  699. }
  700. DRM_DEBUG( "byte_count: %dn", byte_count );
  701. temp_buflist = DRM(realloc)( dma->buflist,
  702.      dma->buf_count * sizeof(*dma->buflist),
  703.      (dma->buf_count + entry->buf_count)
  704.      * sizeof(*dma->buflist),
  705.      DRM_MEM_BUFS );
  706. if(!temp_buflist) {
  707. /* Free the entry because it isn't valid */
  708. DRM(cleanup_buf_error)(entry);
  709. up( &dev->struct_sem );
  710. atomic_dec( &dev->buf_alloc );
  711. return -ENOMEM;
  712. }
  713. dma->buflist = temp_buflist;
  714. for ( i = 0 ; i < entry->buf_count ; i++ ) {
  715. dma->buflist[i + dma->buf_count] = &entry->buflist[i];
  716. }
  717. dma->buf_count += entry->buf_count;
  718. dma->byte_count += byte_count;
  719. DRM_DEBUG( "dma->buf_count : %dn", dma->buf_count );
  720. DRM_DEBUG( "entry->buf_count : %dn", entry->buf_count );
  721. #if __HAVE_DMA_FREELIST
  722. DRM(freelist_create)( &entry->freelist, entry->buf_count );
  723. for ( i = 0 ; i < entry->buf_count ; i++ ) {
  724. DRM(freelist_put)( dev, &entry->freelist, &entry->buflist[i] );
  725. }
  726. #endif
  727. up( &dev->struct_sem );
  728. request.count = entry->buf_count;
  729. request.size = size;
  730. if ( copy_to_user( (drm_buf_desc_t *)arg, &request, sizeof(request) ) )
  731. return -EFAULT;
  732. dma->flags = _DRM_DMA_USE_SG;
  733. atomic_dec( &dev->buf_alloc );
  734. return 0;
  735. }
  736. #endif /* __HAVE_SG */
  737. int DRM(addbufs)( struct inode *inode, struct file *filp,
  738.   unsigned int cmd, unsigned long arg )
  739. {
  740. drm_buf_desc_t request;
  741. if ( copy_from_user( &request, (drm_buf_desc_t *)arg,
  742.      sizeof(request) ) )
  743. return -EFAULT;
  744. #if __REALLY_HAVE_AGP
  745. if ( request.flags & _DRM_AGP_BUFFER )
  746. return DRM(addbufs_agp)( inode, filp, cmd, arg );
  747. else
  748. #endif
  749. #if __HAVE_SG
  750. if ( request.flags & _DRM_SG_BUFFER )
  751. return DRM(addbufs_sg)( inode, filp, cmd, arg );
  752. else
  753. #endif
  754. #if __HAVE_PCI_DMA
  755. return DRM(addbufs_pci)( inode, filp, cmd, arg );
  756. #else
  757. return -EINVAL;
  758. #endif
  759. }
  760. int DRM(infobufs)( struct inode *inode, struct file *filp,
  761.    unsigned int cmd, unsigned long arg )
  762. {
  763. drm_file_t *priv = filp->private_data;
  764. drm_device_t *dev = priv->dev;
  765. drm_device_dma_t *dma = dev->dma;
  766. drm_buf_info_t request;
  767. int i;
  768. int count;
  769. if ( !dma ) return -EINVAL;
  770. spin_lock( &dev->count_lock );
  771. if ( atomic_read( &dev->buf_alloc ) ) {
  772. spin_unlock( &dev->count_lock );
  773. return -EBUSY;
  774. }
  775. ++dev->buf_use; /* Can't allocate more after this call */
  776. spin_unlock( &dev->count_lock );
  777. if ( copy_from_user( &request,
  778.      (drm_buf_info_t *)arg,
  779.      sizeof(request) ) )
  780. return -EFAULT;
  781. for ( i = 0, count = 0 ; i < DRM_MAX_ORDER + 1 ; i++ ) {
  782. if ( dma->bufs[i].buf_count ) ++count;
  783. }
  784. DRM_DEBUG( "count = %dn", count );
  785. if ( request.count >= count ) {
  786. for ( i = 0, count = 0 ; i < DRM_MAX_ORDER + 1 ; i++ ) {
  787. if ( dma->bufs[i].buf_count ) {
  788. drm_buf_desc_t *to = &request.list[count];
  789. drm_buf_entry_t *from = &dma->bufs[i];
  790. drm_freelist_t *list = &dma->bufs[i].freelist;
  791. if ( copy_to_user( &to->count,
  792.    &from->buf_count,
  793.    sizeof(from->buf_count) ) ||
  794.      copy_to_user( &to->size,
  795.    &from->buf_size,
  796.    sizeof(from->buf_size) ) ||
  797.      copy_to_user( &to->low_mark,
  798.    &list->low_mark,
  799.    sizeof(list->low_mark) ) ||
  800.      copy_to_user( &to->high_mark,
  801.    &list->high_mark,
  802.    sizeof(list->high_mark) ) )
  803. return -EFAULT;
  804. DRM_DEBUG( "%d %d %d %d %dn",
  805.    i,
  806.    dma->bufs[i].buf_count,
  807.    dma->bufs[i].buf_size,
  808.    dma->bufs[i].freelist.low_mark,
  809.    dma->bufs[i].freelist.high_mark );
  810. ++count;
  811. }
  812. }
  813. }
  814. request.count = count;
  815. if ( copy_to_user( (drm_buf_info_t *)arg,
  816.    &request,
  817.    sizeof(request) ) )
  818. return -EFAULT;
  819. return 0;
  820. }
  821. int DRM(markbufs)( struct inode *inode, struct file *filp,
  822.    unsigned int cmd, unsigned long arg )
  823. {
  824. drm_file_t *priv = filp->private_data;
  825. drm_device_t *dev = priv->dev;
  826. drm_device_dma_t *dma = dev->dma;
  827. drm_buf_desc_t request;
  828. int order;
  829. drm_buf_entry_t *entry;
  830. if ( !dma ) return -EINVAL;
  831. if ( copy_from_user( &request,
  832.      (drm_buf_desc_t *)arg,
  833.      sizeof(request) ) )
  834. return -EFAULT;
  835. DRM_DEBUG( "%d, %d, %dn",
  836.    request.size, request.low_mark, request.high_mark );
  837. order = DRM(order)( request.size );
  838. if ( order < DRM_MIN_ORDER || order > DRM_MAX_ORDER ) return -EINVAL;
  839. entry = &dma->bufs[order];
  840. if ( request.low_mark < 0 || request.low_mark > entry->buf_count )
  841. return -EINVAL;
  842. if ( request.high_mark < 0 || request.high_mark > entry->buf_count )
  843. return -EINVAL;
  844. entry->freelist.low_mark  = request.low_mark;
  845. entry->freelist.high_mark = request.high_mark;
  846. return 0;
  847. }
  848. int DRM(freebufs)( struct inode *inode, struct file *filp,
  849.    unsigned int cmd, unsigned long arg )
  850. {
  851. drm_file_t *priv = filp->private_data;
  852. drm_device_t *dev = priv->dev;
  853. drm_device_dma_t *dma = dev->dma;
  854. drm_buf_free_t request;
  855. int i;
  856. int idx;
  857. drm_buf_t *buf;
  858. if ( !dma ) return -EINVAL;
  859. if ( copy_from_user( &request,
  860.      (drm_buf_free_t *)arg,
  861.      sizeof(request) ) )
  862. return -EFAULT;
  863. DRM_DEBUG( "%dn", request.count );
  864. for ( i = 0 ; i < request.count ; i++ ) {
  865. if ( copy_from_user( &idx,
  866.      &request.list[i],
  867.      sizeof(idx) ) )
  868. return -EFAULT;
  869. if ( idx < 0 || idx >= dma->buf_count ) {
  870. DRM_ERROR( "Index %d (of %d max)n",
  871.    idx, dma->buf_count - 1 );
  872. return -EINVAL;
  873. }
  874. buf = dma->buflist[idx];
  875. if ( buf->pid != current->pid ) {
  876. DRM_ERROR( "Process %d freeing buffer owned by %dn",
  877.    current->pid, buf->pid );
  878. return -EINVAL;
  879. }
  880. DRM(free_buffer)( dev, buf );
  881. }
  882. return 0;
  883. }
  884. int DRM(mapbufs)( struct inode *inode, struct file *filp,
  885.   unsigned int cmd, unsigned long arg )
  886. {
  887. drm_file_t *priv = filp->private_data;
  888. drm_device_t *dev = priv->dev;
  889. drm_device_dma_t *dma = dev->dma;
  890. int retcode = 0;
  891. const int zero = 0;
  892. unsigned long virtual;
  893. unsigned long address;
  894. drm_buf_map_t request;
  895. int i;
  896. if ( !dma ) return -EINVAL;
  897. spin_lock( &dev->count_lock );
  898. if ( atomic_read( &dev->buf_alloc ) ) {
  899. spin_unlock( &dev->count_lock );
  900. return -EBUSY;
  901. }
  902. dev->buf_use++; /* Can't allocate more after this call */
  903. spin_unlock( &dev->count_lock );
  904. if ( copy_from_user( &request, (drm_buf_map_t *)arg,
  905.      sizeof(request) ) )
  906. return -EFAULT;
  907. if ( request.count >= dma->buf_count ) {
  908. if ( (__HAVE_AGP && (dma->flags & _DRM_DMA_USE_AGP)) ||
  909.      (__HAVE_SG && (dma->flags & _DRM_DMA_USE_SG)) ) {
  910. drm_map_t *map = DRIVER_AGP_BUFFERS_MAP( dev );
  911. if ( !map ) {
  912. retcode = -EINVAL;
  913. goto done;
  914. }
  915. #if LINUX_VERSION_CODE <= 0x020402
  916. down( &current->mm->mmap_sem );
  917. #else
  918. down_write( &current->mm->mmap_sem );
  919. #endif
  920. virtual = do_mmap( filp, 0, map->size,
  921.    PROT_READ | PROT_WRITE,
  922.    MAP_SHARED,
  923.    (unsigned long)map->offset );
  924. #if LINUX_VERSION_CODE <= 0x020402
  925. up( &current->mm->mmap_sem );
  926. #else
  927. up_write( &current->mm->mmap_sem );
  928. #endif
  929. } else {
  930. #if LINUX_VERSION_CODE <= 0x020402
  931. down( &current->mm->mmap_sem );
  932. #else
  933. down_write( &current->mm->mmap_sem );
  934. #endif
  935. virtual = do_mmap( filp, 0, dma->byte_count,
  936.    PROT_READ | PROT_WRITE,
  937.    MAP_SHARED, 0 );
  938. #if LINUX_VERSION_CODE <= 0x020402
  939. up( &current->mm->mmap_sem );
  940. #else
  941. up_write( &current->mm->mmap_sem );
  942. #endif
  943. }
  944. if ( virtual > -1024UL ) {
  945. /* Real error */
  946. retcode = (signed long)virtual;
  947. goto done;
  948. }
  949. request.virtual = (void *)virtual;
  950. for ( i = 0 ; i < dma->buf_count ; i++ ) {
  951. if ( copy_to_user( &request.list[i].idx,
  952.    &dma->buflist[i]->idx,
  953.    sizeof(request.list[0].idx) ) ) {
  954. retcode = -EFAULT;
  955. goto done;
  956. }
  957. if ( copy_to_user( &request.list[i].total,
  958.    &dma->buflist[i]->total,
  959.    sizeof(request.list[0].total) ) ) {
  960. retcode = -EFAULT;
  961. goto done;
  962. }
  963. if ( copy_to_user( &request.list[i].used,
  964.    &zero,
  965.    sizeof(zero) ) ) {
  966. retcode = -EFAULT;
  967. goto done;
  968. }
  969. address = virtual + dma->buflist[i]->offset; /* *** */
  970. if ( copy_to_user( &request.list[i].address,
  971.    &address,
  972.    sizeof(address) ) ) {
  973. retcode = -EFAULT;
  974. goto done;
  975. }
  976. }
  977. }
  978.  done:
  979. request.count = dma->buf_count;
  980. DRM_DEBUG( "%d buffers, retcode = %dn", request.count, retcode );
  981. if ( copy_to_user( (drm_buf_map_t *)arg, &request, sizeof(request) ) )
  982. return -EFAULT;
  983. return retcode;
  984. }
  985. #endif /* __HAVE_DMA */