pgalloc.h
上传用户:jlfgdled
上传日期:2013-04-10
资源大小:33168k
文件大小:5k
源码类别:

Linux/Unix编程

开发平台:

Unix_Linux

  1. /*
  2.  * This file is subject to the terms and conditions of the GNU General Public
  3.  * License.  See the file "COPYING" in the main directory of this archive
  4.  * for more details.
  5.  *
  6.  * Copyright (C) 1994 - 2001 by Ralf Baechle at alii
  7.  * Copyright (C) 1999, 2000, 2001 Silicon Graphics, Inc.
  8.  */
  9. #ifndef _ASM_PGALLOC_H
  10. #define _ASM_PGALLOC_H
  11. #include <linux/config.h>
  12. /* TLB flushing:
  13.  *
  14.  *  - flush_tlb_all() flushes all processes TLB entries
  15.  *  - flush_tlb_mm(mm) flushes the specified mm context TLB entries
  16.  *  - flush_tlb_page(mm, vmaddr) flushes a single page
  17.  *  - flush_tlb_range(mm, start, end) flushes a range of pages
  18.  *  - flush_tlb_pgtables(mm, start, end) flushes a range of page tables
  19.  */
  20. extern void local_flush_tlb_all(void);
  21. extern void local_flush_tlb_mm(struct mm_struct *mm);
  22. extern void local_flush_tlb_range(struct mm_struct *mm, unsigned long start,
  23.        unsigned long end);
  24. extern void local_flush_tlb_page(struct vm_area_struct *vma,
  25.                                  unsigned long page);
  26. #ifdef CONFIG_SMP
  27. extern void flush_tlb_all(void);
  28. extern void flush_tlb_mm(struct mm_struct *);
  29. extern void flush_tlb_range(struct mm_struct *, unsigned long, unsigned long);
  30. extern void flush_tlb_page(struct vm_area_struct *, unsigned long);
  31. #else /* CONFIG_SMP */
  32. #define flush_tlb_all() local_flush_tlb_all()
  33. #define flush_tlb_mm(mm) local_flush_tlb_mm(mm)
  34. #define flush_tlb_range(mm,vmaddr,end) local_flush_tlb_range(mm, vmaddr, end)
  35. #define flush_tlb_page(vma,page) local_flush_tlb_page(vma, page)
  36. #endif /* CONFIG_SMP */
  37. static inline void flush_tlb_pgtables(struct mm_struct *mm,
  38.                                       unsigned long start, unsigned long end)
  39. {
  40. /* Nothing to do on MIPS.  */
  41. }
  42. /*
  43.  * Allocate and free page tables.
  44.  */
  45. #define pgd_quicklist (current_cpu_data.pgd_quick)
  46. #define pmd_quicklist (current_cpu_data.pmd_quick)
  47. #define pte_quicklist (current_cpu_data.pte_quick)
  48. #define pgtable_cache_size (current_cpu_data.pgtable_cache_sz)
  49. #define pmd_populate(mm, pmd, pte) pmd_set(pmd, pte)
  50. #define pgd_populate(mm, pgd, pmd) pgd_set(pgd, pmd)
  51. extern pgd_t *get_pgd_slow(void);
  52. static inline pgd_t *get_pgd_fast(void)
  53. {
  54. unsigned long *ret;
  55. if((ret = pgd_quicklist) != NULL) {
  56. pgd_quicklist = (unsigned long *)(*ret);
  57. ret[0] = ret[1];
  58. pgtable_cache_size--;
  59. return (pgd_t *)ret;
  60. }
  61. ret = (unsigned long *) get_pgd_slow();
  62. return (pgd_t *)ret;
  63. }
  64. static inline void free_pgd_fast(pgd_t *pgd)
  65. {
  66. *(unsigned long *)pgd = (unsigned long) pgd_quicklist;
  67. pgd_quicklist = (unsigned long *) pgd;
  68. pgtable_cache_size++;
  69. }
  70. static inline void free_pgd_slow(pgd_t *pgd)
  71. {
  72. free_pages((unsigned long)pgd, 1);
  73. }
  74. static inline pte_t *pte_alloc_one(struct mm_struct *mm, unsigned long address)
  75. {
  76. pte_t *pte;
  77. pte = (pte_t *) __get_free_page(GFP_KERNEL);
  78. if (pte)
  79. clear_page(pte);
  80. return pte;
  81. }
  82. static inline pte_t *pte_alloc_one_fast(struct mm_struct *mm, unsigned long address)
  83. {
  84. unsigned long *ret;
  85. if ((ret = (unsigned long *)pte_quicklist) != NULL) {
  86. pte_quicklist = (unsigned long *)(*ret);
  87. ret[0] = ret[1];
  88. pgtable_cache_size--;
  89. }
  90. return (pte_t *)ret;
  91. }
  92. extern pte_t *get_pte_slow(pmd_t *pmd, unsigned long address_preadjusted);
  93. static inline pte_t *get_pte_fast(void)
  94. {
  95. unsigned long *ret;
  96. if((ret = (unsigned long *)pte_quicklist) != NULL) {
  97. pte_quicklist = (unsigned long *)(*ret);
  98. ret[0] = ret[1];
  99. pgtable_cache_size--;
  100. }
  101. return (pte_t *)ret;
  102. }
  103. static inline void free_pte_fast(pte_t *pte)
  104. {
  105. *(unsigned long *)pte = (unsigned long) pte_quicklist;
  106. pte_quicklist = (unsigned long *) pte;
  107. pgtable_cache_size++;
  108. }
  109. static inline void free_pte_slow(pte_t *pte)
  110. {
  111. free_pages((unsigned long)pte, 0);
  112. }
  113. static inline pmd_t *pmd_alloc_one(struct mm_struct *mm, unsigned long address)
  114. {
  115. pmd_t *pmd;
  116. pmd = (pmd_t *) __get_free_pages(GFP_KERNEL, 1);
  117. if (pmd)
  118. pmd_init((unsigned long)pmd, (unsigned long)invalid_pte_table);
  119. return pmd;
  120. }
  121. static inline pmd_t *pmd_alloc_one_fast(struct mm_struct *mm, unsigned long address)
  122. {
  123. unsigned long *ret;
  124. if ((ret = (unsigned long *)pmd_quicklist) != NULL) {
  125. pmd_quicklist = (unsigned long *)(*ret);
  126. ret[0] = ret[1];
  127. pgtable_cache_size--;
  128. }
  129. return (pmd_t *)ret;
  130. }
  131. extern pmd_t *get_pmd_slow(pgd_t *pgd, unsigned long address_preadjusted);
  132. static inline pmd_t *get_pmd_fast(void)
  133. {
  134. unsigned long *ret;
  135. if ((ret = (unsigned long *)pmd_quicklist) != NULL) {
  136. pmd_quicklist = (unsigned long *)(*ret);
  137. ret[0] = ret[1];
  138. pgtable_cache_size--;
  139. return (pmd_t *)ret;
  140. }
  141. return (pmd_t *)ret;
  142. }
  143. static inline void free_pmd_fast(pmd_t *pmd)
  144. {
  145. *(unsigned long *)pmd = (unsigned long) pmd_quicklist;
  146. pmd_quicklist = (unsigned long *) pmd;
  147. pgtable_cache_size++;
  148. }
  149. static inline void free_pmd_slow(pmd_t *pmd)
  150. {
  151. free_pages((unsigned long)pmd, 1);
  152. }
  153. #define pte_free(pte)           free_pte_fast(pte)
  154. #define pmd_free(pte)           free_pmd_fast(pte)
  155. #define pgd_free(pgd)           free_pgd_fast(pgd)
  156. #define pgd_alloc(mm)           get_pgd_fast()
  157. extern pte_t kptbl[(PAGE_SIZE << PGD_ORDER)/sizeof(pte_t)];
  158. extern pmd_t kpmdtbl[PTRS_PER_PMD];
  159. extern int do_check_pgt_cache(int, int);
  160. #endif /* _ASM_PGALLOC_H */