pgtable.h
上传用户:lgb322
上传日期:2013-02-24
资源大小:30529k
文件大小:16k
源码类别:

嵌入式Linux

开发平台:

Unix_Linux

  1. #ifndef _ASM_IA64_PGTABLE_H
  2. #define _ASM_IA64_PGTABLE_H
  3. /*
  4.  * This file contains the functions and defines necessary to modify and use
  5.  * the IA-64 page table tree.
  6.  *
  7.  * This hopefully works with any (fixed) IA-64 page-size, as defined
  8.  * in <asm/page.h> (currently 8192).
  9.  *
  10.  * Copyright (C) 1998-2001 Hewlett-Packard Co
  11.  * David Mosberger-Tang <davidm@hpl.hp.com>
  12.  */
  13. #include <linux/config.h>
  14. #include <asm/mman.h>
  15. #include <asm/page.h>
  16. #include <asm/processor.h>
  17. #include <asm/system.h>
  18. #include <asm/types.h>
  19. #define IA64_MAX_PHYS_BITS 50 /* max. number of physical address bits (architected) */
  20. /*
  21.  * First, define the various bits in a PTE.  Note that the PTE format
  22.  * matches the VHPT short format, the firt doubleword of the VHPD long
  23.  * format, and the first doubleword of the TLB insertion format.
  24.  */
  25. #define _PAGE_P_BIT 0
  26. #define _PAGE_A_BIT 5
  27. #define _PAGE_D_BIT 6
  28. #define _PAGE_P (1 << _PAGE_P_BIT) /* page present bit */
  29. #define _PAGE_MA_WB (0x0 <<  2) /* write back memory attribute */
  30. #define _PAGE_MA_UC (0x4 <<  2) /* uncacheable memory attribute */
  31. #define _PAGE_MA_UCE (0x5 <<  2) /* UC exported attribute */
  32. #define _PAGE_MA_WC (0x6 <<  2) /* write coalescing memory attribute */
  33. #define _PAGE_MA_NAT (0x7 <<  2) /* not-a-thing attribute */
  34. #define _PAGE_MA_MASK (0x7 <<  2)
  35. #define _PAGE_PL_0 (0 <<  7) /* privilege level 0 (kernel) */
  36. #define _PAGE_PL_1 (1 <<  7) /* privilege level 1 (unused) */
  37. #define _PAGE_PL_2 (2 <<  7) /* privilege level 2 (unused) */
  38. #define _PAGE_PL_3 (3 <<  7) /* privilege level 3 (user) */
  39. #define _PAGE_PL_MASK (3 <<  7)
  40. #define _PAGE_AR_R (0 <<  9) /* read only */
  41. #define _PAGE_AR_RX (1 <<  9) /* read & execute */
  42. #define _PAGE_AR_RW (2 <<  9) /* read & write */
  43. #define _PAGE_AR_RWX (3 <<  9) /* read, write & execute */
  44. #define _PAGE_AR_R_RW (4 <<  9) /* read / read & write */
  45. #define _PAGE_AR_RX_RWX (5 <<  9) /* read & exec / read, write & exec */
  46. #define _PAGE_AR_RWX_RW (6 <<  9) /* read, write & exec / read & write */
  47. #define _PAGE_AR_X_RX (7 <<  9) /* exec & promote / read & exec */
  48. #define _PAGE_AR_MASK (7 <<  9)
  49. #define _PAGE_AR_SHIFT 9
  50. #define _PAGE_A (1 << _PAGE_A_BIT) /* page accessed bit */
  51. #define _PAGE_D (1 << _PAGE_D_BIT) /* page dirty bit */
  52. #define _PAGE_PPN_MASK (((__IA64_UL(1) << IA64_MAX_PHYS_BITS) - 1) & ~0xfffUL)
  53. #define _PAGE_ED (__IA64_UL(1) << 52) /* exception deferral */
  54. #define _PAGE_PROTNONE (__IA64_UL(1) << 63)
  55. #define _PFN_MASK _PAGE_PPN_MASK
  56. #define _PAGE_CHG_MASK (_PFN_MASK | _PAGE_A | _PAGE_D)
  57. #define _PAGE_SIZE_4K 12
  58. #define _PAGE_SIZE_8K 13
  59. #define _PAGE_SIZE_16K 14
  60. #define _PAGE_SIZE_64K 16
  61. #define _PAGE_SIZE_256K 18
  62. #define _PAGE_SIZE_1M 20
  63. #define _PAGE_SIZE_4M 22
  64. #define _PAGE_SIZE_16M 24
  65. #define _PAGE_SIZE_64M 26
  66. #define _PAGE_SIZE_256M 28
  67. #define __ACCESS_BITS _PAGE_ED | _PAGE_A | _PAGE_P | _PAGE_MA_WB
  68. #define __DIRTY_BITS_NO_ED _PAGE_A | _PAGE_P | _PAGE_D | _PAGE_MA_WB
  69. #define __DIRTY_BITS _PAGE_ED | __DIRTY_BITS_NO_ED
  70. /*
  71.  * Definitions for first level:
  72.  *
  73.  * PGDIR_SHIFT determines what a first-level page table entry can map.
  74.  */
  75. #define PGDIR_SHIFT (PAGE_SHIFT + 2*(PAGE_SHIFT-3))
  76. #define PGDIR_SIZE (__IA64_UL(1) << PGDIR_SHIFT)
  77. #define PGDIR_MASK (~(PGDIR_SIZE-1))
  78. #define PTRS_PER_PGD (__IA64_UL(1) << (PAGE_SHIFT-3))
  79. #define USER_PTRS_PER_PGD (5*PTRS_PER_PGD/8) /* regions 0-4 are user regions */
  80. #define FIRST_USER_PGD_NR 0
  81. /*
  82.  * Definitions for second level:
  83.  *
  84.  * PMD_SHIFT determines the size of the area a second-level page table
  85.  * can map.
  86.  */
  87. #define PMD_SHIFT (PAGE_SHIFT + (PAGE_SHIFT-3))
  88. #define PMD_SIZE (__IA64_UL(1) << PMD_SHIFT)
  89. #define PMD_MASK (~(PMD_SIZE-1))
  90. #define PTRS_PER_PMD (__IA64_UL(1) << (PAGE_SHIFT-3))
  91. /*
  92.  * Definitions for third level:
  93.  */
  94. #define PTRS_PER_PTE (__IA64_UL(1) << (PAGE_SHIFT-3))
  95. /*
  96.  * All the normal masks have the "page accessed" bits on, as any time
  97.  * they are used, the page is accessed. They are cleared only by the
  98.  * page-out routines.  On the other hand, we do NOT turn on the
  99.  * execute bit on pages that are mapped writable.  For those pages, we
  100.  * turn on the X bit only when the program attempts to actually
  101.  * execute code in such a page (it's a "lazy execute bit", if you
  102.  * will).  This lets reduce the amount of i-cache flushing we have to
  103.  * do for data pages such as stack and heap pages.
  104.  */
  105. #define PAGE_NONE __pgprot(_PAGE_PROTNONE | _PAGE_A)
  106. #define PAGE_SHARED __pgprot(__ACCESS_BITS | _PAGE_PL_3 | _PAGE_AR_RW)
  107. #define PAGE_READONLY __pgprot(__ACCESS_BITS | _PAGE_PL_3 | _PAGE_AR_R)
  108. #define PAGE_COPY __pgprot(__ACCESS_BITS | _PAGE_PL_3 | _PAGE_AR_R)
  109. #define PAGE_GATE __pgprot(__ACCESS_BITS | _PAGE_PL_0 | _PAGE_AR_X_RX)
  110. #define PAGE_KERNEL __pgprot(__DIRTY_BITS  | _PAGE_PL_0 | _PAGE_AR_RWX)
  111. # ifndef __ASSEMBLY__
  112. #include <asm/bitops.h>
  113. #include <asm/mmu_context.h>
  114. #include <asm/processor.h>
  115. /*
  116.  * Next come the mappings that determine how mmap() protection bits
  117.  * (PROT_EXEC, PROT_READ, PROT_WRITE, PROT_NONE) get implemented.  The
  118.  * _P version gets used for a private shared memory segment, the _S
  119.  * version gets used for a shared memory segment with MAP_SHARED on.
  120.  * In a private shared memory segment, we do a copy-on-write if a task
  121.  * attempts to write to the page.
  122.  */
  123. /* xwr */
  124. #define __P000 PAGE_NONE
  125. #define __P001 PAGE_READONLY
  126. #define __P010 PAGE_READONLY /* write to priv pg -> copy & make writable */
  127. #define __P011 PAGE_READONLY /* ditto */
  128. #define __P100 __pgprot(__ACCESS_BITS | _PAGE_PL_3 | _PAGE_AR_X_RX)
  129. #define __P101 __pgprot(__ACCESS_BITS | _PAGE_PL_3 | _PAGE_AR_RX)
  130. #define __P110 PAGE_COPY
  131. #define __P111 PAGE_COPY
  132. #define __S000 PAGE_NONE
  133. #define __S001 PAGE_READONLY
  134. #define __S010 PAGE_SHARED /* we don't have (and don't need) write-only */
  135. #define __S011 PAGE_SHARED
  136. #define __S100 __pgprot(__ACCESS_BITS | _PAGE_PL_3 | _PAGE_AR_X_RX)
  137. #define __S101 __pgprot(__ACCESS_BITS | _PAGE_PL_3 | _PAGE_AR_RX)
  138. #define __S110 __pgprot(__ACCESS_BITS | _PAGE_PL_3 | _PAGE_AR_RW)
  139. #define __S111 __pgprot(__ACCESS_BITS | _PAGE_PL_3 | _PAGE_AR_RW)
  140. #define pgd_ERROR(e) printk("%s:%d: bad pgd %016lx.n", __FILE__, __LINE__, pgd_val(e))
  141. #define pmd_ERROR(e) printk("%s:%d: bad pmd %016lx.n", __FILE__, __LINE__, pmd_val(e))
  142. #define pte_ERROR(e) printk("%s:%d: bad pte %016lx.n", __FILE__, __LINE__, pte_val(e))
  143. /*
  144.  * Some definitions to translate between mem_map, PTEs, and page
  145.  * addresses:
  146.  */
  147. /*
  148.  * Given a pointer to an mem_map[] entry, return the kernel virtual
  149.  * address corresponding to that page.
  150.  */
  151. #define page_address(page) ((page)->virtual)
  152. /* Quick test to see if ADDR is a (potentially) valid physical address. */
  153. static inline long
  154. ia64_phys_addr_valid (unsigned long addr)
  155. {
  156. return (addr & (local_cpu_data->unimpl_pa_mask)) == 0;
  157. }
  158. /*
  159.  * kern_addr_valid(ADDR) tests if ADDR is pointing to valid kernel
  160.  * memory.  For the return value to be meaningful, ADDR must be >=
  161.  * PAGE_OFFSET.  This operation can be relatively expensive (e.g.,
  162.  * require a hash-, or multi-level tree-lookup or something of that
  163.  * sort) but it guarantees to return TRUE only if accessing the page
  164.  * at that address does not cause an error.  Note that there may be
  165.  * addresses for which kern_addr_valid() returns FALSE even though an
  166.  * access would not cause an error (e.g., this is typically true for
  167.  * memory mapped I/O regions.
  168.  *
  169.  * XXX Need to implement this for IA-64.
  170.  */
  171. #define kern_addr_valid(addr) (1)
  172. /*
  173.  * Now come the defines and routines to manage and access the three-level
  174.  * page table.
  175.  */
  176. /*
  177.  * On some architectures, special things need to be done when setting
  178.  * the PTE in a page table.  Nothing special needs to be on IA-64.
  179.  */
  180. #define set_pte(ptep, pteval) (*(ptep) = (pteval))
  181. #define RGN_SIZE (1UL << 61)
  182. #define RGN_MAP_LIMIT ((1UL << (4*PAGE_SHIFT - 12)) - PAGE_SIZE) /* per region addr limit */
  183. #define RGN_KERNEL 7
  184. #define VMALLOC_START (0xa000000000000000 + 3*PAGE_SIZE)
  185. #define VMALLOC_VMADDR(x) ((unsigned long)(x))
  186. #define VMALLOC_END (0xa000000000000000 + (1UL << (4*PAGE_SHIFT - 9)))
  187. /*
  188.  * Conversion functions: convert a page and protection to a page entry,
  189.  * and a page entry and page directory to the page they refer to.
  190.  */
  191. #define mk_pte(page,pgprot)
  192. ({
  193. pte_t __pte;
  194. pte_val(__pte) = ((page - mem_map) << PAGE_SHIFT) | pgprot_val(pgprot);
  195. __pte;
  196. })
  197. /* This takes a physical page address that is used by the remapping functions */
  198. #define mk_pte_phys(physpage, pgprot) 
  199. ({ pte_t __pte; pte_val(__pte) = physpage + pgprot_val(pgprot); __pte; })
  200. #define pte_modify(_pte, newprot) 
  201. (__pte((pte_val(_pte) & _PAGE_CHG_MASK) | pgprot_val(newprot)))
  202. #define page_pte_prot(page,prot) mk_pte(page, prot)
  203. #define page_pte(page) page_pte_prot(page, __pgprot(0))
  204. #define pte_none(pte)  (!pte_val(pte))
  205. #define pte_present(pte) (pte_val(pte) & (_PAGE_P | _PAGE_PROTNONE))
  206. #define pte_clear(pte) (pte_val(*(pte)) = 0UL)
  207. /* pte_page() returns the "struct page *" corresponding to the PTE: */
  208. #define pte_page(pte) (mem_map + (unsigned long) ((pte_val(pte) & _PFN_MASK) >> PAGE_SHIFT))
  209. #define pmd_none(pmd) (!pmd_val(pmd))
  210. #define pmd_bad(pmd) (!ia64_phys_addr_valid(pmd_val(pmd)))
  211. #define pmd_present(pmd) (pmd_val(pmd) != 0UL)
  212. #define pmd_clear(pmdp) (pmd_val(*(pmdp)) = 0UL)
  213. #define pmd_page(pmd) ((unsigned long) __va(pmd_val(pmd) & _PFN_MASK))
  214. #define pgd_none(pgd) (!pgd_val(pgd))
  215. #define pgd_bad(pgd) (!ia64_phys_addr_valid(pgd_val(pgd)))
  216. #define pgd_present(pgd) (pgd_val(pgd) != 0UL)
  217. #define pgd_clear(pgdp) (pgd_val(*(pgdp)) = 0UL)
  218. #define pgd_page(pgd) ((unsigned long) __va(pgd_val(pgd) & _PFN_MASK))
  219. /*
  220.  * The following have defined behavior only work if pte_present() is true.
  221.  */
  222. #define pte_read(pte) (((pte_val(pte) & _PAGE_AR_MASK) >> _PAGE_AR_SHIFT) < 6)
  223. #define pte_write(pte) ((unsigned) (((pte_val(pte) & _PAGE_AR_MASK) >> _PAGE_AR_SHIFT) - 2) <= 4)
  224. #define pte_exec(pte) ((pte_val(pte) & _PAGE_AR_RX) != 0)
  225. #define pte_dirty(pte) ((pte_val(pte) & _PAGE_D) != 0)
  226. #define pte_young(pte) ((pte_val(pte) & _PAGE_A) != 0)
  227. /*
  228.  * Note: we convert AR_RWX to AR_RX and AR_RW to AR_R by clearing the 2nd bit in the
  229.  * access rights:
  230.  */
  231. #define pte_wrprotect(pte) (__pte(pte_val(pte) & ~_PAGE_AR_RW))
  232. #define pte_mkwrite(pte) (__pte(pte_val(pte) | _PAGE_AR_RW))
  233. #define pte_mkexec(pte) (__pte(pte_val(pte) | _PAGE_AR_RX))
  234. #define pte_mkold(pte) (__pte(pte_val(pte) & ~_PAGE_A))
  235. #define pte_mkyoung(pte) (__pte(pte_val(pte) | _PAGE_A))
  236. #define pte_mkclean(pte) (__pte(pte_val(pte) & ~_PAGE_D))
  237. #define pte_mkdirty(pte) (__pte(pte_val(pte) | _PAGE_D))
  238. /*
  239.  * Macro to make mark a page protection value as "uncacheable".  Note
  240.  * that "protection" is really a misnomer here as the protection value
  241.  * contains the memory attribute bits, dirty bits, and various other
  242.  * bits as well.
  243.  */
  244. #define pgprot_noncached(prot) __pgprot((pgprot_val(prot) & ~_PAGE_MA_MASK) | _PAGE_MA_UC)
  245. /*
  246.  * Macro to make mark a page protection value as "write-combining".
  247.  * Note that "protection" is really a misnomer here as the protection
  248.  * value contains the memory attribute bits, dirty bits, and various
  249.  * other bits as well.  Accesses through a write-combining translation
  250.  * works bypasses the caches, but does allow for consecutive writes to
  251.  * be combined into single (but larger) write transactions.
  252.  */
  253. #ifdef CONFIG_MCKINLEY_A0_SPECIFIC
  254. # define pgprot_writecombine(prot) prot
  255. #else
  256. # define pgprot_writecombine(prot) __pgprot((pgprot_val(prot) & ~_PAGE_MA_MASK) | _PAGE_MA_WC)
  257. #endif
  258. /*
  259.  * Return the region index for virtual address ADDRESS.
  260.  */
  261. static inline unsigned long
  262. rgn_index (unsigned long address)
  263. {
  264. ia64_va a;
  265. a.l = address;
  266. return a.f.reg;
  267. }
  268. /*
  269.  * Return the region offset for virtual address ADDRESS.
  270.  */
  271. static inline unsigned long
  272. rgn_offset (unsigned long address)
  273. {
  274. ia64_va a;
  275. a.l = address;
  276. return a.f.off;
  277. }
  278. static inline unsigned long
  279. pgd_index (unsigned long address)
  280. {
  281. unsigned long region = address >> 61;
  282. unsigned long l1index = (address >> PGDIR_SHIFT) & ((PTRS_PER_PGD >> 3) - 1);
  283. return (region << (PAGE_SHIFT - 6)) | l1index;
  284. }
  285. /* The offset in the 1-level directory is given by the 3 region bits
  286.    (61..63) and the seven level-1 bits (33-39).  */
  287. static inline pgd_t*
  288. pgd_offset (struct mm_struct *mm, unsigned long address)
  289. {
  290. return mm->pgd + pgd_index(address);
  291. }
  292. /* In the kernel's mapped region we have a full 43 bit space available and completely
  293.    ignore the region number (since we know its in region number 5). */
  294. #define pgd_offset_k(addr) 
  295. (init_mm.pgd + (((addr) >> PGDIR_SHIFT) & (PTRS_PER_PGD - 1)))
  296. /* Find an entry in the second-level page table.. */
  297. #define pmd_offset(dir,addr) 
  298. ((pmd_t *) pgd_page(*(dir)) + (((addr) >> PMD_SHIFT) & (PTRS_PER_PMD - 1)))
  299. /* Find an entry in the third-level page table.. */
  300. #define pte_offset(dir,addr) 
  301. ((pte_t *) pmd_page(*(dir)) + (((addr) >> PAGE_SHIFT) & (PTRS_PER_PTE - 1)))
  302. /* atomic versions of the some PTE manipulations: */
  303. static inline int
  304. ptep_test_and_clear_young (pte_t *ptep)
  305. {
  306. #ifdef CONFIG_SMP
  307. return test_and_clear_bit(_PAGE_A_BIT, ptep);
  308. #else
  309. pte_t pte = *ptep;
  310. if (!pte_young(pte))
  311. return 0;
  312. set_pte(ptep, pte_mkold(pte));
  313. return 1;
  314. #endif
  315. }
  316. static inline int
  317. ptep_test_and_clear_dirty (pte_t *ptep)
  318. {
  319. #ifdef CONFIG_SMP
  320. return test_and_clear_bit(_PAGE_D_BIT, ptep);
  321. #else
  322. pte_t pte = *ptep;
  323. if (!pte_dirty(pte))
  324. return 0;
  325. set_pte(ptep, pte_mkclean(pte));
  326. return 1;
  327. #endif
  328. }
  329. static inline pte_t
  330. ptep_get_and_clear (pte_t *ptep)
  331. {
  332. #ifdef CONFIG_SMP
  333. return __pte(xchg((long *) ptep, 0));
  334. #else
  335. pte_t pte = *ptep;
  336. pte_clear(ptep);
  337. return pte;
  338. #endif
  339. }
  340. static inline void
  341. ptep_set_wrprotect (pte_t *ptep)
  342. {
  343. #ifdef CONFIG_SMP
  344. unsigned long new, old;
  345. do {
  346. old = pte_val(*ptep);
  347. new = pte_val(pte_wrprotect(__pte (old)));
  348. } while (cmpxchg((unsigned long *) ptep, old, new) != old);
  349. #else
  350. pte_t old_pte = *ptep;
  351. set_pte(ptep, pte_wrprotect(old_pte));
  352. #endif
  353. }
  354. static inline void
  355. ptep_mkdirty (pte_t *ptep)
  356. {
  357. #ifdef CONFIG_SMP
  358. set_bit(_PAGE_D_BIT, ptep);
  359. #else
  360. pte_t old_pte = *ptep;
  361. set_pte(ptep, pte_mkdirty(old_pte));
  362. #endif
  363. }
  364. static inline int
  365. pte_same (pte_t a, pte_t b)
  366. {
  367. return pte_val(a) == pte_val(b);
  368. }
  369. /*
  370.  * Macros to check the type of access that triggered a page fault.
  371.  */
  372. static inline int
  373. is_write_access (int access_type)
  374. {
  375. return (access_type & 0x2);
  376. }
  377. static inline int
  378. is_exec_access (int access_type)
  379. {
  380. return (access_type & 0x4);
  381. }
  382. extern pgd_t swapper_pg_dir[PTRS_PER_PGD];
  383. extern void paging_init (void);
  384. #define SWP_TYPE(entry) (((entry).val >> 1) & 0xff)
  385. #define SWP_OFFSET(entry) (((entry).val << 1) >> 10)
  386. #define SWP_ENTRY(type,offset) ((swp_entry_t) { ((type) << 1) | ((long) (offset) << 9) })
  387. #define pte_to_swp_entry(pte) ((swp_entry_t) { pte_val(pte) })
  388. #define swp_entry_to_pte(x) ((pte_t) { (x).val })
  389. /* Needs to be defined here and not in linux/mm.h, as it is arch dependent */
  390. #define PageSkip(page) (0)
  391. #define io_remap_page_range remap_page_range /* XXX is this right? */
  392. /*
  393.  * ZERO_PAGE is a global shared page that is always zero: used
  394.  * for zero-mapped memory areas etc..
  395.  */
  396. extern unsigned long empty_zero_page[PAGE_SIZE/sizeof(unsigned long)];
  397. #define ZERO_PAGE(vaddr) (virt_to_page(empty_zero_page))
  398. /* We provide our own get_unmapped_area to cope with VA holes for userland */
  399. #define HAVE_ARCH_UNMAPPED_AREA
  400. # endif /* !__ASSEMBLY__ */
  401. /*
  402.  * Identity-mapped regions use a large page size.  We'll call such large pages
  403.  * "granules".  If you can think of a better name that's unambiguous, let me
  404.  * know...
  405.  */
  406. #if defined(CONFIG_IA64_GRANULE_64MB)
  407. # define IA64_GRANULE_SHIFT _PAGE_SIZE_64M
  408. #elif defined(CONFIG_IA64_GRANULE_16MB)
  409. # define IA64_GRANULE_SHIFT _PAGE_SIZE_16M
  410. #endif
  411. #define IA64_GRANULE_SIZE (1 << IA64_GRANULE_SHIFT)
  412. /*
  413.  * log2() of the page size we use to map the kernel image (IA64_TR_KERNEL):
  414.  */
  415. #define KERNEL_TR_PAGE_SHIFT _PAGE_SIZE_64M
  416. #define KERNEL_TR_PAGE_SIZE (1 << KERNEL_TR_PAGE_SHIFT)
  417. #define KERNEL_TR_PAGE_NUM ((KERNEL_START - PAGE_OFFSET) / KERNEL_TR_PAGE_SIZE)
  418. /*
  419.  * No page table caches to initialise
  420.  */
  421. #define pgtable_cache_init() do { } while (0)
  422. #endif /* _ASM_IA64_PGTABLE_H */