pgtable.c
上传用户:lgb322
上传日期:2013-02-24
资源大小:30529k
文件大小:10k
源码类别:

嵌入式Linux

开发平台:

Unix_Linux

  1. /*
  2.  * BK Id: %F% %I% %G% %U% %#%
  3.  */
  4. /*
  5.  * This file contains the routines setting up the linux page tables.
  6.  *  -- paulus
  7.  * 
  8.  *  Derived from arch/ppc/mm/init.c:
  9.  *    Copyright (C) 1995-1996 Gary Thomas (gdt@linuxppc.org)
  10.  *
  11.  *  Modifications by Paul Mackerras (PowerMac) (paulus@cs.anu.edu.au)
  12.  *  and Cort Dougan (PReP) (cort@cs.nmt.edu)
  13.  *    Copyright (C) 1996 Paul Mackerras
  14.  *  Amiga/APUS changes by Jesper Skov (jskov@cygnus.co.uk).
  15.  *
  16.  *  Derived from "arch/i386/mm/init.c"
  17.  *    Copyright (C) 1991, 1992, 1993, 1994  Linus Torvalds
  18.  *
  19.  *  This program is free software; you can redistribute it and/or
  20.  *  modify it under the terms of the GNU General Public License
  21.  *  as published by the Free Software Foundation; either version
  22.  *  2 of the License, or (at your option) any later version.
  23.  *
  24.  */
  25. #include <linux/config.h>
  26. #include <linux/kernel.h>
  27. #include <linux/types.h>
  28. #include <linux/vmalloc.h>
  29. #include <linux/init.h>
  30. #include <asm/pgtable.h>
  31. #include <asm/pgalloc.h>
  32. #include <asm/io.h>
  33. #include "mmu_decl.h"
  34. unsigned long ram_phys_base;
  35. unsigned long ioremap_base;
  36. unsigned long ioremap_bot;
  37. int io_bat_index;
  38. /* Maximum 768Mb of lowmem. On SMP, this value will be
  39.  * trimmed down to whatever can be covered by BATs though.
  40.  */
  41. #define MAX_LOW_MEM 0x30000000
  42. #ifndef CONFIG_SMP
  43. struct pgtable_cache_struct quicklists;
  44. #endif
  45. #if defined(CONFIG_6xx) || defined(CONFIG_POWER3)
  46. #define HAVE_BATS 1
  47. #endif
  48. #ifdef HAVE_BATS
  49. static unsigned long __bat2, __bat3;
  50. #endif
  51. extern char etext[], _stext[];
  52. #ifdef HAVE_BATS
  53. extern unsigned long v_mapped_by_bats(unsigned long va);
  54. extern unsigned long p_mapped_by_bats(unsigned long pa);
  55. void setbat(int index, unsigned long virt, unsigned long phys,
  56.     unsigned int size, int flags);
  57. #else /* !HAVE_BATS */
  58. #define v_mapped_by_bats(x) (0UL)
  59. #define p_mapped_by_bats(x) (0UL)
  60. #endif /* HAVE_BATS */
  61. #ifndef CONFIG_PPC_ISERIES
  62. void *
  63. ioremap(unsigned long addr, unsigned long size)
  64. {
  65. return __ioremap(addr, size, _PAGE_NO_CACHE);
  66. }
  67. void *
  68. __ioremap(unsigned long addr, unsigned long size, unsigned long flags)
  69. {
  70. unsigned long p, v, i;
  71. int err;
  72. /*
  73.  * Choose an address to map it to.
  74.  * Once the vmalloc system is running, we use it.
  75.  * Before then, we use space going down from ioremap_base
  76.  * (ioremap_bot records where we're up to).
  77.  */
  78. p = addr & PAGE_MASK;
  79. size = PAGE_ALIGN(addr + size) - p;
  80. /*
  81.  * If the address lies within the first 16 MB, assume it's in ISA
  82.  * memory space
  83.  */
  84. if (p < 16*1024*1024)
  85. p += _ISA_MEM_BASE;
  86. /*
  87.  * Don't allow anybody to remap normal RAM that we're using.
  88.  * mem_init() sets high_memory so only do the check after that.
  89.  */
  90. if ( mem_init_done && (p < virt_to_phys(high_memory)) )
  91. {
  92. printk("__ioremap(): phys addr %0lx is RAM lr %pn", p,
  93.        __builtin_return_address(0));
  94. return NULL;
  95. }
  96. if (size == 0)
  97. return NULL;
  98. /*
  99.  * Is it already mapped?  Perhaps overlapped by a previous
  100.  * BAT mapping.  If the whole area is mapped then we're done,
  101.  * otherwise remap it since we want to keep the virt addrs for
  102.  * each request contiguous.
  103.  *
  104.  * We make the assumption here that if the bottom and top
  105.  * of the range we want are mapped then it's mapped to the
  106.  * same virt address (and this is contiguous).
  107.  *  -- Cort
  108.  */
  109. if ((v = p_mapped_by_bats(p)) /*&& p_mapped_by_bats(p+size-1)*/ )
  110. goto out;
  111. if (mem_init_done) {
  112. struct vm_struct *area;
  113. area = get_vm_area(size, VM_IOREMAP);
  114. if (area == 0)
  115. return NULL;
  116. v = VMALLOC_VMADDR(area->addr);
  117. } else {
  118. v = (ioremap_bot -= size);
  119. }
  120. if ((flags & _PAGE_PRESENT) == 0)
  121. flags |= _PAGE_KERNEL;
  122. if (flags & _PAGE_NO_CACHE)
  123. flags |= _PAGE_GUARDED;
  124. /*
  125.  * Should check if it is a candidate for a BAT mapping
  126.  */
  127. err = 0;
  128. for (i = 0; i < size && err == 0; i += PAGE_SIZE)
  129. err = map_page(v+i, p+i, flags);
  130. if (err) {
  131. if (mem_init_done)
  132. vfree((void *)v);
  133. return NULL;
  134. }
  135. out:
  136. return (void *) (v + (addr & ~PAGE_MASK));
  137. }
  138. void iounmap(void *addr)
  139. {
  140. /*
  141.  * If mapped by BATs then there is nothing to do.
  142.  * Calling vfree() generates a benign warning.
  143.  */
  144. if (v_mapped_by_bats((unsigned long)addr)) return;
  145. if (addr > high_memory && (unsigned long) addr < ioremap_bot)
  146. vfree((void *) (PAGE_MASK & (unsigned long) addr));
  147. }
  148. #endif /* CONFIG_PPC_ISERIES */
  149. int
  150. map_page(unsigned long va, unsigned long pa, int flags)
  151. {
  152. pmd_t *pd;
  153. pte_t *pg;
  154. int err = -ENOMEM;
  155. spin_lock(&init_mm.page_table_lock);
  156. /* Use upper 10 bits of VA to index the first level map */
  157. pd = pmd_offset(pgd_offset_k(va), va);
  158. /* Use middle 10 bits of VA to index the second-level map */
  159. pg = pte_alloc(&init_mm, pd, va);
  160. if (pg != 0) {
  161. err = 0;
  162. set_pte(pg, mk_pte_phys(pa & PAGE_MASK, __pgprot(flags)));
  163. if (mem_init_done)
  164. flush_HPTE(0, va, pg);
  165. }
  166. spin_unlock(&init_mm.page_table_lock);
  167. return err;
  168. }
  169. void __init
  170. adjust_total_lowmem(void)
  171. {
  172. unsigned long max_low_mem = MAX_LOW_MEM;
  173. #ifdef HAVE_BATS
  174. unsigned long bat_max = 0x10000000;
  175. unsigned long align;
  176. unsigned long ram = total_lowmem;
  177. int is601 = 0;
  178. /* 601s have smaller BATs */
  179. if (PVR_VER(mfspr(PVR)) == 1) {
  180. bat_max = 0x00800000;
  181. is601 = 1;
  182. }
  183. /* Make sure we don't map a block larger than the
  184.    smallest alignment of the physical address. */
  185. /* alignment of ram_phys_base */
  186. align = ~(ram_phys_base-1) & ram_phys_base;
  187. /* set BAT block size to MIN(max_size, align) */
  188. if (align && align < bat_max)
  189. bat_max = align;
  190. /* Calculate BAT values */
  191. __bat2 = 1UL << __ilog2(ram);
  192. if (__bat2 > bat_max)
  193. __bat2 = bat_max;
  194. ram -= __bat2;
  195. if (ram) {
  196. __bat3 = 1UL << __ilog2(ram);
  197. if (__bat3 > bat_max)
  198. __bat3 = bat_max;
  199. ram -= __bat3;
  200. }
  201. printk(KERN_INFO "Memory BAT mapping: BAT2=%ldMb, BAT3=%ldMb, residual: %ldMbn",
  202. __bat2 >> 20, __bat3 >> 20, ram >> 20);
  203. /* On SMP, we limit the lowmem to the area mapped with BATs.
  204.  * We also assume nobody will do SMP with 601s
  205.  */
  206. #ifdef CONFIG_SMP
  207. if (!is601)
  208. max_low_mem = __bat2 + __bat3;
  209. #endif /* CONFIG_SMP */
  210. #endif /* HAVE_BATS */
  211. if (total_lowmem > max_low_mem) {
  212. total_lowmem = max_low_mem;
  213. #ifndef CONFIG_HIGHMEM
  214. printk(KERN_INFO "Warning, memory limited to %ld Mb, use CONFIG_HIGHMEM"
  215. " to reach %ld Mbn", max_low_mem >> 20, total_lowmem >> 20);
  216. total_memory = total_lowmem;
  217. #endif /* CONFIG_HIGHMEM */
  218. }
  219. }
  220. /*
  221.  * Map in all of physical memory starting at KERNELBASE.
  222.  */
  223. void __init mapin_ram(void)
  224. {
  225. unsigned long v, p, s, f;
  226. #ifdef HAVE_BATS
  227. if (!__map_without_bats)
  228. bat_mapin_ram(__bat2, __bat3);
  229. #endif /* HAVE_BATS */
  230. v = KERNELBASE;
  231. p = ram_phys_base;
  232. for (s = 0; s < total_lowmem; s += PAGE_SIZE) {
  233. /* On the MPC8xx, we want the page shared so we
  234.  * don't get ASID compares on kernel space.
  235.  */
  236. f = _PAGE_PRESENT | _PAGE_ACCESSED | _PAGE_SHARED;
  237. #if defined(CONFIG_KGDB) || defined(CONFIG_XMON)
  238. /* Allows stub to set breakpoints everywhere */
  239. f |= _PAGE_RW | _PAGE_DIRTY;
  240. #else
  241. if ((char *) v < _stext || (char *) v >= etext)
  242. f |= _PAGE_RW | _PAGE_DIRTY;
  243. #ifdef CONFIG_PPC_STD_MMU
  244. else
  245. /* On the powerpc (not all), no user access
  246.    forces R/W kernel access */
  247. f |= _PAGE_USER;
  248. #endif /* CONFIG_PPC_STD_MMU */
  249. #endif /* CONFIG_KGDB */
  250. map_page(v, p, f);
  251. v += PAGE_SIZE;
  252. p += PAGE_SIZE;
  253. }
  254. }
  255. /* is x a power of 2? */
  256. #define is_power_of_2(x) ((x) != 0 && (((x) & ((x) - 1)) == 0))
  257. /*
  258.  * Set up a mapping for a block of I/O.
  259.  * virt, phys, size must all be page-aligned.
  260.  * This should only be called before ioremap is called.
  261.  */
  262. void __init io_block_mapping(unsigned long virt, unsigned long phys,
  263.      unsigned int size, int flags)
  264. {
  265. int i;
  266. if (virt > KERNELBASE && virt < ioremap_bot)
  267. ioremap_bot = ioremap_base = virt;
  268. #ifdef HAVE_BATS
  269. /*
  270.  * Use a BAT for this if possible...
  271.  */
  272. if (io_bat_index < 2 && is_power_of_2(size)
  273.     && (virt & (size - 1)) == 0 && (phys & (size - 1)) == 0) {
  274. setbat(io_bat_index, virt, phys, size, flags);
  275. ++io_bat_index;
  276. return;
  277. }
  278. #endif /* HAVE_BATS */
  279. /* No BATs available, put it in the page tables. */
  280. for (i = 0; i < size; i += PAGE_SIZE)
  281. map_page(virt + i, phys + i, flags);
  282. }
  283. /* Scan the real Linux page tables and return a PTE pointer for
  284.  * a virtual address in a context.
  285.  * Returns true (1) if PTE was found, zero otherwise.  The pointer to
  286.  * the PTE pointer is unmodified if PTE is not found.
  287.  */
  288. int
  289. get_pteptr(struct mm_struct *mm, unsigned long addr, pte_t **ptep)
  290. {
  291.         pgd_t *pgd;
  292.         pmd_t *pmd;
  293.         pte_t *pte;
  294.         int     retval = 0;
  295.         pgd = pgd_offset(mm, addr & PAGE_MASK);
  296.         if (pgd) {
  297.                 pmd = pmd_offset(pgd, addr & PAGE_MASK);
  298.                 if (pmd_present(*pmd)) {
  299.                         pte = pte_offset(pmd, addr & PAGE_MASK);
  300.                         if (pte) {
  301. retval = 1;
  302. *ptep = pte;
  303.                         }
  304.                 }
  305.         }
  306.         return(retval);
  307. }
  308. /* Find physical address for this virtual address.  Normally used by
  309.  * I/O functions, but anyone can call it.
  310.  */
  311. unsigned long iopa(unsigned long addr)
  312. {
  313. unsigned long pa;
  314. /* I don't know why this won't work on PMacs or CHRP.  It
  315.  * appears there is some bug, or there is some implicit
  316.  * mapping done not properly represented by BATs or in page
  317.  * tables.......I am actively working on resolving this, but
  318.  * can't hold up other stuff.  -- Dan
  319.  */
  320. pte_t *pte;
  321. struct mm_struct *mm;
  322. /* Check the BATs */
  323. pa = v_mapped_by_bats(addr);
  324. if (pa)
  325. return pa;
  326. /* Allow mapping of user addresses (within the thread)
  327.  * for DMA if necessary.
  328.  */
  329. if (addr < TASK_SIZE)
  330. mm = current->mm;
  331. else
  332. mm = &init_mm;
  333. pa = 0;
  334. if (get_pteptr(mm, addr, &pte))
  335. pa = (pte_val(*pte) & PAGE_MASK) | (addr & ~PAGE_MASK);
  336. return(pa);
  337. }
  338. /* This is will find the virtual address for a physical one....
  339.  * Swiped from APUS, could be dangerous :-).
  340.  * This is only a placeholder until I really find a way to make this
  341.  * work.  -- Dan
  342.  */
  343. unsigned long
  344. mm_ptov (unsigned long paddr)
  345. {
  346. unsigned long ret;
  347. #if 0
  348. if (paddr < 16*1024*1024)
  349. ret = ZTWO_VADDR(paddr);
  350. else {
  351. int i;
  352. for (i = 0; i < kmap_chunk_count;){
  353. unsigned long phys = kmap_chunks[i++];
  354. unsigned long size = kmap_chunks[i++];
  355. unsigned long virt = kmap_chunks[i++];
  356. if (paddr >= phys
  357.     && paddr < (phys + size)){
  358. ret = virt + paddr - phys;
  359. goto exit;
  360. }
  361. }
  362. ret = (unsigned long) __va(paddr);
  363. }
  364. exit:
  365. #ifdef DEBUGPV
  366. printk ("PTOV(%lx)=%lxn", paddr, ret);
  367. #endif
  368. #else
  369. ret = (unsigned long)paddr + KERNELBASE;
  370. #endif
  371. return ret;
  372. }