apic.c
上传用户:jlfgdled
上传日期:2013-04-10
资源大小:33168k
文件大小:29k
源码类别:

Linux/Unix编程

开发平台:

Unix_Linux

  1. /*
  2.  * Local APIC handling, local APIC timers
  3.  *
  4.  * (c) 1999, 2000 Ingo Molnar <mingo@redhat.com>
  5.  *
  6.  * Fixes
  7.  * Maciej W. Rozycki : Bits for genuine 82489DX APICs;
  8.  * thanks to Eric Gilmore
  9.  * and Rolf G. Tews
  10.  * for testing these extensively.
  11.  * Maciej W. Rozycki : Various updates and fixes.
  12.  * Mikael Pettersson : Power Management for UP-APIC.
  13.  */
  14. #include <linux/config.h>
  15. #include <linux/init.h>
  16. #include <linux/mm.h>
  17. #include <linux/irq.h>
  18. #include <linux/delay.h>
  19. #include <linux/bootmem.h>
  20. #include <linux/smp_lock.h>
  21. #include <linux/interrupt.h>
  22. #include <linux/mc146818rtc.h>
  23. #include <linux/kernel_stat.h>
  24. #include <asm/atomic.h>
  25. #include <asm/smp.h>
  26. #include <asm/mtrr.h>
  27. #include <asm/mpspec.h>
  28. #include <asm/pgalloc.h>
  29. #include <asm/smpboot.h>
  30. /* Using APIC to generate smp_local_timer_interrupt? */
  31. int using_apic_timer = 0;
  32. int prof_multiplier[NR_CPUS] = { 1, };
  33. int prof_old_multiplier[NR_CPUS] = { 1, };
  34. int prof_counter[NR_CPUS] = { 1, };
  35. int get_maxlvt(void)
  36. {
  37. unsigned int v, ver, maxlvt;
  38. v = apic_read(APIC_LVR);
  39. ver = GET_APIC_VERSION(v);
  40. /* 82489DXs do not report # of LVT entries. */
  41. maxlvt = APIC_INTEGRATED(ver) ? GET_APIC_MAXLVT(v) : 2;
  42. return maxlvt;
  43. }
  44. void clear_local_APIC(void)
  45. {
  46. int maxlvt;
  47. unsigned long v;
  48. maxlvt = get_maxlvt();
  49. /*
  50.  * Masking an LVT entry on a P6 can trigger a local APIC error
  51.  * if the vector is zero. Mask LVTERR first to prevent this.
  52.  */
  53. if (maxlvt >= 3) {
  54. v = ERROR_APIC_VECTOR; /* any non-zero vector will do */
  55. apic_write_around(APIC_LVTERR, v | APIC_LVT_MASKED);
  56. }
  57. /*
  58.  * Careful: we have to set masks only first to deassert
  59.  * any level-triggered sources.
  60.  */
  61. v = apic_read(APIC_LVTT);
  62. apic_write_around(APIC_LVTT, v | APIC_LVT_MASKED);
  63. v = apic_read(APIC_LVT0);
  64. apic_write_around(APIC_LVT0, v | APIC_LVT_MASKED);
  65. v = apic_read(APIC_LVT1);
  66. apic_write_around(APIC_LVT1, v | APIC_LVT_MASKED);
  67. if (maxlvt >= 4) {
  68. v = apic_read(APIC_LVTPC);
  69. apic_write_around(APIC_LVTPC, v | APIC_LVT_MASKED);
  70. }
  71. /*
  72.  * Clean APIC state for other OSs:
  73.  */
  74. apic_write_around(APIC_LVTT, APIC_LVT_MASKED);
  75. apic_write_around(APIC_LVT0, APIC_LVT_MASKED);
  76. apic_write_around(APIC_LVT1, APIC_LVT_MASKED);
  77. if (maxlvt >= 3)
  78. apic_write_around(APIC_LVTERR, APIC_LVT_MASKED);
  79. if (maxlvt >= 4)
  80. apic_write_around(APIC_LVTPC, APIC_LVT_MASKED);
  81. v = GET_APIC_VERSION(apic_read(APIC_LVR));
  82. if (APIC_INTEGRATED(v)) { /* !82489DX */
  83. if (maxlvt > 3)
  84. apic_write(APIC_ESR, 0);
  85. apic_read(APIC_ESR);
  86. }
  87. }
  88. void __init connect_bsp_APIC(void)
  89. {
  90. if (pic_mode) {
  91. /*
  92.  * Do not trust the local APIC being empty at bootup.
  93.  */
  94. clear_local_APIC();
  95. /*
  96.  * PIC mode, enable APIC mode in the IMCR, i.e.
  97.  * connect BSP's local APIC to INT and NMI lines.
  98.  */
  99. printk("leaving PIC mode, enabling APIC mode.n");
  100. outb(0x70, 0x22);
  101. outb(0x01, 0x23);
  102. }
  103. }
  104. void disconnect_bsp_APIC(void)
  105. {
  106. if (pic_mode) {
  107. /*
  108.  * Put the board back into PIC mode (has an effect
  109.  * only on certain older boards).  Note that APIC
  110.  * interrupts, including IPIs, won't work beyond
  111.  * this point!  The only exception are INIT IPIs.
  112.  */
  113. printk("disabling APIC mode, entering PIC mode.n");
  114. outb(0x70, 0x22);
  115. outb(0x00, 0x23);
  116. }
  117. }
  118. void disable_local_APIC(void)
  119. {
  120. unsigned long value;
  121. clear_local_APIC();
  122. /*
  123.  * Disable APIC (implies clearing of registers
  124.  * for 82489DX!).
  125.  */
  126. value = apic_read(APIC_SPIV);
  127. value &= ~APIC_SPIV_APIC_ENABLED;
  128. apic_write_around(APIC_SPIV, value);
  129. }
  130. /*
  131.  * This is to verify that we're looking at a real local APIC.
  132.  * Check these against your board if the CPUs aren't getting
  133.  * started for no apparent reason.
  134.  */
  135. int __init verify_local_APIC(void)
  136. {
  137. unsigned int reg0, reg1;
  138. /*
  139.  * The version register is read-only in a real APIC.
  140.  */
  141. reg0 = apic_read(APIC_LVR);
  142. Dprintk("Getting VERSION: %xn", reg0);
  143. apic_write(APIC_LVR, reg0 ^ APIC_LVR_MASK);
  144. reg1 = apic_read(APIC_LVR);
  145. Dprintk("Getting VERSION: %xn", reg1);
  146. /*
  147.  * The two version reads above should print the same
  148.  * numbers.  If the second one is different, then we
  149.  * poke at a non-APIC.
  150.  */
  151. if (reg1 != reg0)
  152. return 0;
  153. /*
  154.  * Check if the version looks reasonably.
  155.  */
  156. reg1 = GET_APIC_VERSION(reg0);
  157. if (reg1 == 0x00 || reg1 == 0xff)
  158. return 0;
  159. reg1 = get_maxlvt();
  160. if (reg1 < 0x02 || reg1 == 0xff)
  161. return 0;
  162. /*
  163.  * The ID register is read/write in a real APIC.
  164.  */
  165. reg0 = apic_read(APIC_ID);
  166. Dprintk("Getting ID: %xn", reg0);
  167. apic_write(APIC_ID, reg0 ^ APIC_ID_MASK);
  168. reg1 = apic_read(APIC_ID);
  169. Dprintk("Getting ID: %xn", reg1);
  170. apic_write(APIC_ID, reg0);
  171. if (reg1 != (reg0 ^ APIC_ID_MASK))
  172. return 0;
  173. /*
  174.  * The next two are just to see if we have sane values.
  175.  * They're only really relevant if we're in Virtual Wire
  176.  * compatibility mode, but most boxes are anymore.
  177.  */
  178. reg0 = apic_read(APIC_LVT0);
  179. Dprintk("Getting LVT0: %xn", reg0);
  180. reg1 = apic_read(APIC_LVT1);
  181. Dprintk("Getting LVT1: %xn", reg1);
  182. return 1;
  183. }
  184. void __init sync_Arb_IDs(void)
  185. {
  186. /*
  187.  * Wait for idle.
  188.  */
  189. apic_wait_icr_idle();
  190. Dprintk("Synchronizing Arb IDs.n");
  191. apic_write_around(APIC_ICR, APIC_DEST_ALLINC | APIC_INT_LEVELTRIG
  192. | APIC_DM_INIT);
  193. }
  194. extern void __error_in_apic_c (void);
  195. /*
  196.  * An initial setup of the virtual wire mode.
  197.  */
  198. void __init init_bsp_APIC(void)
  199. {
  200. unsigned long value, ver;
  201. /*
  202.  * Don't do the setup now if we have a SMP BIOS as the
  203.  * through-I/O-APIC virtual wire mode might be active.
  204.  */
  205. if (smp_found_config || !cpu_has_apic)
  206. return;
  207. value = apic_read(APIC_LVR);
  208. ver = GET_APIC_VERSION(value);
  209. /*
  210.  * Do not trust the local APIC being empty at bootup.
  211.  */
  212. clear_local_APIC();
  213. /*
  214.  * Enable APIC.
  215.  */
  216. value = apic_read(APIC_SPIV);
  217. value &= ~APIC_VECTOR_MASK;
  218. value |= APIC_SPIV_APIC_ENABLED;
  219. value |= APIC_SPIV_FOCUS_DISABLED;
  220. value |= SPURIOUS_APIC_VECTOR;
  221. apic_write_around(APIC_SPIV, value);
  222. /*
  223.  * Set up the virtual wire mode.
  224.  */
  225. apic_write_around(APIC_LVT0, APIC_DM_EXTINT);
  226. value = APIC_DM_NMI;
  227. if (!APIC_INTEGRATED(ver)) /* 82489DX */
  228. value |= APIC_LVT_LEVEL_TRIGGER;
  229. apic_write_around(APIC_LVT1, value);
  230. }
  231. void __init setup_local_APIC (void)
  232. {
  233. unsigned long value, ver, maxlvt;
  234. /* Pound the ESR really hard over the head with a big hammer - mbligh */
  235. if (esr_disable) {
  236. apic_write(APIC_ESR, 0);
  237. apic_write(APIC_ESR, 0);
  238. apic_write(APIC_ESR, 0);
  239. apic_write(APIC_ESR, 0);
  240. }
  241. value = apic_read(APIC_LVR);
  242. ver = GET_APIC_VERSION(value);
  243. if ((SPURIOUS_APIC_VECTOR & 0x0f) != 0x0f)
  244. __error_in_apic_c();
  245. /*
  246.  * Double-check wether this APIC is really registered.
  247.  * This is meaningless in clustered apic mode, so we skip it.
  248.  */
  249. if (!clustered_apic_mode && 
  250.     !test_bit(GET_APIC_ID(apic_read(APIC_ID)), &phys_cpu_present_map))
  251. BUG();
  252. /*
  253.  * Intel recommends to set DFR, LDR and TPR before enabling
  254.  * an APIC.  See e.g. "AP-388 82489DX User's Manual" (Intel
  255.  * document number 292116).  So here it goes...
  256.  */
  257. if (clustered_apic_mode != CLUSTERED_APIC_NUMAQ) {
  258. /*
  259.  * For NUMA-Q (clustered apic logical), the firmware does this
  260.  * for us. Otherwise put the APIC into clustered or flat
  261.  * delivery mode. Must be "all ones" explicitly for 82489DX.
  262.  */
  263. apic_write_around(APIC_DFR, APIC_DFR_FLAT);
  264. /*
  265.  * Set up the logical destination ID.
  266.  */
  267. value = apic_read(APIC_LDR);
  268. value &= ~APIC_LDR_MASK;
  269. value |= (1<<(smp_processor_id()+24));
  270. apic_write_around(APIC_LDR, value);
  271. }
  272. /*
  273.  * Set Task Priority to 'accept all'. We never change this
  274.  * later on.
  275.  */
  276. value = apic_read(APIC_TASKPRI);
  277. value &= ~APIC_TPRI_MASK;
  278. apic_write_around(APIC_TASKPRI, value);
  279. /*
  280.  * Now that we are all set up, enable the APIC
  281.  */
  282. value = apic_read(APIC_SPIV);
  283. value &= ~APIC_VECTOR_MASK;
  284. /*
  285.  * Enable APIC
  286.  */
  287. value |= APIC_SPIV_APIC_ENABLED;
  288. /*
  289.  * Some unknown Intel IO/APIC (or APIC) errata is biting us with
  290.  * certain networking cards. If high frequency interrupts are
  291.  * happening on a particular IOAPIC pin, plus the IOAPIC routing
  292.  * entry is masked/unmasked at a high rate as well then sooner or
  293.  * later IOAPIC line gets 'stuck', no more interrupts are received
  294.  * from the device. If focus CPU is disabled then the hang goes
  295.  * away, oh well :-(
  296.  *
  297.  * [ This bug can be reproduced easily with a level-triggered
  298.  *   PCI Ne2000 networking cards and PII/PIII processors, dual
  299.  *   BX chipset. ]
  300.  */
  301. /*
  302.  * Actually disabling the focus CPU check just makes the hang less
  303.  * frequent as it makes the interrupt distributon model be more
  304.  * like LRU than MRU (the short-term load is more even across CPUs).
  305.  * See also the comment in end_level_ioapic_irq().  --macro
  306.  */
  307. #if 1
  308. /* Enable focus processor (bit==0) */
  309. value &= ~APIC_SPIV_FOCUS_DISABLED;
  310. #else
  311. /* Disable focus processor (bit==1) */
  312. value |= APIC_SPIV_FOCUS_DISABLED;
  313. #endif
  314. /*
  315.  * Set spurious IRQ vector
  316.  */
  317. value |= SPURIOUS_APIC_VECTOR;
  318. apic_write_around(APIC_SPIV, value);
  319. /*
  320.  * Set up LVT0, LVT1:
  321.  *
  322.  * set up through-local-APIC on the BP's LINT0. This is not
  323.  * strictly necessery in pure symmetric-IO mode, but sometimes
  324.  * we delegate interrupts to the 8259A.
  325.  */
  326. /*
  327.  * TODO: set up through-local-APIC from through-I/O-APIC? --macro
  328.  */
  329. value = apic_read(APIC_LVT0) & APIC_LVT_MASKED;
  330. if (!smp_processor_id() && (pic_mode || !value)) {
  331. value = APIC_DM_EXTINT;
  332. printk("enabled ExtINT on CPU#%dn", smp_processor_id());
  333. } else {
  334. value = APIC_DM_EXTINT | APIC_LVT_MASKED;
  335. printk("masked ExtINT on CPU#%dn", smp_processor_id());
  336. }
  337. apic_write_around(APIC_LVT0, value);
  338. /*
  339.  * only the BP should see the LINT1 NMI signal, obviously.
  340.  */
  341. if (!smp_processor_id())
  342. value = APIC_DM_NMI;
  343. else
  344. value = APIC_DM_NMI | APIC_LVT_MASKED;
  345. if (!APIC_INTEGRATED(ver)) /* 82489DX */
  346. value |= APIC_LVT_LEVEL_TRIGGER;
  347. apic_write_around(APIC_LVT1, value);
  348. if (APIC_INTEGRATED(ver) && !esr_disable) { /* !82489DX */
  349. maxlvt = get_maxlvt();
  350. if (maxlvt > 3) /* Due to the Pentium erratum 3AP. */
  351. apic_write(APIC_ESR, 0);
  352. value = apic_read(APIC_ESR);
  353. printk("ESR value before enabling vector: %08lxn", value);
  354. value = ERROR_APIC_VECTOR;      // enables sending errors
  355. apic_write_around(APIC_LVTERR, value);
  356. /*
  357.  * spec says clear errors after enabling vector.
  358.  */
  359. if (maxlvt > 3)
  360. apic_write(APIC_ESR, 0);
  361. value = apic_read(APIC_ESR);
  362. printk("ESR value after enabling vector: %08lxn", value);
  363. } else {
  364. if (esr_disable)
  365. /* 
  366.  * Something untraceble is creating bad interrupts on 
  367.  * secondary quads ... for the moment, just leave the
  368.  * ESR disabled - we can't do anything useful with the
  369.  * errors anyway - mbligh
  370.  */
  371. printk("Leaving ESR disabled.n");
  372. else 
  373. printk("No ESR for 82489DX.n");
  374. }
  375. if (nmi_watchdog == NMI_LOCAL_APIC)
  376. setup_apic_nmi_watchdog();
  377. }
  378. #ifdef CONFIG_PM
  379. #include <linux/slab.h>
  380. #include <linux/pm.h>
  381. static struct {
  382. /* 'active' is true if the local APIC was enabled by us and
  383.    not the BIOS; this signifies that we are also responsible
  384.    for disabling it before entering apm/acpi suspend */
  385. int active;
  386. /* 'perfctr_pmdev' is here because the current (2.4.1) PM
  387.    callback system doesn't handle hierarchical dependencies */
  388. struct pm_dev *perfctr_pmdev;
  389. /* r/w apic fields */
  390. unsigned int apic_id;
  391. unsigned int apic_taskpri;
  392. unsigned int apic_ldr;
  393. unsigned int apic_dfr;
  394. unsigned int apic_spiv;
  395. unsigned int apic_lvtt;
  396. unsigned int apic_lvtpc;
  397. unsigned int apic_lvt0;
  398. unsigned int apic_lvt1;
  399. unsigned int apic_lvterr;
  400. unsigned int apic_tmict;
  401. unsigned int apic_tdcr;
  402. } apic_pm_state;
  403. static void apic_pm_suspend(void *data)
  404. {
  405. unsigned int l, h;
  406. unsigned long flags;
  407. if (apic_pm_state.perfctr_pmdev)
  408. pm_send(apic_pm_state.perfctr_pmdev, PM_SUSPEND, data);
  409. apic_pm_state.apic_id = apic_read(APIC_ID);
  410. apic_pm_state.apic_taskpri = apic_read(APIC_TASKPRI);
  411. apic_pm_state.apic_ldr = apic_read(APIC_LDR);
  412. apic_pm_state.apic_dfr = apic_read(APIC_DFR);
  413. apic_pm_state.apic_spiv = apic_read(APIC_SPIV);
  414. apic_pm_state.apic_lvtt = apic_read(APIC_LVTT);
  415. apic_pm_state.apic_lvtpc = apic_read(APIC_LVTPC);
  416. apic_pm_state.apic_lvt0 = apic_read(APIC_LVT0);
  417. apic_pm_state.apic_lvt1 = apic_read(APIC_LVT1);
  418. apic_pm_state.apic_lvterr = apic_read(APIC_LVTERR);
  419. apic_pm_state.apic_tmict = apic_read(APIC_TMICT);
  420. apic_pm_state.apic_tdcr = apic_read(APIC_TDCR);
  421. __save_flags(flags);
  422. __cli();
  423. disable_local_APIC();
  424. rdmsr(MSR_IA32_APICBASE, l, h);
  425. l &= ~MSR_IA32_APICBASE_ENABLE;
  426. wrmsr(MSR_IA32_APICBASE, l, h);
  427. __restore_flags(flags);
  428. }
  429. static void apic_pm_resume(void *data)
  430. {
  431. unsigned int l, h;
  432. unsigned long flags;
  433. __save_flags(flags);
  434. __cli();
  435. rdmsr(MSR_IA32_APICBASE, l, h);
  436. l &= ~MSR_IA32_APICBASE_BASE;
  437. l |= MSR_IA32_APICBASE_ENABLE | APIC_DEFAULT_PHYS_BASE;
  438. wrmsr(MSR_IA32_APICBASE, l, h);
  439. apic_write(APIC_LVTERR, ERROR_APIC_VECTOR | APIC_LVT_MASKED);
  440. apic_write(APIC_ID, apic_pm_state.apic_id);
  441. apic_write(APIC_DFR, apic_pm_state.apic_dfr);
  442. apic_write(APIC_LDR, apic_pm_state.apic_ldr);
  443. apic_write(APIC_TASKPRI, apic_pm_state.apic_taskpri);
  444. apic_write(APIC_SPIV, apic_pm_state.apic_spiv);
  445. apic_write(APIC_LVT0, apic_pm_state.apic_lvt0);
  446. apic_write(APIC_LVT1, apic_pm_state.apic_lvt1);
  447. apic_write(APIC_LVTPC, apic_pm_state.apic_lvtpc);
  448. apic_write(APIC_LVTT, apic_pm_state.apic_lvtt);
  449. apic_write(APIC_TDCR, apic_pm_state.apic_tdcr);
  450. apic_write(APIC_TMICT, apic_pm_state.apic_tmict);
  451. apic_write(APIC_ESR, 0);
  452. apic_read(APIC_ESR);
  453. apic_write(APIC_LVTERR, apic_pm_state.apic_lvterr);
  454. apic_write(APIC_ESR, 0);
  455. apic_read(APIC_ESR);
  456. __restore_flags(flags);
  457. if (apic_pm_state.perfctr_pmdev)
  458. pm_send(apic_pm_state.perfctr_pmdev, PM_RESUME, data);
  459. }
  460. static int apic_pm_callback(struct pm_dev *dev, pm_request_t rqst, void *data)
  461. {
  462. switch (rqst) {
  463. case PM_SUSPEND:
  464. apic_pm_suspend(data);
  465. break;
  466. case PM_RESUME:
  467. apic_pm_resume(data);
  468. break;
  469. }
  470. return 0;
  471. }
  472. /* perfctr driver should call this instead of pm_register() */
  473. struct pm_dev *apic_pm_register(pm_dev_t type,
  474. unsigned long id,
  475. pm_callback callback)
  476. {
  477. struct pm_dev *dev;
  478. if (!apic_pm_state.active)
  479. return pm_register(type, id, callback);
  480. if (apic_pm_state.perfctr_pmdev)
  481. return NULL; /* we're busy */
  482. dev = kmalloc(sizeof(struct pm_dev), GFP_KERNEL);
  483. if (dev) {
  484. memset(dev, 0, sizeof(*dev));
  485. dev->type = type;
  486. dev->id = id;
  487. dev->callback = callback;
  488. apic_pm_state.perfctr_pmdev = dev;
  489. }
  490. return dev;
  491. }
  492. /* perfctr driver should call this instead of pm_unregister() */
  493. void apic_pm_unregister(struct pm_dev *dev)
  494. {
  495. if (!apic_pm_state.active) {
  496. pm_unregister(dev);
  497. } else if (dev == apic_pm_state.perfctr_pmdev) {
  498. apic_pm_state.perfctr_pmdev = NULL;
  499. kfree(dev);
  500. }
  501. }
  502. static void __init apic_pm_init1(void)
  503. {
  504. /* can't pm_register() at this early stage in the boot process
  505.    (causes an immediate reboot), so just set the flag */
  506. apic_pm_state.active = 1;
  507. }
  508. static void __init apic_pm_init2(void)
  509. {
  510. if (apic_pm_state.active)
  511. pm_register(PM_SYS_DEV, 0, apic_pm_callback);
  512. }
  513. #else /* CONFIG_PM */
  514. static inline void apic_pm_init1(void) { }
  515. static inline void apic_pm_init2(void) { }
  516. #endif /* CONFIG_PM */
  517. /*
  518.  * Detect and enable local APICs on non-SMP boards.
  519.  * Original code written by Keir Fraser.
  520.  */
  521. int dont_enable_local_apic __initdata = 0;
  522. static int __init detect_init_APIC (void)
  523. {
  524. u32 h, l, features;
  525. extern void get_cpu_vendor(struct cpuinfo_x86*);
  526. /* Disabled by DMI scan or kernel option? */
  527. if (dont_enable_local_apic)
  528. return -1;
  529. /* Workaround for us being called before identify_cpu(). */
  530. get_cpu_vendor(&boot_cpu_data);
  531. switch (boot_cpu_data.x86_vendor) {
  532. case X86_VENDOR_AMD:
  533. if (boot_cpu_data.x86 == 6 && boot_cpu_data.x86_model > 1)
  534. break;
  535. goto no_apic;
  536. case X86_VENDOR_INTEL:
  537. if (boot_cpu_data.x86 == 6 ||
  538.     (boot_cpu_data.x86 == 15 && cpu_has_apic) ||
  539.     (boot_cpu_data.x86 == 5 && cpu_has_apic))
  540. break;
  541. goto no_apic;
  542. default:
  543. goto no_apic;
  544. }
  545. if (!cpu_has_apic) {
  546. /*
  547.  * Some BIOSes disable the local APIC in the
  548.  * APIC_BASE MSR. This can only be done in
  549.  * software for Intel P6 and AMD K7 (Model > 1).
  550.  */
  551. rdmsr(MSR_IA32_APICBASE, l, h);
  552. if (!(l & MSR_IA32_APICBASE_ENABLE)) {
  553. printk("Local APIC disabled by BIOS -- reenabling.n");
  554. l &= ~MSR_IA32_APICBASE_BASE;
  555. l |= MSR_IA32_APICBASE_ENABLE | APIC_DEFAULT_PHYS_BASE;
  556. wrmsr(MSR_IA32_APICBASE, l, h);
  557. }
  558. }
  559. /*
  560.  * The APIC feature bit should now be enabled
  561.  * in `cpuid'
  562.  */
  563. features = cpuid_edx(1);
  564. if (!(features & (1 << X86_FEATURE_APIC))) {
  565. printk("Could not enable APIC!n");
  566. return -1;
  567. }
  568. set_bit(X86_FEATURE_APIC, &boot_cpu_data.x86_capability);
  569. mp_lapic_addr = APIC_DEFAULT_PHYS_BASE;
  570. boot_cpu_physical_apicid = 0;
  571. if (nmi_watchdog != NMI_NONE)
  572. nmi_watchdog = NMI_LOCAL_APIC;
  573. printk("Found and enabled local APIC!n");
  574. apic_pm_init1();
  575. return 0;
  576. no_apic:
  577. printk("No local APIC present or hardware disabledn");
  578. return -1;
  579. }
  580. void __init init_apic_mappings(void)
  581. {
  582. unsigned long apic_phys;
  583. /*
  584.  * If no local APIC can be found then set up a fake all
  585.  * zeroes page to simulate the local APIC and another
  586.  * one for the IO-APIC.
  587.  */
  588. if (!smp_found_config && detect_init_APIC()) {
  589. apic_phys = (unsigned long) alloc_bootmem_pages(PAGE_SIZE);
  590. apic_phys = __pa(apic_phys);
  591. } else
  592. apic_phys = mp_lapic_addr;
  593. set_fixmap_nocache(FIX_APIC_BASE, apic_phys);
  594. Dprintk("mapped APIC to %08lx (%08lx)n", APIC_BASE, apic_phys);
  595. /*
  596.  * Fetch the APIC ID of the BSP in case we have a
  597.  * default configuration (or the MP table is broken).
  598.  */
  599. if (boot_cpu_physical_apicid == -1U)
  600. boot_cpu_physical_apicid = GET_APIC_ID(apic_read(APIC_ID));
  601. #ifdef CONFIG_X86_IO_APIC
  602. {
  603. unsigned long ioapic_phys, idx = FIX_IO_APIC_BASE_0;
  604. int i;
  605. for (i = 0; i < nr_ioapics; i++) {
  606. if (smp_found_config) {
  607. ioapic_phys = mp_ioapics[i].mpc_apicaddr;
  608. if (!ioapic_phys) {
  609. printk(KERN_ERR "WARNING: bogus zero IO-APIC address found in MPTABLE, disabling IO/APIC support!n");
  610. smp_found_config = 0;
  611. skip_ioapic_setup = 1;
  612. goto fake_ioapic_page;
  613. }
  614. } else {
  615. fake_ioapic_page:
  616. ioapic_phys = (unsigned long) alloc_bootmem_pages(PAGE_SIZE);
  617. ioapic_phys = __pa(ioapic_phys);
  618. }
  619. set_fixmap_nocache(idx, ioapic_phys);
  620. Dprintk("mapped IOAPIC to %08lx (%08lx)n",
  621. __fix_to_virt(idx), ioapic_phys);
  622. idx++;
  623. }
  624. }
  625. #endif
  626. }
  627. /*
  628.  * This part sets up the APIC 32 bit clock in LVTT1, with HZ interrupts
  629.  * per second. We assume that the caller has already set up the local
  630.  * APIC.
  631.  *
  632.  * The APIC timer is not exactly sync with the external timer chip, it
  633.  * closely follows bus clocks.
  634.  */
  635. /*
  636.  * The timer chip is already set up at HZ interrupts per second here,
  637.  * but we do not accept timer interrupts yet. We only allow the BP
  638.  * to calibrate.
  639.  */
  640. static unsigned int __init get_8254_timer_count(void)
  641. {
  642. extern spinlock_t i8253_lock;
  643. unsigned long flags;
  644. unsigned int count;
  645. spin_lock_irqsave(&i8253_lock, flags);
  646. outb_p(0x00, 0x43);
  647. count = inb_p(0x40);
  648. count |= inb_p(0x40) << 8;
  649. spin_unlock_irqrestore(&i8253_lock, flags);
  650. return count;
  651. }
  652. void __init wait_8254_wraparound(void)
  653. {
  654. unsigned int curr_count, prev_count=~0;
  655. int delta;
  656. curr_count = get_8254_timer_count();
  657. do {
  658. prev_count = curr_count;
  659. curr_count = get_8254_timer_count();
  660. delta = curr_count-prev_count;
  661. /*
  662.  * This limit for delta seems arbitrary, but it isn't, it's
  663.  * slightly above the level of error a buggy Mercury/Neptune
  664.  * chipset timer can cause.
  665.  */
  666. } while (delta < 300);
  667. }
  668. /*
  669.  * This function sets up the local APIC timer, with a timeout of
  670.  * 'clocks' APIC bus clock. During calibration we actually call
  671.  * this function twice on the boot CPU, once with a bogus timeout
  672.  * value, second time for real. The other (noncalibrating) CPUs
  673.  * call this function only once, with the real, calibrated value.
  674.  *
  675.  * We do reads before writes even if unnecessary, to get around the
  676.  * P5 APIC double write bug.
  677.  */
  678. #define APIC_DIVISOR 16
  679. void __setup_APIC_LVTT(unsigned int clocks)
  680. {
  681. unsigned int lvtt1_value, tmp_value;
  682. lvtt1_value = SET_APIC_TIMER_BASE(APIC_TIMER_BASE_DIV) |
  683. APIC_LVT_TIMER_PERIODIC | LOCAL_TIMER_VECTOR;
  684. apic_write_around(APIC_LVTT, lvtt1_value);
  685. /*
  686.  * Divide PICLK by 16
  687.  */
  688. tmp_value = apic_read(APIC_TDCR);
  689. apic_write_around(APIC_TDCR, (tmp_value
  690. & ~(APIC_TDR_DIV_1 | APIC_TDR_DIV_TMBASE))
  691. | APIC_TDR_DIV_16);
  692. apic_write_around(APIC_TMICT, clocks/APIC_DIVISOR);
  693. }
  694. void setup_APIC_timer(void * data)
  695. {
  696. unsigned int clocks = (unsigned int) data, slice, t0, t1;
  697. unsigned long flags;
  698. int delta;
  699. __save_flags(flags);
  700. __sti();
  701. /*
  702.  * ok, Intel has some smart code in their APIC that knows
  703.  * if a CPU was in 'hlt' lowpower mode, and this increases
  704.  * its APIC arbitration priority. To avoid the external timer
  705.  * IRQ APIC event being in synchron with the APIC clock we
  706.  * introduce an interrupt skew to spread out timer events.
  707.  *
  708.  * The number of slices within a 'big' timeslice is smp_num_cpus+1
  709.  */
  710. slice = clocks / (smp_num_cpus+1);
  711. printk("cpu: %d, clocks: %d, slice: %dn", smp_processor_id(), clocks, slice);
  712. /*
  713.  * Wait for IRQ0's slice:
  714.  */
  715. wait_8254_wraparound();
  716. __setup_APIC_LVTT(clocks);
  717. t0 = apic_read(APIC_TMICT)*APIC_DIVISOR;
  718. /* Wait till TMCCT gets reloaded from TMICT... */
  719. do {
  720. t1 = apic_read(APIC_TMCCT)*APIC_DIVISOR;
  721. delta = (int)(t0 - t1 - slice*(smp_processor_id()+1));
  722. } while (delta >= 0);
  723. /* Now wait for our slice for real. */
  724. do {
  725. t1 = apic_read(APIC_TMCCT)*APIC_DIVISOR;
  726. delta = (int)(t0 - t1 - slice*(smp_processor_id()+1));
  727. } while (delta < 0);
  728. __setup_APIC_LVTT(clocks);
  729. printk("CPU%d<T0:%d,T1:%d,D:%d,S:%d,C:%d>n", smp_processor_id(), t0, t1, delta, slice, clocks);
  730. __restore_flags(flags);
  731. }
  732. /*
  733.  * In this function we calibrate APIC bus clocks to the external
  734.  * timer. Unfortunately we cannot use jiffies and the timer irq
  735.  * to calibrate, since some later bootup code depends on getting
  736.  * the first irq? Ugh.
  737.  *
  738.  * We want to do the calibration only once since we
  739.  * want to have local timer irqs syncron. CPUs connected
  740.  * by the same APIC bus have the very same bus frequency.
  741.  * And we want to have irqs off anyways, no accidental
  742.  * APIC irq that way.
  743.  */
  744. int __init calibrate_APIC_clock(void)
  745. {
  746. unsigned long long t1 = 0, t2 = 0;
  747. long tt1, tt2;
  748. long result;
  749. int i;
  750. const int LOOPS = HZ/10;
  751. printk("calibrating APIC timer ...n");
  752. /*
  753.  * Put whatever arbitrary (but long enough) timeout
  754.  * value into the APIC clock, we just want to get the
  755.  * counter running for calibration.
  756.  */
  757. __setup_APIC_LVTT(1000000000);
  758. /*
  759.  * The timer chip counts down to zero. Let's wait
  760.  * for a wraparound to start exact measurement:
  761.  * (the current tick might have been already half done)
  762.  */
  763. wait_8254_wraparound();
  764. /*
  765.  * We wrapped around just now. Let's start:
  766.  */
  767. if (cpu_has_tsc)
  768. rdtscll(t1);
  769. tt1 = apic_read(APIC_TMCCT);
  770. /*
  771.  * Let's wait LOOPS wraprounds:
  772.  */
  773. for (i = 0; i < LOOPS; i++)
  774. wait_8254_wraparound();
  775. tt2 = apic_read(APIC_TMCCT);
  776. if (cpu_has_tsc)
  777. rdtscll(t2);
  778. /*
  779.  * The APIC bus clock counter is 32 bits only, it
  780.  * might have overflown, but note that we use signed
  781.  * longs, thus no extra care needed.
  782.  *
  783.  * underflown to be exact, as the timer counts down ;)
  784.  */
  785. result = (tt1-tt2)*APIC_DIVISOR/LOOPS;
  786. if (cpu_has_tsc)
  787. printk("..... CPU clock speed is %ld.%04ld MHz.n",
  788. ((long)(t2-t1)/LOOPS)/(1000000/HZ),
  789. ((long)(t2-t1)/LOOPS)%(1000000/HZ));
  790. printk("..... host bus clock speed is %ld.%04ld MHz.n",
  791. result/(1000000/HZ),
  792. result%(1000000/HZ));
  793. return result;
  794. }
  795. static unsigned int calibration_result;
  796. int dont_use_local_apic_timer __initdata = 0;
  797. void __init setup_APIC_clocks (void)
  798. {
  799. /* Disabled by DMI scan or kernel option? */
  800. if (dont_use_local_apic_timer)
  801. return;
  802. printk("Using local APIC timer interrupts.n");
  803. using_apic_timer = 1;
  804. __cli();
  805. calibration_result = calibrate_APIC_clock();
  806. /*
  807.  * Now set up the timer for real.
  808.  */
  809. setup_APIC_timer((void *)calibration_result);
  810. __sti();
  811. /* and update all other cpus */
  812. smp_call_function(setup_APIC_timer, (void *)calibration_result, 1, 1);
  813. }
  814. void __init disable_APIC_timer(void)
  815. {
  816. if (using_apic_timer) {
  817. unsigned long v;
  818. v = apic_read(APIC_LVTT);
  819. apic_write_around(APIC_LVTT, v | APIC_LVT_MASKED);
  820. }
  821. }
  822. void enable_APIC_timer(void)
  823. {
  824. if (using_apic_timer) {
  825. unsigned long v;
  826. v = apic_read(APIC_LVTT);
  827. apic_write_around(APIC_LVTT, v & ~APIC_LVT_MASKED);
  828. }
  829. }
  830. /*
  831.  * the frequency of the profiling timer can be changed
  832.  * by writing a multiplier value into /proc/profile.
  833.  */
  834. int setup_profiling_timer(unsigned int multiplier)
  835. {
  836. int i;
  837. /*
  838.  * Sanity check. [at least 500 APIC cycles should be
  839.  * between APIC interrupts as a rule of thumb, to avoid
  840.  * irqs flooding us]
  841.  */
  842. if ( (!multiplier) || (calibration_result/multiplier < 500))
  843. return -EINVAL;
  844. /* 
  845.  * Set the new multiplier for each CPU. CPUs don't start using the
  846.  * new values until the next timer interrupt in which they do process
  847.  * accounting. At that time they also adjust their APIC timers
  848.  * accordingly.
  849.  */
  850. for (i = 0; i < NR_CPUS; ++i)
  851. prof_multiplier[i] = multiplier;
  852. return 0;
  853. }
  854. #undef APIC_DIVISOR
  855. /*
  856.  * Local timer interrupt handler. It does both profiling and
  857.  * process statistics/rescheduling.
  858.  *
  859.  * We do profiling in every local tick, statistics/rescheduling
  860.  * happen only every 'profiling multiplier' ticks. The default
  861.  * multiplier is 1 and it can be changed by writing the new multiplier
  862.  * value into /proc/profile.
  863.  */
  864. inline void smp_local_timer_interrupt(struct pt_regs * regs)
  865. {
  866. int user = user_mode(regs);
  867. int cpu = smp_processor_id();
  868. /*
  869.  * The profiling function is SMP safe. (nothing can mess
  870.  * around with "current", and the profiling counters are
  871.  * updated with atomic operations). This is especially
  872.  * useful with a profiling multiplier != 1
  873.  */
  874. if (!user)
  875. x86_do_profile(regs->eip);
  876. if (--prof_counter[cpu] <= 0) {
  877. /*
  878.  * The multiplier may have changed since the last time we got
  879.  * to this point as a result of the user writing to
  880.  * /proc/profile. In this case we need to adjust the APIC
  881.  * timer accordingly.
  882.  *
  883.  * Interrupts are already masked off at this point.
  884.  */
  885. prof_counter[cpu] = prof_multiplier[cpu];
  886. if (prof_counter[cpu] != prof_old_multiplier[cpu]) {
  887. __setup_APIC_LVTT(calibration_result/prof_counter[cpu]);
  888. prof_old_multiplier[cpu] = prof_counter[cpu];
  889. }
  890. #ifdef CONFIG_SMP
  891. update_process_times(user);
  892. #endif
  893. }
  894. /*
  895.  * We take the 'long' return path, and there every subsystem
  896.  * grabs the apropriate locks (kernel lock/ irq lock).
  897.  *
  898.  * we might want to decouple profiling from the 'long path',
  899.  * and do the profiling totally in assembly.
  900.  *
  901.  * Currently this isn't too much of an issue (performance wise),
  902.  * we can take more than 100K local irqs per second on a 100 MHz P5.
  903.  */
  904. }
  905. /*
  906.  * Local APIC timer interrupt. This is the most natural way for doing
  907.  * local interrupts, but local timer interrupts can be emulated by
  908.  * broadcast interrupts too. [in case the hw doesn't support APIC timers]
  909.  *
  910.  * [ if a single-CPU system runs an SMP kernel then we call the local
  911.  *   interrupt as well. Thus we cannot inline the local irq ... ]
  912.  */
  913. unsigned int apic_timer_irqs [NR_CPUS];
  914. void smp_apic_timer_interrupt(struct pt_regs * regs)
  915. {
  916. int cpu = smp_processor_id();
  917. /*
  918.  * the NMI deadlock-detector uses this.
  919.  */
  920. apic_timer_irqs[cpu]++;
  921. /*
  922.  * NOTE! We'd better ACK the irq immediately,
  923.  * because timer handling can be slow.
  924.  */
  925. ack_APIC_irq();
  926. /*
  927.  * update_process_times() expects us to have done irq_enter().
  928.  * Besides, if we don't timer interrupts ignore the global
  929.  * interrupt lock, which is the WrongThing (tm) to do.
  930.  */
  931. irq_enter(cpu, 0);
  932. smp_local_timer_interrupt(regs);
  933. irq_exit(cpu, 0);
  934. if (softirq_pending(cpu))
  935. do_softirq();
  936. }
  937. /*
  938.  * This interrupt should _never_ happen with our APIC/SMP architecture
  939.  */
  940. asmlinkage void smp_spurious_interrupt(void)
  941. {
  942. unsigned long v;
  943. /*
  944.  * Check if this really is a spurious interrupt and ACK it
  945.  * if it is a vectored one.  Just in case...
  946.  * Spurious interrupts should not be ACKed.
  947.  */
  948. v = apic_read(APIC_ISR + ((SPURIOUS_APIC_VECTOR & ~0x1f) >> 1));
  949. if (v & (1 << (SPURIOUS_APIC_VECTOR & 0x1f)))
  950. ack_APIC_irq();
  951. /* see sw-dev-man vol 3, chapter 7.4.13.5 */
  952. printk(KERN_INFO "spurious APIC interrupt on CPU#%d, should never happen.n",
  953. smp_processor_id());
  954. }
  955. /*
  956.  * This interrupt should never happen with our APIC/SMP architecture
  957.  */
  958. asmlinkage void smp_error_interrupt(void)
  959. {
  960. unsigned long v, v1;
  961. /* First tickle the hardware, only then report what went on. -- REW */
  962. v = apic_read(APIC_ESR);
  963. apic_write(APIC_ESR, 0);
  964. v1 = apic_read(APIC_ESR);
  965. ack_APIC_irq();
  966. atomic_inc(&irq_err_count);
  967. /* Here is what the APIC error bits mean:
  968.    0: Send CS error
  969.    1: Receive CS error
  970.    2: Send accept error
  971.    3: Receive accept error
  972.    4: Reserved
  973.    5: Send illegal vector
  974.    6: Received illegal vector
  975.    7: Illegal register address
  976. */
  977. printk (KERN_ERR "APIC error on CPU%d: %02lx(%02lx)n",
  978.         smp_processor_id(), v , v1);
  979. }
  980. /*
  981.  * This initializes the IO-APIC and APIC hardware if this is
  982.  * a UP kernel.
  983.  */
  984. int __init APIC_init_uniprocessor (void)
  985. {
  986. if (!smp_found_config && !cpu_has_apic)
  987. return -1;
  988. /*
  989.  * Complain if the BIOS pretends there is one.
  990.  */
  991. if (!cpu_has_apic && APIC_INTEGRATED(apic_version[boot_cpu_physical_apicid])) {
  992. printk(KERN_ERR "BIOS bug, local APIC #%d not detected!...n",
  993. boot_cpu_physical_apicid);
  994. return -1;
  995. }
  996. verify_local_APIC();
  997. connect_bsp_APIC();
  998. phys_cpu_present_map = 1;
  999. apic_write_around(APIC_ID, boot_cpu_physical_apicid);
  1000. apic_pm_init2();
  1001. setup_local_APIC();
  1002. if (nmi_watchdog == NMI_LOCAL_APIC)
  1003. check_nmi_watchdog();
  1004. #ifdef CONFIG_X86_IO_APIC
  1005. if (smp_found_config)
  1006. if (!skip_ioapic_setup && nr_ioapics)
  1007. setup_IO_APIC();
  1008. #endif
  1009. setup_APIC_clocks();
  1010. return 0;
  1011. }