apic.c
上传用户:lgb322
上传日期:2013-02-24
资源大小:30529k
文件大小:28k
源码类别:

嵌入式Linux

开发平台:

Unix_Linux

  1. /*
  2.  * Local APIC handling, local APIC timers
  3.  *
  4.  * (c) 1999, 2000 Ingo Molnar <mingo@redhat.com>
  5.  *
  6.  * Fixes
  7.  * Maciej W. Rozycki : Bits for genuine 82489DX APICs;
  8.  * thanks to Eric Gilmore
  9.  * and Rolf G. Tews
  10.  * for testing these extensively.
  11.  * Maciej W. Rozycki : Various updates and fixes.
  12.  * Mikael Pettersson : Power Management for UP-APIC.
  13.  */
  14. #include <linux/config.h>
  15. #include <linux/init.h>
  16. #include <linux/mm.h>
  17. #include <linux/irq.h>
  18. #include <linux/delay.h>
  19. #include <linux/bootmem.h>
  20. #include <linux/smp_lock.h>
  21. #include <linux/interrupt.h>
  22. #include <linux/mc146818rtc.h>
  23. #include <linux/kernel_stat.h>
  24. #include <asm/atomic.h>
  25. #include <asm/smp.h>
  26. #include <asm/mtrr.h>
  27. #include <asm/mpspec.h>
  28. #include <asm/pgalloc.h>
  29. /* Using APIC to generate smp_local_timer_interrupt? */
  30. int using_apic_timer = 0;
  31. int prof_multiplier[NR_CPUS] = { 1, };
  32. int prof_old_multiplier[NR_CPUS] = { 1, };
  33. int prof_counter[NR_CPUS] = { 1, };
  34. int get_maxlvt(void)
  35. {
  36. unsigned int v, ver, maxlvt;
  37. v = apic_read(APIC_LVR);
  38. ver = GET_APIC_VERSION(v);
  39. /* 82489DXs do not report # of LVT entries. */
  40. maxlvt = APIC_INTEGRATED(ver) ? GET_APIC_MAXLVT(v) : 2;
  41. return maxlvt;
  42. }
  43. void clear_local_APIC(void)
  44. {
  45. int maxlvt;
  46. unsigned long v;
  47. maxlvt = get_maxlvt();
  48. /*
  49.  * Masking an LVT entry on a P6 can trigger a local APIC error
  50.  * if the vector is zero. Mask LVTERR first to prevent this.
  51.  */
  52. if (maxlvt >= 3) {
  53. v = ERROR_APIC_VECTOR; /* any non-zero vector will do */
  54. apic_write_around(APIC_LVTERR, v | APIC_LVT_MASKED);
  55. }
  56. /*
  57.  * Careful: we have to set masks only first to deassert
  58.  * any level-triggered sources.
  59.  */
  60. v = apic_read(APIC_LVTT);
  61. apic_write_around(APIC_LVTT, v | APIC_LVT_MASKED);
  62. v = apic_read(APIC_LVT0);
  63. apic_write_around(APIC_LVT0, v | APIC_LVT_MASKED);
  64. v = apic_read(APIC_LVT1);
  65. apic_write_around(APIC_LVT1, v | APIC_LVT_MASKED);
  66. if (maxlvt >= 4) {
  67. v = apic_read(APIC_LVTPC);
  68. apic_write_around(APIC_LVTPC, v | APIC_LVT_MASKED);
  69. }
  70. /*
  71.  * Clean APIC state for other OSs:
  72.  */
  73. apic_write_around(APIC_LVTT, APIC_LVT_MASKED);
  74. apic_write_around(APIC_LVT0, APIC_LVT_MASKED);
  75. apic_write_around(APIC_LVT1, APIC_LVT_MASKED);
  76. if (maxlvt >= 3)
  77. apic_write_around(APIC_LVTERR, APIC_LVT_MASKED);
  78. if (maxlvt >= 4)
  79. apic_write_around(APIC_LVTPC, APIC_LVT_MASKED);
  80. v = GET_APIC_VERSION(apic_read(APIC_LVR));
  81. if (APIC_INTEGRATED(v)) { /* !82489DX */
  82. if (maxlvt > 3)
  83. apic_write(APIC_ESR, 0);
  84. apic_read(APIC_ESR);
  85. }
  86. }
  87. void __init connect_bsp_APIC(void)
  88. {
  89. if (pic_mode) {
  90. /*
  91.  * Do not trust the local APIC being empty at bootup.
  92.  */
  93. clear_local_APIC();
  94. /*
  95.  * PIC mode, enable APIC mode in the IMCR, i.e.
  96.  * connect BSP's local APIC to INT and NMI lines.
  97.  */
  98. printk("leaving PIC mode, enabling APIC mode.n");
  99. outb(0x70, 0x22);
  100. outb(0x01, 0x23);
  101. }
  102. }
  103. void disconnect_bsp_APIC(void)
  104. {
  105. if (pic_mode) {
  106. /*
  107.  * Put the board back into PIC mode (has an effect
  108.  * only on certain older boards).  Note that APIC
  109.  * interrupts, including IPIs, won't work beyond
  110.  * this point!  The only exception are INIT IPIs.
  111.  */
  112. printk("disabling APIC mode, entering PIC mode.n");
  113. outb(0x70, 0x22);
  114. outb(0x00, 0x23);
  115. }
  116. }
  117. void disable_local_APIC(void)
  118. {
  119. unsigned long value;
  120. clear_local_APIC();
  121. /*
  122.  * Disable APIC (implies clearing of registers
  123.  * for 82489DX!).
  124.  */
  125. value = apic_read(APIC_SPIV);
  126. value &= ~APIC_SPIV_APIC_ENABLED;
  127. apic_write_around(APIC_SPIV, value);
  128. }
  129. /*
  130.  * This is to verify that we're looking at a real local APIC.
  131.  * Check these against your board if the CPUs aren't getting
  132.  * started for no apparent reason.
  133.  */
  134. int __init verify_local_APIC(void)
  135. {
  136. unsigned int reg0, reg1;
  137. /*
  138.  * The version register is read-only in a real APIC.
  139.  */
  140. reg0 = apic_read(APIC_LVR);
  141. Dprintk("Getting VERSION: %xn", reg0);
  142. apic_write(APIC_LVR, reg0 ^ APIC_LVR_MASK);
  143. reg1 = apic_read(APIC_LVR);
  144. Dprintk("Getting VERSION: %xn", reg1);
  145. /*
  146.  * The two version reads above should print the same
  147.  * numbers.  If the second one is different, then we
  148.  * poke at a non-APIC.
  149.  */
  150. if (reg1 != reg0)
  151. return 0;
  152. /*
  153.  * Check if the version looks reasonably.
  154.  */
  155. reg1 = GET_APIC_VERSION(reg0);
  156. if (reg1 == 0x00 || reg1 == 0xff)
  157. return 0;
  158. reg1 = get_maxlvt();
  159. if (reg1 < 0x02 || reg1 == 0xff)
  160. return 0;
  161. /*
  162.  * The ID register is read/write in a real APIC.
  163.  */
  164. reg0 = apic_read(APIC_ID);
  165. Dprintk("Getting ID: %xn", reg0);
  166. apic_write(APIC_ID, reg0 ^ APIC_ID_MASK);
  167. reg1 = apic_read(APIC_ID);
  168. Dprintk("Getting ID: %xn", reg1);
  169. apic_write(APIC_ID, reg0);
  170. if (reg1 != (reg0 ^ APIC_ID_MASK))
  171. return 0;
  172. /*
  173.  * The next two are just to see if we have sane values.
  174.  * They're only really relevant if we're in Virtual Wire
  175.  * compatibility mode, but most boxes are anymore.
  176.  */
  177. reg0 = apic_read(APIC_LVT0);
  178. Dprintk("Getting LVT0: %xn", reg0);
  179. reg1 = apic_read(APIC_LVT1);
  180. Dprintk("Getting LVT1: %xn", reg1);
  181. return 1;
  182. }
  183. void __init sync_Arb_IDs(void)
  184. {
  185. /*
  186.  * Wait for idle.
  187.  */
  188. apic_wait_icr_idle();
  189. Dprintk("Synchronizing Arb IDs.n");
  190. apic_write_around(APIC_ICR, APIC_DEST_ALLINC | APIC_INT_LEVELTRIG
  191. | APIC_DM_INIT);
  192. }
  193. extern void __error_in_apic_c (void);
  194. /*
  195.  * An initial setup of the virtual wire mode.
  196.  */
  197. void __init init_bsp_APIC(void)
  198. {
  199. unsigned long value, ver;
  200. /*
  201.  * Don't do the setup now if we have a SMP BIOS as the
  202.  * through-I/O-APIC virtual wire mode might be active.
  203.  */
  204. if (smp_found_config || !cpu_has_apic)
  205. return;
  206. value = apic_read(APIC_LVR);
  207. ver = GET_APIC_VERSION(value);
  208. /*
  209.  * Do not trust the local APIC being empty at bootup.
  210.  */
  211. clear_local_APIC();
  212. /*
  213.  * Enable APIC.
  214.  */
  215. value = apic_read(APIC_SPIV);
  216. value &= ~APIC_VECTOR_MASK;
  217. value |= APIC_SPIV_APIC_ENABLED;
  218. value |= APIC_SPIV_FOCUS_DISABLED;
  219. value |= SPURIOUS_APIC_VECTOR;
  220. apic_write_around(APIC_SPIV, value);
  221. /*
  222.  * Set up the virtual wire mode.
  223.  */
  224. apic_write_around(APIC_LVT0, APIC_DM_EXTINT);
  225. value = APIC_DM_NMI;
  226. if (!APIC_INTEGRATED(ver)) /* 82489DX */
  227. value |= APIC_LVT_LEVEL_TRIGGER;
  228. apic_write_around(APIC_LVT1, value);
  229. }
  230. void __init setup_local_APIC (void)
  231. {
  232. unsigned long value, ver, maxlvt;
  233. /* Pound the ESR really hard over the head with a big hammer - mbligh */
  234. if (esr_disable) {
  235. apic_write(APIC_ESR, 0);
  236. apic_write(APIC_ESR, 0);
  237. apic_write(APIC_ESR, 0);
  238. apic_write(APIC_ESR, 0);
  239. }
  240. value = apic_read(APIC_LVR);
  241. ver = GET_APIC_VERSION(value);
  242. if ((SPURIOUS_APIC_VECTOR & 0x0f) != 0x0f)
  243. __error_in_apic_c();
  244. /*
  245.  * Double-check wether this APIC is really registered.
  246.  * This is meaningless in clustered apic mode, so we skip it.
  247.  */
  248. if (!clustered_apic_mode && 
  249.     !test_bit(GET_APIC_ID(apic_read(APIC_ID)), &phys_cpu_present_map))
  250. BUG();
  251. /*
  252.  * Intel recommends to set DFR, LDR and TPR before enabling
  253.  * an APIC.  See e.g. "AP-388 82489DX User's Manual" (Intel
  254.  * document number 292116).  So here it goes...
  255.  */
  256. if (!clustered_apic_mode) {
  257. /*
  258.  * In clustered apic mode, the firmware does this for us 
  259.  * Put the APIC into flat delivery mode.
  260.  * Must be "all ones" explicitly for 82489DX.
  261.  */
  262. apic_write_around(APIC_DFR, 0xffffffff);
  263. /*
  264.  * Set up the logical destination ID.
  265.  */
  266. value = apic_read(APIC_LDR);
  267. value &= ~APIC_LDR_MASK;
  268. value |= (1<<(smp_processor_id()+24));
  269. apic_write_around(APIC_LDR, value);
  270. }
  271. /*
  272.  * Set Task Priority to 'accept all'. We never change this
  273.  * later on.
  274.  */
  275. value = apic_read(APIC_TASKPRI);
  276. value &= ~APIC_TPRI_MASK;
  277. apic_write_around(APIC_TASKPRI, value);
  278. /*
  279.  * Now that we are all set up, enable the APIC
  280.  */
  281. value = apic_read(APIC_SPIV);
  282. value &= ~APIC_VECTOR_MASK;
  283. /*
  284.  * Enable APIC
  285.  */
  286. value |= APIC_SPIV_APIC_ENABLED;
  287. /*
  288.  * Some unknown Intel IO/APIC (or APIC) errata is biting us with
  289.  * certain networking cards. If high frequency interrupts are
  290.  * happening on a particular IOAPIC pin, plus the IOAPIC routing
  291.  * entry is masked/unmasked at a high rate as well then sooner or
  292.  * later IOAPIC line gets 'stuck', no more interrupts are received
  293.  * from the device. If focus CPU is disabled then the hang goes
  294.  * away, oh well :-(
  295.  *
  296.  * [ This bug can be reproduced easily with a level-triggered
  297.  *   PCI Ne2000 networking cards and PII/PIII processors, dual
  298.  *   BX chipset. ]
  299.  */
  300. /*
  301.  * Actually disabling the focus CPU check just makes the hang less
  302.  * frequent as it makes the interrupt distributon model be more
  303.  * like LRU than MRU (the short-term load is more even across CPUs).
  304.  * See also the comment in end_level_ioapic_irq().  --macro
  305.  */
  306. #if 1
  307. /* Enable focus processor (bit==0) */
  308. value &= ~APIC_SPIV_FOCUS_DISABLED;
  309. #else
  310. /* Disable focus processor (bit==1) */
  311. value |= APIC_SPIV_FOCUS_DISABLED;
  312. #endif
  313. /*
  314.  * Set spurious IRQ vector
  315.  */
  316. value |= SPURIOUS_APIC_VECTOR;
  317. apic_write_around(APIC_SPIV, value);
  318. /*
  319.  * Set up LVT0, LVT1:
  320.  *
  321.  * set up through-local-APIC on the BP's LINT0. This is not
  322.  * strictly necessery in pure symmetric-IO mode, but sometimes
  323.  * we delegate interrupts to the 8259A.
  324.  */
  325. /*
  326.  * TODO: set up through-local-APIC from through-I/O-APIC? --macro
  327.  */
  328. value = apic_read(APIC_LVT0) & APIC_LVT_MASKED;
  329. if (!smp_processor_id() && (pic_mode || !value)) {
  330. value = APIC_DM_EXTINT;
  331. printk("enabled ExtINT on CPU#%dn", smp_processor_id());
  332. } else {
  333. value = APIC_DM_EXTINT | APIC_LVT_MASKED;
  334. printk("masked ExtINT on CPU#%dn", smp_processor_id());
  335. }
  336. apic_write_around(APIC_LVT0, value);
  337. /*
  338.  * only the BP should see the LINT1 NMI signal, obviously.
  339.  */
  340. if (!smp_processor_id())
  341. value = APIC_DM_NMI;
  342. else
  343. value = APIC_DM_NMI | APIC_LVT_MASKED;
  344. if (!APIC_INTEGRATED(ver)) /* 82489DX */
  345. value |= APIC_LVT_LEVEL_TRIGGER;
  346. apic_write_around(APIC_LVT1, value);
  347. if (APIC_INTEGRATED(ver) && !esr_disable) { /* !82489DX */
  348. maxlvt = get_maxlvt();
  349. if (maxlvt > 3) /* Due to the Pentium erratum 3AP. */
  350. apic_write(APIC_ESR, 0);
  351. value = apic_read(APIC_ESR);
  352. printk("ESR value before enabling vector: %08lxn", value);
  353. value = ERROR_APIC_VECTOR;      // enables sending errors
  354. apic_write_around(APIC_LVTERR, value);
  355. /*
  356.  * spec says clear errors after enabling vector.
  357.  */
  358. if (maxlvt > 3)
  359. apic_write(APIC_ESR, 0);
  360. value = apic_read(APIC_ESR);
  361. printk("ESR value after enabling vector: %08lxn", value);
  362. } else {
  363. if (esr_disable)
  364. /* 
  365.  * Something untraceble is creating bad interrupts on 
  366.  * secondary quads ... for the moment, just leave the
  367.  * ESR disabled - we can't do anything useful with the
  368.  * errors anyway - mbligh
  369.  */
  370. printk("Leaving ESR disabled.n");
  371. else 
  372. printk("No ESR for 82489DX.n");
  373. }
  374. if (nmi_watchdog == NMI_LOCAL_APIC)
  375. setup_apic_nmi_watchdog();
  376. }
  377. #ifdef CONFIG_PM
  378. #include <linux/slab.h>
  379. #include <linux/pm.h>
  380. static struct {
  381. /* 'active' is true if the local APIC was enabled by us and
  382.    not the BIOS; this signifies that we are also responsible
  383.    for disabling it before entering apm/acpi suspend */
  384. int active;
  385. /* 'perfctr_pmdev' is here because the current (2.4.1) PM
  386.    callback system doesn't handle hierarchical dependencies */
  387. struct pm_dev *perfctr_pmdev;
  388. /* r/w apic fields */
  389. unsigned int apic_id;
  390. unsigned int apic_taskpri;
  391. unsigned int apic_ldr;
  392. unsigned int apic_dfr;
  393. unsigned int apic_spiv;
  394. unsigned int apic_lvtt;
  395. unsigned int apic_lvtpc;
  396. unsigned int apic_lvt0;
  397. unsigned int apic_lvt1;
  398. unsigned int apic_lvterr;
  399. unsigned int apic_tmict;
  400. unsigned int apic_tdcr;
  401. } apic_pm_state;
  402. static void apic_pm_suspend(void *data)
  403. {
  404. unsigned int l, h;
  405. unsigned long flags;
  406. if (apic_pm_state.perfctr_pmdev)
  407. pm_send(apic_pm_state.perfctr_pmdev, PM_SUSPEND, data);
  408. apic_pm_state.apic_id = apic_read(APIC_ID);
  409. apic_pm_state.apic_taskpri = apic_read(APIC_TASKPRI);
  410. apic_pm_state.apic_ldr = apic_read(APIC_LDR);
  411. apic_pm_state.apic_dfr = apic_read(APIC_DFR);
  412. apic_pm_state.apic_spiv = apic_read(APIC_SPIV);
  413. apic_pm_state.apic_lvtt = apic_read(APIC_LVTT);
  414. apic_pm_state.apic_lvtpc = apic_read(APIC_LVTPC);
  415. apic_pm_state.apic_lvt0 = apic_read(APIC_LVT0);
  416. apic_pm_state.apic_lvt1 = apic_read(APIC_LVT1);
  417. apic_pm_state.apic_lvterr = apic_read(APIC_LVTERR);
  418. apic_pm_state.apic_tmict = apic_read(APIC_TMICT);
  419. apic_pm_state.apic_tdcr = apic_read(APIC_TDCR);
  420. __save_flags(flags);
  421. __cli();
  422. disable_local_APIC();
  423. rdmsr(MSR_IA32_APICBASE, l, h);
  424. l &= ~MSR_IA32_APICBASE_ENABLE;
  425. wrmsr(MSR_IA32_APICBASE, l, h);
  426. __restore_flags(flags);
  427. }
  428. static void apic_pm_resume(void *data)
  429. {
  430. unsigned int l, h;
  431. unsigned long flags;
  432. __save_flags(flags);
  433. __cli();
  434. rdmsr(MSR_IA32_APICBASE, l, h);
  435. l &= ~MSR_IA32_APICBASE_BASE;
  436. l |= MSR_IA32_APICBASE_ENABLE | APIC_DEFAULT_PHYS_BASE;
  437. wrmsr(MSR_IA32_APICBASE, l, h);
  438. apic_write(APIC_LVTERR, ERROR_APIC_VECTOR | APIC_LVT_MASKED);
  439. apic_write(APIC_ID, apic_pm_state.apic_id);
  440. apic_write(APIC_DFR, apic_pm_state.apic_dfr);
  441. apic_write(APIC_LDR, apic_pm_state.apic_ldr);
  442. apic_write(APIC_TASKPRI, apic_pm_state.apic_taskpri);
  443. apic_write(APIC_SPIV, apic_pm_state.apic_spiv);
  444. apic_write(APIC_LVT0, apic_pm_state.apic_lvt0);
  445. apic_write(APIC_LVT1, apic_pm_state.apic_lvt1);
  446. apic_write(APIC_LVTPC, apic_pm_state.apic_lvtpc);
  447. apic_write(APIC_LVTT, apic_pm_state.apic_lvtt);
  448. apic_write(APIC_TDCR, apic_pm_state.apic_tdcr);
  449. apic_write(APIC_TMICT, apic_pm_state.apic_tmict);
  450. apic_write(APIC_ESR, 0);
  451. apic_read(APIC_ESR);
  452. apic_write(APIC_LVTERR, apic_pm_state.apic_lvterr);
  453. apic_write(APIC_ESR, 0);
  454. apic_read(APIC_ESR);
  455. __restore_flags(flags);
  456. if (apic_pm_state.perfctr_pmdev)
  457. pm_send(apic_pm_state.perfctr_pmdev, PM_RESUME, data);
  458. }
  459. static int apic_pm_callback(struct pm_dev *dev, pm_request_t rqst, void *data)
  460. {
  461. switch (rqst) {
  462. case PM_SUSPEND:
  463. apic_pm_suspend(data);
  464. break;
  465. case PM_RESUME:
  466. apic_pm_resume(data);
  467. break;
  468. }
  469. return 0;
  470. }
  471. /* perfctr driver should call this instead of pm_register() */
  472. struct pm_dev *apic_pm_register(pm_dev_t type,
  473. unsigned long id,
  474. pm_callback callback)
  475. {
  476. struct pm_dev *dev;
  477. if (!apic_pm_state.active)
  478. return pm_register(type, id, callback);
  479. if (apic_pm_state.perfctr_pmdev)
  480. return NULL; /* we're busy */
  481. dev = kmalloc(sizeof(struct pm_dev), GFP_KERNEL);
  482. if (dev) {
  483. memset(dev, 0, sizeof(*dev));
  484. dev->type = type;
  485. dev->id = id;
  486. dev->callback = callback;
  487. apic_pm_state.perfctr_pmdev = dev;
  488. }
  489. return dev;
  490. }
  491. /* perfctr driver should call this instead of pm_unregister() */
  492. void apic_pm_unregister(struct pm_dev *dev)
  493. {
  494. if (!apic_pm_state.active) {
  495. pm_unregister(dev);
  496. } else if (dev == apic_pm_state.perfctr_pmdev) {
  497. apic_pm_state.perfctr_pmdev = NULL;
  498. kfree(dev);
  499. }
  500. }
  501. static void __init apic_pm_init1(void)
  502. {
  503. /* can't pm_register() at this early stage in the boot process
  504.    (causes an immediate reboot), so just set the flag */
  505. apic_pm_state.active = 1;
  506. }
  507. static void __init apic_pm_init2(void)
  508. {
  509. if (apic_pm_state.active)
  510. pm_register(PM_SYS_DEV, 0, apic_pm_callback);
  511. }
  512. #else /* CONFIG_PM */
  513. static inline void apic_pm_init1(void) { }
  514. static inline void apic_pm_init2(void) { }
  515. #endif /* CONFIG_PM */
  516. /*
  517.  * Detect and enable local APICs on non-SMP boards.
  518.  * Original code written by Keir Fraser.
  519.  */
  520. static int __init detect_init_APIC (void)
  521. {
  522. u32 h, l, features;
  523. extern void get_cpu_vendor(struct cpuinfo_x86*);
  524. /* Workaround for us being called before identify_cpu(). */
  525. get_cpu_vendor(&boot_cpu_data);
  526. switch (boot_cpu_data.x86_vendor) {
  527. case X86_VENDOR_AMD:
  528. if (boot_cpu_data.x86 == 6 && boot_cpu_data.x86_model > 1)
  529. break;
  530. goto no_apic;
  531. case X86_VENDOR_INTEL:
  532. if (boot_cpu_data.x86 == 6 ||
  533.     (boot_cpu_data.x86 == 15 && cpu_has_apic) ||
  534.     (boot_cpu_data.x86 == 5 && cpu_has_apic))
  535. break;
  536. goto no_apic;
  537. default:
  538. goto no_apic;
  539. }
  540. if (!cpu_has_apic) {
  541. /*
  542.  * Some BIOSes disable the local APIC in the
  543.  * APIC_BASE MSR. This can only be done in
  544.  * software for Intel P6 and AMD K7 (Model > 1).
  545.  */
  546. rdmsr(MSR_IA32_APICBASE, l, h);
  547. if (!(l & MSR_IA32_APICBASE_ENABLE)) {
  548. printk("Local APIC disabled by BIOS -- reenabling.n");
  549. l &= ~MSR_IA32_APICBASE_BASE;
  550. l |= MSR_IA32_APICBASE_ENABLE | APIC_DEFAULT_PHYS_BASE;
  551. wrmsr(MSR_IA32_APICBASE, l, h);
  552. }
  553. }
  554. /*
  555.  * The APIC feature bit should now be enabled
  556.  * in `cpuid'
  557.  */
  558. features = cpuid_edx(1);
  559. if (!(features & (1 << X86_FEATURE_APIC))) {
  560. printk("Could not enable APIC!n");
  561. return -1;
  562. }
  563. set_bit(X86_FEATURE_APIC, &boot_cpu_data.x86_capability);
  564. mp_lapic_addr = APIC_DEFAULT_PHYS_BASE;
  565. boot_cpu_physical_apicid = 0;
  566. if (nmi_watchdog != NMI_NONE)
  567. nmi_watchdog = NMI_LOCAL_APIC;
  568. printk("Found and enabled local APIC!n");
  569. apic_pm_init1();
  570. return 0;
  571. no_apic:
  572. printk("No local APIC present or hardware disabledn");
  573. return -1;
  574. }
  575. void __init init_apic_mappings(void)
  576. {
  577. unsigned long apic_phys;
  578. /*
  579.  * If no local APIC can be found then set up a fake all
  580.  * zeroes page to simulate the local APIC and another
  581.  * one for the IO-APIC.
  582.  */
  583. if (!smp_found_config && detect_init_APIC()) {
  584. apic_phys = (unsigned long) alloc_bootmem_pages(PAGE_SIZE);
  585. apic_phys = __pa(apic_phys);
  586. } else
  587. apic_phys = mp_lapic_addr;
  588. set_fixmap_nocache(FIX_APIC_BASE, apic_phys);
  589. Dprintk("mapped APIC to %08lx (%08lx)n", APIC_BASE, apic_phys);
  590. /*
  591.  * Fetch the APIC ID of the BSP in case we have a
  592.  * default configuration (or the MP table is broken).
  593.  */
  594. if (boot_cpu_physical_apicid == -1U)
  595. boot_cpu_physical_apicid = GET_APIC_ID(apic_read(APIC_ID));
  596. #ifdef CONFIG_X86_IO_APIC
  597. {
  598. unsigned long ioapic_phys, idx = FIX_IO_APIC_BASE_0;
  599. int i;
  600. for (i = 0; i < nr_ioapics; i++) {
  601. if (smp_found_config) {
  602. ioapic_phys = mp_ioapics[i].mpc_apicaddr;
  603. } else {
  604. ioapic_phys = (unsigned long) alloc_bootmem_pages(PAGE_SIZE);
  605. ioapic_phys = __pa(ioapic_phys);
  606. }
  607. set_fixmap_nocache(idx, ioapic_phys);
  608. Dprintk("mapped IOAPIC to %08lx (%08lx)n",
  609. __fix_to_virt(idx), ioapic_phys);
  610. idx++;
  611. }
  612. }
  613. #endif
  614. }
  615. /*
  616.  * This part sets up the APIC 32 bit clock in LVTT1, with HZ interrupts
  617.  * per second. We assume that the caller has already set up the local
  618.  * APIC.
  619.  *
  620.  * The APIC timer is not exactly sync with the external timer chip, it
  621.  * closely follows bus clocks.
  622.  */
  623. /*
  624.  * The timer chip is already set up at HZ interrupts per second here,
  625.  * but we do not accept timer interrupts yet. We only allow the BP
  626.  * to calibrate.
  627.  */
  628. static unsigned int __init get_8254_timer_count(void)
  629. {
  630. extern spinlock_t i8253_lock;
  631. unsigned long flags;
  632. unsigned int count;
  633. spin_lock_irqsave(&i8253_lock, flags);
  634. outb_p(0x00, 0x43);
  635. count = inb_p(0x40);
  636. count |= inb_p(0x40) << 8;
  637. spin_unlock_irqrestore(&i8253_lock, flags);
  638. return count;
  639. }
  640. void __init wait_8254_wraparound(void)
  641. {
  642. unsigned int curr_count, prev_count=~0;
  643. int delta;
  644. curr_count = get_8254_timer_count();
  645. do {
  646. prev_count = curr_count;
  647. curr_count = get_8254_timer_count();
  648. delta = curr_count-prev_count;
  649. /*
  650.  * This limit for delta seems arbitrary, but it isn't, it's
  651.  * slightly above the level of error a buggy Mercury/Neptune
  652.  * chipset timer can cause.
  653.  */
  654. } while (delta < 300);
  655. }
  656. /*
  657.  * This function sets up the local APIC timer, with a timeout of
  658.  * 'clocks' APIC bus clock. During calibration we actually call
  659.  * this function twice on the boot CPU, once with a bogus timeout
  660.  * value, second time for real. The other (noncalibrating) CPUs
  661.  * call this function only once, with the real, calibrated value.
  662.  *
  663.  * We do reads before writes even if unnecessary, to get around the
  664.  * P5 APIC double write bug.
  665.  */
  666. #define APIC_DIVISOR 16
  667. void __setup_APIC_LVTT(unsigned int clocks)
  668. {
  669. unsigned int lvtt1_value, tmp_value;
  670. lvtt1_value = SET_APIC_TIMER_BASE(APIC_TIMER_BASE_DIV) |
  671. APIC_LVT_TIMER_PERIODIC | LOCAL_TIMER_VECTOR;
  672. apic_write_around(APIC_LVTT, lvtt1_value);
  673. /*
  674.  * Divide PICLK by 16
  675.  */
  676. tmp_value = apic_read(APIC_TDCR);
  677. apic_write_around(APIC_TDCR, (tmp_value
  678. & ~(APIC_TDR_DIV_1 | APIC_TDR_DIV_TMBASE))
  679. | APIC_TDR_DIV_16);
  680. apic_write_around(APIC_TMICT, clocks/APIC_DIVISOR);
  681. }
  682. void setup_APIC_timer(void * data)
  683. {
  684. unsigned int clocks = (unsigned int) data, slice, t0, t1;
  685. unsigned long flags;
  686. int delta;
  687. __save_flags(flags);
  688. __sti();
  689. /*
  690.  * ok, Intel has some smart code in their APIC that knows
  691.  * if a CPU was in 'hlt' lowpower mode, and this increases
  692.  * its APIC arbitration priority. To avoid the external timer
  693.  * IRQ APIC event being in synchron with the APIC clock we
  694.  * introduce an interrupt skew to spread out timer events.
  695.  *
  696.  * The number of slices within a 'big' timeslice is smp_num_cpus+1
  697.  */
  698. slice = clocks / (smp_num_cpus+1);
  699. printk("cpu: %d, clocks: %d, slice: %dn",
  700. smp_processor_id(), clocks, slice);
  701. /*
  702.  * Wait for IRQ0's slice:
  703.  */
  704. wait_8254_wraparound();
  705. __setup_APIC_LVTT(clocks);
  706. t0 = apic_read(APIC_TMICT)*APIC_DIVISOR;
  707. /* Wait till TMCCT gets reloaded from TMICT... */
  708. do {
  709. t1 = apic_read(APIC_TMCCT)*APIC_DIVISOR;
  710. delta = (int)(t0 - t1 - slice*(smp_processor_id()+1));
  711. } while (delta >= 0);
  712. /* Now wait for our slice for real. */
  713. do {
  714. t1 = apic_read(APIC_TMCCT)*APIC_DIVISOR;
  715. delta = (int)(t0 - t1 - slice*(smp_processor_id()+1));
  716. } while (delta < 0);
  717. __setup_APIC_LVTT(clocks);
  718. printk("CPU%d<T0:%d,T1:%d,D:%d,S:%d,C:%d>n",
  719. smp_processor_id(), t0, t1, delta, slice, clocks);
  720. __restore_flags(flags);
  721. }
  722. /*
  723.  * In this function we calibrate APIC bus clocks to the external
  724.  * timer. Unfortunately we cannot use jiffies and the timer irq
  725.  * to calibrate, since some later bootup code depends on getting
  726.  * the first irq? Ugh.
  727.  *
  728.  * We want to do the calibration only once since we
  729.  * want to have local timer irqs syncron. CPUs connected
  730.  * by the same APIC bus have the very same bus frequency.
  731.  * And we want to have irqs off anyways, no accidental
  732.  * APIC irq that way.
  733.  */
  734. int __init calibrate_APIC_clock(void)
  735. {
  736. unsigned long long t1 = 0, t2 = 0;
  737. long tt1, tt2;
  738. long result;
  739. int i;
  740. const int LOOPS = HZ/10;
  741. printk("calibrating APIC timer ...n");
  742. /*
  743.  * Put whatever arbitrary (but long enough) timeout
  744.  * value into the APIC clock, we just want to get the
  745.  * counter running for calibration.
  746.  */
  747. __setup_APIC_LVTT(1000000000);
  748. /*
  749.  * The timer chip counts down to zero. Let's wait
  750.  * for a wraparound to start exact measurement:
  751.  * (the current tick might have been already half done)
  752.  */
  753. wait_8254_wraparound();
  754. /*
  755.  * We wrapped around just now. Let's start:
  756.  */
  757. if (cpu_has_tsc)
  758. rdtscll(t1);
  759. tt1 = apic_read(APIC_TMCCT);
  760. /*
  761.  * Let's wait LOOPS wraprounds:
  762.  */
  763. for (i = 0; i < LOOPS; i++)
  764. wait_8254_wraparound();
  765. tt2 = apic_read(APIC_TMCCT);
  766. if (cpu_has_tsc)
  767. rdtscll(t2);
  768. /*
  769.  * The APIC bus clock counter is 32 bits only, it
  770.  * might have overflown, but note that we use signed
  771.  * longs, thus no extra care needed.
  772.  *
  773.  * underflown to be exact, as the timer counts down ;)
  774.  */
  775. result = (tt1-tt2)*APIC_DIVISOR/LOOPS;
  776. if (cpu_has_tsc)
  777. printk("..... CPU clock speed is %ld.%04ld MHz.n",
  778. ((long)(t2-t1)/LOOPS)/(1000000/HZ),
  779. ((long)(t2-t1)/LOOPS)%(1000000/HZ));
  780. printk("..... host bus clock speed is %ld.%04ld MHz.n",
  781. result/(1000000/HZ),
  782. result%(1000000/HZ));
  783. return result;
  784. }
  785. static unsigned int calibration_result;
  786. void __init setup_APIC_clocks (void)
  787. {
  788. printk("Using local APIC timer interrupts.n");
  789. using_apic_timer = 1;
  790. __cli();
  791. calibration_result = calibrate_APIC_clock();
  792. /*
  793.  * Now set up the timer for real.
  794.  */
  795. setup_APIC_timer((void *)calibration_result);
  796. __sti();
  797. /* and update all other cpus */
  798. smp_call_function(setup_APIC_timer, (void *)calibration_result, 1, 1);
  799. }
  800. /*
  801.  * the frequency of the profiling timer can be changed
  802.  * by writing a multiplier value into /proc/profile.
  803.  */
  804. int setup_profiling_timer(unsigned int multiplier)
  805. {
  806. int i;
  807. /*
  808.  * Sanity check. [at least 500 APIC cycles should be
  809.  * between APIC interrupts as a rule of thumb, to avoid
  810.  * irqs flooding us]
  811.  */
  812. if ( (!multiplier) || (calibration_result/multiplier < 500))
  813. return -EINVAL;
  814. /* 
  815.  * Set the new multiplier for each CPU. CPUs don't start using the
  816.  * new values until the next timer interrupt in which they do process
  817.  * accounting. At that time they also adjust their APIC timers
  818.  * accordingly.
  819.  */
  820. for (i = 0; i < NR_CPUS; ++i)
  821. prof_multiplier[i] = multiplier;
  822. return 0;
  823. }
  824. #undef APIC_DIVISOR
  825. /*
  826.  * Local timer interrupt handler. It does both profiling and
  827.  * process statistics/rescheduling.
  828.  *
  829.  * We do profiling in every local tick, statistics/rescheduling
  830.  * happen only every 'profiling multiplier' ticks. The default
  831.  * multiplier is 1 and it can be changed by writing the new multiplier
  832.  * value into /proc/profile.
  833.  */
  834. inline void smp_local_timer_interrupt(struct pt_regs * regs)
  835. {
  836. int user = user_mode(regs);
  837. int cpu = smp_processor_id();
  838. /*
  839.  * The profiling function is SMP safe. (nothing can mess
  840.  * around with "current", and the profiling counters are
  841.  * updated with atomic operations). This is especially
  842.  * useful with a profiling multiplier != 1
  843.  */
  844. if (!user)
  845. x86_do_profile(regs->eip);
  846. if (--prof_counter[cpu] <= 0) {
  847. /*
  848.  * The multiplier may have changed since the last time we got
  849.  * to this point as a result of the user writing to
  850.  * /proc/profile. In this case we need to adjust the APIC
  851.  * timer accordingly.
  852.  *
  853.  * Interrupts are already masked off at this point.
  854.  */
  855. prof_counter[cpu] = prof_multiplier[cpu];
  856. if (prof_counter[cpu] != prof_old_multiplier[cpu]) {
  857. __setup_APIC_LVTT(calibration_result/prof_counter[cpu]);
  858. prof_old_multiplier[cpu] = prof_counter[cpu];
  859. }
  860. #ifdef CONFIG_SMP
  861. update_process_times(user);
  862. #endif
  863. }
  864. /*
  865.  * We take the 'long' return path, and there every subsystem
  866.  * grabs the apropriate locks (kernel lock/ irq lock).
  867.  *
  868.  * we might want to decouple profiling from the 'long path',
  869.  * and do the profiling totally in assembly.
  870.  *
  871.  * Currently this isn't too much of an issue (performance wise),
  872.  * we can take more than 100K local irqs per second on a 100 MHz P5.
  873.  */
  874. }
  875. /*
  876.  * Local APIC timer interrupt. This is the most natural way for doing
  877.  * local interrupts, but local timer interrupts can be emulated by
  878.  * broadcast interrupts too. [in case the hw doesnt support APIC timers]
  879.  *
  880.  * [ if a single-CPU system runs an SMP kernel then we call the local
  881.  *   interrupt as well. Thus we cannot inline the local irq ... ]
  882.  */
  883. unsigned int apic_timer_irqs [NR_CPUS];
  884. void smp_apic_timer_interrupt(struct pt_regs * regs)
  885. {
  886. int cpu = smp_processor_id();
  887. /*
  888.  * the NMI deadlock-detector uses this.
  889.  */
  890. apic_timer_irqs[cpu]++;
  891. /*
  892.  * NOTE! We'd better ACK the irq immediately,
  893.  * because timer handling can be slow.
  894.  */
  895. ack_APIC_irq();
  896. /*
  897.  * update_process_times() expects us to have done irq_enter().
  898.  * Besides, if we don't timer interrupts ignore the global
  899.  * interrupt lock, which is the WrongThing (tm) to do.
  900.  */
  901. irq_enter(cpu, 0);
  902. smp_local_timer_interrupt(regs);
  903. irq_exit(cpu, 0);
  904. if (softirq_pending(cpu))
  905. do_softirq();
  906. }
  907. /*
  908.  * This interrupt should _never_ happen with our APIC/SMP architecture
  909.  */
  910. asmlinkage void smp_spurious_interrupt(void)
  911. {
  912. unsigned long v;
  913. /*
  914.  * Check if this really is a spurious interrupt and ACK it
  915.  * if it is a vectored one.  Just in case...
  916.  * Spurious interrupts should not be ACKed.
  917.  */
  918. v = apic_read(APIC_ISR + ((SPURIOUS_APIC_VECTOR & ~0x1f) >> 1));
  919. if (v & (1 << (SPURIOUS_APIC_VECTOR & 0x1f)))
  920. ack_APIC_irq();
  921. /* see sw-dev-man vol 3, chapter 7.4.13.5 */
  922. printk(KERN_INFO "spurious APIC interrupt on CPU#%d, should never happen.n",
  923. smp_processor_id());
  924. }
  925. /*
  926.  * This interrupt should never happen with our APIC/SMP architecture
  927.  */
  928. asmlinkage void smp_error_interrupt(void)
  929. {
  930. unsigned long v, v1;
  931. /* First tickle the hardware, only then report what went on. -- REW */
  932. v = apic_read(APIC_ESR);
  933. apic_write(APIC_ESR, 0);
  934. v1 = apic_read(APIC_ESR);
  935. ack_APIC_irq();
  936. atomic_inc(&irq_err_count);
  937. /* Here is what the APIC error bits mean:
  938.    0: Send CS error
  939.    1: Receive CS error
  940.    2: Send accept error
  941.    3: Receive accept error
  942.    4: Reserved
  943.    5: Send illegal vector
  944.    6: Received illegal vector
  945.    7: Illegal register address
  946. */
  947. printk (KERN_ERR "APIC error on CPU%d: %02lx(%02lx)n",
  948.         smp_processor_id(), v , v1);
  949. }
  950. /*
  951.  * This initializes the IO-APIC and APIC hardware if this is
  952.  * a UP kernel.
  953.  */
  954. int __init APIC_init_uniprocessor (void)
  955. {
  956. if (!smp_found_config && !cpu_has_apic)
  957. return -1;
  958. /*
  959.  * Complain if the BIOS pretends there is one.
  960.  */
  961. if (!cpu_has_apic && APIC_INTEGRATED(apic_version[boot_cpu_physical_apicid])) {
  962. printk(KERN_ERR "BIOS bug, local APIC #%d not detected!...n",
  963. boot_cpu_physical_apicid);
  964. return -1;
  965. }
  966. verify_local_APIC();
  967. connect_bsp_APIC();
  968. phys_cpu_present_map = 1;
  969. apic_write_around(APIC_ID, boot_cpu_physical_apicid);
  970. apic_pm_init2();
  971. setup_local_APIC();
  972. if (nmi_watchdog == NMI_LOCAL_APIC)
  973. check_nmi_watchdog();
  974. #ifdef CONFIG_X86_IO_APIC
  975. if (smp_found_config)
  976. if (!skip_ioapic_setup && nr_ioapics)
  977. setup_IO_APIC();
  978. #endif
  979. setup_APIC_clocks();
  980. return 0;
  981. }