apic.c
上传用户:jlfgdled
上传日期:2013-04-10
资源大小:33168k
文件大小:28k
源码类别:

Linux/Unix编程

开发平台:

Unix_Linux

  1. /*
  2.  * Local APIC handling, local APIC timers
  3.  *
  4.  * (c) 1999, 2000 Ingo Molnar <mingo@redhat.com>
  5.  *
  6.  * Fixes
  7.  * Maciej W. Rozycki : Bits for genuine 82489DX APICs;
  8.  * thanks to Eric Gilmore
  9.  * and Rolf G. Tews
  10.  * for testing these extensively.
  11.  * Maciej W. Rozycki : Various updates and fixes.
  12.  * Mikael Pettersson : Power Management for UP-APIC.
  13.  */
  14. #include <linux/config.h>
  15. #include <linux/init.h>
  16. #include <linux/mm.h>
  17. #include <linux/irq.h>
  18. #include <linux/delay.h>
  19. #include <linux/bootmem.h>
  20. #include <linux/smp_lock.h>
  21. #include <linux/interrupt.h>
  22. #include <linux/mc146818rtc.h>
  23. #include <linux/kernel_stat.h>
  24. #include <asm/atomic.h>
  25. #include <asm/smp.h>
  26. #include <asm/mtrr.h>
  27. #include <asm/mpspec.h>
  28. #include <asm/pgalloc.h>
  29. #include <asm/timex.h>
  30. /* Using APIC to generate smp_local_timer_interrupt? */
  31. int using_apic_timer = 0;
  32. int prof_multiplier[NR_CPUS] = { 1, };
  33. int prof_old_multiplier[NR_CPUS] = { 1, };
  34. int prof_counter[NR_CPUS] = { 1, };
  35. int get_maxlvt(void)
  36. {
  37. unsigned int v, ver, maxlvt;
  38. v = apic_read(APIC_LVR);
  39. ver = GET_APIC_VERSION(v);
  40. /* 82489DXs do not report # of LVT entries. */
  41. maxlvt = APIC_INTEGRATED(ver) ? GET_APIC_MAXLVT(v) : 2;
  42. return maxlvt;
  43. }
  44. void clear_local_APIC(void)
  45. {
  46. int maxlvt;
  47. unsigned int v;
  48. maxlvt = get_maxlvt();
  49. /*
  50.  * Masking an LVT entry on a P6 can trigger a local APIC error
  51.  * if the vector is zero. Mask LVTERR first to prevent this.
  52.  */
  53. if (maxlvt >= 3) {
  54. v = ERROR_APIC_VECTOR; /* any non-zero vector will do */
  55. apic_write_around(APIC_LVTERR, v | APIC_LVT_MASKED);
  56. }
  57. /*
  58.  * Careful: we have to set masks only first to deassert
  59.  * any level-triggered sources.
  60.  */
  61. v = apic_read(APIC_LVTT);
  62. apic_write_around(APIC_LVTT, v | APIC_LVT_MASKED);
  63. v = apic_read(APIC_LVT0);
  64. apic_write_around(APIC_LVT0, v | APIC_LVT_MASKED);
  65. v = apic_read(APIC_LVT1);
  66. apic_write_around(APIC_LVT1, v | APIC_LVT_MASKED);
  67. if (maxlvt >= 4) {
  68. v = apic_read(APIC_LVTPC);
  69. apic_write_around(APIC_LVTPC, v | APIC_LVT_MASKED);
  70. }
  71. /*
  72.  * Clean APIC state for other OSs:
  73.  */
  74. apic_write_around(APIC_LVTT, APIC_LVT_MASKED);
  75. apic_write_around(APIC_LVT0, APIC_LVT_MASKED);
  76. apic_write_around(APIC_LVT1, APIC_LVT_MASKED);
  77. if (maxlvt >= 3)
  78. apic_write_around(APIC_LVTERR, APIC_LVT_MASKED);
  79. if (maxlvt >= 4)
  80. apic_write_around(APIC_LVTPC, APIC_LVT_MASKED);
  81. v = GET_APIC_VERSION(apic_read(APIC_LVR));
  82. if (APIC_INTEGRATED(v)) { /* !82489DX */
  83. if (maxlvt > 3)
  84. apic_write(APIC_ESR, 0);
  85. apic_read(APIC_ESR);
  86. }
  87. }
  88. void __init connect_bsp_APIC(void)
  89. {
  90. if (pic_mode) {
  91. /*
  92.  * Do not trust the local APIC being empty at bootup.
  93.  */
  94. clear_local_APIC();
  95. /*
  96.  * PIC mode, enable APIC mode in the IMCR, i.e.
  97.  * connect BSP's local APIC to INT and NMI lines.
  98.  */
  99. printk("leaving PIC mode, enabling APIC mode.n");
  100. outb(0x70, 0x22);
  101. outb(0x01, 0x23);
  102. }
  103. }
  104. void disconnect_bsp_APIC(void)
  105. {
  106. if (pic_mode) {
  107. /*
  108.  * Put the board back into PIC mode (has an effect
  109.  * only on certain older boards).  Note that APIC
  110.  * interrupts, including IPIs, won't work beyond
  111.  * this point!  The only exception are INIT IPIs.
  112.  */
  113. printk("disabling APIC mode, entering PIC mode.n");
  114. outb(0x70, 0x22);
  115. outb(0x00, 0x23);
  116. }
  117. }
  118. void disable_local_APIC(void)
  119. {
  120. unsigned int value;
  121. clear_local_APIC();
  122. /*
  123.  * Disable APIC (implies clearing of registers
  124.  * for 82489DX!).
  125.  */
  126. value = apic_read(APIC_SPIV);
  127. value &= ~APIC_SPIV_APIC_ENABLED;
  128. apic_write_around(APIC_SPIV, value);
  129. }
  130. /*
  131.  * This is to verify that we're looking at a real local APIC.
  132.  * Check these against your board if the CPUs aren't getting
  133.  * started for no apparent reason.
  134.  */
  135. int __init verify_local_APIC(void)
  136. {
  137. unsigned int reg0, reg1;
  138. /*
  139.  * The version register is read-only in a real APIC.
  140.  */
  141. reg0 = apic_read(APIC_LVR);
  142. Dprintk("Getting VERSION: %xn", reg0);
  143. apic_write(APIC_LVR, reg0 ^ APIC_LVR_MASK);
  144. reg1 = apic_read(APIC_LVR);
  145. Dprintk("Getting VERSION: %xn", reg1);
  146. /*
  147.  * The two version reads above should print the same
  148.  * numbers.  If the second one is different, then we
  149.  * poke at a non-APIC.
  150.  */
  151. if (reg1 != reg0)
  152. return 0;
  153. /*
  154.  * Check if the version looks reasonably.
  155.  */
  156. reg1 = GET_APIC_VERSION(reg0);
  157. if (reg1 == 0x00 || reg1 == 0xff)
  158. return 0;
  159. reg1 = get_maxlvt();
  160. if (reg1 < 0x02 || reg1 == 0xff)
  161. return 0;
  162. /*
  163.  * The ID register is read/write in a real APIC.
  164.  */
  165. reg0 = apic_read(APIC_ID);
  166. Dprintk("Getting ID: %xn", reg0);
  167. apic_write(APIC_ID, reg0 ^ APIC_ID_MASK);
  168. reg1 = apic_read(APIC_ID);
  169. Dprintk("Getting ID: %xn", reg1);
  170. apic_write(APIC_ID, reg0);
  171. if (reg1 != (reg0 ^ APIC_ID_MASK))
  172. return 0;
  173. /*
  174.  * The next two are just to see if we have sane values.
  175.  * They're only really relevant if we're in Virtual Wire
  176.  * compatibility mode, but most boxes are anymore.
  177.  */
  178. reg0 = apic_read(APIC_LVT0);
  179. Dprintk("Getting LVT0: %xn", reg0);
  180. reg1 = apic_read(APIC_LVT1);
  181. Dprintk("Getting LVT1: %xn", reg1);
  182. return 1;
  183. }
  184. void __init sync_Arb_IDs(void)
  185. {
  186. /*
  187.  * Wait for idle.
  188.  */
  189. apic_wait_icr_idle();
  190. Dprintk("Synchronizing Arb IDs.n");
  191. apic_write_around(APIC_ICR, APIC_DEST_ALLINC | APIC_INT_LEVELTRIG
  192. | APIC_DM_INIT);
  193. }
  194. extern void __error_in_apic_c (void);
  195. /*
  196.  * An initial setup of the virtual wire mode.
  197.  */
  198. void __init init_bsp_APIC(void)
  199. {
  200. unsigned int value, ver;
  201. /*
  202.  * Don't do the setup now if we have a SMP BIOS as the
  203.  * through-I/O-APIC virtual wire mode might be active.
  204.  */
  205. if (smp_found_config || !cpu_has_apic)
  206. return;
  207. value = apic_read(APIC_LVR);
  208. ver = GET_APIC_VERSION(value);
  209. /*
  210.  * Do not trust the local APIC being empty at bootup.
  211.  */
  212. clear_local_APIC();
  213. /*
  214.  * Enable APIC.
  215.  */
  216. value = apic_read(APIC_SPIV);
  217. value &= ~APIC_VECTOR_MASK;
  218. value |= APIC_SPIV_APIC_ENABLED;
  219. value |= APIC_SPIV_FOCUS_DISABLED;
  220. value |= SPURIOUS_APIC_VECTOR;
  221. apic_write_around(APIC_SPIV, value);
  222. /*
  223.  * Set up the virtual wire mode.
  224.  */
  225. apic_write_around(APIC_LVT0, APIC_DM_EXTINT);
  226. value = APIC_DM_NMI;
  227. if (!APIC_INTEGRATED(ver)) /* 82489DX */
  228. value |= APIC_LVT_LEVEL_TRIGGER;
  229. apic_write_around(APIC_LVT1, value);
  230. }
  231. void __init setup_local_APIC (void)
  232. {
  233. unsigned int value, ver, maxlvt;
  234. /* Pound the ESR really hard over the head with a big hammer - mbligh */
  235. if (esr_disable) {
  236. apic_write(APIC_ESR, 0);
  237. apic_write(APIC_ESR, 0);
  238. apic_write(APIC_ESR, 0);
  239. apic_write(APIC_ESR, 0);
  240. }
  241. value = apic_read(APIC_LVR);
  242. ver = GET_APIC_VERSION(value);
  243. if ((SPURIOUS_APIC_VECTOR & 0x0f) != 0x0f)
  244. __error_in_apic_c();
  245. /*
  246.  * Double-check wether this APIC is really registered.
  247.  * This is meaningless in clustered apic mode, so we skip it.
  248.  */
  249. if (!clustered_apic_mode &&
  250.     !test_bit(GET_APIC_ID(apic_read(APIC_ID)), &phys_cpu_present_map))
  251. BUG();
  252. /*
  253.  * Intel recommends to set DFR, LDR and TPR before enabling
  254.  * an APIC.  See e.g. "AP-388 82489DX User's Manual" (Intel
  255.  * document number 292116).  So here it goes...
  256.  */
  257. if (!clustered_apic_mode) {
  258. /*
  259.  * In clustered apic mode, the firmware does this for us
  260.  * Put the APIC into flat delivery mode.
  261.  * Must be "all ones" explicitly for 82489DX.
  262.  */
  263. apic_write_around(APIC_DFR, 0xffffffff);
  264. /*
  265.  * Set up the logical destination ID.
  266.  */
  267. value = apic_read(APIC_LDR);
  268. value &= ~APIC_LDR_MASK;
  269. value |= (1<<(smp_processor_id()+24));
  270. apic_write_around(APIC_LDR, value);
  271. }
  272. /*
  273.  * Set Task Priority to 'accept all'. We never change this
  274.  * later on.
  275.  */
  276. value = apic_read(APIC_TASKPRI);
  277. value &= ~APIC_TPRI_MASK;
  278. apic_write_around(APIC_TASKPRI, value);
  279. /*
  280.  * Now that we are all set up, enable the APIC
  281.  */
  282. value = apic_read(APIC_SPIV);
  283. value &= ~APIC_VECTOR_MASK;
  284. /*
  285.  * Enable APIC
  286.  */
  287. value |= APIC_SPIV_APIC_ENABLED;
  288. /*
  289.  * Some unknown Intel IO/APIC (or APIC) errata is biting us with
  290.  * certain networking cards. If high frequency interrupts are
  291.  * happening on a particular IOAPIC pin, plus the IOAPIC routing
  292.  * entry is masked/unmasked at a high rate as well then sooner or
  293.  * later IOAPIC line gets 'stuck', no more interrupts are received
  294.  * from the device. If focus CPU is disabled then the hang goes
  295.  * away, oh well :-(
  296.  *
  297.  * [ This bug can be reproduced easily with a level-triggered
  298.  *   PCI Ne2000 networking cards and PII/PIII processors, dual
  299.  *   BX chipset. ]
  300.  */
  301. /*
  302.  * Actually disabling the focus CPU check just makes the hang less
  303.  * frequent as it makes the interrupt distributon model be more
  304.  * like LRU than MRU (the short-term load is more even across CPUs).
  305.  * See also the comment in end_level_ioapic_irq().  --macro
  306.  */
  307. #if 1
  308. /* Enable focus processor (bit==0) */
  309. value &= ~APIC_SPIV_FOCUS_DISABLED;
  310. #else
  311. /* Disable focus processor (bit==1) */
  312. value |= APIC_SPIV_FOCUS_DISABLED;
  313. #endif
  314. /*
  315.  * Set spurious IRQ vector
  316.  */
  317. value |= SPURIOUS_APIC_VECTOR;
  318. apic_write_around(APIC_SPIV, value);
  319. /*
  320.  * Set up LVT0, LVT1:
  321.  *
  322.  * set up through-local-APIC on the BP's LINT0. This is not
  323.  * strictly necessery in pure symmetric-IO mode, but sometimes
  324.  * we delegate interrupts to the 8259A.
  325.  */
  326. /*
  327.  * TODO: set up through-local-APIC from through-I/O-APIC? --macro
  328.  */
  329. value = apic_read(APIC_LVT0) & APIC_LVT_MASKED;
  330. if (!smp_processor_id() && (pic_mode || !value)) {
  331. value = APIC_DM_EXTINT;
  332. printk("enabled ExtINT on CPU#%dn", smp_processor_id());
  333. } else {
  334. value = APIC_DM_EXTINT | APIC_LVT_MASKED;
  335. printk("masked ExtINT on CPU#%dn", smp_processor_id());
  336. }
  337. apic_write_around(APIC_LVT0, value);
  338. /*
  339.  * only the BP should see the LINT1 NMI signal, obviously.
  340.  */
  341. if (!smp_processor_id())
  342. value = APIC_DM_NMI;
  343. else
  344. value = APIC_DM_NMI | APIC_LVT_MASKED;
  345. if (!APIC_INTEGRATED(ver)) /* 82489DX */
  346. value |= APIC_LVT_LEVEL_TRIGGER;
  347. apic_write_around(APIC_LVT1, value);
  348. if (APIC_INTEGRATED(ver) && !esr_disable) { /* !82489DX */
  349. maxlvt = get_maxlvt();
  350. if (maxlvt > 3) /* Due to the Pentium erratum 3AP. */
  351. apic_write(APIC_ESR, 0);
  352. value = apic_read(APIC_ESR);
  353. printk("ESR value before enabling vector: %08xn", value);
  354. value = ERROR_APIC_VECTOR; /* enables sending errors */
  355. apic_write_around(APIC_LVTERR, value);
  356. /*
  357.  * spec says clear errors after enabling vector.
  358.  */
  359. if (maxlvt > 3)
  360. apic_write(APIC_ESR, 0);
  361. value = apic_read(APIC_ESR);
  362. printk("ESR value after enabling vector: %08xn", value);
  363. } else {
  364. if (esr_disable)
  365. /*
  366.  * Something untraceble is creating bad interrupts on
  367.  * secondary quads ... for the moment, just leave the
  368.  * ESR disabled - we can't do anything useful with the
  369.  * errors anyway - mbligh
  370.  */
  371. printk("Leaving ESR disabled.n");
  372. else
  373. printk("No ESR for 82489DX.n");
  374. }
  375. if (nmi_watchdog == NMI_LOCAL_APIC)
  376. setup_apic_nmi_watchdog();
  377. }
  378. #ifdef CONFIG_PM
  379. #include <linux/slab.h>
  380. #include <linux/pm.h>
  381. static struct {
  382. /* 'active' is true if the local APIC was enabled by us and
  383.    not the BIOS; this signifies that we are also responsible
  384.    for disabling it before entering apm/acpi suspend */
  385. int active;
  386. /* 'perfctr_pmdev' is here because the current (2.4.1) PM
  387.    callback system doesn't handle hierarchical dependencies */
  388. struct pm_dev *perfctr_pmdev;
  389. /* r/w apic fields */
  390. unsigned int apic_id;
  391. unsigned int apic_taskpri;
  392. unsigned int apic_ldr;
  393. unsigned int apic_dfr;
  394. unsigned int apic_spiv;
  395. unsigned int apic_lvtt;
  396. unsigned int apic_lvtpc;
  397. unsigned int apic_lvt0;
  398. unsigned int apic_lvt1;
  399. unsigned int apic_lvterr;
  400. unsigned int apic_tmict;
  401. unsigned int apic_tdcr;
  402. } apic_pm_state;
  403. static void apic_pm_suspend(void *data)
  404. {
  405. unsigned int l, h;
  406. unsigned long flags;
  407. if (apic_pm_state.perfctr_pmdev)
  408. pm_send(apic_pm_state.perfctr_pmdev, PM_SUSPEND, data);
  409. apic_pm_state.apic_id = apic_read(APIC_ID);
  410. apic_pm_state.apic_taskpri = apic_read(APIC_TASKPRI);
  411. apic_pm_state.apic_ldr = apic_read(APIC_LDR);
  412. apic_pm_state.apic_dfr = apic_read(APIC_DFR);
  413. apic_pm_state.apic_spiv = apic_read(APIC_SPIV);
  414. apic_pm_state.apic_lvtt = apic_read(APIC_LVTT);
  415. apic_pm_state.apic_lvtpc = apic_read(APIC_LVTPC);
  416. apic_pm_state.apic_lvt0 = apic_read(APIC_LVT0);
  417. apic_pm_state.apic_lvt1 = apic_read(APIC_LVT1);
  418. apic_pm_state.apic_lvterr = apic_read(APIC_LVTERR);
  419. apic_pm_state.apic_tmict = apic_read(APIC_TMICT);
  420. apic_pm_state.apic_tdcr = apic_read(APIC_TDCR);
  421. __save_flags(flags);
  422. __cli();
  423. disable_local_APIC();
  424. rdmsr(MSR_IA32_APICBASE, l, h);
  425. l &= ~MSR_IA32_APICBASE_ENABLE;
  426. wrmsr(MSR_IA32_APICBASE, l, h);
  427. __restore_flags(flags);
  428. }
  429. static void apic_pm_resume(void *data)
  430. {
  431. unsigned int l, h;
  432. unsigned long flags;
  433. __save_flags(flags);
  434. __cli();
  435. rdmsr(MSR_IA32_APICBASE, l, h);
  436. l &= ~MSR_IA32_APICBASE_BASE;
  437. l |= MSR_IA32_APICBASE_ENABLE | APIC_DEFAULT_PHYS_BASE;
  438. wrmsr(MSR_IA32_APICBASE, l, h);
  439. apic_write(APIC_LVTERR, ERROR_APIC_VECTOR | APIC_LVT_MASKED);
  440. apic_write(APIC_ID, apic_pm_state.apic_id);
  441. apic_write(APIC_DFR, apic_pm_state.apic_dfr);
  442. apic_write(APIC_LDR, apic_pm_state.apic_ldr);
  443. apic_write(APIC_TASKPRI, apic_pm_state.apic_taskpri);
  444. apic_write(APIC_SPIV, apic_pm_state.apic_spiv);
  445. apic_write(APIC_LVT0, apic_pm_state.apic_lvt0);
  446. apic_write(APIC_LVT1, apic_pm_state.apic_lvt1);
  447. apic_write(APIC_LVTPC, apic_pm_state.apic_lvtpc);
  448. apic_write(APIC_LVTT, apic_pm_state.apic_lvtt);
  449. apic_write(APIC_TDCR, apic_pm_state.apic_tdcr);
  450. apic_write(APIC_TMICT, apic_pm_state.apic_tmict);
  451. apic_write(APIC_ESR, 0);
  452. apic_read(APIC_ESR);
  453. apic_write(APIC_LVTERR, apic_pm_state.apic_lvterr);
  454. apic_write(APIC_ESR, 0);
  455. apic_read(APIC_ESR);
  456. __restore_flags(flags);
  457. if (apic_pm_state.perfctr_pmdev)
  458. pm_send(apic_pm_state.perfctr_pmdev, PM_RESUME, data);
  459. }
  460. static int apic_pm_callback(struct pm_dev *dev, pm_request_t rqst, void *data)
  461. {
  462. switch (rqst) {
  463. case PM_SUSPEND:
  464. apic_pm_suspend(data);
  465. break;
  466. case PM_RESUME:
  467. apic_pm_resume(data);
  468. break;
  469. }
  470. return 0;
  471. }
  472. /* perfctr driver should call this instead of pm_register() */
  473. struct pm_dev *apic_pm_register(pm_dev_t type,
  474. unsigned long id,
  475. pm_callback callback)
  476. {
  477. struct pm_dev *dev;
  478. if (!apic_pm_state.active)
  479. return pm_register(type, id, callback);
  480. if (apic_pm_state.perfctr_pmdev)
  481. return NULL; /* we're busy */
  482. dev = kmalloc(sizeof(struct pm_dev), GFP_KERNEL);
  483. if (dev) {
  484. memset(dev, 0, sizeof(*dev));
  485. dev->type = type;
  486. dev->id = id;
  487. dev->callback = callback;
  488. apic_pm_state.perfctr_pmdev = dev;
  489. }
  490. return dev;
  491. }
  492. /* perfctr driver should call this instead of pm_unregister() */
  493. void apic_pm_unregister(struct pm_dev *dev)
  494. {
  495. if (!apic_pm_state.active) {
  496. pm_unregister(dev);
  497. } else if (dev == apic_pm_state.perfctr_pmdev) {
  498. apic_pm_state.perfctr_pmdev = NULL;
  499. kfree(dev);
  500. }
  501. }
  502. static void __init apic_pm_init1(void)
  503. {
  504. /* can't pm_register() at this early stage in the boot process
  505.    (causes an immediate reboot), so just set the flag */
  506. apic_pm_state.active = 1;
  507. }
  508. static void __init apic_pm_init2(void)
  509. {
  510. if (apic_pm_state.active)
  511. pm_register(PM_SYS_DEV, 0, apic_pm_callback);
  512. }
  513. #else /* CONFIG_PM */
  514. static inline void apic_pm_init1(void) { }
  515. static inline void apic_pm_init2(void) { }
  516. #endif /* CONFIG_PM */
  517. /*
  518.  * Detect and enable local APICs on non-SMP boards.
  519.  * Original code written by Keir Fraser.
  520.  */
  521. int dont_enable_local_apic __initdata = 0;
  522. static int __init detect_init_APIC (void)
  523. {
  524. u32 h, l, features;
  525. extern void get_cpu_vendor(struct cpuinfo_x86*);
  526. /* Disabled by DMI scan or kernel option? */
  527. if (dont_enable_local_apic)
  528. return -1;
  529. /* Workaround for us being called before identify_cpu(). */
  530. get_cpu_vendor(&boot_cpu_data);
  531. switch (boot_cpu_data.x86_vendor) {
  532. case X86_VENDOR_AMD:
  533. if (boot_cpu_data.x86 == 6 && boot_cpu_data.x86_model > 1)
  534. break;
  535. goto no_apic;
  536. case X86_VENDOR_INTEL:
  537. if (boot_cpu_data.x86 == 6 ||
  538.     (boot_cpu_data.x86 == 15 && cpu_has_apic) ||
  539.     (boot_cpu_data.x86 == 5 && cpu_has_apic))
  540. break;
  541. goto no_apic;
  542. default:
  543. goto no_apic;
  544. }
  545. if (!cpu_has_apic) {
  546. /*
  547.  * Some BIOSes disable the local APIC in the
  548.  * APIC_BASE MSR. This can only be done in
  549.  * software for Intel P6 and AMD K7 (Model > 1).
  550.  */
  551. rdmsr(MSR_IA32_APICBASE, l, h);
  552. if (!(l & MSR_IA32_APICBASE_ENABLE)) {
  553. printk("Local APIC disabled by BIOS -- reenabling.n");
  554. l &= ~MSR_IA32_APICBASE_BASE;
  555. l |= MSR_IA32_APICBASE_ENABLE | APIC_DEFAULT_PHYS_BASE;
  556. wrmsr(MSR_IA32_APICBASE, l, h);
  557. }
  558. }
  559. /*
  560.  * The APIC feature bit should now be enabled
  561.  * in `cpuid'
  562.  */
  563. features = cpuid_edx(1);
  564. if (!(features & (1 << X86_FEATURE_APIC))) {
  565. printk("Could not enable APIC!n");
  566. return -1;
  567. }
  568. set_bit(X86_FEATURE_APIC, &boot_cpu_data.x86_capability);
  569. mp_lapic_addr = APIC_DEFAULT_PHYS_BASE;
  570. boot_cpu_id = 0;
  571. if (nmi_watchdog != NMI_NONE)
  572. nmi_watchdog = NMI_LOCAL_APIC;
  573. printk("Found and enabled local APIC!n");
  574. apic_pm_init1();
  575. return 0;
  576. no_apic:
  577. printk("No local APIC present or hardware disabledn");
  578. return -1;
  579. }
  580. void __init init_apic_mappings(void)
  581. {
  582. unsigned long apic_phys;
  583. /*
  584.  * If no local APIC can be found then set up a fake all
  585.  * zeroes page to simulate the local APIC and another
  586.  * one for the IO-APIC.
  587.  */
  588. if (!smp_found_config && detect_init_APIC()) {
  589. apic_phys = (unsigned long) alloc_bootmem_pages(PAGE_SIZE);
  590. apic_phys = __pa(apic_phys);
  591. } else
  592. apic_phys = mp_lapic_addr;
  593. set_fixmap_nocache(FIX_APIC_BASE, apic_phys);
  594. Dprintk("mapped APIC to %08lx (%08lx)n", APIC_BASE, apic_phys);
  595. /*
  596.  * Fetch the APIC ID of the BSP in case we have a
  597.  * default configuration (or the MP table is broken).
  598.  */
  599. if (boot_cpu_id == -1U)
  600. boot_cpu_id = GET_APIC_ID(apic_read(APIC_ID));
  601. #ifdef CONFIG_X86_IO_APIC
  602. {
  603. unsigned long ioapic_phys, idx = FIX_IO_APIC_BASE_0;
  604. int i;
  605. for (i = 0; i < nr_ioapics; i++) {
  606. if (smp_found_config) {
  607. ioapic_phys = mp_ioapics[i].mpc_apicaddr;
  608. if (!ioapic_phys) {
  609. printk(KERN_ERR "WARNING: bogus zero IO-APIC address found in MPTABLE, disabling IO-APIC supportn");
  610.     smp_found_config = 0;
  611.     skip_ioapic_setup = 1;
  612.     goto fake_ioapic_page;
  613. }
  614. } else {
  615. fake_ioapic_page:
  616. ioapic_phys = (unsigned long) alloc_bootmem_pages(PAGE_SIZE);
  617. ioapic_phys = __pa(ioapic_phys);
  618. }
  619. set_fixmap_nocache(idx, ioapic_phys);
  620. Dprintk("mapped IOAPIC to %08lx (%08lx)n",
  621. __fix_to_virt(idx), ioapic_phys);
  622. idx++;
  623. }
  624. }
  625. #endif
  626. }
  627. /*
  628.  * This part sets up the APIC 32 bit clock in LVTT1, with HZ interrupts
  629.  * per second. We assume that the caller has already set up the local
  630.  * APIC.
  631.  */
  632. /*
  633.  * This function sets up the local APIC timer, with a timeout of
  634.  * 'clocks' APIC bus clock. During calibration we actually call
  635.  * this function twice on the boot CPU, once with a bogus timeout
  636.  * value, second time for real. The other (noncalibrating) CPUs
  637.  * call this function only once, with the real, calibrated value.
  638.  *
  639.  * We do reads before writes even if unnecessary, to get around the
  640.  * P5 APIC double write bug.
  641.  */
  642. #define APIC_DIVISOR 16
  643. void __setup_APIC_LVTT(unsigned int clocks)
  644. {
  645. unsigned int lvtt1_value, tmp_value;
  646. lvtt1_value = SET_APIC_TIMER_BASE(APIC_TIMER_BASE_DIV) |
  647. APIC_LVT_TIMER_PERIODIC | LOCAL_TIMER_VECTOR;
  648. apic_write_around(APIC_LVTT, lvtt1_value);
  649. /*
  650.  * Divide PICLK by 16
  651.  */
  652. tmp_value = apic_read(APIC_TDCR);
  653. apic_write_around(APIC_TDCR, (tmp_value
  654. & ~(APIC_TDR_DIV_1 | APIC_TDR_DIV_TMBASE))
  655. | APIC_TDR_DIV_16);
  656. apic_write_around(APIC_TMICT, clocks/APIC_DIVISOR);
  657. }
  658. void setup_APIC_timer(void * data)
  659. {
  660. unsigned int clocks = (unsigned long) data, slice, t0, t1;
  661. int delta;
  662. /*
  663.  * ok, Intel has some smart code in their APIC that knows
  664.  * if a CPU was in 'hlt' lowpower mode, and this increases
  665.  * its APIC arbitration priority. To avoid the external timer
  666.  * IRQ APIC event being in synchron with the APIC clock we
  667.  * introduce an interrupt skew to spread out timer events.
  668.  *
  669.  * The number of slices within a 'big' timeslice is smp_num_cpus+1
  670.  */
  671. slice = clocks / (smp_num_cpus+1);
  672. printk(KERN_INFO "cpu: %d, clocks: %d, slice: %dn",
  673. smp_processor_id(), clocks, slice);
  674. /*
  675.  * Wait for timer IRQ slice:
  676.  */
  677. if (hpet.address) {
  678. int trigger = hpet_readl(HPET_T0_CMP);
  679. while (hpet_readl(HPET_COUNTER) >= trigger);
  680. while (hpet_readl(HPET_COUNTER) <  trigger);
  681. } else {
  682. int c1, c2;
  683. outb_p(0x00, 0x43);
  684. c2 = inb_p(0x40);
  685. c2 |= inb_p(0x40) << 8;
  686. do {
  687. c1 = c2;
  688. outb_p(0x00, 0x43);
  689. c2 = inb_p(0x40);
  690. c2 |= inb_p(0x40) << 8;
  691. } while (c2 - c1 < 300);
  692. }
  693. __setup_APIC_LVTT(clocks);
  694. t0 = apic_read(APIC_TMICT)*APIC_DIVISOR;
  695. /* Wait till TMCCT gets reloaded from TMICT... */
  696. do {
  697. t1 = apic_read(APIC_TMCCT)*APIC_DIVISOR;
  698. delta = (int)(t0 - t1 - slice*(smp_processor_id()+1));
  699. } while (delta >= 0);
  700. /* Now wait for our slice for real. */
  701. do {
  702. t1 = apic_read(APIC_TMCCT)*APIC_DIVISOR;
  703. delta = (int)(t0 - t1 - slice*(smp_processor_id()+1));
  704. } while (delta < 0);
  705. __setup_APIC_LVTT(clocks);
  706. printk(KERN_INFO "CPU%d<T0:%u,T1:%u,D:%d,S:%u,C:%u>n",
  707. smp_processor_id(), t0, t1, delta, slice, clocks);
  708. }
  709. /*
  710.  * In this function we calibrate APIC bus clocks to the external timer.
  711.  * Unlike on i386 we don't use the PIT to do that, but rely on a
  712.  * pre-calibrated TSC counter instead.
  713.  *
  714.  * We want to do the calibration only once since we want to have local timer
  715.  * irqs syncron. CPUs connected by the same APIC bus have the very same bus
  716.  * frequency.  And we want to have irqs off anyways, no accidental APIC irq
  717.  * that way.
  718.  */
  719. #define TICK_COUNT 100000000
  720. int __init calibrate_APIC_clock(void)
  721. {
  722. int apic, apic_start, tsc, tsc_start;
  723. int result;
  724. /*
  725.  * Put whatever arbitrary (but long enough) timeout
  726.  * value into the APIC clock, we just want to get the
  727.  * counter running for calibration.
  728.  */
  729. __setup_APIC_LVTT(1000000000);
  730. apic_start = apic_read(APIC_TMCCT);
  731. rdtscl(tsc_start);
  732. do {
  733. apic = apic_read(APIC_TMCCT);
  734. rdtscl(tsc);
  735. } while ((tsc - tsc_start) < TICK_COUNT && (apic - apic_start) < TICK_COUNT);
  736. result = (apic_start - apic) * 1000L * cpu_khz / (tsc - tsc_start);
  737. printk("Detected %d.%03d MHz APIC timer.n",
  738. result / 1000 / 1000, result / 1000 % 1000);
  739. return result * APIC_DIVISOR / HZ;
  740. }
  741. static unsigned int calibration_result;
  742. int dont_use_local_apic_timer __initdata = 0;
  743. void __init setup_APIC_clocks (void)
  744. {
  745. /* Disabled by DMI scan or kernel option? */
  746. if (dont_use_local_apic_timer)
  747. return;
  748. printk("Using local APIC timer interrupts.n");
  749. using_apic_timer = 1;
  750. __cli();
  751. calibration_result = calibrate_APIC_clock();
  752. /*
  753.  * Now set up the timer for real.
  754.  */
  755. setup_APIC_timer((void *)(u64)calibration_result);
  756. __sti();
  757. /* and update all other cpus */
  758. smp_call_function(setup_APIC_timer, (void *)(u64)calibration_result, 1, 1);
  759. }
  760. /*
  761.  * the frequency of the profiling timer can be changed
  762.  * by writing a multiplier value into /proc/profile.
  763.  */
  764. int setup_profiling_timer(unsigned int multiplier)
  765. {
  766. int i;
  767. /*
  768.  * Sanity check. [at least 500 APIC cycles should be
  769.  * between APIC interrupts as a rule of thumb, to avoid
  770.  * irqs flooding us]
  771.  */
  772. if ( (!multiplier) || (calibration_result/multiplier < 500))
  773. return -EINVAL;
  774. /*
  775.  * Set the new multiplier for each CPU. CPUs don't start using the
  776.  * new values until the next timer interrupt in which they do process
  777.  * accounting. At that time they also adjust their APIC timers
  778.  * accordingly.
  779.  */
  780. for (i = 0; i < NR_CPUS; ++i)
  781. prof_multiplier[i] = multiplier;
  782. return 0;
  783. }
  784. #undef APIC_DIVISOR
  785. /*
  786.  * Local timer interrupt handler. It does both profiling and
  787.  * process statistics/rescheduling.
  788.  *
  789.  * We do profiling in every local tick, statistics/rescheduling
  790.  * happen only every 'profiling multiplier' ticks. The default
  791.  * multiplier is 1 and it can be changed by writing the new multiplier
  792.  * value into /proc/profile.
  793.  */
  794. inline void smp_local_timer_interrupt(struct pt_regs *regs)
  795. {
  796. int user = user_mode(regs);
  797. int cpu = smp_processor_id();
  798. /*
  799.  * The profiling function is SMP safe. (nothing can mess
  800.  * around with "current", and the profiling counters are
  801.  * updated with atomic operations). This is especially
  802.  * useful with a profiling multiplier != 1
  803.  */
  804. if (!user)
  805. x86_do_profile(regs->rip);
  806. if (--prof_counter[cpu] <= 0) {
  807. /*
  808.  * The multiplier may have changed since the last time we got
  809.  * to this point as a result of the user writing to
  810.  * /proc/profile. In this case we need to adjust the APIC
  811.  * timer accordingly.
  812.  *
  813.  * Interrupts are already masked off at this point.
  814.  */
  815. prof_counter[cpu] = prof_multiplier[cpu];
  816. if (prof_counter[cpu] != prof_old_multiplier[cpu]) {
  817. __setup_APIC_LVTT(calibration_result/prof_counter[cpu]);
  818. prof_old_multiplier[cpu] = prof_counter[cpu];
  819. }
  820. #ifdef CONFIG_SMP
  821. update_process_times(user);
  822. #endif
  823. }
  824. /*
  825.  * We take the 'long' return path, and there every subsystem
  826.  * grabs the apropriate locks (kernel lock/ irq lock).
  827.  *
  828.  * we might want to decouple profiling from the 'long path',
  829.  * and do the profiling totally in assembly.
  830.  *
  831.  * Currently this isn't too much of an issue (performance wise),
  832.  * we can take more than 100K local irqs per second on a 100 MHz P5.
  833.  */
  834. }
  835. /*
  836.  * Local APIC timer interrupt. This is the most natural way for doing
  837.  * local interrupts, but local timer interrupts can be emulated by
  838.  * broadcast interrupts too. [in case the hw doesnt support APIC timers]
  839.  *
  840.  * [ if a single-CPU system runs an SMP kernel then we call the local
  841.  *   interrupt as well. Thus we cannot inline the local irq ... ]
  842.  */
  843. unsigned int apic_timer_irqs [NR_CPUS];
  844. void smp_apic_timer_interrupt(struct pt_regs *regs)
  845. {
  846. int cpu = smp_processor_id();
  847. /*
  848.  * the NMI deadlock-detector uses this.
  849.  */
  850. apic_timer_irqs[cpu]++;
  851. /*
  852.  * NOTE! We'd better ACK the irq immediately,
  853.  * because timer handling can be slow.
  854.  */
  855. ack_APIC_irq();
  856. /*
  857.  * update_process_times() expects us to have done irq_enter().
  858.  * Besides, if we don't timer interrupts ignore the global
  859.  * interrupt lock, which is the WrongThing (tm) to do.
  860.  */
  861. irq_enter(cpu, 0);
  862. smp_local_timer_interrupt(regs);
  863. irq_exit(cpu, 0);
  864. if (softirq_pending(cpu))
  865. do_softirq();
  866. }
  867. /*
  868.  * This interrupt should _never_ happen with our APIC/SMP architecture
  869.  */
  870. asmlinkage void smp_spurious_interrupt(void)
  871. {
  872. unsigned int v;
  873. static unsigned long last_warning;
  874. static unsigned long skipped;
  875. /*
  876.  * Check if this really is a spurious interrupt and ACK it
  877.  * if it is a vectored one.  Just in case...
  878.  * Spurious interrupts should not be ACKed.
  879.  */
  880. v = apic_read(APIC_ISR + ((SPURIOUS_APIC_VECTOR & ~0x1f) >> 1));
  881. if (v & (1 << (SPURIOUS_APIC_VECTOR & 0x1f)))
  882. ack_APIC_irq();
  883. /* see sw-dev-man vol 3, chapter 7.4.13.5 */
  884. if (last_warning+30*HZ < jiffies) {
  885. printk(KERN_INFO "spurious APIC interrupt on CPU#%d, %ld skipped.n",
  886.        smp_processor_id(), skipped);
  887. last_warning = jiffies;
  888. } else {
  889. skipped++;
  890. }
  891. }
  892. /*
  893.  * This interrupt should never happen with our APIC/SMP architecture
  894.  */
  895. asmlinkage void smp_error_interrupt(void)
  896. {
  897. unsigned int v, v1;
  898. /* First tickle the hardware, only then report what went on. -- REW */
  899. v = apic_read(APIC_ESR);
  900. apic_write(APIC_ESR, 0);
  901. v1 = apic_read(APIC_ESR);
  902. ack_APIC_irq();
  903. atomic_inc(&irq_err_count);
  904. /* Here is what the APIC error bits mean:
  905.    0: Send CS error
  906.    1: Receive CS error
  907.    2: Send accept error
  908.    3: Receive accept error
  909.    4: Reserved
  910.    5: Send illegal vector
  911.    6: Received illegal vector
  912.    7: Illegal register address
  913. */
  914. printk (KERN_ERR "APIC error on CPU%d: %02x(%02x)n",
  915. smp_processor_id(), v , v1);
  916. }
  917. /*
  918.  * This initializes the IO-APIC and APIC hardware if this is
  919.  * a UP kernel.
  920.  */
  921. int __init APIC_init_uniprocessor (void)
  922. {
  923. if (!smp_found_config && !cpu_has_apic)
  924. return -1;
  925. /*
  926.  * Complain if the BIOS pretends there is one.
  927.  */
  928. if (!cpu_has_apic && APIC_INTEGRATED(apic_version[boot_cpu_id])) {
  929. printk(KERN_ERR "BIOS bug, local APIC #%d not detected!...n",
  930. boot_cpu_id);
  931. return -1;
  932. }
  933. verify_local_APIC();
  934. connect_bsp_APIC();
  935. phys_cpu_present_map = 1;
  936. apic_write_around(APIC_ID, boot_cpu_id);
  937. apic_pm_init2();
  938. setup_local_APIC();
  939. if (nmi_watchdog == NMI_LOCAL_APIC)
  940. check_nmi_watchdog();
  941. #ifdef CONFIG_X86_IO_APIC
  942. if (smp_found_config)
  943. if (!skip_ioapic_setup && nr_ioapics)
  944. setup_IO_APIC();
  945. #endif
  946. setup_APIC_clocks();
  947. return 0;
  948. }