smp.c
上传用户:jlfgdled
上传日期:2013-04-10
资源大小:33168k
文件大小:7k
源码类别:

Linux/Unix编程

开发平台:

Unix_Linux

  1. /*
  2.  * SMP Support
  3.  *
  4.  * Copyright (C) 1999 Walt Drummond <drummond@valinux.com>
  5.  * Copyright (C) 1999, 2001 David Mosberger-Tang <davidm@hpl.hp.com>
  6.  *
  7.  * Lots of stuff stolen from arch/alpha/kernel/smp.c
  8.  *
  9.  * 01/05/16 Rohit Seth <rohit.seth@intel.com>  IA64-SMP functions. Reorganized
  10.  * the existing code (on the lines of x86 port).
  11.  * 00/09/11 David Mosberger <davidm@hpl.hp.com> Do loops_per_jiffy
  12.  * calibration on each CPU.
  13.  * 00/08/23 Asit Mallick <asit.k.mallick@intel.com> fixed logical processor id
  14.  * 00/03/31 Rohit Seth <rohit.seth@intel.com> Fixes for Bootstrap Processor
  15.  * & cpu_online_map now gets done here (instead of setup.c)
  16.  * 99/10/05 davidm Update to bring it in sync with new command-line processing
  17.  *  scheme.
  18.  * 10/13/00 Goutham Rao <goutham.rao@intel.com> Updated smp_call_function and
  19.  * smp_call_function_single to resend IPI on timeouts
  20.  */
  21. #define __KERNEL_SYSCALLS__
  22. #include <linux/config.h>
  23. #include <linux/kernel.h>
  24. #include <linux/sched.h>
  25. #include <linux/init.h>
  26. #include <linux/interrupt.h>
  27. #include <linux/smp.h>
  28. #include <linux/kernel_stat.h>
  29. #include <linux/mm.h>
  30. #include <linux/delay.h>
  31. #include <linux/cache.h>
  32. #include <linux/efi.h>
  33. #include <asm/atomic.h>
  34. #include <asm/bitops.h>
  35. #include <asm/current.h>
  36. #include <asm/delay.h>
  37. #include <asm/machvec.h>
  38. #include <asm/io.h>
  39. #include <asm/irq.h>
  40. #include <asm/page.h>
  41. #include <asm/pgalloc.h>
  42. #include <asm/pgtable.h>
  43. #include <asm/processor.h>
  44. #include <asm/ptrace.h>
  45. #include <asm/sal.h>
  46. #include <asm/system.h>
  47. #include <asm/unistd.h>
  48. #include <asm/mca.h>
  49. /* The 'big kernel lock' */
  50. spinlock_t kernel_flag __cacheline_aligned_in_smp = SPIN_LOCK_UNLOCKED;
  51. /*
  52.  * Structure and data for smp_call_function(). This is designed to minimise static memory
  53.  * requirements. It also looks cleaner.
  54.  */
  55. static spinlock_t call_lock = SPIN_LOCK_UNLOCKED;
  56. struct call_data_struct {
  57. void (*func) (void *info);
  58. void *info;
  59. long wait;
  60. atomic_t started;
  61. atomic_t finished;
  62. };
  63. static volatile struct call_data_struct *call_data;
  64. #define IPI_CALL_FUNC 0
  65. #define IPI_CPU_STOP 1
  66. static void
  67. stop_this_cpu (void)
  68. {
  69. extern void cpu_halt (void);
  70. /*
  71.  * Remove this CPU:
  72.  */
  73. clear_bit(smp_processor_id(), &cpu_online_map);
  74. max_xtp();
  75. __cli();
  76. cpu_halt();
  77. }
  78. void
  79. handle_IPI (int irq, void *dev_id, struct pt_regs *regs)
  80. {
  81. int this_cpu = smp_processor_id();
  82. unsigned long *pending_ipis = &local_cpu_data->ipi.operation;
  83. unsigned long ops;
  84. /* Count this now; we may make a call that never returns. */
  85. local_cpu_data->ipi_count++;
  86. mb(); /* Order interrupt and bit testing. */
  87. while ((ops = xchg(pending_ipis, 0)) != 0) {
  88.   mb(); /* Order bit clearing and data access. */
  89.   do {
  90. unsigned long which;
  91. which = ffz(~ops);
  92. ops &= ~(1 << which);
  93. switch (which) {
  94. case IPI_CALL_FUNC:
  95. {
  96. struct call_data_struct *data;
  97. void (*func)(void *info);
  98. void *info;
  99. int wait;
  100. /* release the 'pointer lock' */
  101. data = (struct call_data_struct *) call_data;
  102. func = data->func;
  103. info = data->info;
  104. wait = data->wait;
  105. mb();
  106. atomic_inc(&data->started);
  107. /* At this point the structure may be gone unless wait is true.  */
  108. (*func)(info);
  109. /* Notify the sending CPU that the task is done.  */
  110. mb();
  111. if (wait)
  112. atomic_inc(&data->finished);
  113. }
  114. break;
  115. case IPI_CPU_STOP:
  116. stop_this_cpu();
  117. break;
  118. default:
  119. printk(KERN_CRIT "Unknown IPI on CPU %d: %lun", this_cpu, which);
  120. break;
  121. } /* Switch */
  122.   } while (ops);
  123.   mb(); /* Order data access and bit testing. */
  124. }
  125. }
  126. static inline void
  127. send_IPI_single (int dest_cpu, int op)
  128. {
  129. set_bit(op, &cpu_data(dest_cpu)->ipi.operation);
  130. platform_send_ipi(dest_cpu, IA64_IPI_VECTOR, IA64_IPI_DM_INT, 0);
  131. }
  132. static inline void
  133. send_IPI_allbutself (int op)
  134. {
  135. int i;
  136. for (i = 0; i < smp_num_cpus; i++) {
  137. if (i != smp_processor_id())
  138. send_IPI_single(i, op);
  139. }
  140. }
  141. static inline void
  142. send_IPI_all (int op)
  143. {
  144. int i;
  145. for (i = 0; i < smp_num_cpus; i++)
  146. send_IPI_single(i, op);
  147. }
  148. static inline void
  149. send_IPI_self (int op)
  150. {
  151. send_IPI_single(smp_processor_id(), op);
  152. }
  153. void
  154. smp_send_reschedule (int cpu)
  155. {
  156. platform_send_ipi(cpu, IA64_IPI_RESCHEDULE, IA64_IPI_DM_INT, 0);
  157. }
  158. void
  159. smp_flush_tlb_all (void)
  160. {
  161. smp_call_function ((void (*)(void *))__flush_tlb_all,0,1,1);
  162. __flush_tlb_all();
  163. }
  164. /*
  165.  * Run a function on another CPU
  166.  *  <func> The function to run. This must be fast and non-blocking.
  167.  *  <info> An arbitrary pointer to pass to the function.
  168.  *  <nonatomic> Currently unused.
  169.  *  <wait> If true, wait until function has completed on other CPUs.
  170.  *  [RETURNS]   0 on success, else a negative status code.
  171.  *
  172.  * Does not return until the remote CPU is nearly ready to execute <func>
  173.  * or is or has executed.
  174.  */
  175. int
  176. smp_call_function_single (int cpuid, void (*func) (void *info), void *info, int nonatomic,
  177.   int wait)
  178. {
  179. struct call_data_struct data;
  180. int cpus = 1;
  181. if (cpuid == smp_processor_id()) {
  182. printk("%s: trying to call selfn", __FUNCTION__);
  183. return -EBUSY;
  184. }
  185. data.func = func;
  186. data.info = info;
  187. atomic_set(&data.started, 0);
  188. data.wait = wait;
  189. if (wait)
  190. atomic_set(&data.finished, 0);
  191. spin_lock_bh(&call_lock);
  192. call_data = &data;
  193. mb(); /* ensure store to call_data precedes setting of IPI_CALL_FUNC */
  194.    send_IPI_single(cpuid, IPI_CALL_FUNC);
  195. /* Wait for response */
  196. while (atomic_read(&data.started) != cpus)
  197. barrier();
  198. if (wait)
  199. while (atomic_read(&data.finished) != cpus)
  200. barrier();
  201. call_data = NULL;
  202. spin_unlock_bh(&call_lock);
  203. return 0;
  204. }
  205. /*
  206.  * this function sends a 'generic call function' IPI to all other CPUs
  207.  * in the system.
  208.  */
  209. /*
  210.  *  [SUMMARY] Run a function on all other CPUs.
  211.  *  <func> The function to run. This must be fast and non-blocking.
  212.  *  <info> An arbitrary pointer to pass to the function.
  213.  *  <nonatomic> currently unused.
  214.  *  <wait> If true, wait (atomically) until function has completed on other CPUs.
  215.  *  [RETURNS]   0 on success, else a negative status code.
  216.  *
  217.  * Does not return until remote CPUs are nearly ready to execute <func> or are or have
  218.  * executed.
  219.  *
  220.  * You must not call this function with disabled interrupts or from a hardware interrupt
  221.  * handler, you may call it from a bottom half handler.
  222.  */
  223. int
  224. smp_call_function (void (*func) (void *info), void *info, int nonatomic, int wait)
  225. {
  226. struct call_data_struct data;
  227. int cpus = smp_num_cpus-1;
  228. if (!cpus)
  229. return 0;
  230. data.func = func;
  231. data.info = info;
  232. atomic_set(&data.started, 0);
  233. data.wait = wait;
  234. if (wait)
  235. atomic_set(&data.finished, 0);
  236. spin_lock_bh(&call_lock);
  237. call_data = &data;
  238. mb(); /* ensure store to call_data precedes setting of IPI_CALL_FUNC */
  239. send_IPI_allbutself(IPI_CALL_FUNC);
  240. /* Wait for response */
  241. while (atomic_read(&data.started) != cpus)
  242. barrier();
  243. if (wait)
  244. while (atomic_read(&data.finished) != cpus)
  245. barrier();
  246. call_data = NULL;
  247. spin_unlock_bh(&call_lock);
  248. return 0;
  249. }
  250. void
  251. smp_do_timer (struct pt_regs *regs)
  252. {
  253. int user = user_mode(regs);
  254. if (--local_cpu_data->prof_counter <= 0) {
  255. local_cpu_data->prof_counter = local_cpu_data->prof_multiplier;
  256. update_process_times(user);
  257. }
  258. }
  259. /*
  260.  * this function calls the 'stop' function on all other CPUs in the system.
  261.  */
  262. void
  263. smp_send_stop (void)
  264. {
  265. send_IPI_allbutself(IPI_CPU_STOP);
  266. smp_num_cpus = 1;
  267. }
  268. int __init
  269. setup_profiling_timer (unsigned int multiplier)
  270. {
  271. return -EINVAL;
  272. }