BNX2X: spatch signed typedefs
[akaros.git] / kern / include / smp.h
1 /*
2  * Copyright (c) 2009 The Regents of the University of California
3  * Barret Rhoden <brho@cs.berkeley.edu>
4  * See LICENSE for details.
5  */
6
7 #ifndef ROS_INC_SMP_H
8 #define ROS_INC_SMP_H
9
10 /* SMP related functions */
11
12 #include <arch/smp.h>
13 #include <ros/common.h>
14 #include <sys/queue.h>
15 #include <trap.h>
16 #include <atomic.h>
17 #include <process.h>
18 #include <syscall.h>
19 #include <alarm.h>
20 #include <trace.h>
21 #ifdef CONFIG_X86
22 #include <arch/vm.h>
23 #endif
24
25 #ifdef __SHARC__
26 typedef sharC_env_t;
27 #endif
28
29 #define CPU_STATE_IRQ                   0
30 #define CPU_STATE_KERNEL                1
31 #define CPU_STATE_USER                  2
32 #define CPU_STATE_IDLE                  3
33 #define NR_CPU_STATES                   4
34
35 static char *cpu_state_names[NR_CPU_STATES] =
36 {
37         "irq",
38         "kern",
39         "user",
40         "idle",
41 };
42
43 struct per_cpu_info {
44 #ifdef CONFIG_X86
45         uintptr_t stacktop;                     /* must be first */
46         int coreid;                                     /* must be second */
47         /* virtual machines */
48         /* this is all kind of gross, but so it goes. Kmalloc
49          * the vmxarea. It varies in size depending on the architecture.
50          */
51         struct vmcs *vmxarea;
52         struct vmcs *vmcs;
53         pseudodesc_t host_gdt;
54         int vmx_enabled;
55         void *local_vcpu;
56 #endif
57         spinlock_t lock;
58         /* Process management */
59         // cur_proc should be valid on all cores that are not management cores.
60         struct proc *cur_proc;          /* which process context is loaded */
61         struct proc *owning_proc;       /* proc owning the core / cur_ctx */
62         uint32_t owning_vcoreid;        /* vcoreid of owning proc (if applicable */
63         struct user_context *cur_ctx;   /* user ctx we came in on (can be 0) */
64         struct user_context actual_ctx; /* storage for cur_ctx */
65         uint32_t __ctx_depth;           /* don't access directly.  see trap.h. */
66         int __lock_checking_enabled;/* == 1, enables spinlock depth checking */
67         struct kthread *cur_kthread;/* tracks the running kernel context */
68         struct kthread *spare;          /* useful when restarting */
69         struct timer_chain tchain;      /* for the per-core alarm */
70         unsigned int lock_depth;
71         struct trace_ring traces;
72         int cpu_state;
73         uint64_t last_tick_cnt;
74         uint64_t state_ticks[NR_CPU_STATES];
75 #ifdef __SHARC__
76         // held spin-locks. this will have to go elsewhere if multiple kernel
77         // threads can share a CPU.
78         // zra: Used by Ivy. Let me know if this should go elsewhere.
79         sharC_env_t sharC_env;
80 #endif
81         /* TODO: 64b (not sure if we'll need these at all */
82 #ifdef CONFIG_X86
83         taskstate_t *tss;
84         segdesc_t *gdt;
85 #endif
86         /* KMSGs */
87         spinlock_t immed_amsg_lock;
88         struct kernel_msg_list NTPTV(a0t) NTPTV(a1t) NTPTV(a2t) immed_amsgs;
89         spinlock_t routine_amsg_lock;
90         struct kernel_msg_list NTPTV(a0t) NTPTV(a1t) NTPTV(a2t) routine_amsgs;
91         /* profiling -- opaque to all but the profiling code. */
92         void *profiling;
93 }__attribute__((aligned(ARCH_CL_SIZE)));
94
95 /* Allows the kernel to figure out what process is running on this core.  Can be
96  * used just like a pointer to a struct proc. */
97 #define current per_cpu_info[core_id()].cur_proc
98 /* Allows the kernel to figure out what *user* ctx is on this core's stack.  Can
99  * be used just like a pointer to a struct user_context.  Note the distinction
100  * between kernel and user contexts.  The kernel always returns to its nested,
101  * interrupted contexts via iret/etc.  We never do that for user contexts. */
102 #define current_ctx per_cpu_info[core_id()].cur_ctx
103
104 typedef struct per_cpu_info NTPTV(t) NTPTV(a0t) NTPTV(a1t) NTPTV(a2t) per_cpu_info_t;
105
106 extern per_cpu_info_t (RO per_cpu_info)[MAX_NUM_CPUS];
107 extern volatile uint32_t RO num_cpus;
108
109 /* SMP bootup functions */
110 void smp_boot(void);
111 void smp_idle(void) __attribute__((noreturn));
112 void smp_percpu_init(void); // this must be called by each core individually
113 void __arch_pcpu_init(uint32_t coreid); /* each arch has one of these */
114
115 void __set_cpu_state(struct per_cpu_info *pcpui, int state);
116 void reset_cpu_state_ticks(int coreid);
117
118 /* SMP utility functions */
119 int smp_call_function_self(isr_t handler, void *data,
120                            handler_wrapper_t **wait_wrapper);
121 int smp_call_function_all(isr_t handler, void *data,
122                           handler_wrapper_t **wait_wrapper);
123 int smp_call_function_single(uint32_t dest, isr_t handler, void *data,
124                              handler_wrapper_t **wait_wrapper);
125 int smp_call_wait(handler_wrapper_t *wrapper);
126
127 /* PCPUI Trace Rings: */
128 struct pcpu_trace_event {
129         int                                                     type;
130         int                                                     arg0;
131         uint64_t                                        arg1;
132 };
133
134 /* If you want to add a type, use the next available number, increment NR_TYPES,
135  * use your own macro, and provide a handler.  Add your handler to
136  * pcpui_tr_handlers in smp.c. */
137 #define PCPUI_TR_TYPE_NULL              0
138 #define PCPUI_TR_TYPE_KMSG              1
139 #define PCPUI_TR_TYPE_LOCKS             2
140 #define PCPUI_NR_TYPES                  3
141
142 #ifdef CONFIG_TRACE_KMSGS
143
144 # define pcpui_trace_kmsg(pcpui, pc)                                           \
145 {                                                                              \
146         struct pcpu_trace_event *e = get_trace_slot_racy(&pcpui->traces);          \
147         if (e) {                                                                   \
148                 e->type = PCPUI_TR_TYPE_KMSG;                                          \
149                 e->arg1 = pc;                                                          \
150         }                                                                          \
151 }
152
153 #else
154
155 # define pcpui_trace_kmsg(pcpui, pc)
156
157 #endif /* CONFIG_TRACE_KMSGS */
158
159
160 #ifdef CONFIG_TRACE_LOCKS
161
162 # define pcpui_trace_locks(pcpui, lock)                                        \
163 {                                                                              \
164         struct pcpu_trace_event *e = get_trace_slot_overwrite(&pcpui->traces);     \
165         if (e) {                                                                   \
166                 e->type = PCPUI_TR_TYPE_LOCKS;                                         \
167                 e->arg0 = (int)tsc2usec(read_tsc());                                   \
168                 e->arg1 = (uintptr_t)lock;                                             \
169         }                                                                          \
170 }
171
172 #else
173
174 # define pcpui_trace_locks(pcpui, lock)
175
176 #endif /* CONFIG_TRACE_LOCKS */
177
178 /* Run the handlers for all events in a pcpui ring.  Can run on all cores, or
179  * just one core.  'type' selects which event type is handled (0 for all). */
180 void pcpui_tr_foreach(int coreid, int type);
181 void pcpui_tr_foreach_all(int type);
182 void pcpui_tr_reset_all(void);
183 void pcpui_tr_reset_and_clear_all(void);
184
185 #endif /* ROS_INC_SMP_H */