0dd43831974d7e29efa56ab6a94286e94c75f30e
[akaros.git] / kern / arch / i686 / arch.h
1 #ifndef ROS_INC_ARCH_H
2 #define ROS_INC_ARCH_H
3
4 #include <ros/arch/arch.h>
5 #include <ros/common.h>
6 #include <arch/x86.h>
7 #include <arch/trap.h>
8 #include <arch/apic.h>
9
10 /* Arch Constants */
11 #define HW_CACHE_ALIGN                           64
12 /* Top of the kernel virtual mapping area (KERNBASE) */
13 /* For sanity reasons, I don't plan to map the top page */
14 #define KERN_VMAP_TOP                           0xfffff000
15
16 static __inline void breakpoint(void) __attribute__((always_inline));
17 static __inline void invlpg(void *SNT addr) __attribute__((always_inline));
18 static __inline void tlbflush(void) __attribute__((always_inline));
19 static __inline void icache_flush_page(void* va, void* kva) __attribute__((always_inline));
20 static __inline uint64_t read_tsc(void) __attribute__((always_inline));
21 static __inline uint64_t read_tsc_serialized(void) __attribute__((always_inline));
22 static __inline void enable_irq(void) __attribute__((always_inline));
23 static __inline void disable_irq(void) __attribute__((always_inline));
24 static __inline void enable_irqsave(int8_t* state) __attribute__((always_inline));
25 static __inline void disable_irqsave(int8_t* state) __attribute__((always_inline));
26 static __inline void cpu_relax(void) __attribute__((always_inline));
27 static __inline void cpu_halt(void) __attribute__((always_inline));
28 static __inline void clflush(uintptr_t* addr) __attribute__((always_inline));
29 static __inline int irq_is_enabled(void) __attribute__((always_inline));
30 static __inline int get_hw_coreid(uint32_t coreid);
31 static __inline int hw_core_id(void) __attribute__((always_inline));
32 static __inline int get_os_coreid(int hw_coreid);
33 static __inline int core_id(void) __attribute__((always_inline));
34 static __inline void cache_flush(void) __attribute__((always_inline));
35 static __inline void reboot(void) __attribute__((always_inline)) __attribute__((noreturn));
36
37 /* in trap.c */
38 void send_ipi(uint32_t os_coreid, uint8_t vector);
39 /* in cpuinfo.c */
40 void print_cpuinfo(void);
41 void show_mapping(uintptr_t start, size_t size);
42
43 /* declared in smp.c */
44 int hw_coreid_lookup[MAX_NUM_CPUS];
45 int os_coreid_lookup[MAX_NUM_CPUS];
46
47 static __inline void
48 breakpoint(void)
49 {
50         __asm __volatile("int3");
51 }
52
53 static __inline void 
54 invlpg(void *addr)
55
56         __asm __volatile("invlpg (%0)" : : "r" (addr) : "memory");
57 }  
58
59 static __inline void
60 tlbflush(void)
61 {
62         uint32_t cr3;
63         __asm __volatile("movl %%cr3,%0" : "=r" (cr3));
64         __asm __volatile("movl %0,%%cr3" : : "r" (cr3));
65 }
66
67 static __inline void
68 icache_flush_page(void* va, void* kva)
69 {
70         // x86 handles self-modifying code (mostly) without SW support
71 }
72
73 static __inline uint64_t
74 read_tsc(void)
75 {
76         uint64_t tsc;
77         __asm __volatile("rdtsc" : "=A" (tsc));
78         return tsc;
79 }
80
81 /* non-core-id reporting style (it is in ecx) */
82 static __inline uint64_t
83 read_tscp(void)
84 {
85         uint64_t tsc;
86         __asm __volatile("rdtscp" : "=A" (tsc) : : "ecx");
87         return tsc;
88 }
89
90 static __inline uint64_t 
91 read_tsc_serialized(void)
92 {
93     uint64_t tsc;
94         cpuid(0x0, 0x0, 0, 0, 0, 0);
95         tsc = read_tsc();
96         return tsc;
97 }
98
99 static __inline void
100 enable_irq(void)
101 {
102         asm volatile("sti");
103 }
104
105 static __inline void
106 disable_irq(void)
107 {
108         asm volatile("cli");
109 }
110
111 static __inline void
112 enable_irqsave(int8_t* state)
113 {
114         // *state tracks the number of nested enables and disables
115         // initial value of state: 0 = first run / no favorite
116         // > 0 means more enabled calls have been made
117         // < 0 means more disabled calls have been made
118         // Mostly doing this so we can call disable_irqsave first if we want
119
120         // one side or another "gets a point" if interrupts were already the
121         // way it wanted to go.  o/w, state stays at 0.  if the state was not 0
122         // then, enabling/disabling isn't even an option.  just increment/decrement
123
124         // if enabling is winning or tied, make sure it's enabled
125         if ((*state == 0) && !irq_is_enabled())
126                 enable_irq();
127         else
128                 (*state)++;
129 }
130
131 static __inline void
132 disable_irqsave(int8_t* state)
133 {
134         if ((*state == 0) && irq_is_enabled())
135                 disable_irq();
136         else 
137                 (*state)--;
138 }
139
140 static __inline void
141 cpu_relax(void)
142 {
143         __cpu_relax();
144 }
145
146 /* This doesn't atomically enable interrupts and then halt, like we want, so
147  * x86 needs to use a custom helper in the irq handler in trap.c. */
148 static __inline void
149 cpu_halt(void)
150 {
151         asm volatile("sti; hlt" : : : "memory");
152 }
153
154 static __inline void
155 clflush(uintptr_t* addr)
156 {
157         asm volatile("clflush %0" : : "m"(*addr));
158 }
159
160 static __inline int
161 irq_is_enabled(void)
162 {
163         return read_eflags() & FL_IF;
164 }
165
166 /* os_coreid -> hw_coreid */
167 static __inline int
168 get_hw_coreid(uint32_t coreid)
169 {
170         return hw_coreid_lookup[coreid];
171 }
172
173 static __inline int
174 hw_core_id(void)
175 {
176         return lapic_get_id();
177 }
178
179 /* hw_coreid -> os_coreid */
180 static __inline int
181 get_os_coreid(int hw_coreid)
182 {
183         return os_coreid_lookup[hw_coreid];
184 }
185
186 /* core_id() returns the OS core number, not to be confused with the
187  * hardware-specific core identifier (such as the lapic id) returned by
188  * hw_core_id() */
189 static __inline int
190 core_id(void)
191 {
192         return get_os_coreid(hw_core_id());
193 }
194
195 static __inline void
196 cache_flush(void)
197 {
198         wbinvd();
199 }
200
201 static __inline void
202 reboot(void)
203 {
204         outb(0x92, 0x3);
205         asm volatile ("movl $0, %esp; int $0");
206         while(1);
207 }
208
209 #endif /* !ROS_INC_ARCH_H */