x86: irq handler func pointers
[akaros.git] / kern / arch / x86 / apic.h
1 /*
2  * Copyright (c) 2009 The Regents of the University of California
3  * Barret Rhoden <brho@cs.berkeley.edu>
4  * See LICENSE for details.
5  */
6
7 #ifndef ROS_KERN_APIC_H
8 #define ROS_KERN_APIC_H
9
10 /* 
11  * Functions and definitions for dealing with the APIC and PIC, specific to
12  * Intel.  Does not handle an x2APIC.
13  */
14 #include <arch/mmu.h>
15 #include <arch/x86.h>
16 #include <atomic.h>
17
18 /* PIC (8259A)
19  * When looking at the specs, A0 is our CMD line, and A1 is the DATA line.  This
20  * means that blindly writing to PIC1_DATA is an OCW1 (interrupt masks).  When
21  * writing to CMD (A0), the chip can determine betweeb OCW2 and OCW3 by the
22  * setting of a few specific bits (OCW2 has bit 3 unset, OCW3 has it set). */
23 #define PIC1_CMD                                        0x20
24 #define PIC1_DATA                                       0x21
25 #define PIC2_CMD                                        0xA0
26 #define PIC2_DATA                                       0xA1
27 // These are also hardcoded into the IRQ_HANDLERs of kern/trapentry.S
28 #define PIC1_OFFSET                                     0x20
29 #define PIC2_OFFSET                                     0x28
30 #define PIC1_SPURIOUS                           (7 + PIC1_OFFSET)
31 #define PIC2_SPURIOUS                           (7 + PIC2_OFFSET)
32 #define PIC_EOI                                         0x20    /* OCW2 EOI */
33 /* These set the next CMD read to return specific values.  Note that the chip
34  * remembers what setting we had before (IRR or ISR), if you do other reads of
35  * CMD. (not tested, written in the spec sheet) */
36 #define PIC_READ_IRR                            0x0a    /* OCW3 irq ready next CMD read */
37 #define PIC_READ_ISR                            0x0b    /* OCW3 irq service next CMD read */
38
39 // Local APIC
40 /* PBASE is the physical address.  It is mapped in at the VADDR LAPIC_BASE.
41  * 64 bit note: it looks like this is mapped to the same place in 64 bit address
42  * spaces.  We just happen to have a slight 'hole' in addressable physical
43  * memory.  We can move the PBASE, but we're limited to 32 bit (physical)
44  * addresses. */
45 #define LAPIC_PBASE                                     0xfee00000      /* default *physical* address */
46 #define LAPIC_EOI                                       (LAPIC_BASE + 0x0b0)
47 #define LAPIC_SPURIOUS                          (LAPIC_BASE + 0x0f0)
48 #define LAPIC_VERSION                           (LAPIC_BASE + 0x030)
49 #define LAPIC_ERROR                                     (LAPIC_BASE + 0x280)
50 #define LAPIC_ID                                        (LAPIC_BASE + 0x020)
51 #define LAPIC_LOGICAL_ID                        (LAPIC_BASE + 0x0d0)
52 // LAPIC Local Vector Table
53 #define LAPIC_LVT_TIMER                         (LAPIC_BASE + 0x320)
54 #define LAPIC_LVT_LINT0                         (LAPIC_BASE + 0x350)
55 #define LAPIC_LVT_LINT1                         (LAPIC_BASE + 0x360)
56 #define LAPIC_LVT_ERROR                         (LAPIC_BASE + 0x370)
57 #define LAPIC_LVT_PERFMON                       (LAPIC_BASE + 0x340)
58 #define LAPIC_LVT_THERMAL                       (LAPIC_BASE + 0x330)
59 #define LAPIC_LVT_MASK                          0x00010000
60 // LAPIC Timer
61 #define LAPIC_TIMER_INIT                        (LAPIC_BASE + 0x380)
62 #define LAPIC_TIMER_CURRENT                     (LAPIC_BASE + 0x390)
63 #define LAPIC_TIMER_DIVIDE                      (LAPIC_BASE + 0x3e0)
64 #define LAPIC_TIMER_DEFAULT_VECTOR      0xeb    /* Aka 235, IRQ203 */
65 /* Quick note on the divisor.  The LAPIC timer ticks once per divisor-bus ticks
66  * (system bus or APIC bus, depending on the model).  Ex: A divisor of 128 means
67  * 128 bus ticks results in 1 timer tick.  The divisor increases the time range
68  * and decreases the granularity of the timer.  Numbers are appx, based on 4
69  * billion ticks, vs 2^32 ticks.
70  * Ex:   1GHz bus, div 001:    4sec max,    1ns granularity
71  * Ex:   1GHz bus, div 128:  512sec max,  128ns granularity
72  * Ex: 100MHz bus, div 001:   40sec max,   10ns granularity
73  * Ex: 100MHz bus, div 128: 5120sec max, 1280ns granularity */
74 #define LAPIC_TIMER_DIVISOR_VAL         32      /* seems reasonable */
75 #define LAPIC_TIMER_DIVISOR_BITS        0x8     /* Div = 32 */
76
77 // IPI Interrupt Command Register
78 #define LAPIC_IPI_ICR_LOWER                     (LAPIC_BASE + 0x300)
79 #define LAPIC_IPI_ICR_UPPER                     (LAPIC_BASE + 0x310)
80 /* Interrupts being serviced (in-service) and pending (interrupt request reg).
81  * Note these registers are not normal bitmaps, but instead are 8 separate
82  * 32-bit registers, spaced/aligned on 16 byte boundaries in the LAPIC address
83  * space. */
84 #define LAPIC_ISR                                       (LAPIC_BASE + 0x100)
85 #define LAPIC_IRR                                       (LAPIC_BASE + 0x200)
86
87 // PIT (Programmable Interval Timer)
88 #define TIMER_REG_CNTR0 0       /* timer counter 0 port */
89 #define TIMER_REG_CNTR1 1       /* timer counter 1 port */
90 #define TIMER_REG_CNTR2 2       /* timer counter 2 port */
91 #define TIMER_REG_MODE  3       /* timer mode port */
92 #define TIMER_SEL0      0x00    /* select counter 0 */
93 #define TIMER_SEL1      0x40    /* select counter 1 */
94 #define TIMER_SEL2      0x80    /* select counter 2 */
95 #define TIMER_INTTC     0x00    /* mode 0, intr on terminal cnt */
96 #define TIMER_ONESHOT   0x02    /* mode 1, one shot */
97 #define TIMER_RATEGEN   0x04    /* mode 2, rate generator */
98 #define TIMER_SQWAVE    0x06    /* mode 3, square wave */
99 #define TIMER_SWSTROBE  0x08    /* mode 4, s/w triggered strobe */
100 #define TIMER_HWSTROBE  0x0a    /* mode 5, h/w triggered strobe */
101 #define TIMER_LATCH     0x00    /* latch counter for reading */
102 #define TIMER_LSB       0x10    /* r/w counter LSB */
103 #define TIMER_MSB       0x20    /* r/w counter MSB */
104 #define TIMER_16BIT     0x30    /* r/w counter 16 bits, LSB first */
105 #define TIMER_BCD       0x01    /* count in BCD */
106
107 #define PIT_FREQ                                        1193182
108
109 #define IO_TIMER1   0x40        /* 8253 Timer #1 */
110 #define TIMER_CNTR0 (IO_TIMER1 + TIMER_REG_CNTR0)
111 #define TIMER_CNTR1 (IO_TIMER1 + TIMER_REG_CNTR1)
112 #define TIMER_CNTR2 (IO_TIMER1 + TIMER_REG_CNTR2)
113 #define TIMER_MODE  (IO_TIMER1 + TIMER_REG_MODE)
114
115 typedef struct system_timing {
116         uint64_t tsc_freq;
117         uint64_t bus_freq;
118         uint64_t timing_overhead;
119         uint16_t pit_divisor;
120         uint8_t pit_mode;
121 } system_timing_t;
122
123 extern system_timing_t system_timing;
124
125 /* Tracks whether it is safe to execute core_id() or not.  If we're using the
126  * LAPIC, we need to have the LAPIC mapped into VM.  vm_init() sets this to
127  * TRUE.
128  *
129  * If we're using rdtscp, if the instruction is supported, we can call core_id()
130  * without rebooting.  cpuinfo should have panic'd if we're running on a machine
131  * that doesn't support rdtscp, before vm_init().
132  *
133  * If we're using something else (like segmentation), then that will need to get
134  * set up before vm_init(), at least for core 0.
135  *
136  * Note that core_id() will return 0 (or possibly another wrong answer) on cores
137  * other than core 0 when it is called before smp_boot completes. */
138 extern bool core_id_ready;
139
140 void pic_remap(void);
141 void pic_mask_irq(int irq);
142 void pic_unmask_irq(int irq);
143 uint16_t pic_get_mask(void);
144 uint16_t pic_get_irr(void);
145 uint16_t pic_get_isr(void);
146 bool pic_check_spurious(int trap_nr);
147 void pic_send_eoi(int trap_nr);
148 bool lapic_check_spurious(int trap_nr);
149 bool lapic_get_isr_bit(uint8_t vector);
150 bool lapic_get_irr_bit(uint8_t vector);
151 void lapic_print_isr(void);
152 bool ipi_is_pending(uint8_t vector);
153 void __lapic_set_timer(uint32_t ticks, uint8_t vec, bool periodic, uint8_t div);
154 void lapic_set_timer(uint32_t usec, bool periodic);
155 uint32_t lapic_get_default_id(void);
156 // PIT related
157 void pit_set_timer(uint32_t freq, uint32_t mode);
158 void timer_init(void);
159 void udelay_pit(uint64_t usec);
160 // TODO: right now timer defaults to TSC
161 uint64_t gettimer(void);
162 uint64_t getfreq(void);
163
164 static inline void lapic_send_eoi(int unused);
165 static inline uint32_t lapic_get_version(void);
166 static inline uint32_t lapic_get_error(void);
167 static inline uint32_t lapic_get_id(void);
168 static inline void lapic_set_id(uint8_t id);    // Careful, may not actually work
169 static inline uint8_t lapic_get_logid(void);
170 static inline void lapic_set_logid(uint8_t id);
171 static inline void lapic_disable_timer(void);
172 static inline void lapic_disable(void);
173 static inline void lapic_enable(void);
174 static inline void lapic_wait_to_send(void);
175 static inline void send_init_ipi(void);
176 static inline void send_startup_ipi(uint8_t vector);
177 static inline void send_self_ipi(uint8_t vector);
178 static inline void send_broadcast_ipi(uint8_t vector);
179 static inline void send_all_others_ipi(uint8_t vector);
180 static inline void __send_ipi(uint8_t hw_coreid, uint8_t vector);
181 static inline void send_group_ipi(uint8_t hw_groupid, uint8_t vector);
182 static inline void __send_nmi(uint8_t hw_coreid);
183
184 #define mask_lapic_lvt(entry) \
185         write_mmreg32(entry, read_mmreg32(entry) | LAPIC_LVT_MASK)
186 #define unmask_lapic_lvt(entry) \
187         write_mmreg32(entry, read_mmreg32(entry) & ~LAPIC_LVT_MASK)
188
189 static inline void lapic_send_eoi(int unused)
190 {
191         write_mmreg32(LAPIC_EOI, 0);
192 }
193
194 static inline uint32_t lapic_get_version(void)
195 {
196         return read_mmreg32(LAPIC_VERSION);
197 }
198
199 static inline uint32_t lapic_get_error(void)
200 {
201         write_mmreg32(LAPIC_ERROR, 0xdeadbeef);
202         return read_mmreg32(LAPIC_ERROR);
203 }
204
205 static inline uint32_t lapic_get_id(void)
206 {
207         return read_mmreg32(LAPIC_ID) >> 24;
208 }
209
210 static inline void lapic_set_id(uint8_t id)
211 {
212         write_mmreg32(LAPIC_ID, id << 24);
213 }
214
215 static inline uint8_t lapic_get_logid(void)
216 {
217         return read_mmreg32(LAPIC_LOGICAL_ID) >> 24;
218 }
219
220 static inline void lapic_set_logid(uint8_t id)
221 {
222         write_mmreg32(LAPIC_LOGICAL_ID, id << 24);
223 }
224
225 static inline void lapic_disable_timer(void)
226 {
227         write_mmreg32(LAPIC_LVT_TIMER, 0);
228 }
229
230 /* There are a couple ways to do it.  The MSR route doesn't seem to work
231  * in KVM.  It's also a somewhat permanent thing
232  */
233 static inline void lapic_disable(void)
234 {
235         write_mmreg32(LAPIC_SPURIOUS, read_mmreg32(LAPIC_SPURIOUS) & 0xffffefff);
236         //write_msr(IA32_APIC_BASE, read_msr(IA32_APIC_BASE) & ~MSR_APIC_ENABLE);
237 }
238
239 /* Spins until previous IPIs are delivered.  Not sure if we want it inlined
240  * Also not sure when we really need to do this. 
241  */
242 static inline void lapic_wait_to_send(void)
243 {
244         while (read_mmreg32(LAPIC_IPI_ICR_LOWER) & 0x1000)
245                 __cpu_relax();
246 }
247
248 static inline void lapic_enable(void)
249 {
250         write_mmreg32(LAPIC_SPURIOUS, read_mmreg32(LAPIC_SPURIOUS) | 0x00000100);
251 }
252
253 static inline void send_init_ipi(void)
254 {
255         write_mmreg32(LAPIC_IPI_ICR_LOWER, 0x000c4500);
256         lapic_wait_to_send();
257 }
258
259 static inline void send_startup_ipi(uint8_t vector)
260 {
261         write_mmreg32(LAPIC_IPI_ICR_LOWER, 0x000c4600 | vector);
262         lapic_wait_to_send();
263 }
264
265 static inline void send_self_ipi(uint8_t vector)
266 {
267         write_mmreg32(LAPIC_IPI_ICR_LOWER, 0x00044000 | vector);
268         lapic_wait_to_send();
269 }
270
271 static inline void send_broadcast_ipi(uint8_t vector)
272 {
273         write_mmreg32(LAPIC_IPI_ICR_LOWER, 0x00084000 | vector);
274         lapic_wait_to_send();
275 }
276
277 static inline void send_all_others_ipi(uint8_t vector)
278 {
279         write_mmreg32(LAPIC_IPI_ICR_LOWER, 0x000c4000 | vector);
280         lapic_wait_to_send();
281 }
282
283 static inline void __send_ipi(uint8_t hw_coreid, uint8_t vector)
284 {
285         write_mmreg32(LAPIC_IPI_ICR_UPPER, hw_coreid << 24);
286         write_mmreg32(LAPIC_IPI_ICR_LOWER, 0x00004000 | vector);
287         lapic_wait_to_send();
288 }
289
290 static inline void send_group_ipi(uint8_t hw_groupid, uint8_t vector)
291 {
292         write_mmreg32(LAPIC_IPI_ICR_UPPER, hw_groupid << 24);
293         write_mmreg32(LAPIC_IPI_ICR_LOWER, 0x00004800 | vector);
294         lapic_wait_to_send();
295 }
296
297 static inline void __send_nmi(uint8_t hw_coreid)
298 {
299         if (hw_coreid == 255)
300                 return;
301         write_mmreg32(LAPIC_IPI_ICR_UPPER, hw_coreid << 24);
302         write_mmreg32(LAPIC_IPI_ICR_LOWER, 0x00004400);
303         lapic_wait_to_send();
304 }
305
306 /* To change the LAPIC Base (not recommended):
307         msr_val = read_msr(IA32_APIC_BASE);
308         msr_val = msr_val & ~MSR_APIC_BASE_ADDRESS | 0xfaa00000;
309         write_msr(IA32_APIC_BASE, msr_val);
310 */
311
312 /* 
313  * This file is part of the UCB release of Plan 9. It is subject to the license
314  * terms in the LICENSE file found in the top-level directory of this
315  * distribution and at http://akaros.cs.berkeley.edu/files/Plan9License. No
316  * part of the UCB release of Plan 9, including this file, may be copied,
317  * modified, propagated, or distributed except according to the terms contained
318  * in the LICENSE file.
319  */
320
321 /*
322  * There are 2 flavours of APIC, Local APIC and IOAPIC,
323  * Each I/O APIC has a unique physical address,
324  * Local APICs are all at the same physical address as they can only be
325  * accessed by the local CPU.  APIC ids are unique to the
326  * APIC type, so an IOAPIC and APIC both with id 0 is ok.
327  */
328
329 struct ioapic {
330         spinlock_t lock;                        /* IOAPIC: register access */
331         uintptr_t addr;                         /* IOAPIC: register base */
332         uintptr_t paddr;                        /* register base */
333         int nrdt;                                       /* IOAPIC: size of RDT */
334         int gsib;                                       /* IOAPIC: global RDT index */
335         int ibase;                                      /* global interrupt base */
336 };
337
338 struct lapic {
339         int machno;                                     /* APIC */
340
341         uint32_t lvt[6];
342         int nlvt;
343         int ver;
344
345         int64_t hz;                                     /* APIC Timer frequency */
346         int64_t max;
347         int64_t min;
348         int64_t div;
349 };
350
351 struct apic {
352         int useable;                            /* en */
353         struct ioapic;
354         struct lapic;
355 };
356
357 enum {
358         Nbus = 256,
359         Napic = 254,    /* xAPIC architectural limit */
360         Nrdt = 64,
361 };
362
363 /*
364  * Common bits for
365  *      IOAPIC Redirection Table Entry (RDT);
366  *      APIC Local Vector Table Entry (LVT);
367  *      APIC Interrupt Command Register (ICR).
368  * [10:8] Message Type
369  * [11] Destination Mode (RW)
370  * [12] Delivery Status (RO)
371  * [13] Interrupt Input Pin Polarity (RW)
372  * [14] Remote IRR (RO)
373  * [15] Trigger Mode (RW)
374  * [16] Interrupt Mask
375  */
376 enum {
377         MTf = 0x00000000,                       /* Fixed */
378         MTlp = 0x00000100,      /* Lowest Priority */
379         MTsmi = 0x00000200,     /* SMI */
380         MTrr = 0x00000300,      /* Remote Read */
381         MTnmi = 0x00000400,     /* NMI */
382         MTir = 0x00000500,      /* INIT/RESET */
383         MTsipi = 0x00000600,    /* Startup IPI */
384         MTei = 0x00000700,      /* ExtINT */
385
386         Pm = 0x00000000,        /* Physical Mode */
387         Lm = 0x00000800,        /* Logical Mode */
388
389         Ds = 0x00001000,        /* Delivery Status */
390         IPhigh = 0x00000000,    /* IIPP High */
391         IPlow = 0x00002000,     /* IIPP Low */
392         Rirr = 0x00004000,      /* Remote IRR */
393         TMedge = 0x00000000,    /* Trigger Mode Edge */
394         TMlevel = 0x00008000,   /* Trigger Mode Level */
395         Im = 0x00010000,        /* Interrupt Mask */
396 };
397
398 extern struct apic xlapic[Napic];
399 extern struct apic xioapic[Napic];
400
401 #define l16get(p)       (((p)[1]<<8)|(p)[0])
402 #define l32get(p)       (((uint32_t)l16get(p+2)<<16)|l16get(p))
403 #define l64get(p)       (((uint64_t)l32get(p+4)<<32)|l32get(p))
404
405 #include <arch/ioapic.h>
406
407 char *apicdump(char *, char *);
408 void apictimerenab(void);
409 void apicinit(int apicno, uintptr_t pa, int isbp);
410
411 /*
412 extern int pcimsienable(Pcidev*, uint64_t);
413 extern int pcimsimask(Pcidev*, int);
414 */
415
416 #endif /* ROS_KERN_APIC_H */