Annotated i386/smp.c i386/smp_boot.c
[akaros.git] / kern / arch / i386 / trap.c
1 #ifdef __DEPUTY__
2 #pragma noasync
3 #endif
4
5 #include <arch/mmu.h>
6 #include <arch/x86.h>
7 #include <arch/arch.h>
8 #include <arch/console.h>
9 #include <arch/apic.h>
10 #include <smp.h>
11 #include <assert.h>
12 #include <pmap.h>
13 #include <trap.h>
14 #include <monitor.h>
15 #include <process.h>
16 #include <stdio.h>
17
18 #include <syscall.h>
19
20 taskstate_t ts;
21
22 /* Interrupt descriptor table.  (Must be built at run time because
23  * shifted function addresses can't be represented in relocation records.)
24  */
25 // Aligned on an 8 byte boundary (SDM V3A 5-13)
26 gatedesc_t __attribute__ ((aligned (8))) idt[256] = { { 0 } };
27 pseudodesc_t idt_pd = {
28         sizeof(idt) - 1, (uint32_t) idt
29 };
30
31 /* global handler table, used by core0 (for now).  allows the registration
32  * of functions to be called when servicing an interrupt.  other cores
33  * can set up their own later.
34  */
35 handler_t interrupt_handlers[NUM_INTERRUPT_HANDLERS];
36
37 static const char *NTS (IN_HANDLER trapname)(int trapno)
38 {
39     // zra: excnames is NORACE because Ivy doesn't trust const
40         static const char *NT const (NORACE excnames)[] = {
41                 "Divide error",
42                 "Debug",
43                 "Non-Maskable Interrupt",
44                 "Breakpoint",
45                 "Overflow",
46                 "BOUND Range Exceeded",
47                 "Invalid Opcode",
48                 "Device Not Available",
49                 "Double Fault",
50                 "Coprocessor Segment Overrun",
51                 "Invalid TSS",
52                 "Segment Not Present",
53                 "Stack Fault",
54                 "General Protection",
55                 "Page Fault",
56                 "(unknown trap)",
57                 "x87 FPU Floating-Point Error",
58                 "Alignment Check",
59                 "Machine-Check",
60                 "SIMD Floating-Point Exception"
61         };
62
63         if (trapno < sizeof(excnames)/sizeof(excnames[0]))
64                 return excnames[trapno];
65         if (trapno == T_SYSCALL)
66                 return "System call";
67         return "(unknown trap)";
68 }
69
70
71 void
72 idt_init(void)
73 {
74         extern segdesc_t gdt[];
75
76         // This table is made in trapentry.S by each macro in that file.
77         // It is layed out such that the ith entry is the ith's traphandler's
78         // (uint32_t) trap addr, then (uint32_t) trap number
79         struct trapinfo { uint32_t trapaddr; uint32_t trapnumber; };
80         extern struct trapinfo (BND(__this,trap_tbl_end) trap_tbl)[];
81         extern struct trapinfo (SNT trap_tbl_end)[];
82         int i, trap_tbl_size = trap_tbl_end - trap_tbl;
83         extern void ISR_default(void);
84
85         // set all to default, to catch everything
86         for(i = 0; i < 256; i++)
87                 SETGATE(idt[i], 0, GD_KT, &ISR_default, 0);
88
89         // set all entries that have real trap handlers
90         // we need to stop short of the last one, since the last is the default
91         // handler with a fake interrupt number (500) that is out of bounds of
92         // the idt[]
93         // if we set these to trap gates, be sure to handle the IRQs separately
94         // and we might need to break our pretty tables
95         for(i = 0; i < trap_tbl_size - 1; i++)
96                 SETGATE(idt[trap_tbl[i].trapnumber], 0, GD_KT, trap_tbl[i].trapaddr, 0);
97
98         // turn on syscall handling and other user-accessible ints
99         // DPL 3 means this can be triggered by the int instruction
100         // STS_TG32 sets the IDT type to a Trap Gate (interrupts enabled)
101         idt[T_SYSCALL].gd_dpl = 3;
102         idt[T_SYSCALL].gd_type = STS_TG32;
103         idt[T_BRKPT].gd_dpl = 3;
104
105         // Setup a TSS so that we get the right stack
106         // when we trap to the kernel.
107         ts.ts_esp0 = KSTACKTOP;
108         ts.ts_ss0 = GD_KD;
109
110         // Initialize the TSS field of the gdt.
111         gdt[GD_TSS >> 3] = SEG16(STS_T32A, (uint32_t) (&ts),
112                                         sizeof(taskstate_t), 0);
113         gdt[GD_TSS >> 3].sd_s = 0;
114
115         // Load the TSS
116         ltr(GD_TSS);
117
118         // Load the IDT
119         asm volatile("lidt idt_pd");
120
121         // This will go away when we start using the IOAPIC properly
122         pic_remap();
123         // set LINT0 to receive ExtINTs (KVM's default).  At reset they are 0x1000.
124         write_mmreg32(LAPIC_LVT_LINT0, 0x700);
125         // mask it to shut it up for now
126         mask_lapic_lvt(LAPIC_LVT_LINT0);
127         // and turn it on
128         lapic_enable();
129 }
130
131 void
132 (IN_HANDLER print_regs)(push_regs_t *regs)
133 {
134         cprintf("  edi  0x%08x\n", regs->reg_edi);
135         cprintf("  esi  0x%08x\n", regs->reg_esi);
136         cprintf("  ebp  0x%08x\n", regs->reg_ebp);
137         cprintf("  oesp 0x%08x\n", regs->reg_oesp);
138         cprintf("  ebx  0x%08x\n", regs->reg_ebx);
139         cprintf("  edx  0x%08x\n", regs->reg_edx);
140         cprintf("  ecx  0x%08x\n", regs->reg_ecx);
141         cprintf("  eax  0x%08x\n", regs->reg_eax);
142 }
143
144 void
145 (IN_HANDLER print_trapframe)(trapframe_t *tf)
146 {
147         cprintf("TRAP frame at %p on core %d\n", tf, core_id());
148         print_regs(&tf->tf_regs);
149         cprintf("  es   0x----%04x\n", tf->tf_es);
150         cprintf("  ds   0x----%04x\n", tf->tf_ds);
151         cprintf("  trap 0x%08x %s\n", tf->tf_trapno, trapname(tf->tf_trapno));
152         cprintf("  err  0x%08x\n", tf->tf_err);
153         cprintf("  eip  0x%08x\n", tf->tf_eip);
154         cprintf("  cs   0x----%04x\n", tf->tf_cs);
155         cprintf("  flag 0x%08x\n", tf->tf_eflags);
156         cprintf("  esp  0x%08x\n", tf->tf_esp);
157         cprintf("  ss   0x----%04x\n", tf->tf_ss);
158 }
159
160 static void
161 (IN_HANDLER trap_dispatch)(trapframe_t *tf)
162 {
163         // Handle processor exceptions.
164         switch(tf->tf_trapno) {
165                 case T_BRKPT:
166                         while (1)
167                                 monitor(tf);
168                         // never get to this
169                         assert(0);
170                 case T_PGFLT:
171                         page_fault_handler(tf);
172                         break;
173                 case T_SYSCALL:
174                         // check for userspace, for now
175                         assert(tf->tf_cs != GD_KT);
176                         tf->tf_regs.reg_eax =
177                                 syscall(current, tf->tf_regs.reg_eax, tf->tf_regs.reg_edx,
178                                         tf->tf_regs.reg_ecx, tf->tf_regs.reg_ebx,
179                                         tf->tf_regs.reg_edi, tf->tf_regs.reg_esi);
180                         proc_startcore(current, tf); // Note the comment in syscall.c
181                         break;
182                 default:
183                         // Unexpected trap: The user process or the kernel has a bug.
184                         print_trapframe(tf);
185                         if (tf->tf_cs == GD_KT)
186                                 panic("Damn Damn!  Unhandled trap in the kernel!");
187                         else {
188                                 warn("Unexpected trap from userspace");
189                                 proc_destroy(current);
190                                 return;
191                         }
192         }
193         return;
194 }
195
196 void
197 (IN_HANDLER env_push_ancillary_state)(env_t* e)
198 {
199         // Here's where you'll save FP/MMX/XMM regs
200 }
201
202 void
203 (IN_HANDLER env_pop_ancillary_state)(env_t* e)
204 {
205         // Here's where you'll restore FP/MMX/XMM regs
206 }
207
208 void
209 (IN_HANDLER trap)(trapframe_t *tf)
210 {
211         //cprintf("Incoming TRAP frame at %p\n", tf);
212
213         // TODO: do this once we know we are are not returning to the current
214         // context.  doing it now is safe.
215         env_push_ancillary_state(current);
216
217         if ((tf->tf_cs & ~3) != GD_UT && (tf->tf_cs & ~3) != GD_KT) {
218                 print_trapframe(tf);
219                 panic("Trapframe with invalid CS!");
220         }
221
222         if ((tf->tf_cs & 3) == 3) {
223                 // Trapped from user mode.
224                 // TODO: this will change when an env has more than one context
225                 // Copy trap frame (which is currently on the stack)
226                 // into 'current->env_tf', so that running the environment
227                 // will restart at the trap point.
228                 assert(current);
229                 current->env_tf = *tf;
230                 // The trapframe on the stack should be ignored from here on.
231                 tf = &current->env_tf;
232         }
233
234         // Dispatch based on what type of trap occurred
235         trap_dispatch(tf);
236
237         // should this be if == 3?  Sort out later when we handle traps.
238         // so far we never get here
239         assert(0);
240         // Return to the current environment, which should be runnable.
241         proc_startcore(current, tf); // Note the comment in syscall.c
242 }
243
244 void
245 (IN_HANDLER irq_handler)(trapframe_t *tf)
246 {
247         //if (core_id())
248         //      cprintf("Incoming IRQ, ISR: %d on core %d\n", tf->tf_trapno, core_id());
249         // merge this with alltraps?  other than the EOI... or do the same in all traps
250
251         extern handler_wrapper_t handler_wrappers[NUM_HANDLER_WRAPPERS];
252
253         // determine the interrupt handler table to use.  for now, pick the global
254         handler_t* handler_tbl = interrupt_handlers;
255
256         if (handler_tbl[tf->tf_trapno].isr != 0)
257                 handler_tbl[tf->tf_trapno].isr(tf, handler_tbl[tf->tf_trapno].data);
258         // if we're a general purpose IPI function call, down the cpu_list
259         if ((0xf0 <= tf->tf_trapno) && (tf->tf_trapno < 0xf0 +NUM_HANDLER_WRAPPERS))
260                 down_checklist(handler_wrappers[tf->tf_trapno & 0x0f].cpu_list);
261
262         // Send EOI.  might want to do this in assembly, and possibly earlier
263         // This is set up to work with an old PIC for now
264         // Convention is that all IRQs between 32 and 47 are for the PIC.
265         // All others are LAPIC (timer, IPIs, perf, non-ExtINT LINTS, etc)
266         // For now, only 235-255 are available
267         assert(tf->tf_trapno >= 32); // slows us down, but we should never have this
268         if (tf->tf_trapno < 48)
269                 pic_send_eoi(tf->tf_trapno - PIC1_OFFSET);
270         else
271                 lapic_send_eoi();
272 }
273
274 void
275 register_interrupt_handler(handler_t table[], uint8_t int_num, isr_t handler,
276                            void* data)
277 {
278         table[int_num].isr = handler;
279         table[int_num].data = data;
280 }
281
282 void
283 page_fault_handler(trapframe_t *tf)
284 {
285         uint32_t fault_va;
286
287         // Read processor's CR2 register to find the faulting address
288         fault_va = rcr2();
289
290         // Handle kernel-mode page faults.
291
292         // TODO - one day, we'll want to handle this.
293         if ((tf->tf_cs & 3) == 0) {
294                 print_trapframe(tf);
295                 panic("Page Fault in the Kernel at 0x%08x!", fault_va);
296         }
297
298         // We've already handled kernel-mode exceptions, so if we get here,
299         // the page fault happened in user mode.
300
301         // Call the environment's page fault upcall, if one exists.  Set up a
302         // page fault stack frame on the user exception stack (below
303         // UXSTACKTOP), then branch to current->env_pgfault_upcall.
304         //
305         // The page fault upcall might cause another page fault, in which case
306         // we branch to the page fault upcall recursively, pushing another
307         // page fault stack frame on top of the user exception stack.
308         //
309         // The trap handler needs one word of scratch space at the top of the
310         // trap-time stack in order to return.  In the non-recursive case, we
311         // don't have to worry about this because the top of the regular user
312         // stack is free.  In the recursive case, this means we have to leave
313         // an extra word between the current top of the exception stack and
314         // the new stack frame because the exception stack _is_ the trap-time
315         // stack.
316         //
317         // If there's no page fault upcall, the environment didn't allocate a
318         // page for its exception stack, or the exception stack overflows,
319         // then destroy the environment that caused the fault.
320         //
321         // Hints:
322         //   user_mem_assert() and env_run() are useful here.
323         //   To change what the user environment runs, modify 'current->env_tf'
324         //   (the 'tf' variable points at 'current->env_tf').
325
326         // LAB 4: Your code here.
327
328         // Destroy the environment that caused the fault.
329         cprintf("[%08x] user fault va %08x ip %08x from core %d\n",
330                 current->env_id, fault_va, tf->tf_eip, core_id());
331         print_trapframe(tf);
332         proc_destroy(current);
333 }
334
335 void sysenter_init(void)
336 {
337         write_msr(MSR_IA32_SYSENTER_CS, GD_KT);
338         write_msr(MSR_IA32_SYSENTER_ESP, ts.ts_esp0);
339         write_msr(MSR_IA32_SYSENTER_EIP, (uint32_t) &sysenter_handler);
340 }
341
342 /* This is called from sysenter's asm, with the tf on the kernel stack. */
343 void sysenter_callwrapper(struct Trapframe *tf)
344 {
345         current->env_tf = *tf;
346         
347         // The trapframe on the stack should be ignored from here on.
348         tf = &current->env_tf;
349         tf->tf_regs.reg_eax = (intreg_t) syscall(current,
350                                                  tf->tf_regs.reg_eax,
351                                                  tf->tf_regs.reg_edx,
352                                                  tf->tf_regs.reg_ecx,
353                                                  tf->tf_regs.reg_ebx,
354                                                  tf->tf_regs.reg_edi,
355                                                  0);
356         /*
357          * careful here - we need to make sure that this current is the right
358          * process, which could be weird if the syscall blocked.  it would need to
359          * restore the proper value in current before returning to here.
360          * likewise, tf could be pointing to random gibberish.
361          */
362         proc_startcore(current, tf);
363 }