More debugging for VMs.
[akaros.git] / kern / arch / x86 / ros / mmu32.h
1 #ifndef ROS_INC_ARCH_MMU32_H
2 #define ROS_INC_ARCH_MMU32_H
3
4 #ifndef ROS_INC_ARCH_MMU_H
5 #error "Do not include include ros/arch/mmu32.h directly"
6 #endif
7
8 #ifndef __ASSEMBLER__
9 #include <ros/common.h>
10 typedef unsigned long pte_t;
11 typedef unsigned long pde_t;
12 #endif
13
14 /* x86's 32 bit Virtual Memory Map.  Symbols are similar on other archs
15  *
16  * Virtual memory map:                                Permissions
17  *                                                    kernel/user
18  *
19  *    4 Gig -------->  +------------------------------+
20  *                     :              .               :
21  *  KERN_VMAP_TOP      +------------------------------+ 0xfec00000
22  *                     |                              |
23  *                     ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ RW/--
24  *                     :              .               :
25  *                     :              .               :
26  *                     :              .               :
27  *                     |~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~| RW/--
28  *                     |                              | RW/--
29  *                     |   Remapped Physical Memory   | RW/--
30  *                     |                              | RW/--
31  *    KERNBASE ----->  +------------------------------+ 0xc0000000
32  *                     |  Cur. Page Table (Kern. RW)  | RW/--  PTSIZE
33  *    VPT          --> +------------------------------+ 0xbfc00000
34  *                     |          Local APIC          | RW/--  PGSIZE
35  *    LAPIC        --> +------------------------------+ 0xbfbff000
36  *                     |            IOAPIC            | RW/--  PGSIZE
37  *    IOAPIC,      --> +------------------------------+ 0xbfbfe000
38  *  KERN_DYN_TOP       |   Kernel Dynamic Mappings    |
39  *                     |              .               |
40  *                     :              .               :
41  *                     ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ RW/--
42  *                     :                              :
43  *                     |      Invalid Memory (*)      | --/--
44  *    ULIM      ---->  +------------------------------+ 0x80000000      --+
45  *                     |  Cur. Page Table (User R-)   | R-/R-  PTSIZE     |
46  *    UVPT      ---->  +------------------------------+ 0x7fc00000      --+
47  *                     | Unmapped (expandable region) |                   |
48  *                     |                              | R-/R-            PTSIZE
49  *                     |     Per-Process R/O Info     |                   |
50  * UWLIM, UINFO ---->  +------------------------------+ 0x7f800000      --+
51  *                     | Unmapped (expandable region) |                   |
52  *                     |                              | RW/RW            PTSIZE
53  *                     |     Per-Process R/W Data     |                   |
54  *    UDATA     ---->  +------------------------------+ 0x7f400000      --+
55  *    UMAPTOP,         |    Global Shared R/W Data    | RW/RW  PGSIZE
56  *      UGDATA  ---->  +------------------------------+ 0x7f3ff000
57  *                     |     User Exception Stack     | RW/RW  PGSIZE
58  *                     +------------------------------+ 0x7f3fe000
59  *                     |       Empty Memory (*)       | --/--  PGSIZE
60  *    USTACKTOP  --->  +------------------------------+ 0x7f3fd000
61  *                     |      Normal User Stack       | RW/RW  256*PGSIZE (1MB)
62  *                     +------------------------------+ 0x7f2fd000
63  *                     |       Empty Memory (*)       | --/--  PGSIZE
64  *    USTACKBOT  --->  +------------------------------+ 0x7f2fc000
65  *                     |                              |
66  *                     |                              |
67  *                     ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
68  *                     .                              .
69  *                     .                              .
70  *                     .                              .
71  *                     |~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~|
72  *                     |     Program Data & Heap      |
73  *    UTEXT -------->  +------------------------------+ 0x00800000
74  *                     |                              |
75  *                     |       Empty Memory (*)       |
76  *                     |                              |
77  *                     +------------------------------+ 0x00000000
78  *
79  * (*) Note: The kernel ensures that "Invalid Memory" (ULIM) is *never*
80  *     mapped.  "Empty Memory" is normally unmapped, but user programs may
81  *     map pages there if desired.  ROS user programs map pages temporarily
82  *     at UTEMP.
83  *
84  *     KERN_VMAP_TOP is set to the IO_APIC_BASE, where we'll map in the IOAPIC
85  *     and LAPIC.  We need to not give out this region as free pages.
86  */
87
88
89 // At IOPHYSMEM (640K) there is a 384K hole for I/O.  From the kernel,
90 // IOPHYSMEM can be addressed at KERNBASE + IOPHYSMEM.  The hole ends
91 // at physical address EXTPHYSMEM.
92 #define IOPHYSMEM       0x0A0000
93 #define VGAPHYSMEM      0x0A0000
94 #define DEVPHYSMEM      0x0C0000
95 #define BIOSPHYSMEM     0x0F0000
96 #define EXTPHYSMEM      0x100000
97
98 /* **************************************** */
99 /* Kernel Virtual Memory Mapping  (not really an MMU thing) */
100
101 #define KERNBASE        0xC0000000
102 #define KERN_LOAD_ADDR  KERNBASE
103 /* Top of the kernel virtual mapping area (KERNBASE) */
104 /* For sanity reasons, I don't plan to map the top page */
105 #define KERN_VMAP_TOP                           0xfffff000
106
107 /* Static kernel mappings */
108 /* Virtual page table.  Entry PDX(VPT) in the PD contains a pointer to
109  * the page directory itself, thereby turning the PD into a page table,
110  * which maps all the PTEs containing the page mappings for the entire
111  * virtual address space into that 4 Meg region starting at VPT. */
112 #define VPT                             (KERNBASE - PTSIZE)
113 #define VPD (VPT + (VPT >> 10))
114 #define vpd VPD
115 #define LAPIC_BASE              (VPT - PGSIZE)
116 #define IOAPIC_BASE             (LAPIC_BASE - PGSIZE)
117
118 /* All arches must define this, which is the lower limit of their static
119  * mappings, and where the dynamic mappings will start. */
120 #define KERN_DYN_TOP    IOAPIC_BASE
121
122 #define ULIM            0x80000000
123
124 /* Same as VPT but read-only for users */
125 #define UVPT            (ULIM - PTSIZE)
126
127 /* Arbitrary boundary between the break and the start of
128  * memory returned by calls to mmap with addr = 0 */
129 #define BRK_END 0x40000000
130
131 // Use this if needed in annotations
132 #define IVY_KERNBASE (0xC000U << 16)
133
134 /* **************************************** */
135 /* Page table constants, macros, etc */
136
137 // A linear address 'la' has a three-part structure as follows:
138 //
139 // +--------10------+-------10-------+---------12----------+
140 // | Page Directory |   Page Table   | Offset within Page  |
141 // |      Index     |      Index     |                     |
142 // +----------------+----------------+---------------------+
143 //  \--- PDX(la) --/ \--- PTX(la) --/ \---- PGOFF(la) ----/
144 //  \----------- PPN(la) -----------/
145 //
146 // The PDX, PTX, PGOFF, and PPN macros decompose linear addresses as shown.
147 // To construct a linear address la from PDX(la), PTX(la), and PGOFF(la),
148 // use PGADDR(PDX(la), PTX(la), PGOFF(la)).
149
150 // page number field of address
151 #define LA2PPN(la)      (((uintptr_t) (la)) >> PGSHIFT)
152 #define PTE2PPN(pte)    LA2PPN(pte)
153
154 // page directory index
155 #define PDX(la)         ((((uintptr_t) (la)) >> PDXSHIFT) & 0x3FF)
156
157 // page table index
158 #define PTX(la)         ((((uintptr_t) (la)) >> PTXSHIFT) & 0x3FF)
159
160 // offset in page
161 #define PGOFF(la)       (((uintptr_t) (la)) & 0xFFF)
162
163 // offset in jumbo page
164 #define JPGOFF(la)      (((uintptr_t) (la)) & 0x003FFFFF)
165
166 // construct PTE from PPN and flags
167 #define PTE(ppn, flags) ((ppn) << PTXSHIFT | PGOFF(flags))
168
169 // construct linear address from indexes and offset
170 #define PGADDR(d, t, o) ((void*SNT) ((d) << PDXSHIFT | (t) << PTXSHIFT | (o)))
171
172 // Page directory and page table constants.
173 #define NPDENTRIES      1024            // page directory entries per page directory
174 #define NPTENTRIES      1024            // page table entries per page table
175
176 #define PTXSHIFT        12              // offset of PTX in a linear address
177 #define PDXSHIFT        22              // offset of PDX in a linear address
178
179 // Page table/directory entry flags.
180 #define PTE_P           0x001   // Present
181 #define PTE_W           0x002   // Writeable
182 #define PTE_U           0x004   // User
183 #define PTE_PWT         0x008   // Write-Through
184 #define PTE_PCD         0x010   // Cache-Disable
185 #define PTE_A           0x020   // Accessed
186 #define PTE_D           0x040   // Dirty
187 #define PTE_PS          0x080   // Page Size (only applies to PDEs)
188 #define PTE_PAT         0x080   // PAT (only applies to second layer PTEs)
189 #define PTE_G           0x100   // Global Page
190
191 #define PTE_PERM        (PTE_W | PTE_U) // The permissions fields
192 // commly used access modes
193 #define PTE_KERN_RW     PTE_W           // Kernel Read/Write
194 #define PTE_KERN_RO     0               // Kernel Read-Only
195 #define PTE_USER_RW     (PTE_W | PTE_U) // Kernel/User Read/Write
196 #define PTE_USER_RO     PTE_U           // Kernel/User Read-Only
197
198 // The PTE_AVAIL bits aren't used by the kernel or interpreted by the
199 // hardware, so user processes are allowed to set them arbitrarily.
200 #define PTE_AVAIL       0xE00   // Available for software use
201
202 // Only flags in PTE_USER may be used in system calls.
203 #define PTE_USER        (PTE_AVAIL | PTE_P | PTE_W | PTE_U)
204
205 // address in page table entry
206 #define PTE_ADDR(pte)   ((physaddr_t) (pte) & ~0xFFF)
207
208 #define PTSHIFT 22
209 #define PTSIZE (1 << PTSHIFT)
210 #define PGSHIFT 12
211 #define PGSIZE (1 << PGSHIFT)
212 #define JPGSIZE PTSIZE
213
214 // we must guarantee that for any PTE, exactly one of the following is true
215 #define PAGE_PRESENT(pte) ((pte) & PTE_P)
216 #define PAGE_UNMAPPED(pte) ((pte) == 0)
217 #define PAGE_PAGED_OUT(pte) (!PAGE_PRESENT(pte) && !PAGE_UNMAPPED(pte))
218
219 /* **************************************** */
220 /* Segmentation */
221
222 // Global descriptor numbers
223 #define GD_NULL   0x00     // NULL descriptor
224 #define GD_KT     0x08     // kernel text
225 #define GD_KD     0x10     // kernel data
226 #define GD_UT     0x18     // user text
227 #define GD_UD     0x20     // user data
228 #define GD_TSS    0x28     // Task segment selector
229 #define GD_LDT    0x30     // local descriptor table
230
231 #ifdef __ASSEMBLER__
232
233 /*
234  * Macros to build GDT entries in assembly.
235  */
236 #define SEG_NULL                                                \
237         .word 0, 0;                                             \
238         .byte 0, 0, 0, 0
239 #define SEG(type,base,lim)                                      \
240         .word (((lim) >> 12) & 0xffff), ((base) & 0xffff);      \
241         .byte (((base) >> 16) & 0xff), (0x90 | (type)),         \
242                 (0xC0 | (((lim) >> 28) & 0xf)), (((base) >> 24) & 0xff)
243
244 #else   // not __ASSEMBLER__
245
246 // Segment Descriptors
247 typedef struct Segdesc {
248         unsigned sd_lim_15_0 : 16;  // Low bits of segment limit
249         unsigned sd_base_15_0 : 16; // Low bits of segment base address
250         unsigned sd_base_23_16 : 8; // Middle bits of segment base address
251         unsigned sd_type : 4;       // Segment type (see STS_ constants)
252         unsigned sd_s : 1;          // 0 = system, 1 = application
253         unsigned sd_dpl : 2;        // Descriptor Privilege Level
254         unsigned sd_p : 1;          // Present
255         unsigned sd_lim_19_16 : 4;  // High bits of segment limit
256         unsigned sd_avl : 1;        // Unused (available for software use)
257         unsigned sd_rsv1 : 1;       // Reserved
258         unsigned sd_db : 1;         // 0 = 16-bit segment, 1 = 32-bit segment
259         unsigned sd_g : 1;          // Granularity: limit scaled by 4K when set
260         unsigned sd_base_31_24 : 8; // High bits of segment base address
261 } segdesc_t;
262 typedef struct Segdesc syssegdesc_t;
263
264 // Null segment
265 #define SEG_NULL        { 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 }
266 // Segment that is loadable but faults when used
267 #define SEG_FAULT       { 0, 0, 0, 0, 1, 0, 1, 0, 0, 0, 1, 0, 0 }
268 // Normal segment
269 #define SEG(type, base, lim, dpl)                                                                       \
270 { ((lim) >> 12) & 0xffff, (base) & 0xffff, ((base) >> 16) & 0xff,       \
271     type, 1, dpl, 1, (unsigned) (lim) >> 28, 0, 0, 1, 1,                        \
272     (unsigned) (base) >> 24 }
273
274 #define SEG16(type, base, lim, dpl)                                                             \
275 { (lim) & 0xffff, (base) & 0xffff, ((base) >> 16) & 0xff,                       \
276     type, 1, dpl, 1, (unsigned) (lim) >> 16, 0, 0, 1, 0,                        \
277     (unsigned) (base) >> 24 }
278
279 // System segment (LDT)
280 #define SEG_SYS(type, base, lim, dpl)                                                           \
281 { ((lim) >> 12) & 0xffff, (base) & 0xffff, ((base) >> 16) & 0xff,       \
282     type, 0, dpl, 1, (unsigned) (lim) >> 28, 0, 0, 1, 1,                        \
283     (unsigned) (base) >> 24 }
284
285 #define SEG16_SYS(type, base, lim, dpl)                                                         \
286 { (lim) & 0xffff, (base) & 0xffff, ((base) >> 16) & 0xff,                       \
287     type, 0, dpl, 1, (unsigned) (lim) >> 16, 0, 0, 1, 0,                        \
288     (unsigned) (base) >> 24 }
289
290 #define SEG_SYS_SMALL(type, base, lim, dpl) \
291         SEG16_SYS(type, base, lim, dpl)
292
293 // Task state segment format (as described by the Pentium architecture book)
294 typedef struct taskstate {
295         uint32_t ts_link;       // Old ts selector
296         uintptr_t ts_esp0;      // Stack pointers and segment selectors
297         uint16_t ts_ss0;        //   after an increase in privilege level
298         uint16_t ts_padding1;
299         uintptr_t ts_esp1;
300         uint16_t ts_ss1;
301         uint16_t ts_padding2;
302         uintptr_t ts_esp2;
303         uint16_t ts_ss2;
304         uint16_t ts_padding3;
305         physaddr_t ts_cr3;      // Page directory base
306         uintptr_t ts_eip;       // Saved state from last task switch
307         uint32_t ts_eflags;
308         uint32_t ts_eax;        // More saved state (registers)
309         uint32_t ts_ecx;
310         uint32_t ts_edx;
311         uint32_t ts_ebx;
312         uintptr_t ts_esp;
313         uintptr_t ts_ebp;
314         uint32_t ts_esi;
315         uint32_t ts_edi;
316         uint16_t ts_es;         // Even more saved state (segment selectors)
317         uint16_t ts_padding4;
318         uint16_t ts_cs;
319         uint16_t ts_padding5;
320         uint16_t ts_ss;
321         uint16_t ts_padding6;
322         uint16_t ts_ds;
323         uint16_t ts_padding7;
324         uint16_t ts_fs;
325         uint16_t ts_padding8;
326         uint16_t ts_gs;
327         uint16_t ts_padding9;
328         uint16_t ts_ldt;
329         uint16_t ts_padding10;
330         uint16_t ts_t;          // Trap on task switch
331         uint16_t ts_iomb;       // I/O map base address
332 } taskstate_t;
333
334 // Gate descriptors for interrupts and traps
335 typedef struct Gatedesc {
336         unsigned gd_off_15_0 : 16;   // low 16 bits of offset in segment
337         unsigned gd_ss : 16;         // segment selector
338         unsigned gd_args : 5;        // # args, 0 for interrupt/trap gates
339         unsigned gd_rsv1 : 3;        // reserved(should be zero I guess)
340         unsigned gd_type : 4;        // type(STS_{TG,IG32,TG32})
341         unsigned gd_s : 1;           // must be 0 (system)
342         unsigned gd_dpl : 2;         // DPL - highest ring allowed to use this
343         unsigned gd_p : 1;           // Present
344         unsigned gd_off_31_16 : 16;  // high bits of offset in segment
345 } gatedesc_t;
346
347 // Set up a normal interrupt/trap gate descriptor.
348 // - istrap: 1 for a trap (= exception) gate, 0 for an interrupt gate.
349 //   - interrupt gates automatically disable interrupts (cli)
350 // - sel: Code segment selector for interrupt/trap handler
351 // - off: Offset in code segment for interrupt/trap handler
352 // - dpl: Descriptor Privilege Level -
353 //        the privilege level required for software to invoke
354 //        this interrupt/trap gate explicitly using an int instruction.
355 #define SETGATE(gate, istrap, sel, off, dpl)                    \
356 {                                                               \
357         (gate).gd_off_15_0 = (uint32_t) (off) & 0xffff;         \
358         (gate).gd_ss = (sel);                                   \
359         (gate).gd_args = 0;                                     \
360         (gate).gd_rsv1 = 0;                                     \
361         (gate).gd_type = (istrap) ? STS_TG32 : STS_IG32;        \
362         (gate).gd_s = 0;                                        \
363         (gate).gd_dpl = (dpl);                                  \
364         (gate).gd_p = 1;                                        \
365         (gate).gd_off_31_16 = (uint32_t) (off) >> 16;           \
366 }
367
368 #define ROSETGATE(gate, istrap, sel, off, dpl)                  \
369 {                                                               \
370         (gate).gd_off_15_0 = SINIT((uint32_t) (off) & 0xffff);          \
371         (gate).gd_ss = SINIT(sel);                                      \
372         (gate).gd_args = SINIT(0);                                      \
373         (gate).gd_rsv1 = SINIT(0);                                      \
374         (gate).gd_type = SINIT((istrap) ? STS_TG32 : STS_IG32); \
375         (gate).gd_s = SINIT(0);                                 \
376         (gate).gd_dpl = SINIT(dpl);                                     \
377         (gate).gd_p = SINIT(1);                                 \
378         (gate).gd_off_31_16 = SINIT((uint32_t) (off) >> 16);            \
379 }
380
381 // Set up a call gate descriptor.
382 #define SETCALLGATE(gate, ss, off, dpl)                         \
383 {                                                               \
384         (gate).gd_off_15_0 = (uint32_t) (off) & 0xffff;         \
385         (gate).gd_ss = (ss);                                    \
386         (gate).gd_args = 0;                                     \
387         (gate).gd_rsv1 = 0;                                     \
388         (gate).gd_type = STS_CG32;                              \
389         (gate).gd_s = 0;                                        \
390         (gate).gd_dpl = (dpl);                                  \
391         (gate).gd_p = 1;                                        \
392         (gate).gd_off_31_16 = (uint32_t) (off) >> 16;           \
393 }
394
395 // Pseudo-descriptors used for LGDT, LLDT and LIDT instructions.
396 typedef struct Pseudodesc {
397         uint16_t pd_lim;                // Limit
398         uint32_t pd_base;               // Base address
399 } __attribute__ ((packed)) pseudodesc_t;
400
401 #endif /* !__ASSEMBLER__ */
402
403 // Application segment type bits
404 #define STA_X           0x8         // Executable segment
405 #define STA_E           0x4         // Expand down (non-executable segments)
406 #define STA_C           0x4         // Conforming code segment (executable only)
407 #define STA_W           0x2         // Writeable (non-executable segments)
408 #define STA_R           0x2         // Readable (executable segments)
409 #define STA_A           0x1         // Accessed
410
411 // System segment type bits
412 #define STS_T16A        0x1         // Available 16-bit TSS
413 #define STS_LDT         0x2         // Local Descriptor Table
414 #define STS_T16B        0x3         // Busy 16-bit TSS
415 #define STS_CG16        0x4         // 16-bit Call Gate
416 #define STS_TG          0x5         // Task Gate / Coum Transmitions
417 #define STS_IG16        0x6         // 16-bit Interrupt Gate
418 #define STS_TG16        0x7         // 16-bit Trap Gate
419 #define STS_T32A        0x9         // Available 32-bit TSS
420 #define STS_T32B        0xB         // Busy 32-bit TSS
421 #define STS_CG32        0xC         // 32-bit Call Gate
422 #define STS_IG32        0xE         // 32-bit Interrupt Gate
423 #define STS_TG32        0xF         // 32-bit Trap Gate
424
425 #define SEG_COUNT       7               // Number of segments in the steady state
426 #define LDT_SIZE        (8192 * sizeof(segdesc_t))
427 #endif /* ROS_INC_ARCH_MMU32_H */