vmm: Use a task_thread cache
[akaros.git] / user / vmm / memory.c
1 /* Copyright (c) 2017 Google Inc.
2  * See LICENSE for details.
3  *
4  * Memory, paging, e820, bootparams and other helpers */
5
6 #include <stdio.h>
7 #include <stdlib.h>
8 #include <sys/mman.h>
9 #include <ros/arch/mmu.h>
10 #include <vmm/linux_bootparam.h>
11 #include <vmm/vmm.h>
12 #include <err.h>
13
14 #define ALIGNED(p, a)   (!(((uintptr_t)(p)) & ((a)-1)))
15
16 static char *entrynames[] = {
17         [E820_RAM] "E820_RAM",
18         [E820_RESERVED] "E820_RESERVED",
19         [E820_ACPI] "E820_ACPI",
20         [E820_NVS] "E820_NVS",
21         [E820_UNUSABLE] "E820_UNUSABLE",
22 };
23
24 static void dumpe820(struct e820entry *e, int nr)
25 {
26         for (int i = 0; i < nr; i++) {
27                 fprintf(stderr, "%d:%p %p %p %s\n",
28                         i, e[i].addr, e[i].size, e[i].type,
29                         entrynames[e[i].type]);
30         }
31 }
32
33 // e820map creates an e820 map in the bootparams struct.  If we've
34 // gotten here, then memsize and memstart are valid.  It returns
35 // pointer to the first page after the map for our bump allocator.  We
36 // assume the ranges passed in are validated already.
37 void *init_e820map(struct boot_params *bp,
38                    unsigned long long memstart,
39                    unsigned long long memsize)
40 {
41         unsigned long long lowmem = 0;
42         // Everything in Linux at this level is PGSIZE.
43         memset(bp, 0, PGSIZE);
44
45         bp->e820_entries = 0;
46
47         // The first page is always reserved.
48         bp->e820_map[bp->e820_entries].addr = 0;
49         bp->e820_map[bp->e820_entries].size = PGSIZE;
50         bp->e820_map[bp->e820_entries++].type = E820_RESERVED;
51
52         /* Give it just a tiny bit of memory -- 60k -- at low memory. */
53         bp->e820_map[bp->e820_entries].addr = PGSIZE;
54         bp->e820_map[bp->e820_entries].size = LOW64K - PGSIZE;
55         bp->e820_map[bp->e820_entries++].type = E820_RAM;
56
57         // All other memory from 64k to memstart is reserved.
58         bp->e820_map[bp->e820_entries].addr = LOW64K;
59         bp->e820_map[bp->e820_entries].size = memstart - LOW64K;
60         bp->e820_map[bp->e820_entries++].type = E820_RESERVED;
61
62         // If memory starts below RESERVED, then add an entry for memstart to
63         // the smaller of RESERVED or memsize.
64         if (memstart < RESERVED) {
65                 bp->e820_map[bp->e820_entries].addr = memstart;
66                 if (memstart + memsize > RESERVED)
67                         bp->e820_map[bp->e820_entries].size = RESERVED - memstart;
68                 else
69                         bp->e820_map[bp->e820_entries].size = memsize;
70                 lowmem = bp->e820_map[bp->e820_entries].size;
71                 bp->e820_map[bp->e820_entries++].type = E820_RAM;
72         }
73
74         bp->e820_map[bp->e820_entries].addr = RESERVED;
75         bp->e820_map[bp->e820_entries].size = RESERVEDSIZE;
76         bp->e820_map[bp->e820_entries++].type = E820_RESERVED;
77
78         if ((memstart + memsize) > RESERVED) {
79                 bp->e820_map[bp->e820_entries].addr = MAX(memstart, _4GiB);
80                 bp->e820_map[bp->e820_entries].size = memsize - lowmem;
81                 bp->e820_map[bp->e820_entries++].type = E820_RAM;
82         }
83
84         dumpe820(bp->e820_map, bp->e820_entries);
85         return (void *)bp + PGSIZE;
86 }
87
88 /* checkmemaligned verifies alignment attributes of your memory space.
89  * It terminates your process with extreme prejudice if they are
90  * incorrect in some way. */
91 void checkmemaligned(unsigned long long memstart, unsigned long long memsize)
92 {
93         if (!ALIGNED(memstart, PML1_REACH))
94                 errx(1, "memstart (%#x) wrong: must be aligned to %#x",
95                      memstart, PML1_REACH);
96         if (!ALIGNED(memsize, PML1_REACH))
97                 errx(1, "memsize (%#x) wrong: must be aligned to %#x",
98                      memsize, PML1_REACH);
99 }
100
101 // memory allocates memory for the VM. It's a complicated mess because of the
102 // break for APIC and other things. We just go ahead and leave the region from
103 // RESERVED to _4GiB for that.  The memory is either split, all low, or all
104 // high. This code is designed for a kernel. Dune-style code does not need it
105 // as it does not have the RESERVED restrictions. Dune-style code can use this,
106 // however, by setting memstart to 4 GiB.
107 void mmap_memory(unsigned long long memstart, unsigned long long memsize)
108 {
109         void *r1, *r2;
110         unsigned long r1size = memsize;
111
112         // Let's do some minimal validation, so we don't drive
113         // people crazy.
114         checkmemaligned(memstart, memsize);
115         if ((memstart >= RESERVED) && (memstart < _4GiB))
116                 errx(1, "memstart (%#x) wrong: must be < %#x or >= %#x\n",
117                      memstart, RESERVED, _4GiB);
118         if (memstart < MinMemory)
119                 errx(1, "memstart (%#x) wrong: must be > %#x\n",
120                      memstart, MinMemory);
121
122         // Note: this test covers the split case as well as the
123         // 'all above 4G' case.
124         if ((memstart + memsize) > RESERVED) {
125                 unsigned long long r2start = MAX(memstart, _4GiB);
126
127                 r1size = memstart < RESERVED ? RESERVED - memstart : 0;
128                 r2 = mmap((void *)r2start, memsize - r1size,
129                           PROT_READ | PROT_WRITE | PROT_EXEC,
130                           MAP_POPULATE | MAP_ANONYMOUS, -1, 0);
131                 if (r2 != (void *)r2start) {
132                         fprintf(stderr,
133                                 "High region: Could not mmap 0x%lx bytes at 0x%lx\n",
134                                 memsize, r2start);
135                         exit(1);
136                 }
137                 if (memstart >= _4GiB)
138                         return;
139         }
140
141         r1 = mmap((void *)memstart, r1size,
142                       PROT_READ | PROT_WRITE | PROT_EXEC,
143                       MAP_POPULATE | MAP_ANONYMOUS, -1, 0);
144         if (r1 != (void *)memstart) {
145                 fprintf(stderr, "Low region: Could not mmap 0x%lx bytes at 0x%lx\n",
146                         memsize, memstart);
147                 exit(1);
148         }
149 }