Convert run_once() to parlib_run_once() (XCC)
[akaros.git] / user / vmm / memory.c
1 /* Copyright (c) 2017 Google Inc.
2  * See LICENSE for details.
3  *
4  * Memory, paging, e820, bootparams and other helpers */
5
6 #include <stdio.h>
7 #include <stdlib.h>
8 #include <sys/mman.h>
9 #include <ros/arch/mmu.h>
10 #include <vmm/linux_bootparam.h>
11 #include <vmm/vmm.h>
12
13 #define ALIGNED(p, a)   (!(((uintptr_t)(p)) & ((a)-1)))
14
15 static char *entrynames[] = {
16         [E820_RAM] "E820_RAM",
17         [E820_RESERVED] "E820_RESERVED",
18         [E820_ACPI] "E820_ACPI",
19         [E820_NVS] "E820_NVS",
20         [E820_UNUSABLE] "E820_UNUSABLE",
21 };
22
23 static void dumpe820(struct e820entry *e, int nr)
24 {
25         for (int i = 0; i < nr; i++) {
26                 fprintf(stderr, "%d:%p %p %p %s\n",
27                         i, e[i].addr, e[i].size, e[i].type,
28                         entrynames[e[i].type]);
29         }
30 }
31
32 // e820map creates an e820 map in the bootparams struct.  If we've
33 // gotten here, then memsize and memstart are valid.  It returns
34 // pointer to the first page after the map for our bump allocator.  We
35 // assume the ranges passed in are validated already.
36 void *init_e820map(struct boot_params *bp,
37                    unsigned long long memstart,
38                    unsigned long long memsize)
39 {
40         unsigned long long lowmem = 0;
41         // Everything in Linux at this level is PGSIZE.
42         memset(bp, 0, PGSIZE);
43
44         bp->e820_entries = 0;
45
46         // The first page is always reserved.
47         bp->e820_map[bp->e820_entries].addr = 0;
48         bp->e820_map[bp->e820_entries].size = PGSIZE;
49         bp->e820_map[bp->e820_entries++].type = E820_RESERVED;
50
51         /* Give it just a tiny bit of memory -- 60k -- at low memory. */
52         bp->e820_map[bp->e820_entries].addr = PGSIZE;
53         bp->e820_map[bp->e820_entries].size = LOW64K - PGSIZE;
54         bp->e820_map[bp->e820_entries++].type = E820_RAM;
55
56         // All other memory from 64k to memstart is reserved.
57         bp->e820_map[bp->e820_entries].addr = LOW64K;
58         bp->e820_map[bp->e820_entries].size = memstart - LOW64K;
59         bp->e820_map[bp->e820_entries++].type = E820_RESERVED;
60
61         // If memory starts below RESERVED, then add an entry for memstart to
62         // the smaller of RESERVED or memsize.
63         if (memstart < RESERVED) {
64                 bp->e820_map[bp->e820_entries].addr = memstart;
65                 if (memstart + memsize > RESERVED)
66                         bp->e820_map[bp->e820_entries].size = RESERVED - memstart;
67                 else
68                         bp->e820_map[bp->e820_entries].size = memsize;
69                 lowmem = bp->e820_map[bp->e820_entries].size;
70                 bp->e820_map[bp->e820_entries++].type = E820_RAM;
71         }
72
73         bp->e820_map[bp->e820_entries].addr = RESERVED;
74         bp->e820_map[bp->e820_entries].size = RESERVEDSIZE;
75         bp->e820_map[bp->e820_entries++].type = E820_RESERVED;
76
77         if ((memstart + memsize) > RESERVED) {
78                 bp->e820_map[bp->e820_entries].addr = MAX(memstart, _4GiB);
79                 bp->e820_map[bp->e820_entries].size = memsize - lowmem;
80                 bp->e820_map[bp->e820_entries++].type = E820_RAM;
81         }
82
83         dumpe820(bp->e820_map, bp->e820_entries);
84         return (void *)bp + PGSIZE;
85 }
86
87 /* checkmemaligned verifies alignment attributes of your memory space.
88  * It terminates your process with extreme prejudice if they are
89  * incorrect in some way. */
90 void checkmemaligned(unsigned long long memstart, unsigned long long memsize)
91 {
92         if (!ALIGNED(memstart, PML1_REACH))
93                 errx(1, "memstart (%#x) wrong: must be aligned to %#x",
94                      memstart, PML1_REACH);
95         if (!ALIGNED(memsize, PML1_REACH))
96                 errx(1, "memsize (%#x) wrong: must be aligned to %#x",
97                      memsize, PML1_REACH);
98 }
99
100 // memory allocates memory for the VM. It's a complicated mess because of the
101 // break for APIC and other things. We just go ahead and leave the region from
102 // RESERVED to _4GiB for that.  The memory is either split, all low, or all
103 // high. This code is designed for a kernel. Dune-style code does not need it
104 // as it does not have the RESERVED restrictions. Dune-style code can use this,
105 // however, by setting memstart to 4 GiB.
106 void mmap_memory(unsigned long long memstart, unsigned long long memsize)
107 {
108         void *r1, *r2;
109         unsigned long r1size = memsize;
110
111         // Let's do some minimal validation, so we don't drive
112         // people crazy.
113         checkmemaligned(memstart, memsize);
114         if ((memstart >= RESERVED) && (memstart < _4GiB))
115                 errx(1, "memstart (%#x) wrong: must be < %#x or >= %#x\n",
116                      memstart, RESERVED, _4GiB);
117         if (memstart < MinMemory)
118                 errx(1, "memstart (%#x) wrong: must be > %#x\n",
119                      memstart, MinMemory);
120
121         // Note: this test covers the split case as well as the
122         // 'all above 4G' case.
123         if ((memstart + memsize) > RESERVED) {
124                 unsigned long long r2start = MAX(memstart, _4GiB);
125
126                 r1size = memstart < RESERVED ? RESERVED - memstart : 0;
127                 r2 = mmap((void *)r2start, memsize - r1size,
128                           PROT_READ | PROT_WRITE | PROT_EXEC,
129                           MAP_POPULATE | MAP_ANONYMOUS, -1, 0);
130                 if (r2 != (void *)r2start) {
131                         fprintf(stderr,
132                                 "High region: Could not mmap 0x%lx bytes at 0x%lx\n",
133                                 memsize, r2start);
134                         exit(1);
135                 }
136                 if (memstart >= _4GiB)
137                         return;
138         }
139
140         r1 = mmap((void *)memstart, r1size,
141                       PROT_READ | PROT_WRITE | PROT_EXEC,
142                       MAP_POPULATE | MAP_ANONYMOUS, -1, 0);
143         if (r1 != (void *)memstart) {
144                 fprintf(stderr, "Low region: Could not mmap 0x%lx bytes at 0x%lx\n",
145                         memsize, memstart);
146                 exit(1);
147         }
148 }