Add elfutils to the distribution
[akaros.git] / tests / vmm / vmrunkernel.c
1 #include <stdio.h>
2 #include <pthread.h>
3 #include <sys/types.h>
4 #include <sys/stat.h>
5 #include <fcntl.h>
6 #include <parlib/arch/arch.h>
7 #include <parlib/ros_debug.h>
8 #include <unistd.h>
9 #include <errno.h>
10 #include <dirent.h>
11 #include <stdlib.h>
12 #include <string.h>
13 #include <ros/syscall.h>
14 #include <sys/mman.h>
15 #include <vmm/coreboot_tables.h>
16 #include <vmm/vmm.h>
17 #include <vmm/acpi/acpi.h>
18 #include <vmm/acpi/vmm_simple_dsdt.h>
19 #include <ros/arch/mmu.h>
20 #include <ros/arch/membar.h>
21 #include <ros/vmm.h>
22 #include <parlib/uthread.h>
23 #include <vmm/linux_bootparam.h>
24
25 #include <vmm/virtio.h>
26 #include <vmm/virtio_mmio.h>
27 #include <vmm/virtio_ids.h>
28 #include <vmm/virtio_config.h>
29 #include <vmm/virtio_console.h>
30 #include <vmm/virtio_lguest_console.h>
31
32 #include <vmm/sched.h>
33 #include <sys/eventfd.h>
34 #include <sys/uio.h>
35
36 struct virtual_machine local_vm, *vm = &local_vm;
37
38 struct vmm_gpcore_init gpci;
39
40 /* By 1999, you could just scan the hardware
41  * and work it out. But 2005, that was no longer possible. How sad.
42  * so we have to fake acpi to make it all work.
43  * This will be copied to memory at 0xe0000, so the kernel can find it.
44  */
45
46 /* assume they're all 256 bytes long just to make it easy.
47  * Just have pointers that point to aligned things.
48  */
49
50 struct acpi_table_rsdp rsdp = {
51         .signature = ACPI_SIG_RSDP,
52         .oem_id = "AKAROS",
53         .revision = 2,
54         .length = 36,
55 };
56
57 struct acpi_table_xsdt xsdt = {
58         .header = {
59                 .signature = ACPI_SIG_DSDT,
60                 .revision = 2,
61                 .oem_id = "AKAROS",
62                 .oem_table_id = "ALPHABET",
63                 .oem_revision = 0,
64                 .asl_compiler_id = "RON ",
65                 .asl_compiler_revision = 0,
66         },
67 };
68 struct acpi_table_fadt fadt = {
69         .header = {
70                 .signature = ACPI_SIG_FADT,
71                 .revision = 2,
72                 .oem_id = "AKAROS",
73                 .oem_table_id = "ALPHABET",
74                 .oem_revision = 0,
75                 .asl_compiler_id = "RON ",
76                 .asl_compiler_revision = 0,
77         },
78 };
79
80
81 /* This has to be dropped into memory, then the other crap just follows it.
82  */
83 struct acpi_table_madt madt = {
84         .header = {
85                 .signature = ACPI_SIG_MADT,
86                 .revision = 2,
87                 .oem_id = "AKAROS",
88                 .oem_table_id = "ALPHABET",
89                 .oem_revision = 0,
90                 .asl_compiler_id = "RON ",
91                 .asl_compiler_revision = 0,
92         },
93
94         .address = 0xfee00000ULL,
95 };
96
97 struct acpi_madt_local_apic Apic0 = {.header = {.type = ACPI_MADT_TYPE_LOCAL_APIC, .length = sizeof(struct acpi_madt_local_apic)},
98                                      .processor_id = 0, .id = 0};
99 struct acpi_madt_io_apic Apic1 = {.header = {.type = ACPI_MADT_TYPE_IO_APIC, .length = sizeof(struct acpi_madt_io_apic)},
100                                   .id = 1, .address = 0xfec00000, .global_irq_base = 0};
101 struct acpi_madt_local_x2apic X2Apic0 = {
102         .header = {
103                 .type = ACPI_MADT_TYPE_LOCAL_X2APIC,
104                 .length = sizeof(struct acpi_madt_local_x2apic)
105         },
106         .local_apic_id = 0,
107         .uid = 0
108 };
109
110 struct acpi_madt_interrupt_override isor[] = {
111         /* I have no idea if it should be source irq 2, global 0, or global 2, source 0. Shit. */
112         {.header = {.type = ACPI_MADT_TYPE_INTERRUPT_OVERRIDE, .length = sizeof(struct acpi_madt_interrupt_override)},
113          .bus = 0, .source_irq = 2, .global_irq = 0, .inti_flags = 0},
114         {.header = {.type = ACPI_MADT_TYPE_INTERRUPT_OVERRIDE, .length = sizeof(struct acpi_madt_interrupt_override)},
115          .bus = 0, .source_irq = 1, .global_irq = 1, .inti_flags = 0},
116         //{.header = {.type = ACPI_MADT_TYPE_INTERRUPT_OVERRIDE, .length = sizeof(struct acpi_madt_interrupt_override)},
117          //.bus = 0, .source_irq = 2, .global_irq = 2, .inti_flags = 0},
118         {.header = {.type = ACPI_MADT_TYPE_INTERRUPT_OVERRIDE, .length = sizeof(struct acpi_madt_interrupt_override)},
119          .bus = 0, .source_irq = 3, .global_irq = 3, .inti_flags = 0},
120         {.header = {.type = ACPI_MADT_TYPE_INTERRUPT_OVERRIDE, .length = sizeof(struct acpi_madt_interrupt_override)},
121          .bus = 0, .source_irq = 4, .global_irq = 4, .inti_flags = 0},
122         {.header = {.type = ACPI_MADT_TYPE_INTERRUPT_OVERRIDE, .length = sizeof(struct acpi_madt_interrupt_override)},
123          .bus = 0, .source_irq = 5, .global_irq = 5, .inti_flags = 0},
124         {.header = {.type = ACPI_MADT_TYPE_INTERRUPT_OVERRIDE, .length = sizeof(struct acpi_madt_interrupt_override)},
125          .bus = 0, .source_irq = 6, .global_irq = 6, .inti_flags = 0},
126         {.header = {.type = ACPI_MADT_TYPE_INTERRUPT_OVERRIDE, .length = sizeof(struct acpi_madt_interrupt_override)},
127          .bus = 0, .source_irq = 7, .global_irq = 7, .inti_flags = 0},
128         {.header = {.type = ACPI_MADT_TYPE_INTERRUPT_OVERRIDE, .length = sizeof(struct acpi_madt_interrupt_override)},
129          .bus = 0, .source_irq = 8, .global_irq = 8, .inti_flags = 0},
130         {.header = {.type = ACPI_MADT_TYPE_INTERRUPT_OVERRIDE, .length = sizeof(struct acpi_madt_interrupt_override)},
131          .bus = 0, .source_irq = 9, .global_irq = 9, .inti_flags = 0},
132         {.header = {.type = ACPI_MADT_TYPE_INTERRUPT_OVERRIDE, .length = sizeof(struct acpi_madt_interrupt_override)},
133          .bus = 0, .source_irq = 10, .global_irq = 10, .inti_flags = 0},
134         {.header = {.type = ACPI_MADT_TYPE_INTERRUPT_OVERRIDE, .length = sizeof(struct acpi_madt_interrupt_override)},
135          .bus = 0, .source_irq = 11, .global_irq = 11, .inti_flags = 0},
136         {.header = {.type = ACPI_MADT_TYPE_INTERRUPT_OVERRIDE, .length = sizeof(struct acpi_madt_interrupt_override)},
137          .bus = 0, .source_irq = 12, .global_irq = 12, .inti_flags = 0},
138         {.header = {.type = ACPI_MADT_TYPE_INTERRUPT_OVERRIDE, .length = sizeof(struct acpi_madt_interrupt_override)},
139          .bus = 0, .source_irq = 13, .global_irq = 13, .inti_flags = 0},
140         {.header = {.type = ACPI_MADT_TYPE_INTERRUPT_OVERRIDE, .length = sizeof(struct acpi_madt_interrupt_override)},
141          .bus = 0, .source_irq = 14, .global_irq = 14, .inti_flags = 0},
142         {.header = {.type = ACPI_MADT_TYPE_INTERRUPT_OVERRIDE, .length = sizeof(struct acpi_madt_interrupt_override)},
143          .bus = 0, .source_irq = 15, .global_irq = 15, .inti_flags = 0},
144         // VMMCP routes irq 32 to gsi 17
145         {.header = {.type = ACPI_MADT_TYPE_INTERRUPT_OVERRIDE, .length = sizeof(struct acpi_madt_interrupt_override)},
146          .bus = 0, .source_irq = 32, .global_irq = 17, .inti_flags = 5},
147 };
148
149
150 /* this test will run the "kernel" in the negative address space. We hope. */
151 void *low1m;
152 volatile int shared = 0;
153 volatile int quit = 0;
154
155 /* total hack. If the vm runs away we want to get control again. */
156 unsigned int maxresume = (unsigned int) -1;
157
158 #define MiB 0x100000ull
159 #define GiB (1ull << 30)
160 #define GKERNBASE (16*MiB)
161 #define KERNSIZE (128*MiB+GKERNBASE)
162 uint8_t _kernel[KERNSIZE];
163
164 unsigned long long *p512, *p1, *p2m;
165
166 void **my_retvals;
167 int nr_threads = 4;
168 int debug = 0;
169 int resumeprompt = 0;
170 /* unlike Linux, this shared struct is for both host and guest. */
171 //      struct virtqueue *constoguest =
172 //              vring_new_virtqueue(0, 512, 8192, 0, inpages, NULL, NULL, "test");
173
174 void vapic_status_dump(FILE *f, void *vapic);
175 static void set_posted_interrupt(int vector);
176
177 #if __GNUC__ < 4 || (__GNUC__ == 4 && __GNUC_MINOR__ < 1)
178 #error "Get a gcc newer than 4.4.0"
179 #else
180 #define BITOP_ADDR(x) "+m" (*(volatile long *) (x))
181 #endif
182
183 #define LOCK_PREFIX "lock "
184 #define ADDR                            BITOP_ADDR(addr)
185 static inline int test_and_set_bit(int nr, volatile unsigned long *addr);
186
187 pthread_t timerthread_struct;
188
189 void timer_thread(void *arg)
190 {
191         uint8_t vector;
192         uint32_t initial_count;
193         while (1) {
194                 vector = ((uint32_t *)gpci.vapic_addr)[0x32] & 0xff;
195                 initial_count = ((uint32_t *)gpci.vapic_addr)[0x38];
196                 if (vector && initial_count) {
197                         set_posted_interrupt(vector);
198                         ros_syscall(SYS_vmm_poke_guest, 0, 0, 0, 0, 0, 0);
199                 }
200                 uthread_usleep(100000);
201         }
202         fprintf(stderr, "SENDING TIMER\n");
203 }
204
205
206 // FIXME.
207 volatile int consdata = 0;
208
209 static void virtio_poke_guest(void)
210 {
211         set_posted_interrupt(0xE5);
212         ros_syscall(SYS_vmm_poke_guest, 0, 0, 0, 0, 0, 0);
213 }
214
215 static struct virtio_mmio_dev cons_mmio_dev = {
216         .poke_guest = virtio_poke_guest
217 };
218
219 static struct virtio_console_config cons_cfg;
220 static struct virtio_console_config cons_cfg_d;
221
222 static struct virtio_vq_dev cons_vqdev = {
223         .name = "console",
224         .dev_id = VIRTIO_ID_CONSOLE,
225         .dev_feat = ((uint64_t)1 << VIRTIO_F_VERSION_1)
226                                           | (1 << VIRTIO_RING_F_INDIRECT_DESC)
227                           ,
228         .num_vqs = 2,
229         .cfg = &cons_cfg,
230         .cfg_d = &cons_cfg_d,
231         .cfg_sz = sizeof(struct virtio_console_config),
232         .transport_dev = &cons_mmio_dev,
233         .vqs = {
234                         {
235                                 .name = "cons_receiveq",
236                                 .qnum_max = 64,
237                                 .srv_fn = cons_receiveq_fn,
238                                 .vqdev = &cons_vqdev
239                         },
240                         {
241                                 .name = "cons_transmitq",
242                                 .qnum_max = 64,
243                                 .srv_fn = cons_transmitq_fn,
244                                 .vqdev = &cons_vqdev
245                         },
246                 }
247 };
248
249
250 void lowmem() {
251         __asm__ __volatile__ (".section .lowmem, \"aw\"\n\tlow: \n\t.=0x1000\n\t.align 0x100000\n\t.previous\n");
252 }
253
254 static uint8_t acpi_tb_checksum(uint8_t *buffer, uint32_t length)
255 {
256         uint8_t sum = 0;
257         uint8_t *end = buffer + length;
258         fprintf(stderr, "tbchecksum %p for %d", buffer, length);
259         while (buffer < end) {
260                 if (end - buffer < 2)
261                         fprintf(stderr, "%02x\n", sum);
262                 sum = (uint8_t)(sum + *(buffer++));
263         }
264         fprintf(stderr, " is %02x\n", sum);
265         return (sum);
266 }
267
268 static void gencsum(uint8_t *target, void *data, int len)
269 {
270         uint8_t csum;
271         // blast target to zero so it does not get counted
272         // (it might be in the struct we checksum) And, yes, it is, goodness.
273         fprintf(stderr, "gencsum %p target %p source %d bytes\n", target, data, len);
274         *target = 0;
275         csum  = acpi_tb_checksum((uint8_t *)data, len);
276         *target = ~csum + 1;
277         fprintf(stderr, "Cmoputed is %02x\n", *target);
278 }
279
280 static inline int test_and_set_bit(int nr, volatile unsigned long *addr)
281 {
282         int oldbit;
283
284         asm volatile(LOCK_PREFIX "bts %2,%1\n\t"
285                      "sbb %0,%0" : "=r" (oldbit), ADDR : "Ir" (nr) : "memory");
286
287         return oldbit;
288 }
289
290 static void pir_dump()
291 {
292         unsigned long *pir_ptr = gpci.posted_irq_desc;
293         int i;
294         fprintf(stderr, "-------Begin PIR dump-------\n");
295         for (i = 0; i < 8; i++){
296                 fprintf(stderr, "Byte %d: 0x%016x\n", i, pir_ptr[i]);
297         }
298         fprintf(stderr, "-------End PIR dump-------\n");
299 }
300
301 static void set_posted_interrupt(int vector)
302 {
303         test_and_set_bit(vector, gpci.posted_irq_desc);
304         /* LOCKed instruction provides the mb() */
305         test_and_set_bit(VMX_POSTED_OUTSTANDING_NOTIF, gpci.posted_irq_desc);
306 }
307
308 int main(int argc, char **argv)
309 {
310         struct boot_params *bp;
311         char *cmdline_default = "earlyprintk=vmcall,keep"
312                                     " console=hvc0"
313                                     " nosmp"
314                                     " maxcpus=1"
315                                     " acpi.debug_layer=0x2"
316                                     " acpi.debug_level=0xffffffff"
317                                     " apic=debug"
318                                     " noexec=off"
319                                     " nohlt"
320                                     " init=/bin/launcher"
321                                     " lapic=notscdeadline"
322                                     " lapictimerfreq=1000000"
323                                     " pit=none";
324         char *cmdline_extra = "\0";
325         char *cmdline;
326         uint64_t *p64;
327         void *a = (void *)0xe0000;
328         struct acpi_table_rsdp *r;
329         struct acpi_table_fadt *f;
330         struct acpi_table_madt *m;
331         struct acpi_table_xsdt *x;
332         // lowmem is a bump allocated pointer to 2M at the "physbase" of memory
333         void *lowmem = (void *) 0x1000000;
334         int amt;
335         int vmmflags = 0; // Disabled probably forever. VMM_VMCALL_PRINTF;
336         uint64_t entry = 0x1200000, kerneladdress = 0x1200000;
337         int ret;
338         uintptr_t size;
339         void * xp;
340         int kfd = -1;
341         static char cmd[512];
342         int i;
343         uint8_t csum;
344         void *coreboot_tables = (void *) 0x1165000;
345         void *a_page;
346         struct vm_trapframe *vm_tf;
347         uint64_t tsc_freq_khz;
348         char *cmdlinep;
349         int cmdlinesz, len;
350
351         fprintf(stderr, "%p %p %p %p\n", PGSIZE, PGSHIFT, PML1_SHIFT,
352                         PML1_PTE_REACH);
353
354
355         // mmap is not working for us at present.
356         if ((uint64_t)_kernel > GKERNBASE) {
357                 fprintf(stderr, "kernel array @%p is above , GKERNBASE@%p sucks\n", _kernel, GKERNBASE);
358                 exit(1);
359         }
360         memset(_kernel, 0, sizeof(_kernel));
361         memset(lowmem, 0xff, 2*1048576);
362         vm->low4k = malloc(PGSIZE);
363         memset(vm->low4k, 0xff, PGSIZE);
364         // avoid at all costs, requires too much instruction emulation.
365         //low4k[0x40e] = 0;
366         //low4k[0x40f] = 0xe0;
367
368         //Place mmap(Gan)
369         a_page = mmap((void *)0xfee00000, PGSIZE, PROT_READ | PROT_WRITE,
370                               MAP_POPULATE | MAP_ANONYMOUS, -1, 0);
371         fprintf(stderr, "a_page mmap pointer %p\n", a_page);
372
373         if (a_page == (void *) -1) {
374                 perror("Could not mmap APIC");
375                 exit(1);
376         }
377         if (((uint64_t)a_page & 0xfff) != 0) {
378                 perror("APIC page mapping is not page aligned");
379                 exit(1);
380         }
381
382         memset(a_page, 0, 4096);
383         ((uint32_t *)a_page)[0x30/4] = 0x01060015;
384         //((uint32_t *)a_page)[0x30/4] = 0xDEADBEEF;
385
386         argc--, argv++;
387         // switches ...
388         // Sorry, I don't much like the gnu opt parsing code.
389         while (1) {
390                 if (*argv[0] != '-')
391                         break;
392                 switch(argv[0][1]) {
393                 case 'd':
394                         debug++;
395                         break;
396                 case 'v':
397                         vmmflags |= VMM_VMCALL_PRINTF;
398                         break;
399                 case 'm':
400                         argc--, argv++;
401                         maxresume = strtoull(argv[0], 0, 0);
402                         break;
403                 case 'c':
404                         argc--, argv++;
405                         cmdline_extra = argv[0];
406                 case 'g':       /* greedy */
407                         parlib_never_yield = TRUE;
408                         break;
409                 case 's':       /* scp */
410                         parlib_wants_to_be_mcp = FALSE;
411                         break;
412                 default:
413                         fprintf(stderr, "BMAFR\n");
414                         break;
415                 }
416                 argc--, argv++;
417         }
418         if (argc < 1) {
419                 fprintf(stderr, "Usage: %s vmimage [-n (no vmcall printf)] [coreboot_tables [loadaddress [entrypoint]]]\n", argv[0]);
420                 exit(1);
421         }
422         if (argc > 1)
423                 coreboot_tables = (void *) strtoull(argv[1], 0, 0);
424         if (argc > 2)
425                 kerneladdress = strtoull(argv[2], 0, 0);
426         if (argc > 3)
427                 entry = strtoull(argv[3], 0, 0);
428         kfd = open(argv[0], O_RDONLY);
429         if (kfd < 0) {
430                 perror(argv[0]);
431                 exit(1);
432         }
433         // read in the kernel, one 2M page at a time.
434         xp = (void *)kerneladdress;
435         for(;;) {
436                 amt = read(kfd, xp, PML2_PTE_REACH);
437                 if (amt < 0) {
438                         perror("read");
439                         exit(1);
440                 }
441                 if (amt == 0) {
442                         break;
443                 }
444                 xp += amt;
445         }
446         size = ROUNDUP((uintptr_t)xp - kerneladdress, PML2_PTE_REACH);
447         fprintf(stderr, "Read in %d bytes\n", size);
448         close(kfd);
449
450         // The low 1m so we can fill in bullshit like ACPI. */
451         // And, sorry, due to the STUPID format of the RSDP for now we need the low 1M.
452         low1m = mmap((int*)4096, MiB-4096, PROT_READ | PROT_WRITE,
453                          MAP_ANONYMOUS, -1, 0);
454         if (low1m != (void *)4096) {
455                 perror("Unable to mmap low 1m");
456                 exit(1);
457         }
458         memset(low1m, 0xff, MiB-4096);
459         r = a;
460         fprintf(stderr, "install rsdp to %p\n", r);
461         *r = rsdp;
462         a += sizeof(*r);
463         r->xsdt_physical_address = (uint64_t)a;
464         gencsum(&r->checksum, r, ACPI_RSDP_CHECKSUM_LENGTH);
465         if ((csum = acpi_tb_checksum((uint8_t *) r, ACPI_RSDP_CHECKSUM_LENGTH)) != 0) {
466                 fprintf(stderr, "RSDP has bad checksum; summed to %x\n", csum);
467                 exit(1);
468         }
469
470         /* Check extended checksum if table version >= 2 */
471         gencsum(&r->extended_checksum, r, ACPI_RSDP_XCHECKSUM_LENGTH);
472         if ((rsdp.revision >= 2) &&
473             (acpi_tb_checksum((uint8_t *) r, ACPI_RSDP_XCHECKSUM_LENGTH) != 0)) {
474                 fprintf(stderr, "RSDP has bad checksum v2\n");
475                 exit(1);
476         }
477
478         /* just leave a bunch of space for the xsdt. */
479         /* we need to zero the area since it has pointers. */
480         x = a;
481         a += sizeof(*x) + 8*sizeof(void *);
482         memset(x, 0, a - (void *)x);
483         fprintf(stderr, "install xsdt to %p\n", x);
484         *x = xsdt;
485         x->table_offset_entry[0] = 0;
486         x->table_offset_entry[1] = 0;
487         x->header.length = a - (void *)x;
488
489         f = a;
490         fprintf(stderr, "install fadt to %p\n", f);
491         *f = fadt;
492         x->table_offset_entry[0] = (uint64_t)f; // fadt MUST be first in xsdt!
493         a += sizeof(*f);
494         f->header.length = a - (void *)f;
495
496         f->Xdsdt = (uint64_t) a;
497         fprintf(stderr, "install dsdt to %p\n", a);
498         memcpy(a, &DSDT_DSDTTBL_Header, 36);
499         a += 36;
500
501         gencsum(&f->header.checksum, f, f->header.length);
502         if (acpi_tb_checksum((uint8_t *)f, f->header.length) != 0) {
503                 fprintf(stderr, "fadt has bad checksum v2\n");
504                 exit(1);
505         }
506
507         m = a;
508         *m = madt;
509         x->table_offset_entry[3] = (uint64_t) m;
510         a += sizeof(*m);
511         fprintf(stderr, "install madt to %p\n", m);
512         memmove(a, &Apic0, sizeof(Apic0));
513         a += sizeof(Apic0);
514         memmove(a, &Apic1, sizeof(Apic1));
515         a += sizeof(Apic1);
516         memmove(a, &X2Apic0, sizeof(X2Apic0));
517         a += sizeof(X2Apic0);
518         memmove(a, &isor, sizeof(isor));
519         a += sizeof(isor);
520         m->header.length = a - (void *)m;
521
522         gencsum(&m->header.checksum, m, m->header.length);
523         if (acpi_tb_checksum((uint8_t *) m, m->header.length) != 0) {
524                 fprintf(stderr, "madt has bad checksum v2\n");
525                 exit(1);
526         }
527
528         gencsum(&x->header.checksum, x, x->header.length);
529         if ((csum = acpi_tb_checksum((uint8_t *) x, x->header.length)) != 0) {
530                 fprintf(stderr, "XSDT has bad checksum; summed to %x\n", csum);
531                 exit(1);
532         }
533
534         fprintf(stderr, "allchecksums ok\n");
535
536         hexdump(stdout, r, a-(void *)r);
537
538         a = (void *)(((unsigned long)a + 0xfff) & ~0xfff);
539         gpci.posted_irq_desc = a;
540         memset(a, 0, 4096);
541         a += 4096;
542         gpci.vapic_addr = a;
543         memset(a, 0, 4096);
544         ((uint32_t *)a)[0x30/4] = 0x01060014;
545         p64 = a;
546         // set up apic values? do we need to?
547         // qemu does this.
548         //((uint8_t *)a)[4] = 1;
549         a += 4096;
550         gpci.apic_addr = (void*)0xfee00000;
551
552         /* Allocate memory for, and zero the bootparams
553          * page before writing to it, or Linux thinks
554          * we're talking crazy.
555          */
556         a += 4096;
557         bp = a;
558         memset(bp, 0, 4096);
559
560         /* Put the e820 memory region information in the boot_params */
561         bp->e820_entries = 5;
562         int e820i = 0;
563
564         /* Give it just a tiny bit of memory -- 60k -- at low memory. */
565         bp->e820_map[e820i].addr = 0;
566         bp->e820_map[e820i].size = 4 * 1024;
567         bp->e820_map[e820i++].type = E820_RESERVED;
568
569         bp->e820_map[e820i].addr = 4 * 1024;
570         bp->e820_map[e820i].size = 64 * 1024 - 4 * 1024;
571         bp->e820_map[e820i++].type = E820_RAM;
572
573         bp->e820_map[e820i].addr = 64 * 1024;
574         bp->e820_map[e820i].size = 16 * 1048576 - 64 * 1024;
575         bp->e820_map[e820i++].type = E820_RESERVED;
576
577         bp->e820_map[e820i].addr = 16 * 1048576;
578         bp->e820_map[e820i].size = 128 * 1048576;
579         bp->e820_map[e820i++].type = E820_RAM;
580
581         bp->e820_map[e820i].addr = 0xf0000000;
582         bp->e820_map[e820i].size = 0x10000000;
583         bp->e820_map[e820i++].type = E820_RESERVED;
584
585         /* The MMIO address of the console device is really the address of an
586          * unbacked EPT page: accesses to this page will cause a page fault that
587          * traps to the host, which will examine the fault, see it was for the
588          * known MMIO address, and fulfill the MMIO read or write on the guest's
589          * behalf accordingly. We place the virtio space at 512 GB higher than the
590          * guest physical memory to avoid a full page table walk. */
591         uint64_t virtio_mmio_base_addr = ROUNDUP((bp->e820_map[e820i - 1].addr +
592                                                   bp->e820_map[e820i - 1].size),
593                                                  512 * GiB);
594
595         cons_mmio_dev.addr = virtio_mmio_base_addr;
596         cons_mmio_dev.vqdev = &cons_vqdev;
597         vm->virtio_mmio_devices[VIRTIO_MMIO_CONSOLE_DEV] = &cons_mmio_dev;
598
599         /* Set the kernel command line parameters */
600         a += 4096;
601         cmdline = a;
602         a += 4096;
603         bp->hdr.cmd_line_ptr = (uintptr_t) cmdline;
604
605         tsc_freq_khz = get_tsc_freq()/1000;
606         len = snprintf(cmdline, 4096, "%s tscfreq=%lld %s", cmdline_default,
607                        tsc_freq_khz, cmdline_extra);
608
609         cmdlinesz = 4096 - len;
610         cmdlinep = cmdline + len;
611
612         for (int i = 0; i < VIRTIO_MMIO_MAX_NUM_DEV; i++) {
613                 if (vm->virtio_mmio_devices[i] == NULL)
614                         continue;
615                 /* Append all the virtio mmio base addresses. */
616                 len = snprintf(cmdlinep, cmdlinesz, " virtio_mmio.device=1K@0x%llx:32",
617                                vm->virtio_mmio_devices[i]->addr);
618                 if (len >= cmdlinesz) {
619                         fprintf(stderr, "Too many arguments to the linux command line.");
620                         exit(1);
621                 }
622                 cmdlinesz -= len;
623                 cmdlinep += len;
624         }
625
626         vm->nr_gpcs = 1;
627         vm->gpcis = &gpci;
628         ret = vmm_init(vm, vmmflags);
629         assert(!ret);
630
631         /* Allocate 3 pages for page table pages: a page of 512 GiB
632          * PTEs with only one entry filled to point to a page of 1 GiB
633          * PTEs; a page of 1 GiB PTEs with only one entry filled to
634          * point to a page of 2 MiB PTEs; and a page of 2 MiB PTEs,
635          * only a subset of which will be filled. */
636         ret = posix_memalign((void **)&p512, PGSIZE, 3 * PGSIZE);
637         if (ret) {
638                 perror("ptp alloc");
639                 exit(1);
640         }
641
642         /* Set up a 1:1 ("identity") page mapping from guest virtual
643          * to guest physical using the (host virtual)
644          * `kerneladdress`. This mapping is used for only a short
645          * time, until the guest sets up its own page tables. Be aware
646          * that the values stored in the table are physical addresses.
647          * This is subtle and mistakes are easily disguised due to the
648          * identity mapping, so take care when manipulating these
649          * mappings. */
650         p1 = &p512[NPTENTRIES];
651         p2m = &p512[2 * NPTENTRIES];
652
653         p512[PML4(kerneladdress)] = (uint64_t)p1 | PTE_KERN_RW;
654         p1[PML3(kerneladdress)] = (uint64_t)p2m | PTE_KERN_RW;
655         for (uintptr_t i = 0; i < size; i += PML2_PTE_REACH) {
656                 p2m[PML2(kerneladdress + i)] =
657                     (uint64_t)(kerneladdress + i) | PTE_KERN_RW | PTE_PS;
658         }
659
660         uint8_t *kernel = (void *)GKERNBASE;
661         //write_coreboot_table(coreboot_tables, ((void *)VIRTIOBASE) /*kernel*/, KERNSIZE + 1048576);
662         hexdump(stdout, coreboot_tables, 512);
663         fprintf(stderr, "p512 %p p512[0] is 0x%lx p1 %p p1[0] is 0x%x\n", p512, p512[0], p1, p1[0]);
664
665         vmm_run_task(vm, timer_thread, 0);
666
667         vm_tf = gth_to_vmtf(vm->gths[0]);
668         vm_tf->tf_cr3 = (uint64_t) p512;
669         vm_tf->tf_rip = entry;
670         vm_tf->tf_rsp = 0;
671         vm_tf->tf_rsi = (uint64_t) bp;
672         start_guest_thread(vm->gths[0]);
673
674         uthread_sleep_forever();
675         return 0;
676 }