Restore basic kmalloc/network functionality which was broken with the merge.
[akaros.git] / kern / src / env.c
1 /* See COPYRIGHT for copyright information. */
2 #ifdef __DEPUTY__
3 //#pragma nodeputy
4 #pragma noasync
5 #endif
6
7 #include <arch/arch.h>
8 #include <arch/mmu.h>
9 #include <elf.h>
10 #include <smp.h>
11
12 #include <atomic.h>
13 #include <string.h>
14 #include <assert.h>
15 #include <env.h>
16 #include <pmap.h>
17 #include <trap.h>
18 #include <monitor.h>
19 #include <manager.h>
20
21 #include <ros/syscall.h>
22 #include <ros/error.h>
23
24 env_t *envs = NULL;             // All environments
25 atomic_t num_envs = atomic_init(0);
26 // TODO: make this a struct of info including the pointer and cacheline-align it
27 // This lets the kernel know what process is running on the core it traps into.
28 // A lot of the Env business, including this and its usage, will change when we
29 // redesign the env as a multi-process.
30 env_t* curenvs[MAX_NUM_CPUS] = {[0 ... (MAX_NUM_CPUS-1)] NULL};
31 static env_list_t env_free_list;        // Free list
32
33 #define ENVGENSHIFT     12              // >= LOGNENV
34
35 //
36 // Converts an envid to an env pointer.
37 //
38 // RETURNS
39 //   0 on success, -EBADENV on error.
40 //   On success, sets *env_store to the environment.
41 //   On error, sets *env_store to NULL.
42 //
43 int
44 envid2env(envid_t envid, env_t **env_store, bool checkperm)
45 {
46         env_t *e;
47         env_t* curenv = curenvs[core_id()];
48
49         // If envid is zero, return the current environment.
50         if (envid == 0) {
51                 *env_store = curenv;
52                 return 0;
53         }
54
55         // Look up the Env structure via the index part of the envid,
56         // then check the env_id field in that env_t
57         // to ensure that the envid is not stale
58         // (i.e., does not refer to a _previous_ environment
59         // that used the same slot in the envs[] array).
60         e = &envs[ENVX(envid)];
61         if (e->env_status == ENV_FREE || e->env_id != envid) {
62                 *env_store = 0;
63                 return -EBADENV;
64         }
65
66         // Check that the calling environment has legitimate permission
67         // to manipulate the specified environment.
68         // If checkperm is set, the specified environment
69         // must be either the current environment
70         // or an immediate child of the current environment.
71         if (checkperm && e != curenv && e->env_parent_id != curenv->env_id) {
72                 *env_store = 0;
73                 return -EBADENV;
74         }
75
76         *env_store = e;
77         return 0;
78 }
79
80 //
81 // Mark all environments in 'envs' as free, set their env_ids to 0,
82 // and insert them into the env_free_list.
83 // Insert in reverse order, so that the first call to env_alloc()
84 // returns envs[0].
85 //
86 void
87 env_init(void)
88 {
89         int i;
90         LIST_INIT(&env_free_list);
91         assert(envs != NULL);
92         for (i = NENV-1; i >= 0; i--) { TRUSTEDBLOCK // asw ivy workaround
93                 // these should already be set from when i memset'd the array to 0
94                 envs[i].env_status = ENV_FREE;
95                 envs[i].env_id = 0;
96                 LIST_INSERT_HEAD(&env_free_list, &envs[i], env_link);
97         }
98 }
99
100 //
101 // Initialize the kernel virtual memory layout for environment e.
102 // Allocate a page directory, set e->env_pgdir and e->env_cr3 accordingly,
103 // and initialize the kernel portion of the new environment's address space.
104 // Do NOT (yet) map anything into the user portion
105 // of the environment's virtual address space.
106 //
107 // Returns 0 on success, < 0 on error.  Errors include:
108 //      -ENOMEM if page directory or table could not be allocated.
109 //
110 static int
111 env_setup_vm(env_t *e)
112 WRITES(e->env_pgdir, e->env_cr3, e->env_procinfo, e->env_syscallring,
113        e->env_syseventring, e->env_syscallbackring, e->env_syseventfrontring)
114 {
115         int i, r;
116         page_t *pgdir = NULL;
117         page_t *pginfo = NULL; 
118         page_t *pgsyscallring = NULL;
119         page_t *pgsyseventring = NULL;
120
121         /* 
122          * Allocate pages for the page directory, shared info, shared data, 
123          * and kernel message pages
124          */
125         r = page_alloc(&pgdir);
126         if(r < 0) return r;
127         r = page_alloc(&pginfo);
128         if (r < 0) {
129                 page_free(pgdir);
130                 return r;
131         }       
132         r = page_alloc(&pgsyscallring);
133         if (r < 0) {
134                 page_free(pgdir);
135                 page_free(pginfo);
136                 return r;
137         }
138         r = page_alloc(&pgsyseventring);
139         if (r < 0) {
140                 page_free(pgdir);
141                 page_free(pginfo);
142                 page_free(pgsyscallring);
143                 return r;
144         }
145
146         // Now, set e->env_pgdir and e->env_cr3,
147         // and initialize the page directory.
148         //
149         // Hint:
150         //    - The VA space of all envs is identical above UTOP
151         //      (except at VPT and UVPT, which we've set below).
152         //      (and not for UINFO either)
153         //      See inc/memlayout.h for permissions and layout.
154         //      Can you use boot_pgdir as a template?  Hint: Yes.
155         //      (Make sure you got the permissions right in Lab 2.)
156         //    - The initial VA below UTOP is empty.
157         //    - You do not need to make any more calls to page_alloc.
158         //    - Note: pp_ref is not maintained for most physical pages
159         //      mapped above UTOP -- but you do need to increment
160         //      env_pgdir's pp_ref!
161
162         // need to up pgdir's reference, since it will never be done elsewhere
163         pgdir->pp_ref++;
164         e->env_pgdir = page2kva(pgdir);
165         e->env_cr3 = page2pa(pgdir);
166         e->env_procinfo = page2kva(pginfo);
167         e->env_syscallring = page2kva(pgsyscallring);
168         e->env_syseventring = page2kva(pgsyseventring);
169
170         memset(page2kva(pgdir), 0, PGSIZE);
171         memset(e->env_procinfo, 0, PGSIZE);
172         memset((void*COUNT(PGSIZE)) TC(e->env_syscallring), 0, PGSIZE);
173         memset((void*COUNT(PGSIZE)) TC(e->env_syseventring), 0, PGSIZE);
174
175         // Initialize the generic syscall ring buffer
176         SHARED_RING_INIT(e->env_syscallring);
177         // Initialize the backend of the syscall ring buffer
178         BACK_RING_INIT(&e->env_syscallbackring, e->env_syscallring, PGSIZE);
179                        
180         // Initialize the generic sysevent ring buffer
181         SHARED_RING_INIT(e->env_syseventring);
182         // Initialize the frontend of the sysevent ring buffer
183         FRONT_RING_INIT(&e->env_syseventfrontring, e->env_syseventring, PGSIZE);
184
185         // should be able to do this so long as boot_pgdir never has
186         // anything put below UTOP
187         memcpy(e->env_pgdir, boot_pgdir, NPDENTRIES*sizeof(pde_t));
188
189         // something like this.  TODO, if you want
190         //memcpy(&e->env_pgdir[PDX(UTOP)], &boot_pgdir[PDX(UTOP)], PGSIZE - PDX(UTOP));
191         // check with
192         // assert(memcmp(e->env_pgdir, boot_pgdir, PGSIZE) == 0);
193
194         // VPT and UVPT map the env's own page table, with
195         // different permissions.
196         e->env_pgdir[PDX(VPT)]  = PTE(PPN(e->env_cr3), PTE_P | PTE_KERN_RW);
197         e->env_pgdir[PDX(UVPT)] = PTE(PPN(e->env_cr3), PTE_P | PTE_USER_RO);
198
199         // Insert the per-process info and ring buffer pages into this process's 
200         // pgdir.  I don't want to do these two pages later (like with the stack), 
201         // since the kernel wants to keep pointers to it easily.
202         // Could place all of this with a function that maps a shared memory page
203         // that can work between any two address spaces or something.
204         r = page_insert(e->env_pgdir, pginfo, (void*SNT)UINFO, PTE_USER_RO);
205         if (r < 0) {
206                 page_free(pgdir);
207                 page_free(pginfo);
208                 page_free(pgsyscallring);
209                 page_free(pgsyseventring);
210                 return r;
211         }
212         r = page_insert(e->env_pgdir, pgsyscallring, (void*SNT)USYSCALL, PTE_USER_RW);
213         if (r < 0) {
214                 // note that we can't currently deallocate the pages created by
215                 // pgdir_walk (inside insert).  should be able to gather them up when
216                 // we destroy environments and their page tables.
217                 page_free(pgdir);
218                 page_free(pginfo);
219                 page_free(pgsyscallring);
220                 page_free(pgsyseventring);
221                 return r;
222         }
223
224         /* Shared page for all processes.  Can't be trusted, but still very useful
225          * at this stage for us.  Consider removing when we have real processes.
226          * (TODO).  Note the page is alloced only the first time through
227          */
228         static page_t* shared_page = 0;
229         if (!shared_page)
230                 page_alloc(&shared_page);
231         // Up it, so it never goes away.  One per user, plus one from page_alloc
232         // This is necessary, since it's in the per-process range of memory that
233         // gets freed during page_free.
234         shared_page->pp_ref++;
235
236         // Inserted into every process's address space at UGDATA
237         page_insert(e->env_pgdir, shared_page, (void*SNT)UGDATA, PTE_USER_RW);
238         
239         // THIS IS A HACK. ONLY HERE UNTIL KEVIN FINISHES CHANNEL IMPLIMENTATION
240         // THIS IS NEEDED TO KEEP KMALLOC FROM DYING POST ENV CREATE.
241         pgsyseventring->pp_ref++;
242
243         return 0;
244 }
245
246 //
247 // Allocates and initializes a new environment.
248 // On success, the new environment is stored in *newenv_store.
249 //
250 // Returns 0 on success, < 0 on failure.  Errors include:
251 //      -ENOFREEENV if all NENVS environments are allocated
252 //      -ENOMEM on memory exhaustion
253 //
254 int
255 env_alloc(env_t **newenv_store, envid_t parent_id)
256 {
257         int32_t generation;
258         int r;
259         env_t *e;
260
261         if (!(e = LIST_FIRST(&env_free_list)))
262                 return -ENOFREEENV;
263         
264         //memset((void*)e + sizeof(e->env_link), 0, sizeof(*e) - sizeof(e->env_link));
265
266     { INITSTRUCT(*e)
267
268         // Allocate and set up the page directory for this environment.
269         if ((r = env_setup_vm(e)) < 0)
270                 return r;
271
272         // Generate an env_id for this environment.
273         generation = (e->env_id + (1 << ENVGENSHIFT)) & ~(NENV - 1);
274         if (generation <= 0)    // Don't create a negative env_id.
275                 generation = 1 << ENVGENSHIFT;
276         e->env_id = generation | (e - envs);
277
278         // Set the basic status variables.
279     e->lock = 0;
280         e->env_parent_id = parent_id;
281         e->env_status = ENV_RUNNABLE;
282         e->env_runs = 0;
283         e->env_refcnt = 1;
284         e->env_flags = 0;
285
286         memset(&e->env_ancillary_state,0,sizeof(e->env_ancillary_state));
287         memset(&e->env_tf,0,sizeof(e->env_tf));
288         env_init_trapframe(e);
289
290         // commit the allocation
291         LIST_REMOVE(e, env_link);
292         *newenv_store = e;
293         atomic_inc(&num_envs);
294
295         e->env_tscfreq = system_timing.tsc_freq;
296         // TODO: for now, the only info at procinfo is this env's struct
297         // note that we need to copy this over every time we make a change to env
298         // that we want userspace to see.  also note that we don't even want to
299         // show them all of env, only specific things like PID, PPID, etc
300         memcpy(e->env_procinfo, e, sizeof(env_t));
301
302         env_t* curenv = curenvs[core_id()];
303
304         printk("[%08x] new env %08x\n", curenv ? curenv->env_id : 0, e->env_id);
305         } // INIT_STRUCT
306         return 0;
307 }
308
309 //
310 // Allocate len bytes of physical memory for environment env,
311 // and map it at virtual address va in the environment's address space.
312 // Does not zero or otherwise initialize the mapped pages in any way.
313 // Pages should be writable by user and kernel.
314 // Panic if any allocation attempt fails.
315 //
316 static void
317 segment_alloc(env_t *e, void *SNT va, size_t len)
318 {
319         void *SNT start, *SNT end;
320         size_t num_pages;
321         int i, r;
322         page_t *page;
323         pte_t *pte;
324
325         start = ROUNDDOWN(va, PGSIZE);
326         end = ROUNDUP(va + len, PGSIZE);
327         if (start >= end)
328                 panic("Wrap-around in memory allocation addresses!");
329         if ((uintptr_t)end > UTOP)
330                 panic("Attempting to map above UTOP!");
331         // page_insert/pgdir_walk alloc a page and read/write to it via its address
332         // starting from pgdir (e's), so we need to be using e's pgdir
333         assert(e->env_cr3 == rcr3());
334         num_pages = PPN(end - start);
335
336         for (i = 0; i < num_pages; i++, start += PGSIZE) {
337                 // skip if a page is already mapped.  yes, page_insert will page_remove
338                 // whatever page was already there, but if we are seg allocing adjacent
339                 // regions, we don't want to destroy that old mapping/page
340                 // though later on we are told we can ignore this...
341                 pte = pgdir_walk(e->env_pgdir, start, 0);
342                 if (pte && *pte & PTE_P)
343                         continue;
344                 if ((r = page_alloc(&page)) < 0)
345                         panic("segment_alloc: %e", r);
346                 page_insert(e->env_pgdir, page, start, PTE_USER_RW);
347         }
348 }
349
350 //
351 // Set up the initial program binary, stack, and processor flags
352 // for a user process.
353 // This function is ONLY called during kernel initialization,
354 // before running the first user-mode environment.
355 //
356 // This function loads all loadable segments from the ELF binary image
357 // into the environment's user memory, starting at the appropriate
358 // virtual addresses indicated in the ELF program header.
359 // At the same time it clears to zero any portions of these segments
360 // that are marked in the program header as being mapped
361 // but not actually present in the ELF file - i.e., the program's bss section.
362 //
363 // All this is very similar to what our boot loader does, except the boot
364 // loader also needs to read the code from disk.  Take a look at
365 // boot/main.c to get ideas.
366 //
367 // Finally, this function maps one page for the program's initial stack.
368 //
369 // load_icode panics if it encounters problems.
370 //  - How might load_icode fail?  What might be wrong with the given input?
371 //
372 static void
373 load_icode(env_t *e, uint8_t *COUNT(size) binary, size_t size)
374 {
375         // Hints:
376         //  Load each program segment into virtual memory
377         //  at the address specified in the ELF section header.
378         //  You should only load segments with ph->p_type == ELF_PROG_LOAD.
379         //  Each segment's virtual address can be found in ph->p_va
380         //  and its size in memory can be found in ph->p_memsz.
381         //  The ph->p_filesz bytes from the ELF binary, starting at
382         //  'binary + ph->p_offset', should be copied to virtual address
383         //  ph->p_va.  Any remaining memory bytes should be cleared to zero.
384         //  (The ELF header should have ph->p_filesz <= ph->p_memsz.)
385         //  Use functions from the previous lab to allocate and map pages.
386         //
387         //  All page protection bits should be user read/write for now.
388         //  ELF segments are not necessarily page-aligned, but you can
389         //  assume for this function that no two segments will touch
390         //  the same virtual page.
391         //
392         //  You may find a function like segment_alloc useful.
393         //
394         //  Loading the segments is much simpler if you can move data
395         //  directly into the virtual addresses stored in the ELF binary.
396         //  So which page directory should be in force during
397         //  this function?
398         //
399         // Hint:
400         //  You must also do something with the program's entry point,
401         //  to make sure that the environment starts executing there.
402         //  What?  (See env_run() and env_pop_tf() below.)
403
404         // asw: copy the headers because they might not be aligned.
405         elf_t elfhdr;
406         proghdr_t phdr;
407         memcpy(&elfhdr,binary,sizeof(elfhdr));
408
409         int i, r;
410
411         // is this an elf?
412         assert(elfhdr.e_magic == ELF_MAGIC);
413         // make sure we have proghdrs to load
414         assert(elfhdr.e_phnum);
415
416         // to actually access any pages alloc'd for this environment, we
417         // need to have the hardware use this environment's page tables.
418         // we can use e's tables as long as we want, since it has the same
419         // mappings for the kernel as does boot_pgdir
420         lcr3(e->env_cr3);
421
422         // TODO: how do we do a runtime COUNT?
423         {TRUSTEDBLOCK
424         for (i = 0; i < elfhdr.e_phnum; i++) {
425                 memcpy(&phdr,binary+elfhdr.e_phoff+i*sizeof(phdr),sizeof(phdr));
426         // zra: TRUSTEDBLOCK until validation is done.
427                 if (phdr.p_type != ELF_PROG_LOAD)
428                         continue;
429         // TODO: validate elf header fields!
430                 // seg alloc creates PTE_U|PTE_W pages.  if you ever want to change
431                 // this, there will be issues with overlapping sections
432                 segment_alloc(e, (void*SNT)phdr.p_va, phdr.p_memsz);
433                 memcpy((void*)phdr.p_va, binary + phdr.p_offset, phdr.p_filesz);
434                 memset((void*)phdr.p_va + phdr.p_filesz, 0, phdr.p_memsz - phdr.p_filesz);
435         }}
436
437         env_set_program_counter(e,elfhdr.e_entry);
438
439         // Now map one page for the program's initial stack
440         // at virtual address USTACKTOP - PGSIZE.
441
442         segment_alloc(e, (void*SNT)(USTACKTOP - PGSIZE), PGSIZE);
443 }
444
445 //
446 // Allocates a new env and loads the named elf binary into it.
447 //
448 env_t* env_create(uint8_t *binary, size_t size)
449 {
450         env_t *e;
451         int r;
452
453         if ((r = env_alloc(&e, 0)) < 0)
454                 panic("env_create: %e", r);
455         load_icode(e, binary, size);
456         return e;
457 }
458
459 //
460 // Frees env e and all memory it uses.
461 //
462 void
463 env_free(env_t *e)
464 {
465         physaddr_t pa;
466
467         // Note the environment's demise.
468         env_t* curenv = curenvs[core_id()];
469         cprintf("[%08x] free env %08x\n", curenv ? curenv->env_id : 0, e->env_id);
470
471         // Flush all mapped pages in the user portion of the address space
472         env_user_mem_free(e);
473
474         // Moved to page_decref
475         // need a known good pgdir before releasing the old one
476         //lcr3(PADDR(boot_pgdir));
477
478         // free the page directory
479         pa = e->env_cr3;
480         e->env_pgdir = 0;
481         e->env_cr3 = 0;
482         page_decref(pa2page(pa));
483
484         // return the environment to the free list
485         e->env_status = ENV_FREE;
486         LIST_INSERT_HEAD(&env_free_list, e, env_link);
487 }
488
489 /*
490  * This allows the kernel to keep this process around, in case it is being used
491  * in some asynchronous processing.
492  * The refcnt should always be greater than 0 for processes that aren't dying.
493  * When refcnt is 0, the process is dying and should not allow any more increfs.
494  * TODO: Make sure this is never called from an interrupt handler (irq_save)
495  */
496 error_t env_incref(env_t* e)
497 {
498         error_t retval = 0;
499         spin_lock(&e->lock);
500         if (e->env_refcnt)
501                 e->env_refcnt++;
502         else
503                 retval = -EBADENV;
504         spin_unlock(&e->lock);
505         return retval;
506 }
507
508 /*
509  * When the kernel is done with a process, it decrements its reference count.
510  * When the count hits 0, no one is using it and it should be freed.
511  * env_destroy calls this.
512  * TODO: Make sure this is never called from an interrupt handler (irq_save)
513  */
514 void env_decref(env_t* e)
515 {
516         // need a known good pgdir before releasing the old one
517         // sometimes env_free is called on a different core than decref
518         lcr3(PADDR(boot_pgdir));
519
520         spin_lock(&e->lock);
521         e->env_refcnt--;
522         spin_unlock(&e->lock);
523         // if we hit 0, no one else will increment and we can check outside the lock
524         if (e->env_refcnt == 0)
525                 env_free(e);
526 }
527
528
529 //
530 // Frees environment e.
531 // If e was the current env, then runs a new environment (and does not return
532 // to the caller).
533 //
534 void
535 env_destroy(env_t *e)
536 {
537         // TODO: race condition with env statuses, esp when running / destroying
538         e->env_status = ENV_DYING;
539
540         env_decref(e);
541         atomic_dec(&num_envs);
542
543         // for old envs that die on user cores.  since env run never returns, cores
544         // never get back to their old hlt/relaxed/spin state, so we need to force
545         // them back to an idle function.
546         uint32_t id = core_id();
547         // There is no longer a curenv for this core. (TODO: Think about this.)
548         curenvs[id] = NULL;
549         if (id) {
550                 smp_idle();
551                 panic("should never see me");
552         }
553         // else we're core 0 and can do the usual
554
555         /* Instead of picking a new environment to run, or defaulting to the monitor
556          * like before, for now we'll hop into the manager() function, which
557          * dispatches jobs.  Note that for now we start the manager from the top,
558          * and not from where we left off the last time we called manager.  That
559          * would require us to save some context (and a stack to work on) here.
560          */
561         //manager();
562         //assert(0); // never get here
563
564         schedule();
565 }
566
567 /* ugly, but for now just linearly search through all possible
568  * environments for a runnable one.
569  * the current *policy* is to round-robin the search
570  */
571 void schedule(void)
572 {
573         env_t *e;
574         static int last_picked = 0;
575         
576         for (int i = 0, j = last_picked + 1; i < NENV; i++, j = (j + 1) % NENV) {
577                 e = &envs[ENVX(j)];
578                 // TODO: race here, if another core is just about to start this env.
579                 // Fix it by setting the status in something like env_dispatch when
580                 // we have multi-contexted processes
581                 if (e && e->env_status == ENV_RUNNABLE) {
582                         last_picked = j;
583                         env_run(e);
584                 }
585         }
586
587         cprintf("Destroyed the only environment - nothing more to do!\n");
588         while (1)
589                 monitor(NULL);
590 }
591
592 //
593 // Context switch from curenv to env e.
594 // Note: if this is the first call to env_run, curenv is NULL.
595 //  (This function does not return.)
596 //
597 void
598 env_run(env_t *e)
599 {
600         // Step 1: If this is a context switch (a new environment is running),
601         //         then set 'curenv' to the new environment,
602         //         update its 'env_runs' counter, and
603         //         and use lcr3() to switch to its address space.
604         // Step 2: Use env_pop_tf() to restore the environment's
605         //         registers and drop into user mode in the
606         //         environment.
607
608         // Hint: This function loads the new environment's state from
609         //      e->env_tf.  Go back through the code you wrote above
610         //      and make sure you have set the relevant parts of
611         //      e->env_tf to sensible values.
612
613         // TODO: race here with env destroy on the status and refcnt
614         // Could up the refcnt and down it when a process is not running
615         e->env_status = ENV_RUNNING;
616         if (e != curenvs[core_id()]) {
617                 curenvs[core_id()] = e;
618                 e->env_runs++;
619                 lcr3(e->env_cr3);
620         }
621
622         env_pop_ancillary_state(e);
623
624         env_pop_tf(&e->env_tf);
625 }
626
627 /* This is the top-half of an interrupt handler, where the bottom half is
628  * env_run (which never returns).  Just add it to the delayed work queue,
629  * which isn't really a queue yet.
630  */
631 void run_env_handler(trapframe_t *tf, void* data)
632 {
633         assert(data);
634         per_cpu_info_t *cpuinfo = &per_cpu_info[core_id()];
635         spin_lock_irqsave(&cpuinfo->lock);
636         { TRUSTEDBLOCK // TODO: how do we make this func_t cast work?
637         cpuinfo->delayed_work.func = (func_t)env_run;
638         cpuinfo->delayed_work.data = data;
639         }
640         spin_unlock_irqsave(&cpuinfo->lock);
641 }