user_strdup() forces null termination
[akaros.git] / kern / src / syscall.c
1 /* See COPYRIGHT for copyright information. */
2
3 #ifdef __SHARC__
4 #pragma nosharc
5 #endif
6
7 #include <ros/common.h>
8 #include <ros/notification.h>
9 #include <arch/types.h>
10 #include <arch/arch.h>
11 #include <arch/mmu.h>
12 #include <arch/console.h>
13 #include <ros/timer.h>
14 #include <error.h>
15
16 #include <elf.h>
17 #include <string.h>
18 #include <assert.h>
19 #include <process.h>
20 #include <schedule.h>
21 #include <pmap.h>
22 #include <umem.h>
23 #include <mm.h>
24 #include <trap.h>
25 #include <syscall.h>
26 #include <kmalloc.h>
27 #include <stdio.h>
28 #include <resource.h>
29 #include <frontend.h>
30 #include <colored_caches.h>
31 #include <arch/bitmask.h>
32 #include <kfs.h> // eventually replace this with vfs.h
33
34
35 #ifdef __CONFIG_NETWORKING__
36 #include <arch/nic_common.h>
37 extern int (*send_frame)(const char *CT(len) data, size_t len);
38 extern unsigned char device_mac[6];
39 #endif
40
41 /* Tracing Globals */
42 int systrace_flags = 0;
43 struct systrace_record *systrace_buffer = 0;
44 unsigned int systrace_bufidx = 0;
45 size_t systrace_bufsize = 0;
46 struct proc *systrace_procs[MAX_NUM_TRACED] = {0};
47 spinlock_t systrace_lock = SPINLOCK_INITIALIZER;
48
49 /* Not enforcing the packing of systrace_procs yet, but don't rely on that */
50 static bool proc_is_traced(struct proc *p)
51 {
52         for (int i = 0; i < MAX_NUM_TRACED; i++)
53                 if (systrace_procs[i] == p)
54                         return true;
55         return false;
56 }
57
58 /************** Utility Syscalls **************/
59
60 static int sys_null(void)
61 {
62         return 0;
63 }
64
65 // Writes 'val' to 'num_writes' entries of the well-known array in the kernel
66 // address space.  It's just #defined to be some random 4MB chunk (which ought
67 // to be boot_alloced or something).  Meant to grab exclusive access to cache
68 // lines, to simulate doing something useful.
69 static int sys_cache_buster(struct proc *p, uint32_t num_writes,
70                              uint32_t num_pages, uint32_t flags)
71 { TRUSTEDBLOCK /* zra: this is not really part of the kernel */
72         #define BUSTER_ADDR             0xd0000000  // around 512 MB deep
73         #define MAX_WRITES              1048576*8
74         #define MAX_PAGES               32
75         #define INSERT_ADDR     (UINFO + 2*PGSIZE) // should be free for these tests
76         uint32_t* buster = (uint32_t*)BUSTER_ADDR;
77         static spinlock_t buster_lock = SPINLOCK_INITIALIZER;
78         uint64_t ticks = -1;
79         page_t* a_page[MAX_PAGES];
80
81         /* Strided Accesses or Not (adjust to step by cachelines) */
82         uint32_t stride = 1;
83         if (flags & BUSTER_STRIDED) {
84                 stride = 16;
85                 num_writes *= 16;
86         }
87
88         /* Shared Accesses or Not (adjust to use per-core regions)
89          * Careful, since this gives 8MB to each core, starting around 512MB.
90          * Also, doesn't separate memory for core 0 if it's an async call.
91          */
92         if (!(flags & BUSTER_SHARED))
93                 buster = (uint32_t*)(BUSTER_ADDR + core_id() * 0x00800000);
94
95         /* Start the timer, if we're asked to print this info*/
96         if (flags & BUSTER_PRINT_TICKS)
97                 ticks = start_timing();
98
99         /* Allocate num_pages (up to MAX_PAGES), to simulate doing some more
100          * realistic work.  Note we don't write to these pages, even if we pick
101          * unshared.  Mostly due to the inconvenience of having to match up the
102          * number of pages with the number of writes.  And it's unnecessary.
103          */
104         if (num_pages) {
105                 spin_lock(&buster_lock);
106                 for (int i = 0; i < MIN(num_pages, MAX_PAGES); i++) {
107                         upage_alloc(p, &a_page[i],1);
108                         page_insert(p->env_pgdir, a_page[i], (void*)INSERT_ADDR + PGSIZE*i,
109                                     PTE_USER_RW);
110                 }
111                 spin_unlock(&buster_lock);
112         }
113
114         if (flags & BUSTER_LOCKED)
115                 spin_lock(&buster_lock);
116         for (int i = 0; i < MIN(num_writes, MAX_WRITES); i=i+stride)
117                 buster[i] = 0xdeadbeef;
118         if (flags & BUSTER_LOCKED)
119                 spin_unlock(&buster_lock);
120
121         if (num_pages) {
122                 spin_lock(&buster_lock);
123                 for (int i = 0; i < MIN(num_pages, MAX_PAGES); i++) {
124                         page_remove(p->env_pgdir, (void*)(INSERT_ADDR + PGSIZE * i));
125                         page_decref(a_page[i]);
126                 }
127                 spin_unlock(&buster_lock);
128         }
129
130         /* Print info */
131         if (flags & BUSTER_PRINT_TICKS) {
132                 ticks = stop_timing(ticks);
133                 printk("%llu,", ticks);
134         }
135         return 0;
136 }
137
138 static int sys_cache_invalidate(void)
139 {
140         #ifdef __i386__
141                 wbinvd();
142         #endif
143         return 0;
144 }
145
146 /* sys_reboot(): called directly from dispatch table. */
147
148 // Print a string to the system console.
149 // The string is exactly 'len' characters long.
150 // Destroys the environment on memory errors.
151 static ssize_t sys_cputs(env_t* e, const char *DANGEROUS s, size_t len)
152 {
153         // Check that the user has permission to read memory [s, s+len).
154         // Destroy the environment if not.
155         char *COUNT(len) _s = user_mem_assert(e, s, len, PTE_USER_RO);
156
157         // Print the string supplied by the user.
158         printk("%.*s", len, _s);
159         return (ssize_t)len;
160 }
161
162 // Read a character from the system console.
163 // Returns the character.
164 static uint16_t sys_cgetc(env_t* e)
165 {
166         uint16_t c;
167
168         // The cons_getc() primitive doesn't wait for a character,
169         // but the sys_cgetc() system call does.
170         while ((c = cons_getc()) == 0)
171                 cpu_relax();
172
173         return c;
174 }
175
176 /* Returns the id of the cpu this syscall is executed on. */
177 static uint32_t sys_getcpuid(void)
178 {
179         return core_id();
180 }
181
182 // TODO: Temporary hack until thread-local storage is implemented on i386 and
183 // this is removed from the user interface
184 static size_t sys_getvcoreid(struct proc *p)
185 {
186         return proc_get_vcoreid(p, core_id());
187 }
188
189 /************** Process management syscalls **************/
190
191 /* Returns the calling process's pid */
192 static pid_t sys_getpid(struct proc *p)
193 {
194         return p->pid;
195 }
196
197 /* Creates a process from the file 'path'.  The process is not runnable by
198  * default, so it needs it's status to be changed so that the next call to
199  * schedule() will try to run it.  TODO: take args/envs from userspace. */
200 static int sys_proc_create(struct proc *p, char *path, size_t path_l,
201                            struct procinfo *pi)
202 {
203         int pid = 0;
204         char *t_path;
205         struct file *program;
206         struct proc *new_p;
207
208         /* Copy in the path.  Consider putting an upper bound on path_l. */
209         t_path = user_strdup_errno(p, path, path_l);
210         if (!t_path)
211                 return -1;
212         program = do_file_open(t_path, 0, 0);
213         user_memdup_free(p, t_path);
214         if (!program)
215                 return -1;                      /* presumably, errno is already set */
216         /* TODO: need to split the proc creation, since you must load after setting
217          * args/env, since auxp gets set up there. */
218         //new_p = proc_create(program, 0, 0);
219         if (proc_alloc(&new_p, current))
220                 goto mid_error;
221         /* Set the argument stuff needed by glibc */
222         if (memcpy_from_user_errno(p, new_p->procinfo->argp, pi->argp,
223                                    sizeof(pi->argp)))
224                 goto late_error;
225         if (memcpy_from_user_errno(p, new_p->procinfo->argbuf, pi->argbuf,
226                                    sizeof(pi->argbuf)))
227                 goto late_error;
228         if (load_elf(new_p, program))
229                 goto late_error;
230         kref_put(&program->f_kref);
231         pid = new_p->pid;
232         kref_put(&new_p->kref); /* give up the reference created in proc_create() */
233         return pid;
234 late_error:
235         proc_destroy(new_p);
236 mid_error:
237         kref_put(&program->f_kref);
238         return -1;
239 }
240
241 /* Makes process PID runnable.  Consider moving the functionality to process.c */
242 static error_t sys_proc_run(struct proc *p, unsigned pid)
243 {
244         struct proc *target = pid2proc(pid);
245         error_t retval = 0;
246
247         if (!target)
248                 return -EBADPROC;
249         // note we can get interrupted here. it's not bad.
250         spin_lock(&p->proc_lock);
251         // make sure we have access and it's in the right state to be activated
252         if (!proc_controls(p, target)) {
253                 kref_put(&target->kref);
254                 retval = -EPERM;
255         } else if (target->state != PROC_CREATED) {
256                 kref_put(&target->kref);
257                 retval = -EINVAL;
258         } else {
259                 __proc_set_state(target, PROC_RUNNABLE_S);
260                 schedule_proc(target);
261         }
262         spin_unlock(&p->proc_lock);
263         kref_put(&target->kref);
264         return retval;
265 }
266
267 /* Destroy proc pid.  If this is called by the dying process, it will never
268  * return.  o/w it will return 0 on success, or an error.  Errors include:
269  * - EBADPROC: if there is no such process with pid
270  * - EPERM: if caller does not control pid */
271 static error_t sys_proc_destroy(struct proc *p, pid_t pid, int exitcode)
272 {
273         error_t r;
274         struct proc *p_to_die = pid2proc(pid);
275
276         if (!p_to_die) {
277                 set_errno(current_tf, ESRCH);
278                 return -1;
279         }
280         if (!proc_controls(p, p_to_die)) {
281                 kref_put(&p_to_die->kref);
282                 set_errno(current_tf, EPERM);
283                 return -1;
284         }
285         if (p_to_die == p) {
286                 // syscall code and pid2proc both have edible references, only need 1.
287                 p->exitcode = exitcode;
288                 kref_put(&p_to_die->kref);
289                 printd("[PID %d] proc exiting gracefully (code %d)\n", p->pid,exitcode);
290         } else {
291                 printd("[%d] destroying proc %d\n", p->pid, p_to_die->pid);
292         }
293         proc_destroy(p_to_die);
294         kref_put(&p_to_die->kref);
295         return ESUCCESS;
296 }
297
298 static int sys_proc_yield(struct proc *p, bool being_nice)
299 {
300         proc_yield(p, being_nice);
301         return 0;
302 }
303
304 static ssize_t sys_fork(env_t* e)
305 {
306         // TODO: right now we only support fork for single-core processes
307         if(e->state != PROC_RUNNING_S)
308         {
309                 set_errno(current_tf,EINVAL);
310                 return -1;
311         }
312
313         env_t* env;
314         assert(!proc_alloc(&env, current));
315         assert(env != NULL);
316
317         env->heap_top = e->heap_top;
318         env->ppid = e->pid;
319         env->env_tf = *current_tf;
320
321         env->cache_colors_map = cache_colors_map_alloc();
322         for(int i=0; i < llc_cache->num_colors; i++)
323                 if(GET_BITMASK_BIT(e->cache_colors_map,i))
324                         cache_color_alloc(llc_cache, env->cache_colors_map);
325
326         duplicate_vmrs(e, env);
327
328         int copy_page(env_t* e, pte_t* pte, void* va, void* arg)
329         {
330                 env_t* env = (env_t*)arg;
331
332                 if(PAGE_PRESENT(*pte))
333                 {
334                         page_t* pp;
335                         if(upage_alloc(env,&pp,0))
336                                 return -1;
337                         if(page_insert(env->env_pgdir,pp,va,*pte & PTE_PERM))
338                         {
339                                 page_decref(pp);
340                                 return -1;
341                         }
342
343                         pagecopy(page2kva(pp),ppn2kva(PTE2PPN(*pte)));
344                 } else {
345                         assert(PAGE_PAGED_OUT(*pte));
346                         /* TODO: (SWAP) will need to either make a copy or CoW/refcnt the
347                          * backend store.  For now, this PTE will be the same as the
348                          * original PTE */
349                         panic("Swapping not supported!");
350                         pte_t* newpte = pgdir_walk(env->env_pgdir,va,1);
351                         if(!newpte)
352                                 return -1;
353                         *newpte = *pte;
354                 }
355                 return 0;
356         }
357
358         // TODO: (PC) this won't work.  Needs revisiting.
359         // copy procdata and procinfo
360         memcpy(env->procdata,e->procdata,sizeof(struct procdata));
361         memcpy(env->procinfo,e->procinfo,sizeof(struct procinfo));
362         env->procinfo->pid = env->pid;
363         env->procinfo->ppid = env->ppid;
364
365         /* for now, just copy the contents of every present page in the entire
366          * address space. */
367         if (env_user_mem_walk(e, 0, UMAPTOP, &copy_page, env)) {
368                 proc_destroy(env);      /* this is prob what you want, not decref by 2 */
369                 set_errno(current_tf,ENOMEM);
370                 return -1;
371         }
372         clone_files(&e->open_files, &env->open_files);
373         __proc_set_state(env, PROC_RUNNABLE_S);
374         schedule_proc(env);
375
376         // don't decref the new process.
377         // that will happen when the parent waits for it.
378         // TODO: if the parent doesn't wait, we need to change the child's parent
379         // when the parent dies, or at least decref it
380
381         printd("[PID %d] fork PID %d\n",e->pid,env->pid);
382
383         return env->pid;
384 }
385
386 /* Load the binary "path" into the current process, and start executing it.
387  * argv and envp are magically bundled in procinfo for now.  Keep in sync with
388  * glibc's sysdeps/ros/execve.c */
389 static int sys_exec(struct proc *p, char *path, size_t path_l,
390                     struct procinfo *pi)
391 {
392         int ret = -1;
393         char *t_path;
394         struct file *program;
395
396         /* We probably want it to never be allowed to exec if it ever was _M */
397         if(p->state != PROC_RUNNING_S)
398                 return -1;
399
400         /* Copy in the path.  Consider putting an upper bound on path_l. */
401         t_path = user_strdup_errno(p, path, path_l);
402         if (!t_path)
403                 return -1;
404         program = do_file_open(t_path, 0, 0);
405         user_memdup_free(p, t_path);
406         if (!program)
407                 return -1;                      /* presumably, errno is already set */
408         /* Set the argument stuff needed by glibc */
409         if (memcpy_from_user_errno(p, p->procinfo->argp, pi->argp,
410                                    sizeof(pi->argp)))
411                 goto mid_error;
412         if (memcpy_from_user_errno(p, p->procinfo->argbuf, pi->argbuf,
413                                    sizeof(pi->argbuf)))
414                 goto mid_error;
415         /* This is the point of no return for the process. */
416         /* TODO: issues with this: Need to also assert there are no outstanding
417          * users of the sysrings.  the ldt page will get freed shortly, so that's
418          * okay.  Potentially issues with the nm and vcpd if we were in _M before
419          * and someone is trying to notify. */
420         memset(p->procdata, 0, sizeof(procdata_t));
421         destroy_vmrs(p);
422         close_all_files(&p->open_files, TRUE);
423         env_user_mem_free(p, 0, UMAPTOP);
424         if (load_elf(p, program)) {
425                 kref_put(&program->f_kref);
426                 proc_destroy(p);
427                 smp_idle();             /* syscall can't return on failure now */
428         }
429         printd("[PID %d] exec %s\n", p->pid, file_name(program));
430         kref_put(&program->f_kref);
431         *current_tf = p->env_tf;
432         return 0;
433 mid_error:
434         kref_put(&program->f_kref);
435         return -1;
436 }
437
438 static ssize_t sys_trywait(env_t* e, pid_t pid, int* status)
439 {
440         struct proc* p = pid2proc(pid);
441
442         // TODO: this syscall is racy, so we only support for single-core procs
443         if(e->state != PROC_RUNNING_S)
444                 return -1;
445
446         // TODO: need to use errno properly.  sadly, ROS error codes conflict..
447
448         if(p)
449         {
450                 ssize_t ret;
451
452                 if(current->pid == p->ppid)
453                 {
454                         if(p->state == PROC_DYING)
455                         {
456                                 memcpy_to_user(e,status,&p->exitcode,sizeof(int));
457                                 printd("[PID %d] waited for PID %d (code %d)\n",
458                                        e->pid,p->pid,p->exitcode);
459                                 ret = 0;
460                         }
461                         else // not dead yet
462                         {
463                                 set_errno(current_tf,0);
464                                 ret = -1;
465                         }
466                 }
467                 else // not a child of the calling process
468                 {
469                         set_errno(current_tf,1);
470                         ret = -1;
471                 }
472
473                 // if the wait succeeded, decref twice
474                 if (ret == 0)
475                         kref_put(&p->kref);
476                 kref_put(&p->kref);
477                 return ret;
478         }
479
480         set_errno(current_tf,1);
481         return -1;
482 }
483
484 /************** Memory Management Syscalls **************/
485
486 static void *sys_mmap(struct proc* p, uintreg_t a1, uintreg_t a2, uintreg_t a3,
487                       uintreg_t* a456)
488 {
489         uintreg_t _a456[3];
490         if(memcpy_from_user(p,_a456,a456,3*sizeof(uintreg_t)))
491                 sys_proc_destroy(p,p->pid,-1);
492         return mmap(p,a1,a2,a3,_a456[0],_a456[1],_a456[2]);
493 }
494
495 static intreg_t sys_mprotect(struct proc* p, void* addr, size_t len, int prot)
496 {
497         return mprotect(p, (uintptr_t)addr, len, prot);
498 }
499
500 static intreg_t sys_munmap(struct proc* p, void* addr, size_t len)
501 {
502         return munmap(p, (uintptr_t)addr, len);
503 }
504
505 static void* sys_brk(struct proc *p, void* addr) {
506         ssize_t range;
507
508         // TODO: remove sys_brk
509         printk("[kernel] don't use brk, unsupported and will be removed soon.\n");
510
511         spin_lock(&p->proc_lock);
512
513         if((addr < p->procinfo->heap_bottom) || (addr >= (void*)BRK_END))
514                 goto out;
515
516         uintptr_t real_heap_top = ROUNDUP((uintptr_t)p->heap_top,PGSIZE);
517         uintptr_t real_new_heap_top = ROUNDUP((uintptr_t)addr,PGSIZE);
518         range = real_new_heap_top - real_heap_top;
519
520         if (range > 0) {
521                 if(__do_mmap(p, real_heap_top, range, PROT_READ | PROT_WRITE,
522                              MAP_FIXED | MAP_ANONYMOUS, NULL, 0) == MAP_FAILED)
523                         goto out;
524         }
525         else if (range < 0) {
526                 if(__do_munmap(p, real_new_heap_top, -range))
527                         goto out;
528         }
529         p->heap_top = addr;
530
531 out:
532         spin_unlock(&p->proc_lock);
533         return p->heap_top;
534 }
535
536 static ssize_t sys_shared_page_alloc(env_t* p1,
537                                      void**DANGEROUS _addr, pid_t p2_id,
538                                      int p1_flags, int p2_flags
539                                     )
540 {
541         /* When we remove/change this, also get rid of page_insert_in_range() */
542         printk("[kernel] the current shared page alloc is deprecated.\n");
543         //if (!VALID_USER_PERMS(p1_flags)) return -EPERM;
544         //if (!VALID_USER_PERMS(p2_flags)) return -EPERM;
545
546         void * COUNT(1) * COUNT(1) addr = user_mem_assert(p1, _addr, sizeof(void *),
547                                                       PTE_USER_RW);
548         struct proc *p2 = pid2proc(p2_id);
549         if (!p2)
550                 return -EBADPROC;
551
552         page_t* page;
553         error_t e = upage_alloc(p1, &page,1);
554         if (e < 0) {
555                 kref_put(&p2->kref);
556                 return e;
557         }
558
559         void* p2_addr = page_insert_in_range(p2->env_pgdir, page,
560                         (void*SNT)UTEXT, (void*SNT)UTOP, p2_flags);
561         if (p2_addr == NULL) {
562                 page_free(page);
563                 kref_put(&p2->kref);
564                 return -EFAIL;
565         }
566
567         void* p1_addr = page_insert_in_range(p1->env_pgdir, page,
568                         (void*SNT)UTEXT, (void*SNT)UTOP, p1_flags);
569         if(p1_addr == NULL) {
570                 page_remove(p2->env_pgdir, p2_addr);
571                 page_free(page);
572                 kref_put(&p2->kref);
573                 return -EFAIL;
574         }
575         *addr = p1_addr;
576         kref_put(&p2->kref);
577         return ESUCCESS;
578 }
579
580 static int sys_shared_page_free(env_t* p1, void*DANGEROUS addr, pid_t p2)
581 {
582         return -1;
583 }
584
585
586 /* sys_resource_req(): called directly from dispatch table. */
587
588 /* Will notify the target on the given vcore, if the caller controls the target.
589  * Will honor the target's wanted/vcoreid.  u_ne can be NULL. */
590 static int sys_notify(struct proc *p, int target_pid, unsigned int notif,
591                       struct notif_event *u_ne)
592 {
593         struct notif_event local_ne;
594         struct proc *target = pid2proc(target_pid);
595
596         if (!target) {
597                 set_errno(current_tf, EBADPROC);
598                 return -1;
599         }
600         if (!proc_controls(p, target)) {
601                 kref_put(&target->kref);
602                 set_errno(current_tf, EPERM);
603                 return -1;
604         }
605         /* if the user provided a notif_event, copy it in and use that */
606         if (u_ne) {
607                 if (memcpy_from_user(p, &local_ne, u_ne, sizeof(struct notif_event))) {
608                         kref_put(&target->kref);
609                         set_errno(current_tf, EINVAL);
610                         return -1;
611                 }
612                 proc_notify(target, local_ne.ne_type, &local_ne);
613         } else {
614                 proc_notify(target, notif, 0);
615         }
616         kref_put(&target->kref);
617         return 0;
618 }
619
620 /* Will notify the calling process on the given vcore, independently of WANTED
621  * or advertised vcoreid.  If you change the parameters, change pop_ros_tf() */
622 static int sys_self_notify(struct proc *p, uint32_t vcoreid, unsigned int notif,
623                            struct notif_event *u_ne)
624 {
625         struct notif_event local_ne;
626
627         printd("[kernel] received self notify for vcoreid %d, notif %d, ne %08p\n",
628                vcoreid, notif, u_ne);
629         /* if the user provided a notif_event, copy it in and use that */
630         if (u_ne) {
631                 if (memcpy_from_user(p, &local_ne, u_ne, sizeof(struct notif_event))) {
632                         set_errno(current_tf, EINVAL);
633                         return -1;
634                 }
635                 do_notify(p, vcoreid, local_ne.ne_type, &local_ne);
636         } else {
637                 do_notify(p, vcoreid, notif, 0);
638         }
639         return 0;
640 }
641
642 /* This will set a local timer for usec, then shut down the core */
643 static int sys_halt_core(struct proc *p, unsigned int usec)
644 {
645         /* TODO: ought to check and see if a timer was already active, etc, esp so
646          * userspace can't turn off timers.  also note we will also call whatever
647          * timer_interrupt() will do, though all we care about is just
648          * self_ipi/interrupting. */
649         set_core_timer(usec);
650         cpu_halt();
651
652         return 0;
653 }
654
655 /************** Platform Specific Syscalls **************/
656
657 //Read a buffer over the serial port
658 static ssize_t sys_serial_read(env_t* e, char *DANGEROUS _buf, size_t len)
659 {
660         if (len == 0)
661                 return 0;
662
663         #ifdef __CONFIG_SERIAL_IO__
664             char *COUNT(len) buf = user_mem_assert(e, _buf, len, PTE_USER_RO);
665                 size_t bytes_read = 0;
666                 int c;
667                 while((c = serial_read_byte()) != -1) {
668                         buf[bytes_read++] = (uint8_t)c;
669                         if(bytes_read == len) break;
670                 }
671                 return (ssize_t)bytes_read;
672         #else
673                 return -EINVAL;
674         #endif
675 }
676
677 //Write a buffer over the serial port
678 static ssize_t sys_serial_write(env_t* e, const char *DANGEROUS buf, size_t len)
679 {
680         if (len == 0)
681                 return 0;
682         #ifdef __CONFIG_SERIAL_IO__
683                 char *COUNT(len) _buf = user_mem_assert(e, buf, len, PTE_USER_RO);
684                 for(int i =0; i<len; i++)
685                         serial_send_byte(buf[i]);
686                 return (ssize_t)len;
687         #else
688                 return -EINVAL;
689         #endif
690 }
691
692 #ifdef __CONFIG_NETWORKING__
693 // This is not a syscall we want. Its hacky. Here just for syscall stuff until get a stack.
694 static ssize_t sys_eth_read(env_t* e, char *DANGEROUS buf)
695 {
696         if (eth_up) {
697
698                 uint32_t len;
699                 char *ptr;
700
701                 spin_lock(&packet_buffers_lock);
702
703                 if (num_packet_buffers == 0) {
704                         spin_unlock(&packet_buffers_lock);
705                         return 0;
706                 }
707
708                 ptr = packet_buffers[packet_buffers_head];
709                 len = packet_buffers_sizes[packet_buffers_head];
710
711                 num_packet_buffers--;
712                 packet_buffers_head = (packet_buffers_head + 1) % MAX_PACKET_BUFFERS;
713
714                 spin_unlock(&packet_buffers_lock);
715
716                 char* _buf = user_mem_assert(e, buf, len, PTE_U);
717
718                 memcpy(_buf, ptr, len);
719
720                 kfree(ptr);
721
722                 return len;
723         }
724         else
725                 return -EINVAL;
726 }
727
728 // This is not a syscall we want. Its hacky. Here just for syscall stuff until get a stack.
729 static ssize_t sys_eth_write(env_t* e, const char *DANGEROUS buf, size_t len)
730 {
731         if (eth_up) {
732
733                 if (len == 0)
734                         return 0;
735
736                 // HACK TO BYPASS HACK
737                 int just_sent = send_frame(buf, len);
738
739                 if (just_sent < 0) {
740                         printk("Packet send fail\n");
741                         return 0;
742                 }
743
744                 return just_sent;
745
746                 // END OF RECURSIVE HACK
747 /*
748                 char *COUNT(len) _buf = user_mem_assert(e, buf, len, PTE_U);
749                 int total_sent = 0;
750                 int just_sent = 0;
751                 int cur_packet_len = 0;
752                 while (total_sent != len) {
753                         cur_packet_len = ((len - total_sent) > MTU) ? MTU : (len - total_sent);
754                         char dest_mac[6] = APPSERVER_MAC_ADDRESS;
755                         char* wrap_buffer = eth_wrap(_buf + total_sent, cur_packet_len, device_mac, dest_mac, APPSERVER_PORT);
756                         just_sent = send_frame(wrap_buffer, cur_packet_len + sizeof(struct ETH_Header));
757
758                         if (just_sent < 0)
759                                 return 0; // This should be an error code of its own
760
761                         if (wrap_buffer)
762                                 kfree(wrap_buffer);
763
764                         total_sent += cur_packet_len;
765                 }
766
767                 return (ssize_t)len;
768 */
769         }
770         else
771                 return -EINVAL;
772 }
773
774 static ssize_t sys_eth_get_mac_addr(env_t* e, char *DANGEROUS buf) 
775 {
776         if (eth_up) {
777                 for (int i = 0; i < 6; i++)
778                         buf[i] = device_mac[i];
779                 return 0;
780         }
781         else
782                 return -EINVAL;
783 }
784
785 static int sys_eth_recv_check(env_t* e) 
786 {
787         if (num_packet_buffers != 0) 
788                 return 1;
789         else
790                 return 0;
791 }
792
793 #endif // Network
794
795 // Syscalls below here are serviced by the appserver for now.
796 #define ufe(which,a0,a1,a2,a3) \
797         frontend_syscall_errno(p,APPSERVER_SYSCALL_##which,\
798                            (int)(a0),(int)(a1),(int)(a2),(int)(a3))
799
800 intreg_t sys_write(struct proc* p, int fd, const void* buf, int len)
801 {
802         int ret = 0;
803         void* kbuf = user_memdup_errno(p,buf,len);
804         if(kbuf == NULL)
805                 return -1;
806 #ifndef __CONFIG_APPSERVER__
807         /* Catch a common usage of stderr */
808         if (fd == 2) {
809                 ((char*)kbuf)[len-1] = 0;
810                 printk("[stderr]: %s\n", kbuf);
811                 ret = len;
812         } else { // but warn/panic otherwise in ufe()
813                 ret = ufe(write, fd, PADDR(kbuf), len, 0);
814         }
815 #else
816         ret = ufe(write, fd, PADDR(kbuf), len, 0);
817 #endif
818         user_memdup_free(p,kbuf);
819         return ret;
820 }
821
822 intreg_t sys_read(struct proc* p, int fd, void* buf, int len)
823 {
824         void* kbuf = kmalloc_errno(len);
825         if(kbuf == NULL)
826                 return -1;
827         int ret = ufe(read,fd,PADDR(kbuf),len,0);
828         if(ret != -1 && memcpy_to_user_errno(p,buf,kbuf,len))
829                 ret = -1;
830         user_memdup_free(p,kbuf);
831         return ret;
832 }
833
834 intreg_t sys_pwrite(struct proc* p, int fd, const void* buf, int len, int offset)
835 {
836         void* kbuf = user_memdup_errno(p,buf,len);
837         if(kbuf == NULL)
838                 return -1;
839         int ret = ufe(pwrite,fd,PADDR(kbuf),len,offset);
840         user_memdup_free(p,kbuf);
841         return ret;
842 }
843
844 intreg_t sys_pread(struct proc* p, int fd, void* buf, int len, int offset)
845 {
846         void* kbuf = kmalloc_errno(len);
847         if(kbuf == NULL)
848                 return -1;
849         int ret = ufe(pread,fd,PADDR(kbuf),len,offset);
850         if(ret != -1 && memcpy_to_user_errno(p,buf,kbuf,len))
851                 ret = -1;
852         user_memdup_free(p,kbuf);
853         return ret;
854 }
855
856 /* Checks args/reads in the path, opens the file, and inserts it into the
857  * process's open file list. 
858  *
859  * TODO: take the path length */
860 intreg_t sys_open(struct proc *p, const char *path, int oflag, int mode)
861 {
862         int fd = 0;
863         struct file *file;
864
865         char *t_path = user_strdup_errno(p, path, PGSIZE);
866         if (t_path == NULL)
867                 return -1;
868         file = do_file_open(t_path, oflag, mode);
869         user_memdup_free(p, t_path);
870         if (!file)
871                 return -1;
872         fd = insert_file(&p->open_files, file); /* stores the ref to file */
873         kref_put(&file->f_kref);
874         if (fd < 0) {
875                 warn("File insertion failed");
876                 return -1;
877         }
878         printd("File Open, res=%d\n", fd);
879         return fd;
880 }
881
882 intreg_t sys_close(struct proc *p, int fd)
883 {
884         struct file *file = put_file_from_fd(&p->open_files, fd);
885         if (!file) {
886                 set_errno(current_tf, EBADF);
887                 return -1;
888         }
889         /* TEMP TEST */
890         if (kref_refcnt(&file->f_kref)) {
891                 printk("sys_close: Detected positive refcnt %d for file %s\n",
892                        kref_refcnt(&file->f_kref), file_name(file));
893                 panic("Idiot.");
894         }
895         return 0;
896 }
897
898 #define NEWLIB_STAT_SIZE 64
899 intreg_t sys_fstat(struct proc* p, int fd, void* buf)
900 {
901         int *kbuf = kmalloc(NEWLIB_STAT_SIZE, 0);
902         int ret = ufe(fstat,fd,PADDR(kbuf),0,0);
903         if(ret != -1 && memcpy_to_user_errno(p,buf,kbuf,NEWLIB_STAT_SIZE))
904                 ret = -1;
905         kfree(kbuf);
906         return ret;
907 }
908
909 intreg_t sys_stat(struct proc* p, const char* path, void* buf)
910 {
911         char* fn = user_strdup_errno(p,path,PGSIZE);
912         if(fn == NULL)
913                 return -1;
914
915         int *kbuf = kmalloc(NEWLIB_STAT_SIZE, 0);
916         int ret = ufe(stat,PADDR(fn),PADDR(kbuf),0,0);
917         if(ret != -1 && memcpy_to_user_errno(p,buf,kbuf,NEWLIB_STAT_SIZE))
918                 ret = -1;
919
920         user_memdup_free(p,fn);
921         kfree(kbuf);
922         return ret;
923 }
924
925 intreg_t sys_lstat(struct proc* p, const char* path, void* buf)
926 {
927         char* fn = user_strdup_errno(p,path,PGSIZE);
928         if(fn == NULL)
929                 return -1;
930
931         int *kbuf = kmalloc(NEWLIB_STAT_SIZE, 0);
932         int ret = ufe(lstat,PADDR(fn),PADDR(kbuf),0,0);
933         if(ret != -1 && memcpy_to_user_errno(p,buf,kbuf,NEWLIB_STAT_SIZE))
934                 ret = -1;
935
936         user_memdup_free(p,fn);
937         kfree(kbuf);
938         return ret;
939 }
940
941 intreg_t sys_fcntl(struct proc* p, int fd, int cmd, int arg)
942 {
943         return ufe(fcntl,fd,cmd,arg,0);
944 }
945
946 intreg_t sys_access(struct proc* p, const char* path, int type)
947 {
948         char* fn = user_strdup_errno(p,path,PGSIZE);
949         if(fn == NULL)
950                 return -1;
951         int ret = ufe(access,PADDR(fn),type,0,0);
952         user_memdup_free(p,fn);
953         return ret;
954 }
955
956 intreg_t sys_umask(struct proc* p, int mask)
957 {
958         return ufe(umask,mask,0,0,0);
959 }
960
961 intreg_t sys_chmod(struct proc* p, const char* path, int mode)
962 {
963         char* fn = user_strdup_errno(p,path,PGSIZE);
964         if(fn == NULL)
965                 return -1;
966         int ret = ufe(chmod,PADDR(fn),mode,0,0);
967         user_memdup_free(p,fn);
968         return ret;
969 }
970
971 intreg_t sys_lseek(struct proc* p, int fd, int offset, int whence)
972 {
973         return ufe(lseek,fd,offset,whence,0);
974 }
975
976 intreg_t sys_link(struct proc* p, const char* _old, const char* _new)
977 {
978         char* oldpath = user_strdup_errno(p,_old,PGSIZE);
979         if(oldpath == NULL)
980                 return -1;
981
982         char* newpath = user_strdup_errno(p,_new,PGSIZE);
983         if(newpath == NULL)
984         {
985                 user_memdup_free(p,oldpath);
986                 return -1;
987         }
988
989         int ret = ufe(link,PADDR(oldpath),PADDR(newpath),0,0);
990         user_memdup_free(p,oldpath);
991         user_memdup_free(p,newpath);
992         return ret;
993 }
994
995 intreg_t sys_unlink(struct proc* p, const char* path)
996 {
997         char* fn = user_strdup_errno(p,path,PGSIZE);
998         if(fn == NULL)
999                 return -1;
1000         int ret = ufe(unlink,PADDR(fn),0,0,0);
1001         user_memdup_free(p,fn);
1002         return ret;
1003 }
1004
1005 intreg_t sys_chdir(struct proc* p, const char* path)
1006 {
1007         char* fn = user_strdup_errno(p,path,PGSIZE);
1008         if(fn == NULL)
1009                 return -1;
1010         int ret = ufe(chdir,PADDR(fn),0,0,0);
1011         user_memdup_free(p,fn);
1012         return ret;
1013 }
1014
1015 intreg_t sys_getcwd(struct proc* p, char* pwd, int size)
1016 {
1017         void* kbuf = kmalloc_errno(size);
1018         if(kbuf == NULL)
1019                 return -1;
1020         int ret = ufe(read,PADDR(kbuf),size,0,0);
1021         if(ret != -1 && memcpy_to_user_errno(p,pwd,kbuf,strnlen(kbuf,size)))
1022                 ret = -1;
1023         user_memdup_free(p,kbuf);
1024         return ret;
1025 }
1026
1027 intreg_t sys_gettimeofday(struct proc* p, int* buf)
1028 {
1029         static spinlock_t gtod_lock = SPINLOCK_INITIALIZER;
1030         static int t0 = 0;
1031
1032         spin_lock(&gtod_lock);
1033         if(t0 == 0)
1034
1035 #if (defined __CONFIG_APPSERVER__)
1036         t0 = ufe(time,0,0,0,0);
1037 #else
1038         // Nanwan's birthday, bitches!!
1039         t0 = 1242129600;
1040 #endif 
1041         spin_unlock(&gtod_lock);
1042
1043         long long dt = read_tsc();
1044         int kbuf[2] = {t0+dt/system_timing.tsc_freq,
1045             (dt%system_timing.tsc_freq)*1000000/system_timing.tsc_freq};
1046
1047         return memcpy_to_user_errno(p,buf,kbuf,sizeof(kbuf));
1048 }
1049
1050 #define SIZEOF_STRUCT_TERMIOS 60
1051 intreg_t sys_tcgetattr(struct proc* p, int fd, void* termios_p)
1052 {
1053         int* kbuf = kmalloc(SIZEOF_STRUCT_TERMIOS,0);
1054         int ret = ufe(tcgetattr,fd,PADDR(kbuf),0,0);
1055         if(ret != -1 && memcpy_to_user_errno(p,termios_p,kbuf,SIZEOF_STRUCT_TERMIOS))
1056                 ret = -1;
1057         kfree(kbuf);
1058         return ret;
1059 }
1060
1061 intreg_t sys_tcsetattr(struct proc* p, int fd, int optional_actions, const void* termios_p)
1062 {
1063         void* kbuf = user_memdup_errno(p,termios_p,SIZEOF_STRUCT_TERMIOS);
1064         if(kbuf == NULL)
1065                 return -1;
1066         int ret = ufe(tcsetattr,fd,optional_actions,PADDR(kbuf),0);
1067         user_memdup_free(p,kbuf);
1068         return ret;
1069 }
1070
1071 /************** Syscall Invokation **************/
1072
1073 /* Executes the given syscall.
1074  *
1075  * Note tf is passed in, which points to the tf of the context on the kernel
1076  * stack.  If any syscall needs to block, it needs to save this info, as well as
1077  * any silly state.
1078  *
1079  * TODO: Build a dispatch table instead of switching on the syscallno
1080  * Dispatches to the correct kernel function, passing the arguments.
1081  */
1082 intreg_t syscall(struct proc *p, uintreg_t syscallno, uintreg_t a1,
1083                  uintreg_t a2, uintreg_t a3, uintreg_t a4, uintreg_t a5)
1084 {
1085         // Initialize the return value and error code returned to 0
1086         proc_set_syscall_retval(current_tf, 0);
1087         set_errno(current_tf,0);
1088
1089         typedef intreg_t (*syscall_t)(struct proc*,uintreg_t,uintreg_t,
1090                                       uintreg_t,uintreg_t,uintreg_t);
1091
1092         const static syscall_t syscall_table[] = {
1093                 [SYS_null] = (syscall_t)sys_null,
1094                 [SYS_cache_buster] = (syscall_t)sys_cache_buster,
1095                 [SYS_cache_invalidate] = (syscall_t)sys_cache_invalidate,
1096                 [SYS_reboot] = (syscall_t)reboot,
1097                 [SYS_cputs] = (syscall_t)sys_cputs,
1098                 [SYS_cgetc] = (syscall_t)sys_cgetc,
1099                 [SYS_getcpuid] = (syscall_t)sys_getcpuid,
1100                 [SYS_getvcoreid] = (syscall_t)sys_getvcoreid,
1101                 [SYS_getpid] = (syscall_t)sys_getpid,
1102                 [SYS_proc_create] = (syscall_t)sys_proc_create,
1103                 [SYS_proc_run] = (syscall_t)sys_proc_run,
1104                 [SYS_proc_destroy] = (syscall_t)sys_proc_destroy,
1105                 [SYS_yield] = (syscall_t)sys_proc_yield,
1106                 [SYS_fork] = (syscall_t)sys_fork,
1107                 [SYS_exec] = (syscall_t)sys_exec,
1108                 [SYS_trywait] = (syscall_t)sys_trywait,
1109                 [SYS_mmap] = (syscall_t)sys_mmap,
1110                 [SYS_munmap] = (syscall_t)sys_munmap,
1111                 [SYS_mprotect] = (syscall_t)sys_mprotect,
1112                 [SYS_brk] = (syscall_t)sys_brk,
1113                 [SYS_shared_page_alloc] = (syscall_t)sys_shared_page_alloc,
1114                 [SYS_shared_page_free] = (syscall_t)sys_shared_page_free,
1115                 [SYS_resource_req] = (syscall_t)resource_req,
1116                 [SYS_notify] = (syscall_t)sys_notify,
1117                 [SYS_self_notify] = (syscall_t)sys_self_notify,
1118                 [SYS_halt_core] = (syscall_t)sys_halt_core,
1119         #ifdef __CONFIG_SERIAL_IO__
1120                 [SYS_serial_read] = (syscall_t)sys_serial_read,
1121                 [SYS_serial_write] = (syscall_t)sys_serial_write,
1122         #endif
1123         #ifdef __CONFIG_NETWORKING__
1124                 [SYS_eth_read] = (syscall_t)sys_eth_read,
1125                 [SYS_eth_write] = (syscall_t)sys_eth_write,
1126                 [SYS_eth_get_mac_addr] = (syscall_t)sys_eth_get_mac_addr,
1127                 [SYS_eth_recv_check] = (syscall_t)sys_eth_recv_check,
1128         #endif
1129                 // Syscalls serviced by the appserver for now.
1130                 [SYS_read] = (syscall_t)sys_read,
1131                 [SYS_write] = (syscall_t)sys_write,
1132                 [SYS_open] = (syscall_t)sys_open,
1133                 [SYS_close] = (syscall_t)sys_close,
1134                 [SYS_fstat] = (syscall_t)sys_fstat,
1135                 [SYS_stat] = (syscall_t)sys_stat,
1136                 [SYS_lstat] = (syscall_t)sys_lstat,
1137                 [SYS_fcntl] = (syscall_t)sys_fcntl,
1138                 [SYS_access] = (syscall_t)sys_access,
1139                 [SYS_umask] = (syscall_t)sys_umask,
1140                 [SYS_chmod] = (syscall_t)sys_chmod,
1141                 [SYS_lseek] = (syscall_t)sys_lseek,
1142                 [SYS_link] = (syscall_t)sys_link,
1143                 [SYS_unlink] = (syscall_t)sys_unlink,
1144                 [SYS_chdir] = (syscall_t)sys_chdir,
1145                 [SYS_getcwd] = (syscall_t)sys_getcwd,
1146                 [SYS_gettimeofday] = (syscall_t)sys_gettimeofday,
1147                 [SYS_tcgetattr] = (syscall_t)sys_tcgetattr,
1148                 [SYS_tcsetattr] = (syscall_t)sys_tcsetattr
1149         };
1150
1151         const int max_syscall = sizeof(syscall_table)/sizeof(syscall_table[0]);
1152
1153         uint32_t coreid, vcoreid;
1154         if (systrace_flags & SYSTRACE_ON) {
1155                 if ((systrace_flags & SYSTRACE_ALLPROC) || (proc_is_traced(p))) {
1156                         coreid = core_id();
1157                         vcoreid = proc_get_vcoreid(p, core_id());
1158                         if (systrace_flags & SYSTRACE_LOUD) {
1159                                 printk("[%16llu] Syscall %d for proc %d on core %d, vcore %d\n",
1160                                        read_tsc(), syscallno, p->pid, coreid, vcoreid);
1161                         } else {
1162                                 struct systrace_record *trace;
1163                                 unsigned int idx, new_idx;
1164                                 do {
1165                                         idx = systrace_bufidx;
1166                                         new_idx = (idx + 1) % systrace_bufsize;
1167                                 } while (!atomic_comp_swap(&systrace_bufidx, idx, new_idx));
1168                                 trace = &systrace_buffer[idx];
1169                                 trace->timestamp = read_tsc();
1170                                 trace->syscallno = syscallno;
1171                                 trace->pid = p->pid;
1172                                 trace->coreid = coreid;
1173                                 trace->vcoreid = vcoreid;
1174                         }
1175                 }
1176         }
1177         //printk("Incoming syscall on core: %d number: %d\n    a1: %x\n   "
1178         //       " a2: %x\n    a3: %x\n    a4: %x\n    a5: %x\n", core_id(),
1179         //       syscallno, a1, a2, a3, a4, a5);
1180
1181         if(syscallno > max_syscall || syscall_table[syscallno] == NULL)
1182                 panic("Invalid syscall number %d for proc %x!", syscallno, *p);
1183
1184         return syscall_table[syscallno](p,a1,a2,a3,a4,a5);
1185 }
1186
1187 intreg_t syscall_async(struct proc *p, syscall_req_t *call)
1188 {
1189         return syscall(p, call->num, call->args[0], call->args[1],
1190                        call->args[2], call->args[3], call->args[4]);
1191 }
1192
1193 /* You should already have a refcnt'd ref to p before calling this */
1194 intreg_t process_generic_syscalls(struct proc *p, size_t max)
1195 {
1196         size_t count = 0;
1197         syscall_back_ring_t* sysbr = &p->syscallbackring;
1198
1199         /* make sure the proc is still alive, and keep it from dying from under us
1200          * incref will return ESUCCESS on success.  This might need some thought
1201          * regarding when the incref should have happened (like by whoever passed us
1202          * the *p). */
1203         // TODO: ought to be unnecessary, if you called this right, kept here for
1204         // now in case anyone actually uses the ARSCs.
1205         kref_get(&p->kref, 1);
1206
1207         // max is the most we'll process.  max = 0 means do as many as possible
1208         while (RING_HAS_UNCONSUMED_REQUESTS(sysbr) && ((!max)||(count < max)) ) {
1209                 if (!count) {
1210                         // ASSUME: one queue per process
1211                         // only switch cr3 for the very first request for this queue
1212                         // need to switch to the right context, so we can handle the user pointer
1213                         // that points to a data payload of the syscall
1214                         lcr3(p->env_cr3);
1215                 }
1216                 count++;
1217                 //printk("DEBUG PRE: sring->req_prod: %d, sring->rsp_prod: %d\n",
1218                 //         sysbr->sring->req_prod, sysbr->sring->rsp_prod);
1219                 // might want to think about 0-ing this out, if we aren't
1220                 // going to explicitly fill in all fields
1221                 syscall_rsp_t rsp;
1222                 // this assumes we get our answer immediately for the syscall.
1223                 syscall_req_t* req = RING_GET_REQUEST(sysbr, ++(sysbr->req_cons));
1224                 rsp.retval = syscall_async(p, req);
1225                 // write response into the slot it came from
1226                 memcpy(req, &rsp, sizeof(syscall_rsp_t));
1227                 // update our counter for what we've produced (assumes we went in order!)
1228                 (sysbr->rsp_prod_pvt)++;
1229                 RING_PUSH_RESPONSES(sysbr);
1230                 //printk("DEBUG POST: sring->req_prod: %d, sring->rsp_prod: %d\n",
1231                 //         sysbr->sring->req_prod, sysbr->sring->rsp_prod);
1232         }
1233         // load sane page tables (and don't rely on decref to do it for you).
1234         lcr3(boot_cr3);
1235         kref_put(&p->kref);
1236         return (intreg_t)count;
1237 }
1238
1239 /* Syscall tracing */
1240 static void __init_systrace(void)
1241 {
1242         systrace_buffer = kmalloc(MAX_SYSTRACES*sizeof(struct systrace_record), 0);
1243         if (!systrace_buffer)
1244                 panic("Unable to alloc a trace buffer\n");
1245         systrace_bufidx = 0;
1246         systrace_bufsize = MAX_SYSTRACES;
1247         /* Note we never free the buffer - it's around forever.  Feel free to change
1248          * this if you want to change the size or something dynamically. */
1249 }
1250
1251 /* If you call this while it is running, it will change the mode */
1252 void systrace_start(bool silent)
1253 {
1254         static bool init = FALSE;
1255         spin_lock_irqsave(&systrace_lock);
1256         if (!init) {
1257                 __init_systrace();
1258                 init = TRUE;
1259         }
1260         systrace_flags = silent ? SYSTRACE_ON : SYSTRACE_ON | SYSTRACE_LOUD; 
1261         spin_unlock_irqsave(&systrace_lock);
1262 }
1263
1264 int systrace_reg(bool all, struct proc *p)
1265 {
1266         int retval = 0;
1267         spin_lock_irqsave(&systrace_lock);
1268         if (all) {
1269                 printk("Tracing syscalls for all processes\n");
1270                 systrace_flags |= SYSTRACE_ALLPROC;
1271                 retval = 0;
1272         } else {
1273                 for (int i = 0; i < MAX_NUM_TRACED; i++) {
1274                         if (!systrace_procs[i]) {
1275                                 printk("Tracing syscalls for process %d\n", p->pid);
1276                                 systrace_procs[i] = p;
1277                                 retval = 0;
1278                                 break;
1279                         }
1280                 }
1281         }
1282         spin_unlock_irqsave(&systrace_lock);
1283         return retval;
1284 }
1285
1286 void systrace_stop(void)
1287 {
1288         spin_lock_irqsave(&systrace_lock);
1289         systrace_flags = 0;
1290         for (int i = 0; i < MAX_NUM_TRACED; i++)
1291                 systrace_procs[i] = 0;
1292         spin_unlock_irqsave(&systrace_lock);
1293 }
1294
1295 /* If you registered a process specifically, then you need to dereg it
1296  * specifically.  Or just fully stop, which will do it for all. */
1297 int systrace_dereg(bool all, struct proc *p)
1298 {
1299         spin_lock_irqsave(&systrace_lock);
1300         if (all) {
1301                 printk("No longer tracing syscalls for all processes.\n");
1302                 systrace_flags &= ~SYSTRACE_ALLPROC;
1303         } else {
1304                 for (int i = 0; i < MAX_NUM_TRACED; i++) {
1305                         if (systrace_procs[i] == p) {
1306                                 systrace_procs[i] = 0;
1307                                 printk("No longer tracing syscalls for process %d\n", p->pid);
1308                         }
1309                 }
1310         }
1311         spin_unlock_irqsave(&systrace_lock);
1312         return 0;
1313 }
1314
1315 /* Regardless of locking, someone could be writing into the buffer */
1316 void systrace_print(bool all, struct proc *p)
1317 {
1318         spin_lock_irqsave(&systrace_lock);
1319         /* if you want to be clever, you could make this start from the earliest
1320          * timestamp and loop around.  Careful of concurrent writes. */
1321         for (int i = 0; i < systrace_bufsize; i++)
1322                 if (systrace_buffer[i].timestamp)
1323                         printk("[%16llu] Syscall %d for proc %d on core %d, vcore %d\n",
1324                                systrace_buffer[i].timestamp,
1325                                systrace_buffer[i].syscallno,
1326                                systrace_buffer[i].pid,
1327                                systrace_buffer[i].coreid,
1328                                systrace_buffer[i].vcoreid);
1329         spin_unlock_irqsave(&systrace_lock);
1330 }
1331
1332 void systrace_clear_buffer(void)
1333 {
1334         spin_lock_irqsave(&systrace_lock);
1335         memset(systrace_buffer, 0, sizeof(struct systrace_record)*MAX_NUM_TRACED);
1336         spin_unlock_irqsave(&systrace_lock);
1337 }