sys_exec() uses the FS, sys_proc_create takes args
[akaros.git] / kern / src / syscall.c
1 /* See COPYRIGHT for copyright information. */
2
3 #ifdef __SHARC__
4 #pragma nosharc
5 #endif
6
7 #include <ros/common.h>
8 #include <ros/notification.h>
9 #include <arch/types.h>
10 #include <arch/arch.h>
11 #include <arch/mmu.h>
12 #include <arch/console.h>
13 #include <ros/timer.h>
14 #include <error.h>
15
16 #include <elf.h>
17 #include <string.h>
18 #include <assert.h>
19 #include <process.h>
20 #include <schedule.h>
21 #include <pmap.h>
22 #include <mm.h>
23 #include <trap.h>
24 #include <syscall.h>
25 #include <kmalloc.h>
26 #include <stdio.h>
27 #include <resource.h>
28 #include <frontend.h>
29 #include <colored_caches.h>
30 #include <arch/bitmask.h>
31 #include <kfs.h> // eventually replace this with vfs.h
32
33
34 #ifdef __CONFIG_NETWORKING__
35 #include <arch/nic_common.h>
36 extern int (*send_frame)(const char *CT(len) data, size_t len);
37 extern unsigned char device_mac[6];
38 #endif
39
40 /* Tracing Globals */
41 int systrace_flags = 0;
42 struct systrace_record *systrace_buffer = 0;
43 unsigned int systrace_bufidx = 0;
44 size_t systrace_bufsize = 0;
45 struct proc *systrace_procs[MAX_NUM_TRACED] = {0};
46 spinlock_t systrace_lock = SPINLOCK_INITIALIZER;
47
48 /* Not enforcing the packing of systrace_procs yet, but don't rely on that */
49 static bool proc_is_traced(struct proc *p)
50 {
51         for (int i = 0; i < MAX_NUM_TRACED; i++)
52                 if (systrace_procs[i] == p)
53                         return true;
54         return false;
55 }
56
57 /************** Utility Syscalls **************/
58
59 static int sys_null(void)
60 {
61         return 0;
62 }
63
64 // Writes 'val' to 'num_writes' entries of the well-known array in the kernel
65 // address space.  It's just #defined to be some random 4MB chunk (which ought
66 // to be boot_alloced or something).  Meant to grab exclusive access to cache
67 // lines, to simulate doing something useful.
68 static int sys_cache_buster(struct proc *p, uint32_t num_writes,
69                              uint32_t num_pages, uint32_t flags)
70 { TRUSTEDBLOCK /* zra: this is not really part of the kernel */
71         #define BUSTER_ADDR             0xd0000000  // around 512 MB deep
72         #define MAX_WRITES              1048576*8
73         #define MAX_PAGES               32
74         #define INSERT_ADDR     (UINFO + 2*PGSIZE) // should be free for these tests
75         uint32_t* buster = (uint32_t*)BUSTER_ADDR;
76         static spinlock_t buster_lock = SPINLOCK_INITIALIZER;
77         uint64_t ticks = -1;
78         page_t* a_page[MAX_PAGES];
79
80         /* Strided Accesses or Not (adjust to step by cachelines) */
81         uint32_t stride = 1;
82         if (flags & BUSTER_STRIDED) {
83                 stride = 16;
84                 num_writes *= 16;
85         }
86
87         /* Shared Accesses or Not (adjust to use per-core regions)
88          * Careful, since this gives 8MB to each core, starting around 512MB.
89          * Also, doesn't separate memory for core 0 if it's an async call.
90          */
91         if (!(flags & BUSTER_SHARED))
92                 buster = (uint32_t*)(BUSTER_ADDR + core_id() * 0x00800000);
93
94         /* Start the timer, if we're asked to print this info*/
95         if (flags & BUSTER_PRINT_TICKS)
96                 ticks = start_timing();
97
98         /* Allocate num_pages (up to MAX_PAGES), to simulate doing some more
99          * realistic work.  Note we don't write to these pages, even if we pick
100          * unshared.  Mostly due to the inconvenience of having to match up the
101          * number of pages with the number of writes.  And it's unnecessary.
102          */
103         if (num_pages) {
104                 spin_lock(&buster_lock);
105                 for (int i = 0; i < MIN(num_pages, MAX_PAGES); i++) {
106                         upage_alloc(p, &a_page[i],1);
107                         page_insert(p->env_pgdir, a_page[i], (void*)INSERT_ADDR + PGSIZE*i,
108                                     PTE_USER_RW);
109                 }
110                 spin_unlock(&buster_lock);
111         }
112
113         if (flags & BUSTER_LOCKED)
114                 spin_lock(&buster_lock);
115         for (int i = 0; i < MIN(num_writes, MAX_WRITES); i=i+stride)
116                 buster[i] = 0xdeadbeef;
117         if (flags & BUSTER_LOCKED)
118                 spin_unlock(&buster_lock);
119
120         if (num_pages) {
121                 spin_lock(&buster_lock);
122                 for (int i = 0; i < MIN(num_pages, MAX_PAGES); i++) {
123                         page_remove(p->env_pgdir, (void*)(INSERT_ADDR + PGSIZE * i));
124                         page_decref(a_page[i]);
125                 }
126                 spin_unlock(&buster_lock);
127         }
128
129         /* Print info */
130         if (flags & BUSTER_PRINT_TICKS) {
131                 ticks = stop_timing(ticks);
132                 printk("%llu,", ticks);
133         }
134         return 0;
135 }
136
137 static int sys_cache_invalidate(void)
138 {
139         #ifdef __i386__
140                 wbinvd();
141         #endif
142         return 0;
143 }
144
145 /* sys_reboot(): called directly from dispatch table. */
146
147 // Print a string to the system console.
148 // The string is exactly 'len' characters long.
149 // Destroys the environment on memory errors.
150 static ssize_t sys_cputs(env_t* e, const char *DANGEROUS s, size_t len)
151 {
152         // Check that the user has permission to read memory [s, s+len).
153         // Destroy the environment if not.
154         char *COUNT(len) _s = user_mem_assert(e, s, len, PTE_USER_RO);
155
156         // Print the string supplied by the user.
157         printk("%.*s", len, _s);
158         return (ssize_t)len;
159 }
160
161 // Read a character from the system console.
162 // Returns the character.
163 static uint16_t sys_cgetc(env_t* e)
164 {
165         uint16_t c;
166
167         // The cons_getc() primitive doesn't wait for a character,
168         // but the sys_cgetc() system call does.
169         while ((c = cons_getc()) == 0)
170                 cpu_relax();
171
172         return c;
173 }
174
175 /* Returns the id of the cpu this syscall is executed on. */
176 static uint32_t sys_getcpuid(void)
177 {
178         return core_id();
179 }
180
181 // TODO: Temporary hack until thread-local storage is implemented on i386 and
182 // this is removed from the user interface
183 static size_t sys_getvcoreid(struct proc *p)
184 {
185         return proc_get_vcoreid(p, core_id());
186 }
187
188 /************** Process management syscalls **************/
189
190 /* Returns the calling process's pid */
191 static pid_t sys_getpid(struct proc *p)
192 {
193         return p->pid;
194 }
195
196 /* Creates a process from the file 'path'.  The process is not runnable by
197  * default, so it needs it's status to be changed so that the next call to
198  * schedule() will try to run it.  TODO: take args/envs from userspace. */
199 static int sys_proc_create(struct proc *p, char *path, size_t path_l,
200                            struct procinfo *pi)
201 {
202         int pid = 0;
203         char *t_path;
204         struct file *program;
205         struct proc *new_p;
206
207         /* Copy in the path.  Consider putting an upper bound. */
208         t_path = kmalloc(path_l, 0);
209         if (!t_path) {
210                 set_errno(current_tf, ENOMEM);
211                 return -1;
212         }
213         if (memcpy_from_user(p, t_path, path, path_l)) {
214                 kfree(t_path);
215                 set_errno(current_tf, EINVAL);
216                 return -1;
217         }
218         program = path_to_file(t_path);
219         kfree(t_path);
220         if (!program)
221                 return -1;                      /* presumably, errno is already set */
222         new_p = proc_create(program, 0, 0);
223         /* Set the argument stuff needed by glibc */
224         if (memcpy_from_user(p, new_p->procinfo->argp, pi->argp, sizeof(pi->argp))){
225                 atomic_dec(&program->f_refcnt); /* TODO: REF */
226                 proc_destroy(new_p);
227                 set_errno(current_tf, EINVAL);
228                 return -1;
229         }
230         if (memcpy_from_user(p, new_p->procinfo->argbuf, pi->argbuf,
231                              sizeof(pi->argbuf))) {
232                 atomic_dec(&program->f_refcnt); /* TODO: REF */
233                 proc_destroy(new_p);
234                 set_errno(current_tf, EINVAL);
235                 return -1;
236         }
237         pid = new_p->pid;
238         proc_decref(new_p, 1);  /* give up the reference created in proc_create() */
239         atomic_dec(&program->f_refcnt);         /* TODO: REF / KREF */
240         return pid;
241 }
242
243 /* Makes process PID runnable.  Consider moving the functionality to process.c */
244 static error_t sys_proc_run(struct proc *p, unsigned pid)
245 {
246         struct proc *target = pid2proc(pid);
247         error_t retval = 0;
248
249         if (!target)
250                 return -EBADPROC;
251         // note we can get interrupted here. it's not bad.
252         spin_lock(&p->proc_lock);
253         // make sure we have access and it's in the right state to be activated
254         if (!proc_controls(p, target)) {
255                 proc_decref(target, 1);
256                 retval = -EPERM;
257         } else if (target->state != PROC_CREATED) {
258                 proc_decref(target, 1);
259                 retval = -EINVAL;
260         } else {
261                 __proc_set_state(target, PROC_RUNNABLE_S);
262                 schedule_proc(target);
263         }
264         spin_unlock(&p->proc_lock);
265         proc_decref(target, 1);
266         return retval;
267 }
268
269 /* Destroy proc pid.  If this is called by the dying process, it will never
270  * return.  o/w it will return 0 on success, or an error.  Errors include:
271  * - EBADPROC: if there is no such process with pid
272  * - EPERM: if caller does not control pid */
273 static error_t sys_proc_destroy(struct proc *p, pid_t pid, int exitcode)
274 {
275         error_t r;
276         struct proc *p_to_die = pid2proc(pid);
277
278         if (!p_to_die) {
279                 set_errno(current_tf, ESRCH);
280                 return -1;
281         }
282         if (!proc_controls(p, p_to_die)) {
283                 proc_decref(p_to_die, 1);
284                 set_errno(current_tf, EPERM);
285                 return -1;
286         }
287         if (p_to_die == p) {
288                 // syscall code and pid2proc both have edible references, only need 1.
289                 p->exitcode = exitcode;
290                 proc_decref(p, 1);
291                 printd("[PID %d] proc exiting gracefully (code %d)\n", p->pid,exitcode);
292         } else {
293                 printd("[%d] destroying proc %d\n", p->pid, p_to_die->pid);
294         }
295         proc_destroy(p_to_die);
296         proc_decref(p_to_die, 1);
297         return ESUCCESS;
298 }
299
300 static int sys_proc_yield(struct proc *p, bool being_nice)
301 {
302         proc_yield(p, being_nice);
303         return 0;
304 }
305
306 static ssize_t sys_fork(env_t* e)
307 {
308         // TODO: right now we only support fork for single-core processes
309         if(e->state != PROC_RUNNING_S)
310         {
311                 set_errno(current_tf,EINVAL);
312                 return -1;
313         }
314
315         env_t* env;
316         assert(!proc_alloc(&env, current));
317         assert(env != NULL);
318
319         env->heap_top = e->heap_top;
320         env->ppid = e->pid;
321         env->env_tf = *current_tf;
322
323         env->cache_colors_map = cache_colors_map_alloc();
324         for(int i=0; i < llc_cache->num_colors; i++)
325                 if(GET_BITMASK_BIT(e->cache_colors_map,i))
326                         cache_color_alloc(llc_cache, env->cache_colors_map);
327
328         duplicate_vmrs(e, env);
329
330         int copy_page(env_t* e, pte_t* pte, void* va, void* arg)
331         {
332                 env_t* env = (env_t*)arg;
333
334                 if(PAGE_PRESENT(*pte))
335                 {
336                         page_t* pp;
337                         if(upage_alloc(env,&pp,0))
338                                 return -1;
339                         if(page_insert(env->env_pgdir,pp,va,*pte & PTE_PERM))
340                         {
341                                 page_decref(pp);
342                                 return -1;
343                         }
344
345                         pagecopy(page2kva(pp),ppn2kva(PTE2PPN(*pte)));
346                 } else {
347                         assert(PAGE_PAGED_OUT(*pte));
348                         /* TODO: (SWAP) will need to either make a copy or CoW/refcnt the
349                          * backend store.  For now, this PTE will be the same as the
350                          * original PTE */
351                         panic("Swapping not supported!");
352                         pte_t* newpte = pgdir_walk(env->env_pgdir,va,1);
353                         if(!newpte)
354                                 return -1;
355                         *newpte = *pte;
356                 }
357                 return 0;
358         }
359
360         // TODO: (PC) this won't work.  Needs revisiting.
361         // copy procdata and procinfo
362         memcpy(env->procdata,e->procdata,sizeof(struct procdata));
363         memcpy(env->procinfo,e->procinfo,sizeof(struct procinfo));
364         env->procinfo->pid = env->pid;
365         env->procinfo->ppid = env->ppid;
366
367         /* for now, just copy the contents of every present page in the entire
368          * address space. */
369         if (env_user_mem_walk(e, 0, UMAPTOP, &copy_page, env)) {
370                 proc_decref(env,2);
371                 set_errno(current_tf,ENOMEM);
372                 return -1;
373         }
374
375         __proc_set_state(env, PROC_RUNNABLE_S);
376         schedule_proc(env);
377
378         // don't decref the new process.
379         // that will happen when the parent waits for it.
380         // TODO: if the parent doesn't wait, we need to change the child's parent
381         // when the parent dies, or at least decref it
382
383         printd("[PID %d] fork PID %d\n",e->pid,env->pid);
384
385         return env->pid;
386 }
387
388 /* Load the binary "path" into the current process, and start executing it.
389  * argv and envp are magically bundled in procinfo for now.  Keep in sync with
390  * glibc's sysdeps/ros/execve.c */
391 static int sys_exec(struct proc *p, char *path, size_t path_l,
392                     struct procinfo *pi)
393 {
394         int ret = -1;
395         char *t_path;
396         struct file *program;
397
398         /* We probably want it to never be allowed to exec if it ever was _M */
399         if(p->state != PROC_RUNNING_S)
400                 return -1;
401         /* Copy in the path.  Consider putting an upper bound. */
402         t_path = kmalloc(path_l, 0);
403         if (!t_path) {
404                 set_errno(current_tf, ENOMEM);
405                 return -1;
406         }
407         if (memcpy_from_user(p, t_path, path, path_l)) {
408                 kfree(t_path);
409                 set_errno(current_tf, EINVAL);
410                 return -1;
411         }
412         program = path_to_file(t_path);
413         kfree(t_path);
414         if (!program)
415                 return -1;                      /* presumably, errno is already set */
416         /* Set the argument stuff needed by glibc */
417         if (memcpy_from_user(p, p->procinfo->argp, pi->argp, sizeof(pi->argp))) {
418                 atomic_dec(&program->f_refcnt); /* TODO: REF */
419                 set_errno(current_tf, EINVAL);
420                 return -1;
421         }
422         if (memcpy_from_user(p, p->procinfo->argbuf, pi->argbuf,
423                              sizeof(pi->argbuf))) {
424                 atomic_dec(&program->f_refcnt); /* TODO: REF */
425                 set_errno(current_tf, EINVAL);
426                 return -1;
427         }
428         /* This is the point of no return for the process. */
429         /* TODO: issues with this: Need to also assert there are no outstanding
430          * users of the sysrings.  the ldt page will get freed shortly, so that's
431          * okay.  Potentially issues with the nm and vcpd if we were in _M before
432          * and someone is trying to notify. */
433         memset(p->procdata, 0, sizeof(procdata_t));
434         env_user_mem_free(p, 0, UMAPTOP);
435         if (load_elf(p, program)) {
436                 proc_destroy(p);
437                 smp_idle();             /* syscall can't return on failure now */
438         }
439         printk("[PID %d] exec %s\n", p->pid, file_name(program));
440         atomic_dec(&program->f_refcnt);         /* TODO: (REF) / KREF */
441         *current_tf = p->env_tf;
442         return 0;
443 }
444
445 static ssize_t sys_trywait(env_t* e, pid_t pid, int* status)
446 {
447         struct proc* p = pid2proc(pid);
448
449         // TODO: this syscall is racy, so we only support for single-core procs
450         if(e->state != PROC_RUNNING_S)
451                 return -1;
452
453         // TODO: need to use errno properly.  sadly, ROS error codes conflict..
454
455         if(p)
456         {
457                 ssize_t ret;
458
459                 if(current->pid == p->ppid)
460                 {
461                         if(p->state == PROC_DYING)
462                         {
463                                 memcpy_to_user(e,status,&p->exitcode,sizeof(int));
464                                 printd("[PID %d] waited for PID %d (code %d)\n",
465                                        e->pid,p->pid,p->exitcode);
466                                 ret = 0;
467                         }
468                         else // not dead yet
469                         {
470                                 set_errno(current_tf,0);
471                                 ret = -1;
472                         }
473                 }
474                 else // not a child of the calling process
475                 {
476                         set_errno(current_tf,1);
477                         ret = -1;
478                 }
479
480                 // if the wait succeeded, decref twice
481                 proc_decref(p,1 + (ret == 0));
482                 return ret;
483         }
484
485         set_errno(current_tf,1);
486         return -1;
487 }
488
489 /************** Memory Management Syscalls **************/
490
491 static void *sys_mmap(struct proc* p, uintreg_t a1, uintreg_t a2, uintreg_t a3,
492                       uintreg_t* a456)
493 {
494         uintreg_t _a456[3];
495         if(memcpy_from_user(p,_a456,a456,3*sizeof(uintreg_t)))
496                 sys_proc_destroy(p,p->pid,-1);
497         return mmap(p,a1,a2,a3,_a456[0],_a456[1],_a456[2]);
498 }
499
500 static intreg_t sys_mprotect(struct proc* p, void* addr, size_t len, int prot)
501 {
502         return mprotect(p, (uintptr_t)addr, len, prot);
503 }
504
505 static intreg_t sys_munmap(struct proc* p, void* addr, size_t len)
506 {
507         return munmap(p, (uintptr_t)addr, len);
508 }
509
510 static void* sys_brk(struct proc *p, void* addr) {
511         ssize_t range;
512
513         // TODO: remove sys_brk
514         printk("[kernel] don't use brk, unsupported and will be removed soon.\n");
515
516         spin_lock(&p->proc_lock);
517
518         if((addr < p->procinfo->heap_bottom) || (addr >= (void*)BRK_END))
519                 goto out;
520
521         uintptr_t real_heap_top = ROUNDUP((uintptr_t)p->heap_top,PGSIZE);
522         uintptr_t real_new_heap_top = ROUNDUP((uintptr_t)addr,PGSIZE);
523         range = real_new_heap_top - real_heap_top;
524
525         if (range > 0) {
526                 if(__do_mmap(p, real_heap_top, range, PROT_READ | PROT_WRITE,
527                              MAP_FIXED | MAP_ANONYMOUS, NULL, 0) == MAP_FAILED)
528                         goto out;
529         }
530         else if (range < 0) {
531                 if(__do_munmap(p, real_new_heap_top, -range))
532                         goto out;
533         }
534         p->heap_top = addr;
535
536 out:
537         spin_unlock(&p->proc_lock);
538         return p->heap_top;
539 }
540
541 static ssize_t sys_shared_page_alloc(env_t* p1,
542                                      void**DANGEROUS _addr, pid_t p2_id,
543                                      int p1_flags, int p2_flags
544                                     )
545 {
546         /* When we remove/change this, also get rid of page_insert_in_range() */
547         printk("[kernel] the current shared page alloc is deprecated.\n");
548         //if (!VALID_USER_PERMS(p1_flags)) return -EPERM;
549         //if (!VALID_USER_PERMS(p2_flags)) return -EPERM;
550
551         void * COUNT(1) * COUNT(1) addr = user_mem_assert(p1, _addr, sizeof(void *),
552                                                       PTE_USER_RW);
553         struct proc *p2 = pid2proc(p2_id);
554         if (!p2)
555                 return -EBADPROC;
556
557         page_t* page;
558         error_t e = upage_alloc(p1, &page,1);
559         if (e < 0) {
560                 proc_decref(p2, 1);
561                 return e;
562         }
563
564         void* p2_addr = page_insert_in_range(p2->env_pgdir, page,
565                         (void*SNT)UTEXT, (void*SNT)UTOP, p2_flags);
566         if (p2_addr == NULL) {
567                 page_free(page);
568                 proc_decref(p2, 1);
569                 return -EFAIL;
570         }
571
572         void* p1_addr = page_insert_in_range(p1->env_pgdir, page,
573                         (void*SNT)UTEXT, (void*SNT)UTOP, p1_flags);
574         if(p1_addr == NULL) {
575                 page_remove(p2->env_pgdir, p2_addr);
576                 page_free(page);
577                 proc_decref(p2, 1);
578                 return -EFAIL;
579         }
580         *addr = p1_addr;
581         proc_decref(p2, 1);
582         return ESUCCESS;
583 }
584
585 static int sys_shared_page_free(env_t* p1, void*DANGEROUS addr, pid_t p2)
586 {
587         return -1;
588 }
589
590
591 /* sys_resource_req(): called directly from dispatch table. */
592
593 /* Will notify the target on the given vcore, if the caller controls the target.
594  * Will honor the target's wanted/vcoreid.  u_ne can be NULL. */
595 static int sys_notify(struct proc *p, int target_pid, unsigned int notif,
596                       struct notif_event *u_ne)
597 {
598         struct notif_event local_ne;
599         struct proc *target = pid2proc(target_pid);
600
601         if (!target) {
602                 set_errno(current_tf, EBADPROC);
603                 return -1;
604         }
605         if (!proc_controls(p, target)) {
606                 proc_decref(target, 1);
607                 set_errno(current_tf, EPERM);
608                 return -1;
609         }
610         /* if the user provided a notif_event, copy it in and use that */
611         if (u_ne) {
612                 if (memcpy_from_user(p, &local_ne, u_ne, sizeof(struct notif_event))) {
613                         proc_decref(target, 1);
614                         set_errno(current_tf, EINVAL);
615                         return -1;
616                 }
617                 proc_notify(target, local_ne.ne_type, &local_ne);
618         } else {
619                 proc_notify(target, notif, 0);
620         }
621         proc_decref(target, 1);
622         return 0;
623 }
624
625 /* Will notify the calling process on the given vcore, independently of WANTED
626  * or advertised vcoreid.  If you change the parameters, change pop_ros_tf() */
627 static int sys_self_notify(struct proc *p, uint32_t vcoreid, unsigned int notif,
628                            struct notif_event *u_ne)
629 {
630         struct notif_event local_ne;
631
632         printd("[kernel] received self notify for vcoreid %d, notif %d, ne %08p\n",
633                vcoreid, notif, u_ne);
634         /* if the user provided a notif_event, copy it in and use that */
635         if (u_ne) {
636                 if (memcpy_from_user(p, &local_ne, u_ne, sizeof(struct notif_event))) {
637                         set_errno(current_tf, EINVAL);
638                         return -1;
639                 }
640                 do_notify(p, vcoreid, local_ne.ne_type, &local_ne);
641         } else {
642                 do_notify(p, vcoreid, notif, 0);
643         }
644         return 0;
645 }
646
647 /* This will set a local timer for usec, then shut down the core */
648 static int sys_halt_core(struct proc *p, unsigned int usec)
649 {
650         /* TODO: ought to check and see if a timer was already active, etc, esp so
651          * userspace can't turn off timers.  also note we will also call whatever
652          * timer_interrupt() will do, though all we care about is just
653          * self_ipi/interrupting. */
654         set_core_timer(usec);
655         cpu_halt();
656
657         return 0;
658 }
659
660 /************** Platform Specific Syscalls **************/
661
662 //Read a buffer over the serial port
663 static ssize_t sys_serial_read(env_t* e, char *DANGEROUS _buf, size_t len)
664 {
665         if (len == 0)
666                 return 0;
667
668         #ifdef __CONFIG_SERIAL_IO__
669             char *COUNT(len) buf = user_mem_assert(e, _buf, len, PTE_USER_RO);
670                 size_t bytes_read = 0;
671                 int c;
672                 while((c = serial_read_byte()) != -1) {
673                         buf[bytes_read++] = (uint8_t)c;
674                         if(bytes_read == len) break;
675                 }
676                 return (ssize_t)bytes_read;
677         #else
678                 return -EINVAL;
679         #endif
680 }
681
682 //Write a buffer over the serial port
683 static ssize_t sys_serial_write(env_t* e, const char *DANGEROUS buf, size_t len)
684 {
685         if (len == 0)
686                 return 0;
687         #ifdef __CONFIG_SERIAL_IO__
688                 char *COUNT(len) _buf = user_mem_assert(e, buf, len, PTE_USER_RO);
689                 for(int i =0; i<len; i++)
690                         serial_send_byte(buf[i]);
691                 return (ssize_t)len;
692         #else
693                 return -EINVAL;
694         #endif
695 }
696
697 #ifdef __CONFIG_NETWORKING__
698 // This is not a syscall we want. Its hacky. Here just for syscall stuff until get a stack.
699 static ssize_t sys_eth_read(env_t* e, char *DANGEROUS buf)
700 {
701         if (eth_up) {
702
703                 uint32_t len;
704                 char *ptr;
705
706                 spin_lock(&packet_buffers_lock);
707
708                 if (num_packet_buffers == 0) {
709                         spin_unlock(&packet_buffers_lock);
710                         return 0;
711                 }
712
713                 ptr = packet_buffers[packet_buffers_head];
714                 len = packet_buffers_sizes[packet_buffers_head];
715
716                 num_packet_buffers--;
717                 packet_buffers_head = (packet_buffers_head + 1) % MAX_PACKET_BUFFERS;
718
719                 spin_unlock(&packet_buffers_lock);
720
721                 char* _buf = user_mem_assert(e, buf, len, PTE_U);
722
723                 memcpy(_buf, ptr, len);
724
725                 kfree(ptr);
726
727                 return len;
728         }
729         else
730                 return -EINVAL;
731 }
732
733 // This is not a syscall we want. Its hacky. Here just for syscall stuff until get a stack.
734 static ssize_t sys_eth_write(env_t* e, const char *DANGEROUS buf, size_t len)
735 {
736         if (eth_up) {
737
738                 if (len == 0)
739                         return 0;
740
741                 // HACK TO BYPASS HACK
742                 int just_sent = send_frame(buf, len);
743
744                 if (just_sent < 0) {
745                         printk("Packet send fail\n");
746                         return 0;
747                 }
748
749                 return just_sent;
750
751                 // END OF RECURSIVE HACK
752 /*
753                 char *COUNT(len) _buf = user_mem_assert(e, buf, len, PTE_U);
754                 int total_sent = 0;
755                 int just_sent = 0;
756                 int cur_packet_len = 0;
757                 while (total_sent != len) {
758                         cur_packet_len = ((len - total_sent) > MTU) ? MTU : (len - total_sent);
759                         char dest_mac[6] = APPSERVER_MAC_ADDRESS;
760                         char* wrap_buffer = eth_wrap(_buf + total_sent, cur_packet_len, device_mac, dest_mac, APPSERVER_PORT);
761                         just_sent = send_frame(wrap_buffer, cur_packet_len + sizeof(struct ETH_Header));
762
763                         if (just_sent < 0)
764                                 return 0; // This should be an error code of its own
765
766                         if (wrap_buffer)
767                                 kfree(wrap_buffer);
768
769                         total_sent += cur_packet_len;
770                 }
771
772                 return (ssize_t)len;
773 */
774         }
775         else
776                 return -EINVAL;
777 }
778
779 static ssize_t sys_eth_get_mac_addr(env_t* e, char *DANGEROUS buf) 
780 {
781         if (eth_up) {
782                 for (int i = 0; i < 6; i++)
783                         buf[i] = device_mac[i];
784                 return 0;
785         }
786         else
787                 return -EINVAL;
788 }
789
790 static int sys_eth_recv_check(env_t* e) 
791 {
792         if (num_packet_buffers != 0) 
793                 return 1;
794         else
795                 return 0;
796 }
797
798 #endif // Network
799
800 // Syscalls below here are serviced by the appserver for now.
801 #define ufe(which,a0,a1,a2,a3) \
802         frontend_syscall_errno(p,APPSERVER_SYSCALL_##which,\
803                            (int)(a0),(int)(a1),(int)(a2),(int)(a3))
804
805 intreg_t sys_write(struct proc* p, int fd, const void* buf, int len)
806 {
807         int ret = 0;
808         void* kbuf = user_memdup_errno(p,buf,len);
809         if(kbuf == NULL)
810                 return -1;
811 #ifndef __CONFIG_APPSERVER__
812         /* Catch a common usage of stderr */
813         if (fd == 2) {
814                 ((char*)kbuf)[len-1] = 0;
815                 printk("[stderr]: %s\n", kbuf);
816                 ret = len;
817         } else { // but warn/panic otherwise in ufe()
818                 ret = ufe(write, fd, PADDR(kbuf), len, 0);
819         }
820 #else
821         ret = ufe(write, fd, PADDR(kbuf), len, 0);
822 #endif
823         user_memdup_free(p,kbuf);
824         return ret;
825 }
826
827 intreg_t sys_read(struct proc* p, int fd, void* buf, int len)
828 {
829         void* kbuf = kmalloc_errno(len);
830         if(kbuf == NULL)
831                 return -1;
832         int ret = ufe(read,fd,PADDR(kbuf),len,0);
833         if(ret != -1 && memcpy_to_user_errno(p,buf,kbuf,len))
834                 ret = -1;
835         user_memdup_free(p,kbuf);
836         return ret;
837 }
838
839 intreg_t sys_pwrite(struct proc* p, int fd, const void* buf, int len, int offset)
840 {
841         void* kbuf = user_memdup_errno(p,buf,len);
842         if(kbuf == NULL)
843                 return -1;
844         int ret = ufe(pwrite,fd,PADDR(kbuf),len,offset);
845         user_memdup_free(p,kbuf);
846         return ret;
847 }
848
849 intreg_t sys_pread(struct proc* p, int fd, void* buf, int len, int offset)
850 {
851         void* kbuf = kmalloc_errno(len);
852         if(kbuf == NULL)
853                 return -1;
854         int ret = ufe(pread,fd,PADDR(kbuf),len,offset);
855         if(ret != -1 && memcpy_to_user_errno(p,buf,kbuf,len))
856                 ret = -1;
857         user_memdup_free(p,kbuf);
858         return ret;
859 }
860
861 intreg_t sys_open(struct proc* p, const char* path, int oflag, int mode)
862 {
863         printd("File Open, p: %p, path: %s, oflag: %d, mode: 0x%x\n", p, path, oflag, mode);
864         char* fn = user_strdup_errno(p,path,PGSIZE);
865         if(fn == NULL) {
866                 printd("File Open, user_strdup_errno failed\n");
867                 return -1;
868         }
869         printd("File Open, About to open\n");
870         int ret = ufe(open,PADDR(fn),oflag,mode,0);
871         printd("File Open, res=%d\n", ret);
872         user_memdup_free(p,fn);
873         return ret;
874 }
875 intreg_t sys_close(struct proc* p, int fd)
876 {
877         return ufe(close,fd,0,0,0);
878 }
879
880 #define NEWLIB_STAT_SIZE 64
881 intreg_t sys_fstat(struct proc* p, int fd, void* buf)
882 {
883         int *kbuf = kmalloc(NEWLIB_STAT_SIZE, 0);
884         int ret = ufe(fstat,fd,PADDR(kbuf),0,0);
885         if(ret != -1 && memcpy_to_user_errno(p,buf,kbuf,NEWLIB_STAT_SIZE))
886                 ret = -1;
887         kfree(kbuf);
888         return ret;
889 }
890
891 intreg_t sys_stat(struct proc* p, const char* path, void* buf)
892 {
893         char* fn = user_strdup_errno(p,path,PGSIZE);
894         if(fn == NULL)
895                 return -1;
896
897         int *kbuf = kmalloc(NEWLIB_STAT_SIZE, 0);
898         int ret = ufe(stat,PADDR(fn),PADDR(kbuf),0,0);
899         if(ret != -1 && memcpy_to_user_errno(p,buf,kbuf,NEWLIB_STAT_SIZE))
900                 ret = -1;
901
902         user_memdup_free(p,fn);
903         kfree(kbuf);
904         return ret;
905 }
906
907 intreg_t sys_lstat(struct proc* p, const char* path, void* buf)
908 {
909         char* fn = user_strdup_errno(p,path,PGSIZE);
910         if(fn == NULL)
911                 return -1;
912
913         int *kbuf = kmalloc(NEWLIB_STAT_SIZE, 0);
914         int ret = ufe(lstat,PADDR(fn),PADDR(kbuf),0,0);
915         if(ret != -1 && memcpy_to_user_errno(p,buf,kbuf,NEWLIB_STAT_SIZE))
916                 ret = -1;
917
918         user_memdup_free(p,fn);
919         kfree(kbuf);
920         return ret;
921 }
922
923 intreg_t sys_fcntl(struct proc* p, int fd, int cmd, int arg)
924 {
925         return ufe(fcntl,fd,cmd,arg,0);
926 }
927
928 intreg_t sys_access(struct proc* p, const char* path, int type)
929 {
930         char* fn = user_strdup_errno(p,path,PGSIZE);
931         if(fn == NULL)
932                 return -1;
933         int ret = ufe(access,PADDR(fn),type,0,0);
934         user_memdup_free(p,fn);
935         return ret;
936 }
937
938 intreg_t sys_umask(struct proc* p, int mask)
939 {
940         return ufe(umask,mask,0,0,0);
941 }
942
943 intreg_t sys_chmod(struct proc* p, const char* path, int mode)
944 {
945         char* fn = user_strdup_errno(p,path,PGSIZE);
946         if(fn == NULL)
947                 return -1;
948         int ret = ufe(chmod,PADDR(fn),mode,0,0);
949         user_memdup_free(p,fn);
950         return ret;
951 }
952
953 intreg_t sys_lseek(struct proc* p, int fd, int offset, int whence)
954 {
955         return ufe(lseek,fd,offset,whence,0);
956 }
957
958 intreg_t sys_link(struct proc* p, const char* _old, const char* _new)
959 {
960         char* oldpath = user_strdup_errno(p,_old,PGSIZE);
961         if(oldpath == NULL)
962                 return -1;
963
964         char* newpath = user_strdup_errno(p,_new,PGSIZE);
965         if(newpath == NULL)
966         {
967                 user_memdup_free(p,oldpath);
968                 return -1;
969         }
970
971         int ret = ufe(link,PADDR(oldpath),PADDR(newpath),0,0);
972         user_memdup_free(p,oldpath);
973         user_memdup_free(p,newpath);
974         return ret;
975 }
976
977 intreg_t sys_unlink(struct proc* p, const char* path)
978 {
979         char* fn = user_strdup_errno(p,path,PGSIZE);
980         if(fn == NULL)
981                 return -1;
982         int ret = ufe(unlink,PADDR(fn),0,0,0);
983         user_memdup_free(p,fn);
984         return ret;
985 }
986
987 intreg_t sys_chdir(struct proc* p, const char* path)
988 {
989         char* fn = user_strdup_errno(p,path,PGSIZE);
990         if(fn == NULL)
991                 return -1;
992         int ret = ufe(chdir,PADDR(fn),0,0,0);
993         user_memdup_free(p,fn);
994         return ret;
995 }
996
997 intreg_t sys_getcwd(struct proc* p, char* pwd, int size)
998 {
999         void* kbuf = kmalloc_errno(size);
1000         if(kbuf == NULL)
1001                 return -1;
1002         int ret = ufe(read,PADDR(kbuf),size,0,0);
1003         if(ret != -1 && memcpy_to_user_errno(p,pwd,kbuf,strnlen(kbuf,size)))
1004                 ret = -1;
1005         user_memdup_free(p,kbuf);
1006         return ret;
1007 }
1008
1009 intreg_t sys_gettimeofday(struct proc* p, int* buf)
1010 {
1011         static spinlock_t gtod_lock = SPINLOCK_INITIALIZER;
1012         static int t0 = 0;
1013
1014         spin_lock(&gtod_lock);
1015         if(t0 == 0)
1016
1017 #if (defined __CONFIG_APPSERVER__)
1018         t0 = ufe(time,0,0,0,0);
1019 #else
1020         // Nanwan's birthday, bitches!!
1021         t0 = 1242129600;
1022 #endif 
1023         spin_unlock(&gtod_lock);
1024
1025         long long dt = read_tsc();
1026         int kbuf[2] = {t0+dt/system_timing.tsc_freq,
1027             (dt%system_timing.tsc_freq)*1000000/system_timing.tsc_freq};
1028
1029         return memcpy_to_user_errno(p,buf,kbuf,sizeof(kbuf));
1030 }
1031
1032 #define SIZEOF_STRUCT_TERMIOS 60
1033 intreg_t sys_tcgetattr(struct proc* p, int fd, void* termios_p)
1034 {
1035         int* kbuf = kmalloc(SIZEOF_STRUCT_TERMIOS,0);
1036         int ret = ufe(tcgetattr,fd,PADDR(kbuf),0,0);
1037         if(ret != -1 && memcpy_to_user_errno(p,termios_p,kbuf,SIZEOF_STRUCT_TERMIOS))
1038                 ret = -1;
1039         kfree(kbuf);
1040         return ret;
1041 }
1042
1043 intreg_t sys_tcsetattr(struct proc* p, int fd, int optional_actions, const void* termios_p)
1044 {
1045         void* kbuf = user_memdup_errno(p,termios_p,SIZEOF_STRUCT_TERMIOS);
1046         if(kbuf == NULL)
1047                 return -1;
1048         int ret = ufe(tcsetattr,fd,optional_actions,PADDR(kbuf),0);
1049         user_memdup_free(p,kbuf);
1050         return ret;
1051 }
1052
1053 /************** Syscall Invokation **************/
1054
1055 /* Executes the given syscall.
1056  *
1057  * Note tf is passed in, which points to the tf of the context on the kernel
1058  * stack.  If any syscall needs to block, it needs to save this info, as well as
1059  * any silly state.
1060  *
1061  * TODO: Build a dispatch table instead of switching on the syscallno
1062  * Dispatches to the correct kernel function, passing the arguments.
1063  */
1064 intreg_t syscall(struct proc *p, uintreg_t syscallno, uintreg_t a1,
1065                  uintreg_t a2, uintreg_t a3, uintreg_t a4, uintreg_t a5)
1066 {
1067         // Initialize the return value and error code returned to 0
1068         proc_set_syscall_retval(current_tf, 0);
1069         set_errno(current_tf,0);
1070
1071         typedef intreg_t (*syscall_t)(struct proc*,uintreg_t,uintreg_t,
1072                                       uintreg_t,uintreg_t,uintreg_t);
1073
1074         const static syscall_t syscall_table[] = {
1075                 [SYS_null] = (syscall_t)sys_null,
1076                 [SYS_cache_buster] = (syscall_t)sys_cache_buster,
1077                 [SYS_cache_invalidate] = (syscall_t)sys_cache_invalidate,
1078                 [SYS_reboot] = (syscall_t)reboot,
1079                 [SYS_cputs] = (syscall_t)sys_cputs,
1080                 [SYS_cgetc] = (syscall_t)sys_cgetc,
1081                 [SYS_getcpuid] = (syscall_t)sys_getcpuid,
1082                 [SYS_getvcoreid] = (syscall_t)sys_getvcoreid,
1083                 [SYS_getpid] = (syscall_t)sys_getpid,
1084                 [SYS_proc_create] = (syscall_t)sys_proc_create,
1085                 [SYS_proc_run] = (syscall_t)sys_proc_run,
1086                 [SYS_proc_destroy] = (syscall_t)sys_proc_destroy,
1087                 [SYS_yield] = (syscall_t)sys_proc_yield,
1088                 [SYS_fork] = (syscall_t)sys_fork,
1089                 [SYS_exec] = (syscall_t)sys_exec,
1090                 [SYS_trywait] = (syscall_t)sys_trywait,
1091                 [SYS_mmap] = (syscall_t)sys_mmap,
1092                 [SYS_munmap] = (syscall_t)sys_munmap,
1093                 [SYS_mprotect] = (syscall_t)sys_mprotect,
1094                 [SYS_brk] = (syscall_t)sys_brk,
1095                 [SYS_shared_page_alloc] = (syscall_t)sys_shared_page_alloc,
1096                 [SYS_shared_page_free] = (syscall_t)sys_shared_page_free,
1097                 [SYS_resource_req] = (syscall_t)resource_req,
1098                 [SYS_notify] = (syscall_t)sys_notify,
1099                 [SYS_self_notify] = (syscall_t)sys_self_notify,
1100                 [SYS_halt_core] = (syscall_t)sys_halt_core,
1101         #ifdef __CONFIG_SERIAL_IO__
1102                 [SYS_serial_read] = (syscall_t)sys_serial_read,
1103                 [SYS_serial_write] = (syscall_t)sys_serial_write,
1104         #endif
1105         #ifdef __CONFIG_NETWORKING__
1106                 [SYS_eth_read] = (syscall_t)sys_eth_read,
1107                 [SYS_eth_write] = (syscall_t)sys_eth_write,
1108                 [SYS_eth_get_mac_addr] = (syscall_t)sys_eth_get_mac_addr,
1109                 [SYS_eth_recv_check] = (syscall_t)sys_eth_recv_check,
1110         #endif
1111                 // Syscalls serviced by the appserver for now.
1112                 [SYS_read] = (syscall_t)sys_read,
1113                 [SYS_write] = (syscall_t)sys_write,
1114                 [SYS_open] = (syscall_t)sys_open,
1115                 [SYS_close] = (syscall_t)sys_close,
1116                 [SYS_fstat] = (syscall_t)sys_fstat,
1117                 [SYS_stat] = (syscall_t)sys_stat,
1118                 [SYS_lstat] = (syscall_t)sys_lstat,
1119                 [SYS_fcntl] = (syscall_t)sys_fcntl,
1120                 [SYS_access] = (syscall_t)sys_access,
1121                 [SYS_umask] = (syscall_t)sys_umask,
1122                 [SYS_chmod] = (syscall_t)sys_chmod,
1123                 [SYS_lseek] = (syscall_t)sys_lseek,
1124                 [SYS_link] = (syscall_t)sys_link,
1125                 [SYS_unlink] = (syscall_t)sys_unlink,
1126                 [SYS_chdir] = (syscall_t)sys_chdir,
1127                 [SYS_getcwd] = (syscall_t)sys_getcwd,
1128                 [SYS_gettimeofday] = (syscall_t)sys_gettimeofday,
1129                 [SYS_tcgetattr] = (syscall_t)sys_tcgetattr,
1130                 [SYS_tcsetattr] = (syscall_t)sys_tcsetattr
1131         };
1132
1133         const int max_syscall = sizeof(syscall_table)/sizeof(syscall_table[0]);
1134
1135         uint32_t coreid, vcoreid;
1136         if (systrace_flags & SYSTRACE_ON) {
1137                 if ((systrace_flags & SYSTRACE_ALLPROC) || (proc_is_traced(p))) {
1138                         coreid = core_id();
1139                         vcoreid = proc_get_vcoreid(p, core_id());
1140                         if (systrace_flags & SYSTRACE_LOUD) {
1141                                 printk("[%16llu] Syscall %d for proc %d on core %d, vcore %d\n",
1142                                        read_tsc(), syscallno, p->pid, coreid, vcoreid);
1143                         } else {
1144                                 struct systrace_record *trace;
1145                                 unsigned int idx, new_idx;
1146                                 do {
1147                                         idx = systrace_bufidx;
1148                                         new_idx = (idx + 1) % systrace_bufsize;
1149                                 } while (!atomic_comp_swap(&systrace_bufidx, idx, new_idx));
1150                                 trace = &systrace_buffer[idx];
1151                                 trace->timestamp = read_tsc();
1152                                 trace->syscallno = syscallno;
1153                                 trace->pid = p->pid;
1154                                 trace->coreid = coreid;
1155                                 trace->vcoreid = vcoreid;
1156                         }
1157                 }
1158         }
1159         //printk("Incoming syscall on core: %d number: %d\n    a1: %x\n   "
1160         //       " a2: %x\n    a3: %x\n    a4: %x\n    a5: %x\n", core_id(),
1161         //       syscallno, a1, a2, a3, a4, a5);
1162
1163         if(syscallno > max_syscall || syscall_table[syscallno] == NULL)
1164                 panic("Invalid syscall number %d for proc %x!", syscallno, *p);
1165
1166         return syscall_table[syscallno](p,a1,a2,a3,a4,a5);
1167 }
1168
1169 intreg_t syscall_async(struct proc *p, syscall_req_t *call)
1170 {
1171         return syscall(p, call->num, call->args[0], call->args[1],
1172                        call->args[2], call->args[3], call->args[4]);
1173 }
1174
1175 /* You should already have a refcnt'd ref to p before calling this */
1176 intreg_t process_generic_syscalls(struct proc *p, size_t max)
1177 {
1178         size_t count = 0;
1179         syscall_back_ring_t* sysbr = &p->syscallbackring;
1180
1181         /* make sure the proc is still alive, and keep it from dying from under us
1182          * incref will return ESUCCESS on success.  This might need some thought
1183          * regarding when the incref should have happened (like by whoever passed us
1184          * the *p). */
1185         // TODO: ought to be unnecessary, if you called this right, kept here for
1186         // now in case anyone actually uses the ARSCs.
1187         proc_incref(p, 1);
1188
1189         // max is the most we'll process.  max = 0 means do as many as possible
1190         while (RING_HAS_UNCONSUMED_REQUESTS(sysbr) && ((!max)||(count < max)) ) {
1191                 if (!count) {
1192                         // ASSUME: one queue per process
1193                         // only switch cr3 for the very first request for this queue
1194                         // need to switch to the right context, so we can handle the user pointer
1195                         // that points to a data payload of the syscall
1196                         lcr3(p->env_cr3);
1197                 }
1198                 count++;
1199                 //printk("DEBUG PRE: sring->req_prod: %d, sring->rsp_prod: %d\n",
1200                 //         sysbr->sring->req_prod, sysbr->sring->rsp_prod);
1201                 // might want to think about 0-ing this out, if we aren't
1202                 // going to explicitly fill in all fields
1203                 syscall_rsp_t rsp;
1204                 // this assumes we get our answer immediately for the syscall.
1205                 syscall_req_t* req = RING_GET_REQUEST(sysbr, ++(sysbr->req_cons));
1206                 rsp.retval = syscall_async(p, req);
1207                 // write response into the slot it came from
1208                 memcpy(req, &rsp, sizeof(syscall_rsp_t));
1209                 // update our counter for what we've produced (assumes we went in order!)
1210                 (sysbr->rsp_prod_pvt)++;
1211                 RING_PUSH_RESPONSES(sysbr);
1212                 //printk("DEBUG POST: sring->req_prod: %d, sring->rsp_prod: %d\n",
1213                 //         sysbr->sring->req_prod, sysbr->sring->rsp_prod);
1214         }
1215         // load sane page tables (and don't rely on decref to do it for you).
1216         lcr3(boot_cr3);
1217         proc_decref(p, 1);
1218         return (intreg_t)count;
1219 }
1220
1221 /* Syscall tracing */
1222 static void __init_systrace(void)
1223 {
1224         systrace_buffer = kmalloc(MAX_SYSTRACES*sizeof(struct systrace_record), 0);
1225         if (!systrace_buffer)
1226                 panic("Unable to alloc a trace buffer\n");
1227         systrace_bufidx = 0;
1228         systrace_bufsize = MAX_SYSTRACES;
1229         /* Note we never free the buffer - it's around forever.  Feel free to change
1230          * this if you want to change the size or something dynamically. */
1231 }
1232
1233 /* If you call this while it is running, it will change the mode */
1234 void systrace_start(bool silent)
1235 {
1236         static bool init = FALSE;
1237         spin_lock_irqsave(&systrace_lock);
1238         if (!init) {
1239                 __init_systrace();
1240                 init = TRUE;
1241         }
1242         systrace_flags = silent ? SYSTRACE_ON : SYSTRACE_ON | SYSTRACE_LOUD; 
1243         spin_unlock_irqsave(&systrace_lock);
1244 }
1245
1246 int systrace_reg(bool all, struct proc *p)
1247 {
1248         int retval = 0;
1249         spin_lock_irqsave(&systrace_lock);
1250         if (all) {
1251                 printk("Tracing syscalls for all processes\n");
1252                 systrace_flags |= SYSTRACE_ALLPROC;
1253                 retval = 0;
1254         } else {
1255                 for (int i = 0; i < MAX_NUM_TRACED; i++) {
1256                         if (!systrace_procs[i]) {
1257                                 printk("Tracing syscalls for process %d\n", p->pid);
1258                                 systrace_procs[i] = p;
1259                                 retval = 0;
1260                                 break;
1261                         }
1262                 }
1263         }
1264         spin_unlock_irqsave(&systrace_lock);
1265         return retval;
1266 }
1267
1268 void systrace_stop(void)
1269 {
1270         spin_lock_irqsave(&systrace_lock);
1271         systrace_flags = 0;
1272         for (int i = 0; i < MAX_NUM_TRACED; i++)
1273                 systrace_procs[i] = 0;
1274         spin_unlock_irqsave(&systrace_lock);
1275 }
1276
1277 /* If you registered a process specifically, then you need to dereg it
1278  * specifically.  Or just fully stop, which will do it for all. */
1279 int systrace_dereg(bool all, struct proc *p)
1280 {
1281         spin_lock_irqsave(&systrace_lock);
1282         if (all) {
1283                 printk("No longer tracing syscalls for all processes.\n");
1284                 systrace_flags &= ~SYSTRACE_ALLPROC;
1285         } else {
1286                 for (int i = 0; i < MAX_NUM_TRACED; i++) {
1287                         if (systrace_procs[i] == p) {
1288                                 systrace_procs[i] = 0;
1289                                 printk("No longer tracing syscalls for process %d\n", p->pid);
1290                         }
1291                 }
1292         }
1293         spin_unlock_irqsave(&systrace_lock);
1294         return 0;
1295 }
1296
1297 /* Regardless of locking, someone could be writing into the buffer */
1298 void systrace_print(bool all, struct proc *p)
1299 {
1300         spin_lock_irqsave(&systrace_lock);
1301         /* if you want to be clever, you could make this start from the earliest
1302          * timestamp and loop around.  Careful of concurrent writes. */
1303         for (int i = 0; i < systrace_bufsize; i++)
1304                 if (systrace_buffer[i].timestamp)
1305                         printk("[%16llu] Syscall %d for proc %d on core %d, vcore %d\n",
1306                                systrace_buffer[i].timestamp,
1307                                systrace_buffer[i].syscallno,
1308                                systrace_buffer[i].pid,
1309                                systrace_buffer[i].coreid,
1310                                systrace_buffer[i].vcoreid);
1311         spin_unlock_irqsave(&systrace_lock);
1312 }
1313
1314 void systrace_clear_buffer(void)
1315 {
1316         spin_lock_irqsave(&systrace_lock);
1317         memset(systrace_buffer, 0, sizeof(struct systrace_record)*MAX_NUM_TRACED);
1318         spin_unlock_irqsave(&systrace_lock);
1319 }