Fixes when we add a new proc to the pidhash
[akaros.git] / kern / src / syscall.c
1 /* See COPYRIGHT for copyright information. */
2
3 #ifdef __SHARC__
4 #pragma nosharc
5 #endif
6
7 #include <ros/common.h>
8 #include <ros/notification.h>
9 #include <arch/types.h>
10 #include <arch/arch.h>
11 #include <arch/mmu.h>
12 #include <arch/console.h>
13 #include <ros/timer.h>
14 #include <error.h>
15
16 #include <elf.h>
17 #include <string.h>
18 #include <assert.h>
19 #include <process.h>
20 #include <schedule.h>
21 #include <pmap.h>
22 #include <umem.h>
23 #include <mm.h>
24 #include <trap.h>
25 #include <syscall.h>
26 #include <kmalloc.h>
27 #include <stdio.h>
28 #include <resource.h>
29 #include <frontend.h>
30 #include <colored_caches.h>
31 #include <hashtable.h>
32 #include <arch/bitmask.h>
33 #include <kfs.h> // eventually replace this with vfs.h
34 #include <smp.h>
35 #include <arsc_server.h>
36
37
38 #ifdef __CONFIG_NETWORKING__
39 #include <arch/nic_common.h>
40 extern int (*send_frame)(const char *CT(len) data, size_t len);
41 extern unsigned char device_mac[6];
42 #endif
43
44 /* Tracing Globals */
45 int systrace_flags = 0;
46 struct systrace_record *systrace_buffer = 0;
47 unsigned int systrace_bufidx = 0;
48 size_t systrace_bufsize = 0;
49 struct proc *systrace_procs[MAX_NUM_TRACED] = {0};
50 spinlock_t systrace_lock = SPINLOCK_INITIALIZER;
51
52 /* Not enforcing the packing of systrace_procs yet, but don't rely on that */
53 static bool proc_is_traced(struct proc *p)
54 {
55         for (int i = 0; i < MAX_NUM_TRACED; i++)
56                 if (systrace_procs[i] == p)
57                         return true;
58         return false;
59 }
60
61 /************** Utility Syscalls **************/
62
63 static int sys_null(void)
64 {
65         return 0;
66 }
67
68 // Writes 'val' to 'num_writes' entries of the well-known array in the kernel
69 // address space.  It's just #defined to be some random 4MB chunk (which ought
70 // to be boot_alloced or something).  Meant to grab exclusive access to cache
71 // lines, to simulate doing something useful.
72 static int sys_cache_buster(struct proc *p, uint32_t num_writes,
73                              uint32_t num_pages, uint32_t flags)
74 { TRUSTEDBLOCK /* zra: this is not really part of the kernel */
75         #define BUSTER_ADDR             0xd0000000  // around 512 MB deep
76         #define MAX_WRITES              1048576*8
77         #define MAX_PAGES               32
78         #define INSERT_ADDR     (UINFO + 2*PGSIZE) // should be free for these tests
79         uint32_t* buster = (uint32_t*)BUSTER_ADDR;
80         static spinlock_t buster_lock = SPINLOCK_INITIALIZER;
81         uint64_t ticks = -1;
82         page_t* a_page[MAX_PAGES];
83
84         /* Strided Accesses or Not (adjust to step by cachelines) */
85         uint32_t stride = 1;
86         if (flags & BUSTER_STRIDED) {
87                 stride = 16;
88                 num_writes *= 16;
89         }
90
91         /* Shared Accesses or Not (adjust to use per-core regions)
92          * Careful, since this gives 8MB to each core, starting around 512MB.
93          * Also, doesn't separate memory for core 0 if it's an async call.
94          */
95         if (!(flags & BUSTER_SHARED))
96                 buster = (uint32_t*)(BUSTER_ADDR + core_id() * 0x00800000);
97
98         /* Start the timer, if we're asked to print this info*/
99         if (flags & BUSTER_PRINT_TICKS)
100                 ticks = start_timing();
101
102         /* Allocate num_pages (up to MAX_PAGES), to simulate doing some more
103          * realistic work.  Note we don't write to these pages, even if we pick
104          * unshared.  Mostly due to the inconvenience of having to match up the
105          * number of pages with the number of writes.  And it's unnecessary.
106          */
107         if (num_pages) {
108                 spin_lock(&buster_lock);
109                 for (int i = 0; i < MIN(num_pages, MAX_PAGES); i++) {
110                         upage_alloc(p, &a_page[i],1);
111                         page_insert(p->env_pgdir, a_page[i], (void*)INSERT_ADDR + PGSIZE*i,
112                                     PTE_USER_RW);
113                 }
114                 spin_unlock(&buster_lock);
115         }
116
117         if (flags & BUSTER_LOCKED)
118                 spin_lock(&buster_lock);
119         for (int i = 0; i < MIN(num_writes, MAX_WRITES); i=i+stride)
120                 buster[i] = 0xdeadbeef;
121         if (flags & BUSTER_LOCKED)
122                 spin_unlock(&buster_lock);
123
124         if (num_pages) {
125                 spin_lock(&buster_lock);
126                 for (int i = 0; i < MIN(num_pages, MAX_PAGES); i++) {
127                         page_remove(p->env_pgdir, (void*)(INSERT_ADDR + PGSIZE * i));
128                         page_decref(a_page[i]);
129                 }
130                 spin_unlock(&buster_lock);
131         }
132
133         /* Print info */
134         if (flags & BUSTER_PRINT_TICKS) {
135                 ticks = stop_timing(ticks);
136                 printk("%llu,", ticks);
137         }
138         return 0;
139 }
140
141 static int sys_cache_invalidate(void)
142 {
143         #ifdef __i386__
144                 wbinvd();
145         #endif
146         return 0;
147 }
148
149 /* sys_reboot(): called directly from dispatch table. */
150
151 /* Print a string to the system console. */
152 static ssize_t sys_cputs(struct proc *p, const char *DANGEROUS string,
153                          size_t strlen)
154 {
155         char *t_string;
156         t_string = user_strdup_errno(p, string, strlen);
157         if (!t_string)
158                 return -1;
159         printk("%.*s", strlen, t_string);
160         user_memdup_free(p, t_string);
161         return (ssize_t)strlen;
162 }
163
164 // Read a character from the system console.
165 // Returns the character.
166 static uint16_t sys_cgetc(struct proc *p)
167 {
168         uint16_t c;
169
170         // The cons_getc() primitive doesn't wait for a character,
171         // but the sys_cgetc() system call does.
172         while ((c = cons_getc()) == 0)
173                 cpu_relax();
174
175         return c;
176 }
177
178 /* Returns the id of the cpu this syscall is executed on. */
179 static uint32_t sys_getcpuid(void)
180 {
181         return core_id();
182 }
183
184 // TODO: Temporary hack until thread-local storage is implemented on i386 and
185 // this is removed from the user interface
186 static size_t sys_getvcoreid(struct proc *p)
187 {
188         return proc_get_vcoreid(p, core_id());
189 }
190
191 /************** Process management syscalls **************/
192
193 /* Returns the calling process's pid */
194 static pid_t sys_getpid(struct proc *p)
195 {
196         return p->pid;
197 }
198
199 /* Creates a process from the file 'path'.  The process is not runnable by
200  * default, so it needs it's status to be changed so that the next call to
201  * schedule() will try to run it.  TODO: take args/envs from userspace. */
202 static int sys_proc_create(struct proc *p, char *path, size_t path_l,
203                            struct procinfo *pi)
204 {
205         int pid = 0;
206         char *t_path;
207         struct file *program;
208         struct proc *new_p;
209
210         /* Copy in the path.  Consider putting an upper bound on path_l. */
211         t_path = user_strdup_errno(p, path, path_l);
212         if (!t_path)
213                 return -1;
214         program = do_file_open(t_path, 0, 0);
215         user_memdup_free(p, t_path);
216         if (!program)
217                 return -1;                      /* presumably, errno is already set */
218         /* TODO: need to split the proc creation, since you must load after setting
219          * args/env, since auxp gets set up there. */
220         //new_p = proc_create(program, 0, 0);
221         if (proc_alloc(&new_p, current))
222                 goto mid_error;
223         /* Set the argument stuff needed by glibc */
224         if (memcpy_from_user_errno(p, new_p->procinfo->argp, pi->argp,
225                                    sizeof(pi->argp)))
226                 goto late_error;
227         if (memcpy_from_user_errno(p, new_p->procinfo->argbuf, pi->argbuf,
228                                    sizeof(pi->argbuf)))
229                 goto late_error;
230         if (load_elf(new_p, program))
231                 goto late_error;
232         kref_put(&program->f_kref);
233         __proc_ready(new_p);
234         pid = new_p->pid;
235         kref_put(&new_p->kref); /* give up the reference created in proc_create() */
236         return pid;
237 late_error:
238         proc_destroy(new_p);
239 mid_error:
240         kref_put(&program->f_kref);
241         return -1;
242 }
243
244 /* Makes process PID runnable.  Consider moving the functionality to process.c */
245 static error_t sys_proc_run(struct proc *p, unsigned pid)
246 {
247         struct proc *target = pid2proc(pid);
248         error_t retval = 0;
249
250         if (!target)
251                 return -EBADPROC;
252         // note we can get interrupted here. it's not bad.
253         spin_lock(&p->proc_lock);
254         // make sure we have access and it's in the right state to be activated
255         if (!proc_controls(p, target)) {
256                 kref_put(&target->kref);
257                 retval = -EPERM;
258         } else if (target->state != PROC_CREATED) {
259                 kref_put(&target->kref);
260                 retval = -EINVAL;
261         } else {
262                 __proc_set_state(target, PROC_RUNNABLE_S);
263                 schedule_proc(target);
264         }
265         spin_unlock(&p->proc_lock);
266         kref_put(&target->kref);
267         return retval;
268 }
269
270 /* Destroy proc pid.  If this is called by the dying process, it will never
271  * return.  o/w it will return 0 on success, or an error.  Errors include:
272  * - EBADPROC: if there is no such process with pid
273  * - EPERM: if caller does not control pid */
274 static error_t sys_proc_destroy(struct proc *p, pid_t pid, int exitcode)
275 {
276         error_t r;
277         struct proc *p_to_die = pid2proc(pid);
278
279         if (!p_to_die) {
280                 set_errno(ESRCH);
281                 return -1;
282         }
283         if (!proc_controls(p, p_to_die)) {
284                 kref_put(&p_to_die->kref);
285                 set_errno(EPERM);
286                 return -1;
287         }
288         if (p_to_die == p) {
289                 // syscall code and pid2proc both have edible references, only need 1.
290                 p->exitcode = exitcode;
291                 kref_put(&p_to_die->kref);
292                 printd("[PID %d] proc exiting gracefully (code %d)\n", p->pid,exitcode);
293         } else {
294                 printd("[%d] destroying proc %d\n", p->pid, p_to_die->pid);
295         }
296         proc_destroy(p_to_die);
297         kref_put(&p_to_die->kref);
298         return ESUCCESS;
299 }
300
301 static int sys_proc_yield(struct proc *p, bool being_nice)
302 {
303         proc_yield(p, being_nice);
304         return 0;
305 }
306
307 static ssize_t sys_fork(env_t* e)
308 {
309         // TODO: right now we only support fork for single-core processes
310         if(e->state != PROC_RUNNING_S)
311         {
312                 set_errno(EINVAL);
313                 return -1;
314         }
315
316         env_t* env;
317         assert(!proc_alloc(&env, current));
318         assert(env != NULL);
319
320         env->heap_top = e->heap_top;
321         env->ppid = e->pid;
322         env->env_tf = *current_tf;
323
324         env->cache_colors_map = cache_colors_map_alloc();
325         for(int i=0; i < llc_cache->num_colors; i++)
326                 if(GET_BITMASK_BIT(e->cache_colors_map,i))
327                         cache_color_alloc(llc_cache, env->cache_colors_map);
328
329         duplicate_vmrs(e, env);
330
331         int copy_page(env_t* e, pte_t* pte, void* va, void* arg)
332         {
333                 env_t* env = (env_t*)arg;
334
335                 if(PAGE_PRESENT(*pte))
336                 {
337                         page_t* pp;
338                         if(upage_alloc(env,&pp,0))
339                                 return -1;
340                         if(page_insert(env->env_pgdir,pp,va,*pte & PTE_PERM))
341                         {
342                                 page_decref(pp);
343                                 return -1;
344                         }
345
346                         pagecopy(page2kva(pp),ppn2kva(PTE2PPN(*pte)));
347                 } else {
348                         assert(PAGE_PAGED_OUT(*pte));
349                         /* TODO: (SWAP) will need to either make a copy or CoW/refcnt the
350                          * backend store.  For now, this PTE will be the same as the
351                          * original PTE */
352                         panic("Swapping not supported!");
353                         pte_t* newpte = pgdir_walk(env->env_pgdir,va,1);
354                         if(!newpte)
355                                 return -1;
356                         *newpte = *pte;
357                 }
358                 return 0;
359         }
360
361         // TODO: (PC) this won't work.  Needs revisiting.
362         // copy procdata and procinfo
363         memcpy(env->procdata,e->procdata,sizeof(struct procdata));
364         memcpy(env->procinfo,e->procinfo,sizeof(struct procinfo));
365         env->procinfo->pid = env->pid;
366         env->procinfo->ppid = env->ppid;
367
368         /* for now, just copy the contents of every present page in the entire
369          * address space. */
370         if (env_user_mem_walk(e, 0, UMAPTOP, &copy_page, env)) {
371                 proc_destroy(env);      /* this is prob what you want, not decref by 2 */
372                 set_errno(ENOMEM);
373                 return -1;
374         }
375         clone_files(&e->open_files, &env->open_files);
376         __proc_ready(env);
377         __proc_set_state(env, PROC_RUNNABLE_S);
378         schedule_proc(env);
379
380         // don't decref the new process.
381         // that will happen when the parent waits for it.
382         // TODO: if the parent doesn't wait, we need to change the child's parent
383         // when the parent dies, or at least decref it
384
385         printd("[PID %d] fork PID %d\n",e->pid,env->pid);
386
387         return env->pid;
388 }
389
390 /* Load the binary "path" into the current process, and start executing it.
391  * argv and envp are magically bundled in procinfo for now.  Keep in sync with
392  * glibc's sysdeps/ros/execve.c */
393 static int sys_exec(struct proc *p, char *path, size_t path_l,
394                     struct procinfo *pi)
395 {
396         int ret = -1;
397         char *t_path;
398         struct file *program;
399
400         /* We probably want it to never be allowed to exec if it ever was _M */
401         if(p->state != PROC_RUNNING_S)
402                 return -1;
403
404         /* Copy in the path.  Consider putting an upper bound on path_l. */
405         t_path = user_strdup_errno(p, path, path_l);
406         if (!t_path)
407                 return -1;
408         program = do_file_open(t_path, 0, 0);
409         user_memdup_free(p, t_path);
410         if (!program)
411                 return -1;                      /* presumably, errno is already set */
412         /* Set the argument stuff needed by glibc */
413         if (memcpy_from_user_errno(p, p->procinfo->argp, pi->argp,
414                                    sizeof(pi->argp)))
415                 goto mid_error;
416         if (memcpy_from_user_errno(p, p->procinfo->argbuf, pi->argbuf,
417                                    sizeof(pi->argbuf)))
418                 goto mid_error;
419         /* This is the point of no return for the process. */
420         /* TODO: issues with this: Need to also assert there are no outstanding
421          * users of the sysrings.  the ldt page will get freed shortly, so that's
422          * okay.  Potentially issues with the nm and vcpd if we were in _M before
423          * and someone is trying to notify. */
424         memset(p->procdata, 0, sizeof(procdata_t));
425         destroy_vmrs(p);
426         close_all_files(&p->open_files, TRUE);
427         env_user_mem_free(p, 0, UMAPTOP);
428         if (load_elf(p, program)) {
429                 kref_put(&program->f_kref);
430                 proc_destroy(p);
431                 smp_idle();             /* syscall can't return on failure now */
432         }
433         printd("[PID %d] exec %s\n", p->pid, file_name(program));
434         kref_put(&program->f_kref);
435         *current_tf = p->env_tf;
436         return 0;
437 mid_error:
438         kref_put(&program->f_kref);
439         return -1;
440 }
441
442 static ssize_t sys_trywait(env_t* e, pid_t pid, int* status)
443 {
444         struct proc* p = pid2proc(pid);
445
446         // TODO: this syscall is racy, so we only support for single-core procs
447         if(e->state != PROC_RUNNING_S)
448                 return -1;
449
450         // TODO: need to use errno properly.  sadly, ROS error codes conflict..
451
452         if(p)
453         {
454                 ssize_t ret;
455
456                 if(current->pid == p->ppid)
457                 {
458                         if(p->state == PROC_DYING)
459                         {
460                                 memcpy_to_user(e,status,&p->exitcode,sizeof(int));
461                                 printd("[PID %d] waited for PID %d (code %d)\n",
462                                        e->pid,p->pid,p->exitcode);
463                                 ret = 0;
464                         }
465                         else // not dead yet
466                         {
467                                 set_errno(ESUCCESS);
468                                 ret = -1;
469                         }
470                 }
471                 else // not a child of the calling process
472                 {
473                         set_errno(EPERM);
474                         ret = -1;
475                 }
476
477                 // if the wait succeeded, decref twice
478                 if (ret == 0)
479                         kref_put(&p->kref);
480                 kref_put(&p->kref);
481                 return ret;
482         }
483
484         set_errno(EPERM);
485         return -1;
486 }
487
488 /************** Memory Management Syscalls **************/
489
490 static void *sys_mmap(struct proc *p, uintreg_t a1, uintreg_t a2, uintreg_t a3,
491                       uintreg_t *a456)
492 {
493         uintreg_t _a456[3];
494         if (memcpy_from_user(p, _a456, a456, 3 * sizeof(uintreg_t)))
495                 sys_proc_destroy(p, p->pid, -1);
496         return mmap(p, a1, a2, a3, _a456[0], _a456[1], _a456[2]);
497 }
498
499 static intreg_t sys_mprotect(struct proc *p, void *addr, size_t len, int prot)
500 {
501         return mprotect(p, (uintptr_t)addr, len, prot);
502 }
503
504 static intreg_t sys_munmap(struct proc *p, void *addr, size_t len)
505 {
506         return munmap(p, (uintptr_t)addr, len);
507 }
508
509 static ssize_t sys_shared_page_alloc(env_t* p1,
510                                      void**DANGEROUS _addr, pid_t p2_id,
511                                      int p1_flags, int p2_flags
512                                     )
513 {
514         /* When we remove/change this, also get rid of page_insert_in_range() */
515         printk("[kernel] the current shared page alloc is deprecated.\n");
516         //if (!VALID_USER_PERMS(p1_flags)) return -EPERM;
517         //if (!VALID_USER_PERMS(p2_flags)) return -EPERM;
518
519         void * COUNT(1) * COUNT(1) addr = user_mem_assert(p1, _addr, sizeof(void *),
520                                                       PTE_USER_RW);
521         struct proc *p2 = pid2proc(p2_id);
522         if (!p2)
523                 return -EBADPROC;
524
525         page_t* page;
526         error_t e = upage_alloc(p1, &page,1);
527         if (e < 0) {
528                 kref_put(&p2->kref);
529                 return e;
530         }
531
532         void* p2_addr = page_insert_in_range(p2->env_pgdir, page,
533                         (void*SNT)UTEXT, (void*SNT)UTOP, p2_flags);
534         if (p2_addr == NULL) {
535                 page_free(page);
536                 kref_put(&p2->kref);
537                 return -EFAIL;
538         }
539
540         void* p1_addr = page_insert_in_range(p1->env_pgdir, page,
541                         (void*SNT)UTEXT, (void*SNT)UTOP, p1_flags);
542         if(p1_addr == NULL) {
543                 page_remove(p2->env_pgdir, p2_addr);
544                 page_free(page);
545                 kref_put(&p2->kref);
546                 return -EFAIL;
547         }
548         *addr = p1_addr;
549         kref_put(&p2->kref);
550         return ESUCCESS;
551 }
552
553 static int sys_shared_page_free(env_t* p1, void*DANGEROUS addr, pid_t p2)
554 {
555         return -1;
556 }
557
558
559 /* sys_resource_req(): called directly from dispatch table. */
560
561 /* Will notify the target on the given vcore, if the caller controls the target.
562  * Will honor the target's wanted/vcoreid.  u_ne can be NULL. */
563 static int sys_notify(struct proc *p, int target_pid, unsigned int notif,
564                       struct notif_event *u_ne)
565 {
566         struct notif_event local_ne;
567         struct proc *target = pid2proc(target_pid);
568
569         if (!target) {
570                 set_errno(EBADPROC);
571                 return -1;
572         }
573         if (!proc_controls(p, target)) {
574                 kref_put(&target->kref);
575                 set_errno(EPERM);
576                 return -1;
577         }
578         /* if the user provided a notif_event, copy it in and use that */
579         if (u_ne) {
580                 if (memcpy_from_user(p, &local_ne, u_ne, sizeof(struct notif_event))) {
581                         kref_put(&target->kref);
582                         set_errno(EINVAL);
583                         return -1;
584                 }
585                 proc_notify(target, local_ne.ne_type, &local_ne);
586         } else {
587                 proc_notify(target, notif, 0);
588         }
589         kref_put(&target->kref);
590         return 0;
591 }
592
593 /* Will notify the calling process on the given vcore, independently of WANTED
594  * or advertised vcoreid.  If you change the parameters, change pop_ros_tf() */
595 static int sys_self_notify(struct proc *p, uint32_t vcoreid, unsigned int notif,
596                            struct notif_event *u_ne)
597 {
598         struct notif_event local_ne;
599
600         printd("[kernel] received self notify for vcoreid %d, notif %d, ne %08p\n",
601                vcoreid, notif, u_ne);
602         /* if the user provided a notif_event, copy it in and use that */
603         if (u_ne) {
604                 if (memcpy_from_user(p, &local_ne, u_ne, sizeof(struct notif_event))) {
605                         set_errno(EINVAL);
606                         return -1;
607                 }
608                 do_notify(p, vcoreid, local_ne.ne_type, &local_ne);
609         } else {
610                 do_notify(p, vcoreid, notif, 0);
611         }
612         return 0;
613 }
614
615 /* This will set a local timer for usec, then shut down the core */
616 static int sys_halt_core(struct proc *p, unsigned int usec)
617 {
618         /* TODO: ought to check and see if a timer was already active, etc, esp so
619          * userspace can't turn off timers.  also note we will also call whatever
620          * timer_interrupt() will do, though all we care about is just
621          * self_ipi/interrupting. */
622         set_core_timer(usec);
623         cpu_halt();
624
625         return 0;
626 }
627
628 /************** Platform Specific Syscalls **************/
629
630 //Read a buffer over the serial port
631 static ssize_t sys_serial_read(env_t* e, char *DANGEROUS _buf, size_t len)
632 {
633         printk("[kernel] serial reading is deprecated.\n");
634         if (len == 0)
635                 return 0;
636
637         #ifdef __CONFIG_SERIAL_IO__
638             char *COUNT(len) buf = user_mem_assert(e, _buf, len, PTE_USER_RO);
639                 size_t bytes_read = 0;
640                 int c;
641                 while((c = serial_read_byte()) != -1) {
642                         buf[bytes_read++] = (uint8_t)c;
643                         if(bytes_read == len) break;
644                 }
645                 return (ssize_t)bytes_read;
646         #else
647                 return -EINVAL;
648         #endif
649 }
650
651 //Write a buffer over the serial port
652 static ssize_t sys_serial_write(env_t* e, const char *DANGEROUS buf, size_t len)
653 {
654         printk("[kernel] serial writing is deprecated.\n");
655         if (len == 0)
656                 return 0;
657         #ifdef __CONFIG_SERIAL_IO__
658                 char *COUNT(len) _buf = user_mem_assert(e, buf, len, PTE_USER_RO);
659                 for(int i =0; i<len; i++)
660                         serial_send_byte(buf[i]);
661                 return (ssize_t)len;
662         #else
663                 return -EINVAL;
664         #endif
665 }
666
667 #ifdef __CONFIG_NETWORKING__
668 // This is not a syscall we want. Its hacky. Here just for syscall stuff until get a stack.
669 static ssize_t sys_eth_read(env_t* e, char *DANGEROUS buf)
670 {
671         if (eth_up) {
672
673                 uint32_t len;
674                 char *ptr;
675
676                 spin_lock(&packet_buffers_lock);
677
678                 if (num_packet_buffers == 0) {
679                         spin_unlock(&packet_buffers_lock);
680                         return 0;
681                 }
682
683                 ptr = packet_buffers[packet_buffers_head];
684                 len = packet_buffers_sizes[packet_buffers_head];
685
686                 num_packet_buffers--;
687                 packet_buffers_head = (packet_buffers_head + 1) % MAX_PACKET_BUFFERS;
688
689                 spin_unlock(&packet_buffers_lock);
690
691                 char* _buf = user_mem_assert(e, buf, len, PTE_U);
692
693                 memcpy(_buf, ptr, len);
694
695                 kfree(ptr);
696
697                 return len;
698         }
699         else
700                 return -EINVAL;
701 }
702
703 // This is not a syscall we want. Its hacky. Here just for syscall stuff until get a stack.
704 static ssize_t sys_eth_write(env_t* e, const char *DANGEROUS buf, size_t len)
705 {
706         if (eth_up) {
707
708                 if (len == 0)
709                         return 0;
710
711                 // HACK TO BYPASS HACK
712                 int just_sent = send_frame(buf, len);
713
714                 if (just_sent < 0) {
715                         printk("Packet send fail\n");
716                         return 0;
717                 }
718
719                 return just_sent;
720
721                 // END OF RECURSIVE HACK
722 /*
723                 char *COUNT(len) _buf = user_mem_assert(e, buf, len, PTE_U);
724                 int total_sent = 0;
725                 int just_sent = 0;
726                 int cur_packet_len = 0;
727                 while (total_sent != len) {
728                         cur_packet_len = ((len - total_sent) > MTU) ? MTU : (len - total_sent);
729                         char dest_mac[6] = APPSERVER_MAC_ADDRESS;
730                         char* wrap_buffer = eth_wrap(_buf + total_sent, cur_packet_len, device_mac, dest_mac, APPSERVER_PORT);
731                         just_sent = send_frame(wrap_buffer, cur_packet_len + sizeof(struct ETH_Header));
732
733                         if (just_sent < 0)
734                                 return 0; // This should be an error code of its own
735
736                         if (wrap_buffer)
737                                 kfree(wrap_buffer);
738
739                         total_sent += cur_packet_len;
740                 }
741
742                 return (ssize_t)len;
743 */
744         }
745         else
746                 return -EINVAL;
747 }
748
749 static ssize_t sys_eth_get_mac_addr(env_t* e, char *DANGEROUS buf) 
750 {
751         if (eth_up) {
752                 for (int i = 0; i < 6; i++)
753                         buf[i] = device_mac[i];
754                 return 0;
755         }
756         else
757                 return -EINVAL;
758 }
759
760 static int sys_eth_recv_check(env_t* e) 
761 {
762         if (num_packet_buffers != 0) 
763                 return 1;
764         else
765                 return 0;
766 }
767
768 #endif // Network
769
770 static intreg_t sys_read(struct proc *p, int fd, void *buf, int len)
771 {
772         ssize_t ret;
773         struct file *file = get_file_from_fd(&p->open_files, fd);
774         if (!file) {
775                 set_errno(EBADF);
776                 return -1;
777         }
778         /* TODO: (UMEM) currently, read() handles user memcpy issues, but we
779          * probably should user_mem_check and pin the region here, so read doesn't
780          * worry about it */
781         ret = file->f_op->read(file, buf, len, &file->f_pos);
782         kref_put(&file->f_kref);
783         return ret;
784 }
785
786 static intreg_t sys_write(struct proc *p, int fd, const void *buf, int len)
787 {
788         /* Catch common usage of stdout and stderr.  No protections or anything. */
789         if (fd == 1) {
790                 printk("[stdout]: %s\n", buf);
791                 return len;
792         } else if (fd == 2) {
793                 printk("[stderr]: %s\n", buf);
794                 return len;
795         }
796         /* the real sys_write: */
797         ssize_t ret;
798         struct file *file = get_file_from_fd(&p->open_files, fd);
799         if (!file) {
800                 set_errno(EBADF);
801                 return -1;
802         }
803         /* TODO: (UMEM) */
804         ret = file->f_op->write(file, buf, len, &file->f_pos);
805         kref_put(&file->f_kref);
806         return ret;
807 }
808
809 /* Checks args/reads in the path, opens the file, and inserts it into the
810  * process's open file list. 
811  *
812  * TODO: take the path length */
813 static intreg_t sys_open(struct proc *p, const char *path, size_t path_l,
814                          int oflag, int mode)
815 {
816         int fd = 0;
817         struct file *file;
818
819         char *t_path = user_strdup_errno(p, path, path_l);
820         if (!t_path)
821                 return -1;
822         file = do_file_open(t_path, oflag, mode);
823         user_memdup_free(p, t_path);
824         if (!file)
825                 return -1;
826         fd = insert_file(&p->open_files, file); /* stores the ref to file */
827         kref_put(&file->f_kref);
828         if (fd < 0) {
829                 warn("File insertion failed");
830                 return -1;
831         }
832         printd("File %s Open, res=%d\n", path, fd);
833         return fd;
834 }
835
836 static intreg_t sys_close(struct proc *p, int fd)
837 {
838         struct file *file = put_file_from_fd(&p->open_files, fd);
839         if (!file) {
840                 set_errno(EBADF);
841                 return -1;
842         }
843         return 0;
844 }
845
846 /* kept around til we remove the last ufe */
847 #define ufe(which,a0,a1,a2,a3) \
848         frontend_syscall_errno(p,APPSERVER_SYSCALL_##which,\
849                            (int)(a0),(int)(a1),(int)(a2),(int)(a3))
850
851 static intreg_t sys_fstat(struct proc *p, int fd, struct kstat *u_stat)
852 {
853         struct kstat *kbuf;
854         struct file *file = get_file_from_fd(&p->open_files, fd);
855         if (!file) {
856                 set_errno(EBADF);
857                 return -1;
858         }
859         kbuf = kmalloc(sizeof(struct kstat), 0);
860         if (!kbuf) {
861                 kref_put(&file->f_kref);
862                 set_errno(ENOMEM);
863                 return -1;
864         }
865         stat_inode(file->f_dentry->d_inode, kbuf);
866         kref_put(&file->f_kref);
867         /* TODO: UMEM: pin the memory, copy directly, and skip the kernel buffer */
868         if (memcpy_to_user_errno(p, u_stat, kbuf, sizeof(struct kstat))) {
869                 kfree(kbuf);
870                 set_errno(EINVAL);
871                 return -1;
872         }
873         kfree(kbuf);
874         return 0;
875 }
876
877 /* sys_stat() and sys_lstat() do nearly the same thing, differing in how they
878  * treat a symlink for the final item, which (probably) will be controlled by
879  * the lookup flags */
880 static intreg_t stat_helper(struct proc *p, const char *path, size_t path_l,
881                             struct kstat *u_stat, int flags)
882 {
883         struct kstat *kbuf;
884         struct inode *path_i;
885         char *t_path = user_strdup_errno(p, path, path_l);
886         if (!t_path)
887                 return -1;
888         path_i = lookup_inode(t_path, flags);
889         user_memdup_free(p, t_path);
890         if (!path_i)
891                 return -1;
892         kbuf = kmalloc(sizeof(struct kstat), 0);
893         if (!kbuf) {
894                 set_errno(ENOMEM);
895                 kref_put(&path_i->i_kref);
896                 return -1;
897         }
898         stat_inode(path_i, kbuf);
899         kref_put(&path_i->i_kref);
900         /* TODO: UMEM: pin the memory, copy directly, and skip the kernel buffer */
901         if (memcpy_to_user_errno(p, u_stat, kbuf, sizeof(struct kstat))) {
902                 kfree(kbuf);
903                 set_errno(EINVAL);
904                 return -1;
905         }
906         kfree(kbuf);
907         return 0;
908 }
909
910 /* Follow a final symlink */
911 static intreg_t sys_stat(struct proc *p, const char *path, size_t path_l,
912                          struct kstat *u_stat)
913 {
914         return stat_helper(p, path, path_l, u_stat, LOOKUP_FOLLOW);
915 }
916
917 /* Don't follow a final symlink */
918 static intreg_t sys_lstat(struct proc *p, const char *path, size_t path_l,
919                           struct kstat *u_stat)
920 {
921         return stat_helper(p, path, path_l, u_stat, 0);
922 }
923
924 intreg_t sys_fcntl(struct proc *p, int fd, int cmd, int arg)
925 {
926         return ufe(fcntl,fd,cmd,arg,0);
927 }
928
929 static intreg_t sys_access(struct proc *p, const char *path, size_t path_l,
930                            int mode)
931 {
932         int retval;
933
934         char *t_path = user_strdup_errno(p, path, path_l);
935         if (!t_path)
936                 return -1;
937         retval = do_file_access(t_path, mode);
938         user_memdup_free(p, t_path);
939         printd("Access for path: %s retval: %d\n", path, retval);
940         if (retval < 0) {
941                 set_errno(-retval);
942                 return -1;
943         }
944         return retval;
945 }
946
947 intreg_t sys_umask(struct proc *p, int mask)
948 {
949         return ufe(umask,mask,0,0,0);
950 }
951
952 intreg_t sys_chmod(struct proc *p, const char *path, size_t path_l, int mode)
953 {
954         char* fn = user_strdup_errno(p,path,PGSIZE);
955         if(fn == NULL)
956                 return -1;
957         int ret = ufe(chmod,PADDR(fn),mode,0,0);
958         user_memdup_free(p,fn);
959         return ret;
960 }
961
962 static intreg_t sys_lseek(struct proc *p, int fd, off_t offset, int whence)
963 {
964         off_t ret;
965         struct file *file = get_file_from_fd(&p->open_files, fd);
966         if (!file) {
967                 set_errno(EBADF);
968                 return -1;
969         }
970         ret = file->f_op->llseek(file, offset, whence);
971         kref_put(&file->f_kref);
972         return ret;
973 }
974
975 intreg_t sys_link(struct proc *p, const char *_old, size_t old_l,
976                   const char *_new, size_t new_l)
977 {
978         char* oldpath = user_strdup_errno(p,_old,PGSIZE);
979         if(oldpath == NULL)
980                 return -1;
981
982         char* newpath = user_strdup_errno(p,_new,PGSIZE);
983         if(newpath == NULL)
984         {
985                 user_memdup_free(p,oldpath);
986                 return -1;
987         }
988
989         int ret = ufe(link,PADDR(oldpath),PADDR(newpath),0,0);
990         user_memdup_free(p,oldpath);
991         user_memdup_free(p,newpath);
992         return ret;
993 }
994
995 intreg_t sys_unlink(struct proc *p, const char *path, size_t path_l)
996 {
997         char* fn = user_strdup_errno(p,path,PGSIZE);
998         if(fn == NULL)
999                 return -1;
1000         int ret = ufe(unlink,PADDR(fn),0,0,0);
1001         user_memdup_free(p,fn);
1002         return ret;
1003 }
1004
1005 intreg_t sys_chdir(struct proc *p, const char *path, size_t path_l)
1006 {
1007         char* fn = user_strdup_errno(p,path,PGSIZE);
1008         if(fn == NULL)
1009                 return -1;
1010         int ret = ufe(chdir,PADDR(fn),0,0,0);
1011         user_memdup_free(p,fn);
1012         return ret;
1013 }
1014
1015 intreg_t sys_getcwd(struct proc *p, char *pwd, int size)
1016 {
1017         void* kbuf = kmalloc_errno(size);
1018         if(kbuf == NULL)
1019                 return -1;
1020         int ret = ufe(read,PADDR(kbuf),size,0,0);
1021         if(ret != -1 && memcpy_to_user_errno(p,pwd,kbuf,strnlen(kbuf,size)))
1022                 ret = -1;
1023         user_memdup_free(p,kbuf);
1024         return ret;
1025 }
1026
1027 intreg_t sys_gettimeofday(struct proc *p, int *buf)
1028 {
1029         static spinlock_t gtod_lock = SPINLOCK_INITIALIZER;
1030         static int t0 = 0;
1031
1032         spin_lock(&gtod_lock);
1033         if(t0 == 0)
1034
1035 #if (defined __CONFIG_APPSERVER__)
1036         t0 = ufe(time,0,0,0,0);
1037 #else
1038         // Nanwan's birthday, bitches!!
1039         t0 = 1242129600;
1040 #endif 
1041         spin_unlock(&gtod_lock);
1042
1043         long long dt = read_tsc();
1044         int kbuf[2] = {t0+dt/system_timing.tsc_freq,
1045             (dt%system_timing.tsc_freq)*1000000/system_timing.tsc_freq};
1046
1047         return memcpy_to_user_errno(p,buf,kbuf,sizeof(kbuf));
1048 }
1049
1050 #define SIZEOF_STRUCT_TERMIOS 60
1051 intreg_t sys_tcgetattr(struct proc *p, int fd, void *termios_p)
1052 {
1053         int* kbuf = kmalloc(SIZEOF_STRUCT_TERMIOS,0);
1054         int ret = ufe(tcgetattr,fd,PADDR(kbuf),0,0);
1055         if(ret != -1 && memcpy_to_user_errno(p,termios_p,kbuf,SIZEOF_STRUCT_TERMIOS))
1056                 ret = -1;
1057         kfree(kbuf);
1058         return ret;
1059 }
1060
1061 intreg_t sys_tcsetattr(struct proc *p, int fd, int optional_actions,
1062                        const void *termios_p)
1063 {
1064         void* kbuf = user_memdup_errno(p,termios_p,SIZEOF_STRUCT_TERMIOS);
1065         if(kbuf == NULL)
1066                 return -1;
1067         int ret = ufe(tcsetattr,fd,optional_actions,PADDR(kbuf),0);
1068         user_memdup_free(p,kbuf);
1069         return ret;
1070 }
1071
1072 /************** Syscall Invokation **************/
1073
1074 /* Executes the given syscall.
1075  *
1076  * Note tf is passed in, which points to the tf of the context on the kernel
1077  * stack.  If any syscall needs to block, it needs to save this info, as well as
1078  * any silly state.
1079  * 
1080  * This syscall function is used by both local syscall and arsc, and should
1081  * remain oblivious of the caller.
1082  *
1083  * TODO: Keep in mind that not every syscall has a user trapframe. 
1084  * e.g. ARSC
1085  */
1086 intreg_t syscall(struct proc *p, uintreg_t syscallno, uintreg_t a1,
1087                  uintreg_t a2, uintreg_t a3, uintreg_t a4, uintreg_t a5)
1088 {
1089         // Initialize the return value and error code returned to 0
1090         if(current_tf != NULL){
1091                 set_retval(ESUCCESS);
1092                 set_errno(ESUCCESS);
1093         }
1094
1095         typedef intreg_t (*syscall_t)(struct proc*,uintreg_t,uintreg_t,
1096                                       uintreg_t,uintreg_t,uintreg_t);
1097
1098         const static syscall_t syscall_table[] = {
1099                 [SYS_null] = (syscall_t)sys_null,
1100                 [SYS_cache_buster] = (syscall_t)sys_cache_buster,
1101                 [SYS_cache_invalidate] = (syscall_t)sys_cache_invalidate,
1102                 [SYS_reboot] = (syscall_t)reboot,
1103                 [SYS_cputs] = (syscall_t)sys_cputs,
1104                 [SYS_cgetc] = (syscall_t)sys_cgetc,
1105                 [SYS_getcpuid] = (syscall_t)sys_getcpuid,
1106                 [SYS_getvcoreid] = (syscall_t)sys_getvcoreid,
1107                 [SYS_getpid] = (syscall_t)sys_getpid,
1108                 [SYS_proc_create] = (syscall_t)sys_proc_create,
1109                 [SYS_proc_run] = (syscall_t)sys_proc_run,
1110                 [SYS_proc_destroy] = (syscall_t)sys_proc_destroy,
1111                 [SYS_yield] = (syscall_t)sys_proc_yield,
1112                 [SYS_fork] = (syscall_t)sys_fork,
1113                 [SYS_exec] = (syscall_t)sys_exec,
1114                 [SYS_trywait] = (syscall_t)sys_trywait,
1115                 [SYS_mmap] = (syscall_t)sys_mmap,
1116                 [SYS_munmap] = (syscall_t)sys_munmap,
1117                 [SYS_mprotect] = (syscall_t)sys_mprotect,
1118                 [SYS_shared_page_alloc] = (syscall_t)sys_shared_page_alloc,
1119                 [SYS_shared_page_free] = (syscall_t)sys_shared_page_free,
1120                 [SYS_resource_req] = (syscall_t)resource_req,
1121                 [SYS_notify] = (syscall_t)sys_notify,
1122                 [SYS_self_notify] = (syscall_t)sys_self_notify,
1123                 [SYS_halt_core] = (syscall_t)sys_halt_core,
1124         #ifdef __CONFIG_SERIAL_IO__
1125                 [SYS_serial_read] = (syscall_t)sys_serial_read,
1126                 [SYS_serial_write] = (syscall_t)sys_serial_write,
1127         #endif
1128         #ifdef __CONFIG_NETWORKING__
1129                 [SYS_eth_read] = (syscall_t)sys_eth_read,
1130                 [SYS_eth_write] = (syscall_t)sys_eth_write,
1131                 [SYS_eth_get_mac_addr] = (syscall_t)sys_eth_get_mac_addr,
1132                 [SYS_eth_recv_check] = (syscall_t)sys_eth_recv_check,
1133         #endif
1134         #ifdef __CONFIG_ARSC_SERVER__
1135                 [SYS_init_arsc] = (syscall_t)sys_init_arsc,
1136         #endif
1137                 // Syscalls serviced by the appserver for now.
1138                 [SYS_read] = (syscall_t)sys_read,
1139                 [SYS_write] = (syscall_t)sys_write,
1140                 [SYS_open] = (syscall_t)sys_open,
1141                 [SYS_close] = (syscall_t)sys_close,
1142                 [SYS_fstat] = (syscall_t)sys_fstat,
1143                 [SYS_stat] = (syscall_t)sys_stat,
1144                 [SYS_lstat] = (syscall_t)sys_lstat,
1145                 [SYS_fcntl] = (syscall_t)sys_fcntl,
1146                 [SYS_access] = (syscall_t)sys_access,
1147                 [SYS_umask] = (syscall_t)sys_umask,
1148                 [SYS_chmod] = (syscall_t)sys_chmod,
1149                 [SYS_lseek] = (syscall_t)sys_lseek,
1150                 [SYS_link] = (syscall_t)sys_link,
1151                 [SYS_unlink] = (syscall_t)sys_unlink,
1152                 [SYS_chdir] = (syscall_t)sys_chdir,
1153                 [SYS_getcwd] = (syscall_t)sys_getcwd,
1154                 [SYS_gettimeofday] = (syscall_t)sys_gettimeofday,
1155                 [SYS_tcgetattr] = (syscall_t)sys_tcgetattr,
1156                 [SYS_tcsetattr] = (syscall_t)sys_tcsetattr
1157         };
1158
1159         const int max_syscall = sizeof(syscall_table)/sizeof(syscall_table[0]);
1160
1161         uint32_t coreid, vcoreid;
1162         if (systrace_flags & SYSTRACE_ON) {
1163                 if ((systrace_flags & SYSTRACE_ALLPROC) || (proc_is_traced(p))) {
1164                         coreid = core_id();
1165                         vcoreid = proc_get_vcoreid(p, core_id());
1166                         if (systrace_flags & SYSTRACE_LOUD) {
1167                                 printk("[%16llu] Syscall %d for proc %d on core %d, vcore %d\n",
1168                                        read_tsc(), syscallno, p->pid, coreid, vcoreid);
1169                         } else {
1170                                 struct systrace_record *trace;
1171                                 unsigned int idx, new_idx;
1172                                 do {
1173                                         idx = systrace_bufidx;
1174                                         new_idx = (idx + 1) % systrace_bufsize;
1175                                 } while (!atomic_comp_swap(&systrace_bufidx, idx, new_idx));
1176                                 trace = &systrace_buffer[idx];
1177                                 trace->timestamp = read_tsc();
1178                                 trace->syscallno = syscallno;
1179                                 trace->pid = p->pid;
1180                                 trace->coreid = coreid;
1181                                 trace->vcoreid = vcoreid;
1182                         }
1183                 }
1184         }
1185         //printk("Incoming syscall on core: %d number: %d\n    a1: %x\n   "
1186         //       " a2: %x\n    a3: %x\n    a4: %x\n    a5: %x\n", core_id(),
1187         //       syscallno, a1, a2, a3, a4, a5);
1188
1189         if(syscallno > max_syscall || syscall_table[syscallno] == NULL)
1190                 panic("Invalid syscall number %d for proc %x!", syscallno, *p);
1191
1192         return syscall_table[syscallno](p,a1,a2,a3,a4,a5);
1193 }
1194
1195 /* Syscall tracing */
1196 static void __init_systrace(void)
1197 {
1198         systrace_buffer = kmalloc(MAX_SYSTRACES*sizeof(struct systrace_record), 0);
1199         if (!systrace_buffer)
1200                 panic("Unable to alloc a trace buffer\n");
1201         systrace_bufidx = 0;
1202         systrace_bufsize = MAX_SYSTRACES;
1203         /* Note we never free the buffer - it's around forever.  Feel free to change
1204          * this if you want to change the size or something dynamically. */
1205 }
1206
1207 /* If you call this while it is running, it will change the mode */
1208 void systrace_start(bool silent)
1209 {
1210         static bool init = FALSE;
1211         spin_lock_irqsave(&systrace_lock);
1212         if (!init) {
1213                 __init_systrace();
1214                 init = TRUE;
1215         }
1216         systrace_flags = silent ? SYSTRACE_ON : SYSTRACE_ON | SYSTRACE_LOUD; 
1217         spin_unlock_irqsave(&systrace_lock);
1218 }
1219
1220 int systrace_reg(bool all, struct proc *p)
1221 {
1222         int retval = 0;
1223         spin_lock_irqsave(&systrace_lock);
1224         if (all) {
1225                 printk("Tracing syscalls for all processes\n");
1226                 systrace_flags |= SYSTRACE_ALLPROC;
1227                 retval = 0;
1228         } else {
1229                 for (int i = 0; i < MAX_NUM_TRACED; i++) {
1230                         if (!systrace_procs[i]) {
1231                                 printk("Tracing syscalls for process %d\n", p->pid);
1232                                 systrace_procs[i] = p;
1233                                 retval = 0;
1234                                 break;
1235                         }
1236                 }
1237         }
1238         spin_unlock_irqsave(&systrace_lock);
1239         return retval;
1240 }
1241
1242 void systrace_stop(void)
1243 {
1244         spin_lock_irqsave(&systrace_lock);
1245         systrace_flags = 0;
1246         for (int i = 0; i < MAX_NUM_TRACED; i++)
1247                 systrace_procs[i] = 0;
1248         spin_unlock_irqsave(&systrace_lock);
1249 }
1250
1251 /* If you registered a process specifically, then you need to dereg it
1252  * specifically.  Or just fully stop, which will do it for all. */
1253 int systrace_dereg(bool all, struct proc *p)
1254 {
1255         spin_lock_irqsave(&systrace_lock);
1256         if (all) {
1257                 printk("No longer tracing syscalls for all processes.\n");
1258                 systrace_flags &= ~SYSTRACE_ALLPROC;
1259         } else {
1260                 for (int i = 0; i < MAX_NUM_TRACED; i++) {
1261                         if (systrace_procs[i] == p) {
1262                                 systrace_procs[i] = 0;
1263                                 printk("No longer tracing syscalls for process %d\n", p->pid);
1264                         }
1265                 }
1266         }
1267         spin_unlock_irqsave(&systrace_lock);
1268         return 0;
1269 }
1270
1271 /* Regardless of locking, someone could be writing into the buffer */
1272 void systrace_print(bool all, struct proc *p)
1273 {
1274         spin_lock_irqsave(&systrace_lock);
1275         /* if you want to be clever, you could make this start from the earliest
1276          * timestamp and loop around.  Careful of concurrent writes. */
1277         for (int i = 0; i < systrace_bufsize; i++)
1278                 if (systrace_buffer[i].timestamp)
1279                         printk("[%16llu] Syscall %d for proc %d on core %d, vcore %d\n",
1280                                systrace_buffer[i].timestamp,
1281                                systrace_buffer[i].syscallno,
1282                                systrace_buffer[i].pid,
1283                                systrace_buffer[i].coreid,
1284                                systrace_buffer[i].vcoreid);
1285         spin_unlock_irqsave(&systrace_lock);
1286 }
1287
1288 void systrace_clear_buffer(void)
1289 {
1290         spin_lock_irqsave(&systrace_lock);
1291         memset(systrace_buffer, 0, sizeof(struct systrace_record)*MAX_NUM_TRACED);
1292         spin_unlock_irqsave(&systrace_lock);
1293 }
1294
1295 void set_retval(uint32_t retval)
1296 {
1297         struct per_cpu_info* coreinfo = &per_cpu_info[core_id()];
1298         *(coreinfo->cur_ret.returnloc) = retval;
1299 }
1300 void set_errno(uint32_t errno)
1301 {
1302         struct per_cpu_info* coreinfo = &per_cpu_info[core_id()];
1303         if (coreinfo && coreinfo->cur_ret.errno_loc)
1304                 *(coreinfo->cur_ret.errno_loc) = errno;
1305 }