MCPs -> Many Filthy _S Ps
[akaros.git] / kern / src / syscall.c
1 /* See COPYRIGHT for copyright information. */
2
3 #ifdef __SHARC__
4 #pragma nosharc
5 #endif
6
7 #include <ros/common.h>
8 #include <ros/notification.h>
9 #include <arch/types.h>
10 #include <arch/arch.h>
11 #include <arch/mmu.h>
12 #include <arch/console.h>
13 #include <ros/timer.h>
14 #include <error.h>
15
16 #include <elf.h>
17 #include <string.h>
18 #include <assert.h>
19 #include <process.h>
20 #include <schedule.h>
21 #include <pmap.h>
22 #include <mm.h>
23 #include <trap.h>
24 #include <syscall.h>
25 #include <kmalloc.h>
26 #include <stdio.h>
27 #include <resource.h>
28 #include <frontend.h>
29 #include <colored_caches.h>
30 #include <arch/bitmask.h>
31 #include <kfs.h> // eventually replace this with vfs.h
32
33
34 #ifdef __CONFIG_NETWORKING__
35 #include <arch/nic_common.h>
36 extern int (*send_frame)(const char *CT(len) data, size_t len);
37 extern unsigned char device_mac[6];
38 #endif
39
40 /************** Utility Syscalls **************/
41
42 static int sys_null(void)
43 {
44         return 0;
45 }
46
47 // Writes 'val' to 'num_writes' entries of the well-known array in the kernel
48 // address space.  It's just #defined to be some random 4MB chunk (which ought
49 // to be boot_alloced or something).  Meant to grab exclusive access to cache
50 // lines, to simulate doing something useful.
51 static int sys_cache_buster(struct proc *p, uint32_t num_writes,
52                              uint32_t num_pages, uint32_t flags)
53 { TRUSTEDBLOCK /* zra: this is not really part of the kernel */
54         #define BUSTER_ADDR             0xd0000000  // around 512 MB deep
55         #define MAX_WRITES              1048576*8
56         #define MAX_PAGES               32
57         #define INSERT_ADDR     (UINFO + 2*PGSIZE) // should be free for these tests
58         uint32_t* buster = (uint32_t*)BUSTER_ADDR;
59         static spinlock_t buster_lock = SPINLOCK_INITIALIZER;
60         uint64_t ticks = -1;
61         page_t* a_page[MAX_PAGES];
62
63         /* Strided Accesses or Not (adjust to step by cachelines) */
64         uint32_t stride = 1;
65         if (flags & BUSTER_STRIDED) {
66                 stride = 16;
67                 num_writes *= 16;
68         }
69
70         /* Shared Accesses or Not (adjust to use per-core regions)
71          * Careful, since this gives 8MB to each core, starting around 512MB.
72          * Also, doesn't separate memory for core 0 if it's an async call.
73          */
74         if (!(flags & BUSTER_SHARED))
75                 buster = (uint32_t*)(BUSTER_ADDR + core_id() * 0x00800000);
76
77         /* Start the timer, if we're asked to print this info*/
78         if (flags & BUSTER_PRINT_TICKS)
79                 ticks = start_timing();
80
81         /* Allocate num_pages (up to MAX_PAGES), to simulate doing some more
82          * realistic work.  Note we don't write to these pages, even if we pick
83          * unshared.  Mostly due to the inconvenience of having to match up the
84          * number of pages with the number of writes.  And it's unnecessary.
85          */
86         if (num_pages) {
87                 spin_lock(&buster_lock);
88                 for (int i = 0; i < MIN(num_pages, MAX_PAGES); i++) {
89                         upage_alloc(p, &a_page[i],1);
90                         page_insert(p->env_pgdir, a_page[i], (void*)INSERT_ADDR + PGSIZE*i,
91                                     PTE_USER_RW);
92                 }
93                 spin_unlock(&buster_lock);
94         }
95
96         if (flags & BUSTER_LOCKED)
97                 spin_lock(&buster_lock);
98         for (int i = 0; i < MIN(num_writes, MAX_WRITES); i=i+stride)
99                 buster[i] = 0xdeadbeef;
100         if (flags & BUSTER_LOCKED)
101                 spin_unlock(&buster_lock);
102
103         if (num_pages) {
104                 spin_lock(&buster_lock);
105                 for (int i = 0; i < MIN(num_pages, MAX_PAGES); i++) {
106                         page_remove(p->env_pgdir, (void*)(INSERT_ADDR + PGSIZE * i));
107                         page_decref(a_page[i]);
108                 }
109                 spin_unlock(&buster_lock);
110         }
111
112         /* Print info */
113         if (flags & BUSTER_PRINT_TICKS) {
114                 ticks = stop_timing(ticks);
115                 printk("%llu,", ticks);
116         }
117         return 0;
118 }
119
120 static int sys_cache_invalidate(void)
121 {
122         #ifdef __i386__
123                 wbinvd();
124         #endif
125         return 0;
126 }
127
128 /* sys_reboot(): called directly from dispatch table. */
129
130 // Print a string to the system console.
131 // The string is exactly 'len' characters long.
132 // Destroys the environment on memory errors.
133 static ssize_t sys_cputs(env_t* e, const char *DANGEROUS s, size_t len)
134 {
135         // Check that the user has permission to read memory [s, s+len).
136         // Destroy the environment if not.
137         char *COUNT(len) _s = user_mem_assert(e, s, len, PTE_USER_RO);
138
139         // Print the string supplied by the user.
140         printk("%.*s", len, _s);
141         return (ssize_t)len;
142 }
143
144 // Read a character from the system console.
145 // Returns the character.
146 static uint16_t sys_cgetc(env_t* e)
147 {
148         uint16_t c;
149
150         // The cons_getc() primitive doesn't wait for a character,
151         // but the sys_cgetc() system call does.
152         while ((c = cons_getc()) == 0)
153                 cpu_relax();
154
155         return c;
156 }
157
158 /* Returns the id of the cpu this syscall is executed on. */
159 static uint32_t sys_getcpuid(void)
160 {
161         return core_id();
162 }
163
164 // TODO: Temporary hack until thread-local storage is implemented on i386 and
165 // this is removed from the user interface
166 static size_t sys_getvcoreid(struct proc *p)
167 {
168         return proc_get_vcoreid(p, core_id());
169 }
170
171 /************** Process management syscalls **************/
172
173 /* Returns the calling process's pid */
174 static pid_t sys_getpid(struct proc *p)
175 {
176         return p->pid;
177 }
178
179 /*
180  * Creates a process found at the user string 'path'.  Currently uses KFS.
181  * Not runnable by default, so it needs it's status to be changed so that the
182  * next call to schedule() will try to run it.
183  * TODO: once we have a decent VFS, consider splitting this up
184  * and once there's an mmap, can have most of this in process.c
185  */
186 static int sys_proc_create(struct proc *p, const char *DANGEROUS path)
187 {
188         int pid = 0;
189         char tpath[MAX_PATH_LEN];
190         /*
191          * There's a bunch of issues with reading in the path, which we'll
192          * need to sort properly in the VFS.  Main concerns are TOCTOU (copy-in),
193          * whether or not it's a big deal that the pointer could be into kernel
194          * space, and resolving both of these without knowing the length of the
195          * string. (TODO)
196          * Change this so that all syscalls with a pointer take a length.
197          *
198          * zra: I've added this user_mem_strlcpy, which I think eliminates the
199      * the TOCTOU issue. Adding a length arg to this call would allow a more
200          * efficient implementation, though, since only one call to user_mem_check
201          * would be required.
202          */
203         int ret = user_mem_strlcpy(p,tpath, path, MAX_PATH_LEN, PTE_USER_RO);
204         int kfs_inode = kfs_lookup_path(tpath);
205         if (kfs_inode < 0)
206                 return -EINVAL;
207         struct proc *new_p = kfs_proc_create(kfs_inode);
208         pid = new_p->pid;
209         proc_decref(new_p, 1); // let go of the reference created in proc_create()
210         return pid;
211 }
212
213 /* Makes process PID runnable.  Consider moving the functionality to process.c */
214 static error_t sys_proc_run(struct proc *p, unsigned pid)
215 {
216         struct proc *target = pid2proc(pid);
217         error_t retval = 0;
218
219         if (!target)
220                 return -EBADPROC;
221         // note we can get interrupted here. it's not bad.
222         spin_lock(&p->proc_lock);
223         // make sure we have access and it's in the right state to be activated
224         if (!proc_controls(p, target)) {
225                 proc_decref(target, 1);
226                 retval = -EPERM;
227         } else if (target->state != PROC_CREATED) {
228                 proc_decref(target, 1);
229                 retval = -EINVAL;
230         } else {
231                 __proc_set_state(target, PROC_RUNNABLE_S);
232                 schedule_proc(target);
233         }
234         spin_unlock(&p->proc_lock);
235         proc_decref(target, 1);
236         return retval;
237 }
238
239 /* Destroy proc pid.  If this is called by the dying process, it will never
240  * return.  o/w it will return 0 on success, or an error.  Errors include:
241  * - EBADPROC: if there is no such process with pid
242  * - EPERM: if caller does not control pid */
243 static error_t sys_proc_destroy(struct proc *p, pid_t pid, int exitcode)
244 {
245         error_t r;
246         struct proc *p_to_die = pid2proc(pid);
247
248         if (!p_to_die) {
249                 set_errno(current_tf, ESRCH);
250                 return -1;
251         }
252 #ifndef __CONFIG_EXPER_TRADPROC__
253         if (!proc_controls(p, p_to_die)) {
254                 proc_decref(p_to_die, 1);
255                 set_errno(current_tf, EPERM);
256                 return -1;
257         }
258         if (p_to_die == p) {
259 #else
260         if ((p_to_die == p) || (p_to_die == p->true_proc)) {
261 #endif /* __CONFIG_EXPER_TRADPROC__ */
262                 // syscall code and pid2proc both have edible references, only need 1.
263                 p->exitcode = exitcode;
264                 proc_decref(p, 1);
265                 printd("[PID %d] proc exiting gracefully (code %d)\n", p->pid,exitcode);
266         } else {
267                 printd("[%d] destroying proc %d\n", p->pid, p_to_die->pid);
268         }
269         proc_destroy(p_to_die);
270         proc_decref(p_to_die, 1);
271         return ESUCCESS;
272 }
273
274 static int sys_proc_yield(struct proc *p, bool being_nice)
275 {
276         proc_yield(p, being_nice);
277         return 0;
278 }
279
280 static ssize_t sys_run_binary(env_t* e, void *DANGEROUS binary_buf, size_t len,
281                               procinfo_t*DANGEROUS procinfo, size_t num_colors)
282 {
283         env_t* env = proc_create(NULL,0);
284         assert(env != NULL);
285
286         // let me know if you use this.  we need to sort process creation better.
287         printk("sys_run_binary() is deprecated.  Use at your own risk.");
288         if(memcpy_from_user(e,e->procinfo,procinfo,sizeof(*procinfo)))
289                 return -1;
290         proc_init_procinfo(e);
291
292         env_load_icode(env,e,binary_buf,len);
293         __proc_set_state(env, PROC_RUNNABLE_S);
294         schedule_proc(env);
295         if(num_colors > 0) {
296                 env->cache_colors_map = cache_colors_map_alloc();
297                 for(int i=0; i<num_colors; i++)
298                         cache_color_alloc(llc_cache, env->cache_colors_map);
299         }
300         proc_decref(env, 1);
301         proc_yield(e, 0);
302         return 0;
303 }
304
305 static ssize_t sys_fork(env_t* e)
306 {
307         // TODO: right now we only support fork for single-core processes
308         if(e->state != PROC_RUNNING_S)
309         {
310                 set_errno(current_tf,EINVAL);
311                 return -1;
312         }
313
314         env_t* env = proc_create(NULL,0);
315         assert(env != NULL);
316
317         env->heap_top = e->heap_top;
318         env->ppid = e->pid;
319         env->env_tf = *current_tf;
320
321         env->cache_colors_map = cache_colors_map_alloc();
322         for(int i=0; i < llc_cache->num_colors; i++)
323                 if(GET_BITMASK_BIT(e->cache_colors_map,i))
324                         cache_color_alloc(llc_cache, env->cache_colors_map);
325
326         int copy_page(env_t* e, pte_t* pte, void* va, void* arg)
327         {
328                 env_t* env = (env_t*)arg;
329
330                 if(PAGE_PRESENT(*pte))
331                 {
332                         page_t* pp;
333                         if(upage_alloc(env,&pp,0))
334                                 return -1;
335                         if(page_insert(env->env_pgdir,pp,va,*pte & PTE_PERM))
336                         {
337                                 page_decref(pp);
338                                 return -1;
339                         }
340
341                         pagecopy(page2kva(pp),ppn2kva(PTE2PPN(*pte)));
342                 }
343                 else // PAGE_PAGED_OUT(*pte)
344                 {
345                         pte_t* newpte = pgdir_walk(env->env_pgdir,va,1);
346                         if(!newpte)
347                                 return -1;
348
349                         struct file* file = PTE2PFAULT_INFO(*pte)->file;
350                         pfault_info_t* newpfi = pfault_info_alloc(file);
351                         if(!newpfi)
352                                 return -1;
353
354                         *newpfi = *PTE2PFAULT_INFO(*pte);
355                         *newpte = PFAULT_INFO2PTE(newpfi);
356                 }
357
358                 return 0;
359         }
360
361         // TODO: (PC) this won't work.  Needs revisiting.
362         // copy procdata and procinfo
363         memcpy(env->procdata,e->procdata,sizeof(struct procdata));
364         memcpy(env->procinfo,e->procinfo,sizeof(struct procinfo));
365         env->procinfo->pid = env->pid;
366         env->procinfo->ppid = env->ppid;
367
368         // copy all memory below procdata
369         if(env_user_mem_walk(e,0,UDATA,&copy_page,env))
370         {
371                 proc_decref(env,2);
372                 set_errno(current_tf,ENOMEM);
373                 return -1;
374         }
375
376         __proc_set_state(env, PROC_RUNNABLE_S);
377         schedule_proc(env);
378
379         // don't decref the new process.
380         // that will happen when the parent waits for it.
381
382         printd("[PID %d] fork PID %d\n",e->pid,env->pid);
383
384         return env->pid;
385 }
386
387 intreg_t sys_exec(struct proc* p, int fd, procinfo_t* pi)
388 {
389         if(p->state != PROC_RUNNING_S)
390                 return -1;
391
392         int ret = -1;
393         struct file* f = file_open_from_fd(p,fd);
394         if(f == NULL) {
395                 set_errno(current_tf, EBADF);
396                 goto out;
397         }
398
399         // Set the argument stuff needed by glibc
400         if(memcpy_from_user(p,p->procinfo->argp,pi->argp,sizeof(pi->argp))) {
401                 proc_destroy(p);
402                 goto out;
403         }
404         if(memcpy_from_user(p,p->procinfo->argbuf,pi->argbuf,sizeof(pi->argbuf))) {
405                 proc_destroy(p);
406                 goto out;
407         }
408
409         // TODO: don't do this either (PC)
410         memset(p->procdata, 0, sizeof(procdata_t));
411
412         env_user_mem_free(p,0,USTACKTOP);
413
414         if(load_elf(p,f))
415         {
416                 proc_destroy(p);
417                 goto out;
418         }
419         file_decref(f);
420         *current_tf = p->env_tf;
421         ret = 0;
422
423         printd("[PID %d] exec fd %d\n",p->pid,fd);
424
425 out:
426         return ret;
427 }
428
429 static ssize_t sys_trywait(env_t* e, pid_t pid, int* status)
430 {
431         struct proc* p = pid2proc(pid);
432
433         // TODO: this syscall is racy, so we only support for single-core procs
434         if(e->state != PROC_RUNNING_S)
435                 return -1;
436
437         // TODO: need to use errno properly.  sadly, ROS error codes conflict..
438
439         if(p)
440         {
441                 ssize_t ret;
442
443                 if(current->pid == p->ppid)
444                 {
445                         if(p->state == PROC_DYING)
446                         {
447                                 memcpy_to_user(e,status,&p->exitcode,sizeof(int));
448                                 printd("[PID %d] waited for PID %d (code %d)\n",
449                                        e->pid,p->pid,p->exitcode);
450                                 ret = 0;
451                         }
452                         else // not dead yet
453                         {
454                                 set_errno(current_tf,0);
455                                 ret = -1;
456                         }
457                 }
458                 else // not a child of the calling process
459                 {
460                         set_errno(current_tf,1);
461                         ret = -1;
462                 }
463
464                 // if the wait succeeded, decref twice
465                 proc_decref(p,1 + (ret == 0));
466                 return ret;
467         }
468
469         set_errno(current_tf,1);
470         return -1;
471 }
472
473 /************** Memory Management Syscalls **************/
474
475 static void *sys_mmap(struct proc* p, uintreg_t a1, uintreg_t a2, uintreg_t a3,
476                       uintreg_t* a456)
477 {
478         uintreg_t _a456[3];
479         if(memcpy_from_user(p,_a456,a456,3*sizeof(uintreg_t)))
480                 sys_proc_destroy(p,p->pid,-1);
481         return mmap(p,a1,a2,a3,_a456[0],_a456[1],_a456[2]);
482 }
483
484 static intreg_t sys_mprotect(struct proc* p, void* addr, size_t len, int prot)
485 {
486         return mprotect(p, addr, len, prot);
487 }
488
489 static intreg_t sys_munmap(struct proc* p, void* addr, size_t len)
490 {
491         return munmap(p, addr, len);
492 }
493
494 static void* sys_brk(struct proc *p, void* addr) {
495         ssize_t range;
496
497 #ifdef __CONFIG_EXPER_TRADPROC__
498         printk("[kernel] don't use brk, unsupported.\n");
499         return (void*)-1;
500 #endif /* __CONFIG_EXPER_TRADPROC__ */
501
502         spin_lock(&p->proc_lock);
503
504         if((addr < p->procinfo->heap_bottom) || (addr >= (void*)BRK_END))
505                 goto out;
506
507         uintptr_t real_heap_top = ROUNDUP((uintptr_t)p->heap_top,PGSIZE);
508         uintptr_t real_new_heap_top = ROUNDUP((uintptr_t)addr,PGSIZE);
509         range = real_new_heap_top - real_heap_top;
510
511         if (range > 0) {
512                 if(__do_mmap(p, real_heap_top, range, PROT_READ | PROT_WRITE,
513                              MAP_FIXED | MAP_ANONYMOUS, NULL, 0) == MAP_FAILED)
514                         goto out;
515         }
516         else if (range < 0) {
517                 if(__munmap(p, (void*)real_new_heap_top, -range))
518                         goto out;
519         }
520         p->heap_top = addr;
521
522 out:
523         spin_unlock(&p->proc_lock);
524         return p->heap_top;
525 }
526
527 static ssize_t sys_shared_page_alloc(env_t* p1,
528                                      void**DANGEROUS _addr, pid_t p2_id,
529                                      int p1_flags, int p2_flags
530                                     )
531 {
532         //if (!VALID_USER_PERMS(p1_flags)) return -EPERM;
533         //if (!VALID_USER_PERMS(p2_flags)) return -EPERM;
534
535         void * COUNT(1) * COUNT(1) addr = user_mem_assert(p1, _addr, sizeof(void *),
536                                                       PTE_USER_RW);
537         struct proc *p2 = pid2proc(p2_id);
538         if (!p2)
539                 return -EBADPROC;
540
541         page_t* page;
542         error_t e = upage_alloc(p1, &page,1);
543         if (e < 0) {
544                 proc_decref(p2, 1);
545                 return e;
546         }
547
548         void* p2_addr = page_insert_in_range(p2->env_pgdir, page,
549                         (void*SNT)UTEXT, (void*SNT)UTOP, p2_flags);
550         if (p2_addr == NULL) {
551                 page_free(page);
552                 proc_decref(p2, 1);
553                 return -EFAIL;
554         }
555
556         void* p1_addr = page_insert_in_range(p1->env_pgdir, page,
557                         (void*SNT)UTEXT, (void*SNT)UTOP, p1_flags);
558         if(p1_addr == NULL) {
559                 page_remove(p2->env_pgdir, p2_addr);
560                 page_free(page);
561                 proc_decref(p2, 1);
562                 return -EFAIL;
563         }
564         *addr = p1_addr;
565         proc_decref(p2, 1);
566         return ESUCCESS;
567 }
568
569 static int sys_shared_page_free(env_t* p1, void*DANGEROUS addr, pid_t p2)
570 {
571         return -1;
572 }
573
574
575 /* sys_resource_req(): called directly from dispatch table. */
576
577 /* Will notify the target on the given vcore, if the caller controls the target.
578  * Will honor the target's wanted/vcoreid.  u_ne can be NULL. */
579 static int sys_notify(struct proc *p, int target_pid, unsigned int notif,
580                       struct notif_event *u_ne)
581 {
582         struct notif_event local_ne;
583         struct proc *target = pid2proc(target_pid);
584
585         if (!target) {
586                 set_errno(current_tf, EBADPROC);
587                 return -1;
588         }
589         if (!proc_controls(p, target)) {
590                 proc_decref(target, 1);
591                 set_errno(current_tf, EPERM);
592                 return -1;
593         }
594         /* if the user provided a notif_event, copy it in and use that */
595         if (u_ne) {
596                 if (memcpy_from_user(p, &local_ne, u_ne, sizeof(struct notif_event))) {
597                         proc_decref(target, 1);
598                         set_errno(current_tf, EINVAL);
599                         return -1;
600                 }
601                 proc_notify(target, local_ne.ne_type, &local_ne);
602         } else {
603                 proc_notify(target, notif, 0);
604         }
605         proc_decref(target, 1);
606         return 0;
607 }
608
609 /* Will notify the calling process on the given vcore, independently of WANTED
610  * or advertised vcoreid.  If you change the parameters, change pop_ros_tf() */
611 static int sys_self_notify(struct proc *p, uint32_t vcoreid, unsigned int notif,
612                            struct notif_event *u_ne)
613 {
614         struct notif_event local_ne;
615
616         printd("[kernel] received self notify for vcoreid %d, notif %d, ne %08p\n",
617                vcoreid, notif, u_ne);
618         /* if the user provided a notif_event, copy it in and use that */
619         if (u_ne) {
620                 if (memcpy_from_user(p, &local_ne, u_ne, sizeof(struct notif_event))) {
621                         set_errno(current_tf, EINVAL);
622                         return -1;
623                 }
624                 do_notify(p, vcoreid, local_ne.ne_type, &local_ne);
625         } else {
626                 do_notify(p, vcoreid, notif, 0);
627         }
628         return 0;
629 }
630
631 /* This will set a local timer for usec, then shut down the core */
632 static int sys_halt_core(struct proc *p, unsigned int usec)
633 {
634         /* TODO: ought to check and see if a timer was already active, etc, esp so
635          * userspace can't turn off timers.  also note we will also call whatever
636          * timer_interrupt() will do, though all we care about is just
637          * self_ipi/interrupting. */
638         set_core_timer(usec);
639         cpu_halt();
640
641         return 0;
642 }
643
644 /************** Platform Specific Syscalls **************/
645
646 //Read a buffer over the serial port
647 static ssize_t sys_serial_read(env_t* e, char *DANGEROUS _buf, size_t len)
648 {
649         if (len == 0)
650                 return 0;
651
652         #ifdef __CONFIG_SERIAL_IO__
653             char *COUNT(len) buf = user_mem_assert(e, _buf, len, PTE_USER_RO);
654                 size_t bytes_read = 0;
655                 int c;
656                 while((c = serial_read_byte()) != -1) {
657                         buf[bytes_read++] = (uint8_t)c;
658                         if(bytes_read == len) break;
659                 }
660                 return (ssize_t)bytes_read;
661         #else
662                 return -EINVAL;
663         #endif
664 }
665
666 //Write a buffer over the serial port
667 static ssize_t sys_serial_write(env_t* e, const char *DANGEROUS buf, size_t len)
668 {
669         if (len == 0)
670                 return 0;
671         #ifdef __CONFIG_SERIAL_IO__
672                 char *COUNT(len) _buf = user_mem_assert(e, buf, len, PTE_USER_RO);
673                 for(int i =0; i<len; i++)
674                         serial_send_byte(buf[i]);
675                 return (ssize_t)len;
676         #else
677                 return -EINVAL;
678         #endif
679 }
680
681 #ifdef __CONFIG_NETWORKING__
682 // This is not a syscall we want. Its hacky. Here just for syscall stuff until get a stack.
683 static ssize_t sys_eth_read(env_t* e, char *DANGEROUS buf)
684 {
685         if (eth_up) {
686
687                 uint32_t len;
688                 char *ptr;
689
690                 spin_lock(&packet_buffers_lock);
691
692                 if (num_packet_buffers == 0) {
693                         spin_unlock(&packet_buffers_lock);
694                         return 0;
695                 }
696
697                 ptr = packet_buffers[packet_buffers_head];
698                 len = packet_buffers_sizes[packet_buffers_head];
699
700                 num_packet_buffers--;
701                 packet_buffers_head = (packet_buffers_head + 1) % MAX_PACKET_BUFFERS;
702
703                 spin_unlock(&packet_buffers_lock);
704
705                 char* _buf = user_mem_assert(e, buf, len, PTE_U);
706
707                 memcpy(_buf, ptr, len);
708
709                 kfree(ptr);
710
711                 return len;
712         }
713         else
714                 return -EINVAL;
715 }
716
717 // This is not a syscall we want. Its hacky. Here just for syscall stuff until get a stack.
718 static ssize_t sys_eth_write(env_t* e, const char *DANGEROUS buf, size_t len)
719 {
720         if (eth_up) {
721
722                 if (len == 0)
723                         return 0;
724
725                 // HACK TO BYPASS HACK
726                 int just_sent = send_frame(buf, len);
727
728                 if (just_sent < 0) {
729                         printk("Packet send fail\n");
730                         return 0;
731                 }
732
733                 return just_sent;
734
735                 // END OF RECURSIVE HACK
736 /*
737                 char *COUNT(len) _buf = user_mem_assert(e, buf, len, PTE_U);
738                 int total_sent = 0;
739                 int just_sent = 0;
740                 int cur_packet_len = 0;
741                 while (total_sent != len) {
742                         cur_packet_len = ((len - total_sent) > MTU) ? MTU : (len - total_sent);
743                         char dest_mac[6] = APPSERVER_MAC_ADDRESS;
744                         char* wrap_buffer = eth_wrap(_buf + total_sent, cur_packet_len, device_mac, dest_mac, APPSERVER_PORT);
745                         just_sent = send_frame(wrap_buffer, cur_packet_len + sizeof(struct ETH_Header));
746
747                         if (just_sent < 0)
748                                 return 0; // This should be an error code of its own
749
750                         if (wrap_buffer)
751                                 kfree(wrap_buffer);
752
753                         total_sent += cur_packet_len;
754                 }
755
756                 return (ssize_t)len;
757 */
758         }
759         else
760                 return -EINVAL;
761 }
762
763 static ssize_t sys_eth_get_mac_addr(env_t* e, char *DANGEROUS buf) 
764 {
765         if (eth_up) {
766                 for (int i = 0; i < 6; i++)
767                         buf[i] = device_mac[i];
768                 return 0;
769         }
770         else
771                 return -EINVAL;
772 }
773
774 static int sys_eth_recv_check(env_t* e) 
775 {
776         if (num_packet_buffers != 0) 
777                 return 1;
778         else
779                 return 0;
780 }
781
782 #endif // Network
783
784 // Syscalls below here are serviced by the appserver for now.
785 #define ufe(which,a0,a1,a2,a3) \
786         frontend_syscall_errno(p,APPSERVER_SYSCALL_##which,\
787                            (int)(a0),(int)(a1),(int)(a2),(int)(a3))
788
789 intreg_t sys_write(struct proc* p, int fd, const void* buf, int len)
790 {
791         int ret = 0;
792         void* kbuf = user_memdup_errno(p,buf,len);
793         if(kbuf == NULL)
794                 return -1;
795 #ifndef __CONFIG_APPSERVER__
796         /* Catch a common usage of stderr */
797         if (fd == 2) {
798                 ((char*)kbuf)[len-1] = 0;
799                 printk("[stderr]: %s\n", kbuf);
800                 ret = len;
801         } else { // but warn/panic otherwise in ufe()
802                 ret = ufe(write, fd, PADDR(kbuf), len, 0);
803         }
804 #else
805         ret = ufe(write, fd, PADDR(kbuf), len, 0);
806 #endif
807         user_memdup_free(p,kbuf);
808         return ret;
809 }
810
811 intreg_t sys_read(struct proc* p, int fd, void* buf, int len)
812 {
813         void* kbuf = kmalloc_errno(len);
814         if(kbuf == NULL)
815                 return -1;
816         int ret = ufe(read,fd,PADDR(kbuf),len,0);
817         if(ret != -1 && memcpy_to_user_errno(p,buf,kbuf,len))
818                 ret = -1;
819         user_memdup_free(p,kbuf);
820         return ret;
821 }
822
823 intreg_t sys_pwrite(struct proc* p, int fd, const void* buf, int len, int offset)
824 {
825         void* kbuf = user_memdup_errno(p,buf,len);
826         if(kbuf == NULL)
827                 return -1;
828         int ret = ufe(pwrite,fd,PADDR(kbuf),len,offset);
829         user_memdup_free(p,kbuf);
830         return ret;
831 }
832
833 intreg_t sys_pread(struct proc* p, int fd, void* buf, int len, int offset)
834 {
835         void* kbuf = kmalloc_errno(len);
836         if(kbuf == NULL)
837                 return -1;
838         int ret = ufe(pread,fd,PADDR(kbuf),len,offset);
839         if(ret != -1 && memcpy_to_user_errno(p,buf,kbuf,len))
840                 ret = -1;
841         user_memdup_free(p,kbuf);
842         return ret;
843 }
844
845 intreg_t sys_open(struct proc* p, const char* path, int oflag, int mode)
846 {
847         printd("File Open, p: %p, path: %s, oflag: %d, mode: 0x%x\n", p, path, oflag, mode);
848         char* fn = user_strdup_errno(p,path,PGSIZE);
849         if(fn == NULL) {
850                 printd("File Open, user_strdup_errno failed\n");
851                 return -1;
852         }
853         printd("File Open, About to open\n");
854         int ret = ufe(open,PADDR(fn),oflag,mode,0);
855         printd("File Open, res=%d\n", ret);
856         user_memdup_free(p,fn);
857         return ret;
858 }
859 intreg_t sys_close(struct proc* p, int fd)
860 {
861         return ufe(close,fd,0,0,0);
862 }
863
864 #define NEWLIB_STAT_SIZE 64
865 intreg_t sys_fstat(struct proc* p, int fd, void* buf)
866 {
867         int *kbuf = kmalloc(NEWLIB_STAT_SIZE, 0);
868         int ret = ufe(fstat,fd,PADDR(kbuf),0,0);
869         if(ret != -1 && memcpy_to_user_errno(p,buf,kbuf,NEWLIB_STAT_SIZE))
870                 ret = -1;
871         kfree(kbuf);
872         return ret;
873 }
874
875 intreg_t sys_stat(struct proc* p, const char* path, void* buf)
876 {
877         char* fn = user_strdup_errno(p,path,PGSIZE);
878         if(fn == NULL)
879                 return -1;
880
881         int *kbuf = kmalloc(NEWLIB_STAT_SIZE, 0);
882         int ret = ufe(stat,PADDR(fn),PADDR(kbuf),0,0);
883         if(ret != -1 && memcpy_to_user_errno(p,buf,kbuf,NEWLIB_STAT_SIZE))
884                 ret = -1;
885
886         user_memdup_free(p,fn);
887         kfree(kbuf);
888         return ret;
889 }
890
891 intreg_t sys_lstat(struct proc* p, const char* path, void* buf)
892 {
893         char* fn = user_strdup_errno(p,path,PGSIZE);
894         if(fn == NULL)
895                 return -1;
896
897         int *kbuf = kmalloc(NEWLIB_STAT_SIZE, 0);
898         int ret = ufe(lstat,PADDR(fn),PADDR(kbuf),0,0);
899         if(ret != -1 && memcpy_to_user_errno(p,buf,kbuf,NEWLIB_STAT_SIZE))
900                 ret = -1;
901
902         user_memdup_free(p,fn);
903         kfree(kbuf);
904         return ret;
905 }
906
907 intreg_t sys_fcntl(struct proc* p, int fd, int cmd, int arg)
908 {
909         return ufe(fcntl,fd,cmd,arg,0);
910 }
911
912 intreg_t sys_access(struct proc* p, const char* path, int type)
913 {
914         char* fn = user_strdup_errno(p,path,PGSIZE);
915         if(fn == NULL)
916                 return -1;
917         int ret = ufe(access,PADDR(fn),type,0,0);
918         user_memdup_free(p,fn);
919         return ret;
920 }
921
922 intreg_t sys_umask(struct proc* p, int mask)
923 {
924         return ufe(umask,mask,0,0,0);
925 }
926
927 intreg_t sys_chmod(struct proc* p, const char* path, int mode)
928 {
929         char* fn = user_strdup_errno(p,path,PGSIZE);
930         if(fn == NULL)
931                 return -1;
932         int ret = ufe(chmod,PADDR(fn),mode,0,0);
933         user_memdup_free(p,fn);
934         return ret;
935 }
936
937 intreg_t sys_lseek(struct proc* p, int fd, int offset, int whence)
938 {
939         return ufe(lseek,fd,offset,whence,0);
940 }
941
942 intreg_t sys_link(struct proc* p, const char* _old, const char* _new)
943 {
944         char* oldpath = user_strdup_errno(p,_old,PGSIZE);
945         if(oldpath == NULL)
946                 return -1;
947
948         char* newpath = user_strdup_errno(p,_new,PGSIZE);
949         if(newpath == NULL)
950         {
951                 user_memdup_free(p,oldpath);
952                 return -1;
953         }
954
955         int ret = ufe(link,PADDR(oldpath),PADDR(newpath),0,0);
956         user_memdup_free(p,oldpath);
957         user_memdup_free(p,newpath);
958         return ret;
959 }
960
961 intreg_t sys_unlink(struct proc* p, const char* path)
962 {
963         char* fn = user_strdup_errno(p,path,PGSIZE);
964         if(fn == NULL)
965                 return -1;
966         int ret = ufe(unlink,PADDR(fn),0,0,0);
967         user_memdup_free(p,fn);
968         return ret;
969 }
970
971 intreg_t sys_chdir(struct proc* p, const char* path)
972 {
973         char* fn = user_strdup_errno(p,path,PGSIZE);
974         if(fn == NULL)
975                 return -1;
976         int ret = ufe(chdir,PADDR(fn),0,0,0);
977         user_memdup_free(p,fn);
978         return ret;
979 }
980
981 intreg_t sys_getcwd(struct proc* p, char* pwd, int size)
982 {
983         void* kbuf = kmalloc_errno(size);
984         if(kbuf == NULL)
985                 return -1;
986         int ret = ufe(read,PADDR(kbuf),size,0,0);
987         if(ret != -1 && memcpy_to_user_errno(p,pwd,kbuf,strnlen(kbuf,size)))
988                 ret = -1;
989         user_memdup_free(p,kbuf);
990         return ret;
991 }
992
993 intreg_t sys_gettimeofday(struct proc* p, int* buf)
994 {
995         static spinlock_t gtod_lock = SPINLOCK_INITIALIZER;
996         static int t0 = 0;
997
998         spin_lock(&gtod_lock);
999         if(t0 == 0)
1000 #ifdef __CONFIG_APPSERVER__
1001                 t0 = ufe(time,0,0,0,0);
1002 #else
1003                 // Nanwan's birthday, bitches!!
1004                 t0 = 1242129600;
1005 #endif 
1006         spin_unlock(&gtod_lock);
1007
1008         long long dt = read_tsc();
1009         int kbuf[2] = {t0+dt/system_timing.tsc_freq,
1010             (dt%system_timing.tsc_freq)*1000000/system_timing.tsc_freq};
1011
1012         return memcpy_to_user_errno(p,buf,kbuf,sizeof(kbuf));
1013 }
1014
1015 #define SIZEOF_STRUCT_TERMIOS 60
1016 intreg_t sys_tcgetattr(struct proc* p, int fd, void* termios_p)
1017 {
1018         int* kbuf = kmalloc(SIZEOF_STRUCT_TERMIOS,0);
1019         int ret = ufe(tcgetattr,fd,PADDR(kbuf),0,0);
1020         if(ret != -1 && memcpy_to_user_errno(p,termios_p,kbuf,SIZEOF_STRUCT_TERMIOS))
1021                 ret = -1;
1022         kfree(kbuf);
1023         return ret;
1024 }
1025
1026 intreg_t sys_tcsetattr(struct proc* p, int fd, int optional_actions, const void* termios_p)
1027 {
1028         void* kbuf = user_memdup_errno(p,termios_p,SIZEOF_STRUCT_TERMIOS);
1029         if(kbuf == NULL)
1030                 return -1;
1031         int ret = ufe(tcsetattr,fd,optional_actions,PADDR(kbuf),0);
1032         user_memdup_free(p,kbuf);
1033         return ret;
1034 }
1035
1036 intreg_t sys_fillmeup(struct proc *p, uint8_t *bufs, 
1037                       uint16_t num_bufs, int16_t *last_written)
1038 {
1039 #if defined(__CONFIG_OSDI__) && defined(__CONFIG_NETWORKING__)
1040         extern struct fillmeup fillmeup_data;
1041         fillmeup_data.proc = p;
1042         fillmeup_data.bufs = bufs;
1043         fillmeup_data.num_bufs = num_bufs;
1044         fillmeup_data.last_written = last_written;
1045         *last_written = -1;
1046         return 0;
1047 #else
1048         return -1;
1049 #endif
1050 }
1051
1052 /************** Syscall Invokation **************/
1053
1054 /* Executes the given syscall.
1055  *
1056  * Note tf is passed in, which points to the tf of the context on the kernel
1057  * stack.  If any syscall needs to block, it needs to save this info, as well as
1058  * any silly state.
1059  *
1060  * TODO: Build a dispatch table instead of switching on the syscallno
1061  * Dispatches to the correct kernel function, passing the arguments.
1062  */
1063 intreg_t syscall(struct proc *p, uintreg_t syscallno, uintreg_t a1,
1064                  uintreg_t a2, uintreg_t a3, uintreg_t a4, uintreg_t a5)
1065 {
1066         // Initialize the return value and error code returned to 0
1067         proc_set_syscall_retval(current_tf, 0);
1068         set_errno(current_tf,0);
1069
1070         typedef intreg_t (*syscall_t)(struct proc*,uintreg_t,uintreg_t,
1071                                       uintreg_t,uintreg_t,uintreg_t);
1072
1073         const static syscall_t syscall_table[] = {
1074                 [SYS_null] = (syscall_t)sys_null,
1075                 [SYS_cache_buster] = (syscall_t)sys_cache_buster,
1076                 [SYS_cache_invalidate] = (syscall_t)sys_cache_invalidate,
1077                 [SYS_reboot] = (syscall_t)reboot,
1078                 [SYS_cputs] = (syscall_t)sys_cputs,
1079                 [SYS_cgetc] = (syscall_t)sys_cgetc,
1080                 [SYS_getcpuid] = (syscall_t)sys_getcpuid,
1081                 [SYS_getvcoreid] = (syscall_t)sys_getvcoreid,
1082                 [SYS_getpid] = (syscall_t)sys_getpid,
1083                 [SYS_proc_create] = (syscall_t)sys_proc_create,
1084                 [SYS_proc_run] = (syscall_t)sys_proc_run,
1085                 [SYS_proc_destroy] = (syscall_t)sys_proc_destroy,
1086                 [SYS_yield] = (syscall_t)sys_proc_yield,
1087                 [SYS_run_binary] = (syscall_t)sys_run_binary,
1088                 [SYS_fork] = (syscall_t)sys_fork,
1089                 [SYS_exec] = (syscall_t)sys_exec,
1090                 [SYS_trywait] = (syscall_t)sys_trywait,
1091                 [SYS_mmap] = (syscall_t)sys_mmap,
1092                 [SYS_munmap] = (syscall_t)sys_munmap,
1093                 [SYS_mprotect] = (syscall_t)sys_mprotect,
1094                 [SYS_brk] = (syscall_t)sys_brk,
1095                 [SYS_shared_page_alloc] = (syscall_t)sys_shared_page_alloc,
1096                 [SYS_shared_page_free] = (syscall_t)sys_shared_page_free,
1097                 [SYS_resource_req] = (syscall_t)resource_req,
1098                 [SYS_notify] = (syscall_t)sys_notify,
1099                 [SYS_self_notify] = (syscall_t)sys_self_notify,
1100                 [SYS_halt_core] = (syscall_t)sys_halt_core,
1101         #ifdef __CONFIG_SERIAL_IO__
1102                 [SYS_serial_read] = (syscall_t)sys_serial_read,
1103                 [SYS_serial_write] = (syscall_t)sys_serial_write,
1104         #endif
1105         #ifdef __CONFIG_NETWORKING__
1106                 [SYS_eth_read] = (syscall_t)sys_eth_read,
1107                 [SYS_eth_write] = (syscall_t)sys_eth_write,
1108                 [SYS_eth_get_mac_addr] = (syscall_t)sys_eth_get_mac_addr,
1109                 [SYS_eth_recv_check] = (syscall_t)sys_eth_recv_check,
1110         #endif
1111         #ifdef __CONFIG_OSDI__
1112                 [SYS_fillmeup] = (syscall_t)sys_fillmeup,
1113         #endif
1114                 // Syscalls serviced by the appserver for now.
1115                 [SYS_read] = (syscall_t)sys_read,
1116                 [SYS_write] = (syscall_t)sys_write,
1117                 [SYS_open] = (syscall_t)sys_open,
1118                 [SYS_close] = (syscall_t)sys_close,
1119                 [SYS_fstat] = (syscall_t)sys_fstat,
1120                 [SYS_stat] = (syscall_t)sys_stat,
1121                 [SYS_lstat] = (syscall_t)sys_lstat,
1122                 [SYS_fcntl] = (syscall_t)sys_fcntl,
1123                 [SYS_access] = (syscall_t)sys_access,
1124                 [SYS_umask] = (syscall_t)sys_umask,
1125                 [SYS_chmod] = (syscall_t)sys_chmod,
1126                 [SYS_lseek] = (syscall_t)sys_lseek,
1127                 [SYS_link] = (syscall_t)sys_link,
1128                 [SYS_unlink] = (syscall_t)sys_unlink,
1129                 [SYS_chdir] = (syscall_t)sys_chdir,
1130                 [SYS_getcwd] = (syscall_t)sys_getcwd,
1131                 [SYS_gettimeofday] = (syscall_t)sys_gettimeofday,
1132                 [SYS_tcgetattr] = (syscall_t)sys_tcgetattr,
1133                 [SYS_tcsetattr] = (syscall_t)sys_tcsetattr
1134         };
1135
1136         const int max_syscall = sizeof(syscall_table)/sizeof(syscall_table[0]);
1137
1138         //printk("Incoming syscall on core: %d number: %d\n    a1: %x\n   "
1139         //       " a2: %x\n    a3: %x\n    a4: %x\n    a5: %x\n", core_id(),
1140         //       syscallno, a1, a2, a3, a4, a5);
1141
1142         if(syscallno > max_syscall || syscall_table[syscallno] == NULL)
1143                 panic("Invalid syscall number %d for proc %x!", syscallno, *p);
1144
1145         return syscall_table[syscallno](p,a1,a2,a3,a4,a5);
1146 }
1147
1148 intreg_t syscall_async(struct proc *p, syscall_req_t *call)
1149 {
1150         return syscall(p, call->num, call->args[0], call->args[1],
1151                        call->args[2], call->args[3], call->args[4]);
1152 }
1153
1154 /* You should already have a refcnt'd ref to p before calling this */
1155 intreg_t process_generic_syscalls(struct proc *p, size_t max)
1156 {
1157         size_t count = 0;
1158         syscall_back_ring_t* sysbr = &p->syscallbackring;
1159
1160         /* make sure the proc is still alive, and keep it from dying from under us
1161          * incref will return ESUCCESS on success.  This might need some thought
1162          * regarding when the incref should have happened (like by whoever passed us
1163          * the *p). */
1164         // TODO: ought to be unnecessary, if you called this right, kept here for
1165         // now in case anyone actually uses the ARSCs.
1166         proc_incref(p, 1);
1167
1168         // max is the most we'll process.  max = 0 means do as many as possible
1169         while (RING_HAS_UNCONSUMED_REQUESTS(sysbr) && ((!max)||(count < max)) ) {
1170                 if (!count) {
1171                         // ASSUME: one queue per process
1172                         // only switch cr3 for the very first request for this queue
1173                         // need to switch to the right context, so we can handle the user pointer
1174                         // that points to a data payload of the syscall
1175                         lcr3(p->env_cr3);
1176                 }
1177                 count++;
1178                 //printk("DEBUG PRE: sring->req_prod: %d, sring->rsp_prod: %d\n",
1179                 //         sysbr->sring->req_prod, sysbr->sring->rsp_prod);
1180                 // might want to think about 0-ing this out, if we aren't
1181                 // going to explicitly fill in all fields
1182                 syscall_rsp_t rsp;
1183                 // this assumes we get our answer immediately for the syscall.
1184                 syscall_req_t* req = RING_GET_REQUEST(sysbr, ++(sysbr->req_cons));
1185                 rsp.retval = syscall_async(p, req);
1186                 // write response into the slot it came from
1187                 memcpy(req, &rsp, sizeof(syscall_rsp_t));
1188                 // update our counter for what we've produced (assumes we went in order!)
1189                 (sysbr->rsp_prod_pvt)++;
1190                 RING_PUSH_RESPONSES(sysbr);
1191                 //printk("DEBUG POST: sring->req_prod: %d, sring->rsp_prod: %d\n",
1192                 //         sysbr->sring->req_prod, sysbr->sring->rsp_prod);
1193         }
1194         // load sane page tables (and don't rely on decref to do it for you).
1195         lcr3(boot_cr3);
1196         proc_decref(p, 1);
1197         return (intreg_t)count;
1198 }
1199