Implement save/restore_fp_state for RISC-V
[akaros.git] / kern / arch / riscv / env.c
1 #include <trap.h>
2 #include <env.h>
3 #include <assert.h>
4 #include <arch/arch.h>
5 #include <pmap.h>
6
7 void
8 save_fp_state(ancillary_state_t* silly)
9 {
10         uintptr_t sr = enable_fp();
11         uint32_t fsr = read_fsr();
12
13         asm("fsd f0,%0" : "=m"(silly->fpr[0]));
14         asm("fsd f1,%0" : "=m"(silly->fpr[1]));
15         asm("fsd f2,%0" : "=m"(silly->fpr[2]));
16         asm("fsd f3,%0" : "=m"(silly->fpr[3]));
17         asm("fsd f4,%0" : "=m"(silly->fpr[4]));
18         asm("fsd f5,%0" : "=m"(silly->fpr[5]));
19         asm("fsd f6,%0" : "=m"(silly->fpr[6]));
20         asm("fsd f7,%0" : "=m"(silly->fpr[7]));
21         asm("fsd f8,%0" : "=m"(silly->fpr[8]));
22         asm("fsd f9,%0" : "=m"(silly->fpr[9]));
23         asm("fsd f10,%0" : "=m"(silly->fpr[10]));
24         asm("fsd f11,%0" : "=m"(silly->fpr[11]));
25         asm("fsd f12,%0" : "=m"(silly->fpr[12]));
26         asm("fsd f13,%0" : "=m"(silly->fpr[13]));
27         asm("fsd f14,%0" : "=m"(silly->fpr[14]));
28         asm("fsd f15,%0" : "=m"(silly->fpr[15]));
29         asm("fsd f16,%0" : "=m"(silly->fpr[16]));
30         asm("fsd f17,%0" : "=m"(silly->fpr[17]));
31         asm("fsd f18,%0" : "=m"(silly->fpr[18]));
32         asm("fsd f19,%0" : "=m"(silly->fpr[19]));
33         asm("fsd f20,%0" : "=m"(silly->fpr[20]));
34         asm("fsd f21,%0" : "=m"(silly->fpr[21]));
35         asm("fsd f22,%0" : "=m"(silly->fpr[22]));
36         asm("fsd f23,%0" : "=m"(silly->fpr[23]));
37         asm("fsd f24,%0" : "=m"(silly->fpr[24]));
38         asm("fsd f25,%0" : "=m"(silly->fpr[25]));
39         asm("fsd f26,%0" : "=m"(silly->fpr[26]));
40         asm("fsd f27,%0" : "=m"(silly->fpr[27]));
41         asm("fsd f28,%0" : "=m"(silly->fpr[28]));
42         asm("fsd f29,%0" : "=m"(silly->fpr[29]));
43         asm("fsd f30,%0" : "=m"(silly->fpr[30]));
44         asm("fsd f31,%0" : "=m"(silly->fpr[31]));
45
46         silly->fsr = fsr;
47         mtpcr(PCR_SR, sr);
48 }
49
50 void
51 restore_fp_state(ancillary_state_t* silly)
52 {
53         uintptr_t sr = enable_fp();
54         uint32_t fsr = silly->fsr;
55
56         asm("fld f0,%0" : : "m"(silly->fpr[0]));
57         asm("fld f1,%0" : : "m"(silly->fpr[1]));
58         asm("fld f2,%0" : : "m"(silly->fpr[2]));
59         asm("fld f3,%0" : : "m"(silly->fpr[3]));
60         asm("fld f4,%0" : : "m"(silly->fpr[4]));
61         asm("fld f5,%0" : : "m"(silly->fpr[5]));
62         asm("fld f6,%0" : : "m"(silly->fpr[6]));
63         asm("fld f7,%0" : : "m"(silly->fpr[7]));
64         asm("fld f8,%0" : : "m"(silly->fpr[8]));
65         asm("fld f9,%0" : : "m"(silly->fpr[9]));
66         asm("fld f10,%0" : : "m"(silly->fpr[10]));
67         asm("fld f11,%0" : : "m"(silly->fpr[11]));
68         asm("fld f12,%0" : : "m"(silly->fpr[12]));
69         asm("fld f13,%0" : : "m"(silly->fpr[13]));
70         asm("fld f14,%0" : : "m"(silly->fpr[14]));
71         asm("fld f15,%0" : : "m"(silly->fpr[15]));
72         asm("fld f16,%0" : : "m"(silly->fpr[16]));
73         asm("fld f17,%0" : : "m"(silly->fpr[17]));
74         asm("fld f18,%0" : : "m"(silly->fpr[18]));
75         asm("fld f19,%0" : : "m"(silly->fpr[19]));
76         asm("fld f20,%0" : : "m"(silly->fpr[20]));
77         asm("fld f21,%0" : : "m"(silly->fpr[21]));
78         asm("fld f22,%0" : : "m"(silly->fpr[22]));
79         asm("fld f23,%0" : : "m"(silly->fpr[23]));
80         asm("fld f24,%0" : : "m"(silly->fpr[24]));
81         asm("fld f25,%0" : : "m"(silly->fpr[25]));
82         asm("fld f26,%0" : : "m"(silly->fpr[26]));
83         asm("fld f27,%0" : : "m"(silly->fpr[27]));
84         asm("fld f28,%0" : : "m"(silly->fpr[28]));
85         asm("fld f29,%0" : : "m"(silly->fpr[29]));
86         asm("fld f30,%0" : : "m"(silly->fpr[30]));
87         asm("fld f31,%0" : : "m"(silly->fpr[31]));
88
89         write_fsr(fsr);
90         mtpcr(PCR_SR, sr);
91 }
92
93 void init_fp_state(void)
94 {
95         uintptr_t sr = enable_fp();
96
97         asm("fcvt.d.w f0, x0; fcvt.d.w f1 ,x0; fcvt.d.w f2, x0; fcvt.d.w f3, x0;");
98         asm("fcvt.d.w f4, x0; fcvt.d.w f5, x0; fcvt.d.w f6, x0; fcvt.d.w f7, x0;");
99         asm("fcvt.d.w f8, x0; fcvt.d.w f9, x0; fcvt.d.w f10,x0; fcvt.d.w f11,x0;");
100         asm("fcvt.d.w f12,x0; fcvt.d.w f13,x0; fcvt.d.w f14,x0; fcvt.d.w f15,x0;");
101         asm("fcvt.d.w f16,x0; fcvt.d.w f17,x0; fcvt.d.w f18,x0; fcvt.d.w f19,x0;");
102         asm("fcvt.d.w f20,x0; fcvt.d.w f21,x0; fcvt.d.w f22,x0; fcvt.d.w f23,x0;");
103         asm("fcvt.d.w f24,x0; fcvt.d.w f25,x0; fcvt.d.w f26,x0; fcvt.d.w f27,x0;");
104         asm("fcvt.d.w f28,x0; fcvt.d.w f29,x0; fcvt.d.w f30,x0; fcvt.d.w f31,x0;");
105         asm("mtfsr x0");
106
107         mtpcr(PCR_SR, sr);
108 }
109
110 static int
111 user_mem_walk_recursive(env_t* e, uintptr_t start, size_t len,
112                         mem_walk_callback_t callback, void* arg,
113                         mem_walk_callback_t pt_callback, void* pt_arg,
114                         pte_t* pt, int level)
115 {
116         int ret = 0;
117         int pgshift = L1PGSHIFT - level*(L1PGSHIFT-L2PGSHIFT);
118         uintptr_t pgsize = 1UL << pgshift;
119
120         uintptr_t start_idx = (start >> pgshift) & (NPTENTRIES-1);
121         uintptr_t end_idx = ((start+len-1) >> pgshift) & (NPTENTRIES-1);
122
123         for(uintptr_t idx = start_idx; idx <= end_idx; idx++)
124         {
125                 uintptr_t pgaddr = ROUNDDOWN(start, pgsize) + (idx-start_idx)*pgsize;
126                 pte_t* pte = &pt[idx];
127
128                 if(*pte & PTE_T)
129                 {
130                         assert(level < NPTLEVELS-1);
131                         uintptr_t st = MAX(pgaddr, start);
132                         size_t ln = MIN(start + len, pgaddr + pgsize) - st;
133                         if((ret = user_mem_walk_recursive(e, st, ln, callback, arg,
134                                                           pt_callback, pt_arg,
135                                                           KADDR(PTD_ADDR(*pte)), level+1)))
136                                 goto out;
137                         if(pt_callback != NULL && (ret = pt_callback(e, pte, (void*)pgaddr, arg)))
138                                 goto out;
139                 }
140                 else if(callback != NULL && !PAGE_UNMAPPED(*pte))
141                         if((ret = callback(e, pte, (void*)pgaddr, arg)))
142                                 goto out;
143         }
144 out:
145         return ret;
146 }
147
148 int
149 env_user_mem_walk(env_t* e, void* start, size_t len,
150                   mem_walk_callback_t callback, void* arg)
151 {
152         assert(PGOFF(start) == 0 && PGOFF(len) == 0);
153         return user_mem_walk_recursive(e, (uintptr_t)start, len, callback, arg,
154                                        NULL, NULL, e->env_pgdir, 0);
155 }
156
157 void
158 env_pagetable_free(env_t* e)
159 {
160         int pt_free(env_t* e, pte_t* pte, void* va, void* arg)
161         {
162                 page_decref(pa2page(PTD_ADDR(*pte)));
163                 return 0;
164         }
165
166         assert(user_mem_walk_recursive(e, 0, KERNBASE, NULL, NULL,
167                                        pt_free, NULL, e->env_pgdir, 0) == 0);
168 }