9ns: Fix TF lookup code error cases
[akaros.git] / kern / src / init.c
1 /* See COPYRIGHT for copyright information. */
2
3 #ifdef CONFIG_BSD_ON_CORE0
4 #error "Yeah, it's not possible to build ROS with BSD on Core 0, sorry......"
5 #else
6
7 #include <arch/arch.h>
8 #include <arch/topology.h>
9 #include <arch/console.h>
10 #include <multiboot.h>
11 #include <stab.h>
12 #include <smp.h>
13
14 #include <time.h>
15 #include <atomic.h>
16 #include <stdio.h>
17 #include <string.h>
18 #include <assert.h>
19 #include <monitor.h>
20 #include <pmap.h>
21 #include <process.h>
22 #include <trap.h>
23 #include <syscall.h>
24 #include <manager.h>
25 #include <testing.h>
26 #include <kmalloc.h>
27 #include <hashtable.h>
28 #include <radix.h>
29 #include <mm.h>
30 #include <ex_table.h>
31 #include <percpu.h>
32
33 #include <arch/init.h>
34 #include <bitmask.h>
35 #include <slab.h>
36 #include <kthread.h>
37 #include <linker_func.h>
38 #include <net/ip.h>
39 #include <acpi.h>
40 #include <coreboot_tables.h>
41 #include <rcu.h>
42
43 #define MAX_BOOT_CMDLINE_SIZE 4096
44
45 #define ASSIGN_PTRVAL(prm, top, val)                    \
46         do {                                                                            \
47                 if (prm && (prm < top)) {                               \
48                         *prm = val;                                                     \
49                         prm++;                                                          \
50                 }                                                                               \
51         } while (0)
52
53 bool booting = TRUE;
54 struct proc_global_info __proc_global_info;
55 struct sysinfo_t sysinfo;
56 static char boot_cmdline[MAX_BOOT_CMDLINE_SIZE];
57
58 static void run_linker_funcs(void);
59 static int run_init_script(void);
60
61 const char *get_boot_option(const char *base, const char *option, char *param,
62                                                         size_t max_param)
63 {
64         size_t optlen = strlen(option);
65         char *ptop = param + max_param - 1;
66         const char *opt, *arg;
67
68         if (!base)
69                 base = boot_cmdline;
70         for (;;) {
71                 opt = strstr(base, option);
72                 if (!opt)
73                         return NULL;
74                 if (((opt == base) || (opt[-1] == ' ')) &&
75                         ((opt[optlen] == 0) || (opt[optlen] == '=') ||
76                          (opt[optlen] == ' ')))
77                         break;
78                 base = opt + optlen;
79         }
80         arg = opt + optlen;
81         if (*arg == '=') {
82                 arg++;
83                 if (*arg == '\'') {
84                         arg++;
85                         for (; *arg; arg++) {
86                                 if (*arg == '\\')
87                                         arg++;
88                                 else if (*arg == '\'')
89                                         break;
90                                 ASSIGN_PTRVAL(param, ptop, *arg);
91                         }
92                 } else {
93                         for (; *arg && (*arg != ' '); arg++)
94                                 ASSIGN_PTRVAL(param, ptop, *arg);
95                 }
96         }
97         ASSIGN_PTRVAL(param, ptop, 0);
98
99         return arg;
100 }
101
102 static void extract_multiboot_cmdline(struct multiboot_info *mbi)
103 {
104         if (mbi && (mbi->flags & MULTIBOOT_INFO_CMDLINE) && mbi->cmdline) {
105                 const char *cmdln = (const char *) KADDR(mbi->cmdline);
106
107                 /* We need to copy the command line in a permanent buffer, since the
108                  * multiboot memory where it is currently residing will be part of the
109                  * free boot memory later on in the boot process.
110                  */
111                 strlcpy(boot_cmdline, cmdln, sizeof(boot_cmdline));
112         }
113 }
114
115 static void __kernel_init_part_deux(void *arg);
116
117 void kernel_init(multiboot_info_t *mboot_info)
118 {
119         extern char __start_bss[], __stop_bss[];
120
121         memset(__start_bss, 0, __stop_bss - __start_bss);
122         /* mboot_info is a physical address.  while some arches currently have the
123          * lower memory mapped, everyone should have it mapped at kernbase by now.
124          * also, it might be in 'free' memory, so once we start dynamically using
125          * memory, we may clobber it. */
126         multiboot_kaddr = (struct multiboot_info*)((physaddr_t)mboot_info
127                                                + KERNBASE);
128         extract_multiboot_cmdline(multiboot_kaddr);
129
130         cons_init();
131         print_cpuinfo();
132
133         printk("Boot Command Line: '%s'\n", boot_cmdline);
134
135         exception_table_init();
136         num_cores = get_early_num_cores();
137         pmem_init(multiboot_kaddr);
138         kmalloc_init();
139         vmap_init();
140         hashtable_init();
141         radix_init();
142         acpiinit();
143         topology_init();
144         percpu_init();
145         kthread_init();                                 /* might need to tweak when this happens */
146         vmr_init();
147         page_check();
148         idt_init();
149         /* After kthread_init and idt_init, we can use a real kstack. */
150         __use_real_kstack(__kernel_init_part_deux);
151 }
152
153 static void __kernel_init_part_deux(void *arg)
154 {
155         kernel_msg_init();
156         timer_init();
157         time_init();
158         arch_init();
159         rcu_init();
160         enable_irq();
161         run_linker_funcs();
162         /* reset/init devtab after linker funcs 3 and 4.  these run NIC and medium
163          * pre-inits, which need to happen before devether. */
164         devtabreset();
165         devtabinit();
166
167 #ifdef CONFIG_ETH_AUDIO
168         eth_audio_init();
169 #endif /* CONFIG_ETH_AUDIO */
170         get_coreboot_info(&sysinfo);
171         booting = FALSE;
172
173 #ifdef CONFIG_RUN_INIT_SCRIPT
174         if (run_init_script()) {
175                 printk("Configured to run init script, but no script specified!\n");
176                 manager();
177         }
178 #else
179         manager();
180 #endif
181 }
182
183 #ifdef CONFIG_RUN_INIT_SCRIPT
184 static int run_init_script(void)
185 {
186         /* If we have an init script path specified */
187         if (strlen(CONFIG_INIT_SCRIPT_PATH_AND_ARGS) != 0) {
188                 int vargs = 0;
189                 char *sptr = &CONFIG_INIT_SCRIPT_PATH_AND_ARGS[0];
190
191                 /* Figure out how many arguments there are, by finding the spaces */
192                 /* TODO: consider rewriting this stuff with parsecmd */
193                 while (*sptr != '\0') {
194                         if (*(sptr++) != ' ') {
195                                 vargs++;
196                                 while ((*sptr != ' ') && (*sptr != '\0'))
197                                         sptr++;
198                         }
199                 }
200
201                 /* Initialize l_argv with its first three arguments, but allocate space
202                  * for all arguments as calculated above */
203                 int static_args = 2;
204                 int total_args = vargs + static_args;
205                 char *l_argv[total_args];
206                 l_argv[0] = "/bin/bash";
207                 l_argv[1] = "bash";
208
209                 /* Initialize l_argv with the rest of the arguments */
210                 int i = static_args;
211                 sptr = &CONFIG_INIT_SCRIPT_PATH_AND_ARGS[0];
212                 while (*sptr != '\0') {
213                         if (*sptr != ' ') {
214                                 l_argv[i++] = sptr;
215                                 while ((*sptr != ' ') && (*sptr != '\0'))
216                                         sptr++;
217                                 if (*sptr == '\0')
218                                         break;
219                                 *sptr = '\0';
220                         }
221                         sptr++;
222                 }
223
224                 /* Run the script with its arguments */
225                 mon_bin_run(total_args, l_argv, NULL);
226         }
227         return -1;
228 }
229 #endif
230
231 /* Multiple cores can panic concurrently.  We could also panic recursively,
232  * which could deadlock.  We also only want to automatically backtrace the first
233  * time through, since BTs are often the source of panics.  Finally, we want to
234  * know when the other panicking cores are done (or likely to be done) before
235  * entering the monitor.
236  *
237  * We'll use the print_lock(), which is recursive, to protect panic_printing. */
238 static bool panic_printing;
239 static DEFINE_PERCPU(int, panic_depth);
240
241 /*
242  * Panic is called on unresolvable fatal errors.
243  * It prints "panic: mesg", and then enters the kernel monitor.
244  */
245 void _panic(struct hw_trapframe *hw_tf, const char *file, int line,
246             const char *fmt, ...)
247 {
248         struct per_cpu_info *pcpui = &per_cpu_info[core_id_early()];
249         va_list ap;
250
251         print_lock();
252         panic_printing = true;
253         PERCPU_VAR(panic_depth)++;
254
255         va_start(ap, fmt);
256         printk("\nkernel panic at %s:%d, from core %d: ", file, line,
257                core_id_early());
258         vcprintf(fmt, ap);
259         printk("\n");
260         va_end(ap);
261         /* Recursive panics are usually backtrace problems.  Possibly printk.
262          * Locking panics might recurse forever. */
263         if (PERCPU_VAR(panic_depth) == 1) {
264                 if (hw_tf) {
265                         print_trapframe(hw_tf);
266                         backtrace_hwtf(hw_tf);
267                 } else {
268                         backtrace();
269                 }
270         } else {
271                 printk("\tRecursive kernel panic on core %d (depth %d)\n",
272                        core_id_early(), PERCPU_VAR(panic_depth));
273         }
274         printk("\n");
275
276         /* If we're here, we panicked and currently hold the print_lock.  We might
277          * have panicked recursively.  We must unlock unconditionally, since the
278          * initial panic (which grabbed the lock) will never run again. */
279         panic_printing = false;
280         print_unlock_force();
281         /* And we have to clear the depth, so that we lock again next time in.
282          * Otherwise, we'd be unlocking without locking (which is another panic). */
283         PERCPU_VAR(panic_depth) = 0;
284
285         /* Let's wait long enough for other printers to finish before entering the
286          * monitor. */
287         do {
288                 udelay(500000);
289                 cmb();
290         } while (panic_printing);
291
292         /* Yikes!  We're claiming to be not in IRQ/trap ctx and not holding any
293          * locks.  Obviously we could be wrong, and could easily deadlock.  We could
294          * be in an IRQ handler, an unhandled kernel fault, or just a 'normal' panic
295          * in a syscall - any of which can involve unrestore invariants. */
296         pcpui->__ctx_depth = 0;
297         pcpui->lock_depth = 0;
298         /* And keep this off, for good measure. */
299         pcpui->__lock_checking_enabled--;
300
301         monitor(NULL);
302
303         if (pcpui->cur_proc) {
304                 printk("panic killing proc %d\n", pcpui->cur_proc->pid);
305                 proc_destroy(pcpui->cur_proc);
306         }
307         if (pcpui->cur_kthread)
308                 kth_panic_sysc(pcpui->cur_kthread);
309         smp_idle();
310 }
311
312 void _warn(const char *file, int line, const char *fmt,...)
313 {
314         va_list ap;
315
316         print_lock();
317         va_start(ap, fmt);
318         printk("\nkernel warning at %s:%d, from core %d: ", file, line,
319                core_id_early());
320         vcprintf(fmt, ap);
321         printk("\n");
322         va_end(ap);
323         backtrace();
324         printk("\n");
325         print_unlock();
326 }
327
328 static void run_links(linker_func_t *linkstart, linker_func_t *linkend)
329 {
330         /* Unlike with devtab, our linker sections for the function pointers are
331          * 8 byte aligned (4 on 32 bit) (done by the linker/compiler), so we don't
332          * have to worry about that.  */
333         printd("linkstart %p, linkend %p\n", linkstart, linkend);
334         for (int i = 0; &linkstart[i] < linkend; i++) {
335                 printd("i %d, linkfunc %p\n", i, linkstart[i]);
336                 linkstart[i]();
337         }
338 }
339
340 static void run_linker_funcs(void)
341 {
342         run_links(__linkerfunc1start, __linkerfunc1end);
343         run_links(__linkerfunc2start, __linkerfunc2end);
344         run_links(__linkerfunc3start, __linkerfunc3end);
345         run_links(__linkerfunc4start, __linkerfunc4end);
346 }
347
348 /* You need to reference PROVIDE symbols somewhere, or they won't be included.
349  * Only really a problem for debugging. */
350 void debug_linker_tables(void)
351 {
352         extern struct dev __devtabstart[];
353         extern struct dev __devtabend[];
354         printk("devtab %p %p\nlink1 %p %p\nlink2 %p %p\nlink3 %p %p\nlink4 %p %p\n",
355                __devtabstart,
356                __devtabend,
357                    __linkerfunc1start,
358                    __linkerfunc1end,
359                    __linkerfunc2start,
360                    __linkerfunc2end,
361                    __linkerfunc3start,
362                    __linkerfunc3end,
363                    __linkerfunc4start,
364                    __linkerfunc4end);
365 }
366
367 #endif //Everything For Free