Replaces %08p with %p
[akaros.git] / kern / src / testing.c
1
2 #ifdef __SHARC__
3 #pragma nosharc
4 #endif
5
6 #include <arch/mmu.h>
7 #include <arch/arch.h>
8 #include <bitmask.h>
9 #include <smp.h>
10
11 #include <ros/memlayout.h>
12 #include <ros/common.h>
13 #include <ros/bcq.h>
14 #include <ros/ucq.h>
15
16 #include <atomic.h>
17 #include <stdio.h>
18 #include <assert.h>
19 #include <string.h>
20 #include <testing.h>
21 #include <trap.h>
22 #include <trap.h>
23 #include <process.h>
24 #include <syscall.h>
25 #include <time.h>
26 #include <kfs.h>
27 #include <multiboot.h>
28 #include <pmap.h>
29 #include <page_alloc.h>
30 #include <pmap.h>
31 #include <slab.h>
32 #include <kmalloc.h>
33 #include <hashtable.h>
34 #include <radix.h>
35 #include <monitor.h>
36 #include <kthread.h>
37 #include <schedule.h>
38 #include <umem.h>
39 #include <ucq.h>
40
41 #define l1 (available_caches.l1)
42 #define l2 (available_caches.l2)
43 #define l3 (available_caches.l3)
44
45 #ifdef __i386__
46
47 void test_ipi_sending(void)
48 {
49         extern handler_t (CT(NUM_INTERRUPT_HANDLERS) RO interrupt_handlers)[];
50         int8_t state = 0;
51
52         register_interrupt_handler(interrupt_handlers, I_TESTING,
53                                    test_hello_world_handler, NULL);
54         enable_irqsave(&state);
55         cprintf("\nCORE 0 sending broadcast\n");
56         send_broadcast_ipi(I_TESTING);
57         udelay(3000000);
58         cprintf("\nCORE 0 sending all others\n");
59         send_all_others_ipi(I_TESTING);
60         udelay(3000000);
61         cprintf("\nCORE 0 sending self\n");
62         send_self_ipi(I_TESTING);
63         udelay(3000000);
64         cprintf("\nCORE 0 sending ipi to physical 1\n");
65         send_ipi(0x01, I_TESTING);
66         udelay(3000000);
67         cprintf("\nCORE 0 sending ipi to physical 2\n");
68         send_ipi(0x02, I_TESTING);
69         udelay(3000000);
70         cprintf("\nCORE 0 sending ipi to physical 3\n");
71         send_ipi(0x03, I_TESTING);
72         udelay(3000000);
73         cprintf("\nCORE 0 sending ipi to physical 15\n");
74         send_ipi(0x0f, I_TESTING);
75         udelay(3000000);
76         cprintf("\nCORE 0 sending ipi to logical 2\n");
77         send_group_ipi(0x02, I_TESTING);
78         udelay(3000000);
79         cprintf("\nCORE 0 sending ipi to logical 1\n");
80         send_group_ipi(0x01, I_TESTING);
81         udelay(3000000);
82         cprintf("\nDone!\n");
83         disable_irqsave(&state);
84 }
85
86 // Note this never returns and will muck with any other timer work
87 void test_pic_reception(void)
88 {
89         register_interrupt_handler(interrupt_handlers, 0x20, test_hello_world_handler, NULL);
90         pit_set_timer(100,TIMER_RATEGEN); // totally arbitrary time
91         pic_unmask_irq(0);
92         cprintf("PIC1 Mask = 0x%04x\n", inb(PIC1_DATA));
93         cprintf("PIC2 Mask = 0x%04x\n", inb(PIC2_DATA));
94         unmask_lapic_lvt(LAPIC_LVT_LINT0);
95         cprintf("Core %d's LINT0: 0x%08x\n", core_id(), read_mmreg32(LAPIC_LVT_LINT0));
96         enable_irq();
97         while(1);
98 }
99
100 void test_ioapic_pit_reroute(void) 
101 {
102         register_interrupt_handler(interrupt_handlers, 0x20, test_hello_world_handler, NULL);
103         ioapic_route_irq(0, 3); 
104
105         cprintf("Starting pit on core 3....\n");
106         udelay(3000000);
107         pit_set_timer(0xFFFE,TIMER_RATEGEN); // totally arbitrary time
108         
109         udelay(3000000);
110         ioapic_unroute_irq(0);
111         udelay(300000);
112         cprintf("Masked pit. Waiting before return...\n");
113         udelay(3000000);
114 }
115
116 #endif // __i386__
117
118
119 void test_print_info(void)
120 {
121         cprintf("\nCORE 0 asking all cores to print info:\n");
122         smp_call_function_all(test_print_info_handler, NULL, 0);
123         cprintf("\nDone!\n");
124 }
125
126 void test_page_coloring(void) 
127 {
128 /*
129         //Print the different cache properties of our machine
130         print_cache_properties("L1", l1);
131         cprintf("\n");
132         print_cache_properties("L2", l2);
133         cprintf("\n");
134         print_cache_properties("L3", l3);
135         cprintf("\n");
136
137         //Print some stats about our memory
138         cprintf("Max Address: %llu\n", MAX_VADDR);
139         cprintf("Num Pages: %u\n", npages);
140
141         //Declare a local variable for allocating pages 
142         page_t* page;
143
144         cprintf("Contents of the page free list:\n");
145         for(int i=0; i<llc_cache->num_colors; i++) {
146                 cprintf("  COLOR %d:\n", i);
147                 LIST_FOREACH(page, &colored_page_free_list[i], pg_link) {
148                         cprintf("    Page: %d\n", page2ppn(page));
149                 }
150         }
151
152         //Run through and allocate all pages through l1_page_alloc
153         cprintf("Allocating from L1 page colors:\n");
154         for(int i=0; i<get_cache_num_page_colors(l1); i++) {
155                 cprintf("  COLOR %d:\n", i);
156                 while(colored_page_alloc(l1, &page, i) != -ENOMEM)
157                         cprintf("    Page: %d\n", page2ppn(page));
158         }
159
160         //Put all the pages back by reinitializing
161         page_init();
162         
163         //Run through and allocate all pages through l2_page_alloc
164         cprintf("Allocating from L2 page colors:\n");
165         for(int i=0; i<get_cache_num_page_colors(l2); i++) {
166                 cprintf("  COLOR %d:\n", i);
167                 while(colored_page_alloc(l2, &page, i) != -ENOMEM)
168                         cprintf("    Page: %d\n", page2ppn(page));
169         }
170
171         //Put all the pages back by reinitializing
172         page_init();
173         
174         //Run through and allocate all pages through l3_page_alloc
175         cprintf("Allocating from L3 page colors:\n");
176         for(int i=0; i<get_cache_num_page_colors(l3); i++) {
177                 cprintf("  COLOR %d:\n", i);
178                 while(colored_page_alloc(l3, &page, i) != -ENOMEM)
179                         cprintf("    Page: %d\n", page2ppn(page));
180         }
181         
182         //Put all the pages back by reinitializing
183         page_init();
184         
185         //Run through and allocate all pages through page_alloc
186         cprintf("Allocating from global allocator:\n");
187         while(upage_alloc(&page) != -ENOMEM)
188                 cprintf("    Page: %d\n", page2ppn(page));
189         
190         if(colored_page_alloc(l2, &page, 0) != -ENOMEM)
191                 cprintf("Should not get here, all pages should already be gone!\n");
192         cprintf("All pages gone for sure...\n");
193         
194         //Now lets put a few pages back using page_free..
195         cprintf("Reinserting pages via page_free and reallocating them...\n");
196         page_free(&pages[0]);
197         page_free(&pages[15]);
198         page_free(&pages[7]);
199         page_free(&pages[6]);
200         page_free(&pages[4]);
201
202         while(upage_alloc(&page) != -ENOMEM)
203                 cprintf("Page: %d\n", page2ppn(page));  
204         
205         page_init();
206 */
207 }
208
209 void test_color_alloc() {
210         size_t checkpoint = 0;
211         uint8_t* colors_map = kmalloc(BYTES_FOR_BITMASK(llc_cache->num_colors), 0);
212         cache_color_alloc(l2, colors_map);
213         cache_color_alloc(l3, colors_map);
214         cache_color_alloc(l3, colors_map);
215         cache_color_alloc(l2, colors_map);
216         cache_color_free(llc_cache, colors_map);
217         cache_color_free(llc_cache, colors_map);
218         cache_color_free(llc_cache, colors_map);
219         cache_color_free(llc_cache, colors_map);
220         cache_color_free(llc_cache, colors_map);
221         cache_color_free(llc_cache, colors_map);
222         cache_color_free(llc_cache, colors_map);
223         cache_color_free(llc_cache, colors_map);
224         cache_color_free(llc_cache, colors_map);
225         cache_color_free(llc_cache, colors_map);
226         cache_color_free(llc_cache, colors_map);
227         cache_color_free(llc_cache, colors_map);
228         cache_color_free(llc_cache, colors_map);
229         cache_color_free(llc_cache, colors_map);
230         cache_color_free(llc_cache, colors_map);
231         cache_color_free(llc_cache, colors_map);
232         cache_color_free(l2, colors_map);
233         cache_color_free(llc_cache, colors_map);
234         cache_color_free(llc_cache, colors_map);
235
236 print_cache_colors:
237         printk("L1 free colors, tot colors: %d\n", l1->num_colors);
238         PRINT_BITMASK(l1->free_colors_map, l1->num_colors);
239         printk("L2 free colors, tot colors: %d\n", l2->num_colors);
240         PRINT_BITMASK(l2->free_colors_map, l2->num_colors);
241         printk("L3 free colors, tot colors: %d\n", l3->num_colors);
242         PRINT_BITMASK(l3->free_colors_map, l3->num_colors);
243         printk("Process allocated colors\n");
244         PRINT_BITMASK(colors_map, llc_cache->num_colors);
245         printk("test_color_alloc() complete!\n");
246 }
247
248 barrier_t test_cpu_array;
249
250 void test_barrier(void)
251 {
252         cprintf("Core 0 initializing barrier\n");
253         init_barrier(&test_cpu_array, num_cpus);
254         cprintf("Core 0 asking all cores to print ids, barrier, rinse, repeat\n");
255         smp_call_function_all(test_barrier_handler, NULL, 0);
256 }
257
258 void test_interrupts_irqsave(void)
259 {
260         int8_t state = 0;
261         printd("Testing Nesting Enabling first, turning ints off:\n");
262         disable_irq();
263         printd("Interrupts are: %x\n", irq_is_enabled());
264         assert(!irq_is_enabled());
265         printd("Enabling IRQSave\n");
266         enable_irqsave(&state);
267         printd("Interrupts are: %x\n", irq_is_enabled());
268         assert(irq_is_enabled());
269         printd("Enabling IRQSave Again\n");
270         enable_irqsave(&state);
271         printd("Interrupts are: %x\n", irq_is_enabled());
272         assert(irq_is_enabled());
273         printd("Disabling IRQSave Once\n");
274         disable_irqsave(&state);
275         printd("Interrupts are: %x\n", irq_is_enabled());
276         assert(irq_is_enabled());
277         printd("Disabling IRQSave Again\n");
278         disable_irqsave(&state);
279         printd("Interrupts are: %x\n", irq_is_enabled());
280         assert(!irq_is_enabled());
281         printd("Done.  Should have been 0, 200, 200, 200, 0\n");
282
283         printd("Testing Nesting Disabling first, turning ints on:\n");
284         state = 0;
285         enable_irq();
286         printd("Interrupts are: %x\n", irq_is_enabled());
287         assert(irq_is_enabled());
288         printd("Disabling IRQSave Once\n");
289         disable_irqsave(&state);
290         printd("Interrupts are: %x\n", irq_is_enabled());
291         assert(!irq_is_enabled());
292         printd("Disabling IRQSave Again\n");
293         disable_irqsave(&state);
294         printd("Interrupts are: %x\n", irq_is_enabled());
295         assert(!irq_is_enabled());
296         printd("Enabling IRQSave Once\n");
297         enable_irqsave(&state);
298         printd("Interrupts are: %x\n", irq_is_enabled());
299         assert(!irq_is_enabled());
300         printd("Enabling IRQSave Again\n");
301         enable_irqsave(&state);
302         printd("Interrupts are: %x\n", irq_is_enabled());
303         assert(irq_is_enabled());
304         printd("Done.  Should have been 200, 0, 0, 0, 200 \n");
305
306         state = 0;
307         disable_irq();
308         printd("Ints are off, enabling then disabling.\n");
309         enable_irqsave(&state);
310         printd("Interrupts are: %x\n", irq_is_enabled());
311         assert(irq_is_enabled());
312         disable_irqsave(&state);
313         printd("Interrupts are: %x\n", irq_is_enabled());
314         assert(!irq_is_enabled());
315         printd("Done.  Should have been 200, 0\n");
316
317         state = 0;
318         enable_irq();
319         printd("Ints are on, enabling then disabling.\n");
320         enable_irqsave(&state);
321         printd("Interrupts are: %x\n", irq_is_enabled());
322         assert(irq_is_enabled());
323         disable_irqsave(&state);
324         printd("Interrupts are: %x\n", irq_is_enabled());
325         assert(irq_is_enabled());
326         printd("Done.  Should have been 200, 200\n");
327
328         state = 0;
329         disable_irq();
330         printd("Ints are off, disabling then enabling.\n");
331         disable_irqsave(&state);
332         printd("Interrupts are: %x\n", irq_is_enabled());
333         assert(!irq_is_enabled());
334         enable_irqsave(&state);
335         printd("Interrupts are: %x\n", irq_is_enabled());
336         assert(!irq_is_enabled());
337         printd("Done.  Should have been 0, 0\n");
338
339         state = 0;
340         enable_irq();
341         printd("Ints are on, disabling then enabling.\n");
342         disable_irqsave(&state);
343         printd("Interrupts are: %x\n", irq_is_enabled());
344         assert(!irq_is_enabled());
345         enable_irqsave(&state);
346         printd("Interrupts are: %x\n", irq_is_enabled());
347         assert(irq_is_enabled());
348         printd("Done.  Should have been 0, 200\n");
349
350         disable_irq();
351         cprintf("Passed enable_irqsave tests\n");
352 }
353
354 void test_bitmasks(void)
355 {
356 #define masksize 67
357         DECL_BITMASK(mask, masksize);
358         printk("size of mask %d\n", sizeof(mask));
359         CLR_BITMASK(mask, masksize);
360         PRINT_BITMASK(mask, masksize);
361         printk("cleared\n");
362         SET_BITMASK_BIT(mask, 0);
363         SET_BITMASK_BIT(mask, 11);
364         SET_BITMASK_BIT(mask, 17);
365         SET_BITMASK_BIT(mask, masksize-1);
366         printk("bits set\n");
367         PRINT_BITMASK(mask, masksize);
368         DECL_BITMASK(mask2, masksize);
369         COPY_BITMASK(mask2, mask, masksize);
370         printk("copy of original mask, should be the same as the prev\n");
371         PRINT_BITMASK(mask2, masksize);
372         CLR_BITMASK_BIT(mask, 11);
373         printk("11 cleared\n");
374         PRINT_BITMASK(mask, masksize);
375         printk("bit 17 is %d (should be 1)\n", GET_BITMASK_BIT(mask, 17));
376         printk("bit 11 is %d (should be 0)\n", GET_BITMASK_BIT(mask, 11));
377         FILL_BITMASK(mask, masksize);
378         PRINT_BITMASK(mask, masksize);
379         printk("should be all 1's, except for a few at the end\n");
380         printk("Is Clear?: %d (should be 0)\n", BITMASK_IS_CLEAR(mask,masksize));
381         CLR_BITMASK(mask, masksize);
382         PRINT_BITMASK(mask, masksize);
383         printk("Is Clear?: %d (should be 1)\n", BITMASK_IS_CLEAR(mask,masksize));
384         printk("should be cleared\n");
385 }
386
387 checklist_t *RO the_global_list;
388
389 static void test_checklist_handler(struct hw_trapframe *hw_tf, void *data)
390 {
391         udelay(1000000);
392         cprintf("down_checklist(%x,%d)\n", the_global_list, core_id());
393         down_checklist(the_global_list);
394 }
395
396 void test_checklists(void)
397 {
398         INIT_CHECKLIST(a_list, MAX_NUM_CPUS);
399         the_global_list = &a_list;
400         printk("Checklist Build, mask size: %d\n", sizeof(a_list.mask.bits));
401         printk("mask\n");
402         PRINT_BITMASK(a_list.mask.bits, a_list.mask.size);
403         SET_BITMASK_BIT(a_list.mask.bits, 11);
404         printk("Set bit 11\n");
405         PRINT_BITMASK(a_list.mask.bits, a_list.mask.size);
406
407         CLR_BITMASK(a_list.mask.bits, a_list.mask.size);
408         INIT_CHECKLIST_MASK(a_mask, MAX_NUM_CPUS);
409         FILL_BITMASK(a_mask.bits, num_cpus);
410         //CLR_BITMASK_BIT(a_mask.bits, core_id());
411         //SET_BITMASK_BIT(a_mask.bits, 1);
412         //printk("New mask (1, 17, 25):\n");
413         printk("Created new mask, filled up to num_cpus\n");
414         PRINT_BITMASK(a_mask.bits, a_mask.size);
415         printk("committing new mask\n");
416         commit_checklist_wait(&a_list, &a_mask);
417         printk("Old mask (copied onto):\n");
418         PRINT_BITMASK(a_list.mask.bits, a_list.mask.size);
419         //smp_call_function_single(1, test_checklist_handler, 0, 0);
420
421         smp_call_function_all(test_checklist_handler, NULL, 0);
422
423         printk("Waiting on checklist\n");
424         waiton_checklist(&a_list);
425         printk("Done Waiting!\n");
426
427 }
428
429 atomic_t a, b, c;
430
431 static void test_incrementer_handler(struct hw_trapframe *tf, void *data)
432 {
433         assert(data);
434         atomic_inc(data);
435 }
436
437 static void test_null_handler(struct hw_trapframe *tf, void *data)
438 {
439         asm volatile("nop");
440 }
441
442 void test_smp_call_functions(void)
443 {
444         int i;
445         atomic_init(&a, 0);
446         atomic_init(&b, 0);
447         atomic_init(&c, 0);
448         handler_wrapper_t *waiter0 = 0, *waiter1 = 0, *waiter2 = 0, *waiter3 = 0,
449                           *waiter4 = 0, *waiter5 = 0;
450         uint8_t me = core_id();
451         printk("\nCore %d: SMP Call Self (nowait):\n", me);
452         printk("---------------------\n");
453         smp_call_function_self(test_hello_world_handler, NULL, 0);
454         printk("\nCore %d: SMP Call Self (wait):\n", me);
455         printk("---------------------\n");
456         smp_call_function_self(test_hello_world_handler, NULL, &waiter0);
457         smp_call_wait(waiter0);
458         printk("\nCore %d: SMP Call All (nowait):\n", me);
459         printk("---------------------\n");
460         smp_call_function_all(test_hello_world_handler, NULL, 0);
461         printk("\nCore %d: SMP Call All (wait):\n", me);
462         printk("---------------------\n");
463         smp_call_function_all(test_hello_world_handler, NULL, &waiter0);
464         smp_call_wait(waiter0);
465         printk("\nCore %d: SMP Call All-Else Individually, in order (nowait):\n", me);
466         printk("---------------------\n");
467         for(i = 1; i < num_cpus; i++)
468                 smp_call_function_single(i, test_hello_world_handler, NULL, 0);
469         printk("\nCore %d: SMP Call Self (wait):\n", me);
470         printk("---------------------\n");
471         smp_call_function_self(test_hello_world_handler, NULL, &waiter0);
472         smp_call_wait(waiter0);
473         printk("\nCore %d: SMP Call All-Else Individually, in order (wait):\n", me);
474         printk("---------------------\n");
475         for(i = 1; i < num_cpus; i++)
476         {
477                 smp_call_function_single(i, test_hello_world_handler, NULL, &waiter0);
478                 smp_call_wait(waiter0);
479         }
480         printk("\nTesting to see if any IPI-functions are dropped when not waiting:\n");
481         printk("A: %d, B: %d, C: %d (should be 0,0,0)\n", atomic_read(&a), atomic_read(&b), atomic_read(&c));
482         smp_call_function_all(test_incrementer_handler, &a, 0);
483         smp_call_function_all(test_incrementer_handler, &b, 0);
484         smp_call_function_all(test_incrementer_handler, &c, 0);
485         // if i can clobber a previous IPI, the interleaving might do it
486         smp_call_function_single(1 % num_cpus, test_incrementer_handler, &a, 0);
487         smp_call_function_single(2 % num_cpus, test_incrementer_handler, &b, 0);
488         smp_call_function_single(3 % num_cpus, test_incrementer_handler, &c, 0);
489         smp_call_function_single(4 % num_cpus, test_incrementer_handler, &a, 0);
490         smp_call_function_single(5 % num_cpus, test_incrementer_handler, &b, 0);
491         smp_call_function_single(6 % num_cpus, test_incrementer_handler, &c, 0);
492         smp_call_function_all(test_incrementer_handler, &a, 0);
493         smp_call_function_single(3 % num_cpus, test_incrementer_handler, &c, 0);
494         smp_call_function_all(test_incrementer_handler, &b, 0);
495         smp_call_function_single(1 % num_cpus, test_incrementer_handler, &a, 0);
496         smp_call_function_all(test_incrementer_handler, &c, 0);
497         smp_call_function_single(2 % num_cpus, test_incrementer_handler, &b, 0);
498         // wait, so we're sure the others finish before printing.
499         // without this, we could (and did) get 19,18,19, since the B_inc
500         // handler didn't finish yet
501         smp_call_function_self(test_null_handler, NULL, &waiter0);
502         // need to grab all 5 handlers (max), since the code moves to the next free.
503         smp_call_function_self(test_null_handler, NULL, &waiter1);
504         smp_call_function_self(test_null_handler, NULL, &waiter2);
505         smp_call_function_self(test_null_handler, NULL, &waiter3);
506         smp_call_function_self(test_null_handler, NULL, &waiter4);
507         smp_call_wait(waiter0);
508         smp_call_wait(waiter1);
509         smp_call_wait(waiter2);
510         smp_call_wait(waiter3);
511         smp_call_wait(waiter4);
512         printk("A: %d, B: %d, C: %d (should be 19,19,19)\n", atomic_read(&a), atomic_read(&b), atomic_read(&c));
513         printk("Attempting to deadlock by smp_calling with an outstanding wait:\n");
514         smp_call_function_self(test_null_handler, NULL, &waiter0);
515         printk("Sent one\n");
516         smp_call_function_self(test_null_handler, NULL, &waiter1);
517         printk("Sent two\n");
518         smp_call_wait(waiter0);
519         printk("Wait one\n");
520         smp_call_wait(waiter1);
521         printk("Wait two\n");
522         printk("\tMade it through!\n");
523         printk("Attempting to deadlock by smp_calling more than are available:\n");
524         printk("\tShould see an Insufficient message and a kernel warning.\n");
525         if (smp_call_function_self(test_null_handler, NULL, &waiter0))
526                 printk("\tInsufficient handlers to call function (0)\n");
527         if (smp_call_function_self(test_null_handler, NULL, &waiter1))
528                 printk("\tInsufficient handlers to call function (1)\n");
529         if (smp_call_function_self(test_null_handler, NULL, &waiter2))
530                 printk("\tInsufficient handlers to call function (2)\n");
531         if (smp_call_function_self(test_null_handler, NULL, &waiter3))
532                 printk("\tInsufficient handlers to call function (3)\n");
533         if (smp_call_function_self(test_null_handler, NULL, &waiter4))
534                 printk("\tInsufficient handlers to call function (4)\n");
535         if (smp_call_function_self(test_null_handler, NULL, &waiter5))
536                 printk("\tInsufficient handlers to call function (5)\n");
537         smp_call_wait(waiter0);
538         smp_call_wait(waiter1);
539         smp_call_wait(waiter2);
540         smp_call_wait(waiter3);
541         smp_call_wait(waiter4);
542         smp_call_wait(waiter5);
543         printk("\tMade it through!\n");
544
545         printk("Done\n");
546 }
547
548 #ifdef __i386__
549 void test_lapic_status_bit(void)
550 {
551         register_interrupt_handler(interrupt_handlers, I_TESTING,
552                                    test_incrementer_handler, &a);
553         #define NUM_IPI 100000
554         atomic_set(&a,0);
555         printk("IPIs received (should be 0): %d\n", a);
556         for(int i = 0; i < NUM_IPI; i++) {
557                 send_ipi(7, I_TESTING);
558                 lapic_wait_to_send();
559         }
560         // need to wait a bit to let those IPIs get there
561         udelay(5000000);
562         printk("IPIs received (should be %d): %d\n", a, NUM_IPI);
563         // hopefully that handler never fires again.  leaving it registered for now.
564 }
565 #endif // __i386__
566
567 /************************************************************/
568 /* ISR Handler Functions */
569
570 void test_hello_world_handler(struct hw_trapframe *hw_tf, void *data)
571 {
572         int trapno;
573         #if defined(__i386__)
574         trapno = hw_tf->tf_trapno;
575         #elif defined(__sparc_v8__)
576         trapno = (hw_tf->tbr >> 4) & 0xFF;
577         #else
578         trapno = 0;
579         #endif
580
581         cprintf("Incoming IRQ, ISR: %d on core %d with tf at %p\n",
582                 trapno, core_id(), hw_tf);
583 }
584
585 spinlock_t print_info_lock = SPINLOCK_INITIALIZER_IRQSAVE;
586
587 void test_print_info_handler(struct hw_trapframe *hw_tf, void *data)
588 {
589         uint64_t tsc = read_tsc();
590
591         spin_lock_irqsave(&print_info_lock);
592         cprintf("----------------------------\n");
593         cprintf("This is Core %d\n", core_id());
594         cprintf("Timestamp = %lld\n", tsc);
595 #ifdef __i386__
596         cprintf("Hardware core %d\n", hw_core_id());
597         cprintf("MTRR_DEF_TYPE = 0x%08x\n", read_msr(IA32_MTRR_DEF_TYPE));
598         cprintf("MTRR Phys0 Base = 0x%016llx, Mask = 0x%016llx\n",
599                 read_msr(0x200), read_msr(0x201));
600         cprintf("MTRR Phys1 Base = 0x%016llx, Mask = 0x%016llx\n",
601                 read_msr(0x202), read_msr(0x203));
602         cprintf("MTRR Phys2 Base = 0x%016llx, Mask = 0x%016llx\n",
603                 read_msr(0x204), read_msr(0x205));
604         cprintf("MTRR Phys3 Base = 0x%016llx, Mask = 0x%016llx\n",
605                 read_msr(0x206), read_msr(0x207));
606         cprintf("MTRR Phys4 Base = 0x%016llx, Mask = 0x%016llx\n",
607                 read_msr(0x208), read_msr(0x209));
608         cprintf("MTRR Phys5 Base = 0x%016llx, Mask = 0x%016llx\n",
609                 read_msr(0x20a), read_msr(0x20b));
610         cprintf("MTRR Phys6 Base = 0x%016llx, Mask = 0x%016llx\n",
611                 read_msr(0x20c), read_msr(0x20d));
612         cprintf("MTRR Phys7 Base = 0x%016llx, Mask = 0x%016llx\n",
613                 read_msr(0x20e), read_msr(0x20f));
614 #endif // __i386__
615         cprintf("----------------------------\n");
616         spin_unlock_irqsave(&print_info_lock);
617 }
618
619 void test_barrier_handler(struct hw_trapframe *hw_tf, void *data)
620 {
621         cprintf("Round 1: Core %d\n", core_id());
622         waiton_barrier(&test_cpu_array);
623         waiton_barrier(&test_cpu_array);
624         waiton_barrier(&test_cpu_array);
625         waiton_barrier(&test_cpu_array);
626         waiton_barrier(&test_cpu_array);
627         waiton_barrier(&test_cpu_array);
628         cprintf("Round 2: Core %d\n", core_id());
629         waiton_barrier(&test_cpu_array);
630         cprintf("Round 3: Core %d\n", core_id());
631         // uncomment to see it fucked up
632         //cprintf("Round 4: Core %d\n", core_id());
633 }
634
635 static void test_waiting_handler(struct hw_trapframe *hw_tf, void *data)
636 {
637         atomic_dec(data);
638 }
639
640 #ifdef __i386__
641 void test_pit(void)
642 {
643         cprintf("Starting test for PIT now (10s)\n");
644         udelay_pit(10000000);
645         cprintf("End now\n");
646         cprintf("Starting test for TSC (if stable) now (10s)\n");
647         udelay(10000000);
648         cprintf("End now\n");
649
650         cprintf("Starting test for LAPIC (if stable) now (10s)\n");
651         enable_irq();
652         lapic_set_timer(10000000, FALSE);
653
654         atomic_t waiting;
655         atomic_init(&waiting, 1);
656         register_interrupt_handler(interrupt_handlers, I_TESTING,
657                                    test_waiting_handler, &waiting);
658         while(atomic_read(&waiting))
659                 cpu_relax();
660         cprintf("End now\n");
661 }
662
663 void test_circ_buffer(void)
664 {
665         int arr[5] = {0, 1, 2, 3, 4};
666
667         for (int i = 0; i < 5; i++) {
668                 FOR_CIRC_BUFFER(i, 5, j)
669                         printk("Starting with current = %d, each value = %d\n", i, j);
670         }
671         return;
672 }
673
674 static void test_km_handler(uint32_t srcid, long a0, long a1, long a2)
675 {
676         printk("Received KM on core %d from core %d: arg0= %p, arg1 = %p, "
677                "arg2 = %p\n", core_id(), srcid, a0, a1, a2);
678         return;
679 }
680
681 void test_kernel_messages(void)
682 {
683         printk("Testing Kernel Messages\n");
684         /* Testing sending multiples, sending different types, alternating, and
685          * precendence (the immediates should trump the others) */
686         printk("sending 5 IMMED to core 1, sending (#,deadbeef,0)\n");
687         for (int i = 0; i < 5; i++)
688                 send_kernel_message(1, test_km_handler, (long)i, 0xdeadbeef, 0,
689                                     KMSG_IMMEDIATE);
690         udelay(5000000);
691         printk("sending 5 routine to core 1, sending (#,cafebabe,0)\n");
692         for (int i = 0; i < 5; i++)
693                 send_kernel_message(1, test_km_handler, (long)i, 0xcafebabe, 0,
694                                     KMSG_ROUTINE);
695         udelay(5000000);
696         printk("sending 10 routine and 3 immediate to core 2\n");
697         for (int i = 0; i < 10; i++)
698                 send_kernel_message(2, test_km_handler, (long)i, 0xcafebabe, 0,
699                                     KMSG_ROUTINE);
700         for (int i = 0; i < 3; i++)
701                 send_kernel_message(2, test_km_handler, (long)i, 0xdeadbeef, 0,
702                                     KMSG_IMMEDIATE);
703         udelay(5000000);
704         printk("sending 5 ea alternating to core 2\n");
705         for (int i = 0; i < 5; i++) {
706                 send_kernel_message(2, test_km_handler, (long)i, 0xdeadbeef, 0,
707                                     KMSG_IMMEDIATE);
708                 send_kernel_message(2, test_km_handler, (long)i, 0xcafebabe, 0,
709                                     KMSG_ROUTINE);
710         }
711         udelay(5000000);
712         return;
713 }
714 #endif // __i386__
715 static void test_single_cache(int iters, size_t size, int align, int flags,
716                               void (*ctor)(void *, size_t),
717                               void (*dtor)(void *, size_t))
718 {
719         struct kmem_cache *test_cache;
720         void *objects[iters];
721         test_cache = kmem_cache_create("test_cache", size, align, flags, ctor, dtor);
722         printk("Testing Kmem Cache:\n");
723         print_kmem_cache(test_cache);
724         for (int i = 0; i < iters; i++) {
725                 objects[i] = kmem_cache_alloc(test_cache, 0);
726                 printk("Buffer %d addr = %p\n", i, objects[i]);
727         }
728         for (int i = 0; i < iters; i++) {
729                 kmem_cache_free(test_cache, objects[i]);
730         }
731         kmem_cache_destroy(test_cache);
732         printk("\n\n\n\n");
733 }
734
735 void a_ctor(void *buf, size_t size)
736 {
737         printk("constructin tests\n");
738 }
739 void a_dtor(void *buf, size_t size)
740 {
741         printk("destructin tests\n");
742 }
743
744 void test_slab(void)
745 {
746         test_single_cache(10, 128, 512, 0, 0, 0);
747         test_single_cache(10, 128, 4, 0, a_ctor, a_dtor);
748         test_single_cache(10, 1024, 16, 0, 0, 0);
749 }
750
751 void test_kmalloc(void)
752 {
753         printk("Testing Kmalloc\n");
754         void *bufs[NUM_KMALLOC_CACHES + 1];     
755         size_t size;
756         for (int i = 0; i < NUM_KMALLOC_CACHES + 1; i++){
757                 size = (KMALLOC_SMALLEST << i) - KMALLOC_OFFSET;
758                 bufs[i] = kmalloc(size, 0);
759                 printk("Size %d, Addr = %p\n", size, bufs[i]);
760         }
761         for (int i = 0; i < NUM_KMALLOC_CACHES; i++) {
762                 printk("Freeing buffer %d\n", i);
763                 kfree(bufs[i]);
764         }
765         printk("Testing a large kmalloc\n");
766         size = (KMALLOC_LARGEST << 2);
767         bufs[0] = kmalloc(size, 0);
768         printk("Size %d, Addr = %p\n", size, bufs[0]);
769         kfree(bufs[0]);
770 }
771
772 static size_t test_hash_fn_col(void *k)
773 {
774         return (size_t)k % 2; // collisions in slots 0 and 1
775 }
776
777 void test_hashtable(void)
778 {
779         struct test {int x; int y;};
780         struct test tstruct[10];
781
782         struct hashtable *h;
783         uintptr_t k = 5;
784         struct test *v = &tstruct[0];
785
786         h = create_hashtable(32, __generic_hash, __generic_eq);
787         
788         // test inserting one item, then finding it again
789         printk("Tesing one item, insert, search, and removal\n");
790         if(!hashtable_insert(h, (void*)k, v))
791                 printk("Failed to insert to hashtable!\n");
792         v = NULL;
793         if (!(v = hashtable_search(h, (void*)k)))
794                 printk("Failed to find in hashtable!\n");
795         if (v != &tstruct[0])
796                 printk("Got the wrong item! (got %p, wanted %p)\n", v, &tstruct[0]);
797         v = NULL;
798         if (!(v = hashtable_remove(h, (void*)k)))
799                 printk("Failed to remove from hashtable!\n");
800         // shouldn't be able to find it again
801         if ((v = hashtable_search(h, (void*)k)))
802                 printk("Should not have been able to find in hashtable!\n");
803         
804         printk("Tesing a bunch of items, insert, search, and removal\n");
805         for (int i = 0; i < 10; i++) {
806                 k = i; // vary the key, we don't do KEY collisions
807                 if(!hashtable_insert(h, (void*)k, &tstruct[i]))
808                         printk("Failed to insert iter %d to hashtable!\n", i);
809         }
810         // read out the 10 items
811         for (int i = 0; i < 10; i++) {
812                 k = i;
813                 if (!(v = hashtable_search(h, (void*)k)))
814                         printk("Failed to find in hashtable!\n");
815                 if (v != &tstruct[i])
816                         printk("Got the wrong item! (got %p, wanted %p)\n", v, &tstruct[i]);
817         }
818         if (hashtable_count(h) != 10)
819                 printk("Wrong accounting of number of elements!\n");
820         // remove the 10 items
821         for (int i = 0; i < 10; i++) {
822                 k = i;
823                 if (!(v = hashtable_remove(h, (void*)k)))
824                         printk("Failed to remove from hashtable!\n");
825         }
826         // make sure they are all gone
827         for (int i = 0; i < 10; i++) {
828                 k = i;
829                 if ((v = hashtable_search(h, (void*)k)))
830                         printk("Should not have been able to find in hashtable!\n");
831         }
832         if (hashtable_count(h))
833                 printk("Wrong accounting of number of elements!\n");
834         hashtable_destroy(h);
835
836         // same test of a bunch of items, but with collisions.
837         printk("Tesing a bunch of items with collisions, etc.\n");
838         h = create_hashtable(32, test_hash_fn_col, __generic_eq);
839         // insert 10 items
840         for (int i = 0; i < 10; i++) {
841                 k = i; // vary the key, we don't do KEY collisions
842                 if(!hashtable_insert(h, (void*)k, &tstruct[i]))
843                         printk("Failed to insert iter %d to hashtable!\n", i);
844         }
845         // read out the 10 items
846         for (int i = 0; i < 10; i++) {
847                 k = i;
848                 if (!(v = hashtable_search(h, (void*)k)))
849                         printk("Failed to find in hashtable!\n");
850                 if (v != &tstruct[i])
851                         printk("Got the wrong item! (got %p, wanted %p)\n", v, &tstruct[i]);
852         }
853         if (hashtable_count(h) != 10)
854                 printk("Wrong accounting of number of elements!\n");
855         // remove the 10 items
856         for (int i = 0; i < 10; i++) {
857                 k = i;
858                 if (!(v = hashtable_remove(h, (void*)k)))
859                         printk("Failed to remove from hashtable!\n");
860         }
861         // make sure they are all gone
862         for (int i = 0; i < 10; i++) {
863                 k = i;
864                 if ((v = hashtable_search(h, (void*)k)))
865                         printk("Should not have been able to find in hashtable!\n");
866         }
867         if (hashtable_count(h))
868                 printk("Wrong accounting of number of elements!\n");
869         hashtable_destroy(h);
870 }
871
872 /* Ghetto test, only tests one prod or consumer at a time */
873 void test_bcq(void)
874 {
875         /* Tests a basic struct */
876         struct my_struct {
877                 int x;
878                 int y;
879         };
880         struct my_struct in_struct, out_struct;
881         
882         DEFINE_BCQ_TYPES(test, struct my_struct, 16);
883         struct test_bcq t_bcq;
884         bcq_init(&t_bcq, struct my_struct, 16);
885         
886         in_struct.x = 4;
887         in_struct.y = 5;
888         out_struct.x = 1;
889         out_struct.y = 2;
890         
891         bcq_enqueue(&t_bcq, &in_struct, 16, 5);
892         bcq_dequeue(&t_bcq, &out_struct, 16);
893         printk("out x %d. out y %d\n", out_struct.x, out_struct.y);
894         
895         /* Tests the BCQ a bit more, esp with overflow */
896         #define NR_ELEM_A_BCQ 8 /* NOTE: this must be a power of 2! */
897         DEFINE_BCQ_TYPES(my, int, NR_ELEM_A_BCQ);
898         struct my_bcq a_bcq;
899         bcq_init(&a_bcq, int, NR_ELEM_A_BCQ);
900         
901         int y = 2;
902         int output[100];
903         int retval[100];
904
905         /* Helpful debugger */
906         void print_a_bcq(struct my_bcq *bcq)
907         {
908                 printk("A BCQ (made of ints): %p\n", bcq);
909                 printk("\tprod_idx: %p\n", bcq->hdr.prod_idx);
910                 printk("\tcons_pub_idx: %p\n", bcq->hdr.cons_pub_idx);
911                 printk("\tcons_pvt_idx: %p\n", bcq->hdr.cons_pvt_idx);
912                 for (int i = 0; i < NR_ELEM_A_BCQ; i++) {
913                         printk("Element %d, rdy_for_cons: %02p\n", i,
914                                bcq->wraps[i].rdy_for_cons);
915                 }
916         }
917
918         /* Put in more than it can take */
919         for (int i = 0; i < 15; i++) {
920                 y = i;
921                 retval[i] = bcq_enqueue(&a_bcq, &y, NR_ELEM_A_BCQ, 10);
922                 printk("enqueued: %d, had retval %d \n", y, retval[i]);
923         }
924         //print_a_bcq(&a_bcq);
925         
926         /* Try to dequeue more than we put in */
927         for (int i = 0; i < 15; i++) {
928                 retval[i] = bcq_dequeue(&a_bcq, &output[i], NR_ELEM_A_BCQ);
929                 printk("dequeued: %d with retval %d\n", output[i], retval[i]);
930         }
931         //print_a_bcq(&a_bcq);
932         
933         /* Put in some it should be able to take */
934         for (int i = 0; i < 3; i++) {
935                 y = i;
936                 retval[i] = bcq_enqueue(&a_bcq, &y, NR_ELEM_A_BCQ, 10);
937                 printk("enqueued: %d, had retval %d \n", y, retval[i]);
938         }
939         
940         /* Take those, and then a couple extra */
941         for (int i = 0; i < 5; i++) {
942                 retval[i] = bcq_dequeue(&a_bcq, &output[i], NR_ELEM_A_BCQ);
943                 printk("dequeued: %d with retval %d\n", output[i], retval[i]);
944         }
945         
946         /* Try some one-for-one */
947         for (int i = 0; i < 5; i++) {
948                 y = i;
949                 retval[i] = bcq_enqueue(&a_bcq, &y, NR_ELEM_A_BCQ, 10);
950                 printk("enqueued: %d, had retval %d \n", y, retval[i]);
951                 retval[i] = bcq_dequeue(&a_bcq, &output[i], NR_ELEM_A_BCQ);
952                 printk("dequeued: %d with retval %d\n", output[i], retval[i]);
953         }
954 }
955
956 /* Test a simple concurrent send and receive (one prod, one cons).  We spawn a
957  * process that will go into _M mode on another core, and we'll do the test from
958  * an alarm handler run on our core.  When we start up the process, we won't
959  * return so we need to defer the work with an alarm. */
960 void test_ucq(void)
961 {
962         struct timer_chain *tchain = &per_cpu_info[core_id()].tchain;
963         struct alarm_waiter *waiter = kmalloc(sizeof(struct alarm_waiter), 0);
964
965         /* Alarm handler: what we want to do after the process is up */
966         void send_msgs(struct alarm_waiter *waiter)
967         {
968                 struct timer_chain *tchain;
969                 struct proc *old_proc, *p = waiter->data;
970                 struct ucq *ucq = (struct ucq*)USTACKTOP;
971                 struct event_msg msg;
972
973                 printk("Running the alarm handler!\n");
974                 printk("NR msg per page: %d\n", NR_MSG_PER_PAGE);
975                 /* might not be mmaped yet, if not, abort */
976                 if (!user_mem_check(p, ucq, PGSIZE, 1, PTE_USER_RW)) {
977                         printk("Not mmaped yet\n");
978                         goto abort;
979                 }
980                 /* load their address space */
981                 old_proc = switch_to(p);
982                 /* So it's mmaped, see if it is ready (note that this is dangerous) */
983                 if (!ucq->ucq_ready) {
984                         printk("Not ready yet\n");
985                         switch_back(p, old_proc);
986                         goto abort;
987                 }
988                 /* So it's ready, time to finally do the tests... */
989                 printk("[kernel] Finally starting the tests... \n");
990                 /* 1: Send a simple message */
991                 printk("[kernel] #1 Sending simple message (7, deadbeef)\n");
992                 msg.ev_type = 7;
993                 msg.ev_arg2 = 0xdeadbeef;
994                 send_ucq_msg(ucq, p, &msg);
995                 printk("nr_pages: %d\n", atomic_read(&ucq->nr_extra_pgs));
996                 /* 2: Send a bunch.  In a VM, this causes one swap, and then a bunch of
997                  * mmaps. */
998                 printk("[kernel] #2 \n");
999                 for (int i = 0; i < 5000; i++) {
1000                         msg.ev_type = i;
1001                         send_ucq_msg(ucq, p, &msg);
1002                 }
1003                 printk("nr_pages: %d\n", atomic_read(&ucq->nr_extra_pgs));
1004                 printk("[kernel] #3 \n");
1005                 /* 3: make sure we chained pages (assuming 1k is enough) */
1006                 for (int i = 0; i < 1000; i++) {
1007                         msg.ev_type = i;
1008                         send_ucq_msg(ucq, p, &msg);
1009                 }
1010                 printk("nr_pages: %d\n", atomic_read(&ucq->nr_extra_pgs));
1011                 /* other things we could do:
1012                  *  - concurrent producers / consumers...  ugh.
1013                  *  - would require a kmsg to another core, instead of a local alarm
1014                  */
1015                 /* done, switch back and free things */
1016                 switch_back(p, old_proc);
1017                 proc_decref(p);
1018                 kfree(waiter); /* since it was kmalloc()d */
1019                 return;
1020         abort:
1021                 tchain = &per_cpu_info[core_id()].tchain;
1022                 /* Set to run again */
1023                 set_awaiter_rel(waiter, 1000000);
1024                 set_alarm(tchain, waiter);
1025         }
1026         /* Set up a handler to run the real part of the test */
1027         init_awaiter(waiter, send_msgs);
1028         set_awaiter_rel(waiter, 1000000);       /* 1s should be long enough */
1029         set_alarm(tchain, waiter);
1030         /* Just spawn the program */
1031         struct file *program;
1032         program = do_file_open("/bin/ucq", 0, 0);
1033         if (!program) {
1034                 printk("Unable to find /bin/ucq!\n");
1035                 return;
1036         }
1037         char *p_envp[] = {"LD_LIBRARY_PATH=/lib", 0};
1038         struct proc *p = proc_create(program, 0, p_envp);
1039         proc_wakeup(p);
1040         /* instead of getting rid of the reference created in proc_create, we'll put
1041          * it in the awaiter */
1042         waiter->data = p;
1043         kref_put(&program->f_kref);
1044         /* Should never return from schedule (env_pop in there) also note you may
1045          * not get the process you created, in the event there are others floating
1046          * around that are runnable */
1047         schedule();
1048         smp_idle();
1049         assert(0);
1050 }
1051
1052 /* rudimentary tests.  does the basics, create, merge, split, etc.  Feel free to
1053  * add more, esp for the error conditions and finding free slots.  This is also
1054  * a bit lazy with setting the caller's fields (perm, flags, etc). */
1055 void test_vm_regions(void)
1056 {
1057         #define MAX_VMR_TESTS 10
1058         struct proc pr, *p = &pr;       /* too lazy to even create one */
1059         int n = 0;
1060         TAILQ_INIT(&p->vm_regions);
1061
1062         struct vmr_summary {
1063                 uintptr_t base; 
1064                 uintptr_t end; 
1065         };
1066         int check_vmrs(struct proc *p, struct vmr_summary *results, int len, int n)
1067         {
1068                 int count = 0;
1069                 struct vm_region *vmr;
1070                 TAILQ_FOREACH(vmr, &p->vm_regions, vm_link) {
1071                         if (count >= len) {
1072                                 printk("More vm_regions than expected\n");
1073                                 break;
1074                         }
1075                         if ((vmr->vm_base != results[count].base) ||
1076                             (vmr->vm_end != results[count].end)) {
1077                                 printk("VM test case %d failed!\n", n);
1078                                 print_vmrs(p);
1079                                 return -1;
1080                         }
1081                         count++;
1082                 }
1083                 return count;
1084         }
1085         struct vm_region *vmrs[MAX_VMR_TESTS];
1086         struct vmr_summary results[MAX_VMR_TESTS];
1087
1088         memset(results, 0, sizeof(results));
1089         /* Make one */
1090         vmrs[0] = create_vmr(p, 0x2000, 0x1000);
1091         results[0].base = 0x2000;
1092         results[0].end = 0x3000;
1093         check_vmrs(p, results, 1, n++);
1094         /* Grow it */
1095         grow_vmr(vmrs[0], 0x4000);
1096         results[0].base = 0x2000;
1097         results[0].end = 0x4000;
1098         check_vmrs(p, results, 1, n++);
1099         /* Grow it poorly */
1100         if (-1 != grow_vmr(vmrs[0], 0x3000))
1101                 printk("Bad grow test failed\n");
1102         check_vmrs(p, results, 1, n++);
1103         /* Make another right next to it */
1104         vmrs[1] = create_vmr(p, 0x4000, 0x1000);
1105         results[1].base = 0x4000;
1106         results[1].end = 0x5000;
1107         check_vmrs(p, results, 2, n++);
1108         /* try to grow through it */
1109         if (-1 != grow_vmr(vmrs[0], 0x5000))
1110                 printk("Bad grow test failed\n");
1111         check_vmrs(p, results, 2, n++);
1112         /* Merge them */
1113         merge_vmr(vmrs[0], vmrs[1]);
1114         results[0].end = 0x5000;
1115         results[1].base = 0;
1116         results[1].end = 0;
1117         check_vmrs(p, results, 1, n++);
1118         vmrs[1]= create_vmr(p, 0x6000, 0x4000);
1119         results[1].base = 0x6000;
1120         results[1].end = 0xa000;
1121         check_vmrs(p, results, 2, n++);
1122         /* try to merge unmergables (just testing ranges) */
1123         if (-1 != merge_vmr(vmrs[0], vmrs[1]))
1124                 printk("Bad merge test failed\n");
1125         check_vmrs(p, results, 2, n++);
1126         vmrs[2] = split_vmr(vmrs[1], 0x8000);
1127         results[1].end = 0x8000;
1128         results[2].base = 0x8000;
1129         results[2].end = 0xa000;
1130         check_vmrs(p, results, 3, n++);
1131         /* destroy one */
1132         destroy_vmr(vmrs[1]);
1133         results[1].base = 0x8000;
1134         results[1].end = 0xa000;
1135         check_vmrs(p, results, 2, n++);
1136         /* shrink */
1137         shrink_vmr(vmrs[2], 0x9000);
1138         results[1].base = 0x8000;
1139         results[1].end = 0x9000;
1140         check_vmrs(p, results, 2, n++); /* 10 */
1141         if (vmrs[2] != find_vmr(p, 0x8500))
1142                 printk("Failed to find the right vmr!\n");
1143         if (vmrs[2] != find_first_vmr(p, 0x8500))
1144                 printk("Failed to find the right vmr!\n");
1145         if (vmrs[2] != find_first_vmr(p, 0x7500))
1146                 printk("Failed to find the right vmr!\n");
1147         if (find_first_vmr(p, 0x9500))
1148                 printk("Found a vmr when we shouldn't!\n");
1149         /* grow up to another */
1150         grow_vmr(vmrs[0], 0x8000);
1151         results[0].end = 0x8000;
1152         check_vmrs(p, results, 2, n++);
1153         vmrs[0]->vm_prot = 88;
1154         vmrs[2]->vm_prot = 77;
1155         /* should be unmergeable due to perms */
1156         if (-1 != merge_vmr(vmrs[0], vmrs[2]))
1157                 printk("Bad merge test failed\n");
1158         check_vmrs(p, results, 2, n++);
1159         /* should merge now */
1160         vmrs[2]->vm_prot = 88;
1161         merge_vmr(vmrs[0], vmrs[2]);
1162         results[0].end = 0x9000;
1163         check_vmrs(p, results, 1, n++);
1164         destroy_vmr(vmrs[0]);
1165         check_vmrs(p, results, 0, n++);
1166         /* Check the automerge function */
1167         vmrs[0] = create_vmr(p, 0x2000, 0x1000);
1168         vmrs[1] = create_vmr(p, 0x3000, 0x1000);
1169         vmrs[2] = create_vmr(p, 0x4000, 0x1000);
1170         for (int i = 0; i < 3; i++) {
1171                 vmrs[i]->vm_prot = PROT_READ;
1172                 vmrs[i]->vm_flags = 0;
1173                 vmrs[i]->vm_file = 0; /* would like to test this, it's a pain for now */
1174         }
1175         vmrs[0] = merge_me(vmrs[1]);
1176         results[0].base = 0x2000;
1177         results[0].end = 0x5000;
1178         check_vmrs(p, results, 1, n++);
1179         destroy_vmr(vmrs[0]);
1180         check_vmrs(p, results, 0, n++);
1181         /* Check unfixed creation requests */
1182         vmrs[0] = create_vmr(p, 0x0000, 0x1000);
1183         vmrs[1] = create_vmr(p, 0x0000, 0x1000);
1184         vmrs[2] = create_vmr(p, 0x0000, 0x1000);
1185         results[0].base = 0x0000;
1186         results[0].end  = 0x1000;
1187         results[1].base = 0x1000;
1188         results[1].end  = 0x2000;
1189         results[2].base = 0x2000;
1190         results[2].end  = 0x3000;
1191         check_vmrs(p, results, 3, n++);
1192
1193         printk("Finished vm_regions test!\n");
1194 }
1195
1196 void test_radix_tree(void)
1197 {
1198         struct radix_tree real_tree = RADIX_INITIALIZER;
1199         struct radix_tree *tree = &real_tree;
1200         void *retval;
1201
1202         if (radix_insert(tree, 0, (void*)0xdeadbeef))
1203                 printk("Failed to insert at 0!\n");
1204         radix_delete(tree, 0);
1205         if (radix_insert(tree, 0, (void*)0xdeadbeef))
1206                 printk("Failed to re-insert at 0!\n");
1207
1208         if (radix_insert(tree, 3, (void*)0xdeadbeef))
1209                 printk("Failed to insert first!\n");
1210         radix_insert(tree, 4, (void*)0x04040404);
1211         assert((void*)0xdeadbeef == radix_lookup(tree, 3));
1212         for (int i = 5; i < 100; i++)
1213                 if ((retval = radix_lookup(tree, i))) {
1214                         printk("Extra item %p at slot %d in tree %p\n", retval, i,
1215                                tree);
1216                         print_radix_tree(tree);
1217                         monitor(0);
1218                 }
1219         if (radix_insert(tree, 65, (void*)0xcafebabe))
1220                 printk("Failed to insert a two-tier!\n");
1221         if (!radix_insert(tree, 4, (void*)0x03030303))
1222                 printk("Should not let us reinsert\n");
1223         if (radix_insert(tree, 4095, (void*)0x4095))
1224                 printk("Failed to insert a two-tier boundary!\n");
1225         if (radix_insert(tree, 4096, (void*)0x4096))
1226                 printk("Failed to insert a three-tier!\n");
1227         //print_radix_tree(tree);
1228         radix_delete(tree, 65);
1229         radix_delete(tree, 3);
1230         radix_delete(tree, 4);
1231         radix_delete(tree, 4095);
1232         radix_delete(tree, 4096);
1233         //print_radix_tree(tree);
1234         printk("Finished radix tree tests!\n");
1235 }
1236
1237 /* Assorted FS tests, which were hanging around in init.c */
1238 void test_random_fs(void)
1239 {
1240         int retval = do_symlink("/dir1/sym", "/bin/hello", S_IRWXU);
1241         if (retval)
1242                 printk("symlink1 creation failed\n");
1243         retval = do_symlink("/symdir", "/dir1/dir1-1", S_IRWXU);
1244         if (retval)
1245                 printk("symlink1 creation failed\n");
1246         retval = do_symlink("/dir1/test.txt", "/dir2/test2.txt", S_IRWXU);
1247         if (retval)
1248                 printk("symlink2 creation failed\n");
1249         retval = do_symlink("/dir1/dir1-1/up", "../../", S_IRWXU);
1250         if (retval)
1251                 printk("symlink3 creation failed\n");
1252         retval = do_symlink("/bin/hello-sym", "hello", S_IRWXU);
1253         if (retval)
1254                 printk("symlink4 creation failed\n");
1255         
1256         struct dentry *dentry;
1257         struct nameidata nd_r = {0}, *nd = &nd_r;
1258         retval = path_lookup("/dir1/sym", 0, nd);
1259         if (retval)
1260                 printk("symlink lookup failed: %d\n", retval);
1261         char *symname = nd->dentry->d_inode->i_op->readlink(nd->dentry);
1262         printk("Pathlookup got %s (sym)\n", nd->dentry->d_name.name);
1263         if (!symname)
1264                 printk("symlink reading failed\n");
1265         else
1266                 printk("Symname: %s (/bin/hello)\n", symname);
1267         path_release(nd);
1268         /* try with follow */
1269         memset(nd, 0, sizeof(struct nameidata));
1270         retval = path_lookup("/dir1/sym", LOOKUP_FOLLOW, nd);
1271         if (retval)
1272                 printk("symlink lookup failed: %d\n", retval);
1273         printk("Pathlookup got %s (hello)\n", nd->dentry->d_name.name);
1274         path_release(nd);
1275         
1276         /* try with a directory */
1277         memset(nd, 0, sizeof(struct nameidata));
1278         retval = path_lookup("/symdir/f1-1.txt", 0, nd);
1279         if (retval)
1280                 printk("symlink lookup failed: %d\n", retval);
1281         printk("Pathlookup got %s (f1-1.txt)\n", nd->dentry->d_name.name);
1282         path_release(nd);
1283         
1284         /* try with a rel path */
1285         printk("Try with a rel path\n");
1286         memset(nd, 0, sizeof(struct nameidata));
1287         retval = path_lookup("/symdir/up/hello.txt", 0, nd);
1288         if (retval)
1289                 printk("symlink lookup failed: %d\n", retval);
1290         printk("Pathlookup got %s (hello.txt)\n", nd->dentry->d_name.name);
1291         path_release(nd);
1292         
1293         printk("Try for an ELOOP\n");
1294         memset(nd, 0, sizeof(struct nameidata));
1295         retval = path_lookup("/symdir/up/symdir/up/symdir/up/symdir/up/hello.txt", 0, nd);
1296         if (retval)
1297                 printk("Symlink lookup failed (it should): %d (-40)\n", retval);
1298         path_release(nd);
1299 }
1300
1301 /* Kernel message to restart our kthread */
1302 static void __test_up_sem(uint32_t srcid, long a0, long a1, long a2)
1303 {
1304         struct semaphore *sem = (struct semaphore*)a0;
1305         printk("[kmsg] Upping the sem to start the kthread, stacktop is %p\n",
1306                    get_stack_top());
1307         if (!sem_up(sem)) {
1308                 printk("[kmsg] Crap, the sem didn't have a kthread waiting!\n");
1309                 return;
1310         }
1311         printk("Kthread will restart when we handle the __launch RKM\n");
1312 }
1313
1314 /* simple test - start one, do something else, and resume it.  For lack of a
1315  * better infrastructure, we send ourselves a kmsg to run the kthread, which
1316  * we'll handle in smp_idle (which you may have to manually call).  Note this
1317  * doesn't test things like memory being leaked, or dealing with processes. */
1318 void test_kthreads(void)
1319 {
1320         struct semaphore sem;
1321         sem_init(&sem, 1);              /* set to 1 to test the unwind */
1322         printk("We're a kthread!  Stacktop is %p.  Testing suspend, etc...\n",
1323                get_stack_top());
1324         /* So we have something that will wake us up.  Routine messages won't get
1325          * serviced in the kernel right away. */
1326         send_kernel_message(core_id(), __test_up_sem, (long)&sem, 0, 0,
1327                             KMSG_ROUTINE);
1328         /* Actually block (or try to) */
1329         /* This one shouldn't block - but will test the unwind (if 1 above) */
1330         printk("About to sleep, but should unwind (signal beat us)\n");
1331         sem_down(&sem);
1332         /* This one is for real, yo.  Run and tell that. */
1333         printk("About to sleep for real\n");
1334         sem_down(&sem);
1335         printk("Kthread restarted!, Stacktop is %p.\n", get_stack_top());
1336 }
1337
1338 /* Second player's kmsg */
1339 static void __test_kref_2(uint32_t srcid, long a0, long a1, long a2)
1340 {
1341         struct kref *kref = (struct kref*)a0;
1342         bool *done = (bool*)a1;
1343         enable_irq();
1344         for (int i = 0; i < 10000000; i++) {
1345                 kref_get(kref, 1);
1346                 set_core_timer(1, TRUE);
1347                 udelay(2);
1348                 kref_put(kref);
1349         }
1350         *done = TRUE;
1351 }
1352
1353 /* Runs a simple test between core 0 (caller) and core 2 */
1354 void test_kref(void)
1355 {
1356         struct kref local_kref;
1357         bool done = FALSE;
1358         
1359         kref_init(&local_kref, fake_release, 1);
1360         send_kernel_message(2, __test_kref_2, (long)&local_kref, (long)&done, 0,
1361                             KMSG_ROUTINE);
1362         for (int i = 0; i < 10000000; i++) {
1363                 kref_get(&local_kref, 1);
1364                 udelay(2);
1365                 kref_put(&local_kref);
1366         }
1367         while (!done)
1368                 cpu_relax();
1369         assert(kref_refcnt(&local_kref) == 1);
1370         printk("[TEST-KREF] Simple 2-core getting/putting passed.\n");
1371 }
1372
1373 void test_atomics(void)
1374 {
1375         /* subtract_and_test */
1376         atomic_t num;
1377         /* Test subing to 0 */
1378         atomic_init(&num, 1);
1379         assert(atomic_sub_and_test(&num, 1) == 1);
1380         atomic_init(&num, 2);
1381         assert(atomic_sub_and_test(&num, 2) == 1);
1382         /* Test not getting to 0 */
1383         atomic_init(&num, 1);
1384         assert(atomic_sub_and_test(&num, 0) == 0);
1385         atomic_init(&num, 2);
1386         assert(atomic_sub_and_test(&num, 1) == 0);
1387         /* Test negatives */
1388         atomic_init(&num, -1);
1389         assert(atomic_sub_and_test(&num, 1) == 0);
1390         atomic_init(&num, -1);
1391         assert(atomic_sub_and_test(&num, -1) == 1);
1392         /* Test larger nums */
1393         atomic_init(&num, 265);
1394         assert(atomic_sub_and_test(&num, 265) == 1);
1395         atomic_init(&num, 265);
1396         assert(atomic_sub_and_test(&num, 2) == 0);
1397
1398         /* CAS */
1399         /* Simple test, make sure the bool retval of CAS handles failure */
1400         void test_cas_val(long init_val)
1401         {
1402                 atomic_t actual_num;
1403                 long old_num;
1404                 int attempt;
1405                 atomic_init(&actual_num, init_val);
1406                 attempt = 0;
1407                 do {
1408                         old_num = atomic_read(&actual_num);
1409                         /* First time, try to fail */
1410                         if (attempt == 0) 
1411                                 old_num++;
1412                         attempt++;      
1413                 } while (!atomic_cas(&actual_num, old_num, old_num + 10));
1414                 if (atomic_read(&actual_num) != init_val + 10)
1415                         printk("FUCK, CAS test failed for %d\n", init_val);
1416         }
1417         test_cas_val(257);
1418         test_cas_val(1);
1419 }
1420
1421 /* Helper KMSG for test_abort.  Core 1 does this, while core 0 sends an IRQ. */
1422 static void __test_try_halt(uint32_t srcid, long a0, long a1, long a2)
1423 {
1424         disable_irq();
1425         /* wait 10 sec.  should have a bunch of ints pending */
1426         udelay(10000000);
1427         printk("Core 1 is about to halt\n");
1428         cpu_halt();
1429         printk("Returned from halting on core 1\n");
1430 }
1431
1432 /* x86 test, making sure our cpu_halt() and irq_handler() work.  If you want to
1433  * see it fail, you'll probably need to put a nop in the asm for cpu_halt(), and
1434  * comment out abort_halt() in irq_handler(). */
1435 void test_abort_halt(void)
1436 {
1437 #ifdef __i386__
1438         send_kernel_message(1, __test_try_halt, 0, 0, 0, KMSG_ROUTINE);
1439         /* wait 1 sec, enough time to for core 1 to be in its KMSG */
1440         udelay(1000000);
1441         /* Send an IPI */
1442         send_ipi(0x01, I_TESTING);
1443         printk("Core 0 sent the IPI\n");
1444 #endif /* __i386__ */
1445 }
1446
1447 /* Funcs and global vars for test_cv() */
1448 struct cond_var local_cv;
1449 atomic_t counter;
1450 struct cond_var *cv = &local_cv;
1451 volatile bool state = FALSE;            /* for test 3 */
1452
1453 void __test_cv_signal(uint32_t srcid, long a0, long a1, long a2)
1454 {
1455         if (atomic_read(&counter) % 4)
1456                 cv_signal(cv);
1457         else
1458                 cv_broadcast(cv);
1459         atomic_dec(&counter);
1460 }
1461
1462 void __test_cv_waiter(uint32_t srcid, long a0, long a1, long a2)
1463 {
1464         cv_lock(cv);
1465         /* check state, etc */
1466         cv_wait_and_unlock(cv);
1467         atomic_dec(&counter);
1468 }
1469
1470 void __test_cv_waiter_t3(uint32_t srcid, long a0, long a1, long a2)
1471 {
1472         udelay(a0);
1473         /* if state == false, we haven't seen the signal yet */
1474         cv_lock(cv);
1475         while (!state) {
1476                 cpu_relax();
1477                 cv_wait(cv);    /* unlocks and relocks */
1478         }
1479         cv_unlock(cv);
1480         /* Make sure we are done, tell the controller we are done */
1481         cmb();
1482         assert(state);
1483         atomic_dec(&counter);
1484 }
1485
1486 void test_cv(void)
1487 {
1488         int nr_msgs;
1489
1490         cv_init(cv);
1491         /* Test 0: signal without waiting */
1492         cv_broadcast(cv);
1493         cv_signal(cv);
1494         kthread_yield();
1495         printk("test_cv: signal without waiting complete\n");
1496
1497         /* Test 1: single / minimal shit */
1498         nr_msgs = num_cpus - 1; /* not using cpu 0 */
1499         atomic_init(&counter, nr_msgs);
1500         for (int i = 1; i < num_cpus; i++)
1501                 send_kernel_message(i, __test_cv_waiter, 0, 0, 0, KMSG_ROUTINE);
1502         udelay(1000000);
1503         cv_signal(cv);
1504         kthread_yield();
1505         while (atomic_read(&counter) != nr_msgs - 1)
1506                 cpu_relax();
1507         printk("test_cv: single signal complete\n");
1508         cv_broadcast(cv);
1509         /* broadcast probably woke up the waiters on our core.  since we want to
1510          * spin on their completion, we need to yield for a bit. */
1511         kthread_yield();
1512         while (atomic_read(&counter))
1513                 cpu_relax();
1514         printk("test_cv: broadcast signal complete\n");
1515
1516         /* Test 2: shitloads of waiters and signalers */
1517         nr_msgs = 0x500;        /* any more than 0x20000 could go OOM */
1518         atomic_init(&counter, nr_msgs);
1519         for (int i = 0; i < nr_msgs; i++) {
1520                 int cpu = (i % (num_cpus - 1)) + 1;
1521                 if (atomic_read(&counter) % 5)
1522                         send_kernel_message(cpu, __test_cv_waiter, 0, 0, 0, KMSG_ROUTINE);
1523                 else
1524                         send_kernel_message(cpu, __test_cv_signal, 0, 0, 0, KMSG_ROUTINE);
1525         }
1526         kthread_yield();        /* run whatever messages we sent to ourselves */
1527         while (atomic_read(&counter)) {
1528                 cpu_relax();
1529                 cv_broadcast(cv);
1530                 udelay(1000000);
1531                 kthread_yield();        /* run whatever messages we sent to ourselves */
1532         }
1533         assert(!cv->nr_waiters);
1534         printk("test_cv: massive message storm complete\n");
1535
1536         /* Test 3: basic one signaller, one receiver.  we want to vary the amount of
1537          * time the sender and receiver delays, starting with (1ms, 0ms) and ending
1538          * with (0ms, 1ms).  At each extreme, such as with the sender waiting 1ms,
1539          * the receiver/waiter should hit the "check and wait" point well before the
1540          * sender/signaller hits the "change state and signal" point. */
1541         for (int i = 0; i < 1000; i++) {
1542                 for (int j = 0; j < 10; j++) {  /* some extra chances at each point */
1543                         state = FALSE;
1544                         atomic_init(&counter, 1);       /* signal that the client is done */
1545                         /* client waits for i usec */
1546                         send_kernel_message(2, __test_cv_waiter_t3, i, 0, 0, KMSG_ROUTINE);
1547                         cmb();
1548                         udelay(1000 - i);       /* senders wait time: 1000..0 */
1549                         state = TRUE;
1550                         cv_signal(cv);
1551                         /* signal might have unblocked a kthread, let it run */
1552                         kthread_yield();
1553                         /* they might not have run at all yet (in which case they lost the
1554                          * race and don't need the signal).  but we need to wait til they're
1555                          * done */
1556                         while (atomic_read(&counter))
1557                                 cpu_relax();
1558                         assert(!cv->nr_waiters);
1559                 }
1560         }
1561         printk("test_cv: single sender/receiver complete\n");
1562 }
1563
1564 /* Based on a bug I noticed.  TODO: actual memset test... */
1565 void test_memset(void)
1566 {
1567         #define ARR_SZ 256
1568         
1569         void print_array(char *c, size_t len)
1570         {
1571                 for (int i = 0; i < len; i++)
1572                         printk("%04d: %02x\n", i, *c++);
1573         }
1574         
1575         void check_array(char *c, char x, size_t len)
1576         {
1577                 for (int i = 0; i < len; i++) {
1578                         if (*c != x) {
1579                                 printk("Char %d is %c (%02x), should be %c (%02x)\n", i, *c,
1580                                        *c, x, x);
1581                                 break;
1582                         }
1583                         c++;
1584                 }
1585         }
1586         
1587         void run_check(char *arr, int ch, size_t len)
1588         {
1589                 char *c = arr;
1590                 for (int i = 0; i < ARR_SZ; i++)
1591                         *c++ = 0x0;
1592                 memset(arr, ch, len - 4);
1593                 check_array(arr, ch, len - 4);
1594                 check_array(arr + len - 4, 0x0, 4);
1595         }
1596
1597         char bytes[ARR_SZ];
1598         run_check(bytes, 0xfe, 20);
1599         run_check(bytes, 0xc0fe, 20);
1600         printk("Done!\n");
1601 }