0aeae73ba8341561c054496be0534870b44e7545
[akaros.git] / kern / src / kmalloc.c
1 /* Copyright (c) 2009 The Regents of the University of California. 
2  * See the COPYRIGHT files at the top of this source tree for full 
3  * license information.
4  * 
5  * Kevin Klues <klueska@cs.berkeley.edu>    
6  */
7
8 #ifdef __SHARC__
9 #pragma nosharc
10 #define SINIT(x) x
11 #endif
12
13 #ifdef __DEPUTY__
14 #pragma nodeputy
15 #endif
16
17 #include <ros/common.h>
18 #include <ros/error.h>
19 #include <pmap.h>
20 #include <kmalloc.h>
21 #include <stdio.h>
22 #include <slab.h>
23 #include <assert.h>
24
25 #define kmallocdebug(args...)  //printk(args)
26
27 char *RO BND(end, maxaddrpa_ptr + IVY_KERNBASE) boot_freemem;
28
29 //List of physical pages used by kmalloc
30 static spinlock_t pages_list_lock = 0;
31 static page_list_t LCKD(&pages_list_lock)pages_list;
32
33 /*
34  * Allocate n bytes of physical memory aligned on an 
35  * align-byte boundary.  Align must be a power of two.
36  * Return kernel virtual address.  Returned memory is uninitialized.
37  *
38  * If we're out of memory, boot_alloc should panic.
39  * This function may ONLY be used during initialization,
40  * before the page_free_list has been set up.
41  */
42 void* boot_alloc(uint32_t n, uint32_t align)
43 {
44         extern char (SNT RO end)[];
45         void *v;
46
47         // Initialize boot_freemem if this is the first time.
48         // 'end' is a magic symbol automatically generated by the linker,
49         // which points to the end of the kernel's bss segment -
50         // i.e., the first virtual address that the linker
51         // did _not_ assign to any kernel code or global variables.
52         if (boot_freemem == 0) {
53                 boot_freemem = SINIT(TC(end));
54         }
55
56         //      Step 1: round boot_freemem up to be aligned properly
57         char RO*tmp = PTRROUNDUP(boot_freemem, align);
58         boot_freemem = SINIT(tmp);
59
60         //      Step 2: save current value of boot_freemem as allocated chunk
61         v = boot_freemem;
62         //  Step 2.5: check if we can alloc
63         if (PADDR(boot_freemem + n) > maxaddrpa)
64                 panic("Out of memory in boot alloc, you fool!\n");
65         //      Step 3: increase boot_freemem to record allocation
66         boot_freemem = SINIT(boot_freemem + n);
67         //      Step 4: return allocated chunk
68         return v;
69 }
70
71 void *boot_calloc(uint32_t n, size_t sz, uint32_t align)
72 {
73         void *v = boot_alloc(n * sz, align);    
74         memset(v, 0, n * sz);
75         return v;
76 }
77
78 struct kmem_cache *kmalloc_caches[NUM_KMALLOC_CACHES];
79 void kmalloc_init(void)
80 {
81         // build caches of common sizes
82         size_t ksize = KMALLOC_SMALLEST;
83         for (int i = 0; i < NUM_KMALLOC_CACHES; i++) {
84                 kmalloc_caches[i] = kmem_cache_create("kmalloc_cache", ksize,
85                                                       KMALLOC_ALIGNMENT, 0, 0, 0);
86                 ksize <<= 1;
87         }
88 }
89
90 void *kmalloc(size_t size, int flags) 
91 {
92         // reserve space for bookkeeping and preserve alignment
93         size_t ksize = size + KMALLOC_OFFSET;
94         void *buf;
95         int cache_id;
96         // determine cache to pull from
97         if (ksize <= KMALLOC_SMALLEST)
98                 cache_id = 0;
99         else
100                 cache_id = LOG2_UP(ksize) - LOG2_UP(KMALLOC_SMALLEST);
101         // if we don't have a cache to handle it, alloc cont pages
102         if (cache_id >= NUM_KMALLOC_CACHES) {
103                 size_t num_pgs = ROUNDUP(size + sizeof(struct kmalloc_tag), PGSIZE) /
104                                            PGSIZE;
105                 buf = get_cont_pages(LOG2_UP(num_pgs), flags);
106                 if (!buf)
107                         panic("Kmalloc failed!  Handle me!");
108                 // fill in the kmalloc tag
109                 struct kmalloc_tag *tag = buf;
110                 tag->flags = KMALLOC_TAG_PAGES;
111                 tag->num_pages = num_pgs;
112                 return buf + KMALLOC_OFFSET;
113         }
114         // else, alloc from the appropriate cache
115         buf = kmem_cache_alloc(kmalloc_caches[cache_id], flags);
116         if (!buf)
117                 panic("Kmalloc failed!  Handle me!");
118         // store a pointer to the buffers kmem_cache in it's bookkeeping space
119         struct kmalloc_tag *tag = buf;
120         tag->flags = KMALLOC_TAG_CACHE;
121         tag->my_cache = kmalloc_caches[cache_id];
122         return buf + KMALLOC_OFFSET;
123 }
124
125 void *krealloc(void* buf, size_t size, int flags) {
126         struct kmalloc_tag *tag = (struct kmalloc_tag*)(buf - KMALLOC_OFFSET);
127         if (tag->my_cache->obj_size >= size)
128                 return buf;
129         kfree(buf);
130         return kmalloc(size, flags);
131 }
132
133 void kfree(void *addr)
134 {
135         assert(addr);
136         struct kmalloc_tag *tag = (struct kmalloc_tag*)(addr - KMALLOC_OFFSET);
137         if (tag->flags & KMALLOC_TAG_CACHE)
138                 kmem_cache_free(tag->my_cache, addr - KMALLOC_OFFSET);
139         else if (tag->flags & KMALLOC_TAG_PAGES) {
140                 free_cont_pages(addr - KMALLOC_OFFSET, LOG2_UP(tag->num_pages));
141         } else 
142                 panic("[Italian Accent]: Che Cazzo! BO! Flag in kmalloc!!!");
143 }
144