| /src/contrib/jemalloc/src/ |
| H A D | edata_cache.c | 5 edata_cache_init(edata_cache_t *edata_cache, base_t *base) { in edata_cache_init() argument
6 edata_avail_new(&edata_cache->avail); in edata_cache_init()
12 atomic_store_zu(&edata_cache->count, 0, ATOMIC_RELAXED); in edata_cache_init()
13 if (malloc_mutex_init(&edata_cache->mtx, "edata_cache", in edata_cache_init()
17 edata_cache->base = base; in edata_cache_init()
22 edata_cache_get(tsdn_t *tsdn, edata_cache_t *edata_cache) { in edata_cache_get() argument
23 malloc_mutex_lock(tsdn, &edata_cache->mtx); in edata_cache_get()
24 edata_t *edata = edata_avail_first(&edata_cache->avail); in edata_cache_get()
26 malloc_mutex_unlock(tsdn, &edata_cache->mtx); in edata_cache_get()
27 return base_alloc_edata(tsdn, edata_cache->base); in edata_cache_get()
[all …]
|
| H A D | pa_extra.c | 44 edata_cache_prefork(tsdn, &shard->edata_cache); in pa_shard_prefork5()
49 edata_cache_postfork_parent(tsdn, &shard->edata_cache); in pa_shard_postfork_parent()
64 edata_cache_postfork_child(tsdn, &shard->edata_cache); in pa_shard_postfork_child()
95 &shard->edata_cache.count, ATOMIC_RELAXED); in pa_shard_stats_merge()
170 &shard->edata_cache.mtx, arena_prof_mutex_extent_avail); in pa_shard_mtx_stats_read()
|
| H A D | extent_dss.c | 125 gap = edata_cache_get(tsdn, &arena->pa_shard.edata_cache); in extent_alloc_dss()
197 &arena->pa_shard.edata_cache, gap); in extent_alloc_dss()
233 edata_cache_put(tsdn, &arena->pa_shard.edata_cache, gap); in extent_alloc_dss()
|
| H A D | extent.c | 244 edata_cache_put(tsdn, pac->edata_cache, edata); in extents_abandon_vm()
665 edata_t *edata = edata_cache_get(tsdn, pac->edata_cache); in extent_grow_retained()
676 edata_cache_put(tsdn, pac->edata_cache, edata); in extent_grow_retained()
686 edata_cache_put(tsdn, pac->edata_cache, edata); in extent_grow_retained()
962 edata_cache_put(tsdn, pac->edata_cache, edata); in extent_dalloc_gap()
985 edata_cache_put(tsdn, pac->edata_cache, edata); in extent_dalloc_wrapper_try()
998 edata_t *edata = edata_cache_get(tsdn, pac->edata_cache); in extent_alloc_wrapper()
1006 edata_cache_put(tsdn, pac->edata_cache, edata); in extent_alloc_wrapper()
1020 edata_cache_put(tsdn, pac->edata_cache, edata); in extent_alloc_wrapper()
1100 edata_cache_put(tsdn, pac->edata_cache, edata); in extent_destroy_wrapper()
[all …]
|
| H A D | pa.c | 39 if (edata_cache_init(&shard->edata_cache, base)) { in pa_shard_init()
43 if (pac_init(tsdn, &shard->pac, base, emap, &shard->edata_cache, in pa_shard_init()
71 shard->base, &shard->edata_cache, shard->ind, hpa_opts)) { in pa_shard_enable_hpa()
|
| H A D | pac.c | 39 edata_cache_t *edata_cache, nstime_t *cur_time, in pac_init() argument
90 pac->edata_cache = edata_cache; in pac_init()
|
| H A D | hpa.c | 179 base_t *base, edata_cache_t *edata_cache, unsigned ind, in hpa_shard_init() argument
195 assert(edata_cache != NULL); in hpa_shard_init()
198 edata_cache_fast_init(&shard->ecf, edata_cache); in hpa_shard_init()
|
| H A D | ctl.c | 3654 MUTEX_PROF_RESET(arena->pa_shard.edata_cache.mtx); in CTL_RO_CGEN()
|
| /src/contrib/jemalloc/include/jemalloc/internal/ |
| H A D | edata_cache.h | 23 bool edata_cache_init(edata_cache_t *edata_cache, base_t *base);
24 edata_t *edata_cache_get(tsdn_t *tsdn, edata_cache_t *edata_cache);
25 void edata_cache_put(tsdn_t *tsdn, edata_cache_t *edata_cache, edata_t *edata);
27 void edata_cache_prefork(tsdn_t *tsdn, edata_cache_t *edata_cache);
28 void edata_cache_postfork_parent(tsdn_t *tsdn, edata_cache_t *edata_cache);
29 void edata_cache_postfork_child(tsdn_t *tsdn, edata_cache_t *edata_cache);
|
| H A D | pac.h | 96 edata_cache_t *edata_cache; member
125 edata_cache_t *edata_cache, nstime_t *cur_time, size_t oversize_threshold,
|
| H A D | hpa.h | 154 base_t *base, edata_cache_t *edata_cache, unsigned ind,
|
| H A D | pa.h | 107 edata_cache_t edata_cache; member
|
| /src/lib/libc/stdlib/malloc/jemalloc/ |
| H A D | Makefile.inc | 9 emap.c edata.c edata_cache.c pa.c pa_extra.c pac.c decay.c hpa.c hpa_hooks.c fxp.c hpdata.c pai.c \
|
| /src/contrib/jemalloc/ |
| H A D | Makefile.in | 113 $(srcroot)src/edata_cache.c \
216 $(srcroot)test/unit/edata_cache.c \
|