110 static int exec_queue_user_extensions(struct xe_device *xe, struct xe_exec_queue *q,
113 static void xe_exec_queue_group_cleanup(struct xe_exec_queue *q)  in xe_exec_queue_group_cleanup()
141 static void __xe_exec_queue_free(struct xe_exec_queue *q)  in __xe_exec_queue_free()
165 static int alloc_dep_schedulers(struct xe_device *xe, struct xe_exec_queue *q)  in alloc_dep_schedulers()
198 static struct xe_exec_queue *__xe_exec_queue_alloc(struct xe_device *xe,  in __xe_exec_queue_alloc()
204 	struct xe_exec_queue *q;  in __xe_exec_queue_alloc()
269 static void __xe_exec_queue_fini(struct xe_exec_queue *q)  in __xe_exec_queue_fini()
279 static int __xe_exec_queue_init(struct xe_exec_queue *q, u32 exec_queue_flags)  in __xe_exec_queue_init()
337 struct xe_exec_queue *xe_exec_queue_create(struct xe_device *xe, struct xe_vm *vm,  in xe_exec_queue_create()
342 	struct xe_exec_queue *q;  in xe_exec_queue_create()
380 struct xe_exec_queue *xe_exec_queue_create_class(struct xe_device *xe, struct xe_gt *gt,  in xe_exec_queue_create_class()
423 struct xe_exec_queue *xe_exec_queue_create_bind(struct xe_device *xe,  in xe_exec_queue_create_bind()
429 	struct xe_exec_queue *q;  in xe_exec_queue_create_bind()
473 	struct xe_exec_queue *q = container_of(ref, struct xe_exec_queue, refcount);  in xe_exec_queue_destroy()
474 	struct xe_exec_queue *eq, *next;  in xe_exec_queue_destroy()
503 void xe_exec_queue_fini(struct xe_exec_queue *q)  in xe_exec_queue_fini()
517 void xe_exec_queue_assign_name(struct xe_exec_queue *q, u32 instance)  in xe_exec_queue_assign_name()
543 struct xe_exec_queue *xe_exec_queue_lookup(struct xe_file *xef, u32 id)  in xe_exec_queue_lookup()
545 	struct xe_exec_queue *q;  in xe_exec_queue_lookup()
563 static int exec_queue_set_priority(struct xe_device *xe, struct xe_exec_queue *q,  in exec_queue_set_priority()
628 static int exec_queue_set_timeslice(struct xe_device *xe, struct xe_exec_queue *q,  in exec_queue_set_timeslice()
645 exec_queue_set_pxp_type(struct xe_device *xe, struct xe_exec_queue *q, u64 value)  in exec_queue_set_pxp_type()
661 					    struct xe_exec_queue *q,  in exec_queue_set_hang_replay_state()
677 static int xe_exec_queue_group_init(struct xe_device *xe, struct xe_exec_queue *q)  in xe_exec_queue_group_init()
719 static inline bool xe_exec_queue_supports_multi_queue(struct xe_exec_queue *q)  in xe_exec_queue_supports_multi_queue()
724 static int xe_exec_queue_group_validate(struct xe_device *xe, struct xe_exec_queue *q,  in xe_exec_queue_group_validate()
728 	struct xe_exec_queue *primary;  in xe_exec_queue_group_validate()
757 static int xe_exec_queue_group_add(struct xe_device *xe, struct xe_exec_queue *q)  in xe_exec_queue_group_add()
783 static void xe_exec_queue_group_delete(struct xe_device *xe, struct xe_exec_queue *q)  in xe_exec_queue_group_delete()
795 static int exec_queue_set_multi_group(struct xe_device *xe, struct xe_exec_queue *q,  in exec_queue_set_multi_group()
830 static int exec_queue_set_multi_queue_priority(struct xe_device *xe, struct xe_exec_queue *q,  in exec_queue_set_multi_queue_priority()
849 					     struct xe_exec_queue *q,
868 	struct xe_exec_queue *q;  in xe_exec_queue_set_property_ioctl()
897 static int exec_queue_user_ext_check(struct xe_exec_queue *q, u64 properties)  in exec_queue_user_ext_check()
913 static int exec_queue_user_ext_check_final(struct xe_exec_queue *q, u64 properties)  in exec_queue_user_ext_check_final()
924 					    struct xe_exec_queue *q,  in exec_queue_user_ext_set_property()
960 					       struct xe_exec_queue *q,
968 static int __exec_queue_user_extensions(struct xe_device *xe, struct xe_exec_queue *q,  in __exec_queue_user_extensions()
1001 static int exec_queue_user_extensions(struct xe_device *xe, struct xe_exec_queue *q,  in exec_queue_user_extensions()
1098 	struct xe_exec_queue *q = NULL;  in xe_exec_queue_create_ioctl()
1147 			struct xe_exec_queue *new;  in xe_exec_queue_create_ioctl()
1261 	struct xe_exec_queue *q;  in xe_exec_queue_get_property_ioctl()
1295 struct xe_lrc *xe_exec_queue_lrc(struct xe_exec_queue *q)  in xe_exec_queue_lrc()
1306 bool xe_exec_queue_is_lr(struct xe_exec_queue *q)  in xe_exec_queue_is_lr()
1326 bool xe_exec_queue_is_idle(struct xe_exec_queue *q)  in xe_exec_queue_is_idle()
1352 void xe_exec_queue_update_run_ticks(struct xe_exec_queue *q)  in xe_exec_queue_update_run_ticks()
1393 void xe_exec_queue_kill(struct xe_exec_queue *q)  in xe_exec_queue_kill()
1395 	struct xe_exec_queue *eq = q, *next;  in xe_exec_queue_kill()
1413 	struct xe_exec_queue *q;  in xe_exec_queue_destroy_ioctl()
1439 static void xe_exec_queue_last_fence_lockdep_assert(struct xe_exec_queue *q,  in xe_exec_queue_last_fence_lockdep_assert()
1457 void xe_exec_queue_last_fence_put(struct xe_exec_queue *q, struct xe_vm *vm)  in xe_exec_queue_last_fence_put()
1470 void xe_exec_queue_last_fence_put_unlocked(struct xe_exec_queue *q)  in xe_exec_queue_last_fence_put_unlocked()
1487 struct dma_fence *xe_exec_queue_last_fence_get(struct xe_exec_queue *q,  in xe_exec_queue_last_fence_get()
1514 struct dma_fence *xe_exec_queue_last_fence_get_for_resume(struct xe_exec_queue *q,  in xe_exec_queue_last_fence_get_for_resume()
1539 void xe_exec_queue_last_fence_set(struct xe_exec_queue *q, struct xe_vm *vm,  in xe_exec_queue_last_fence_set()
1555 void xe_exec_queue_tlb_inval_last_fence_put(struct xe_exec_queue *q,  in xe_exec_queue_tlb_inval_last_fence_put()
1574 void xe_exec_queue_tlb_inval_last_fence_put_unlocked(struct xe_exec_queue *q,  in xe_exec_queue_tlb_inval_last_fence_put_unlocked()
1594 struct dma_fence *xe_exec_queue_tlb_inval_last_fence_get(struct xe_exec_queue *q,  in xe_exec_queue_tlb_inval_last_fence_get()
1627 void xe_exec_queue_tlb_inval_last_fence_set(struct xe_exec_queue *q,  in xe_exec_queue_tlb_inval_last_fence_set()
1651 int xe_exec_queue_contexts_hwsp_rebase(struct xe_exec_queue *q, void *scratch)  in xe_exec_queue_contexts_hwsp_rebase()