28 static int init_worker_threads(struct otx_cptvf *cptvf)  in init_worker_threads()
53 static void cleanup_worker_threads(struct otx_cptvf *cptvf)  in cleanup_worker_threads()
127 static int init_pending_queues(struct otx_cptvf *cptvf, u32 qlen,  in init_pending_queues()
145 static void cleanup_pending_queues(struct otx_cptvf *cptvf)  in cleanup_pending_queues()
157 static void free_command_queues(struct otx_cptvf *cptvf,  in free_command_queues()
187 static int alloc_command_queues(struct otx_cptvf *cptvf,  in alloc_command_queues()
265 static int init_command_queues(struct otx_cptvf *cptvf, u32 qlen)  in init_command_queues()
280 static void cleanup_command_queues(struct otx_cptvf *cptvf)  in cleanup_command_queues()
292 static void cptvf_sw_cleanup(struct otx_cptvf *cptvf)  in cptvf_sw_cleanup()
299 static int cptvf_sw_init(struct otx_cptvf *cptvf, u32 qlen, u32 num_queues)  in cptvf_sw_init()
342 static void cptvf_free_irq_affinity(struct otx_cptvf *cptvf, int vec)  in cptvf_free_irq_affinity()
348 static void cptvf_write_vq_ctl(struct otx_cptvf *cptvf, bool val)  in cptvf_write_vq_ctl()
357 void otx_cptvf_write_vq_doorbell(struct otx_cptvf *cptvf, u32 val)  in otx_cptvf_write_vq_doorbell()
366 static void cptvf_write_vq_inprog(struct otx_cptvf *cptvf, u8 val)  in cptvf_write_vq_inprog()
375 static void cptvf_write_vq_done_numwait(struct otx_cptvf *cptvf, u32 val)  in cptvf_write_vq_done_numwait()
384 static u32 cptvf_read_vq_done_numwait(struct otx_cptvf *cptvf)  in cptvf_read_vq_done_numwait()
392 static void cptvf_write_vq_done_timewait(struct otx_cptvf *cptvf, u16 time)  in cptvf_write_vq_done_timewait()
402 static u16 cptvf_read_vq_done_timewait(struct otx_cptvf *cptvf)  in cptvf_read_vq_done_timewait()
410 static void cptvf_enable_swerr_interrupts(struct otx_cptvf *cptvf)  in cptvf_enable_swerr_interrupts()
420 static void cptvf_enable_mbox_interrupts(struct otx_cptvf *cptvf)  in cptvf_enable_mbox_interrupts()
430 static void cptvf_enable_done_interrupts(struct otx_cptvf *cptvf)  in cptvf_enable_done_interrupts()
440 static void cptvf_clear_dovf_intr(struct otx_cptvf *cptvf)  in cptvf_clear_dovf_intr()
450 static void cptvf_clear_irde_intr(struct otx_cptvf *cptvf)  in cptvf_clear_irde_intr()
460 static void cptvf_clear_nwrp_intr(struct otx_cptvf *cptvf)  in cptvf_clear_nwrp_intr()
470 static void cptvf_clear_mbox_intr(struct otx_cptvf *cptvf)  in cptvf_clear_mbox_intr()
480 static void cptvf_clear_swerr_intr(struct otx_cptvf *cptvf)  in cptvf_clear_swerr_intr()
490 static u64 cptvf_read_vf_misc_intr_status(struct otx_cptvf *cptvf)  in cptvf_read_vf_misc_intr_status()
498 	struct otx_cptvf *cptvf = arg;  in cptvf_misc_intr_handler()  local
539 static inline struct otx_cptvf_wqe *get_cptvf_vq_wqe(struct otx_cptvf *cptvf,  in get_cptvf_vq_wqe()
551 static inline u32 cptvf_read_vq_done_count(struct otx_cptvf *cptvf)  in cptvf_read_vq_done_count()
559 static inline void cptvf_write_vq_done_ack(struct otx_cptvf *cptvf,  in cptvf_write_vq_done_ack()
572 	struct otx_cptvf *cptvf = (struct otx_cptvf *)cptvf_dev;  in cptvf_done_intr_handler()  local
597 static void cptvf_set_irq_affinity(struct otx_cptvf *cptvf, int vec)  in cptvf_set_irq_affinity()
617 static void cptvf_write_vq_saddr(struct otx_cptvf *cptvf, u64 val)  in cptvf_write_vq_saddr()
625 static void cptvf_device_init(struct otx_cptvf *cptvf)  in cptvf_device_init()
651 	struct otx_cptvf *cptvf = dev_get_drvdata(dev);  in vf_type_show()  local
674 	struct otx_cptvf *cptvf = dev_get_drvdata(dev);  in vf_engine_group_show()  local
683 	struct otx_cptvf *cptvf = dev_get_drvdata(dev);  in vf_engine_group_store()  local
710 	struct otx_cptvf *cptvf = dev_get_drvdata(dev);  in vf_coalesc_time_wait_show()  local
720 	struct otx_cptvf *cptvf = dev_get_drvdata(dev);  in vf_coalesc_num_wait_show()  local
730 	struct otx_cptvf *cptvf = dev_get_drvdata(dev);  in vf_coalesc_time_wait_store()  local
750 	struct otx_cptvf *cptvf = dev_get_drvdata(dev);  in vf_coalesc_num_wait_store()  local
787 	struct otx_cptvf *cptvf;  in otx_cptvf_probe()  local
940 	struct otx_cptvf *cptvf = pci_get_drvdata(pdev);  in otx_cptvf_remove()  local