Lines Matching refs:vops

1285 				 struct xe_vma_ops *vops,  in xe_pt_vm_dependencies()  argument
1296 if (!job && !no_in_syncs(vops->syncs, vops->num_syncs)) in xe_pt_vm_dependencies()
1335 list_for_each_entry(op, &vops->list, link) { in xe_pt_vm_dependencies()
1341 for (i = 0; job && !err && i < vops->num_syncs; i++) in xe_pt_vm_dependencies()
1342 err = xe_sync_entry_add_deps(&vops->syncs[i], job); in xe_pt_vm_dependencies()
1363 struct xe_vma_ops *vops = pt_update->vops; in xe_pt_pre_commit() local
1364 struct xe_vm *vm = vops->vm; in xe_pt_pre_commit()
1367 &vops->pt_update_ops[pt_update->tile_id]; in xe_pt_pre_commit()
1370 pt_update->mjob, vm, pt_update->vops, in xe_pt_pre_commit()
1496 struct xe_vm *vm = pt_update->vops->vm; in xe_pt_svm_userptr_pre_commit()
1497 struct xe_vma_ops *vops = pt_update->vops; in xe_pt_svm_userptr_pre_commit() local
1499 &vops->pt_update_ops[pt_update->tile_id]; in xe_pt_svm_userptr_pre_commit()
1509 list_for_each_entry(op, &vops->list, link) { in xe_pt_svm_userptr_pre_commit()
1839 struct xe_vm *vm = pt_update->vops->vm; in xe_migrate_clear_pgtable_callback()
2282 int xe_pt_update_ops_prepare(struct xe_tile *tile, struct xe_vma_ops *vops) in xe_pt_update_ops_prepare() argument
2285 &vops->pt_update_ops[tile->id]; in xe_pt_update_ops_prepare()
2290 lockdep_assert_held(&vops->vm->lock); in xe_pt_update_ops_prepare()
2291 xe_vm_assert_held(vops->vm); in xe_pt_update_ops_prepare()
2295 err = dma_resv_reserve_fences(xe_vm_resv(vops->vm), in xe_pt_update_ops_prepare()
2300 list_for_each_entry(op, &vops->list, link) { in xe_pt_update_ops_prepare()
2301 err = op_prepare(vops->vm, tile, pt_update_ops, op); in xe_pt_update_ops_prepare()
2311 if (vops->inject_error && in xe_pt_update_ops_prepare()
2312 vops->vm->xe->vm_inject_error_position == FORCE_OP_ERROR_PREPARE) in xe_pt_update_ops_prepare()
2518 xe_pt_update_ops_run(struct xe_tile *tile, struct xe_vma_ops *vops) in xe_pt_update_ops_run() argument
2520 struct xe_vm *vm = vops->vm; in xe_pt_update_ops_run()
2522 &vops->pt_update_ops[tile->id]; in xe_pt_update_ops_run()
2533 .vops = vops, in xe_pt_update_ops_run()
2547 if (vops->inject_error && in xe_pt_update_ops_run()
2633 list_for_each_entry(op, &vops->list, link) in xe_pt_update_ops_run()
2634 op_commit(vops->vm, tile, pt_update_ops, op, fence, NULL); in xe_pt_update_ops_run()
2641 list_for_each_entry(op, &vops->list, link) in xe_pt_update_ops_run()
2642 op_commit(vops->vm, tile, pt_update_ops, op, ifence, NULL); in xe_pt_update_ops_run()
2654 list_for_each_entry(op, &vops->list, link) in xe_pt_update_ops_run()
2655 op_commit(vops->vm, tile, pt_update_ops, op, ifence, in xe_pt_update_ops_run()
2683 xe_vm_kill(vops->vm, false); in xe_pt_update_ops_run()
2696 void xe_pt_update_ops_fini(struct xe_tile *tile, struct xe_vma_ops *vops) in xe_pt_update_ops_fini() argument
2699 &vops->pt_update_ops[tile->id]; in xe_pt_update_ops_fini()
2704 lockdep_assert_held(&vops->vm->lock); in xe_pt_update_ops_fini()
2705 xe_vm_assert_held(vops->vm); in xe_pt_update_ops_fini()
2712 xe_bo_put_commit(&vops->pt_update_ops[tile->id].deferred); in xe_pt_update_ops_fini()
2722 void xe_pt_update_ops_abort(struct xe_tile *tile, struct xe_vma_ops *vops) in xe_pt_update_ops_abort() argument
2725 &vops->pt_update_ops[tile->id]; in xe_pt_update_ops_abort()
2728 lockdep_assert_held(&vops->vm->lock); in xe_pt_update_ops_abort()
2729 xe_vm_assert_held(vops->vm); in xe_pt_update_ops_abort()
2747 xe_pt_update_ops_fini(tile, vops); in xe_pt_update_ops_abort()