19fca2b7dSJohn Levon /* 29fca2b7dSJohn Levon * vfio PCI device over a UNIX socket. 39fca2b7dSJohn Levon * 49fca2b7dSJohn Levon * Copyright © 2018, 2021 Oracle and/or its affiliates. 59fca2b7dSJohn Levon * 69fca2b7dSJohn Levon * SPDX-License-Identifier: GPL-2.0-or-later 79fca2b7dSJohn Levon */ 89fca2b7dSJohn Levon 99fca2b7dSJohn Levon #include <sys/ioctl.h> 109fca2b7dSJohn Levon #include "qemu/osdep.h" 119fca2b7dSJohn Levon #include "qapi-visit-sockets.h" 129fca2b7dSJohn Levon 139fca2b7dSJohn Levon #include "hw/qdev-properties.h" 149fca2b7dSJohn Levon #include "hw/vfio/pci.h" 15438d863fSJohn Levon #include "hw/vfio-user/proxy.h" 169fca2b7dSJohn Levon 179fca2b7dSJohn Levon #define TYPE_VFIO_USER_PCI "vfio-user-pci" 189fca2b7dSJohn Levon OBJECT_DECLARE_SIMPLE_TYPE(VFIOUserPCIDevice, VFIO_USER_PCI) 199fca2b7dSJohn Levon 209fca2b7dSJohn Levon struct VFIOUserPCIDevice { 219fca2b7dSJohn Levon VFIOPCIDevice device; 229fca2b7dSJohn Levon SocketAddress *socket; 23*36227628SJohn Levon bool send_queued; /* all sends are queued */ 249fca2b7dSJohn Levon }; 259fca2b7dSJohn Levon 269fca2b7dSJohn Levon /* 270b3d881aSJohn Levon * Incoming request message callback. 280b3d881aSJohn Levon * 290b3d881aSJohn Levon * Runs off main loop, so BQL held. 300b3d881aSJohn Levon */ 310b3d881aSJohn Levon static void vfio_user_pci_process_req(void *opaque, VFIOUserMsg *msg) 320b3d881aSJohn Levon { 330b3d881aSJohn Levon 340b3d881aSJohn Levon } 350b3d881aSJohn Levon 360b3d881aSJohn Levon /* 379fca2b7dSJohn Levon * Emulated devices don't use host hot reset 389fca2b7dSJohn Levon */ 399fca2b7dSJohn Levon static void vfio_user_compute_needs_reset(VFIODevice *vbasedev) 409fca2b7dSJohn Levon { 419fca2b7dSJohn Levon vbasedev->needs_reset = false; 429fca2b7dSJohn Levon } 439fca2b7dSJohn Levon 449fca2b7dSJohn Levon static Object *vfio_user_pci_get_object(VFIODevice *vbasedev) 459fca2b7dSJohn Levon { 469fca2b7dSJohn Levon VFIOUserPCIDevice *vdev = container_of(vbasedev, VFIOUserPCIDevice, 479fca2b7dSJohn Levon device.vbasedev); 489fca2b7dSJohn Levon 499fca2b7dSJohn Levon return OBJECT(vdev); 509fca2b7dSJohn Levon } 519fca2b7dSJohn Levon 529fca2b7dSJohn Levon static VFIODeviceOps vfio_user_pci_ops = { 539fca2b7dSJohn Levon .vfio_compute_needs_reset = vfio_user_compute_needs_reset, 549fca2b7dSJohn Levon .vfio_eoi = vfio_pci_intx_eoi, 559fca2b7dSJohn Levon .vfio_get_object = vfio_user_pci_get_object, 569fca2b7dSJohn Levon /* No live migration support yet. */ 579fca2b7dSJohn Levon .vfio_save_config = NULL, 589fca2b7dSJohn Levon .vfio_load_config = NULL, 599fca2b7dSJohn Levon }; 609fca2b7dSJohn Levon 619fca2b7dSJohn Levon static void vfio_user_pci_realize(PCIDevice *pdev, Error **errp) 629fca2b7dSJohn Levon { 639fca2b7dSJohn Levon ERRP_GUARD(); 649fca2b7dSJohn Levon VFIOUserPCIDevice *udev = VFIO_USER_PCI(pdev); 659fca2b7dSJohn Levon VFIOPCIDevice *vdev = VFIO_PCI_BASE(pdev); 669fca2b7dSJohn Levon VFIODevice *vbasedev = &vdev->vbasedev; 679fca2b7dSJohn Levon const char *sock_name; 689fca2b7dSJohn Levon AddressSpace *as; 69438d863fSJohn Levon SocketAddress addr; 70438d863fSJohn Levon VFIOUserProxy *proxy; 719fca2b7dSJohn Levon 729fca2b7dSJohn Levon if (!udev->socket) { 739fca2b7dSJohn Levon error_setg(errp, "No socket specified"); 749fca2b7dSJohn Levon error_append_hint(errp, "e.g. -device '{" 759fca2b7dSJohn Levon "\"driver\":\"vfio-user-pci\", " 769fca2b7dSJohn Levon "\"socket\": {\"path\": \"/tmp/vfio-user.sock\", " 779fca2b7dSJohn Levon "\"type\": \"unix\"}'" 789fca2b7dSJohn Levon "}'\n"); 799fca2b7dSJohn Levon return; 809fca2b7dSJohn Levon } 819fca2b7dSJohn Levon 829fca2b7dSJohn Levon sock_name = udev->socket->u.q_unix.path; 839fca2b7dSJohn Levon 849fca2b7dSJohn Levon vbasedev->name = g_strdup_printf("vfio-user:%s", sock_name); 859fca2b7dSJohn Levon 86438d863fSJohn Levon memset(&addr, 0, sizeof(addr)); 87438d863fSJohn Levon addr.type = SOCKET_ADDRESS_TYPE_UNIX; 88438d863fSJohn Levon addr.u.q_unix.path = (char *)sock_name; 89438d863fSJohn Levon proxy = vfio_user_connect_dev(&addr, errp); 90438d863fSJohn Levon if (!proxy) { 91438d863fSJohn Levon return; 92438d863fSJohn Levon } 93438d863fSJohn Levon vbasedev->proxy = proxy; 940b3d881aSJohn Levon vfio_user_set_handler(vbasedev, vfio_user_pci_process_req, vdev); 95438d863fSJohn Levon 96*36227628SJohn Levon vbasedev->name = g_strdup_printf("vfio-user:%s", sock_name); 97*36227628SJohn Levon 98*36227628SJohn Levon if (udev->send_queued) { 99*36227628SJohn Levon proxy->flags |= VFIO_PROXY_FORCE_QUEUED; 100*36227628SJohn Levon } 101*36227628SJohn Levon 102*36227628SJohn Levon if (!vfio_user_validate_version(proxy, errp)) { 103*36227628SJohn Levon goto error; 104*36227628SJohn Levon } 105*36227628SJohn Levon 1069fca2b7dSJohn Levon /* 1079fca2b7dSJohn Levon * vfio-user devices are effectively mdevs (don't use a host iommu). 1089fca2b7dSJohn Levon */ 1099fca2b7dSJohn Levon vbasedev->mdev = true; 1109fca2b7dSJohn Levon 1119fca2b7dSJohn Levon as = pci_device_iommu_address_space(pdev); 1129fca2b7dSJohn Levon if (!vfio_device_attach_by_iommu_type(TYPE_VFIO_IOMMU_USER, 1139fca2b7dSJohn Levon vbasedev->name, vbasedev, 1149fca2b7dSJohn Levon as, errp)) { 115*36227628SJohn Levon goto error; 1169fca2b7dSJohn Levon } 117*36227628SJohn Levon 118*36227628SJohn Levon return; 119*36227628SJohn Levon 120*36227628SJohn Levon error: 121*36227628SJohn Levon error_prepend(errp, VFIO_MSG_PREFIX, vdev->vbasedev.name); 1229fca2b7dSJohn Levon } 1239fca2b7dSJohn Levon 1249fca2b7dSJohn Levon static void vfio_user_instance_init(Object *obj) 1259fca2b7dSJohn Levon { 1269fca2b7dSJohn Levon PCIDevice *pci_dev = PCI_DEVICE(obj); 1279fca2b7dSJohn Levon VFIOPCIDevice *vdev = VFIO_PCI_BASE(obj); 1289fca2b7dSJohn Levon VFIODevice *vbasedev = &vdev->vbasedev; 1299fca2b7dSJohn Levon 1309fca2b7dSJohn Levon device_add_bootindex_property(obj, &vdev->bootindex, 1319fca2b7dSJohn Levon "bootindex", NULL, 1329fca2b7dSJohn Levon &pci_dev->qdev); 1339fca2b7dSJohn Levon vdev->host.domain = ~0U; 1349fca2b7dSJohn Levon vdev->host.bus = ~0U; 1359fca2b7dSJohn Levon vdev->host.slot = ~0U; 1369fca2b7dSJohn Levon vdev->host.function = ~0U; 1379fca2b7dSJohn Levon 1389fca2b7dSJohn Levon vfio_device_init(vbasedev, VFIO_DEVICE_TYPE_PCI, &vfio_user_pci_ops, 1399fca2b7dSJohn Levon DEVICE(vdev), false); 1409fca2b7dSJohn Levon 1419fca2b7dSJohn Levon vdev->nv_gpudirect_clique = 0xFF; 1429fca2b7dSJohn Levon 1439fca2b7dSJohn Levon /* 1449fca2b7dSJohn Levon * QEMU_PCI_CAP_EXPRESS initialization does not depend on QEMU command 1459fca2b7dSJohn Levon * line, therefore, no need to wait to realize like other devices. 1469fca2b7dSJohn Levon */ 1479fca2b7dSJohn Levon pci_dev->cap_present |= QEMU_PCI_CAP_EXPRESS; 1489fca2b7dSJohn Levon } 1499fca2b7dSJohn Levon 1509fca2b7dSJohn Levon static void vfio_user_instance_finalize(Object *obj) 1519fca2b7dSJohn Levon { 1529fca2b7dSJohn Levon VFIOPCIDevice *vdev = VFIO_PCI_BASE(obj); 153438d863fSJohn Levon VFIODevice *vbasedev = &vdev->vbasedev; 1549fca2b7dSJohn Levon 1559fca2b7dSJohn Levon vfio_pci_put_device(vdev); 156438d863fSJohn Levon 157438d863fSJohn Levon if (vbasedev->proxy != NULL) { 158438d863fSJohn Levon vfio_user_disconnect(vbasedev->proxy); 159438d863fSJohn Levon } 1609fca2b7dSJohn Levon } 1619fca2b7dSJohn Levon 1629fca2b7dSJohn Levon static const Property vfio_user_pci_dev_properties[] = { 1639fca2b7dSJohn Levon DEFINE_PROP_UINT32("x-pci-vendor-id", VFIOPCIDevice, 1649fca2b7dSJohn Levon vendor_id, PCI_ANY_ID), 1659fca2b7dSJohn Levon DEFINE_PROP_UINT32("x-pci-device-id", VFIOPCIDevice, 1669fca2b7dSJohn Levon device_id, PCI_ANY_ID), 1679fca2b7dSJohn Levon DEFINE_PROP_UINT32("x-pci-sub-vendor-id", VFIOPCIDevice, 1689fca2b7dSJohn Levon sub_vendor_id, PCI_ANY_ID), 1699fca2b7dSJohn Levon DEFINE_PROP_UINT32("x-pci-sub-device-id", VFIOPCIDevice, 1709fca2b7dSJohn Levon sub_device_id, PCI_ANY_ID), 171*36227628SJohn Levon DEFINE_PROP_BOOL("x-send-queued", VFIOUserPCIDevice, send_queued, false), 1729fca2b7dSJohn Levon }; 1739fca2b7dSJohn Levon 1749fca2b7dSJohn Levon static void vfio_user_pci_set_socket(Object *obj, Visitor *v, const char *name, 1759fca2b7dSJohn Levon void *opaque, Error **errp) 1769fca2b7dSJohn Levon { 1779fca2b7dSJohn Levon VFIOUserPCIDevice *udev = VFIO_USER_PCI(obj); 1789fca2b7dSJohn Levon bool success; 1799fca2b7dSJohn Levon 180438d863fSJohn Levon if (udev->device.vbasedev.proxy) { 181438d863fSJohn Levon error_setg(errp, "Proxy is connected"); 182438d863fSJohn Levon return; 183438d863fSJohn Levon } 184438d863fSJohn Levon 1859fca2b7dSJohn Levon qapi_free_SocketAddress(udev->socket); 1869fca2b7dSJohn Levon 1879fca2b7dSJohn Levon udev->socket = NULL; 1889fca2b7dSJohn Levon 1899fca2b7dSJohn Levon success = visit_type_SocketAddress(v, name, &udev->socket, errp); 1909fca2b7dSJohn Levon 1919fca2b7dSJohn Levon if (!success) { 1929fca2b7dSJohn Levon return; 1939fca2b7dSJohn Levon } 1949fca2b7dSJohn Levon 1959fca2b7dSJohn Levon if (udev->socket->type != SOCKET_ADDRESS_TYPE_UNIX) { 1969fca2b7dSJohn Levon error_setg(errp, "Unsupported socket type %s", 1979fca2b7dSJohn Levon SocketAddressType_str(udev->socket->type)); 1989fca2b7dSJohn Levon qapi_free_SocketAddress(udev->socket); 1999fca2b7dSJohn Levon udev->socket = NULL; 2009fca2b7dSJohn Levon return; 2019fca2b7dSJohn Levon } 2029fca2b7dSJohn Levon } 2039fca2b7dSJohn Levon 2049fca2b7dSJohn Levon static void vfio_user_pci_dev_class_init(ObjectClass *klass, const void *data) 2059fca2b7dSJohn Levon { 2069fca2b7dSJohn Levon DeviceClass *dc = DEVICE_CLASS(klass); 2079fca2b7dSJohn Levon PCIDeviceClass *pdc = PCI_DEVICE_CLASS(klass); 2089fca2b7dSJohn Levon 2099fca2b7dSJohn Levon device_class_set_props(dc, vfio_user_pci_dev_properties); 2109fca2b7dSJohn Levon 2119fca2b7dSJohn Levon object_class_property_add(klass, "socket", "SocketAddress", NULL, 2129fca2b7dSJohn Levon vfio_user_pci_set_socket, NULL, NULL); 2139fca2b7dSJohn Levon object_class_property_set_description(klass, "socket", 2149fca2b7dSJohn Levon "SocketAddress (UNIX sockets only)"); 2159fca2b7dSJohn Levon 2169fca2b7dSJohn Levon dc->desc = "VFIO over socket PCI device assignment"; 2179fca2b7dSJohn Levon pdc->realize = vfio_user_pci_realize; 2189fca2b7dSJohn Levon } 2199fca2b7dSJohn Levon 2209fca2b7dSJohn Levon static const TypeInfo vfio_user_pci_dev_info = { 2219fca2b7dSJohn Levon .name = TYPE_VFIO_USER_PCI, 2229fca2b7dSJohn Levon .parent = TYPE_VFIO_PCI_BASE, 2239fca2b7dSJohn Levon .instance_size = sizeof(VFIOUserPCIDevice), 2249fca2b7dSJohn Levon .class_init = vfio_user_pci_dev_class_init, 2259fca2b7dSJohn Levon .instance_init = vfio_user_instance_init, 2269fca2b7dSJohn Levon .instance_finalize = vfio_user_instance_finalize, 2279fca2b7dSJohn Levon }; 2289fca2b7dSJohn Levon 2299fca2b7dSJohn Levon static void register_vfio_user_dev_type(void) 2309fca2b7dSJohn Levon { 2319fca2b7dSJohn Levon type_register_static(&vfio_user_pci_dev_info); 2329fca2b7dSJohn Levon } 2339fca2b7dSJohn Levon 2349fca2b7dSJohn Levon type_init(register_vfio_user_dev_type) 235