xref: /kvmtool/virtio/scsi.c (revision db927775acdbc647b5beeb8e29522d1e3fe39987)
1a67da3beSAsias He #include "kvm/virtio-scsi.h"
2a67da3beSAsias He #include "kvm/virtio-pci-dev.h"
3a67da3beSAsias He #include "kvm/disk-image.h"
4e59679d2SJean-Philippe Brucker #include "kvm/irq.h"
5a67da3beSAsias He #include "kvm/kvm.h"
6a67da3beSAsias He #include "kvm/pci.h"
7a67da3beSAsias He #include "kvm/ioeventfd.h"
8a67da3beSAsias He #include "kvm/guest_compat.h"
9a67da3beSAsias He #include "kvm/virtio-pci.h"
10a67da3beSAsias He #include "kvm/virtio.h"
1105755b29SAndre Przywara #include "kvm/strbuf.h"
12a67da3beSAsias He 
13a67da3beSAsias He #include <linux/kernel.h>
14a67da3beSAsias He #include <linux/virtio_scsi.h>
15a67da3beSAsias He #include <linux/vhost.h>
16a67da3beSAsias He 
17a67da3beSAsias He #define VIRTIO_SCSI_QUEUE_SIZE		128
18a67da3beSAsias He #define NUM_VIRT_QUEUES			3
19a67da3beSAsias He 
20a67da3beSAsias He static LIST_HEAD(sdevs);
21a67da3beSAsias He static int compat_id = -1;
22a67da3beSAsias He 
23a67da3beSAsias He struct scsi_dev {
24a67da3beSAsias He 	struct virt_queue		vqs[NUM_VIRT_QUEUES];
25a67da3beSAsias He 	struct virtio_scsi_config	config;
26a67da3beSAsias He 	struct vhost_scsi_target	target;
27a67da3beSAsias He 	u32				features;
28a67da3beSAsias He 	int				vhost_fd;
29a67da3beSAsias He 	struct virtio_device		vdev;
30a67da3beSAsias He 	struct list_head		list;
31a67da3beSAsias He 	struct kvm			*kvm;
32a67da3beSAsias He };
33a67da3beSAsias He 
34c5ae742bSSasha Levin static u8 *get_config(struct kvm *kvm, void *dev)
35a67da3beSAsias He {
36a67da3beSAsias He 	struct scsi_dev *sdev = dev;
37a67da3beSAsias He 
38c5ae742bSSasha Levin 	return ((u8 *)(&sdev->config));
39a67da3beSAsias He }
40a67da3beSAsias He 
41a67da3beSAsias He static u32 get_host_features(struct kvm *kvm, void *dev)
42a67da3beSAsias He {
43a67da3beSAsias He 	return	1UL << VIRTIO_RING_F_EVENT_IDX |
44a67da3beSAsias He 		1UL << VIRTIO_RING_F_INDIRECT_DESC;
45a67da3beSAsias He }
46a67da3beSAsias He 
47a67da3beSAsias He static void set_guest_features(struct kvm *kvm, void *dev, u32 features)
48a67da3beSAsias He {
49a67da3beSAsias He 	struct scsi_dev *sdev = dev;
50a67da3beSAsias He 
51a67da3beSAsias He 	sdev->features = features;
52a67da3beSAsias He }
53a67da3beSAsias He 
5495242e44SJean-Philippe Brucker static void notify_status(struct kvm *kvm, void *dev, u32 status)
5595242e44SJean-Philippe Brucker {
5695242e44SJean-Philippe Brucker }
5795242e44SJean-Philippe Brucker 
58c59ba304SWill Deacon static int init_vq(struct kvm *kvm, void *dev, u32 vq, u32 page_size, u32 align,
59c59ba304SWill Deacon 		   u32 pfn)
60a67da3beSAsias He {
61a67da3beSAsias He 	struct vhost_vring_state state = { .index = vq };
62a67da3beSAsias He 	struct vhost_vring_addr addr;
63a67da3beSAsias He 	struct scsi_dev *sdev = dev;
64a67da3beSAsias He 	struct virt_queue *queue;
65a67da3beSAsias He 	void *p;
66a67da3beSAsias He 	int r;
67a67da3beSAsias He 
68a67da3beSAsias He 	compat__remove_message(compat_id);
69a67da3beSAsias He 
70a67da3beSAsias He 	queue		= &sdev->vqs[vq];
71a67da3beSAsias He 	queue->pfn	= pfn;
72e7e2950aSSasha Levin 	p		= virtio_get_vq(kvm, queue->pfn, page_size);
73a67da3beSAsias He 
74c59ba304SWill Deacon 	vring_init(&queue->vring, VIRTIO_SCSI_QUEUE_SIZE, p, align);
75207fb981SWill Deacon 	virtio_init_device_vq(&sdev->vdev, queue);
76a67da3beSAsias He 
77a67da3beSAsias He 	if (sdev->vhost_fd == 0)
78a67da3beSAsias He 		return 0;
79a67da3beSAsias He 
80a67da3beSAsias He 	state.num = queue->vring.num;
81a67da3beSAsias He 	r = ioctl(sdev->vhost_fd, VHOST_SET_VRING_NUM, &state);
82a67da3beSAsias He 	if (r < 0)
83a67da3beSAsias He 		die_perror("VHOST_SET_VRING_NUM failed");
84a67da3beSAsias He 	state.num = 0;
85a67da3beSAsias He 	r = ioctl(sdev->vhost_fd, VHOST_SET_VRING_BASE, &state);
86a67da3beSAsias He 	if (r < 0)
87a67da3beSAsias He 		die_perror("VHOST_SET_VRING_BASE failed");
88a67da3beSAsias He 
89a67da3beSAsias He 	addr = (struct vhost_vring_addr) {
90a67da3beSAsias He 		.index = vq,
91a67da3beSAsias He 		.desc_user_addr = (u64)(unsigned long)queue->vring.desc,
92a67da3beSAsias He 		.avail_user_addr = (u64)(unsigned long)queue->vring.avail,
93a67da3beSAsias He 		.used_user_addr = (u64)(unsigned long)queue->vring.used,
94a67da3beSAsias He 	};
95a67da3beSAsias He 
96a67da3beSAsias He 	r = ioctl(sdev->vhost_fd, VHOST_SET_VRING_ADDR, &addr);
97a67da3beSAsias He 	if (r < 0)
98a67da3beSAsias He 		die_perror("VHOST_SET_VRING_ADDR failed");
99a67da3beSAsias He 
100a67da3beSAsias He 	return 0;
101a67da3beSAsias He }
102a67da3beSAsias He 
103a67da3beSAsias He static void notify_vq_gsi(struct kvm *kvm, void *dev, u32 vq, u32 gsi)
104a67da3beSAsias He {
105a67da3beSAsias He 	struct vhost_vring_file file;
106a67da3beSAsias He 	struct scsi_dev *sdev = dev;
107a67da3beSAsias He 	int r;
108a67da3beSAsias He 
109a67da3beSAsias He 	if (sdev->vhost_fd == 0)
110a67da3beSAsias He 		return;
111a67da3beSAsias He 
112a67da3beSAsias He 	file = (struct vhost_vring_file) {
113a67da3beSAsias He 		.index	= vq,
114e59679d2SJean-Philippe Brucker 		.fd	= eventfd(0, 0),
115a67da3beSAsias He 	};
116a67da3beSAsias He 
117e59679d2SJean-Philippe Brucker 	r = irq__add_irqfd(kvm, gsi, file.fd, -1);
118a67da3beSAsias He 	if (r < 0)
119a67da3beSAsias He 		die_perror("KVM_IRQFD failed");
120a67da3beSAsias He 
121a67da3beSAsias He 	r = ioctl(sdev->vhost_fd, VHOST_SET_VRING_CALL, &file);
122a67da3beSAsias He 	if (r < 0)
123a67da3beSAsias He 		die_perror("VHOST_SET_VRING_CALL failed");
124a67da3beSAsias He 
125a67da3beSAsias He 	if (vq > 0)
126a67da3beSAsias He 		return;
127a67da3beSAsias He 
128a67da3beSAsias He 	r = ioctl(sdev->vhost_fd, VHOST_SCSI_SET_ENDPOINT, &sdev->target);
129a67da3beSAsias He 	if (r != 0)
130a67da3beSAsias He 		die("VHOST_SCSI_SET_ENDPOINT failed %d", errno);
131a67da3beSAsias He }
132a67da3beSAsias He 
133a67da3beSAsias He static void notify_vq_eventfd(struct kvm *kvm, void *dev, u32 vq, u32 efd)
134a67da3beSAsias He {
135a67da3beSAsias He 	struct scsi_dev *sdev = dev;
136a67da3beSAsias He 	struct vhost_vring_file file = {
137a67da3beSAsias He 		.index	= vq,
138a67da3beSAsias He 		.fd	= efd,
139a67da3beSAsias He 	};
140a67da3beSAsias He 	int r;
141a67da3beSAsias He 
142a67da3beSAsias He 	if (sdev->vhost_fd == 0)
143a67da3beSAsias He 		return;
144a67da3beSAsias He 
145a67da3beSAsias He 	r = ioctl(sdev->vhost_fd, VHOST_SET_VRING_KICK, &file);
146a67da3beSAsias He 	if (r < 0)
147a67da3beSAsias He 		die_perror("VHOST_SET_VRING_KICK failed");
148a67da3beSAsias He }
149a67da3beSAsias He 
150a67da3beSAsias He static int notify_vq(struct kvm *kvm, void *dev, u32 vq)
151a67da3beSAsias He {
152a67da3beSAsias He 	return 0;
153a67da3beSAsias He }
154a67da3beSAsias He 
15553fbb17bSJean-Philippe Brucker static struct virt_queue *get_vq(struct kvm *kvm, void *dev, u32 vq)
156a67da3beSAsias He {
157a67da3beSAsias He 	struct scsi_dev *sdev = dev;
158a67da3beSAsias He 
15953fbb17bSJean-Philippe Brucker 	return &sdev->vqs[vq];
160a67da3beSAsias He }
161a67da3beSAsias He 
162a67da3beSAsias He static int get_size_vq(struct kvm *kvm, void *dev, u32 vq)
163a67da3beSAsias He {
164a67da3beSAsias He 	return VIRTIO_SCSI_QUEUE_SIZE;
165a67da3beSAsias He }
166a67da3beSAsias He 
167a67da3beSAsias He static int set_size_vq(struct kvm *kvm, void *dev, u32 vq, int size)
168a67da3beSAsias He {
169a67da3beSAsias He 	return size;
170a67da3beSAsias He }
171a67da3beSAsias He 
172b98ac591SJean-Philippe Brucker static int get_vq_count(struct kvm *kvm, void *dev)
173b98ac591SJean-Philippe Brucker {
174b98ac591SJean-Philippe Brucker 	return NUM_VIRT_QUEUES;
175b98ac591SJean-Philippe Brucker }
176b98ac591SJean-Philippe Brucker 
17715542babSAndre Przywara static struct virtio_ops scsi_dev_virtio_ops = {
178a67da3beSAsias He 	.get_config		= get_config,
179a67da3beSAsias He 	.get_host_features	= get_host_features,
180a67da3beSAsias He 	.set_guest_features	= set_guest_features,
181a67da3beSAsias He 	.init_vq		= init_vq,
18253fbb17bSJean-Philippe Brucker 	.get_vq			= get_vq,
183a67da3beSAsias He 	.get_size_vq		= get_size_vq,
184a67da3beSAsias He 	.set_size_vq		= set_size_vq,
18595242e44SJean-Philippe Brucker 	.notify_status		= notify_status,
186a67da3beSAsias He 	.notify_vq		= notify_vq,
187a67da3beSAsias He 	.notify_vq_gsi		= notify_vq_gsi,
188a67da3beSAsias He 	.notify_vq_eventfd	= notify_vq_eventfd,
189b98ac591SJean-Philippe Brucker 	.get_vq_count		= get_vq_count,
190a67da3beSAsias He };
191a67da3beSAsias He 
192a67da3beSAsias He static void virtio_scsi_vhost_init(struct kvm *kvm, struct scsi_dev *sdev)
193a67da3beSAsias He {
194a67da3beSAsias He 	struct vhost_memory *mem;
195a67da3beSAsias He 	u64 features;
196a67da3beSAsias He 	int r;
197a67da3beSAsias He 
198a67da3beSAsias He 	sdev->vhost_fd = open("/dev/vhost-scsi", O_RDWR);
199a67da3beSAsias He 	if (sdev->vhost_fd < 0)
200a67da3beSAsias He 		die_perror("Failed openning vhost-scsi device");
201a67da3beSAsias He 
202a67da3beSAsias He 	mem = calloc(1, sizeof(*mem) + sizeof(struct vhost_memory_region));
203a67da3beSAsias He 	if (mem == NULL)
204a67da3beSAsias He 		die("Failed allocating memory for vhost memory map");
205a67da3beSAsias He 
206a67da3beSAsias He 	mem->nregions = 1;
207a67da3beSAsias He 	mem->regions[0] = (struct vhost_memory_region) {
208a67da3beSAsias He 		.guest_phys_addr	= 0,
209a67da3beSAsias He 		.memory_size		= kvm->ram_size,
210a67da3beSAsias He 		.userspace_addr		= (unsigned long)kvm->ram_start,
211a67da3beSAsias He 	};
212a67da3beSAsias He 
213a67da3beSAsias He 	r = ioctl(sdev->vhost_fd, VHOST_SET_OWNER);
214a67da3beSAsias He 	if (r != 0)
215a67da3beSAsias He 		die_perror("VHOST_SET_OWNER failed");
216a67da3beSAsias He 
217a67da3beSAsias He 	r = ioctl(sdev->vhost_fd, VHOST_GET_FEATURES, &features);
218a67da3beSAsias He 	if (r != 0)
219a67da3beSAsias He 		die_perror("VHOST_GET_FEATURES failed");
220a67da3beSAsias He 
221a67da3beSAsias He 	r = ioctl(sdev->vhost_fd, VHOST_SET_FEATURES, &features);
222a67da3beSAsias He 	if (r != 0)
223a67da3beSAsias He 		die_perror("VHOST_SET_FEATURES failed");
224a67da3beSAsias He 	r = ioctl(sdev->vhost_fd, VHOST_SET_MEM_TABLE, mem);
225a67da3beSAsias He 	if (r != 0)
226a67da3beSAsias He 		die_perror("VHOST_SET_MEM_TABLE failed");
227a67da3beSAsias He 
228a67da3beSAsias He 	sdev->vdev.use_vhost = true;
229a67da3beSAsias He 
230a67da3beSAsias He 	free(mem);
231a67da3beSAsias He }
232a67da3beSAsias He 
233a67da3beSAsias He 
234a67da3beSAsias He static int virtio_scsi_init_one(struct kvm *kvm, struct disk_image *disk)
235a67da3beSAsias He {
236a67da3beSAsias He 	struct scsi_dev *sdev;
237*db927775SAlexandru Elisei 	int r;
238a67da3beSAsias He 
239a67da3beSAsias He 	if (!disk)
240a67da3beSAsias He 		return -EINVAL;
241a67da3beSAsias He 
242a67da3beSAsias He 	sdev = calloc(1, sizeof(struct scsi_dev));
243a67da3beSAsias He 	if (sdev == NULL)
244a67da3beSAsias He 		return -ENOMEM;
245a67da3beSAsias He 
246a67da3beSAsias He 	*sdev = (struct scsi_dev) {
247a67da3beSAsias He 		.config	= (struct virtio_scsi_config) {
248a67da3beSAsias He 			.num_queues	= NUM_VIRT_QUEUES - 2,
249a67da3beSAsias He 			.seg_max	= VIRTIO_SCSI_CDB_SIZE - 2,
250a67da3beSAsias He 			.max_sectors	= 65535,
251a67da3beSAsias He 			.cmd_per_lun	= 128,
252a67da3beSAsias He 			.sense_size	= VIRTIO_SCSI_SENSE_SIZE,
253a67da3beSAsias He 			.cdb_size	= VIRTIO_SCSI_CDB_SIZE,
254a67da3beSAsias He 			.max_channel	= 0,
255a67da3beSAsias He 			.max_target	= 0,
256a67da3beSAsias He 			.max_lun	= 16383,
257a67da3beSAsias He 			.event_info_size = sizeof(struct virtio_scsi_event),
258a67da3beSAsias He 		},
259a67da3beSAsias He 		.kvm			= kvm,
260a67da3beSAsias He 	};
26105755b29SAndre Przywara 	strlcpy((char *)&sdev->target.vhost_wwpn, disk->wwpn, sizeof(sdev->target.vhost_wwpn));
262a67da3beSAsias He 	sdev->target.vhost_tpgt = strtol(disk->tpgt, NULL, 0);
263a67da3beSAsias He 
264*db927775SAlexandru Elisei 	list_add_tail(&sdev->list, &sdevs);
265*db927775SAlexandru Elisei 
266*db927775SAlexandru Elisei 	r = virtio_init(kvm, sdev, &sdev->vdev, &scsi_dev_virtio_ops,
267d97dadecSWill Deacon 			VIRTIO_DEFAULT_TRANS(kvm), PCI_DEVICE_ID_VIRTIO_SCSI,
268ae06ce71SWill Deacon 			VIRTIO_ID_SCSI, PCI_CLASS_BLK);
269*db927775SAlexandru Elisei 	if (r < 0)
270*db927775SAlexandru Elisei 		return r;
271a67da3beSAsias He 
272a67da3beSAsias He 	virtio_scsi_vhost_init(kvm, sdev);
273a67da3beSAsias He 
274a67da3beSAsias He 	if (compat_id == -1)
275a67da3beSAsias He 		compat_id = virtio_compat_add_message("virtio-scsi", "CONFIG_VIRTIO_SCSI");
276a67da3beSAsias He 
277a67da3beSAsias He 	return 0;
278a67da3beSAsias He }
279a67da3beSAsias He 
280a67da3beSAsias He static int virtio_scsi_exit_one(struct kvm *kvm, struct scsi_dev *sdev)
281a67da3beSAsias He {
282a67da3beSAsias He 	int r;
283a67da3beSAsias He 
284a67da3beSAsias He 	r = ioctl(sdev->vhost_fd, VHOST_SCSI_CLEAR_ENDPOINT, &sdev->target);
285a67da3beSAsias He 	if (r != 0)
286a67da3beSAsias He 		die("VHOST_SCSI_CLEAR_ENDPOINT failed %d", errno);
287a67da3beSAsias He 
288a67da3beSAsias He 	list_del(&sdev->list);
289a67da3beSAsias He 	free(sdev);
290a67da3beSAsias He 
291a67da3beSAsias He 	return 0;
292a67da3beSAsias He }
293a67da3beSAsias He 
294a67da3beSAsias He int virtio_scsi_init(struct kvm *kvm)
295a67da3beSAsias He {
296a67da3beSAsias He 	int i, r = 0;
297a67da3beSAsias He 
298a67da3beSAsias He 	for (i = 0; i < kvm->nr_disks; i++) {
299a67da3beSAsias He 		if (!kvm->disks[i]->wwpn)
300a67da3beSAsias He 			continue;
301a67da3beSAsias He 		r = virtio_scsi_init_one(kvm, kvm->disks[i]);
302a67da3beSAsias He 		if (r < 0)
303a67da3beSAsias He 			goto cleanup;
304a67da3beSAsias He 	}
305a67da3beSAsias He 
306a67da3beSAsias He 	return 0;
307a67da3beSAsias He cleanup:
308*db927775SAlexandru Elisei 	virtio_scsi_exit(kvm);
309*db927775SAlexandru Elisei 	return r;
310a67da3beSAsias He }
31149a8afd1SSasha Levin virtio_dev_init(virtio_scsi_init);
312a67da3beSAsias He 
313a67da3beSAsias He int virtio_scsi_exit(struct kvm *kvm)
314a67da3beSAsias He {
315a67da3beSAsias He 	while (!list_empty(&sdevs)) {
316a67da3beSAsias He 		struct scsi_dev *sdev;
317a67da3beSAsias He 
318a67da3beSAsias He 		sdev = list_first_entry(&sdevs, struct scsi_dev, list);
319a67da3beSAsias He 		virtio_scsi_exit_one(kvm, sdev);
320a67da3beSAsias He 	}
321a67da3beSAsias He 
322a67da3beSAsias He 	return 0;
323a67da3beSAsias He }
32449a8afd1SSasha Levin virtio_dev_exit(virtio_scsi_exit);
325