xref: /qemu/hw/intc/spapr_xive.c (revision 0b8fa32f551e863bb548a11394239239270dd3dc)
13aa597f6SCédric Le Goater /*
23aa597f6SCédric Le Goater  * QEMU PowerPC sPAPR XIVE interrupt controller model
33aa597f6SCédric Le Goater  *
43aa597f6SCédric Le Goater  * Copyright (c) 2017-2018, IBM Corporation.
53aa597f6SCédric Le Goater  *
63aa597f6SCédric Le Goater  * This code is licensed under the GPL version 2 or later. See the
73aa597f6SCédric Le Goater  * COPYING file in the top-level directory.
83aa597f6SCédric Le Goater  */
93aa597f6SCédric Le Goater 
103aa597f6SCédric Le Goater #include "qemu/osdep.h"
113aa597f6SCédric Le Goater #include "qemu/log.h"
12*0b8fa32fSMarkus Armbruster #include "qemu/module.h"
133aa597f6SCédric Le Goater #include "qapi/error.h"
143aa597f6SCédric Le Goater #include "qemu/error-report.h"
153aa597f6SCédric Le Goater #include "target/ppc/cpu.h"
163aa597f6SCédric Le Goater #include "sysemu/cpus.h"
173aa597f6SCédric Le Goater #include "monitor/monitor.h"
186e21de4aSCédric Le Goater #include "hw/ppc/fdt.h"
193aa597f6SCédric Le Goater #include "hw/ppc/spapr.h"
20a28b9a5aSCédric Le Goater #include "hw/ppc/spapr_cpu_core.h"
213aa597f6SCédric Le Goater #include "hw/ppc/spapr_xive.h"
223aa597f6SCédric Le Goater #include "hw/ppc/xive.h"
233aa597f6SCédric Le Goater #include "hw/ppc/xive_regs.h"
243aa597f6SCédric Le Goater 
253aa597f6SCédric Le Goater /*
263aa597f6SCédric Le Goater  * XIVE Virtualization Controller BAR and Thread Managment BAR that we
273aa597f6SCédric Le Goater  * use for the ESB pages and the TIMA pages
283aa597f6SCédric Le Goater  */
293aa597f6SCédric Le Goater #define SPAPR_XIVE_VC_BASE   0x0006010000000000ull
303aa597f6SCédric Le Goater #define SPAPR_XIVE_TM_BASE   0x0006030203180000ull
313aa597f6SCédric Le Goater 
323aa597f6SCédric Le Goater /*
330cddee8dSCédric Le Goater  * The allocation of VP blocks is a complex operation in OPAL and the
340cddee8dSCédric Le Goater  * VP identifiers have a relation with the number of HW chips, the
350cddee8dSCédric Le Goater  * size of the VP blocks, VP grouping, etc. The QEMU sPAPR XIVE
360cddee8dSCédric Le Goater  * controller model does not have the same constraints and can use a
370cddee8dSCédric Le Goater  * simple mapping scheme of the CPU vcpu_id
380cddee8dSCédric Le Goater  *
390cddee8dSCédric Le Goater  * These identifiers are never returned to the OS.
400cddee8dSCédric Le Goater  */
410cddee8dSCédric Le Goater 
420cddee8dSCédric Le Goater #define SPAPR_XIVE_NVT_BASE 0x400
430cddee8dSCédric Le Goater 
440cddee8dSCédric Le Goater /*
450cddee8dSCédric Le Goater  * sPAPR NVT and END indexing helpers
460cddee8dSCédric Le Goater  */
470cddee8dSCédric Le Goater static uint32_t spapr_xive_nvt_to_target(uint8_t nvt_blk, uint32_t nvt_idx)
480cddee8dSCédric Le Goater {
490cddee8dSCédric Le Goater     return nvt_idx - SPAPR_XIVE_NVT_BASE;
500cddee8dSCédric Le Goater }
510cddee8dSCédric Le Goater 
5223bcd5ebSCédric Le Goater static void spapr_xive_cpu_to_nvt(PowerPCCPU *cpu,
5323bcd5ebSCédric Le Goater                                   uint8_t *out_nvt_blk, uint32_t *out_nvt_idx)
5423bcd5ebSCédric Le Goater {
5523bcd5ebSCédric Le Goater     assert(cpu);
5623bcd5ebSCédric Le Goater 
5723bcd5ebSCédric Le Goater     if (out_nvt_blk) {
5823bcd5ebSCédric Le Goater         *out_nvt_blk = SPAPR_XIVE_BLOCK_ID;
5923bcd5ebSCédric Le Goater     }
6023bcd5ebSCédric Le Goater 
6123bcd5ebSCédric Le Goater     if (out_nvt_blk) {
6223bcd5ebSCédric Le Goater         *out_nvt_idx = SPAPR_XIVE_NVT_BASE + cpu->vcpu_id;
6323bcd5ebSCédric Le Goater     }
6423bcd5ebSCédric Le Goater }
6523bcd5ebSCédric Le Goater 
6623bcd5ebSCédric Le Goater static int spapr_xive_target_to_nvt(uint32_t target,
6723bcd5ebSCédric Le Goater                                     uint8_t *out_nvt_blk, uint32_t *out_nvt_idx)
6823bcd5ebSCédric Le Goater {
6923bcd5ebSCédric Le Goater     PowerPCCPU *cpu = spapr_find_cpu(target);
7023bcd5ebSCédric Le Goater 
7123bcd5ebSCédric Le Goater     if (!cpu) {
7223bcd5ebSCédric Le Goater         return -1;
7323bcd5ebSCédric Le Goater     }
7423bcd5ebSCédric Le Goater 
7523bcd5ebSCédric Le Goater     spapr_xive_cpu_to_nvt(cpu, out_nvt_blk, out_nvt_idx);
7623bcd5ebSCédric Le Goater     return 0;
7723bcd5ebSCédric Le Goater }
7823bcd5ebSCédric Le Goater 
7923bcd5ebSCédric Le Goater /*
8023bcd5ebSCédric Le Goater  * sPAPR END indexing uses a simple mapping of the CPU vcpu_id, 8
8123bcd5ebSCédric Le Goater  * priorities per CPU
8223bcd5ebSCédric Le Goater  */
830c575703SCédric Le Goater int spapr_xive_end_to_target(uint8_t end_blk, uint32_t end_idx,
840c575703SCédric Le Goater                              uint32_t *out_server, uint8_t *out_prio)
850c575703SCédric Le Goater {
860c575703SCédric Le Goater 
870c575703SCédric Le Goater     assert(end_blk == SPAPR_XIVE_BLOCK_ID);
880c575703SCédric Le Goater 
890c575703SCédric Le Goater     if (out_server) {
900c575703SCédric Le Goater         *out_server = end_idx >> 3;
910c575703SCédric Le Goater     }
920c575703SCédric Le Goater 
930c575703SCédric Le Goater     if (out_prio) {
940c575703SCédric Le Goater         *out_prio = end_idx & 0x7;
950c575703SCédric Le Goater     }
960c575703SCédric Le Goater     return 0;
970c575703SCédric Le Goater }
980c575703SCédric Le Goater 
9923bcd5ebSCédric Le Goater static void spapr_xive_cpu_to_end(PowerPCCPU *cpu, uint8_t prio,
10023bcd5ebSCédric Le Goater                                   uint8_t *out_end_blk, uint32_t *out_end_idx)
10123bcd5ebSCédric Le Goater {
10223bcd5ebSCédric Le Goater     assert(cpu);
10323bcd5ebSCédric Le Goater 
10423bcd5ebSCédric Le Goater     if (out_end_blk) {
10523bcd5ebSCédric Le Goater         *out_end_blk = SPAPR_XIVE_BLOCK_ID;
10623bcd5ebSCédric Le Goater     }
10723bcd5ebSCédric Le Goater 
10823bcd5ebSCédric Le Goater     if (out_end_idx) {
10923bcd5ebSCédric Le Goater         *out_end_idx = (cpu->vcpu_id << 3) + prio;
11023bcd5ebSCédric Le Goater     }
11123bcd5ebSCédric Le Goater }
11223bcd5ebSCédric Le Goater 
11323bcd5ebSCédric Le Goater static int spapr_xive_target_to_end(uint32_t target, uint8_t prio,
11423bcd5ebSCédric Le Goater                                     uint8_t *out_end_blk, uint32_t *out_end_idx)
11523bcd5ebSCédric Le Goater {
11623bcd5ebSCédric Le Goater     PowerPCCPU *cpu = spapr_find_cpu(target);
11723bcd5ebSCédric Le Goater 
11823bcd5ebSCédric Le Goater     if (!cpu) {
11923bcd5ebSCédric Le Goater         return -1;
12023bcd5ebSCédric Le Goater     }
12123bcd5ebSCédric Le Goater 
12223bcd5ebSCédric Le Goater     spapr_xive_cpu_to_end(cpu, prio, out_end_blk, out_end_idx);
12323bcd5ebSCédric Le Goater     return 0;
12423bcd5ebSCédric Le Goater }
12523bcd5ebSCédric Le Goater 
1260cddee8dSCédric Le Goater /*
1273aa597f6SCédric Le Goater  * On sPAPR machines, use a simplified output for the XIVE END
1283aa597f6SCédric Le Goater  * structure dumping only the information related to the OS EQ.
1293aa597f6SCédric Le Goater  */
130ce2918cbSDavid Gibson static void spapr_xive_end_pic_print_info(SpaprXive *xive, XiveEND *end,
1313aa597f6SCédric Le Goater                                           Monitor *mon)
1323aa597f6SCédric Le Goater {
133fb2e8b51SCédric Le Goater     uint64_t qaddr_base = xive_end_qaddr(end);
1343aa597f6SCédric Le Goater     uint32_t qindex = xive_get_field32(END_W1_PAGE_OFF, end->w1);
1353aa597f6SCédric Le Goater     uint32_t qgen = xive_get_field32(END_W1_GENERATION, end->w1);
1363aa597f6SCédric Le Goater     uint32_t qsize = xive_get_field32(END_W0_QSIZE, end->w0);
1373aa597f6SCédric Le Goater     uint32_t qentries = 1 << (qsize + 10);
1383aa597f6SCédric Le Goater     uint32_t nvt = xive_get_field32(END_W6_NVT_INDEX, end->w6);
1393aa597f6SCédric Le Goater     uint8_t priority = xive_get_field32(END_W7_F0_PRIORITY, end->w7);
1403aa597f6SCédric Le Goater 
141fb2e8b51SCédric Le Goater     monitor_printf(mon, "%3d/%d % 6d/%5d @%"PRIx64" ^%d",
1420cddee8dSCédric Le Goater                    spapr_xive_nvt_to_target(0, nvt),
143fb2e8b51SCédric Le Goater                    priority, qindex, qentries, qaddr_base, qgen);
1443aa597f6SCédric Le Goater 
1453aa597f6SCédric Le Goater     xive_end_queue_pic_print_info(end, 6, mon);
1463aa597f6SCédric Le Goater     monitor_printf(mon, "]");
1473aa597f6SCédric Le Goater }
1483aa597f6SCédric Le Goater 
149ce2918cbSDavid Gibson void spapr_xive_pic_print_info(SpaprXive *xive, Monitor *mon)
1503aa597f6SCédric Le Goater {
1513aa597f6SCédric Le Goater     XiveSource *xsrc = &xive->source;
1523aa597f6SCédric Le Goater     int i;
1533aa597f6SCédric Le Goater 
1547bfc759cSCédric Le Goater     if (kvm_irqchip_in_kernel()) {
1557bfc759cSCédric Le Goater         Error *local_err = NULL;
1567bfc759cSCédric Le Goater 
1577bfc759cSCédric Le Goater         kvmppc_xive_synchronize_state(xive, &local_err);
1587bfc759cSCédric Le Goater         if (local_err) {
1597bfc759cSCédric Le Goater             error_report_err(local_err);
1607bfc759cSCédric Le Goater             return;
1617bfc759cSCédric Le Goater         }
1627bfc759cSCédric Le Goater     }
1637bfc759cSCédric Le Goater 
164f81d69fcSSatheesh Rajendran     monitor_printf(mon, "  LISN         PQ    EISN     CPU/PRIO EQ\n");
1653aa597f6SCédric Le Goater 
1663aa597f6SCédric Le Goater     for (i = 0; i < xive->nr_irqs; i++) {
1673aa597f6SCédric Le Goater         uint8_t pq = xive_source_esb_get(xsrc, i);
1683aa597f6SCédric Le Goater         XiveEAS *eas = &xive->eat[i];
1693aa597f6SCédric Le Goater 
1703aa597f6SCédric Le Goater         if (!xive_eas_is_valid(eas)) {
1713aa597f6SCédric Le Goater             continue;
1723aa597f6SCédric Le Goater         }
1733aa597f6SCédric Le Goater 
1743aa597f6SCédric Le Goater         monitor_printf(mon, "  %08x %s %c%c%c %s %08x ", i,
1753aa597f6SCédric Le Goater                        xive_source_irq_is_lsi(xsrc, i) ? "LSI" : "MSI",
1763aa597f6SCédric Le Goater                        pq & XIVE_ESB_VAL_P ? 'P' : '-',
1773aa597f6SCédric Le Goater                        pq & XIVE_ESB_VAL_Q ? 'Q' : '-',
1783aa597f6SCédric Le Goater                        xsrc->status[i] & XIVE_STATUS_ASSERTED ? 'A' : ' ',
1793aa597f6SCédric Le Goater                        xive_eas_is_masked(eas) ? "M" : " ",
1803aa597f6SCédric Le Goater                        (int) xive_get_field64(EAS_END_DATA, eas->w));
1813aa597f6SCédric Le Goater 
1823aa597f6SCédric Le Goater         if (!xive_eas_is_masked(eas)) {
1833aa597f6SCédric Le Goater             uint32_t end_idx = xive_get_field64(EAS_END_INDEX, eas->w);
1843aa597f6SCédric Le Goater             XiveEND *end;
1853aa597f6SCédric Le Goater 
1863aa597f6SCédric Le Goater             assert(end_idx < xive->nr_ends);
1873aa597f6SCédric Le Goater             end = &xive->endt[end_idx];
1883aa597f6SCédric Le Goater 
1893aa597f6SCédric Le Goater             if (xive_end_is_valid(end)) {
1903aa597f6SCédric Le Goater                 spapr_xive_end_pic_print_info(xive, end, mon);
1913aa597f6SCédric Le Goater             }
1923aa597f6SCédric Le Goater         }
1933aa597f6SCédric Le Goater         monitor_printf(mon, "\n");
1943aa597f6SCédric Le Goater     }
1953aa597f6SCédric Le Goater }
1963aa597f6SCédric Le Goater 
19738afd772SCédric Le Goater void spapr_xive_map_mmio(SpaprXive *xive)
1983aa597f6SCédric Le Goater {
1993aa597f6SCédric Le Goater     sysbus_mmio_map(SYS_BUS_DEVICE(xive), 0, xive->vc_base);
2003aa597f6SCédric Le Goater     sysbus_mmio_map(SYS_BUS_DEVICE(xive), 1, xive->end_base);
2013aa597f6SCédric Le Goater     sysbus_mmio_map(SYS_BUS_DEVICE(xive), 2, xive->tm_base);
2023aa597f6SCédric Le Goater }
2033aa597f6SCédric Le Goater 
204ce2918cbSDavid Gibson void spapr_xive_mmio_set_enabled(SpaprXive *xive, bool enable)
2053a8eb78eSCédric Le Goater {
2063a8eb78eSCédric Le Goater     memory_region_set_enabled(&xive->source.esb_mmio, enable);
2073a8eb78eSCédric Le Goater     memory_region_set_enabled(&xive->tm_mmio, enable);
2083a8eb78eSCédric Le Goater 
2093a8eb78eSCédric Le Goater     /* Disable the END ESBs until a guest OS makes use of them */
2103a8eb78eSCédric Le Goater     memory_region_set_enabled(&xive->end_source.esb_mmio, false);
2113a8eb78eSCédric Le Goater }
2123a8eb78eSCédric Le Goater 
213b2e22477SCédric Le Goater /*
214b2e22477SCédric Le Goater  * When a Virtual Processor is scheduled to run on a HW thread, the
215b2e22477SCédric Le Goater  * hypervisor pushes its identifier in the OS CAM line. Emulate the
216b2e22477SCédric Le Goater  * same behavior under QEMU.
217b2e22477SCédric Le Goater  */
218b2e22477SCédric Le Goater void spapr_xive_set_tctx_os_cam(XiveTCTX *tctx)
219b2e22477SCédric Le Goater {
220b2e22477SCédric Le Goater     uint8_t  nvt_blk;
221b2e22477SCédric Le Goater     uint32_t nvt_idx;
222b2e22477SCédric Le Goater     uint32_t nvt_cam;
223b2e22477SCédric Le Goater 
224b2e22477SCédric Le Goater     spapr_xive_cpu_to_nvt(POWERPC_CPU(tctx->cs), &nvt_blk, &nvt_idx);
225b2e22477SCédric Le Goater 
226b2e22477SCédric Le Goater     nvt_cam = cpu_to_be32(TM_QW1W2_VO | xive_nvt_cam_line(nvt_blk, nvt_idx));
227b2e22477SCédric Le Goater     memcpy(&tctx->regs[TM_QW1_OS + TM_WORD2], &nvt_cam, 4);
228b2e22477SCédric Le Goater }
229b2e22477SCédric Le Goater 
2303aa597f6SCédric Le Goater static void spapr_xive_end_reset(XiveEND *end)
2313aa597f6SCédric Le Goater {
2323aa597f6SCédric Le Goater     memset(end, 0, sizeof(*end));
2333aa597f6SCédric Le Goater 
2343aa597f6SCédric Le Goater     /* switch off the escalation and notification ESBs */
2353aa597f6SCédric Le Goater     end->w1 = cpu_to_be32(END_W1_ESe_Q | END_W1_ESn_Q);
2363aa597f6SCédric Le Goater }
2373aa597f6SCédric Le Goater 
2383aa597f6SCédric Le Goater static void spapr_xive_reset(void *dev)
2393aa597f6SCédric Le Goater {
240ce2918cbSDavid Gibson     SpaprXive *xive = SPAPR_XIVE(dev);
2413aa597f6SCédric Le Goater     int i;
2423aa597f6SCédric Le Goater 
2433aa597f6SCédric Le Goater     /*
2443aa597f6SCédric Le Goater      * The XiveSource has its own reset handler, which mask off all
2453aa597f6SCédric Le Goater      * IRQs (!P|Q)
2463aa597f6SCédric Le Goater      */
2473aa597f6SCédric Le Goater 
2483aa597f6SCédric Le Goater     /* Mask all valid EASs in the IRQ number space. */
2493aa597f6SCédric Le Goater     for (i = 0; i < xive->nr_irqs; i++) {
2503aa597f6SCédric Le Goater         XiveEAS *eas = &xive->eat[i];
2513aa597f6SCédric Le Goater         if (xive_eas_is_valid(eas)) {
2523aa597f6SCédric Le Goater             eas->w = cpu_to_be64(EAS_VALID | EAS_MASKED);
2533aa597f6SCédric Le Goater         } else {
2543aa597f6SCédric Le Goater             eas->w = 0;
2553aa597f6SCédric Le Goater         }
2563aa597f6SCédric Le Goater     }
2573aa597f6SCédric Le Goater 
2583aa597f6SCédric Le Goater     /* Clear all ENDs */
2593aa597f6SCédric Le Goater     for (i = 0; i < xive->nr_ends; i++) {
2603aa597f6SCédric Le Goater         spapr_xive_end_reset(&xive->endt[i]);
2613aa597f6SCédric Le Goater     }
2623aa597f6SCédric Le Goater }
2633aa597f6SCédric Le Goater 
2643aa597f6SCédric Le Goater static void spapr_xive_instance_init(Object *obj)
2653aa597f6SCédric Le Goater {
266ce2918cbSDavid Gibson     SpaprXive *xive = SPAPR_XIVE(obj);
2673aa597f6SCédric Le Goater 
268f6d4dca8SThomas Huth     object_initialize_child(obj, "source", &xive->source, sizeof(xive->source),
269f6d4dca8SThomas Huth                             TYPE_XIVE_SOURCE, &error_abort, NULL);
2703aa597f6SCédric Le Goater 
271f6d4dca8SThomas Huth     object_initialize_child(obj, "end_source", &xive->end_source,
272f6d4dca8SThomas Huth                             sizeof(xive->end_source), TYPE_XIVE_END_SOURCE,
273f6d4dca8SThomas Huth                             &error_abort, NULL);
27438afd772SCédric Le Goater 
27538afd772SCédric Le Goater     /* Not connected to the KVM XIVE device */
27638afd772SCédric Le Goater     xive->fd = -1;
2773aa597f6SCédric Le Goater }
2783aa597f6SCédric Le Goater 
2793aa597f6SCédric Le Goater static void spapr_xive_realize(DeviceState *dev, Error **errp)
2803aa597f6SCédric Le Goater {
281ce2918cbSDavid Gibson     SpaprXive *xive = SPAPR_XIVE(dev);
2823aa597f6SCédric Le Goater     XiveSource *xsrc = &xive->source;
2833aa597f6SCédric Le Goater     XiveENDSource *end_xsrc = &xive->end_source;
2843aa597f6SCédric Le Goater     Error *local_err = NULL;
2853aa597f6SCédric Le Goater 
2863aa597f6SCédric Le Goater     if (!xive->nr_irqs) {
2873aa597f6SCédric Le Goater         error_setg(errp, "Number of interrupt needs to be greater 0");
2883aa597f6SCédric Le Goater         return;
2893aa597f6SCédric Le Goater     }
2903aa597f6SCédric Le Goater 
2913aa597f6SCédric Le Goater     if (!xive->nr_ends) {
2923aa597f6SCédric Le Goater         error_setg(errp, "Number of interrupt needs to be greater 0");
2933aa597f6SCédric Le Goater         return;
2943aa597f6SCédric Le Goater     }
2953aa597f6SCédric Le Goater 
2963aa597f6SCédric Le Goater     /*
2973aa597f6SCédric Le Goater      * Initialize the internal sources, for IPIs and virtual devices.
2983aa597f6SCédric Le Goater      */
2993aa597f6SCédric Le Goater     object_property_set_int(OBJECT(xsrc), xive->nr_irqs, "nr-irqs",
3003aa597f6SCédric Le Goater                             &error_fatal);
3013aa597f6SCédric Le Goater     object_property_add_const_link(OBJECT(xsrc), "xive", OBJECT(xive),
3023aa597f6SCédric Le Goater                                    &error_fatal);
3033aa597f6SCédric Le Goater     object_property_set_bool(OBJECT(xsrc), true, "realized", &local_err);
3043aa597f6SCédric Le Goater     if (local_err) {
3053aa597f6SCédric Le Goater         error_propagate(errp, local_err);
3063aa597f6SCédric Le Goater         return;
3073aa597f6SCédric Le Goater     }
3083aa597f6SCédric Le Goater 
3093aa597f6SCédric Le Goater     /*
3103aa597f6SCédric Le Goater      * Initialize the END ESB source
3113aa597f6SCédric Le Goater      */
3123aa597f6SCédric Le Goater     object_property_set_int(OBJECT(end_xsrc), xive->nr_irqs, "nr-ends",
3133aa597f6SCédric Le Goater                             &error_fatal);
3143aa597f6SCédric Le Goater     object_property_add_const_link(OBJECT(end_xsrc), "xive", OBJECT(xive),
3153aa597f6SCédric Le Goater                                    &error_fatal);
3163aa597f6SCédric Le Goater     object_property_set_bool(OBJECT(end_xsrc), true, "realized", &local_err);
3173aa597f6SCédric Le Goater     if (local_err) {
3183aa597f6SCédric Le Goater         error_propagate(errp, local_err);
3193aa597f6SCédric Le Goater         return;
3203aa597f6SCédric Le Goater     }
3213aa597f6SCédric Le Goater 
3223aa597f6SCédric Le Goater     /* Set the mapping address of the END ESB pages after the source ESBs */
3233aa597f6SCédric Le Goater     xive->end_base = xive->vc_base + (1ull << xsrc->esb_shift) * xsrc->nr_irqs;
3243aa597f6SCédric Le Goater 
3253aa597f6SCédric Le Goater     /*
3263aa597f6SCédric Le Goater      * Allocate the routing tables
3273aa597f6SCédric Le Goater      */
3283aa597f6SCédric Le Goater     xive->eat = g_new0(XiveEAS, xive->nr_irqs);
3293aa597f6SCédric Le Goater     xive->endt = g_new0(XiveEND, xive->nr_ends);
3303aa597f6SCédric Le Goater 
33138afd772SCédric Le Goater     xive->nodename = g_strdup_printf("interrupt-controller@%" PRIx64,
33238afd772SCédric Le Goater                            xive->tm_base + XIVE_TM_USER_PAGE * (1 << TM_SHIFT));
33338afd772SCédric Le Goater 
33438afd772SCédric Le Goater     qemu_register_reset(spapr_xive_reset, dev);
335cdd71c8eSCédric Le Goater 
336cdd71c8eSCédric Le Goater     /* Define all XIVE MMIO regions on SysBus */
337cdd71c8eSCédric Le Goater     sysbus_init_mmio(SYS_BUS_DEVICE(xive), &xsrc->esb_mmio);
338cdd71c8eSCédric Le Goater     sysbus_init_mmio(SYS_BUS_DEVICE(xive), &end_xsrc->esb_mmio);
339cdd71c8eSCédric Le Goater     sysbus_init_mmio(SYS_BUS_DEVICE(xive), &xive->tm_mmio);
34038afd772SCédric Le Goater }
34138afd772SCédric Le Goater 
342ae805ea9SCédric Le Goater void spapr_xive_init(SpaprXive *xive, Error **errp)
343ae805ea9SCédric Le Goater {
344ae805ea9SCédric Le Goater     XiveSource *xsrc = &xive->source;
34538afd772SCédric Le Goater 
346cf435df6SCédric Le Goater     /*
347cf435df6SCédric Le Goater      * The emulated XIVE device can only be initialized once. If the
348cf435df6SCédric Le Goater      * ESB memory region has been already mapped, it means we have been
349cf435df6SCédric Le Goater      * through there.
350cf435df6SCédric Le Goater      */
351cf435df6SCédric Le Goater     if (memory_region_is_mapped(&xsrc->esb_mmio)) {
352cf435df6SCédric Le Goater         return;
353cf435df6SCédric Le Goater     }
354cf435df6SCédric Le Goater 
3553aa597f6SCédric Le Goater     /* TIMA initialization */
3563aa597f6SCédric Le Goater     memory_region_init_io(&xive->tm_mmio, OBJECT(xive), &xive_tm_ops, xive,
3573aa597f6SCédric Le Goater                           "xive.tima", 4ull << TM_SHIFT);
3583aa597f6SCédric Le Goater 
3593aa597f6SCédric Le Goater     /* Map all regions */
3603aa597f6SCédric Le Goater     spapr_xive_map_mmio(xive);
3613aa597f6SCédric Le Goater }
3623aa597f6SCédric Le Goater 
3633aa597f6SCédric Le Goater static int spapr_xive_get_eas(XiveRouter *xrtr, uint8_t eas_blk,
3643aa597f6SCédric Le Goater                               uint32_t eas_idx, XiveEAS *eas)
3653aa597f6SCédric Le Goater {
366ce2918cbSDavid Gibson     SpaprXive *xive = SPAPR_XIVE(xrtr);
3673aa597f6SCédric Le Goater 
3683aa597f6SCédric Le Goater     if (eas_idx >= xive->nr_irqs) {
3693aa597f6SCédric Le Goater         return -1;
3703aa597f6SCédric Le Goater     }
3713aa597f6SCédric Le Goater 
3723aa597f6SCédric Le Goater     *eas = xive->eat[eas_idx];
3733aa597f6SCédric Le Goater     return 0;
3743aa597f6SCédric Le Goater }
3753aa597f6SCédric Le Goater 
3763aa597f6SCédric Le Goater static int spapr_xive_get_end(XiveRouter *xrtr,
3773aa597f6SCédric Le Goater                               uint8_t end_blk, uint32_t end_idx, XiveEND *end)
3783aa597f6SCédric Le Goater {
379ce2918cbSDavid Gibson     SpaprXive *xive = SPAPR_XIVE(xrtr);
3803aa597f6SCédric Le Goater 
3813aa597f6SCédric Le Goater     if (end_idx >= xive->nr_ends) {
3823aa597f6SCédric Le Goater         return -1;
3833aa597f6SCédric Le Goater     }
3843aa597f6SCédric Le Goater 
3853aa597f6SCédric Le Goater     memcpy(end, &xive->endt[end_idx], sizeof(XiveEND));
3863aa597f6SCédric Le Goater     return 0;
3873aa597f6SCédric Le Goater }
3883aa597f6SCédric Le Goater 
3893aa597f6SCédric Le Goater static int spapr_xive_write_end(XiveRouter *xrtr, uint8_t end_blk,
3903aa597f6SCédric Le Goater                                 uint32_t end_idx, XiveEND *end,
3913aa597f6SCédric Le Goater                                 uint8_t word_number)
3923aa597f6SCédric Le Goater {
393ce2918cbSDavid Gibson     SpaprXive *xive = SPAPR_XIVE(xrtr);
3943aa597f6SCédric Le Goater 
3953aa597f6SCédric Le Goater     if (end_idx >= xive->nr_ends) {
3963aa597f6SCédric Le Goater         return -1;
3973aa597f6SCédric Le Goater     }
3983aa597f6SCédric Le Goater 
3993aa597f6SCédric Le Goater     memcpy(&xive->endt[end_idx], end, sizeof(XiveEND));
4003aa597f6SCédric Le Goater     return 0;
4013aa597f6SCédric Le Goater }
4023aa597f6SCédric Le Goater 
4030cddee8dSCédric Le Goater static int spapr_xive_get_nvt(XiveRouter *xrtr,
4040cddee8dSCédric Le Goater                               uint8_t nvt_blk, uint32_t nvt_idx, XiveNVT *nvt)
4050cddee8dSCédric Le Goater {
4060cddee8dSCédric Le Goater     uint32_t vcpu_id = spapr_xive_nvt_to_target(nvt_blk, nvt_idx);
4070cddee8dSCédric Le Goater     PowerPCCPU *cpu = spapr_find_cpu(vcpu_id);
4080cddee8dSCédric Le Goater 
4090cddee8dSCédric Le Goater     if (!cpu) {
4100cddee8dSCédric Le Goater         /* TODO: should we assert() if we can find a NVT ? */
4110cddee8dSCédric Le Goater         return -1;
4120cddee8dSCédric Le Goater     }
4130cddee8dSCédric Le Goater 
4140cddee8dSCédric Le Goater     /*
4150cddee8dSCédric Le Goater      * sPAPR does not maintain a NVT table. Return that the NVT is
4160cddee8dSCédric Le Goater      * valid if we have found a matching CPU
4170cddee8dSCédric Le Goater      */
4180cddee8dSCédric Le Goater     nvt->w0 = cpu_to_be32(NVT_W0_VALID);
4190cddee8dSCédric Le Goater     return 0;
4200cddee8dSCédric Le Goater }
4210cddee8dSCédric Le Goater 
4220cddee8dSCédric Le Goater static int spapr_xive_write_nvt(XiveRouter *xrtr, uint8_t nvt_blk,
4230cddee8dSCédric Le Goater                                 uint32_t nvt_idx, XiveNVT *nvt,
4240cddee8dSCédric Le Goater                                 uint8_t word_number)
4250cddee8dSCédric Le Goater {
4260cddee8dSCédric Le Goater     /*
4270cddee8dSCédric Le Goater      * We don't need to write back to the NVTs because the sPAPR
4280cddee8dSCédric Le Goater      * machine should never hit a non-scheduled NVT. It should never
4290cddee8dSCédric Le Goater      * get called.
4300cddee8dSCédric Le Goater      */
4310cddee8dSCédric Le Goater     g_assert_not_reached();
4320cddee8dSCédric Le Goater }
4330cddee8dSCédric Le Goater 
43440a5056cSCédric Le Goater static XiveTCTX *spapr_xive_get_tctx(XiveRouter *xrtr, CPUState *cs)
43540a5056cSCédric Le Goater {
43640a5056cSCédric Le Goater     PowerPCCPU *cpu = POWERPC_CPU(cs);
43740a5056cSCédric Le Goater 
438a28b9a5aSCédric Le Goater     return spapr_cpu_state(cpu)->tctx;
43940a5056cSCédric Le Goater }
44040a5056cSCédric Le Goater 
4413aa597f6SCédric Le Goater static const VMStateDescription vmstate_spapr_xive_end = {
4423aa597f6SCédric Le Goater     .name = TYPE_SPAPR_XIVE "/end",
4433aa597f6SCédric Le Goater     .version_id = 1,
4443aa597f6SCédric Le Goater     .minimum_version_id = 1,
4453aa597f6SCédric Le Goater     .fields = (VMStateField []) {
4463aa597f6SCédric Le Goater         VMSTATE_UINT32(w0, XiveEND),
4473aa597f6SCédric Le Goater         VMSTATE_UINT32(w1, XiveEND),
4483aa597f6SCédric Le Goater         VMSTATE_UINT32(w2, XiveEND),
4493aa597f6SCédric Le Goater         VMSTATE_UINT32(w3, XiveEND),
4503aa597f6SCédric Le Goater         VMSTATE_UINT32(w4, XiveEND),
4513aa597f6SCédric Le Goater         VMSTATE_UINT32(w5, XiveEND),
4523aa597f6SCédric Le Goater         VMSTATE_UINT32(w6, XiveEND),
4533aa597f6SCédric Le Goater         VMSTATE_UINT32(w7, XiveEND),
4543aa597f6SCédric Le Goater         VMSTATE_END_OF_LIST()
4553aa597f6SCédric Le Goater     },
4563aa597f6SCédric Le Goater };
4573aa597f6SCédric Le Goater 
4583aa597f6SCédric Le Goater static const VMStateDescription vmstate_spapr_xive_eas = {
4593aa597f6SCédric Le Goater     .name = TYPE_SPAPR_XIVE "/eas",
4603aa597f6SCédric Le Goater     .version_id = 1,
4613aa597f6SCédric Le Goater     .minimum_version_id = 1,
4623aa597f6SCédric Le Goater     .fields = (VMStateField []) {
4633aa597f6SCédric Le Goater         VMSTATE_UINT64(w, XiveEAS),
4643aa597f6SCédric Le Goater         VMSTATE_END_OF_LIST()
4653aa597f6SCédric Le Goater     },
4663aa597f6SCédric Le Goater };
4673aa597f6SCédric Le Goater 
468277dd3d7SCédric Le Goater static int vmstate_spapr_xive_pre_save(void *opaque)
469277dd3d7SCédric Le Goater {
470277dd3d7SCédric Le Goater     if (kvm_irqchip_in_kernel()) {
471277dd3d7SCédric Le Goater         return kvmppc_xive_pre_save(SPAPR_XIVE(opaque));
472277dd3d7SCédric Le Goater     }
473277dd3d7SCédric Le Goater 
474277dd3d7SCédric Le Goater     return 0;
475277dd3d7SCédric Le Goater }
476277dd3d7SCédric Le Goater 
477277dd3d7SCédric Le Goater /*
478277dd3d7SCédric Le Goater  * Called by the sPAPR IRQ backend 'post_load' method at the machine
479277dd3d7SCédric Le Goater  * level.
480277dd3d7SCédric Le Goater  */
481277dd3d7SCédric Le Goater int spapr_xive_post_load(SpaprXive *xive, int version_id)
482277dd3d7SCédric Le Goater {
483277dd3d7SCédric Le Goater     if (kvm_irqchip_in_kernel()) {
484277dd3d7SCédric Le Goater         return kvmppc_xive_post_load(xive, version_id);
485277dd3d7SCédric Le Goater     }
486277dd3d7SCédric Le Goater 
487277dd3d7SCédric Le Goater     return 0;
488277dd3d7SCédric Le Goater }
489277dd3d7SCédric Le Goater 
4903aa597f6SCédric Le Goater static const VMStateDescription vmstate_spapr_xive = {
4913aa597f6SCédric Le Goater     .name = TYPE_SPAPR_XIVE,
4923aa597f6SCédric Le Goater     .version_id = 1,
4933aa597f6SCédric Le Goater     .minimum_version_id = 1,
494277dd3d7SCédric Le Goater     .pre_save = vmstate_spapr_xive_pre_save,
495277dd3d7SCédric Le Goater     .post_load = NULL, /* handled at the machine level */
4963aa597f6SCédric Le Goater     .fields = (VMStateField[]) {
497ce2918cbSDavid Gibson         VMSTATE_UINT32_EQUAL(nr_irqs, SpaprXive, NULL),
498ce2918cbSDavid Gibson         VMSTATE_STRUCT_VARRAY_POINTER_UINT32(eat, SpaprXive, nr_irqs,
4993aa597f6SCédric Le Goater                                      vmstate_spapr_xive_eas, XiveEAS),
500ce2918cbSDavid Gibson         VMSTATE_STRUCT_VARRAY_POINTER_UINT32(endt, SpaprXive, nr_ends,
5013aa597f6SCédric Le Goater                                              vmstate_spapr_xive_end, XiveEND),
5023aa597f6SCédric Le Goater         VMSTATE_END_OF_LIST()
5033aa597f6SCédric Le Goater     },
5043aa597f6SCédric Le Goater };
5053aa597f6SCédric Le Goater 
5063aa597f6SCédric Le Goater static Property spapr_xive_properties[] = {
507ce2918cbSDavid Gibson     DEFINE_PROP_UINT32("nr-irqs", SpaprXive, nr_irqs, 0),
508ce2918cbSDavid Gibson     DEFINE_PROP_UINT32("nr-ends", SpaprXive, nr_ends, 0),
509ce2918cbSDavid Gibson     DEFINE_PROP_UINT64("vc-base", SpaprXive, vc_base, SPAPR_XIVE_VC_BASE),
510ce2918cbSDavid Gibson     DEFINE_PROP_UINT64("tm-base", SpaprXive, tm_base, SPAPR_XIVE_TM_BASE),
5113aa597f6SCédric Le Goater     DEFINE_PROP_END_OF_LIST(),
5123aa597f6SCédric Le Goater };
5133aa597f6SCédric Le Goater 
5143aa597f6SCédric Le Goater static void spapr_xive_class_init(ObjectClass *klass, void *data)
5153aa597f6SCédric Le Goater {
5163aa597f6SCédric Le Goater     DeviceClass *dc = DEVICE_CLASS(klass);
5173aa597f6SCédric Le Goater     XiveRouterClass *xrc = XIVE_ROUTER_CLASS(klass);
5183aa597f6SCédric Le Goater 
5193aa597f6SCédric Le Goater     dc->desc    = "sPAPR XIVE Interrupt Controller";
5203aa597f6SCédric Le Goater     dc->props   = spapr_xive_properties;
5213aa597f6SCédric Le Goater     dc->realize = spapr_xive_realize;
5223aa597f6SCédric Le Goater     dc->vmsd    = &vmstate_spapr_xive;
5233aa597f6SCédric Le Goater 
5243aa597f6SCédric Le Goater     xrc->get_eas = spapr_xive_get_eas;
5253aa597f6SCédric Le Goater     xrc->get_end = spapr_xive_get_end;
5263aa597f6SCédric Le Goater     xrc->write_end = spapr_xive_write_end;
5270cddee8dSCédric Le Goater     xrc->get_nvt = spapr_xive_get_nvt;
5280cddee8dSCédric Le Goater     xrc->write_nvt = spapr_xive_write_nvt;
52940a5056cSCédric Le Goater     xrc->get_tctx = spapr_xive_get_tctx;
5303aa597f6SCédric Le Goater }
5313aa597f6SCédric Le Goater 
5323aa597f6SCédric Le Goater static const TypeInfo spapr_xive_info = {
5333aa597f6SCédric Le Goater     .name = TYPE_SPAPR_XIVE,
5343aa597f6SCédric Le Goater     .parent = TYPE_XIVE_ROUTER,
5353aa597f6SCédric Le Goater     .instance_init = spapr_xive_instance_init,
536ce2918cbSDavid Gibson     .instance_size = sizeof(SpaprXive),
5373aa597f6SCédric Le Goater     .class_init = spapr_xive_class_init,
5383aa597f6SCédric Le Goater };
5393aa597f6SCédric Le Goater 
5403aa597f6SCédric Le Goater static void spapr_xive_register_types(void)
5413aa597f6SCédric Le Goater {
5423aa597f6SCédric Le Goater     type_register_static(&spapr_xive_info);
5433aa597f6SCédric Le Goater }
5443aa597f6SCédric Le Goater 
5453aa597f6SCédric Le Goater type_init(spapr_xive_register_types)
5463aa597f6SCédric Le Goater 
547ce2918cbSDavid Gibson bool spapr_xive_irq_claim(SpaprXive *xive, uint32_t lisn, bool lsi)
5483aa597f6SCédric Le Goater {
5493aa597f6SCédric Le Goater     XiveSource *xsrc = &xive->source;
5503aa597f6SCédric Le Goater 
5513aa597f6SCédric Le Goater     if (lisn >= xive->nr_irqs) {
5523aa597f6SCédric Le Goater         return false;
5533aa597f6SCédric Le Goater     }
5543aa597f6SCédric Le Goater 
5553aa597f6SCédric Le Goater     xive->eat[lisn].w |= cpu_to_be64(EAS_VALID);
5560afed8c8SGreg Kurz     if (lsi) {
5570afed8c8SGreg Kurz         xive_source_irq_set_lsi(xsrc, lisn);
5580afed8c8SGreg Kurz     }
55938afd772SCédric Le Goater 
56038afd772SCédric Le Goater     if (kvm_irqchip_in_kernel()) {
56138afd772SCédric Le Goater         Error *local_err = NULL;
56238afd772SCédric Le Goater 
56338afd772SCédric Le Goater         kvmppc_xive_source_reset_one(xsrc, lisn, &local_err);
56438afd772SCédric Le Goater         if (local_err) {
56538afd772SCédric Le Goater             error_report_err(local_err);
56638afd772SCédric Le Goater             return false;
56738afd772SCédric Le Goater         }
56838afd772SCédric Le Goater     }
56938afd772SCédric Le Goater 
5703aa597f6SCédric Le Goater     return true;
5713aa597f6SCédric Le Goater }
5723aa597f6SCédric Le Goater 
573ce2918cbSDavid Gibson bool spapr_xive_irq_free(SpaprXive *xive, uint32_t lisn)
5743aa597f6SCédric Le Goater {
5753aa597f6SCédric Le Goater     if (lisn >= xive->nr_irqs) {
5763aa597f6SCédric Le Goater         return false;
5773aa597f6SCédric Le Goater     }
5783aa597f6SCédric Le Goater 
5793aa597f6SCédric Le Goater     xive->eat[lisn].w &= cpu_to_be64(~EAS_VALID);
5803aa597f6SCédric Le Goater     return true;
5813aa597f6SCédric Le Goater }
5823aa597f6SCédric Le Goater 
58323bcd5ebSCédric Le Goater /*
58423bcd5ebSCédric Le Goater  * XIVE hcalls
58523bcd5ebSCédric Le Goater  *
58623bcd5ebSCédric Le Goater  * The terminology used by the XIVE hcalls is the following :
58723bcd5ebSCédric Le Goater  *
58823bcd5ebSCédric Le Goater  *   TARGET vCPU number
58923bcd5ebSCédric Le Goater  *   EQ     Event Queue assigned by OS to receive event data
59023bcd5ebSCédric Le Goater  *   ESB    page for source interrupt management
59123bcd5ebSCédric Le Goater  *   LISN   Logical Interrupt Source Number identifying a source in the
59223bcd5ebSCédric Le Goater  *          machine
59323bcd5ebSCédric Le Goater  *   EISN   Effective Interrupt Source Number used by guest OS to
59423bcd5ebSCédric Le Goater  *          identify source in the guest
59523bcd5ebSCédric Le Goater  *
59623bcd5ebSCédric Le Goater  * The EAS, END, NVT structures are not exposed.
59723bcd5ebSCédric Le Goater  */
59823bcd5ebSCédric Le Goater 
59923bcd5ebSCédric Le Goater /*
60023bcd5ebSCédric Le Goater  * Linux hosts under OPAL reserve priority 7 for their own escalation
60123bcd5ebSCédric Le Goater  * interrupts (DD2.X POWER9). So we only allow the guest to use
60223bcd5ebSCédric Le Goater  * priorities [0..6].
60323bcd5ebSCédric Le Goater  */
60423bcd5ebSCédric Le Goater static bool spapr_xive_priority_is_reserved(uint8_t priority)
60523bcd5ebSCédric Le Goater {
60623bcd5ebSCédric Le Goater     switch (priority) {
60723bcd5ebSCédric Le Goater     case 0 ... 6:
60823bcd5ebSCédric Le Goater         return false;
60923bcd5ebSCédric Le Goater     case 7: /* OPAL escalation queue */
61023bcd5ebSCédric Le Goater     default:
61123bcd5ebSCédric Le Goater         return true;
61223bcd5ebSCédric Le Goater     }
61323bcd5ebSCédric Le Goater }
61423bcd5ebSCédric Le Goater 
61523bcd5ebSCédric Le Goater /*
61623bcd5ebSCédric Le Goater  * The H_INT_GET_SOURCE_INFO hcall() is used to obtain the logical
61723bcd5ebSCédric Le Goater  * real address of the MMIO page through which the Event State Buffer
61823bcd5ebSCédric Le Goater  * entry associated with the value of the "lisn" parameter is managed.
61923bcd5ebSCédric Le Goater  *
62023bcd5ebSCédric Le Goater  * Parameters:
62123bcd5ebSCédric Le Goater  * Input
62223bcd5ebSCédric Le Goater  * - R4: "flags"
62323bcd5ebSCédric Le Goater  *         Bits 0-63 reserved
62423bcd5ebSCédric Le Goater  * - R5: "lisn" is per "interrupts", "interrupt-map", or
62523bcd5ebSCédric Le Goater  *       "ibm,xive-lisn-ranges" properties, or as returned by the
62623bcd5ebSCédric Le Goater  *       ibm,query-interrupt-source-number RTAS call, or as returned
62723bcd5ebSCédric Le Goater  *       by the H_ALLOCATE_VAS_WINDOW hcall
62823bcd5ebSCédric Le Goater  *
62923bcd5ebSCédric Le Goater  * Output
63023bcd5ebSCédric Le Goater  * - R4: "flags"
63123bcd5ebSCédric Le Goater  *         Bits 0-59: Reserved
63223bcd5ebSCédric Le Goater  *         Bit 60: H_INT_ESB must be used for Event State Buffer
63323bcd5ebSCédric Le Goater  *                 management
63423bcd5ebSCédric Le Goater  *         Bit 61: 1 == LSI  0 == MSI
63523bcd5ebSCédric Le Goater  *         Bit 62: the full function page supports trigger
63623bcd5ebSCédric Le Goater  *         Bit 63: Store EOI Supported
63723bcd5ebSCédric Le Goater  * - R5: Logical Real address of full function Event State Buffer
63823bcd5ebSCédric Le Goater  *       management page, -1 if H_INT_ESB hcall flag is set to 1.
63923bcd5ebSCédric Le Goater  * - R6: Logical Real Address of trigger only Event State Buffer
64023bcd5ebSCédric Le Goater  *       management page or -1.
64123bcd5ebSCédric Le Goater  * - R7: Power of 2 page size for the ESB management pages returned in
64223bcd5ebSCédric Le Goater  *       R5 and R6.
64323bcd5ebSCédric Le Goater  */
64423bcd5ebSCédric Le Goater 
64523bcd5ebSCédric Le Goater #define SPAPR_XIVE_SRC_H_INT_ESB     PPC_BIT(60) /* ESB manage with H_INT_ESB */
64623bcd5ebSCédric Le Goater #define SPAPR_XIVE_SRC_LSI           PPC_BIT(61) /* Virtual LSI type */
64723bcd5ebSCédric Le Goater #define SPAPR_XIVE_SRC_TRIGGER       PPC_BIT(62) /* Trigger and management
64823bcd5ebSCédric Le Goater                                                     on same page */
64923bcd5ebSCédric Le Goater #define SPAPR_XIVE_SRC_STORE_EOI     PPC_BIT(63) /* Store EOI support */
65023bcd5ebSCédric Le Goater 
65123bcd5ebSCédric Le Goater static target_ulong h_int_get_source_info(PowerPCCPU *cpu,
652ce2918cbSDavid Gibson                                           SpaprMachineState *spapr,
65323bcd5ebSCédric Le Goater                                           target_ulong opcode,
65423bcd5ebSCédric Le Goater                                           target_ulong *args)
65523bcd5ebSCédric Le Goater {
656ce2918cbSDavid Gibson     SpaprXive *xive = spapr->xive;
65723bcd5ebSCédric Le Goater     XiveSource *xsrc = &xive->source;
65823bcd5ebSCédric Le Goater     target_ulong flags  = args[0];
65923bcd5ebSCédric Le Goater     target_ulong lisn   = args[1];
66023bcd5ebSCédric Le Goater 
66123bcd5ebSCédric Le Goater     if (!spapr_ovec_test(spapr->ov5_cas, OV5_XIVE_EXPLOIT)) {
66223bcd5ebSCédric Le Goater         return H_FUNCTION;
66323bcd5ebSCédric Le Goater     }
66423bcd5ebSCédric Le Goater 
66523bcd5ebSCédric Le Goater     if (flags) {
66623bcd5ebSCédric Le Goater         return H_PARAMETER;
66723bcd5ebSCédric Le Goater     }
66823bcd5ebSCédric Le Goater 
66923bcd5ebSCédric Le Goater     if (lisn >= xive->nr_irqs) {
67023bcd5ebSCédric Le Goater         qemu_log_mask(LOG_GUEST_ERROR, "XIVE: Unknown LISN " TARGET_FMT_lx "\n",
67123bcd5ebSCédric Le Goater                       lisn);
67223bcd5ebSCédric Le Goater         return H_P2;
67323bcd5ebSCédric Le Goater     }
67423bcd5ebSCédric Le Goater 
67523bcd5ebSCédric Le Goater     if (!xive_eas_is_valid(&xive->eat[lisn])) {
67623bcd5ebSCédric Le Goater         qemu_log_mask(LOG_GUEST_ERROR, "XIVE: Invalid LISN " TARGET_FMT_lx "\n",
67723bcd5ebSCédric Le Goater                       lisn);
67823bcd5ebSCédric Le Goater         return H_P2;
67923bcd5ebSCédric Le Goater     }
68023bcd5ebSCédric Le Goater 
68123bcd5ebSCédric Le Goater     /*
68223bcd5ebSCédric Le Goater      * All sources are emulated under the main XIVE object and share
68323bcd5ebSCédric Le Goater      * the same characteristics.
68423bcd5ebSCédric Le Goater      */
68523bcd5ebSCédric Le Goater     args[0] = 0;
68623bcd5ebSCédric Le Goater     if (!xive_source_esb_has_2page(xsrc)) {
68723bcd5ebSCédric Le Goater         args[0] |= SPAPR_XIVE_SRC_TRIGGER;
68823bcd5ebSCédric Le Goater     }
68923bcd5ebSCédric Le Goater     if (xsrc->esb_flags & XIVE_SRC_STORE_EOI) {
69023bcd5ebSCédric Le Goater         args[0] |= SPAPR_XIVE_SRC_STORE_EOI;
69123bcd5ebSCédric Le Goater     }
69223bcd5ebSCédric Le Goater 
69323bcd5ebSCédric Le Goater     /*
69423bcd5ebSCédric Le Goater      * Force the use of the H_INT_ESB hcall in case of an LSI
69523bcd5ebSCédric Le Goater      * interrupt. This is necessary under KVM to re-trigger the
69623bcd5ebSCédric Le Goater      * interrupt if the level is still asserted
69723bcd5ebSCédric Le Goater      */
69823bcd5ebSCédric Le Goater     if (xive_source_irq_is_lsi(xsrc, lisn)) {
69923bcd5ebSCédric Le Goater         args[0] |= SPAPR_XIVE_SRC_H_INT_ESB | SPAPR_XIVE_SRC_LSI;
70023bcd5ebSCédric Le Goater     }
70123bcd5ebSCédric Le Goater 
70223bcd5ebSCédric Le Goater     if (!(args[0] & SPAPR_XIVE_SRC_H_INT_ESB)) {
70323bcd5ebSCédric Le Goater         args[1] = xive->vc_base + xive_source_esb_mgmt(xsrc, lisn);
70423bcd5ebSCédric Le Goater     } else {
70523bcd5ebSCédric Le Goater         args[1] = -1;
70623bcd5ebSCédric Le Goater     }
70723bcd5ebSCédric Le Goater 
70823bcd5ebSCédric Le Goater     if (xive_source_esb_has_2page(xsrc) &&
70923bcd5ebSCédric Le Goater         !(args[0] & SPAPR_XIVE_SRC_H_INT_ESB)) {
71023bcd5ebSCédric Le Goater         args[2] = xive->vc_base + xive_source_esb_page(xsrc, lisn);
71123bcd5ebSCédric Le Goater     } else {
71223bcd5ebSCédric Le Goater         args[2] = -1;
71323bcd5ebSCédric Le Goater     }
71423bcd5ebSCédric Le Goater 
71523bcd5ebSCédric Le Goater     if (xive_source_esb_has_2page(xsrc)) {
71623bcd5ebSCédric Le Goater         args[3] = xsrc->esb_shift - 1;
71723bcd5ebSCédric Le Goater     } else {
71823bcd5ebSCédric Le Goater         args[3] = xsrc->esb_shift;
71923bcd5ebSCédric Le Goater     }
72023bcd5ebSCédric Le Goater 
72123bcd5ebSCédric Le Goater     return H_SUCCESS;
72223bcd5ebSCédric Le Goater }
72323bcd5ebSCédric Le Goater 
72423bcd5ebSCédric Le Goater /*
72523bcd5ebSCédric Le Goater  * The H_INT_SET_SOURCE_CONFIG hcall() is used to assign a Logical
72623bcd5ebSCédric Le Goater  * Interrupt Source to a target. The Logical Interrupt Source is
72723bcd5ebSCédric Le Goater  * designated with the "lisn" parameter and the target is designated
72823bcd5ebSCédric Le Goater  * with the "target" and "priority" parameters.  Upon return from the
72923bcd5ebSCédric Le Goater  * hcall(), no additional interrupts will be directed to the old EQ.
73023bcd5ebSCédric Le Goater  *
73123bcd5ebSCédric Le Goater  * Parameters:
73223bcd5ebSCédric Le Goater  * Input:
73323bcd5ebSCédric Le Goater  * - R4: "flags"
73423bcd5ebSCédric Le Goater  *         Bits 0-61: Reserved
73523bcd5ebSCédric Le Goater  *         Bit 62: set the "eisn" in the EAS
73623bcd5ebSCédric Le Goater  *         Bit 63: masks the interrupt source in the hardware interrupt
73723bcd5ebSCédric Le Goater  *       control structure. An interrupt masked by this mechanism will
73823bcd5ebSCédric Le Goater  *       be dropped, but it's source state bits will still be
73923bcd5ebSCédric Le Goater  *       set. There is no race-free way of unmasking and restoring the
74023bcd5ebSCédric Le Goater  *       source. Thus this should only be used in interrupts that are
74123bcd5ebSCédric Le Goater  *       also masked at the source, and only in cases where the
74223bcd5ebSCédric Le Goater  *       interrupt is not meant to be used for a large amount of time
74323bcd5ebSCédric Le Goater  *       because no valid target exists for it for example
74423bcd5ebSCédric Le Goater  * - R5: "lisn" is per "interrupts", "interrupt-map", or
74523bcd5ebSCédric Le Goater  *       "ibm,xive-lisn-ranges" properties, or as returned by the
74623bcd5ebSCédric Le Goater  *       ibm,query-interrupt-source-number RTAS call, or as returned by
74723bcd5ebSCédric Le Goater  *       the H_ALLOCATE_VAS_WINDOW hcall
74823bcd5ebSCédric Le Goater  * - R6: "target" is per "ibm,ppc-interrupt-server#s" or
74923bcd5ebSCédric Le Goater  *       "ibm,ppc-interrupt-gserver#s"
75023bcd5ebSCédric Le Goater  * - R7: "priority" is a valid priority not in
75123bcd5ebSCédric Le Goater  *       "ibm,plat-res-int-priorities"
75223bcd5ebSCédric Le Goater  * - R8: "eisn" is the guest EISN associated with the "lisn"
75323bcd5ebSCédric Le Goater  *
75423bcd5ebSCédric Le Goater  * Output:
75523bcd5ebSCédric Le Goater  * - None
75623bcd5ebSCédric Le Goater  */
75723bcd5ebSCédric Le Goater 
75823bcd5ebSCédric Le Goater #define SPAPR_XIVE_SRC_SET_EISN PPC_BIT(62)
75923bcd5ebSCédric Le Goater #define SPAPR_XIVE_SRC_MASK     PPC_BIT(63)
76023bcd5ebSCédric Le Goater 
76123bcd5ebSCédric Le Goater static target_ulong h_int_set_source_config(PowerPCCPU *cpu,
762ce2918cbSDavid Gibson                                             SpaprMachineState *spapr,
76323bcd5ebSCédric Le Goater                                             target_ulong opcode,
76423bcd5ebSCédric Le Goater                                             target_ulong *args)
76523bcd5ebSCédric Le Goater {
766ce2918cbSDavid Gibson     SpaprXive *xive = spapr->xive;
76723bcd5ebSCédric Le Goater     XiveEAS eas, new_eas;
76823bcd5ebSCédric Le Goater     target_ulong flags    = args[0];
76923bcd5ebSCédric Le Goater     target_ulong lisn     = args[1];
77023bcd5ebSCédric Le Goater     target_ulong target   = args[2];
77123bcd5ebSCédric Le Goater     target_ulong priority = args[3];
77223bcd5ebSCédric Le Goater     target_ulong eisn     = args[4];
77323bcd5ebSCédric Le Goater     uint8_t end_blk;
77423bcd5ebSCédric Le Goater     uint32_t end_idx;
77523bcd5ebSCédric Le Goater 
77623bcd5ebSCédric Le Goater     if (!spapr_ovec_test(spapr->ov5_cas, OV5_XIVE_EXPLOIT)) {
77723bcd5ebSCédric Le Goater         return H_FUNCTION;
77823bcd5ebSCédric Le Goater     }
77923bcd5ebSCédric Le Goater 
78023bcd5ebSCédric Le Goater     if (flags & ~(SPAPR_XIVE_SRC_SET_EISN | SPAPR_XIVE_SRC_MASK)) {
78123bcd5ebSCédric Le Goater         return H_PARAMETER;
78223bcd5ebSCédric Le Goater     }
78323bcd5ebSCédric Le Goater 
78423bcd5ebSCédric Le Goater     if (lisn >= xive->nr_irqs) {
78523bcd5ebSCédric Le Goater         qemu_log_mask(LOG_GUEST_ERROR, "XIVE: Unknown LISN " TARGET_FMT_lx "\n",
78623bcd5ebSCédric Le Goater                       lisn);
78723bcd5ebSCédric Le Goater         return H_P2;
78823bcd5ebSCédric Le Goater     }
78923bcd5ebSCédric Le Goater 
79023bcd5ebSCédric Le Goater     eas = xive->eat[lisn];
79123bcd5ebSCédric Le Goater     if (!xive_eas_is_valid(&eas)) {
79223bcd5ebSCédric Le Goater         qemu_log_mask(LOG_GUEST_ERROR, "XIVE: Invalid LISN " TARGET_FMT_lx "\n",
79323bcd5ebSCédric Le Goater                       lisn);
79423bcd5ebSCédric Le Goater         return H_P2;
79523bcd5ebSCédric Le Goater     }
79623bcd5ebSCédric Le Goater 
79723bcd5ebSCédric Le Goater     /* priority 0xff is used to reset the EAS */
79823bcd5ebSCédric Le Goater     if (priority == 0xff) {
79923bcd5ebSCédric Le Goater         new_eas.w = cpu_to_be64(EAS_VALID | EAS_MASKED);
80023bcd5ebSCédric Le Goater         goto out;
80123bcd5ebSCédric Le Goater     }
80223bcd5ebSCédric Le Goater 
80323bcd5ebSCédric Le Goater     if (flags & SPAPR_XIVE_SRC_MASK) {
80423bcd5ebSCédric Le Goater         new_eas.w = eas.w | cpu_to_be64(EAS_MASKED);
80523bcd5ebSCédric Le Goater     } else {
80623bcd5ebSCédric Le Goater         new_eas.w = eas.w & cpu_to_be64(~EAS_MASKED);
80723bcd5ebSCédric Le Goater     }
80823bcd5ebSCédric Le Goater 
80923bcd5ebSCédric Le Goater     if (spapr_xive_priority_is_reserved(priority)) {
81023bcd5ebSCédric Le Goater         qemu_log_mask(LOG_GUEST_ERROR, "XIVE: priority " TARGET_FMT_ld
81123bcd5ebSCédric Le Goater                       " is reserved\n", priority);
81223bcd5ebSCédric Le Goater         return H_P4;
81323bcd5ebSCédric Le Goater     }
81423bcd5ebSCédric Le Goater 
81523bcd5ebSCédric Le Goater     /*
81623bcd5ebSCédric Le Goater      * Validate that "target" is part of the list of threads allocated
81723bcd5ebSCédric Le Goater      * to the partition. For that, find the END corresponding to the
81823bcd5ebSCédric Le Goater      * target.
81923bcd5ebSCédric Le Goater      */
82023bcd5ebSCédric Le Goater     if (spapr_xive_target_to_end(target, priority, &end_blk, &end_idx)) {
82123bcd5ebSCédric Le Goater         return H_P3;
82223bcd5ebSCédric Le Goater     }
82323bcd5ebSCédric Le Goater 
82423bcd5ebSCédric Le Goater     new_eas.w = xive_set_field64(EAS_END_BLOCK, new_eas.w, end_blk);
82523bcd5ebSCédric Le Goater     new_eas.w = xive_set_field64(EAS_END_INDEX, new_eas.w, end_idx);
82623bcd5ebSCédric Le Goater 
82723bcd5ebSCédric Le Goater     if (flags & SPAPR_XIVE_SRC_SET_EISN) {
82823bcd5ebSCédric Le Goater         new_eas.w = xive_set_field64(EAS_END_DATA, new_eas.w, eisn);
82923bcd5ebSCédric Le Goater     }
83023bcd5ebSCédric Le Goater 
8310c575703SCédric Le Goater     if (kvm_irqchip_in_kernel()) {
8320c575703SCédric Le Goater         Error *local_err = NULL;
8330c575703SCédric Le Goater 
8340c575703SCédric Le Goater         kvmppc_xive_set_source_config(xive, lisn, &new_eas, &local_err);
8350c575703SCédric Le Goater         if (local_err) {
8360c575703SCédric Le Goater             error_report_err(local_err);
8370c575703SCédric Le Goater             return H_HARDWARE;
8380c575703SCédric Le Goater         }
8390c575703SCédric Le Goater     }
8400c575703SCédric Le Goater 
84123bcd5ebSCédric Le Goater out:
84223bcd5ebSCédric Le Goater     xive->eat[lisn] = new_eas;
84323bcd5ebSCédric Le Goater     return H_SUCCESS;
84423bcd5ebSCédric Le Goater }
84523bcd5ebSCédric Le Goater 
84623bcd5ebSCédric Le Goater /*
84723bcd5ebSCédric Le Goater  * The H_INT_GET_SOURCE_CONFIG hcall() is used to determine to which
84823bcd5ebSCédric Le Goater  * target/priority pair is assigned to the specified Logical Interrupt
84923bcd5ebSCédric Le Goater  * Source.
85023bcd5ebSCédric Le Goater  *
85123bcd5ebSCédric Le Goater  * Parameters:
85223bcd5ebSCédric Le Goater  * Input:
85323bcd5ebSCédric Le Goater  * - R4: "flags"
85423bcd5ebSCédric Le Goater  *         Bits 0-63 Reserved
85523bcd5ebSCédric Le Goater  * - R5: "lisn" is per "interrupts", "interrupt-map", or
85623bcd5ebSCédric Le Goater  *       "ibm,xive-lisn-ranges" properties, or as returned by the
85723bcd5ebSCédric Le Goater  *       ibm,query-interrupt-source-number RTAS call, or as
85823bcd5ebSCédric Le Goater  *       returned by the H_ALLOCATE_VAS_WINDOW hcall
85923bcd5ebSCédric Le Goater  *
86023bcd5ebSCédric Le Goater  * Output:
86123bcd5ebSCédric Le Goater  * - R4: Target to which the specified Logical Interrupt Source is
86223bcd5ebSCédric Le Goater  *       assigned
86323bcd5ebSCédric Le Goater  * - R5: Priority to which the specified Logical Interrupt Source is
86423bcd5ebSCédric Le Goater  *       assigned
86523bcd5ebSCédric Le Goater  * - R6: EISN for the specified Logical Interrupt Source (this will be
86623bcd5ebSCédric Le Goater  *       equivalent to the LISN if not changed by H_INT_SET_SOURCE_CONFIG)
86723bcd5ebSCédric Le Goater  */
86823bcd5ebSCédric Le Goater static target_ulong h_int_get_source_config(PowerPCCPU *cpu,
869ce2918cbSDavid Gibson                                             SpaprMachineState *spapr,
87023bcd5ebSCédric Le Goater                                             target_ulong opcode,
87123bcd5ebSCédric Le Goater                                             target_ulong *args)
87223bcd5ebSCédric Le Goater {
873ce2918cbSDavid Gibson     SpaprXive *xive = spapr->xive;
87423bcd5ebSCédric Le Goater     target_ulong flags = args[0];
87523bcd5ebSCédric Le Goater     target_ulong lisn = args[1];
87623bcd5ebSCédric Le Goater     XiveEAS eas;
87723bcd5ebSCédric Le Goater     XiveEND *end;
87823bcd5ebSCédric Le Goater     uint8_t nvt_blk;
87923bcd5ebSCédric Le Goater     uint32_t end_idx, nvt_idx;
88023bcd5ebSCédric Le Goater 
88123bcd5ebSCédric Le Goater     if (!spapr_ovec_test(spapr->ov5_cas, OV5_XIVE_EXPLOIT)) {
88223bcd5ebSCédric Le Goater         return H_FUNCTION;
88323bcd5ebSCédric Le Goater     }
88423bcd5ebSCédric Le Goater 
88523bcd5ebSCédric Le Goater     if (flags) {
88623bcd5ebSCédric Le Goater         return H_PARAMETER;
88723bcd5ebSCédric Le Goater     }
88823bcd5ebSCédric Le Goater 
88923bcd5ebSCédric Le Goater     if (lisn >= xive->nr_irqs) {
89023bcd5ebSCédric Le Goater         qemu_log_mask(LOG_GUEST_ERROR, "XIVE: Unknown LISN " TARGET_FMT_lx "\n",
89123bcd5ebSCédric Le Goater                       lisn);
89223bcd5ebSCédric Le Goater         return H_P2;
89323bcd5ebSCédric Le Goater     }
89423bcd5ebSCédric Le Goater 
89523bcd5ebSCédric Le Goater     eas = xive->eat[lisn];
89623bcd5ebSCédric Le Goater     if (!xive_eas_is_valid(&eas)) {
89723bcd5ebSCédric Le Goater         qemu_log_mask(LOG_GUEST_ERROR, "XIVE: Invalid LISN " TARGET_FMT_lx "\n",
89823bcd5ebSCédric Le Goater                       lisn);
89923bcd5ebSCédric Le Goater         return H_P2;
90023bcd5ebSCédric Le Goater     }
90123bcd5ebSCédric Le Goater 
90223bcd5ebSCédric Le Goater     /* EAS_END_BLOCK is unused on sPAPR */
90323bcd5ebSCédric Le Goater     end_idx = xive_get_field64(EAS_END_INDEX, eas.w);
90423bcd5ebSCédric Le Goater 
90523bcd5ebSCédric Le Goater     assert(end_idx < xive->nr_ends);
90623bcd5ebSCédric Le Goater     end = &xive->endt[end_idx];
90723bcd5ebSCédric Le Goater 
90823bcd5ebSCédric Le Goater     nvt_blk = xive_get_field32(END_W6_NVT_BLOCK, end->w6);
90923bcd5ebSCédric Le Goater     nvt_idx = xive_get_field32(END_W6_NVT_INDEX, end->w6);
91023bcd5ebSCédric Le Goater     args[0] = spapr_xive_nvt_to_target(nvt_blk, nvt_idx);
91123bcd5ebSCédric Le Goater 
91223bcd5ebSCédric Le Goater     if (xive_eas_is_masked(&eas)) {
91323bcd5ebSCédric Le Goater         args[1] = 0xff;
91423bcd5ebSCédric Le Goater     } else {
91523bcd5ebSCédric Le Goater         args[1] = xive_get_field32(END_W7_F0_PRIORITY, end->w7);
91623bcd5ebSCédric Le Goater     }
91723bcd5ebSCédric Le Goater 
91823bcd5ebSCédric Le Goater     args[2] = xive_get_field64(EAS_END_DATA, eas.w);
91923bcd5ebSCédric Le Goater 
92023bcd5ebSCédric Le Goater     return H_SUCCESS;
92123bcd5ebSCédric Le Goater }
92223bcd5ebSCédric Le Goater 
92323bcd5ebSCédric Le Goater /*
92423bcd5ebSCédric Le Goater  * The H_INT_GET_QUEUE_INFO hcall() is used to get the logical real
92523bcd5ebSCédric Le Goater  * address of the notification management page associated with the
92623bcd5ebSCédric Le Goater  * specified target and priority.
92723bcd5ebSCédric Le Goater  *
92823bcd5ebSCédric Le Goater  * Parameters:
92923bcd5ebSCédric Le Goater  * Input:
93023bcd5ebSCédric Le Goater  * - R4: "flags"
93123bcd5ebSCédric Le Goater  *         Bits 0-63 Reserved
93223bcd5ebSCédric Le Goater  * - R5: "target" is per "ibm,ppc-interrupt-server#s" or
93323bcd5ebSCédric Le Goater  *       "ibm,ppc-interrupt-gserver#s"
93423bcd5ebSCédric Le Goater  * - R6: "priority" is a valid priority not in
93523bcd5ebSCédric Le Goater  *       "ibm,plat-res-int-priorities"
93623bcd5ebSCédric Le Goater  *
93723bcd5ebSCédric Le Goater  * Output:
93823bcd5ebSCédric Le Goater  * - R4: Logical real address of notification page
93923bcd5ebSCédric Le Goater  * - R5: Power of 2 page size of the notification page
94023bcd5ebSCédric Le Goater  */
94123bcd5ebSCédric Le Goater static target_ulong h_int_get_queue_info(PowerPCCPU *cpu,
942ce2918cbSDavid Gibson                                          SpaprMachineState *spapr,
94323bcd5ebSCédric Le Goater                                          target_ulong opcode,
94423bcd5ebSCédric Le Goater                                          target_ulong *args)
94523bcd5ebSCédric Le Goater {
946ce2918cbSDavid Gibson     SpaprXive *xive = spapr->xive;
94723bcd5ebSCédric Le Goater     XiveENDSource *end_xsrc = &xive->end_source;
94823bcd5ebSCédric Le Goater     target_ulong flags = args[0];
94923bcd5ebSCédric Le Goater     target_ulong target = args[1];
95023bcd5ebSCédric Le Goater     target_ulong priority = args[2];
95123bcd5ebSCédric Le Goater     XiveEND *end;
95223bcd5ebSCédric Le Goater     uint8_t end_blk;
95323bcd5ebSCédric Le Goater     uint32_t end_idx;
95423bcd5ebSCédric Le Goater 
95523bcd5ebSCédric Le Goater     if (!spapr_ovec_test(spapr->ov5_cas, OV5_XIVE_EXPLOIT)) {
95623bcd5ebSCédric Le Goater         return H_FUNCTION;
95723bcd5ebSCédric Le Goater     }
95823bcd5ebSCédric Le Goater 
95923bcd5ebSCédric Le Goater     if (flags) {
96023bcd5ebSCédric Le Goater         return H_PARAMETER;
96123bcd5ebSCédric Le Goater     }
96223bcd5ebSCédric Le Goater 
96323bcd5ebSCédric Le Goater     /*
96423bcd5ebSCédric Le Goater      * H_STATE should be returned if a H_INT_RESET is in progress.
96523bcd5ebSCédric Le Goater      * This is not needed when running the emulation under QEMU
96623bcd5ebSCédric Le Goater      */
96723bcd5ebSCédric Le Goater 
96823bcd5ebSCédric Le Goater     if (spapr_xive_priority_is_reserved(priority)) {
96923bcd5ebSCédric Le Goater         qemu_log_mask(LOG_GUEST_ERROR, "XIVE: priority " TARGET_FMT_ld
97023bcd5ebSCédric Le Goater                       " is reserved\n", priority);
97123bcd5ebSCédric Le Goater         return H_P3;
97223bcd5ebSCédric Le Goater     }
97323bcd5ebSCédric Le Goater 
97423bcd5ebSCédric Le Goater     /*
97523bcd5ebSCédric Le Goater      * Validate that "target" is part of the list of threads allocated
97623bcd5ebSCédric Le Goater      * to the partition. For that, find the END corresponding to the
97723bcd5ebSCédric Le Goater      * target.
97823bcd5ebSCédric Le Goater      */
97923bcd5ebSCédric Le Goater     if (spapr_xive_target_to_end(target, priority, &end_blk, &end_idx)) {
98023bcd5ebSCédric Le Goater         return H_P2;
98123bcd5ebSCédric Le Goater     }
98223bcd5ebSCédric Le Goater 
98323bcd5ebSCédric Le Goater     assert(end_idx < xive->nr_ends);
98423bcd5ebSCédric Le Goater     end = &xive->endt[end_idx];
98523bcd5ebSCédric Le Goater 
98623bcd5ebSCédric Le Goater     args[0] = xive->end_base + (1ull << (end_xsrc->esb_shift + 1)) * end_idx;
98723bcd5ebSCédric Le Goater     if (xive_end_is_enqueue(end)) {
98823bcd5ebSCédric Le Goater         args[1] = xive_get_field32(END_W0_QSIZE, end->w0) + 12;
98923bcd5ebSCédric Le Goater     } else {
99023bcd5ebSCédric Le Goater         args[1] = 0;
99123bcd5ebSCédric Le Goater     }
99223bcd5ebSCédric Le Goater 
99323bcd5ebSCédric Le Goater     return H_SUCCESS;
99423bcd5ebSCédric Le Goater }
99523bcd5ebSCédric Le Goater 
99623bcd5ebSCédric Le Goater /*
99723bcd5ebSCédric Le Goater  * The H_INT_SET_QUEUE_CONFIG hcall() is used to set or reset a EQ for
99823bcd5ebSCédric Le Goater  * a given "target" and "priority".  It is also used to set the
99923bcd5ebSCédric Le Goater  * notification config associated with the EQ.  An EQ size of 0 is
100023bcd5ebSCédric Le Goater  * used to reset the EQ config for a given target and priority. If
100123bcd5ebSCédric Le Goater  * resetting the EQ config, the END associated with the given "target"
100223bcd5ebSCédric Le Goater  * and "priority" will be changed to disable queueing.
100323bcd5ebSCédric Le Goater  *
100423bcd5ebSCédric Le Goater  * Upon return from the hcall(), no additional interrupts will be
100523bcd5ebSCédric Le Goater  * directed to the old EQ (if one was set). The old EQ (if one was
100623bcd5ebSCédric Le Goater  * set) should be investigated for interrupts that occurred prior to
100723bcd5ebSCédric Le Goater  * or during the hcall().
100823bcd5ebSCédric Le Goater  *
100923bcd5ebSCédric Le Goater  * Parameters:
101023bcd5ebSCédric Le Goater  * Input:
101123bcd5ebSCédric Le Goater  * - R4: "flags"
101223bcd5ebSCédric Le Goater  *         Bits 0-62: Reserved
101323bcd5ebSCédric Le Goater  *         Bit 63: Unconditional Notify (n) per the XIVE spec
101423bcd5ebSCédric Le Goater  * - R5: "target" is per "ibm,ppc-interrupt-server#s" or
101523bcd5ebSCédric Le Goater  *       "ibm,ppc-interrupt-gserver#s"
101623bcd5ebSCédric Le Goater  * - R6: "priority" is a valid priority not in
101723bcd5ebSCédric Le Goater  *       "ibm,plat-res-int-priorities"
101823bcd5ebSCédric Le Goater  * - R7: "eventQueue": The logical real address of the start of the EQ
101923bcd5ebSCédric Le Goater  * - R8: "eventQueueSize": The power of 2 EQ size per "ibm,xive-eq-sizes"
102023bcd5ebSCédric Le Goater  *
102123bcd5ebSCédric Le Goater  * Output:
102223bcd5ebSCédric Le Goater  * - None
102323bcd5ebSCédric Le Goater  */
102423bcd5ebSCédric Le Goater 
102523bcd5ebSCédric Le Goater #define SPAPR_XIVE_END_ALWAYS_NOTIFY PPC_BIT(63)
102623bcd5ebSCédric Le Goater 
102723bcd5ebSCédric Le Goater static target_ulong h_int_set_queue_config(PowerPCCPU *cpu,
1028ce2918cbSDavid Gibson                                            SpaprMachineState *spapr,
102923bcd5ebSCédric Le Goater                                            target_ulong opcode,
103023bcd5ebSCédric Le Goater                                            target_ulong *args)
103123bcd5ebSCédric Le Goater {
1032ce2918cbSDavid Gibson     SpaprXive *xive = spapr->xive;
103323bcd5ebSCédric Le Goater     target_ulong flags = args[0];
103423bcd5ebSCédric Le Goater     target_ulong target = args[1];
103523bcd5ebSCédric Le Goater     target_ulong priority = args[2];
103623bcd5ebSCédric Le Goater     target_ulong qpage = args[3];
103723bcd5ebSCédric Le Goater     target_ulong qsize = args[4];
103823bcd5ebSCédric Le Goater     XiveEND end;
103923bcd5ebSCédric Le Goater     uint8_t end_blk, nvt_blk;
104023bcd5ebSCédric Le Goater     uint32_t end_idx, nvt_idx;
104123bcd5ebSCédric Le Goater 
104223bcd5ebSCédric Le Goater     if (!spapr_ovec_test(spapr->ov5_cas, OV5_XIVE_EXPLOIT)) {
104323bcd5ebSCédric Le Goater         return H_FUNCTION;
104423bcd5ebSCédric Le Goater     }
104523bcd5ebSCédric Le Goater 
104623bcd5ebSCédric Le Goater     if (flags & ~SPAPR_XIVE_END_ALWAYS_NOTIFY) {
104723bcd5ebSCédric Le Goater         return H_PARAMETER;
104823bcd5ebSCédric Le Goater     }
104923bcd5ebSCédric Le Goater 
105023bcd5ebSCédric Le Goater     /*
105123bcd5ebSCédric Le Goater      * H_STATE should be returned if a H_INT_RESET is in progress.
105223bcd5ebSCédric Le Goater      * This is not needed when running the emulation under QEMU
105323bcd5ebSCédric Le Goater      */
105423bcd5ebSCédric Le Goater 
105523bcd5ebSCédric Le Goater     if (spapr_xive_priority_is_reserved(priority)) {
105623bcd5ebSCédric Le Goater         qemu_log_mask(LOG_GUEST_ERROR, "XIVE: priority " TARGET_FMT_ld
105723bcd5ebSCédric Le Goater                       " is reserved\n", priority);
105823bcd5ebSCédric Le Goater         return H_P3;
105923bcd5ebSCédric Le Goater     }
106023bcd5ebSCédric Le Goater 
106123bcd5ebSCédric Le Goater     /*
106223bcd5ebSCédric Le Goater      * Validate that "target" is part of the list of threads allocated
106323bcd5ebSCédric Le Goater      * to the partition. For that, find the END corresponding to the
106423bcd5ebSCédric Le Goater      * target.
106523bcd5ebSCédric Le Goater      */
106623bcd5ebSCédric Le Goater 
106723bcd5ebSCédric Le Goater     if (spapr_xive_target_to_end(target, priority, &end_blk, &end_idx)) {
106823bcd5ebSCédric Le Goater         return H_P2;
106923bcd5ebSCédric Le Goater     }
107023bcd5ebSCédric Le Goater 
107123bcd5ebSCédric Le Goater     assert(end_idx < xive->nr_ends);
107223bcd5ebSCédric Le Goater     memcpy(&end, &xive->endt[end_idx], sizeof(XiveEND));
107323bcd5ebSCédric Le Goater 
107423bcd5ebSCédric Le Goater     switch (qsize) {
107523bcd5ebSCédric Le Goater     case 12:
107623bcd5ebSCédric Le Goater     case 16:
107723bcd5ebSCédric Le Goater     case 21:
107823bcd5ebSCédric Le Goater     case 24:
10797f9136f9SCédric Le Goater         if (!QEMU_IS_ALIGNED(qpage, 1ul << qsize)) {
10807f9136f9SCédric Le Goater             qemu_log_mask(LOG_GUEST_ERROR, "XIVE: EQ @0x%" HWADDR_PRIx
10817f9136f9SCédric Le Goater                           " is not naturally aligned with %" HWADDR_PRIx "\n",
10827f9136f9SCédric Le Goater                           qpage, (hwaddr)1 << qsize);
10837f9136f9SCédric Le Goater             return H_P4;
10847f9136f9SCédric Le Goater         }
108523bcd5ebSCédric Le Goater         end.w2 = cpu_to_be32((qpage >> 32) & 0x0fffffff);
108623bcd5ebSCédric Le Goater         end.w3 = cpu_to_be32(qpage & 0xffffffff);
108723bcd5ebSCédric Le Goater         end.w0 |= cpu_to_be32(END_W0_ENQUEUE);
108823bcd5ebSCédric Le Goater         end.w0 = xive_set_field32(END_W0_QSIZE, end.w0, qsize - 12);
108923bcd5ebSCédric Le Goater         break;
109023bcd5ebSCédric Le Goater     case 0:
109123bcd5ebSCédric Le Goater         /* reset queue and disable queueing */
109223bcd5ebSCédric Le Goater         spapr_xive_end_reset(&end);
109323bcd5ebSCédric Le Goater         goto out;
109423bcd5ebSCédric Le Goater 
109523bcd5ebSCédric Le Goater     default:
109623bcd5ebSCédric Le Goater         qemu_log_mask(LOG_GUEST_ERROR, "XIVE: invalid EQ size %"PRIx64"\n",
109723bcd5ebSCédric Le Goater                       qsize);
109823bcd5ebSCédric Le Goater         return H_P5;
109923bcd5ebSCédric Le Goater     }
110023bcd5ebSCédric Le Goater 
110123bcd5ebSCédric Le Goater     if (qsize) {
110223bcd5ebSCédric Le Goater         hwaddr plen = 1 << qsize;
110323bcd5ebSCédric Le Goater         void *eq;
110423bcd5ebSCédric Le Goater 
110523bcd5ebSCédric Le Goater         /*
110623bcd5ebSCédric Le Goater          * Validate the guest EQ. We should also check that the queue
110723bcd5ebSCédric Le Goater          * has been zeroed by the OS.
110823bcd5ebSCédric Le Goater          */
110923bcd5ebSCédric Le Goater         eq = address_space_map(CPU(cpu)->as, qpage, &plen, true,
111023bcd5ebSCédric Le Goater                                MEMTXATTRS_UNSPECIFIED);
111123bcd5ebSCédric Le Goater         if (plen != 1 << qsize) {
111223bcd5ebSCédric Le Goater             qemu_log_mask(LOG_GUEST_ERROR, "XIVE: failed to map EQ @0x%"
111323bcd5ebSCédric Le Goater                           HWADDR_PRIx "\n", qpage);
111423bcd5ebSCédric Le Goater             return H_P4;
111523bcd5ebSCédric Le Goater         }
111623bcd5ebSCédric Le Goater         address_space_unmap(CPU(cpu)->as, eq, plen, true, plen);
111723bcd5ebSCédric Le Goater     }
111823bcd5ebSCédric Le Goater 
111923bcd5ebSCédric Le Goater     /* "target" should have been validated above */
112023bcd5ebSCédric Le Goater     if (spapr_xive_target_to_nvt(target, &nvt_blk, &nvt_idx)) {
112123bcd5ebSCédric Le Goater         g_assert_not_reached();
112223bcd5ebSCédric Le Goater     }
112323bcd5ebSCédric Le Goater 
112423bcd5ebSCédric Le Goater     /*
112523bcd5ebSCédric Le Goater      * Ensure the priority and target are correctly set (they will not
112623bcd5ebSCédric Le Goater      * be right after allocation)
112723bcd5ebSCédric Le Goater      */
112823bcd5ebSCédric Le Goater     end.w6 = xive_set_field32(END_W6_NVT_BLOCK, 0ul, nvt_blk) |
112923bcd5ebSCédric Le Goater         xive_set_field32(END_W6_NVT_INDEX, 0ul, nvt_idx);
113023bcd5ebSCédric Le Goater     end.w7 = xive_set_field32(END_W7_F0_PRIORITY, 0ul, priority);
113123bcd5ebSCédric Le Goater 
113223bcd5ebSCédric Le Goater     if (flags & SPAPR_XIVE_END_ALWAYS_NOTIFY) {
113323bcd5ebSCédric Le Goater         end.w0 |= cpu_to_be32(END_W0_UCOND_NOTIFY);
113423bcd5ebSCédric Le Goater     } else {
113523bcd5ebSCédric Le Goater         end.w0 &= cpu_to_be32((uint32_t)~END_W0_UCOND_NOTIFY);
113623bcd5ebSCédric Le Goater     }
113723bcd5ebSCédric Le Goater 
113823bcd5ebSCédric Le Goater     /*
113923bcd5ebSCédric Le Goater      * The generation bit for the END starts at 1 and The END page
114023bcd5ebSCédric Le Goater      * offset counter starts at 0.
114123bcd5ebSCédric Le Goater      */
114223bcd5ebSCédric Le Goater     end.w1 = cpu_to_be32(END_W1_GENERATION) |
114323bcd5ebSCédric Le Goater         xive_set_field32(END_W1_PAGE_OFF, 0ul, 0ul);
114423bcd5ebSCédric Le Goater     end.w0 |= cpu_to_be32(END_W0_VALID);
114523bcd5ebSCédric Le Goater 
114623bcd5ebSCédric Le Goater     /*
114723bcd5ebSCédric Le Goater      * TODO: issue syncs required to ensure all in-flight interrupts
114823bcd5ebSCédric Le Goater      * are complete on the old END
114923bcd5ebSCédric Le Goater      */
115023bcd5ebSCédric Le Goater 
115123bcd5ebSCédric Le Goater out:
11520c575703SCédric Le Goater     if (kvm_irqchip_in_kernel()) {
11530c575703SCédric Le Goater         Error *local_err = NULL;
11540c575703SCédric Le Goater 
11550c575703SCédric Le Goater         kvmppc_xive_set_queue_config(xive, end_blk, end_idx, &end, &local_err);
11560c575703SCédric Le Goater         if (local_err) {
11570c575703SCédric Le Goater             error_report_err(local_err);
11580c575703SCédric Le Goater             return H_HARDWARE;
11590c575703SCédric Le Goater         }
11600c575703SCédric Le Goater     }
11610c575703SCédric Le Goater 
116223bcd5ebSCédric Le Goater     /* Update END */
116323bcd5ebSCédric Le Goater     memcpy(&xive->endt[end_idx], &end, sizeof(XiveEND));
116423bcd5ebSCédric Le Goater     return H_SUCCESS;
116523bcd5ebSCédric Le Goater }
116623bcd5ebSCédric Le Goater 
116723bcd5ebSCédric Le Goater /*
116823bcd5ebSCédric Le Goater  * The H_INT_GET_QUEUE_CONFIG hcall() is used to get a EQ for a given
116923bcd5ebSCédric Le Goater  * target and priority.
117023bcd5ebSCédric Le Goater  *
117123bcd5ebSCédric Le Goater  * Parameters:
117223bcd5ebSCédric Le Goater  * Input:
117323bcd5ebSCédric Le Goater  * - R4: "flags"
117423bcd5ebSCédric Le Goater  *         Bits 0-62: Reserved
117523bcd5ebSCédric Le Goater  *         Bit 63: Debug: Return debug data
117623bcd5ebSCédric Le Goater  * - R5: "target" is per "ibm,ppc-interrupt-server#s" or
117723bcd5ebSCédric Le Goater  *       "ibm,ppc-interrupt-gserver#s"
117823bcd5ebSCédric Le Goater  * - R6: "priority" is a valid priority not in
117923bcd5ebSCédric Le Goater  *       "ibm,plat-res-int-priorities"
118023bcd5ebSCédric Le Goater  *
118123bcd5ebSCédric Le Goater  * Output:
118223bcd5ebSCédric Le Goater  * - R4: "flags":
118323bcd5ebSCédric Le Goater  *       Bits 0-61: Reserved
118423bcd5ebSCédric Le Goater  *       Bit 62: The value of Event Queue Generation Number (g) per
118523bcd5ebSCédric Le Goater  *              the XIVE spec if "Debug" = 1
118623bcd5ebSCédric Le Goater  *       Bit 63: The value of Unconditional Notify (n) per the XIVE spec
118723bcd5ebSCédric Le Goater  * - R5: The logical real address of the start of the EQ
118823bcd5ebSCédric Le Goater  * - R6: The power of 2 EQ size per "ibm,xive-eq-sizes"
118923bcd5ebSCédric Le Goater  * - R7: The value of Event Queue Offset Counter per XIVE spec
119023bcd5ebSCédric Le Goater  *       if "Debug" = 1, else 0
119123bcd5ebSCédric Le Goater  *
119223bcd5ebSCédric Le Goater  */
119323bcd5ebSCédric Le Goater 
119423bcd5ebSCédric Le Goater #define SPAPR_XIVE_END_DEBUG     PPC_BIT(63)
119523bcd5ebSCédric Le Goater 
119623bcd5ebSCédric Le Goater static target_ulong h_int_get_queue_config(PowerPCCPU *cpu,
1197ce2918cbSDavid Gibson                                            SpaprMachineState *spapr,
119823bcd5ebSCédric Le Goater                                            target_ulong opcode,
119923bcd5ebSCédric Le Goater                                            target_ulong *args)
120023bcd5ebSCédric Le Goater {
1201ce2918cbSDavid Gibson     SpaprXive *xive = spapr->xive;
120223bcd5ebSCédric Le Goater     target_ulong flags = args[0];
120323bcd5ebSCédric Le Goater     target_ulong target = args[1];
120423bcd5ebSCédric Le Goater     target_ulong priority = args[2];
120523bcd5ebSCédric Le Goater     XiveEND *end;
120623bcd5ebSCédric Le Goater     uint8_t end_blk;
120723bcd5ebSCédric Le Goater     uint32_t end_idx;
120823bcd5ebSCédric Le Goater 
120923bcd5ebSCédric Le Goater     if (!spapr_ovec_test(spapr->ov5_cas, OV5_XIVE_EXPLOIT)) {
121023bcd5ebSCédric Le Goater         return H_FUNCTION;
121123bcd5ebSCédric Le Goater     }
121223bcd5ebSCédric Le Goater 
121323bcd5ebSCédric Le Goater     if (flags & ~SPAPR_XIVE_END_DEBUG) {
121423bcd5ebSCédric Le Goater         return H_PARAMETER;
121523bcd5ebSCédric Le Goater     }
121623bcd5ebSCédric Le Goater 
121723bcd5ebSCédric Le Goater     /*
121823bcd5ebSCédric Le Goater      * H_STATE should be returned if a H_INT_RESET is in progress.
121923bcd5ebSCédric Le Goater      * This is not needed when running the emulation under QEMU
122023bcd5ebSCédric Le Goater      */
122123bcd5ebSCédric Le Goater 
122223bcd5ebSCédric Le Goater     if (spapr_xive_priority_is_reserved(priority)) {
122323bcd5ebSCédric Le Goater         qemu_log_mask(LOG_GUEST_ERROR, "XIVE: priority " TARGET_FMT_ld
122423bcd5ebSCédric Le Goater                       " is reserved\n", priority);
122523bcd5ebSCédric Le Goater         return H_P3;
122623bcd5ebSCédric Le Goater     }
122723bcd5ebSCédric Le Goater 
122823bcd5ebSCédric Le Goater     /*
122923bcd5ebSCédric Le Goater      * Validate that "target" is part of the list of threads allocated
123023bcd5ebSCédric Le Goater      * to the partition. For that, find the END corresponding to the
123123bcd5ebSCédric Le Goater      * target.
123223bcd5ebSCédric Le Goater      */
123323bcd5ebSCédric Le Goater     if (spapr_xive_target_to_end(target, priority, &end_blk, &end_idx)) {
123423bcd5ebSCédric Le Goater         return H_P2;
123523bcd5ebSCédric Le Goater     }
123623bcd5ebSCédric Le Goater 
123723bcd5ebSCédric Le Goater     assert(end_idx < xive->nr_ends);
123823bcd5ebSCédric Le Goater     end = &xive->endt[end_idx];
123923bcd5ebSCédric Le Goater 
124023bcd5ebSCédric Le Goater     args[0] = 0;
124123bcd5ebSCédric Le Goater     if (xive_end_is_notify(end)) {
124223bcd5ebSCédric Le Goater         args[0] |= SPAPR_XIVE_END_ALWAYS_NOTIFY;
124323bcd5ebSCédric Le Goater     }
124423bcd5ebSCédric Le Goater 
124523bcd5ebSCédric Le Goater     if (xive_end_is_enqueue(end)) {
124613df9324SCédric Le Goater         args[1] = xive_end_qaddr(end);
124723bcd5ebSCédric Le Goater         args[2] = xive_get_field32(END_W0_QSIZE, end->w0) + 12;
124823bcd5ebSCédric Le Goater     } else {
124923bcd5ebSCédric Le Goater         args[1] = 0;
125023bcd5ebSCédric Le Goater         args[2] = 0;
125123bcd5ebSCédric Le Goater     }
125223bcd5ebSCédric Le Goater 
12530c575703SCédric Le Goater     if (kvm_irqchip_in_kernel()) {
12540c575703SCédric Le Goater         Error *local_err = NULL;
12550c575703SCédric Le Goater 
12560c575703SCédric Le Goater         kvmppc_xive_get_queue_config(xive, end_blk, end_idx, end, &local_err);
12570c575703SCédric Le Goater         if (local_err) {
12580c575703SCédric Le Goater             error_report_err(local_err);
12590c575703SCédric Le Goater             return H_HARDWARE;
12600c575703SCédric Le Goater         }
12610c575703SCédric Le Goater     }
12620c575703SCédric Le Goater 
126323bcd5ebSCédric Le Goater     /* TODO: do we need any locking on the END ? */
126423bcd5ebSCédric Le Goater     if (flags & SPAPR_XIVE_END_DEBUG) {
126523bcd5ebSCédric Le Goater         /* Load the event queue generation number into the return flags */
126623bcd5ebSCédric Le Goater         args[0] |= (uint64_t)xive_get_field32(END_W1_GENERATION, end->w1) << 62;
126723bcd5ebSCédric Le Goater 
126823bcd5ebSCédric Le Goater         /* Load R7 with the event queue offset counter */
126923bcd5ebSCédric Le Goater         args[3] = xive_get_field32(END_W1_PAGE_OFF, end->w1);
127023bcd5ebSCédric Le Goater     } else {
127123bcd5ebSCédric Le Goater         args[3] = 0;
127223bcd5ebSCédric Le Goater     }
127323bcd5ebSCédric Le Goater 
127423bcd5ebSCédric Le Goater     return H_SUCCESS;
127523bcd5ebSCédric Le Goater }
127623bcd5ebSCédric Le Goater 
127723bcd5ebSCédric Le Goater /*
127823bcd5ebSCédric Le Goater  * The H_INT_SET_OS_REPORTING_LINE hcall() is used to set the
127923bcd5ebSCédric Le Goater  * reporting cache line pair for the calling thread.  The reporting
128023bcd5ebSCédric Le Goater  * cache lines will contain the OS interrupt context when the OS
128123bcd5ebSCédric Le Goater  * issues a CI store byte to @TIMA+0xC10 to acknowledge the OS
128223bcd5ebSCédric Le Goater  * interrupt. The reporting cache lines can be reset by inputting -1
128323bcd5ebSCédric Le Goater  * in "reportingLine".  Issuing the CI store byte without reporting
128423bcd5ebSCédric Le Goater  * cache lines registered will result in the data not being accessible
128523bcd5ebSCédric Le Goater  * to the OS.
128623bcd5ebSCédric Le Goater  *
128723bcd5ebSCédric Le Goater  * Parameters:
128823bcd5ebSCédric Le Goater  * Input:
128923bcd5ebSCédric Le Goater  * - R4: "flags"
129023bcd5ebSCédric Le Goater  *         Bits 0-63: Reserved
129123bcd5ebSCédric Le Goater  * - R5: "reportingLine": The logical real address of the reporting cache
129223bcd5ebSCédric Le Goater  *       line pair
129323bcd5ebSCédric Le Goater  *
129423bcd5ebSCédric Le Goater  * Output:
129523bcd5ebSCédric Le Goater  * - None
129623bcd5ebSCédric Le Goater  */
129723bcd5ebSCédric Le Goater static target_ulong h_int_set_os_reporting_line(PowerPCCPU *cpu,
1298ce2918cbSDavid Gibson                                                 SpaprMachineState *spapr,
129923bcd5ebSCédric Le Goater                                                 target_ulong opcode,
130023bcd5ebSCédric Le Goater                                                 target_ulong *args)
130123bcd5ebSCédric Le Goater {
130223bcd5ebSCédric Le Goater     if (!spapr_ovec_test(spapr->ov5_cas, OV5_XIVE_EXPLOIT)) {
130323bcd5ebSCédric Le Goater         return H_FUNCTION;
130423bcd5ebSCédric Le Goater     }
130523bcd5ebSCédric Le Goater 
130623bcd5ebSCédric Le Goater     /*
130723bcd5ebSCédric Le Goater      * H_STATE should be returned if a H_INT_RESET is in progress.
130823bcd5ebSCédric Le Goater      * This is not needed when running the emulation under QEMU
130923bcd5ebSCédric Le Goater      */
131023bcd5ebSCédric Le Goater 
131123bcd5ebSCédric Le Goater     /* TODO: H_INT_SET_OS_REPORTING_LINE */
131223bcd5ebSCédric Le Goater     return H_FUNCTION;
131323bcd5ebSCédric Le Goater }
131423bcd5ebSCédric Le Goater 
131523bcd5ebSCédric Le Goater /*
131623bcd5ebSCédric Le Goater  * The H_INT_GET_OS_REPORTING_LINE hcall() is used to get the logical
131723bcd5ebSCédric Le Goater  * real address of the reporting cache line pair set for the input
131823bcd5ebSCédric Le Goater  * "target".  If no reporting cache line pair has been set, -1 is
131923bcd5ebSCédric Le Goater  * returned.
132023bcd5ebSCédric Le Goater  *
132123bcd5ebSCédric Le Goater  * Parameters:
132223bcd5ebSCédric Le Goater  * Input:
132323bcd5ebSCédric Le Goater  * - R4: "flags"
132423bcd5ebSCédric Le Goater  *         Bits 0-63: Reserved
132523bcd5ebSCédric Le Goater  * - R5: "target" is per "ibm,ppc-interrupt-server#s" or
132623bcd5ebSCédric Le Goater  *       "ibm,ppc-interrupt-gserver#s"
132723bcd5ebSCédric Le Goater  * - R6: "reportingLine": The logical real address of the reporting
132823bcd5ebSCédric Le Goater  *        cache line pair
132923bcd5ebSCédric Le Goater  *
133023bcd5ebSCédric Le Goater  * Output:
133123bcd5ebSCédric Le Goater  * - R4: The logical real address of the reporting line if set, else -1
133223bcd5ebSCédric Le Goater  */
133323bcd5ebSCédric Le Goater static target_ulong h_int_get_os_reporting_line(PowerPCCPU *cpu,
1334ce2918cbSDavid Gibson                                                 SpaprMachineState *spapr,
133523bcd5ebSCédric Le Goater                                                 target_ulong opcode,
133623bcd5ebSCédric Le Goater                                                 target_ulong *args)
133723bcd5ebSCédric Le Goater {
133823bcd5ebSCédric Le Goater     if (!spapr_ovec_test(spapr->ov5_cas, OV5_XIVE_EXPLOIT)) {
133923bcd5ebSCédric Le Goater         return H_FUNCTION;
134023bcd5ebSCédric Le Goater     }
134123bcd5ebSCédric Le Goater 
134223bcd5ebSCédric Le Goater     /*
134323bcd5ebSCédric Le Goater      * H_STATE should be returned if a H_INT_RESET is in progress.
134423bcd5ebSCédric Le Goater      * This is not needed when running the emulation under QEMU
134523bcd5ebSCédric Le Goater      */
134623bcd5ebSCédric Le Goater 
134723bcd5ebSCédric Le Goater     /* TODO: H_INT_GET_OS_REPORTING_LINE */
134823bcd5ebSCédric Le Goater     return H_FUNCTION;
134923bcd5ebSCédric Le Goater }
135023bcd5ebSCédric Le Goater 
135123bcd5ebSCédric Le Goater /*
135223bcd5ebSCédric Le Goater  * The H_INT_ESB hcall() is used to issue a load or store to the ESB
135323bcd5ebSCédric Le Goater  * page for the input "lisn".  This hcall is only supported for LISNs
135423bcd5ebSCédric Le Goater  * that have the ESB hcall flag set to 1 when returned from hcall()
135523bcd5ebSCédric Le Goater  * H_INT_GET_SOURCE_INFO.
135623bcd5ebSCédric Le Goater  *
135723bcd5ebSCédric Le Goater  * Parameters:
135823bcd5ebSCédric Le Goater  * Input:
135923bcd5ebSCédric Le Goater  * - R4: "flags"
136023bcd5ebSCédric Le Goater  *         Bits 0-62: Reserved
136123bcd5ebSCédric Le Goater  *         bit 63: Store: Store=1, store operation, else load operation
136223bcd5ebSCédric Le Goater  * - R5: "lisn" is per "interrupts", "interrupt-map", or
136323bcd5ebSCédric Le Goater  *       "ibm,xive-lisn-ranges" properties, or as returned by the
136423bcd5ebSCédric Le Goater  *       ibm,query-interrupt-source-number RTAS call, or as
136523bcd5ebSCédric Le Goater  *       returned by the H_ALLOCATE_VAS_WINDOW hcall
136623bcd5ebSCédric Le Goater  * - R6: "esbOffset" is the offset into the ESB page for the load or
136723bcd5ebSCédric Le Goater  *       store operation
136823bcd5ebSCédric Le Goater  * - R7: "storeData" is the data to write for a store operation
136923bcd5ebSCédric Le Goater  *
137023bcd5ebSCédric Le Goater  * Output:
137123bcd5ebSCédric Le Goater  * - R4: The value of the load if load operation, else -1
137223bcd5ebSCédric Le Goater  */
137323bcd5ebSCédric Le Goater 
137423bcd5ebSCédric Le Goater #define SPAPR_XIVE_ESB_STORE PPC_BIT(63)
137523bcd5ebSCédric Le Goater 
137623bcd5ebSCédric Le Goater static target_ulong h_int_esb(PowerPCCPU *cpu,
1377ce2918cbSDavid Gibson                               SpaprMachineState *spapr,
137823bcd5ebSCédric Le Goater                               target_ulong opcode,
137923bcd5ebSCédric Le Goater                               target_ulong *args)
138023bcd5ebSCédric Le Goater {
1381ce2918cbSDavid Gibson     SpaprXive *xive = spapr->xive;
138223bcd5ebSCédric Le Goater     XiveEAS eas;
138323bcd5ebSCédric Le Goater     target_ulong flags  = args[0];
138423bcd5ebSCédric Le Goater     target_ulong lisn   = args[1];
138523bcd5ebSCédric Le Goater     target_ulong offset = args[2];
138623bcd5ebSCédric Le Goater     target_ulong data   = args[3];
138723bcd5ebSCédric Le Goater     hwaddr mmio_addr;
138823bcd5ebSCédric Le Goater     XiveSource *xsrc = &xive->source;
138923bcd5ebSCédric Le Goater 
139023bcd5ebSCédric Le Goater     if (!spapr_ovec_test(spapr->ov5_cas, OV5_XIVE_EXPLOIT)) {
139123bcd5ebSCédric Le Goater         return H_FUNCTION;
139223bcd5ebSCédric Le Goater     }
139323bcd5ebSCédric Le Goater 
139423bcd5ebSCédric Le Goater     if (flags & ~SPAPR_XIVE_ESB_STORE) {
139523bcd5ebSCédric Le Goater         return H_PARAMETER;
139623bcd5ebSCédric Le Goater     }
139723bcd5ebSCédric Le Goater 
139823bcd5ebSCédric Le Goater     if (lisn >= xive->nr_irqs) {
139923bcd5ebSCédric Le Goater         qemu_log_mask(LOG_GUEST_ERROR, "XIVE: Unknown LISN " TARGET_FMT_lx "\n",
140023bcd5ebSCédric Le Goater                       lisn);
140123bcd5ebSCédric Le Goater         return H_P2;
140223bcd5ebSCédric Le Goater     }
140323bcd5ebSCédric Le Goater 
140423bcd5ebSCédric Le Goater     eas = xive->eat[lisn];
140523bcd5ebSCédric Le Goater     if (!xive_eas_is_valid(&eas)) {
140623bcd5ebSCédric Le Goater         qemu_log_mask(LOG_GUEST_ERROR, "XIVE: Invalid LISN " TARGET_FMT_lx "\n",
140723bcd5ebSCédric Le Goater                       lisn);
140823bcd5ebSCédric Le Goater         return H_P2;
140923bcd5ebSCédric Le Goater     }
141023bcd5ebSCédric Le Goater 
141123bcd5ebSCédric Le Goater     if (offset > (1ull << xsrc->esb_shift)) {
141223bcd5ebSCédric Le Goater         return H_P3;
141323bcd5ebSCédric Le Goater     }
141423bcd5ebSCédric Le Goater 
14150c575703SCédric Le Goater     if (kvm_irqchip_in_kernel()) {
14160c575703SCédric Le Goater         args[0] = kvmppc_xive_esb_rw(xsrc, lisn, offset, data,
14170c575703SCédric Le Goater                                      flags & SPAPR_XIVE_ESB_STORE);
14180c575703SCédric Le Goater     } else {
141923bcd5ebSCédric Le Goater         mmio_addr = xive->vc_base + xive_source_esb_mgmt(xsrc, lisn) + offset;
142023bcd5ebSCédric Le Goater 
142123bcd5ebSCédric Le Goater         if (dma_memory_rw(&address_space_memory, mmio_addr, &data, 8,
142223bcd5ebSCédric Le Goater                           (flags & SPAPR_XIVE_ESB_STORE))) {
142323bcd5ebSCédric Le Goater             qemu_log_mask(LOG_GUEST_ERROR, "XIVE: failed to access ESB @0x%"
142423bcd5ebSCédric Le Goater                           HWADDR_PRIx "\n", mmio_addr);
142523bcd5ebSCédric Le Goater             return H_HARDWARE;
142623bcd5ebSCédric Le Goater         }
142723bcd5ebSCédric Le Goater         args[0] = (flags & SPAPR_XIVE_ESB_STORE) ? -1 : data;
14280c575703SCédric Le Goater     }
142923bcd5ebSCédric Le Goater     return H_SUCCESS;
143023bcd5ebSCédric Le Goater }
143123bcd5ebSCédric Le Goater 
143223bcd5ebSCédric Le Goater /*
143323bcd5ebSCédric Le Goater  * The H_INT_SYNC hcall() is used to issue hardware syncs that will
143423bcd5ebSCédric Le Goater  * ensure any in flight events for the input lisn are in the event
143523bcd5ebSCédric Le Goater  * queue.
143623bcd5ebSCédric Le Goater  *
143723bcd5ebSCédric Le Goater  * Parameters:
143823bcd5ebSCédric Le Goater  * Input:
143923bcd5ebSCédric Le Goater  * - R4: "flags"
144023bcd5ebSCédric Le Goater  *         Bits 0-63: Reserved
144123bcd5ebSCédric Le Goater  * - R5: "lisn" is per "interrupts", "interrupt-map", or
144223bcd5ebSCédric Le Goater  *       "ibm,xive-lisn-ranges" properties, or as returned by the
144323bcd5ebSCédric Le Goater  *       ibm,query-interrupt-source-number RTAS call, or as
144423bcd5ebSCédric Le Goater  *       returned by the H_ALLOCATE_VAS_WINDOW hcall
144523bcd5ebSCédric Le Goater  *
144623bcd5ebSCédric Le Goater  * Output:
144723bcd5ebSCédric Le Goater  * - None
144823bcd5ebSCédric Le Goater  */
144923bcd5ebSCédric Le Goater static target_ulong h_int_sync(PowerPCCPU *cpu,
1450ce2918cbSDavid Gibson                                SpaprMachineState *spapr,
145123bcd5ebSCédric Le Goater                                target_ulong opcode,
145223bcd5ebSCédric Le Goater                                target_ulong *args)
145323bcd5ebSCédric Le Goater {
1454ce2918cbSDavid Gibson     SpaprXive *xive = spapr->xive;
145523bcd5ebSCédric Le Goater     XiveEAS eas;
145623bcd5ebSCédric Le Goater     target_ulong flags = args[0];
145723bcd5ebSCédric Le Goater     target_ulong lisn = args[1];
145823bcd5ebSCédric Le Goater 
145923bcd5ebSCédric Le Goater     if (!spapr_ovec_test(spapr->ov5_cas, OV5_XIVE_EXPLOIT)) {
146023bcd5ebSCédric Le Goater         return H_FUNCTION;
146123bcd5ebSCédric Le Goater     }
146223bcd5ebSCédric Le Goater 
146323bcd5ebSCédric Le Goater     if (flags) {
146423bcd5ebSCédric Le Goater         return H_PARAMETER;
146523bcd5ebSCédric Le Goater     }
146623bcd5ebSCédric Le Goater 
146723bcd5ebSCédric Le Goater     if (lisn >= xive->nr_irqs) {
146823bcd5ebSCédric Le Goater         qemu_log_mask(LOG_GUEST_ERROR, "XIVE: Unknown LISN " TARGET_FMT_lx "\n",
146923bcd5ebSCédric Le Goater                       lisn);
147023bcd5ebSCédric Le Goater         return H_P2;
147123bcd5ebSCédric Le Goater     }
147223bcd5ebSCédric Le Goater 
147323bcd5ebSCédric Le Goater     eas = xive->eat[lisn];
147423bcd5ebSCédric Le Goater     if (!xive_eas_is_valid(&eas)) {
147523bcd5ebSCédric Le Goater         qemu_log_mask(LOG_GUEST_ERROR, "XIVE: Invalid LISN " TARGET_FMT_lx "\n",
147623bcd5ebSCédric Le Goater                       lisn);
147723bcd5ebSCédric Le Goater         return H_P2;
147823bcd5ebSCédric Le Goater     }
147923bcd5ebSCédric Le Goater 
148023bcd5ebSCédric Le Goater     /*
148123bcd5ebSCédric Le Goater      * H_STATE should be returned if a H_INT_RESET is in progress.
148223bcd5ebSCédric Le Goater      * This is not needed when running the emulation under QEMU
148323bcd5ebSCédric Le Goater      */
148423bcd5ebSCédric Le Goater 
14850c575703SCédric Le Goater     /*
14860c575703SCédric Le Goater      * This is not real hardware. Nothing to be done unless when
14870c575703SCédric Le Goater      * under KVM
14880c575703SCédric Le Goater      */
14890c575703SCédric Le Goater 
14900c575703SCédric Le Goater     if (kvm_irqchip_in_kernel()) {
14910c575703SCédric Le Goater         Error *local_err = NULL;
14920c575703SCédric Le Goater 
14930c575703SCédric Le Goater         kvmppc_xive_sync_source(xive, lisn, &local_err);
14940c575703SCédric Le Goater         if (local_err) {
14950c575703SCédric Le Goater             error_report_err(local_err);
14960c575703SCédric Le Goater             return H_HARDWARE;
14970c575703SCédric Le Goater         }
14980c575703SCédric Le Goater     }
149923bcd5ebSCédric Le Goater     return H_SUCCESS;
150023bcd5ebSCédric Le Goater }
150123bcd5ebSCédric Le Goater 
150223bcd5ebSCédric Le Goater /*
150323bcd5ebSCédric Le Goater  * The H_INT_RESET hcall() is used to reset all of the partition's
150423bcd5ebSCédric Le Goater  * interrupt exploitation structures to their initial state.  This
150523bcd5ebSCédric Le Goater  * means losing all previously set interrupt state set via
150623bcd5ebSCédric Le Goater  * H_INT_SET_SOURCE_CONFIG and H_INT_SET_QUEUE_CONFIG.
150723bcd5ebSCédric Le Goater  *
150823bcd5ebSCédric Le Goater  * Parameters:
150923bcd5ebSCédric Le Goater  * Input:
151023bcd5ebSCédric Le Goater  * - R4: "flags"
151123bcd5ebSCédric Le Goater  *         Bits 0-63: Reserved
151223bcd5ebSCédric Le Goater  *
151323bcd5ebSCédric Le Goater  * Output:
151423bcd5ebSCédric Le Goater  * - None
151523bcd5ebSCédric Le Goater  */
151623bcd5ebSCédric Le Goater static target_ulong h_int_reset(PowerPCCPU *cpu,
1517ce2918cbSDavid Gibson                                 SpaprMachineState *spapr,
151823bcd5ebSCédric Le Goater                                 target_ulong opcode,
151923bcd5ebSCédric Le Goater                                 target_ulong *args)
152023bcd5ebSCédric Le Goater {
1521ce2918cbSDavid Gibson     SpaprXive *xive = spapr->xive;
152223bcd5ebSCédric Le Goater     target_ulong flags   = args[0];
152323bcd5ebSCédric Le Goater 
152423bcd5ebSCédric Le Goater     if (!spapr_ovec_test(spapr->ov5_cas, OV5_XIVE_EXPLOIT)) {
152523bcd5ebSCédric Le Goater         return H_FUNCTION;
152623bcd5ebSCédric Le Goater     }
152723bcd5ebSCédric Le Goater 
152823bcd5ebSCédric Le Goater     if (flags) {
152923bcd5ebSCédric Le Goater         return H_PARAMETER;
153023bcd5ebSCédric Le Goater     }
153123bcd5ebSCédric Le Goater 
153223bcd5ebSCédric Le Goater     device_reset(DEVICE(xive));
15330c575703SCédric Le Goater 
15340c575703SCédric Le Goater     if (kvm_irqchip_in_kernel()) {
15350c575703SCédric Le Goater         Error *local_err = NULL;
15360c575703SCédric Le Goater 
15370c575703SCédric Le Goater         kvmppc_xive_reset(xive, &local_err);
15380c575703SCédric Le Goater         if (local_err) {
15390c575703SCédric Le Goater             error_report_err(local_err);
15400c575703SCédric Le Goater             return H_HARDWARE;
15410c575703SCédric Le Goater         }
15420c575703SCédric Le Goater     }
154323bcd5ebSCédric Le Goater     return H_SUCCESS;
154423bcd5ebSCédric Le Goater }
154523bcd5ebSCédric Le Goater 
1546ce2918cbSDavid Gibson void spapr_xive_hcall_init(SpaprMachineState *spapr)
154723bcd5ebSCédric Le Goater {
154823bcd5ebSCédric Le Goater     spapr_register_hypercall(H_INT_GET_SOURCE_INFO, h_int_get_source_info);
154923bcd5ebSCédric Le Goater     spapr_register_hypercall(H_INT_SET_SOURCE_CONFIG, h_int_set_source_config);
155023bcd5ebSCédric Le Goater     spapr_register_hypercall(H_INT_GET_SOURCE_CONFIG, h_int_get_source_config);
155123bcd5ebSCédric Le Goater     spapr_register_hypercall(H_INT_GET_QUEUE_INFO, h_int_get_queue_info);
155223bcd5ebSCédric Le Goater     spapr_register_hypercall(H_INT_SET_QUEUE_CONFIG, h_int_set_queue_config);
155323bcd5ebSCédric Le Goater     spapr_register_hypercall(H_INT_GET_QUEUE_CONFIG, h_int_get_queue_config);
155423bcd5ebSCédric Le Goater     spapr_register_hypercall(H_INT_SET_OS_REPORTING_LINE,
155523bcd5ebSCédric Le Goater                              h_int_set_os_reporting_line);
155623bcd5ebSCédric Le Goater     spapr_register_hypercall(H_INT_GET_OS_REPORTING_LINE,
155723bcd5ebSCédric Le Goater                              h_int_get_os_reporting_line);
155823bcd5ebSCédric Le Goater     spapr_register_hypercall(H_INT_ESB, h_int_esb);
155923bcd5ebSCédric Le Goater     spapr_register_hypercall(H_INT_SYNC, h_int_sync);
156023bcd5ebSCédric Le Goater     spapr_register_hypercall(H_INT_RESET, h_int_reset);
156123bcd5ebSCédric Le Goater }
15626e21de4aSCédric Le Goater 
1563ce2918cbSDavid Gibson void spapr_dt_xive(SpaprMachineState *spapr, uint32_t nr_servers, void *fdt,
15646e21de4aSCédric Le Goater                    uint32_t phandle)
15656e21de4aSCédric Le Goater {
1566ce2918cbSDavid Gibson     SpaprXive *xive = spapr->xive;
15676e21de4aSCédric Le Goater     int node;
15686e21de4aSCédric Le Goater     uint64_t timas[2 * 2];
15696e21de4aSCédric Le Goater     /* Interrupt number ranges for the IPIs */
15706e21de4aSCédric Le Goater     uint32_t lisn_ranges[] = {
15716e21de4aSCédric Le Goater         cpu_to_be32(0),
15726e21de4aSCédric Le Goater         cpu_to_be32(nr_servers),
15736e21de4aSCédric Le Goater     };
15746e21de4aSCédric Le Goater     /*
15756e21de4aSCédric Le Goater      * EQ size - the sizes of pages supported by the system 4K, 64K,
15766e21de4aSCédric Le Goater      * 2M, 16M. We only advertise 64K for the moment.
15776e21de4aSCédric Le Goater      */
15786e21de4aSCédric Le Goater     uint32_t eq_sizes[] = {
15796e21de4aSCédric Le Goater         cpu_to_be32(16), /* 64K */
15806e21de4aSCédric Le Goater     };
15816e21de4aSCédric Le Goater     /*
15826e21de4aSCédric Le Goater      * The following array is in sync with the reserved priorities
15836e21de4aSCédric Le Goater      * defined by the 'spapr_xive_priority_is_reserved' routine.
15846e21de4aSCédric Le Goater      */
15856e21de4aSCédric Le Goater     uint32_t plat_res_int_priorities[] = {
15866e21de4aSCédric Le Goater         cpu_to_be32(7),    /* start */
15876e21de4aSCédric Le Goater         cpu_to_be32(0xf8), /* count */
15886e21de4aSCédric Le Goater     };
15896e21de4aSCédric Le Goater 
15906e21de4aSCédric Le Goater     /* Thread Interrupt Management Area : User (ring 3) and OS (ring 2) */
15916e21de4aSCédric Le Goater     timas[0] = cpu_to_be64(xive->tm_base +
15926e21de4aSCédric Le Goater                            XIVE_TM_USER_PAGE * (1ull << TM_SHIFT));
15936e21de4aSCédric Le Goater     timas[1] = cpu_to_be64(1ull << TM_SHIFT);
15946e21de4aSCédric Le Goater     timas[2] = cpu_to_be64(xive->tm_base +
15956e21de4aSCédric Le Goater                            XIVE_TM_OS_PAGE * (1ull << TM_SHIFT));
15966e21de4aSCédric Le Goater     timas[3] = cpu_to_be64(1ull << TM_SHIFT);
15976e21de4aSCédric Le Goater 
1598743ed566SGreg Kurz     _FDT(node = fdt_add_subnode(fdt, 0, xive->nodename));
15996e21de4aSCédric Le Goater 
16006e21de4aSCédric Le Goater     _FDT(fdt_setprop_string(fdt, node, "device_type", "power-ivpe"));
16016e21de4aSCédric Le Goater     _FDT(fdt_setprop(fdt, node, "reg", timas, sizeof(timas)));
16026e21de4aSCédric Le Goater 
16036e21de4aSCédric Le Goater     _FDT(fdt_setprop_string(fdt, node, "compatible", "ibm,power-ivpe"));
16046e21de4aSCédric Le Goater     _FDT(fdt_setprop(fdt, node, "ibm,xive-eq-sizes", eq_sizes,
16056e21de4aSCédric Le Goater                      sizeof(eq_sizes)));
16066e21de4aSCédric Le Goater     _FDT(fdt_setprop(fdt, node, "ibm,xive-lisn-ranges", lisn_ranges,
16076e21de4aSCédric Le Goater                      sizeof(lisn_ranges)));
16086e21de4aSCédric Le Goater 
16096e21de4aSCédric Le Goater     /* For Linux to link the LSIs to the interrupt controller. */
16106e21de4aSCédric Le Goater     _FDT(fdt_setprop(fdt, node, "interrupt-controller", NULL, 0));
16116e21de4aSCédric Le Goater     _FDT(fdt_setprop_cell(fdt, node, "#interrupt-cells", 2));
16126e21de4aSCédric Le Goater 
16136e21de4aSCédric Le Goater     /* For SLOF */
16146e21de4aSCédric Le Goater     _FDT(fdt_setprop_cell(fdt, node, "linux,phandle", phandle));
16156e21de4aSCédric Le Goater     _FDT(fdt_setprop_cell(fdt, node, "phandle", phandle));
16166e21de4aSCédric Le Goater 
16176e21de4aSCédric Le Goater     /*
16186e21de4aSCédric Le Goater      * The "ibm,plat-res-int-priorities" property defines the priority
16196e21de4aSCédric Le Goater      * ranges reserved by the hypervisor
16206e21de4aSCédric Le Goater      */
16216e21de4aSCédric Le Goater     _FDT(fdt_setprop(fdt, 0, "ibm,plat-res-int-priorities",
16226e21de4aSCédric Le Goater                      plat_res_int_priorities, sizeof(plat_res_int_priorities)));
16236e21de4aSCédric Le Goater }
1624