13aa597f6SCédric Le Goater /* 23aa597f6SCédric Le Goater * QEMU PowerPC sPAPR XIVE interrupt controller model 33aa597f6SCédric Le Goater * 43aa597f6SCédric Le Goater * Copyright (c) 2017-2018, IBM Corporation. 53aa597f6SCédric Le Goater * 63aa597f6SCédric Le Goater * This code is licensed under the GPL version 2 or later. See the 73aa597f6SCédric Le Goater * COPYING file in the top-level directory. 83aa597f6SCédric Le Goater */ 93aa597f6SCédric Le Goater 103aa597f6SCédric Le Goater #include "qemu/osdep.h" 113aa597f6SCédric Le Goater #include "qemu/log.h" 12*0b8fa32fSMarkus Armbruster #include "qemu/module.h" 133aa597f6SCédric Le Goater #include "qapi/error.h" 143aa597f6SCédric Le Goater #include "qemu/error-report.h" 153aa597f6SCédric Le Goater #include "target/ppc/cpu.h" 163aa597f6SCédric Le Goater #include "sysemu/cpus.h" 173aa597f6SCédric Le Goater #include "monitor/monitor.h" 186e21de4aSCédric Le Goater #include "hw/ppc/fdt.h" 193aa597f6SCédric Le Goater #include "hw/ppc/spapr.h" 20a28b9a5aSCédric Le Goater #include "hw/ppc/spapr_cpu_core.h" 213aa597f6SCédric Le Goater #include "hw/ppc/spapr_xive.h" 223aa597f6SCédric Le Goater #include "hw/ppc/xive.h" 233aa597f6SCédric Le Goater #include "hw/ppc/xive_regs.h" 243aa597f6SCédric Le Goater 253aa597f6SCédric Le Goater /* 263aa597f6SCédric Le Goater * XIVE Virtualization Controller BAR and Thread Managment BAR that we 273aa597f6SCédric Le Goater * use for the ESB pages and the TIMA pages 283aa597f6SCédric Le Goater */ 293aa597f6SCédric Le Goater #define SPAPR_XIVE_VC_BASE 0x0006010000000000ull 303aa597f6SCédric Le Goater #define SPAPR_XIVE_TM_BASE 0x0006030203180000ull 313aa597f6SCédric Le Goater 323aa597f6SCédric Le Goater /* 330cddee8dSCédric Le Goater * The allocation of VP blocks is a complex operation in OPAL and the 340cddee8dSCédric Le Goater * VP identifiers have a relation with the number of HW chips, the 350cddee8dSCédric Le Goater * size of the VP blocks, VP grouping, etc. The QEMU sPAPR XIVE 360cddee8dSCédric Le Goater * controller model does not have the same constraints and can use a 370cddee8dSCédric Le Goater * simple mapping scheme of the CPU vcpu_id 380cddee8dSCédric Le Goater * 390cddee8dSCédric Le Goater * These identifiers are never returned to the OS. 400cddee8dSCédric Le Goater */ 410cddee8dSCédric Le Goater 420cddee8dSCédric Le Goater #define SPAPR_XIVE_NVT_BASE 0x400 430cddee8dSCédric Le Goater 440cddee8dSCédric Le Goater /* 450cddee8dSCédric Le Goater * sPAPR NVT and END indexing helpers 460cddee8dSCédric Le Goater */ 470cddee8dSCédric Le Goater static uint32_t spapr_xive_nvt_to_target(uint8_t nvt_blk, uint32_t nvt_idx) 480cddee8dSCédric Le Goater { 490cddee8dSCédric Le Goater return nvt_idx - SPAPR_XIVE_NVT_BASE; 500cddee8dSCédric Le Goater } 510cddee8dSCédric Le Goater 5223bcd5ebSCédric Le Goater static void spapr_xive_cpu_to_nvt(PowerPCCPU *cpu, 5323bcd5ebSCédric Le Goater uint8_t *out_nvt_blk, uint32_t *out_nvt_idx) 5423bcd5ebSCédric Le Goater { 5523bcd5ebSCédric Le Goater assert(cpu); 5623bcd5ebSCédric Le Goater 5723bcd5ebSCédric Le Goater if (out_nvt_blk) { 5823bcd5ebSCédric Le Goater *out_nvt_blk = SPAPR_XIVE_BLOCK_ID; 5923bcd5ebSCédric Le Goater } 6023bcd5ebSCédric Le Goater 6123bcd5ebSCédric Le Goater if (out_nvt_blk) { 6223bcd5ebSCédric Le Goater *out_nvt_idx = SPAPR_XIVE_NVT_BASE + cpu->vcpu_id; 6323bcd5ebSCédric Le Goater } 6423bcd5ebSCédric Le Goater } 6523bcd5ebSCédric Le Goater 6623bcd5ebSCédric Le Goater static int spapr_xive_target_to_nvt(uint32_t target, 6723bcd5ebSCédric Le Goater uint8_t *out_nvt_blk, uint32_t *out_nvt_idx) 6823bcd5ebSCédric Le Goater { 6923bcd5ebSCédric Le Goater PowerPCCPU *cpu = spapr_find_cpu(target); 7023bcd5ebSCédric Le Goater 7123bcd5ebSCédric Le Goater if (!cpu) { 7223bcd5ebSCédric Le Goater return -1; 7323bcd5ebSCédric Le Goater } 7423bcd5ebSCédric Le Goater 7523bcd5ebSCédric Le Goater spapr_xive_cpu_to_nvt(cpu, out_nvt_blk, out_nvt_idx); 7623bcd5ebSCédric Le Goater return 0; 7723bcd5ebSCédric Le Goater } 7823bcd5ebSCédric Le Goater 7923bcd5ebSCédric Le Goater /* 8023bcd5ebSCédric Le Goater * sPAPR END indexing uses a simple mapping of the CPU vcpu_id, 8 8123bcd5ebSCédric Le Goater * priorities per CPU 8223bcd5ebSCédric Le Goater */ 830c575703SCédric Le Goater int spapr_xive_end_to_target(uint8_t end_blk, uint32_t end_idx, 840c575703SCédric Le Goater uint32_t *out_server, uint8_t *out_prio) 850c575703SCédric Le Goater { 860c575703SCédric Le Goater 870c575703SCédric Le Goater assert(end_blk == SPAPR_XIVE_BLOCK_ID); 880c575703SCédric Le Goater 890c575703SCédric Le Goater if (out_server) { 900c575703SCédric Le Goater *out_server = end_idx >> 3; 910c575703SCédric Le Goater } 920c575703SCédric Le Goater 930c575703SCédric Le Goater if (out_prio) { 940c575703SCédric Le Goater *out_prio = end_idx & 0x7; 950c575703SCédric Le Goater } 960c575703SCédric Le Goater return 0; 970c575703SCédric Le Goater } 980c575703SCédric Le Goater 9923bcd5ebSCédric Le Goater static void spapr_xive_cpu_to_end(PowerPCCPU *cpu, uint8_t prio, 10023bcd5ebSCédric Le Goater uint8_t *out_end_blk, uint32_t *out_end_idx) 10123bcd5ebSCédric Le Goater { 10223bcd5ebSCédric Le Goater assert(cpu); 10323bcd5ebSCédric Le Goater 10423bcd5ebSCédric Le Goater if (out_end_blk) { 10523bcd5ebSCédric Le Goater *out_end_blk = SPAPR_XIVE_BLOCK_ID; 10623bcd5ebSCédric Le Goater } 10723bcd5ebSCédric Le Goater 10823bcd5ebSCédric Le Goater if (out_end_idx) { 10923bcd5ebSCédric Le Goater *out_end_idx = (cpu->vcpu_id << 3) + prio; 11023bcd5ebSCédric Le Goater } 11123bcd5ebSCédric Le Goater } 11223bcd5ebSCédric Le Goater 11323bcd5ebSCédric Le Goater static int spapr_xive_target_to_end(uint32_t target, uint8_t prio, 11423bcd5ebSCédric Le Goater uint8_t *out_end_blk, uint32_t *out_end_idx) 11523bcd5ebSCédric Le Goater { 11623bcd5ebSCédric Le Goater PowerPCCPU *cpu = spapr_find_cpu(target); 11723bcd5ebSCédric Le Goater 11823bcd5ebSCédric Le Goater if (!cpu) { 11923bcd5ebSCédric Le Goater return -1; 12023bcd5ebSCédric Le Goater } 12123bcd5ebSCédric Le Goater 12223bcd5ebSCédric Le Goater spapr_xive_cpu_to_end(cpu, prio, out_end_blk, out_end_idx); 12323bcd5ebSCédric Le Goater return 0; 12423bcd5ebSCédric Le Goater } 12523bcd5ebSCédric Le Goater 1260cddee8dSCédric Le Goater /* 1273aa597f6SCédric Le Goater * On sPAPR machines, use a simplified output for the XIVE END 1283aa597f6SCédric Le Goater * structure dumping only the information related to the OS EQ. 1293aa597f6SCédric Le Goater */ 130ce2918cbSDavid Gibson static void spapr_xive_end_pic_print_info(SpaprXive *xive, XiveEND *end, 1313aa597f6SCédric Le Goater Monitor *mon) 1323aa597f6SCédric Le Goater { 133fb2e8b51SCédric Le Goater uint64_t qaddr_base = xive_end_qaddr(end); 1343aa597f6SCédric Le Goater uint32_t qindex = xive_get_field32(END_W1_PAGE_OFF, end->w1); 1353aa597f6SCédric Le Goater uint32_t qgen = xive_get_field32(END_W1_GENERATION, end->w1); 1363aa597f6SCédric Le Goater uint32_t qsize = xive_get_field32(END_W0_QSIZE, end->w0); 1373aa597f6SCédric Le Goater uint32_t qentries = 1 << (qsize + 10); 1383aa597f6SCédric Le Goater uint32_t nvt = xive_get_field32(END_W6_NVT_INDEX, end->w6); 1393aa597f6SCédric Le Goater uint8_t priority = xive_get_field32(END_W7_F0_PRIORITY, end->w7); 1403aa597f6SCédric Le Goater 141fb2e8b51SCédric Le Goater monitor_printf(mon, "%3d/%d % 6d/%5d @%"PRIx64" ^%d", 1420cddee8dSCédric Le Goater spapr_xive_nvt_to_target(0, nvt), 143fb2e8b51SCédric Le Goater priority, qindex, qentries, qaddr_base, qgen); 1443aa597f6SCédric Le Goater 1453aa597f6SCédric Le Goater xive_end_queue_pic_print_info(end, 6, mon); 1463aa597f6SCédric Le Goater monitor_printf(mon, "]"); 1473aa597f6SCédric Le Goater } 1483aa597f6SCédric Le Goater 149ce2918cbSDavid Gibson void spapr_xive_pic_print_info(SpaprXive *xive, Monitor *mon) 1503aa597f6SCédric Le Goater { 1513aa597f6SCédric Le Goater XiveSource *xsrc = &xive->source; 1523aa597f6SCédric Le Goater int i; 1533aa597f6SCédric Le Goater 1547bfc759cSCédric Le Goater if (kvm_irqchip_in_kernel()) { 1557bfc759cSCédric Le Goater Error *local_err = NULL; 1567bfc759cSCédric Le Goater 1577bfc759cSCédric Le Goater kvmppc_xive_synchronize_state(xive, &local_err); 1587bfc759cSCédric Le Goater if (local_err) { 1597bfc759cSCédric Le Goater error_report_err(local_err); 1607bfc759cSCédric Le Goater return; 1617bfc759cSCédric Le Goater } 1627bfc759cSCédric Le Goater } 1637bfc759cSCédric Le Goater 164f81d69fcSSatheesh Rajendran monitor_printf(mon, " LISN PQ EISN CPU/PRIO EQ\n"); 1653aa597f6SCédric Le Goater 1663aa597f6SCédric Le Goater for (i = 0; i < xive->nr_irqs; i++) { 1673aa597f6SCédric Le Goater uint8_t pq = xive_source_esb_get(xsrc, i); 1683aa597f6SCédric Le Goater XiveEAS *eas = &xive->eat[i]; 1693aa597f6SCédric Le Goater 1703aa597f6SCédric Le Goater if (!xive_eas_is_valid(eas)) { 1713aa597f6SCédric Le Goater continue; 1723aa597f6SCédric Le Goater } 1733aa597f6SCédric Le Goater 1743aa597f6SCédric Le Goater monitor_printf(mon, " %08x %s %c%c%c %s %08x ", i, 1753aa597f6SCédric Le Goater xive_source_irq_is_lsi(xsrc, i) ? "LSI" : "MSI", 1763aa597f6SCédric Le Goater pq & XIVE_ESB_VAL_P ? 'P' : '-', 1773aa597f6SCédric Le Goater pq & XIVE_ESB_VAL_Q ? 'Q' : '-', 1783aa597f6SCédric Le Goater xsrc->status[i] & XIVE_STATUS_ASSERTED ? 'A' : ' ', 1793aa597f6SCédric Le Goater xive_eas_is_masked(eas) ? "M" : " ", 1803aa597f6SCédric Le Goater (int) xive_get_field64(EAS_END_DATA, eas->w)); 1813aa597f6SCédric Le Goater 1823aa597f6SCédric Le Goater if (!xive_eas_is_masked(eas)) { 1833aa597f6SCédric Le Goater uint32_t end_idx = xive_get_field64(EAS_END_INDEX, eas->w); 1843aa597f6SCédric Le Goater XiveEND *end; 1853aa597f6SCédric Le Goater 1863aa597f6SCédric Le Goater assert(end_idx < xive->nr_ends); 1873aa597f6SCédric Le Goater end = &xive->endt[end_idx]; 1883aa597f6SCédric Le Goater 1893aa597f6SCédric Le Goater if (xive_end_is_valid(end)) { 1903aa597f6SCédric Le Goater spapr_xive_end_pic_print_info(xive, end, mon); 1913aa597f6SCédric Le Goater } 1923aa597f6SCédric Le Goater } 1933aa597f6SCédric Le Goater monitor_printf(mon, "\n"); 1943aa597f6SCédric Le Goater } 1953aa597f6SCédric Le Goater } 1963aa597f6SCédric Le Goater 19738afd772SCédric Le Goater void spapr_xive_map_mmio(SpaprXive *xive) 1983aa597f6SCédric Le Goater { 1993aa597f6SCédric Le Goater sysbus_mmio_map(SYS_BUS_DEVICE(xive), 0, xive->vc_base); 2003aa597f6SCédric Le Goater sysbus_mmio_map(SYS_BUS_DEVICE(xive), 1, xive->end_base); 2013aa597f6SCédric Le Goater sysbus_mmio_map(SYS_BUS_DEVICE(xive), 2, xive->tm_base); 2023aa597f6SCédric Le Goater } 2033aa597f6SCédric Le Goater 204ce2918cbSDavid Gibson void spapr_xive_mmio_set_enabled(SpaprXive *xive, bool enable) 2053a8eb78eSCédric Le Goater { 2063a8eb78eSCédric Le Goater memory_region_set_enabled(&xive->source.esb_mmio, enable); 2073a8eb78eSCédric Le Goater memory_region_set_enabled(&xive->tm_mmio, enable); 2083a8eb78eSCédric Le Goater 2093a8eb78eSCédric Le Goater /* Disable the END ESBs until a guest OS makes use of them */ 2103a8eb78eSCédric Le Goater memory_region_set_enabled(&xive->end_source.esb_mmio, false); 2113a8eb78eSCédric Le Goater } 2123a8eb78eSCédric Le Goater 213b2e22477SCédric Le Goater /* 214b2e22477SCédric Le Goater * When a Virtual Processor is scheduled to run on a HW thread, the 215b2e22477SCédric Le Goater * hypervisor pushes its identifier in the OS CAM line. Emulate the 216b2e22477SCédric Le Goater * same behavior under QEMU. 217b2e22477SCédric Le Goater */ 218b2e22477SCédric Le Goater void spapr_xive_set_tctx_os_cam(XiveTCTX *tctx) 219b2e22477SCédric Le Goater { 220b2e22477SCédric Le Goater uint8_t nvt_blk; 221b2e22477SCédric Le Goater uint32_t nvt_idx; 222b2e22477SCédric Le Goater uint32_t nvt_cam; 223b2e22477SCédric Le Goater 224b2e22477SCédric Le Goater spapr_xive_cpu_to_nvt(POWERPC_CPU(tctx->cs), &nvt_blk, &nvt_idx); 225b2e22477SCédric Le Goater 226b2e22477SCédric Le Goater nvt_cam = cpu_to_be32(TM_QW1W2_VO | xive_nvt_cam_line(nvt_blk, nvt_idx)); 227b2e22477SCédric Le Goater memcpy(&tctx->regs[TM_QW1_OS + TM_WORD2], &nvt_cam, 4); 228b2e22477SCédric Le Goater } 229b2e22477SCédric Le Goater 2303aa597f6SCédric Le Goater static void spapr_xive_end_reset(XiveEND *end) 2313aa597f6SCédric Le Goater { 2323aa597f6SCédric Le Goater memset(end, 0, sizeof(*end)); 2333aa597f6SCédric Le Goater 2343aa597f6SCédric Le Goater /* switch off the escalation and notification ESBs */ 2353aa597f6SCédric Le Goater end->w1 = cpu_to_be32(END_W1_ESe_Q | END_W1_ESn_Q); 2363aa597f6SCédric Le Goater } 2373aa597f6SCédric Le Goater 2383aa597f6SCédric Le Goater static void spapr_xive_reset(void *dev) 2393aa597f6SCédric Le Goater { 240ce2918cbSDavid Gibson SpaprXive *xive = SPAPR_XIVE(dev); 2413aa597f6SCédric Le Goater int i; 2423aa597f6SCédric Le Goater 2433aa597f6SCédric Le Goater /* 2443aa597f6SCédric Le Goater * The XiveSource has its own reset handler, which mask off all 2453aa597f6SCédric Le Goater * IRQs (!P|Q) 2463aa597f6SCédric Le Goater */ 2473aa597f6SCédric Le Goater 2483aa597f6SCédric Le Goater /* Mask all valid EASs in the IRQ number space. */ 2493aa597f6SCédric Le Goater for (i = 0; i < xive->nr_irqs; i++) { 2503aa597f6SCédric Le Goater XiveEAS *eas = &xive->eat[i]; 2513aa597f6SCédric Le Goater if (xive_eas_is_valid(eas)) { 2523aa597f6SCédric Le Goater eas->w = cpu_to_be64(EAS_VALID | EAS_MASKED); 2533aa597f6SCédric Le Goater } else { 2543aa597f6SCédric Le Goater eas->w = 0; 2553aa597f6SCédric Le Goater } 2563aa597f6SCédric Le Goater } 2573aa597f6SCédric Le Goater 2583aa597f6SCédric Le Goater /* Clear all ENDs */ 2593aa597f6SCédric Le Goater for (i = 0; i < xive->nr_ends; i++) { 2603aa597f6SCédric Le Goater spapr_xive_end_reset(&xive->endt[i]); 2613aa597f6SCédric Le Goater } 2623aa597f6SCédric Le Goater } 2633aa597f6SCédric Le Goater 2643aa597f6SCédric Le Goater static void spapr_xive_instance_init(Object *obj) 2653aa597f6SCédric Le Goater { 266ce2918cbSDavid Gibson SpaprXive *xive = SPAPR_XIVE(obj); 2673aa597f6SCédric Le Goater 268f6d4dca8SThomas Huth object_initialize_child(obj, "source", &xive->source, sizeof(xive->source), 269f6d4dca8SThomas Huth TYPE_XIVE_SOURCE, &error_abort, NULL); 2703aa597f6SCédric Le Goater 271f6d4dca8SThomas Huth object_initialize_child(obj, "end_source", &xive->end_source, 272f6d4dca8SThomas Huth sizeof(xive->end_source), TYPE_XIVE_END_SOURCE, 273f6d4dca8SThomas Huth &error_abort, NULL); 27438afd772SCédric Le Goater 27538afd772SCédric Le Goater /* Not connected to the KVM XIVE device */ 27638afd772SCédric Le Goater xive->fd = -1; 2773aa597f6SCédric Le Goater } 2783aa597f6SCédric Le Goater 2793aa597f6SCédric Le Goater static void spapr_xive_realize(DeviceState *dev, Error **errp) 2803aa597f6SCédric Le Goater { 281ce2918cbSDavid Gibson SpaprXive *xive = SPAPR_XIVE(dev); 2823aa597f6SCédric Le Goater XiveSource *xsrc = &xive->source; 2833aa597f6SCédric Le Goater XiveENDSource *end_xsrc = &xive->end_source; 2843aa597f6SCédric Le Goater Error *local_err = NULL; 2853aa597f6SCédric Le Goater 2863aa597f6SCédric Le Goater if (!xive->nr_irqs) { 2873aa597f6SCédric Le Goater error_setg(errp, "Number of interrupt needs to be greater 0"); 2883aa597f6SCédric Le Goater return; 2893aa597f6SCédric Le Goater } 2903aa597f6SCédric Le Goater 2913aa597f6SCédric Le Goater if (!xive->nr_ends) { 2923aa597f6SCédric Le Goater error_setg(errp, "Number of interrupt needs to be greater 0"); 2933aa597f6SCédric Le Goater return; 2943aa597f6SCédric Le Goater } 2953aa597f6SCédric Le Goater 2963aa597f6SCédric Le Goater /* 2973aa597f6SCédric Le Goater * Initialize the internal sources, for IPIs and virtual devices. 2983aa597f6SCédric Le Goater */ 2993aa597f6SCédric Le Goater object_property_set_int(OBJECT(xsrc), xive->nr_irqs, "nr-irqs", 3003aa597f6SCédric Le Goater &error_fatal); 3013aa597f6SCédric Le Goater object_property_add_const_link(OBJECT(xsrc), "xive", OBJECT(xive), 3023aa597f6SCédric Le Goater &error_fatal); 3033aa597f6SCédric Le Goater object_property_set_bool(OBJECT(xsrc), true, "realized", &local_err); 3043aa597f6SCédric Le Goater if (local_err) { 3053aa597f6SCédric Le Goater error_propagate(errp, local_err); 3063aa597f6SCédric Le Goater return; 3073aa597f6SCédric Le Goater } 3083aa597f6SCédric Le Goater 3093aa597f6SCédric Le Goater /* 3103aa597f6SCédric Le Goater * Initialize the END ESB source 3113aa597f6SCédric Le Goater */ 3123aa597f6SCédric Le Goater object_property_set_int(OBJECT(end_xsrc), xive->nr_irqs, "nr-ends", 3133aa597f6SCédric Le Goater &error_fatal); 3143aa597f6SCédric Le Goater object_property_add_const_link(OBJECT(end_xsrc), "xive", OBJECT(xive), 3153aa597f6SCédric Le Goater &error_fatal); 3163aa597f6SCédric Le Goater object_property_set_bool(OBJECT(end_xsrc), true, "realized", &local_err); 3173aa597f6SCédric Le Goater if (local_err) { 3183aa597f6SCédric Le Goater error_propagate(errp, local_err); 3193aa597f6SCédric Le Goater return; 3203aa597f6SCédric Le Goater } 3213aa597f6SCédric Le Goater 3223aa597f6SCédric Le Goater /* Set the mapping address of the END ESB pages after the source ESBs */ 3233aa597f6SCédric Le Goater xive->end_base = xive->vc_base + (1ull << xsrc->esb_shift) * xsrc->nr_irqs; 3243aa597f6SCédric Le Goater 3253aa597f6SCédric Le Goater /* 3263aa597f6SCédric Le Goater * Allocate the routing tables 3273aa597f6SCédric Le Goater */ 3283aa597f6SCédric Le Goater xive->eat = g_new0(XiveEAS, xive->nr_irqs); 3293aa597f6SCédric Le Goater xive->endt = g_new0(XiveEND, xive->nr_ends); 3303aa597f6SCédric Le Goater 33138afd772SCédric Le Goater xive->nodename = g_strdup_printf("interrupt-controller@%" PRIx64, 33238afd772SCédric Le Goater xive->tm_base + XIVE_TM_USER_PAGE * (1 << TM_SHIFT)); 33338afd772SCédric Le Goater 33438afd772SCédric Le Goater qemu_register_reset(spapr_xive_reset, dev); 335cdd71c8eSCédric Le Goater 336cdd71c8eSCédric Le Goater /* Define all XIVE MMIO regions on SysBus */ 337cdd71c8eSCédric Le Goater sysbus_init_mmio(SYS_BUS_DEVICE(xive), &xsrc->esb_mmio); 338cdd71c8eSCédric Le Goater sysbus_init_mmio(SYS_BUS_DEVICE(xive), &end_xsrc->esb_mmio); 339cdd71c8eSCédric Le Goater sysbus_init_mmio(SYS_BUS_DEVICE(xive), &xive->tm_mmio); 34038afd772SCédric Le Goater } 34138afd772SCédric Le Goater 342ae805ea9SCédric Le Goater void spapr_xive_init(SpaprXive *xive, Error **errp) 343ae805ea9SCédric Le Goater { 344ae805ea9SCédric Le Goater XiveSource *xsrc = &xive->source; 34538afd772SCédric Le Goater 346cf435df6SCédric Le Goater /* 347cf435df6SCédric Le Goater * The emulated XIVE device can only be initialized once. If the 348cf435df6SCédric Le Goater * ESB memory region has been already mapped, it means we have been 349cf435df6SCédric Le Goater * through there. 350cf435df6SCédric Le Goater */ 351cf435df6SCédric Le Goater if (memory_region_is_mapped(&xsrc->esb_mmio)) { 352cf435df6SCédric Le Goater return; 353cf435df6SCédric Le Goater } 354cf435df6SCédric Le Goater 3553aa597f6SCédric Le Goater /* TIMA initialization */ 3563aa597f6SCédric Le Goater memory_region_init_io(&xive->tm_mmio, OBJECT(xive), &xive_tm_ops, xive, 3573aa597f6SCédric Le Goater "xive.tima", 4ull << TM_SHIFT); 3583aa597f6SCédric Le Goater 3593aa597f6SCédric Le Goater /* Map all regions */ 3603aa597f6SCédric Le Goater spapr_xive_map_mmio(xive); 3613aa597f6SCédric Le Goater } 3623aa597f6SCédric Le Goater 3633aa597f6SCédric Le Goater static int spapr_xive_get_eas(XiveRouter *xrtr, uint8_t eas_blk, 3643aa597f6SCédric Le Goater uint32_t eas_idx, XiveEAS *eas) 3653aa597f6SCédric Le Goater { 366ce2918cbSDavid Gibson SpaprXive *xive = SPAPR_XIVE(xrtr); 3673aa597f6SCédric Le Goater 3683aa597f6SCédric Le Goater if (eas_idx >= xive->nr_irqs) { 3693aa597f6SCédric Le Goater return -1; 3703aa597f6SCédric Le Goater } 3713aa597f6SCédric Le Goater 3723aa597f6SCédric Le Goater *eas = xive->eat[eas_idx]; 3733aa597f6SCédric Le Goater return 0; 3743aa597f6SCédric Le Goater } 3753aa597f6SCédric Le Goater 3763aa597f6SCédric Le Goater static int spapr_xive_get_end(XiveRouter *xrtr, 3773aa597f6SCédric Le Goater uint8_t end_blk, uint32_t end_idx, XiveEND *end) 3783aa597f6SCédric Le Goater { 379ce2918cbSDavid Gibson SpaprXive *xive = SPAPR_XIVE(xrtr); 3803aa597f6SCédric Le Goater 3813aa597f6SCédric Le Goater if (end_idx >= xive->nr_ends) { 3823aa597f6SCédric Le Goater return -1; 3833aa597f6SCédric Le Goater } 3843aa597f6SCédric Le Goater 3853aa597f6SCédric Le Goater memcpy(end, &xive->endt[end_idx], sizeof(XiveEND)); 3863aa597f6SCédric Le Goater return 0; 3873aa597f6SCédric Le Goater } 3883aa597f6SCédric Le Goater 3893aa597f6SCédric Le Goater static int spapr_xive_write_end(XiveRouter *xrtr, uint8_t end_blk, 3903aa597f6SCédric Le Goater uint32_t end_idx, XiveEND *end, 3913aa597f6SCédric Le Goater uint8_t word_number) 3923aa597f6SCédric Le Goater { 393ce2918cbSDavid Gibson SpaprXive *xive = SPAPR_XIVE(xrtr); 3943aa597f6SCédric Le Goater 3953aa597f6SCédric Le Goater if (end_idx >= xive->nr_ends) { 3963aa597f6SCédric Le Goater return -1; 3973aa597f6SCédric Le Goater } 3983aa597f6SCédric Le Goater 3993aa597f6SCédric Le Goater memcpy(&xive->endt[end_idx], end, sizeof(XiveEND)); 4003aa597f6SCédric Le Goater return 0; 4013aa597f6SCédric Le Goater } 4023aa597f6SCédric Le Goater 4030cddee8dSCédric Le Goater static int spapr_xive_get_nvt(XiveRouter *xrtr, 4040cddee8dSCédric Le Goater uint8_t nvt_blk, uint32_t nvt_idx, XiveNVT *nvt) 4050cddee8dSCédric Le Goater { 4060cddee8dSCédric Le Goater uint32_t vcpu_id = spapr_xive_nvt_to_target(nvt_blk, nvt_idx); 4070cddee8dSCédric Le Goater PowerPCCPU *cpu = spapr_find_cpu(vcpu_id); 4080cddee8dSCédric Le Goater 4090cddee8dSCédric Le Goater if (!cpu) { 4100cddee8dSCédric Le Goater /* TODO: should we assert() if we can find a NVT ? */ 4110cddee8dSCédric Le Goater return -1; 4120cddee8dSCédric Le Goater } 4130cddee8dSCédric Le Goater 4140cddee8dSCédric Le Goater /* 4150cddee8dSCédric Le Goater * sPAPR does not maintain a NVT table. Return that the NVT is 4160cddee8dSCédric Le Goater * valid if we have found a matching CPU 4170cddee8dSCédric Le Goater */ 4180cddee8dSCédric Le Goater nvt->w0 = cpu_to_be32(NVT_W0_VALID); 4190cddee8dSCédric Le Goater return 0; 4200cddee8dSCédric Le Goater } 4210cddee8dSCédric Le Goater 4220cddee8dSCédric Le Goater static int spapr_xive_write_nvt(XiveRouter *xrtr, uint8_t nvt_blk, 4230cddee8dSCédric Le Goater uint32_t nvt_idx, XiveNVT *nvt, 4240cddee8dSCédric Le Goater uint8_t word_number) 4250cddee8dSCédric Le Goater { 4260cddee8dSCédric Le Goater /* 4270cddee8dSCédric Le Goater * We don't need to write back to the NVTs because the sPAPR 4280cddee8dSCédric Le Goater * machine should never hit a non-scheduled NVT. It should never 4290cddee8dSCédric Le Goater * get called. 4300cddee8dSCédric Le Goater */ 4310cddee8dSCédric Le Goater g_assert_not_reached(); 4320cddee8dSCédric Le Goater } 4330cddee8dSCédric Le Goater 43440a5056cSCédric Le Goater static XiveTCTX *spapr_xive_get_tctx(XiveRouter *xrtr, CPUState *cs) 43540a5056cSCédric Le Goater { 43640a5056cSCédric Le Goater PowerPCCPU *cpu = POWERPC_CPU(cs); 43740a5056cSCédric Le Goater 438a28b9a5aSCédric Le Goater return spapr_cpu_state(cpu)->tctx; 43940a5056cSCédric Le Goater } 44040a5056cSCédric Le Goater 4413aa597f6SCédric Le Goater static const VMStateDescription vmstate_spapr_xive_end = { 4423aa597f6SCédric Le Goater .name = TYPE_SPAPR_XIVE "/end", 4433aa597f6SCédric Le Goater .version_id = 1, 4443aa597f6SCédric Le Goater .minimum_version_id = 1, 4453aa597f6SCédric Le Goater .fields = (VMStateField []) { 4463aa597f6SCédric Le Goater VMSTATE_UINT32(w0, XiveEND), 4473aa597f6SCédric Le Goater VMSTATE_UINT32(w1, XiveEND), 4483aa597f6SCédric Le Goater VMSTATE_UINT32(w2, XiveEND), 4493aa597f6SCédric Le Goater VMSTATE_UINT32(w3, XiveEND), 4503aa597f6SCédric Le Goater VMSTATE_UINT32(w4, XiveEND), 4513aa597f6SCédric Le Goater VMSTATE_UINT32(w5, XiveEND), 4523aa597f6SCédric Le Goater VMSTATE_UINT32(w6, XiveEND), 4533aa597f6SCédric Le Goater VMSTATE_UINT32(w7, XiveEND), 4543aa597f6SCédric Le Goater VMSTATE_END_OF_LIST() 4553aa597f6SCédric Le Goater }, 4563aa597f6SCédric Le Goater }; 4573aa597f6SCédric Le Goater 4583aa597f6SCédric Le Goater static const VMStateDescription vmstate_spapr_xive_eas = { 4593aa597f6SCédric Le Goater .name = TYPE_SPAPR_XIVE "/eas", 4603aa597f6SCédric Le Goater .version_id = 1, 4613aa597f6SCédric Le Goater .minimum_version_id = 1, 4623aa597f6SCédric Le Goater .fields = (VMStateField []) { 4633aa597f6SCédric Le Goater VMSTATE_UINT64(w, XiveEAS), 4643aa597f6SCédric Le Goater VMSTATE_END_OF_LIST() 4653aa597f6SCédric Le Goater }, 4663aa597f6SCédric Le Goater }; 4673aa597f6SCédric Le Goater 468277dd3d7SCédric Le Goater static int vmstate_spapr_xive_pre_save(void *opaque) 469277dd3d7SCédric Le Goater { 470277dd3d7SCédric Le Goater if (kvm_irqchip_in_kernel()) { 471277dd3d7SCédric Le Goater return kvmppc_xive_pre_save(SPAPR_XIVE(opaque)); 472277dd3d7SCédric Le Goater } 473277dd3d7SCédric Le Goater 474277dd3d7SCédric Le Goater return 0; 475277dd3d7SCédric Le Goater } 476277dd3d7SCédric Le Goater 477277dd3d7SCédric Le Goater /* 478277dd3d7SCédric Le Goater * Called by the sPAPR IRQ backend 'post_load' method at the machine 479277dd3d7SCédric Le Goater * level. 480277dd3d7SCédric Le Goater */ 481277dd3d7SCédric Le Goater int spapr_xive_post_load(SpaprXive *xive, int version_id) 482277dd3d7SCédric Le Goater { 483277dd3d7SCédric Le Goater if (kvm_irqchip_in_kernel()) { 484277dd3d7SCédric Le Goater return kvmppc_xive_post_load(xive, version_id); 485277dd3d7SCédric Le Goater } 486277dd3d7SCédric Le Goater 487277dd3d7SCédric Le Goater return 0; 488277dd3d7SCédric Le Goater } 489277dd3d7SCédric Le Goater 4903aa597f6SCédric Le Goater static const VMStateDescription vmstate_spapr_xive = { 4913aa597f6SCédric Le Goater .name = TYPE_SPAPR_XIVE, 4923aa597f6SCédric Le Goater .version_id = 1, 4933aa597f6SCédric Le Goater .minimum_version_id = 1, 494277dd3d7SCédric Le Goater .pre_save = vmstate_spapr_xive_pre_save, 495277dd3d7SCédric Le Goater .post_load = NULL, /* handled at the machine level */ 4963aa597f6SCédric Le Goater .fields = (VMStateField[]) { 497ce2918cbSDavid Gibson VMSTATE_UINT32_EQUAL(nr_irqs, SpaprXive, NULL), 498ce2918cbSDavid Gibson VMSTATE_STRUCT_VARRAY_POINTER_UINT32(eat, SpaprXive, nr_irqs, 4993aa597f6SCédric Le Goater vmstate_spapr_xive_eas, XiveEAS), 500ce2918cbSDavid Gibson VMSTATE_STRUCT_VARRAY_POINTER_UINT32(endt, SpaprXive, nr_ends, 5013aa597f6SCédric Le Goater vmstate_spapr_xive_end, XiveEND), 5023aa597f6SCédric Le Goater VMSTATE_END_OF_LIST() 5033aa597f6SCédric Le Goater }, 5043aa597f6SCédric Le Goater }; 5053aa597f6SCédric Le Goater 5063aa597f6SCédric Le Goater static Property spapr_xive_properties[] = { 507ce2918cbSDavid Gibson DEFINE_PROP_UINT32("nr-irqs", SpaprXive, nr_irqs, 0), 508ce2918cbSDavid Gibson DEFINE_PROP_UINT32("nr-ends", SpaprXive, nr_ends, 0), 509ce2918cbSDavid Gibson DEFINE_PROP_UINT64("vc-base", SpaprXive, vc_base, SPAPR_XIVE_VC_BASE), 510ce2918cbSDavid Gibson DEFINE_PROP_UINT64("tm-base", SpaprXive, tm_base, SPAPR_XIVE_TM_BASE), 5113aa597f6SCédric Le Goater DEFINE_PROP_END_OF_LIST(), 5123aa597f6SCédric Le Goater }; 5133aa597f6SCédric Le Goater 5143aa597f6SCédric Le Goater static void spapr_xive_class_init(ObjectClass *klass, void *data) 5153aa597f6SCédric Le Goater { 5163aa597f6SCédric Le Goater DeviceClass *dc = DEVICE_CLASS(klass); 5173aa597f6SCédric Le Goater XiveRouterClass *xrc = XIVE_ROUTER_CLASS(klass); 5183aa597f6SCédric Le Goater 5193aa597f6SCédric Le Goater dc->desc = "sPAPR XIVE Interrupt Controller"; 5203aa597f6SCédric Le Goater dc->props = spapr_xive_properties; 5213aa597f6SCédric Le Goater dc->realize = spapr_xive_realize; 5223aa597f6SCédric Le Goater dc->vmsd = &vmstate_spapr_xive; 5233aa597f6SCédric Le Goater 5243aa597f6SCédric Le Goater xrc->get_eas = spapr_xive_get_eas; 5253aa597f6SCédric Le Goater xrc->get_end = spapr_xive_get_end; 5263aa597f6SCédric Le Goater xrc->write_end = spapr_xive_write_end; 5270cddee8dSCédric Le Goater xrc->get_nvt = spapr_xive_get_nvt; 5280cddee8dSCédric Le Goater xrc->write_nvt = spapr_xive_write_nvt; 52940a5056cSCédric Le Goater xrc->get_tctx = spapr_xive_get_tctx; 5303aa597f6SCédric Le Goater } 5313aa597f6SCédric Le Goater 5323aa597f6SCédric Le Goater static const TypeInfo spapr_xive_info = { 5333aa597f6SCédric Le Goater .name = TYPE_SPAPR_XIVE, 5343aa597f6SCédric Le Goater .parent = TYPE_XIVE_ROUTER, 5353aa597f6SCédric Le Goater .instance_init = spapr_xive_instance_init, 536ce2918cbSDavid Gibson .instance_size = sizeof(SpaprXive), 5373aa597f6SCédric Le Goater .class_init = spapr_xive_class_init, 5383aa597f6SCédric Le Goater }; 5393aa597f6SCédric Le Goater 5403aa597f6SCédric Le Goater static void spapr_xive_register_types(void) 5413aa597f6SCédric Le Goater { 5423aa597f6SCédric Le Goater type_register_static(&spapr_xive_info); 5433aa597f6SCédric Le Goater } 5443aa597f6SCédric Le Goater 5453aa597f6SCédric Le Goater type_init(spapr_xive_register_types) 5463aa597f6SCédric Le Goater 547ce2918cbSDavid Gibson bool spapr_xive_irq_claim(SpaprXive *xive, uint32_t lisn, bool lsi) 5483aa597f6SCédric Le Goater { 5493aa597f6SCédric Le Goater XiveSource *xsrc = &xive->source; 5503aa597f6SCédric Le Goater 5513aa597f6SCédric Le Goater if (lisn >= xive->nr_irqs) { 5523aa597f6SCédric Le Goater return false; 5533aa597f6SCédric Le Goater } 5543aa597f6SCédric Le Goater 5553aa597f6SCédric Le Goater xive->eat[lisn].w |= cpu_to_be64(EAS_VALID); 5560afed8c8SGreg Kurz if (lsi) { 5570afed8c8SGreg Kurz xive_source_irq_set_lsi(xsrc, lisn); 5580afed8c8SGreg Kurz } 55938afd772SCédric Le Goater 56038afd772SCédric Le Goater if (kvm_irqchip_in_kernel()) { 56138afd772SCédric Le Goater Error *local_err = NULL; 56238afd772SCédric Le Goater 56338afd772SCédric Le Goater kvmppc_xive_source_reset_one(xsrc, lisn, &local_err); 56438afd772SCédric Le Goater if (local_err) { 56538afd772SCédric Le Goater error_report_err(local_err); 56638afd772SCédric Le Goater return false; 56738afd772SCédric Le Goater } 56838afd772SCédric Le Goater } 56938afd772SCédric Le Goater 5703aa597f6SCédric Le Goater return true; 5713aa597f6SCédric Le Goater } 5723aa597f6SCédric Le Goater 573ce2918cbSDavid Gibson bool spapr_xive_irq_free(SpaprXive *xive, uint32_t lisn) 5743aa597f6SCédric Le Goater { 5753aa597f6SCédric Le Goater if (lisn >= xive->nr_irqs) { 5763aa597f6SCédric Le Goater return false; 5773aa597f6SCédric Le Goater } 5783aa597f6SCédric Le Goater 5793aa597f6SCédric Le Goater xive->eat[lisn].w &= cpu_to_be64(~EAS_VALID); 5803aa597f6SCédric Le Goater return true; 5813aa597f6SCédric Le Goater } 5823aa597f6SCédric Le Goater 58323bcd5ebSCédric Le Goater /* 58423bcd5ebSCédric Le Goater * XIVE hcalls 58523bcd5ebSCédric Le Goater * 58623bcd5ebSCédric Le Goater * The terminology used by the XIVE hcalls is the following : 58723bcd5ebSCédric Le Goater * 58823bcd5ebSCédric Le Goater * TARGET vCPU number 58923bcd5ebSCédric Le Goater * EQ Event Queue assigned by OS to receive event data 59023bcd5ebSCédric Le Goater * ESB page for source interrupt management 59123bcd5ebSCédric Le Goater * LISN Logical Interrupt Source Number identifying a source in the 59223bcd5ebSCédric Le Goater * machine 59323bcd5ebSCédric Le Goater * EISN Effective Interrupt Source Number used by guest OS to 59423bcd5ebSCédric Le Goater * identify source in the guest 59523bcd5ebSCédric Le Goater * 59623bcd5ebSCédric Le Goater * The EAS, END, NVT structures are not exposed. 59723bcd5ebSCédric Le Goater */ 59823bcd5ebSCédric Le Goater 59923bcd5ebSCédric Le Goater /* 60023bcd5ebSCédric Le Goater * Linux hosts under OPAL reserve priority 7 for their own escalation 60123bcd5ebSCédric Le Goater * interrupts (DD2.X POWER9). So we only allow the guest to use 60223bcd5ebSCédric Le Goater * priorities [0..6]. 60323bcd5ebSCédric Le Goater */ 60423bcd5ebSCédric Le Goater static bool spapr_xive_priority_is_reserved(uint8_t priority) 60523bcd5ebSCédric Le Goater { 60623bcd5ebSCédric Le Goater switch (priority) { 60723bcd5ebSCédric Le Goater case 0 ... 6: 60823bcd5ebSCédric Le Goater return false; 60923bcd5ebSCédric Le Goater case 7: /* OPAL escalation queue */ 61023bcd5ebSCédric Le Goater default: 61123bcd5ebSCédric Le Goater return true; 61223bcd5ebSCédric Le Goater } 61323bcd5ebSCédric Le Goater } 61423bcd5ebSCédric Le Goater 61523bcd5ebSCédric Le Goater /* 61623bcd5ebSCédric Le Goater * The H_INT_GET_SOURCE_INFO hcall() is used to obtain the logical 61723bcd5ebSCédric Le Goater * real address of the MMIO page through which the Event State Buffer 61823bcd5ebSCédric Le Goater * entry associated with the value of the "lisn" parameter is managed. 61923bcd5ebSCédric Le Goater * 62023bcd5ebSCédric Le Goater * Parameters: 62123bcd5ebSCédric Le Goater * Input 62223bcd5ebSCédric Le Goater * - R4: "flags" 62323bcd5ebSCédric Le Goater * Bits 0-63 reserved 62423bcd5ebSCédric Le Goater * - R5: "lisn" is per "interrupts", "interrupt-map", or 62523bcd5ebSCédric Le Goater * "ibm,xive-lisn-ranges" properties, or as returned by the 62623bcd5ebSCédric Le Goater * ibm,query-interrupt-source-number RTAS call, or as returned 62723bcd5ebSCédric Le Goater * by the H_ALLOCATE_VAS_WINDOW hcall 62823bcd5ebSCédric Le Goater * 62923bcd5ebSCédric Le Goater * Output 63023bcd5ebSCédric Le Goater * - R4: "flags" 63123bcd5ebSCédric Le Goater * Bits 0-59: Reserved 63223bcd5ebSCédric Le Goater * Bit 60: H_INT_ESB must be used for Event State Buffer 63323bcd5ebSCédric Le Goater * management 63423bcd5ebSCédric Le Goater * Bit 61: 1 == LSI 0 == MSI 63523bcd5ebSCédric Le Goater * Bit 62: the full function page supports trigger 63623bcd5ebSCédric Le Goater * Bit 63: Store EOI Supported 63723bcd5ebSCédric Le Goater * - R5: Logical Real address of full function Event State Buffer 63823bcd5ebSCédric Le Goater * management page, -1 if H_INT_ESB hcall flag is set to 1. 63923bcd5ebSCédric Le Goater * - R6: Logical Real Address of trigger only Event State Buffer 64023bcd5ebSCédric Le Goater * management page or -1. 64123bcd5ebSCédric Le Goater * - R7: Power of 2 page size for the ESB management pages returned in 64223bcd5ebSCédric Le Goater * R5 and R6. 64323bcd5ebSCédric Le Goater */ 64423bcd5ebSCédric Le Goater 64523bcd5ebSCédric Le Goater #define SPAPR_XIVE_SRC_H_INT_ESB PPC_BIT(60) /* ESB manage with H_INT_ESB */ 64623bcd5ebSCédric Le Goater #define SPAPR_XIVE_SRC_LSI PPC_BIT(61) /* Virtual LSI type */ 64723bcd5ebSCédric Le Goater #define SPAPR_XIVE_SRC_TRIGGER PPC_BIT(62) /* Trigger and management 64823bcd5ebSCédric Le Goater on same page */ 64923bcd5ebSCédric Le Goater #define SPAPR_XIVE_SRC_STORE_EOI PPC_BIT(63) /* Store EOI support */ 65023bcd5ebSCédric Le Goater 65123bcd5ebSCédric Le Goater static target_ulong h_int_get_source_info(PowerPCCPU *cpu, 652ce2918cbSDavid Gibson SpaprMachineState *spapr, 65323bcd5ebSCédric Le Goater target_ulong opcode, 65423bcd5ebSCédric Le Goater target_ulong *args) 65523bcd5ebSCédric Le Goater { 656ce2918cbSDavid Gibson SpaprXive *xive = spapr->xive; 65723bcd5ebSCédric Le Goater XiveSource *xsrc = &xive->source; 65823bcd5ebSCédric Le Goater target_ulong flags = args[0]; 65923bcd5ebSCédric Le Goater target_ulong lisn = args[1]; 66023bcd5ebSCédric Le Goater 66123bcd5ebSCédric Le Goater if (!spapr_ovec_test(spapr->ov5_cas, OV5_XIVE_EXPLOIT)) { 66223bcd5ebSCédric Le Goater return H_FUNCTION; 66323bcd5ebSCédric Le Goater } 66423bcd5ebSCédric Le Goater 66523bcd5ebSCédric Le Goater if (flags) { 66623bcd5ebSCédric Le Goater return H_PARAMETER; 66723bcd5ebSCédric Le Goater } 66823bcd5ebSCédric Le Goater 66923bcd5ebSCédric Le Goater if (lisn >= xive->nr_irqs) { 67023bcd5ebSCédric Le Goater qemu_log_mask(LOG_GUEST_ERROR, "XIVE: Unknown LISN " TARGET_FMT_lx "\n", 67123bcd5ebSCédric Le Goater lisn); 67223bcd5ebSCédric Le Goater return H_P2; 67323bcd5ebSCédric Le Goater } 67423bcd5ebSCédric Le Goater 67523bcd5ebSCédric Le Goater if (!xive_eas_is_valid(&xive->eat[lisn])) { 67623bcd5ebSCédric Le Goater qemu_log_mask(LOG_GUEST_ERROR, "XIVE: Invalid LISN " TARGET_FMT_lx "\n", 67723bcd5ebSCédric Le Goater lisn); 67823bcd5ebSCédric Le Goater return H_P2; 67923bcd5ebSCédric Le Goater } 68023bcd5ebSCédric Le Goater 68123bcd5ebSCédric Le Goater /* 68223bcd5ebSCédric Le Goater * All sources are emulated under the main XIVE object and share 68323bcd5ebSCédric Le Goater * the same characteristics. 68423bcd5ebSCédric Le Goater */ 68523bcd5ebSCédric Le Goater args[0] = 0; 68623bcd5ebSCédric Le Goater if (!xive_source_esb_has_2page(xsrc)) { 68723bcd5ebSCédric Le Goater args[0] |= SPAPR_XIVE_SRC_TRIGGER; 68823bcd5ebSCédric Le Goater } 68923bcd5ebSCédric Le Goater if (xsrc->esb_flags & XIVE_SRC_STORE_EOI) { 69023bcd5ebSCédric Le Goater args[0] |= SPAPR_XIVE_SRC_STORE_EOI; 69123bcd5ebSCédric Le Goater } 69223bcd5ebSCédric Le Goater 69323bcd5ebSCédric Le Goater /* 69423bcd5ebSCédric Le Goater * Force the use of the H_INT_ESB hcall in case of an LSI 69523bcd5ebSCédric Le Goater * interrupt. This is necessary under KVM to re-trigger the 69623bcd5ebSCédric Le Goater * interrupt if the level is still asserted 69723bcd5ebSCédric Le Goater */ 69823bcd5ebSCédric Le Goater if (xive_source_irq_is_lsi(xsrc, lisn)) { 69923bcd5ebSCédric Le Goater args[0] |= SPAPR_XIVE_SRC_H_INT_ESB | SPAPR_XIVE_SRC_LSI; 70023bcd5ebSCédric Le Goater } 70123bcd5ebSCédric Le Goater 70223bcd5ebSCédric Le Goater if (!(args[0] & SPAPR_XIVE_SRC_H_INT_ESB)) { 70323bcd5ebSCédric Le Goater args[1] = xive->vc_base + xive_source_esb_mgmt(xsrc, lisn); 70423bcd5ebSCédric Le Goater } else { 70523bcd5ebSCédric Le Goater args[1] = -1; 70623bcd5ebSCédric Le Goater } 70723bcd5ebSCédric Le Goater 70823bcd5ebSCédric Le Goater if (xive_source_esb_has_2page(xsrc) && 70923bcd5ebSCédric Le Goater !(args[0] & SPAPR_XIVE_SRC_H_INT_ESB)) { 71023bcd5ebSCédric Le Goater args[2] = xive->vc_base + xive_source_esb_page(xsrc, lisn); 71123bcd5ebSCédric Le Goater } else { 71223bcd5ebSCédric Le Goater args[2] = -1; 71323bcd5ebSCédric Le Goater } 71423bcd5ebSCédric Le Goater 71523bcd5ebSCédric Le Goater if (xive_source_esb_has_2page(xsrc)) { 71623bcd5ebSCédric Le Goater args[3] = xsrc->esb_shift - 1; 71723bcd5ebSCédric Le Goater } else { 71823bcd5ebSCédric Le Goater args[3] = xsrc->esb_shift; 71923bcd5ebSCédric Le Goater } 72023bcd5ebSCédric Le Goater 72123bcd5ebSCédric Le Goater return H_SUCCESS; 72223bcd5ebSCédric Le Goater } 72323bcd5ebSCédric Le Goater 72423bcd5ebSCédric Le Goater /* 72523bcd5ebSCédric Le Goater * The H_INT_SET_SOURCE_CONFIG hcall() is used to assign a Logical 72623bcd5ebSCédric Le Goater * Interrupt Source to a target. The Logical Interrupt Source is 72723bcd5ebSCédric Le Goater * designated with the "lisn" parameter and the target is designated 72823bcd5ebSCédric Le Goater * with the "target" and "priority" parameters. Upon return from the 72923bcd5ebSCédric Le Goater * hcall(), no additional interrupts will be directed to the old EQ. 73023bcd5ebSCédric Le Goater * 73123bcd5ebSCédric Le Goater * Parameters: 73223bcd5ebSCédric Le Goater * Input: 73323bcd5ebSCédric Le Goater * - R4: "flags" 73423bcd5ebSCédric Le Goater * Bits 0-61: Reserved 73523bcd5ebSCédric Le Goater * Bit 62: set the "eisn" in the EAS 73623bcd5ebSCédric Le Goater * Bit 63: masks the interrupt source in the hardware interrupt 73723bcd5ebSCédric Le Goater * control structure. An interrupt masked by this mechanism will 73823bcd5ebSCédric Le Goater * be dropped, but it's source state bits will still be 73923bcd5ebSCédric Le Goater * set. There is no race-free way of unmasking and restoring the 74023bcd5ebSCédric Le Goater * source. Thus this should only be used in interrupts that are 74123bcd5ebSCédric Le Goater * also masked at the source, and only in cases where the 74223bcd5ebSCédric Le Goater * interrupt is not meant to be used for a large amount of time 74323bcd5ebSCédric Le Goater * because no valid target exists for it for example 74423bcd5ebSCédric Le Goater * - R5: "lisn" is per "interrupts", "interrupt-map", or 74523bcd5ebSCédric Le Goater * "ibm,xive-lisn-ranges" properties, or as returned by the 74623bcd5ebSCédric Le Goater * ibm,query-interrupt-source-number RTAS call, or as returned by 74723bcd5ebSCédric Le Goater * the H_ALLOCATE_VAS_WINDOW hcall 74823bcd5ebSCédric Le Goater * - R6: "target" is per "ibm,ppc-interrupt-server#s" or 74923bcd5ebSCédric Le Goater * "ibm,ppc-interrupt-gserver#s" 75023bcd5ebSCédric Le Goater * - R7: "priority" is a valid priority not in 75123bcd5ebSCédric Le Goater * "ibm,plat-res-int-priorities" 75223bcd5ebSCédric Le Goater * - R8: "eisn" is the guest EISN associated with the "lisn" 75323bcd5ebSCédric Le Goater * 75423bcd5ebSCédric Le Goater * Output: 75523bcd5ebSCédric Le Goater * - None 75623bcd5ebSCédric Le Goater */ 75723bcd5ebSCédric Le Goater 75823bcd5ebSCédric Le Goater #define SPAPR_XIVE_SRC_SET_EISN PPC_BIT(62) 75923bcd5ebSCédric Le Goater #define SPAPR_XIVE_SRC_MASK PPC_BIT(63) 76023bcd5ebSCédric Le Goater 76123bcd5ebSCédric Le Goater static target_ulong h_int_set_source_config(PowerPCCPU *cpu, 762ce2918cbSDavid Gibson SpaprMachineState *spapr, 76323bcd5ebSCédric Le Goater target_ulong opcode, 76423bcd5ebSCédric Le Goater target_ulong *args) 76523bcd5ebSCédric Le Goater { 766ce2918cbSDavid Gibson SpaprXive *xive = spapr->xive; 76723bcd5ebSCédric Le Goater XiveEAS eas, new_eas; 76823bcd5ebSCédric Le Goater target_ulong flags = args[0]; 76923bcd5ebSCédric Le Goater target_ulong lisn = args[1]; 77023bcd5ebSCédric Le Goater target_ulong target = args[2]; 77123bcd5ebSCédric Le Goater target_ulong priority = args[3]; 77223bcd5ebSCédric Le Goater target_ulong eisn = args[4]; 77323bcd5ebSCédric Le Goater uint8_t end_blk; 77423bcd5ebSCédric Le Goater uint32_t end_idx; 77523bcd5ebSCédric Le Goater 77623bcd5ebSCédric Le Goater if (!spapr_ovec_test(spapr->ov5_cas, OV5_XIVE_EXPLOIT)) { 77723bcd5ebSCédric Le Goater return H_FUNCTION; 77823bcd5ebSCédric Le Goater } 77923bcd5ebSCédric Le Goater 78023bcd5ebSCédric Le Goater if (flags & ~(SPAPR_XIVE_SRC_SET_EISN | SPAPR_XIVE_SRC_MASK)) { 78123bcd5ebSCédric Le Goater return H_PARAMETER; 78223bcd5ebSCédric Le Goater } 78323bcd5ebSCédric Le Goater 78423bcd5ebSCédric Le Goater if (lisn >= xive->nr_irqs) { 78523bcd5ebSCédric Le Goater qemu_log_mask(LOG_GUEST_ERROR, "XIVE: Unknown LISN " TARGET_FMT_lx "\n", 78623bcd5ebSCédric Le Goater lisn); 78723bcd5ebSCédric Le Goater return H_P2; 78823bcd5ebSCédric Le Goater } 78923bcd5ebSCédric Le Goater 79023bcd5ebSCédric Le Goater eas = xive->eat[lisn]; 79123bcd5ebSCédric Le Goater if (!xive_eas_is_valid(&eas)) { 79223bcd5ebSCédric Le Goater qemu_log_mask(LOG_GUEST_ERROR, "XIVE: Invalid LISN " TARGET_FMT_lx "\n", 79323bcd5ebSCédric Le Goater lisn); 79423bcd5ebSCédric Le Goater return H_P2; 79523bcd5ebSCédric Le Goater } 79623bcd5ebSCédric Le Goater 79723bcd5ebSCédric Le Goater /* priority 0xff is used to reset the EAS */ 79823bcd5ebSCédric Le Goater if (priority == 0xff) { 79923bcd5ebSCédric Le Goater new_eas.w = cpu_to_be64(EAS_VALID | EAS_MASKED); 80023bcd5ebSCédric Le Goater goto out; 80123bcd5ebSCédric Le Goater } 80223bcd5ebSCédric Le Goater 80323bcd5ebSCédric Le Goater if (flags & SPAPR_XIVE_SRC_MASK) { 80423bcd5ebSCédric Le Goater new_eas.w = eas.w | cpu_to_be64(EAS_MASKED); 80523bcd5ebSCédric Le Goater } else { 80623bcd5ebSCédric Le Goater new_eas.w = eas.w & cpu_to_be64(~EAS_MASKED); 80723bcd5ebSCédric Le Goater } 80823bcd5ebSCédric Le Goater 80923bcd5ebSCédric Le Goater if (spapr_xive_priority_is_reserved(priority)) { 81023bcd5ebSCédric Le Goater qemu_log_mask(LOG_GUEST_ERROR, "XIVE: priority " TARGET_FMT_ld 81123bcd5ebSCédric Le Goater " is reserved\n", priority); 81223bcd5ebSCédric Le Goater return H_P4; 81323bcd5ebSCédric Le Goater } 81423bcd5ebSCédric Le Goater 81523bcd5ebSCédric Le Goater /* 81623bcd5ebSCédric Le Goater * Validate that "target" is part of the list of threads allocated 81723bcd5ebSCédric Le Goater * to the partition. For that, find the END corresponding to the 81823bcd5ebSCédric Le Goater * target. 81923bcd5ebSCédric Le Goater */ 82023bcd5ebSCédric Le Goater if (spapr_xive_target_to_end(target, priority, &end_blk, &end_idx)) { 82123bcd5ebSCédric Le Goater return H_P3; 82223bcd5ebSCédric Le Goater } 82323bcd5ebSCédric Le Goater 82423bcd5ebSCédric Le Goater new_eas.w = xive_set_field64(EAS_END_BLOCK, new_eas.w, end_blk); 82523bcd5ebSCédric Le Goater new_eas.w = xive_set_field64(EAS_END_INDEX, new_eas.w, end_idx); 82623bcd5ebSCédric Le Goater 82723bcd5ebSCédric Le Goater if (flags & SPAPR_XIVE_SRC_SET_EISN) { 82823bcd5ebSCédric Le Goater new_eas.w = xive_set_field64(EAS_END_DATA, new_eas.w, eisn); 82923bcd5ebSCédric Le Goater } 83023bcd5ebSCédric Le Goater 8310c575703SCédric Le Goater if (kvm_irqchip_in_kernel()) { 8320c575703SCédric Le Goater Error *local_err = NULL; 8330c575703SCédric Le Goater 8340c575703SCédric Le Goater kvmppc_xive_set_source_config(xive, lisn, &new_eas, &local_err); 8350c575703SCédric Le Goater if (local_err) { 8360c575703SCédric Le Goater error_report_err(local_err); 8370c575703SCédric Le Goater return H_HARDWARE; 8380c575703SCédric Le Goater } 8390c575703SCédric Le Goater } 8400c575703SCédric Le Goater 84123bcd5ebSCédric Le Goater out: 84223bcd5ebSCédric Le Goater xive->eat[lisn] = new_eas; 84323bcd5ebSCédric Le Goater return H_SUCCESS; 84423bcd5ebSCédric Le Goater } 84523bcd5ebSCédric Le Goater 84623bcd5ebSCédric Le Goater /* 84723bcd5ebSCédric Le Goater * The H_INT_GET_SOURCE_CONFIG hcall() is used to determine to which 84823bcd5ebSCédric Le Goater * target/priority pair is assigned to the specified Logical Interrupt 84923bcd5ebSCédric Le Goater * Source. 85023bcd5ebSCédric Le Goater * 85123bcd5ebSCédric Le Goater * Parameters: 85223bcd5ebSCédric Le Goater * Input: 85323bcd5ebSCédric Le Goater * - R4: "flags" 85423bcd5ebSCédric Le Goater * Bits 0-63 Reserved 85523bcd5ebSCédric Le Goater * - R5: "lisn" is per "interrupts", "interrupt-map", or 85623bcd5ebSCédric Le Goater * "ibm,xive-lisn-ranges" properties, or as returned by the 85723bcd5ebSCédric Le Goater * ibm,query-interrupt-source-number RTAS call, or as 85823bcd5ebSCédric Le Goater * returned by the H_ALLOCATE_VAS_WINDOW hcall 85923bcd5ebSCédric Le Goater * 86023bcd5ebSCédric Le Goater * Output: 86123bcd5ebSCédric Le Goater * - R4: Target to which the specified Logical Interrupt Source is 86223bcd5ebSCédric Le Goater * assigned 86323bcd5ebSCédric Le Goater * - R5: Priority to which the specified Logical Interrupt Source is 86423bcd5ebSCédric Le Goater * assigned 86523bcd5ebSCédric Le Goater * - R6: EISN for the specified Logical Interrupt Source (this will be 86623bcd5ebSCédric Le Goater * equivalent to the LISN if not changed by H_INT_SET_SOURCE_CONFIG) 86723bcd5ebSCédric Le Goater */ 86823bcd5ebSCédric Le Goater static target_ulong h_int_get_source_config(PowerPCCPU *cpu, 869ce2918cbSDavid Gibson SpaprMachineState *spapr, 87023bcd5ebSCédric Le Goater target_ulong opcode, 87123bcd5ebSCédric Le Goater target_ulong *args) 87223bcd5ebSCédric Le Goater { 873ce2918cbSDavid Gibson SpaprXive *xive = spapr->xive; 87423bcd5ebSCédric Le Goater target_ulong flags = args[0]; 87523bcd5ebSCédric Le Goater target_ulong lisn = args[1]; 87623bcd5ebSCédric Le Goater XiveEAS eas; 87723bcd5ebSCédric Le Goater XiveEND *end; 87823bcd5ebSCédric Le Goater uint8_t nvt_blk; 87923bcd5ebSCédric Le Goater uint32_t end_idx, nvt_idx; 88023bcd5ebSCédric Le Goater 88123bcd5ebSCédric Le Goater if (!spapr_ovec_test(spapr->ov5_cas, OV5_XIVE_EXPLOIT)) { 88223bcd5ebSCédric Le Goater return H_FUNCTION; 88323bcd5ebSCédric Le Goater } 88423bcd5ebSCédric Le Goater 88523bcd5ebSCédric Le Goater if (flags) { 88623bcd5ebSCédric Le Goater return H_PARAMETER; 88723bcd5ebSCédric Le Goater } 88823bcd5ebSCédric Le Goater 88923bcd5ebSCédric Le Goater if (lisn >= xive->nr_irqs) { 89023bcd5ebSCédric Le Goater qemu_log_mask(LOG_GUEST_ERROR, "XIVE: Unknown LISN " TARGET_FMT_lx "\n", 89123bcd5ebSCédric Le Goater lisn); 89223bcd5ebSCédric Le Goater return H_P2; 89323bcd5ebSCédric Le Goater } 89423bcd5ebSCédric Le Goater 89523bcd5ebSCédric Le Goater eas = xive->eat[lisn]; 89623bcd5ebSCédric Le Goater if (!xive_eas_is_valid(&eas)) { 89723bcd5ebSCédric Le Goater qemu_log_mask(LOG_GUEST_ERROR, "XIVE: Invalid LISN " TARGET_FMT_lx "\n", 89823bcd5ebSCédric Le Goater lisn); 89923bcd5ebSCédric Le Goater return H_P2; 90023bcd5ebSCédric Le Goater } 90123bcd5ebSCédric Le Goater 90223bcd5ebSCédric Le Goater /* EAS_END_BLOCK is unused on sPAPR */ 90323bcd5ebSCédric Le Goater end_idx = xive_get_field64(EAS_END_INDEX, eas.w); 90423bcd5ebSCédric Le Goater 90523bcd5ebSCédric Le Goater assert(end_idx < xive->nr_ends); 90623bcd5ebSCédric Le Goater end = &xive->endt[end_idx]; 90723bcd5ebSCédric Le Goater 90823bcd5ebSCédric Le Goater nvt_blk = xive_get_field32(END_W6_NVT_BLOCK, end->w6); 90923bcd5ebSCédric Le Goater nvt_idx = xive_get_field32(END_W6_NVT_INDEX, end->w6); 91023bcd5ebSCédric Le Goater args[0] = spapr_xive_nvt_to_target(nvt_blk, nvt_idx); 91123bcd5ebSCédric Le Goater 91223bcd5ebSCédric Le Goater if (xive_eas_is_masked(&eas)) { 91323bcd5ebSCédric Le Goater args[1] = 0xff; 91423bcd5ebSCédric Le Goater } else { 91523bcd5ebSCédric Le Goater args[1] = xive_get_field32(END_W7_F0_PRIORITY, end->w7); 91623bcd5ebSCédric Le Goater } 91723bcd5ebSCédric Le Goater 91823bcd5ebSCédric Le Goater args[2] = xive_get_field64(EAS_END_DATA, eas.w); 91923bcd5ebSCédric Le Goater 92023bcd5ebSCédric Le Goater return H_SUCCESS; 92123bcd5ebSCédric Le Goater } 92223bcd5ebSCédric Le Goater 92323bcd5ebSCédric Le Goater /* 92423bcd5ebSCédric Le Goater * The H_INT_GET_QUEUE_INFO hcall() is used to get the logical real 92523bcd5ebSCédric Le Goater * address of the notification management page associated with the 92623bcd5ebSCédric Le Goater * specified target and priority. 92723bcd5ebSCédric Le Goater * 92823bcd5ebSCédric Le Goater * Parameters: 92923bcd5ebSCédric Le Goater * Input: 93023bcd5ebSCédric Le Goater * - R4: "flags" 93123bcd5ebSCédric Le Goater * Bits 0-63 Reserved 93223bcd5ebSCédric Le Goater * - R5: "target" is per "ibm,ppc-interrupt-server#s" or 93323bcd5ebSCédric Le Goater * "ibm,ppc-interrupt-gserver#s" 93423bcd5ebSCédric Le Goater * - R6: "priority" is a valid priority not in 93523bcd5ebSCédric Le Goater * "ibm,plat-res-int-priorities" 93623bcd5ebSCédric Le Goater * 93723bcd5ebSCédric Le Goater * Output: 93823bcd5ebSCédric Le Goater * - R4: Logical real address of notification page 93923bcd5ebSCédric Le Goater * - R5: Power of 2 page size of the notification page 94023bcd5ebSCédric Le Goater */ 94123bcd5ebSCédric Le Goater static target_ulong h_int_get_queue_info(PowerPCCPU *cpu, 942ce2918cbSDavid Gibson SpaprMachineState *spapr, 94323bcd5ebSCédric Le Goater target_ulong opcode, 94423bcd5ebSCédric Le Goater target_ulong *args) 94523bcd5ebSCédric Le Goater { 946ce2918cbSDavid Gibson SpaprXive *xive = spapr->xive; 94723bcd5ebSCédric Le Goater XiveENDSource *end_xsrc = &xive->end_source; 94823bcd5ebSCédric Le Goater target_ulong flags = args[0]; 94923bcd5ebSCédric Le Goater target_ulong target = args[1]; 95023bcd5ebSCédric Le Goater target_ulong priority = args[2]; 95123bcd5ebSCédric Le Goater XiveEND *end; 95223bcd5ebSCédric Le Goater uint8_t end_blk; 95323bcd5ebSCédric Le Goater uint32_t end_idx; 95423bcd5ebSCédric Le Goater 95523bcd5ebSCédric Le Goater if (!spapr_ovec_test(spapr->ov5_cas, OV5_XIVE_EXPLOIT)) { 95623bcd5ebSCédric Le Goater return H_FUNCTION; 95723bcd5ebSCédric Le Goater } 95823bcd5ebSCédric Le Goater 95923bcd5ebSCédric Le Goater if (flags) { 96023bcd5ebSCédric Le Goater return H_PARAMETER; 96123bcd5ebSCédric Le Goater } 96223bcd5ebSCédric Le Goater 96323bcd5ebSCédric Le Goater /* 96423bcd5ebSCédric Le Goater * H_STATE should be returned if a H_INT_RESET is in progress. 96523bcd5ebSCédric Le Goater * This is not needed when running the emulation under QEMU 96623bcd5ebSCédric Le Goater */ 96723bcd5ebSCédric Le Goater 96823bcd5ebSCédric Le Goater if (spapr_xive_priority_is_reserved(priority)) { 96923bcd5ebSCédric Le Goater qemu_log_mask(LOG_GUEST_ERROR, "XIVE: priority " TARGET_FMT_ld 97023bcd5ebSCédric Le Goater " is reserved\n", priority); 97123bcd5ebSCédric Le Goater return H_P3; 97223bcd5ebSCédric Le Goater } 97323bcd5ebSCédric Le Goater 97423bcd5ebSCédric Le Goater /* 97523bcd5ebSCédric Le Goater * Validate that "target" is part of the list of threads allocated 97623bcd5ebSCédric Le Goater * to the partition. For that, find the END corresponding to the 97723bcd5ebSCédric Le Goater * target. 97823bcd5ebSCédric Le Goater */ 97923bcd5ebSCédric Le Goater if (spapr_xive_target_to_end(target, priority, &end_blk, &end_idx)) { 98023bcd5ebSCédric Le Goater return H_P2; 98123bcd5ebSCédric Le Goater } 98223bcd5ebSCédric Le Goater 98323bcd5ebSCédric Le Goater assert(end_idx < xive->nr_ends); 98423bcd5ebSCédric Le Goater end = &xive->endt[end_idx]; 98523bcd5ebSCédric Le Goater 98623bcd5ebSCédric Le Goater args[0] = xive->end_base + (1ull << (end_xsrc->esb_shift + 1)) * end_idx; 98723bcd5ebSCédric Le Goater if (xive_end_is_enqueue(end)) { 98823bcd5ebSCédric Le Goater args[1] = xive_get_field32(END_W0_QSIZE, end->w0) + 12; 98923bcd5ebSCédric Le Goater } else { 99023bcd5ebSCédric Le Goater args[1] = 0; 99123bcd5ebSCédric Le Goater } 99223bcd5ebSCédric Le Goater 99323bcd5ebSCédric Le Goater return H_SUCCESS; 99423bcd5ebSCédric Le Goater } 99523bcd5ebSCédric Le Goater 99623bcd5ebSCédric Le Goater /* 99723bcd5ebSCédric Le Goater * The H_INT_SET_QUEUE_CONFIG hcall() is used to set or reset a EQ for 99823bcd5ebSCédric Le Goater * a given "target" and "priority". It is also used to set the 99923bcd5ebSCédric Le Goater * notification config associated with the EQ. An EQ size of 0 is 100023bcd5ebSCédric Le Goater * used to reset the EQ config for a given target and priority. If 100123bcd5ebSCédric Le Goater * resetting the EQ config, the END associated with the given "target" 100223bcd5ebSCédric Le Goater * and "priority" will be changed to disable queueing. 100323bcd5ebSCédric Le Goater * 100423bcd5ebSCédric Le Goater * Upon return from the hcall(), no additional interrupts will be 100523bcd5ebSCédric Le Goater * directed to the old EQ (if one was set). The old EQ (if one was 100623bcd5ebSCédric Le Goater * set) should be investigated for interrupts that occurred prior to 100723bcd5ebSCédric Le Goater * or during the hcall(). 100823bcd5ebSCédric Le Goater * 100923bcd5ebSCédric Le Goater * Parameters: 101023bcd5ebSCédric Le Goater * Input: 101123bcd5ebSCédric Le Goater * - R4: "flags" 101223bcd5ebSCédric Le Goater * Bits 0-62: Reserved 101323bcd5ebSCédric Le Goater * Bit 63: Unconditional Notify (n) per the XIVE spec 101423bcd5ebSCédric Le Goater * - R5: "target" is per "ibm,ppc-interrupt-server#s" or 101523bcd5ebSCédric Le Goater * "ibm,ppc-interrupt-gserver#s" 101623bcd5ebSCédric Le Goater * - R6: "priority" is a valid priority not in 101723bcd5ebSCédric Le Goater * "ibm,plat-res-int-priorities" 101823bcd5ebSCédric Le Goater * - R7: "eventQueue": The logical real address of the start of the EQ 101923bcd5ebSCédric Le Goater * - R8: "eventQueueSize": The power of 2 EQ size per "ibm,xive-eq-sizes" 102023bcd5ebSCédric Le Goater * 102123bcd5ebSCédric Le Goater * Output: 102223bcd5ebSCédric Le Goater * - None 102323bcd5ebSCédric Le Goater */ 102423bcd5ebSCédric Le Goater 102523bcd5ebSCédric Le Goater #define SPAPR_XIVE_END_ALWAYS_NOTIFY PPC_BIT(63) 102623bcd5ebSCédric Le Goater 102723bcd5ebSCédric Le Goater static target_ulong h_int_set_queue_config(PowerPCCPU *cpu, 1028ce2918cbSDavid Gibson SpaprMachineState *spapr, 102923bcd5ebSCédric Le Goater target_ulong opcode, 103023bcd5ebSCédric Le Goater target_ulong *args) 103123bcd5ebSCédric Le Goater { 1032ce2918cbSDavid Gibson SpaprXive *xive = spapr->xive; 103323bcd5ebSCédric Le Goater target_ulong flags = args[0]; 103423bcd5ebSCédric Le Goater target_ulong target = args[1]; 103523bcd5ebSCédric Le Goater target_ulong priority = args[2]; 103623bcd5ebSCédric Le Goater target_ulong qpage = args[3]; 103723bcd5ebSCédric Le Goater target_ulong qsize = args[4]; 103823bcd5ebSCédric Le Goater XiveEND end; 103923bcd5ebSCédric Le Goater uint8_t end_blk, nvt_blk; 104023bcd5ebSCédric Le Goater uint32_t end_idx, nvt_idx; 104123bcd5ebSCédric Le Goater 104223bcd5ebSCédric Le Goater if (!spapr_ovec_test(spapr->ov5_cas, OV5_XIVE_EXPLOIT)) { 104323bcd5ebSCédric Le Goater return H_FUNCTION; 104423bcd5ebSCédric Le Goater } 104523bcd5ebSCédric Le Goater 104623bcd5ebSCédric Le Goater if (flags & ~SPAPR_XIVE_END_ALWAYS_NOTIFY) { 104723bcd5ebSCédric Le Goater return H_PARAMETER; 104823bcd5ebSCédric Le Goater } 104923bcd5ebSCédric Le Goater 105023bcd5ebSCédric Le Goater /* 105123bcd5ebSCédric Le Goater * H_STATE should be returned if a H_INT_RESET is in progress. 105223bcd5ebSCédric Le Goater * This is not needed when running the emulation under QEMU 105323bcd5ebSCédric Le Goater */ 105423bcd5ebSCédric Le Goater 105523bcd5ebSCédric Le Goater if (spapr_xive_priority_is_reserved(priority)) { 105623bcd5ebSCédric Le Goater qemu_log_mask(LOG_GUEST_ERROR, "XIVE: priority " TARGET_FMT_ld 105723bcd5ebSCédric Le Goater " is reserved\n", priority); 105823bcd5ebSCédric Le Goater return H_P3; 105923bcd5ebSCédric Le Goater } 106023bcd5ebSCédric Le Goater 106123bcd5ebSCédric Le Goater /* 106223bcd5ebSCédric Le Goater * Validate that "target" is part of the list of threads allocated 106323bcd5ebSCédric Le Goater * to the partition. For that, find the END corresponding to the 106423bcd5ebSCédric Le Goater * target. 106523bcd5ebSCédric Le Goater */ 106623bcd5ebSCédric Le Goater 106723bcd5ebSCédric Le Goater if (spapr_xive_target_to_end(target, priority, &end_blk, &end_idx)) { 106823bcd5ebSCédric Le Goater return H_P2; 106923bcd5ebSCédric Le Goater } 107023bcd5ebSCédric Le Goater 107123bcd5ebSCédric Le Goater assert(end_idx < xive->nr_ends); 107223bcd5ebSCédric Le Goater memcpy(&end, &xive->endt[end_idx], sizeof(XiveEND)); 107323bcd5ebSCédric Le Goater 107423bcd5ebSCédric Le Goater switch (qsize) { 107523bcd5ebSCédric Le Goater case 12: 107623bcd5ebSCédric Le Goater case 16: 107723bcd5ebSCédric Le Goater case 21: 107823bcd5ebSCédric Le Goater case 24: 10797f9136f9SCédric Le Goater if (!QEMU_IS_ALIGNED(qpage, 1ul << qsize)) { 10807f9136f9SCédric Le Goater qemu_log_mask(LOG_GUEST_ERROR, "XIVE: EQ @0x%" HWADDR_PRIx 10817f9136f9SCédric Le Goater " is not naturally aligned with %" HWADDR_PRIx "\n", 10827f9136f9SCédric Le Goater qpage, (hwaddr)1 << qsize); 10837f9136f9SCédric Le Goater return H_P4; 10847f9136f9SCédric Le Goater } 108523bcd5ebSCédric Le Goater end.w2 = cpu_to_be32((qpage >> 32) & 0x0fffffff); 108623bcd5ebSCédric Le Goater end.w3 = cpu_to_be32(qpage & 0xffffffff); 108723bcd5ebSCédric Le Goater end.w0 |= cpu_to_be32(END_W0_ENQUEUE); 108823bcd5ebSCédric Le Goater end.w0 = xive_set_field32(END_W0_QSIZE, end.w0, qsize - 12); 108923bcd5ebSCédric Le Goater break; 109023bcd5ebSCédric Le Goater case 0: 109123bcd5ebSCédric Le Goater /* reset queue and disable queueing */ 109223bcd5ebSCédric Le Goater spapr_xive_end_reset(&end); 109323bcd5ebSCédric Le Goater goto out; 109423bcd5ebSCédric Le Goater 109523bcd5ebSCédric Le Goater default: 109623bcd5ebSCédric Le Goater qemu_log_mask(LOG_GUEST_ERROR, "XIVE: invalid EQ size %"PRIx64"\n", 109723bcd5ebSCédric Le Goater qsize); 109823bcd5ebSCédric Le Goater return H_P5; 109923bcd5ebSCédric Le Goater } 110023bcd5ebSCédric Le Goater 110123bcd5ebSCédric Le Goater if (qsize) { 110223bcd5ebSCédric Le Goater hwaddr plen = 1 << qsize; 110323bcd5ebSCédric Le Goater void *eq; 110423bcd5ebSCédric Le Goater 110523bcd5ebSCédric Le Goater /* 110623bcd5ebSCédric Le Goater * Validate the guest EQ. We should also check that the queue 110723bcd5ebSCédric Le Goater * has been zeroed by the OS. 110823bcd5ebSCédric Le Goater */ 110923bcd5ebSCédric Le Goater eq = address_space_map(CPU(cpu)->as, qpage, &plen, true, 111023bcd5ebSCédric Le Goater MEMTXATTRS_UNSPECIFIED); 111123bcd5ebSCédric Le Goater if (plen != 1 << qsize) { 111223bcd5ebSCédric Le Goater qemu_log_mask(LOG_GUEST_ERROR, "XIVE: failed to map EQ @0x%" 111323bcd5ebSCédric Le Goater HWADDR_PRIx "\n", qpage); 111423bcd5ebSCédric Le Goater return H_P4; 111523bcd5ebSCédric Le Goater } 111623bcd5ebSCédric Le Goater address_space_unmap(CPU(cpu)->as, eq, plen, true, plen); 111723bcd5ebSCédric Le Goater } 111823bcd5ebSCédric Le Goater 111923bcd5ebSCédric Le Goater /* "target" should have been validated above */ 112023bcd5ebSCédric Le Goater if (spapr_xive_target_to_nvt(target, &nvt_blk, &nvt_idx)) { 112123bcd5ebSCédric Le Goater g_assert_not_reached(); 112223bcd5ebSCédric Le Goater } 112323bcd5ebSCédric Le Goater 112423bcd5ebSCédric Le Goater /* 112523bcd5ebSCédric Le Goater * Ensure the priority and target are correctly set (they will not 112623bcd5ebSCédric Le Goater * be right after allocation) 112723bcd5ebSCédric Le Goater */ 112823bcd5ebSCédric Le Goater end.w6 = xive_set_field32(END_W6_NVT_BLOCK, 0ul, nvt_blk) | 112923bcd5ebSCédric Le Goater xive_set_field32(END_W6_NVT_INDEX, 0ul, nvt_idx); 113023bcd5ebSCédric Le Goater end.w7 = xive_set_field32(END_W7_F0_PRIORITY, 0ul, priority); 113123bcd5ebSCédric Le Goater 113223bcd5ebSCédric Le Goater if (flags & SPAPR_XIVE_END_ALWAYS_NOTIFY) { 113323bcd5ebSCédric Le Goater end.w0 |= cpu_to_be32(END_W0_UCOND_NOTIFY); 113423bcd5ebSCédric Le Goater } else { 113523bcd5ebSCédric Le Goater end.w0 &= cpu_to_be32((uint32_t)~END_W0_UCOND_NOTIFY); 113623bcd5ebSCédric Le Goater } 113723bcd5ebSCédric Le Goater 113823bcd5ebSCédric Le Goater /* 113923bcd5ebSCédric Le Goater * The generation bit for the END starts at 1 and The END page 114023bcd5ebSCédric Le Goater * offset counter starts at 0. 114123bcd5ebSCédric Le Goater */ 114223bcd5ebSCédric Le Goater end.w1 = cpu_to_be32(END_W1_GENERATION) | 114323bcd5ebSCédric Le Goater xive_set_field32(END_W1_PAGE_OFF, 0ul, 0ul); 114423bcd5ebSCédric Le Goater end.w0 |= cpu_to_be32(END_W0_VALID); 114523bcd5ebSCédric Le Goater 114623bcd5ebSCédric Le Goater /* 114723bcd5ebSCédric Le Goater * TODO: issue syncs required to ensure all in-flight interrupts 114823bcd5ebSCédric Le Goater * are complete on the old END 114923bcd5ebSCédric Le Goater */ 115023bcd5ebSCédric Le Goater 115123bcd5ebSCédric Le Goater out: 11520c575703SCédric Le Goater if (kvm_irqchip_in_kernel()) { 11530c575703SCédric Le Goater Error *local_err = NULL; 11540c575703SCédric Le Goater 11550c575703SCédric Le Goater kvmppc_xive_set_queue_config(xive, end_blk, end_idx, &end, &local_err); 11560c575703SCédric Le Goater if (local_err) { 11570c575703SCédric Le Goater error_report_err(local_err); 11580c575703SCédric Le Goater return H_HARDWARE; 11590c575703SCédric Le Goater } 11600c575703SCédric Le Goater } 11610c575703SCédric Le Goater 116223bcd5ebSCédric Le Goater /* Update END */ 116323bcd5ebSCédric Le Goater memcpy(&xive->endt[end_idx], &end, sizeof(XiveEND)); 116423bcd5ebSCédric Le Goater return H_SUCCESS; 116523bcd5ebSCédric Le Goater } 116623bcd5ebSCédric Le Goater 116723bcd5ebSCédric Le Goater /* 116823bcd5ebSCédric Le Goater * The H_INT_GET_QUEUE_CONFIG hcall() is used to get a EQ for a given 116923bcd5ebSCédric Le Goater * target and priority. 117023bcd5ebSCédric Le Goater * 117123bcd5ebSCédric Le Goater * Parameters: 117223bcd5ebSCédric Le Goater * Input: 117323bcd5ebSCédric Le Goater * - R4: "flags" 117423bcd5ebSCédric Le Goater * Bits 0-62: Reserved 117523bcd5ebSCédric Le Goater * Bit 63: Debug: Return debug data 117623bcd5ebSCédric Le Goater * - R5: "target" is per "ibm,ppc-interrupt-server#s" or 117723bcd5ebSCédric Le Goater * "ibm,ppc-interrupt-gserver#s" 117823bcd5ebSCédric Le Goater * - R6: "priority" is a valid priority not in 117923bcd5ebSCédric Le Goater * "ibm,plat-res-int-priorities" 118023bcd5ebSCédric Le Goater * 118123bcd5ebSCédric Le Goater * Output: 118223bcd5ebSCédric Le Goater * - R4: "flags": 118323bcd5ebSCédric Le Goater * Bits 0-61: Reserved 118423bcd5ebSCédric Le Goater * Bit 62: The value of Event Queue Generation Number (g) per 118523bcd5ebSCédric Le Goater * the XIVE spec if "Debug" = 1 118623bcd5ebSCédric Le Goater * Bit 63: The value of Unconditional Notify (n) per the XIVE spec 118723bcd5ebSCédric Le Goater * - R5: The logical real address of the start of the EQ 118823bcd5ebSCédric Le Goater * - R6: The power of 2 EQ size per "ibm,xive-eq-sizes" 118923bcd5ebSCédric Le Goater * - R7: The value of Event Queue Offset Counter per XIVE spec 119023bcd5ebSCédric Le Goater * if "Debug" = 1, else 0 119123bcd5ebSCédric Le Goater * 119223bcd5ebSCédric Le Goater */ 119323bcd5ebSCédric Le Goater 119423bcd5ebSCédric Le Goater #define SPAPR_XIVE_END_DEBUG PPC_BIT(63) 119523bcd5ebSCédric Le Goater 119623bcd5ebSCédric Le Goater static target_ulong h_int_get_queue_config(PowerPCCPU *cpu, 1197ce2918cbSDavid Gibson SpaprMachineState *spapr, 119823bcd5ebSCédric Le Goater target_ulong opcode, 119923bcd5ebSCédric Le Goater target_ulong *args) 120023bcd5ebSCédric Le Goater { 1201ce2918cbSDavid Gibson SpaprXive *xive = spapr->xive; 120223bcd5ebSCédric Le Goater target_ulong flags = args[0]; 120323bcd5ebSCédric Le Goater target_ulong target = args[1]; 120423bcd5ebSCédric Le Goater target_ulong priority = args[2]; 120523bcd5ebSCédric Le Goater XiveEND *end; 120623bcd5ebSCédric Le Goater uint8_t end_blk; 120723bcd5ebSCédric Le Goater uint32_t end_idx; 120823bcd5ebSCédric Le Goater 120923bcd5ebSCédric Le Goater if (!spapr_ovec_test(spapr->ov5_cas, OV5_XIVE_EXPLOIT)) { 121023bcd5ebSCédric Le Goater return H_FUNCTION; 121123bcd5ebSCédric Le Goater } 121223bcd5ebSCédric Le Goater 121323bcd5ebSCédric Le Goater if (flags & ~SPAPR_XIVE_END_DEBUG) { 121423bcd5ebSCédric Le Goater return H_PARAMETER; 121523bcd5ebSCédric Le Goater } 121623bcd5ebSCédric Le Goater 121723bcd5ebSCédric Le Goater /* 121823bcd5ebSCédric Le Goater * H_STATE should be returned if a H_INT_RESET is in progress. 121923bcd5ebSCédric Le Goater * This is not needed when running the emulation under QEMU 122023bcd5ebSCédric Le Goater */ 122123bcd5ebSCédric Le Goater 122223bcd5ebSCédric Le Goater if (spapr_xive_priority_is_reserved(priority)) { 122323bcd5ebSCédric Le Goater qemu_log_mask(LOG_GUEST_ERROR, "XIVE: priority " TARGET_FMT_ld 122423bcd5ebSCédric Le Goater " is reserved\n", priority); 122523bcd5ebSCédric Le Goater return H_P3; 122623bcd5ebSCédric Le Goater } 122723bcd5ebSCédric Le Goater 122823bcd5ebSCédric Le Goater /* 122923bcd5ebSCédric Le Goater * Validate that "target" is part of the list of threads allocated 123023bcd5ebSCédric Le Goater * to the partition. For that, find the END corresponding to the 123123bcd5ebSCédric Le Goater * target. 123223bcd5ebSCédric Le Goater */ 123323bcd5ebSCédric Le Goater if (spapr_xive_target_to_end(target, priority, &end_blk, &end_idx)) { 123423bcd5ebSCédric Le Goater return H_P2; 123523bcd5ebSCédric Le Goater } 123623bcd5ebSCédric Le Goater 123723bcd5ebSCédric Le Goater assert(end_idx < xive->nr_ends); 123823bcd5ebSCédric Le Goater end = &xive->endt[end_idx]; 123923bcd5ebSCédric Le Goater 124023bcd5ebSCédric Le Goater args[0] = 0; 124123bcd5ebSCédric Le Goater if (xive_end_is_notify(end)) { 124223bcd5ebSCédric Le Goater args[0] |= SPAPR_XIVE_END_ALWAYS_NOTIFY; 124323bcd5ebSCédric Le Goater } 124423bcd5ebSCédric Le Goater 124523bcd5ebSCédric Le Goater if (xive_end_is_enqueue(end)) { 124613df9324SCédric Le Goater args[1] = xive_end_qaddr(end); 124723bcd5ebSCédric Le Goater args[2] = xive_get_field32(END_W0_QSIZE, end->w0) + 12; 124823bcd5ebSCédric Le Goater } else { 124923bcd5ebSCédric Le Goater args[1] = 0; 125023bcd5ebSCédric Le Goater args[2] = 0; 125123bcd5ebSCédric Le Goater } 125223bcd5ebSCédric Le Goater 12530c575703SCédric Le Goater if (kvm_irqchip_in_kernel()) { 12540c575703SCédric Le Goater Error *local_err = NULL; 12550c575703SCédric Le Goater 12560c575703SCédric Le Goater kvmppc_xive_get_queue_config(xive, end_blk, end_idx, end, &local_err); 12570c575703SCédric Le Goater if (local_err) { 12580c575703SCédric Le Goater error_report_err(local_err); 12590c575703SCédric Le Goater return H_HARDWARE; 12600c575703SCédric Le Goater } 12610c575703SCédric Le Goater } 12620c575703SCédric Le Goater 126323bcd5ebSCédric Le Goater /* TODO: do we need any locking on the END ? */ 126423bcd5ebSCédric Le Goater if (flags & SPAPR_XIVE_END_DEBUG) { 126523bcd5ebSCédric Le Goater /* Load the event queue generation number into the return flags */ 126623bcd5ebSCédric Le Goater args[0] |= (uint64_t)xive_get_field32(END_W1_GENERATION, end->w1) << 62; 126723bcd5ebSCédric Le Goater 126823bcd5ebSCédric Le Goater /* Load R7 with the event queue offset counter */ 126923bcd5ebSCédric Le Goater args[3] = xive_get_field32(END_W1_PAGE_OFF, end->w1); 127023bcd5ebSCédric Le Goater } else { 127123bcd5ebSCédric Le Goater args[3] = 0; 127223bcd5ebSCédric Le Goater } 127323bcd5ebSCédric Le Goater 127423bcd5ebSCédric Le Goater return H_SUCCESS; 127523bcd5ebSCédric Le Goater } 127623bcd5ebSCédric Le Goater 127723bcd5ebSCédric Le Goater /* 127823bcd5ebSCédric Le Goater * The H_INT_SET_OS_REPORTING_LINE hcall() is used to set the 127923bcd5ebSCédric Le Goater * reporting cache line pair for the calling thread. The reporting 128023bcd5ebSCédric Le Goater * cache lines will contain the OS interrupt context when the OS 128123bcd5ebSCédric Le Goater * issues a CI store byte to @TIMA+0xC10 to acknowledge the OS 128223bcd5ebSCédric Le Goater * interrupt. The reporting cache lines can be reset by inputting -1 128323bcd5ebSCédric Le Goater * in "reportingLine". Issuing the CI store byte without reporting 128423bcd5ebSCédric Le Goater * cache lines registered will result in the data not being accessible 128523bcd5ebSCédric Le Goater * to the OS. 128623bcd5ebSCédric Le Goater * 128723bcd5ebSCédric Le Goater * Parameters: 128823bcd5ebSCédric Le Goater * Input: 128923bcd5ebSCédric Le Goater * - R4: "flags" 129023bcd5ebSCédric Le Goater * Bits 0-63: Reserved 129123bcd5ebSCédric Le Goater * - R5: "reportingLine": The logical real address of the reporting cache 129223bcd5ebSCédric Le Goater * line pair 129323bcd5ebSCédric Le Goater * 129423bcd5ebSCédric Le Goater * Output: 129523bcd5ebSCédric Le Goater * - None 129623bcd5ebSCédric Le Goater */ 129723bcd5ebSCédric Le Goater static target_ulong h_int_set_os_reporting_line(PowerPCCPU *cpu, 1298ce2918cbSDavid Gibson SpaprMachineState *spapr, 129923bcd5ebSCédric Le Goater target_ulong opcode, 130023bcd5ebSCédric Le Goater target_ulong *args) 130123bcd5ebSCédric Le Goater { 130223bcd5ebSCédric Le Goater if (!spapr_ovec_test(spapr->ov5_cas, OV5_XIVE_EXPLOIT)) { 130323bcd5ebSCédric Le Goater return H_FUNCTION; 130423bcd5ebSCédric Le Goater } 130523bcd5ebSCédric Le Goater 130623bcd5ebSCédric Le Goater /* 130723bcd5ebSCédric Le Goater * H_STATE should be returned if a H_INT_RESET is in progress. 130823bcd5ebSCédric Le Goater * This is not needed when running the emulation under QEMU 130923bcd5ebSCédric Le Goater */ 131023bcd5ebSCédric Le Goater 131123bcd5ebSCédric Le Goater /* TODO: H_INT_SET_OS_REPORTING_LINE */ 131223bcd5ebSCédric Le Goater return H_FUNCTION; 131323bcd5ebSCédric Le Goater } 131423bcd5ebSCédric Le Goater 131523bcd5ebSCédric Le Goater /* 131623bcd5ebSCédric Le Goater * The H_INT_GET_OS_REPORTING_LINE hcall() is used to get the logical 131723bcd5ebSCédric Le Goater * real address of the reporting cache line pair set for the input 131823bcd5ebSCédric Le Goater * "target". If no reporting cache line pair has been set, -1 is 131923bcd5ebSCédric Le Goater * returned. 132023bcd5ebSCédric Le Goater * 132123bcd5ebSCédric Le Goater * Parameters: 132223bcd5ebSCédric Le Goater * Input: 132323bcd5ebSCédric Le Goater * - R4: "flags" 132423bcd5ebSCédric Le Goater * Bits 0-63: Reserved 132523bcd5ebSCédric Le Goater * - R5: "target" is per "ibm,ppc-interrupt-server#s" or 132623bcd5ebSCédric Le Goater * "ibm,ppc-interrupt-gserver#s" 132723bcd5ebSCédric Le Goater * - R6: "reportingLine": The logical real address of the reporting 132823bcd5ebSCédric Le Goater * cache line pair 132923bcd5ebSCédric Le Goater * 133023bcd5ebSCédric Le Goater * Output: 133123bcd5ebSCédric Le Goater * - R4: The logical real address of the reporting line if set, else -1 133223bcd5ebSCédric Le Goater */ 133323bcd5ebSCédric Le Goater static target_ulong h_int_get_os_reporting_line(PowerPCCPU *cpu, 1334ce2918cbSDavid Gibson SpaprMachineState *spapr, 133523bcd5ebSCédric Le Goater target_ulong opcode, 133623bcd5ebSCédric Le Goater target_ulong *args) 133723bcd5ebSCédric Le Goater { 133823bcd5ebSCédric Le Goater if (!spapr_ovec_test(spapr->ov5_cas, OV5_XIVE_EXPLOIT)) { 133923bcd5ebSCédric Le Goater return H_FUNCTION; 134023bcd5ebSCédric Le Goater } 134123bcd5ebSCédric Le Goater 134223bcd5ebSCédric Le Goater /* 134323bcd5ebSCédric Le Goater * H_STATE should be returned if a H_INT_RESET is in progress. 134423bcd5ebSCédric Le Goater * This is not needed when running the emulation under QEMU 134523bcd5ebSCédric Le Goater */ 134623bcd5ebSCédric Le Goater 134723bcd5ebSCédric Le Goater /* TODO: H_INT_GET_OS_REPORTING_LINE */ 134823bcd5ebSCédric Le Goater return H_FUNCTION; 134923bcd5ebSCédric Le Goater } 135023bcd5ebSCédric Le Goater 135123bcd5ebSCédric Le Goater /* 135223bcd5ebSCédric Le Goater * The H_INT_ESB hcall() is used to issue a load or store to the ESB 135323bcd5ebSCédric Le Goater * page for the input "lisn". This hcall is only supported for LISNs 135423bcd5ebSCédric Le Goater * that have the ESB hcall flag set to 1 when returned from hcall() 135523bcd5ebSCédric Le Goater * H_INT_GET_SOURCE_INFO. 135623bcd5ebSCédric Le Goater * 135723bcd5ebSCédric Le Goater * Parameters: 135823bcd5ebSCédric Le Goater * Input: 135923bcd5ebSCédric Le Goater * - R4: "flags" 136023bcd5ebSCédric Le Goater * Bits 0-62: Reserved 136123bcd5ebSCédric Le Goater * bit 63: Store: Store=1, store operation, else load operation 136223bcd5ebSCédric Le Goater * - R5: "lisn" is per "interrupts", "interrupt-map", or 136323bcd5ebSCédric Le Goater * "ibm,xive-lisn-ranges" properties, or as returned by the 136423bcd5ebSCédric Le Goater * ibm,query-interrupt-source-number RTAS call, or as 136523bcd5ebSCédric Le Goater * returned by the H_ALLOCATE_VAS_WINDOW hcall 136623bcd5ebSCédric Le Goater * - R6: "esbOffset" is the offset into the ESB page for the load or 136723bcd5ebSCédric Le Goater * store operation 136823bcd5ebSCédric Le Goater * - R7: "storeData" is the data to write for a store operation 136923bcd5ebSCédric Le Goater * 137023bcd5ebSCédric Le Goater * Output: 137123bcd5ebSCédric Le Goater * - R4: The value of the load if load operation, else -1 137223bcd5ebSCédric Le Goater */ 137323bcd5ebSCédric Le Goater 137423bcd5ebSCédric Le Goater #define SPAPR_XIVE_ESB_STORE PPC_BIT(63) 137523bcd5ebSCédric Le Goater 137623bcd5ebSCédric Le Goater static target_ulong h_int_esb(PowerPCCPU *cpu, 1377ce2918cbSDavid Gibson SpaprMachineState *spapr, 137823bcd5ebSCédric Le Goater target_ulong opcode, 137923bcd5ebSCédric Le Goater target_ulong *args) 138023bcd5ebSCédric Le Goater { 1381ce2918cbSDavid Gibson SpaprXive *xive = spapr->xive; 138223bcd5ebSCédric Le Goater XiveEAS eas; 138323bcd5ebSCédric Le Goater target_ulong flags = args[0]; 138423bcd5ebSCédric Le Goater target_ulong lisn = args[1]; 138523bcd5ebSCédric Le Goater target_ulong offset = args[2]; 138623bcd5ebSCédric Le Goater target_ulong data = args[3]; 138723bcd5ebSCédric Le Goater hwaddr mmio_addr; 138823bcd5ebSCédric Le Goater XiveSource *xsrc = &xive->source; 138923bcd5ebSCédric Le Goater 139023bcd5ebSCédric Le Goater if (!spapr_ovec_test(spapr->ov5_cas, OV5_XIVE_EXPLOIT)) { 139123bcd5ebSCédric Le Goater return H_FUNCTION; 139223bcd5ebSCédric Le Goater } 139323bcd5ebSCédric Le Goater 139423bcd5ebSCédric Le Goater if (flags & ~SPAPR_XIVE_ESB_STORE) { 139523bcd5ebSCédric Le Goater return H_PARAMETER; 139623bcd5ebSCédric Le Goater } 139723bcd5ebSCédric Le Goater 139823bcd5ebSCédric Le Goater if (lisn >= xive->nr_irqs) { 139923bcd5ebSCédric Le Goater qemu_log_mask(LOG_GUEST_ERROR, "XIVE: Unknown LISN " TARGET_FMT_lx "\n", 140023bcd5ebSCédric Le Goater lisn); 140123bcd5ebSCédric Le Goater return H_P2; 140223bcd5ebSCédric Le Goater } 140323bcd5ebSCédric Le Goater 140423bcd5ebSCédric Le Goater eas = xive->eat[lisn]; 140523bcd5ebSCédric Le Goater if (!xive_eas_is_valid(&eas)) { 140623bcd5ebSCédric Le Goater qemu_log_mask(LOG_GUEST_ERROR, "XIVE: Invalid LISN " TARGET_FMT_lx "\n", 140723bcd5ebSCédric Le Goater lisn); 140823bcd5ebSCédric Le Goater return H_P2; 140923bcd5ebSCédric Le Goater } 141023bcd5ebSCédric Le Goater 141123bcd5ebSCédric Le Goater if (offset > (1ull << xsrc->esb_shift)) { 141223bcd5ebSCédric Le Goater return H_P3; 141323bcd5ebSCédric Le Goater } 141423bcd5ebSCédric Le Goater 14150c575703SCédric Le Goater if (kvm_irqchip_in_kernel()) { 14160c575703SCédric Le Goater args[0] = kvmppc_xive_esb_rw(xsrc, lisn, offset, data, 14170c575703SCédric Le Goater flags & SPAPR_XIVE_ESB_STORE); 14180c575703SCédric Le Goater } else { 141923bcd5ebSCédric Le Goater mmio_addr = xive->vc_base + xive_source_esb_mgmt(xsrc, lisn) + offset; 142023bcd5ebSCédric Le Goater 142123bcd5ebSCédric Le Goater if (dma_memory_rw(&address_space_memory, mmio_addr, &data, 8, 142223bcd5ebSCédric Le Goater (flags & SPAPR_XIVE_ESB_STORE))) { 142323bcd5ebSCédric Le Goater qemu_log_mask(LOG_GUEST_ERROR, "XIVE: failed to access ESB @0x%" 142423bcd5ebSCédric Le Goater HWADDR_PRIx "\n", mmio_addr); 142523bcd5ebSCédric Le Goater return H_HARDWARE; 142623bcd5ebSCédric Le Goater } 142723bcd5ebSCédric Le Goater args[0] = (flags & SPAPR_XIVE_ESB_STORE) ? -1 : data; 14280c575703SCédric Le Goater } 142923bcd5ebSCédric Le Goater return H_SUCCESS; 143023bcd5ebSCédric Le Goater } 143123bcd5ebSCédric Le Goater 143223bcd5ebSCédric Le Goater /* 143323bcd5ebSCédric Le Goater * The H_INT_SYNC hcall() is used to issue hardware syncs that will 143423bcd5ebSCédric Le Goater * ensure any in flight events for the input lisn are in the event 143523bcd5ebSCédric Le Goater * queue. 143623bcd5ebSCédric Le Goater * 143723bcd5ebSCédric Le Goater * Parameters: 143823bcd5ebSCédric Le Goater * Input: 143923bcd5ebSCédric Le Goater * - R4: "flags" 144023bcd5ebSCédric Le Goater * Bits 0-63: Reserved 144123bcd5ebSCédric Le Goater * - R5: "lisn" is per "interrupts", "interrupt-map", or 144223bcd5ebSCédric Le Goater * "ibm,xive-lisn-ranges" properties, or as returned by the 144323bcd5ebSCédric Le Goater * ibm,query-interrupt-source-number RTAS call, or as 144423bcd5ebSCédric Le Goater * returned by the H_ALLOCATE_VAS_WINDOW hcall 144523bcd5ebSCédric Le Goater * 144623bcd5ebSCédric Le Goater * Output: 144723bcd5ebSCédric Le Goater * - None 144823bcd5ebSCédric Le Goater */ 144923bcd5ebSCédric Le Goater static target_ulong h_int_sync(PowerPCCPU *cpu, 1450ce2918cbSDavid Gibson SpaprMachineState *spapr, 145123bcd5ebSCédric Le Goater target_ulong opcode, 145223bcd5ebSCédric Le Goater target_ulong *args) 145323bcd5ebSCédric Le Goater { 1454ce2918cbSDavid Gibson SpaprXive *xive = spapr->xive; 145523bcd5ebSCédric Le Goater XiveEAS eas; 145623bcd5ebSCédric Le Goater target_ulong flags = args[0]; 145723bcd5ebSCédric Le Goater target_ulong lisn = args[1]; 145823bcd5ebSCédric Le Goater 145923bcd5ebSCédric Le Goater if (!spapr_ovec_test(spapr->ov5_cas, OV5_XIVE_EXPLOIT)) { 146023bcd5ebSCédric Le Goater return H_FUNCTION; 146123bcd5ebSCédric Le Goater } 146223bcd5ebSCédric Le Goater 146323bcd5ebSCédric Le Goater if (flags) { 146423bcd5ebSCédric Le Goater return H_PARAMETER; 146523bcd5ebSCédric Le Goater } 146623bcd5ebSCédric Le Goater 146723bcd5ebSCédric Le Goater if (lisn >= xive->nr_irqs) { 146823bcd5ebSCédric Le Goater qemu_log_mask(LOG_GUEST_ERROR, "XIVE: Unknown LISN " TARGET_FMT_lx "\n", 146923bcd5ebSCédric Le Goater lisn); 147023bcd5ebSCédric Le Goater return H_P2; 147123bcd5ebSCédric Le Goater } 147223bcd5ebSCédric Le Goater 147323bcd5ebSCédric Le Goater eas = xive->eat[lisn]; 147423bcd5ebSCédric Le Goater if (!xive_eas_is_valid(&eas)) { 147523bcd5ebSCédric Le Goater qemu_log_mask(LOG_GUEST_ERROR, "XIVE: Invalid LISN " TARGET_FMT_lx "\n", 147623bcd5ebSCédric Le Goater lisn); 147723bcd5ebSCédric Le Goater return H_P2; 147823bcd5ebSCédric Le Goater } 147923bcd5ebSCédric Le Goater 148023bcd5ebSCédric Le Goater /* 148123bcd5ebSCédric Le Goater * H_STATE should be returned if a H_INT_RESET is in progress. 148223bcd5ebSCédric Le Goater * This is not needed when running the emulation under QEMU 148323bcd5ebSCédric Le Goater */ 148423bcd5ebSCédric Le Goater 14850c575703SCédric Le Goater /* 14860c575703SCédric Le Goater * This is not real hardware. Nothing to be done unless when 14870c575703SCédric Le Goater * under KVM 14880c575703SCédric Le Goater */ 14890c575703SCédric Le Goater 14900c575703SCédric Le Goater if (kvm_irqchip_in_kernel()) { 14910c575703SCédric Le Goater Error *local_err = NULL; 14920c575703SCédric Le Goater 14930c575703SCédric Le Goater kvmppc_xive_sync_source(xive, lisn, &local_err); 14940c575703SCédric Le Goater if (local_err) { 14950c575703SCédric Le Goater error_report_err(local_err); 14960c575703SCédric Le Goater return H_HARDWARE; 14970c575703SCédric Le Goater } 14980c575703SCédric Le Goater } 149923bcd5ebSCédric Le Goater return H_SUCCESS; 150023bcd5ebSCédric Le Goater } 150123bcd5ebSCédric Le Goater 150223bcd5ebSCédric Le Goater /* 150323bcd5ebSCédric Le Goater * The H_INT_RESET hcall() is used to reset all of the partition's 150423bcd5ebSCédric Le Goater * interrupt exploitation structures to their initial state. This 150523bcd5ebSCédric Le Goater * means losing all previously set interrupt state set via 150623bcd5ebSCédric Le Goater * H_INT_SET_SOURCE_CONFIG and H_INT_SET_QUEUE_CONFIG. 150723bcd5ebSCédric Le Goater * 150823bcd5ebSCédric Le Goater * Parameters: 150923bcd5ebSCédric Le Goater * Input: 151023bcd5ebSCédric Le Goater * - R4: "flags" 151123bcd5ebSCédric Le Goater * Bits 0-63: Reserved 151223bcd5ebSCédric Le Goater * 151323bcd5ebSCédric Le Goater * Output: 151423bcd5ebSCédric Le Goater * - None 151523bcd5ebSCédric Le Goater */ 151623bcd5ebSCédric Le Goater static target_ulong h_int_reset(PowerPCCPU *cpu, 1517ce2918cbSDavid Gibson SpaprMachineState *spapr, 151823bcd5ebSCédric Le Goater target_ulong opcode, 151923bcd5ebSCédric Le Goater target_ulong *args) 152023bcd5ebSCédric Le Goater { 1521ce2918cbSDavid Gibson SpaprXive *xive = spapr->xive; 152223bcd5ebSCédric Le Goater target_ulong flags = args[0]; 152323bcd5ebSCédric Le Goater 152423bcd5ebSCédric Le Goater if (!spapr_ovec_test(spapr->ov5_cas, OV5_XIVE_EXPLOIT)) { 152523bcd5ebSCédric Le Goater return H_FUNCTION; 152623bcd5ebSCédric Le Goater } 152723bcd5ebSCédric Le Goater 152823bcd5ebSCédric Le Goater if (flags) { 152923bcd5ebSCédric Le Goater return H_PARAMETER; 153023bcd5ebSCédric Le Goater } 153123bcd5ebSCédric Le Goater 153223bcd5ebSCédric Le Goater device_reset(DEVICE(xive)); 15330c575703SCédric Le Goater 15340c575703SCédric Le Goater if (kvm_irqchip_in_kernel()) { 15350c575703SCédric Le Goater Error *local_err = NULL; 15360c575703SCédric Le Goater 15370c575703SCédric Le Goater kvmppc_xive_reset(xive, &local_err); 15380c575703SCédric Le Goater if (local_err) { 15390c575703SCédric Le Goater error_report_err(local_err); 15400c575703SCédric Le Goater return H_HARDWARE; 15410c575703SCédric Le Goater } 15420c575703SCédric Le Goater } 154323bcd5ebSCédric Le Goater return H_SUCCESS; 154423bcd5ebSCédric Le Goater } 154523bcd5ebSCédric Le Goater 1546ce2918cbSDavid Gibson void spapr_xive_hcall_init(SpaprMachineState *spapr) 154723bcd5ebSCédric Le Goater { 154823bcd5ebSCédric Le Goater spapr_register_hypercall(H_INT_GET_SOURCE_INFO, h_int_get_source_info); 154923bcd5ebSCédric Le Goater spapr_register_hypercall(H_INT_SET_SOURCE_CONFIG, h_int_set_source_config); 155023bcd5ebSCédric Le Goater spapr_register_hypercall(H_INT_GET_SOURCE_CONFIG, h_int_get_source_config); 155123bcd5ebSCédric Le Goater spapr_register_hypercall(H_INT_GET_QUEUE_INFO, h_int_get_queue_info); 155223bcd5ebSCédric Le Goater spapr_register_hypercall(H_INT_SET_QUEUE_CONFIG, h_int_set_queue_config); 155323bcd5ebSCédric Le Goater spapr_register_hypercall(H_INT_GET_QUEUE_CONFIG, h_int_get_queue_config); 155423bcd5ebSCédric Le Goater spapr_register_hypercall(H_INT_SET_OS_REPORTING_LINE, 155523bcd5ebSCédric Le Goater h_int_set_os_reporting_line); 155623bcd5ebSCédric Le Goater spapr_register_hypercall(H_INT_GET_OS_REPORTING_LINE, 155723bcd5ebSCédric Le Goater h_int_get_os_reporting_line); 155823bcd5ebSCédric Le Goater spapr_register_hypercall(H_INT_ESB, h_int_esb); 155923bcd5ebSCédric Le Goater spapr_register_hypercall(H_INT_SYNC, h_int_sync); 156023bcd5ebSCédric Le Goater spapr_register_hypercall(H_INT_RESET, h_int_reset); 156123bcd5ebSCédric Le Goater } 15626e21de4aSCédric Le Goater 1563ce2918cbSDavid Gibson void spapr_dt_xive(SpaprMachineState *spapr, uint32_t nr_servers, void *fdt, 15646e21de4aSCédric Le Goater uint32_t phandle) 15656e21de4aSCédric Le Goater { 1566ce2918cbSDavid Gibson SpaprXive *xive = spapr->xive; 15676e21de4aSCédric Le Goater int node; 15686e21de4aSCédric Le Goater uint64_t timas[2 * 2]; 15696e21de4aSCédric Le Goater /* Interrupt number ranges for the IPIs */ 15706e21de4aSCédric Le Goater uint32_t lisn_ranges[] = { 15716e21de4aSCédric Le Goater cpu_to_be32(0), 15726e21de4aSCédric Le Goater cpu_to_be32(nr_servers), 15736e21de4aSCédric Le Goater }; 15746e21de4aSCédric Le Goater /* 15756e21de4aSCédric Le Goater * EQ size - the sizes of pages supported by the system 4K, 64K, 15766e21de4aSCédric Le Goater * 2M, 16M. We only advertise 64K for the moment. 15776e21de4aSCédric Le Goater */ 15786e21de4aSCédric Le Goater uint32_t eq_sizes[] = { 15796e21de4aSCédric Le Goater cpu_to_be32(16), /* 64K */ 15806e21de4aSCédric Le Goater }; 15816e21de4aSCédric Le Goater /* 15826e21de4aSCédric Le Goater * The following array is in sync with the reserved priorities 15836e21de4aSCédric Le Goater * defined by the 'spapr_xive_priority_is_reserved' routine. 15846e21de4aSCédric Le Goater */ 15856e21de4aSCédric Le Goater uint32_t plat_res_int_priorities[] = { 15866e21de4aSCédric Le Goater cpu_to_be32(7), /* start */ 15876e21de4aSCédric Le Goater cpu_to_be32(0xf8), /* count */ 15886e21de4aSCédric Le Goater }; 15896e21de4aSCédric Le Goater 15906e21de4aSCédric Le Goater /* Thread Interrupt Management Area : User (ring 3) and OS (ring 2) */ 15916e21de4aSCédric Le Goater timas[0] = cpu_to_be64(xive->tm_base + 15926e21de4aSCédric Le Goater XIVE_TM_USER_PAGE * (1ull << TM_SHIFT)); 15936e21de4aSCédric Le Goater timas[1] = cpu_to_be64(1ull << TM_SHIFT); 15946e21de4aSCédric Le Goater timas[2] = cpu_to_be64(xive->tm_base + 15956e21de4aSCédric Le Goater XIVE_TM_OS_PAGE * (1ull << TM_SHIFT)); 15966e21de4aSCédric Le Goater timas[3] = cpu_to_be64(1ull << TM_SHIFT); 15976e21de4aSCédric Le Goater 1598743ed566SGreg Kurz _FDT(node = fdt_add_subnode(fdt, 0, xive->nodename)); 15996e21de4aSCédric Le Goater 16006e21de4aSCédric Le Goater _FDT(fdt_setprop_string(fdt, node, "device_type", "power-ivpe")); 16016e21de4aSCédric Le Goater _FDT(fdt_setprop(fdt, node, "reg", timas, sizeof(timas))); 16026e21de4aSCédric Le Goater 16036e21de4aSCédric Le Goater _FDT(fdt_setprop_string(fdt, node, "compatible", "ibm,power-ivpe")); 16046e21de4aSCédric Le Goater _FDT(fdt_setprop(fdt, node, "ibm,xive-eq-sizes", eq_sizes, 16056e21de4aSCédric Le Goater sizeof(eq_sizes))); 16066e21de4aSCédric Le Goater _FDT(fdt_setprop(fdt, node, "ibm,xive-lisn-ranges", lisn_ranges, 16076e21de4aSCédric Le Goater sizeof(lisn_ranges))); 16086e21de4aSCédric Le Goater 16096e21de4aSCédric Le Goater /* For Linux to link the LSIs to the interrupt controller. */ 16106e21de4aSCédric Le Goater _FDT(fdt_setprop(fdt, node, "interrupt-controller", NULL, 0)); 16116e21de4aSCédric Le Goater _FDT(fdt_setprop_cell(fdt, node, "#interrupt-cells", 2)); 16126e21de4aSCédric Le Goater 16136e21de4aSCédric Le Goater /* For SLOF */ 16146e21de4aSCédric Le Goater _FDT(fdt_setprop_cell(fdt, node, "linux,phandle", phandle)); 16156e21de4aSCédric Le Goater _FDT(fdt_setprop_cell(fdt, node, "phandle", phandle)); 16166e21de4aSCédric Le Goater 16176e21de4aSCédric Le Goater /* 16186e21de4aSCédric Le Goater * The "ibm,plat-res-int-priorities" property defines the priority 16196e21de4aSCédric Le Goater * ranges reserved by the hypervisor 16206e21de4aSCédric Le Goater */ 16216e21de4aSCédric Le Goater _FDT(fdt_setprop(fdt, 0, "ibm,plat-res-int-priorities", 16226e21de4aSCédric Le Goater plat_res_int_priorities, sizeof(plat_res_int_priorities))); 16236e21de4aSCédric Le Goater } 1624