xref: /qemu/target/arm/tcg/helper-sve.h (revision 23fbe79faa38cb4acc59f956a63feba3c2cc73ac)
19e18d7a6SRichard Henderson /*
29e18d7a6SRichard Henderson  *  AArch64 SVE specific helper definitions
39e18d7a6SRichard Henderson  *
49e18d7a6SRichard Henderson  *  Copyright (c) 2018 Linaro, Ltd
59e18d7a6SRichard Henderson  *
69e18d7a6SRichard Henderson  * This library is free software; you can redistribute it and/or
79e18d7a6SRichard Henderson  * modify it under the terms of the GNU Lesser General Public
89e18d7a6SRichard Henderson  * License as published by the Free Software Foundation; either
99e18d7a6SRichard Henderson  * version 2 of the License, or (at your option) any later version.
109e18d7a6SRichard Henderson  *
119e18d7a6SRichard Henderson  * This library is distributed in the hope that it will be useful,
129e18d7a6SRichard Henderson  * but WITHOUT ANY WARRANTY; without even the implied warranty of
139e18d7a6SRichard Henderson  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
149e18d7a6SRichard Henderson  * Lesser General Public License for more details.
159e18d7a6SRichard Henderson  *
169e18d7a6SRichard Henderson  * You should have received a copy of the GNU Lesser General Public
179e18d7a6SRichard Henderson  * License along with this library; if not, see <http://www.gnu.org/licenses/>.
189e18d7a6SRichard Henderson  */
199e18d7a6SRichard Henderson 
209e18d7a6SRichard Henderson DEF_HELPER_FLAGS_2(sve_predtest1, TCG_CALL_NO_WG, i32, i64, i64)
219e18d7a6SRichard Henderson DEF_HELPER_FLAGS_3(sve_predtest, TCG_CALL_NO_WG, i32, ptr, ptr, i32)
22516e246aSRichard Henderson 
23028e2a7bSRichard Henderson DEF_HELPER_FLAGS_3(sve_pfirst, TCG_CALL_NO_WG, i32, ptr, ptr, i32)
24028e2a7bSRichard Henderson DEF_HELPER_FLAGS_3(sve_pnext, TCG_CALL_NO_WG, i32, ptr, ptr, i32)
25028e2a7bSRichard Henderson 
26f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_and_zpzz_b, TCG_CALL_NO_RWG,
27f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
28f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_and_zpzz_h, TCG_CALL_NO_RWG,
29f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
30f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_and_zpzz_s, TCG_CALL_NO_RWG,
31f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
32f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_and_zpzz_d, TCG_CALL_NO_RWG,
33f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
34f97cfd59SRichard Henderson 
35f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_eor_zpzz_b, TCG_CALL_NO_RWG,
36f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
37f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_eor_zpzz_h, TCG_CALL_NO_RWG,
38f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
39f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_eor_zpzz_s, TCG_CALL_NO_RWG,
40f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
41f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_eor_zpzz_d, TCG_CALL_NO_RWG,
42f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
43f97cfd59SRichard Henderson 
44f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_orr_zpzz_b, TCG_CALL_NO_RWG,
45f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
46f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_orr_zpzz_h, TCG_CALL_NO_RWG,
47f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
48f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_orr_zpzz_s, TCG_CALL_NO_RWG,
49f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
50f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_orr_zpzz_d, TCG_CALL_NO_RWG,
51f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
52f97cfd59SRichard Henderson 
53f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_bic_zpzz_b, TCG_CALL_NO_RWG,
54f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
55f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_bic_zpzz_h, TCG_CALL_NO_RWG,
56f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
57f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_bic_zpzz_s, TCG_CALL_NO_RWG,
58f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
59f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_bic_zpzz_d, TCG_CALL_NO_RWG,
60f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
61f97cfd59SRichard Henderson 
62f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_add_zpzz_b, TCG_CALL_NO_RWG,
63f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
64f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_add_zpzz_h, TCG_CALL_NO_RWG,
65f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
66f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_add_zpzz_s, TCG_CALL_NO_RWG,
67f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
68f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_add_zpzz_d, TCG_CALL_NO_RWG,
69f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
70f97cfd59SRichard Henderson 
71f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sub_zpzz_b, TCG_CALL_NO_RWG,
72f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
73f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sub_zpzz_h, TCG_CALL_NO_RWG,
74f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
75f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sub_zpzz_s, TCG_CALL_NO_RWG,
76f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
77f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sub_zpzz_d, TCG_CALL_NO_RWG,
78f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
79f97cfd59SRichard Henderson 
80f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smax_zpzz_b, TCG_CALL_NO_RWG,
81f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
82f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smax_zpzz_h, TCG_CALL_NO_RWG,
83f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
84f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smax_zpzz_s, TCG_CALL_NO_RWG,
85f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
86f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smax_zpzz_d, TCG_CALL_NO_RWG,
87f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
88f97cfd59SRichard Henderson 
89f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umax_zpzz_b, TCG_CALL_NO_RWG,
90f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
91f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umax_zpzz_h, TCG_CALL_NO_RWG,
92f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
93f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umax_zpzz_s, TCG_CALL_NO_RWG,
94f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
95f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umax_zpzz_d, TCG_CALL_NO_RWG,
96f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
97f97cfd59SRichard Henderson 
98f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smin_zpzz_b, TCG_CALL_NO_RWG,
99f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
100f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smin_zpzz_h, TCG_CALL_NO_RWG,
101f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
102f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smin_zpzz_s, TCG_CALL_NO_RWG,
103f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
104f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smin_zpzz_d, TCG_CALL_NO_RWG,
105f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
106f97cfd59SRichard Henderson 
107f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umin_zpzz_b, TCG_CALL_NO_RWG,
108f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
109f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umin_zpzz_h, TCG_CALL_NO_RWG,
110f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
111f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umin_zpzz_s, TCG_CALL_NO_RWG,
112f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
113f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umin_zpzz_d, TCG_CALL_NO_RWG,
114f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
115f97cfd59SRichard Henderson 
116f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sabd_zpzz_b, TCG_CALL_NO_RWG,
117f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
118f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sabd_zpzz_h, TCG_CALL_NO_RWG,
119f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
120f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sabd_zpzz_s, TCG_CALL_NO_RWG,
121f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
122f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sabd_zpzz_d, TCG_CALL_NO_RWG,
123f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
124f97cfd59SRichard Henderson 
125f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_uabd_zpzz_b, TCG_CALL_NO_RWG,
126f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
127f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_uabd_zpzz_h, TCG_CALL_NO_RWG,
128f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
129f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_uabd_zpzz_s, TCG_CALL_NO_RWG,
130f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
131f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_uabd_zpzz_d, TCG_CALL_NO_RWG,
132f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
133f97cfd59SRichard Henderson 
134f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_mul_zpzz_b, TCG_CALL_NO_RWG,
135f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
136f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_mul_zpzz_h, TCG_CALL_NO_RWG,
137f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
138f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_mul_zpzz_s, TCG_CALL_NO_RWG,
139f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
140f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_mul_zpzz_d, TCG_CALL_NO_RWG,
141f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
142f97cfd59SRichard Henderson 
143f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smulh_zpzz_b, TCG_CALL_NO_RWG,
144f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
145f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smulh_zpzz_h, TCG_CALL_NO_RWG,
146f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
147f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smulh_zpzz_s, TCG_CALL_NO_RWG,
148f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
149f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smulh_zpzz_d, TCG_CALL_NO_RWG,
150f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
151f97cfd59SRichard Henderson 
152f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umulh_zpzz_b, TCG_CALL_NO_RWG,
153f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
154f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umulh_zpzz_h, TCG_CALL_NO_RWG,
155f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
156f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umulh_zpzz_s, TCG_CALL_NO_RWG,
157f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
158f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umulh_zpzz_d, TCG_CALL_NO_RWG,
159f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
160f97cfd59SRichard Henderson 
161f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sdiv_zpzz_s, TCG_CALL_NO_RWG,
162f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
163f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sdiv_zpzz_d, TCG_CALL_NO_RWG,
164f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
165f97cfd59SRichard Henderson 
166f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_udiv_zpzz_s, TCG_CALL_NO_RWG,
167f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
168f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_udiv_zpzz_d, TCG_CALL_NO_RWG,
169f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
170f97cfd59SRichard Henderson 
17127721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzz_b, TCG_CALL_NO_RWG,
17227721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
17327721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzz_h, TCG_CALL_NO_RWG,
17427721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
17527721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzz_s, TCG_CALL_NO_RWG,
17627721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
17727721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzz_d, TCG_CALL_NO_RWG,
17827721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
17927721dbbSRichard Henderson 
18027721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzz_b, TCG_CALL_NO_RWG,
18127721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
18227721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzz_h, TCG_CALL_NO_RWG,
18327721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
18427721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzz_s, TCG_CALL_NO_RWG,
18527721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
18627721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzz_d, TCG_CALL_NO_RWG,
18727721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
18827721dbbSRichard Henderson 
18927721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzz_b, TCG_CALL_NO_RWG,
19027721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
19127721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzz_h, TCG_CALL_NO_RWG,
19227721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
19327721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzz_s, TCG_CALL_NO_RWG,
19427721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
19527721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzz_d, TCG_CALL_NO_RWG,
19627721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
19727721dbbSRichard Henderson 
198d3fe4a29SRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_zpzz_b, TCG_CALL_NO_RWG,
199d3fe4a29SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
200d3fe4a29SRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_zpzz_h, TCG_CALL_NO_RWG,
201d3fe4a29SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
202d3fe4a29SRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_zpzz_s, TCG_CALL_NO_RWG,
203d3fe4a29SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
204d3fe4a29SRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_zpzz_d, TCG_CALL_NO_RWG,
205d3fe4a29SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
206d3fe4a29SRichard Henderson 
207fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzw_b, TCG_CALL_NO_RWG,
208fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
209fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzw_h, TCG_CALL_NO_RWG,
210fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
211fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzw_s, TCG_CALL_NO_RWG,
212fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
213fe7f8dfbSRichard Henderson 
214fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzw_b, TCG_CALL_NO_RWG,
215fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
216fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzw_h, TCG_CALL_NO_RWG,
217fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
218fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzw_s, TCG_CALL_NO_RWG,
219fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
220fe7f8dfbSRichard Henderson 
221fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzw_b, TCG_CALL_NO_RWG,
222fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
223fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzw_h, TCG_CALL_NO_RWG,
224fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
225fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzw_s, TCG_CALL_NO_RWG,
226fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
227fe7f8dfbSRichard Henderson 
228047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_orv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
229047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_orv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
230047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_orv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
231047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_orv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
232047cec97SRichard Henderson 
233047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_eorv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
234047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_eorv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
235047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_eorv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
236047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_eorv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
237047cec97SRichard Henderson 
238047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_andv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
239047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_andv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
240047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_andv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
241047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_andv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
242047cec97SRichard Henderson 
243047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_saddv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
244047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_saddv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
245047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_saddv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
246047cec97SRichard Henderson 
247047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uaddv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
248047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uaddv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
249047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uaddv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
250047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uaddv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
251047cec97SRichard Henderson 
252047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_smaxv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
253047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_smaxv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
254047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_smaxv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
255047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_smaxv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
256047cec97SRichard Henderson 
257047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_umaxv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
258047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_umaxv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
259047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_umaxv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
260047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_umaxv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
261047cec97SRichard Henderson 
262047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_sminv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
263047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_sminv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
264047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_sminv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
265047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_sminv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
266047cec97SRichard Henderson 
267047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uminv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
268047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uminv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
269047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uminv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
270047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uminv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
271047cec97SRichard Henderson 
272ccd841c3SRichard Henderson DEF_HELPER_FLAGS_3(sve_clr_b, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
273ccd841c3SRichard Henderson DEF_HELPER_FLAGS_3(sve_clr_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
274ccd841c3SRichard Henderson DEF_HELPER_FLAGS_3(sve_clr_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
275ccd841c3SRichard Henderson DEF_HELPER_FLAGS_3(sve_clr_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
276ccd841c3SRichard Henderson 
27768459864SRichard Henderson DEF_HELPER_FLAGS_4(sve_movz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
27868459864SRichard Henderson DEF_HELPER_FLAGS_4(sve_movz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
27968459864SRichard Henderson DEF_HELPER_FLAGS_4(sve_movz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
28068459864SRichard Henderson DEF_HELPER_FLAGS_4(sve_movz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
28168459864SRichard Henderson 
282ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zpzi_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
283ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zpzi_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
284ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zpzi_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
285ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zpzi_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
286ccd841c3SRichard Henderson 
287ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zpzi_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
288ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zpzi_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
289ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zpzi_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
290ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zpzi_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
291ccd841c3SRichard Henderson 
292ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zpzi_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
293ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zpzi_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
294ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zpzi_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
295ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zpzi_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
296ccd841c3SRichard Henderson 
297ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asrd_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
298ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asrd_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
299ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asrd_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
300ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asrd_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
301ccd841c3SRichard Henderson 
302afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cls_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
303afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cls_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
304afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cls_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
305afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cls_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
306afac6d04SRichard Henderson 
307afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_clz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
308afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_clz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
309afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_clz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
310afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_clz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
311afac6d04SRichard Henderson 
312afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnt_zpz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
313afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnt_zpz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
314afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnt_zpz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
315afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnt_zpz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
316afac6d04SRichard Henderson 
317afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnot_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
318afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnot_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
319afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnot_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
320afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnot_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
321afac6d04SRichard Henderson 
322afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_fabs_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
323afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_fabs_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
324afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_fabs_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
325afac6d04SRichard Henderson 
326afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_fneg_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
327afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_fneg_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
328afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_fneg_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
329afac6d04SRichard Henderson 
330afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_not_zpz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
331afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_not_zpz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
332afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_not_zpz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
333afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_not_zpz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
334afac6d04SRichard Henderson 
335afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxtb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
336afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxtb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
337afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxtb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
338afac6d04SRichard Henderson 
339afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxtb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
340afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxtb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
341afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxtb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
342afac6d04SRichard Henderson 
343afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxth_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
344afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxth_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
345afac6d04SRichard Henderson 
346afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxth_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
347afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxth_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
348afac6d04SRichard Henderson 
349afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxtw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
350afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxtw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
351afac6d04SRichard Henderson 
352afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_abs_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
353afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_abs_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
354afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_abs_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
355afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_abs_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
356afac6d04SRichard Henderson 
357afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_neg_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
358afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_neg_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
359afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_neg_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
360afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_neg_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
361afac6d04SRichard Henderson 
36296a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mla_b, TCG_CALL_NO_RWG,
36396a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
36496a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mla_h, TCG_CALL_NO_RWG,
36596a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
36696a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mla_s, TCG_CALL_NO_RWG,
36796a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
36896a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mla_d, TCG_CALL_NO_RWG,
36996a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
37096a36e4aSRichard Henderson 
37196a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mls_b, TCG_CALL_NO_RWG,
37296a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
37396a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mls_h, TCG_CALL_NO_RWG,
37496a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
37596a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mls_s, TCG_CALL_NO_RWG,
37696a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
37796a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mls_d, TCG_CALL_NO_RWG,
37896a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
37996a36e4aSRichard Henderson 
3809a56c9c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_index_b, TCG_CALL_NO_RWG, void, ptr, i32, i32, i32)
3819a56c9c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_index_h, TCG_CALL_NO_RWG, void, ptr, i32, i32, i32)
3829a56c9c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_index_s, TCG_CALL_NO_RWG, void, ptr, i32, i32, i32)
3839a56c9c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_index_d, TCG_CALL_NO_RWG, void, ptr, i64, i64, i32)
3849a56c9c3SRichard Henderson 
385d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zzw_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
386d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zzw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
387d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zzw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
388d9d78dccSRichard Henderson 
389d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zzw_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
390d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zzw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
391d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zzw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
392d9d78dccSRichard Henderson 
393d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zzw_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
394d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zzw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
395d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zzw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
396d9d78dccSRichard Henderson 
3974b242d9cSRichard Henderson DEF_HELPER_FLAGS_4(sve_adr_p32, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
3984b242d9cSRichard Henderson DEF_HELPER_FLAGS_4(sve_adr_p64, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
3994b242d9cSRichard Henderson DEF_HELPER_FLAGS_4(sve_adr_s32, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
4004b242d9cSRichard Henderson DEF_HELPER_FLAGS_4(sve_adr_u32, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
4014b242d9cSRichard Henderson 
4020762cd42SRichard Henderson DEF_HELPER_FLAGS_3(sve_fexpa_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
4030762cd42SRichard Henderson DEF_HELPER_FLAGS_3(sve_fexpa_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
4040762cd42SRichard Henderson DEF_HELPER_FLAGS_3(sve_fexpa_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
4050762cd42SRichard Henderson 
406a1f233f2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ftssel_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
407a1f233f2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ftssel_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
408a1f233f2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ftssel_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
409a1f233f2SRichard Henderson 
41024e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_sqaddi_b, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
41124e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_sqaddi_h, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
41224e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_sqaddi_s, TCG_CALL_NO_RWG, void, ptr, ptr, s64, i32)
41324e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_sqaddi_d, TCG_CALL_NO_RWG, void, ptr, ptr, s64, i32)
41424e82e68SRichard Henderson 
41524e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_uqaddi_b, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
41624e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_uqaddi_h, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
41724e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_uqaddi_s, TCG_CALL_NO_RWG, void, ptr, ptr, s64, i32)
41824e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_uqaddi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
41924e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_uqsubi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
42024e82e68SRichard Henderson 
421f25a2361SRichard Henderson DEF_HELPER_FLAGS_5(sve_cpy_m_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
422f25a2361SRichard Henderson DEF_HELPER_FLAGS_5(sve_cpy_m_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
423f25a2361SRichard Henderson DEF_HELPER_FLAGS_5(sve_cpy_m_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
424f25a2361SRichard Henderson DEF_HELPER_FLAGS_5(sve_cpy_m_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
425f25a2361SRichard Henderson 
426f25a2361SRichard Henderson DEF_HELPER_FLAGS_4(sve_cpy_z_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
427f25a2361SRichard Henderson DEF_HELPER_FLAGS_4(sve_cpy_z_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
428f25a2361SRichard Henderson DEF_HELPER_FLAGS_4(sve_cpy_z_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
429f25a2361SRichard Henderson DEF_HELPER_FLAGS_4(sve_cpy_z_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
430f25a2361SRichard Henderson 
431b94f8f60SRichard Henderson DEF_HELPER_FLAGS_4(sve_ext, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
432b94f8f60SRichard Henderson 
43330562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_insr_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
43430562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_insr_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
43530562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_insr_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
43630562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_insr_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
43730562ab7SRichard Henderson 
43830562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_rev_b, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
43930562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_rev_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
44030562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_rev_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
44130562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_rev_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
44230562ab7SRichard Henderson 
44330562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_tbl_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
44430562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_tbl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
44530562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_tbl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
44630562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_tbl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
44730562ab7SRichard Henderson 
44830562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_sunpk_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
44930562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_sunpk_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
45030562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_sunpk_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
45130562ab7SRichard Henderson 
45230562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_uunpk_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
45330562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_uunpk_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
45430562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_uunpk_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
45530562ab7SRichard Henderson 
456d731d8cbSRichard Henderson DEF_HELPER_FLAGS_4(sve_zip_p, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
457d731d8cbSRichard Henderson DEF_HELPER_FLAGS_4(sve_uzp_p, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
458d731d8cbSRichard Henderson DEF_HELPER_FLAGS_4(sve_trn_p, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
459d731d8cbSRichard Henderson DEF_HELPER_FLAGS_3(sve_rev_p, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
460d731d8cbSRichard Henderson DEF_HELPER_FLAGS_3(sve_punpk_p, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
461d731d8cbSRichard Henderson 
462234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_zip_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
463234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_zip_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
464234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_zip_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
465234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_zip_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
466234b48e9SRichard Henderson 
467234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_uzp_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
468234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_uzp_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
469234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_uzp_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
470234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_uzp_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
471234b48e9SRichard Henderson 
472234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_trn_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
473234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_trn_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
474234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_trn_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
475234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_trn_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
476234b48e9SRichard Henderson 
4773ca879aeSRichard Henderson DEF_HELPER_FLAGS_4(sve_compact_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
4783ca879aeSRichard Henderson DEF_HELPER_FLAGS_4(sve_compact_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
4793ca879aeSRichard Henderson 
480ef23cb72SRichard Henderson DEF_HELPER_FLAGS_2(sve_last_active_element, TCG_CALL_NO_RWG, s32, ptr, i32)
481ef23cb72SRichard Henderson 
482dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_revb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
483dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_revb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
484dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_revb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
485dae8fb90SRichard Henderson 
486dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_revh_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
487dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_revh_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
488dae8fb90SRichard Henderson 
489dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_revw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
490dae8fb90SRichard Henderson 
491dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_rbit_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
492dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_rbit_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
493dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_rbit_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
494dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_rbit_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
495dae8fb90SRichard Henderson 
496b48ff240SRichard Henderson DEF_HELPER_FLAGS_5(sve_splice, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
497b48ff240SRichard Henderson 
498757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_b, TCG_CALL_NO_RWG,
499757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
500757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_b, TCG_CALL_NO_RWG,
501757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
502757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_b, TCG_CALL_NO_RWG,
503757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
504757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_b, TCG_CALL_NO_RWG,
505757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
506757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_b, TCG_CALL_NO_RWG,
507757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
508757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_b, TCG_CALL_NO_RWG,
509757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
510757f9cffSRichard Henderson 
511757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_h, TCG_CALL_NO_RWG,
512757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
513757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_h, TCG_CALL_NO_RWG,
514757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
515757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_h, TCG_CALL_NO_RWG,
516757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
517757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_h, TCG_CALL_NO_RWG,
518757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
519757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_h, TCG_CALL_NO_RWG,
520757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
521757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_h, TCG_CALL_NO_RWG,
522757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
523757f9cffSRichard Henderson 
524757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_s, TCG_CALL_NO_RWG,
525757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
526757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_s, TCG_CALL_NO_RWG,
527757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
528757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_s, TCG_CALL_NO_RWG,
529757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
530757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_s, TCG_CALL_NO_RWG,
531757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
532757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_s, TCG_CALL_NO_RWG,
533757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
534757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_s, TCG_CALL_NO_RWG,
535757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
536757f9cffSRichard Henderson 
537757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_d, TCG_CALL_NO_RWG,
538757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
539757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_d, TCG_CALL_NO_RWG,
540757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
541757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_d, TCG_CALL_NO_RWG,
542757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
543757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_d, TCG_CALL_NO_RWG,
544757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
545757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_d, TCG_CALL_NO_RWG,
546757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
547757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_d, TCG_CALL_NO_RWG,
548757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
549757f9cffSRichard Henderson 
550757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzw_b, TCG_CALL_NO_RWG,
551757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
552757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzw_b, TCG_CALL_NO_RWG,
553757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
554757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzw_b, TCG_CALL_NO_RWG,
555757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
556757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzw_b, TCG_CALL_NO_RWG,
557757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
558757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzw_b, TCG_CALL_NO_RWG,
559757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
560757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzw_b, TCG_CALL_NO_RWG,
561757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
562757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmple_ppzw_b, TCG_CALL_NO_RWG,
563757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
564757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplt_ppzw_b, TCG_CALL_NO_RWG,
565757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
566757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplo_ppzw_b, TCG_CALL_NO_RWG,
567757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
568757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpls_ppzw_b, TCG_CALL_NO_RWG,
569757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
570757f9cffSRichard Henderson 
571757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzw_h, TCG_CALL_NO_RWG,
572757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
573757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzw_h, TCG_CALL_NO_RWG,
574757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
575757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzw_h, TCG_CALL_NO_RWG,
576757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
577757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzw_h, TCG_CALL_NO_RWG,
578757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
579757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzw_h, TCG_CALL_NO_RWG,
580757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
581757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzw_h, TCG_CALL_NO_RWG,
582757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
583757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmple_ppzw_h, TCG_CALL_NO_RWG,
584757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
585757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplt_ppzw_h, TCG_CALL_NO_RWG,
586757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
587757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplo_ppzw_h, TCG_CALL_NO_RWG,
588757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
589757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpls_ppzw_h, TCG_CALL_NO_RWG,
590757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
591757f9cffSRichard Henderson 
592757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzw_s, TCG_CALL_NO_RWG,
593757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
594757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzw_s, TCG_CALL_NO_RWG,
595757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
596757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzw_s, TCG_CALL_NO_RWG,
597757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
598757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzw_s, TCG_CALL_NO_RWG,
599757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
600757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzw_s, TCG_CALL_NO_RWG,
601757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
602757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzw_s, TCG_CALL_NO_RWG,
603757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
604757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmple_ppzw_s, TCG_CALL_NO_RWG,
605757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
606757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplt_ppzw_s, TCG_CALL_NO_RWG,
607757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
608757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplo_ppzw_s, TCG_CALL_NO_RWG,
609757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
610757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpls_ppzw_s, TCG_CALL_NO_RWG,
611757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
612757f9cffSRichard Henderson 
61338cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
61438cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
61538cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
61638cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
61738cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
61838cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmple_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
61938cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
62038cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
62138cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
62238cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
62338cadebaSRichard Henderson 
62438cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
62538cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
62638cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
62738cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
62838cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
62938cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmple_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
63038cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
63138cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
63238cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
63338cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
63438cadebaSRichard Henderson 
63538cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
63638cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
63738cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
63838cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
63938cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
64038cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmple_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
64138cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
64238cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
64338cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
64438cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
64538cadebaSRichard Henderson 
64638cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
64738cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
64838cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
64938cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
65038cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
65138cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmple_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
65238cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
65338cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
65438cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
65538cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
65638cadebaSRichard Henderson 
657516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_and_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
658516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_bic_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
659516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_eor_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
660516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
661516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_orr_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
662516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_orn_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
663516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_nor_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
664516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_nand_pppp, TCG_CALL_NO_RWG,
665516e246aSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
66635da316fSRichard Henderson 
66735da316fSRichard Henderson DEF_HELPER_FLAGS_5(sve_brkpa, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
66835da316fSRichard Henderson DEF_HELPER_FLAGS_5(sve_brkpb, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
66935da316fSRichard Henderson DEF_HELPER_FLAGS_5(sve_brkpas, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, ptr, i32)
67035da316fSRichard Henderson DEF_HELPER_FLAGS_5(sve_brkpbs, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, ptr, i32)
67135da316fSRichard Henderson 
67235da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brka_z, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
67335da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkb_z, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
67435da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brka_m, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
67535da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkb_m, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
67635da316fSRichard Henderson 
67735da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkas_z, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
67835da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkbs_z, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
67935da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkas_m, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
68035da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkbs_m, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
68135da316fSRichard Henderson 
68235da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkn, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
68335da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkns, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
6849ee3a611SRichard Henderson 
6859ee3a611SRichard Henderson DEF_HELPER_FLAGS_3(sve_cntp, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
686caf1cefcSRichard Henderson 
687caf1cefcSRichard Henderson DEF_HELPER_FLAGS_3(sve_while, TCG_CALL_NO_RWG, i32, ptr, i32, i32)
6886e6a157dSRichard Henderson 
6896e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_subri_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
6906e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_subri_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
6916e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_subri_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
6926e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_subri_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
6936e6a157dSRichard Henderson 
6946e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smaxi_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
6956e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smaxi_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
6966e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smaxi_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
6976e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smaxi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
6986e6a157dSRichard Henderson 
6996e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smini_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7006e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smini_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7016e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smini_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7026e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smini_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7036e6a157dSRichard Henderson 
7046e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umaxi_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7056e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umaxi_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7066e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umaxi_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7076e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umaxi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7086e6a157dSRichard Henderson 
7096e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umini_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7106e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umini_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7116e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umini_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7126e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umini_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
71329b80469SRichard Henderson 
71429b80469SRichard Henderson DEF_HELPER_FLAGS_5(gvec_recps_h, TCG_CALL_NO_RWG,
71529b80469SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
71629b80469SRichard Henderson DEF_HELPER_FLAGS_5(gvec_recps_s, TCG_CALL_NO_RWG,
71729b80469SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
71829b80469SRichard Henderson DEF_HELPER_FLAGS_5(gvec_recps_d, TCG_CALL_NO_RWG,
71929b80469SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
72029b80469SRichard Henderson 
72129b80469SRichard Henderson DEF_HELPER_FLAGS_5(gvec_rsqrts_h, TCG_CALL_NO_RWG,
72229b80469SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
72329b80469SRichard Henderson DEF_HELPER_FLAGS_5(gvec_rsqrts_s, TCG_CALL_NO_RWG,
72429b80469SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
72529b80469SRichard Henderson DEF_HELPER_FLAGS_5(gvec_rsqrts_d, TCG_CALL_NO_RWG,
72629b80469SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
727c4e7c493SRichard Henderson 
72823fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_faddv_h, TCG_CALL_NO_RWG,
72923fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
73023fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_faddv_s, TCG_CALL_NO_RWG,
73123fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
73223fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_faddv_d, TCG_CALL_NO_RWG,
73323fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
73423fbe79fSRichard Henderson 
73523fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxnmv_h, TCG_CALL_NO_RWG,
73623fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
73723fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxnmv_s, TCG_CALL_NO_RWG,
73823fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
73923fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxnmv_d, TCG_CALL_NO_RWG,
74023fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
74123fbe79fSRichard Henderson 
74223fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fminnmv_h, TCG_CALL_NO_RWG,
74323fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
74423fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fminnmv_s, TCG_CALL_NO_RWG,
74523fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
74623fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fminnmv_d, TCG_CALL_NO_RWG,
74723fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
74823fbe79fSRichard Henderson 
74923fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxv_h, TCG_CALL_NO_RWG,
75023fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
75123fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxv_s, TCG_CALL_NO_RWG,
75223fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
75323fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxv_d, TCG_CALL_NO_RWG,
75423fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
75523fbe79fSRichard Henderson 
75623fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fminv_h, TCG_CALL_NO_RWG,
75723fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
75823fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fminv_s, TCG_CALL_NO_RWG,
75923fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
76023fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fminv_d, TCG_CALL_NO_RWG,
76123fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
76223fbe79fSRichard Henderson 
7637f9ddf64SRichard Henderson DEF_HELPER_FLAGS_5(sve_fadda_h, TCG_CALL_NO_RWG,
7647f9ddf64SRichard Henderson                    i64, i64, ptr, ptr, ptr, i32)
7657f9ddf64SRichard Henderson DEF_HELPER_FLAGS_5(sve_fadda_s, TCG_CALL_NO_RWG,
7667f9ddf64SRichard Henderson                    i64, i64, ptr, ptr, ptr, i32)
7677f9ddf64SRichard Henderson DEF_HELPER_FLAGS_5(sve_fadda_d, TCG_CALL_NO_RWG,
7687f9ddf64SRichard Henderson                    i64, i64, ptr, ptr, ptr, i32)
7697f9ddf64SRichard Henderson 
770ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fadd_h, TCG_CALL_NO_RWG,
771ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
772ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fadd_s, TCG_CALL_NO_RWG,
773ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
774ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fadd_d, TCG_CALL_NO_RWG,
775ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
776ec3b87c2SRichard Henderson 
777ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fsub_h, TCG_CALL_NO_RWG,
778ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
779ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fsub_s, TCG_CALL_NO_RWG,
780ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
781ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fsub_d, TCG_CALL_NO_RWG,
782ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
783ec3b87c2SRichard Henderson 
784ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmul_h, TCG_CALL_NO_RWG,
785ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
786ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmul_s, TCG_CALL_NO_RWG,
787ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
788ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmul_d, TCG_CALL_NO_RWG,
789ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
790ec3b87c2SRichard Henderson 
791ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fdiv_h, TCG_CALL_NO_RWG,
792ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
793ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fdiv_s, TCG_CALL_NO_RWG,
794ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
795ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fdiv_d, TCG_CALL_NO_RWG,
796ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
797ec3b87c2SRichard Henderson 
798ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmin_h, TCG_CALL_NO_RWG,
799ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
800ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmin_s, TCG_CALL_NO_RWG,
801ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
802ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmin_d, TCG_CALL_NO_RWG,
803ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
804ec3b87c2SRichard Henderson 
805ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmax_h, TCG_CALL_NO_RWG,
806ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
807ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmax_s, TCG_CALL_NO_RWG,
808ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
809ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmax_d, TCG_CALL_NO_RWG,
810ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
811ec3b87c2SRichard Henderson 
812ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnum_h, TCG_CALL_NO_RWG,
813ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
814ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnum_s, TCG_CALL_NO_RWG,
815ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
816ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnum_d, TCG_CALL_NO_RWG,
817ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
818ec3b87c2SRichard Henderson 
819ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnum_h, TCG_CALL_NO_RWG,
820ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
821ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnum_s, TCG_CALL_NO_RWG,
822ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
823ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnum_d, TCG_CALL_NO_RWG,
824ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
825ec3b87c2SRichard Henderson 
826ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fabd_h, TCG_CALL_NO_RWG,
827ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
828ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fabd_s, TCG_CALL_NO_RWG,
829ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
830ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fabd_d, TCG_CALL_NO_RWG,
831ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
832ec3b87c2SRichard Henderson 
833ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fscalbn_h, TCG_CALL_NO_RWG,
834ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
835ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fscalbn_s, TCG_CALL_NO_RWG,
836ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
837ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fscalbn_d, TCG_CALL_NO_RWG,
838ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
839ec3b87c2SRichard Henderson 
840ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmulx_h, TCG_CALL_NO_RWG,
841ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
842ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmulx_s, TCG_CALL_NO_RWG,
843ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
844ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmulx_d, TCG_CALL_NO_RWG,
845ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
846ec3b87c2SRichard Henderson 
847cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fadds_h, TCG_CALL_NO_RWG,
848cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
849cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fadds_s, TCG_CALL_NO_RWG,
850cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
851cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fadds_d, TCG_CALL_NO_RWG,
852cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
853cc48affeSRichard Henderson 
854cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubs_h, TCG_CALL_NO_RWG,
855cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
856cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubs_s, TCG_CALL_NO_RWG,
857cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
858cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubs_d, TCG_CALL_NO_RWG,
859cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
860cc48affeSRichard Henderson 
861cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmuls_h, TCG_CALL_NO_RWG,
862cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
863cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmuls_s, TCG_CALL_NO_RWG,
864cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
865cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmuls_d, TCG_CALL_NO_RWG,
866cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
867cc48affeSRichard Henderson 
868cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubrs_h, TCG_CALL_NO_RWG,
869cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
870cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubrs_s, TCG_CALL_NO_RWG,
871cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
872cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubrs_d, TCG_CALL_NO_RWG,
873cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
874cc48affeSRichard Henderson 
875cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnms_h, TCG_CALL_NO_RWG,
876cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
877cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnms_s, TCG_CALL_NO_RWG,
878cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
879cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnms_d, TCG_CALL_NO_RWG,
880cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
881cc48affeSRichard Henderson 
882cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnms_h, TCG_CALL_NO_RWG,
883cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
884cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnms_s, TCG_CALL_NO_RWG,
885cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
886cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnms_d, TCG_CALL_NO_RWG,
887cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
888cc48affeSRichard Henderson 
889cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxs_h, TCG_CALL_NO_RWG,
890cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
891cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxs_s, TCG_CALL_NO_RWG,
892cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
893cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxs_d, TCG_CALL_NO_RWG,
894cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
895cc48affeSRichard Henderson 
896cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmins_h, TCG_CALL_NO_RWG,
897cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
898cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmins_s, TCG_CALL_NO_RWG,
899cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
900cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmins_d, TCG_CALL_NO_RWG,
901cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
902cc48affeSRichard Henderson 
9038092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_hh, TCG_CALL_NO_RWG,
9048092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
9058092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_sh, TCG_CALL_NO_RWG,
9068092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
9078092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_dh, TCG_CALL_NO_RWG,
9088092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
9098092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_ss, TCG_CALL_NO_RWG,
9108092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
9118092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_sd, TCG_CALL_NO_RWG,
9128092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
9138092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_ds, TCG_CALL_NO_RWG,
9148092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
9158092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_dd, TCG_CALL_NO_RWG,
9168092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
9178092c6a3SRichard Henderson 
9188092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_hh, TCG_CALL_NO_RWG,
9198092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
9208092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_sh, TCG_CALL_NO_RWG,
9218092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
9228092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_dh, TCG_CALL_NO_RWG,
9238092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
9248092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_ss, TCG_CALL_NO_RWG,
9258092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
9268092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_sd, TCG_CALL_NO_RWG,
9278092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
9288092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_ds, TCG_CALL_NO_RWG,
9298092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
9308092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_dd, TCG_CALL_NO_RWG,
9318092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
9328092c6a3SRichard Henderson 
933abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmge_h, TCG_CALL_NO_RWG,
934abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
935abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmge_s, TCG_CALL_NO_RWG,
936abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
937abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmge_d, TCG_CALL_NO_RWG,
938abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
939abfdefd5SRichard Henderson 
940abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmgt_h, TCG_CALL_NO_RWG,
941abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
942abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmgt_s, TCG_CALL_NO_RWG,
943abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
944abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmgt_d, TCG_CALL_NO_RWG,
945abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
946abfdefd5SRichard Henderson 
947abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmeq_h, TCG_CALL_NO_RWG,
948abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
949abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmeq_s, TCG_CALL_NO_RWG,
950abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
951abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmeq_d, TCG_CALL_NO_RWG,
952abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
953abfdefd5SRichard Henderson 
954abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmne_h, TCG_CALL_NO_RWG,
955abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
956abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmne_s, TCG_CALL_NO_RWG,
957abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
958abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmne_d, TCG_CALL_NO_RWG,
959abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
960abfdefd5SRichard Henderson 
961abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmuo_h, TCG_CALL_NO_RWG,
962abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
963abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmuo_s, TCG_CALL_NO_RWG,
964abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
965abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmuo_d, TCG_CALL_NO_RWG,
966abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
967abfdefd5SRichard Henderson 
968abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facge_h, TCG_CALL_NO_RWG,
969abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
970abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facge_s, TCG_CALL_NO_RWG,
971abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
972abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facge_d, TCG_CALL_NO_RWG,
973abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
974abfdefd5SRichard Henderson 
975abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facgt_h, TCG_CALL_NO_RWG,
976abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
977abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facgt_s, TCG_CALL_NO_RWG,
978abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
979abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facgt_d, TCG_CALL_NO_RWG,
980abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
981abfdefd5SRichard Henderson 
9826ceabaadSRichard Henderson DEF_HELPER_FLAGS_3(sve_fmla_zpzzz_h, TCG_CALL_NO_RWG, void, env, ptr, i32)
9836ceabaadSRichard Henderson DEF_HELPER_FLAGS_3(sve_fmla_zpzzz_s, TCG_CALL_NO_RWG, void, env, ptr, i32)
9846ceabaadSRichard Henderson DEF_HELPER_FLAGS_3(sve_fmla_zpzzz_d, TCG_CALL_NO_RWG, void, env, ptr, i32)
9856ceabaadSRichard Henderson 
9866ceabaadSRichard Henderson DEF_HELPER_FLAGS_3(sve_fmls_zpzzz_h, TCG_CALL_NO_RWG, void, env, ptr, i32)
9876ceabaadSRichard Henderson DEF_HELPER_FLAGS_3(sve_fmls_zpzzz_s, TCG_CALL_NO_RWG, void, env, ptr, i32)
9886ceabaadSRichard Henderson DEF_HELPER_FLAGS_3(sve_fmls_zpzzz_d, TCG_CALL_NO_RWG, void, env, ptr, i32)
9896ceabaadSRichard Henderson 
9906ceabaadSRichard Henderson DEF_HELPER_FLAGS_3(sve_fnmla_zpzzz_h, TCG_CALL_NO_RWG, void, env, ptr, i32)
9916ceabaadSRichard Henderson DEF_HELPER_FLAGS_3(sve_fnmla_zpzzz_s, TCG_CALL_NO_RWG, void, env, ptr, i32)
9926ceabaadSRichard Henderson DEF_HELPER_FLAGS_3(sve_fnmla_zpzzz_d, TCG_CALL_NO_RWG, void, env, ptr, i32)
9936ceabaadSRichard Henderson 
9946ceabaadSRichard Henderson DEF_HELPER_FLAGS_3(sve_fnmls_zpzzz_h, TCG_CALL_NO_RWG, void, env, ptr, i32)
9956ceabaadSRichard Henderson DEF_HELPER_FLAGS_3(sve_fnmls_zpzzz_s, TCG_CALL_NO_RWG, void, env, ptr, i32)
9966ceabaadSRichard Henderson DEF_HELPER_FLAGS_3(sve_fnmls_zpzzz_d, TCG_CALL_NO_RWG, void, env, ptr, i32)
9976ceabaadSRichard Henderson 
998c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
999c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1000c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1001c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1002c4e7c493SRichard Henderson 
1003c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hh_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1004c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2hh_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1005c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3hh_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1006c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4hh_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1007c4e7c493SRichard Henderson 
1008c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1ss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1009c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2ss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1010c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3ss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1011c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4ss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1012c4e7c493SRichard Henderson 
1013c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1dd_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1014c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2dd_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1015c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3dd_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1016c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4dd_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1017c4e7c493SRichard Henderson 
1018c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bhu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1019c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bsu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1020c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1021c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bhs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1022c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1023c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1024c4e7c493SRichard Henderson 
1025c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hsu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1026c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1027c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1028c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1029c4e7c493SRichard Henderson 
1030c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1031c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1032e2654d75SRichard Henderson 
1033e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1034e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bhu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1035e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bsu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1036e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1037e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bhs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1038e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1039e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1040e2654d75SRichard Henderson 
1041e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hh_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1042e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hsu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1043e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1044e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1045e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1046e2654d75SRichard Henderson 
1047e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1ss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1048e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1049e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1050e2654d75SRichard Henderson 
1051e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1dd_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1052e2654d75SRichard Henderson 
1053e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1054e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bhu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1055e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bsu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1056e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1057e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bhs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1058e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1059e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1060e2654d75SRichard Henderson 
1061e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hh_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1062e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hsu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1063e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1064e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1065e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1066e2654d75SRichard Henderson 
1067e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1ss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1068e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1069e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1070e2654d75SRichard Henderson 
1071e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1dd_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
10721a039c7eSRichard Henderson 
10731a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
10741a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st2bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
10751a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st3bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
10761a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st4bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
10771a039c7eSRichard Henderson 
10781a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hh_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
10791a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st2hh_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
10801a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st3hh_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
10811a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st4hh_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
10821a039c7eSRichard Henderson 
10831a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1ss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
10841a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st2ss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
10851a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st3ss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
10861a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st4ss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
10871a039c7eSRichard Henderson 
10881a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1dd_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
10891a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st2dd_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
10901a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st3dd_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
10911a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st4dd_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
10921a039c7eSRichard Henderson 
10931a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bh_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
10941a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
10951a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bd_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
10961a039c7eSRichard Henderson 
10971a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
10981a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hd_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
10991a039c7eSRichard Henderson 
11001a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1sd_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1101f6dbf62aSRichard Henderson 
1102673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbsu_zsu, TCG_CALL_NO_WG,
1103673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1104673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_zsu, TCG_CALL_NO_WG,
1105673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1106673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldssu_zsu, TCG_CALL_NO_WG,
1107673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1108673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbss_zsu, TCG_CALL_NO_WG,
1109673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1110673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_zsu, TCG_CALL_NO_WG,
1111673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1112673e9fa6SRichard Henderson 
1113673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbsu_zss, TCG_CALL_NO_WG,
1114673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1115673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_zss, TCG_CALL_NO_WG,
1116673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1117673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldssu_zss, TCG_CALL_NO_WG,
1118673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1119673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbss_zss, TCG_CALL_NO_WG,
1120673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1121673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_zss, TCG_CALL_NO_WG,
1122673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1123673e9fa6SRichard Henderson 
1124673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zsu, TCG_CALL_NO_WG,
1125673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1126673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_zsu, TCG_CALL_NO_WG,
1127673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1128673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_zsu, TCG_CALL_NO_WG,
1129673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1130673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldddu_zsu, TCG_CALL_NO_WG,
1131673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1132673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zsu, TCG_CALL_NO_WG,
1133673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1134673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_zsu, TCG_CALL_NO_WG,
1135673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1136673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_zsu, TCG_CALL_NO_WG,
1137673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1138673e9fa6SRichard Henderson 
1139673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zss, TCG_CALL_NO_WG,
1140673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1141673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_zss, TCG_CALL_NO_WG,
1142673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1143673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_zss, TCG_CALL_NO_WG,
1144673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1145673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldddu_zss, TCG_CALL_NO_WG,
1146673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1147673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zss, TCG_CALL_NO_WG,
1148673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1149673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_zss, TCG_CALL_NO_WG,
1150673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1151673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_zss, TCG_CALL_NO_WG,
1152673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1153673e9fa6SRichard Henderson 
1154673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zd, TCG_CALL_NO_WG,
1155673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1156673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_zd, TCG_CALL_NO_WG,
1157673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1158673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_zd, TCG_CALL_NO_WG,
1159673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1160673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldddu_zd, TCG_CALL_NO_WG,
1161673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1162673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zd, TCG_CALL_NO_WG,
1163673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1164673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_zd, TCG_CALL_NO_WG,
1165673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1166673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_zd, TCG_CALL_NO_WG,
1167673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1168673e9fa6SRichard Henderson 
1169ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbsu_zsu, TCG_CALL_NO_WG,
1170ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1171ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_zsu, TCG_CALL_NO_WG,
1172ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1173ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffssu_zsu, TCG_CALL_NO_WG,
1174ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1175ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbss_zsu, TCG_CALL_NO_WG,
1176ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1177ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_zsu, TCG_CALL_NO_WG,
1178ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1179ed67eb7fSRichard Henderson 
1180ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbsu_zss, TCG_CALL_NO_WG,
1181ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1182ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_zss, TCG_CALL_NO_WG,
1183ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1184ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffssu_zss, TCG_CALL_NO_WG,
1185ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1186ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbss_zss, TCG_CALL_NO_WG,
1187ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1188ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_zss, TCG_CALL_NO_WG,
1189ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1190ed67eb7fSRichard Henderson 
1191ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zsu, TCG_CALL_NO_WG,
1192ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1193ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_zsu, TCG_CALL_NO_WG,
1194ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1195ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_zsu, TCG_CALL_NO_WG,
1196ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1197ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffddu_zsu, TCG_CALL_NO_WG,
1198ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1199ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zsu, TCG_CALL_NO_WG,
1200ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1201ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_zsu, TCG_CALL_NO_WG,
1202ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1203ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_zsu, TCG_CALL_NO_WG,
1204ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1205ed67eb7fSRichard Henderson 
1206ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zss, TCG_CALL_NO_WG,
1207ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1208ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_zss, TCG_CALL_NO_WG,
1209ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1210ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_zss, TCG_CALL_NO_WG,
1211ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1212ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffddu_zss, TCG_CALL_NO_WG,
1213ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1214ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zss, TCG_CALL_NO_WG,
1215ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1216ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_zss, TCG_CALL_NO_WG,
1217ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1218ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_zss, TCG_CALL_NO_WG,
1219ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1220ed67eb7fSRichard Henderson 
1221ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zd, TCG_CALL_NO_WG,
1222ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1223ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_zd, TCG_CALL_NO_WG,
1224ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1225ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_zd, TCG_CALL_NO_WG,
1226ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1227ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffddu_zd, TCG_CALL_NO_WG,
1228ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1229ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zd, TCG_CALL_NO_WG,
1230ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1231ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_zd, TCG_CALL_NO_WG,
1232ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1233ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_zd, TCG_CALL_NO_WG,
1234ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1235ed67eb7fSRichard Henderson 
1236f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stbs_zsu, TCG_CALL_NO_WG,
1237f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1238f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_zsu, TCG_CALL_NO_WG,
1239f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1240f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_zsu, TCG_CALL_NO_WG,
1241f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1242f6dbf62aSRichard Henderson 
1243f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stbs_zss, TCG_CALL_NO_WG,
1244f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1245f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_zss, TCG_CALL_NO_WG,
1246f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1247f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_zss, TCG_CALL_NO_WG,
1248f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1249f6dbf62aSRichard Henderson 
1250f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zsu, TCG_CALL_NO_WG,
1251f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1252f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_zsu, TCG_CALL_NO_WG,
1253f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1254f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_zsu, TCG_CALL_NO_WG,
1255f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1256f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_zsu, TCG_CALL_NO_WG,
1257f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1258f6dbf62aSRichard Henderson 
1259f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zss, TCG_CALL_NO_WG,
1260f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1261f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_zss, TCG_CALL_NO_WG,
1262f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1263f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_zss, TCG_CALL_NO_WG,
1264f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1265f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_zss, TCG_CALL_NO_WG,
1266f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1267f6dbf62aSRichard Henderson 
1268f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zd, TCG_CALL_NO_WG,
1269f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1270f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_zd, TCG_CALL_NO_WG,
1271f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1272f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_zd, TCG_CALL_NO_WG,
1273f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1274f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_zd, TCG_CALL_NO_WG,
1275f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1276