xref: /qemu/target/arm/tcg/helper-sve.h (revision db366da809bf18749e43f6cbd947ffc596500675)
19e18d7a6SRichard Henderson /*
29e18d7a6SRichard Henderson  *  AArch64 SVE specific helper definitions
39e18d7a6SRichard Henderson  *
49e18d7a6SRichard Henderson  *  Copyright (c) 2018 Linaro, Ltd
59e18d7a6SRichard Henderson  *
69e18d7a6SRichard Henderson  * This library is free software; you can redistribute it and/or
79e18d7a6SRichard Henderson  * modify it under the terms of the GNU Lesser General Public
89e18d7a6SRichard Henderson  * License as published by the Free Software Foundation; either
950f57e09SChetan Pant  * version 2.1 of the License, or (at your option) any later version.
109e18d7a6SRichard Henderson  *
119e18d7a6SRichard Henderson  * This library is distributed in the hope that it will be useful,
129e18d7a6SRichard Henderson  * but WITHOUT ANY WARRANTY; without even the implied warranty of
139e18d7a6SRichard Henderson  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
149e18d7a6SRichard Henderson  * Lesser General Public License for more details.
159e18d7a6SRichard Henderson  *
169e18d7a6SRichard Henderson  * You should have received a copy of the GNU Lesser General Public
179e18d7a6SRichard Henderson  * License along with this library; if not, see <http://www.gnu.org/licenses/>.
189e18d7a6SRichard Henderson  */
199e18d7a6SRichard Henderson 
209e18d7a6SRichard Henderson DEF_HELPER_FLAGS_2(sve_predtest1, TCG_CALL_NO_WG, i32, i64, i64)
219e18d7a6SRichard Henderson DEF_HELPER_FLAGS_3(sve_predtest, TCG_CALL_NO_WG, i32, ptr, ptr, i32)
22516e246aSRichard Henderson 
23028e2a7bSRichard Henderson DEF_HELPER_FLAGS_3(sve_pfirst, TCG_CALL_NO_WG, i32, ptr, ptr, i32)
24028e2a7bSRichard Henderson DEF_HELPER_FLAGS_3(sve_pnext, TCG_CALL_NO_WG, i32, ptr, ptr, i32)
25028e2a7bSRichard Henderson 
26f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_and_zpzz_b, TCG_CALL_NO_RWG,
27f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
28f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_and_zpzz_h, TCG_CALL_NO_RWG,
29f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
30f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_and_zpzz_s, TCG_CALL_NO_RWG,
31f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
32f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_and_zpzz_d, TCG_CALL_NO_RWG,
33f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
34f97cfd59SRichard Henderson 
35f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_eor_zpzz_b, TCG_CALL_NO_RWG,
36f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
37f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_eor_zpzz_h, TCG_CALL_NO_RWG,
38f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
39f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_eor_zpzz_s, TCG_CALL_NO_RWG,
40f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
41f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_eor_zpzz_d, TCG_CALL_NO_RWG,
42f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
43f97cfd59SRichard Henderson 
44f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_orr_zpzz_b, TCG_CALL_NO_RWG,
45f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
46f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_orr_zpzz_h, TCG_CALL_NO_RWG,
47f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
48f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_orr_zpzz_s, TCG_CALL_NO_RWG,
49f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
50f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_orr_zpzz_d, TCG_CALL_NO_RWG,
51f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
52f97cfd59SRichard Henderson 
53f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_bic_zpzz_b, TCG_CALL_NO_RWG,
54f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
55f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_bic_zpzz_h, TCG_CALL_NO_RWG,
56f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
57f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_bic_zpzz_s, TCG_CALL_NO_RWG,
58f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
59f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_bic_zpzz_d, TCG_CALL_NO_RWG,
60f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
61f97cfd59SRichard Henderson 
62f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_add_zpzz_b, TCG_CALL_NO_RWG,
63f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
64f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_add_zpzz_h, TCG_CALL_NO_RWG,
65f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
66f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_add_zpzz_s, TCG_CALL_NO_RWG,
67f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
68f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_add_zpzz_d, TCG_CALL_NO_RWG,
69f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
70f97cfd59SRichard Henderson 
71f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sub_zpzz_b, TCG_CALL_NO_RWG,
72f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
73f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sub_zpzz_h, TCG_CALL_NO_RWG,
74f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
75f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sub_zpzz_s, TCG_CALL_NO_RWG,
76f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
77f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sub_zpzz_d, TCG_CALL_NO_RWG,
78f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
79f97cfd59SRichard Henderson 
80f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smax_zpzz_b, TCG_CALL_NO_RWG,
81f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
82f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smax_zpzz_h, TCG_CALL_NO_RWG,
83f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
84f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smax_zpzz_s, TCG_CALL_NO_RWG,
85f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
86f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smax_zpzz_d, TCG_CALL_NO_RWG,
87f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
88f97cfd59SRichard Henderson 
89f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umax_zpzz_b, TCG_CALL_NO_RWG,
90f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
91f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umax_zpzz_h, TCG_CALL_NO_RWG,
92f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
93f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umax_zpzz_s, TCG_CALL_NO_RWG,
94f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
95f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umax_zpzz_d, TCG_CALL_NO_RWG,
96f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
97f97cfd59SRichard Henderson 
98f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smin_zpzz_b, TCG_CALL_NO_RWG,
99f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
100f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smin_zpzz_h, TCG_CALL_NO_RWG,
101f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
102f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smin_zpzz_s, TCG_CALL_NO_RWG,
103f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
104f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smin_zpzz_d, TCG_CALL_NO_RWG,
105f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
106f97cfd59SRichard Henderson 
107f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umin_zpzz_b, TCG_CALL_NO_RWG,
108f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
109f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umin_zpzz_h, TCG_CALL_NO_RWG,
110f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
111f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umin_zpzz_s, TCG_CALL_NO_RWG,
112f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
113f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umin_zpzz_d, TCG_CALL_NO_RWG,
114f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
115f97cfd59SRichard Henderson 
116f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sabd_zpzz_b, TCG_CALL_NO_RWG,
117f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
118f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sabd_zpzz_h, TCG_CALL_NO_RWG,
119f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
120f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sabd_zpzz_s, TCG_CALL_NO_RWG,
121f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
122f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sabd_zpzz_d, TCG_CALL_NO_RWG,
123f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
124f97cfd59SRichard Henderson 
125f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_uabd_zpzz_b, TCG_CALL_NO_RWG,
126f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
127f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_uabd_zpzz_h, TCG_CALL_NO_RWG,
128f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
129f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_uabd_zpzz_s, TCG_CALL_NO_RWG,
130f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
131f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_uabd_zpzz_d, TCG_CALL_NO_RWG,
132f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
133f97cfd59SRichard Henderson 
134f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_mul_zpzz_b, TCG_CALL_NO_RWG,
135f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
136f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_mul_zpzz_h, TCG_CALL_NO_RWG,
137f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
138f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_mul_zpzz_s, TCG_CALL_NO_RWG,
139f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
140f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_mul_zpzz_d, TCG_CALL_NO_RWG,
141f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
142f97cfd59SRichard Henderson 
143f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smulh_zpzz_b, TCG_CALL_NO_RWG,
144f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
145f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smulh_zpzz_h, TCG_CALL_NO_RWG,
146f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
147f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smulh_zpzz_s, TCG_CALL_NO_RWG,
148f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
149f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smulh_zpzz_d, TCG_CALL_NO_RWG,
150f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
151f97cfd59SRichard Henderson 
152f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umulh_zpzz_b, TCG_CALL_NO_RWG,
153f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
154f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umulh_zpzz_h, TCG_CALL_NO_RWG,
155f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
156f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umulh_zpzz_s, TCG_CALL_NO_RWG,
157f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
158f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umulh_zpzz_d, TCG_CALL_NO_RWG,
159f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
160f97cfd59SRichard Henderson 
161d4b1e59dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sadalp_zpzz_h, TCG_CALL_NO_RWG,
162d4b1e59dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
163d4b1e59dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sadalp_zpzz_s, TCG_CALL_NO_RWG,
164d4b1e59dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
165d4b1e59dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sadalp_zpzz_d, TCG_CALL_NO_RWG,
166d4b1e59dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
167d4b1e59dSRichard Henderson 
168d4b1e59dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uadalp_zpzz_h, TCG_CALL_NO_RWG,
169d4b1e59dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
170d4b1e59dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uadalp_zpzz_s, TCG_CALL_NO_RWG,
171d4b1e59dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
172d4b1e59dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uadalp_zpzz_d, TCG_CALL_NO_RWG,
173d4b1e59dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
174d4b1e59dSRichard Henderson 
175f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sdiv_zpzz_s, TCG_CALL_NO_RWG,
176f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
177f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sdiv_zpzz_d, TCG_CALL_NO_RWG,
178f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
179f97cfd59SRichard Henderson 
180f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_udiv_zpzz_s, TCG_CALL_NO_RWG,
181f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
182f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_udiv_zpzz_d, TCG_CALL_NO_RWG,
183f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
184f97cfd59SRichard Henderson 
18527721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzz_b, TCG_CALL_NO_RWG,
18627721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
18727721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzz_h, TCG_CALL_NO_RWG,
18827721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
18927721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzz_s, TCG_CALL_NO_RWG,
19027721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
19127721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzz_d, TCG_CALL_NO_RWG,
19227721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
19327721dbbSRichard Henderson 
19427721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzz_b, TCG_CALL_NO_RWG,
19527721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
19627721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzz_h, TCG_CALL_NO_RWG,
19727721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
19827721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzz_s, TCG_CALL_NO_RWG,
19927721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
20027721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzz_d, TCG_CALL_NO_RWG,
20127721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
20227721dbbSRichard Henderson 
20327721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzz_b, TCG_CALL_NO_RWG,
20427721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
20527721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzz_h, TCG_CALL_NO_RWG,
20627721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
20727721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzz_s, TCG_CALL_NO_RWG,
20827721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
20927721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzz_d, TCG_CALL_NO_RWG,
21027721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
21127721dbbSRichard Henderson 
212d3fe4a29SRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_zpzz_b, TCG_CALL_NO_RWG,
213d3fe4a29SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
214d3fe4a29SRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_zpzz_h, TCG_CALL_NO_RWG,
215d3fe4a29SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
216d3fe4a29SRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_zpzz_s, TCG_CALL_NO_RWG,
217d3fe4a29SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
218d3fe4a29SRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_zpzz_d, TCG_CALL_NO_RWG,
219d3fe4a29SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
220d3fe4a29SRichard Henderson 
221fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzw_b, TCG_CALL_NO_RWG,
222fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
223fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzw_h, TCG_CALL_NO_RWG,
224fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
225fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzw_s, TCG_CALL_NO_RWG,
226fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
227fe7f8dfbSRichard Henderson 
228fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzw_b, TCG_CALL_NO_RWG,
229fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
230fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzw_h, TCG_CALL_NO_RWG,
231fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
232fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzw_s, TCG_CALL_NO_RWG,
233fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
234fe7f8dfbSRichard Henderson 
235fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzw_b, TCG_CALL_NO_RWG,
236fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
237fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzw_h, TCG_CALL_NO_RWG,
238fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
239fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzw_s, TCG_CALL_NO_RWG,
240fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
241fe7f8dfbSRichard Henderson 
242047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_orv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
243047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_orv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
244047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_orv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
245047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_orv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
246047cec97SRichard Henderson 
247047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_eorv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
248047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_eorv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
249047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_eorv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
250047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_eorv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
251047cec97SRichard Henderson 
252047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_andv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
253047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_andv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
254047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_andv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
255047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_andv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
256047cec97SRichard Henderson 
257047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_saddv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
258047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_saddv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
259047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_saddv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
260047cec97SRichard Henderson 
261047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uaddv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
262047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uaddv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
263047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uaddv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
264047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uaddv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
265047cec97SRichard Henderson 
266047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_smaxv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
267047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_smaxv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
268047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_smaxv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
269047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_smaxv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
270047cec97SRichard Henderson 
271047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_umaxv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
272047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_umaxv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
273047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_umaxv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
274047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_umaxv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
275047cec97SRichard Henderson 
276047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_sminv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
277047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_sminv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
278047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_sminv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
279047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_sminv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
280047cec97SRichard Henderson 
281047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uminv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
282047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uminv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
283047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uminv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
284047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uminv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
285047cec97SRichard Henderson 
28668459864SRichard Henderson DEF_HELPER_FLAGS_4(sve_movz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
28768459864SRichard Henderson DEF_HELPER_FLAGS_4(sve_movz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
28868459864SRichard Henderson DEF_HELPER_FLAGS_4(sve_movz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
28968459864SRichard Henderson DEF_HELPER_FLAGS_4(sve_movz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
29068459864SRichard Henderson 
291ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zpzi_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
292ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zpzi_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
293ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zpzi_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
294ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zpzi_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
295ccd841c3SRichard Henderson 
296ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zpzi_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
297ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zpzi_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
298ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zpzi_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
299ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zpzi_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
300ccd841c3SRichard Henderson 
301ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zpzi_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
302ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zpzi_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
303ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zpzi_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
304ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zpzi_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
305ccd841c3SRichard Henderson 
306ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asrd_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
307ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asrd_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
308ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asrd_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
309ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asrd_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
310ccd841c3SRichard Henderson 
311afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cls_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
312afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cls_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
313afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cls_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
314afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cls_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
315afac6d04SRichard Henderson 
316afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_clz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
317afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_clz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
318afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_clz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
319afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_clz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
320afac6d04SRichard Henderson 
321afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnt_zpz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
322afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnt_zpz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
323afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnt_zpz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
324afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnt_zpz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
325afac6d04SRichard Henderson 
326afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnot_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
327afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnot_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
328afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnot_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
329afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnot_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
330afac6d04SRichard Henderson 
331afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_fabs_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
332afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_fabs_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
333afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_fabs_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
334afac6d04SRichard Henderson 
335afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_fneg_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
336afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_fneg_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
337afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_fneg_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
338afac6d04SRichard Henderson 
339afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_not_zpz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
340afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_not_zpz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
341afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_not_zpz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
342afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_not_zpz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
343afac6d04SRichard Henderson 
344afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxtb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
345afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxtb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
346afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxtb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
347afac6d04SRichard Henderson 
348afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxtb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
349afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxtb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
350afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxtb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
351afac6d04SRichard Henderson 
352afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxth_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
353afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxth_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
354afac6d04SRichard Henderson 
355afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxth_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
356afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxth_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
357afac6d04SRichard Henderson 
358afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxtw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
359afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxtw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
360afac6d04SRichard Henderson 
361afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_abs_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
362afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_abs_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
363afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_abs_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
364afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_abs_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
365afac6d04SRichard Henderson 
366afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_neg_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
367afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_neg_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
368afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_neg_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
369afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_neg_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
370afac6d04SRichard Henderson 
37196a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mla_b, TCG_CALL_NO_RWG,
37296a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
37396a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mla_h, TCG_CALL_NO_RWG,
37496a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
37596a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mla_s, TCG_CALL_NO_RWG,
37696a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
37796a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mla_d, TCG_CALL_NO_RWG,
37896a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
37996a36e4aSRichard Henderson 
38096a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mls_b, TCG_CALL_NO_RWG,
38196a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
38296a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mls_h, TCG_CALL_NO_RWG,
38396a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
38496a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mls_s, TCG_CALL_NO_RWG,
38596a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
38696a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mls_d, TCG_CALL_NO_RWG,
38796a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
38896a36e4aSRichard Henderson 
3899a56c9c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_index_b, TCG_CALL_NO_RWG, void, ptr, i32, i32, i32)
3909a56c9c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_index_h, TCG_CALL_NO_RWG, void, ptr, i32, i32, i32)
3919a56c9c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_index_s, TCG_CALL_NO_RWG, void, ptr, i32, i32, i32)
3929a56c9c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_index_d, TCG_CALL_NO_RWG, void, ptr, i64, i64, i32)
3939a56c9c3SRichard Henderson 
394d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zzw_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
395d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zzw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
396d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zzw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
397d9d78dccSRichard Henderson 
398d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zzw_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
399d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zzw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
400d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zzw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
401d9d78dccSRichard Henderson 
402d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zzw_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
403d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zzw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
404d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zzw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
405d9d78dccSRichard Henderson 
4064b242d9cSRichard Henderson DEF_HELPER_FLAGS_4(sve_adr_p32, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
4074b242d9cSRichard Henderson DEF_HELPER_FLAGS_4(sve_adr_p64, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
4084b242d9cSRichard Henderson DEF_HELPER_FLAGS_4(sve_adr_s32, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
4094b242d9cSRichard Henderson DEF_HELPER_FLAGS_4(sve_adr_u32, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
4104b242d9cSRichard Henderson 
4110762cd42SRichard Henderson DEF_HELPER_FLAGS_3(sve_fexpa_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
4120762cd42SRichard Henderson DEF_HELPER_FLAGS_3(sve_fexpa_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
4130762cd42SRichard Henderson DEF_HELPER_FLAGS_3(sve_fexpa_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
4140762cd42SRichard Henderson 
415a1f233f2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ftssel_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
416a1f233f2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ftssel_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
417a1f233f2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ftssel_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
418a1f233f2SRichard Henderson 
41924e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_sqaddi_b, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
42024e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_sqaddi_h, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
42124e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_sqaddi_s, TCG_CALL_NO_RWG, void, ptr, ptr, s64, i32)
42224e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_sqaddi_d, TCG_CALL_NO_RWG, void, ptr, ptr, s64, i32)
42324e82e68SRichard Henderson 
42424e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_uqaddi_b, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
42524e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_uqaddi_h, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
42624e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_uqaddi_s, TCG_CALL_NO_RWG, void, ptr, ptr, s64, i32)
42724e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_uqaddi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
42824e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_uqsubi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
42924e82e68SRichard Henderson 
430f25a2361SRichard Henderson DEF_HELPER_FLAGS_5(sve_cpy_m_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
431f25a2361SRichard Henderson DEF_HELPER_FLAGS_5(sve_cpy_m_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
432f25a2361SRichard Henderson DEF_HELPER_FLAGS_5(sve_cpy_m_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
433f25a2361SRichard Henderson DEF_HELPER_FLAGS_5(sve_cpy_m_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
434f25a2361SRichard Henderson 
435f25a2361SRichard Henderson DEF_HELPER_FLAGS_4(sve_cpy_z_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
436f25a2361SRichard Henderson DEF_HELPER_FLAGS_4(sve_cpy_z_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
437f25a2361SRichard Henderson DEF_HELPER_FLAGS_4(sve_cpy_z_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
438f25a2361SRichard Henderson DEF_HELPER_FLAGS_4(sve_cpy_z_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
439f25a2361SRichard Henderson 
440b94f8f60SRichard Henderson DEF_HELPER_FLAGS_4(sve_ext, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
441b94f8f60SRichard Henderson 
44230562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_insr_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
44330562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_insr_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
44430562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_insr_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
44530562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_insr_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
44630562ab7SRichard Henderson 
44730562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_rev_b, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
44830562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_rev_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
44930562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_rev_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
45030562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_rev_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
45130562ab7SRichard Henderson 
45230562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_tbl_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
45330562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_tbl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
45430562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_tbl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
45530562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_tbl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
45630562ab7SRichard Henderson 
45730562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_sunpk_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
45830562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_sunpk_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
45930562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_sunpk_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
46030562ab7SRichard Henderson 
46130562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_uunpk_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
46230562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_uunpk_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
46330562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_uunpk_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
46430562ab7SRichard Henderson 
465d731d8cbSRichard Henderson DEF_HELPER_FLAGS_4(sve_zip_p, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
466d731d8cbSRichard Henderson DEF_HELPER_FLAGS_4(sve_uzp_p, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
467d731d8cbSRichard Henderson DEF_HELPER_FLAGS_4(sve_trn_p, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
468d731d8cbSRichard Henderson DEF_HELPER_FLAGS_3(sve_rev_p, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
469d731d8cbSRichard Henderson DEF_HELPER_FLAGS_3(sve_punpk_p, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
470d731d8cbSRichard Henderson 
471234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_zip_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
472234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_zip_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
473234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_zip_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
474234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_zip_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
475234b48e9SRichard Henderson 
476234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_uzp_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
477234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_uzp_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
478234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_uzp_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
479234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_uzp_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
480234b48e9SRichard Henderson 
481234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_trn_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
482234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_trn_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
483234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_trn_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
484234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_trn_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
485234b48e9SRichard Henderson 
4863ca879aeSRichard Henderson DEF_HELPER_FLAGS_4(sve_compact_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
4873ca879aeSRichard Henderson DEF_HELPER_FLAGS_4(sve_compact_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
4883ca879aeSRichard Henderson 
489ef23cb72SRichard Henderson DEF_HELPER_FLAGS_2(sve_last_active_element, TCG_CALL_NO_RWG, s32, ptr, i32)
490ef23cb72SRichard Henderson 
491dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_revb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
492dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_revb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
493dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_revb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
494dae8fb90SRichard Henderson 
495dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_revh_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
496dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_revh_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
497dae8fb90SRichard Henderson 
498dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_revw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
499dae8fb90SRichard Henderson 
500dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_rbit_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
501dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_rbit_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
502dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_rbit_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
503dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_rbit_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
504dae8fb90SRichard Henderson 
505db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqabs_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
506db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqabs_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
507db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqabs_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
508db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqabs_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
509db366da8SRichard Henderson 
510db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqneg_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
511db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqneg_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
512db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqneg_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
513db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqneg_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
514db366da8SRichard Henderson 
515db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_urecpe_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
516db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_ursqrte_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
517db366da8SRichard Henderson 
518b48ff240SRichard Henderson DEF_HELPER_FLAGS_5(sve_splice, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
519b48ff240SRichard Henderson 
520757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_b, TCG_CALL_NO_RWG,
521757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
522757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_b, TCG_CALL_NO_RWG,
523757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
524757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_b, TCG_CALL_NO_RWG,
525757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
526757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_b, TCG_CALL_NO_RWG,
527757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
528757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_b, TCG_CALL_NO_RWG,
529757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
530757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_b, TCG_CALL_NO_RWG,
531757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
532757f9cffSRichard Henderson 
533757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_h, TCG_CALL_NO_RWG,
534757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
535757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_h, TCG_CALL_NO_RWG,
536757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
537757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_h, TCG_CALL_NO_RWG,
538757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
539757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_h, TCG_CALL_NO_RWG,
540757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
541757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_h, TCG_CALL_NO_RWG,
542757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
543757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_h, TCG_CALL_NO_RWG,
544757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
545757f9cffSRichard Henderson 
546757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_s, TCG_CALL_NO_RWG,
547757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
548757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_s, TCG_CALL_NO_RWG,
549757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
550757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_s, TCG_CALL_NO_RWG,
551757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
552757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_s, TCG_CALL_NO_RWG,
553757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
554757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_s, TCG_CALL_NO_RWG,
555757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
556757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_s, TCG_CALL_NO_RWG,
557757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
558757f9cffSRichard Henderson 
559757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_d, TCG_CALL_NO_RWG,
560757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
561757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_d, TCG_CALL_NO_RWG,
562757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
563757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_d, TCG_CALL_NO_RWG,
564757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
565757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_d, TCG_CALL_NO_RWG,
566757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
567757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_d, TCG_CALL_NO_RWG,
568757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
569757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_d, TCG_CALL_NO_RWG,
570757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
571757f9cffSRichard Henderson 
572757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzw_b, TCG_CALL_NO_RWG,
573757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
574757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzw_b, TCG_CALL_NO_RWG,
575757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
576757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzw_b, TCG_CALL_NO_RWG,
577757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
578757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzw_b, TCG_CALL_NO_RWG,
579757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
580757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzw_b, TCG_CALL_NO_RWG,
581757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
582757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzw_b, TCG_CALL_NO_RWG,
583757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
584757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmple_ppzw_b, TCG_CALL_NO_RWG,
585757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
586757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplt_ppzw_b, TCG_CALL_NO_RWG,
587757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
588757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplo_ppzw_b, TCG_CALL_NO_RWG,
589757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
590757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpls_ppzw_b, TCG_CALL_NO_RWG,
591757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
592757f9cffSRichard Henderson 
593757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzw_h, TCG_CALL_NO_RWG,
594757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
595757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzw_h, TCG_CALL_NO_RWG,
596757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
597757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzw_h, TCG_CALL_NO_RWG,
598757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
599757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzw_h, TCG_CALL_NO_RWG,
600757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
601757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzw_h, TCG_CALL_NO_RWG,
602757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
603757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzw_h, TCG_CALL_NO_RWG,
604757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
605757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmple_ppzw_h, TCG_CALL_NO_RWG,
606757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
607757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplt_ppzw_h, TCG_CALL_NO_RWG,
608757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
609757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplo_ppzw_h, TCG_CALL_NO_RWG,
610757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
611757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpls_ppzw_h, TCG_CALL_NO_RWG,
612757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
613757f9cffSRichard Henderson 
614757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzw_s, TCG_CALL_NO_RWG,
615757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
616757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzw_s, TCG_CALL_NO_RWG,
617757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
618757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzw_s, TCG_CALL_NO_RWG,
619757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
620757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzw_s, TCG_CALL_NO_RWG,
621757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
622757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzw_s, TCG_CALL_NO_RWG,
623757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
624757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzw_s, TCG_CALL_NO_RWG,
625757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
626757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmple_ppzw_s, TCG_CALL_NO_RWG,
627757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
628757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplt_ppzw_s, TCG_CALL_NO_RWG,
629757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
630757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplo_ppzw_s, TCG_CALL_NO_RWG,
631757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
632757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpls_ppzw_s, TCG_CALL_NO_RWG,
633757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
634757f9cffSRichard Henderson 
63538cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
63638cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
63738cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
63838cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
63938cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
64038cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmple_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
64138cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
64238cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
64338cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
64438cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
64538cadebaSRichard Henderson 
64638cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
64738cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
64838cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
64938cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
65038cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
65138cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmple_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
65238cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
65338cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
65438cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
65538cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
65638cadebaSRichard Henderson 
65738cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
65838cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
65938cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
66038cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
66138cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
66238cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmple_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
66338cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
66438cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
66538cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
66638cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
66738cadebaSRichard Henderson 
66838cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
66938cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
67038cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
67138cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
67238cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
67338cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmple_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
67438cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
67538cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
67638cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
67738cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
67838cadebaSRichard Henderson 
679516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_and_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
680516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_bic_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
681516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_eor_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
682516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
683516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_orr_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
684516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_orn_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
685516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_nor_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
686516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_nand_pppp, TCG_CALL_NO_RWG,
687516e246aSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
68835da316fSRichard Henderson 
68935da316fSRichard Henderson DEF_HELPER_FLAGS_5(sve_brkpa, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
69035da316fSRichard Henderson DEF_HELPER_FLAGS_5(sve_brkpb, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
69135da316fSRichard Henderson DEF_HELPER_FLAGS_5(sve_brkpas, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, ptr, i32)
69235da316fSRichard Henderson DEF_HELPER_FLAGS_5(sve_brkpbs, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, ptr, i32)
69335da316fSRichard Henderson 
69435da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brka_z, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
69535da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkb_z, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
69635da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brka_m, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
69735da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkb_m, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
69835da316fSRichard Henderson 
69935da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkas_z, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
70035da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkbs_z, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
70135da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkas_m, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
70235da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkbs_m, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
70335da316fSRichard Henderson 
70435da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkn, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
70535da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkns, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
7069ee3a611SRichard Henderson 
7079ee3a611SRichard Henderson DEF_HELPER_FLAGS_3(sve_cntp, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
708caf1cefcSRichard Henderson 
709caf1cefcSRichard Henderson DEF_HELPER_FLAGS_3(sve_while, TCG_CALL_NO_RWG, i32, ptr, i32, i32)
7106e6a157dSRichard Henderson 
7116e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_subri_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7126e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_subri_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7136e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_subri_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7146e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_subri_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7156e6a157dSRichard Henderson 
7166e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smaxi_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7176e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smaxi_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7186e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smaxi_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7196e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smaxi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7206e6a157dSRichard Henderson 
7216e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smini_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7226e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smini_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7236e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smini_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7246e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smini_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7256e6a157dSRichard Henderson 
7266e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umaxi_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7276e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umaxi_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7286e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umaxi_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7296e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umaxi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7306e6a157dSRichard Henderson 
7316e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umini_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7326e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umini_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7336e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umini_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
7346e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umini_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
73529b80469SRichard Henderson 
73629b80469SRichard Henderson DEF_HELPER_FLAGS_5(gvec_recps_h, TCG_CALL_NO_RWG,
73729b80469SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
73829b80469SRichard Henderson DEF_HELPER_FLAGS_5(gvec_recps_s, TCG_CALL_NO_RWG,
73929b80469SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
74029b80469SRichard Henderson DEF_HELPER_FLAGS_5(gvec_recps_d, TCG_CALL_NO_RWG,
74129b80469SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
74229b80469SRichard Henderson 
74329b80469SRichard Henderson DEF_HELPER_FLAGS_5(gvec_rsqrts_h, TCG_CALL_NO_RWG,
74429b80469SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
74529b80469SRichard Henderson DEF_HELPER_FLAGS_5(gvec_rsqrts_s, TCG_CALL_NO_RWG,
74629b80469SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
74729b80469SRichard Henderson DEF_HELPER_FLAGS_5(gvec_rsqrts_d, TCG_CALL_NO_RWG,
74829b80469SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
749c4e7c493SRichard Henderson 
75023fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_faddv_h, TCG_CALL_NO_RWG,
75123fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
75223fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_faddv_s, TCG_CALL_NO_RWG,
75323fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
75423fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_faddv_d, TCG_CALL_NO_RWG,
75523fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
75623fbe79fSRichard Henderson 
75723fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxnmv_h, TCG_CALL_NO_RWG,
75823fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
75923fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxnmv_s, TCG_CALL_NO_RWG,
76023fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
76123fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxnmv_d, TCG_CALL_NO_RWG,
76223fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
76323fbe79fSRichard Henderson 
76423fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fminnmv_h, TCG_CALL_NO_RWG,
76523fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
76623fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fminnmv_s, TCG_CALL_NO_RWG,
76723fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
76823fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fminnmv_d, TCG_CALL_NO_RWG,
76923fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
77023fbe79fSRichard Henderson 
77123fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxv_h, TCG_CALL_NO_RWG,
77223fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
77323fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxv_s, TCG_CALL_NO_RWG,
77423fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
77523fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxv_d, TCG_CALL_NO_RWG,
77623fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
77723fbe79fSRichard Henderson 
77823fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fminv_h, TCG_CALL_NO_RWG,
77923fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
78023fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fminv_s, TCG_CALL_NO_RWG,
78123fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
78223fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fminv_d, TCG_CALL_NO_RWG,
78323fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
78423fbe79fSRichard Henderson 
7857f9ddf64SRichard Henderson DEF_HELPER_FLAGS_5(sve_fadda_h, TCG_CALL_NO_RWG,
7867f9ddf64SRichard Henderson                    i64, i64, ptr, ptr, ptr, i32)
7877f9ddf64SRichard Henderson DEF_HELPER_FLAGS_5(sve_fadda_s, TCG_CALL_NO_RWG,
7887f9ddf64SRichard Henderson                    i64, i64, ptr, ptr, ptr, i32)
7897f9ddf64SRichard Henderson DEF_HELPER_FLAGS_5(sve_fadda_d, TCG_CALL_NO_RWG,
7907f9ddf64SRichard Henderson                    i64, i64, ptr, ptr, ptr, i32)
7917f9ddf64SRichard Henderson 
7924d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmge0_h, TCG_CALL_NO_RWG,
7934d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
7944d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmge0_s, TCG_CALL_NO_RWG,
7954d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
7964d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmge0_d, TCG_CALL_NO_RWG,
7974d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
7984d2e2a03SRichard Henderson 
7994d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmgt0_h, TCG_CALL_NO_RWG,
8004d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
8014d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmgt0_s, TCG_CALL_NO_RWG,
8024d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
8034d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmgt0_d, TCG_CALL_NO_RWG,
8044d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
8054d2e2a03SRichard Henderson 
8064d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmlt0_h, TCG_CALL_NO_RWG,
8074d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
8084d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmlt0_s, TCG_CALL_NO_RWG,
8094d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
8104d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmlt0_d, TCG_CALL_NO_RWG,
8114d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
8124d2e2a03SRichard Henderson 
8134d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmle0_h, TCG_CALL_NO_RWG,
8144d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
8154d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmle0_s, TCG_CALL_NO_RWG,
8164d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
8174d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmle0_d, TCG_CALL_NO_RWG,
8184d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
8194d2e2a03SRichard Henderson 
8204d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmeq0_h, TCG_CALL_NO_RWG,
8214d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
8224d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmeq0_s, TCG_CALL_NO_RWG,
8234d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
8244d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmeq0_d, TCG_CALL_NO_RWG,
8254d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
8264d2e2a03SRichard Henderson 
8274d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmne0_h, TCG_CALL_NO_RWG,
8284d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
8294d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmne0_s, TCG_CALL_NO_RWG,
8304d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
8314d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmne0_d, TCG_CALL_NO_RWG,
8324d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
8334d2e2a03SRichard Henderson 
834ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fadd_h, TCG_CALL_NO_RWG,
835ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
836ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fadd_s, TCG_CALL_NO_RWG,
837ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
838ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fadd_d, TCG_CALL_NO_RWG,
839ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
840ec3b87c2SRichard Henderson 
841ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fsub_h, TCG_CALL_NO_RWG,
842ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
843ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fsub_s, TCG_CALL_NO_RWG,
844ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
845ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fsub_d, TCG_CALL_NO_RWG,
846ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
847ec3b87c2SRichard Henderson 
848ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmul_h, TCG_CALL_NO_RWG,
849ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
850ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmul_s, TCG_CALL_NO_RWG,
851ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
852ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmul_d, TCG_CALL_NO_RWG,
853ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
854ec3b87c2SRichard Henderson 
855ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fdiv_h, TCG_CALL_NO_RWG,
856ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
857ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fdiv_s, TCG_CALL_NO_RWG,
858ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
859ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fdiv_d, TCG_CALL_NO_RWG,
860ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
861ec3b87c2SRichard Henderson 
862ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmin_h, TCG_CALL_NO_RWG,
863ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
864ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmin_s, TCG_CALL_NO_RWG,
865ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
866ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmin_d, TCG_CALL_NO_RWG,
867ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
868ec3b87c2SRichard Henderson 
869ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmax_h, TCG_CALL_NO_RWG,
870ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
871ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmax_s, TCG_CALL_NO_RWG,
872ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
873ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmax_d, TCG_CALL_NO_RWG,
874ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
875ec3b87c2SRichard Henderson 
876ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnum_h, TCG_CALL_NO_RWG,
877ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
878ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnum_s, TCG_CALL_NO_RWG,
879ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
880ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnum_d, TCG_CALL_NO_RWG,
881ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
882ec3b87c2SRichard Henderson 
883ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnum_h, TCG_CALL_NO_RWG,
884ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
885ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnum_s, TCG_CALL_NO_RWG,
886ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
887ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnum_d, TCG_CALL_NO_RWG,
888ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
889ec3b87c2SRichard Henderson 
890ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fabd_h, TCG_CALL_NO_RWG,
891ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
892ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fabd_s, TCG_CALL_NO_RWG,
893ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
894ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fabd_d, TCG_CALL_NO_RWG,
895ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
896ec3b87c2SRichard Henderson 
897ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fscalbn_h, TCG_CALL_NO_RWG,
898ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
899ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fscalbn_s, TCG_CALL_NO_RWG,
900ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
901ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fscalbn_d, TCG_CALL_NO_RWG,
902ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
903ec3b87c2SRichard Henderson 
904ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmulx_h, TCG_CALL_NO_RWG,
905ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
906ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmulx_s, TCG_CALL_NO_RWG,
907ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
908ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmulx_d, TCG_CALL_NO_RWG,
909ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
910ec3b87c2SRichard Henderson 
911cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fadds_h, TCG_CALL_NO_RWG,
912cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
913cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fadds_s, TCG_CALL_NO_RWG,
914cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
915cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fadds_d, TCG_CALL_NO_RWG,
916cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
917cc48affeSRichard Henderson 
918cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubs_h, TCG_CALL_NO_RWG,
919cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
920cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubs_s, TCG_CALL_NO_RWG,
921cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
922cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubs_d, TCG_CALL_NO_RWG,
923cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
924cc48affeSRichard Henderson 
925cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmuls_h, TCG_CALL_NO_RWG,
926cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
927cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmuls_s, TCG_CALL_NO_RWG,
928cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
929cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmuls_d, TCG_CALL_NO_RWG,
930cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
931cc48affeSRichard Henderson 
932cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubrs_h, TCG_CALL_NO_RWG,
933cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
934cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubrs_s, TCG_CALL_NO_RWG,
935cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
936cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubrs_d, TCG_CALL_NO_RWG,
937cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
938cc48affeSRichard Henderson 
939cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnms_h, TCG_CALL_NO_RWG,
940cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
941cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnms_s, TCG_CALL_NO_RWG,
942cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
943cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnms_d, TCG_CALL_NO_RWG,
944cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
945cc48affeSRichard Henderson 
946cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnms_h, TCG_CALL_NO_RWG,
947cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
948cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnms_s, TCG_CALL_NO_RWG,
949cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
950cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnms_d, TCG_CALL_NO_RWG,
951cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
952cc48affeSRichard Henderson 
953cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxs_h, TCG_CALL_NO_RWG,
954cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
955cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxs_s, TCG_CALL_NO_RWG,
956cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
957cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxs_d, TCG_CALL_NO_RWG,
958cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
959cc48affeSRichard Henderson 
960cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmins_h, TCG_CALL_NO_RWG,
961cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
962cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmins_s, TCG_CALL_NO_RWG,
963cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
964cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmins_d, TCG_CALL_NO_RWG,
965cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
966cc48affeSRichard Henderson 
96746d33d1eSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvt_sh, TCG_CALL_NO_RWG,
96846d33d1eSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
96946d33d1eSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvt_dh, TCG_CALL_NO_RWG,
97046d33d1eSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
97146d33d1eSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvt_hs, TCG_CALL_NO_RWG,
97246d33d1eSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
97346d33d1eSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvt_ds, TCG_CALL_NO_RWG,
97446d33d1eSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
97546d33d1eSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvt_hd, TCG_CALL_NO_RWG,
97646d33d1eSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
97746d33d1eSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvt_sd, TCG_CALL_NO_RWG,
97846d33d1eSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
97946d33d1eSRichard Henderson 
980df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_hh, TCG_CALL_NO_RWG,
981df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
982df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_hs, TCG_CALL_NO_RWG,
983df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
984df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_ss, TCG_CALL_NO_RWG,
985df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
986df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_ds, TCG_CALL_NO_RWG,
987df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
988df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_hd, TCG_CALL_NO_RWG,
989df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
990df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_sd, TCG_CALL_NO_RWG,
991df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
992df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_dd, TCG_CALL_NO_RWG,
993df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
994df4de1afSRichard Henderson 
995df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_hh, TCG_CALL_NO_RWG,
996df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
997df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_hs, TCG_CALL_NO_RWG,
998df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
999df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_ss, TCG_CALL_NO_RWG,
1000df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1001df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_ds, TCG_CALL_NO_RWG,
1002df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1003df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_hd, TCG_CALL_NO_RWG,
1004df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1005df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_sd, TCG_CALL_NO_RWG,
1006df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1007df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_dd, TCG_CALL_NO_RWG,
1008df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1009df4de1afSRichard Henderson 
1010cda3c753SRichard Henderson DEF_HELPER_FLAGS_5(sve_frint_h, TCG_CALL_NO_RWG,
1011cda3c753SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1012cda3c753SRichard Henderson DEF_HELPER_FLAGS_5(sve_frint_s, TCG_CALL_NO_RWG,
1013cda3c753SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1014cda3c753SRichard Henderson DEF_HELPER_FLAGS_5(sve_frint_d, TCG_CALL_NO_RWG,
1015cda3c753SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1016cda3c753SRichard Henderson 
1017cda3c753SRichard Henderson DEF_HELPER_FLAGS_5(sve_frintx_h, TCG_CALL_NO_RWG,
1018cda3c753SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1019cda3c753SRichard Henderson DEF_HELPER_FLAGS_5(sve_frintx_s, TCG_CALL_NO_RWG,
1020cda3c753SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1021cda3c753SRichard Henderson DEF_HELPER_FLAGS_5(sve_frintx_d, TCG_CALL_NO_RWG,
1022cda3c753SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1023cda3c753SRichard Henderson 
1024ec5b375bSRichard Henderson DEF_HELPER_FLAGS_5(sve_frecpx_h, TCG_CALL_NO_RWG,
1025ec5b375bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1026ec5b375bSRichard Henderson DEF_HELPER_FLAGS_5(sve_frecpx_s, TCG_CALL_NO_RWG,
1027ec5b375bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1028ec5b375bSRichard Henderson DEF_HELPER_FLAGS_5(sve_frecpx_d, TCG_CALL_NO_RWG,
1029ec5b375bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1030ec5b375bSRichard Henderson 
1031ec5b375bSRichard Henderson DEF_HELPER_FLAGS_5(sve_fsqrt_h, TCG_CALL_NO_RWG,
1032ec5b375bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1033ec5b375bSRichard Henderson DEF_HELPER_FLAGS_5(sve_fsqrt_s, TCG_CALL_NO_RWG,
1034ec5b375bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1035ec5b375bSRichard Henderson DEF_HELPER_FLAGS_5(sve_fsqrt_d, TCG_CALL_NO_RWG,
1036ec5b375bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1037ec5b375bSRichard Henderson 
10388092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_hh, TCG_CALL_NO_RWG,
10398092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10408092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_sh, TCG_CALL_NO_RWG,
10418092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10428092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_dh, TCG_CALL_NO_RWG,
10438092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10448092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_ss, TCG_CALL_NO_RWG,
10458092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10468092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_sd, TCG_CALL_NO_RWG,
10478092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10488092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_ds, TCG_CALL_NO_RWG,
10498092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10508092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_dd, TCG_CALL_NO_RWG,
10518092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10528092c6a3SRichard Henderson 
10538092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_hh, TCG_CALL_NO_RWG,
10548092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10558092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_sh, TCG_CALL_NO_RWG,
10568092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10578092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_dh, TCG_CALL_NO_RWG,
10588092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10598092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_ss, TCG_CALL_NO_RWG,
10608092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10618092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_sd, TCG_CALL_NO_RWG,
10628092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10638092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_ds, TCG_CALL_NO_RWG,
10648092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10658092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_dd, TCG_CALL_NO_RWG,
10668092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10678092c6a3SRichard Henderson 
1068abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmge_h, TCG_CALL_NO_RWG,
1069abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1070abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmge_s, TCG_CALL_NO_RWG,
1071abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1072abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmge_d, TCG_CALL_NO_RWG,
1073abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1074abfdefd5SRichard Henderson 
1075abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmgt_h, TCG_CALL_NO_RWG,
1076abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1077abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmgt_s, TCG_CALL_NO_RWG,
1078abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1079abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmgt_d, TCG_CALL_NO_RWG,
1080abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1081abfdefd5SRichard Henderson 
1082abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmeq_h, TCG_CALL_NO_RWG,
1083abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1084abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmeq_s, TCG_CALL_NO_RWG,
1085abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1086abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmeq_d, TCG_CALL_NO_RWG,
1087abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1088abfdefd5SRichard Henderson 
1089abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmne_h, TCG_CALL_NO_RWG,
1090abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1091abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmne_s, TCG_CALL_NO_RWG,
1092abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1093abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmne_d, TCG_CALL_NO_RWG,
1094abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1095abfdefd5SRichard Henderson 
1096abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmuo_h, TCG_CALL_NO_RWG,
1097abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1098abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmuo_s, TCG_CALL_NO_RWG,
1099abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1100abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmuo_d, TCG_CALL_NO_RWG,
1101abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1102abfdefd5SRichard Henderson 
1103abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facge_h, TCG_CALL_NO_RWG,
1104abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1105abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facge_s, TCG_CALL_NO_RWG,
1106abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1107abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facge_d, TCG_CALL_NO_RWG,
1108abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1109abfdefd5SRichard Henderson 
1110abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facgt_h, TCG_CALL_NO_RWG,
1111abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1112abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facgt_s, TCG_CALL_NO_RWG,
1113abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1114abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facgt_d, TCG_CALL_NO_RWG,
1115abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1116abfdefd5SRichard Henderson 
111776a9d9cdSRichard Henderson DEF_HELPER_FLAGS_6(sve_fcadd_h, TCG_CALL_NO_RWG,
111876a9d9cdSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
111976a9d9cdSRichard Henderson DEF_HELPER_FLAGS_6(sve_fcadd_s, TCG_CALL_NO_RWG,
112076a9d9cdSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
112176a9d9cdSRichard Henderson DEF_HELPER_FLAGS_6(sve_fcadd_d, TCG_CALL_NO_RWG,
112276a9d9cdSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
112376a9d9cdSRichard Henderson 
112408975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fmla_zpzzz_h, TCG_CALL_NO_RWG,
112508975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
112608975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fmla_zpzzz_s, TCG_CALL_NO_RWG,
112708975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
112808975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fmla_zpzzz_d, TCG_CALL_NO_RWG,
112908975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
11306ceabaadSRichard Henderson 
113108975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fmls_zpzzz_h, TCG_CALL_NO_RWG,
113208975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
113308975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fmls_zpzzz_s, TCG_CALL_NO_RWG,
113408975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
113508975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fmls_zpzzz_d, TCG_CALL_NO_RWG,
113608975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
11376ceabaadSRichard Henderson 
113808975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fnmla_zpzzz_h, TCG_CALL_NO_RWG,
113908975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
114008975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fnmla_zpzzz_s, TCG_CALL_NO_RWG,
114108975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
114208975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fnmla_zpzzz_d, TCG_CALL_NO_RWG,
114308975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
11446ceabaadSRichard Henderson 
114508975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fnmls_zpzzz_h, TCG_CALL_NO_RWG,
114608975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
114708975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fnmls_zpzzz_s, TCG_CALL_NO_RWG,
114808975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
114908975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fnmls_zpzzz_d, TCG_CALL_NO_RWG,
115008975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
11516ceabaadSRichard Henderson 
115208975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fcmla_zpzzz_h, TCG_CALL_NO_RWG,
115308975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
115408975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fcmla_zpzzz_s, TCG_CALL_NO_RWG,
115508975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
115608975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fcmla_zpzzz_d, TCG_CALL_NO_RWG,
115708975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
115805f48babSRichard Henderson 
115967fcd9adSRichard Henderson DEF_HELPER_FLAGS_5(sve_ftmad_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
116067fcd9adSRichard Henderson DEF_HELPER_FLAGS_5(sve_ftmad_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
116167fcd9adSRichard Henderson DEF_HELPER_FLAGS_5(sve_ftmad_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
116267fcd9adSRichard Henderson 
1163c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1164c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1165c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1166c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1167c4e7c493SRichard Henderson 
11687d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
11697d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
11707d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
11717d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1172c4e7c493SRichard Henderson 
11737d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
11747d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
11757d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
11767d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1177c4e7c493SRichard Henderson 
11787d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
11797d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
11807d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
11817d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
11827d0a57a2SRichard Henderson 
11837d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
11847d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
11857d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
11867d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
11877d0a57a2SRichard Henderson 
11887d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
11897d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
11907d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
11917d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
11927d0a57a2SRichard Henderson 
11937d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
11947d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
11957d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
11967d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1197c4e7c493SRichard Henderson 
1198c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bhu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1199c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bsu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1200c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1201c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bhs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1202c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1203c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1204c4e7c493SRichard Henderson 
12057d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hsu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
12067d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
12077d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
12087d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1209c4e7c493SRichard Henderson 
12107d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hsu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
12117d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
12127d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
12137d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
12147d0a57a2SRichard Henderson 
12157d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
12167d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
12177d0a57a2SRichard Henderson 
12187d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
12197d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1220e2654d75SRichard Henderson 
1221206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1222206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1223206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1224206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1225206adacfSRichard Henderson 
1226206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1227206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1228206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1229206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1230206adacfSRichard Henderson 
1231206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1232206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1233206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1234206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1235206adacfSRichard Henderson 
1236206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1237206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1238206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1239206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1240206adacfSRichard Henderson 
1241206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1242206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1243206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1244206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1245206adacfSRichard Henderson 
1246206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1247206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1248206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1249206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1250206adacfSRichard Henderson 
1251206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1252206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1253206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1254206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1255206adacfSRichard Henderson 
1256206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bhu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1257206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bsu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1258206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bdu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1259206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bhs_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1260206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bss_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1261206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bds_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1262206adacfSRichard Henderson 
1263206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hsu_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1264206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hdu_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1265206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1266206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hds_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1267206adacfSRichard Henderson 
1268206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hsu_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1269206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hdu_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1270206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1271206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hds_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1272206adacfSRichard Henderson 
1273206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sdu_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1274206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sds_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1275206adacfSRichard Henderson 
1276206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sdu_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1277206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sds_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1278206adacfSRichard Henderson 
1279e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1280e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bhu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1281e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bsu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1282e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1283e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bhs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1284e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1285e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1286e2654d75SRichard Henderson 
12877d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
12887d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hsu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
12897d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
12907d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
12917d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1292e2654d75SRichard Henderson 
12937d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
12947d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hsu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
12957d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
12967d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
12977d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1298e2654d75SRichard Henderson 
12997d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
13007d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
13017d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
13027d0a57a2SRichard Henderson 
13037d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
13047d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
13057d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
13067d0a57a2SRichard Henderson 
13077d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
13087d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1309e2654d75SRichard Henderson 
1310aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1311aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bhu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1312aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bsu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1313aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bdu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1314aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bhs_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1315aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bss_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1316aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bds_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1317aa13f7c3SRichard Henderson 
1318aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hh_le_r_mte, TCG_CALL_NO_WG,
1319aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1320aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hsu_le_r_mte, TCG_CALL_NO_WG,
1321aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1322aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hdu_le_r_mte, TCG_CALL_NO_WG,
1323aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1324aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hss_le_r_mte, TCG_CALL_NO_WG,
1325aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1326aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hds_le_r_mte, TCG_CALL_NO_WG,
1327aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1328aa13f7c3SRichard Henderson 
1329aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hh_be_r_mte, TCG_CALL_NO_WG,
1330aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1331aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hsu_be_r_mte, TCG_CALL_NO_WG,
1332aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1333aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hdu_be_r_mte, TCG_CALL_NO_WG,
1334aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1335aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hss_be_r_mte, TCG_CALL_NO_WG,
1336aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1337aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hds_be_r_mte, TCG_CALL_NO_WG,
1338aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1339aa13f7c3SRichard Henderson 
1340aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1ss_le_r_mte, TCG_CALL_NO_WG,
1341aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1342aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sdu_le_r_mte, TCG_CALL_NO_WG,
1343aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1344aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sds_le_r_mte, TCG_CALL_NO_WG,
1345aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1346aa13f7c3SRichard Henderson 
1347aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1ss_be_r_mte, TCG_CALL_NO_WG,
1348aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1349aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sdu_be_r_mte, TCG_CALL_NO_WG,
1350aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1351aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sds_be_r_mte, TCG_CALL_NO_WG,
1352aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1353aa13f7c3SRichard Henderson 
1354aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1dd_le_r_mte, TCG_CALL_NO_WG,
1355aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1356aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1dd_be_r_mte, TCG_CALL_NO_WG,
1357aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1358aa13f7c3SRichard Henderson 
1359e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1360e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bhu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1361e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bsu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1362e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1363e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bhs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1364e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1365e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1366e2654d75SRichard Henderson 
13677d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
13687d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hsu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
13697d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
13707d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
13717d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1372e2654d75SRichard Henderson 
13737d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
13747d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hsu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
13757d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
13767d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
13777d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1378e2654d75SRichard Henderson 
13797d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
13807d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
13817d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
13827d0a57a2SRichard Henderson 
13837d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
13847d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
13857d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
13867d0a57a2SRichard Henderson 
13877d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
13887d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
13891a039c7eSRichard Henderson 
1390aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1391aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bhu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1392aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bsu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1393aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bdu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1394aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bhs_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1395aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bss_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1396aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bds_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1397aa13f7c3SRichard Henderson 
1398aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hh_le_r_mte, TCG_CALL_NO_WG,
1399aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1400aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hsu_le_r_mte, TCG_CALL_NO_WG,
1401aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1402aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hdu_le_r_mte, TCG_CALL_NO_WG,
1403aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1404aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hss_le_r_mte, TCG_CALL_NO_WG,
1405aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1406aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hds_le_r_mte, TCG_CALL_NO_WG,
1407aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1408aa13f7c3SRichard Henderson 
1409aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hh_be_r_mte, TCG_CALL_NO_WG,
1410aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1411aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hsu_be_r_mte, TCG_CALL_NO_WG,
1412aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1413aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hdu_be_r_mte, TCG_CALL_NO_WG,
1414aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1415aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hss_be_r_mte, TCG_CALL_NO_WG,
1416aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1417aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hds_be_r_mte, TCG_CALL_NO_WG,
1418aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1419aa13f7c3SRichard Henderson 
1420aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1ss_le_r_mte, TCG_CALL_NO_WG,
1421aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1422aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sdu_le_r_mte, TCG_CALL_NO_WG,
1423aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1424aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sds_le_r_mte, TCG_CALL_NO_WG,
1425aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1426aa13f7c3SRichard Henderson 
1427aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1ss_be_r_mte, TCG_CALL_NO_WG,
1428aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1429aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sdu_be_r_mte, TCG_CALL_NO_WG,
1430aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1431aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sds_be_r_mte, TCG_CALL_NO_WG,
1432aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1433aa13f7c3SRichard Henderson 
1434aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1dd_le_r_mte, TCG_CALL_NO_WG,
1435aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1436aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1dd_be_r_mte, TCG_CALL_NO_WG,
1437aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1438aa13f7c3SRichard Henderson 
14391a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14401a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st2bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14411a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st3bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14421a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st4bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14431a039c7eSRichard Henderson 
144428d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
144528d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st2hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
144628d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st3hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
144728d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st4hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14481a039c7eSRichard Henderson 
144928d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
145028d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st2hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
145128d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st3hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
145228d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st4hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14531a039c7eSRichard Henderson 
145428d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
145528d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st2ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
145628d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st3ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
145728d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st4ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
145828d57f2dSRichard Henderson 
145928d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
146028d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st2ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
146128d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st3ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
146228d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st4ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
146328d57f2dSRichard Henderson 
146428d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
146528d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st2dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
146628d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st3dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
146728d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st4dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
146828d57f2dSRichard Henderson 
146928d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
147028d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st2dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
147128d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st3dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
147228d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st4dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14731a039c7eSRichard Henderson 
14741a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bh_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14751a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14761a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bd_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14771a039c7eSRichard Henderson 
147828d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hs_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
147928d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
148028d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hs_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
148128d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14821a039c7eSRichard Henderson 
148328d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1sd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
148428d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1sd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1485f6dbf62aSRichard Henderson 
148671b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
148771b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
148871b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
148971b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
149071b9f394SRichard Henderson 
149171b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
149271b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
149371b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
149471b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
149571b9f394SRichard Henderson 
149671b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
149771b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
149871b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
149971b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
150071b9f394SRichard Henderson 
150171b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
150271b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
150371b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
150471b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
150571b9f394SRichard Henderson 
150671b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
150771b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
150871b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
150971b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
151071b9f394SRichard Henderson 
151171b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
151271b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
151371b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
151471b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
151571b9f394SRichard Henderson 
151671b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
151771b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
151871b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
151971b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
152071b9f394SRichard Henderson 
152171b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bh_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
152271b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bs_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
152371b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bd_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
152471b9f394SRichard Henderson 
152571b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hs_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
152671b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
152771b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hs_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
152871b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
152971b9f394SRichard Henderson 
153071b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1sd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
153171b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1sd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
153271b9f394SRichard Henderson 
1533673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbsu_zsu, TCG_CALL_NO_WG,
1534673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1535d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_le_zsu, TCG_CALL_NO_WG,
1536673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1537d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_be_zsu, TCG_CALL_NO_WG,
1538d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1539d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_le_zsu, TCG_CALL_NO_WG,
1540d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1541d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_be_zsu, TCG_CALL_NO_WG,
1542673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1543673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbss_zsu, TCG_CALL_NO_WG,
1544673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1545d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_le_zsu, TCG_CALL_NO_WG,
1546d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1547d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_be_zsu, TCG_CALL_NO_WG,
1548673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1549673e9fa6SRichard Henderson 
1550673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbsu_zss, TCG_CALL_NO_WG,
1551673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1552d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_le_zss, TCG_CALL_NO_WG,
1553673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1554d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_be_zss, TCG_CALL_NO_WG,
1555d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1556d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_le_zss, TCG_CALL_NO_WG,
1557d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1558d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_be_zss, TCG_CALL_NO_WG,
1559673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1560673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbss_zss, TCG_CALL_NO_WG,
1561673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1562d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_le_zss, TCG_CALL_NO_WG,
1563d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1564d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_be_zss, TCG_CALL_NO_WG,
1565673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1566673e9fa6SRichard Henderson 
1567673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zsu, TCG_CALL_NO_WG,
1568673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1569d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_le_zsu, TCG_CALL_NO_WG,
1570673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1571d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_be_zsu, TCG_CALL_NO_WG,
1572673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1573d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_le_zsu, TCG_CALL_NO_WG,
1574d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1575d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_be_zsu, TCG_CALL_NO_WG,
1576d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1577d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_le_zsu, TCG_CALL_NO_WG,
1578d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1579d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_be_zsu, TCG_CALL_NO_WG,
1580673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1581673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zsu, TCG_CALL_NO_WG,
1582673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1583d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_le_zsu, TCG_CALL_NO_WG,
1584673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1585d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_be_zsu, TCG_CALL_NO_WG,
1586d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1587d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_le_zsu, TCG_CALL_NO_WG,
1588d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1589d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_be_zsu, TCG_CALL_NO_WG,
1590673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1591673e9fa6SRichard Henderson 
1592673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zss, TCG_CALL_NO_WG,
1593673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1594d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_le_zss, TCG_CALL_NO_WG,
1595673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1596d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_be_zss, TCG_CALL_NO_WG,
1597673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1598d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_le_zss, TCG_CALL_NO_WG,
1599d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1600d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_be_zss, TCG_CALL_NO_WG,
1601d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1602d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_le_zss, TCG_CALL_NO_WG,
1603d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1604d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_be_zss, TCG_CALL_NO_WG,
1605673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1606673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zss, TCG_CALL_NO_WG,
1607673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1608d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_le_zss, TCG_CALL_NO_WG,
1609673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1610d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_be_zss, TCG_CALL_NO_WG,
1611d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1612d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_le_zss, TCG_CALL_NO_WG,
1613d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1614d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_be_zss, TCG_CALL_NO_WG,
1615673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1616673e9fa6SRichard Henderson 
1617673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zd, TCG_CALL_NO_WG,
1618673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1619d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_le_zd, TCG_CALL_NO_WG,
1620673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1621d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_be_zd, TCG_CALL_NO_WG,
1622673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1623d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_le_zd, TCG_CALL_NO_WG,
1624d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1625d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_be_zd, TCG_CALL_NO_WG,
1626d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1627d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_le_zd, TCG_CALL_NO_WG,
1628d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1629d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_be_zd, TCG_CALL_NO_WG,
1630673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1631673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zd, TCG_CALL_NO_WG,
1632673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1633d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_le_zd, TCG_CALL_NO_WG,
1634673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1635d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_be_zd, TCG_CALL_NO_WG,
1636d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1637d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_le_zd, TCG_CALL_NO_WG,
1638d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1639d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_be_zd, TCG_CALL_NO_WG,
1640673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1641673e9fa6SRichard Henderson 
1642d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbsu_zsu_mte, TCG_CALL_NO_WG,
1643d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1644d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_le_zsu_mte, TCG_CALL_NO_WG,
1645d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1646d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_be_zsu_mte, TCG_CALL_NO_WG,
1647d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1648d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_le_zsu_mte, TCG_CALL_NO_WG,
1649d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1650d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_be_zsu_mte, TCG_CALL_NO_WG,
1651d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1652d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbss_zsu_mte, TCG_CALL_NO_WG,
1653d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1654d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_le_zsu_mte, TCG_CALL_NO_WG,
1655d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1656d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_be_zsu_mte, TCG_CALL_NO_WG,
1657d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1658d28d12f0SRichard Henderson 
1659d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbsu_zss_mte, TCG_CALL_NO_WG,
1660d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1661d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_le_zss_mte, TCG_CALL_NO_WG,
1662d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1663d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_be_zss_mte, TCG_CALL_NO_WG,
1664d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1665d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_le_zss_mte, TCG_CALL_NO_WG,
1666d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1667d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_be_zss_mte, TCG_CALL_NO_WG,
1668d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1669d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbss_zss_mte, TCG_CALL_NO_WG,
1670d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1671d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_le_zss_mte, TCG_CALL_NO_WG,
1672d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1673d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_be_zss_mte, TCG_CALL_NO_WG,
1674d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1675d28d12f0SRichard Henderson 
1676d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zsu_mte, TCG_CALL_NO_WG,
1677d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1678d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_le_zsu_mte, TCG_CALL_NO_WG,
1679d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1680d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_be_zsu_mte, TCG_CALL_NO_WG,
1681d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1682d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_le_zsu_mte, TCG_CALL_NO_WG,
1683d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1684d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_be_zsu_mte, TCG_CALL_NO_WG,
1685d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1686d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_le_zsu_mte, TCG_CALL_NO_WG,
1687d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1688d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_be_zsu_mte, TCG_CALL_NO_WG,
1689d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1690d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zsu_mte, TCG_CALL_NO_WG,
1691d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1692d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_le_zsu_mte, TCG_CALL_NO_WG,
1693d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1694d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_be_zsu_mte, TCG_CALL_NO_WG,
1695d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1696d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_le_zsu_mte, TCG_CALL_NO_WG,
1697d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1698d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_be_zsu_mte, TCG_CALL_NO_WG,
1699d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1700d28d12f0SRichard Henderson 
1701d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zss_mte, TCG_CALL_NO_WG,
1702d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1703d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_le_zss_mte, TCG_CALL_NO_WG,
1704d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1705d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_be_zss_mte, TCG_CALL_NO_WG,
1706d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1707d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_le_zss_mte, TCG_CALL_NO_WG,
1708d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1709d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_be_zss_mte, TCG_CALL_NO_WG,
1710d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1711d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_le_zss_mte, TCG_CALL_NO_WG,
1712d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1713d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_be_zss_mte, TCG_CALL_NO_WG,
1714d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1715d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zss_mte, TCG_CALL_NO_WG,
1716d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1717d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_le_zss_mte, TCG_CALL_NO_WG,
1718d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1719d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_be_zss_mte, TCG_CALL_NO_WG,
1720d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1721d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_le_zss_mte, TCG_CALL_NO_WG,
1722d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1723d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_be_zss_mte, TCG_CALL_NO_WG,
1724d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1725d28d12f0SRichard Henderson 
1726d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zd_mte, TCG_CALL_NO_WG,
1727d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1728d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_le_zd_mte, TCG_CALL_NO_WG,
1729d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1730d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_be_zd_mte, TCG_CALL_NO_WG,
1731d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1732d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_le_zd_mte, TCG_CALL_NO_WG,
1733d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1734d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_be_zd_mte, TCG_CALL_NO_WG,
1735d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1736d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_le_zd_mte, TCG_CALL_NO_WG,
1737d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1738d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_be_zd_mte, TCG_CALL_NO_WG,
1739d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1740d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zd_mte, TCG_CALL_NO_WG,
1741d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1742d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_le_zd_mte, TCG_CALL_NO_WG,
1743d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1744d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_be_zd_mte, TCG_CALL_NO_WG,
1745d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1746d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_le_zd_mte, TCG_CALL_NO_WG,
1747d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1748d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_be_zd_mte, TCG_CALL_NO_WG,
1749d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1750d28d12f0SRichard Henderson 
1751ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbsu_zsu, TCG_CALL_NO_WG,
1752ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1753116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_le_zsu, TCG_CALL_NO_WG,
1754ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1755116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_be_zsu, TCG_CALL_NO_WG,
1756116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1757116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_le_zsu, TCG_CALL_NO_WG,
1758116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1759116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_be_zsu, TCG_CALL_NO_WG,
1760ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1761ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbss_zsu, TCG_CALL_NO_WG,
1762ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1763116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_le_zsu, TCG_CALL_NO_WG,
1764116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1765116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_be_zsu, TCG_CALL_NO_WG,
1766ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1767ed67eb7fSRichard Henderson 
1768ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbsu_zss, TCG_CALL_NO_WG,
1769ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1770116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_le_zss, TCG_CALL_NO_WG,
1771ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1772116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_be_zss, TCG_CALL_NO_WG,
1773116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1774116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_le_zss, TCG_CALL_NO_WG,
1775116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1776116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_be_zss, TCG_CALL_NO_WG,
1777ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1778ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbss_zss, TCG_CALL_NO_WG,
1779ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1780116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_le_zss, TCG_CALL_NO_WG,
1781116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1782116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_be_zss, TCG_CALL_NO_WG,
1783ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1784ed67eb7fSRichard Henderson 
1785ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zsu, TCG_CALL_NO_WG,
1786ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1787116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zsu, TCG_CALL_NO_WG,
1788ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1789116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zsu, TCG_CALL_NO_WG,
1790ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1791116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zsu, TCG_CALL_NO_WG,
1792116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1793116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zsu, TCG_CALL_NO_WG,
1794116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1795116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_le_zsu, TCG_CALL_NO_WG,
1796116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1797116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_be_zsu, TCG_CALL_NO_WG,
1798ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1799ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zsu, TCG_CALL_NO_WG,
1800ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1801116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_le_zsu, TCG_CALL_NO_WG,
1802ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1803116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_be_zsu, TCG_CALL_NO_WG,
1804116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1805116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_le_zsu, TCG_CALL_NO_WG,
1806116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1807116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_be_zsu, TCG_CALL_NO_WG,
1808ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1809ed67eb7fSRichard Henderson 
1810ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zss, TCG_CALL_NO_WG,
1811ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1812116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zss, TCG_CALL_NO_WG,
1813ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1814116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zss, TCG_CALL_NO_WG,
1815ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1816116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zss, TCG_CALL_NO_WG,
1817116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1818116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zss, TCG_CALL_NO_WG,
1819116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1820116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_le_zss, TCG_CALL_NO_WG,
1821116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1822116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_be_zss, TCG_CALL_NO_WG,
1823ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1824ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zss, TCG_CALL_NO_WG,
1825ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1826116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_le_zss, TCG_CALL_NO_WG,
1827ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1828116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_be_zss, TCG_CALL_NO_WG,
1829116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1830116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_le_zss, TCG_CALL_NO_WG,
1831116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1832116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_be_zss, TCG_CALL_NO_WG,
1833ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1834ed67eb7fSRichard Henderson 
1835ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zd, TCG_CALL_NO_WG,
1836ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1837116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zd, TCG_CALL_NO_WG,
1838ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1839116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zd, TCG_CALL_NO_WG,
1840ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1841116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zd, TCG_CALL_NO_WG,
1842116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1843116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zd, TCG_CALL_NO_WG,
1844116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1845116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_le_zd, TCG_CALL_NO_WG,
1846116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1847116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_be_zd, TCG_CALL_NO_WG,
1848ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1849ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zd, TCG_CALL_NO_WG,
1850ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1851116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_le_zd, TCG_CALL_NO_WG,
1852ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1853116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_be_zd, TCG_CALL_NO_WG,
1854116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1855116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_le_zd, TCG_CALL_NO_WG,
1856116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1857116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_be_zd, TCG_CALL_NO_WG,
1858ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1859ed67eb7fSRichard Henderson 
1860d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbsu_zsu_mte, TCG_CALL_NO_WG,
1861d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1862d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_le_zsu_mte, TCG_CALL_NO_WG,
1863d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1864d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_be_zsu_mte, TCG_CALL_NO_WG,
1865d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1866d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_le_zsu_mte, TCG_CALL_NO_WG,
1867d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1868d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_be_zsu_mte, TCG_CALL_NO_WG,
1869d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1870d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbss_zsu_mte, TCG_CALL_NO_WG,
1871d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1872d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_le_zsu_mte, TCG_CALL_NO_WG,
1873d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1874d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_be_zsu_mte, TCG_CALL_NO_WG,
1875d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1876d28d12f0SRichard Henderson 
1877d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbsu_zss_mte, TCG_CALL_NO_WG,
1878d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1879d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_le_zss_mte, TCG_CALL_NO_WG,
1880d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1881d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_be_zss_mte, TCG_CALL_NO_WG,
1882d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1883d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_le_zss_mte, TCG_CALL_NO_WG,
1884d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1885d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_be_zss_mte, TCG_CALL_NO_WG,
1886d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1887d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbss_zss_mte, TCG_CALL_NO_WG,
1888d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1889d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_le_zss_mte, TCG_CALL_NO_WG,
1890d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1891d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_be_zss_mte, TCG_CALL_NO_WG,
1892d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1893d28d12f0SRichard Henderson 
1894d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zsu_mte, TCG_CALL_NO_WG,
1895d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1896d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zsu_mte, TCG_CALL_NO_WG,
1897d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1898d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zsu_mte, TCG_CALL_NO_WG,
1899d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1900d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zsu_mte, TCG_CALL_NO_WG,
1901d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1902d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zsu_mte, TCG_CALL_NO_WG,
1903d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1904d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_le_zsu_mte, TCG_CALL_NO_WG,
1905d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1906d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_be_zsu_mte, TCG_CALL_NO_WG,
1907d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1908d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zsu_mte, TCG_CALL_NO_WG,
1909d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1910d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_le_zsu_mte, TCG_CALL_NO_WG,
1911d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1912d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_be_zsu_mte, TCG_CALL_NO_WG,
1913d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1914d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_le_zsu_mte, TCG_CALL_NO_WG,
1915d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1916d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_be_zsu_mte, TCG_CALL_NO_WG,
1917d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1918d28d12f0SRichard Henderson 
1919d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zss_mte, TCG_CALL_NO_WG,
1920d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1921d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zss_mte, TCG_CALL_NO_WG,
1922d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1923d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zss_mte, TCG_CALL_NO_WG,
1924d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1925d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zss_mte, TCG_CALL_NO_WG,
1926d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1927d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zss_mte, TCG_CALL_NO_WG,
1928d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1929d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_le_zss_mte, TCG_CALL_NO_WG,
1930d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1931d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_be_zss_mte, TCG_CALL_NO_WG,
1932d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1933d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zss_mte, TCG_CALL_NO_WG,
1934d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1935d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_le_zss_mte, TCG_CALL_NO_WG,
1936d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1937d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_be_zss_mte, TCG_CALL_NO_WG,
1938d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1939d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_le_zss_mte, TCG_CALL_NO_WG,
1940d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1941d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_be_zss_mte, TCG_CALL_NO_WG,
1942d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1943d28d12f0SRichard Henderson 
1944d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zd_mte, TCG_CALL_NO_WG,
1945d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1946d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zd_mte, TCG_CALL_NO_WG,
1947d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1948d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zd_mte, TCG_CALL_NO_WG,
1949d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1950d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zd_mte, TCG_CALL_NO_WG,
1951d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1952d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zd_mte, TCG_CALL_NO_WG,
1953d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1954d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_le_zd_mte, TCG_CALL_NO_WG,
1955d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1956d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_be_zd_mte, TCG_CALL_NO_WG,
1957d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1958d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zd_mte, TCG_CALL_NO_WG,
1959d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1960d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_le_zd_mte, TCG_CALL_NO_WG,
1961d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1962d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_be_zd_mte, TCG_CALL_NO_WG,
1963d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1964d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_le_zd_mte, TCG_CALL_NO_WG,
1965d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1966d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_be_zd_mte, TCG_CALL_NO_WG,
1967d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1968d28d12f0SRichard Henderson 
1969f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stbs_zsu, TCG_CALL_NO_WG,
1970f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
197178cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_le_zsu, TCG_CALL_NO_WG,
1972f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
197378cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_be_zsu, TCG_CALL_NO_WG,
197478cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
197578cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_le_zsu, TCG_CALL_NO_WG,
197678cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
197778cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_be_zsu, TCG_CALL_NO_WG,
1978f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1979f6dbf62aSRichard Henderson 
1980f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stbs_zss, TCG_CALL_NO_WG,
1981f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
198278cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_le_zss, TCG_CALL_NO_WG,
1983f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
198478cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_be_zss, TCG_CALL_NO_WG,
198578cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
198678cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_le_zss, TCG_CALL_NO_WG,
198778cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
198878cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_be_zss, TCG_CALL_NO_WG,
1989f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1990f6dbf62aSRichard Henderson 
1991f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zsu, TCG_CALL_NO_WG,
1992f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
199378cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_le_zsu, TCG_CALL_NO_WG,
1994f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
199578cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_be_zsu, TCG_CALL_NO_WG,
1996f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
199778cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_le_zsu, TCG_CALL_NO_WG,
199878cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
199978cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_be_zsu, TCG_CALL_NO_WG,
200078cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
200178cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_le_zsu, TCG_CALL_NO_WG,
200278cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
200378cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_be_zsu, TCG_CALL_NO_WG,
2004f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2005f6dbf62aSRichard Henderson 
2006f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zss, TCG_CALL_NO_WG,
2007f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
200878cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_le_zss, TCG_CALL_NO_WG,
2009f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
201078cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_be_zss, TCG_CALL_NO_WG,
2011f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
201278cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_le_zss, TCG_CALL_NO_WG,
201378cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
201478cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_be_zss, TCG_CALL_NO_WG,
201578cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
201678cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_le_zss, TCG_CALL_NO_WG,
201778cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
201878cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_be_zss, TCG_CALL_NO_WG,
2019f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2020f6dbf62aSRichard Henderson 
2021f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zd, TCG_CALL_NO_WG,
2022f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
202378cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_le_zd, TCG_CALL_NO_WG,
2024f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
202578cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_be_zd, TCG_CALL_NO_WG,
2026f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
202778cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_le_zd, TCG_CALL_NO_WG,
202878cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
202978cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_be_zd, TCG_CALL_NO_WG,
203078cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
203178cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_le_zd, TCG_CALL_NO_WG,
203278cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
203378cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_be_zd, TCG_CALL_NO_WG,
2034f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2035e7e96fc5SRichard Henderson 
2036d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stbs_zsu_mte, TCG_CALL_NO_WG,
2037d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2038d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_le_zsu_mte, TCG_CALL_NO_WG,
2039d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2040d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_be_zsu_mte, TCG_CALL_NO_WG,
2041d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2042d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_le_zsu_mte, TCG_CALL_NO_WG,
2043d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2044d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_be_zsu_mte, TCG_CALL_NO_WG,
2045d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2046d28d12f0SRichard Henderson 
2047d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stbs_zss_mte, TCG_CALL_NO_WG,
2048d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2049d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_le_zss_mte, TCG_CALL_NO_WG,
2050d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2051d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_be_zss_mte, TCG_CALL_NO_WG,
2052d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2053d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_le_zss_mte, TCG_CALL_NO_WG,
2054d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2055d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_be_zss_mte, TCG_CALL_NO_WG,
2056d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2057d28d12f0SRichard Henderson 
2058d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zsu_mte, TCG_CALL_NO_WG,
2059d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2060d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_le_zsu_mte, TCG_CALL_NO_WG,
2061d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2062d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_be_zsu_mte, TCG_CALL_NO_WG,
2063d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2064d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_le_zsu_mte, TCG_CALL_NO_WG,
2065d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2066d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_be_zsu_mte, TCG_CALL_NO_WG,
2067d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2068d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_le_zsu_mte, TCG_CALL_NO_WG,
2069d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2070d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_be_zsu_mte, TCG_CALL_NO_WG,
2071d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2072d28d12f0SRichard Henderson 
2073d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zss_mte, TCG_CALL_NO_WG,
2074d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2075d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_le_zss_mte, TCG_CALL_NO_WG,
2076d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2077d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_be_zss_mte, TCG_CALL_NO_WG,
2078d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2079d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_le_zss_mte, TCG_CALL_NO_WG,
2080d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2081d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_be_zss_mte, TCG_CALL_NO_WG,
2082d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2083d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_le_zss_mte, TCG_CALL_NO_WG,
2084d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2085d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_be_zss_mte, TCG_CALL_NO_WG,
2086d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2087d28d12f0SRichard Henderson 
2088d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zd_mte, TCG_CALL_NO_WG,
2089d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2090d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_le_zd_mte, TCG_CALL_NO_WG,
2091d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2092d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_be_zd_mte, TCG_CALL_NO_WG,
2093d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2094d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_le_zd_mte, TCG_CALL_NO_WG,
2095d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2096d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_be_zd_mte, TCG_CALL_NO_WG,
2097d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2098d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_le_zd_mte, TCG_CALL_NO_WG,
2099d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2100d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_be_zd_mte, TCG_CALL_NO_WG,
2101d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2102d28d12f0SRichard Henderson 
2103e7e96fc5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_pmull_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2104