xref: /qemu/target/arm/tcg/helper-sve.h (revision 0ce1dda8b6fe764d6704d1226a9c67569d15238a)
19e18d7a6SRichard Henderson /*
29e18d7a6SRichard Henderson  *  AArch64 SVE specific helper definitions
39e18d7a6SRichard Henderson  *
49e18d7a6SRichard Henderson  *  Copyright (c) 2018 Linaro, Ltd
59e18d7a6SRichard Henderson  *
69e18d7a6SRichard Henderson  * This library is free software; you can redistribute it and/or
79e18d7a6SRichard Henderson  * modify it under the terms of the GNU Lesser General Public
89e18d7a6SRichard Henderson  * License as published by the Free Software Foundation; either
950f57e09SChetan Pant  * version 2.1 of the License, or (at your option) any later version.
109e18d7a6SRichard Henderson  *
119e18d7a6SRichard Henderson  * This library is distributed in the hope that it will be useful,
129e18d7a6SRichard Henderson  * but WITHOUT ANY WARRANTY; without even the implied warranty of
139e18d7a6SRichard Henderson  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
149e18d7a6SRichard Henderson  * Lesser General Public License for more details.
159e18d7a6SRichard Henderson  *
169e18d7a6SRichard Henderson  * You should have received a copy of the GNU Lesser General Public
179e18d7a6SRichard Henderson  * License along with this library; if not, see <http://www.gnu.org/licenses/>.
189e18d7a6SRichard Henderson  */
199e18d7a6SRichard Henderson 
209e18d7a6SRichard Henderson DEF_HELPER_FLAGS_2(sve_predtest1, TCG_CALL_NO_WG, i32, i64, i64)
219e18d7a6SRichard Henderson DEF_HELPER_FLAGS_3(sve_predtest, TCG_CALL_NO_WG, i32, ptr, ptr, i32)
22516e246aSRichard Henderson 
23028e2a7bSRichard Henderson DEF_HELPER_FLAGS_3(sve_pfirst, TCG_CALL_NO_WG, i32, ptr, ptr, i32)
24028e2a7bSRichard Henderson DEF_HELPER_FLAGS_3(sve_pnext, TCG_CALL_NO_WG, i32, ptr, ptr, i32)
25028e2a7bSRichard Henderson 
26f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_and_zpzz_b, TCG_CALL_NO_RWG,
27f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
28f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_and_zpzz_h, TCG_CALL_NO_RWG,
29f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
30f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_and_zpzz_s, TCG_CALL_NO_RWG,
31f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
32f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_and_zpzz_d, TCG_CALL_NO_RWG,
33f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
34f97cfd59SRichard Henderson 
35f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_eor_zpzz_b, TCG_CALL_NO_RWG,
36f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
37f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_eor_zpzz_h, TCG_CALL_NO_RWG,
38f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
39f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_eor_zpzz_s, TCG_CALL_NO_RWG,
40f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
41f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_eor_zpzz_d, TCG_CALL_NO_RWG,
42f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
43f97cfd59SRichard Henderson 
44f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_orr_zpzz_b, TCG_CALL_NO_RWG,
45f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
46f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_orr_zpzz_h, TCG_CALL_NO_RWG,
47f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
48f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_orr_zpzz_s, TCG_CALL_NO_RWG,
49f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
50f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_orr_zpzz_d, TCG_CALL_NO_RWG,
51f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
52f97cfd59SRichard Henderson 
53f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_bic_zpzz_b, TCG_CALL_NO_RWG,
54f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
55f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_bic_zpzz_h, TCG_CALL_NO_RWG,
56f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
57f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_bic_zpzz_s, TCG_CALL_NO_RWG,
58f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
59f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_bic_zpzz_d, TCG_CALL_NO_RWG,
60f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
61f97cfd59SRichard Henderson 
62f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_add_zpzz_b, TCG_CALL_NO_RWG,
63f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
64f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_add_zpzz_h, TCG_CALL_NO_RWG,
65f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
66f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_add_zpzz_s, TCG_CALL_NO_RWG,
67f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
68f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_add_zpzz_d, TCG_CALL_NO_RWG,
69f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
70f97cfd59SRichard Henderson 
71f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sub_zpzz_b, TCG_CALL_NO_RWG,
72f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
73f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sub_zpzz_h, TCG_CALL_NO_RWG,
74f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
75f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sub_zpzz_s, TCG_CALL_NO_RWG,
76f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
77f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sub_zpzz_d, TCG_CALL_NO_RWG,
78f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
79f97cfd59SRichard Henderson 
80f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smax_zpzz_b, TCG_CALL_NO_RWG,
81f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
82f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smax_zpzz_h, TCG_CALL_NO_RWG,
83f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
84f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smax_zpzz_s, TCG_CALL_NO_RWG,
85f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
86f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smax_zpzz_d, TCG_CALL_NO_RWG,
87f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
88f97cfd59SRichard Henderson 
89f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umax_zpzz_b, TCG_CALL_NO_RWG,
90f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
91f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umax_zpzz_h, TCG_CALL_NO_RWG,
92f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
93f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umax_zpzz_s, TCG_CALL_NO_RWG,
94f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
95f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umax_zpzz_d, TCG_CALL_NO_RWG,
96f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
97f97cfd59SRichard Henderson 
98f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smin_zpzz_b, TCG_CALL_NO_RWG,
99f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
100f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smin_zpzz_h, TCG_CALL_NO_RWG,
101f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
102f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smin_zpzz_s, TCG_CALL_NO_RWG,
103f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
104f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smin_zpzz_d, TCG_CALL_NO_RWG,
105f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
106f97cfd59SRichard Henderson 
107f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umin_zpzz_b, TCG_CALL_NO_RWG,
108f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
109f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umin_zpzz_h, TCG_CALL_NO_RWG,
110f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
111f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umin_zpzz_s, TCG_CALL_NO_RWG,
112f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
113f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umin_zpzz_d, TCG_CALL_NO_RWG,
114f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
115f97cfd59SRichard Henderson 
116f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sabd_zpzz_b, TCG_CALL_NO_RWG,
117f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
118f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sabd_zpzz_h, TCG_CALL_NO_RWG,
119f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
120f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sabd_zpzz_s, TCG_CALL_NO_RWG,
121f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
122f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sabd_zpzz_d, TCG_CALL_NO_RWG,
123f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
124f97cfd59SRichard Henderson 
125f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_uabd_zpzz_b, TCG_CALL_NO_RWG,
126f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
127f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_uabd_zpzz_h, TCG_CALL_NO_RWG,
128f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
129f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_uabd_zpzz_s, TCG_CALL_NO_RWG,
130f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
131f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_uabd_zpzz_d, TCG_CALL_NO_RWG,
132f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
133f97cfd59SRichard Henderson 
134f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_mul_zpzz_b, TCG_CALL_NO_RWG,
135f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
136f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_mul_zpzz_h, TCG_CALL_NO_RWG,
137f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
138f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_mul_zpzz_s, TCG_CALL_NO_RWG,
139f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
140f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_mul_zpzz_d, TCG_CALL_NO_RWG,
141f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
142f97cfd59SRichard Henderson 
143f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smulh_zpzz_b, TCG_CALL_NO_RWG,
144f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
145f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smulh_zpzz_h, TCG_CALL_NO_RWG,
146f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
147f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smulh_zpzz_s, TCG_CALL_NO_RWG,
148f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
149f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smulh_zpzz_d, TCG_CALL_NO_RWG,
150f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
151f97cfd59SRichard Henderson 
152f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umulh_zpzz_b, TCG_CALL_NO_RWG,
153f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
154f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umulh_zpzz_h, TCG_CALL_NO_RWG,
155f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
156f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umulh_zpzz_s, TCG_CALL_NO_RWG,
157f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
158f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umulh_zpzz_d, TCG_CALL_NO_RWG,
159f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
160f97cfd59SRichard Henderson 
161d4b1e59dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sadalp_zpzz_h, TCG_CALL_NO_RWG,
162d4b1e59dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
163d4b1e59dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sadalp_zpzz_s, TCG_CALL_NO_RWG,
164d4b1e59dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
165d4b1e59dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sadalp_zpzz_d, TCG_CALL_NO_RWG,
166d4b1e59dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
167d4b1e59dSRichard Henderson 
168d4b1e59dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uadalp_zpzz_h, TCG_CALL_NO_RWG,
169d4b1e59dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
170d4b1e59dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uadalp_zpzz_s, TCG_CALL_NO_RWG,
171d4b1e59dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
172d4b1e59dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uadalp_zpzz_d, TCG_CALL_NO_RWG,
173d4b1e59dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
174d4b1e59dSRichard Henderson 
17545d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_srshl_zpzz_b, TCG_CALL_NO_RWG,
17645d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
17745d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_srshl_zpzz_h, TCG_CALL_NO_RWG,
17845d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
17945d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_srshl_zpzz_s, TCG_CALL_NO_RWG,
18045d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
18145d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_srshl_zpzz_d, TCG_CALL_NO_RWG,
18245d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
18345d9503dSRichard Henderson 
18445d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_urshl_zpzz_b, TCG_CALL_NO_RWG,
18545d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
18645d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_urshl_zpzz_h, TCG_CALL_NO_RWG,
18745d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
18845d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_urshl_zpzz_s, TCG_CALL_NO_RWG,
18945d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
19045d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_urshl_zpzz_d, TCG_CALL_NO_RWG,
19145d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
19245d9503dSRichard Henderson 
19345d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqshl_zpzz_b, TCG_CALL_NO_RWG,
19445d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
19545d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqshl_zpzz_h, TCG_CALL_NO_RWG,
19645d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
19745d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqshl_zpzz_s, TCG_CALL_NO_RWG,
19845d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
19945d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqshl_zpzz_d, TCG_CALL_NO_RWG,
20045d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
20145d9503dSRichard Henderson 
20245d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqshl_zpzz_b, TCG_CALL_NO_RWG,
20345d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
20445d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqshl_zpzz_h, TCG_CALL_NO_RWG,
20545d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
20645d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqshl_zpzz_s, TCG_CALL_NO_RWG,
20745d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
20845d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqshl_zpzz_d, TCG_CALL_NO_RWG,
20945d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
21045d9503dSRichard Henderson 
21145d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrshl_zpzz_b, TCG_CALL_NO_RWG,
21245d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
21345d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrshl_zpzz_h, TCG_CALL_NO_RWG,
21445d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
21545d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrshl_zpzz_s, TCG_CALL_NO_RWG,
21645d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
21745d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrshl_zpzz_d, TCG_CALL_NO_RWG,
21845d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
21945d9503dSRichard Henderson 
22045d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqrshl_zpzz_b, TCG_CALL_NO_RWG,
22145d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
22245d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqrshl_zpzz_h, TCG_CALL_NO_RWG,
22345d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
22445d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqrshl_zpzz_s, TCG_CALL_NO_RWG,
22545d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
22645d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqrshl_zpzz_d, TCG_CALL_NO_RWG,
22745d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
22845d9503dSRichard Henderson 
229a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_shadd_zpzz_b, TCG_CALL_NO_RWG,
230a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
231a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_shadd_zpzz_h, TCG_CALL_NO_RWG,
232a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
233a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_shadd_zpzz_s, TCG_CALL_NO_RWG,
234a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
235a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_shadd_zpzz_d, TCG_CALL_NO_RWG,
236a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
237a47dc220SRichard Henderson 
238a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uhadd_zpzz_b, TCG_CALL_NO_RWG,
239a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
240a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uhadd_zpzz_h, TCG_CALL_NO_RWG,
241a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
242a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uhadd_zpzz_s, TCG_CALL_NO_RWG,
243a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
244a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uhadd_zpzz_d, TCG_CALL_NO_RWG,
245a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
246a47dc220SRichard Henderson 
247a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_srhadd_zpzz_b, TCG_CALL_NO_RWG,
248a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
249a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_srhadd_zpzz_h, TCG_CALL_NO_RWG,
250a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
251a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_srhadd_zpzz_s, TCG_CALL_NO_RWG,
252a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
253a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_srhadd_zpzz_d, TCG_CALL_NO_RWG,
254a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
255a47dc220SRichard Henderson 
256a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_urhadd_zpzz_b, TCG_CALL_NO_RWG,
257a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
258a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_urhadd_zpzz_h, TCG_CALL_NO_RWG,
259a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
260a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_urhadd_zpzz_s, TCG_CALL_NO_RWG,
261a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
262a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_urhadd_zpzz_d, TCG_CALL_NO_RWG,
263a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
264a47dc220SRichard Henderson 
265a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_shsub_zpzz_b, TCG_CALL_NO_RWG,
266a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
267a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_shsub_zpzz_h, TCG_CALL_NO_RWG,
268a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
269a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_shsub_zpzz_s, TCG_CALL_NO_RWG,
270a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
271a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_shsub_zpzz_d, TCG_CALL_NO_RWG,
272a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
273a47dc220SRichard Henderson 
274a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uhsub_zpzz_b, TCG_CALL_NO_RWG,
275a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
276a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uhsub_zpzz_h, TCG_CALL_NO_RWG,
277a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
278a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uhsub_zpzz_s, TCG_CALL_NO_RWG,
279a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
280a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uhsub_zpzz_d, TCG_CALL_NO_RWG,
281a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
282a47dc220SRichard Henderson 
283f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sdiv_zpzz_s, TCG_CALL_NO_RWG,
284f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
285f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sdiv_zpzz_d, TCG_CALL_NO_RWG,
286f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
287f97cfd59SRichard Henderson 
288f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_udiv_zpzz_s, TCG_CALL_NO_RWG,
289f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
290f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_udiv_zpzz_d, TCG_CALL_NO_RWG,
291f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
292f97cfd59SRichard Henderson 
29327721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzz_b, TCG_CALL_NO_RWG,
29427721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
29527721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzz_h, TCG_CALL_NO_RWG,
29627721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
29727721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzz_s, TCG_CALL_NO_RWG,
29827721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
29927721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzz_d, TCG_CALL_NO_RWG,
30027721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
30127721dbbSRichard Henderson 
30227721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzz_b, TCG_CALL_NO_RWG,
30327721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
30427721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzz_h, TCG_CALL_NO_RWG,
30527721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
30627721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzz_s, TCG_CALL_NO_RWG,
30727721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
30827721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzz_d, TCG_CALL_NO_RWG,
30927721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
31027721dbbSRichard Henderson 
31127721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzz_b, TCG_CALL_NO_RWG,
31227721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
31327721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzz_h, TCG_CALL_NO_RWG,
31427721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
31527721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzz_s, TCG_CALL_NO_RWG,
31627721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
31727721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzz_d, TCG_CALL_NO_RWG,
31827721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
31927721dbbSRichard Henderson 
320d3fe4a29SRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_zpzz_b, TCG_CALL_NO_RWG,
321d3fe4a29SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
322d3fe4a29SRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_zpzz_h, TCG_CALL_NO_RWG,
323d3fe4a29SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
324d3fe4a29SRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_zpzz_s, TCG_CALL_NO_RWG,
325d3fe4a29SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
326d3fe4a29SRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_zpzz_d, TCG_CALL_NO_RWG,
327d3fe4a29SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
328d3fe4a29SRichard Henderson 
3298597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_addp_zpzz_b, TCG_CALL_NO_RWG,
3308597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3318597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_addp_zpzz_h, TCG_CALL_NO_RWG,
3328597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3338597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_addp_zpzz_s, TCG_CALL_NO_RWG,
3348597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3358597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_addp_zpzz_d, TCG_CALL_NO_RWG,
3368597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3378597dc8bSRichard Henderson 
3388597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_smaxp_zpzz_b, TCG_CALL_NO_RWG,
3398597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3408597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_smaxp_zpzz_h, TCG_CALL_NO_RWG,
3418597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3428597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_smaxp_zpzz_s, TCG_CALL_NO_RWG,
3438597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3448597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_smaxp_zpzz_d, TCG_CALL_NO_RWG,
3458597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3468597dc8bSRichard Henderson 
3478597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_umaxp_zpzz_b, TCG_CALL_NO_RWG,
3488597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3498597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_umaxp_zpzz_h, TCG_CALL_NO_RWG,
3508597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3518597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_umaxp_zpzz_s, TCG_CALL_NO_RWG,
3528597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3538597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_umaxp_zpzz_d, TCG_CALL_NO_RWG,
3548597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3558597dc8bSRichard Henderson 
3568597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sminp_zpzz_b, TCG_CALL_NO_RWG,
3578597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3588597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sminp_zpzz_h, TCG_CALL_NO_RWG,
3598597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3608597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sminp_zpzz_s, TCG_CALL_NO_RWG,
3618597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3628597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sminp_zpzz_d, TCG_CALL_NO_RWG,
3638597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3648597dc8bSRichard Henderson 
3658597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uminp_zpzz_b, TCG_CALL_NO_RWG,
3668597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3678597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uminp_zpzz_h, TCG_CALL_NO_RWG,
3688597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3698597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uminp_zpzz_s, TCG_CALL_NO_RWG,
3708597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3718597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uminp_zpzz_d, TCG_CALL_NO_RWG,
3728597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3738597dc8bSRichard Henderson 
3744f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqadd_zpzz_b, TCG_CALL_NO_RWG,
3754f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3764f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqadd_zpzz_h, TCG_CALL_NO_RWG,
3774f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3784f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqadd_zpzz_s, TCG_CALL_NO_RWG,
3794f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3804f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqadd_zpzz_d, TCG_CALL_NO_RWG,
3814f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3824f07fbebSRichard Henderson 
3834f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqadd_zpzz_b, TCG_CALL_NO_RWG,
3844f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3854f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqadd_zpzz_h, TCG_CALL_NO_RWG,
3864f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3874f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqadd_zpzz_s, TCG_CALL_NO_RWG,
3884f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3894f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqadd_zpzz_d, TCG_CALL_NO_RWG,
3904f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3914f07fbebSRichard Henderson 
3924f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqsub_zpzz_b, TCG_CALL_NO_RWG,
3934f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3944f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqsub_zpzz_h, TCG_CALL_NO_RWG,
3954f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3964f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqsub_zpzz_s, TCG_CALL_NO_RWG,
3974f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3984f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqsub_zpzz_d, TCG_CALL_NO_RWG,
3994f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4004f07fbebSRichard Henderson 
4014f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqsub_zpzz_b, TCG_CALL_NO_RWG,
4024f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4034f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqsub_zpzz_h, TCG_CALL_NO_RWG,
4044f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4054f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqsub_zpzz_s, TCG_CALL_NO_RWG,
4064f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4074f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqsub_zpzz_d, TCG_CALL_NO_RWG,
4084f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4094f07fbebSRichard Henderson 
4104f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_suqadd_zpzz_b, TCG_CALL_NO_RWG,
4114f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4124f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_suqadd_zpzz_h, TCG_CALL_NO_RWG,
4134f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4144f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_suqadd_zpzz_s, TCG_CALL_NO_RWG,
4154f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4164f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_suqadd_zpzz_d, TCG_CALL_NO_RWG,
4174f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4184f07fbebSRichard Henderson 
4194f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_usqadd_zpzz_b, TCG_CALL_NO_RWG,
4204f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4214f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_usqadd_zpzz_h, TCG_CALL_NO_RWG,
4224f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4234f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_usqadd_zpzz_s, TCG_CALL_NO_RWG,
4244f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4254f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_usqadd_zpzz_d, TCG_CALL_NO_RWG,
4264f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4274f07fbebSRichard Henderson 
428fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzw_b, TCG_CALL_NO_RWG,
429fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
430fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzw_h, TCG_CALL_NO_RWG,
431fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
432fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzw_s, TCG_CALL_NO_RWG,
433fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
434fe7f8dfbSRichard Henderson 
435fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzw_b, TCG_CALL_NO_RWG,
436fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
437fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzw_h, TCG_CALL_NO_RWG,
438fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
439fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzw_s, TCG_CALL_NO_RWG,
440fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
441fe7f8dfbSRichard Henderson 
442fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzw_b, TCG_CALL_NO_RWG,
443fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
444fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzw_h, TCG_CALL_NO_RWG,
445fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
446fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzw_s, TCG_CALL_NO_RWG,
447fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
448fe7f8dfbSRichard Henderson 
449047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_orv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
450047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_orv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
451047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_orv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
452047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_orv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
453047cec97SRichard Henderson 
454047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_eorv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
455047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_eorv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
456047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_eorv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
457047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_eorv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
458047cec97SRichard Henderson 
459047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_andv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
460047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_andv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
461047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_andv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
462047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_andv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
463047cec97SRichard Henderson 
464047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_saddv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
465047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_saddv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
466047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_saddv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
467047cec97SRichard Henderson 
468047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uaddv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
469047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uaddv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
470047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uaddv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
471047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uaddv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
472047cec97SRichard Henderson 
473047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_smaxv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
474047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_smaxv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
475047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_smaxv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
476047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_smaxv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
477047cec97SRichard Henderson 
478047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_umaxv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
479047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_umaxv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
480047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_umaxv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
481047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_umaxv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
482047cec97SRichard Henderson 
483047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_sminv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
484047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_sminv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
485047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_sminv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
486047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_sminv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
487047cec97SRichard Henderson 
488047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uminv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
489047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uminv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
490047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uminv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
491047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uminv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
492047cec97SRichard Henderson 
49368459864SRichard Henderson DEF_HELPER_FLAGS_4(sve_movz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
49468459864SRichard Henderson DEF_HELPER_FLAGS_4(sve_movz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
49568459864SRichard Henderson DEF_HELPER_FLAGS_4(sve_movz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
49668459864SRichard Henderson DEF_HELPER_FLAGS_4(sve_movz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
49768459864SRichard Henderson 
498ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zpzi_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
499ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zpzi_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
500ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zpzi_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
501ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zpzi_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
502ccd841c3SRichard Henderson 
503ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zpzi_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
504ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zpzi_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
505ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zpzi_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
506ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zpzi_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
507ccd841c3SRichard Henderson 
508ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zpzi_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
509ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zpzi_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
510ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zpzi_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
511ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zpzi_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
512ccd841c3SRichard Henderson 
513ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asrd_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
514ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asrd_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
515ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asrd_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
516ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asrd_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
517ccd841c3SRichard Henderson 
518afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cls_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
519afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cls_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
520afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cls_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
521afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cls_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
522afac6d04SRichard Henderson 
523afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_clz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
524afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_clz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
525afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_clz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
526afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_clz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
527afac6d04SRichard Henderson 
528afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnt_zpz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
529afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnt_zpz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
530afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnt_zpz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
531afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnt_zpz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
532afac6d04SRichard Henderson 
533afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnot_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
534afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnot_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
535afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnot_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
536afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnot_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
537afac6d04SRichard Henderson 
538afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_fabs_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
539afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_fabs_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
540afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_fabs_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
541afac6d04SRichard Henderson 
542afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_fneg_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
543afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_fneg_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
544afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_fneg_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
545afac6d04SRichard Henderson 
546afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_not_zpz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
547afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_not_zpz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
548afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_not_zpz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
549afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_not_zpz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
550afac6d04SRichard Henderson 
551afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxtb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
552afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxtb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
553afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxtb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
554afac6d04SRichard Henderson 
555afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxtb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
556afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxtb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
557afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxtb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
558afac6d04SRichard Henderson 
559afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxth_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
560afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxth_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
561afac6d04SRichard Henderson 
562afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxth_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
563afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxth_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
564afac6d04SRichard Henderson 
565afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxtw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
566afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxtw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
567afac6d04SRichard Henderson 
568afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_abs_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
569afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_abs_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
570afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_abs_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
571afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_abs_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
572afac6d04SRichard Henderson 
573afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_neg_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
574afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_neg_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
575afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_neg_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
576afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_neg_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
577afac6d04SRichard Henderson 
57896a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mla_b, TCG_CALL_NO_RWG,
57996a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
58096a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mla_h, TCG_CALL_NO_RWG,
58196a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
58296a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mla_s, TCG_CALL_NO_RWG,
58396a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
58496a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mla_d, TCG_CALL_NO_RWG,
58596a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
58696a36e4aSRichard Henderson 
58796a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mls_b, TCG_CALL_NO_RWG,
58896a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
58996a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mls_h, TCG_CALL_NO_RWG,
59096a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
59196a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mls_s, TCG_CALL_NO_RWG,
59296a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
59396a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mls_d, TCG_CALL_NO_RWG,
59496a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
59596a36e4aSRichard Henderson 
5969a56c9c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_index_b, TCG_CALL_NO_RWG, void, ptr, i32, i32, i32)
5979a56c9c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_index_h, TCG_CALL_NO_RWG, void, ptr, i32, i32, i32)
5989a56c9c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_index_s, TCG_CALL_NO_RWG, void, ptr, i32, i32, i32)
5999a56c9c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_index_d, TCG_CALL_NO_RWG, void, ptr, i64, i64, i32)
6009a56c9c3SRichard Henderson 
601d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zzw_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
602d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zzw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
603d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zzw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
604d9d78dccSRichard Henderson 
605d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zzw_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
606d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zzw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
607d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zzw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
608d9d78dccSRichard Henderson 
609d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zzw_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
610d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zzw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
611d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zzw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
612d9d78dccSRichard Henderson 
6134b242d9cSRichard Henderson DEF_HELPER_FLAGS_4(sve_adr_p32, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
6144b242d9cSRichard Henderson DEF_HELPER_FLAGS_4(sve_adr_p64, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
6154b242d9cSRichard Henderson DEF_HELPER_FLAGS_4(sve_adr_s32, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
6164b242d9cSRichard Henderson DEF_HELPER_FLAGS_4(sve_adr_u32, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
6174b242d9cSRichard Henderson 
6180762cd42SRichard Henderson DEF_HELPER_FLAGS_3(sve_fexpa_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
6190762cd42SRichard Henderson DEF_HELPER_FLAGS_3(sve_fexpa_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
6200762cd42SRichard Henderson DEF_HELPER_FLAGS_3(sve_fexpa_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
6210762cd42SRichard Henderson 
622a1f233f2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ftssel_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
623a1f233f2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ftssel_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
624a1f233f2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ftssel_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
625a1f233f2SRichard Henderson 
62624e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_sqaddi_b, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
62724e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_sqaddi_h, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
62824e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_sqaddi_s, TCG_CALL_NO_RWG, void, ptr, ptr, s64, i32)
62924e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_sqaddi_d, TCG_CALL_NO_RWG, void, ptr, ptr, s64, i32)
63024e82e68SRichard Henderson 
63124e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_uqaddi_b, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
63224e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_uqaddi_h, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
63324e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_uqaddi_s, TCG_CALL_NO_RWG, void, ptr, ptr, s64, i32)
63424e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_uqaddi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
63524e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_uqsubi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
63624e82e68SRichard Henderson 
637f25a2361SRichard Henderson DEF_HELPER_FLAGS_5(sve_cpy_m_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
638f25a2361SRichard Henderson DEF_HELPER_FLAGS_5(sve_cpy_m_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
639f25a2361SRichard Henderson DEF_HELPER_FLAGS_5(sve_cpy_m_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
640f25a2361SRichard Henderson DEF_HELPER_FLAGS_5(sve_cpy_m_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
641f25a2361SRichard Henderson 
642f25a2361SRichard Henderson DEF_HELPER_FLAGS_4(sve_cpy_z_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
643f25a2361SRichard Henderson DEF_HELPER_FLAGS_4(sve_cpy_z_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
644f25a2361SRichard Henderson DEF_HELPER_FLAGS_4(sve_cpy_z_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
645f25a2361SRichard Henderson DEF_HELPER_FLAGS_4(sve_cpy_z_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
646f25a2361SRichard Henderson 
647b94f8f60SRichard Henderson DEF_HELPER_FLAGS_4(sve_ext, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
648b94f8f60SRichard Henderson 
64930562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_insr_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
65030562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_insr_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
65130562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_insr_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
65230562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_insr_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
65330562ab7SRichard Henderson 
65430562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_rev_b, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
65530562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_rev_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
65630562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_rev_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
65730562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_rev_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
65830562ab7SRichard Henderson 
65930562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_tbl_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
66030562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_tbl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
66130562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_tbl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
66230562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_tbl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
66330562ab7SRichard Henderson 
66430562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_sunpk_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
66530562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_sunpk_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
66630562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_sunpk_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
66730562ab7SRichard Henderson 
66830562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_uunpk_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
66930562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_uunpk_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
67030562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_uunpk_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
67130562ab7SRichard Henderson 
672d731d8cbSRichard Henderson DEF_HELPER_FLAGS_4(sve_zip_p, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
673d731d8cbSRichard Henderson DEF_HELPER_FLAGS_4(sve_uzp_p, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
674d731d8cbSRichard Henderson DEF_HELPER_FLAGS_4(sve_trn_p, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
675d731d8cbSRichard Henderson DEF_HELPER_FLAGS_3(sve_rev_p, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
676d731d8cbSRichard Henderson DEF_HELPER_FLAGS_3(sve_punpk_p, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
677d731d8cbSRichard Henderson 
678234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_zip_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
679234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_zip_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
680234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_zip_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
681234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_zip_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
682234b48e9SRichard Henderson 
683234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_uzp_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
684234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_uzp_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
685234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_uzp_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
686234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_uzp_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
687234b48e9SRichard Henderson 
688234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_trn_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
689234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_trn_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
690234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_trn_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
691234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_trn_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
692234b48e9SRichard Henderson 
6933ca879aeSRichard Henderson DEF_HELPER_FLAGS_4(sve_compact_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
6943ca879aeSRichard Henderson DEF_HELPER_FLAGS_4(sve_compact_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
6953ca879aeSRichard Henderson 
696ef23cb72SRichard Henderson DEF_HELPER_FLAGS_2(sve_last_active_element, TCG_CALL_NO_RWG, s32, ptr, i32)
697ef23cb72SRichard Henderson 
698dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_revb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
699dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_revb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
700dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_revb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
701dae8fb90SRichard Henderson 
702dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_revh_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
703dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_revh_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
704dae8fb90SRichard Henderson 
705dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_revw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
706dae8fb90SRichard Henderson 
707dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_rbit_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
708dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_rbit_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
709dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_rbit_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
710dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_rbit_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
711dae8fb90SRichard Henderson 
712db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqabs_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
713db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqabs_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
714db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqabs_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
715db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqabs_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
716db366da8SRichard Henderson 
717db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqneg_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
718db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqneg_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
719db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqneg_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
720db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqneg_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
721db366da8SRichard Henderson 
722db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_urecpe_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
723db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_ursqrte_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
724db366da8SRichard Henderson 
725b48ff240SRichard Henderson DEF_HELPER_FLAGS_5(sve_splice, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
726b48ff240SRichard Henderson 
727757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_b, TCG_CALL_NO_RWG,
728757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
729757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_b, TCG_CALL_NO_RWG,
730757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
731757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_b, TCG_CALL_NO_RWG,
732757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
733757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_b, TCG_CALL_NO_RWG,
734757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
735757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_b, TCG_CALL_NO_RWG,
736757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
737757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_b, TCG_CALL_NO_RWG,
738757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
739757f9cffSRichard Henderson 
740757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_h, TCG_CALL_NO_RWG,
741757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
742757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_h, TCG_CALL_NO_RWG,
743757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
744757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_h, TCG_CALL_NO_RWG,
745757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
746757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_h, TCG_CALL_NO_RWG,
747757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
748757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_h, TCG_CALL_NO_RWG,
749757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
750757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_h, TCG_CALL_NO_RWG,
751757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
752757f9cffSRichard Henderson 
753757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_s, TCG_CALL_NO_RWG,
754757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
755757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_s, TCG_CALL_NO_RWG,
756757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
757757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_s, TCG_CALL_NO_RWG,
758757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
759757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_s, TCG_CALL_NO_RWG,
760757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
761757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_s, TCG_CALL_NO_RWG,
762757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
763757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_s, TCG_CALL_NO_RWG,
764757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
765757f9cffSRichard Henderson 
766757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_d, TCG_CALL_NO_RWG,
767757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
768757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_d, TCG_CALL_NO_RWG,
769757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
770757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_d, TCG_CALL_NO_RWG,
771757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
772757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_d, TCG_CALL_NO_RWG,
773757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
774757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_d, TCG_CALL_NO_RWG,
775757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
776757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_d, TCG_CALL_NO_RWG,
777757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
778757f9cffSRichard Henderson 
779757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzw_b, TCG_CALL_NO_RWG,
780757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
781757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzw_b, TCG_CALL_NO_RWG,
782757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
783757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzw_b, TCG_CALL_NO_RWG,
784757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
785757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzw_b, TCG_CALL_NO_RWG,
786757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
787757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzw_b, TCG_CALL_NO_RWG,
788757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
789757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzw_b, TCG_CALL_NO_RWG,
790757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
791757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmple_ppzw_b, TCG_CALL_NO_RWG,
792757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
793757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplt_ppzw_b, TCG_CALL_NO_RWG,
794757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
795757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplo_ppzw_b, TCG_CALL_NO_RWG,
796757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
797757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpls_ppzw_b, TCG_CALL_NO_RWG,
798757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
799757f9cffSRichard Henderson 
800757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzw_h, TCG_CALL_NO_RWG,
801757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
802757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzw_h, TCG_CALL_NO_RWG,
803757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
804757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzw_h, TCG_CALL_NO_RWG,
805757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
806757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzw_h, TCG_CALL_NO_RWG,
807757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
808757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzw_h, TCG_CALL_NO_RWG,
809757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
810757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzw_h, TCG_CALL_NO_RWG,
811757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
812757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmple_ppzw_h, TCG_CALL_NO_RWG,
813757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
814757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplt_ppzw_h, TCG_CALL_NO_RWG,
815757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
816757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplo_ppzw_h, TCG_CALL_NO_RWG,
817757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
818757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpls_ppzw_h, TCG_CALL_NO_RWG,
819757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
820757f9cffSRichard Henderson 
821757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzw_s, TCG_CALL_NO_RWG,
822757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
823757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzw_s, TCG_CALL_NO_RWG,
824757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
825757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzw_s, TCG_CALL_NO_RWG,
826757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
827757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzw_s, TCG_CALL_NO_RWG,
828757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
829757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzw_s, TCG_CALL_NO_RWG,
830757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
831757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzw_s, TCG_CALL_NO_RWG,
832757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
833757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmple_ppzw_s, TCG_CALL_NO_RWG,
834757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
835757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplt_ppzw_s, TCG_CALL_NO_RWG,
836757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
837757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplo_ppzw_s, TCG_CALL_NO_RWG,
838757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
839757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpls_ppzw_s, TCG_CALL_NO_RWG,
840757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
841757f9cffSRichard Henderson 
84238cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
84338cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
84438cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
84538cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
84638cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
84738cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmple_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
84838cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
84938cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
85038cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
85138cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
85238cadebaSRichard Henderson 
85338cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
85438cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
85538cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
85638cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
85738cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
85838cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmple_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
85938cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
86038cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
86138cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
86238cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
86338cadebaSRichard Henderson 
86438cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
86538cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
86638cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
86738cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
86838cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
86938cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmple_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
87038cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
87138cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
87238cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
87338cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
87438cadebaSRichard Henderson 
87538cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
87638cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
87738cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
87838cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
87938cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
88038cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmple_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
88138cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
88238cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
88338cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
88438cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
88538cadebaSRichard Henderson 
886516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_and_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
887516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_bic_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
888516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_eor_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
889516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
890516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_orr_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
891516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_orn_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
892516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_nor_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
893516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_nand_pppp, TCG_CALL_NO_RWG,
894516e246aSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
89535da316fSRichard Henderson 
89635da316fSRichard Henderson DEF_HELPER_FLAGS_5(sve_brkpa, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
89735da316fSRichard Henderson DEF_HELPER_FLAGS_5(sve_brkpb, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
89835da316fSRichard Henderson DEF_HELPER_FLAGS_5(sve_brkpas, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, ptr, i32)
89935da316fSRichard Henderson DEF_HELPER_FLAGS_5(sve_brkpbs, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, ptr, i32)
90035da316fSRichard Henderson 
90135da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brka_z, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
90235da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkb_z, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
90335da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brka_m, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
90435da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkb_m, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
90535da316fSRichard Henderson 
90635da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkas_z, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
90735da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkbs_z, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
90835da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkas_m, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
90935da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkbs_m, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
91035da316fSRichard Henderson 
91135da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkn, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
91235da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkns, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
9139ee3a611SRichard Henderson 
9149ee3a611SRichard Henderson DEF_HELPER_FLAGS_3(sve_cntp, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
915caf1cefcSRichard Henderson 
916caf1cefcSRichard Henderson DEF_HELPER_FLAGS_3(sve_while, TCG_CALL_NO_RWG, i32, ptr, i32, i32)
9176e6a157dSRichard Henderson 
9186e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_subri_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9196e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_subri_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9206e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_subri_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9216e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_subri_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9226e6a157dSRichard Henderson 
9236e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smaxi_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9246e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smaxi_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9256e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smaxi_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9266e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smaxi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9276e6a157dSRichard Henderson 
9286e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smini_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9296e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smini_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9306e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smini_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9316e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smini_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9326e6a157dSRichard Henderson 
9336e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umaxi_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9346e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umaxi_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9356e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umaxi_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9366e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umaxi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9376e6a157dSRichard Henderson 
9386e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umini_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9396e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umini_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9406e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umini_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9416e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umini_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
94229b80469SRichard Henderson 
94329b80469SRichard Henderson DEF_HELPER_FLAGS_5(gvec_recps_h, TCG_CALL_NO_RWG,
94429b80469SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
94529b80469SRichard Henderson DEF_HELPER_FLAGS_5(gvec_recps_s, TCG_CALL_NO_RWG,
94629b80469SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
94729b80469SRichard Henderson DEF_HELPER_FLAGS_5(gvec_recps_d, TCG_CALL_NO_RWG,
94829b80469SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
94929b80469SRichard Henderson 
95029b80469SRichard Henderson DEF_HELPER_FLAGS_5(gvec_rsqrts_h, TCG_CALL_NO_RWG,
95129b80469SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
95229b80469SRichard Henderson DEF_HELPER_FLAGS_5(gvec_rsqrts_s, TCG_CALL_NO_RWG,
95329b80469SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
95429b80469SRichard Henderson DEF_HELPER_FLAGS_5(gvec_rsqrts_d, TCG_CALL_NO_RWG,
95529b80469SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
956c4e7c493SRichard Henderson 
95723fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_faddv_h, TCG_CALL_NO_RWG,
95823fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
95923fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_faddv_s, TCG_CALL_NO_RWG,
96023fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
96123fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_faddv_d, TCG_CALL_NO_RWG,
96223fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
96323fbe79fSRichard Henderson 
96423fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxnmv_h, TCG_CALL_NO_RWG,
96523fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
96623fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxnmv_s, TCG_CALL_NO_RWG,
96723fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
96823fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxnmv_d, TCG_CALL_NO_RWG,
96923fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
97023fbe79fSRichard Henderson 
97123fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fminnmv_h, TCG_CALL_NO_RWG,
97223fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
97323fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fminnmv_s, TCG_CALL_NO_RWG,
97423fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
97523fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fminnmv_d, TCG_CALL_NO_RWG,
97623fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
97723fbe79fSRichard Henderson 
97823fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxv_h, TCG_CALL_NO_RWG,
97923fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
98023fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxv_s, TCG_CALL_NO_RWG,
98123fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
98223fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxv_d, TCG_CALL_NO_RWG,
98323fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
98423fbe79fSRichard Henderson 
98523fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fminv_h, TCG_CALL_NO_RWG,
98623fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
98723fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fminv_s, TCG_CALL_NO_RWG,
98823fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
98923fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fminv_d, TCG_CALL_NO_RWG,
99023fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
99123fbe79fSRichard Henderson 
9927f9ddf64SRichard Henderson DEF_HELPER_FLAGS_5(sve_fadda_h, TCG_CALL_NO_RWG,
9937f9ddf64SRichard Henderson                    i64, i64, ptr, ptr, ptr, i32)
9947f9ddf64SRichard Henderson DEF_HELPER_FLAGS_5(sve_fadda_s, TCG_CALL_NO_RWG,
9957f9ddf64SRichard Henderson                    i64, i64, ptr, ptr, ptr, i32)
9967f9ddf64SRichard Henderson DEF_HELPER_FLAGS_5(sve_fadda_d, TCG_CALL_NO_RWG,
9977f9ddf64SRichard Henderson                    i64, i64, ptr, ptr, ptr, i32)
9987f9ddf64SRichard Henderson 
9994d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmge0_h, TCG_CALL_NO_RWG,
10004d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10014d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmge0_s, TCG_CALL_NO_RWG,
10024d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10034d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmge0_d, TCG_CALL_NO_RWG,
10044d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10054d2e2a03SRichard Henderson 
10064d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmgt0_h, TCG_CALL_NO_RWG,
10074d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10084d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmgt0_s, TCG_CALL_NO_RWG,
10094d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10104d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmgt0_d, TCG_CALL_NO_RWG,
10114d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10124d2e2a03SRichard Henderson 
10134d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmlt0_h, TCG_CALL_NO_RWG,
10144d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10154d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmlt0_s, TCG_CALL_NO_RWG,
10164d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10174d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmlt0_d, TCG_CALL_NO_RWG,
10184d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10194d2e2a03SRichard Henderson 
10204d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmle0_h, TCG_CALL_NO_RWG,
10214d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10224d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmle0_s, TCG_CALL_NO_RWG,
10234d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10244d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmle0_d, TCG_CALL_NO_RWG,
10254d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10264d2e2a03SRichard Henderson 
10274d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmeq0_h, TCG_CALL_NO_RWG,
10284d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10294d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmeq0_s, TCG_CALL_NO_RWG,
10304d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10314d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmeq0_d, TCG_CALL_NO_RWG,
10324d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10334d2e2a03SRichard Henderson 
10344d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmne0_h, TCG_CALL_NO_RWG,
10354d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10364d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmne0_s, TCG_CALL_NO_RWG,
10374d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10384d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmne0_d, TCG_CALL_NO_RWG,
10394d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10404d2e2a03SRichard Henderson 
1041ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fadd_h, TCG_CALL_NO_RWG,
1042ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1043ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fadd_s, TCG_CALL_NO_RWG,
1044ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1045ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fadd_d, TCG_CALL_NO_RWG,
1046ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1047ec3b87c2SRichard Henderson 
1048ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fsub_h, TCG_CALL_NO_RWG,
1049ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1050ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fsub_s, TCG_CALL_NO_RWG,
1051ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1052ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fsub_d, TCG_CALL_NO_RWG,
1053ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1054ec3b87c2SRichard Henderson 
1055ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmul_h, TCG_CALL_NO_RWG,
1056ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1057ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmul_s, TCG_CALL_NO_RWG,
1058ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1059ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmul_d, TCG_CALL_NO_RWG,
1060ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1061ec3b87c2SRichard Henderson 
1062ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fdiv_h, TCG_CALL_NO_RWG,
1063ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1064ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fdiv_s, TCG_CALL_NO_RWG,
1065ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1066ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fdiv_d, TCG_CALL_NO_RWG,
1067ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1068ec3b87c2SRichard Henderson 
1069ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmin_h, TCG_CALL_NO_RWG,
1070ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1071ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmin_s, TCG_CALL_NO_RWG,
1072ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1073ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmin_d, TCG_CALL_NO_RWG,
1074ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1075ec3b87c2SRichard Henderson 
1076ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmax_h, TCG_CALL_NO_RWG,
1077ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1078ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmax_s, TCG_CALL_NO_RWG,
1079ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1080ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmax_d, TCG_CALL_NO_RWG,
1081ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1082ec3b87c2SRichard Henderson 
1083ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnum_h, TCG_CALL_NO_RWG,
1084ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1085ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnum_s, TCG_CALL_NO_RWG,
1086ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1087ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnum_d, TCG_CALL_NO_RWG,
1088ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1089ec3b87c2SRichard Henderson 
1090ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnum_h, TCG_CALL_NO_RWG,
1091ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1092ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnum_s, TCG_CALL_NO_RWG,
1093ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1094ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnum_d, TCG_CALL_NO_RWG,
1095ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1096ec3b87c2SRichard Henderson 
1097ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fabd_h, TCG_CALL_NO_RWG,
1098ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1099ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fabd_s, TCG_CALL_NO_RWG,
1100ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1101ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fabd_d, TCG_CALL_NO_RWG,
1102ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1103ec3b87c2SRichard Henderson 
1104ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fscalbn_h, TCG_CALL_NO_RWG,
1105ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1106ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fscalbn_s, TCG_CALL_NO_RWG,
1107ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1108ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fscalbn_d, TCG_CALL_NO_RWG,
1109ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1110ec3b87c2SRichard Henderson 
1111ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmulx_h, TCG_CALL_NO_RWG,
1112ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1113ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmulx_s, TCG_CALL_NO_RWG,
1114ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1115ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmulx_d, TCG_CALL_NO_RWG,
1116ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1117ec3b87c2SRichard Henderson 
1118cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fadds_h, TCG_CALL_NO_RWG,
1119cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1120cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fadds_s, TCG_CALL_NO_RWG,
1121cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1122cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fadds_d, TCG_CALL_NO_RWG,
1123cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1124cc48affeSRichard Henderson 
1125cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubs_h, TCG_CALL_NO_RWG,
1126cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1127cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubs_s, TCG_CALL_NO_RWG,
1128cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1129cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubs_d, TCG_CALL_NO_RWG,
1130cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1131cc48affeSRichard Henderson 
1132cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmuls_h, TCG_CALL_NO_RWG,
1133cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1134cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmuls_s, TCG_CALL_NO_RWG,
1135cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1136cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmuls_d, TCG_CALL_NO_RWG,
1137cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1138cc48affeSRichard Henderson 
1139cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubrs_h, TCG_CALL_NO_RWG,
1140cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1141cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubrs_s, TCG_CALL_NO_RWG,
1142cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1143cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubrs_d, TCG_CALL_NO_RWG,
1144cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1145cc48affeSRichard Henderson 
1146cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnms_h, TCG_CALL_NO_RWG,
1147cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1148cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnms_s, TCG_CALL_NO_RWG,
1149cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1150cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnms_d, TCG_CALL_NO_RWG,
1151cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1152cc48affeSRichard Henderson 
1153cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnms_h, TCG_CALL_NO_RWG,
1154cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1155cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnms_s, TCG_CALL_NO_RWG,
1156cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1157cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnms_d, TCG_CALL_NO_RWG,
1158cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1159cc48affeSRichard Henderson 
1160cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxs_h, TCG_CALL_NO_RWG,
1161cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1162cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxs_s, TCG_CALL_NO_RWG,
1163cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1164cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxs_d, TCG_CALL_NO_RWG,
1165cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1166cc48affeSRichard Henderson 
1167cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmins_h, TCG_CALL_NO_RWG,
1168cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1169cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmins_s, TCG_CALL_NO_RWG,
1170cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1171cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmins_d, TCG_CALL_NO_RWG,
1172cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1173cc48affeSRichard Henderson 
117446d33d1eSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvt_sh, TCG_CALL_NO_RWG,
117546d33d1eSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
117646d33d1eSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvt_dh, TCG_CALL_NO_RWG,
117746d33d1eSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
117846d33d1eSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvt_hs, TCG_CALL_NO_RWG,
117946d33d1eSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
118046d33d1eSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvt_ds, TCG_CALL_NO_RWG,
118146d33d1eSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
118246d33d1eSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvt_hd, TCG_CALL_NO_RWG,
118346d33d1eSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
118446d33d1eSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvt_sd, TCG_CALL_NO_RWG,
118546d33d1eSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
118646d33d1eSRichard Henderson 
1187df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_hh, TCG_CALL_NO_RWG,
1188df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1189df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_hs, TCG_CALL_NO_RWG,
1190df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1191df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_ss, TCG_CALL_NO_RWG,
1192df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1193df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_ds, TCG_CALL_NO_RWG,
1194df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1195df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_hd, TCG_CALL_NO_RWG,
1196df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1197df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_sd, TCG_CALL_NO_RWG,
1198df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1199df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_dd, TCG_CALL_NO_RWG,
1200df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1201df4de1afSRichard Henderson 
1202df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_hh, TCG_CALL_NO_RWG,
1203df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1204df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_hs, TCG_CALL_NO_RWG,
1205df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1206df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_ss, TCG_CALL_NO_RWG,
1207df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1208df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_ds, TCG_CALL_NO_RWG,
1209df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1210df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_hd, TCG_CALL_NO_RWG,
1211df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1212df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_sd, TCG_CALL_NO_RWG,
1213df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1214df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_dd, TCG_CALL_NO_RWG,
1215df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1216df4de1afSRichard Henderson 
1217cda3c753SRichard Henderson DEF_HELPER_FLAGS_5(sve_frint_h, TCG_CALL_NO_RWG,
1218cda3c753SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1219cda3c753SRichard Henderson DEF_HELPER_FLAGS_5(sve_frint_s, TCG_CALL_NO_RWG,
1220cda3c753SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1221cda3c753SRichard Henderson DEF_HELPER_FLAGS_5(sve_frint_d, TCG_CALL_NO_RWG,
1222cda3c753SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1223cda3c753SRichard Henderson 
1224cda3c753SRichard Henderson DEF_HELPER_FLAGS_5(sve_frintx_h, TCG_CALL_NO_RWG,
1225cda3c753SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1226cda3c753SRichard Henderson DEF_HELPER_FLAGS_5(sve_frintx_s, TCG_CALL_NO_RWG,
1227cda3c753SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1228cda3c753SRichard Henderson DEF_HELPER_FLAGS_5(sve_frintx_d, TCG_CALL_NO_RWG,
1229cda3c753SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1230cda3c753SRichard Henderson 
1231ec5b375bSRichard Henderson DEF_HELPER_FLAGS_5(sve_frecpx_h, TCG_CALL_NO_RWG,
1232ec5b375bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1233ec5b375bSRichard Henderson DEF_HELPER_FLAGS_5(sve_frecpx_s, TCG_CALL_NO_RWG,
1234ec5b375bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1235ec5b375bSRichard Henderson DEF_HELPER_FLAGS_5(sve_frecpx_d, TCG_CALL_NO_RWG,
1236ec5b375bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1237ec5b375bSRichard Henderson 
1238ec5b375bSRichard Henderson DEF_HELPER_FLAGS_5(sve_fsqrt_h, TCG_CALL_NO_RWG,
1239ec5b375bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1240ec5b375bSRichard Henderson DEF_HELPER_FLAGS_5(sve_fsqrt_s, TCG_CALL_NO_RWG,
1241ec5b375bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1242ec5b375bSRichard Henderson DEF_HELPER_FLAGS_5(sve_fsqrt_d, TCG_CALL_NO_RWG,
1243ec5b375bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1244ec5b375bSRichard Henderson 
12458092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_hh, TCG_CALL_NO_RWG,
12468092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12478092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_sh, TCG_CALL_NO_RWG,
12488092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12498092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_dh, TCG_CALL_NO_RWG,
12508092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12518092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_ss, TCG_CALL_NO_RWG,
12528092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12538092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_sd, TCG_CALL_NO_RWG,
12548092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12558092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_ds, TCG_CALL_NO_RWG,
12568092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12578092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_dd, TCG_CALL_NO_RWG,
12588092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12598092c6a3SRichard Henderson 
12608092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_hh, TCG_CALL_NO_RWG,
12618092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12628092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_sh, TCG_CALL_NO_RWG,
12638092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12648092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_dh, TCG_CALL_NO_RWG,
12658092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12668092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_ss, TCG_CALL_NO_RWG,
12678092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12688092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_sd, TCG_CALL_NO_RWG,
12698092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12708092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_ds, TCG_CALL_NO_RWG,
12718092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12728092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_dd, TCG_CALL_NO_RWG,
12738092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12748092c6a3SRichard Henderson 
1275abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmge_h, TCG_CALL_NO_RWG,
1276abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1277abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmge_s, TCG_CALL_NO_RWG,
1278abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1279abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmge_d, TCG_CALL_NO_RWG,
1280abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1281abfdefd5SRichard Henderson 
1282abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmgt_h, TCG_CALL_NO_RWG,
1283abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1284abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmgt_s, TCG_CALL_NO_RWG,
1285abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1286abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmgt_d, TCG_CALL_NO_RWG,
1287abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1288abfdefd5SRichard Henderson 
1289abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmeq_h, TCG_CALL_NO_RWG,
1290abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1291abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmeq_s, TCG_CALL_NO_RWG,
1292abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1293abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmeq_d, TCG_CALL_NO_RWG,
1294abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1295abfdefd5SRichard Henderson 
1296abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmne_h, TCG_CALL_NO_RWG,
1297abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1298abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmne_s, TCG_CALL_NO_RWG,
1299abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1300abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmne_d, TCG_CALL_NO_RWG,
1301abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1302abfdefd5SRichard Henderson 
1303abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmuo_h, TCG_CALL_NO_RWG,
1304abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1305abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmuo_s, TCG_CALL_NO_RWG,
1306abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1307abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmuo_d, TCG_CALL_NO_RWG,
1308abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1309abfdefd5SRichard Henderson 
1310abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facge_h, TCG_CALL_NO_RWG,
1311abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1312abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facge_s, TCG_CALL_NO_RWG,
1313abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1314abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facge_d, TCG_CALL_NO_RWG,
1315abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1316abfdefd5SRichard Henderson 
1317abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facgt_h, TCG_CALL_NO_RWG,
1318abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1319abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facgt_s, TCG_CALL_NO_RWG,
1320abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1321abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facgt_d, TCG_CALL_NO_RWG,
1322abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1323abfdefd5SRichard Henderson 
132476a9d9cdSRichard Henderson DEF_HELPER_FLAGS_6(sve_fcadd_h, TCG_CALL_NO_RWG,
132576a9d9cdSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
132676a9d9cdSRichard Henderson DEF_HELPER_FLAGS_6(sve_fcadd_s, TCG_CALL_NO_RWG,
132776a9d9cdSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
132876a9d9cdSRichard Henderson DEF_HELPER_FLAGS_6(sve_fcadd_d, TCG_CALL_NO_RWG,
132976a9d9cdSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
133076a9d9cdSRichard Henderson 
133108975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fmla_zpzzz_h, TCG_CALL_NO_RWG,
133208975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
133308975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fmla_zpzzz_s, TCG_CALL_NO_RWG,
133408975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
133508975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fmla_zpzzz_d, TCG_CALL_NO_RWG,
133608975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
13376ceabaadSRichard Henderson 
133808975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fmls_zpzzz_h, TCG_CALL_NO_RWG,
133908975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
134008975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fmls_zpzzz_s, TCG_CALL_NO_RWG,
134108975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
134208975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fmls_zpzzz_d, TCG_CALL_NO_RWG,
134308975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
13446ceabaadSRichard Henderson 
134508975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fnmla_zpzzz_h, TCG_CALL_NO_RWG,
134608975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
134708975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fnmla_zpzzz_s, TCG_CALL_NO_RWG,
134808975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
134908975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fnmla_zpzzz_d, TCG_CALL_NO_RWG,
135008975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
13516ceabaadSRichard Henderson 
135208975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fnmls_zpzzz_h, TCG_CALL_NO_RWG,
135308975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
135408975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fnmls_zpzzz_s, TCG_CALL_NO_RWG,
135508975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
135608975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fnmls_zpzzz_d, TCG_CALL_NO_RWG,
135708975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
13586ceabaadSRichard Henderson 
135908975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fcmla_zpzzz_h, TCG_CALL_NO_RWG,
136008975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
136108975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fcmla_zpzzz_s, TCG_CALL_NO_RWG,
136208975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
136308975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fcmla_zpzzz_d, TCG_CALL_NO_RWG,
136408975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
136505f48babSRichard Henderson 
136667fcd9adSRichard Henderson DEF_HELPER_FLAGS_5(sve_ftmad_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
136767fcd9adSRichard Henderson DEF_HELPER_FLAGS_5(sve_ftmad_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
136867fcd9adSRichard Henderson DEF_HELPER_FLAGS_5(sve_ftmad_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
136967fcd9adSRichard Henderson 
13700ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_saddl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13710ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_saddl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13720ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_saddl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13730ce1dda8SRichard Henderson 
13740ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_ssubl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13750ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_ssubl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13760ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_ssubl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13770ce1dda8SRichard Henderson 
13780ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sabdl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13790ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sabdl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13800ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sabdl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13810ce1dda8SRichard Henderson 
13820ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uaddl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13830ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uaddl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13840ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uaddl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13850ce1dda8SRichard Henderson 
13860ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_usubl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13870ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_usubl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13880ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_usubl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13890ce1dda8SRichard Henderson 
13900ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uabdl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13910ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uabdl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13920ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uabdl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13930ce1dda8SRichard Henderson 
1394c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1395c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1396c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1397c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1398c4e7c493SRichard Henderson 
13997d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14007d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14017d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14027d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1403c4e7c493SRichard Henderson 
14047d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14057d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14067d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14077d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1408c4e7c493SRichard Henderson 
14097d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14107d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14117d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14127d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14137d0a57a2SRichard Henderson 
14147d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14157d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14167d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14177d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14187d0a57a2SRichard Henderson 
14197d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14207d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14217d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14227d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14237d0a57a2SRichard Henderson 
14247d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14257d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14267d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14277d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1428c4e7c493SRichard Henderson 
1429c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bhu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1430c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bsu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1431c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1432c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bhs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1433c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1434c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1435c4e7c493SRichard Henderson 
14367d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hsu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14377d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14387d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14397d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1440c4e7c493SRichard Henderson 
14417d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hsu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14427d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14437d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14447d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14457d0a57a2SRichard Henderson 
14467d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14477d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14487d0a57a2SRichard Henderson 
14497d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14507d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1451e2654d75SRichard Henderson 
1452206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1453206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1454206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1455206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1456206adacfSRichard Henderson 
1457206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1458206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1459206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1460206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1461206adacfSRichard Henderson 
1462206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1463206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1464206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1465206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1466206adacfSRichard Henderson 
1467206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1468206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1469206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1470206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1471206adacfSRichard Henderson 
1472206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1473206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1474206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1475206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1476206adacfSRichard Henderson 
1477206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1478206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1479206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1480206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1481206adacfSRichard Henderson 
1482206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1483206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1484206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1485206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1486206adacfSRichard Henderson 
1487206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bhu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1488206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bsu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1489206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bdu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1490206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bhs_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1491206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bss_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1492206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bds_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1493206adacfSRichard Henderson 
1494206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hsu_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1495206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hdu_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1496206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1497206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hds_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1498206adacfSRichard Henderson 
1499206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hsu_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1500206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hdu_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1501206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1502206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hds_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1503206adacfSRichard Henderson 
1504206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sdu_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1505206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sds_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1506206adacfSRichard Henderson 
1507206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sdu_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1508206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sds_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1509206adacfSRichard Henderson 
1510e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1511e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bhu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1512e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bsu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1513e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1514e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bhs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1515e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1516e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1517e2654d75SRichard Henderson 
15187d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15197d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hsu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15207d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15217d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15227d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1523e2654d75SRichard Henderson 
15247d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15257d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hsu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15267d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15277d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15287d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1529e2654d75SRichard Henderson 
15307d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15317d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15327d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15337d0a57a2SRichard Henderson 
15347d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15357d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15367d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15377d0a57a2SRichard Henderson 
15387d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15397d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1540e2654d75SRichard Henderson 
1541aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1542aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bhu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1543aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bsu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1544aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bdu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1545aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bhs_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1546aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bss_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1547aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bds_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1548aa13f7c3SRichard Henderson 
1549aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hh_le_r_mte, TCG_CALL_NO_WG,
1550aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1551aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hsu_le_r_mte, TCG_CALL_NO_WG,
1552aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1553aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hdu_le_r_mte, TCG_CALL_NO_WG,
1554aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1555aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hss_le_r_mte, TCG_CALL_NO_WG,
1556aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1557aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hds_le_r_mte, TCG_CALL_NO_WG,
1558aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1559aa13f7c3SRichard Henderson 
1560aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hh_be_r_mte, TCG_CALL_NO_WG,
1561aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1562aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hsu_be_r_mte, TCG_CALL_NO_WG,
1563aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1564aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hdu_be_r_mte, TCG_CALL_NO_WG,
1565aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1566aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hss_be_r_mte, TCG_CALL_NO_WG,
1567aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1568aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hds_be_r_mte, TCG_CALL_NO_WG,
1569aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1570aa13f7c3SRichard Henderson 
1571aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1ss_le_r_mte, TCG_CALL_NO_WG,
1572aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1573aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sdu_le_r_mte, TCG_CALL_NO_WG,
1574aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1575aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sds_le_r_mte, TCG_CALL_NO_WG,
1576aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1577aa13f7c3SRichard Henderson 
1578aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1ss_be_r_mte, TCG_CALL_NO_WG,
1579aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1580aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sdu_be_r_mte, TCG_CALL_NO_WG,
1581aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1582aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sds_be_r_mte, TCG_CALL_NO_WG,
1583aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1584aa13f7c3SRichard Henderson 
1585aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1dd_le_r_mte, TCG_CALL_NO_WG,
1586aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1587aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1dd_be_r_mte, TCG_CALL_NO_WG,
1588aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1589aa13f7c3SRichard Henderson 
1590e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1591e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bhu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1592e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bsu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1593e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1594e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bhs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1595e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1596e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1597e2654d75SRichard Henderson 
15987d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15997d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hsu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16007d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16017d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16027d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1603e2654d75SRichard Henderson 
16047d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16057d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hsu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16067d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16077d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16087d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1609e2654d75SRichard Henderson 
16107d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16117d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16127d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16137d0a57a2SRichard Henderson 
16147d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16157d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16167d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16177d0a57a2SRichard Henderson 
16187d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16197d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16201a039c7eSRichard Henderson 
1621aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1622aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bhu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1623aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bsu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1624aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bdu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1625aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bhs_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1626aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bss_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1627aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bds_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1628aa13f7c3SRichard Henderson 
1629aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hh_le_r_mte, TCG_CALL_NO_WG,
1630aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1631aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hsu_le_r_mte, TCG_CALL_NO_WG,
1632aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1633aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hdu_le_r_mte, TCG_CALL_NO_WG,
1634aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1635aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hss_le_r_mte, TCG_CALL_NO_WG,
1636aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1637aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hds_le_r_mte, TCG_CALL_NO_WG,
1638aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1639aa13f7c3SRichard Henderson 
1640aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hh_be_r_mte, TCG_CALL_NO_WG,
1641aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1642aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hsu_be_r_mte, TCG_CALL_NO_WG,
1643aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1644aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hdu_be_r_mte, TCG_CALL_NO_WG,
1645aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1646aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hss_be_r_mte, TCG_CALL_NO_WG,
1647aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1648aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hds_be_r_mte, TCG_CALL_NO_WG,
1649aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1650aa13f7c3SRichard Henderson 
1651aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1ss_le_r_mte, TCG_CALL_NO_WG,
1652aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1653aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sdu_le_r_mte, TCG_CALL_NO_WG,
1654aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1655aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sds_le_r_mte, TCG_CALL_NO_WG,
1656aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1657aa13f7c3SRichard Henderson 
1658aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1ss_be_r_mte, TCG_CALL_NO_WG,
1659aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1660aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sdu_be_r_mte, TCG_CALL_NO_WG,
1661aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1662aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sds_be_r_mte, TCG_CALL_NO_WG,
1663aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1664aa13f7c3SRichard Henderson 
1665aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1dd_le_r_mte, TCG_CALL_NO_WG,
1666aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1667aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1dd_be_r_mte, TCG_CALL_NO_WG,
1668aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1669aa13f7c3SRichard Henderson 
16701a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16711a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st2bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16721a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st3bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16731a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st4bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16741a039c7eSRichard Henderson 
167528d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
167628d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st2hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
167728d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st3hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
167828d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st4hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16791a039c7eSRichard Henderson 
168028d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
168128d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st2hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
168228d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st3hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
168328d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st4hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16841a039c7eSRichard Henderson 
168528d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
168628d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st2ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
168728d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st3ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
168828d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st4ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
168928d57f2dSRichard Henderson 
169028d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
169128d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st2ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
169228d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st3ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
169328d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st4ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
169428d57f2dSRichard Henderson 
169528d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
169628d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st2dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
169728d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st3dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
169828d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st4dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
169928d57f2dSRichard Henderson 
170028d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
170128d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st2dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
170228d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st3dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
170328d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st4dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
17041a039c7eSRichard Henderson 
17051a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bh_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
17061a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
17071a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bd_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
17081a039c7eSRichard Henderson 
170928d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hs_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
171028d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
171128d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hs_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
171228d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
17131a039c7eSRichard Henderson 
171428d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1sd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
171528d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1sd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1716f6dbf62aSRichard Henderson 
171771b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
171871b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
171971b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
172071b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
172171b9f394SRichard Henderson 
172271b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
172371b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
172471b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
172571b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
172671b9f394SRichard Henderson 
172771b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
172871b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
172971b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
173071b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
173171b9f394SRichard Henderson 
173271b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
173371b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
173471b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
173571b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
173671b9f394SRichard Henderson 
173771b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
173871b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
173971b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
174071b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
174171b9f394SRichard Henderson 
174271b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
174371b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
174471b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
174571b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
174671b9f394SRichard Henderson 
174771b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
174871b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
174971b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
175071b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
175171b9f394SRichard Henderson 
175271b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bh_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
175371b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bs_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
175471b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bd_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
175571b9f394SRichard Henderson 
175671b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hs_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
175771b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
175871b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hs_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
175971b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
176071b9f394SRichard Henderson 
176171b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1sd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
176271b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1sd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
176371b9f394SRichard Henderson 
1764673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbsu_zsu, TCG_CALL_NO_WG,
1765673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1766d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_le_zsu, TCG_CALL_NO_WG,
1767673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1768d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_be_zsu, TCG_CALL_NO_WG,
1769d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1770d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_le_zsu, TCG_CALL_NO_WG,
1771d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1772d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_be_zsu, TCG_CALL_NO_WG,
1773673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1774673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbss_zsu, TCG_CALL_NO_WG,
1775673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1776d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_le_zsu, TCG_CALL_NO_WG,
1777d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1778d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_be_zsu, TCG_CALL_NO_WG,
1779673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1780673e9fa6SRichard Henderson 
1781673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbsu_zss, TCG_CALL_NO_WG,
1782673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1783d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_le_zss, TCG_CALL_NO_WG,
1784673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1785d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_be_zss, TCG_CALL_NO_WG,
1786d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1787d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_le_zss, TCG_CALL_NO_WG,
1788d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1789d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_be_zss, TCG_CALL_NO_WG,
1790673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1791673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbss_zss, TCG_CALL_NO_WG,
1792673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1793d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_le_zss, TCG_CALL_NO_WG,
1794d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1795d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_be_zss, TCG_CALL_NO_WG,
1796673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1797673e9fa6SRichard Henderson 
1798673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zsu, TCG_CALL_NO_WG,
1799673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1800d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_le_zsu, TCG_CALL_NO_WG,
1801673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1802d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_be_zsu, TCG_CALL_NO_WG,
1803673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1804d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_le_zsu, TCG_CALL_NO_WG,
1805d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1806d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_be_zsu, TCG_CALL_NO_WG,
1807d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1808d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_le_zsu, TCG_CALL_NO_WG,
1809d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1810d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_be_zsu, TCG_CALL_NO_WG,
1811673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1812673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zsu, TCG_CALL_NO_WG,
1813673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1814d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_le_zsu, TCG_CALL_NO_WG,
1815673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1816d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_be_zsu, TCG_CALL_NO_WG,
1817d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1818d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_le_zsu, TCG_CALL_NO_WG,
1819d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1820d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_be_zsu, TCG_CALL_NO_WG,
1821673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1822673e9fa6SRichard Henderson 
1823673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zss, TCG_CALL_NO_WG,
1824673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1825d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_le_zss, TCG_CALL_NO_WG,
1826673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1827d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_be_zss, TCG_CALL_NO_WG,
1828673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1829d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_le_zss, TCG_CALL_NO_WG,
1830d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1831d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_be_zss, TCG_CALL_NO_WG,
1832d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1833d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_le_zss, TCG_CALL_NO_WG,
1834d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1835d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_be_zss, TCG_CALL_NO_WG,
1836673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1837673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zss, TCG_CALL_NO_WG,
1838673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1839d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_le_zss, TCG_CALL_NO_WG,
1840673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1841d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_be_zss, TCG_CALL_NO_WG,
1842d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1843d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_le_zss, TCG_CALL_NO_WG,
1844d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1845d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_be_zss, TCG_CALL_NO_WG,
1846673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1847673e9fa6SRichard Henderson 
1848673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zd, TCG_CALL_NO_WG,
1849673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1850d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_le_zd, TCG_CALL_NO_WG,
1851673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1852d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_be_zd, TCG_CALL_NO_WG,
1853673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1854d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_le_zd, TCG_CALL_NO_WG,
1855d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1856d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_be_zd, TCG_CALL_NO_WG,
1857d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1858d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_le_zd, TCG_CALL_NO_WG,
1859d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1860d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_be_zd, TCG_CALL_NO_WG,
1861673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1862673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zd, TCG_CALL_NO_WG,
1863673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1864d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_le_zd, TCG_CALL_NO_WG,
1865673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1866d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_be_zd, TCG_CALL_NO_WG,
1867d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1868d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_le_zd, TCG_CALL_NO_WG,
1869d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1870d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_be_zd, TCG_CALL_NO_WG,
1871673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1872673e9fa6SRichard Henderson 
1873d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbsu_zsu_mte, TCG_CALL_NO_WG,
1874d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1875d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_le_zsu_mte, TCG_CALL_NO_WG,
1876d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1877d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_be_zsu_mte, TCG_CALL_NO_WG,
1878d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1879d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_le_zsu_mte, TCG_CALL_NO_WG,
1880d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1881d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_be_zsu_mte, TCG_CALL_NO_WG,
1882d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1883d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbss_zsu_mte, TCG_CALL_NO_WG,
1884d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1885d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_le_zsu_mte, TCG_CALL_NO_WG,
1886d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1887d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_be_zsu_mte, TCG_CALL_NO_WG,
1888d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1889d28d12f0SRichard Henderson 
1890d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbsu_zss_mte, TCG_CALL_NO_WG,
1891d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1892d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_le_zss_mte, TCG_CALL_NO_WG,
1893d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1894d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_be_zss_mte, TCG_CALL_NO_WG,
1895d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1896d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_le_zss_mte, TCG_CALL_NO_WG,
1897d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1898d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_be_zss_mte, TCG_CALL_NO_WG,
1899d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1900d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbss_zss_mte, TCG_CALL_NO_WG,
1901d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1902d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_le_zss_mte, TCG_CALL_NO_WG,
1903d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1904d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_be_zss_mte, TCG_CALL_NO_WG,
1905d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1906d28d12f0SRichard Henderson 
1907d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zsu_mte, TCG_CALL_NO_WG,
1908d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1909d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_le_zsu_mte, TCG_CALL_NO_WG,
1910d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1911d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_be_zsu_mte, TCG_CALL_NO_WG,
1912d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1913d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_le_zsu_mte, TCG_CALL_NO_WG,
1914d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1915d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_be_zsu_mte, TCG_CALL_NO_WG,
1916d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1917d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_le_zsu_mte, TCG_CALL_NO_WG,
1918d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1919d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_be_zsu_mte, TCG_CALL_NO_WG,
1920d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1921d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zsu_mte, TCG_CALL_NO_WG,
1922d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1923d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_le_zsu_mte, TCG_CALL_NO_WG,
1924d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1925d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_be_zsu_mte, TCG_CALL_NO_WG,
1926d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1927d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_le_zsu_mte, TCG_CALL_NO_WG,
1928d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1929d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_be_zsu_mte, TCG_CALL_NO_WG,
1930d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1931d28d12f0SRichard Henderson 
1932d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zss_mte, TCG_CALL_NO_WG,
1933d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1934d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_le_zss_mte, TCG_CALL_NO_WG,
1935d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1936d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_be_zss_mte, TCG_CALL_NO_WG,
1937d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1938d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_le_zss_mte, TCG_CALL_NO_WG,
1939d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1940d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_be_zss_mte, TCG_CALL_NO_WG,
1941d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1942d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_le_zss_mte, TCG_CALL_NO_WG,
1943d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1944d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_be_zss_mte, TCG_CALL_NO_WG,
1945d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1946d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zss_mte, TCG_CALL_NO_WG,
1947d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1948d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_le_zss_mte, TCG_CALL_NO_WG,
1949d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1950d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_be_zss_mte, TCG_CALL_NO_WG,
1951d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1952d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_le_zss_mte, TCG_CALL_NO_WG,
1953d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1954d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_be_zss_mte, TCG_CALL_NO_WG,
1955d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1956d28d12f0SRichard Henderson 
1957d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zd_mte, TCG_CALL_NO_WG,
1958d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1959d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_le_zd_mte, TCG_CALL_NO_WG,
1960d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1961d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_be_zd_mte, TCG_CALL_NO_WG,
1962d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1963d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_le_zd_mte, TCG_CALL_NO_WG,
1964d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1965d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_be_zd_mte, TCG_CALL_NO_WG,
1966d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1967d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_le_zd_mte, TCG_CALL_NO_WG,
1968d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1969d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_be_zd_mte, TCG_CALL_NO_WG,
1970d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1971d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zd_mte, TCG_CALL_NO_WG,
1972d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1973d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_le_zd_mte, TCG_CALL_NO_WG,
1974d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1975d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_be_zd_mte, TCG_CALL_NO_WG,
1976d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1977d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_le_zd_mte, TCG_CALL_NO_WG,
1978d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1979d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_be_zd_mte, TCG_CALL_NO_WG,
1980d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1981d28d12f0SRichard Henderson 
1982ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbsu_zsu, TCG_CALL_NO_WG,
1983ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1984116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_le_zsu, TCG_CALL_NO_WG,
1985ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1986116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_be_zsu, TCG_CALL_NO_WG,
1987116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1988116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_le_zsu, TCG_CALL_NO_WG,
1989116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1990116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_be_zsu, TCG_CALL_NO_WG,
1991ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1992ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbss_zsu, TCG_CALL_NO_WG,
1993ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1994116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_le_zsu, TCG_CALL_NO_WG,
1995116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1996116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_be_zsu, TCG_CALL_NO_WG,
1997ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1998ed67eb7fSRichard Henderson 
1999ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbsu_zss, TCG_CALL_NO_WG,
2000ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2001116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_le_zss, TCG_CALL_NO_WG,
2002ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2003116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_be_zss, TCG_CALL_NO_WG,
2004116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2005116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_le_zss, TCG_CALL_NO_WG,
2006116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2007116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_be_zss, TCG_CALL_NO_WG,
2008ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2009ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbss_zss, TCG_CALL_NO_WG,
2010ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2011116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_le_zss, TCG_CALL_NO_WG,
2012116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2013116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_be_zss, TCG_CALL_NO_WG,
2014ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2015ed67eb7fSRichard Henderson 
2016ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zsu, TCG_CALL_NO_WG,
2017ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2018116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zsu, TCG_CALL_NO_WG,
2019ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2020116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zsu, TCG_CALL_NO_WG,
2021ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2022116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zsu, TCG_CALL_NO_WG,
2023116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2024116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zsu, TCG_CALL_NO_WG,
2025116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2026116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_le_zsu, TCG_CALL_NO_WG,
2027116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2028116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_be_zsu, TCG_CALL_NO_WG,
2029ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2030ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zsu, TCG_CALL_NO_WG,
2031ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2032116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_le_zsu, TCG_CALL_NO_WG,
2033ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2034116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_be_zsu, TCG_CALL_NO_WG,
2035116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2036116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_le_zsu, TCG_CALL_NO_WG,
2037116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2038116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_be_zsu, TCG_CALL_NO_WG,
2039ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2040ed67eb7fSRichard Henderson 
2041ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zss, TCG_CALL_NO_WG,
2042ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2043116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zss, TCG_CALL_NO_WG,
2044ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2045116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zss, TCG_CALL_NO_WG,
2046ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2047116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zss, TCG_CALL_NO_WG,
2048116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2049116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zss, TCG_CALL_NO_WG,
2050116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2051116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_le_zss, TCG_CALL_NO_WG,
2052116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2053116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_be_zss, TCG_CALL_NO_WG,
2054ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2055ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zss, TCG_CALL_NO_WG,
2056ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2057116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_le_zss, TCG_CALL_NO_WG,
2058ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2059116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_be_zss, TCG_CALL_NO_WG,
2060116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2061116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_le_zss, TCG_CALL_NO_WG,
2062116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2063116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_be_zss, TCG_CALL_NO_WG,
2064ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2065ed67eb7fSRichard Henderson 
2066ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zd, TCG_CALL_NO_WG,
2067ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2068116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zd, TCG_CALL_NO_WG,
2069ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2070116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zd, TCG_CALL_NO_WG,
2071ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2072116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zd, TCG_CALL_NO_WG,
2073116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2074116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zd, TCG_CALL_NO_WG,
2075116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2076116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_le_zd, TCG_CALL_NO_WG,
2077116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2078116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_be_zd, TCG_CALL_NO_WG,
2079ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2080ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zd, TCG_CALL_NO_WG,
2081ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2082116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_le_zd, TCG_CALL_NO_WG,
2083ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2084116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_be_zd, TCG_CALL_NO_WG,
2085116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2086116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_le_zd, TCG_CALL_NO_WG,
2087116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2088116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_be_zd, TCG_CALL_NO_WG,
2089ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2090ed67eb7fSRichard Henderson 
2091d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbsu_zsu_mte, TCG_CALL_NO_WG,
2092d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2093d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_le_zsu_mte, TCG_CALL_NO_WG,
2094d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2095d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_be_zsu_mte, TCG_CALL_NO_WG,
2096d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2097d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_le_zsu_mte, TCG_CALL_NO_WG,
2098d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2099d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_be_zsu_mte, TCG_CALL_NO_WG,
2100d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2101d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbss_zsu_mte, TCG_CALL_NO_WG,
2102d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2103d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_le_zsu_mte, TCG_CALL_NO_WG,
2104d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2105d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_be_zsu_mte, TCG_CALL_NO_WG,
2106d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2107d28d12f0SRichard Henderson 
2108d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbsu_zss_mte, TCG_CALL_NO_WG,
2109d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2110d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_le_zss_mte, TCG_CALL_NO_WG,
2111d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2112d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_be_zss_mte, TCG_CALL_NO_WG,
2113d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2114d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_le_zss_mte, TCG_CALL_NO_WG,
2115d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2116d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_be_zss_mte, TCG_CALL_NO_WG,
2117d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2118d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbss_zss_mte, TCG_CALL_NO_WG,
2119d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2120d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_le_zss_mte, TCG_CALL_NO_WG,
2121d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2122d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_be_zss_mte, TCG_CALL_NO_WG,
2123d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2124d28d12f0SRichard Henderson 
2125d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zsu_mte, TCG_CALL_NO_WG,
2126d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2127d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zsu_mte, TCG_CALL_NO_WG,
2128d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2129d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zsu_mte, TCG_CALL_NO_WG,
2130d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2131d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zsu_mte, TCG_CALL_NO_WG,
2132d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2133d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zsu_mte, TCG_CALL_NO_WG,
2134d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2135d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_le_zsu_mte, TCG_CALL_NO_WG,
2136d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2137d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_be_zsu_mte, TCG_CALL_NO_WG,
2138d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2139d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zsu_mte, TCG_CALL_NO_WG,
2140d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2141d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_le_zsu_mte, TCG_CALL_NO_WG,
2142d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2143d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_be_zsu_mte, TCG_CALL_NO_WG,
2144d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2145d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_le_zsu_mte, TCG_CALL_NO_WG,
2146d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2147d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_be_zsu_mte, TCG_CALL_NO_WG,
2148d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2149d28d12f0SRichard Henderson 
2150d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zss_mte, TCG_CALL_NO_WG,
2151d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2152d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zss_mte, TCG_CALL_NO_WG,
2153d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2154d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zss_mte, TCG_CALL_NO_WG,
2155d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2156d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zss_mte, TCG_CALL_NO_WG,
2157d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2158d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zss_mte, TCG_CALL_NO_WG,
2159d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2160d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_le_zss_mte, TCG_CALL_NO_WG,
2161d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2162d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_be_zss_mte, TCG_CALL_NO_WG,
2163d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2164d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zss_mte, TCG_CALL_NO_WG,
2165d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2166d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_le_zss_mte, TCG_CALL_NO_WG,
2167d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2168d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_be_zss_mte, TCG_CALL_NO_WG,
2169d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2170d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_le_zss_mte, TCG_CALL_NO_WG,
2171d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2172d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_be_zss_mte, TCG_CALL_NO_WG,
2173d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2174d28d12f0SRichard Henderson 
2175d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zd_mte, TCG_CALL_NO_WG,
2176d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2177d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zd_mte, TCG_CALL_NO_WG,
2178d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2179d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zd_mte, TCG_CALL_NO_WG,
2180d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2181d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zd_mte, TCG_CALL_NO_WG,
2182d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2183d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zd_mte, TCG_CALL_NO_WG,
2184d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2185d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_le_zd_mte, TCG_CALL_NO_WG,
2186d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2187d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_be_zd_mte, TCG_CALL_NO_WG,
2188d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2189d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zd_mte, TCG_CALL_NO_WG,
2190d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2191d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_le_zd_mte, TCG_CALL_NO_WG,
2192d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2193d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_be_zd_mte, TCG_CALL_NO_WG,
2194d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2195d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_le_zd_mte, TCG_CALL_NO_WG,
2196d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2197d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_be_zd_mte, TCG_CALL_NO_WG,
2198d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2199d28d12f0SRichard Henderson 
2200f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stbs_zsu, TCG_CALL_NO_WG,
2201f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
220278cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_le_zsu, TCG_CALL_NO_WG,
2203f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
220478cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_be_zsu, TCG_CALL_NO_WG,
220578cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
220678cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_le_zsu, TCG_CALL_NO_WG,
220778cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
220878cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_be_zsu, TCG_CALL_NO_WG,
2209f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2210f6dbf62aSRichard Henderson 
2211f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stbs_zss, TCG_CALL_NO_WG,
2212f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
221378cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_le_zss, TCG_CALL_NO_WG,
2214f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
221578cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_be_zss, TCG_CALL_NO_WG,
221678cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
221778cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_le_zss, TCG_CALL_NO_WG,
221878cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
221978cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_be_zss, TCG_CALL_NO_WG,
2220f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2221f6dbf62aSRichard Henderson 
2222f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zsu, TCG_CALL_NO_WG,
2223f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
222478cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_le_zsu, TCG_CALL_NO_WG,
2225f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
222678cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_be_zsu, TCG_CALL_NO_WG,
2227f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
222878cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_le_zsu, TCG_CALL_NO_WG,
222978cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
223078cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_be_zsu, TCG_CALL_NO_WG,
223178cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
223278cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_le_zsu, TCG_CALL_NO_WG,
223378cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
223478cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_be_zsu, TCG_CALL_NO_WG,
2235f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2236f6dbf62aSRichard Henderson 
2237f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zss, TCG_CALL_NO_WG,
2238f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
223978cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_le_zss, TCG_CALL_NO_WG,
2240f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
224178cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_be_zss, TCG_CALL_NO_WG,
2242f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
224378cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_le_zss, TCG_CALL_NO_WG,
224478cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
224578cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_be_zss, TCG_CALL_NO_WG,
224678cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
224778cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_le_zss, TCG_CALL_NO_WG,
224878cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
224978cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_be_zss, TCG_CALL_NO_WG,
2250f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2251f6dbf62aSRichard Henderson 
2252f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zd, TCG_CALL_NO_WG,
2253f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
225478cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_le_zd, TCG_CALL_NO_WG,
2255f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
225678cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_be_zd, TCG_CALL_NO_WG,
2257f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
225878cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_le_zd, TCG_CALL_NO_WG,
225978cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
226078cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_be_zd, TCG_CALL_NO_WG,
226178cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
226278cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_le_zd, TCG_CALL_NO_WG,
226378cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
226478cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_be_zd, TCG_CALL_NO_WG,
2265f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2266e7e96fc5SRichard Henderson 
2267d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stbs_zsu_mte, TCG_CALL_NO_WG,
2268d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2269d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_le_zsu_mte, TCG_CALL_NO_WG,
2270d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2271d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_be_zsu_mte, TCG_CALL_NO_WG,
2272d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2273d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_le_zsu_mte, TCG_CALL_NO_WG,
2274d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2275d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_be_zsu_mte, TCG_CALL_NO_WG,
2276d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2277d28d12f0SRichard Henderson 
2278d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stbs_zss_mte, TCG_CALL_NO_WG,
2279d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2280d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_le_zss_mte, TCG_CALL_NO_WG,
2281d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2282d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_be_zss_mte, TCG_CALL_NO_WG,
2283d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2284d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_le_zss_mte, TCG_CALL_NO_WG,
2285d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2286d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_be_zss_mte, TCG_CALL_NO_WG,
2287d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2288d28d12f0SRichard Henderson 
2289d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zsu_mte, TCG_CALL_NO_WG,
2290d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2291d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_le_zsu_mte, TCG_CALL_NO_WG,
2292d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2293d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_be_zsu_mte, TCG_CALL_NO_WG,
2294d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2295d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_le_zsu_mte, TCG_CALL_NO_WG,
2296d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2297d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_be_zsu_mte, TCG_CALL_NO_WG,
2298d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2299d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_le_zsu_mte, TCG_CALL_NO_WG,
2300d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2301d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_be_zsu_mte, TCG_CALL_NO_WG,
2302d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2303d28d12f0SRichard Henderson 
2304d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zss_mte, TCG_CALL_NO_WG,
2305d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2306d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_le_zss_mte, TCG_CALL_NO_WG,
2307d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2308d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_be_zss_mte, TCG_CALL_NO_WG,
2309d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2310d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_le_zss_mte, TCG_CALL_NO_WG,
2311d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2312d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_be_zss_mte, TCG_CALL_NO_WG,
2313d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2314d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_le_zss_mte, TCG_CALL_NO_WG,
2315d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2316d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_be_zss_mte, TCG_CALL_NO_WG,
2317d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2318d28d12f0SRichard Henderson 
2319d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zd_mte, TCG_CALL_NO_WG,
2320d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2321d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_le_zd_mte, TCG_CALL_NO_WG,
2322d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2323d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_be_zd_mte, TCG_CALL_NO_WG,
2324d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2325d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_le_zd_mte, TCG_CALL_NO_WG,
2326d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2327d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_be_zd_mte, TCG_CALL_NO_WG,
2328d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2329d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_le_zd_mte, TCG_CALL_NO_WG,
2330d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2331d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_be_zd_mte, TCG_CALL_NO_WG,
2332d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2333d28d12f0SRichard Henderson 
2334e7e96fc5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_pmull_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2335