xref: /qemu/target/arm/tcg/helper-sve.h (revision e9ad3ef19ee4af62152fdc7f1150bf59a7f997d0) 
19e18d7a6SRichard Henderson /*
29e18d7a6SRichard Henderson  *  AArch64 SVE specific helper definitions
39e18d7a6SRichard Henderson  *
49e18d7a6SRichard Henderson  *  Copyright (c) 2018 Linaro, Ltd
59e18d7a6SRichard Henderson  *
69e18d7a6SRichard Henderson  * This library is free software; you can redistribute it and/or
79e18d7a6SRichard Henderson  * modify it under the terms of the GNU Lesser General Public
89e18d7a6SRichard Henderson  * License as published by the Free Software Foundation; either
950f57e09SChetan Pant  * version 2.1 of the License, or (at your option) any later version.
109e18d7a6SRichard Henderson  *
119e18d7a6SRichard Henderson  * This library is distributed in the hope that it will be useful,
129e18d7a6SRichard Henderson  * but WITHOUT ANY WARRANTY; without even the implied warranty of
139e18d7a6SRichard Henderson  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
149e18d7a6SRichard Henderson  * Lesser General Public License for more details.
159e18d7a6SRichard Henderson  *
169e18d7a6SRichard Henderson  * You should have received a copy of the GNU Lesser General Public
179e18d7a6SRichard Henderson  * License along with this library; if not, see <http://www.gnu.org/licenses/>.
189e18d7a6SRichard Henderson  */
199e18d7a6SRichard Henderson 
209e18d7a6SRichard Henderson DEF_HELPER_FLAGS_2(sve_predtest1, TCG_CALL_NO_WG, i32, i64, i64)
219e18d7a6SRichard Henderson DEF_HELPER_FLAGS_3(sve_predtest, TCG_CALL_NO_WG, i32, ptr, ptr, i32)
22516e246aSRichard Henderson 
23028e2a7bSRichard Henderson DEF_HELPER_FLAGS_3(sve_pfirst, TCG_CALL_NO_WG, i32, ptr, ptr, i32)
24028e2a7bSRichard Henderson DEF_HELPER_FLAGS_3(sve_pnext, TCG_CALL_NO_WG, i32, ptr, ptr, i32)
25028e2a7bSRichard Henderson 
26f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_and_zpzz_b, TCG_CALL_NO_RWG,
27f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
28f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_and_zpzz_h, TCG_CALL_NO_RWG,
29f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
30f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_and_zpzz_s, TCG_CALL_NO_RWG,
31f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
32f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_and_zpzz_d, TCG_CALL_NO_RWG,
33f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
34f97cfd59SRichard Henderson 
35f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_eor_zpzz_b, TCG_CALL_NO_RWG,
36f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
37f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_eor_zpzz_h, TCG_CALL_NO_RWG,
38f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
39f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_eor_zpzz_s, TCG_CALL_NO_RWG,
40f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
41f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_eor_zpzz_d, TCG_CALL_NO_RWG,
42f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
43f97cfd59SRichard Henderson 
44f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_orr_zpzz_b, TCG_CALL_NO_RWG,
45f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
46f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_orr_zpzz_h, TCG_CALL_NO_RWG,
47f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
48f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_orr_zpzz_s, TCG_CALL_NO_RWG,
49f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
50f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_orr_zpzz_d, TCG_CALL_NO_RWG,
51f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
52f97cfd59SRichard Henderson 
53f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_bic_zpzz_b, TCG_CALL_NO_RWG,
54f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
55f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_bic_zpzz_h, TCG_CALL_NO_RWG,
56f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
57f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_bic_zpzz_s, TCG_CALL_NO_RWG,
58f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
59f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_bic_zpzz_d, TCG_CALL_NO_RWG,
60f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
61f97cfd59SRichard Henderson 
62f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_add_zpzz_b, TCG_CALL_NO_RWG,
63f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
64f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_add_zpzz_h, TCG_CALL_NO_RWG,
65f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
66f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_add_zpzz_s, TCG_CALL_NO_RWG,
67f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
68f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_add_zpzz_d, TCG_CALL_NO_RWG,
69f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
70f97cfd59SRichard Henderson 
71f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sub_zpzz_b, TCG_CALL_NO_RWG,
72f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
73f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sub_zpzz_h, TCG_CALL_NO_RWG,
74f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
75f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sub_zpzz_s, TCG_CALL_NO_RWG,
76f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
77f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sub_zpzz_d, TCG_CALL_NO_RWG,
78f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
79f97cfd59SRichard Henderson 
80f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smax_zpzz_b, TCG_CALL_NO_RWG,
81f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
82f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smax_zpzz_h, TCG_CALL_NO_RWG,
83f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
84f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smax_zpzz_s, TCG_CALL_NO_RWG,
85f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
86f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smax_zpzz_d, TCG_CALL_NO_RWG,
87f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
88f97cfd59SRichard Henderson 
89f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umax_zpzz_b, TCG_CALL_NO_RWG,
90f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
91f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umax_zpzz_h, TCG_CALL_NO_RWG,
92f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
93f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umax_zpzz_s, TCG_CALL_NO_RWG,
94f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
95f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umax_zpzz_d, TCG_CALL_NO_RWG,
96f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
97f97cfd59SRichard Henderson 
98f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smin_zpzz_b, TCG_CALL_NO_RWG,
99f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
100f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smin_zpzz_h, TCG_CALL_NO_RWG,
101f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
102f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smin_zpzz_s, TCG_CALL_NO_RWG,
103f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
104f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smin_zpzz_d, TCG_CALL_NO_RWG,
105f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
106f97cfd59SRichard Henderson 
107f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umin_zpzz_b, TCG_CALL_NO_RWG,
108f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
109f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umin_zpzz_h, TCG_CALL_NO_RWG,
110f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
111f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umin_zpzz_s, TCG_CALL_NO_RWG,
112f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
113f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umin_zpzz_d, TCG_CALL_NO_RWG,
114f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
115f97cfd59SRichard Henderson 
116f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sabd_zpzz_b, TCG_CALL_NO_RWG,
117f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
118f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sabd_zpzz_h, TCG_CALL_NO_RWG,
119f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
120f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sabd_zpzz_s, TCG_CALL_NO_RWG,
121f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
122f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sabd_zpzz_d, TCG_CALL_NO_RWG,
123f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
124f97cfd59SRichard Henderson 
125f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_uabd_zpzz_b, TCG_CALL_NO_RWG,
126f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
127f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_uabd_zpzz_h, TCG_CALL_NO_RWG,
128f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
129f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_uabd_zpzz_s, TCG_CALL_NO_RWG,
130f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
131f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_uabd_zpzz_d, TCG_CALL_NO_RWG,
132f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
133f97cfd59SRichard Henderson 
134f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_mul_zpzz_b, TCG_CALL_NO_RWG,
135f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
136f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_mul_zpzz_h, TCG_CALL_NO_RWG,
137f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
138f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_mul_zpzz_s, TCG_CALL_NO_RWG,
139f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
140f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_mul_zpzz_d, TCG_CALL_NO_RWG,
141f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
142f97cfd59SRichard Henderson 
143f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smulh_zpzz_b, TCG_CALL_NO_RWG,
144f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
145f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smulh_zpzz_h, TCG_CALL_NO_RWG,
146f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
147f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smulh_zpzz_s, TCG_CALL_NO_RWG,
148f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
149f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_smulh_zpzz_d, TCG_CALL_NO_RWG,
150f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
151f97cfd59SRichard Henderson 
152f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umulh_zpzz_b, TCG_CALL_NO_RWG,
153f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
154f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umulh_zpzz_h, TCG_CALL_NO_RWG,
155f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
156f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umulh_zpzz_s, TCG_CALL_NO_RWG,
157f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
158f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_umulh_zpzz_d, TCG_CALL_NO_RWG,
159f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
160f97cfd59SRichard Henderson 
161d4b1e59dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sadalp_zpzz_h, TCG_CALL_NO_RWG,
162d4b1e59dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
163d4b1e59dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sadalp_zpzz_s, TCG_CALL_NO_RWG,
164d4b1e59dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
165d4b1e59dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sadalp_zpzz_d, TCG_CALL_NO_RWG,
166d4b1e59dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
167d4b1e59dSRichard Henderson 
168d4b1e59dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uadalp_zpzz_h, TCG_CALL_NO_RWG,
169d4b1e59dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
170d4b1e59dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uadalp_zpzz_s, TCG_CALL_NO_RWG,
171d4b1e59dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
172d4b1e59dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uadalp_zpzz_d, TCG_CALL_NO_RWG,
173d4b1e59dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
174d4b1e59dSRichard Henderson 
17545d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_srshl_zpzz_b, TCG_CALL_NO_RWG,
17645d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
17745d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_srshl_zpzz_h, TCG_CALL_NO_RWG,
17845d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
17945d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_srshl_zpzz_s, TCG_CALL_NO_RWG,
18045d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
18145d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_srshl_zpzz_d, TCG_CALL_NO_RWG,
18245d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
18345d9503dSRichard Henderson 
18445d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_urshl_zpzz_b, TCG_CALL_NO_RWG,
18545d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
18645d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_urshl_zpzz_h, TCG_CALL_NO_RWG,
18745d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
18845d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_urshl_zpzz_s, TCG_CALL_NO_RWG,
18945d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
19045d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_urshl_zpzz_d, TCG_CALL_NO_RWG,
19145d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
19245d9503dSRichard Henderson 
19345d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqshl_zpzz_b, TCG_CALL_NO_RWG,
19445d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
19545d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqshl_zpzz_h, TCG_CALL_NO_RWG,
19645d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
19745d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqshl_zpzz_s, TCG_CALL_NO_RWG,
19845d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
19945d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqshl_zpzz_d, TCG_CALL_NO_RWG,
20045d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
20145d9503dSRichard Henderson 
20245d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqshl_zpzz_b, TCG_CALL_NO_RWG,
20345d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
20445d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqshl_zpzz_h, TCG_CALL_NO_RWG,
20545d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
20645d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqshl_zpzz_s, TCG_CALL_NO_RWG,
20745d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
20845d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqshl_zpzz_d, TCG_CALL_NO_RWG,
20945d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
21045d9503dSRichard Henderson 
21145d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrshl_zpzz_b, TCG_CALL_NO_RWG,
21245d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
21345d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrshl_zpzz_h, TCG_CALL_NO_RWG,
21445d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
21545d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrshl_zpzz_s, TCG_CALL_NO_RWG,
21645d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
21745d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrshl_zpzz_d, TCG_CALL_NO_RWG,
21845d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
21945d9503dSRichard Henderson 
22045d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqrshl_zpzz_b, TCG_CALL_NO_RWG,
22145d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
22245d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqrshl_zpzz_h, TCG_CALL_NO_RWG,
22345d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
22445d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqrshl_zpzz_s, TCG_CALL_NO_RWG,
22545d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
22645d9503dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqrshl_zpzz_d, TCG_CALL_NO_RWG,
22745d9503dSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
22845d9503dSRichard Henderson 
229a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_shadd_zpzz_b, TCG_CALL_NO_RWG,
230a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
231a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_shadd_zpzz_h, TCG_CALL_NO_RWG,
232a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
233a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_shadd_zpzz_s, TCG_CALL_NO_RWG,
234a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
235a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_shadd_zpzz_d, TCG_CALL_NO_RWG,
236a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
237a47dc220SRichard Henderson 
238a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uhadd_zpzz_b, TCG_CALL_NO_RWG,
239a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
240a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uhadd_zpzz_h, TCG_CALL_NO_RWG,
241a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
242a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uhadd_zpzz_s, TCG_CALL_NO_RWG,
243a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
244a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uhadd_zpzz_d, TCG_CALL_NO_RWG,
245a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
246a47dc220SRichard Henderson 
247a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_srhadd_zpzz_b, TCG_CALL_NO_RWG,
248a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
249a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_srhadd_zpzz_h, TCG_CALL_NO_RWG,
250a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
251a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_srhadd_zpzz_s, TCG_CALL_NO_RWG,
252a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
253a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_srhadd_zpzz_d, TCG_CALL_NO_RWG,
254a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
255a47dc220SRichard Henderson 
256a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_urhadd_zpzz_b, TCG_CALL_NO_RWG,
257a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
258a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_urhadd_zpzz_h, TCG_CALL_NO_RWG,
259a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
260a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_urhadd_zpzz_s, TCG_CALL_NO_RWG,
261a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
262a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_urhadd_zpzz_d, TCG_CALL_NO_RWG,
263a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
264a47dc220SRichard Henderson 
265a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_shsub_zpzz_b, TCG_CALL_NO_RWG,
266a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
267a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_shsub_zpzz_h, TCG_CALL_NO_RWG,
268a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
269a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_shsub_zpzz_s, TCG_CALL_NO_RWG,
270a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
271a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_shsub_zpzz_d, TCG_CALL_NO_RWG,
272a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
273a47dc220SRichard Henderson 
274a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uhsub_zpzz_b, TCG_CALL_NO_RWG,
275a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
276a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uhsub_zpzz_h, TCG_CALL_NO_RWG,
277a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
278a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uhsub_zpzz_s, TCG_CALL_NO_RWG,
279a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
280a47dc220SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uhsub_zpzz_d, TCG_CALL_NO_RWG,
281a47dc220SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
282a47dc220SRichard Henderson 
283f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sdiv_zpzz_s, TCG_CALL_NO_RWG,
284f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
285f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_sdiv_zpzz_d, TCG_CALL_NO_RWG,
286f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
287f97cfd59SRichard Henderson 
288f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_udiv_zpzz_s, TCG_CALL_NO_RWG,
289f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
290f97cfd59SRichard Henderson DEF_HELPER_FLAGS_5(sve_udiv_zpzz_d, TCG_CALL_NO_RWG,
291f97cfd59SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
292f97cfd59SRichard Henderson 
29327721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzz_b, TCG_CALL_NO_RWG,
29427721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
29527721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzz_h, TCG_CALL_NO_RWG,
29627721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
29727721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzz_s, TCG_CALL_NO_RWG,
29827721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
29927721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzz_d, TCG_CALL_NO_RWG,
30027721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
30127721dbbSRichard Henderson 
30227721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzz_b, TCG_CALL_NO_RWG,
30327721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
30427721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzz_h, TCG_CALL_NO_RWG,
30527721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
30627721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzz_s, TCG_CALL_NO_RWG,
30727721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
30827721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzz_d, TCG_CALL_NO_RWG,
30927721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
31027721dbbSRichard Henderson 
31127721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzz_b, TCG_CALL_NO_RWG,
31227721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
31327721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzz_h, TCG_CALL_NO_RWG,
31427721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
31527721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzz_s, TCG_CALL_NO_RWG,
31627721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
31727721dbbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzz_d, TCG_CALL_NO_RWG,
31827721dbbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
31927721dbbSRichard Henderson 
320d3fe4a29SRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_zpzz_b, TCG_CALL_NO_RWG,
321d3fe4a29SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
322d3fe4a29SRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_zpzz_h, TCG_CALL_NO_RWG,
323d3fe4a29SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
324d3fe4a29SRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_zpzz_s, TCG_CALL_NO_RWG,
325d3fe4a29SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
326d3fe4a29SRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_zpzz_d, TCG_CALL_NO_RWG,
327d3fe4a29SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
328e9ad3ef1SRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_zpzz_q, TCG_CALL_NO_RWG,
329e9ad3ef1SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
330d3fe4a29SRichard Henderson 
3318597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_addp_zpzz_b, TCG_CALL_NO_RWG,
3328597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3338597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_addp_zpzz_h, TCG_CALL_NO_RWG,
3348597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3358597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_addp_zpzz_s, TCG_CALL_NO_RWG,
3368597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3378597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_addp_zpzz_d, TCG_CALL_NO_RWG,
3388597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3398597dc8bSRichard Henderson 
3408597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_smaxp_zpzz_b, TCG_CALL_NO_RWG,
3418597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3428597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_smaxp_zpzz_h, TCG_CALL_NO_RWG,
3438597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3448597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_smaxp_zpzz_s, TCG_CALL_NO_RWG,
3458597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3468597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_smaxp_zpzz_d, TCG_CALL_NO_RWG,
3478597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3488597dc8bSRichard Henderson 
3498597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_umaxp_zpzz_b, TCG_CALL_NO_RWG,
3508597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3518597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_umaxp_zpzz_h, TCG_CALL_NO_RWG,
3528597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3538597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_umaxp_zpzz_s, TCG_CALL_NO_RWG,
3548597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3558597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_umaxp_zpzz_d, TCG_CALL_NO_RWG,
3568597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3578597dc8bSRichard Henderson 
3588597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sminp_zpzz_b, TCG_CALL_NO_RWG,
3598597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3608597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sminp_zpzz_h, TCG_CALL_NO_RWG,
3618597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3628597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sminp_zpzz_s, TCG_CALL_NO_RWG,
3638597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3648597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sminp_zpzz_d, TCG_CALL_NO_RWG,
3658597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3668597dc8bSRichard Henderson 
3678597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uminp_zpzz_b, TCG_CALL_NO_RWG,
3688597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3698597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uminp_zpzz_h, TCG_CALL_NO_RWG,
3708597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3718597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uminp_zpzz_s, TCG_CALL_NO_RWG,
3728597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3738597dc8bSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uminp_zpzz_d, TCG_CALL_NO_RWG,
3748597dc8bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3758597dc8bSRichard Henderson 
3764f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqadd_zpzz_b, TCG_CALL_NO_RWG,
3774f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3784f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqadd_zpzz_h, TCG_CALL_NO_RWG,
3794f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3804f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqadd_zpzz_s, TCG_CALL_NO_RWG,
3814f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3824f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqadd_zpzz_d, TCG_CALL_NO_RWG,
3834f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3844f07fbebSRichard Henderson 
3854f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqadd_zpzz_b, TCG_CALL_NO_RWG,
3864f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3874f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqadd_zpzz_h, TCG_CALL_NO_RWG,
3884f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3894f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqadd_zpzz_s, TCG_CALL_NO_RWG,
3904f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3914f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqadd_zpzz_d, TCG_CALL_NO_RWG,
3924f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3934f07fbebSRichard Henderson 
3944f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqsub_zpzz_b, TCG_CALL_NO_RWG,
3954f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3964f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqsub_zpzz_h, TCG_CALL_NO_RWG,
3974f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
3984f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqsub_zpzz_s, TCG_CALL_NO_RWG,
3994f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4004f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqsub_zpzz_d, TCG_CALL_NO_RWG,
4014f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4024f07fbebSRichard Henderson 
4034f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqsub_zpzz_b, TCG_CALL_NO_RWG,
4044f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4054f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqsub_zpzz_h, TCG_CALL_NO_RWG,
4064f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4074f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqsub_zpzz_s, TCG_CALL_NO_RWG,
4084f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4094f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_uqsub_zpzz_d, TCG_CALL_NO_RWG,
4104f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4114f07fbebSRichard Henderson 
4124f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_suqadd_zpzz_b, TCG_CALL_NO_RWG,
4134f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4144f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_suqadd_zpzz_h, TCG_CALL_NO_RWG,
4154f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4164f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_suqadd_zpzz_s, TCG_CALL_NO_RWG,
4174f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4184f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_suqadd_zpzz_d, TCG_CALL_NO_RWG,
4194f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4204f07fbebSRichard Henderson 
4214f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_usqadd_zpzz_b, TCG_CALL_NO_RWG,
4224f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4234f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_usqadd_zpzz_h, TCG_CALL_NO_RWG,
4244f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4254f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_usqadd_zpzz_s, TCG_CALL_NO_RWG,
4264f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4274f07fbebSRichard Henderson DEF_HELPER_FLAGS_5(sve2_usqadd_zpzz_d, TCG_CALL_NO_RWG,
4284f07fbebSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
4294f07fbebSRichard Henderson 
430fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzw_b, TCG_CALL_NO_RWG,
431fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
432fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzw_h, TCG_CALL_NO_RWG,
433fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
434fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_asr_zpzw_s, TCG_CALL_NO_RWG,
435fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
436fe7f8dfbSRichard Henderson 
437fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzw_b, TCG_CALL_NO_RWG,
438fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
439fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzw_h, TCG_CALL_NO_RWG,
440fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
441fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsr_zpzw_s, TCG_CALL_NO_RWG,
442fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
443fe7f8dfbSRichard Henderson 
444fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzw_b, TCG_CALL_NO_RWG,
445fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
446fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzw_h, TCG_CALL_NO_RWG,
447fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
448fe7f8dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve_lsl_zpzw_s, TCG_CALL_NO_RWG,
449fe7f8dfbSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
450fe7f8dfbSRichard Henderson 
451047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_orv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
452047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_orv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
453047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_orv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
454047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_orv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
455047cec97SRichard Henderson 
456047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_eorv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
457047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_eorv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
458047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_eorv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
459047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_eorv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
460047cec97SRichard Henderson 
461047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_andv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
462047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_andv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
463047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_andv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
464047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_andv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
465047cec97SRichard Henderson 
466047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_saddv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
467047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_saddv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
468047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_saddv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
469047cec97SRichard Henderson 
470047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uaddv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
471047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uaddv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
472047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uaddv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
473047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uaddv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
474047cec97SRichard Henderson 
475047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_smaxv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
476047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_smaxv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
477047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_smaxv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
478047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_smaxv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
479047cec97SRichard Henderson 
480047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_umaxv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
481047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_umaxv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
482047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_umaxv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
483047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_umaxv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
484047cec97SRichard Henderson 
485047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_sminv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
486047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_sminv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
487047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_sminv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
488047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_sminv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
489047cec97SRichard Henderson 
490047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uminv_b, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
491047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uminv_h, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
492047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uminv_s, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
493047cec97SRichard Henderson DEF_HELPER_FLAGS_3(sve_uminv_d, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
494047cec97SRichard Henderson 
49568459864SRichard Henderson DEF_HELPER_FLAGS_4(sve_movz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
49668459864SRichard Henderson DEF_HELPER_FLAGS_4(sve_movz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
49768459864SRichard Henderson DEF_HELPER_FLAGS_4(sve_movz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
49868459864SRichard Henderson DEF_HELPER_FLAGS_4(sve_movz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
49968459864SRichard Henderson 
500ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zpzi_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
501ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zpzi_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
502ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zpzi_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
503ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zpzi_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
504ccd841c3SRichard Henderson 
505ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zpzi_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
506ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zpzi_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
507ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zpzi_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
508ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zpzi_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
509ccd841c3SRichard Henderson 
510ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zpzi_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
511ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zpzi_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
512ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zpzi_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
513ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zpzi_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
514ccd841c3SRichard Henderson 
515ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asrd_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
516ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asrd_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
517ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asrd_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
518ccd841c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_asrd_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
519ccd841c3SRichard Henderson 
520afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cls_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
521afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cls_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
522afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cls_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
523afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cls_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
524afac6d04SRichard Henderson 
525afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_clz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
526afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_clz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
527afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_clz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
528afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_clz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
529afac6d04SRichard Henderson 
530afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnt_zpz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
531afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnt_zpz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
532afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnt_zpz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
533afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnt_zpz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
534afac6d04SRichard Henderson 
535afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnot_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
536afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnot_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
537afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnot_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
538afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_cnot_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
539afac6d04SRichard Henderson 
540afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_fabs_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
541afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_fabs_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
542afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_fabs_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
543afac6d04SRichard Henderson 
544afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_fneg_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
545afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_fneg_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
546afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_fneg_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
547afac6d04SRichard Henderson 
548afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_not_zpz_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
549afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_not_zpz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
550afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_not_zpz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
551afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_not_zpz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
552afac6d04SRichard Henderson 
553afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxtb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
554afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxtb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
555afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxtb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
556afac6d04SRichard Henderson 
557afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxtb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
558afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxtb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
559afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxtb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
560afac6d04SRichard Henderson 
561afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxth_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
562afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxth_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
563afac6d04SRichard Henderson 
564afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxth_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
565afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxth_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
566afac6d04SRichard Henderson 
567afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_sxtw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
568afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_uxtw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
569afac6d04SRichard Henderson 
570afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_abs_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
571afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_abs_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
572afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_abs_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
573afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_abs_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
574afac6d04SRichard Henderson 
575afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_neg_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
576afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_neg_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
577afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_neg_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
578afac6d04SRichard Henderson DEF_HELPER_FLAGS_4(sve_neg_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
579afac6d04SRichard Henderson 
58096a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mla_b, TCG_CALL_NO_RWG,
58196a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
58296a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mla_h, TCG_CALL_NO_RWG,
58396a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
58496a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mla_s, TCG_CALL_NO_RWG,
58596a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
58696a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mla_d, TCG_CALL_NO_RWG,
58796a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
58896a36e4aSRichard Henderson 
58996a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mls_b, TCG_CALL_NO_RWG,
59096a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
59196a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mls_h, TCG_CALL_NO_RWG,
59296a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
59396a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mls_s, TCG_CALL_NO_RWG,
59496a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
59596a36e4aSRichard Henderson DEF_HELPER_FLAGS_6(sve_mls_d, TCG_CALL_NO_RWG,
59696a36e4aSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
59796a36e4aSRichard Henderson 
5989a56c9c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_index_b, TCG_CALL_NO_RWG, void, ptr, i32, i32, i32)
5999a56c9c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_index_h, TCG_CALL_NO_RWG, void, ptr, i32, i32, i32)
6009a56c9c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_index_s, TCG_CALL_NO_RWG, void, ptr, i32, i32, i32)
6019a56c9c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_index_d, TCG_CALL_NO_RWG, void, ptr, i64, i64, i32)
6029a56c9c3SRichard Henderson 
603d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zzw_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
604d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zzw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
605d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_asr_zzw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
606d9d78dccSRichard Henderson 
607d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zzw_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
608d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zzw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
609d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_lsr_zzw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
610d9d78dccSRichard Henderson 
611d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zzw_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
612d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zzw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
613d9d78dccSRichard Henderson DEF_HELPER_FLAGS_4(sve_lsl_zzw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
614d9d78dccSRichard Henderson 
6154b242d9cSRichard Henderson DEF_HELPER_FLAGS_4(sve_adr_p32, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
6164b242d9cSRichard Henderson DEF_HELPER_FLAGS_4(sve_adr_p64, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
6174b242d9cSRichard Henderson DEF_HELPER_FLAGS_4(sve_adr_s32, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
6184b242d9cSRichard Henderson DEF_HELPER_FLAGS_4(sve_adr_u32, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
6194b242d9cSRichard Henderson 
6200762cd42SRichard Henderson DEF_HELPER_FLAGS_3(sve_fexpa_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
6210762cd42SRichard Henderson DEF_HELPER_FLAGS_3(sve_fexpa_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
6220762cd42SRichard Henderson DEF_HELPER_FLAGS_3(sve_fexpa_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
6230762cd42SRichard Henderson 
624a1f233f2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ftssel_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
625a1f233f2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ftssel_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
626a1f233f2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ftssel_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
627a1f233f2SRichard Henderson 
62824e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_sqaddi_b, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
62924e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_sqaddi_h, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
63024e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_sqaddi_s, TCG_CALL_NO_RWG, void, ptr, ptr, s64, i32)
63124e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_sqaddi_d, TCG_CALL_NO_RWG, void, ptr, ptr, s64, i32)
63224e82e68SRichard Henderson 
63324e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_uqaddi_b, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
63424e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_uqaddi_h, TCG_CALL_NO_RWG, void, ptr, ptr, s32, i32)
63524e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_uqaddi_s, TCG_CALL_NO_RWG, void, ptr, ptr, s64, i32)
63624e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_uqaddi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
63724e82e68SRichard Henderson DEF_HELPER_FLAGS_4(sve_uqsubi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
63824e82e68SRichard Henderson 
639f25a2361SRichard Henderson DEF_HELPER_FLAGS_5(sve_cpy_m_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
640f25a2361SRichard Henderson DEF_HELPER_FLAGS_5(sve_cpy_m_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
641f25a2361SRichard Henderson DEF_HELPER_FLAGS_5(sve_cpy_m_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
642f25a2361SRichard Henderson DEF_HELPER_FLAGS_5(sve_cpy_m_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i64, i32)
643f25a2361SRichard Henderson 
644f25a2361SRichard Henderson DEF_HELPER_FLAGS_4(sve_cpy_z_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
645f25a2361SRichard Henderson DEF_HELPER_FLAGS_4(sve_cpy_z_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
646f25a2361SRichard Henderson DEF_HELPER_FLAGS_4(sve_cpy_z_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
647f25a2361SRichard Henderson DEF_HELPER_FLAGS_4(sve_cpy_z_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
648f25a2361SRichard Henderson 
649b94f8f60SRichard Henderson DEF_HELPER_FLAGS_4(sve_ext, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
650b94f8f60SRichard Henderson 
65130562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_insr_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
65230562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_insr_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
65330562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_insr_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
65430562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_insr_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
65530562ab7SRichard Henderson 
65630562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_rev_b, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
65730562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_rev_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
65830562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_rev_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
65930562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_rev_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
66030562ab7SRichard Henderson 
66130562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_tbl_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
66230562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_tbl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
66330562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_tbl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
66430562ab7SRichard Henderson DEF_HELPER_FLAGS_4(sve_tbl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
66530562ab7SRichard Henderson 
66680a712a2SStephen Long DEF_HELPER_FLAGS_5(sve2_tbl_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
66780a712a2SStephen Long DEF_HELPER_FLAGS_5(sve2_tbl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
66880a712a2SStephen Long DEF_HELPER_FLAGS_5(sve2_tbl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
66980a712a2SStephen Long DEF_HELPER_FLAGS_5(sve2_tbl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
67080a712a2SStephen Long 
67180a712a2SStephen Long DEF_HELPER_FLAGS_4(sve2_tbx_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
67280a712a2SStephen Long DEF_HELPER_FLAGS_4(sve2_tbx_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
67380a712a2SStephen Long DEF_HELPER_FLAGS_4(sve2_tbx_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
67480a712a2SStephen Long DEF_HELPER_FLAGS_4(sve2_tbx_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
67580a712a2SStephen Long 
67630562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_sunpk_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
67730562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_sunpk_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
67830562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_sunpk_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
67930562ab7SRichard Henderson 
68030562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_uunpk_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
68130562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_uunpk_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
68230562ab7SRichard Henderson DEF_HELPER_FLAGS_3(sve_uunpk_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
68330562ab7SRichard Henderson 
684d731d8cbSRichard Henderson DEF_HELPER_FLAGS_4(sve_zip_p, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
685d731d8cbSRichard Henderson DEF_HELPER_FLAGS_4(sve_uzp_p, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
686d731d8cbSRichard Henderson DEF_HELPER_FLAGS_4(sve_trn_p, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
687d731d8cbSRichard Henderson DEF_HELPER_FLAGS_3(sve_rev_p, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
688d731d8cbSRichard Henderson DEF_HELPER_FLAGS_3(sve_punpk_p, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
689d731d8cbSRichard Henderson 
690234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_zip_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
691234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_zip_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
692234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_zip_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
693234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_zip_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
69474b64b25SRichard Henderson DEF_HELPER_FLAGS_4(sve2_zip_q, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
695234b48e9SRichard Henderson 
696234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_uzp_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
697234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_uzp_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
698234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_uzp_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
699234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_uzp_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
70074b64b25SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uzp_q, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
701234b48e9SRichard Henderson 
702234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_trn_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
703234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_trn_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
704234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_trn_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
705234b48e9SRichard Henderson DEF_HELPER_FLAGS_4(sve_trn_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
70674b64b25SRichard Henderson DEF_HELPER_FLAGS_4(sve2_trn_q, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
707234b48e9SRichard Henderson 
7083ca879aeSRichard Henderson DEF_HELPER_FLAGS_4(sve_compact_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
7093ca879aeSRichard Henderson DEF_HELPER_FLAGS_4(sve_compact_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
7103ca879aeSRichard Henderson 
711ef23cb72SRichard Henderson DEF_HELPER_FLAGS_2(sve_last_active_element, TCG_CALL_NO_RWG, s32, ptr, i32)
712ef23cb72SRichard Henderson 
713dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_revb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
714dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_revb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
715dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_revb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
716dae8fb90SRichard Henderson 
717dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_revh_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
718dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_revh_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
719dae8fb90SRichard Henderson 
720dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_revw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
721dae8fb90SRichard Henderson 
722dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_rbit_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
723dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_rbit_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
724dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_rbit_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
725dae8fb90SRichard Henderson DEF_HELPER_FLAGS_4(sve_rbit_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
726dae8fb90SRichard Henderson 
727db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqabs_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
728db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqabs_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
729db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqabs_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
730db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqabs_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
731db366da8SRichard Henderson 
732db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqneg_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
733db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqneg_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
734db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqneg_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
735db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqneg_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
736db366da8SRichard Henderson 
737db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_urecpe_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
738db366da8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_ursqrte_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
739db366da8SRichard Henderson 
740b48ff240SRichard Henderson DEF_HELPER_FLAGS_5(sve_splice, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
741b48ff240SRichard Henderson 
742757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_b, TCG_CALL_NO_RWG,
743757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
744757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_b, TCG_CALL_NO_RWG,
745757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
746757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_b, TCG_CALL_NO_RWG,
747757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
748757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_b, TCG_CALL_NO_RWG,
749757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
750757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_b, TCG_CALL_NO_RWG,
751757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
752757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_b, TCG_CALL_NO_RWG,
753757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
754757f9cffSRichard Henderson 
755757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_h, TCG_CALL_NO_RWG,
756757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
757757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_h, TCG_CALL_NO_RWG,
758757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
759757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_h, TCG_CALL_NO_RWG,
760757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
761757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_h, TCG_CALL_NO_RWG,
762757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
763757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_h, TCG_CALL_NO_RWG,
764757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
765757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_h, TCG_CALL_NO_RWG,
766757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
767757f9cffSRichard Henderson 
768757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_s, TCG_CALL_NO_RWG,
769757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
770757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_s, TCG_CALL_NO_RWG,
771757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
772757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_s, TCG_CALL_NO_RWG,
773757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
774757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_s, TCG_CALL_NO_RWG,
775757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
776757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_s, TCG_CALL_NO_RWG,
777757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
778757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_s, TCG_CALL_NO_RWG,
779757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
780757f9cffSRichard Henderson 
781757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzz_d, TCG_CALL_NO_RWG,
782757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
783757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzz_d, TCG_CALL_NO_RWG,
784757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
785757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzz_d, TCG_CALL_NO_RWG,
786757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
787757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzz_d, TCG_CALL_NO_RWG,
788757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
789757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzz_d, TCG_CALL_NO_RWG,
790757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
791757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzz_d, TCG_CALL_NO_RWG,
792757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
793757f9cffSRichard Henderson 
794757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzw_b, TCG_CALL_NO_RWG,
795757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
796757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzw_b, TCG_CALL_NO_RWG,
797757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
798757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzw_b, TCG_CALL_NO_RWG,
799757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
800757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzw_b, TCG_CALL_NO_RWG,
801757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
802757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzw_b, TCG_CALL_NO_RWG,
803757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
804757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzw_b, TCG_CALL_NO_RWG,
805757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
806757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmple_ppzw_b, TCG_CALL_NO_RWG,
807757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
808757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplt_ppzw_b, TCG_CALL_NO_RWG,
809757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
810757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplo_ppzw_b, TCG_CALL_NO_RWG,
811757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
812757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpls_ppzw_b, TCG_CALL_NO_RWG,
813757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
814757f9cffSRichard Henderson 
815757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzw_h, TCG_CALL_NO_RWG,
816757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
817757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzw_h, TCG_CALL_NO_RWG,
818757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
819757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzw_h, TCG_CALL_NO_RWG,
820757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
821757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzw_h, TCG_CALL_NO_RWG,
822757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
823757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzw_h, TCG_CALL_NO_RWG,
824757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
825757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzw_h, TCG_CALL_NO_RWG,
826757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
827757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmple_ppzw_h, TCG_CALL_NO_RWG,
828757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
829757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplt_ppzw_h, TCG_CALL_NO_RWG,
830757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
831757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplo_ppzw_h, TCG_CALL_NO_RWG,
832757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
833757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpls_ppzw_h, TCG_CALL_NO_RWG,
834757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
835757f9cffSRichard Henderson 
836757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpeq_ppzw_s, TCG_CALL_NO_RWG,
837757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
838757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpne_ppzw_s, TCG_CALL_NO_RWG,
839757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
840757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpge_ppzw_s, TCG_CALL_NO_RWG,
841757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
842757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpgt_ppzw_s, TCG_CALL_NO_RWG,
843757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
844757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphi_ppzw_s, TCG_CALL_NO_RWG,
845757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
846757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmphs_ppzw_s, TCG_CALL_NO_RWG,
847757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
848757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmple_ppzw_s, TCG_CALL_NO_RWG,
849757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
850757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplt_ppzw_s, TCG_CALL_NO_RWG,
851757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
852757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmplo_ppzw_s, TCG_CALL_NO_RWG,
853757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
854757f9cffSRichard Henderson DEF_HELPER_FLAGS_5(sve_cmpls_ppzw_s, TCG_CALL_NO_RWG,
855757f9cffSRichard Henderson                    i32, ptr, ptr, ptr, ptr, i32)
856757f9cffSRichard Henderson 
85738cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
85838cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
85938cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
86038cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
86138cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
86238cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmple_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
86338cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
86438cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
86538cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
86638cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_b, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
86738cadebaSRichard Henderson 
86838cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
86938cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
87038cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
87138cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
87238cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
87338cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmple_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
87438cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
87538cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
87638cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
87738cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_h, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
87838cadebaSRichard Henderson 
87938cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
88038cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
88138cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
88238cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
88338cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
88438cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmple_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
88538cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
88638cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
88738cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
88838cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_s, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
88938cadebaSRichard Henderson 
89038cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpeq_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
89138cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpne_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
89238cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpgt_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
89338cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpge_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
89438cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplt_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
89538cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmple_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
89638cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphs_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
89738cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmphi_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
89838cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmplo_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
89938cadebaSRichard Henderson DEF_HELPER_FLAGS_4(sve_cmpls_ppzi_d, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
90038cadebaSRichard Henderson 
901516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_and_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
902516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_bic_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
903516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_eor_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
904516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_sel_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
905516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_orr_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
906516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_orn_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
907516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_nor_pppp, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
908516e246aSRichard Henderson DEF_HELPER_FLAGS_5(sve_nand_pppp, TCG_CALL_NO_RWG,
909516e246aSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
91035da316fSRichard Henderson 
91135da316fSRichard Henderson DEF_HELPER_FLAGS_5(sve_brkpa, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
91235da316fSRichard Henderson DEF_HELPER_FLAGS_5(sve_brkpb, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
91335da316fSRichard Henderson DEF_HELPER_FLAGS_5(sve_brkpas, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, ptr, i32)
91435da316fSRichard Henderson DEF_HELPER_FLAGS_5(sve_brkpbs, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, ptr, i32)
91535da316fSRichard Henderson 
91635da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brka_z, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
91735da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkb_z, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
91835da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brka_m, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
91935da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkb_m, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
92035da316fSRichard Henderson 
92135da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkas_z, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
92235da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkbs_z, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
92335da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkas_m, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
92435da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkbs_m, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
92535da316fSRichard Henderson 
92635da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkn, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
92735da316fSRichard Henderson DEF_HELPER_FLAGS_4(sve_brkns, TCG_CALL_NO_RWG, i32, ptr, ptr, ptr, i32)
9289ee3a611SRichard Henderson 
9299ee3a611SRichard Henderson DEF_HELPER_FLAGS_3(sve_cntp, TCG_CALL_NO_RWG, i64, ptr, ptr, i32)
930caf1cefcSRichard Henderson 
93134688dbcSRichard Henderson DEF_HELPER_FLAGS_3(sve_whilel, TCG_CALL_NO_RWG, i32, ptr, i32, i32)
93234688dbcSRichard Henderson DEF_HELPER_FLAGS_3(sve_whileg, TCG_CALL_NO_RWG, i32, ptr, i32, i32)
9336e6a157dSRichard Henderson 
9346e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_subri_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9356e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_subri_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9366e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_subri_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9376e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_subri_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9386e6a157dSRichard Henderson 
9396e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smaxi_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9406e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smaxi_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9416e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smaxi_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9426e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smaxi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9436e6a157dSRichard Henderson 
9446e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smini_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9456e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smini_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9466e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smini_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9476e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_smini_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9486e6a157dSRichard Henderson 
9496e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umaxi_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9506e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umaxi_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9516e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umaxi_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9526e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umaxi_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9536e6a157dSRichard Henderson 
9546e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umini_b, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9556e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umini_h, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9566e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umini_s, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
9576e6a157dSRichard Henderson DEF_HELPER_FLAGS_4(sve_umini_d, TCG_CALL_NO_RWG, void, ptr, ptr, i64, i32)
95829b80469SRichard Henderson 
95929b80469SRichard Henderson DEF_HELPER_FLAGS_5(gvec_recps_h, TCG_CALL_NO_RWG,
96029b80469SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
96129b80469SRichard Henderson DEF_HELPER_FLAGS_5(gvec_recps_s, TCG_CALL_NO_RWG,
96229b80469SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
96329b80469SRichard Henderson DEF_HELPER_FLAGS_5(gvec_recps_d, TCG_CALL_NO_RWG,
96429b80469SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
96529b80469SRichard Henderson 
96629b80469SRichard Henderson DEF_HELPER_FLAGS_5(gvec_rsqrts_h, TCG_CALL_NO_RWG,
96729b80469SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
96829b80469SRichard Henderson DEF_HELPER_FLAGS_5(gvec_rsqrts_s, TCG_CALL_NO_RWG,
96929b80469SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
97029b80469SRichard Henderson DEF_HELPER_FLAGS_5(gvec_rsqrts_d, TCG_CALL_NO_RWG,
97129b80469SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
972c4e7c493SRichard Henderson 
97323fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_faddv_h, TCG_CALL_NO_RWG,
97423fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
97523fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_faddv_s, TCG_CALL_NO_RWG,
97623fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
97723fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_faddv_d, TCG_CALL_NO_RWG,
97823fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
97923fbe79fSRichard Henderson 
98023fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxnmv_h, TCG_CALL_NO_RWG,
98123fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
98223fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxnmv_s, TCG_CALL_NO_RWG,
98323fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
98423fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxnmv_d, TCG_CALL_NO_RWG,
98523fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
98623fbe79fSRichard Henderson 
98723fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fminnmv_h, TCG_CALL_NO_RWG,
98823fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
98923fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fminnmv_s, TCG_CALL_NO_RWG,
99023fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
99123fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fminnmv_d, TCG_CALL_NO_RWG,
99223fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
99323fbe79fSRichard Henderson 
99423fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxv_h, TCG_CALL_NO_RWG,
99523fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
99623fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxv_s, TCG_CALL_NO_RWG,
99723fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
99823fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fmaxv_d, TCG_CALL_NO_RWG,
99923fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
100023fbe79fSRichard Henderson 
100123fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fminv_h, TCG_CALL_NO_RWG,
100223fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
100323fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fminv_s, TCG_CALL_NO_RWG,
100423fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
100523fbe79fSRichard Henderson DEF_HELPER_FLAGS_4(sve_fminv_d, TCG_CALL_NO_RWG,
100623fbe79fSRichard Henderson                    i64, ptr, ptr, ptr, i32)
100723fbe79fSRichard Henderson 
10087f9ddf64SRichard Henderson DEF_HELPER_FLAGS_5(sve_fadda_h, TCG_CALL_NO_RWG,
10097f9ddf64SRichard Henderson                    i64, i64, ptr, ptr, ptr, i32)
10107f9ddf64SRichard Henderson DEF_HELPER_FLAGS_5(sve_fadda_s, TCG_CALL_NO_RWG,
10117f9ddf64SRichard Henderson                    i64, i64, ptr, ptr, ptr, i32)
10127f9ddf64SRichard Henderson DEF_HELPER_FLAGS_5(sve_fadda_d, TCG_CALL_NO_RWG,
10137f9ddf64SRichard Henderson                    i64, i64, ptr, ptr, ptr, i32)
10147f9ddf64SRichard Henderson 
10154d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmge0_h, TCG_CALL_NO_RWG,
10164d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10174d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmge0_s, TCG_CALL_NO_RWG,
10184d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10194d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmge0_d, TCG_CALL_NO_RWG,
10204d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10214d2e2a03SRichard Henderson 
10224d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmgt0_h, TCG_CALL_NO_RWG,
10234d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10244d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmgt0_s, TCG_CALL_NO_RWG,
10254d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10264d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmgt0_d, TCG_CALL_NO_RWG,
10274d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10284d2e2a03SRichard Henderson 
10294d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmlt0_h, TCG_CALL_NO_RWG,
10304d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10314d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmlt0_s, TCG_CALL_NO_RWG,
10324d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10334d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmlt0_d, TCG_CALL_NO_RWG,
10344d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10354d2e2a03SRichard Henderson 
10364d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmle0_h, TCG_CALL_NO_RWG,
10374d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10384d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmle0_s, TCG_CALL_NO_RWG,
10394d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10404d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmle0_d, TCG_CALL_NO_RWG,
10414d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10424d2e2a03SRichard Henderson 
10434d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmeq0_h, TCG_CALL_NO_RWG,
10444d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10454d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmeq0_s, TCG_CALL_NO_RWG,
10464d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10474d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmeq0_d, TCG_CALL_NO_RWG,
10484d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10494d2e2a03SRichard Henderson 
10504d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmne0_h, TCG_CALL_NO_RWG,
10514d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10524d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmne0_s, TCG_CALL_NO_RWG,
10534d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10544d2e2a03SRichard Henderson DEF_HELPER_FLAGS_5(sve_fcmne0_d, TCG_CALL_NO_RWG,
10554d2e2a03SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
10564d2e2a03SRichard Henderson 
1057ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fadd_h, TCG_CALL_NO_RWG,
1058ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1059ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fadd_s, TCG_CALL_NO_RWG,
1060ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1061ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fadd_d, TCG_CALL_NO_RWG,
1062ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1063ec3b87c2SRichard Henderson 
1064ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fsub_h, TCG_CALL_NO_RWG,
1065ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1066ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fsub_s, TCG_CALL_NO_RWG,
1067ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1068ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fsub_d, TCG_CALL_NO_RWG,
1069ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1070ec3b87c2SRichard Henderson 
1071ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmul_h, TCG_CALL_NO_RWG,
1072ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1073ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmul_s, TCG_CALL_NO_RWG,
1074ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1075ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmul_d, TCG_CALL_NO_RWG,
1076ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1077ec3b87c2SRichard Henderson 
1078ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fdiv_h, TCG_CALL_NO_RWG,
1079ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1080ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fdiv_s, TCG_CALL_NO_RWG,
1081ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1082ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fdiv_d, TCG_CALL_NO_RWG,
1083ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1084ec3b87c2SRichard Henderson 
1085ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmin_h, TCG_CALL_NO_RWG,
1086ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1087ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmin_s, TCG_CALL_NO_RWG,
1088ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1089ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmin_d, TCG_CALL_NO_RWG,
1090ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1091ec3b87c2SRichard Henderson 
1092ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmax_h, TCG_CALL_NO_RWG,
1093ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1094ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmax_s, TCG_CALL_NO_RWG,
1095ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1096ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmax_d, TCG_CALL_NO_RWG,
1097ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1098ec3b87c2SRichard Henderson 
1099ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnum_h, TCG_CALL_NO_RWG,
1100ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1101ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnum_s, TCG_CALL_NO_RWG,
1102ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1103ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnum_d, TCG_CALL_NO_RWG,
1104ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1105ec3b87c2SRichard Henderson 
1106ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnum_h, TCG_CALL_NO_RWG,
1107ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1108ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnum_s, TCG_CALL_NO_RWG,
1109ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1110ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnum_d, TCG_CALL_NO_RWG,
1111ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1112ec3b87c2SRichard Henderson 
1113ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fabd_h, TCG_CALL_NO_RWG,
1114ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1115ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fabd_s, TCG_CALL_NO_RWG,
1116ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1117ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fabd_d, TCG_CALL_NO_RWG,
1118ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1119ec3b87c2SRichard Henderson 
1120ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fscalbn_h, TCG_CALL_NO_RWG,
1121ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1122ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fscalbn_s, TCG_CALL_NO_RWG,
1123ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1124ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fscalbn_d, TCG_CALL_NO_RWG,
1125ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1126ec3b87c2SRichard Henderson 
1127ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmulx_h, TCG_CALL_NO_RWG,
1128ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1129ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmulx_s, TCG_CALL_NO_RWG,
1130ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1131ec3b87c2SRichard Henderson DEF_HELPER_FLAGS_6(sve_fmulx_d, TCG_CALL_NO_RWG,
1132ec3b87c2SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1133ec3b87c2SRichard Henderson 
1134cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fadds_h, TCG_CALL_NO_RWG,
1135cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1136cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fadds_s, TCG_CALL_NO_RWG,
1137cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1138cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fadds_d, TCG_CALL_NO_RWG,
1139cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1140cc48affeSRichard Henderson 
1141cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubs_h, TCG_CALL_NO_RWG,
1142cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1143cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubs_s, TCG_CALL_NO_RWG,
1144cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1145cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubs_d, TCG_CALL_NO_RWG,
1146cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1147cc48affeSRichard Henderson 
1148cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmuls_h, TCG_CALL_NO_RWG,
1149cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1150cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmuls_s, TCG_CALL_NO_RWG,
1151cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1152cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmuls_d, TCG_CALL_NO_RWG,
1153cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1154cc48affeSRichard Henderson 
1155cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubrs_h, TCG_CALL_NO_RWG,
1156cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1157cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubrs_s, TCG_CALL_NO_RWG,
1158cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1159cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fsubrs_d, TCG_CALL_NO_RWG,
1160cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1161cc48affeSRichard Henderson 
1162cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnms_h, TCG_CALL_NO_RWG,
1163cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1164cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnms_s, TCG_CALL_NO_RWG,
1165cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1166cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxnms_d, TCG_CALL_NO_RWG,
1167cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1168cc48affeSRichard Henderson 
1169cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnms_h, TCG_CALL_NO_RWG,
1170cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1171cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnms_s, TCG_CALL_NO_RWG,
1172cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1173cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fminnms_d, TCG_CALL_NO_RWG,
1174cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1175cc48affeSRichard Henderson 
1176cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxs_h, TCG_CALL_NO_RWG,
1177cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1178cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxs_s, TCG_CALL_NO_RWG,
1179cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1180cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmaxs_d, TCG_CALL_NO_RWG,
1181cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1182cc48affeSRichard Henderson 
1183cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmins_h, TCG_CALL_NO_RWG,
1184cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1185cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmins_s, TCG_CALL_NO_RWG,
1186cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1187cc48affeSRichard Henderson DEF_HELPER_FLAGS_6(sve_fmins_d, TCG_CALL_NO_RWG,
1188cc48affeSRichard Henderson                    void, ptr, ptr, ptr, i64, ptr, i32)
1189cc48affeSRichard Henderson 
119046d33d1eSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvt_sh, TCG_CALL_NO_RWG,
119146d33d1eSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
119246d33d1eSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvt_dh, TCG_CALL_NO_RWG,
119346d33d1eSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
119446d33d1eSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvt_hs, TCG_CALL_NO_RWG,
119546d33d1eSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
119646d33d1eSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvt_ds, TCG_CALL_NO_RWG,
119746d33d1eSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
119846d33d1eSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvt_hd, TCG_CALL_NO_RWG,
119946d33d1eSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
120046d33d1eSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvt_sd, TCG_CALL_NO_RWG,
120146d33d1eSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1202d29b17caSRichard Henderson DEF_HELPER_FLAGS_5(sve_bfcvt, TCG_CALL_NO_RWG,
1203d29b17caSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
120446d33d1eSRichard Henderson 
1205df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_hh, TCG_CALL_NO_RWG,
1206df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1207df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_hs, TCG_CALL_NO_RWG,
1208df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1209df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_ss, TCG_CALL_NO_RWG,
1210df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1211df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_ds, TCG_CALL_NO_RWG,
1212df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1213df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_hd, TCG_CALL_NO_RWG,
1214df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1215df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_sd, TCG_CALL_NO_RWG,
1216df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1217df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzs_dd, TCG_CALL_NO_RWG,
1218df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1219df4de1afSRichard Henderson 
1220df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_hh, TCG_CALL_NO_RWG,
1221df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1222df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_hs, TCG_CALL_NO_RWG,
1223df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1224df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_ss, TCG_CALL_NO_RWG,
1225df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1226df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_ds, TCG_CALL_NO_RWG,
1227df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1228df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_hd, TCG_CALL_NO_RWG,
1229df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1230df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_sd, TCG_CALL_NO_RWG,
1231df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1232df4de1afSRichard Henderson DEF_HELPER_FLAGS_5(sve_fcvtzu_dd, TCG_CALL_NO_RWG,
1233df4de1afSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1234df4de1afSRichard Henderson 
1235cda3c753SRichard Henderson DEF_HELPER_FLAGS_5(sve_frint_h, TCG_CALL_NO_RWG,
1236cda3c753SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1237cda3c753SRichard Henderson DEF_HELPER_FLAGS_5(sve_frint_s, TCG_CALL_NO_RWG,
1238cda3c753SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1239cda3c753SRichard Henderson DEF_HELPER_FLAGS_5(sve_frint_d, TCG_CALL_NO_RWG,
1240cda3c753SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1241cda3c753SRichard Henderson 
1242cda3c753SRichard Henderson DEF_HELPER_FLAGS_5(sve_frintx_h, TCG_CALL_NO_RWG,
1243cda3c753SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1244cda3c753SRichard Henderson DEF_HELPER_FLAGS_5(sve_frintx_s, TCG_CALL_NO_RWG,
1245cda3c753SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1246cda3c753SRichard Henderson DEF_HELPER_FLAGS_5(sve_frintx_d, TCG_CALL_NO_RWG,
1247cda3c753SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1248cda3c753SRichard Henderson 
1249ec5b375bSRichard Henderson DEF_HELPER_FLAGS_5(sve_frecpx_h, TCG_CALL_NO_RWG,
1250ec5b375bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1251ec5b375bSRichard Henderson DEF_HELPER_FLAGS_5(sve_frecpx_s, TCG_CALL_NO_RWG,
1252ec5b375bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1253ec5b375bSRichard Henderson DEF_HELPER_FLAGS_5(sve_frecpx_d, TCG_CALL_NO_RWG,
1254ec5b375bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1255ec5b375bSRichard Henderson 
1256ec5b375bSRichard Henderson DEF_HELPER_FLAGS_5(sve_fsqrt_h, TCG_CALL_NO_RWG,
1257ec5b375bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1258ec5b375bSRichard Henderson DEF_HELPER_FLAGS_5(sve_fsqrt_s, TCG_CALL_NO_RWG,
1259ec5b375bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1260ec5b375bSRichard Henderson DEF_HELPER_FLAGS_5(sve_fsqrt_d, TCG_CALL_NO_RWG,
1261ec5b375bSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
1262ec5b375bSRichard Henderson 
12638092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_hh, TCG_CALL_NO_RWG,
12648092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12658092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_sh, TCG_CALL_NO_RWG,
12668092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12678092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_dh, TCG_CALL_NO_RWG,
12688092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12698092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_ss, TCG_CALL_NO_RWG,
12708092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12718092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_sd, TCG_CALL_NO_RWG,
12728092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12738092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_ds, TCG_CALL_NO_RWG,
12748092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12758092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_scvt_dd, TCG_CALL_NO_RWG,
12768092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12778092c6a3SRichard Henderson 
12788092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_hh, TCG_CALL_NO_RWG,
12798092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12808092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_sh, TCG_CALL_NO_RWG,
12818092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12828092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_dh, TCG_CALL_NO_RWG,
12838092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12848092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_ss, TCG_CALL_NO_RWG,
12858092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12868092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_sd, TCG_CALL_NO_RWG,
12878092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12888092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_ds, TCG_CALL_NO_RWG,
12898092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12908092c6a3SRichard Henderson DEF_HELPER_FLAGS_5(sve_ucvt_dd, TCG_CALL_NO_RWG,
12918092c6a3SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
12928092c6a3SRichard Henderson 
1293abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmge_h, TCG_CALL_NO_RWG,
1294abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1295abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmge_s, TCG_CALL_NO_RWG,
1296abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1297abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmge_d, TCG_CALL_NO_RWG,
1298abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1299abfdefd5SRichard Henderson 
1300abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmgt_h, TCG_CALL_NO_RWG,
1301abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1302abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmgt_s, TCG_CALL_NO_RWG,
1303abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1304abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmgt_d, TCG_CALL_NO_RWG,
1305abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1306abfdefd5SRichard Henderson 
1307abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmeq_h, TCG_CALL_NO_RWG,
1308abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1309abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmeq_s, TCG_CALL_NO_RWG,
1310abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1311abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmeq_d, TCG_CALL_NO_RWG,
1312abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1313abfdefd5SRichard Henderson 
1314abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmne_h, TCG_CALL_NO_RWG,
1315abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1316abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmne_s, TCG_CALL_NO_RWG,
1317abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1318abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmne_d, TCG_CALL_NO_RWG,
1319abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1320abfdefd5SRichard Henderson 
1321abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmuo_h, TCG_CALL_NO_RWG,
1322abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1323abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmuo_s, TCG_CALL_NO_RWG,
1324abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1325abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_fcmuo_d, TCG_CALL_NO_RWG,
1326abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1327abfdefd5SRichard Henderson 
1328abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facge_h, TCG_CALL_NO_RWG,
1329abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1330abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facge_s, TCG_CALL_NO_RWG,
1331abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1332abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facge_d, TCG_CALL_NO_RWG,
1333abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1334abfdefd5SRichard Henderson 
1335abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facgt_h, TCG_CALL_NO_RWG,
1336abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1337abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facgt_s, TCG_CALL_NO_RWG,
1338abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1339abfdefd5SRichard Henderson DEF_HELPER_FLAGS_6(sve_facgt_d, TCG_CALL_NO_RWG,
1340abfdefd5SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
1341abfdefd5SRichard Henderson 
134276a9d9cdSRichard Henderson DEF_HELPER_FLAGS_6(sve_fcadd_h, TCG_CALL_NO_RWG,
134376a9d9cdSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
134476a9d9cdSRichard Henderson DEF_HELPER_FLAGS_6(sve_fcadd_s, TCG_CALL_NO_RWG,
134576a9d9cdSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
134676a9d9cdSRichard Henderson DEF_HELPER_FLAGS_6(sve_fcadd_d, TCG_CALL_NO_RWG,
134776a9d9cdSRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, i32)
134876a9d9cdSRichard Henderson 
134908975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fmla_zpzzz_h, TCG_CALL_NO_RWG,
135008975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
135108975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fmla_zpzzz_s, TCG_CALL_NO_RWG,
135208975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
135308975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fmla_zpzzz_d, TCG_CALL_NO_RWG,
135408975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
13556ceabaadSRichard Henderson 
135608975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fmls_zpzzz_h, TCG_CALL_NO_RWG,
135708975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
135808975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fmls_zpzzz_s, TCG_CALL_NO_RWG,
135908975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
136008975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fmls_zpzzz_d, TCG_CALL_NO_RWG,
136108975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
13626ceabaadSRichard Henderson 
136308975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fnmla_zpzzz_h, TCG_CALL_NO_RWG,
136408975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
136508975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fnmla_zpzzz_s, TCG_CALL_NO_RWG,
136608975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
136708975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fnmla_zpzzz_d, TCG_CALL_NO_RWG,
136808975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
13696ceabaadSRichard Henderson 
137008975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fnmls_zpzzz_h, TCG_CALL_NO_RWG,
137108975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
137208975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fnmls_zpzzz_s, TCG_CALL_NO_RWG,
137308975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
137408975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fnmls_zpzzz_d, TCG_CALL_NO_RWG,
137508975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
13766ceabaadSRichard Henderson 
137708975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fcmla_zpzzz_h, TCG_CALL_NO_RWG,
137808975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
137908975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fcmla_zpzzz_s, TCG_CALL_NO_RWG,
138008975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
138108975da9SRichard Henderson DEF_HELPER_FLAGS_7(sve_fcmla_zpzzz_d, TCG_CALL_NO_RWG,
138208975da9SRichard Henderson                    void, ptr, ptr, ptr, ptr, ptr, ptr, i32)
138305f48babSRichard Henderson 
138467fcd9adSRichard Henderson DEF_HELPER_FLAGS_5(sve_ftmad_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
138567fcd9adSRichard Henderson DEF_HELPER_FLAGS_5(sve_ftmad_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
138667fcd9adSRichard Henderson DEF_HELPER_FLAGS_5(sve_ftmad_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
138767fcd9adSRichard Henderson 
13880ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_saddl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13890ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_saddl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13900ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_saddl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13910ce1dda8SRichard Henderson 
13920ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_ssubl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13930ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_ssubl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13940ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_ssubl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13950ce1dda8SRichard Henderson 
13960ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sabdl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13970ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sabdl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13980ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sabdl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
13990ce1dda8SRichard Henderson 
14000ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uaddl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
14010ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uaddl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
14020ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uaddl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
14030ce1dda8SRichard Henderson 
14040ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_usubl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
14050ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_usubl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
14060ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_usubl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
14070ce1dda8SRichard Henderson 
14080ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uabdl_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
14090ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uabdl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
14100ce1dda8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uabdl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
14110ce1dda8SRichard Henderson 
141281fccf09SRichard Henderson DEF_HELPER_FLAGS_4(sve2_saddw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
141381fccf09SRichard Henderson DEF_HELPER_FLAGS_4(sve2_saddw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
141481fccf09SRichard Henderson DEF_HELPER_FLAGS_4(sve2_saddw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
141581fccf09SRichard Henderson 
141681fccf09SRichard Henderson DEF_HELPER_FLAGS_4(sve2_ssubw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
141781fccf09SRichard Henderson DEF_HELPER_FLAGS_4(sve2_ssubw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
141881fccf09SRichard Henderson DEF_HELPER_FLAGS_4(sve2_ssubw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
141981fccf09SRichard Henderson 
142081fccf09SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uaddw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
142181fccf09SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uaddw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
142281fccf09SRichard Henderson DEF_HELPER_FLAGS_4(sve2_uaddw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
142381fccf09SRichard Henderson 
142481fccf09SRichard Henderson DEF_HELPER_FLAGS_4(sve2_usubw_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
142581fccf09SRichard Henderson DEF_HELPER_FLAGS_4(sve2_usubw_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
142681fccf09SRichard Henderson DEF_HELPER_FLAGS_4(sve2_usubw_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
142781fccf09SRichard Henderson 
1428c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1429c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1430c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1431c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1432c4e7c493SRichard Henderson 
14337d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14347d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14357d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14367d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1437c4e7c493SRichard Henderson 
14387d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14397d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14407d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14417d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1442c4e7c493SRichard Henderson 
14437d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14447d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14457d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14467d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14477d0a57a2SRichard Henderson 
14487d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14497d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14507d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14517d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14527d0a57a2SRichard Henderson 
14537d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14547d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14557d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14567d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14577d0a57a2SRichard Henderson 
14587d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14597d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14607d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14617d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1462c4e7c493SRichard Henderson 
1463c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bhu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1464c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bsu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1465c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1466c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bhs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1467c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1468c4e7c493SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1469c4e7c493SRichard Henderson 
14707d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hsu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14717d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14727d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14737d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1474c4e7c493SRichard Henderson 
14757d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hsu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14767d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14777d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14787d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14797d0a57a2SRichard Henderson 
14807d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14817d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14827d0a57a2SRichard Henderson 
14837d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
14847d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1485e2654d75SRichard Henderson 
1486206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1487206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1488206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1489206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1490206adacfSRichard Henderson 
1491206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1492206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1493206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1494206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1495206adacfSRichard Henderson 
1496206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1497206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1498206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1499206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1500206adacfSRichard Henderson 
1501206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1502206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1503206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1504206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1505206adacfSRichard Henderson 
1506206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1507206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1508206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1509206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1510206adacfSRichard Henderson 
1511206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1512206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1513206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1514206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1515206adacfSRichard Henderson 
1516206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1517206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld2dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1518206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld3dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1519206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld4dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1520206adacfSRichard Henderson 
1521206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bhu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1522206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bsu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1523206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bdu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1524206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bhs_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1525206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bss_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1526206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1bds_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1527206adacfSRichard Henderson 
1528206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hsu_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1529206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hdu_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1530206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1531206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hds_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1532206adacfSRichard Henderson 
1533206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hsu_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1534206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hdu_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1535206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1536206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1hds_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1537206adacfSRichard Henderson 
1538206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sdu_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1539206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sds_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1540206adacfSRichard Henderson 
1541206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sdu_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1542206adacfSRichard Henderson DEF_HELPER_FLAGS_4(sve_ld1sds_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1543206adacfSRichard Henderson 
1544e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1545e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bhu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1546e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bsu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1547e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1548e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bhs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1549e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1550e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1551e2654d75SRichard Henderson 
15527d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15537d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hsu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15547d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15557d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15567d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1557e2654d75SRichard Henderson 
15587d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15597d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hsu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15607d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15617d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15627d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1563e2654d75SRichard Henderson 
15647d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15657d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15667d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15677d0a57a2SRichard Henderson 
15687d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15697d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15707d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15717d0a57a2SRichard Henderson 
15727d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
15737d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1574e2654d75SRichard Henderson 
1575aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1576aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bhu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1577aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bsu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1578aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bdu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1579aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bhs_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1580aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bss_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1581aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1bds_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1582aa13f7c3SRichard Henderson 
1583aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hh_le_r_mte, TCG_CALL_NO_WG,
1584aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1585aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hsu_le_r_mte, TCG_CALL_NO_WG,
1586aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1587aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hdu_le_r_mte, TCG_CALL_NO_WG,
1588aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1589aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hss_le_r_mte, TCG_CALL_NO_WG,
1590aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1591aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hds_le_r_mte, TCG_CALL_NO_WG,
1592aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1593aa13f7c3SRichard Henderson 
1594aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hh_be_r_mte, TCG_CALL_NO_WG,
1595aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1596aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hsu_be_r_mte, TCG_CALL_NO_WG,
1597aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1598aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hdu_be_r_mte, TCG_CALL_NO_WG,
1599aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1600aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hss_be_r_mte, TCG_CALL_NO_WG,
1601aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1602aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1hds_be_r_mte, TCG_CALL_NO_WG,
1603aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1604aa13f7c3SRichard Henderson 
1605aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1ss_le_r_mte, TCG_CALL_NO_WG,
1606aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1607aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sdu_le_r_mte, TCG_CALL_NO_WG,
1608aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1609aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sds_le_r_mte, TCG_CALL_NO_WG,
1610aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1611aa13f7c3SRichard Henderson 
1612aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1ss_be_r_mte, TCG_CALL_NO_WG,
1613aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1614aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sdu_be_r_mte, TCG_CALL_NO_WG,
1615aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1616aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1sds_be_r_mte, TCG_CALL_NO_WG,
1617aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1618aa13f7c3SRichard Henderson 
1619aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1dd_le_r_mte, TCG_CALL_NO_WG,
1620aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1621aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldff1dd_be_r_mte, TCG_CALL_NO_WG,
1622aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1623aa13f7c3SRichard Henderson 
1624e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1625e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bhu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1626e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bsu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1627e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bdu_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1628e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bhs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1629e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bss_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1630e2654d75SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bds_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1631e2654d75SRichard Henderson 
16327d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16337d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hsu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16347d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16357d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16367d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1637e2654d75SRichard Henderson 
16387d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16397d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hsu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16407d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16417d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16427d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1643e2654d75SRichard Henderson 
16447d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16457d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sdu_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16467d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sds_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16477d0a57a2SRichard Henderson 
16487d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16497d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sdu_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16507d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sds_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16517d0a57a2SRichard Henderson 
16527d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16537d0a57a2SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
16541a039c7eSRichard Henderson 
1655aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1656aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bhu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1657aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bsu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1658aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bdu_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1659aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bhs_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1660aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bss_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1661aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1bds_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1662aa13f7c3SRichard Henderson 
1663aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hh_le_r_mte, TCG_CALL_NO_WG,
1664aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1665aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hsu_le_r_mte, TCG_CALL_NO_WG,
1666aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1667aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hdu_le_r_mte, TCG_CALL_NO_WG,
1668aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1669aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hss_le_r_mte, TCG_CALL_NO_WG,
1670aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1671aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hds_le_r_mte, TCG_CALL_NO_WG,
1672aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1673aa13f7c3SRichard Henderson 
1674aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hh_be_r_mte, TCG_CALL_NO_WG,
1675aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1676aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hsu_be_r_mte, TCG_CALL_NO_WG,
1677aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1678aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hdu_be_r_mte, TCG_CALL_NO_WG,
1679aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1680aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hss_be_r_mte, TCG_CALL_NO_WG,
1681aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1682aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1hds_be_r_mte, TCG_CALL_NO_WG,
1683aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1684aa13f7c3SRichard Henderson 
1685aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1ss_le_r_mte, TCG_CALL_NO_WG,
1686aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1687aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sdu_le_r_mte, TCG_CALL_NO_WG,
1688aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1689aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sds_le_r_mte, TCG_CALL_NO_WG,
1690aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1691aa13f7c3SRichard Henderson 
1692aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1ss_be_r_mte, TCG_CALL_NO_WG,
1693aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1694aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sdu_be_r_mte, TCG_CALL_NO_WG,
1695aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1696aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1sds_be_r_mte, TCG_CALL_NO_WG,
1697aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1698aa13f7c3SRichard Henderson 
1699aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1dd_le_r_mte, TCG_CALL_NO_WG,
1700aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1701aa13f7c3SRichard Henderson DEF_HELPER_FLAGS_4(sve_ldnf1dd_be_r_mte, TCG_CALL_NO_WG,
1702aa13f7c3SRichard Henderson                    void, env, ptr, tl, i32)
1703aa13f7c3SRichard Henderson 
17041a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
17051a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st2bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
17061a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st3bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
17071a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st4bb_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
17081a039c7eSRichard Henderson 
170928d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
171028d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st2hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
171128d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st3hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
171228d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st4hh_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
17131a039c7eSRichard Henderson 
171428d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
171528d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st2hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
171628d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st3hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
171728d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st4hh_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
17181a039c7eSRichard Henderson 
171928d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
172028d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st2ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
172128d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st3ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
172228d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st4ss_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
172328d57f2dSRichard Henderson 
172428d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
172528d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st2ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
172628d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st3ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
172728d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st4ss_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
172828d57f2dSRichard Henderson 
172928d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
173028d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st2dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
173128d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st3dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
173228d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st4dd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
173328d57f2dSRichard Henderson 
173428d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
173528d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st2dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
173628d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st3dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
173728d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st4dd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
17381a039c7eSRichard Henderson 
17391a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bh_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
17401a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bs_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
17411a039c7eSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bd_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
17421a039c7eSRichard Henderson 
174328d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hs_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
174428d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
174528d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hs_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
174628d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
17471a039c7eSRichard Henderson 
174828d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1sd_le_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
174928d57f2dSRichard Henderson DEF_HELPER_FLAGS_4(sve_st1sd_be_r, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
1750f6dbf62aSRichard Henderson 
175171b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
175271b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
175371b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
175471b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4bb_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
175571b9f394SRichard Henderson 
175671b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
175771b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
175871b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
175971b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4hh_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
176071b9f394SRichard Henderson 
176171b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
176271b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
176371b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
176471b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4hh_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
176571b9f394SRichard Henderson 
176671b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
176771b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
176871b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
176971b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4ss_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
177071b9f394SRichard Henderson 
177171b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
177271b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
177371b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
177471b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4ss_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
177571b9f394SRichard Henderson 
177671b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
177771b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
177871b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
177971b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4dd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
178071b9f394SRichard Henderson 
178171b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
178271b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st2dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
178371b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st3dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
178471b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st4dd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
178571b9f394SRichard Henderson 
178671b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bh_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
178771b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bs_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
178871b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1bd_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
178971b9f394SRichard Henderson 
179071b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hs_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
179171b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
179271b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hs_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
179371b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1hd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
179471b9f394SRichard Henderson 
179571b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1sd_le_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
179671b9f394SRichard Henderson DEF_HELPER_FLAGS_4(sve_st1sd_be_r_mte, TCG_CALL_NO_WG, void, env, ptr, tl, i32)
179771b9f394SRichard Henderson 
1798673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbsu_zsu, TCG_CALL_NO_WG,
1799673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1800d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_le_zsu, TCG_CALL_NO_WG,
1801673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1802d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_be_zsu, TCG_CALL_NO_WG,
1803d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1804d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_le_zsu, TCG_CALL_NO_WG,
1805d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1806d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_be_zsu, TCG_CALL_NO_WG,
1807673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1808673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbss_zsu, TCG_CALL_NO_WG,
1809673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1810d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_le_zsu, TCG_CALL_NO_WG,
1811d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1812d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_be_zsu, TCG_CALL_NO_WG,
1813673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1814673e9fa6SRichard Henderson 
1815673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbsu_zss, TCG_CALL_NO_WG,
1816673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1817d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_le_zss, TCG_CALL_NO_WG,
1818673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1819d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_be_zss, TCG_CALL_NO_WG,
1820d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1821d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_le_zss, TCG_CALL_NO_WG,
1822d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1823d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_be_zss, TCG_CALL_NO_WG,
1824673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1825673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbss_zss, TCG_CALL_NO_WG,
1826673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1827d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_le_zss, TCG_CALL_NO_WG,
1828d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1829d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_be_zss, TCG_CALL_NO_WG,
1830673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1831673e9fa6SRichard Henderson 
1832673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zsu, TCG_CALL_NO_WG,
1833673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1834d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_le_zsu, TCG_CALL_NO_WG,
1835673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1836d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_be_zsu, TCG_CALL_NO_WG,
1837673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1838d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_le_zsu, TCG_CALL_NO_WG,
1839d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1840d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_be_zsu, TCG_CALL_NO_WG,
1841d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1842d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_le_zsu, TCG_CALL_NO_WG,
1843d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1844d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_be_zsu, TCG_CALL_NO_WG,
1845673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1846673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zsu, TCG_CALL_NO_WG,
1847673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1848d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_le_zsu, TCG_CALL_NO_WG,
1849673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1850d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_be_zsu, TCG_CALL_NO_WG,
1851d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1852d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_le_zsu, TCG_CALL_NO_WG,
1853d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1854d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_be_zsu, TCG_CALL_NO_WG,
1855673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1856673e9fa6SRichard Henderson 
1857673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zss, TCG_CALL_NO_WG,
1858673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1859d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_le_zss, TCG_CALL_NO_WG,
1860673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1861d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_be_zss, TCG_CALL_NO_WG,
1862673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1863d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_le_zss, TCG_CALL_NO_WG,
1864d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1865d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_be_zss, TCG_CALL_NO_WG,
1866d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1867d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_le_zss, TCG_CALL_NO_WG,
1868d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1869d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_be_zss, TCG_CALL_NO_WG,
1870673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1871673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zss, TCG_CALL_NO_WG,
1872673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1873d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_le_zss, TCG_CALL_NO_WG,
1874673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1875d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_be_zss, TCG_CALL_NO_WG,
1876d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1877d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_le_zss, TCG_CALL_NO_WG,
1878d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1879d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_be_zss, TCG_CALL_NO_WG,
1880673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1881673e9fa6SRichard Henderson 
1882673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zd, TCG_CALL_NO_WG,
1883673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1884d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_le_zd, TCG_CALL_NO_WG,
1885673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1886d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_be_zd, TCG_CALL_NO_WG,
1887673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1888d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_le_zd, TCG_CALL_NO_WG,
1889d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1890d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_be_zd, TCG_CALL_NO_WG,
1891d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1892d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_le_zd, TCG_CALL_NO_WG,
1893d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1894d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_be_zd, TCG_CALL_NO_WG,
1895673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1896673e9fa6SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zd, TCG_CALL_NO_WG,
1897673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1898d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_le_zd, TCG_CALL_NO_WG,
1899673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1900d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_be_zd, TCG_CALL_NO_WG,
1901d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1902d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_le_zd, TCG_CALL_NO_WG,
1903d4f75f25SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1904d4f75f25SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_be_zd, TCG_CALL_NO_WG,
1905673e9fa6SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1906673e9fa6SRichard Henderson 
1907d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbsu_zsu_mte, TCG_CALL_NO_WG,
1908d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1909d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_le_zsu_mte, TCG_CALL_NO_WG,
1910d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1911d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_be_zsu_mte, TCG_CALL_NO_WG,
1912d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1913d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_le_zsu_mte, TCG_CALL_NO_WG,
1914d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1915d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_be_zsu_mte, TCG_CALL_NO_WG,
1916d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1917d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbss_zsu_mte, TCG_CALL_NO_WG,
1918d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1919d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_le_zsu_mte, TCG_CALL_NO_WG,
1920d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1921d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_be_zsu_mte, TCG_CALL_NO_WG,
1922d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1923d28d12f0SRichard Henderson 
1924d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbsu_zss_mte, TCG_CALL_NO_WG,
1925d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1926d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_le_zss_mte, TCG_CALL_NO_WG,
1927d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1928d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhsu_be_zss_mte, TCG_CALL_NO_WG,
1929d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1930d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_le_zss_mte, TCG_CALL_NO_WG,
1931d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1932d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldss_be_zss_mte, TCG_CALL_NO_WG,
1933d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1934d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbss_zss_mte, TCG_CALL_NO_WG,
1935d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1936d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_le_zss_mte, TCG_CALL_NO_WG,
1937d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1938d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhss_be_zss_mte, TCG_CALL_NO_WG,
1939d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1940d28d12f0SRichard Henderson 
1941d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zsu_mte, TCG_CALL_NO_WG,
1942d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1943d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_le_zsu_mte, TCG_CALL_NO_WG,
1944d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1945d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_be_zsu_mte, TCG_CALL_NO_WG,
1946d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1947d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_le_zsu_mte, TCG_CALL_NO_WG,
1948d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1949d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_be_zsu_mte, TCG_CALL_NO_WG,
1950d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1951d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_le_zsu_mte, TCG_CALL_NO_WG,
1952d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1953d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_be_zsu_mte, TCG_CALL_NO_WG,
1954d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1955d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zsu_mte, TCG_CALL_NO_WG,
1956d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1957d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_le_zsu_mte, TCG_CALL_NO_WG,
1958d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1959d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_be_zsu_mte, TCG_CALL_NO_WG,
1960d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1961d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_le_zsu_mte, TCG_CALL_NO_WG,
1962d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1963d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_be_zsu_mte, TCG_CALL_NO_WG,
1964d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1965d28d12f0SRichard Henderson 
1966d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zss_mte, TCG_CALL_NO_WG,
1967d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1968d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_le_zss_mte, TCG_CALL_NO_WG,
1969d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1970d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_be_zss_mte, TCG_CALL_NO_WG,
1971d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1972d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_le_zss_mte, TCG_CALL_NO_WG,
1973d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1974d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_be_zss_mte, TCG_CALL_NO_WG,
1975d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1976d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_le_zss_mte, TCG_CALL_NO_WG,
1977d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1978d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_be_zss_mte, TCG_CALL_NO_WG,
1979d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1980d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zss_mte, TCG_CALL_NO_WG,
1981d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1982d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_le_zss_mte, TCG_CALL_NO_WG,
1983d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1984d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_be_zss_mte, TCG_CALL_NO_WG,
1985d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1986d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_le_zss_mte, TCG_CALL_NO_WG,
1987d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1988d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_be_zss_mte, TCG_CALL_NO_WG,
1989d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1990d28d12f0SRichard Henderson 
1991d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbdu_zd_mte, TCG_CALL_NO_WG,
1992d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1993d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_le_zd_mte, TCG_CALL_NO_WG,
1994d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1995d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhdu_be_zd_mte, TCG_CALL_NO_WG,
1996d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1997d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_le_zd_mte, TCG_CALL_NO_WG,
1998d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
1999d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsdu_be_zd_mte, TCG_CALL_NO_WG,
2000d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2001d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_le_zd_mte, TCG_CALL_NO_WG,
2002d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2003d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_lddd_be_zd_mte, TCG_CALL_NO_WG,
2004d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2005d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldbds_zd_mte, TCG_CALL_NO_WG,
2006d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2007d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_le_zd_mte, TCG_CALL_NO_WG,
2008d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2009d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldhds_be_zd_mte, TCG_CALL_NO_WG,
2010d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2011d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_le_zd_mte, TCG_CALL_NO_WG,
2012d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2013d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldsds_be_zd_mte, TCG_CALL_NO_WG,
2014d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2015d28d12f0SRichard Henderson 
2016ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbsu_zsu, TCG_CALL_NO_WG,
2017ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2018116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_le_zsu, TCG_CALL_NO_WG,
2019ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2020116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_be_zsu, TCG_CALL_NO_WG,
2021116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2022116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_le_zsu, TCG_CALL_NO_WG,
2023116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2024116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_be_zsu, TCG_CALL_NO_WG,
2025ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2026ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbss_zsu, TCG_CALL_NO_WG,
2027ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2028116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_le_zsu, TCG_CALL_NO_WG,
2029116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2030116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_be_zsu, TCG_CALL_NO_WG,
2031ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2032ed67eb7fSRichard Henderson 
2033ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbsu_zss, TCG_CALL_NO_WG,
2034ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2035116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_le_zss, TCG_CALL_NO_WG,
2036ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2037116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_be_zss, TCG_CALL_NO_WG,
2038116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2039116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_le_zss, TCG_CALL_NO_WG,
2040116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2041116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_be_zss, TCG_CALL_NO_WG,
2042ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2043ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbss_zss, TCG_CALL_NO_WG,
2044ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2045116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_le_zss, TCG_CALL_NO_WG,
2046116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2047116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_be_zss, TCG_CALL_NO_WG,
2048ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2049ed67eb7fSRichard Henderson 
2050ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zsu, TCG_CALL_NO_WG,
2051ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2052116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zsu, TCG_CALL_NO_WG,
2053ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2054116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zsu, TCG_CALL_NO_WG,
2055ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2056116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zsu, TCG_CALL_NO_WG,
2057116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2058116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zsu, TCG_CALL_NO_WG,
2059116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2060116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_le_zsu, TCG_CALL_NO_WG,
2061116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2062116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_be_zsu, TCG_CALL_NO_WG,
2063ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2064ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zsu, TCG_CALL_NO_WG,
2065ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2066116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_le_zsu, TCG_CALL_NO_WG,
2067ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2068116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_be_zsu, TCG_CALL_NO_WG,
2069116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2070116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_le_zsu, TCG_CALL_NO_WG,
2071116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2072116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_be_zsu, TCG_CALL_NO_WG,
2073ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2074ed67eb7fSRichard Henderson 
2075ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zss, TCG_CALL_NO_WG,
2076ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2077116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zss, TCG_CALL_NO_WG,
2078ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2079116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zss, TCG_CALL_NO_WG,
2080ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2081116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zss, TCG_CALL_NO_WG,
2082116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2083116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zss, TCG_CALL_NO_WG,
2084116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2085116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_le_zss, TCG_CALL_NO_WG,
2086116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2087116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_be_zss, TCG_CALL_NO_WG,
2088ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2089ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zss, TCG_CALL_NO_WG,
2090ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2091116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_le_zss, TCG_CALL_NO_WG,
2092ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2093116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_be_zss, TCG_CALL_NO_WG,
2094116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2095116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_le_zss, TCG_CALL_NO_WG,
2096116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2097116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_be_zss, TCG_CALL_NO_WG,
2098ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2099ed67eb7fSRichard Henderson 
2100ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zd, TCG_CALL_NO_WG,
2101ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2102116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zd, TCG_CALL_NO_WG,
2103ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2104116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zd, TCG_CALL_NO_WG,
2105ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2106116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zd, TCG_CALL_NO_WG,
2107116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2108116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zd, TCG_CALL_NO_WG,
2109116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2110116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_le_zd, TCG_CALL_NO_WG,
2111116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2112116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_be_zd, TCG_CALL_NO_WG,
2113ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2114ed67eb7fSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zd, TCG_CALL_NO_WG,
2115ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2116116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_le_zd, TCG_CALL_NO_WG,
2117ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2118116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_be_zd, TCG_CALL_NO_WG,
2119116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2120116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_le_zd, TCG_CALL_NO_WG,
2121116347ceSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2122116347ceSRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_be_zd, TCG_CALL_NO_WG,
2123ed67eb7fSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2124ed67eb7fSRichard Henderson 
2125d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbsu_zsu_mte, TCG_CALL_NO_WG,
2126d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2127d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_le_zsu_mte, TCG_CALL_NO_WG,
2128d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2129d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_be_zsu_mte, TCG_CALL_NO_WG,
2130d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2131d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_le_zsu_mte, TCG_CALL_NO_WG,
2132d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2133d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_be_zsu_mte, TCG_CALL_NO_WG,
2134d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2135d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbss_zsu_mte, TCG_CALL_NO_WG,
2136d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2137d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_le_zsu_mte, TCG_CALL_NO_WG,
2138d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2139d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_be_zsu_mte, TCG_CALL_NO_WG,
2140d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2141d28d12f0SRichard Henderson 
2142d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbsu_zss_mte, TCG_CALL_NO_WG,
2143d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2144d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_le_zss_mte, TCG_CALL_NO_WG,
2145d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2146d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhsu_be_zss_mte, TCG_CALL_NO_WG,
2147d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2148d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_le_zss_mte, TCG_CALL_NO_WG,
2149d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2150d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffss_be_zss_mte, TCG_CALL_NO_WG,
2151d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2152d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbss_zss_mte, TCG_CALL_NO_WG,
2153d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2154d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_le_zss_mte, TCG_CALL_NO_WG,
2155d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2156d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhss_be_zss_mte, TCG_CALL_NO_WG,
2157d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2158d28d12f0SRichard Henderson 
2159d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zsu_mte, TCG_CALL_NO_WG,
2160d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2161d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zsu_mte, TCG_CALL_NO_WG,
2162d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2163d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zsu_mte, TCG_CALL_NO_WG,
2164d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2165d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zsu_mte, TCG_CALL_NO_WG,
2166d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2167d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zsu_mte, TCG_CALL_NO_WG,
2168d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2169d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_le_zsu_mte, TCG_CALL_NO_WG,
2170d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2171d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_be_zsu_mte, TCG_CALL_NO_WG,
2172d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2173d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zsu_mte, TCG_CALL_NO_WG,
2174d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2175d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_le_zsu_mte, TCG_CALL_NO_WG,
2176d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2177d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_be_zsu_mte, TCG_CALL_NO_WG,
2178d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2179d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_le_zsu_mte, TCG_CALL_NO_WG,
2180d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2181d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_be_zsu_mte, TCG_CALL_NO_WG,
2182d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2183d28d12f0SRichard Henderson 
2184d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zss_mte, TCG_CALL_NO_WG,
2185d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2186d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zss_mte, TCG_CALL_NO_WG,
2187d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2188d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zss_mte, TCG_CALL_NO_WG,
2189d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2190d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zss_mte, TCG_CALL_NO_WG,
2191d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2192d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zss_mte, TCG_CALL_NO_WG,
2193d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2194d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_le_zss_mte, TCG_CALL_NO_WG,
2195d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2196d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_be_zss_mte, TCG_CALL_NO_WG,
2197d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2198d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zss_mte, TCG_CALL_NO_WG,
2199d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2200d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_le_zss_mte, TCG_CALL_NO_WG,
2201d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2202d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_be_zss_mte, TCG_CALL_NO_WG,
2203d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2204d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_le_zss_mte, TCG_CALL_NO_WG,
2205d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2206d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_be_zss_mte, TCG_CALL_NO_WG,
2207d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2208d28d12f0SRichard Henderson 
2209d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbdu_zd_mte, TCG_CALL_NO_WG,
2210d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2211d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_le_zd_mte, TCG_CALL_NO_WG,
2212d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2213d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhdu_be_zd_mte, TCG_CALL_NO_WG,
2214d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2215d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_le_zd_mte, TCG_CALL_NO_WG,
2216d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2217d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsdu_be_zd_mte, TCG_CALL_NO_WG,
2218d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2219d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_le_zd_mte, TCG_CALL_NO_WG,
2220d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2221d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffdd_be_zd_mte, TCG_CALL_NO_WG,
2222d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2223d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffbds_zd_mte, TCG_CALL_NO_WG,
2224d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2225d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_le_zd_mte, TCG_CALL_NO_WG,
2226d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2227d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffhds_be_zd_mte, TCG_CALL_NO_WG,
2228d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2229d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_le_zd_mte, TCG_CALL_NO_WG,
2230d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2231d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_ldffsds_be_zd_mte, TCG_CALL_NO_WG,
2232d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2233d28d12f0SRichard Henderson 
2234f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stbs_zsu, TCG_CALL_NO_WG,
2235f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
223678cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_le_zsu, TCG_CALL_NO_WG,
2237f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
223878cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_be_zsu, TCG_CALL_NO_WG,
223978cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
224078cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_le_zsu, TCG_CALL_NO_WG,
224178cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
224278cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_be_zsu, TCG_CALL_NO_WG,
2243f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2244f6dbf62aSRichard Henderson 
2245f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stbs_zss, TCG_CALL_NO_WG,
2246f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
224778cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_le_zss, TCG_CALL_NO_WG,
2248f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
224978cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_be_zss, TCG_CALL_NO_WG,
225078cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
225178cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_le_zss, TCG_CALL_NO_WG,
225278cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
225378cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_be_zss, TCG_CALL_NO_WG,
2254f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2255f6dbf62aSRichard Henderson 
2256f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zsu, TCG_CALL_NO_WG,
2257f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
225878cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_le_zsu, TCG_CALL_NO_WG,
2259f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
226078cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_be_zsu, TCG_CALL_NO_WG,
2261f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
226278cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_le_zsu, TCG_CALL_NO_WG,
226378cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
226478cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_be_zsu, TCG_CALL_NO_WG,
226578cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
226678cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_le_zsu, TCG_CALL_NO_WG,
226778cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
226878cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_be_zsu, TCG_CALL_NO_WG,
2269f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2270f6dbf62aSRichard Henderson 
2271f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zss, TCG_CALL_NO_WG,
2272f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
227378cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_le_zss, TCG_CALL_NO_WG,
2274f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
227578cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_be_zss, TCG_CALL_NO_WG,
2276f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
227778cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_le_zss, TCG_CALL_NO_WG,
227878cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
227978cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_be_zss, TCG_CALL_NO_WG,
228078cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
228178cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_le_zss, TCG_CALL_NO_WG,
228278cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
228378cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_be_zss, TCG_CALL_NO_WG,
2284f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2285f6dbf62aSRichard Henderson 
2286f6dbf62aSRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zd, TCG_CALL_NO_WG,
2287f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
228878cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_le_zd, TCG_CALL_NO_WG,
2289f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
229078cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_be_zd, TCG_CALL_NO_WG,
2291f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
229278cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_le_zd, TCG_CALL_NO_WG,
229378cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
229478cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_be_zd, TCG_CALL_NO_WG,
229578cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
229678cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_le_zd, TCG_CALL_NO_WG,
229778cf1b88SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
229878cf1b88SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_be_zd, TCG_CALL_NO_WG,
2299f6dbf62aSRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2300e7e96fc5SRichard Henderson 
2301d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stbs_zsu_mte, TCG_CALL_NO_WG,
2302d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2303d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_le_zsu_mte, TCG_CALL_NO_WG,
2304d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2305d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_be_zsu_mte, TCG_CALL_NO_WG,
2306d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2307d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_le_zsu_mte, TCG_CALL_NO_WG,
2308d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2309d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_be_zsu_mte, TCG_CALL_NO_WG,
2310d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2311d28d12f0SRichard Henderson 
2312d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stbs_zss_mte, TCG_CALL_NO_WG,
2313d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2314d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_le_zss_mte, TCG_CALL_NO_WG,
2315d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2316d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sths_be_zss_mte, TCG_CALL_NO_WG,
2317d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2318d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_le_zss_mte, TCG_CALL_NO_WG,
2319d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2320d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stss_be_zss_mte, TCG_CALL_NO_WG,
2321d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2322d28d12f0SRichard Henderson 
2323d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zsu_mte, TCG_CALL_NO_WG,
2324d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2325d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_le_zsu_mte, TCG_CALL_NO_WG,
2326d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2327d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_be_zsu_mte, TCG_CALL_NO_WG,
2328d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2329d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_le_zsu_mte, TCG_CALL_NO_WG,
2330d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2331d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_be_zsu_mte, TCG_CALL_NO_WG,
2332d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2333d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_le_zsu_mte, TCG_CALL_NO_WG,
2334d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2335d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_be_zsu_mte, TCG_CALL_NO_WG,
2336d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2337d28d12f0SRichard Henderson 
2338d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zss_mte, TCG_CALL_NO_WG,
2339d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2340d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_le_zss_mte, TCG_CALL_NO_WG,
2341d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2342d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_be_zss_mte, TCG_CALL_NO_WG,
2343d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2344d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_le_zss_mte, TCG_CALL_NO_WG,
2345d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2346d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_be_zss_mte, TCG_CALL_NO_WG,
2347d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2348d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_le_zss_mte, TCG_CALL_NO_WG,
2349d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2350d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_be_zss_mte, TCG_CALL_NO_WG,
2351d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2352d28d12f0SRichard Henderson 
2353d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stbd_zd_mte, TCG_CALL_NO_WG,
2354d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2355d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_le_zd_mte, TCG_CALL_NO_WG,
2356d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2357d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_sthd_be_zd_mte, TCG_CALL_NO_WG,
2358d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2359d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_le_zd_mte, TCG_CALL_NO_WG,
2360d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2361d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stsd_be_zd_mte, TCG_CALL_NO_WG,
2362d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2363d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_le_zd_mte, TCG_CALL_NO_WG,
2364d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2365d28d12f0SRichard Henderson DEF_HELPER_FLAGS_6(sve_stdd_be_zd_mte, TCG_CALL_NO_WG,
2366d28d12f0SRichard Henderson                    void, env, ptr, ptr, ptr, tl, i32)
2367d28d12f0SRichard Henderson 
236869ccc099SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqdmull_zzz_h, TCG_CALL_NO_RWG,
236969ccc099SRichard Henderson                    void, ptr, ptr, ptr, i32)
237069ccc099SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqdmull_zzz_s, TCG_CALL_NO_RWG,
237169ccc099SRichard Henderson                    void, ptr, ptr, ptr, i32)
237269ccc099SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqdmull_zzz_d, TCG_CALL_NO_RWG,
237369ccc099SRichard Henderson                    void, ptr, ptr, ptr, i32)
237469ccc099SRichard Henderson 
237569ccc099SRichard Henderson DEF_HELPER_FLAGS_4(sve2_smull_zzz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
237669ccc099SRichard Henderson DEF_HELPER_FLAGS_4(sve2_smull_zzz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
237769ccc099SRichard Henderson DEF_HELPER_FLAGS_4(sve2_smull_zzz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
237869ccc099SRichard Henderson 
237969ccc099SRichard Henderson DEF_HELPER_FLAGS_4(sve2_umull_zzz_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
238069ccc099SRichard Henderson DEF_HELPER_FLAGS_4(sve2_umull_zzz_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
238169ccc099SRichard Henderson DEF_HELPER_FLAGS_4(sve2_umull_zzz_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
238269ccc099SRichard Henderson 
2383e7e96fc5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_pmull_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2384e3a56131SRichard Henderson DEF_HELPER_FLAGS_4(sve2_pmull_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
23854269fef1SRichard Henderson 
23864269fef1SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sshll_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
23874269fef1SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sshll_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
23884269fef1SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sshll_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
23894269fef1SRichard Henderson 
23904269fef1SRichard Henderson DEF_HELPER_FLAGS_3(sve2_ushll_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
23914269fef1SRichard Henderson DEF_HELPER_FLAGS_3(sve2_ushll_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
23924269fef1SRichard Henderson DEF_HELPER_FLAGS_3(sve2_ushll_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
23932df3ca55SRichard Henderson 
23942df3ca55SRichard Henderson DEF_HELPER_FLAGS_4(sve2_eoril_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
23952df3ca55SRichard Henderson DEF_HELPER_FLAGS_4(sve2_eoril_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
23962df3ca55SRichard Henderson DEF_HELPER_FLAGS_4(sve2_eoril_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
23972df3ca55SRichard Henderson DEF_HELPER_FLAGS_4(sve2_eoril_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2398cb9c33b8SRichard Henderson 
2399cb9c33b8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_bext_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2400cb9c33b8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_bext_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2401cb9c33b8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_bext_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2402cb9c33b8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_bext_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2403cb9c33b8SRichard Henderson 
2404cb9c33b8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_bdep_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2405cb9c33b8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_bdep_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2406cb9c33b8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_bdep_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2407cb9c33b8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_bdep_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2408cb9c33b8SRichard Henderson 
2409cb9c33b8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_bgrp_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2410cb9c33b8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_bgrp_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2411cb9c33b8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_bgrp_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2412cb9c33b8SRichard Henderson DEF_HELPER_FLAGS_4(sve2_bgrp_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2413ed4a6387SRichard Henderson 
2414ed4a6387SRichard Henderson DEF_HELPER_FLAGS_4(sve2_cadd_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2415ed4a6387SRichard Henderson DEF_HELPER_FLAGS_4(sve2_cadd_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2416ed4a6387SRichard Henderson DEF_HELPER_FLAGS_4(sve2_cadd_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2417ed4a6387SRichard Henderson DEF_HELPER_FLAGS_4(sve2_cadd_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2418ed4a6387SRichard Henderson 
2419ed4a6387SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqcadd_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2420ed4a6387SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqcadd_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2421ed4a6387SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqcadd_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2422ed4a6387SRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqcadd_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
242338650638SRichard Henderson 
242438650638SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sabal_h, TCG_CALL_NO_RWG,
242538650638SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
242638650638SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sabal_s, TCG_CALL_NO_RWG,
242738650638SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
242838650638SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sabal_d, TCG_CALL_NO_RWG,
242938650638SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
243038650638SRichard Henderson 
243138650638SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uabal_h, TCG_CALL_NO_RWG,
243238650638SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
243338650638SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uabal_s, TCG_CALL_NO_RWG,
243438650638SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
243538650638SRichard Henderson DEF_HELPER_FLAGS_5(sve2_uabal_d, TCG_CALL_NO_RWG,
243638650638SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2437b8295dfbSRichard Henderson 
2438b8295dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve2_adcl_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2439b8295dfbSRichard Henderson DEF_HELPER_FLAGS_5(sve2_adcl_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
24405ff2838dSRichard Henderson 
24415ff2838dSRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqxtnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
24425ff2838dSRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqxtnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
24435ff2838dSRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqxtnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
24445ff2838dSRichard Henderson 
24455ff2838dSRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqxtnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
24465ff2838dSRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqxtnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
24475ff2838dSRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqxtnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
24485ff2838dSRichard Henderson 
24495ff2838dSRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqxtunb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
24505ff2838dSRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqxtunb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
24515ff2838dSRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqxtunb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
24525ff2838dSRichard Henderson 
24535ff2838dSRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqxtnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
24545ff2838dSRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqxtnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
24555ff2838dSRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqxtnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
24565ff2838dSRichard Henderson 
24575ff2838dSRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqxtnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
24585ff2838dSRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqxtnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
24595ff2838dSRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqxtnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
24605ff2838dSRichard Henderson 
24615ff2838dSRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqxtunt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
24625ff2838dSRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqxtunt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
24635ff2838dSRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqxtunt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2464b87dbeebSStephen Long 
246546d111b2SRichard Henderson DEF_HELPER_FLAGS_3(sve2_shrnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
246646d111b2SRichard Henderson DEF_HELPER_FLAGS_3(sve2_shrnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
246746d111b2SRichard Henderson DEF_HELPER_FLAGS_3(sve2_shrnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
246846d111b2SRichard Henderson 
246946d111b2SRichard Henderson DEF_HELPER_FLAGS_3(sve2_shrnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
247046d111b2SRichard Henderson DEF_HELPER_FLAGS_3(sve2_shrnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
247146d111b2SRichard Henderson DEF_HELPER_FLAGS_3(sve2_shrnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
247246d111b2SRichard Henderson 
247346d111b2SRichard Henderson DEF_HELPER_FLAGS_3(sve2_rshrnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
247446d111b2SRichard Henderson DEF_HELPER_FLAGS_3(sve2_rshrnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
247546d111b2SRichard Henderson DEF_HELPER_FLAGS_3(sve2_rshrnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
247646d111b2SRichard Henderson 
247746d111b2SRichard Henderson DEF_HELPER_FLAGS_3(sve2_rshrnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
247846d111b2SRichard Henderson DEF_HELPER_FLAGS_3(sve2_rshrnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
247946d111b2SRichard Henderson DEF_HELPER_FLAGS_3(sve2_rshrnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
248046d111b2SRichard Henderson 
248181fd3e6eSRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqshrunb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
248281fd3e6eSRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqshrunb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
248381fd3e6eSRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqshrunb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
248481fd3e6eSRichard Henderson 
248581fd3e6eSRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqshrunt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
248681fd3e6eSRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqshrunt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
248781fd3e6eSRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqshrunt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
248881fd3e6eSRichard Henderson 
248981fd3e6eSRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqrshrunb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
249081fd3e6eSRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqrshrunb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
249181fd3e6eSRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqrshrunb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
249281fd3e6eSRichard Henderson 
249381fd3e6eSRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqrshrunt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
249481fd3e6eSRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqrshrunt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
249581fd3e6eSRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqrshrunt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
249681fd3e6eSRichard Henderson 
2497743bb147SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqshrnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2498743bb147SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqshrnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2499743bb147SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqshrnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2500743bb147SRichard Henderson 
2501743bb147SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqshrnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2502743bb147SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqshrnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2503743bb147SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqshrnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2504743bb147SRichard Henderson 
2505743bb147SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqrshrnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2506743bb147SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqrshrnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2507743bb147SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqrshrnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2508743bb147SRichard Henderson 
2509743bb147SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqrshrnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2510743bb147SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqrshrnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2511743bb147SRichard Henderson DEF_HELPER_FLAGS_3(sve2_sqrshrnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2512743bb147SRichard Henderson 
2513c13418daSRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqshrnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2514c13418daSRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqshrnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2515c13418daSRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqshrnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2516c13418daSRichard Henderson 
2517c13418daSRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqshrnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2518c13418daSRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqshrnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2519c13418daSRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqshrnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2520c13418daSRichard Henderson 
2521c13418daSRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqrshrnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2522c13418daSRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqrshrnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2523c13418daSRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqrshrnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2524c13418daSRichard Henderson 
2525c13418daSRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqrshrnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2526c13418daSRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqrshrnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2527c13418daSRichard Henderson DEF_HELPER_FLAGS_3(sve2_uqrshrnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, i32)
2528c13418daSRichard Henderson 
252940d5ea50SStephen Long DEF_HELPER_FLAGS_4(sve2_addhnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
253040d5ea50SStephen Long DEF_HELPER_FLAGS_4(sve2_addhnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
253140d5ea50SStephen Long DEF_HELPER_FLAGS_4(sve2_addhnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
253240d5ea50SStephen Long 
253340d5ea50SStephen Long DEF_HELPER_FLAGS_4(sve2_addhnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
253440d5ea50SStephen Long DEF_HELPER_FLAGS_4(sve2_addhnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
253540d5ea50SStephen Long DEF_HELPER_FLAGS_4(sve2_addhnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
253640d5ea50SStephen Long 
25370ea3ff02SStephen Long DEF_HELPER_FLAGS_4(sve2_raddhnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
25380ea3ff02SStephen Long DEF_HELPER_FLAGS_4(sve2_raddhnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
25390ea3ff02SStephen Long DEF_HELPER_FLAGS_4(sve2_raddhnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
25400ea3ff02SStephen Long 
25410ea3ff02SStephen Long DEF_HELPER_FLAGS_4(sve2_raddhnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
25420ea3ff02SStephen Long DEF_HELPER_FLAGS_4(sve2_raddhnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
25430ea3ff02SStephen Long DEF_HELPER_FLAGS_4(sve2_raddhnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
25440ea3ff02SStephen Long 
2545c3cd6766SStephen Long DEF_HELPER_FLAGS_4(sve2_subhnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2546c3cd6766SStephen Long DEF_HELPER_FLAGS_4(sve2_subhnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2547c3cd6766SStephen Long DEF_HELPER_FLAGS_4(sve2_subhnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2548c3cd6766SStephen Long 
2549c3cd6766SStephen Long DEF_HELPER_FLAGS_4(sve2_subhnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2550c3cd6766SStephen Long DEF_HELPER_FLAGS_4(sve2_subhnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2551c3cd6766SStephen Long DEF_HELPER_FLAGS_4(sve2_subhnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2552c3cd6766SStephen Long 
2553e9443d10SStephen Long DEF_HELPER_FLAGS_4(sve2_rsubhnb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2554e9443d10SStephen Long DEF_HELPER_FLAGS_4(sve2_rsubhnb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2555e9443d10SStephen Long DEF_HELPER_FLAGS_4(sve2_rsubhnb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2556e9443d10SStephen Long 
2557e9443d10SStephen Long DEF_HELPER_FLAGS_4(sve2_rsubhnt_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2558e9443d10SStephen Long DEF_HELPER_FLAGS_4(sve2_rsubhnt_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2559e9443d10SStephen Long DEF_HELPER_FLAGS_4(sve2_rsubhnt_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2560e9443d10SStephen Long 
2561e0ae6ec3SStephen Long DEF_HELPER_FLAGS_5(sve2_match_ppzz_b, TCG_CALL_NO_RWG,
2562e0ae6ec3SStephen Long                    i32, ptr, ptr, ptr, ptr, i32)
2563e0ae6ec3SStephen Long DEF_HELPER_FLAGS_5(sve2_match_ppzz_h, TCG_CALL_NO_RWG,
2564e0ae6ec3SStephen Long                    i32, ptr, ptr, ptr, ptr, i32)
2565e0ae6ec3SStephen Long 
2566e0ae6ec3SStephen Long DEF_HELPER_FLAGS_5(sve2_nmatch_ppzz_b, TCG_CALL_NO_RWG,
2567e0ae6ec3SStephen Long                    i32, ptr, ptr, ptr, ptr, i32)
2568e0ae6ec3SStephen Long DEF_HELPER_FLAGS_5(sve2_nmatch_ppzz_h, TCG_CALL_NO_RWG,
2569e0ae6ec3SStephen Long                    i32, ptr, ptr, ptr, ptr, i32)
2570e0ae6ec3SStephen Long 
25717d47ac94SStephen Long DEF_HELPER_FLAGS_5(sve2_histcnt_s, TCG_CALL_NO_RWG,
25727d47ac94SStephen Long                    void, ptr, ptr, ptr, ptr, i32)
25737d47ac94SStephen Long DEF_HELPER_FLAGS_5(sve2_histcnt_d, TCG_CALL_NO_RWG,
25747d47ac94SStephen Long                    void, ptr, ptr, ptr, ptr, i32)
25757d47ac94SStephen Long 
25767d47ac94SStephen Long DEF_HELPER_FLAGS_4(sve2_histseg, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
25777d47ac94SStephen Long 
2578e6eba6e5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_xar_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2579e6eba6e5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_xar_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2580e6eba6e5SRichard Henderson DEF_HELPER_FLAGS_4(sve2_xar_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2581e6eba6e5SRichard Henderson 
2582b87dbeebSStephen Long DEF_HELPER_FLAGS_6(sve2_faddp_zpzz_h, TCG_CALL_NO_RWG,
2583b87dbeebSStephen Long                    void, ptr, ptr, ptr, ptr, ptr, i32)
2584b87dbeebSStephen Long DEF_HELPER_FLAGS_6(sve2_faddp_zpzz_s, TCG_CALL_NO_RWG,
2585b87dbeebSStephen Long                    void, ptr, ptr, ptr, ptr, ptr, i32)
2586b87dbeebSStephen Long DEF_HELPER_FLAGS_6(sve2_faddp_zpzz_d, TCG_CALL_NO_RWG,
2587b87dbeebSStephen Long                    void, ptr, ptr, ptr, ptr, ptr, i32)
2588b87dbeebSStephen Long 
2589b87dbeebSStephen Long DEF_HELPER_FLAGS_6(sve2_fmaxnmp_zpzz_h, TCG_CALL_NO_RWG,
2590b87dbeebSStephen Long                    void, ptr, ptr, ptr, ptr, ptr, i32)
2591b87dbeebSStephen Long DEF_HELPER_FLAGS_6(sve2_fmaxnmp_zpzz_s, TCG_CALL_NO_RWG,
2592b87dbeebSStephen Long                    void, ptr, ptr, ptr, ptr, ptr, i32)
2593b87dbeebSStephen Long DEF_HELPER_FLAGS_6(sve2_fmaxnmp_zpzz_d, TCG_CALL_NO_RWG,
2594b87dbeebSStephen Long                    void, ptr, ptr, ptr, ptr, ptr, i32)
2595b87dbeebSStephen Long 
2596b87dbeebSStephen Long DEF_HELPER_FLAGS_6(sve2_fminnmp_zpzz_h, TCG_CALL_NO_RWG,
2597b87dbeebSStephen Long                    void, ptr, ptr, ptr, ptr, ptr, i32)
2598b87dbeebSStephen Long DEF_HELPER_FLAGS_6(sve2_fminnmp_zpzz_s, TCG_CALL_NO_RWG,
2599b87dbeebSStephen Long                    void, ptr, ptr, ptr, ptr, ptr, i32)
2600b87dbeebSStephen Long DEF_HELPER_FLAGS_6(sve2_fminnmp_zpzz_d, TCG_CALL_NO_RWG,
2601b87dbeebSStephen Long                    void, ptr, ptr, ptr, ptr, ptr, i32)
2602b87dbeebSStephen Long 
2603b87dbeebSStephen Long DEF_HELPER_FLAGS_6(sve2_fmaxp_zpzz_h, TCG_CALL_NO_RWG,
2604b87dbeebSStephen Long                    void, ptr, ptr, ptr, ptr, ptr, i32)
2605b87dbeebSStephen Long DEF_HELPER_FLAGS_6(sve2_fmaxp_zpzz_s, TCG_CALL_NO_RWG,
2606b87dbeebSStephen Long                    void, ptr, ptr, ptr, ptr, ptr, i32)
2607b87dbeebSStephen Long DEF_HELPER_FLAGS_6(sve2_fmaxp_zpzz_d, TCG_CALL_NO_RWG,
2608b87dbeebSStephen Long                    void, ptr, ptr, ptr, ptr, ptr, i32)
2609b87dbeebSStephen Long 
2610b87dbeebSStephen Long DEF_HELPER_FLAGS_6(sve2_fminp_zpzz_h, TCG_CALL_NO_RWG,
2611b87dbeebSStephen Long                    void, ptr, ptr, ptr, ptr, ptr, i32)
2612b87dbeebSStephen Long DEF_HELPER_FLAGS_6(sve2_fminp_zpzz_s, TCG_CALL_NO_RWG,
2613b87dbeebSStephen Long                    void, ptr, ptr, ptr, ptr, ptr, i32)
2614b87dbeebSStephen Long DEF_HELPER_FLAGS_6(sve2_fminp_zpzz_d, TCG_CALL_NO_RWG,
2615b87dbeebSStephen Long                    void, ptr, ptr, ptr, ptr, ptr, i32)
2616911cdc6dSRichard Henderson 
2617911cdc6dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_eor3, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2618911cdc6dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_bcax, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2619911cdc6dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_bsl1n, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2620911cdc6dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_bsl2n, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2621911cdc6dSRichard Henderson DEF_HELPER_FLAGS_5(sve2_nbsl, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2622bfc9307eSRichard Henderson 
2623bfc9307eSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqdmlal_zzzw_h, TCG_CALL_NO_RWG,
2624bfc9307eSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2625bfc9307eSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqdmlal_zzzw_s, TCG_CALL_NO_RWG,
2626bfc9307eSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2627bfc9307eSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqdmlal_zzzw_d, TCG_CALL_NO_RWG,
2628bfc9307eSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2629bfc9307eSRichard Henderson 
2630bfc9307eSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqdmlsl_zzzw_h, TCG_CALL_NO_RWG,
2631bfc9307eSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2632bfc9307eSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqdmlsl_zzzw_s, TCG_CALL_NO_RWG,
2633bfc9307eSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2634bfc9307eSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqdmlsl_zzzw_d, TCG_CALL_NO_RWG,
2635bfc9307eSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
263645a32e80SRichard Henderson 
263745a32e80SRichard Henderson DEF_HELPER_FLAGS_5(sve2_smlal_zzzw_h, TCG_CALL_NO_RWG,
263845a32e80SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
263945a32e80SRichard Henderson DEF_HELPER_FLAGS_5(sve2_smlal_zzzw_s, TCG_CALL_NO_RWG,
264045a32e80SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
264145a32e80SRichard Henderson DEF_HELPER_FLAGS_5(sve2_smlal_zzzw_d, TCG_CALL_NO_RWG,
264245a32e80SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
264345a32e80SRichard Henderson 
264445a32e80SRichard Henderson DEF_HELPER_FLAGS_5(sve2_umlal_zzzw_h, TCG_CALL_NO_RWG,
264545a32e80SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
264645a32e80SRichard Henderson DEF_HELPER_FLAGS_5(sve2_umlal_zzzw_s, TCG_CALL_NO_RWG,
264745a32e80SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
264845a32e80SRichard Henderson DEF_HELPER_FLAGS_5(sve2_umlal_zzzw_d, TCG_CALL_NO_RWG,
264945a32e80SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
265045a32e80SRichard Henderson 
265145a32e80SRichard Henderson DEF_HELPER_FLAGS_5(sve2_smlsl_zzzw_h, TCG_CALL_NO_RWG,
265245a32e80SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
265345a32e80SRichard Henderson DEF_HELPER_FLAGS_5(sve2_smlsl_zzzw_s, TCG_CALL_NO_RWG,
265445a32e80SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
265545a32e80SRichard Henderson DEF_HELPER_FLAGS_5(sve2_smlsl_zzzw_d, TCG_CALL_NO_RWG,
265645a32e80SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
265745a32e80SRichard Henderson 
265845a32e80SRichard Henderson DEF_HELPER_FLAGS_5(sve2_umlsl_zzzw_h, TCG_CALL_NO_RWG,
265945a32e80SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
266045a32e80SRichard Henderson DEF_HELPER_FLAGS_5(sve2_umlsl_zzzw_s, TCG_CALL_NO_RWG,
266145a32e80SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
266245a32e80SRichard Henderson DEF_HELPER_FLAGS_5(sve2_umlsl_zzzw_d, TCG_CALL_NO_RWG,
266345a32e80SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2664d782d3caSRichard Henderson 
2665d782d3caSRichard Henderson DEF_HELPER_FLAGS_5(sve2_cmla_zzzz_b, TCG_CALL_NO_RWG,
2666d782d3caSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2667d782d3caSRichard Henderson DEF_HELPER_FLAGS_5(sve2_cmla_zzzz_h, TCG_CALL_NO_RWG,
2668d782d3caSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2669d782d3caSRichard Henderson DEF_HELPER_FLAGS_5(sve2_cmla_zzzz_s, TCG_CALL_NO_RWG,
2670d782d3caSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2671d782d3caSRichard Henderson DEF_HELPER_FLAGS_5(sve2_cmla_zzzz_d, TCG_CALL_NO_RWG,
2672d782d3caSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2673d782d3caSRichard Henderson 
2674d782d3caSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrdcmlah_zzzz_b, TCG_CALL_NO_RWG,
2675d782d3caSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2676d782d3caSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrdcmlah_zzzz_h, TCG_CALL_NO_RWG,
2677d782d3caSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2678d782d3caSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrdcmlah_zzzz_s, TCG_CALL_NO_RWG,
2679d782d3caSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2680d782d3caSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrdcmlah_zzzz_d, TCG_CALL_NO_RWG,
2681d782d3caSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
26824f26756bSStephen Long 
26834f26756bSStephen Long DEF_HELPER_FLAGS_6(fmmla_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, ptr, i32)
26844f26756bSStephen Long DEF_HELPER_FLAGS_6(fmmla_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, ptr, i32)
268575d6d5fcSRichard Henderson 
268675d6d5fcSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrdmlah_idx_h, TCG_CALL_NO_RWG,
268775d6d5fcSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
268875d6d5fcSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrdmlah_idx_s, TCG_CALL_NO_RWG,
268975d6d5fcSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
269075d6d5fcSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrdmlah_idx_d, TCG_CALL_NO_RWG,
269175d6d5fcSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
269275d6d5fcSRichard Henderson 
269375d6d5fcSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrdmlsh_idx_h, TCG_CALL_NO_RWG,
269475d6d5fcSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
269575d6d5fcSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrdmlsh_idx_s, TCG_CALL_NO_RWG,
269675d6d5fcSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
269775d6d5fcSRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrdmlsh_idx_d, TCG_CALL_NO_RWG,
269875d6d5fcSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2699c5c455d7SRichard Henderson 
2700c5c455d7SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqdmlal_idx_s, TCG_CALL_NO_RWG,
2701c5c455d7SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2702c5c455d7SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqdmlal_idx_d, TCG_CALL_NO_RWG,
2703c5c455d7SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2704c5c455d7SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqdmlsl_idx_s, TCG_CALL_NO_RWG,
2705c5c455d7SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2706c5c455d7SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqdmlsl_idx_d, TCG_CALL_NO_RWG,
2707c5c455d7SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2708b95f5eebSRichard Henderson 
2709b95f5eebSRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqdmull_idx_s, TCG_CALL_NO_RWG,
2710b95f5eebSRichard Henderson                    void, ptr, ptr, ptr, i32)
2711b95f5eebSRichard Henderson DEF_HELPER_FLAGS_4(sve2_sqdmull_idx_d, TCG_CALL_NO_RWG,
2712b95f5eebSRichard Henderson                    void, ptr, ptr, ptr, i32)
2713d462469fSRichard Henderson 
2714d462469fSRichard Henderson DEF_HELPER_FLAGS_5(sve2_smlal_idx_s, TCG_CALL_NO_RWG,
2715d462469fSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2716d462469fSRichard Henderson DEF_HELPER_FLAGS_5(sve2_smlal_idx_d, TCG_CALL_NO_RWG,
2717d462469fSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2718d462469fSRichard Henderson DEF_HELPER_FLAGS_5(sve2_smlsl_idx_s, TCG_CALL_NO_RWG,
2719d462469fSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2720d462469fSRichard Henderson DEF_HELPER_FLAGS_5(sve2_smlsl_idx_d, TCG_CALL_NO_RWG,
2721d462469fSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2722d462469fSRichard Henderson DEF_HELPER_FLAGS_5(sve2_umlal_idx_s, TCG_CALL_NO_RWG,
2723d462469fSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2724d462469fSRichard Henderson DEF_HELPER_FLAGS_5(sve2_umlal_idx_d, TCG_CALL_NO_RWG,
2725d462469fSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2726d462469fSRichard Henderson DEF_HELPER_FLAGS_5(sve2_umlsl_idx_s, TCG_CALL_NO_RWG,
2727d462469fSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2728d462469fSRichard Henderson DEF_HELPER_FLAGS_5(sve2_umlsl_idx_d, TCG_CALL_NO_RWG,
2729d462469fSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2730d3949c4cSRichard Henderson 
2731d3949c4cSRichard Henderson DEF_HELPER_FLAGS_4(sve2_smull_idx_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2732d3949c4cSRichard Henderson DEF_HELPER_FLAGS_4(sve2_smull_idx_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2733d3949c4cSRichard Henderson DEF_HELPER_FLAGS_4(sve2_umull_idx_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2734d3949c4cSRichard Henderson DEF_HELPER_FLAGS_4(sve2_umull_idx_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
27353b787ed8SRichard Henderson 
27363b787ed8SRichard Henderson DEF_HELPER_FLAGS_5(sve2_cmla_idx_h, TCG_CALL_NO_RWG,
27373b787ed8SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
27383b787ed8SRichard Henderson DEF_HELPER_FLAGS_5(sve2_cmla_idx_s, TCG_CALL_NO_RWG,
27393b787ed8SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
27403b787ed8SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrdcmlah_idx_h, TCG_CALL_NO_RWG,
27413b787ed8SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
27423b787ed8SRichard Henderson DEF_HELPER_FLAGS_5(sve2_sqrdcmlah_idx_s, TCG_CALL_NO_RWG,
27433b787ed8SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
274421068f39SRichard Henderson 
274521068f39SRichard Henderson DEF_HELPER_FLAGS_5(sve2_cdot_zzzz_s, TCG_CALL_NO_RWG,
274621068f39SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
274721068f39SRichard Henderson DEF_HELPER_FLAGS_5(sve2_cdot_zzzz_d, TCG_CALL_NO_RWG,
274821068f39SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
274921068f39SRichard Henderson 
275021068f39SRichard Henderson DEF_HELPER_FLAGS_5(sve2_cdot_idx_s, TCG_CALL_NO_RWG,
275121068f39SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
275221068f39SRichard Henderson DEF_HELPER_FLAGS_5(sve2_cdot_idx_d, TCG_CALL_NO_RWG,
275321068f39SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
27545c1b7226SRichard Henderson 
27555c1b7226SRichard Henderson DEF_HELPER_FLAGS_5(sve2_fcvtnt_sh, TCG_CALL_NO_RWG,
27565c1b7226SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
27575c1b7226SRichard Henderson DEF_HELPER_FLAGS_5(sve2_fcvtnt_ds, TCG_CALL_NO_RWG,
27585c1b7226SRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
2759d29b17caSRichard Henderson DEF_HELPER_FLAGS_5(sve_bfcvtnt, TCG_CALL_NO_RWG,
2760d29b17caSRichard Henderson                    void, ptr, ptr, ptr, ptr, i32)
276183c2523fSStephen Long 
276283c2523fSStephen Long DEF_HELPER_FLAGS_5(sve2_fcvtlt_hs, TCG_CALL_NO_RWG,
276383c2523fSStephen Long                    void, ptr, ptr, ptr, ptr, i32)
276483c2523fSStephen Long DEF_HELPER_FLAGS_5(sve2_fcvtlt_sd, TCG_CALL_NO_RWG,
276583c2523fSStephen Long                    void, ptr, ptr, ptr, ptr, i32)
2766631be02eSStephen Long 
2767631be02eSStephen Long DEF_HELPER_FLAGS_5(flogb_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2768631be02eSStephen Long DEF_HELPER_FLAGS_5(flogb_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2769631be02eSStephen Long DEF_HELPER_FLAGS_5(flogb_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, ptr, i32)
2770a5421b54SStephen Long 
2771a5421b54SStephen Long DEF_HELPER_FLAGS_4(sve2_sqshl_zpzi_b, TCG_CALL_NO_RWG,
2772a5421b54SStephen Long                    void, ptr, ptr, ptr, i32)
2773a5421b54SStephen Long DEF_HELPER_FLAGS_4(sve2_sqshl_zpzi_h, TCG_CALL_NO_RWG,
2774a5421b54SStephen Long                    void, ptr, ptr, ptr, i32)
2775a5421b54SStephen Long DEF_HELPER_FLAGS_4(sve2_sqshl_zpzi_s, TCG_CALL_NO_RWG,
2776a5421b54SStephen Long                    void, ptr, ptr, ptr, i32)
2777a5421b54SStephen Long DEF_HELPER_FLAGS_4(sve2_sqshl_zpzi_d, TCG_CALL_NO_RWG,
2778a5421b54SStephen Long                    void, ptr, ptr, ptr, i32)
2779a5421b54SStephen Long 
2780a5421b54SStephen Long DEF_HELPER_FLAGS_4(sve2_uqshl_zpzi_b, TCG_CALL_NO_RWG,
2781a5421b54SStephen Long                    void, ptr, ptr, ptr, i32)
2782a5421b54SStephen Long DEF_HELPER_FLAGS_4(sve2_uqshl_zpzi_h, TCG_CALL_NO_RWG,
2783a5421b54SStephen Long                    void, ptr, ptr, ptr, i32)
2784a5421b54SStephen Long DEF_HELPER_FLAGS_4(sve2_uqshl_zpzi_s, TCG_CALL_NO_RWG,
2785a5421b54SStephen Long                    void, ptr, ptr, ptr, i32)
2786a5421b54SStephen Long DEF_HELPER_FLAGS_4(sve2_uqshl_zpzi_d, TCG_CALL_NO_RWG,
2787a5421b54SStephen Long                    void, ptr, ptr, ptr, i32)
2788a5421b54SStephen Long 
2789a5421b54SStephen Long DEF_HELPER_FLAGS_4(sve2_srshr_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2790a5421b54SStephen Long DEF_HELPER_FLAGS_4(sve2_srshr_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2791a5421b54SStephen Long DEF_HELPER_FLAGS_4(sve2_srshr_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2792a5421b54SStephen Long DEF_HELPER_FLAGS_4(sve2_srshr_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2793a5421b54SStephen Long 
2794a5421b54SStephen Long DEF_HELPER_FLAGS_4(sve2_urshr_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2795a5421b54SStephen Long DEF_HELPER_FLAGS_4(sve2_urshr_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2796a5421b54SStephen Long DEF_HELPER_FLAGS_4(sve2_urshr_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2797a5421b54SStephen Long DEF_HELPER_FLAGS_4(sve2_urshr_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2798a5421b54SStephen Long 
2799a5421b54SStephen Long DEF_HELPER_FLAGS_4(sve2_sqshlu_b, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2800a5421b54SStephen Long DEF_HELPER_FLAGS_4(sve2_sqshlu_h, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2801a5421b54SStephen Long DEF_HELPER_FLAGS_4(sve2_sqshlu_s, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2802a5421b54SStephen Long DEF_HELPER_FLAGS_4(sve2_sqshlu_d, TCG_CALL_NO_RWG, void, ptr, ptr, ptr, i32)
2803