Lines Matching refs:sch
75 struct Qdisc *sch,
77 struct sk_buff * (*dequeue)(struct Qdisc *sch);
266 struct tcf_block * (*tcf_block)(struct Qdisc *sch,
295 struct Qdisc *sch,
300 int (*init)(struct Qdisc *sch, struct nlattr *arg,
304 int (*change)(struct Qdisc *sch,
307 void (*attach)(struct Qdisc *sch);
309 void (*change_real_num_tx)(struct Qdisc *sch,
315 void (*ingress_block_set)(struct Qdisc *sch,
317 void (*egress_block_set)(struct Qdisc *sch,
319 u32 (*ingress_block_get)(struct Qdisc *sch);
320 u32 (*egress_block_get)(struct Qdisc *sch);
702 void qdisc_offload_graft_helper(struct net_device *dev, struct Qdisc *sch,
716 qdisc_offload_graft_helper(struct net_device *dev, struct Qdisc *sch,
845 const struct Qdisc *sch)
848 struct qdisc_size_table *stab = rcu_dereference_bh(sch->stab);
855 static inline int qdisc_enqueue(struct sk_buff *skb, struct Qdisc *sch,
858 return sch->enqueue(skb, sch, to_free);
878 static inline void qdisc_bstats_cpu_update(struct Qdisc *sch,
881 bstats_update(this_cpu_ptr(sch->cpu_bstats), skb);
884 static inline void qdisc_bstats_update(struct Qdisc *sch,
887 bstats_update(&sch->bstats, skb);
890 static inline void qdisc_qstats_backlog_dec(struct Qdisc *sch,
893 sch->qstats.backlog -= qdisc_pkt_len(skb);
896 static inline void qdisc_qstats_cpu_backlog_dec(struct Qdisc *sch,
899 this_cpu_sub(sch->cpu_qstats->backlog, qdisc_pkt_len(skb));
902 static inline void qdisc_qstats_backlog_inc(struct Qdisc *sch,
905 sch->qstats.backlog += qdisc_pkt_len(skb);
908 static inline void qdisc_qstats_cpu_backlog_inc(struct Qdisc *sch,
911 this_cpu_add(sch->cpu_qstats->backlog, qdisc_pkt_len(skb));
914 static inline void qdisc_qstats_cpu_qlen_inc(struct Qdisc *sch)
916 this_cpu_inc(sch->cpu_qstats->qlen);
919 static inline void qdisc_qstats_cpu_qlen_dec(struct Qdisc *sch)
921 this_cpu_dec(sch->cpu_qstats->qlen);
924 static inline void qdisc_qstats_cpu_requeues_inc(struct Qdisc *sch)
926 this_cpu_inc(sch->cpu_qstats->requeues);
929 static inline void __qdisc_qstats_drop(struct Qdisc *sch, int count)
931 sch->qstats.drops += count;
944 static inline void qdisc_qstats_drop(struct Qdisc *sch)
946 qstats_drop_inc(&sch->qstats);
949 static inline void qdisc_qstats_cpu_drop(struct Qdisc *sch)
951 this_cpu_inc(sch->cpu_qstats->drops);
954 static inline void qdisc_qstats_overlimit(struct Qdisc *sch)
956 sch->qstats.overlimits++;
959 static inline int qdisc_qstats_copy(struct gnet_dump *d, struct Qdisc *sch)
961 __u32 qlen = qdisc_qlen_sum(sch);
963 return gnet_stats_copy_queue(d, sch->cpu_qstats, &sch->qstats, qlen);
966 static inline void qdisc_qstats_qlen_backlog(struct Qdisc *sch, __u32 *qlen,
971 gnet_stats_add_queue(&qstats, sch->cpu_qstats, &sch->qstats);
972 *qlen = qstats.qlen + qdisc_qlen(sch);
976 static inline void qdisc_purge_queue(struct Qdisc *sch)
980 qdisc_qstats_qlen_backlog(sch, &qlen, &backlog);
981 qdisc_reset(sch);
982 qdisc_tree_reduce_backlog(sch, qlen, backlog);
1001 static inline int qdisc_enqueue_tail(struct sk_buff *skb, struct Qdisc *sch)
1003 __qdisc_enqueue_tail(skb, &sch->q);
1004 qdisc_qstats_backlog_inc(sch, skb);
1034 static inline struct sk_buff *qdisc_dequeue_internal(struct Qdisc *sch, bool direct)
1038 skb = __skb_dequeue(&sch->gso_skb);
1040 sch->q.qlen--;
1044 return __qdisc_dequeue_head(&sch->q);
1046 return sch->dequeue(sch);
1049 static inline struct sk_buff *qdisc_dequeue_head(struct Qdisc *sch)
1051 struct sk_buff *skb = __qdisc_dequeue_head(&sch->q);
1054 qdisc_qstats_backlog_dec(sch, skb);
1055 qdisc_bstats_update(sch, skb);
1111 static inline unsigned int __qdisc_queue_drop_head(struct Qdisc *sch,
1120 qdisc_qstats_backlog_dec(sch, skb);
1128 static inline struct sk_buff *qdisc_peek_head(struct Qdisc *sch)
1130 const struct qdisc_skb_head *qh = &sch->q;
1136 static inline struct sk_buff *qdisc_peek_dequeued(struct Qdisc *sch)
1138 struct sk_buff *skb = skb_peek(&sch->gso_skb);
1142 skb = sch->dequeue(sch);
1145 __skb_queue_head(&sch->gso_skb, skb);
1147 qdisc_qstats_backlog_inc(sch, skb);
1148 sch->q.qlen++;
1155 static inline void qdisc_update_stats_at_dequeue(struct Qdisc *sch,
1158 if (qdisc_is_percpu_stats(sch)) {
1159 qdisc_qstats_cpu_backlog_dec(sch, skb);
1160 qdisc_bstats_cpu_update(sch, skb);
1161 qdisc_qstats_cpu_qlen_dec(sch);
1163 qdisc_qstats_backlog_dec(sch, skb);
1164 qdisc_bstats_update(sch, skb);
1165 sch->q.qlen--;
1169 static inline void qdisc_update_stats_at_enqueue(struct Qdisc *sch,
1172 if (qdisc_is_percpu_stats(sch)) {
1173 qdisc_qstats_cpu_qlen_inc(sch);
1174 this_cpu_add(sch->cpu_qstats->backlog, pkt_len);
1176 sch->qstats.backlog += pkt_len;
1177 sch->q.qlen++;
1182 static inline struct sk_buff *qdisc_dequeue_peeked(struct Qdisc *sch)
1184 struct sk_buff *skb = skb_peek(&sch->gso_skb);
1187 skb = __skb_dequeue(&sch->gso_skb);
1188 if (qdisc_is_percpu_stats(sch)) {
1189 qdisc_qstats_cpu_backlog_dec(sch, skb);
1190 qdisc_qstats_cpu_qlen_dec(sch);
1192 qdisc_qstats_backlog_dec(sch, skb);
1193 sch->q.qlen--;
1196 skb = sch->dequeue(sch);
1218 static inline void qdisc_reset_queue(struct Qdisc *sch)
1220 __qdisc_reset_queue(&sch->q);
1223 static inline struct Qdisc *qdisc_replace(struct Qdisc *sch, struct Qdisc *new,
1228 sch_tree_lock(sch);
1233 sch_tree_unlock(sch);
1238 static inline void rtnl_qdisc_drop(struct sk_buff *skb, struct Qdisc *sch)
1241 qdisc_qstats_drop(sch);
1244 static inline int qdisc_drop_cpu(struct sk_buff *skb, struct Qdisc *sch,
1248 qdisc_qstats_cpu_drop(sch);
1253 static inline int qdisc_drop(struct sk_buff *skb, struct Qdisc *sch,
1257 qdisc_qstats_drop(sch);
1262 static inline int qdisc_drop_reason(struct sk_buff *skb, struct Qdisc *sch,
1267 return qdisc_drop(skb, sch, to_free);
1270 static inline int qdisc_drop_all(struct sk_buff *skb, struct Qdisc *sch,
1274 qdisc_qstats_drop(sch);
1371 void mq_change_real_num_tx(struct Qdisc *sch, unsigned int new_real_tx);