48 	int 			(*enqueue)(struct sk_buff *skb, struct Qdisc *dev);
73 	int			(*reshape_fail)(struct sk_buff *skb,
177 					struct sk_buff *skb, struct tcmsg*);
231 					struct sk_buff *skb, struct tcmsg*);
262 static inline void qdisc_cb_private_validate(const struct sk_buff *skb, int sz)  in qdisc_cb_private_validate()  argument
266 	BUILD_BUG_ON(sizeof(skb->cb) < offsetof(struct qdisc_skb_cb, data) + sz);  in qdisc_cb_private_validate()
275 static inline struct qdisc_skb_cb *qdisc_skb_cb(const struct sk_buff *skb)  in qdisc_skb_cb()  argument
277 	return (struct qdisc_skb_cb *)skb->cb;  in qdisc_skb_cb()
403 void __qdisc_calculate_pkt_len(struct sk_buff *skb,
473 static inline unsigned int qdisc_pkt_len(const struct sk_buff *skb)  in qdisc_pkt_len()  argument
475 	return qdisc_skb_cb(skb)->pkt_len;  in qdisc_pkt_len()
490 static inline void qdisc_calculate_pkt_len(struct sk_buff *skb,  in qdisc_calculate_pkt_len()  argument
497 		__qdisc_calculate_pkt_len(skb, stab);  in qdisc_calculate_pkt_len()
501 static inline int qdisc_enqueue(struct sk_buff *skb, struct Qdisc *sch)  in qdisc_enqueue()  argument
503 	qdisc_calculate_pkt_len(skb, sch);  in qdisc_enqueue()
504 	return sch->enqueue(skb, sch);  in qdisc_enqueue()
507 static inline int qdisc_enqueue_root(struct sk_buff *skb, struct Qdisc *sch)  in qdisc_enqueue_root()  argument
509 	qdisc_skb_cb(skb)->pkt_len = skb->len;  in qdisc_enqueue_root()
510 	return qdisc_enqueue(skb, sch) & NET_XMIT_MASK;  in qdisc_enqueue_root()
519 				 const struct sk_buff *skb)  in bstats_update()  argument
521 	bstats->bytes += qdisc_pkt_len(skb);  in bstats_update()
522 	bstats->packets += skb_is_gso(skb) ? skb_shinfo(skb)->gso_segs : 1;  in bstats_update()
526 					   const struct sk_buff *skb)  in qdisc_bstats_update_cpu()  argument
532 	bstats_update(&bstats->bstats, skb);  in qdisc_bstats_update_cpu()
537 				       const struct sk_buff *skb)  in qdisc_bstats_update()  argument
539 	bstats_update(&sch->bstats, skb);  in qdisc_bstats_update()
543 					    const struct sk_buff *skb)  in qdisc_qstats_backlog_dec()  argument
545 	sch->qstats.backlog -= qdisc_pkt_len(skb);  in qdisc_qstats_backlog_dec()
549 					    const struct sk_buff *skb)  in qdisc_qstats_backlog_inc()  argument
551 	sch->qstats.backlog += qdisc_pkt_len(skb);  in qdisc_qstats_backlog_inc()
576 static inline int __qdisc_enqueue_tail(struct sk_buff *skb, struct Qdisc *sch,  in __qdisc_enqueue_tail()  argument
579 	__skb_queue_tail(list, skb);  in __qdisc_enqueue_tail()
580 	qdisc_qstats_backlog_inc(sch, skb);  in __qdisc_enqueue_tail()
585 static inline int qdisc_enqueue_tail(struct sk_buff *skb, struct Qdisc *sch)  in qdisc_enqueue_tail()  argument
587 	return __qdisc_enqueue_tail(skb, sch, &sch->q);  in qdisc_enqueue_tail()
593 	struct sk_buff *skb = __skb_dequeue(list);  in __qdisc_dequeue_head()  local
595 	if (likely(skb != NULL)) {  in __qdisc_dequeue_head()
596 		qdisc_qstats_backlog_dec(sch, skb);  in __qdisc_dequeue_head()
597 		qdisc_bstats_update(sch, skb);  in __qdisc_dequeue_head()
600 	return skb;  in __qdisc_dequeue_head()
611 	struct sk_buff *skb = __skb_dequeue(list);  in __qdisc_queue_drop_head()  local
613 	if (likely(skb != NULL)) {  in __qdisc_queue_drop_head()
614 		unsigned int len = qdisc_pkt_len(skb);  in __qdisc_queue_drop_head()
615 		qdisc_qstats_backlog_dec(sch, skb);  in __qdisc_queue_drop_head()
616 		kfree_skb(skb);  in __qdisc_queue_drop_head()
631 	struct sk_buff *skb = __skb_dequeue_tail(list);  in __qdisc_dequeue_tail()  local
633 	if (likely(skb != NULL))  in __qdisc_dequeue_tail()
634 		qdisc_qstats_backlog_dec(sch, skb);  in __qdisc_dequeue_tail()
636 	return skb;  in __qdisc_dequeue_tail()
666 	struct sk_buff *skb = sch->gso_skb;  in qdisc_dequeue_peeked()  local
668 	if (skb) {  in qdisc_dequeue_peeked()
672 		skb = sch->dequeue(sch);  in qdisc_dequeue_peeked()
675 	return skb;  in qdisc_dequeue_peeked()
697 	struct sk_buff *skb = __qdisc_dequeue_tail(sch, list);  in __qdisc_queue_drop()  local
699 	if (likely(skb != NULL)) {  in __qdisc_queue_drop()
700 		unsigned int len = qdisc_pkt_len(skb);  in __qdisc_queue_drop()
701 		kfree_skb(skb);  in __qdisc_queue_drop()
713 static inline int qdisc_drop(struct sk_buff *skb, struct Qdisc *sch)  in qdisc_drop()  argument
715 	kfree_skb(skb);  in qdisc_drop()
721 static inline int qdisc_reshape_fail(struct sk_buff *skb, struct Qdisc *sch)  in qdisc_reshape_fail()  argument
726 	if (sch->reshape_fail == NULL || sch->reshape_fail(skb, sch))  in qdisc_reshape_fail()
733 	kfree_skb(skb);  in qdisc_reshape_fail()
752 static inline struct sk_buff *skb_act_clone(struct sk_buff *skb, gfp_t gfp_mask,  in skb_act_clone()  argument
757 	n = skb_clone(skb, gfp_mask);  in skb_act_clone()