skbuff.h
上传用户:szlgq88
上传日期:2009-04-28
资源大小:48287k
文件大小:35k
源码类别:

嵌入式Linux

开发平台:

Unix_Linux

  1. /*
  2.  * Definitions for the 'struct sk_buff' memory handlers.
  3.  *
  4.  * Authors:
  5.  * Alan Cox, <gw4pts@gw4pts.ampr.org>
  6.  * Florian La Roche, <rzsfl@rz.uni-sb.de>
  7.  *
  8.  * This program is free software; you can redistribute it and/or
  9.  * modify it under the terms of the GNU General Public License
  10.  * as published by the Free Software Foundation; either version
  11.  * 2 of the License, or (at your option) any later version.
  12.  */
  13. #ifndef _LINUX_SKBUFF_H
  14. #define _LINUX_SKBUFF_H
  15. #include <linux/config.h>
  16. #include <linux/kernel.h>
  17. #include <linux/compiler.h>
  18. #include <linux/time.h>
  19. #include <linux/cache.h>
  20. #include <asm/atomic.h>
  21. #include <asm/types.h>
  22. #include <linux/spinlock.h>
  23. #include <linux/mm.h>
  24. #include <linux/highmem.h>
  25. #include <linux/poll.h>
  26. #include <linux/net.h>
  27. #include <linux/textsearch.h>
  28. #include <net/checksum.h>
  29. #define HAVE_ALLOC_SKB /* For the drivers to know */
  30. #define HAVE_ALIGNABLE_SKB /* Ditto 8)    */
  31. #define SLAB_SKB  /* Slabified skbuffs     */
  32. #define CHECKSUM_NONE 0
  33. #define CHECKSUM_HW 1
  34. #define CHECKSUM_UNNECESSARY 2
  35. #define SKB_DATA_ALIGN(X) (((X) + (SMP_CACHE_BYTES - 1)) & 
  36.  ~(SMP_CACHE_BYTES - 1))
  37. #define SKB_MAX_ORDER(X, ORDER) (((PAGE_SIZE << (ORDER)) - (X) - 
  38.   sizeof(struct skb_shared_info)) & 
  39.   ~(SMP_CACHE_BYTES - 1))
  40. #define SKB_MAX_HEAD(X) (SKB_MAX_ORDER((X), 0))
  41. #define SKB_MAX_ALLOC (SKB_MAX_ORDER(0, 2))
  42. /* A. Checksumming of received packets by device.
  43.  *
  44.  * NONE: device failed to checksum this packet.
  45.  * skb->csum is undefined.
  46.  *
  47.  * UNNECESSARY: device parsed packet and wouldbe verified checksum.
  48.  * skb->csum is undefined.
  49.  *       It is bad option, but, unfortunately, many of vendors do this.
  50.  *       Apparently with secret goal to sell you new device, when you
  51.  *       will add new protocol to your host. F.e. IPv6. 8)
  52.  *
  53.  * HW: the most generic way. Device supplied checksum of _all_
  54.  *     the packet as seen by netif_rx in skb->csum.
  55.  *     NOTE: Even if device supports only some protocols, but
  56.  *     is able to produce some skb->csum, it MUST use HW,
  57.  *     not UNNECESSARY.
  58.  *
  59.  * B. Checksumming on output.
  60.  *
  61.  * NONE: skb is checksummed by protocol or csum is not required.
  62.  *
  63.  * HW: device is required to csum packet as seen by hard_start_xmit
  64.  * from skb->h.raw to the end and to record the checksum
  65.  * at skb->h.raw+skb->csum.
  66.  *
  67.  * Device must show its capabilities in dev->features, set
  68.  * at device setup time.
  69.  * NETIF_F_HW_CSUM - it is clever device, it is able to checksum
  70.  *   everything.
  71.  * NETIF_F_NO_CSUM - loopback or reliable single hop media.
  72.  * NETIF_F_IP_CSUM - device is dumb. It is able to csum only
  73.  *   TCP/UDP over IPv4. Sigh. Vendors like this
  74.  *   way by an unknown reason. Though, see comment above
  75.  *   about CHECKSUM_UNNECESSARY. 8)
  76.  *
  77.  * Any questions? No questions, good.  --ANK
  78.  */
  79. struct net_device;
  80. #ifdef CONFIG_NETFILTER
  81. struct nf_conntrack {
  82. atomic_t use;
  83. void (*destroy)(struct nf_conntrack *);
  84. };
  85. #ifdef CONFIG_BRIDGE_NETFILTER
  86. struct nf_bridge_info {
  87. atomic_t use;
  88. struct net_device *physindev;
  89. struct net_device *physoutdev;
  90. #if defined(CONFIG_VLAN_8021Q) || defined(CONFIG_VLAN_8021Q_MODULE)
  91. struct net_device *netoutdev;
  92. #endif
  93. unsigned int mask;
  94. unsigned long data[32 / sizeof(unsigned long)];
  95. };
  96. #endif
  97. #endif
  98. struct sk_buff_head {
  99. /* These two members must be first. */
  100. struct sk_buff *next;
  101. struct sk_buff *prev;
  102. __u32 qlen;
  103. spinlock_t lock;
  104. };
  105. struct sk_buff;
  106. /* To allow 64K frame to be packed as single skb without frag_list */
  107. #define MAX_SKB_FRAGS (65536/PAGE_SIZE + 2)
  108. typedef struct skb_frag_struct skb_frag_t;
  109. struct skb_frag_struct {
  110. struct page *page;
  111. __u16 page_offset;
  112. __u16 size;
  113. };
  114. /* This data is invariant across clones and lives at
  115.  * the end of the header data, ie. at skb->end.
  116.  */
  117. struct skb_shared_info {
  118. atomic_t dataref;
  119. unsigned int nr_frags;
  120. unsigned short tso_size;
  121. unsigned short tso_segs;
  122. struct sk_buff *frag_list;
  123. skb_frag_t frags[MAX_SKB_FRAGS];
  124. };
  125. /* We divide dataref into two halves.  The higher 16 bits hold references
  126.  * to the payload part of skb->data.  The lower 16 bits hold references to
  127.  * the entire skb->data.  It is up to the users of the skb to agree on
  128.  * where the payload starts.
  129.  *
  130.  * All users must obey the rule that the skb->data reference count must be
  131.  * greater than or equal to the payload reference count.
  132.  *
  133.  * Holding a reference to the payload part means that the user does not
  134.  * care about modifications to the header part of skb->data.
  135.  */
  136. #define SKB_DATAREF_SHIFT 16
  137. #define SKB_DATAREF_MASK ((1 << SKB_DATAREF_SHIFT) - 1)
  138. struct skb_timeval {
  139. u32 off_sec;
  140. u32 off_usec;
  141. };
  142. enum {
  143. SKB_FCLONE_UNAVAILABLE,
  144. SKB_FCLONE_ORIG,
  145. SKB_FCLONE_CLONE,
  146. };
  147. /** 
  148.  * struct sk_buff - socket buffer
  149.  * @next: Next buffer in list
  150.  * @prev: Previous buffer in list
  151.  * @list: List we are on
  152.  * @sk: Socket we are owned by
  153.  * @tstamp: Time we arrived
  154.  * @dev: Device we arrived on/are leaving by
  155.  * @input_dev: Device we arrived on
  156.  * @h: Transport layer header
  157.  * @nh: Network layer header
  158.  * @mac: Link layer header
  159.  * @dst: destination entry
  160.  * @sp: the security path, used for xfrm
  161.  * @cb: Control buffer. Free for use by every layer. Put private vars here
  162.  * @len: Length of actual data
  163.  * @data_len: Data length
  164.  * @mac_len: Length of link layer header
  165.  * @csum: Checksum
  166.  * @local_df: allow local fragmentation
  167.  * @cloned: Head may be cloned (check refcnt to be sure)
  168.  * @nohdr: Payload reference only, must not modify header
  169.  * @pkt_type: Packet class
  170.  * @ip_summed: Driver fed us an IP checksum
  171.  * @priority: Packet queueing priority
  172.  * @users: User count - see {datagram,tcp}.c
  173.  * @protocol: Packet protocol from driver
  174.  * @truesize: Buffer size 
  175.  * @head: Head of buffer
  176.  * @data: Data head pointer
  177.  * @tail: Tail pointer
  178.  * @end: End pointer
  179.  * @destructor: Destruct function
  180.  * @nfmark: Can be used for communication between hooks
  181.  * @nfct: Associated connection, if any
  182.  * @nfctinfo: Relationship of this skb to the connection
  183.  * @nf_bridge: Saved data about a bridged frame - see br_netfilter.c
  184.  * @tc_index: Traffic control index
  185.  * @tc_verd: traffic control verdict
  186.  */
  187. struct sk_buff {
  188. /* These two members must be first. */
  189. struct sk_buff *next;
  190. struct sk_buff *prev;
  191. struct sock *sk;
  192. struct skb_timeval tstamp;
  193. struct net_device *dev;
  194. struct net_device *input_dev;
  195. union {
  196. struct tcphdr *th;
  197. struct udphdr *uh;
  198. struct icmphdr *icmph;
  199. struct igmphdr *igmph;
  200. struct iphdr *ipiph;
  201. struct ipv6hdr *ipv6h;
  202. unsigned char *raw;
  203. } h;
  204. union {
  205. struct iphdr *iph;
  206. struct ipv6hdr *ipv6h;
  207. struct arphdr *arph;
  208. unsigned char *raw;
  209. } nh;
  210. union {
  211.    unsigned char  *raw;
  212. } mac;
  213. struct  dst_entry *dst;
  214. struct sec_path *sp;
  215. /*
  216.  * This is the control buffer. It is free to use for every
  217.  * layer. Please put your private variables there. If you
  218.  * want to keep them across layers you have to do a skb_clone()
  219.  * first. This is owned by whoever has the skb queued ATM.
  220.  */
  221. char cb[40];
  222. unsigned int len,
  223. data_len,
  224. mac_len,
  225. csum;
  226. __u32 priority;
  227. __u8 local_df:1,
  228. cloned:1,
  229. ip_summed:2,
  230. nohdr:1,
  231. nfctinfo:3;
  232. __u8 pkt_type:3,
  233. fclone:2;
  234. __be16 protocol;
  235. void (*destructor)(struct sk_buff *skb);
  236. #ifdef CONFIG_NETFILTER
  237. __u32 nfmark;
  238. struct nf_conntrack *nfct;
  239. #if defined(CONFIG_IP_VS) || defined(CONFIG_IP_VS_MODULE)
  240. __u8 ipvs_property:1;
  241. #endif
  242. #ifdef CONFIG_BRIDGE_NETFILTER
  243. struct nf_bridge_info *nf_bridge;
  244. #endif
  245. #endif /* CONFIG_NETFILTER */
  246. #ifdef CONFIG_NET_SCHED
  247. __u16 tc_index; /* traffic control index */
  248. #ifdef CONFIG_NET_CLS_ACT
  249. __u16 tc_verd; /* traffic control verdict */
  250. #endif
  251. #endif
  252. /* These elements must be at the end, see alloc_skb() for details.  */
  253. unsigned int truesize;
  254. atomic_t users;
  255. unsigned char *head,
  256. *data,
  257. *tail,
  258. *end;
  259. };
  260. #ifdef __KERNEL__
  261. /*
  262.  * Handling routines are only of interest to the kernel
  263.  */
  264. #include <linux/slab.h>
  265. #include <asm/system.h>
  266. extern void        __kfree_skb(struct sk_buff *skb);
  267. extern struct sk_buff *__alloc_skb(unsigned int size,
  268.    gfp_t priority, int fclone);
  269. static inline struct sk_buff *alloc_skb(unsigned int size,
  270. gfp_t priority)
  271. {
  272. return __alloc_skb(size, priority, 0);
  273. }
  274. static inline struct sk_buff *alloc_skb_fclone(unsigned int size,
  275.        gfp_t priority)
  276. {
  277. return __alloc_skb(size, priority, 1);
  278. }
  279. extern struct sk_buff *alloc_skb_from_cache(kmem_cache_t *cp,
  280.     unsigned int size,
  281.     gfp_t priority);
  282. extern void        kfree_skbmem(struct sk_buff *skb);
  283. extern struct sk_buff *skb_clone(struct sk_buff *skb,
  284.  gfp_t priority);
  285. extern struct sk_buff *skb_copy(const struct sk_buff *skb,
  286. gfp_t priority);
  287. extern struct sk_buff *pskb_copy(struct sk_buff *skb,
  288.  gfp_t gfp_mask);
  289. extern int        pskb_expand_head(struct sk_buff *skb,
  290. int nhead, int ntail,
  291. gfp_t gfp_mask);
  292. extern struct sk_buff *skb_realloc_headroom(struct sk_buff *skb,
  293.     unsigned int headroom);
  294. extern struct sk_buff *skb_copy_expand(const struct sk_buff *skb,
  295.        int newheadroom, int newtailroom,
  296.        gfp_t priority);
  297. extern struct sk_buff * skb_pad(struct sk_buff *skb, int pad);
  298. #define dev_kfree_skb(a) kfree_skb(a)
  299. extern void       skb_over_panic(struct sk_buff *skb, int len,
  300.      void *here);
  301. extern void       skb_under_panic(struct sk_buff *skb, int len,
  302.       void *here);
  303. struct skb_seq_state
  304. {
  305. __u32 lower_offset;
  306. __u32 upper_offset;
  307. __u32 frag_idx;
  308. __u32 stepped_offset;
  309. struct sk_buff *root_skb;
  310. struct sk_buff *cur_skb;
  311. __u8 *frag_data;
  312. };
  313. extern void       skb_prepare_seq_read(struct sk_buff *skb,
  314.    unsigned int from, unsigned int to,
  315.    struct skb_seq_state *st);
  316. extern unsigned int   skb_seq_read(unsigned int consumed, const u8 **data,
  317.    struct skb_seq_state *st);
  318. extern void       skb_abort_seq_read(struct skb_seq_state *st);
  319. extern unsigned int   skb_find_text(struct sk_buff *skb, unsigned int from,
  320.     unsigned int to, struct ts_config *config,
  321.     struct ts_state *state);
  322. /* Internal */
  323. #define skb_shinfo(SKB) ((struct skb_shared_info *)((SKB)->end))
  324. /**
  325.  * skb_queue_empty - check if a queue is empty
  326.  * @list: queue head
  327.  *
  328.  * Returns true if the queue is empty, false otherwise.
  329.  */
  330. static inline int skb_queue_empty(const struct sk_buff_head *list)
  331. {
  332. return list->next == (struct sk_buff *)list;
  333. }
  334. /**
  335.  * skb_get - reference buffer
  336.  * @skb: buffer to reference
  337.  *
  338.  * Makes another reference to a socket buffer and returns a pointer
  339.  * to the buffer.
  340.  */
  341. static inline struct sk_buff *skb_get(struct sk_buff *skb)
  342. {
  343. atomic_inc(&skb->users);
  344. return skb;
  345. }
  346. /*
  347.  * If users == 1, we are the only owner and are can avoid redundant
  348.  * atomic change.
  349.  */
  350. /**
  351.  * kfree_skb - free an sk_buff
  352.  * @skb: buffer to free
  353.  *
  354.  * Drop a reference to the buffer and free it if the usage count has
  355.  * hit zero.
  356.  */
  357. static inline void kfree_skb(struct sk_buff *skb)
  358. {
  359. if (likely(atomic_read(&skb->users) == 1))
  360. smp_rmb();
  361. else if (likely(!atomic_dec_and_test(&skb->users)))
  362. return;
  363. __kfree_skb(skb);
  364. }
  365. /**
  366.  * skb_cloned - is the buffer a clone
  367.  * @skb: buffer to check
  368.  *
  369.  * Returns true if the buffer was generated with skb_clone() and is
  370.  * one of multiple shared copies of the buffer. Cloned buffers are
  371.  * shared data so must not be written to under normal circumstances.
  372.  */
  373. static inline int skb_cloned(const struct sk_buff *skb)
  374. {
  375. return skb->cloned &&
  376.        (atomic_read(&skb_shinfo(skb)->dataref) & SKB_DATAREF_MASK) != 1;
  377. }
  378. /**
  379.  * skb_header_cloned - is the header a clone
  380.  * @skb: buffer to check
  381.  *
  382.  * Returns true if modifying the header part of the buffer requires
  383.  * the data to be copied.
  384.  */
  385. static inline int skb_header_cloned(const struct sk_buff *skb)
  386. {
  387. int dataref;
  388. if (!skb->cloned)
  389. return 0;
  390. dataref = atomic_read(&skb_shinfo(skb)->dataref);
  391. dataref = (dataref & SKB_DATAREF_MASK) - (dataref >> SKB_DATAREF_SHIFT);
  392. return dataref != 1;
  393. }
  394. /**
  395.  * skb_header_release - release reference to header
  396.  * @skb: buffer to operate on
  397.  *
  398.  * Drop a reference to the header part of the buffer.  This is done
  399.  * by acquiring a payload reference.  You must not read from the header
  400.  * part of skb->data after this.
  401.  */
  402. static inline void skb_header_release(struct sk_buff *skb)
  403. {
  404. BUG_ON(skb->nohdr);
  405. skb->nohdr = 1;
  406. atomic_add(1 << SKB_DATAREF_SHIFT, &skb_shinfo(skb)->dataref);
  407. }
  408. /**
  409.  * skb_shared - is the buffer shared
  410.  * @skb: buffer to check
  411.  *
  412.  * Returns true if more than one person has a reference to this
  413.  * buffer.
  414.  */
  415. static inline int skb_shared(const struct sk_buff *skb)
  416. {
  417. return atomic_read(&skb->users) != 1;
  418. }
  419. /**
  420.  * skb_share_check - check if buffer is shared and if so clone it
  421.  * @skb: buffer to check
  422.  * @pri: priority for memory allocation
  423.  *
  424.  * If the buffer is shared the buffer is cloned and the old copy
  425.  * drops a reference. A new clone with a single reference is returned.
  426.  * If the buffer is not shared the original buffer is returned. When
  427.  * being called from interrupt status or with spinlocks held pri must
  428.  * be GFP_ATOMIC.
  429.  *
  430.  * NULL is returned on a memory allocation failure.
  431.  */
  432. static inline struct sk_buff *skb_share_check(struct sk_buff *skb,
  433.       gfp_t pri)
  434. {
  435. might_sleep_if(pri & __GFP_WAIT);
  436. if (skb_shared(skb)) {
  437. struct sk_buff *nskb = skb_clone(skb, pri);
  438. kfree_skb(skb);
  439. skb = nskb;
  440. }
  441. return skb;
  442. }
  443. /*
  444.  * Copy shared buffers into a new sk_buff. We effectively do COW on
  445.  * packets to handle cases where we have a local reader and forward
  446.  * and a couple of other messy ones. The normal one is tcpdumping
  447.  * a packet thats being forwarded.
  448.  */
  449. /**
  450.  * skb_unshare - make a copy of a shared buffer
  451.  * @skb: buffer to check
  452.  * @pri: priority for memory allocation
  453.  *
  454.  * If the socket buffer is a clone then this function creates a new
  455.  * copy of the data, drops a reference count on the old copy and returns
  456.  * the new copy with the reference count at 1. If the buffer is not a clone
  457.  * the original buffer is returned. When called with a spinlock held or
  458.  * from interrupt state @pri must be %GFP_ATOMIC
  459.  *
  460.  * %NULL is returned on a memory allocation failure.
  461.  */
  462. static inline struct sk_buff *skb_unshare(struct sk_buff *skb,
  463.   gfp_t pri)
  464. {
  465. might_sleep_if(pri & __GFP_WAIT);
  466. if (skb_cloned(skb)) {
  467. struct sk_buff *nskb = skb_copy(skb, pri);
  468. kfree_skb(skb); /* Free our shared copy */
  469. skb = nskb;
  470. }
  471. return skb;
  472. }
  473. /**
  474.  * skb_peek
  475.  * @list_: list to peek at
  476.  *
  477.  * Peek an &sk_buff. Unlike most other operations you _MUST_
  478.  * be careful with this one. A peek leaves the buffer on the
  479.  * list and someone else may run off with it. You must hold
  480.  * the appropriate locks or have a private queue to do this.
  481.  *
  482.  * Returns %NULL for an empty list or a pointer to the head element.
  483.  * The reference count is not incremented and the reference is therefore
  484.  * volatile. Use with caution.
  485.  */
  486. static inline struct sk_buff *skb_peek(struct sk_buff_head *list_)
  487. {
  488. struct sk_buff *list = ((struct sk_buff *)list_)->next;
  489. if (list == (struct sk_buff *)list_)
  490. list = NULL;
  491. return list;
  492. }
  493. /**
  494.  * skb_peek_tail
  495.  * @list_: list to peek at
  496.  *
  497.  * Peek an &sk_buff. Unlike most other operations you _MUST_
  498.  * be careful with this one. A peek leaves the buffer on the
  499.  * list and someone else may run off with it. You must hold
  500.  * the appropriate locks or have a private queue to do this.
  501.  *
  502.  * Returns %NULL for an empty list or a pointer to the tail element.
  503.  * The reference count is not incremented and the reference is therefore
  504.  * volatile. Use with caution.
  505.  */
  506. static inline struct sk_buff *skb_peek_tail(struct sk_buff_head *list_)
  507. {
  508. struct sk_buff *list = ((struct sk_buff *)list_)->prev;
  509. if (list == (struct sk_buff *)list_)
  510. list = NULL;
  511. return list;
  512. }
  513. /**
  514.  * skb_queue_len - get queue length
  515.  * @list_: list to measure
  516.  *
  517.  * Return the length of an &sk_buff queue.
  518.  */
  519. static inline __u32 skb_queue_len(const struct sk_buff_head *list_)
  520. {
  521. return list_->qlen;
  522. }
  523. static inline void skb_queue_head_init(struct sk_buff_head *list)
  524. {
  525. spin_lock_init(&list->lock);
  526. list->prev = list->next = (struct sk_buff *)list;
  527. list->qlen = 0;
  528. }
  529. /*
  530.  * Insert an sk_buff at the start of a list.
  531.  *
  532.  * The "__skb_xxxx()" functions are the non-atomic ones that
  533.  * can only be called with interrupts disabled.
  534.  */
  535. /**
  536.  * __skb_queue_head - queue a buffer at the list head
  537.  * @list: list to use
  538.  * @newsk: buffer to queue
  539.  *
  540.  * Queue a buffer at the start of a list. This function takes no locks
  541.  * and you must therefore hold required locks before calling it.
  542.  *
  543.  * A buffer cannot be placed on two lists at the same time.
  544.  */
  545. extern void skb_queue_head(struct sk_buff_head *list, struct sk_buff *newsk);
  546. static inline void __skb_queue_head(struct sk_buff_head *list,
  547.     struct sk_buff *newsk)
  548. {
  549. struct sk_buff *prev, *next;
  550. list->qlen++;
  551. prev = (struct sk_buff *)list;
  552. next = prev->next;
  553. newsk->next = next;
  554. newsk->prev = prev;
  555. next->prev  = prev->next = newsk;
  556. }
  557. /**
  558.  * __skb_queue_tail - queue a buffer at the list tail
  559.  * @list: list to use
  560.  * @newsk: buffer to queue
  561.  *
  562.  * Queue a buffer at the end of a list. This function takes no locks
  563.  * and you must therefore hold required locks before calling it.
  564.  *
  565.  * A buffer cannot be placed on two lists at the same time.
  566.  */
  567. extern void skb_queue_tail(struct sk_buff_head *list, struct sk_buff *newsk);
  568. static inline void __skb_queue_tail(struct sk_buff_head *list,
  569.    struct sk_buff *newsk)
  570. {
  571. struct sk_buff *prev, *next;
  572. list->qlen++;
  573. next = (struct sk_buff *)list;
  574. prev = next->prev;
  575. newsk->next = next;
  576. newsk->prev = prev;
  577. next->prev  = prev->next = newsk;
  578. }
  579. /**
  580.  * __skb_dequeue - remove from the head of the queue
  581.  * @list: list to dequeue from
  582.  *
  583.  * Remove the head of the list. This function does not take any locks
  584.  * so must be used with appropriate locks held only. The head item is
  585.  * returned or %NULL if the list is empty.
  586.  */
  587. extern struct sk_buff *skb_dequeue(struct sk_buff_head *list);
  588. static inline struct sk_buff *__skb_dequeue(struct sk_buff_head *list)
  589. {
  590. struct sk_buff *next, *prev, *result;
  591. prev = (struct sk_buff *) list;
  592. next = prev->next;
  593. result = NULL;
  594. if (next != prev) {
  595. result      = next;
  596. next      = next->next;
  597. list->qlen--;
  598. next->prev   = prev;
  599. prev->next   = next;
  600. result->next = result->prev = NULL;
  601. }
  602. return result;
  603. }
  604. /*
  605.  * Insert a packet on a list.
  606.  */
  607. extern void        skb_insert(struct sk_buff *old, struct sk_buff *newsk, struct sk_buff_head *list);
  608. static inline void __skb_insert(struct sk_buff *newsk,
  609. struct sk_buff *prev, struct sk_buff *next,
  610. struct sk_buff_head *list)
  611. {
  612. newsk->next = next;
  613. newsk->prev = prev;
  614. next->prev  = prev->next = newsk;
  615. list->qlen++;
  616. }
  617. /*
  618.  * Place a packet after a given packet in a list.
  619.  */
  620. extern void    skb_append(struct sk_buff *old, struct sk_buff *newsk, struct sk_buff_head *list);
  621. static inline void __skb_append(struct sk_buff *old, struct sk_buff *newsk, struct sk_buff_head *list)
  622. {
  623. __skb_insert(newsk, old, old->next, list);
  624. }
  625. /*
  626.  * remove sk_buff from list. _Must_ be called atomically, and with
  627.  * the list known..
  628.  */
  629. extern void    skb_unlink(struct sk_buff *skb, struct sk_buff_head *list);
  630. static inline void __skb_unlink(struct sk_buff *skb, struct sk_buff_head *list)
  631. {
  632. struct sk_buff *next, *prev;
  633. list->qlen--;
  634. next    = skb->next;
  635. prev    = skb->prev;
  636. skb->next  = skb->prev = NULL;
  637. next->prev = prev;
  638. prev->next = next;
  639. }
  640. /* XXX: more streamlined implementation */
  641. /**
  642.  * __skb_dequeue_tail - remove from the tail of the queue
  643.  * @list: list to dequeue from
  644.  *
  645.  * Remove the tail of the list. This function does not take any locks
  646.  * so must be used with appropriate locks held only. The tail item is
  647.  * returned or %NULL if the list is empty.
  648.  */
  649. extern struct sk_buff *skb_dequeue_tail(struct sk_buff_head *list);
  650. static inline struct sk_buff *__skb_dequeue_tail(struct sk_buff_head *list)
  651. {
  652. struct sk_buff *skb = skb_peek_tail(list);
  653. if (skb)
  654. __skb_unlink(skb, list);
  655. return skb;
  656. }
  657. static inline int skb_is_nonlinear(const struct sk_buff *skb)
  658. {
  659. return skb->data_len;
  660. }
  661. static inline unsigned int skb_headlen(const struct sk_buff *skb)
  662. {
  663. return skb->len - skb->data_len;
  664. }
  665. static inline int skb_pagelen(const struct sk_buff *skb)
  666. {
  667. int i, len = 0;
  668. for (i = (int)skb_shinfo(skb)->nr_frags - 1; i >= 0; i--)
  669. len += skb_shinfo(skb)->frags[i].size;
  670. return len + skb_headlen(skb);
  671. }
  672. static inline void skb_fill_page_desc(struct sk_buff *skb, int i,
  673.       struct page *page, int off, int size)
  674. {
  675. skb_frag_t *frag = &skb_shinfo(skb)->frags[i];
  676. frag->page   = page;
  677. frag->page_offset   = off;
  678. frag->size   = size;
  679. skb_shinfo(skb)->nr_frags = i + 1;
  680. }
  681. #define SKB_PAGE_ASSERT(skb)  BUG_ON(skb_shinfo(skb)->nr_frags)
  682. #define SKB_FRAG_ASSERT(skb)  BUG_ON(skb_shinfo(skb)->frag_list)
  683. #define SKB_LINEAR_ASSERT(skb)  BUG_ON(skb_is_nonlinear(skb))
  684. /*
  685.  * Add data to an sk_buff
  686.  */
  687. static inline unsigned char *__skb_put(struct sk_buff *skb, unsigned int len)
  688. {
  689. unsigned char *tmp = skb->tail;
  690. SKB_LINEAR_ASSERT(skb);
  691. skb->tail += len;
  692. skb->len  += len;
  693. return tmp;
  694. }
  695. /**
  696.  * skb_put - add data to a buffer
  697.  * @skb: buffer to use
  698.  * @len: amount of data to add
  699.  *
  700.  * This function extends the used data area of the buffer. If this would
  701.  * exceed the total buffer size the kernel will panic. A pointer to the
  702.  * first byte of the extra data is returned.
  703.  */
  704. static inline unsigned char *skb_put(struct sk_buff *skb, unsigned int len)
  705. {
  706. unsigned char *tmp = skb->tail;
  707. SKB_LINEAR_ASSERT(skb);
  708. skb->tail += len;
  709. skb->len  += len;
  710. if (unlikely(skb->tail>skb->end))
  711. skb_over_panic(skb, len, current_text_addr());
  712. return tmp;
  713. }
  714. static inline unsigned char *__skb_push(struct sk_buff *skb, unsigned int len)
  715. {
  716. skb->data -= len;
  717. skb->len  += len;
  718. return skb->data;
  719. }
  720. /**
  721.  * skb_push - add data to the start of a buffer
  722.  * @skb: buffer to use
  723.  * @len: amount of data to add
  724.  *
  725.  * This function extends the used data area of the buffer at the buffer
  726.  * start. If this would exceed the total buffer headroom the kernel will
  727.  * panic. A pointer to the first byte of the extra data is returned.
  728.  */
  729. static inline unsigned char *skb_push(struct sk_buff *skb, unsigned int len)
  730. {
  731. skb->data -= len;
  732. skb->len  += len;
  733. if (unlikely(skb->data<skb->head))
  734. skb_under_panic(skb, len, current_text_addr());
  735. return skb->data;
  736. }
  737. static inline unsigned char *__skb_pull(struct sk_buff *skb, unsigned int len)
  738. {
  739. skb->len -= len;
  740. BUG_ON(skb->len < skb->data_len);
  741. return skb->data += len;
  742. }
  743. /**
  744.  * skb_pull - remove data from the start of a buffer
  745.  * @skb: buffer to use
  746.  * @len: amount of data to remove
  747.  *
  748.  * This function removes data from the start of a buffer, returning
  749.  * the memory to the headroom. A pointer to the next data in the buffer
  750.  * is returned. Once the data has been pulled future pushes will overwrite
  751.  * the old data.
  752.  */
  753. static inline unsigned char *skb_pull(struct sk_buff *skb, unsigned int len)
  754. {
  755. return unlikely(len > skb->len) ? NULL : __skb_pull(skb, len);
  756. }
  757. extern unsigned char *__pskb_pull_tail(struct sk_buff *skb, int delta);
  758. static inline unsigned char *__pskb_pull(struct sk_buff *skb, unsigned int len)
  759. {
  760. if (len > skb_headlen(skb) &&
  761.     !__pskb_pull_tail(skb, len-skb_headlen(skb)))
  762. return NULL;
  763. skb->len -= len;
  764. return skb->data += len;
  765. }
  766. static inline unsigned char *pskb_pull(struct sk_buff *skb, unsigned int len)
  767. {
  768. return unlikely(len > skb->len) ? NULL : __pskb_pull(skb, len);
  769. }
  770. static inline int pskb_may_pull(struct sk_buff *skb, unsigned int len)
  771. {
  772. if (likely(len <= skb_headlen(skb)))
  773. return 1;
  774. if (unlikely(len > skb->len))
  775. return 0;
  776. return __pskb_pull_tail(skb, len-skb_headlen(skb)) != NULL;
  777. }
  778. /**
  779.  * skb_headroom - bytes at buffer head
  780.  * @skb: buffer to check
  781.  *
  782.  * Return the number of bytes of free space at the head of an &sk_buff.
  783.  */
  784. static inline int skb_headroom(const struct sk_buff *skb)
  785. {
  786. return skb->data - skb->head;
  787. }
  788. /**
  789.  * skb_tailroom - bytes at buffer end
  790.  * @skb: buffer to check
  791.  *
  792.  * Return the number of bytes of free space at the tail of an sk_buff
  793.  */
  794. static inline int skb_tailroom(const struct sk_buff *skb)
  795. {
  796. return skb_is_nonlinear(skb) ? 0 : skb->end - skb->tail;
  797. }
  798. /**
  799.  * skb_reserve - adjust headroom
  800.  * @skb: buffer to alter
  801.  * @len: bytes to move
  802.  *
  803.  * Increase the headroom of an empty &sk_buff by reducing the tail
  804.  * room. This is only allowed for an empty buffer.
  805.  */
  806. static inline void skb_reserve(struct sk_buff *skb, unsigned int len)
  807. {
  808. skb->data += len;
  809. skb->tail += len;
  810. }
  811. /*
  812.  * CPUs often take a performance hit when accessing unaligned memory
  813.  * locations. The actual performance hit varies, it can be small if the
  814.  * hardware handles it or large if we have to take an exception and fix it
  815.  * in software.
  816.  *
  817.  * Since an ethernet header is 14 bytes network drivers often end up with
  818.  * the IP header at an unaligned offset. The IP header can be aligned by
  819.  * shifting the start of the packet by 2 bytes. Drivers should do this
  820.  * with:
  821.  *
  822.  * skb_reserve(NET_IP_ALIGN);
  823.  *
  824.  * The downside to this alignment of the IP header is that the DMA is now
  825.  * unaligned. On some architectures the cost of an unaligned DMA is high
  826.  * and this cost outweighs the gains made by aligning the IP header.
  827.  * 
  828.  * Since this trade off varies between architectures, we allow NET_IP_ALIGN
  829.  * to be overridden.
  830.  */
  831. #ifndef NET_IP_ALIGN
  832. #define NET_IP_ALIGN 2
  833. #endif
  834. extern int ___pskb_trim(struct sk_buff *skb, unsigned int len, int realloc);
  835. static inline void __skb_trim(struct sk_buff *skb, unsigned int len)
  836. {
  837. if (!skb->data_len) {
  838. skb->len  = len;
  839. skb->tail = skb->data + len;
  840. } else
  841. ___pskb_trim(skb, len, 0);
  842. }
  843. /**
  844.  * skb_trim - remove end from a buffer
  845.  * @skb: buffer to alter
  846.  * @len: new length
  847.  *
  848.  * Cut the length of a buffer down by removing data from the tail. If
  849.  * the buffer is already under the length specified it is not modified.
  850.  */
  851. static inline void skb_trim(struct sk_buff *skb, unsigned int len)
  852. {
  853. if (skb->len > len)
  854. __skb_trim(skb, len);
  855. }
  856. static inline int __pskb_trim(struct sk_buff *skb, unsigned int len)
  857. {
  858. if (!skb->data_len) {
  859. skb->len  = len;
  860. skb->tail = skb->data+len;
  861. return 0;
  862. }
  863. return ___pskb_trim(skb, len, 1);
  864. }
  865. static inline int pskb_trim(struct sk_buff *skb, unsigned int len)
  866. {
  867. return (len < skb->len) ? __pskb_trim(skb, len) : 0;
  868. }
  869. /**
  870.  * skb_orphan - orphan a buffer
  871.  * @skb: buffer to orphan
  872.  *
  873.  * If a buffer currently has an owner then we call the owner's
  874.  * destructor function and make the @skb unowned. The buffer continues
  875.  * to exist but is no longer charged to its former owner.
  876.  */
  877. static inline void skb_orphan(struct sk_buff *skb)
  878. {
  879. if (skb->destructor)
  880. skb->destructor(skb);
  881. skb->destructor = NULL;
  882. skb->sk = NULL;
  883. }
  884. /**
  885.  * __skb_queue_purge - empty a list
  886.  * @list: list to empty
  887.  *
  888.  * Delete all buffers on an &sk_buff list. Each buffer is removed from
  889.  * the list and one reference dropped. This function does not take the
  890.  * list lock and the caller must hold the relevant locks to use it.
  891.  */
  892. extern void skb_queue_purge(struct sk_buff_head *list);
  893. static inline void __skb_queue_purge(struct sk_buff_head *list)
  894. {
  895. struct sk_buff *skb;
  896. while ((skb = __skb_dequeue(list)) != NULL)
  897. kfree_skb(skb);
  898. }
  899. #ifndef CONFIG_HAVE_ARCH_DEV_ALLOC_SKB
  900. /**
  901.  * __dev_alloc_skb - allocate an skbuff for sending
  902.  * @length: length to allocate
  903.  * @gfp_mask: get_free_pages mask, passed to alloc_skb
  904.  *
  905.  * Allocate a new &sk_buff and assign it a usage count of one. The
  906.  * buffer has unspecified headroom built in. Users should allocate
  907.  * the headroom they think they need without accounting for the
  908.  * built in space. The built in space is used for optimisations.
  909.  *
  910.  * %NULL is returned in there is no free memory.
  911.  */
  912. static inline struct sk_buff *__dev_alloc_skb(unsigned int length,
  913.       gfp_t gfp_mask)
  914. {
  915. struct sk_buff *skb = alloc_skb(length + 16, gfp_mask);
  916. if (likely(skb))
  917. skb_reserve(skb, 16);
  918. return skb;
  919. }
  920. #else
  921. extern struct sk_buff *__dev_alloc_skb(unsigned int length, int gfp_mask);
  922. #endif
  923. /**
  924.  * dev_alloc_skb - allocate an skbuff for sending
  925.  * @length: length to allocate
  926.  *
  927.  * Allocate a new &sk_buff and assign it a usage count of one. The
  928.  * buffer has unspecified headroom built in. Users should allocate
  929.  * the headroom they think they need without accounting for the
  930.  * built in space. The built in space is used for optimisations.
  931.  *
  932.  * %NULL is returned in there is no free memory. Although this function
  933.  * allocates memory it can be called from an interrupt.
  934.  */
  935. static inline struct sk_buff *dev_alloc_skb(unsigned int length)
  936. {
  937. return __dev_alloc_skb(length, GFP_ATOMIC);
  938. }
  939. /**
  940.  * skb_cow - copy header of skb when it is required
  941.  * @skb: buffer to cow
  942.  * @headroom: needed headroom
  943.  *
  944.  * If the skb passed lacks sufficient headroom or its data part
  945.  * is shared, data is reallocated. If reallocation fails, an error
  946.  * is returned and original skb is not changed.
  947.  *
  948.  * The result is skb with writable area skb->head...skb->tail
  949.  * and at least @headroom of space at head.
  950.  */
  951. static inline int skb_cow(struct sk_buff *skb, unsigned int headroom)
  952. {
  953. int delta = (headroom > 16 ? headroom : 16) - skb_headroom(skb);
  954. if (delta < 0)
  955. delta = 0;
  956. if (delta || skb_cloned(skb))
  957. return pskb_expand_head(skb, (delta + 15) & ~15, 0, GFP_ATOMIC);
  958. return 0;
  959. }
  960. /**
  961.  * skb_padto - pad an skbuff up to a minimal size
  962.  * @skb: buffer to pad
  963.  * @len: minimal length
  964.  *
  965.  * Pads up a buffer to ensure the trailing bytes exist and are
  966.  * blanked. If the buffer already contains sufficient data it
  967.  * is untouched. Returns the buffer, which may be a replacement
  968.  * for the original, or NULL for out of memory - in which case
  969.  * the original buffer is still freed.
  970.  */
  971.  
  972. static inline struct sk_buff *skb_padto(struct sk_buff *skb, unsigned int len)
  973. {
  974. unsigned int size = skb->len;
  975. if (likely(size >= len))
  976. return skb;
  977. return skb_pad(skb, len-size);
  978. }
  979. static inline int skb_add_data(struct sk_buff *skb,
  980.        char __user *from, int copy)
  981. {
  982. const int off = skb->len;
  983. if (skb->ip_summed == CHECKSUM_NONE) {
  984. int err = 0;
  985. unsigned int csum = csum_and_copy_from_user(from,
  986.     skb_put(skb, copy),
  987.     copy, 0, &err);
  988. if (!err) {
  989. skb->csum = csum_block_add(skb->csum, csum, off);
  990. return 0;
  991. }
  992. } else if (!copy_from_user(skb_put(skb, copy), from, copy))
  993. return 0;
  994. __skb_trim(skb, off);
  995. return -EFAULT;
  996. }
  997. static inline int skb_can_coalesce(struct sk_buff *skb, int i,
  998.    struct page *page, int off)
  999. {
  1000. if (i) {
  1001. struct skb_frag_struct *frag = &skb_shinfo(skb)->frags[i - 1];
  1002. return page == frag->page &&
  1003.        off == frag->page_offset + frag->size;
  1004. }
  1005. return 0;
  1006. }
  1007. /**
  1008.  * skb_linearize - convert paged skb to linear one
  1009.  * @skb: buffer to linarize
  1010.  * @gfp: allocation mode
  1011.  *
  1012.  * If there is no free memory -ENOMEM is returned, otherwise zero
  1013.  * is returned and the old skb data released.
  1014.  */
  1015. extern int __skb_linearize(struct sk_buff *skb, gfp_t gfp);
  1016. static inline int skb_linearize(struct sk_buff *skb, gfp_t gfp)
  1017. {
  1018. return __skb_linearize(skb, gfp);
  1019. }
  1020. /**
  1021.  * skb_postpull_rcsum - update checksum for received skb after pull
  1022.  * @skb: buffer to update
  1023.  * @start: start of data before pull
  1024.  * @len: length of data pulled
  1025.  *
  1026.  * After doing a pull on a received packet, you need to call this to
  1027.  * update the CHECKSUM_HW checksum, or set ip_summed to CHECKSUM_NONE
  1028.  * so that it can be recomputed from scratch.
  1029.  */
  1030. static inline void skb_postpull_rcsum(struct sk_buff *skb,
  1031.  const void *start, int len)
  1032. {
  1033. if (skb->ip_summed == CHECKSUM_HW)
  1034. skb->csum = csum_sub(skb->csum, csum_partial(start, len, 0));
  1035. }
  1036. /**
  1037.  * pskb_trim_rcsum - trim received skb and update checksum
  1038.  * @skb: buffer to trim
  1039.  * @len: new length
  1040.  *
  1041.  * This is exactly the same as pskb_trim except that it ensures the
  1042.  * checksum of received packets are still valid after the operation.
  1043.  */
  1044. static inline int pskb_trim_rcsum(struct sk_buff *skb, unsigned int len)
  1045. {
  1046. if (likely(len >= skb->len))
  1047. return 0;
  1048. if (skb->ip_summed == CHECKSUM_HW)
  1049. skb->ip_summed = CHECKSUM_NONE;
  1050. return __pskb_trim(skb, len);
  1051. }
  1052. static inline void *kmap_skb_frag(const skb_frag_t *frag)
  1053. {
  1054. #ifdef CONFIG_HIGHMEM
  1055. BUG_ON(in_irq());
  1056. local_bh_disable();
  1057. #endif
  1058. return kmap_atomic(frag->page, KM_SKB_DATA_SOFTIRQ);
  1059. }
  1060. static inline void kunmap_skb_frag(void *vaddr)
  1061. {
  1062. kunmap_atomic(vaddr, KM_SKB_DATA_SOFTIRQ);
  1063. #ifdef CONFIG_HIGHMEM
  1064. local_bh_enable();
  1065. #endif
  1066. }
  1067. #define skb_queue_walk(queue, skb) 
  1068. for (skb = (queue)->next;
  1069.      prefetch(skb->next), (skb != (struct sk_buff *)(queue));
  1070.      skb = skb->next)
  1071. extern struct sk_buff *skb_recv_datagram(struct sock *sk, unsigned flags,
  1072.  int noblock, int *err);
  1073. extern unsigned int    datagram_poll(struct file *file, struct socket *sock,
  1074.      struct poll_table_struct *wait);
  1075. extern int        skb_copy_datagram_iovec(const struct sk_buff *from,
  1076.        int offset, struct iovec *to,
  1077.        int size);
  1078. extern int        skb_copy_and_csum_datagram_iovec(const
  1079. struct sk_buff *skb,
  1080. int hlen,
  1081. struct iovec *iov);
  1082. extern void        skb_free_datagram(struct sock *sk, struct sk_buff *skb);
  1083. extern unsigned int    skb_checksum(const struct sk_buff *skb, int offset,
  1084.     int len, unsigned int csum);
  1085. extern int        skb_copy_bits(const struct sk_buff *skb, int offset,
  1086.      void *to, int len);
  1087. extern int        skb_store_bits(const struct sk_buff *skb, int offset,
  1088.       void *from, int len);
  1089. extern unsigned int    skb_copy_and_csum_bits(const struct sk_buff *skb,
  1090.       int offset, u8 *to, int len,
  1091.       unsigned int csum);
  1092. extern void        skb_copy_and_csum_dev(const struct sk_buff *skb, u8 *to);
  1093. extern void        skb_split(struct sk_buff *skb,
  1094.  struct sk_buff *skb1, const u32 len);
  1095. extern void        skb_release_data(struct sk_buff *skb);
  1096. static inline void *skb_header_pointer(const struct sk_buff *skb, int offset,
  1097.        int len, void *buffer)
  1098. {
  1099. int hlen = skb_headlen(skb);
  1100. if (hlen - offset >= len)
  1101. return skb->data + offset;
  1102. if (skb_copy_bits(skb, offset, buffer, len) < 0)
  1103. return NULL;
  1104. return buffer;
  1105. }
  1106. extern void skb_init(void);
  1107. extern void skb_add_mtu(int mtu);
  1108. /**
  1109.  * skb_get_timestamp - get timestamp from a skb
  1110.  * @skb: skb to get stamp from
  1111.  * @stamp: pointer to struct timeval to store stamp in
  1112.  *
  1113.  * Timestamps are stored in the skb as offsets to a base timestamp.
  1114.  * This function converts the offset back to a struct timeval and stores
  1115.  * it in stamp.
  1116.  */
  1117. static inline void skb_get_timestamp(const struct sk_buff *skb, struct timeval *stamp)
  1118. {
  1119. stamp->tv_sec  = skb->tstamp.off_sec;
  1120. stamp->tv_usec = skb->tstamp.off_usec;
  1121. }
  1122. /**
  1123.  *  skb_set_timestamp - set timestamp of a skb
  1124.  * @skb: skb to set stamp of
  1125.  * @stamp: pointer to struct timeval to get stamp from
  1126.  *
  1127.  * Timestamps are stored in the skb as offsets to a base timestamp.
  1128.  * This function converts a struct timeval to an offset and stores
  1129.  * it in the skb.
  1130.  */
  1131. static inline void skb_set_timestamp(struct sk_buff *skb, const struct timeval *stamp)
  1132. {
  1133. skb->tstamp.off_sec  = stamp->tv_sec;
  1134. skb->tstamp.off_usec = stamp->tv_usec;
  1135. }
  1136. extern void __net_timestamp(struct sk_buff *skb);
  1137. #ifdef CONFIG_NETFILTER
  1138. static inline void nf_conntrack_put(struct nf_conntrack *nfct)
  1139. {
  1140. if (nfct && atomic_dec_and_test(&nfct->use))
  1141. nfct->destroy(nfct);
  1142. }
  1143. static inline void nf_conntrack_get(struct nf_conntrack *nfct)
  1144. {
  1145. if (nfct)
  1146. atomic_inc(&nfct->use);
  1147. }
  1148. static inline void nf_reset(struct sk_buff *skb)
  1149. {
  1150. nf_conntrack_put(skb->nfct);
  1151. skb->nfct = NULL;
  1152. }
  1153. #ifdef CONFIG_BRIDGE_NETFILTER
  1154. static inline void nf_bridge_put(struct nf_bridge_info *nf_bridge)
  1155. {
  1156. if (nf_bridge && atomic_dec_and_test(&nf_bridge->use))
  1157. kfree(nf_bridge);
  1158. }
  1159. static inline void nf_bridge_get(struct nf_bridge_info *nf_bridge)
  1160. {
  1161. if (nf_bridge)
  1162. atomic_inc(&nf_bridge->use);
  1163. }
  1164. #endif /* CONFIG_BRIDGE_NETFILTER */
  1165. #else /* CONFIG_NETFILTER */
  1166. static inline void nf_reset(struct sk_buff *skb) {}
  1167. #endif /* CONFIG_NETFILTER */
  1168. #endif /* __KERNEL__ */
  1169. #endif /* _LINUX_SKBUFF_H */