Add the rt linux 4.1.3-rt3 as base
[kvmfornfv.git] / kernel / net / atm / common.c
1 /* net/atm/common.c - ATM sockets (common part for PVC and SVC) */
2
3 /* Written 1995-2000 by Werner Almesberger, EPFL LRC/ICA */
4
5 #define pr_fmt(fmt) KBUILD_MODNAME ":%s: " fmt, __func__
6
7 #include <linux/module.h>
8 #include <linux/kmod.h>
9 #include <linux/net.h>          /* struct socket, struct proto_ops */
10 #include <linux/atm.h>          /* ATM stuff */
11 #include <linux/atmdev.h>
12 #include <linux/socket.h>       /* SOL_SOCKET */
13 #include <linux/errno.h>        /* error codes */
14 #include <linux/capability.h>
15 #include <linux/mm.h>
16 #include <linux/sched.h>
17 #include <linux/time.h>         /* struct timeval */
18 #include <linux/skbuff.h>
19 #include <linux/bitops.h>
20 #include <linux/init.h>
21 #include <linux/slab.h>
22 #include <net/sock.h>           /* struct sock */
23 #include <linux/uaccess.h>
24 #include <linux/poll.h>
25
26 #include <linux/atomic.h>
27
28 #include "resources.h"          /* atm_find_dev */
29 #include "common.h"             /* prototypes */
30 #include "protocols.h"          /* atm_init_<transport> */
31 #include "addr.h"               /* address registry */
32 #include "signaling.h"          /* for WAITING and sigd_attach */
33
34 struct hlist_head vcc_hash[VCC_HTABLE_SIZE];
35 EXPORT_SYMBOL(vcc_hash);
36
37 DEFINE_RWLOCK(vcc_sklist_lock);
38 EXPORT_SYMBOL(vcc_sklist_lock);
39
40 static ATOMIC_NOTIFIER_HEAD(atm_dev_notify_chain);
41
42 static void __vcc_insert_socket(struct sock *sk)
43 {
44         struct atm_vcc *vcc = atm_sk(sk);
45         struct hlist_head *head = &vcc_hash[vcc->vci & (VCC_HTABLE_SIZE - 1)];
46         sk->sk_hash = vcc->vci & (VCC_HTABLE_SIZE - 1);
47         sk_add_node(sk, head);
48 }
49
50 void vcc_insert_socket(struct sock *sk)
51 {
52         write_lock_irq(&vcc_sklist_lock);
53         __vcc_insert_socket(sk);
54         write_unlock_irq(&vcc_sklist_lock);
55 }
56 EXPORT_SYMBOL(vcc_insert_socket);
57
58 static void vcc_remove_socket(struct sock *sk)
59 {
60         write_lock_irq(&vcc_sklist_lock);
61         sk_del_node_init(sk);
62         write_unlock_irq(&vcc_sklist_lock);
63 }
64
65 static struct sk_buff *alloc_tx(struct atm_vcc *vcc, unsigned int size)
66 {
67         struct sk_buff *skb;
68         struct sock *sk = sk_atm(vcc);
69
70         if (sk_wmem_alloc_get(sk) && !atm_may_send(vcc, size)) {
71                 pr_debug("Sorry: wmem_alloc = %d, size = %d, sndbuf = %d\n",
72                          sk_wmem_alloc_get(sk), size, sk->sk_sndbuf);
73                 return NULL;
74         }
75         while (!(skb = alloc_skb(size, GFP_KERNEL)))
76                 schedule();
77         pr_debug("%d += %d\n", sk_wmem_alloc_get(sk), skb->truesize);
78         atomic_add(skb->truesize, &sk->sk_wmem_alloc);
79         return skb;
80 }
81
82 static void vcc_sock_destruct(struct sock *sk)
83 {
84         if (atomic_read(&sk->sk_rmem_alloc))
85                 printk(KERN_DEBUG "%s: rmem leakage (%d bytes) detected.\n",
86                        __func__, atomic_read(&sk->sk_rmem_alloc));
87
88         if (atomic_read(&sk->sk_wmem_alloc))
89                 printk(KERN_DEBUG "%s: wmem leakage (%d bytes) detected.\n",
90                        __func__, atomic_read(&sk->sk_wmem_alloc));
91 }
92
93 static void vcc_def_wakeup(struct sock *sk)
94 {
95         struct socket_wq *wq;
96
97         rcu_read_lock();
98         wq = rcu_dereference(sk->sk_wq);
99         if (wq_has_sleeper(wq))
100                 wake_up(&wq->wait);
101         rcu_read_unlock();
102 }
103
104 static inline int vcc_writable(struct sock *sk)
105 {
106         struct atm_vcc *vcc = atm_sk(sk);
107
108         return (vcc->qos.txtp.max_sdu +
109                 atomic_read(&sk->sk_wmem_alloc)) <= sk->sk_sndbuf;
110 }
111
112 static void vcc_write_space(struct sock *sk)
113 {
114         struct socket_wq *wq;
115
116         rcu_read_lock();
117
118         if (vcc_writable(sk)) {
119                 wq = rcu_dereference(sk->sk_wq);
120                 if (wq_has_sleeper(wq))
121                         wake_up_interruptible(&wq->wait);
122
123                 sk_wake_async(sk, SOCK_WAKE_SPACE, POLL_OUT);
124         }
125
126         rcu_read_unlock();
127 }
128
129 static void vcc_release_cb(struct sock *sk)
130 {
131         struct atm_vcc *vcc = atm_sk(sk);
132
133         if (vcc->release_cb)
134                 vcc->release_cb(vcc);
135 }
136
137 static struct proto vcc_proto = {
138         .name     = "VCC",
139         .owner    = THIS_MODULE,
140         .obj_size = sizeof(struct atm_vcc),
141         .release_cb = vcc_release_cb,
142 };
143
144 int vcc_create(struct net *net, struct socket *sock, int protocol, int family)
145 {
146         struct sock *sk;
147         struct atm_vcc *vcc;
148
149         sock->sk = NULL;
150         if (sock->type == SOCK_STREAM)
151                 return -EINVAL;
152         sk = sk_alloc(net, family, GFP_KERNEL, &vcc_proto);
153         if (!sk)
154                 return -ENOMEM;
155         sock_init_data(sock, sk);
156         sk->sk_state_change = vcc_def_wakeup;
157         sk->sk_write_space = vcc_write_space;
158
159         vcc = atm_sk(sk);
160         vcc->dev = NULL;
161         memset(&vcc->local, 0, sizeof(struct sockaddr_atmsvc));
162         memset(&vcc->remote, 0, sizeof(struct sockaddr_atmsvc));
163         vcc->qos.txtp.max_sdu = 1 << 16; /* for meta VCs */
164         atomic_set(&sk->sk_wmem_alloc, 1);
165         atomic_set(&sk->sk_rmem_alloc, 0);
166         vcc->push = NULL;
167         vcc->pop = NULL;
168         vcc->owner = NULL;
169         vcc->push_oam = NULL;
170         vcc->release_cb = NULL;
171         vcc->vpi = vcc->vci = 0; /* no VCI/VPI yet */
172         vcc->atm_options = vcc->aal_options = 0;
173         sk->sk_destruct = vcc_sock_destruct;
174         return 0;
175 }
176
177 static void vcc_destroy_socket(struct sock *sk)
178 {
179         struct atm_vcc *vcc = atm_sk(sk);
180         struct sk_buff *skb;
181
182         set_bit(ATM_VF_CLOSE, &vcc->flags);
183         clear_bit(ATM_VF_READY, &vcc->flags);
184         if (vcc->dev) {
185                 if (vcc->dev->ops->close)
186                         vcc->dev->ops->close(vcc);
187                 if (vcc->push)
188                         vcc->push(vcc, NULL); /* atmarpd has no push */
189                 module_put(vcc->owner);
190
191                 while ((skb = skb_dequeue(&sk->sk_receive_queue)) != NULL) {
192                         atm_return(vcc, skb->truesize);
193                         kfree_skb(skb);
194                 }
195
196                 module_put(vcc->dev->ops->owner);
197                 atm_dev_put(vcc->dev);
198         }
199
200         vcc_remove_socket(sk);
201 }
202
203 int vcc_release(struct socket *sock)
204 {
205         struct sock *sk = sock->sk;
206
207         if (sk) {
208                 lock_sock(sk);
209                 vcc_destroy_socket(sock->sk);
210                 release_sock(sk);
211                 sock_put(sk);
212         }
213
214         return 0;
215 }
216
217 void vcc_release_async(struct atm_vcc *vcc, int reply)
218 {
219         struct sock *sk = sk_atm(vcc);
220
221         set_bit(ATM_VF_CLOSE, &vcc->flags);
222         sk->sk_shutdown |= RCV_SHUTDOWN;
223         sk->sk_err = -reply;
224         clear_bit(ATM_VF_WAITING, &vcc->flags);
225         sk->sk_state_change(sk);
226 }
227 EXPORT_SYMBOL(vcc_release_async);
228
229 void vcc_process_recv_queue(struct atm_vcc *vcc)
230 {
231         struct sk_buff_head queue, *rq;
232         struct sk_buff *skb, *tmp;
233         unsigned long flags;
234
235         __skb_queue_head_init(&queue);
236         rq = &sk_atm(vcc)->sk_receive_queue;
237
238         spin_lock_irqsave(&rq->lock, flags);
239         skb_queue_splice_init(rq, &queue);
240         spin_unlock_irqrestore(&rq->lock, flags);
241
242         skb_queue_walk_safe(&queue, skb, tmp) {
243                 __skb_unlink(skb, &queue);
244                 vcc->push(vcc, skb);
245         }
246 }
247 EXPORT_SYMBOL(vcc_process_recv_queue);
248
249 void atm_dev_signal_change(struct atm_dev *dev, char signal)
250 {
251         pr_debug("%s signal=%d dev=%p number=%d dev->signal=%d\n",
252                 __func__, signal, dev, dev->number, dev->signal);
253
254         /* atm driver sending invalid signal */
255         WARN_ON(signal < ATM_PHY_SIG_LOST || signal > ATM_PHY_SIG_FOUND);
256
257         if (dev->signal == signal)
258                 return; /* no change */
259
260         dev->signal = signal;
261
262         atomic_notifier_call_chain(&atm_dev_notify_chain, signal, dev);
263 }
264 EXPORT_SYMBOL(atm_dev_signal_change);
265
266 void atm_dev_release_vccs(struct atm_dev *dev)
267 {
268         int i;
269
270         write_lock_irq(&vcc_sklist_lock);
271         for (i = 0; i < VCC_HTABLE_SIZE; i++) {
272                 struct hlist_head *head = &vcc_hash[i];
273                 struct hlist_node *tmp;
274                 struct sock *s;
275                 struct atm_vcc *vcc;
276
277                 sk_for_each_safe(s, tmp, head) {
278                         vcc = atm_sk(s);
279                         if (vcc->dev == dev) {
280                                 vcc_release_async(vcc, -EPIPE);
281                                 sk_del_node_init(s);
282                         }
283                 }
284         }
285         write_unlock_irq(&vcc_sklist_lock);
286 }
287 EXPORT_SYMBOL(atm_dev_release_vccs);
288
289 static int adjust_tp(struct atm_trafprm *tp, unsigned char aal)
290 {
291         int max_sdu;
292
293         if (!tp->traffic_class)
294                 return 0;
295         switch (aal) {
296         case ATM_AAL0:
297                 max_sdu = ATM_CELL_SIZE-1;
298                 break;
299         case ATM_AAL34:
300                 max_sdu = ATM_MAX_AAL34_PDU;
301                 break;
302         default:
303                 pr_warn("AAL problems ... (%d)\n", aal);
304                 /* fall through */
305         case ATM_AAL5:
306                 max_sdu = ATM_MAX_AAL5_PDU;
307         }
308         if (!tp->max_sdu)
309                 tp->max_sdu = max_sdu;
310         else if (tp->max_sdu > max_sdu)
311                 return -EINVAL;
312         if (!tp->max_cdv)
313                 tp->max_cdv = ATM_MAX_CDV;
314         return 0;
315 }
316
317 static int check_ci(const struct atm_vcc *vcc, short vpi, int vci)
318 {
319         struct hlist_head *head = &vcc_hash[vci & (VCC_HTABLE_SIZE - 1)];
320         struct sock *s;
321         struct atm_vcc *walk;
322
323         sk_for_each(s, head) {
324                 walk = atm_sk(s);
325                 if (walk->dev != vcc->dev)
326                         continue;
327                 if (test_bit(ATM_VF_ADDR, &walk->flags) && walk->vpi == vpi &&
328                     walk->vci == vci && ((walk->qos.txtp.traffic_class !=
329                     ATM_NONE && vcc->qos.txtp.traffic_class != ATM_NONE) ||
330                     (walk->qos.rxtp.traffic_class != ATM_NONE &&
331                     vcc->qos.rxtp.traffic_class != ATM_NONE)))
332                         return -EADDRINUSE;
333         }
334
335         /* allow VCCs with same VPI/VCI iff they don't collide on
336            TX/RX (but we may refuse such sharing for other reasons,
337            e.g. if protocol requires to have both channels) */
338
339         return 0;
340 }
341
342 static int find_ci(const struct atm_vcc *vcc, short *vpi, int *vci)
343 {
344         static short p;        /* poor man's per-device cache */
345         static int c;
346         short old_p;
347         int old_c;
348         int err;
349
350         if (*vpi != ATM_VPI_ANY && *vci != ATM_VCI_ANY) {
351                 err = check_ci(vcc, *vpi, *vci);
352                 return err;
353         }
354         /* last scan may have left values out of bounds for current device */
355         if (*vpi != ATM_VPI_ANY)
356                 p = *vpi;
357         else if (p >= 1 << vcc->dev->ci_range.vpi_bits)
358                 p = 0;
359         if (*vci != ATM_VCI_ANY)
360                 c = *vci;
361         else if (c < ATM_NOT_RSV_VCI || c >= 1 << vcc->dev->ci_range.vci_bits)
362                         c = ATM_NOT_RSV_VCI;
363         old_p = p;
364         old_c = c;
365         do {
366                 if (!check_ci(vcc, p, c)) {
367                         *vpi = p;
368                         *vci = c;
369                         return 0;
370                 }
371                 if (*vci == ATM_VCI_ANY) {
372                         c++;
373                         if (c >= 1 << vcc->dev->ci_range.vci_bits)
374                                 c = ATM_NOT_RSV_VCI;
375                 }
376                 if ((c == ATM_NOT_RSV_VCI || *vci != ATM_VCI_ANY) &&
377                     *vpi == ATM_VPI_ANY) {
378                         p++;
379                         if (p >= 1 << vcc->dev->ci_range.vpi_bits)
380                                 p = 0;
381                 }
382         } while (old_p != p || old_c != c);
383         return -EADDRINUSE;
384 }
385
386 static int __vcc_connect(struct atm_vcc *vcc, struct atm_dev *dev, short vpi,
387                          int vci)
388 {
389         struct sock *sk = sk_atm(vcc);
390         int error;
391
392         if ((vpi != ATM_VPI_UNSPEC && vpi != ATM_VPI_ANY &&
393             vpi >> dev->ci_range.vpi_bits) || (vci != ATM_VCI_UNSPEC &&
394             vci != ATM_VCI_ANY && vci >> dev->ci_range.vci_bits))
395                 return -EINVAL;
396         if (vci > 0 && vci < ATM_NOT_RSV_VCI && !capable(CAP_NET_BIND_SERVICE))
397                 return -EPERM;
398         error = -ENODEV;
399         if (!try_module_get(dev->ops->owner))
400                 return error;
401         vcc->dev = dev;
402         write_lock_irq(&vcc_sklist_lock);
403         if (test_bit(ATM_DF_REMOVED, &dev->flags) ||
404             (error = find_ci(vcc, &vpi, &vci))) {
405                 write_unlock_irq(&vcc_sklist_lock);
406                 goto fail_module_put;
407         }
408         vcc->vpi = vpi;
409         vcc->vci = vci;
410         __vcc_insert_socket(sk);
411         write_unlock_irq(&vcc_sklist_lock);
412         switch (vcc->qos.aal) {
413         case ATM_AAL0:
414                 error = atm_init_aal0(vcc);
415                 vcc->stats = &dev->stats.aal0;
416                 break;
417         case ATM_AAL34:
418                 error = atm_init_aal34(vcc);
419                 vcc->stats = &dev->stats.aal34;
420                 break;
421         case ATM_NO_AAL:
422                 /* ATM_AAL5 is also used in the "0 for default" case */
423                 vcc->qos.aal = ATM_AAL5;
424                 /* fall through */
425         case ATM_AAL5:
426                 error = atm_init_aal5(vcc);
427                 vcc->stats = &dev->stats.aal5;
428                 break;
429         default:
430                 error = -EPROTOTYPE;
431         }
432         if (!error)
433                 error = adjust_tp(&vcc->qos.txtp, vcc->qos.aal);
434         if (!error)
435                 error = adjust_tp(&vcc->qos.rxtp, vcc->qos.aal);
436         if (error)
437                 goto fail;
438         pr_debug("VCC %d.%d, AAL %d\n", vpi, vci, vcc->qos.aal);
439         pr_debug("  TX: %d, PCR %d..%d, SDU %d\n",
440                  vcc->qos.txtp.traffic_class,
441                  vcc->qos.txtp.min_pcr,
442                  vcc->qos.txtp.max_pcr,
443                  vcc->qos.txtp.max_sdu);
444         pr_debug("  RX: %d, PCR %d..%d, SDU %d\n",
445                  vcc->qos.rxtp.traffic_class,
446                  vcc->qos.rxtp.min_pcr,
447                  vcc->qos.rxtp.max_pcr,
448                  vcc->qos.rxtp.max_sdu);
449
450         if (dev->ops->open) {
451                 error = dev->ops->open(vcc);
452                 if (error)
453                         goto fail;
454         }
455         return 0;
456
457 fail:
458         vcc_remove_socket(sk);
459 fail_module_put:
460         module_put(dev->ops->owner);
461         /* ensure we get dev module ref count correct */
462         vcc->dev = NULL;
463         return error;
464 }
465
466 int vcc_connect(struct socket *sock, int itf, short vpi, int vci)
467 {
468         struct atm_dev *dev;
469         struct atm_vcc *vcc = ATM_SD(sock);
470         int error;
471
472         pr_debug("(vpi %d, vci %d)\n", vpi, vci);
473         if (sock->state == SS_CONNECTED)
474                 return -EISCONN;
475         if (sock->state != SS_UNCONNECTED)
476                 return -EINVAL;
477         if (!(vpi || vci))
478                 return -EINVAL;
479
480         if (vpi != ATM_VPI_UNSPEC && vci != ATM_VCI_UNSPEC)
481                 clear_bit(ATM_VF_PARTIAL, &vcc->flags);
482         else
483                 if (test_bit(ATM_VF_PARTIAL, &vcc->flags))
484                         return -EINVAL;
485         pr_debug("(TX: cl %d,bw %d-%d,sdu %d; "
486                  "RX: cl %d,bw %d-%d,sdu %d,AAL %s%d)\n",
487                  vcc->qos.txtp.traffic_class, vcc->qos.txtp.min_pcr,
488                  vcc->qos.txtp.max_pcr, vcc->qos.txtp.max_sdu,
489                  vcc->qos.rxtp.traffic_class, vcc->qos.rxtp.min_pcr,
490                  vcc->qos.rxtp.max_pcr, vcc->qos.rxtp.max_sdu,
491                  vcc->qos.aal == ATM_AAL5 ? "" :
492                  vcc->qos.aal == ATM_AAL0 ? "" : " ??? code ",
493                  vcc->qos.aal == ATM_AAL0 ? 0 : vcc->qos.aal);
494         if (!test_bit(ATM_VF_HASQOS, &vcc->flags))
495                 return -EBADFD;
496         if (vcc->qos.txtp.traffic_class == ATM_ANYCLASS ||
497             vcc->qos.rxtp.traffic_class == ATM_ANYCLASS)
498                 return -EINVAL;
499         if (likely(itf != ATM_ITF_ANY)) {
500                 dev = try_then_request_module(atm_dev_lookup(itf),
501                                               "atm-device-%d", itf);
502         } else {
503                 dev = NULL;
504                 mutex_lock(&atm_dev_mutex);
505                 if (!list_empty(&atm_devs)) {
506                         dev = list_entry(atm_devs.next,
507                                          struct atm_dev, dev_list);
508                         atm_dev_hold(dev);
509                 }
510                 mutex_unlock(&atm_dev_mutex);
511         }
512         if (!dev)
513                 return -ENODEV;
514         error = __vcc_connect(vcc, dev, vpi, vci);
515         if (error) {
516                 atm_dev_put(dev);
517                 return error;
518         }
519         if (vpi == ATM_VPI_UNSPEC || vci == ATM_VCI_UNSPEC)
520                 set_bit(ATM_VF_PARTIAL, &vcc->flags);
521         if (test_bit(ATM_VF_READY, &ATM_SD(sock)->flags))
522                 sock->state = SS_CONNECTED;
523         return 0;
524 }
525
526 int vcc_recvmsg(struct socket *sock, struct msghdr *msg, size_t size,
527                 int flags)
528 {
529         struct sock *sk = sock->sk;
530         struct atm_vcc *vcc;
531         struct sk_buff *skb;
532         int copied, error = -EINVAL;
533
534         if (sock->state != SS_CONNECTED)
535                 return -ENOTCONN;
536
537         /* only handle MSG_DONTWAIT and MSG_PEEK */
538         if (flags & ~(MSG_DONTWAIT | MSG_PEEK))
539                 return -EOPNOTSUPP;
540
541         vcc = ATM_SD(sock);
542         if (test_bit(ATM_VF_RELEASED, &vcc->flags) ||
543             test_bit(ATM_VF_CLOSE, &vcc->flags) ||
544             !test_bit(ATM_VF_READY, &vcc->flags))
545                 return 0;
546
547         skb = skb_recv_datagram(sk, flags, flags & MSG_DONTWAIT, &error);
548         if (!skb)
549                 return error;
550
551         copied = skb->len;
552         if (copied > size) {
553                 copied = size;
554                 msg->msg_flags |= MSG_TRUNC;
555         }
556
557         error = skb_copy_datagram_msg(skb, 0, msg, copied);
558         if (error)
559                 return error;
560         sock_recv_ts_and_drops(msg, sk, skb);
561
562         if (!(flags & MSG_PEEK)) {
563                 pr_debug("%d -= %d\n", atomic_read(&sk->sk_rmem_alloc),
564                          skb->truesize);
565                 atm_return(vcc, skb->truesize);
566         }
567
568         skb_free_datagram(sk, skb);
569         return copied;
570 }
571
572 int vcc_sendmsg(struct socket *sock, struct msghdr *m, size_t size)
573 {
574         struct sock *sk = sock->sk;
575         DEFINE_WAIT(wait);
576         struct atm_vcc *vcc;
577         struct sk_buff *skb;
578         int eff, error;
579
580         lock_sock(sk);
581         if (sock->state != SS_CONNECTED) {
582                 error = -ENOTCONN;
583                 goto out;
584         }
585         if (m->msg_name) {
586                 error = -EISCONN;
587                 goto out;
588         }
589         vcc = ATM_SD(sock);
590         if (test_bit(ATM_VF_RELEASED, &vcc->flags) ||
591             test_bit(ATM_VF_CLOSE, &vcc->flags) ||
592             !test_bit(ATM_VF_READY, &vcc->flags)) {
593                 error = -EPIPE;
594                 send_sig(SIGPIPE, current, 0);
595                 goto out;
596         }
597         if (!size) {
598                 error = 0;
599                 goto out;
600         }
601         if (size > vcc->qos.txtp.max_sdu) {
602                 error = -EMSGSIZE;
603                 goto out;
604         }
605
606         eff = (size+3) & ~3; /* align to word boundary */
607         prepare_to_wait(sk_sleep(sk), &wait, TASK_INTERRUPTIBLE);
608         error = 0;
609         while (!(skb = alloc_tx(vcc, eff))) {
610                 if (m->msg_flags & MSG_DONTWAIT) {
611                         error = -EAGAIN;
612                         break;
613                 }
614                 schedule();
615                 if (signal_pending(current)) {
616                         error = -ERESTARTSYS;
617                         break;
618                 }
619                 if (test_bit(ATM_VF_RELEASED, &vcc->flags) ||
620                     test_bit(ATM_VF_CLOSE, &vcc->flags) ||
621                     !test_bit(ATM_VF_READY, &vcc->flags)) {
622                         error = -EPIPE;
623                         send_sig(SIGPIPE, current, 0);
624                         break;
625                 }
626                 prepare_to_wait(sk_sleep(sk), &wait, TASK_INTERRUPTIBLE);
627         }
628         finish_wait(sk_sleep(sk), &wait);
629         if (error)
630                 goto out;
631         skb->dev = NULL; /* for paths shared with net_device interfaces */
632         ATM_SKB(skb)->atm_options = vcc->atm_options;
633         if (copy_from_iter(skb_put(skb, size), size, &m->msg_iter) != size) {
634                 kfree_skb(skb);
635                 error = -EFAULT;
636                 goto out;
637         }
638         if (eff != size)
639                 memset(skb->data + size, 0, eff-size);
640         error = vcc->dev->ops->send(vcc, skb);
641         error = error ? error : size;
642 out:
643         release_sock(sk);
644         return error;
645 }
646
647 unsigned int vcc_poll(struct file *file, struct socket *sock, poll_table *wait)
648 {
649         struct sock *sk = sock->sk;
650         struct atm_vcc *vcc;
651         unsigned int mask;
652
653         sock_poll_wait(file, sk_sleep(sk), wait);
654         mask = 0;
655
656         vcc = ATM_SD(sock);
657
658         /* exceptional events */
659         if (sk->sk_err)
660                 mask = POLLERR;
661
662         if (test_bit(ATM_VF_RELEASED, &vcc->flags) ||
663             test_bit(ATM_VF_CLOSE, &vcc->flags))
664                 mask |= POLLHUP;
665
666         /* readable? */
667         if (!skb_queue_empty(&sk->sk_receive_queue))
668                 mask |= POLLIN | POLLRDNORM;
669
670         /* writable? */
671         if (sock->state == SS_CONNECTING &&
672             test_bit(ATM_VF_WAITING, &vcc->flags))
673                 return mask;
674
675         if (vcc->qos.txtp.traffic_class != ATM_NONE &&
676             vcc_writable(sk))
677                 mask |= POLLOUT | POLLWRNORM | POLLWRBAND;
678
679         return mask;
680 }
681
682 static int atm_change_qos(struct atm_vcc *vcc, struct atm_qos *qos)
683 {
684         int error;
685
686         /*
687          * Don't let the QoS change the already connected AAL type nor the
688          * traffic class.
689          */
690         if (qos->aal != vcc->qos.aal ||
691             qos->rxtp.traffic_class != vcc->qos.rxtp.traffic_class ||
692             qos->txtp.traffic_class != vcc->qos.txtp.traffic_class)
693                 return -EINVAL;
694         error = adjust_tp(&qos->txtp, qos->aal);
695         if (!error)
696                 error = adjust_tp(&qos->rxtp, qos->aal);
697         if (error)
698                 return error;
699         if (!vcc->dev->ops->change_qos)
700                 return -EOPNOTSUPP;
701         if (sk_atm(vcc)->sk_family == AF_ATMPVC)
702                 return vcc->dev->ops->change_qos(vcc, qos, ATM_MF_SET);
703         return svc_change_qos(vcc, qos);
704 }
705
706 static int check_tp(const struct atm_trafprm *tp)
707 {
708         /* @@@ Should be merged with adjust_tp */
709         if (!tp->traffic_class || tp->traffic_class == ATM_ANYCLASS)
710                 return 0;
711         if (tp->traffic_class != ATM_UBR && !tp->min_pcr && !tp->pcr &&
712             !tp->max_pcr)
713                 return -EINVAL;
714         if (tp->min_pcr == ATM_MAX_PCR)
715                 return -EINVAL;
716         if (tp->min_pcr && tp->max_pcr && tp->max_pcr != ATM_MAX_PCR &&
717             tp->min_pcr > tp->max_pcr)
718                 return -EINVAL;
719         /*
720          * We allow pcr to be outside [min_pcr,max_pcr], because later
721          * adjustment may still push it in the valid range.
722          */
723         return 0;
724 }
725
726 static int check_qos(const struct atm_qos *qos)
727 {
728         int error;
729
730         if (!qos->txtp.traffic_class && !qos->rxtp.traffic_class)
731                 return -EINVAL;
732         if (qos->txtp.traffic_class != qos->rxtp.traffic_class &&
733             qos->txtp.traffic_class && qos->rxtp.traffic_class &&
734             qos->txtp.traffic_class != ATM_ANYCLASS &&
735             qos->rxtp.traffic_class != ATM_ANYCLASS)
736                 return -EINVAL;
737         error = check_tp(&qos->txtp);
738         if (error)
739                 return error;
740         return check_tp(&qos->rxtp);
741 }
742
743 int vcc_setsockopt(struct socket *sock, int level, int optname,
744                    char __user *optval, unsigned int optlen)
745 {
746         struct atm_vcc *vcc;
747         unsigned long value;
748         int error;
749
750         if (__SO_LEVEL_MATCH(optname, level) && optlen != __SO_SIZE(optname))
751                 return -EINVAL;
752
753         vcc = ATM_SD(sock);
754         switch (optname) {
755         case SO_ATMQOS:
756         {
757                 struct atm_qos qos;
758
759                 if (copy_from_user(&qos, optval, sizeof(qos)))
760                         return -EFAULT;
761                 error = check_qos(&qos);
762                 if (error)
763                         return error;
764                 if (sock->state == SS_CONNECTED)
765                         return atm_change_qos(vcc, &qos);
766                 if (sock->state != SS_UNCONNECTED)
767                         return -EBADFD;
768                 vcc->qos = qos;
769                 set_bit(ATM_VF_HASQOS, &vcc->flags);
770                 return 0;
771         }
772         case SO_SETCLP:
773                 if (get_user(value, (unsigned long __user *)optval))
774                         return -EFAULT;
775                 if (value)
776                         vcc->atm_options |= ATM_ATMOPT_CLP;
777                 else
778                         vcc->atm_options &= ~ATM_ATMOPT_CLP;
779                 return 0;
780         default:
781                 if (level == SOL_SOCKET)
782                         return -EINVAL;
783                 break;
784         }
785         if (!vcc->dev || !vcc->dev->ops->setsockopt)
786                 return -EINVAL;
787         return vcc->dev->ops->setsockopt(vcc, level, optname, optval, optlen);
788 }
789
790 int vcc_getsockopt(struct socket *sock, int level, int optname,
791                    char __user *optval, int __user *optlen)
792 {
793         struct atm_vcc *vcc;
794         int len;
795
796         if (get_user(len, optlen))
797                 return -EFAULT;
798         if (__SO_LEVEL_MATCH(optname, level) && len != __SO_SIZE(optname))
799                 return -EINVAL;
800
801         vcc = ATM_SD(sock);
802         switch (optname) {
803         case SO_ATMQOS:
804                 if (!test_bit(ATM_VF_HASQOS, &vcc->flags))
805                         return -EINVAL;
806                 return copy_to_user(optval, &vcc->qos, sizeof(vcc->qos))
807                         ? -EFAULT : 0;
808         case SO_SETCLP:
809                 return put_user(vcc->atm_options & ATM_ATMOPT_CLP ? 1 : 0,
810                                 (unsigned long __user *)optval) ? -EFAULT : 0;
811         case SO_ATMPVC:
812         {
813                 struct sockaddr_atmpvc pvc;
814
815                 if (!vcc->dev || !test_bit(ATM_VF_ADDR, &vcc->flags))
816                         return -ENOTCONN;
817                 memset(&pvc, 0, sizeof(pvc));
818                 pvc.sap_family = AF_ATMPVC;
819                 pvc.sap_addr.itf = vcc->dev->number;
820                 pvc.sap_addr.vpi = vcc->vpi;
821                 pvc.sap_addr.vci = vcc->vci;
822                 return copy_to_user(optval, &pvc, sizeof(pvc)) ? -EFAULT : 0;
823         }
824         default:
825                 if (level == SOL_SOCKET)
826                         return -EINVAL;
827                 break;
828         }
829         if (!vcc->dev || !vcc->dev->ops->getsockopt)
830                 return -EINVAL;
831         return vcc->dev->ops->getsockopt(vcc, level, optname, optval, len);
832 }
833
834 int register_atmdevice_notifier(struct notifier_block *nb)
835 {
836         return atomic_notifier_chain_register(&atm_dev_notify_chain, nb);
837 }
838 EXPORT_SYMBOL_GPL(register_atmdevice_notifier);
839
840 void unregister_atmdevice_notifier(struct notifier_block *nb)
841 {
842         atomic_notifier_chain_unregister(&atm_dev_notify_chain, nb);
843 }
844 EXPORT_SYMBOL_GPL(unregister_atmdevice_notifier);
845
846 static int __init atm_init(void)
847 {
848         int error;
849
850         error = proto_register(&vcc_proto, 0);
851         if (error < 0)
852                 goto out;
853         error = atmpvc_init();
854         if (error < 0) {
855                 pr_err("atmpvc_init() failed with %d\n", error);
856                 goto out_unregister_vcc_proto;
857         }
858         error = atmsvc_init();
859         if (error < 0) {
860                 pr_err("atmsvc_init() failed with %d\n", error);
861                 goto out_atmpvc_exit;
862         }
863         error = atm_proc_init();
864         if (error < 0) {
865                 pr_err("atm_proc_init() failed with %d\n", error);
866                 goto out_atmsvc_exit;
867         }
868         error = atm_sysfs_init();
869         if (error < 0) {
870                 pr_err("atm_sysfs_init() failed with %d\n", error);
871                 goto out_atmproc_exit;
872         }
873 out:
874         return error;
875 out_atmproc_exit:
876         atm_proc_exit();
877 out_atmsvc_exit:
878         atmsvc_exit();
879 out_atmpvc_exit:
880         atmsvc_exit();
881 out_unregister_vcc_proto:
882         proto_unregister(&vcc_proto);
883         goto out;
884 }
885
886 static void __exit atm_exit(void)
887 {
888         atm_proc_exit();
889         atm_sysfs_exit();
890         atmsvc_exit();
891         atmpvc_exit();
892         proto_unregister(&vcc_proto);
893 }
894
895 subsys_initcall(atm_init);
896
897 module_exit(atm_exit);
898
899 MODULE_LICENSE("GPL");
900 MODULE_ALIAS_NETPROTO(PF_ATMPVC);
901 MODULE_ALIAS_NETPROTO(PF_ATMSVC);