diff options
| author | Garrett D'Amore <garrett@damore.org> | 2017-08-31 17:59:01 -0700 |
|---|---|---|
| committer | Garrett D'Amore <garrett@damore.org> | 2017-09-22 11:47:07 -0700 |
| commit | d72076207a2fad96ff014a81366868fb47a0ed1b (patch) | |
| tree | 5a4f67ab607ef6690e983c2d1ab2c64062027e52 /src/protocol/reqrep/rep.c | |
| parent | 366f3e5d14c5f891655ad1fa2b3cfa9a56b8830d (diff) | |
| download | nng-d72076207a2fad96ff014a81366868fb47a0ed1b.tar.gz nng-d72076207a2fad96ff014a81366868fb47a0ed1b.tar.bz2 nng-d72076207a2fad96ff014a81366868fb47a0ed1b.zip | |
Allocate AIOs dynamically.
We allocate AIO structures dynamically, so that we can use them
abstractly in more places without inlining them. This will be used
for the ZeroTier transport to allow us to create operations consisting
of just the AIO. Furthermore, we provide accessors for some of the
aio members, in the hopes that we will be able to wrap these for
"safe" version of the AIO capability to export to applications, and
to protocol and transport implementors.
While here we cleaned up the protocol details to use consistently
shorter names (no nni_ prefix for static symbols needed), and we
also fixed a bug in the surveyor code.
Diffstat (limited to 'src/protocol/reqrep/rep.c')
| -rw-r--r-- | src/protocol/reqrep/rep.c | 404 |
1 files changed, 200 insertions, 204 deletions
diff --git a/src/protocol/reqrep/rep.c b/src/protocol/reqrep/rep.c index cd33d019..14a3e46b 100644 --- a/src/protocol/reqrep/rep.c +++ b/src/protocol/reqrep/rep.c @@ -17,18 +17,18 @@ // request-reply pair. This is useful for building RPC servers, for // example. -typedef struct nni_rep_pipe nni_rep_pipe; -typedef struct nni_rep_sock nni_rep_sock; - -static void nni_rep_sock_getq_cb(void *); -static void nni_rep_pipe_getq_cb(void *); -static void nni_rep_pipe_putq_cb(void *); -static void nni_rep_pipe_send_cb(void *); -static void nni_rep_pipe_recv_cb(void *); -static void nni_rep_pipe_fini(void *); - -// An nni_rep_sock is our per-socket protocol private structure. -struct nni_rep_sock { +typedef struct rep_pipe rep_pipe; +typedef struct rep_sock rep_sock; + +static void rep_sock_getq_cb(void *); +static void rep_pipe_getq_cb(void *); +static void rep_pipe_putq_cb(void *); +static void rep_pipe_send_cb(void *); +static void rep_pipe_recv_cb(void *); +static void rep_pipe_fini(void *); + +// A rep_sock is our per-socket protocol private structure. +struct rep_sock { nni_sock * sock; nni_msgq * uwq; nni_msgq * urq; @@ -37,179 +37,176 @@ struct nni_rep_sock { nni_idhash *pipes; char * btrace; size_t btrace_len; - nni_aio aio_getq; + nni_aio * aio_getq; }; -// An nni_rep_pipe is our per-pipe protocol private structure. -struct nni_rep_pipe { - nni_pipe * pipe; - nni_rep_sock *rep; - nni_msgq * sendq; - nni_aio aio_getq; - nni_aio aio_send; - nni_aio aio_recv; - nni_aio aio_putq; +// A rep_pipe is our per-pipe protocol private structure. +struct rep_pipe { + nni_pipe *pipe; + rep_sock *rep; + nni_msgq *sendq; + nni_aio * aio_getq; + nni_aio * aio_send; + nni_aio * aio_recv; + nni_aio * aio_putq; }; static void -nni_rep_sock_fini(void *arg) +rep_sock_fini(void *arg) { - nni_rep_sock *rep = arg; + rep_sock *s = arg; - nni_aio_stop(&rep->aio_getq); - nni_aio_fini(&rep->aio_getq); - nni_idhash_fini(rep->pipes); - if (rep->btrace != NULL) { - nni_free(rep->btrace, rep->btrace_len); + nni_aio_stop(s->aio_getq); + nni_aio_fini(s->aio_getq); + nni_idhash_fini(s->pipes); + if (s->btrace != NULL) { + nni_free(s->btrace, s->btrace_len); } - NNI_FREE_STRUCT(rep); + NNI_FREE_STRUCT(s); } static int -nni_rep_sock_init(void **repp, nni_sock *sock) +rep_sock_init(void **sp, nni_sock *sock) { - nni_rep_sock *rep; - int rv; + rep_sock *s; + int rv; - if ((rep = NNI_ALLOC_STRUCT(rep)) == NULL) { + if ((s = NNI_ALLOC_STRUCT(s)) == NULL) { return (NNG_ENOMEM); } - if ((rv = nni_idhash_init(&rep->pipes)) != 0) { - NNI_FREE_STRUCT(rep); + if (((rv = nni_idhash_init(&s->pipes)) != 0) || + ((rv = nni_aio_init(&s->aio_getq, rep_sock_getq_cb, s)) != 0)) { + rep_sock_fini(s); return (rv); } - rep->ttl = 8; // Per RFC - rep->sock = sock; - rep->raw = 0; - rep->btrace = NULL; - rep->btrace_len = 0; + s->ttl = 8; // Per RFC + s->sock = sock; + s->raw = 0; + s->btrace = NULL; + s->btrace_len = 0; + s->uwq = nni_sock_sendq(sock); + s->urq = nni_sock_recvq(sock); - nni_aio_init(&rep->aio_getq, nni_rep_sock_getq_cb, rep); - - rep->uwq = nni_sock_sendq(sock); - rep->urq = nni_sock_recvq(sock); - - *repp = rep; + *sp = s; nni_sock_senderr(sock, NNG_ESTATE); return (0); } static void -nni_rep_sock_open(void *arg) +rep_sock_open(void *arg) { - nni_rep_sock *rep = arg; + rep_sock *s = arg; - nni_msgq_aio_get(rep->uwq, &rep->aio_getq); + nni_msgq_aio_get(s->uwq, s->aio_getq); } static void -nni_rep_sock_close(void *arg) +rep_sock_close(void *arg) { - nni_rep_sock *rep = arg; + rep_sock *s = arg; + + nni_aio_cancel(s->aio_getq, NNG_ECLOSED); +} - nni_aio_cancel(&rep->aio_getq, NNG_ECLOSED); +static void +rep_pipe_fini(void *arg) +{ + rep_pipe *p = arg; + + nni_aio_fini(p->aio_getq); + nni_aio_fini(p->aio_send); + nni_aio_fini(p->aio_recv); + nni_aio_fini(p->aio_putq); + nni_msgq_fini(p->sendq); + NNI_FREE_STRUCT(p); } static int -nni_rep_pipe_init(void **rpp, nni_pipe *pipe, void *rsock) +rep_pipe_init(void **pp, nni_pipe *pipe, void *s) { - nni_rep_pipe *rp; - int rv; + rep_pipe *p; + int rv; - if ((rp = NNI_ALLOC_STRUCT(rp)) == NULL) { + if ((p = NNI_ALLOC_STRUCT(p)) == NULL) { return (NNG_ENOMEM); } - if ((rv = nni_msgq_init(&rp->sendq, 2)) != 0) { - NNI_FREE_STRUCT(rp); + if (((rv = nni_msgq_init(&p->sendq, 2)) != 0) || + ((rv = nni_aio_init(&p->aio_getq, rep_pipe_getq_cb, p)) != 0) || + ((rv = nni_aio_init(&p->aio_send, rep_pipe_send_cb, p)) != 0) || + ((rv = nni_aio_init(&p->aio_recv, rep_pipe_recv_cb, p)) != 0) || + ((rv = nni_aio_init(&p->aio_putq, rep_pipe_putq_cb, p)) != 0)) { + rep_pipe_fini(p); return (rv); } - nni_aio_init(&rp->aio_getq, nni_rep_pipe_getq_cb, rp); - nni_aio_init(&rp->aio_send, nni_rep_pipe_send_cb, rp); - nni_aio_init(&rp->aio_recv, nni_rep_pipe_recv_cb, rp); - nni_aio_init(&rp->aio_putq, nni_rep_pipe_putq_cb, rp); - - rp->pipe = pipe; - rp->rep = rsock; - *rpp = rp; - return (0); -} -static void -nni_rep_pipe_fini(void *arg) -{ - nni_rep_pipe *rp = arg; - - nni_aio_fini(&rp->aio_getq); - nni_aio_fini(&rp->aio_send); - nni_aio_fini(&rp->aio_recv); - nni_aio_fini(&rp->aio_putq); - nni_msgq_fini(rp->sendq); - NNI_FREE_STRUCT(rp); + p->pipe = pipe; + p->rep = s; + *pp = p; + return (0); } static int -nni_rep_pipe_start(void *arg) +rep_pipe_start(void *arg) { - nni_rep_pipe *rp = arg; - nni_rep_sock *rep = rp->rep; - int rv; + rep_pipe *p = arg; + rep_sock *s = p->rep; + int rv; - rv = nni_idhash_insert(rep->pipes, nni_pipe_id(rp->pipe), rp); - if (rv != 0) { + if ((rv = nni_idhash_insert(s->pipes, nni_pipe_id(p->pipe), p)) != 0) { return (rv); } - nni_msgq_aio_get(rp->sendq, &rp->aio_getq); - nni_pipe_recv(rp->pipe, &rp->aio_recv); + nni_msgq_aio_get(p->sendq, p->aio_getq); + nni_pipe_recv(p->pipe, p->aio_recv); return (0); } static void -nni_rep_pipe_stop(void *arg) +rep_pipe_stop(void *arg) { - nni_rep_pipe *rp = arg; - nni_rep_sock *rep = rp->rep; + rep_pipe *p = arg; + rep_sock *s = p->rep; - nni_msgq_close(rp->sendq); - nni_aio_stop(&rp->aio_getq); - nni_aio_stop(&rp->aio_send); - nni_aio_stop(&rp->aio_recv); - nni_aio_stop(&rp->aio_putq); + nni_msgq_close(p->sendq); + nni_aio_stop(p->aio_getq); + nni_aio_stop(p->aio_send); + nni_aio_stop(p->aio_recv); + nni_aio_stop(p->aio_putq); - nni_idhash_remove(rep->pipes, nni_pipe_id(rp->pipe)); + nni_idhash_remove(s->pipes, nni_pipe_id(p->pipe)); } static void -nni_rep_sock_getq_cb(void *arg) +rep_sock_getq_cb(void *arg) { - nni_rep_sock *rep = arg; - nni_msgq * uwq = rep->uwq; - nni_msg * msg; - uint32_t id; - nni_rep_pipe *rp; - int rv; + rep_sock *s = arg; + nni_msgq *uwq = s->uwq; + nni_msg * msg; + uint32_t id; + rep_pipe *p; + int rv; // This watches for messages from the upper write queue, // extracts the destination pipe, and forwards it to the appropriate // destination pipe via a separate queue. This prevents a single bad // or slow pipe from gumming up the works for the entire socket. - if (nni_aio_result(&rep->aio_getq) != 0) { + if (nni_aio_result(s->aio_getq) != 0) { // Closed socket? return; } - msg = rep->aio_getq.a_msg; - rep->aio_getq.a_msg = NULL; + msg = nni_aio_get_msg(s->aio_getq); + nni_aio_set_msg(s->aio_getq, NULL); // We yank the outgoing pipe id from the header if (nni_msg_header_len(msg) < 4) { nni_msg_free(msg); // Look for another message on the upper write queue. - nni_msgq_aio_get(uwq, &rep->aio_getq); + nni_msgq_aio_get(uwq, s->aio_getq); return; } @@ -218,69 +215,68 @@ nni_rep_sock_getq_cb(void *arg) // Look for the pipe, and attempt to put the message there // (nonblocking) if we can. If we can't for any reason, then we // free the message. - rv = nni_idhash_find(rep->pipes, id, (void **) &rp); - if (rv == 0) { - rv = nni_msgq_tryput(rp->sendq, msg); + if ((rv = nni_idhash_find(s->pipes, id, (void **) &p)) == 0) { + rv = nni_msgq_tryput(p->sendq, msg); } if (rv != 0) { nni_msg_free(msg); } // Now look for another message on the upper write queue. - nni_msgq_aio_get(uwq, &rep->aio_getq); + nni_msgq_aio_get(uwq, s->aio_getq); } static void -nni_rep_pipe_getq_cb(void *arg) +rep_pipe_getq_cb(void *arg) { - nni_rep_pipe *rp = arg; + rep_pipe *p = arg; - if (nni_aio_result(&rp->aio_getq) != 0) { - nni_pipe_stop(rp->pipe); + if (nni_aio_result(p->aio_getq) != 0) { + nni_pipe_stop(p->pipe); return; } - rp->aio_send.a_msg = rp->aio_getq.a_msg; - rp->aio_getq.a_msg = NULL; + nni_aio_set_msg(p->aio_send, nni_aio_get_msg(p->aio_getq)); + nni_aio_set_msg(p->aio_getq, NULL); - nni_pipe_send(rp->pipe, &rp->aio_send); + nni_pipe_send(p->pipe, p->aio_send); } static void -nni_rep_pipe_send_cb(void *arg) +rep_pipe_send_cb(void *arg) { - nni_rep_pipe *rp = arg; + rep_pipe *p = arg; - if (nni_aio_result(&rp->aio_send) != 0) { - nni_msg_free(rp->aio_send.a_msg); - rp->aio_send.a_msg = NULL; - nni_pipe_stop(rp->pipe); + if (nni_aio_result(p->aio_send) != 0) { + nni_msg_free(nni_aio_get_msg(p->aio_send)); + nni_aio_set_msg(p->aio_send, NULL); + nni_pipe_stop(p->pipe); return; } - nni_msgq_aio_get(rp->sendq, &rp->aio_getq); + nni_msgq_aio_get(p->sendq, p->aio_getq); } static void -nni_rep_pipe_recv_cb(void *arg) +rep_pipe_recv_cb(void *arg) { - nni_rep_pipe *rp = arg; - nni_rep_sock *rep = rp->rep; - nni_msg * msg; - int rv; - uint8_t * body; - int hops; - - if (nni_aio_result(&rp->aio_recv) != 0) { - nni_pipe_stop(rp->pipe); + rep_pipe *p = arg; + rep_sock *s = p->rep; + nni_msg * msg; + int rv; + uint8_t * body; + int hops; + + if (nni_aio_result(p->aio_recv) != 0) { + nni_pipe_stop(p->pipe); return; } - msg = rp->aio_recv.a_msg; - rp->aio_recv.a_msg = NULL; + msg = nni_aio_get_msg(p->aio_recv); + nni_aio_set_msg(p->aio_recv, NULL); // Store the pipe id in the header, first thing. - rv = nni_msg_header_append_u32(msg, nni_pipe_id(rp->pipe)); + rv = nni_msg_header_append_u32(msg, nni_pipe_id(p->pipe)); if (rv != 0) { // Failure here causes us to drop the message. goto drop; @@ -290,7 +286,7 @@ nni_rep_pipe_recv_cb(void *arg) hops = 1; for (;;) { int end = 0; - if (hops >= rep->ttl) { + if (hops >= s->ttl) { // This isn't malformed, but it has gone through // too many hops. Do not disconnect, because we // can legitimately receive messages with too many @@ -300,7 +296,7 @@ nni_rep_pipe_recv_cb(void *arg) if (nni_msg_len(msg) < 4) { // Peer is speaking garbage. Kick it. nni_msg_free(msg); - nni_pipe_stop(rp->pipe); + nni_pipe_stop(p->pipe); return; } body = nni_msg_body(msg); @@ -320,74 +316,74 @@ nni_rep_pipe_recv_cb(void *arg) } // Go ahead and send it up. - rp->aio_putq.a_msg = msg; - nni_msgq_aio_put(rp->rep->urq, &rp->aio_putq); + nni_aio_set_msg(p->aio_putq, msg); + nni_msgq_aio_put(s->urq, p->aio_putq); return; drop: nni_msg_free(msg); - nni_pipe_recv(rp->pipe, &rp->aio_recv); + nni_pipe_recv(p->pipe, p->aio_recv); } static void -nni_rep_pipe_putq_cb(void *arg) +rep_pipe_putq_cb(void *arg) { - nni_rep_pipe *rp = arg; + rep_pipe *p = arg; - if (nni_aio_result(&rp->aio_putq) != 0) { - nni_msg_free(rp->aio_putq.a_msg); - rp->aio_putq.a_msg = NULL; - nni_pipe_stop(rp->pipe); + if (nni_aio_result(p->aio_putq) != 0) { + nni_msg_free(nni_aio_get_msg(p->aio_putq)); + nni_aio_set_msg(p->aio_putq, NULL); + nni_pipe_stop(p->pipe); return; } - nni_pipe_recv(rp->pipe, &rp->aio_recv); + nni_pipe_recv(p->pipe, p->aio_recv); } static int -nni_rep_sock_setopt(void *arg, int opt, const void *buf, size_t sz) +rep_sock_setopt(void *arg, int opt, const void *buf, size_t sz) { - nni_rep_sock *rep = arg; - int rv = NNG_ENOTSUP; + rep_sock *s = arg; + int rv = NNG_ENOTSUP; if (opt == nng_optid_maxttl) { - rv = nni_setopt_int(&rep->ttl, buf, sz, 1, 255); + rv = nni_setopt_int(&s->ttl, buf, sz, 1, 255); } else if (opt == nng_optid_raw) { - rv = nni_setopt_int(&rep->raw, buf, sz, 0, 1); - nni_sock_senderr(rep->sock, rep->raw ? 0 : NNG_ESTATE); + rv = nni_setopt_int(&s->raw, buf, sz, 0, 1); + nni_sock_senderr(s->sock, s->raw ? 0 : NNG_ESTATE); } return (rv); } static int -nni_rep_sock_getopt(void *arg, int opt, void *buf, size_t *szp) +rep_sock_getopt(void *arg, int opt, void *buf, size_t *szp) { - nni_rep_sock *rep = arg; - int rv = NNG_ENOTSUP; + rep_sock *s = arg; + int rv = NNG_ENOTSUP; if (opt == nng_optid_maxttl) { - rv = nni_getopt_int(&rep->ttl, buf, szp); + rv = nni_getopt_int(&s->ttl, buf, szp); } else if (opt == nng_optid_raw) { - rv = nni_getopt_int(&rep->raw, buf, szp); + rv = nni_getopt_int(&s->raw, buf, szp); } return (rv); } static nni_msg * -nni_rep_sock_sfilter(void *arg, nni_msg *msg) +rep_sock_sfilter(void *arg, nni_msg *msg) { - nni_rep_sock *rep = arg; + rep_sock *s = arg; - if (rep->raw) { + if (s->raw) { return (msg); } // Cannot send again until a receive is done... - nni_sock_senderr(rep->sock, NNG_ESTATE); + nni_sock_senderr(s->sock, NNG_ESTATE); // If we have a stored backtrace, append it to the header... // if we don't have a backtrace, discard the message. - if (rep->btrace == NULL) { + if (s->btrace == NULL) { nni_msg_free(msg); return (NULL); } @@ -395,76 +391,76 @@ nni_rep_sock_sfilter(void *arg, nni_msg *msg) // drop anything else in the header... nni_msg_header_clear(msg); - if (nni_msg_header_append(msg, rep->btrace, rep->btrace_len) != 0) { - nni_free(rep->btrace, rep->btrace_len); - rep->btrace = NULL; - rep->btrace_len = 0; + if (nni_msg_header_append(msg, s->btrace, s->btrace_len) != 0) { + nni_free(s->btrace, s->btrace_len); + s->btrace = NULL; + s->btrace_len = 0; nni_msg_free(msg); return (NULL); } - nni_free(rep->btrace, rep->btrace_len); - rep->btrace = NULL; - rep->btrace_len = 0; + nni_free(s->btrace, s->btrace_len); + s->btrace = NULL; + s->btrace_len = 0; return (msg); } static nni_msg * -nni_rep_sock_rfilter(void *arg, nni_msg *msg) +rep_sock_rfilter(void *arg, nni_msg *msg) { - nni_rep_sock *rep = arg; - char * header; - size_t len; + rep_sock *s = arg; + char * header; + size_t len; - if (rep->raw) { + if (s->raw) { return (msg); } - nni_sock_senderr(rep->sock, 0); + nni_sock_senderr(s->sock, 0); len = nni_msg_header_len(msg); header = nni_msg_header(msg); - if (rep->btrace != NULL) { - nni_free(rep->btrace, rep->btrace_len); - rep->btrace = NULL; - rep->btrace_len = 0; + if (s->btrace != NULL) { + nni_free(s->btrace, s->btrace_len); + s->btrace = NULL; + s->btrace_len = 0; } - if ((rep->btrace = nni_alloc(len)) == NULL) { + if ((s->btrace = nni_alloc(len)) == NULL) { nni_msg_free(msg); return (NULL); } - rep->btrace_len = len; - memcpy(rep->btrace, header, len); + s->btrace_len = len; + memcpy(s->btrace, header, len); nni_msg_header_clear(msg); return (msg); } // This is the global protocol structure -- our linkage to the core. // This should be the only global non-static symbol in this file. -static nni_proto_pipe_ops nni_rep_pipe_ops = { - .pipe_init = nni_rep_pipe_init, - .pipe_fini = nni_rep_pipe_fini, - .pipe_start = nni_rep_pipe_start, - .pipe_stop = nni_rep_pipe_stop, +static nni_proto_pipe_ops rep_pipe_ops = { + .pipe_init = rep_pipe_init, + .pipe_fini = rep_pipe_fini, + .pipe_start = rep_pipe_start, + .pipe_stop = rep_pipe_stop, }; -static nni_proto_sock_ops nni_rep_sock_ops = { - .sock_init = nni_rep_sock_init, - .sock_fini = nni_rep_sock_fini, - .sock_open = nni_rep_sock_open, - .sock_close = nni_rep_sock_close, - .sock_setopt = nni_rep_sock_setopt, - .sock_getopt = nni_rep_sock_getopt, - .sock_rfilter = nni_rep_sock_rfilter, - .sock_sfilter = nni_rep_sock_sfilter, +static nni_proto_sock_ops rep_sock_ops = { + .sock_init = rep_sock_init, + .sock_fini = rep_sock_fini, + .sock_open = rep_sock_open, + .sock_close = rep_sock_close, + .sock_setopt = rep_sock_setopt, + .sock_getopt = rep_sock_getopt, + .sock_rfilter = rep_sock_rfilter, + .sock_sfilter = rep_sock_sfilter, }; -nni_proto nni_rep_proto = { +static nni_proto nni_rep_proto = { .proto_version = NNI_PROTOCOL_VERSION, .proto_self = { NNG_PROTO_REP_V0, "rep" }, .proto_peer = { NNG_PROTO_REQ_V0, "req" }, .proto_flags = NNI_PROTO_FLAG_SNDRCV, - .proto_sock_ops = &nni_rep_sock_ops, - .proto_pipe_ops = &nni_rep_pipe_ops, + .proto_sock_ops = &rep_sock_ops, + .proto_pipe_ops = &rep_pipe_ops, }; int |
