csdo.c

Go to the documentation of this file.

#include "co.h"

#ifndef LELY_NO_CO_CSDO

#include "sdo.h"
#include <lely/co/crc.h>
#include <lely/co/csdo.h>
#include <lely/co/dev.h>
#include <lely/co/obj.h>
#include <lely/co/val.h>
#include <lely/util/endian.h>
#include <lely/util/errnum.h>

#include <assert.h>
#include <stdlib.h>

struct __co_csdo_state;
typedef const struct __co_csdo_state co_csdo_state_t;

struct __co_csdo {
        can_net_t *net;
        co_dev_t *dev;
        co_unsigned8_t num;
        struct co_sdo_par par;
        can_recv_t *recv;
        int timeout;
        can_timer_t *timer;
        co_csdo_state_t *state;
        co_unsigned32_t ac;
        co_unsigned16_t idx;
        co_unsigned8_t subidx;
        uint32_t size;
        uint8_t toggle;
        uint8_t blksize;
        uint8_t ackseq;
        unsigned crc : 1;
        struct membuf buf;
        co_csdo_dn_con_t *dn_con;
        void *dn_con_data;
        co_csdo_ind_t *dn_ind;
        void *dn_ind_data;
        co_csdo_up_con_t *up_con;
        void *up_con_data;
        co_csdo_ind_t *up_ind;
        void *up_ind_data;
};

static int co_csdo_update(co_csdo_t *sdo);

static co_unsigned32_t co_1280_dn_ind(
                co_sub_t *sub, struct co_sdo_req *req, void *data);

static int co_csdo_recv(const struct can_msg *msg, void *data);

static int co_csdo_timer(const struct timespec *tp, void *data);

static inline void co_csdo_enter(co_csdo_t *sdo, co_csdo_state_t *next);

static inline void co_csdo_emit_abort(co_csdo_t *sdo, co_unsigned32_t ac);

static inline void co_csdo_emit_time(co_csdo_t *sdo, const struct timespec *tp);

static inline void co_csdo_emit_recv(co_csdo_t *sdo, const struct can_msg *msg);

struct __co_csdo_state {
        co_csdo_state_t *(*on_enter)(co_csdo_t *sdo);
        co_csdo_state_t *(*on_abort)(co_csdo_t *sdo, co_unsigned32_t ac);
        co_csdo_state_t *(*on_time)(co_csdo_t *sdo, const struct timespec *tp);
        co_csdo_state_t *(*on_recv)(co_csdo_t *sdo, const struct can_msg *msg);
        void (*on_leave)(co_csdo_t *sdo);
};

#define LELY_CO_DEFINE_STATE(name, ...) \
        static co_csdo_state_t *const name = &(co_csdo_state_t){ __VA_ARGS__ };

static co_csdo_state_t *co_csdo_wait_on_abort(
                co_csdo_t *sdo, co_unsigned32_t ac);

static co_csdo_state_t *co_csdo_wait_on_recv(
                co_csdo_t *sdo, const struct can_msg *msg);

// clang-format off
LELY_CO_DEFINE_STATE(co_csdo_wait_state,
        .on_abort = &co_csdo_wait_on_abort,
        .on_recv = &co_csdo_wait_on_recv
)
// clang-format on

static co_csdo_state_t *co_csdo_abort_on_enter(co_csdo_t *sdo);

static void co_csdo_abort_on_leave(co_csdo_t *sdo);

// clang-format off
LELY_CO_DEFINE_STATE(co_csdo_abort_state,
        .on_enter = &co_csdo_abort_on_enter,
        .on_leave = &co_csdo_abort_on_leave
)
// clang-format on

static co_csdo_state_t *co_csdo_dn_ini_on_abort(
                co_csdo_t *sdo, co_unsigned32_t ac);

static co_csdo_state_t *co_csdo_dn_ini_on_time(
                co_csdo_t *sdo, const struct timespec *tp);

static co_csdo_state_t *co_csdo_dn_ini_on_recv(
                co_csdo_t *sdo, const struct can_msg *msg);

// clang-format off
LELY_CO_DEFINE_STATE(co_csdo_dn_ini_state,
        .on_abort = &co_csdo_dn_ini_on_abort,
        .on_time = &co_csdo_dn_ini_on_time,
        .on_recv = &co_csdo_dn_ini_on_recv
)
// clang-format on

static co_csdo_state_t *co_csdo_dn_seg_on_enter(co_csdo_t *sdo);

static co_csdo_state_t *co_csdo_dn_seg_on_abort(
                co_csdo_t *sdo, co_unsigned32_t ac);

static co_csdo_state_t *co_csdo_dn_seg_on_time(
                co_csdo_t *sdo, const struct timespec *tp);

static co_csdo_state_t *co_csdo_dn_seg_on_recv(
                co_csdo_t *sdo, const struct can_msg *msg);

// clang-format off
LELY_CO_DEFINE_STATE(co_csdo_dn_seg_state,
        .on_enter = &co_csdo_dn_seg_on_enter,
        .on_abort = &co_csdo_dn_seg_on_abort,
        .on_time = &co_csdo_dn_seg_on_time,
        .on_recv = &co_csdo_dn_seg_on_recv
)
// clang-format on

static co_csdo_state_t *co_csdo_up_ini_on_abort(
                co_csdo_t *sdo, co_unsigned32_t ac);

static co_csdo_state_t *co_csdo_up_ini_on_time(
                co_csdo_t *sdo, const struct timespec *tp);

static co_csdo_state_t *co_csdo_up_ini_on_recv(
                co_csdo_t *sdo, const struct can_msg *msg);

// clang-format off
LELY_CO_DEFINE_STATE(co_csdo_up_ini_state,
        .on_abort = &co_csdo_up_ini_on_abort,
        .on_time = &co_csdo_up_ini_on_time,
        .on_recv = &co_csdo_up_ini_on_recv
)
// clang-format on

static co_csdo_state_t *co_csdo_up_seg_on_abort(
                co_csdo_t *sdo, co_unsigned32_t ac);

static co_csdo_state_t *co_csdo_up_seg_on_time(
                co_csdo_t *sdo, const struct timespec *tp);

static co_csdo_state_t *co_csdo_up_seg_on_recv(
                co_csdo_t *sdo, const struct can_msg *msg);

// clang-format off
LELY_CO_DEFINE_STATE(co_csdo_up_seg_state,
        .on_abort = &co_csdo_up_seg_on_abort,
        .on_time = &co_csdo_up_seg_on_time,
        .on_recv = &co_csdo_up_seg_on_recv
)
// clang-format on

static co_csdo_state_t *co_csdo_blk_dn_ini_on_abort(
                co_csdo_t *sdo, co_unsigned32_t ac);

static co_csdo_state_t *co_csdo_blk_dn_ini_on_time(
                co_csdo_t *sdo, const struct timespec *tp);

static co_csdo_state_t *co_csdo_blk_dn_ini_on_recv(
                co_csdo_t *sdo, const struct can_msg *msg);

// clang-format off
LELY_CO_DEFINE_STATE(co_csdo_blk_dn_ini_state,
        .on_abort = &co_csdo_blk_dn_ini_on_abort,
        .on_time = &co_csdo_blk_dn_ini_on_time,
        .on_recv = &co_csdo_blk_dn_ini_on_recv
)
// clang-format on

static co_csdo_state_t *co_csdo_blk_dn_sub_on_enter(co_csdo_t *sdo);

static co_csdo_state_t *co_csdo_blk_dn_sub_on_abort(
                co_csdo_t *sdo, co_unsigned32_t ac);

static co_csdo_state_t *co_csdo_blk_dn_sub_on_time(
                co_csdo_t *sdo, const struct timespec *tp);

static co_csdo_state_t *co_csdo_blk_dn_sub_on_recv(
                co_csdo_t *sdo, const struct can_msg *msg);

// clang-format off
LELY_CO_DEFINE_STATE(co_csdo_blk_dn_sub_state,
        .on_enter = &co_csdo_blk_dn_sub_on_enter,
        .on_abort = &co_csdo_blk_dn_sub_on_abort,
        .on_time = &co_csdo_blk_dn_sub_on_time,
        .on_recv = &co_csdo_blk_dn_sub_on_recv
)
// clang-format on

static co_csdo_state_t *co_csdo_blk_dn_end_on_abort(
                co_csdo_t *sdo, co_unsigned32_t ac);

static co_csdo_state_t *co_csdo_blk_dn_end_on_time(
                co_csdo_t *sdo, const struct timespec *tp);

static co_csdo_state_t *co_csdo_blk_dn_end_on_recv(
                co_csdo_t *sdo, const struct can_msg *msg);

// clang-format off
LELY_CO_DEFINE_STATE(co_csdo_blk_dn_end_state,
        .on_abort = &co_csdo_blk_dn_end_on_abort,
        .on_time = &co_csdo_blk_dn_end_on_time,
        .on_recv = &co_csdo_blk_dn_end_on_recv
)
// clang-format on

static co_csdo_state_t *co_csdo_blk_up_ini_on_abort(
                co_csdo_t *sdo, co_unsigned32_t ac);

static co_csdo_state_t *co_csdo_blk_up_ini_on_time(
                co_csdo_t *sdo, const struct timespec *tp);

static co_csdo_state_t *co_csdo_blk_up_ini_on_recv(
                co_csdo_t *sdo, const struct can_msg *msg);

// clang-format off
LELY_CO_DEFINE_STATE(co_csdo_blk_up_ini_state,
        .on_abort = &co_csdo_blk_up_ini_on_abort,
        .on_time = &co_csdo_blk_up_ini_on_time,
        .on_recv = &co_csdo_blk_up_ini_on_recv
)
// clang-format on

static co_csdo_state_t *co_csdo_blk_up_sub_on_abort(
                co_csdo_t *sdo, co_unsigned32_t ac);

static co_csdo_state_t *co_csdo_blk_up_sub_on_time(
                co_csdo_t *sdo, const struct timespec *tp);

static co_csdo_state_t *co_csdo_blk_up_sub_on_recv(
                co_csdo_t *sdo, const struct can_msg *msg);

// clang-format off
LELY_CO_DEFINE_STATE(co_csdo_blk_up_sub_state,
        .on_abort = &co_csdo_blk_up_sub_on_abort,
        .on_time = &co_csdo_blk_up_sub_on_time,
        .on_recv = &co_csdo_blk_up_sub_on_recv
)
// clang-format on

static co_csdo_state_t *co_csdo_blk_up_end_on_abort(
                co_csdo_t *sdo, co_unsigned32_t ac);

static co_csdo_state_t *co_csdo_blk_up_end_on_time(
                co_csdo_t *sdo, const struct timespec *tp);

static co_csdo_state_t *co_csdo_blk_up_end_on_recv(
                co_csdo_t *sdo, const struct can_msg *msg);

// clang-format off
LELY_CO_DEFINE_STATE(co_csdo_blk_up_end_state,
        .on_abort = &co_csdo_blk_up_end_on_abort,
        .on_time = &co_csdo_blk_up_end_on_time,
        .on_recv = &co_csdo_blk_up_end_on_recv
)
// clang-format on

#undef LELY_CO_DEFINE_STATE

static co_csdo_state_t *co_csdo_abort_ind(co_csdo_t *sdo, co_unsigned32_t ac);

static co_csdo_state_t *co_csdo_abort_res(co_csdo_t *sdo, co_unsigned32_t ac);

static int co_csdo_dn_ind(co_csdo_t *sdo, co_unsigned16_t idx,
                co_unsigned8_t subidx, const void *ptr, size_t n,
                co_csdo_dn_con_t *con, void *data);

static int co_csdo_up_ind(co_csdo_t *sdo, co_unsigned16_t idx,
                co_unsigned8_t subidx, co_csdo_up_con_t *con, void *data);

static void co_csdo_send_abort(co_csdo_t *sdo, co_unsigned32_t ac);

static void co_csdo_send_dn_exp_req(co_csdo_t *sdo);

static void co_csdo_send_dn_ini_req(co_csdo_t *sdo);

static void co_csdo_send_dn_seg_req(co_csdo_t *sdo, uint32_t n, int last);

static void co_csdo_send_up_ini_req(co_csdo_t *sdo);

static void co_csdo_send_up_seg_req(co_csdo_t *sdo);

static void co_csdo_send_blk_dn_ini_req(co_csdo_t *sdo);

static void co_csdo_send_blk_dn_sub_req(co_csdo_t *sdo, uint8_t seqno);

static void co_csdo_send_blk_dn_end_req(co_csdo_t *sdo);

static void co_csdo_send_blk_up_ini_req(co_csdo_t *sdo, uint8_t pst);

static void co_csdo_send_start_up_req(co_csdo_t *sdo);

static void co_csdo_send_blk_up_sub_res(co_csdo_t *sdo);

static void co_csdo_send_blk_up_end_res(co_csdo_t *sdo);

static void co_csdo_init_ini_req(
                co_csdo_t *sdo, struct can_msg *msg, uint8_t cs);

static void co_csdo_init_seg_req(
                co_csdo_t *sdo, struct can_msg *msg, uint8_t cs);

int
co_dev_dn_req(co_dev_t *dev, co_unsigned16_t idx, co_unsigned8_t subidx,
                const void *ptr, size_t n, co_csdo_dn_con_t *con, void *data)
{
        assert(dev);

        int errc = get_errc();
        struct co_sdo_req req = CO_SDO_REQ_INIT;

        co_unsigned32_t ac = 0;

        co_obj_t *obj = co_dev_find_obj(dev, idx);
        if (__unlikely(!obj)) {
                ac = CO_SDO_AC_NO_OBJ;
                goto done;
        }

        co_sub_t *sub = co_obj_find_sub(obj, subidx);
        if (__unlikely(!sub)) {
                ac = CO_SDO_AC_NO_SUB;
                goto done;
        }

        if (__unlikely(co_sdo_req_up(&req, ptr, n, &ac) == -1))
                goto done;

        ac = co_sub_dn_ind(sub, &req);

done:
        if (con)
                con(NULL, idx, subidx, ac, data);

        co_sdo_req_fini(&req);
        set_errc(errc);
        return 0;
}

int
co_dev_dn_val_req(co_dev_t *dev, co_unsigned16_t idx, co_unsigned8_t subidx,
                co_unsigned16_t type, const void *val, co_csdo_dn_con_t *con,
                void *data)
{
        assert(dev);

        int errc = get_errc();
        struct co_sdo_req req = CO_SDO_REQ_INIT;

        co_unsigned32_t ac = 0;

        co_obj_t *obj = co_dev_find_obj(dev, idx);
        if (__unlikely(!obj)) {
                ac = CO_SDO_AC_NO_OBJ;
                goto done;
        }

        co_sub_t *sub = co_obj_find_sub(obj, subidx);
        if (__unlikely(!sub)) {
                ac = CO_SDO_AC_NO_SUB;
                goto done;
        }

        if (__unlikely(co_sdo_req_up_val(&req, type, val, &ac) == -1))
                goto done;

        ac = co_sub_dn_ind(sub, &req);

done:
        if (con)
                con(NULL, idx, subidx, ac, data);

        co_sdo_req_fini(&req);
        set_errc(errc);
        return 0;
}

int
co_dev_up_req(const co_dev_t *dev, co_unsigned16_t idx, co_unsigned8_t subidx,
                co_csdo_up_con_t *con, void *data)
{
        assert(dev);

        int errc = get_errc();
        struct membuf buf = MEMBUF_INIT;
        co_unsigned32_t ac = 0;

        const co_obj_t *obj = co_dev_find_obj(dev, idx);
        if (__unlikely(!obj)) {
                ac = CO_SDO_AC_NO_OBJ;
                goto done;
        }

        const co_sub_t *sub = co_obj_find_sub(obj, subidx);
        if (__unlikely(!sub)) {
                ac = CO_SDO_AC_NO_SUB;
                goto done;
        }

        // If the object is an array, check whether the element exists.
        if (co_obj_get_code(obj) == CO_OBJECT_ARRAY
                        && __unlikely(subidx > co_obj_get_val_u8(obj, 0))) {
                ac = CO_SDO_AC_NO_DATA;
                goto done;
        }

        struct co_sdo_req req = CO_SDO_REQ_INIT;

        ac = co_sub_up_ind(sub, &req);
        if (!ac && req.size && !membuf_reserve(&buf, req.size))
                ac = CO_SDO_AC_NO_MEM;

        do {
                membuf_write(&buf, req.buf, req.nbyte);
                if (!co_sdo_req_last(&req))
                        ac = co_sub_up_ind(sub, &req);
        } while (!ac && membuf_size(&buf) < req.size);

        co_sdo_req_fini(&req);

done:
        if (con)
                con(NULL, idx, subidx, ac, ac ? NULL : buf.begin,
                                ac ? 0 : membuf_size(&buf), data);

        membuf_fini(&buf);
        set_errc(errc);
        return 0;
}

void *
__co_csdo_alloc(void)
{
        void *ptr = malloc(sizeof(struct __co_csdo));
        if (__unlikely(!ptr))
                set_errc(errno2c(errno));
        return ptr;
}

void
__co_csdo_free(void *ptr)
{
        free(ptr);
}

struct __co_csdo *
__co_csdo_init(struct __co_csdo *sdo, can_net_t *net, co_dev_t *dev,
                co_unsigned8_t num)
{
        assert(sdo);
        assert(net);

        int errc = 0;

        if (__unlikely(!num || num > (dev ? 128 : CO_NUM_NODES))) {
                errc = errnum2c(ERRNUM_INVAL);
                goto error_param;
        }

        // Find the SDO client parameter in the object dictionary.
        co_obj_t *obj_1280 =
                        dev ? co_dev_find_obj(dev, 0x1280 + num - 1) : NULL;
        if (__unlikely(dev && !obj_1280)) {
                errc = errnum2c(ERRNUM_INVAL);
                goto error_param;
        }

        sdo->net = net;
        sdo->dev = dev;
        sdo->num = num;

        // Initialize the SDO parameter record with the default values.
        sdo->par.n = 3;
        sdo->par.id = num;
        sdo->par.cobid_req = 0x600 + sdo->par.id;
        sdo->par.cobid_res = 0x580 + sdo->par.id;

        if (obj_1280) {
                // Copy the SDO parameter record.
                size_t size = co_obj_sizeof_val(obj_1280);
                memcpy(&sdo->par, co_obj_addressof_val(obj_1280),
                                MIN(size, sizeof(sdo->par)));
        }

        sdo->recv = can_recv_create();
        if (__unlikely(!sdo->recv)) {
                errc = get_errc();
                goto error_create_recv;
        }
        can_recv_set_func(sdo->recv, &co_csdo_recv, sdo);

        sdo->timeout = 0;

        sdo->timer = can_timer_create();
        if (__unlikely(!sdo->timer)) {
                errc = get_errc();
                goto error_create_timer;
        }
        can_timer_set_func(sdo->timer, &co_csdo_timer, sdo);

        sdo->state = co_csdo_wait_state;

        sdo->ac = 0;
        sdo->idx = 0;
        sdo->subidx = 0;
        sdo->size = 0;

        sdo->toggle = 0;
        sdo->blksize = 0;
        sdo->ackseq = 0;
        sdo->crc = 0;

        membuf_init(&sdo->buf);

        sdo->dn_con = NULL;
        sdo->dn_con_data = NULL;

        sdo->dn_ind = NULL;
        sdo->dn_ind_data = NULL;

        sdo->up_con = NULL;
        sdo->up_con_data = NULL;

        sdo->up_ind = NULL;
        sdo->up_ind_data = NULL;

        // Set the download indication function for the SDO parameter record.
        if (obj_1280)
                co_obj_set_dn_ind(obj_1280, &co_1280_dn_ind, sdo);

        if (__unlikely(co_csdo_update(sdo) == -1)) {
                errc = get_errc();
                goto error_update;
        }

        return sdo;

error_update:
        if (obj_1280)
                co_obj_set_dn_ind(obj_1280, NULL, NULL);
        can_timer_destroy(sdo->timer);
error_create_timer:
        can_recv_destroy(sdo->recv);
error_create_recv:
error_param:
        set_errc(errc);
        return NULL;
}

void
__co_csdo_fini(struct __co_csdo *sdo)
{
        assert(sdo);
        assert(sdo->num >= 1 && sdo->num <= 128);

        // Remove the download indication functions for the SDO parameter
        // record.
        co_obj_t *obj_1280 = sdo->dev
                        ? co_dev_find_obj(sdo->dev, 0x1280 + sdo->num - 1)
                        : NULL;
        if (obj_1280)
                co_obj_set_dn_ind(obj_1280, NULL, NULL);

        membuf_fini(&sdo->buf);

        can_timer_destroy(sdo->timer);
        can_recv_destroy(sdo->recv);
}

co_csdo_t *
co_csdo_create(can_net_t *net, co_dev_t *dev, co_unsigned8_t num)
{
        trace("creating Client-SDO %d", num);

        int errc = 0;

        co_csdo_t *sdo = __co_csdo_alloc();
        if (__unlikely(!sdo)) {
                errc = get_errc();
                goto error_alloc_sdo;
        }

        if (__unlikely(!__co_csdo_init(sdo, net, dev, num))) {
                errc = get_errc();
                goto error_init_sdo;
        }

        return sdo;

error_init_sdo:
        __co_csdo_free(sdo);
error_alloc_sdo:
        set_errc(errc);
        return NULL;
}

void
co_csdo_destroy(co_csdo_t *csdo)
{
        if (csdo) {
                trace("destroying Client-SDO %d", csdo->num);
                __co_csdo_fini(csdo);
                __co_csdo_free(csdo);
        }
}

can_net_t *
co_csdo_get_net(const co_csdo_t *sdo)
{
        assert(sdo);

        return sdo->net;
}

co_dev_t *
co_csdo_get_dev(const co_csdo_t *sdo)
{
        assert(sdo);

        return sdo->dev;
}

co_unsigned8_t
co_csdo_get_num(const co_csdo_t *sdo)
{
        assert(sdo);

        return sdo->num;
}

const struct co_sdo_par *
co_csdo_get_par(const co_csdo_t *sdo)
{
        assert(sdo);

        return &sdo->par;
}

int
co_csdo_get_timeout(const co_csdo_t *sdo)
{
        assert(sdo);

        return sdo->timeout;
}

void
co_csdo_set_timeout(co_csdo_t *sdo, int timeout)
{
        assert(sdo);

        if (sdo->timeout && timeout <= 0)
                can_timer_stop(sdo->timer);

        sdo->timeout = MAX(0, timeout);
}

void
co_csdo_get_dn_ind(const co_csdo_t *sdo, co_csdo_ind_t **pind, void **pdata)
{
        assert(sdo);

        if (pind)
                *pind = sdo->dn_ind;
        if (pdata)
                *pdata = sdo->dn_ind_data;
}

void
co_csdo_set_dn_ind(co_csdo_t *sdo, co_csdo_ind_t *ind, void *data)
{
        assert(sdo);

        sdo->dn_ind = ind;
        sdo->dn_ind_data = data;
}

void
co_csdo_get_up_ind(const co_csdo_t *sdo, co_csdo_ind_t **pind, void **pdata)
{
        assert(sdo);

        if (pind)
                *pind = sdo->up_ind;
        if (pdata)
                *pdata = sdo->up_ind_data;
}

void
co_csdo_set_up_ind(co_csdo_t *sdo, co_csdo_ind_t *ind, void *data)
{
        assert(sdo);

        sdo->up_ind = ind;
        sdo->up_ind_data = data;
}

int
co_csdo_is_idle(const co_csdo_t *sdo)
{
        assert(sdo);

        return sdo->state == co_csdo_wait_state;
}

void
co_csdo_abort_req(co_csdo_t *sdo, co_unsigned32_t ac)
{
        assert(sdo);

        co_csdo_emit_abort(sdo, ac);
}

int
co_csdo_dn_req(co_csdo_t *sdo, co_unsigned16_t idx, co_unsigned8_t subidx,
                const void *ptr, size_t n, co_csdo_dn_con_t *con, void *data)
{
        assert(sdo);

        // clang-format off
        if (__unlikely(co_csdo_dn_ind(sdo, idx, subidx, ptr, n, con, data)
                        == -1))
                // clang-format on
                return -1;

        trace("CSDO: %04X:%02X: initiate download", idx, subidx);

        if (sdo->timeout)
                can_timer_timeout(sdo->timer, sdo->net, sdo->timeout);
        if (sdo->size && sdo->size <= 4)
                co_csdo_send_dn_exp_req(sdo);
        else
                co_csdo_send_dn_ini_req(sdo);
        co_csdo_enter(sdo, co_csdo_dn_ini_state);

        return 0;
}

int
co_csdo_dn_val_req(co_csdo_t *sdo, co_unsigned16_t idx, co_unsigned8_t subidx,
                co_unsigned16_t type, const void *val, co_csdo_dn_con_t *con,
                void *data)
{
        assert(sdo);

        // Obtain the size of the serialized value (which may be 0 for arrays).
        size_t n = co_val_write(type, val, NULL, NULL);
        if (__unlikely(!n && co_val_sizeof(type, val)))
                return -1;

        if (co_type_is_array(type) || n > 8) {
                int res = 0;
                int errc = get_errc();

                uint8_t *buf = n ? malloc(n) : NULL;
                if (__unlikely(n && !buf)) {
                        errc = errno2c(errno);
                        goto error_malloc_buf;
                }

                if (__unlikely(co_val_write(type, val, buf, buf + n) != n)) {
                        errc = get_errc();
                        goto error_write_val;
                }

                res = co_csdo_dn_req(sdo, idx, subidx, buf, n, con, data);

        error_write_val:
                free(buf);
        error_malloc_buf:
                set_errc(errc);
                return res;
        } else {
                // Fast path for values small enough to be allocated on the
                // heap.
                uint8_t buf[8];
                if (__unlikely(co_val_write(type, val, buf, buf + n) != n))
                        return -1;
                return co_csdo_dn_req(sdo, idx, subidx, buf, n, con, data);
        }
}

int
co_csdo_up_req(co_csdo_t *sdo, co_unsigned16_t idx, co_unsigned8_t subidx,
                co_csdo_up_con_t *con, void *data)
{
        assert(sdo);

        if (__unlikely(co_csdo_up_ind(sdo, idx, subidx, con, data) == -1))
                return -1;

        trace("CSDO: %04X:%02X: initiate upload", idx, subidx);

        if (sdo->timeout)
                can_timer_timeout(sdo->timer, sdo->net, sdo->timeout);
        co_csdo_send_up_ini_req(sdo);
        co_csdo_enter(sdo, co_csdo_up_ini_state);

        return 0;
}

int
co_csdo_blk_dn_req(co_csdo_t *sdo, co_unsigned16_t idx, co_unsigned8_t subidx,
                const void *ptr, size_t n, co_csdo_dn_con_t *con, void *data)
{
        assert(sdo);

        // clang-format off
        if (__unlikely(co_csdo_dn_ind(sdo, idx, subidx, ptr, n, con, data)
                        == -1))
                // clang-format on
                return -1;

        trace("CSDO: %04X:%02X: initiate block download", idx, subidx);

        if (sdo->timeout)
                can_timer_timeout(sdo->timer, sdo->net, sdo->timeout);
        co_csdo_send_blk_dn_ini_req(sdo);
        co_csdo_enter(sdo, co_csdo_blk_dn_ini_state);

        return 0;
}

int
co_csdo_blk_up_req(co_csdo_t *sdo, co_unsigned16_t idx, co_unsigned8_t subidx,
                uint8_t pst, co_csdo_up_con_t *con, void *data)
{
        assert(sdo);

        if (__unlikely(co_csdo_up_ind(sdo, idx, subidx, con, data) == -1))
                return -1;

        trace("CSDO: %04X:%02X: initiate block upload", idx, subidx);

        // Use the maximum block size by default.
        sdo->blksize = CO_SDO_MAX_SEQNO;

        if (sdo->timeout)
                can_timer_timeout(sdo->timer, sdo->net, sdo->timeout);
        co_csdo_send_blk_up_ini_req(sdo, pst);
        co_csdo_enter(sdo, co_csdo_blk_up_ini_state);

        return 0;
}

static int
co_csdo_update(co_csdo_t *sdo)
{
        assert(sdo);

        // Abort any ongoing transfer.
        co_csdo_abort_req(sdo, CO_SDO_AC_NO_SDO);

        int valid_req = !(sdo->par.cobid_req & CO_SDO_COBID_VALID);
        int valid_res = !(sdo->par.cobid_res & CO_SDO_COBID_VALID);
        if (valid_req && valid_res) {
                uint32_t id = sdo->par.cobid_res;
                uint8_t flags = 0;
                if (id & CO_SDO_COBID_FRAME) {
                        id &= CAN_MASK_EID;
                        flags |= CAN_FLAG_IDE;
                } else {
                        id &= CAN_MASK_BID;
                }
                can_recv_start(sdo->recv, sdo->net, id, flags);
        } else {
                can_recv_stop(sdo->recv);
        }

        return 0;
}

static co_unsigned32_t
co_1280_dn_ind(co_sub_t *sub, struct co_sdo_req *req, void *data)
{
        assert(sub);
        assert(req);
        co_csdo_t *sdo = data;
        assert(sdo);
        assert(co_obj_get_idx(co_sub_get_obj(sub)) == 0x1280 + sdo->num - 1);

        co_unsigned32_t ac = 0;

        co_unsigned16_t type = co_sub_get_type(sub);
        union co_val val;
        if (__unlikely(co_sdo_req_dn_val(req, type, &val, &ac) == -1))
                return ac;

        switch (co_sub_get_subidx(sub)) {
        case 0: ac = CO_SDO_AC_NO_WRITE; goto error;
        case 1: {
                assert(type == CO_DEFTYPE_UNSIGNED32);
                co_unsigned32_t cobid = val.u32;
                co_unsigned32_t cobid_old = co_sub_get_val_u32(sub);
                if (cobid == cobid_old)
                        goto error;

                // The CAN-ID cannot be changed when the SDO is and remains
                // valid.
                int valid = !(cobid & CO_SDO_COBID_VALID);
                int valid_old = !(cobid_old & CO_SDO_COBID_VALID);
                uint32_t canid = cobid & CAN_MASK_EID;
                uint32_t canid_old = cobid_old & CAN_MASK_EID;
                if (__unlikely(valid && valid_old && canid != canid_old)) {
                        ac = CO_SDO_AC_PARAM_VAL;
                        goto error;
                }

                // A 29-bit CAN-ID is only valid if the frame bit is set.
                // clang-format off
                if (__unlikely(!(cobid & CO_SDO_COBID_FRAME)
                                && (cobid & (CAN_MASK_EID ^ CAN_MASK_BID)))) {
                        // clang-format on
                        ac = CO_SDO_AC_PARAM_VAL;
                        goto error;
                }

                sdo->par.cobid_req = cobid;
                break;
        }
        case 2: {
                assert(type == CO_DEFTYPE_UNSIGNED32);
                co_unsigned32_t cobid = val.u32;
                co_unsigned32_t cobid_old = co_sub_get_val_u32(sub);
                if (cobid == cobid_old)
                        goto error;

                // The CAN-ID cannot be changed when the SDO is and remains
                // valid.
                int valid = !(cobid & CO_SDO_COBID_VALID);
                int valid_old = !(cobid_old & CO_SDO_COBID_VALID);
                uint32_t canid = cobid & CAN_MASK_EID;
                uint32_t canid_old = cobid_old & CAN_MASK_EID;
                if (__unlikely(valid && valid_old && canid != canid_old)) {
                        ac = CO_SDO_AC_PARAM_VAL;
                        goto error;
                }

                // A 29-bit CAN-ID is only valid if the frame bit is set.
                // clang-format off
                if (__unlikely(!(cobid & CO_SDO_COBID_FRAME)
                                && (cobid & (CAN_MASK_EID ^ CAN_MASK_BID)))) {
                        // clang-format on
                        ac = CO_SDO_AC_PARAM_VAL;
                        goto error;
                }

                sdo->par.cobid_res = cobid;
                break;
        }
        case 3: {
                assert(type == CO_DEFTYPE_UNSIGNED8);
                co_unsigned8_t id = val.u8;
                co_unsigned8_t id_old = co_sub_get_val_u8(sub);
                if (id == id_old)
                        goto error;

                sdo->par.id = id;
                break;
        }
        default: ac = CO_SDO_AC_NO_SUB; goto error;
        }

        co_sub_dn(sub, &val);
        co_val_fini(type, &val);

        co_csdo_update(sdo);
        return 0;

error:
        co_val_fini(type, &val);
        return ac;
}

static int
co_csdo_recv(const struct can_msg *msg, void *data)
{
        assert(msg);
        co_csdo_t *sdo = data;
        assert(sdo);

        // Ignore remote frames.
        if (__unlikely(msg->flags & CAN_FLAG_RTR))
                return 0;

#ifndef LELY_NO_CANFD
        // Ignore CAN FD format frames.
        if (__unlikely(msg->flags & CAN_FLAG_EDL))
                return 0;
#endif

        co_csdo_emit_recv(sdo, msg);

        return 0;
}

static int
co_csdo_timer(const struct timespec *tp, void *data)
{
        assert(tp);
        co_csdo_t *sdo = data;
        assert(sdo);

        co_csdo_emit_time(sdo, tp);

        return 0;
}

static inline void
co_csdo_enter(co_csdo_t *sdo, co_csdo_state_t *next)
{
        assert(sdo);
        assert(sdo->state);

        while (next) {
                co_csdo_state_t *prev = sdo->state;
                sdo->state = next;

                if (prev->on_leave)
                        prev->on_leave(sdo);

                next = next->on_enter ? next->on_enter(sdo) : NULL;
        }
}

static inline void
co_csdo_emit_abort(co_csdo_t *sdo, co_unsigned32_t ac)
{
        assert(sdo);
        assert(sdo->state);
        assert(sdo->state->on_abort);

        co_csdo_enter(sdo, sdo->state->on_abort(sdo, ac));
}

static inline void
co_csdo_emit_time(co_csdo_t *sdo, const struct timespec *tp)
{
        assert(sdo);
        assert(sdo->state);
        assert(sdo->state->on_time);

        co_csdo_enter(sdo, sdo->state->on_time(sdo, tp));
}

static inline void
co_csdo_emit_recv(co_csdo_t *sdo, const struct can_msg *msg)
{
        assert(sdo);
        assert(sdo->state);
        assert(sdo->state->on_recv);

        co_csdo_enter(sdo, sdo->state->on_recv(sdo, msg));
}

static co_csdo_state_t *
co_csdo_wait_on_abort(co_csdo_t *sdo, co_unsigned32_t ac)
{
        (void)sdo;
        (void)ac;

        return NULL;
}

static co_csdo_state_t *
co_csdo_wait_on_recv(co_csdo_t *sdo, const struct can_msg *msg)
{
        assert(sdo);
        assert(msg);

        if (__unlikely(msg->len < 1))
                return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);
        uint8_t cs = msg->data[0];

        co_unsigned32_t ac;
        switch (cs & CO_SDO_CS_MASK) {
        case CO_SDO_CS_ABORT:
                ac = msg->len < 8 ? 0 : ldle_u32(msg->data + 4);
                return co_csdo_abort_ind(sdo, ac ? ac : CO_SDO_AC_ERROR);
        default: return NULL;
        }
}

static co_csdo_state_t *
co_csdo_abort_on_enter(co_csdo_t *sdo)
{
        (void)sdo;

        can_timer_stop(sdo->timer);

        return co_csdo_wait_state;
}

static void
co_csdo_abort_on_leave(co_csdo_t *sdo)
{
        assert(sdo);

        co_csdo_dn_con_t *dn_con = sdo->dn_con;
        sdo->dn_con = NULL;
        void *dn_con_data = sdo->dn_con_data;
        sdo->dn_con_data = NULL;

        co_csdo_up_con_t *up_con = sdo->up_con;
        sdo->up_con = NULL;
        void *up_con_data = sdo->up_con_data;
        sdo->up_con_data = NULL;

        if (dn_con) {
                dn_con(sdo, sdo->idx, sdo->subidx, sdo->ac, dn_con_data);
        } else if (up_con) {
                up_con(sdo, sdo->idx, sdo->subidx, sdo->ac,
                                sdo->ac ? NULL : sdo->buf.begin,
                                sdo->ac ? 0 : membuf_size(&sdo->buf),
                                up_con_data);
        }
}

static co_csdo_state_t *
co_csdo_dn_ini_on_abort(co_csdo_t *sdo, co_unsigned32_t ac)
{
        return co_csdo_abort_res(sdo, ac);
}

static co_csdo_state_t *
co_csdo_dn_ini_on_time(co_csdo_t *sdo, const struct timespec *tp)
{
        (void)tp;

        return co_csdo_abort_res(sdo, CO_SDO_AC_TIMEOUT);
}

static co_csdo_state_t *
co_csdo_dn_ini_on_recv(co_csdo_t *sdo, const struct can_msg *msg)
{
        assert(sdo);
        assert(msg);

        if (__unlikely(msg->len < 1))
                return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);
        uint8_t cs = msg->data[0];

        // Check the server command specifier.
        co_unsigned32_t ac;
        switch (cs & CO_SDO_CS_MASK) {
        case CO_SDO_SCS_DN_INI_RES: break;
        case CO_SDO_CS_ABORT:
                ac = msg->len < 8 ? 0 : ldle_u32(msg->data + 4);
                return co_csdo_abort_ind(sdo, ac ? ac : CO_SDO_AC_ERROR);
        default: return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);
        }

        // Check the object index and sub-index.
        if (__unlikely(msg->len < 4))
                return co_csdo_abort_res(sdo, CO_SDO_AC_ERROR);
        co_unsigned16_t idx = ldle_u16(msg->data + 1);
        co_unsigned8_t subidx = msg->data[3];
        if (__unlikely(idx != sdo->idx || subidx != sdo->subidx))
                return co_csdo_abort_res(sdo, CO_SDO_AC_ERROR);

        return co_csdo_dn_seg_state;
}

static co_csdo_state_t *
co_csdo_dn_seg_on_enter(co_csdo_t *sdo)
{
        assert(sdo);

        size_t n = sdo->size - membuf_size(&sdo->buf);
        // 0-byte values cannot be sent using expedited transfer, so we need to
        // send one empty segment. We use the toggle bit to check if it was
        // sent.
        if (n || (!sdo->size && !sdo->toggle)) {
                if (sdo->timeout)
                        can_timer_timeout(sdo->timer, sdo->net, sdo->timeout);
                co_csdo_send_dn_seg_req(sdo, MIN(n, 7), n <= 7);
                return NULL;
        } else {
                return co_csdo_abort_ind(sdo, 0);
        }
}

static co_csdo_state_t *
co_csdo_dn_seg_on_abort(co_csdo_t *sdo, co_unsigned32_t ac)
{
        return co_csdo_abort_res(sdo, ac);
}

static co_csdo_state_t *
co_csdo_dn_seg_on_time(co_csdo_t *sdo, const struct timespec *tp)
{
        (void)tp;

        return co_csdo_abort_res(sdo, CO_SDO_AC_TIMEOUT);
}

static co_csdo_state_t *
co_csdo_dn_seg_on_recv(co_csdo_t *sdo, const struct can_msg *msg)
{
        assert(sdo);
        assert(msg);

        if (__unlikely(msg->len < 1))
                return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);
        uint8_t cs = msg->data[0];

        // Check the server command specifier.
        co_unsigned32_t ac;
        switch (cs & CO_SDO_CS_MASK) {
        case CO_SDO_SCS_DN_SEG_RES: break;
        case CO_SDO_CS_ABORT:
                ac = msg->len < 8 ? 0 : ldle_u32(msg->data + 4);
                return co_csdo_abort_ind(sdo, ac ? ac : CO_SDO_AC_ERROR);
        default: return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);
        }

        // Check the value of the toggle bit.
        if (__unlikely((cs & CO_SDO_SEG_TOGGLE) == sdo->toggle))
                return co_csdo_abort_res(sdo, CO_SDO_AC_TOGGLE);

        return co_csdo_dn_seg_state;
}

static co_csdo_state_t *
co_csdo_up_ini_on_abort(co_csdo_t *sdo, co_unsigned32_t ac)
{
        return co_csdo_abort_res(sdo, ac);
}

static co_csdo_state_t *
co_csdo_up_ini_on_time(co_csdo_t *sdo, const struct timespec *tp)
{
        (void)tp;

        return co_csdo_abort_res(sdo, CO_SDO_AC_TIMEOUT);
}

static co_csdo_state_t *
co_csdo_up_ini_on_recv(co_csdo_t *sdo, const struct can_msg *msg)
{
        assert(sdo);
        assert(msg);

        if (__unlikely(msg->len < 1))
                return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);
        uint8_t cs = msg->data[0];

        // Check the server command specifier.
        co_unsigned32_t ac;
        switch (cs & CO_SDO_CS_MASK) {
        case CO_SDO_SCS_UP_INI_RES: break;
        case CO_SDO_CS_ABORT:
                ac = msg->len < 8 ? 0 : ldle_u32(msg->data + 4);
                return co_csdo_abort_ind(sdo, ac ? ac : CO_SDO_AC_ERROR);
        default: return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);
        }

        // Check the object index and sub-index.
        if (__unlikely(msg->len < 4))
                return co_csdo_abort_res(sdo, CO_SDO_AC_ERROR);
        co_unsigned16_t idx = ldle_u16(msg->data + 1);
        co_unsigned8_t subidx = msg->data[3];
        if (__unlikely(idx != sdo->idx || subidx != sdo->subidx))
                return co_csdo_abort_res(sdo, CO_SDO_AC_ERROR);

        // Obtain the size from the command specifier.
        int exp = !!(cs & CO_SDO_INI_SIZE_EXP);
        sdo->size = 0;
        if (exp) {
                if (cs & CO_SDO_INI_SIZE_IND)
                        sdo->size = CO_SDO_INI_SIZE_EXP_GET(cs);
                else
                        sdo->size = msg->len - 4;
        } else if (cs & CO_SDO_INI_SIZE_IND) {
                if (__unlikely(msg->len < 8))
                        return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);
                sdo->size = ldle_u32(msg->data + 4);
        }

        // Allocate the buffer.
        if (__unlikely(sdo->size && !membuf_reserve(&sdo->buf, sdo->size)))
                return co_csdo_abort_res(sdo, CO_SDO_AC_NO_MEM);

        if (exp) {
                // Perform an expedited transfer.
                memcpy(sdo->buf.cur, msg->data + 4, sdo->size);
                sdo->buf.cur += sdo->size;

                return co_csdo_abort_ind(sdo, 0);
        } else {
                if (sdo->size && sdo->up_ind)
                        sdo->up_ind(sdo, sdo->idx, sdo->subidx, sdo->size, 0,
                                        sdo->up_ind_data);
                if (sdo->timeout)
                        can_timer_timeout(sdo->timer, sdo->net, sdo->timeout);
                co_csdo_send_up_seg_req(sdo);
                return co_csdo_up_seg_state;
        }
}

static co_csdo_state_t *
co_csdo_up_seg_on_abort(co_csdo_t *sdo, co_unsigned32_t ac)
{
        return co_csdo_abort_res(sdo, ac);
}

static co_csdo_state_t *
co_csdo_up_seg_on_time(co_csdo_t *sdo, const struct timespec *tp)
{
        (void)tp;

        return co_csdo_abort_res(sdo, CO_SDO_AC_TIMEOUT);
}

static co_csdo_state_t *
co_csdo_up_seg_on_recv(co_csdo_t *sdo, const struct can_msg *msg)
{
        assert(sdo);
        assert(msg);

        if (__unlikely(msg->len < 1))
                return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);
        uint8_t cs = msg->data[0];

        // Check the server command specifier.
        co_unsigned32_t ac;
        switch (cs & CO_SDO_CS_MASK) {
        case CO_SDO_SCS_UP_SEG_RES: break;
        case CO_SDO_CS_ABORT:
                ac = msg->len < 8 ? 0 : ldle_u32(msg->data + 4);
                return co_csdo_abort_ind(sdo, ac ? ac : CO_SDO_AC_ERROR);
        default: return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);
        }

        // Check the value of the toggle bit.
        if (__unlikely((cs & CO_SDO_SEG_TOGGLE) == sdo->toggle))
                return co_csdo_up_seg_state;

        // Obtain the size of the segment.
        size_t n = CO_SDO_SEG_SIZE_GET(cs);
        if (__unlikely(msg->len < 1 + n))
                return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);
        int last = !!(cs & CO_SDO_SEG_LAST);

        // Reserve room in the buffer, if necessary.
        if (__unlikely(n && !membuf_reserve(&sdo->buf, n)))
                return co_csdo_abort_res(sdo, CO_SDO_AC_NO_MEM);

        // Copy the data to the buffer.
        memcpy(sdo->buf.cur, msg->data + 1, n);
        sdo->buf.cur += n;

        if ((last || !(membuf_size(&sdo->buf) % (CO_SDO_MAX_SEQNO * 7)))
                        && sdo->size && sdo->up_ind)
                sdo->up_ind(sdo, sdo->idx, sdo->subidx, sdo->size,
                                membuf_size(&sdo->buf), sdo->up_ind_data);
        if (last) {
                // clang-format off
                if (__unlikely(sdo->size
                                && membuf_size(&sdo->buf) != sdo->size))
                        // clang-format on
                        return co_csdo_abort_res(sdo, CO_SDO_AC_TYPE_LEN);
                return co_csdo_abort_ind(sdo, 0);
        } else {
                if (sdo->timeout)
                        can_timer_timeout(sdo->timer, sdo->net, sdo->timeout);
                co_csdo_send_up_seg_req(sdo);
                return co_csdo_up_seg_state;
        }
}

static co_csdo_state_t *
co_csdo_blk_dn_ini_on_abort(co_csdo_t *sdo, co_unsigned32_t ac)
{
        return co_csdo_abort_res(sdo, ac);
}

static co_csdo_state_t *
co_csdo_blk_dn_ini_on_time(co_csdo_t *sdo, const struct timespec *tp)
{
        (void)tp;

        return co_csdo_abort_res(sdo, CO_SDO_AC_TIMEOUT);
}

static co_csdo_state_t *
co_csdo_blk_dn_ini_on_recv(co_csdo_t *sdo, const struct can_msg *msg)
{
        assert(sdo);
        assert(msg);

        if (__unlikely(msg->len < 1))
                return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);
        uint8_t cs = msg->data[0];

        // Check the server command specifier.
        co_unsigned32_t ac;
        switch (cs & CO_SDO_CS_MASK) {
        case CO_SDO_SCS_BLK_DN_RES: break;
        case CO_SDO_CS_ABORT:
                ac = msg->len < 8 ? 0 : ldle_u32(msg->data + 4);
                return co_csdo_abort_ind(sdo, ac ? ac : CO_SDO_AC_ERROR);
        default: return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);
        }

        // Check the server subcommand.
        if (__unlikely((cs & CO_SDO_SC_MASK) != CO_SDO_SC_INI_BLK))
                return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);

        // Check if the server supports generating a CRC.
        sdo->crc = !!(cs & CO_SDO_BLK_CRC);

        // Check the object index and sub-index.
        if (__unlikely(msg->len < 4))
                return co_csdo_abort_res(sdo, CO_SDO_AC_ERROR);
        co_unsigned16_t idx = ldle_u16(msg->data + 1);
        co_unsigned8_t subidx = msg->data[3];
        if (__unlikely(idx != sdo->idx || subidx != sdo->subidx))
                return co_csdo_abort_res(sdo, CO_SDO_AC_ERROR);

        // Load the number of segments per block.
        if (__unlikely(msg->len < 5))
                return co_csdo_abort_res(sdo, CO_SDO_AC_BLK_SIZE);
        sdo->blksize = msg->data[4];
        if (__unlikely(!sdo->blksize || sdo->blksize > CO_SDO_MAX_SEQNO))
                return co_csdo_abort_res(sdo, CO_SDO_AC_BLK_SIZE);

        return co_csdo_blk_dn_sub_state;
}

static co_csdo_state_t *
co_csdo_blk_dn_sub_on_enter(co_csdo_t *sdo)
{
        assert(sdo);

        size_t n = sdo->size - membuf_size(&sdo->buf);
        sdo->blksize = (uint8_t)MIN((n + 6) / 7, sdo->blksize);

        if (sdo->size && sdo->dn_ind)
                sdo->dn_ind(sdo, sdo->idx, sdo->subidx, sdo->size,
                                membuf_size(&sdo->buf), sdo->dn_ind_data);
        if (sdo->timeout)
                can_timer_timeout(sdo->timer, sdo->net, sdo->timeout);
        if (n) {
                // Send all segments in the current block.
                for (uint8_t seqno = 1; seqno <= sdo->blksize; seqno++)
                        co_csdo_send_blk_dn_sub_req(sdo, seqno);
                return NULL;
        } else {
                co_csdo_send_blk_dn_end_req(sdo);
                return co_csdo_blk_dn_end_state;
        }
}

static co_csdo_state_t *
co_csdo_blk_dn_sub_on_abort(co_csdo_t *sdo, co_unsigned32_t ac)
{
        return co_csdo_abort_res(sdo, ac);
}

static co_csdo_state_t *
co_csdo_blk_dn_sub_on_time(co_csdo_t *sdo, const struct timespec *tp)
{
        (void)tp;

        return co_csdo_abort_res(sdo, CO_SDO_AC_TIMEOUT);
}

static co_csdo_state_t *
co_csdo_blk_dn_sub_on_recv(co_csdo_t *sdo, const struct can_msg *msg)
{
        assert(sdo);
        assert(msg);

        if (__unlikely(msg->len < 1))
                return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);
        uint8_t cs = msg->data[0];

        // Check the server command specifier.
        co_unsigned32_t ac;
        switch (cs & CO_SDO_CS_MASK) {
        case CO_SDO_SCS_BLK_DN_RES: break;
        case CO_SDO_CS_ABORT:
                ac = msg->len < 8 ? 0 : ldle_u32(msg->data + 4);
                return co_csdo_abort_ind(sdo, ac ? ac : CO_SDO_AC_ERROR);
        default: return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);
        }

        // Check the server subcommand.
        if (__unlikely((cs & CO_SDO_SC_MASK) != CO_SDO_SC_BLK_RES))
                return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);

        if (__unlikely(msg->len < 3))
                return co_csdo_abort_res(sdo, CO_SDO_AC_BLK_SEQ);
        uint8_t ackseq = msg->data[1];
        if (ackseq < sdo->blksize) {
                // If the sequence number of the last segment that was
                // successfully received is smaller than the number of segments
                // in the block, resend the missing segments.
                size_t n = (membuf_size(&sdo->buf) + 6) / 7;
                assert(n >= sdo->blksize);
                n -= sdo->blksize - ackseq;
                sdo->buf.cur = sdo->buf.begin + n * 7;
        }

        // Read the number of segments in the next block.
        if (__unlikely(msg->len < 3))
                return co_csdo_abort_res(sdo, CO_SDO_AC_BLK_SIZE);
        sdo->blksize = msg->data[2];
        if (__unlikely(!sdo->blksize || sdo->blksize > CO_SDO_MAX_SEQNO))
                return co_csdo_abort_res(sdo, CO_SDO_AC_BLK_SIZE);

        return co_csdo_blk_dn_sub_state;
}

static co_csdo_state_t *
co_csdo_blk_dn_end_on_abort(co_csdo_t *sdo, co_unsigned32_t ac)
{
        return co_csdo_abort_res(sdo, ac);
}

static co_csdo_state_t *
co_csdo_blk_dn_end_on_time(co_csdo_t *sdo, const struct timespec *tp)
{
        (void)tp;

        return co_csdo_abort_res(sdo, CO_SDO_AC_TIMEOUT);
}

static co_csdo_state_t *
co_csdo_blk_dn_end_on_recv(co_csdo_t *sdo, const struct can_msg *msg)
{
        assert(sdo);
        assert(msg);

        if (__unlikely(msg->len < 1))
                return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);
        uint8_t cs = msg->data[0];

        // Check the server command specifier.
        co_unsigned32_t ac;
        switch (cs & CO_SDO_CS_MASK) {
        case CO_SDO_SCS_BLK_DN_RES: break;
        case CO_SDO_CS_ABORT:
                ac = msg->len < 8 ? 0 : ldle_u32(msg->data + 4);
                return co_csdo_abort_ind(sdo, ac ? ac : CO_SDO_AC_ERROR);
        default: return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);
        }

        // Check the server subcommand.
        if (__unlikely((cs & CO_SDO_SC_MASK) != CO_SDO_SC_END_BLK))
                return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);

        return co_csdo_abort_ind(sdo, 0);
}

static co_csdo_state_t *
co_csdo_blk_up_ini_on_abort(co_csdo_t *sdo, co_unsigned32_t ac)
{
        return co_csdo_abort_res(sdo, ac);
}

static co_csdo_state_t *
co_csdo_blk_up_ini_on_time(co_csdo_t *sdo, const struct timespec *tp)
{
        (void)tp;

        return co_csdo_abort_res(sdo, CO_SDO_AC_TIMEOUT);
}

static co_csdo_state_t *
co_csdo_blk_up_ini_on_recv(co_csdo_t *sdo, const struct can_msg *msg)
{
        assert(sdo);
        assert(msg);

        if (__unlikely(msg->len < 1))
                return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);
        uint8_t cs = msg->data[0];

        // Check the server command specifier.
        co_unsigned32_t ac;
        switch (cs & CO_SDO_CS_MASK) {
        case CO_SDO_SCS_UP_INI_RES:
                // In case of a server-induced protocol switch, fall back to the
                // SDO upload protocol.
                return co_csdo_up_ini_on_recv(sdo, msg);
        case CO_SDO_SCS_BLK_UP_RES: break;
        case CO_SDO_CS_ABORT:
                ac = msg->len < 8 ? 0 : ldle_u32(msg->data + 4);
                return co_csdo_abort_ind(sdo, ac ? ac : CO_SDO_AC_ERROR);
        default: return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);
        }

        // Check the server subcommand.
        if (__unlikely((cs & 0x01) != CO_SDO_SC_INI_BLK))
                return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);

        // Check if the server supports generating a CRC.
        sdo->crc = !!(cs & CO_SDO_BLK_CRC);

        // Check the object index and sub-index.
        if (__unlikely(msg->len < 4))
                return co_csdo_abort_res(sdo, CO_SDO_AC_ERROR);
        co_unsigned16_t idx = ldle_u16(msg->data + 1);
        co_unsigned8_t subidx = msg->data[3];
        if (__unlikely(idx != sdo->idx || subidx != sdo->subidx))
                return co_csdo_abort_res(sdo, CO_SDO_AC_ERROR);

        // Obtain the data set size.
        sdo->size = 0;
        if (cs & CO_SDO_BLK_SIZE_IND) {
                if (__unlikely(msg->len < 8))
                        return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);
                sdo->size = ldle_u32(msg->data + 4);
        }

        // Allocate the buffer.
        if (__unlikely(sdo->size && !membuf_reserve(&sdo->buf, sdo->size)))
                return co_csdo_abort_res(sdo, CO_SDO_AC_NO_MEM);

        sdo->ackseq = 0;

        if (sdo->timeout)
                can_timer_timeout(sdo->timer, sdo->net, sdo->timeout);
        co_csdo_send_start_up_req(sdo);
        return co_csdo_blk_up_sub_state;
}

static co_csdo_state_t *
co_csdo_blk_up_sub_on_abort(co_csdo_t *sdo, co_unsigned32_t ac)
{
        return co_csdo_abort_res(sdo, ac);
}

static co_csdo_state_t *
co_csdo_blk_up_sub_on_time(co_csdo_t *sdo, const struct timespec *tp)
{
        (void)tp;

        return co_csdo_abort_res(sdo, CO_SDO_AC_TIMEOUT);
}

static co_csdo_state_t *
co_csdo_blk_up_sub_on_recv(co_csdo_t *sdo, const struct can_msg *msg)
{
        assert(sdo);
        assert(msg);

        if (__unlikely(msg->len < 1))
                return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);
        uint8_t cs = msg->data[0];

        if (__unlikely(cs == CO_SDO_CS_ABORT)) {
                co_unsigned32_t ac = msg->len < 8 ? 0 : ldle_u32(msg->data + 4);
                return co_csdo_abort_ind(sdo, ac ? ac : CO_SDO_AC_ERROR);
        }

        uint8_t seqno = cs & ~CO_SDO_SEQ_LAST;
        int last = !!(cs & CO_SDO_SEQ_LAST);

        // Only accept sequential segments. Dropped segments will be resent
        // after the confirmation message.
        if (seqno == sdo->ackseq + 1) {
                sdo->ackseq++;

                // Reserve room in the buffer, if necessary.
                if (__unlikely(!membuf_reserve(&sdo->buf, 7)))
                        return co_csdo_abort_res(sdo, CO_SDO_AC_NO_MEM);

                // Copy the data to the buffer.
                memcpy(sdo->buf.cur, msg->data + 1, 7);
                sdo->buf.cur += 7;
        }

        // If this is the last segment in the block, send a confirmation.
        if (seqno == sdo->blksize || last) {
                co_csdo_send_blk_up_sub_res(sdo);
                sdo->ackseq = 0;
        }

        if (sdo->timeout)
                can_timer_timeout(sdo->timer, sdo->net, sdo->timeout);
        return last ? co_csdo_blk_up_end_state : co_csdo_blk_up_sub_state;
}

static co_csdo_state_t *
co_csdo_blk_up_end_on_abort(co_csdo_t *sdo, co_unsigned32_t ac)
{
        return co_csdo_abort_res(sdo, ac);
}

static co_csdo_state_t *
co_csdo_blk_up_end_on_time(co_csdo_t *sdo, const struct timespec *tp)
{
        (void)tp;

        return co_csdo_abort_res(sdo, CO_SDO_AC_TIMEOUT);
}

static co_csdo_state_t *
co_csdo_blk_up_end_on_recv(co_csdo_t *sdo, const struct can_msg *msg)
{
        assert(sdo);
        assert(msg);

        if (__unlikely(msg->len < 1))
                return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);
        uint8_t cs = msg->data[0];

        // Check the server command specifier.
        co_unsigned32_t ac;
        switch (cs & CO_SDO_CS_MASK) {
        case CO_SDO_SCS_BLK_UP_RES: break;
        case CO_SDO_CS_ABORT:
                ac = msg->len < 8 ? 0 : ldle_u32(msg->data + 4);
                return co_csdo_abort_ind(sdo, ac ? ac : CO_SDO_AC_ERROR);
        default: return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);
        }

        // Check the server subcommand.
        if (__unlikely((cs & CO_SDO_SC_MASK) != CO_SDO_SC_END_BLK))
                return co_csdo_abort_res(sdo, CO_SDO_AC_NO_CS);

        // Discard the bytes in the last segment that did not contain data.
        sdo->buf.cur -= 7 - CO_SDO_BLK_SIZE_GET(cs);

        // Check the total length.
        if (__unlikely(sdo->size && membuf_size(&sdo->buf) != sdo->size))
                return co_csdo_abort_res(sdo, CO_SDO_AC_TYPE_LEN);

        // Check the CRC.
        if (sdo->crc) {
                uint16_t crc = ldle_u16(msg->data + 1);
                if (__unlikely(crc != co_crc(0, sdo->buf.begin, sdo->size)))
                        return co_csdo_abort_res(sdo, CO_SDO_AC_BLK_CRC);
        }

        co_csdo_send_blk_up_end_res(sdo);
        return co_csdo_abort_ind(sdo, 0);
}

static co_csdo_state_t *
co_csdo_abort_ind(co_csdo_t *sdo, co_unsigned32_t ac)
{
        assert(sdo);

        sdo->ac = ac;
        return co_csdo_abort_state;
}

static co_csdo_state_t *
co_csdo_abort_res(co_csdo_t *sdo, co_unsigned32_t ac)
{
        co_csdo_send_abort(sdo, ac);
        return co_csdo_abort_ind(sdo, ac);
}

static int
co_csdo_dn_ind(co_csdo_t *sdo, co_unsigned16_t idx, co_unsigned8_t subidx,
                const void *ptr, size_t n, co_csdo_dn_con_t *con, void *data)
{
        assert(sdo);

        // Check whether the SDO exists and is valid.
        int valid_req = !(sdo->par.cobid_req & CO_SDO_COBID_VALID);
        int valid_res = !(sdo->par.cobid_res & CO_SDO_COBID_VALID);
        if (__unlikely(!valid_req || !valid_res)) {
                set_errnum(ERRNUM_INVAL);
                return -1;
        }

        // Check whether we are in the waiting state.
        if (__unlikely(!co_csdo_is_idle(sdo))) {
                set_errnum(ERRNUM_INVAL);
                return -1;
        }

        sdo->ac = 0;
        sdo->idx = idx;
        sdo->subidx = subidx;
        sdo->size = ptr ? n : 0;

        sdo->toggle = 0;
        sdo->blksize = 0;
        sdo->ackseq = 0;
        sdo->crc = 0;

        // Allocate the buffer.
        membuf_clear(&sdo->buf);
        if (__unlikely(sdo->size && !membuf_reserve(&sdo->buf, sdo->size)))
                return -1;

        // Copy the bytes to the buffer.
        if (ptr)
                memcpy(sdo->buf.cur, ptr, sdo->size);

        sdo->dn_con = con;
        sdo->dn_con_data = data;

        sdo->up_con = NULL;
        sdo->up_con_data = NULL;

        return 0;
}

static int
co_csdo_up_ind(co_csdo_t *sdo, co_unsigned16_t idx, co_unsigned8_t subidx,
                co_csdo_up_con_t *con, void *data)
{
        assert(sdo);

        // Check whether the SDO exists and is valid.
        int valid_req = !(sdo->par.cobid_req & CO_SDO_COBID_VALID);
        int valid_res = !(sdo->par.cobid_res & CO_SDO_COBID_VALID);
        if (__unlikely(!valid_req || !valid_res)) {
                set_errnum(ERRNUM_INVAL);
                return -1;
        }

        // Check whether we are in the waiting state.
        if (__unlikely(!co_csdo_is_idle(sdo))) {
                set_errnum(ERRNUM_INVAL);
                return -1;
        }

        sdo->ac = 0;
        sdo->idx = idx;
        sdo->subidx = subidx;
        sdo->size = 0;

        sdo->toggle = 0;
        sdo->blksize = 0;
        sdo->ackseq = 0;
        sdo->crc = 0;

        membuf_clear(&sdo->buf);

        sdo->dn_con = NULL;
        sdo->dn_con_data = NULL;

        sdo->up_con = con;
        sdo->up_con_data = data;

        return 0;
}

static void
co_csdo_send_abort(co_csdo_t *sdo, co_unsigned32_t ac)
{
        assert(sdo);

        struct can_msg msg;
        co_csdo_init_ini_req(sdo, &msg, CO_SDO_CS_ABORT);
        stle_u32(msg.data + 4, ac);
        can_net_send(sdo->net, &msg);
}

static void
co_csdo_send_dn_exp_req(co_csdo_t *sdo)
{
        assert(sdo);
        assert(sdo->size && sdo->size <= 4);

        uint8_t cs = CO_SDO_CCS_DN_INI_REQ | CO_SDO_INI_SIZE_EXP_SET(sdo->size);

        struct can_msg msg;
        co_csdo_init_ini_req(sdo, &msg, cs);
        memcpy(msg.data + 4, sdo->buf.cur, sdo->size);
        sdo->buf.cur += sdo->size;
        can_net_send(sdo->net, &msg);
}

static void
co_csdo_send_dn_ini_req(co_csdo_t *sdo)
{
        assert(sdo);
        assert(!sdo->size || sdo->size > 4);

        uint8_t cs = CO_SDO_CCS_DN_INI_REQ | CO_SDO_INI_SIZE_IND;

        struct can_msg msg;
        co_csdo_init_ini_req(sdo, &msg, cs);
        stle_u32(msg.data + 4, sdo->size);
        can_net_send(sdo->net, &msg);

        if (sdo->size && sdo->dn_ind)
                sdo->dn_ind(sdo, sdo->idx, sdo->subidx, sdo->size, 0,
                                sdo->dn_ind_data);
}

static void
co_csdo_send_dn_seg_req(co_csdo_t *sdo, uint32_t n, int last)
{
        assert(sdo);
        assert(n <= 7);

        uint8_t cs = CO_SDO_CCS_DN_SEG_REQ | sdo->toggle
                        | CO_SDO_SEG_SIZE_SET(n);
        sdo->toggle ^= CO_SDO_SEG_TOGGLE;
        if (last)
                cs |= CO_SDO_SEG_LAST;

        struct can_msg msg;
        co_csdo_init_seg_req(sdo, &msg, cs);
        memcpy(msg.data + 1, sdo->buf.cur, n);
        sdo->buf.cur += n;
        can_net_send(sdo->net, &msg);

        if ((last || !(membuf_size(&sdo->buf) % (CO_SDO_MAX_SEQNO * 7)))
                        && sdo->size && sdo->dn_ind)
                sdo->dn_ind(sdo, sdo->idx, sdo->subidx, sdo->size,
                                membuf_size(&sdo->buf), sdo->dn_ind_data);
}

static void
co_csdo_send_up_ini_req(co_csdo_t *sdo)
{
        assert(sdo);

        uint8_t cs = CO_SDO_CCS_UP_INI_REQ;

        struct can_msg msg;
        co_csdo_init_ini_req(sdo, &msg, cs);
        can_net_send(sdo->net, &msg);
}

static void
co_csdo_send_up_seg_req(co_csdo_t *sdo)
{
        assert(sdo);

        uint8_t cs = CO_SDO_CCS_UP_SEG_REQ | sdo->toggle;
        sdo->toggle ^= CO_SDO_SEG_TOGGLE;

        struct can_msg msg;
        co_csdo_init_seg_req(sdo, &msg, cs);
        can_net_send(sdo->net, &msg);
}

static void
co_csdo_send_blk_dn_ini_req(co_csdo_t *sdo)
{
        assert(sdo);

        uint8_t cs = CO_SDO_CCS_BLK_DN_REQ | CO_SDO_BLK_CRC
                        | CO_SDO_BLK_SIZE_IND | CO_SDO_SC_INI_BLK;

        struct can_msg msg;
        co_csdo_init_ini_req(sdo, &msg, cs);
        stle_u32(msg.data + 4, sdo->size);
        can_net_send(sdo->net, &msg);
}

static void
co_csdo_send_blk_dn_sub_req(co_csdo_t *sdo, uint8_t seqno)
{
        assert(sdo);
        assert(seqno && seqno <= CO_SDO_MAX_SEQNO);

        size_t n = sdo->size - membuf_size(&sdo->buf);
        int last = n <= 7;
        n = MIN(n, 7);

        uint8_t cs = seqno;
        if (last)
                cs |= CO_SDO_SEQ_LAST;

        struct can_msg msg;
        co_csdo_init_seg_req(sdo, &msg, cs);
        memcpy(msg.data + 1, sdo->buf.cur, n);
        sdo->buf.cur += n;
        can_net_send(sdo->net, &msg);
}

static void
co_csdo_send_blk_dn_end_req(co_csdo_t *sdo)
{
        assert(sdo);

        // Compute the number of bytes in the last segment containing data.
        uint8_t n = sdo->size ? (sdo->size - 1) % 7 + 1 : 0;

        uint8_t cs = CO_SDO_CCS_BLK_DN_REQ | CO_SDO_SC_END_BLK
                        | CO_SDO_BLK_SIZE_SET(n);

        uint16_t crc = sdo->crc ? co_crc(0, sdo->buf.begin, sdo->size) : 0;

        struct can_msg msg;
        co_csdo_init_seg_req(sdo, &msg, cs);
        stle_u16(msg.data + 1, crc);
        can_net_send(sdo->net, &msg);
}

static void
co_csdo_send_blk_up_ini_req(co_csdo_t *sdo, uint8_t pst)
{
        assert(sdo);

        uint8_t cs = CO_SDO_CCS_BLK_UP_REQ | CO_SDO_BLK_CRC | CO_SDO_SC_INI_BLK;

        struct can_msg msg;
        co_csdo_init_ini_req(sdo, &msg, cs);
        msg.data[4] = sdo->blksize;
        msg.data[5] = pst;
        can_net_send(sdo->net, &msg);
}

static void
co_csdo_send_start_up_req(co_csdo_t *sdo)
{
        assert(sdo);

        uint8_t cs = CO_SDO_CCS_BLK_UP_REQ | CO_SDO_SC_START_UP;

        struct can_msg msg;
        co_csdo_init_seg_req(sdo, &msg, cs);
        can_net_send(sdo->net, &msg);

        if (sdo->size && sdo->up_ind)
                sdo->up_ind(sdo, sdo->idx, sdo->subidx, sdo->size, 0,
                                sdo->up_ind_data);
}

static void
co_csdo_send_blk_up_sub_res(co_csdo_t *sdo)
{
        assert(sdo);

        uint8_t cs = CO_SDO_CCS_BLK_UP_REQ | CO_SDO_SC_BLK_RES;

        struct can_msg msg;
        co_csdo_init_seg_req(sdo, &msg, cs);
        msg.data[1] = sdo->ackseq;
        msg.data[2] = sdo->blksize;
        can_net_send(sdo->net, &msg);

        if (sdo->size && sdo->up_ind)
                sdo->up_ind(sdo, sdo->idx, sdo->subidx, sdo->size,
                                membuf_size(&sdo->buf), sdo->up_ind_data);
}

static void
co_csdo_send_blk_up_end_res(co_csdo_t *sdo)
{
        assert(sdo);

        uint8_t cs = CO_SDO_CCS_BLK_UP_REQ | CO_SDO_SC_END_BLK;

        struct can_msg msg;
        co_csdo_init_seg_req(sdo, &msg, cs);
        can_net_send(sdo->net, &msg);
}

static void
co_csdo_init_ini_req(co_csdo_t *sdo, struct can_msg *msg, uint8_t cs)
{
        assert(sdo);
        assert(msg);

        *msg = (struct can_msg)CAN_MSG_INIT;
        msg->id = sdo->par.cobid_req;
        if (sdo->par.cobid_req & CO_SDO_COBID_FRAME) {
                msg->id &= CAN_MASK_EID;
                msg->flags |= CAN_FLAG_IDE;
        } else {
                msg->id &= CAN_MASK_BID;
        }
        msg->len = CAN_MAX_LEN;
        msg->data[0] = cs;
        stle_u16(msg->data + 1, sdo->idx);
        msg->data[3] = sdo->subidx;
}

static void
co_csdo_init_seg_req(co_csdo_t *sdo, struct can_msg *msg, uint8_t cs)
{
        assert(sdo);
        assert(msg);

        *msg = (struct can_msg)CAN_MSG_INIT;
        msg->id = sdo->par.cobid_req;
        if (sdo->par.cobid_req & CO_SDO_COBID_FRAME) {
                msg->id &= CAN_MASK_EID;
                msg->flags |= CAN_FLAG_IDE;
        } else {
                msg->id &= CAN_MASK_BID;
        }
        msg->len = CAN_MAX_LEN;
        msg->data[0] = cs;
}

#endif // !LELY_NO_CO_CSDO