rxe 44 drivers/infiniband/sw/rxe/rxe.c static void rxe_cleanup_ports(struct rxe_dev *rxe) rxe 46 drivers/infiniband/sw/rxe/rxe.c kfree(rxe->port.pkey_tbl); rxe 47 drivers/infiniband/sw/rxe/rxe.c rxe->port.pkey_tbl = NULL; rxe 56 drivers/infiniband/sw/rxe/rxe.c struct rxe_dev *rxe = container_of(ib_dev, struct rxe_dev, ib_dev); rxe 58 drivers/infiniband/sw/rxe/rxe.c rxe_pool_cleanup(&rxe->uc_pool); rxe 59 drivers/infiniband/sw/rxe/rxe.c rxe_pool_cleanup(&rxe->pd_pool); rxe 60 drivers/infiniband/sw/rxe/rxe.c rxe_pool_cleanup(&rxe->ah_pool); rxe 61 drivers/infiniband/sw/rxe/rxe.c rxe_pool_cleanup(&rxe->srq_pool); rxe 62 drivers/infiniband/sw/rxe/rxe.c rxe_pool_cleanup(&rxe->qp_pool); rxe 63 drivers/infiniband/sw/rxe/rxe.c rxe_pool_cleanup(&rxe->cq_pool); rxe 64 drivers/infiniband/sw/rxe/rxe.c rxe_pool_cleanup(&rxe->mr_pool); rxe 65 drivers/infiniband/sw/rxe/rxe.c rxe_pool_cleanup(&rxe->mw_pool); rxe 66 drivers/infiniband/sw/rxe/rxe.c rxe_pool_cleanup(&rxe->mc_grp_pool); rxe 67 drivers/infiniband/sw/rxe/rxe.c rxe_pool_cleanup(&rxe->mc_elem_pool); rxe 69 drivers/infiniband/sw/rxe/rxe.c rxe_cleanup_ports(rxe); rxe 71 drivers/infiniband/sw/rxe/rxe.c if (rxe->tfm) rxe 72 drivers/infiniband/sw/rxe/rxe.c crypto_free_shash(rxe->tfm); rxe 76 drivers/infiniband/sw/rxe/rxe.c static void rxe_init_device_param(struct rxe_dev *rxe) rxe 78 drivers/infiniband/sw/rxe/rxe.c rxe->max_inline_data = RXE_MAX_INLINE_DATA; rxe 80 drivers/infiniband/sw/rxe/rxe.c rxe->attr.fw_ver = RXE_FW_VER; rxe 81 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_mr_size = RXE_MAX_MR_SIZE; rxe 82 drivers/infiniband/sw/rxe/rxe.c rxe->attr.page_size_cap = RXE_PAGE_SIZE_CAP; rxe 83 drivers/infiniband/sw/rxe/rxe.c rxe->attr.vendor_id = RXE_VENDOR_ID; rxe 84 drivers/infiniband/sw/rxe/rxe.c rxe->attr.vendor_part_id = RXE_VENDOR_PART_ID; rxe 85 drivers/infiniband/sw/rxe/rxe.c rxe->attr.hw_ver = RXE_HW_VER; rxe 86 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_qp = RXE_MAX_QP; rxe 87 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_qp_wr = RXE_MAX_QP_WR; rxe 88 drivers/infiniband/sw/rxe/rxe.c rxe->attr.device_cap_flags = RXE_DEVICE_CAP_FLAGS; rxe 89 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_send_sge = RXE_MAX_SGE; rxe 90 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_recv_sge = RXE_MAX_SGE; rxe 91 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_sge_rd = RXE_MAX_SGE_RD; rxe 92 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_cq = RXE_MAX_CQ; rxe 93 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_cqe = (1 << RXE_MAX_LOG_CQE) - 1; rxe 94 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_mr = RXE_MAX_MR; rxe 95 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_pd = RXE_MAX_PD; rxe 96 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_qp_rd_atom = RXE_MAX_QP_RD_ATOM; rxe 97 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_ee_rd_atom = RXE_MAX_EE_RD_ATOM; rxe 98 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_res_rd_atom = RXE_MAX_RES_RD_ATOM; rxe 99 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_qp_init_rd_atom = RXE_MAX_QP_INIT_RD_ATOM; rxe 100 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_ee_init_rd_atom = RXE_MAX_EE_INIT_RD_ATOM; rxe 101 drivers/infiniband/sw/rxe/rxe.c rxe->attr.atomic_cap = IB_ATOMIC_HCA; rxe 102 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_ee = RXE_MAX_EE; rxe 103 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_rdd = RXE_MAX_RDD; rxe 104 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_mw = RXE_MAX_MW; rxe 105 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_raw_ipv6_qp = RXE_MAX_RAW_IPV6_QP; rxe 106 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_raw_ethy_qp = RXE_MAX_RAW_ETHY_QP; rxe 107 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_mcast_grp = RXE_MAX_MCAST_GRP; rxe 108 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_mcast_qp_attach = RXE_MAX_MCAST_QP_ATTACH; rxe 109 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_total_mcast_qp_attach = RXE_MAX_TOT_MCAST_QP_ATTACH; rxe 110 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_ah = RXE_MAX_AH; rxe 111 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_fmr = RXE_MAX_FMR; rxe 112 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_map_per_fmr = RXE_MAX_MAP_PER_FMR; rxe 113 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_srq = RXE_MAX_SRQ; rxe 114 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_srq_wr = RXE_MAX_SRQ_WR; rxe 115 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_srq_sge = RXE_MAX_SRQ_SGE; rxe 116 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_fast_reg_page_list_len = RXE_MAX_FMR_PAGE_LIST_LEN; rxe 117 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_pkeys = RXE_MAX_PKEYS; rxe 118 drivers/infiniband/sw/rxe/rxe.c rxe->attr.local_ca_ack_delay = RXE_LOCAL_CA_ACK_DELAY; rxe 120 drivers/infiniband/sw/rxe/rxe.c rxe->max_ucontext = RXE_MAX_UCONTEXT; rxe 154 drivers/infiniband/sw/rxe/rxe.c static int rxe_init_ports(struct rxe_dev *rxe) rxe 156 drivers/infiniband/sw/rxe/rxe.c struct rxe_port *port = &rxe->port; rxe 171 drivers/infiniband/sw/rxe/rxe.c rxe->ndev->dev_addr); rxe 179 drivers/infiniband/sw/rxe/rxe.c static int rxe_init_pools(struct rxe_dev *rxe) rxe 183 drivers/infiniband/sw/rxe/rxe.c err = rxe_pool_init(rxe, &rxe->uc_pool, RXE_TYPE_UC, rxe 184 drivers/infiniband/sw/rxe/rxe.c rxe->max_ucontext); rxe 188 drivers/infiniband/sw/rxe/rxe.c err = rxe_pool_init(rxe, &rxe->pd_pool, RXE_TYPE_PD, rxe 189 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_pd); rxe 193 drivers/infiniband/sw/rxe/rxe.c err = rxe_pool_init(rxe, &rxe->ah_pool, RXE_TYPE_AH, rxe 194 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_ah); rxe 198 drivers/infiniband/sw/rxe/rxe.c err = rxe_pool_init(rxe, &rxe->srq_pool, RXE_TYPE_SRQ, rxe 199 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_srq); rxe 203 drivers/infiniband/sw/rxe/rxe.c err = rxe_pool_init(rxe, &rxe->qp_pool, RXE_TYPE_QP, rxe 204 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_qp); rxe 208 drivers/infiniband/sw/rxe/rxe.c err = rxe_pool_init(rxe, &rxe->cq_pool, RXE_TYPE_CQ, rxe 209 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_cq); rxe 213 drivers/infiniband/sw/rxe/rxe.c err = rxe_pool_init(rxe, &rxe->mr_pool, RXE_TYPE_MR, rxe 214 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_mr); rxe 218 drivers/infiniband/sw/rxe/rxe.c err = rxe_pool_init(rxe, &rxe->mw_pool, RXE_TYPE_MW, rxe 219 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_mw); rxe 223 drivers/infiniband/sw/rxe/rxe.c err = rxe_pool_init(rxe, &rxe->mc_grp_pool, RXE_TYPE_MC_GRP, rxe 224 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_mcast_grp); rxe 228 drivers/infiniband/sw/rxe/rxe.c err = rxe_pool_init(rxe, &rxe->mc_elem_pool, RXE_TYPE_MC_ELEM, rxe 229 drivers/infiniband/sw/rxe/rxe.c rxe->attr.max_total_mcast_qp_attach); rxe 236 drivers/infiniband/sw/rxe/rxe.c rxe_pool_cleanup(&rxe->mc_grp_pool); rxe 238 drivers/infiniband/sw/rxe/rxe.c rxe_pool_cleanup(&rxe->mw_pool); rxe 240 drivers/infiniband/sw/rxe/rxe.c rxe_pool_cleanup(&rxe->mr_pool); rxe 242 drivers/infiniband/sw/rxe/rxe.c rxe_pool_cleanup(&rxe->cq_pool); rxe 244 drivers/infiniband/sw/rxe/rxe.c rxe_pool_cleanup(&rxe->qp_pool); rxe 246 drivers/infiniband/sw/rxe/rxe.c rxe_pool_cleanup(&rxe->srq_pool); rxe 248 drivers/infiniband/sw/rxe/rxe.c rxe_pool_cleanup(&rxe->ah_pool); rxe 250 drivers/infiniband/sw/rxe/rxe.c rxe_pool_cleanup(&rxe->pd_pool); rxe 252 drivers/infiniband/sw/rxe/rxe.c rxe_pool_cleanup(&rxe->uc_pool); rxe 258 drivers/infiniband/sw/rxe/rxe.c static int rxe_init(struct rxe_dev *rxe) rxe 263 drivers/infiniband/sw/rxe/rxe.c rxe_init_device_param(rxe); rxe 265 drivers/infiniband/sw/rxe/rxe.c err = rxe_init_ports(rxe); rxe 269 drivers/infiniband/sw/rxe/rxe.c err = rxe_init_pools(rxe); rxe 274 drivers/infiniband/sw/rxe/rxe.c spin_lock_init(&rxe->mmap_offset_lock); rxe 275 drivers/infiniband/sw/rxe/rxe.c spin_lock_init(&rxe->pending_lock); rxe 276 drivers/infiniband/sw/rxe/rxe.c INIT_LIST_HEAD(&rxe->pending_mmaps); rxe 278 drivers/infiniband/sw/rxe/rxe.c mutex_init(&rxe->usdev_lock); rxe 283 drivers/infiniband/sw/rxe/rxe.c rxe_cleanup_ports(rxe); rxe 288 drivers/infiniband/sw/rxe/rxe.c void rxe_set_mtu(struct rxe_dev *rxe, unsigned int ndev_mtu) rxe 290 drivers/infiniband/sw/rxe/rxe.c struct rxe_port *port = &rxe->port; rxe 305 drivers/infiniband/sw/rxe/rxe.c int rxe_add(struct rxe_dev *rxe, unsigned int mtu, const char *ibdev_name) rxe 309 drivers/infiniband/sw/rxe/rxe.c err = rxe_init(rxe); rxe 313 drivers/infiniband/sw/rxe/rxe.c rxe_set_mtu(rxe, mtu); rxe 315 drivers/infiniband/sw/rxe/rxe.c return rxe_register_device(rxe, ibdev_name); rxe 70 drivers/infiniband/sw/rxe/rxe.h static inline u32 rxe_crc32(struct rxe_dev *rxe, rxe 76 drivers/infiniband/sw/rxe/rxe.h SHASH_DESC_ON_STACK(shash, rxe->tfm); rxe 78 drivers/infiniband/sw/rxe/rxe.h shash->tfm = rxe->tfm; rxe 91 drivers/infiniband/sw/rxe/rxe.h void rxe_set_mtu(struct rxe_dev *rxe, unsigned int dev_mtu); rxe 93 drivers/infiniband/sw/rxe/rxe.h int rxe_add(struct rxe_dev *rxe, unsigned int mtu, const char *ibdev_name); rxe 108 drivers/infiniband/sw/rxe/rxe.h void rxe_port_up(struct rxe_dev *rxe); rxe 109 drivers/infiniband/sw/rxe/rxe.h void rxe_port_down(struct rxe_dev *rxe); rxe 110 drivers/infiniband/sw/rxe/rxe.h void rxe_set_port_state(struct rxe_dev *rxe); rxe 44 drivers/infiniband/sw/rxe/rxe_av.c int rxe_av_chk_attr(struct rxe_dev *rxe, struct rdma_ah_attr *attr) rxe 48 drivers/infiniband/sw/rxe/rxe_av.c port = &rxe->port; rxe 157 drivers/infiniband/sw/rxe/rxe_comp.c rxe_counter_inc(SKB_TO_PKT(skb)->rxe, RXE_CNT_COMPLETER_SCHED); rxe 242 drivers/infiniband/sw/rxe/rxe_comp.c struct rxe_dev *rxe = to_rdev(qp->ibqp.device); rxe 317 drivers/infiniband/sw/rxe/rxe_comp.c rxe_counter_inc(rxe, RXE_CNT_RCV_RNR); rxe 327 drivers/infiniband/sw/rxe/rxe_comp.c rxe_counter_inc(rxe, rxe 442 drivers/infiniband/sw/rxe/rxe_comp.c struct rxe_dev *rxe = to_rdev(qp->ibqp.device); rxe 458 drivers/infiniband/sw/rxe/rxe_comp.c rxe_counter_inc(rxe, RXE_CNT_RDMA_SEND); rxe 560 drivers/infiniband/sw/rxe/rxe_comp.c struct rxe_dev *rxe = to_rdev(qp->ibqp.device); rxe 724 drivers/infiniband/sw/rxe/rxe_comp.c rxe_counter_inc(rxe, rxe 740 drivers/infiniband/sw/rxe/rxe_comp.c rxe_counter_inc(rxe, RXE_CNT_RETRY_EXCEEDED); rxe 762 drivers/infiniband/sw/rxe/rxe_comp.c rxe_counter_inc(rxe, rxe 38 drivers/infiniband/sw/rxe/rxe_cq.c int rxe_cq_chk_attr(struct rxe_dev *rxe, struct rxe_cq *cq, rxe 48 drivers/infiniband/sw/rxe/rxe_cq.c if (cqe > rxe->attr.max_cqe) { rxe 50 drivers/infiniband/sw/rxe/rxe_cq.c cqe, rxe->attr.max_cqe); rxe 84 drivers/infiniband/sw/rxe/rxe_cq.c int rxe_cq_from_init(struct rxe_dev *rxe, struct rxe_cq *cq, int cqe, rxe 90 drivers/infiniband/sw/rxe/rxe_cq.c cq->queue = rxe_queue_init(rxe, &cqe, rxe 97 drivers/infiniband/sw/rxe/rxe_cq.c err = do_mmap_info(rxe, uresp ? &uresp->mi : NULL, udata, rxe 42 drivers/infiniband/sw/rxe/rxe_hdr.h struct rxe_dev *rxe; /* device that owns packet */ rxe 90 drivers/infiniband/sw/rxe/rxe_icrc.c crc = rxe_crc32(pkt->rxe, crc, pshdr, length); rxe 93 drivers/infiniband/sw/rxe/rxe_icrc.c crc = rxe_crc32(pkt->rxe, crc, pkt->hdr + RXE_BTH_BYTES, rxe 40 drivers/infiniband/sw/rxe/rxe_loc.h int rxe_av_chk_attr(struct rxe_dev *rxe, struct rdma_ah_attr *attr); rxe 52 drivers/infiniband/sw/rxe/rxe_loc.h int rxe_cq_chk_attr(struct rxe_dev *rxe, struct rxe_cq *cq, rxe 55 drivers/infiniband/sw/rxe/rxe_loc.h int rxe_cq_from_init(struct rxe_dev *rxe, struct rxe_cq *cq, int cqe, rxe 70 drivers/infiniband/sw/rxe/rxe_loc.h int rxe_mcast_get_grp(struct rxe_dev *rxe, union ib_gid *mgid, rxe 73 drivers/infiniband/sw/rxe/rxe_loc.h int rxe_mcast_add_grp_elem(struct rxe_dev *rxe, struct rxe_qp *qp, rxe 76 drivers/infiniband/sw/rxe/rxe_loc.h int rxe_mcast_drop_grp_elem(struct rxe_dev *rxe, struct rxe_qp *qp, rxe 135 drivers/infiniband/sw/rxe/rxe_loc.h int rxe_mem_map_pages(struct rxe_dev *rxe, struct rxe_mem *mem, rxe 145 drivers/infiniband/sw/rxe/rxe_loc.h struct sk_buff *rxe_init_packet(struct rxe_dev *rxe, struct rxe_av *av, rxe 148 drivers/infiniband/sw/rxe/rxe_loc.h enum rdma_link_layer rxe_link_layer(struct rxe_dev *rxe, unsigned int port_num); rxe 149 drivers/infiniband/sw/rxe/rxe_loc.h const char *rxe_parent_name(struct rxe_dev *rxe, unsigned int port_num); rxe 150 drivers/infiniband/sw/rxe/rxe_loc.h struct device *rxe_dma_device(struct rxe_dev *rxe); rxe 151 drivers/infiniband/sw/rxe/rxe_loc.h int rxe_mcast_add(struct rxe_dev *rxe, union ib_gid *mgid); rxe 152 drivers/infiniband/sw/rxe/rxe_loc.h int rxe_mcast_delete(struct rxe_dev *rxe, union ib_gid *mgid); rxe 155 drivers/infiniband/sw/rxe/rxe_loc.h int rxe_qp_chk_init(struct rxe_dev *rxe, struct ib_qp_init_attr *init); rxe 157 drivers/infiniband/sw/rxe/rxe_loc.h int rxe_qp_from_init(struct rxe_dev *rxe, struct rxe_qp *qp, struct rxe_pd *pd, rxe 164 drivers/infiniband/sw/rxe/rxe_loc.h int rxe_qp_chk_attr(struct rxe_dev *rxe, struct rxe_qp *qp, rxe 222 drivers/infiniband/sw/rxe/rxe_loc.h int rxe_srq_chk_attr(struct rxe_dev *rxe, struct rxe_srq *srq, rxe 225 drivers/infiniband/sw/rxe/rxe_loc.h int rxe_srq_from_init(struct rxe_dev *rxe, struct rxe_srq *srq, rxe 229 drivers/infiniband/sw/rxe/rxe_loc.h int rxe_srq_from_attr(struct rxe_dev *rxe, struct rxe_srq *srq, rxe 255 drivers/infiniband/sw/rxe/rxe_loc.h struct rxe_dev *rxe = to_rdev(qp->ibqp.device); rxe 272 drivers/infiniband/sw/rxe/rxe_loc.h rxe->xmit_errors++; rxe 273 drivers/infiniband/sw/rxe/rxe_loc.h rxe_counter_inc(rxe, RXE_CNT_SEND_ERR); rxe 283 drivers/infiniband/sw/rxe/rxe_loc.h rxe_counter_inc(rxe, RXE_CNT_SENT_PKTS); rxe 37 drivers/infiniband/sw/rxe/rxe_mcast.c int rxe_mcast_get_grp(struct rxe_dev *rxe, union ib_gid *mgid, rxe 43 drivers/infiniband/sw/rxe/rxe_mcast.c if (rxe->attr.max_mcast_qp_attach == 0) { rxe 48 drivers/infiniband/sw/rxe/rxe_mcast.c grp = rxe_pool_get_key(&rxe->mc_grp_pool, mgid); rxe 52 drivers/infiniband/sw/rxe/rxe_mcast.c grp = rxe_alloc(&rxe->mc_grp_pool); rxe 60 drivers/infiniband/sw/rxe/rxe_mcast.c grp->rxe = rxe; rxe 64 drivers/infiniband/sw/rxe/rxe_mcast.c err = rxe_mcast_add(rxe, mgid); rxe 78 drivers/infiniband/sw/rxe/rxe_mcast.c int rxe_mcast_add_grp_elem(struct rxe_dev *rxe, struct rxe_qp *qp, rxe 94 drivers/infiniband/sw/rxe/rxe_mcast.c if (grp->num_qp >= rxe->attr.max_mcast_qp_attach) { rxe 99 drivers/infiniband/sw/rxe/rxe_mcast.c elem = rxe_alloc(&rxe->mc_elem_pool); rxe 122 drivers/infiniband/sw/rxe/rxe_mcast.c int rxe_mcast_drop_grp_elem(struct rxe_dev *rxe, struct rxe_qp *qp, rxe 128 drivers/infiniband/sw/rxe/rxe_mcast.c grp = rxe_pool_get_key(&rxe->mc_grp_pool, mgid); rxe 186 drivers/infiniband/sw/rxe/rxe_mcast.c struct rxe_dev *rxe = grp->rxe; rxe 189 drivers/infiniband/sw/rxe/rxe_mcast.c rxe_mcast_delete(rxe, &grp->mgid); rxe 49 drivers/infiniband/sw/rxe/rxe_mmap.c struct rxe_dev *rxe = to_rdev(ip->context->device); rxe 51 drivers/infiniband/sw/rxe/rxe_mmap.c spin_lock_bh(&rxe->pending_lock); rxe 56 drivers/infiniband/sw/rxe/rxe_mmap.c spin_unlock_bh(&rxe->pending_lock); rxe 93 drivers/infiniband/sw/rxe/rxe_mmap.c struct rxe_dev *rxe = to_rdev(context->device); rxe 104 drivers/infiniband/sw/rxe/rxe_mmap.c spin_lock_bh(&rxe->pending_lock); rxe 105 drivers/infiniband/sw/rxe/rxe_mmap.c list_for_each_entry_safe(ip, pp, &rxe->pending_mmaps, pending_mmaps) { rxe 112 drivers/infiniband/sw/rxe/rxe_mmap.c spin_unlock_bh(&rxe->pending_lock); rxe 120 drivers/infiniband/sw/rxe/rxe_mmap.c spin_unlock_bh(&rxe->pending_lock); rxe 126 drivers/infiniband/sw/rxe/rxe_mmap.c spin_unlock_bh(&rxe->pending_lock); rxe 144 drivers/infiniband/sw/rxe/rxe_mmap.c struct rxe_mmap_info *rxe_create_mmap_info(struct rxe_dev *rxe, u32 size, rxe 158 drivers/infiniband/sw/rxe/rxe_mmap.c spin_lock_bh(&rxe->mmap_offset_lock); rxe 160 drivers/infiniband/sw/rxe/rxe_mmap.c if (rxe->mmap_offset == 0) rxe 161 drivers/infiniband/sw/rxe/rxe_mmap.c rxe->mmap_offset = ALIGN(PAGE_SIZE, SHMLBA); rxe 163 drivers/infiniband/sw/rxe/rxe_mmap.c ip->info.offset = rxe->mmap_offset; rxe 164 drivers/infiniband/sw/rxe/rxe_mmap.c rxe->mmap_offset += ALIGN(size, SHMLBA); rxe 166 drivers/infiniband/sw/rxe/rxe_mmap.c spin_unlock_bh(&rxe->mmap_offset_lock); rxe 572 drivers/infiniband/sw/rxe/rxe_mr.c struct rxe_dev *rxe = to_rdev(pd->ibpd.device); rxe 575 drivers/infiniband/sw/rxe/rxe_mr.c mem = rxe_pool_get_index(&rxe->mr_pool, index); rxe 591 drivers/infiniband/sw/rxe/rxe_mr.c int rxe_mem_map_pages(struct rxe_dev *rxe, struct rxe_mem *mem, rxe 50 drivers/infiniband/sw/rxe/rxe_net.c struct device *rxe_dma_device(struct rxe_dev *rxe) rxe 54 drivers/infiniband/sw/rxe/rxe_net.c ndev = rxe->ndev; rxe 62 drivers/infiniband/sw/rxe/rxe_net.c int rxe_mcast_add(struct rxe_dev *rxe, union ib_gid *mgid) rxe 68 drivers/infiniband/sw/rxe/rxe_net.c err = dev_mc_add(rxe->ndev, ll_addr); rxe 73 drivers/infiniband/sw/rxe/rxe_net.c int rxe_mcast_delete(struct rxe_dev *rxe, union ib_gid *mgid) rxe 79 drivers/infiniband/sw/rxe/rxe_net.c err = dev_mc_del(rxe->ndev, ll_addr); rxe 197 drivers/infiniband/sw/rxe/rxe_net.c struct rxe_dev *rxe = rxe_get_dev_from_net(ndev); rxe 200 drivers/infiniband/sw/rxe/rxe_net.c if (!rxe && is_vlan_dev(rdev)) { rxe 202 drivers/infiniband/sw/rxe/rxe_net.c rxe = rxe_get_dev_from_net(rdev); rxe 204 drivers/infiniband/sw/rxe/rxe_net.c if (!rxe) rxe 209 drivers/infiniband/sw/rxe/rxe_net.c ib_device_put(&rxe->ib_dev); rxe 214 drivers/infiniband/sw/rxe/rxe_net.c pkt->rxe = rxe; rxe 226 drivers/infiniband/sw/rxe/rxe_net.c ib_device_put(&rxe->ib_dev); rxe 459 drivers/infiniband/sw/rxe/rxe_net.c struct sk_buff *rxe_init_packet(struct rxe_dev *rxe, struct rxe_av *av, rxe 468 drivers/infiniband/sw/rxe/rxe_net.c attr = rdma_get_gid_attr(&rxe->ib_dev, port_num, av->grh.sgid_index); rxe 504 drivers/infiniband/sw/rxe/rxe_net.c pkt->rxe = rxe; rxe 518 drivers/infiniband/sw/rxe/rxe_net.c const char *rxe_parent_name(struct rxe_dev *rxe, unsigned int port_num) rxe 520 drivers/infiniband/sw/rxe/rxe_net.c return rxe->ndev->name; rxe 523 drivers/infiniband/sw/rxe/rxe_net.c enum rdma_link_layer rxe_link_layer(struct rxe_dev *rxe, unsigned int port_num) rxe 531 drivers/infiniband/sw/rxe/rxe_net.c struct rxe_dev *rxe = NULL; rxe 533 drivers/infiniband/sw/rxe/rxe_net.c rxe = ib_alloc_device(rxe_dev, ib_dev); rxe 534 drivers/infiniband/sw/rxe/rxe_net.c if (!rxe) rxe 537 drivers/infiniband/sw/rxe/rxe_net.c rxe->ndev = ndev; rxe 539 drivers/infiniband/sw/rxe/rxe_net.c err = rxe_add(rxe, ndev->mtu, ibdev_name); rxe 541 drivers/infiniband/sw/rxe/rxe_net.c ib_dealloc_device(&rxe->ib_dev); rxe 548 drivers/infiniband/sw/rxe/rxe_net.c static void rxe_port_event(struct rxe_dev *rxe, rxe 553 drivers/infiniband/sw/rxe/rxe_net.c ev.device = &rxe->ib_dev; rxe 561 drivers/infiniband/sw/rxe/rxe_net.c void rxe_port_up(struct rxe_dev *rxe) rxe 565 drivers/infiniband/sw/rxe/rxe_net.c port = &rxe->port; rxe 568 drivers/infiniband/sw/rxe/rxe_net.c rxe_port_event(rxe, IB_EVENT_PORT_ACTIVE); rxe 569 drivers/infiniband/sw/rxe/rxe_net.c dev_info(&rxe->ib_dev.dev, "set active\n"); rxe 573 drivers/infiniband/sw/rxe/rxe_net.c void rxe_port_down(struct rxe_dev *rxe) rxe 577 drivers/infiniband/sw/rxe/rxe_net.c port = &rxe->port; rxe 580 drivers/infiniband/sw/rxe/rxe_net.c rxe_port_event(rxe, IB_EVENT_PORT_ERR); rxe 581 drivers/infiniband/sw/rxe/rxe_net.c rxe_counter_inc(rxe, RXE_CNT_LINK_DOWNED); rxe 582 drivers/infiniband/sw/rxe/rxe_net.c dev_info(&rxe->ib_dev.dev, "set down\n"); rxe 585 drivers/infiniband/sw/rxe/rxe_net.c void rxe_set_port_state(struct rxe_dev *rxe) rxe 587 drivers/infiniband/sw/rxe/rxe_net.c if (netif_running(rxe->ndev) && netif_carrier_ok(rxe->ndev)) rxe 588 drivers/infiniband/sw/rxe/rxe_net.c rxe_port_up(rxe); rxe 590 drivers/infiniband/sw/rxe/rxe_net.c rxe_port_down(rxe); rxe 598 drivers/infiniband/sw/rxe/rxe_net.c struct rxe_dev *rxe = rxe_get_dev_from_net(ndev); rxe 600 drivers/infiniband/sw/rxe/rxe_net.c if (!rxe) rxe 605 drivers/infiniband/sw/rxe/rxe_net.c ib_unregister_device_queued(&rxe->ib_dev); rxe 608 drivers/infiniband/sw/rxe/rxe_net.c rxe_port_up(rxe); rxe 611 drivers/infiniband/sw/rxe/rxe_net.c rxe_port_down(rxe); rxe 615 drivers/infiniband/sw/rxe/rxe_net.c rxe_set_mtu(rxe, ndev->mtu); rxe 618 drivers/infiniband/sw/rxe/rxe_net.c rxe_set_port_state(rxe); rxe 631 drivers/infiniband/sw/rxe/rxe_net.c ib_device_put(&rxe->ib_dev); rxe 198 drivers/infiniband/sw/rxe/rxe_pool.c struct rxe_dev *rxe, rxe 208 drivers/infiniband/sw/rxe/rxe_pool.c pool->rxe = rxe; rxe 403 drivers/infiniband/sw/rxe/rxe_pool.c if (!ib_device_try_get(&pool->rxe->ib_dev)) rxe 422 drivers/infiniband/sw/rxe/rxe_pool.c ib_device_put(&pool->rxe->ib_dev); rxe 442 drivers/infiniband/sw/rxe/rxe_pool.c if (!ib_device_try_get(&pool->rxe->ib_dev)) rxe 455 drivers/infiniband/sw/rxe/rxe_pool.c ib_device_put(&pool->rxe->ib_dev); rxe 473 drivers/infiniband/sw/rxe/rxe_pool.c ib_device_put(&pool->rxe->ib_dev); rxe 93 drivers/infiniband/sw/rxe/rxe_pool.h struct rxe_dev *rxe; rxe 126 drivers/infiniband/sw/rxe/rxe_pool.h int rxe_pool_init(struct rxe_dev *rxe, struct rxe_pool *pool, rxe 45 drivers/infiniband/sw/rxe/rxe_qp.c static int rxe_qp_chk_cap(struct rxe_dev *rxe, struct ib_qp_cap *cap, rxe 48 drivers/infiniband/sw/rxe/rxe_qp.c if (cap->max_send_wr > rxe->attr.max_qp_wr) { rxe 50 drivers/infiniband/sw/rxe/rxe_qp.c cap->max_send_wr, rxe->attr.max_qp_wr); rxe 54 drivers/infiniband/sw/rxe/rxe_qp.c if (cap->max_send_sge > rxe->attr.max_send_sge) { rxe 56 drivers/infiniband/sw/rxe/rxe_qp.c cap->max_send_sge, rxe->attr.max_send_sge); rxe 61 drivers/infiniband/sw/rxe/rxe_qp.c if (cap->max_recv_wr > rxe->attr.max_qp_wr) { rxe 63 drivers/infiniband/sw/rxe/rxe_qp.c cap->max_recv_wr, rxe->attr.max_qp_wr); rxe 67 drivers/infiniband/sw/rxe/rxe_qp.c if (cap->max_recv_sge > rxe->attr.max_recv_sge) { rxe 69 drivers/infiniband/sw/rxe/rxe_qp.c cap->max_recv_sge, rxe->attr.max_recv_sge); rxe 74 drivers/infiniband/sw/rxe/rxe_qp.c if (cap->max_inline_data > rxe->max_inline_data) { rxe 76 drivers/infiniband/sw/rxe/rxe_qp.c cap->max_inline_data, rxe->max_inline_data); rxe 86 drivers/infiniband/sw/rxe/rxe_qp.c int rxe_qp_chk_init(struct rxe_dev *rxe, struct ib_qp_init_attr *init) rxe 97 drivers/infiniband/sw/rxe/rxe_qp.c if (rxe_qp_chk_cap(rxe, cap, !!init->srq)) rxe 101 drivers/infiniband/sw/rxe/rxe_qp.c if (!rdma_is_port_valid(&rxe->ib_dev, port_num)) { rxe 106 drivers/infiniband/sw/rxe/rxe_qp.c port = &rxe->port; rxe 177 drivers/infiniband/sw/rxe/rxe_qp.c static void rxe_qp_init_misc(struct rxe_dev *rxe, struct rxe_qp *qp, rxe 188 drivers/infiniband/sw/rxe/rxe_qp.c port = &rxe->port; rxe 219 drivers/infiniband/sw/rxe/rxe_qp.c static int rxe_qp_init_req(struct rxe_dev *rxe, struct rxe_qp *qp, rxe 250 drivers/infiniband/sw/rxe/rxe_qp.c qp->sq.queue = rxe_queue_init(rxe, rxe 256 drivers/infiniband/sw/rxe/rxe_qp.c err = do_mmap_info(rxe, uresp ? &uresp->sq_mi : NULL, udata, rxe 274 drivers/infiniband/sw/rxe/rxe_qp.c rxe_init_task(rxe, &qp->req.task, qp, rxe 276 drivers/infiniband/sw/rxe/rxe_qp.c rxe_init_task(rxe, &qp->comp.task, qp, rxe 287 drivers/infiniband/sw/rxe/rxe_qp.c static int rxe_qp_init_resp(struct rxe_dev *rxe, struct rxe_qp *qp, rxe 304 drivers/infiniband/sw/rxe/rxe_qp.c qp->rq.queue = rxe_queue_init(rxe, rxe 310 drivers/infiniband/sw/rxe/rxe_qp.c err = do_mmap_info(rxe, uresp ? &uresp->rq_mi : NULL, udata, rxe 325 drivers/infiniband/sw/rxe/rxe_qp.c rxe_init_task(rxe, &qp->resp.task, qp, rxe 336 drivers/infiniband/sw/rxe/rxe_qp.c int rxe_qp_from_init(struct rxe_dev *rxe, struct rxe_qp *qp, struct rxe_pd *pd, rxe 358 drivers/infiniband/sw/rxe/rxe_qp.c rxe_qp_init_misc(rxe, qp, init); rxe 360 drivers/infiniband/sw/rxe/rxe_qp.c err = rxe_qp_init_req(rxe, qp, init, udata, uresp); rxe 364 drivers/infiniband/sw/rxe/rxe_qp.c err = rxe_qp_init_resp(rxe, qp, init, udata, uresp); rxe 414 drivers/infiniband/sw/rxe/rxe_qp.c int rxe_qp_chk_attr(struct rxe_dev *rxe, struct rxe_qp *qp, rxe 436 drivers/infiniband/sw/rxe/rxe_qp.c if (!rdma_is_port_valid(&rxe->ib_dev, attr->port_num)) { rxe 442 drivers/infiniband/sw/rxe/rxe_qp.c if (mask & IB_QP_CAP && rxe_qp_chk_cap(rxe, &attr->cap, !!qp->srq)) rxe 445 drivers/infiniband/sw/rxe/rxe_qp.c if (mask & IB_QP_AV && rxe_av_chk_attr(rxe, &attr->ah_attr)) rxe 449 drivers/infiniband/sw/rxe/rxe_qp.c if (rxe_av_chk_attr(rxe, &attr->alt_ah_attr)) rxe 451 drivers/infiniband/sw/rxe/rxe_qp.c if (!rdma_is_port_valid(&rxe->ib_dev, attr->alt_port_num)) { rxe 463 drivers/infiniband/sw/rxe/rxe_qp.c struct rxe_port *port = &rxe->port; rxe 477 drivers/infiniband/sw/rxe/rxe_qp.c if (attr->max_rd_atomic > rxe->attr.max_qp_rd_atom) { rxe 480 drivers/infiniband/sw/rxe/rxe_qp.c rxe->attr.max_qp_rd_atom); rxe 39 drivers/infiniband/sw/rxe/rxe_queue.c int do_mmap_info(struct rxe_dev *rxe, struct mminfo __user *outbuf, rxe 47 drivers/infiniband/sw/rxe/rxe_queue.c ip = rxe_create_mmap_info(rxe, buf_size, udata, buf); rxe 58 drivers/infiniband/sw/rxe/rxe_queue.c spin_lock_bh(&rxe->pending_lock); rxe 59 drivers/infiniband/sw/rxe/rxe_queue.c list_add(&ip->pending_mmaps, &rxe->pending_mmaps); rxe 60 drivers/infiniband/sw/rxe/rxe_queue.c spin_unlock_bh(&rxe->pending_lock); rxe 82 drivers/infiniband/sw/rxe/rxe_queue.c struct rxe_queue *rxe_queue_init(struct rxe_dev *rxe, rxe 98 drivers/infiniband/sw/rxe/rxe_queue.c q->rxe = rxe; rxe 166 drivers/infiniband/sw/rxe/rxe_queue.c new_q = rxe_queue_init(q->rxe, &num_elem, elem_size); rxe 170 drivers/infiniband/sw/rxe/rxe_queue.c err = do_mmap_info(new_q->rxe, outbuf, udata, new_q->buf, rxe 70 drivers/infiniband/sw/rxe/rxe_queue.h struct rxe_dev *rxe; rxe 79 drivers/infiniband/sw/rxe/rxe_queue.h int do_mmap_info(struct rxe_dev *rxe, struct mminfo __user *outbuf, rxe 85 drivers/infiniband/sw/rxe/rxe_queue.h struct rxe_queue *rxe_queue_init(struct rxe_dev *rxe, rxe 39 drivers/infiniband/sw/rxe/rxe_recv.c static int check_type_state(struct rxe_dev *rxe, struct rxe_pkt_info *pkt, rxe 101 drivers/infiniband/sw/rxe/rxe_recv.c static int check_keys(struct rxe_dev *rxe, struct rxe_pkt_info *pkt, rxe 106 drivers/infiniband/sw/rxe/rxe_recv.c struct rxe_port *port = &rxe->port; rxe 154 drivers/infiniband/sw/rxe/rxe_recv.c static int check_addr(struct rxe_dev *rxe, struct rxe_pkt_info *pkt, rxe 216 drivers/infiniband/sw/rxe/rxe_recv.c struct rxe_dev *rxe = pkt->rxe; rxe 217 drivers/infiniband/sw/rxe/rxe_recv.c struct rxe_port *port = &rxe->port; rxe 236 drivers/infiniband/sw/rxe/rxe_recv.c qp = rxe_pool_get_index(&rxe->qp_pool, index); rxe 242 drivers/infiniband/sw/rxe/rxe_recv.c err = check_type_state(rxe, pkt, qp); rxe 246 drivers/infiniband/sw/rxe/rxe_recv.c err = check_addr(rxe, pkt, qp); rxe 250 drivers/infiniband/sw/rxe/rxe_recv.c err = check_keys(rxe, pkt, qpn, qp); rxe 277 drivers/infiniband/sw/rxe/rxe_recv.c static void rxe_rcv_mcast_pkt(struct rxe_dev *rxe, struct sk_buff *skb) rxe 293 drivers/infiniband/sw/rxe/rxe_recv.c mcg = rxe_pool_get_key(&rxe->mc_grp_pool, &dgid); rxe 304 drivers/infiniband/sw/rxe/rxe_recv.c err = check_type_state(rxe, pkt, qp); rxe 308 drivers/infiniband/sw/rxe/rxe_recv.c err = check_keys(rxe, pkt, bth_qpn(pkt), qp); rxe 331 drivers/infiniband/sw/rxe/rxe_recv.c static int rxe_match_dgid(struct rxe_dev *rxe, struct sk_buff *skb) rxe 345 drivers/infiniband/sw/rxe/rxe_recv.c gid_attr = rdma_find_gid_by_port(&rxe->ib_dev, pdgid, rxe 360 drivers/infiniband/sw/rxe/rxe_recv.c struct rxe_dev *rxe = pkt->rxe; rxe 369 drivers/infiniband/sw/rxe/rxe_recv.c if (unlikely(rxe_match_dgid(rxe, skb) < 0)) { rxe 391 drivers/infiniband/sw/rxe/rxe_recv.c calc_icrc = rxe_crc32(rxe, calc_icrc, (u8 *)payload_addr(pkt), rxe 407 drivers/infiniband/sw/rxe/rxe_recv.c rxe_counter_inc(rxe, RXE_CNT_RCVD_PKTS); rxe 410 drivers/infiniband/sw/rxe/rxe_recv.c rxe_rcv_mcast_pkt(rxe, skb); rxe 370 drivers/infiniband/sw/rxe/rxe_req.c struct rxe_dev *rxe = to_rdev(qp->ibqp.device); rxe 375 drivers/infiniband/sw/rxe/rxe_req.c return rxe->port.mtu_cap; rxe 383 drivers/infiniband/sw/rxe/rxe_req.c struct rxe_dev *rxe = to_rdev(qp->ibqp.device); rxe 384 drivers/infiniband/sw/rxe/rxe_req.c struct rxe_port *port = &rxe->port; rxe 411 drivers/infiniband/sw/rxe/rxe_req.c skb = rxe_init_packet(rxe, av, paylen, pkt); rxe 477 drivers/infiniband/sw/rxe/rxe_req.c struct rxe_dev *rxe = to_rdev(qp->ibqp.device); rxe 490 drivers/infiniband/sw/rxe/rxe_req.c crc = rxe_crc32(rxe, crc, tmp, paylen); rxe 507 drivers/infiniband/sw/rxe/rxe_req.c crc = rxe_crc32(rxe, crc, pad, bth_pad(pkt)); rxe 629 drivers/infiniband/sw/rxe/rxe_req.c struct rxe_dev *rxe = to_rdev(qp->ibqp.device); rxe 632 drivers/infiniband/sw/rxe/rxe_req.c rmr = rxe_pool_get_index(&rxe->mr_pool, rxe 148 drivers/infiniband/sw/rxe/rxe_resp.c struct rxe_dev *rxe = to_rdev(qp->ibqp.device); rxe 157 drivers/infiniband/sw/rxe/rxe_resp.c rxe_counter_inc(rxe, RXE_CNT_OUT_OF_SEQ_REQ); rxe 161 drivers/infiniband/sw/rxe/rxe_resp.c rxe_counter_inc(rxe, RXE_CNT_DUP_REQ); rxe 594 drivers/infiniband/sw/rxe/rxe_resp.c struct rxe_dev *rxe = to_rdev(qp->ibqp.device); rxe 608 drivers/infiniband/sw/rxe/rxe_resp.c skb = rxe_init_packet(rxe, &qp->pri_av, paylen, ack); rxe 736 drivers/infiniband/sw/rxe/rxe_resp.c struct rxe_dev *rxe = to_rdev(qp->ibqp.device); rxe 740 drivers/infiniband/sw/rxe/rxe_resp.c icrc = rxe_crc32(rxe, icrc, pad, bth_pad(&ack_pkt)); rxe 844 drivers/infiniband/sw/rxe/rxe_resp.c struct rxe_dev *rxe = to_rdev(qp->ibqp.device); rxe 862 drivers/infiniband/sw/rxe/rxe_resp.c rxe_counter_inc(rxe, RXE_CNT_RDMA_RECV); rxe 918 drivers/infiniband/sw/rxe/rxe_resp.c rmr = rxe_pool_get_index(&rxe->mr_pool, rxe 1223 drivers/infiniband/sw/rxe/rxe_resp.c struct rxe_dev *rxe = to_rdev(qp->ibqp.device); rxe 1312 drivers/infiniband/sw/rxe/rxe_resp.c rxe_counter_inc(rxe, RXE_CNT_SND_RNR); rxe 39 drivers/infiniband/sw/rxe/rxe_srq.c int rxe_srq_chk_attr(struct rxe_dev *rxe, struct rxe_srq *srq, rxe 48 drivers/infiniband/sw/rxe/rxe_srq.c if (attr->max_wr > rxe->attr.max_srq_wr) { rxe 50 drivers/infiniband/sw/rxe/rxe_srq.c attr->max_wr, rxe->attr.max_srq_wr); rxe 70 drivers/infiniband/sw/rxe/rxe_srq.c if (attr->srq_limit > rxe->attr.max_srq_wr) { rxe 72 drivers/infiniband/sw/rxe/rxe_srq.c attr->srq_limit, rxe->attr.max_srq_wr); rxe 85 drivers/infiniband/sw/rxe/rxe_srq.c if (attr->max_sge > rxe->attr.max_srq_sge) { rxe 87 drivers/infiniband/sw/rxe/rxe_srq.c attr->max_sge, rxe->attr.max_srq_sge); rxe 101 drivers/infiniband/sw/rxe/rxe_srq.c int rxe_srq_from_init(struct rxe_dev *rxe, struct rxe_srq *srq, rxe 121 drivers/infiniband/sw/rxe/rxe_srq.c q = rxe_queue_init(rxe, &srq->rq.max_wr, rxe 130 drivers/infiniband/sw/rxe/rxe_srq.c err = do_mmap_info(rxe, uresp ? &uresp->mi : NULL, udata, q->buf, rxe 149 drivers/infiniband/sw/rxe/rxe_srq.c int rxe_srq_from_attr(struct rxe_dev *rxe, struct rxe_srq *srq, rxe 46 drivers/infiniband/sw/rxe/rxe_verbs.c struct rxe_dev *rxe = to_rdev(dev); rxe 51 drivers/infiniband/sw/rxe/rxe_verbs.c *attr = rxe->attr; rxe 58 drivers/infiniband/sw/rxe/rxe_verbs.c struct rxe_dev *rxe = to_rdev(dev); rxe 62 drivers/infiniband/sw/rxe/rxe_verbs.c port = &rxe->port; rxe 67 drivers/infiniband/sw/rxe/rxe_verbs.c mutex_lock(&rxe->usdev_lock); rxe 73 drivers/infiniband/sw/rxe/rxe_verbs.c else if (dev_get_flags(rxe->ndev) & IFF_UP) rxe 78 drivers/infiniband/sw/rxe/rxe_verbs.c mutex_unlock(&rxe->usdev_lock); rxe 86 drivers/infiniband/sw/rxe/rxe_verbs.c struct rxe_dev *rxe = to_rdev(device); rxe 89 drivers/infiniband/sw/rxe/rxe_verbs.c port = &rxe->port; rxe 107 drivers/infiniband/sw/rxe/rxe_verbs.c struct rxe_dev *rxe = to_rdev(dev); rxe 110 drivers/infiniband/sw/rxe/rxe_verbs.c rxe->attr.sys_image_guid = cpu_to_be64(attr->sys_image_guid); rxe 113 drivers/infiniband/sw/rxe/rxe_verbs.c memcpy(rxe->ib_dev.node_desc, rxe 114 drivers/infiniband/sw/rxe/rxe_verbs.c attr->node_desc, sizeof(rxe->ib_dev.node_desc)); rxe 123 drivers/infiniband/sw/rxe/rxe_verbs.c struct rxe_dev *rxe = to_rdev(dev); rxe 126 drivers/infiniband/sw/rxe/rxe_verbs.c port = &rxe->port; rxe 140 drivers/infiniband/sw/rxe/rxe_verbs.c struct rxe_dev *rxe = to_rdev(dev); rxe 142 drivers/infiniband/sw/rxe/rxe_verbs.c return rxe_link_layer(rxe, port_num); rxe 147 drivers/infiniband/sw/rxe/rxe_verbs.c struct rxe_dev *rxe = to_rdev(uctx->device); rxe 150 drivers/infiniband/sw/rxe/rxe_verbs.c return rxe_add_to_pool(&rxe->uc_pool, &uc->pelem); rxe 181 drivers/infiniband/sw/rxe/rxe_verbs.c struct rxe_dev *rxe = to_rdev(ibpd->device); rxe 184 drivers/infiniband/sw/rxe/rxe_verbs.c return rxe_add_to_pool(&rxe->pd_pool, &pd->pelem); rxe 199 drivers/infiniband/sw/rxe/rxe_verbs.c struct rxe_dev *rxe = to_rdev(ibah->device); rxe 202 drivers/infiniband/sw/rxe/rxe_verbs.c err = rxe_av_chk_attr(rxe, attr); rxe 206 drivers/infiniband/sw/rxe/rxe_verbs.c err = rxe_add_to_pool(&rxe->ah_pool, &ah->pelem); rxe 217 drivers/infiniband/sw/rxe/rxe_verbs.c struct rxe_dev *rxe = to_rdev(ibah->device); rxe 220 drivers/infiniband/sw/rxe/rxe_verbs.c err = rxe_av_chk_attr(rxe, attr); rxe 296 drivers/infiniband/sw/rxe/rxe_verbs.c struct rxe_dev *rxe = to_rdev(ibsrq->device); rxe 307 drivers/infiniband/sw/rxe/rxe_verbs.c err = rxe_srq_chk_attr(rxe, NULL, &init->attr, IB_SRQ_INIT_MASK); rxe 311 drivers/infiniband/sw/rxe/rxe_verbs.c err = rxe_add_to_pool(&rxe->srq_pool, &srq->pelem); rxe 318 drivers/infiniband/sw/rxe/rxe_verbs.c err = rxe_srq_from_init(rxe, srq, init, udata, uresp); rxe 337 drivers/infiniband/sw/rxe/rxe_verbs.c struct rxe_dev *rxe = to_rdev(ibsrq->device); rxe 349 drivers/infiniband/sw/rxe/rxe_verbs.c err = rxe_srq_chk_attr(rxe, srq, attr, mask); rxe 353 drivers/infiniband/sw/rxe/rxe_verbs.c err = rxe_srq_from_attr(rxe, srq, attr, mask, &ucmd, udata); rxe 416 drivers/infiniband/sw/rxe/rxe_verbs.c struct rxe_dev *rxe = to_rdev(ibpd->device); rxe 427 drivers/infiniband/sw/rxe/rxe_verbs.c err = rxe_qp_chk_init(rxe, init); rxe 431 drivers/infiniband/sw/rxe/rxe_verbs.c qp = rxe_alloc(&rxe->qp_pool); rxe 447 drivers/infiniband/sw/rxe/rxe_verbs.c err = rxe_qp_from_init(rxe, qp, pd, init, uresp, ibpd, udata); rxe 465 drivers/infiniband/sw/rxe/rxe_verbs.c struct rxe_dev *rxe = to_rdev(ibqp->device); rxe 468 drivers/infiniband/sw/rxe/rxe_verbs.c err = rxe_qp_chk_attr(rxe, qp, attr, mask); rxe 786 drivers/infiniband/sw/rxe/rxe_verbs.c struct rxe_dev *rxe = to_rdev(dev); rxe 799 drivers/infiniband/sw/rxe/rxe_verbs.c err = rxe_cq_chk_attr(rxe, NULL, attr->cqe, attr->comp_vector); rxe 803 drivers/infiniband/sw/rxe/rxe_verbs.c err = rxe_cq_from_init(rxe, cq, attr->cqe, attr->comp_vector, udata, rxe 808 drivers/infiniband/sw/rxe/rxe_verbs.c return rxe_add_to_pool(&rxe->cq_pool, &cq->pelem); rxe 824 drivers/infiniband/sw/rxe/rxe_verbs.c struct rxe_dev *rxe = to_rdev(ibcq->device); rxe 833 drivers/infiniband/sw/rxe/rxe_verbs.c err = rxe_cq_chk_attr(rxe, cq, cqe, 0); rxe 896 drivers/infiniband/sw/rxe/rxe_verbs.c struct rxe_dev *rxe = to_rdev(ibpd->device); rxe 901 drivers/infiniband/sw/rxe/rxe_verbs.c mr = rxe_alloc(&rxe->mr_pool); rxe 932 drivers/infiniband/sw/rxe/rxe_verbs.c struct rxe_dev *rxe = to_rdev(ibpd->device); rxe 936 drivers/infiniband/sw/rxe/rxe_verbs.c mr = rxe_alloc(&rxe->mr_pool); rxe 975 drivers/infiniband/sw/rxe/rxe_verbs.c struct rxe_dev *rxe = to_rdev(ibpd->device); rxe 983 drivers/infiniband/sw/rxe/rxe_verbs.c mr = rxe_alloc(&rxe->mr_pool); rxe 1049 drivers/infiniband/sw/rxe/rxe_verbs.c struct rxe_dev *rxe = to_rdev(ibqp->device); rxe 1054 drivers/infiniband/sw/rxe/rxe_verbs.c err = rxe_mcast_get_grp(rxe, mgid, &grp); rxe 1058 drivers/infiniband/sw/rxe/rxe_verbs.c err = rxe_mcast_add_grp_elem(rxe, qp, grp); rxe 1066 drivers/infiniband/sw/rxe/rxe_verbs.c struct rxe_dev *rxe = to_rdev(ibqp->device); rxe 1069 drivers/infiniband/sw/rxe/rxe_verbs.c return rxe_mcast_drop_grp_elem(rxe, qp, mgid); rxe 1075 drivers/infiniband/sw/rxe/rxe_verbs.c struct rxe_dev *rxe = rxe 1078 drivers/infiniband/sw/rxe/rxe_verbs.c return snprintf(buf, 16, "%s\n", rxe_parent_name(rxe, 1)); rxe 1094 drivers/infiniband/sw/rxe/rxe_verbs.c struct rxe_dev *rxe = container_of(ib_dev, struct rxe_dev, ib_dev); rxe 1096 drivers/infiniband/sw/rxe/rxe_verbs.c rxe_set_port_state(rxe); rxe 1097 drivers/infiniband/sw/rxe/rxe_verbs.c dev_info(&rxe->ib_dev.dev, "added %s\n", netdev_name(rxe->ndev)); rxe 1158 drivers/infiniband/sw/rxe/rxe_verbs.c int rxe_register_device(struct rxe_dev *rxe, const char *ibdev_name) rxe 1161 drivers/infiniband/sw/rxe/rxe_verbs.c struct ib_device *dev = &rxe->ib_dev; rxe 1169 drivers/infiniband/sw/rxe/rxe_verbs.c dev->dev.parent = rxe_dma_device(rxe); rxe 1172 drivers/infiniband/sw/rxe/rxe_verbs.c rxe->ndev->dev_addr); rxe 1211 drivers/infiniband/sw/rxe/rxe_verbs.c err = ib_device_set_netdev(&rxe->ib_dev, rxe->ndev, 1); rxe 1221 drivers/infiniband/sw/rxe/rxe_verbs.c rxe->tfm = tfm; rxe 356 drivers/infiniband/sw/rxe/rxe_verbs.h struct rxe_dev *rxe; rxe 418 drivers/infiniband/sw/rxe/rxe_verbs.h static inline void rxe_counter_inc(struct rxe_dev *rxe, enum rxe_counters index) rxe 420 drivers/infiniband/sw/rxe/rxe_verbs.h atomic64_inc(&rxe->stats_counters[index]); rxe 468 drivers/infiniband/sw/rxe/rxe_verbs.h int rxe_register_device(struct rxe_dev *rxe, const char *ibdev_name);