kernel/drivers/infiniband/hw/mlx5/mr.c

   1 /*
   2  * Copyright (c) 2013-2015, Mellanox Technologies. All rights reserved.
   3  *
   4  * This software is available to you under a choice of one of two
   5  * licenses.  You may choose to be licensed under the terms of the GNU
   6  * General Public License (GPL) Version 2, available from the file
   7  * COPYING in the main directory of this source tree, or the
   8  * OpenIB.org BSD license below:
   9  *
  10  *     Redistribution and use in source and binary forms, with or
  11  *     without modification, are permitted provided that the following
  12  *     conditions are met:
  13  *
  14  *      - Redistributions of source code must retain the above
  15  *        copyright notice, this list of conditions and the following
  16  *        disclaimer.
  17  *
  18  *      - Redistributions in binary form must reproduce the above
  19  *        copyright notice, this list of conditions and the following
  20  *        disclaimer in the documentation and/or other materials
  21  *        provided with the distribution.
  22  *
  23  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND,
  24  * EXPRESS OR IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF
  25  * MERCHANTABILITY, FITNESS FOR A PARTICULAR PURPOSE AND
  26  * NONINFRINGEMENT. IN NO EVENT SHALL THE AUTHORS OR COPYRIGHT HOLDERS
  27  * BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER LIABILITY, WHETHER IN AN
  28  * ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN
  29  * CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE
  30  * SOFTWARE.
  31  */
  32
  33
  34 #include <linux/kref.h>
  35 #include <linux/random.h>
  36 #include <linux/debugfs.h>
  37 #include <linux/export.h>
  38 #include <linux/delay.h>
  39 #include <rdma/ib_umem.h>
  40 #include <rdma/ib_umem_odp.h>
  41 #include <rdma/ib_verbs.h>
  42 #include "mlx5_ib.h"
  43
  44 enum {
  45         MAX_PENDING_REG_MR = 8,
  46 };
  47
  48 #define MLX5_UMR_ALIGN 2048
  49 #ifdef CONFIG_INFINIBAND_ON_DEMAND_PAGING
  50 static __be64 mlx5_ib_update_mtt_emergency_buffer[
  51                 MLX5_UMR_MTT_MIN_CHUNK_SIZE/sizeof(__be64)]
  52         __aligned(MLX5_UMR_ALIGN);
  53 static DEFINE_MUTEX(mlx5_ib_update_mtt_emergency_buffer_mutex);
  54 #endif
  55
  56 static int clean_mr(struct mlx5_ib_mr *mr);
  57
  58 static int destroy_mkey(struct mlx5_ib_dev *dev, struct mlx5_ib_mr *mr)
  59 {
  60         int err = mlx5_core_destroy_mkey(dev->mdev, &mr->mmr);
  61
  62 #ifdef CONFIG_INFINIBAND_ON_DEMAND_PAGING
  63         /* Wait until all page fault handlers using the mr complete. */
  64         synchronize_srcu(&dev->mr_srcu);
  65 #endif
  66
  67         return err;
  68 }
  69
  70 static int order2idx(struct mlx5_ib_dev *dev, int order)
  71 {
  72         struct mlx5_mr_cache *cache = &dev->cache;
  73
  74         if (order < cache->ent[0].order)
  75                 return 0;
  76         else
  77                 return order - cache->ent[0].order;
  78 }
  79
  80 static void reg_mr_callback(int status, void *context)
  81 {
  82         struct mlx5_ib_mr *mr = context;
  83         struct mlx5_ib_dev *dev = mr->dev;
  84         struct mlx5_mr_cache *cache = &dev->cache;
  85         int c = order2idx(dev, mr->order);
  86         struct mlx5_cache_ent *ent = &cache->ent[c];
  87         u8 key;
  88         unsigned long flags;
  89         struct mlx5_mr_table *table = &dev->mdev->priv.mr_table;
  90         int err;
  91
  92         spin_lock_irqsave(&ent->lock, flags);
  93         ent->pending--;
  94         spin_unlock_irqrestore(&ent->lock, flags);
  95         if (status) {
  96                 mlx5_ib_warn(dev, "async reg mr failed. status %d\n", status);
  97                 kfree(mr);
  98                 dev->fill_delay = 1;
  99                 mod_timer(&dev->delay_timer, jiffies + HZ);
 100                 return;
 101         }
 102
 103         if (mr->out.hdr.status) {
 104                 mlx5_ib_warn(dev, "failed - status %d, syndorme 0x%x\n",
 105                              mr->out.hdr.status,
 106                              be32_to_cpu(mr->out.hdr.syndrome));
 107                 kfree(mr);
 108                 dev->fill_delay = 1;
 109                 mod_timer(&dev->delay_timer, jiffies + HZ);
 110                 return;
 111         }
 112
 113         spin_lock_irqsave(&dev->mdev->priv.mkey_lock, flags);
 114         key = dev->mdev->priv.mkey_key++;
 115         spin_unlock_irqrestore(&dev->mdev->priv.mkey_lock, flags);
 116         mr->mmr.key = mlx5_idx_to_mkey(be32_to_cpu(mr->out.mkey) & 0xffffff) | key;
 117
 118         cache->last_add = jiffies;
 119
 120         spin_lock_irqsave(&ent->lock, flags);
 121         list_add_tail(&mr->list, &ent->head);
 122         ent->cur++;
 123         ent->size++;
 124         spin_unlock_irqrestore(&ent->lock, flags);
 125
 126         write_lock_irqsave(&table->lock, flags);
 127         err = radix_tree_insert(&table->tree, mlx5_base_mkey(mr->mmr.key),
 128                                 &mr->mmr);
 129         if (err)
 130                 pr_err("Error inserting to mr tree. 0x%x\n", -err);
 131         write_unlock_irqrestore(&table->lock, flags);
 132 }
 133
 134 static int add_keys(struct mlx5_ib_dev *dev, int c, int num)
 135 {
 136         struct mlx5_mr_cache *cache = &dev->cache;
 137         struct mlx5_cache_ent *ent = &cache->ent[c];
 138         struct mlx5_create_mkey_mbox_in *in;
 139         struct mlx5_ib_mr *mr;
 140         int npages = 1 << ent->order;
 141         int err = 0;
 142         int i;
 143
 144         in = kzalloc(sizeof(*in), GFP_KERNEL);
 145         if (!in)
 146                 return -ENOMEM;
 147
 148         for (i = 0; i < num; i++) {
 149                 if (ent->pending >= MAX_PENDING_REG_MR) {
 150                         err = -EAGAIN;
 151                         break;
 152                 }
 153
 154                 mr = kzalloc(sizeof(*mr), GFP_KERNEL);
 155                 if (!mr) {
 156                         err = -ENOMEM;
 157                         break;
 158                 }
 159                 mr->order = ent->order;
 160                 mr->umred = 1;
 161                 mr->dev = dev;
 162                 in->seg.status = MLX5_MKEY_STATUS_FREE;
 163                 in->seg.xlt_oct_size = cpu_to_be32((npages + 1) / 2);
 164                 in->seg.qpn_mkey7_0 = cpu_to_be32(0xffffff << 8);
 165                 in->seg.flags = MLX5_ACCESS_MODE_MTT | MLX5_PERM_UMR_EN;
 166                 in->seg.log2_page_size = 12;
 167
 168                 spin_lock_irq(&ent->lock);
 169                 ent->pending++;
 170                 spin_unlock_irq(&ent->lock);
 171                 err = mlx5_core_create_mkey(dev->mdev, &mr->mmr, in,
 172                                             sizeof(*in), reg_mr_callback,
 173                                             mr, &mr->out);
 174                 if (err) {
 175                         spin_lock_irq(&ent->lock);
 176                         ent->pending--;
 177                         spin_unlock_irq(&ent->lock);
 178                         mlx5_ib_warn(dev, "create mkey failed %d\n", err);
 179                         kfree(mr);
 180                         break;
 181                 }
 182         }
 183
 184         kfree(in);
 185         return err;
 186 }
 187
 188 static void remove_keys(struct mlx5_ib_dev *dev, int c, int num)
 189 {
 190         struct mlx5_mr_cache *cache = &dev->cache;
 191         struct mlx5_cache_ent *ent = &cache->ent[c];
 192         struct mlx5_ib_mr *mr;
 193         int err;
 194         int i;
 195
 196         for (i = 0; i < num; i++) {
 197                 spin_lock_irq(&ent->lock);
 198                 if (list_empty(&ent->head)) {
 199                         spin_unlock_irq(&ent->lock);
 200                         return;
 201                 }
 202                 mr = list_first_entry(&ent->head, struct mlx5_ib_mr, list);
 203                 list_del(&mr->list);
 204                 ent->cur--;
 205                 ent->size--;
 206                 spin_unlock_irq(&ent->lock);
 207                 err = destroy_mkey(dev, mr);
 208                 if (err)
 209                         mlx5_ib_warn(dev, "failed destroy mkey\n");
 210                 else
 211                         kfree(mr);
 212         }
 213 }
 214
 215 static ssize_t size_write(struct file *filp, const char __user *buf,
 216                           size_t count, loff_t *pos)
 217 {
 218         struct mlx5_cache_ent *ent = filp->private_data;
 219         struct mlx5_ib_dev *dev = ent->dev;
 220         char lbuf[20];
 221         u32 var;
 222         int err;
 223         int c;
 224
 225         if (copy_from_user(lbuf, buf, sizeof(lbuf)))
 226                 return -EFAULT;
 227
 228         c = order2idx(dev, ent->order);
 229         lbuf[sizeof(lbuf) - 1] = 0;
 230
 231         if (sscanf(lbuf, "%u", &var) != 1)
 232                 return -EINVAL;
 233
 234         if (var < ent->limit)
 235                 return -EINVAL;
 236
 237         if (var > ent->size) {
 238                 do {
 239                         err = add_keys(dev, c, var - ent->size);
 240                         if (err && err != -EAGAIN)
 241                                 return err;
 242
 243                         usleep_range(3000, 5000);
 244                 } while (err);
 245         } else if (var < ent->size) {
 246                 remove_keys(dev, c, ent->size - var);
 247         }
 248
 249         return count;
 250 }
 251
 252 static ssize_t size_read(struct file *filp, char __user *buf, size_t count,
 253                          loff_t *pos)
 254 {
 255         struct mlx5_cache_ent *ent = filp->private_data;
 256         char lbuf[20];
 257         int err;
 258
 259         if (*pos)
 260                 return 0;
 261
 262         err = snprintf(lbuf, sizeof(lbuf), "%d\n", ent->size);
 263         if (err < 0)
 264                 return err;
 265
 266         if (copy_to_user(buf, lbuf, err))
 267                 return -EFAULT;
 268
 269         *pos += err;
 270
 271         return err;
 272 }
 273
 274 static const struct file_operations size_fops = {
 275         .owner  = THIS_MODULE,
 276         .open   = simple_open,
 277         .write  = size_write,
 278         .read   = size_read,
 279 };
 280
 281 static ssize_t limit_write(struct file *filp, const char __user *buf,
 282                            size_t count, loff_t *pos)
 283 {
 284         struct mlx5_cache_ent *ent = filp->private_data;
 285         struct mlx5_ib_dev *dev = ent->dev;
 286         char lbuf[20];
 287         u32 var;
 288         int err;
 289         int c;
 290
 291         if (copy_from_user(lbuf, buf, sizeof(lbuf)))
 292                 return -EFAULT;
 293
 294         c = order2idx(dev, ent->order);
 295         lbuf[sizeof(lbuf) - 1] = 0;
 296
 297         if (sscanf(lbuf, "%u", &var) != 1)
 298                 return -EINVAL;
 299
 300         if (var > ent->size)
 301                 return -EINVAL;
 302
 303         ent->limit = var;
 304
 305         if (ent->cur < ent->limit) {
 306                 err = add_keys(dev, c, 2 * ent->limit - ent->cur);
 307                 if (err)
 308                         return err;
 309         }
 310
 311         return count;
 312 }
 313
 314 static ssize_t limit_read(struct file *filp, char __user *buf, size_t count,
 315                           loff_t *pos)
 316 {
 317         struct mlx5_cache_ent *ent = filp->private_data;
 318         char lbuf[20];
 319         int err;
 320
 321         if (*pos)
 322                 return 0;
 323
 324         err = snprintf(lbuf, sizeof(lbuf), "%d\n", ent->limit);
 325         if (err < 0)
 326                 return err;
 327
 328         if (copy_to_user(buf, lbuf, err))
 329                 return -EFAULT;
 330
 331         *pos += err;
 332
 333         return err;
 334 }
 335
 336 static const struct file_operations limit_fops = {
 337         .owner  = THIS_MODULE,
 338         .open   = simple_open,
 339         .write  = limit_write,
 340         .read   = limit_read,
 341 };
 342
 343 static int someone_adding(struct mlx5_mr_cache *cache)
 344 {
 345         int i;
 346
 347         for (i = 0; i < MAX_MR_CACHE_ENTRIES; i++) {
 348                 if (cache->ent[i].cur < cache->ent[i].limit)
 349                         return 1;
 350         }
 351
 352         return 0;
 353 }
 354
 355 static void __cache_work_func(struct mlx5_cache_ent *ent)
 356 {
 357         struct mlx5_ib_dev *dev = ent->dev;
 358         struct mlx5_mr_cache *cache = &dev->cache;
 359         int i = order2idx(dev, ent->order);
 360         int err;
 361
 362         if (cache->stopped)
 363                 return;
 364
 365         ent = &dev->cache.ent[i];
 366         if (ent->cur < 2 * ent->limit && !dev->fill_delay) {
 367                 err = add_keys(dev, i, 1);
 368                 if (ent->cur < 2 * ent->limit) {
 369                         if (err == -EAGAIN) {
 370                                 mlx5_ib_dbg(dev, "returned eagain, order %d\n",
 371                                             i + 2);
 372                                 queue_delayed_work(cache->wq, &ent->dwork,
 373                                                    msecs_to_jiffies(3));
 374                         } else if (err) {
 375                                 mlx5_ib_warn(dev, "command failed order %d, err %d\n",
 376                                              i + 2, err);
 377                                 queue_delayed_work(cache->wq, &ent->dwork,
 378                                                    msecs_to_jiffies(1000));
 379                         } else {
 380                                 queue_work(cache->wq, &ent->work);
 381                         }
 382                 }
 383         } else if (ent->cur > 2 * ent->limit) {
 384                 /*
 385                  * The remove_keys() logic is performed as garbage collection
 386                  * task. Such task is intended to be run when no other active
 387                  * processes are running.
 388                  *
 389                  * The need_resched() will return TRUE if there are user tasks
 390                  * to be activated in near future.
 391                  *
 392                  * In such case, we don't execute remove_keys() and postpone
 393                  * the garbage collection work to try to run in next cycle,
 394                  * in order to free CPU resources to other tasks.
 395                  */
 396                 if (!need_resched() && !someone_adding(cache) &&
 397                     time_after(jiffies, cache->last_add + 300 * HZ)) {
 398                         remove_keys(dev, i, 1);
 399                         if (ent->cur > ent->limit)
 400                                 queue_work(cache->wq, &ent->work);
 401                 } else {
 402                         queue_delayed_work(cache->wq, &ent->dwork, 300 * HZ);
 403                 }
 404         }
 405 }
 406
 407 static void delayed_cache_work_func(struct work_struct *work)
 408 {
 409         struct mlx5_cache_ent *ent;
 410
 411         ent = container_of(work, struct mlx5_cache_ent, dwork.work);
 412         __cache_work_func(ent);
 413 }
 414
 415 static void cache_work_func(struct work_struct *work)
 416 {
 417         struct mlx5_cache_ent *ent;
 418
 419         ent = container_of(work, struct mlx5_cache_ent, work);
 420         __cache_work_func(ent);
 421 }
 422
 423 static struct mlx5_ib_mr *alloc_cached_mr(struct mlx5_ib_dev *dev, int order)
 424 {
 425         struct mlx5_mr_cache *cache = &dev->cache;
 426         struct mlx5_ib_mr *mr = NULL;
 427         struct mlx5_cache_ent *ent;
 428         int c;
 429         int i;
 430
 431         c = order2idx(dev, order);
 432         if (c < 0 || c >= MAX_MR_CACHE_ENTRIES) {
 433                 mlx5_ib_warn(dev, "order %d, cache index %d\n", order, c);
 434                 return NULL;
 435         }
 436
 437         for (i = c; i < MAX_MR_CACHE_ENTRIES; i++) {
 438                 ent = &cache->ent[i];
 439
 440                 mlx5_ib_dbg(dev, "order %d, cache index %d\n", ent->order, i);
 441
 442                 spin_lock_irq(&ent->lock);
 443                 if (!list_empty(&ent->head)) {
 444                         mr = list_first_entry(&ent->head, struct mlx5_ib_mr,
 445                                               list);
 446                         list_del(&mr->list);
 447                         ent->cur--;
 448                         spin_unlock_irq(&ent->lock);
 449                         if (ent->cur < ent->limit)
 450                                 queue_work(cache->wq, &ent->work);
 451                         break;
 452                 }
 453                 spin_unlock_irq(&ent->lock);
 454
 455                 queue_work(cache->wq, &ent->work);
 456         }
 457
 458         if (!mr)
 459                 cache->ent[c].miss++;
 460
 461         return mr;
 462 }
 463
 464 static void free_cached_mr(struct mlx5_ib_dev *dev, struct mlx5_ib_mr *mr)
 465 {
 466         struct mlx5_mr_cache *cache = &dev->cache;
 467         struct mlx5_cache_ent *ent;
 468         int shrink = 0;
 469         int c;
 470
 471         c = order2idx(dev, mr->order);
 472         if (c < 0 || c >= MAX_MR_CACHE_ENTRIES) {
 473                 mlx5_ib_warn(dev, "order %d, cache index %d\n", mr->order, c);
 474                 return;
 475         }
 476         ent = &cache->ent[c];
 477         spin_lock_irq(&ent->lock);
 478         list_add_tail(&mr->list, &ent->head);
 479         ent->cur++;
 480         if (ent->cur > 2 * ent->limit)
 481                 shrink = 1;
 482         spin_unlock_irq(&ent->lock);
 483
 484         if (shrink)
 485                 queue_work(cache->wq, &ent->work);
 486 }
 487
 488 static void clean_keys(struct mlx5_ib_dev *dev, int c)
 489 {
 490         struct mlx5_mr_cache *cache = &dev->cache;
 491         struct mlx5_cache_ent *ent = &cache->ent[c];
 492         struct mlx5_ib_mr *mr;
 493         int err;
 494
 495         cancel_delayed_work(&ent->dwork);
 496         while (1) {
 497                 spin_lock_irq(&ent->lock);
 498                 if (list_empty(&ent->head)) {
 499                         spin_unlock_irq(&ent->lock);
 500                         return;
 501                 }
 502                 mr = list_first_entry(&ent->head, struct mlx5_ib_mr, list);
 503                 list_del(&mr->list);
 504                 ent->cur--;
 505                 ent->size--;
 506                 spin_unlock_irq(&ent->lock);
 507                 err = destroy_mkey(dev, mr);
 508                 if (err)
 509                         mlx5_ib_warn(dev, "failed destroy mkey\n");
 510                 else
 511                         kfree(mr);
 512         }
 513 }
 514
 515 static int mlx5_mr_cache_debugfs_init(struct mlx5_ib_dev *dev)
 516 {
 517         struct mlx5_mr_cache *cache = &dev->cache;
 518         struct mlx5_cache_ent *ent;
 519         int i;
 520
 521         if (!mlx5_debugfs_root)
 522                 return 0;
 523
 524         cache->root = debugfs_create_dir("mr_cache", dev->mdev->priv.dbg_root);
 525         if (!cache->root)
 526                 return -ENOMEM;
 527
 528         for (i = 0; i < MAX_MR_CACHE_ENTRIES; i++) {
 529                 ent = &cache->ent[i];
 530                 sprintf(ent->name, "%d", ent->order);
 531                 ent->dir = debugfs_create_dir(ent->name,  cache->root);
 532                 if (!ent->dir)
 533                         return -ENOMEM;
 534
 535                 ent->fsize = debugfs_create_file("size", 0600, ent->dir, ent,
 536                                                  &size_fops);
 537                 if (!ent->fsize)
 538                         return -ENOMEM;
 539
 540                 ent->flimit = debugfs_create_file("limit", 0600, ent->dir, ent,
 541                                                   &limit_fops);
 542                 if (!ent->flimit)
 543                         return -ENOMEM;
 544
 545                 ent->fcur = debugfs_create_u32("cur", 0400, ent->dir,
 546                                                &ent->cur);
 547                 if (!ent->fcur)
 548                         return -ENOMEM;
 549
 550                 ent->fmiss = debugfs_create_u32("miss", 0600, ent->dir,
 551                                                 &ent->miss);
 552                 if (!ent->fmiss)
 553                         return -ENOMEM;
 554         }
 555
 556         return 0;
 557 }
 558
 559 static void mlx5_mr_cache_debugfs_cleanup(struct mlx5_ib_dev *dev)
 560 {
 561         if (!mlx5_debugfs_root)
 562                 return;
 563
 564         debugfs_remove_recursive(dev->cache.root);
 565 }
 566
 567 static void delay_time_func(unsigned long ctx)
 568 {
 569         struct mlx5_ib_dev *dev = (struct mlx5_ib_dev *)ctx;
 570
 571         dev->fill_delay = 0;
 572 }
 573
 574 int mlx5_mr_cache_init(struct mlx5_ib_dev *dev)
 575 {
 576         struct mlx5_mr_cache *cache = &dev->cache;
 577         struct mlx5_cache_ent *ent;
 578         int limit;
 579         int err;
 580         int i;
 581
 582         cache->wq = create_singlethread_workqueue("mkey_cache");
 583         if (!cache->wq) {
 584                 mlx5_ib_warn(dev, "failed to create work queue\n");
 585                 return -ENOMEM;
 586         }
 587
 588         setup_timer(&dev->delay_timer, delay_time_func, (unsigned long)dev);
 589         for (i = 0; i < MAX_MR_CACHE_ENTRIES; i++) {
 590                 INIT_LIST_HEAD(&cache->ent[i].head);
 591                 spin_lock_init(&cache->ent[i].lock);
 592
 593                 ent = &cache->ent[i];
 594                 INIT_LIST_HEAD(&ent->head);
 595                 spin_lock_init(&ent->lock);
 596                 ent->order = i + 2;
 597                 ent->dev = dev;
 598
 599                 if (dev->mdev->profile->mask & MLX5_PROF_MASK_MR_CACHE)
 600                         limit = dev->mdev->profile->mr_cache[i].limit;
 601                 else
 602                         limit = 0;
 603
 604                 INIT_WORK(&ent->work, cache_work_func);
 605                 INIT_DELAYED_WORK(&ent->dwork, delayed_cache_work_func);
 606                 ent->limit = limit;
 607                 queue_work(cache->wq, &ent->work);
 608         }
 609
 610         err = mlx5_mr_cache_debugfs_init(dev);
 611         if (err)
 612                 mlx5_ib_warn(dev, "cache debugfs failure\n");
 613
 614         return 0;
 615 }
 616
 617 static void wait_for_async_commands(struct mlx5_ib_dev *dev)
 618 {
 619         struct mlx5_mr_cache *cache = &dev->cache;
 620         struct mlx5_cache_ent *ent;
 621         int total = 0;
 622         int i;
 623         int j;
 624
 625         for (i = 0; i < MAX_MR_CACHE_ENTRIES; i++) {
 626                 ent = &cache->ent[i];
 627                 for (j = 0 ; j < 1000; j++) {
 628                         if (!ent->pending)
 629                                 break;
 630                         msleep(50);
 631                 }
 632         }
 633         for (i = 0; i < MAX_MR_CACHE_ENTRIES; i++) {
 634                 ent = &cache->ent[i];
 635                 total += ent->pending;
 636         }
 637
 638         if (total)
 639                 mlx5_ib_warn(dev, "aborted while there are %d pending mr requests\n", total);
 640         else
 641                 mlx5_ib_warn(dev, "done with all pending requests\n");
 642 }
 643
 644 int mlx5_mr_cache_cleanup(struct mlx5_ib_dev *dev)
 645 {
 646         int i;
 647
 648         dev->cache.stopped = 1;
 649         flush_workqueue(dev->cache.wq);
 650
 651         mlx5_mr_cache_debugfs_cleanup(dev);
 652
 653         for (i = 0; i < MAX_MR_CACHE_ENTRIES; i++)
 654                 clean_keys(dev, i);
 655
 656         destroy_workqueue(dev->cache.wq);
 657         wait_for_async_commands(dev);
 658         del_timer_sync(&dev->delay_timer);
 659
 660         return 0;
 661 }
 662
 663 struct ib_mr *mlx5_ib_get_dma_mr(struct ib_pd *pd, int acc)
 664 {
 665         struct mlx5_ib_dev *dev = to_mdev(pd->device);
 666         struct mlx5_core_dev *mdev = dev->mdev;
 667         struct mlx5_create_mkey_mbox_in *in;
 668         struct mlx5_mkey_seg *seg;
 669         struct mlx5_ib_mr *mr;
 670         int err;
 671
 672         mr = kzalloc(sizeof(*mr), GFP_KERNEL);
 673         if (!mr)
 674                 return ERR_PTR(-ENOMEM);
 675
 676         in = kzalloc(sizeof(*in), GFP_KERNEL);
 677         if (!in) {
 678                 err = -ENOMEM;
 679                 goto err_free;
 680         }
 681
 682         seg = &in->seg;
 683         seg->flags = convert_access(acc) | MLX5_ACCESS_MODE_PA;
 684         seg->flags_pd = cpu_to_be32(to_mpd(pd)->pdn | MLX5_MKEY_LEN64);
 685         seg->qpn_mkey7_0 = cpu_to_be32(0xffffff << 8);
 686         seg->start_addr = 0;
 687
 688         err = mlx5_core_create_mkey(mdev, &mr->mmr, in, sizeof(*in), NULL, NULL,
 689                                     NULL);
 690         if (err)
 691                 goto err_in;
 692
 693         kfree(in);
 694         mr->ibmr.lkey = mr->mmr.key;
 695         mr->ibmr.rkey = mr->mmr.key;
 696         mr->umem = NULL;
 697
 698         return &mr->ibmr;
 699
 700 err_in:
 701         kfree(in);
 702
 703 err_free:
 704         kfree(mr);
 705
 706         return ERR_PTR(err);
 707 }
 708
 709 static int get_octo_len(u64 addr, u64 len, int page_size)
 710 {
 711         u64 offset;
 712         int npages;
 713
 714         offset = addr & (page_size - 1);
 715         npages = ALIGN(len + offset, page_size) >> ilog2(page_size);
 716         return (npages + 1) / 2;
 717 }
 718
 719 static int use_umr(int order)
 720 {
 721         return order <= MLX5_MAX_UMR_SHIFT;
 722 }
 723
 724 static void prep_umr_reg_wqe(struct ib_pd *pd, struct ib_send_wr *wr,
 725                              struct ib_sge *sg, u64 dma, int n, u32 key,
 726                              int page_shift, u64 virt_addr, u64 len,
 727                              int access_flags)
 728 {
 729         struct mlx5_ib_dev *dev = to_mdev(pd->device);
 730         struct mlx5_umr_wr *umrwr = umr_wr(wr);
 731
 732         sg->addr = dma;
 733         sg->length = ALIGN(sizeof(u64) * n, 64);
 734         sg->lkey = dev->umrc.pd->local_dma_lkey;
 735
 736         wr->next = NULL;
 737         wr->send_flags = 0;
 738         wr->sg_list = sg;
 739         if (n)
 740                 wr->num_sge = 1;
 741         else
 742                 wr->num_sge = 0;
 743
 744         wr->opcode = MLX5_IB_WR_UMR;
 745
 746         umrwr->npages = n;
 747         umrwr->page_shift = page_shift;
 748         umrwr->mkey = key;
 749         umrwr->target.virt_addr = virt_addr;
 750         umrwr->length = len;
 751         umrwr->access_flags = access_flags;
 752         umrwr->pd = pd;
 753 }
 754
 755 static void prep_umr_unreg_wqe(struct mlx5_ib_dev *dev,
 756                                struct ib_send_wr *wr, u32 key)
 757 {
 758         struct mlx5_umr_wr *umrwr = umr_wr(wr);
 759
 760         wr->send_flags = MLX5_IB_SEND_UMR_UNREG | MLX5_IB_SEND_UMR_FAIL_IF_FREE;
 761         wr->opcode = MLX5_IB_WR_UMR;
 762         umrwr->mkey = key;
 763 }
 764
 765 void mlx5_umr_cq_handler(struct ib_cq *cq, void *cq_context)
 766 {
 767         struct mlx5_ib_umr_context *context;
 768         struct ib_wc wc;
 769         int err;
 770
 771         while (1) {
 772                 err = ib_poll_cq(cq, 1, &wc);
 773                 if (err < 0) {
 774                         pr_warn("poll cq error %d\n", err);
 775                         return;
 776                 }
 777                 if (err == 0)
 778                         break;
 779
 780                 context = (struct mlx5_ib_umr_context *) (unsigned long) wc.wr_id;
 781                 context->status = wc.status;
 782                 complete(&context->done);
 783         }
 784         ib_req_notify_cq(cq, IB_CQ_NEXT_COMP);
 785 }
 786
 787 static struct mlx5_ib_mr *reg_umr(struct ib_pd *pd, struct ib_umem *umem,
 788                                   u64 virt_addr, u64 len, int npages,
 789                                   int page_shift, int order, int access_flags)
 790 {
 791         struct mlx5_ib_dev *dev = to_mdev(pd->device);
 792         struct device *ddev = dev->ib_dev.dma_device;
 793         struct umr_common *umrc = &dev->umrc;
 794         struct mlx5_ib_umr_context umr_context;
 795         struct mlx5_umr_wr umrwr;
 796         struct ib_send_wr *bad;
 797         struct mlx5_ib_mr *mr;
 798         struct ib_sge sg;
 799         int size;
 800         __be64 *mr_pas;
 801         __be64 *pas;
 802         dma_addr_t dma;
 803         int err = 0;
 804         int i;
 805
 806         for (i = 0; i < 1; i++) {
 807                 mr = alloc_cached_mr(dev, order);
 808                 if (mr)
 809                         break;
 810
 811                 err = add_keys(dev, order2idx(dev, order), 1);
 812                 if (err && err != -EAGAIN) {
 813                         mlx5_ib_warn(dev, "add_keys failed, err %d\n", err);
 814                         break;
 815                 }
 816         }
 817
 818         if (!mr)
 819                 return ERR_PTR(-EAGAIN);
 820
 821         /* UMR copies MTTs in units of MLX5_UMR_MTT_ALIGNMENT bytes.
 822          * To avoid copying garbage after the pas array, we allocate
 823          * a little more. */
 824         size = ALIGN(sizeof(u64) * npages, MLX5_UMR_MTT_ALIGNMENT);
 825         mr_pas = kmalloc(size + MLX5_UMR_ALIGN - 1, GFP_KERNEL);
 826         if (!mr_pas) {
 827                 err = -ENOMEM;
 828                 goto free_mr;
 829         }
 830
 831         pas = PTR_ALIGN(mr_pas, MLX5_UMR_ALIGN);
 832         mlx5_ib_populate_pas(dev, umem, page_shift, pas, MLX5_IB_MTT_PRESENT);
 833         /* Clear padding after the actual pages. */
 834         memset(pas + npages, 0, size - npages * sizeof(u64));
 835
 836         dma = dma_map_single(ddev, pas, size, DMA_TO_DEVICE);
 837         if (dma_mapping_error(ddev, dma)) {
 838                 err = -ENOMEM;
 839                 goto free_pas;
 840         }
 841
 842         memset(&umrwr, 0, sizeof(umrwr));
 843         umrwr.wr.wr_id = (u64)(unsigned long)&umr_context;
 844         prep_umr_reg_wqe(pd, &umrwr.wr, &sg, dma, npages, mr->mmr.key,
 845                          page_shift, virt_addr, len, access_flags);
 846
 847         mlx5_ib_init_umr_context(&umr_context);
 848         down(&umrc->sem);
 849         err = ib_post_send(umrc->qp, &umrwr.wr, &bad);
 850         if (err) {
 851                 mlx5_ib_warn(dev, "post send failed, err %d\n", err);
 852                 goto unmap_dma;
 853         } else {
 854                 wait_for_completion(&umr_context.done);
 855                 if (umr_context.status != IB_WC_SUCCESS) {
 856                         mlx5_ib_warn(dev, "reg umr failed\n");
 857                         err = -EFAULT;
 858                 }
 859         }
 860
 861         mr->mmr.iova = virt_addr;
 862         mr->mmr.size = len;
 863         mr->mmr.pd = to_mpd(pd)->pdn;
 864
 865         mr->live = 1;
 866
 867 unmap_dma:
 868         up(&umrc->sem);
 869         dma_unmap_single(ddev, dma, size, DMA_TO_DEVICE);
 870
 871 free_pas:
 872         kfree(mr_pas);
 873
 874 free_mr:
 875         if (err) {
 876                 free_cached_mr(dev, mr);
 877                 return ERR_PTR(err);
 878         }
 879
 880         return mr;
 881 }
 882
 883 #ifdef CONFIG_INFINIBAND_ON_DEMAND_PAGING
 884 int mlx5_ib_update_mtt(struct mlx5_ib_mr *mr, u64 start_page_index, int npages,
 885                        int zap)
 886 {
 887         struct mlx5_ib_dev *dev = mr->dev;
 888         struct device *ddev = dev->ib_dev.dma_device;
 889         struct umr_common *umrc = &dev->umrc;
 890         struct mlx5_ib_umr_context umr_context;
 891         struct ib_umem *umem = mr->umem;
 892         int size;
 893         __be64 *pas;
 894         dma_addr_t dma;
 895         struct ib_send_wr *bad;
 896         struct mlx5_umr_wr wr;
 897         struct ib_sge sg;
 898         int err = 0;
 899         const int page_index_alignment = MLX5_UMR_MTT_ALIGNMENT / sizeof(u64);
 900         const int page_index_mask = page_index_alignment - 1;
 901         size_t pages_mapped = 0;
 902         size_t pages_to_map = 0;
 903         size_t pages_iter = 0;
 904         int use_emergency_buf = 0;
 905
 906         /* UMR copies MTTs in units of MLX5_UMR_MTT_ALIGNMENT bytes,
 907          * so we need to align the offset and length accordingly */
 908         if (start_page_index & page_index_mask) {
 909                 npages += start_page_index & page_index_mask;
 910                 start_page_index &= ~page_index_mask;
 911         }
 912
 913         pages_to_map = ALIGN(npages, page_index_alignment);
 914
 915         if (start_page_index + pages_to_map > MLX5_MAX_UMR_PAGES)
 916                 return -EINVAL;
 917
 918         size = sizeof(u64) * pages_to_map;
 919         size = min_t(int, PAGE_SIZE, size);
 920         /* We allocate with GFP_ATOMIC to avoid recursion into page-reclaim
 921          * code, when we are called from an invalidation. The pas buffer must
 922          * be 2k-aligned for Connect-IB. */
 923         pas = (__be64 *)get_zeroed_page(GFP_ATOMIC);
 924         if (!pas) {
 925                 mlx5_ib_warn(dev, "unable to allocate memory during MTT update, falling back to slower chunked mechanism.\n");
 926                 pas = mlx5_ib_update_mtt_emergency_buffer;
 927                 size = MLX5_UMR_MTT_MIN_CHUNK_SIZE;
 928                 use_emergency_buf = 1;
 929                 mutex_lock(&mlx5_ib_update_mtt_emergency_buffer_mutex);
 930                 memset(pas, 0, size);
 931         }
 932         pages_iter = size / sizeof(u64);
 933         dma = dma_map_single(ddev, pas, size, DMA_TO_DEVICE);
 934         if (dma_mapping_error(ddev, dma)) {
 935                 mlx5_ib_err(dev, "unable to map DMA during MTT update.\n");
 936                 err = -ENOMEM;
 937                 goto free_pas;
 938         }
 939
 940         for (pages_mapped = 0;
 941              pages_mapped < pages_to_map && !err;
 942              pages_mapped += pages_iter, start_page_index += pages_iter) {
 943                 dma_sync_single_for_cpu(ddev, dma, size, DMA_TO_DEVICE);
 944
 945                 npages = min_t(size_t,
 946                                pages_iter,
 947                                ib_umem_num_pages(umem) - start_page_index);
 948
 949                 if (!zap) {
 950                         __mlx5_ib_populate_pas(dev, umem, PAGE_SHIFT,
 951                                                start_page_index, npages, pas,
 952                                                MLX5_IB_MTT_PRESENT);
 953                         /* Clear padding after the pages brought from the
 954                          * umem. */
 955                         memset(pas + npages, 0, size - npages * sizeof(u64));
 956                 }
 957
 958                 dma_sync_single_for_device(ddev, dma, size, DMA_TO_DEVICE);
 959
 960                 memset(&wr, 0, sizeof(wr));
 961                 wr.wr.wr_id = (u64)(unsigned long)&umr_context;
 962
 963                 sg.addr = dma;
 964                 sg.length = ALIGN(npages * sizeof(u64),
 965                                 MLX5_UMR_MTT_ALIGNMENT);
 966                 sg.lkey = dev->umrc.pd->local_dma_lkey;
 967
 968                 wr.wr.send_flags = MLX5_IB_SEND_UMR_FAIL_IF_FREE |
 969                                 MLX5_IB_SEND_UMR_UPDATE_MTT;
 970                 wr.wr.sg_list = &sg;
 971                 wr.wr.num_sge = 1;
 972                 wr.wr.opcode = MLX5_IB_WR_UMR;
 973                 wr.npages = sg.length / sizeof(u64);
 974                 wr.page_shift = PAGE_SHIFT;
 975                 wr.mkey = mr->mmr.key;
 976                 wr.target.offset = start_page_index;
 977
 978                 mlx5_ib_init_umr_context(&umr_context);
 979                 down(&umrc->sem);
 980                 err = ib_post_send(umrc->qp, &wr.wr, &bad);
 981                 if (err) {
 982                         mlx5_ib_err(dev, "UMR post send failed, err %d\n", err);
 983                 } else {
 984                         wait_for_completion(&umr_context.done);
 985                         if (umr_context.status != IB_WC_SUCCESS) {
 986                                 mlx5_ib_err(dev, "UMR completion failed, code %d\n",
 987                                             umr_context.status);
 988                                 err = -EFAULT;
 989                         }
 990                 }
 991                 up(&umrc->sem);
 992         }
 993         dma_unmap_single(ddev, dma, size, DMA_TO_DEVICE);
 994
 995 free_pas:
 996         if (!use_emergency_buf)
 997                 free_page((unsigned long)pas);
 998         else
 999                 mutex_unlock(&mlx5_ib_update_mtt_emergency_buffer_mutex);
1000
1001         return err;
1002 }
1003 #endif
1004
1005 static struct mlx5_ib_mr *reg_create(struct ib_pd *pd, u64 virt_addr,
1006                                      u64 length, struct ib_umem *umem,
1007                                      int npages, int page_shift,
1008                                      int access_flags)
1009 {
1010         struct mlx5_ib_dev *dev = to_mdev(pd->device);
1011         struct mlx5_create_mkey_mbox_in *in;
1012         struct mlx5_ib_mr *mr;
1013         int inlen;
1014         int err;
1015         bool pg_cap = !!(MLX5_CAP_GEN(dev->mdev, pg));
1016
1017         mr = kzalloc(sizeof(*mr), GFP_KERNEL);
1018         if (!mr)
1019                 return ERR_PTR(-ENOMEM);
1020
1021         inlen = sizeof(*in) + sizeof(*in->pas) * ((npages + 1) / 2) * 2;
1022         in = mlx5_vzalloc(inlen);
1023         if (!in) {
1024                 err = -ENOMEM;
1025                 goto err_1;
1026         }
1027         mlx5_ib_populate_pas(dev, umem, page_shift, in->pas,
1028                              pg_cap ? MLX5_IB_MTT_PRESENT : 0);
1029
1030         /* The MLX5_MKEY_INBOX_PG_ACCESS bit allows setting the access flags
1031          * in the page list submitted with the command. */
1032         in->flags = pg_cap ? cpu_to_be32(MLX5_MKEY_INBOX_PG_ACCESS) : 0;
1033         in->seg.flags = convert_access(access_flags) |
1034                 MLX5_ACCESS_MODE_MTT;
1035         in->seg.flags_pd = cpu_to_be32(to_mpd(pd)->pdn);
1036         in->seg.start_addr = cpu_to_be64(virt_addr);
1037         in->seg.len = cpu_to_be64(length);
1038         in->seg.bsfs_octo_size = 0;
1039         in->seg.xlt_oct_size = cpu_to_be32(get_octo_len(virt_addr, length, 1 << page_shift));
1040         in->seg.log2_page_size = page_shift;
1041         in->seg.qpn_mkey7_0 = cpu_to_be32(0xffffff << 8);
1042         in->xlat_oct_act_size = cpu_to_be32(get_octo_len(virt_addr, length,
1043                                                          1 << page_shift));
1044         err = mlx5_core_create_mkey(dev->mdev, &mr->mmr, in, inlen, NULL,
1045                                     NULL, NULL);
1046         if (err) {
1047                 mlx5_ib_warn(dev, "create mkey failed\n");
1048                 goto err_2;
1049         }
1050         mr->umem = umem;
1051         mr->dev = dev;
1052         mr->live = 1;
1053         kvfree(in);
1054
1055         mlx5_ib_dbg(dev, "mkey = 0x%x\n", mr->mmr.key);
1056
1057         return mr;
1058
1059 err_2:
1060         kvfree(in);
1061
1062 err_1:
1063         kfree(mr);
1064
1065         return ERR_PTR(err);
1066 }
1067
1068 struct ib_mr *mlx5_ib_reg_user_mr(struct ib_pd *pd, u64 start, u64 length,
1069                                   u64 virt_addr, int access_flags,
1070                                   struct ib_udata *udata)
1071 {
1072         struct mlx5_ib_dev *dev = to_mdev(pd->device);
1073         struct mlx5_ib_mr *mr = NULL;
1074         struct ib_umem *umem;
1075         int page_shift;
1076         int npages;
1077         int ncont;
1078         int order;
1079         int err;
1080
1081         mlx5_ib_dbg(dev, "start 0x%llx, virt_addr 0x%llx, length 0x%llx, access_flags 0x%x\n",
1082                     start, virt_addr, length, access_flags);
1083         umem = ib_umem_get(pd->uobject->context, start, length, access_flags,
1084                            0);
1085         if (IS_ERR(umem)) {
1086                 mlx5_ib_dbg(dev, "umem get failed (%ld)\n", PTR_ERR(umem));
1087                 return (void *)umem;
1088         }
1089
1090         mlx5_ib_cont_pages(umem, start, &npages, &page_shift, &ncont, &order);
1091         if (!npages) {
1092                 mlx5_ib_warn(dev, "avoid zero region\n");
1093                 err = -EINVAL;
1094                 goto error;
1095         }
1096
1097         mlx5_ib_dbg(dev, "npages %d, ncont %d, order %d, page_shift %d\n",
1098                     npages, ncont, order, page_shift);
1099
1100         if (use_umr(order)) {
1101                 mr = reg_umr(pd, umem, virt_addr, length, ncont, page_shift,
1102                              order, access_flags);
1103                 if (PTR_ERR(mr) == -EAGAIN) {
1104                         mlx5_ib_dbg(dev, "cache empty for order %d", order);
1105                         mr = NULL;
1106                 }
1107         } else if (access_flags & IB_ACCESS_ON_DEMAND) {
1108                 err = -EINVAL;
1109                 pr_err("Got MR registration for ODP MR > 512MB, not supported for Connect-IB");
1110                 goto error;
1111         }
1112
1113         if (!mr)
1114                 mr = reg_create(pd, virt_addr, length, umem, ncont, page_shift,
1115                                 access_flags);
1116
1117         if (IS_ERR(mr)) {
1118                 err = PTR_ERR(mr);
1119                 goto error;
1120         }
1121
1122         mlx5_ib_dbg(dev, "mkey 0x%x\n", mr->mmr.key);
1123
1124         mr->umem = umem;
1125         mr->npages = npages;
1126         atomic_add(npages, &dev->mdev->priv.reg_pages);
1127         mr->ibmr.lkey = mr->mmr.key;
1128         mr->ibmr.rkey = mr->mmr.key;
1129
1130 #ifdef CONFIG_INFINIBAND_ON_DEMAND_PAGING
1131         if (umem->odp_data) {
1132                 /*
1133                  * This barrier prevents the compiler from moving the
1134                  * setting of umem->odp_data->private to point to our
1135                  * MR, before reg_umr finished, to ensure that the MR
1136                  * initialization have finished before starting to
1137                  * handle invalidations.
1138                  */
1139                 smp_wmb();
1140                 mr->umem->odp_data->private = mr;
1141                 /*
1142                  * Make sure we will see the new
1143                  * umem->odp_data->private value in the invalidation
1144                  * routines, before we can get page faults on the
1145                  * MR. Page faults can happen once we put the MR in
1146                  * the tree, below this line. Without the barrier,
1147                  * there can be a fault handling and an invalidation
1148                  * before umem->odp_data->private == mr is visible to
1149                  * the invalidation handler.
1150                  */
1151                 smp_wmb();
1152         }
1153 #endif
1154
1155         return &mr->ibmr;
1156
1157 error:
1158         ib_umem_release(umem);
1159         return ERR_PTR(err);
1160 }
1161
1162 static int unreg_umr(struct mlx5_ib_dev *dev, struct mlx5_ib_mr *mr)
1163 {
1164         struct umr_common *umrc = &dev->umrc;
1165         struct mlx5_ib_umr_context umr_context;
1166         struct mlx5_umr_wr umrwr;
1167         struct ib_send_wr *bad;
1168         int err;
1169
1170         memset(&umrwr.wr, 0, sizeof(umrwr));
1171         umrwr.wr.wr_id = (u64)(unsigned long)&umr_context;
1172         prep_umr_unreg_wqe(dev, &umrwr.wr, mr->mmr.key);
1173
1174         mlx5_ib_init_umr_context(&umr_context);
1175         down(&umrc->sem);
1176         err = ib_post_send(umrc->qp, &umrwr.wr, &bad);
1177         if (err) {
1178                 up(&umrc->sem);
1179                 mlx5_ib_dbg(dev, "err %d\n", err);
1180                 goto error;
1181         } else {
1182                 wait_for_completion(&umr_context.done);
1183                 up(&umrc->sem);
1184         }
1185         if (umr_context.status != IB_WC_SUCCESS) {
1186                 mlx5_ib_warn(dev, "unreg umr failed\n");
1187                 err = -EFAULT;
1188                 goto error;
1189         }
1190         return 0;
1191
1192 error:
1193         return err;
1194 }
1195
1196 static int
1197 mlx5_alloc_priv_descs(struct ib_device *device,
1198                       struct mlx5_ib_mr *mr,
1199                       int ndescs,
1200                       int desc_size)
1201 {
1202         int size = ndescs * desc_size;
1203         int add_size;
1204         int ret;
1205
1206         add_size = max_t(int, MLX5_UMR_ALIGN - ARCH_KMALLOC_MINALIGN, 0);
1207
1208         mr->descs_alloc = kzalloc(size + add_size, GFP_KERNEL);
1209         if (!mr->descs_alloc)
1210                 return -ENOMEM;
1211
1212         mr->descs = PTR_ALIGN(mr->descs_alloc, MLX5_UMR_ALIGN);
1213
1214         mr->desc_map = dma_map_single(device->dma_device, mr->descs,
1215                                       size, DMA_TO_DEVICE);
1216         if (dma_mapping_error(device->dma_device, mr->desc_map)) {
1217                 ret = -ENOMEM;
1218                 goto err;
1219         }
1220
1221         return 0;
1222 err:
1223         kfree(mr->descs_alloc);
1224
1225         return ret;
1226 }
1227
1228 static void
1229 mlx5_free_priv_descs(struct mlx5_ib_mr *mr)
1230 {
1231         if (mr->descs) {
1232                 struct ib_device *device = mr->ibmr.device;
1233                 int size = mr->max_descs * mr->desc_size;
1234
1235                 dma_unmap_single(device->dma_device, mr->desc_map,
1236                                  size, DMA_TO_DEVICE);
1237                 kfree(mr->descs_alloc);
1238                 mr->descs = NULL;
1239         }
1240 }
1241
1242 static int clean_mr(struct mlx5_ib_mr *mr)
1243 {
1244         struct mlx5_ib_dev *dev = to_mdev(mr->ibmr.device);
1245         int umred = mr->umred;
1246         int err;
1247
1248         if (mr->sig) {
1249                 if (mlx5_core_destroy_psv(dev->mdev,
1250                                           mr->sig->psv_memory.psv_idx))
1251                         mlx5_ib_warn(dev, "failed to destroy mem psv %d\n",
1252                                      mr->sig->psv_memory.psv_idx);
1253                 if (mlx5_core_destroy_psv(dev->mdev,
1254                                           mr->sig->psv_wire.psv_idx))
1255                         mlx5_ib_warn(dev, "failed to destroy wire psv %d\n",
1256                                      mr->sig->psv_wire.psv_idx);
1257                 kfree(mr->sig);
1258                 mr->sig = NULL;
1259         }
1260
1261         mlx5_free_priv_descs(mr);
1262
1263         if (!umred) {
1264                 err = destroy_mkey(dev, mr);
1265                 if (err) {
1266                         mlx5_ib_warn(dev, "failed to destroy mkey 0x%x (%d)\n",
1267                                      mr->mmr.key, err);
1268                         return err;
1269                 }
1270         } else {
1271                 err = unreg_umr(dev, mr);
1272                 if (err) {
1273                         mlx5_ib_warn(dev, "failed unregister\n");
1274                         return err;
1275                 }
1276                 free_cached_mr(dev, mr);
1277         }
1278
1279         if (!umred)
1280                 kfree(mr);
1281
1282         return 0;
1283 }
1284
1285 int mlx5_ib_dereg_mr(struct ib_mr *ibmr)
1286 {
1287         struct mlx5_ib_dev *dev = to_mdev(ibmr->device);
1288         struct mlx5_ib_mr *mr = to_mmr(ibmr);
1289         int npages = mr->npages;
1290         struct ib_umem *umem = mr->umem;
1291
1292 #ifdef CONFIG_INFINIBAND_ON_DEMAND_PAGING
1293         if (umem && umem->odp_data) {
1294                 /* Prevent new page faults from succeeding */
1295                 mr->live = 0;
1296                 /* Wait for all running page-fault handlers to finish. */
1297                 synchronize_srcu(&dev->mr_srcu);
1298                 /* Destroy all page mappings */
1299                 mlx5_ib_invalidate_range(umem, ib_umem_start(umem),
1300                                          ib_umem_end(umem));
1301                 /*
1302                  * We kill the umem before the MR for ODP,
1303                  * so that there will not be any invalidations in
1304                  * flight, looking at the *mr struct.
1305                  */
1306                 ib_umem_release(umem);
1307                 atomic_sub(npages, &dev->mdev->priv.reg_pages);
1308
1309                 /* Avoid double-freeing the umem. */
1310                 umem = NULL;
1311         }
1312 #endif
1313
1314         clean_mr(mr);
1315
1316         if (umem) {
1317                 ib_umem_release(umem);
1318                 atomic_sub(npages, &dev->mdev->priv.reg_pages);
1319         }
1320
1321         return 0;
1322 }
1323
1324 struct ib_mr *mlx5_ib_alloc_mr(struct ib_pd *pd,
1325                                enum ib_mr_type mr_type,
1326                                u32 max_num_sg)
1327 {
1328         struct mlx5_ib_dev *dev = to_mdev(pd->device);
1329         struct mlx5_create_mkey_mbox_in *in;
1330         struct mlx5_ib_mr *mr;
1331         int access_mode, err;
1332         int ndescs = roundup(max_num_sg, 4);
1333
1334         mr = kzalloc(sizeof(*mr), GFP_KERNEL);
1335         if (!mr)
1336                 return ERR_PTR(-ENOMEM);
1337
1338         in = kzalloc(sizeof(*in), GFP_KERNEL);
1339         if (!in) {
1340                 err = -ENOMEM;
1341                 goto err_free;
1342         }
1343
1344         in->seg.status = MLX5_MKEY_STATUS_FREE;
1345         in->seg.xlt_oct_size = cpu_to_be32(ndescs);
1346         in->seg.qpn_mkey7_0 = cpu_to_be32(0xffffff << 8);
1347         in->seg.flags_pd = cpu_to_be32(to_mpd(pd)->pdn);
1348
1349         if (mr_type == IB_MR_TYPE_MEM_REG) {
1350                 access_mode = MLX5_ACCESS_MODE_MTT;
1351                 in->seg.log2_page_size = PAGE_SHIFT;
1352
1353                 err = mlx5_alloc_priv_descs(pd->device, mr,
1354                                             ndescs, sizeof(u64));
1355                 if (err)
1356                         goto err_free_in;
1357
1358                 mr->desc_size = sizeof(u64);
1359                 mr->max_descs = ndescs;
1360         } else if (mr_type == IB_MR_TYPE_SIGNATURE) {
1361                 u32 psv_index[2];
1362
1363                 in->seg.flags_pd = cpu_to_be32(be32_to_cpu(in->seg.flags_pd) |
1364                                                            MLX5_MKEY_BSF_EN);
1365                 in->seg.bsfs_octo_size = cpu_to_be32(MLX5_MKEY_BSF_OCTO_SIZE);
1366                 mr->sig = kzalloc(sizeof(*mr->sig), GFP_KERNEL);
1367                 if (!mr->sig) {
1368                         err = -ENOMEM;
1369                         goto err_free_in;
1370                 }
1371
1372                 /* create mem & wire PSVs */
1373                 err = mlx5_core_create_psv(dev->mdev, to_mpd(pd)->pdn,
1374                                            2, psv_index);
1375                 if (err)
1376                         goto err_free_sig;
1377
1378                 access_mode = MLX5_ACCESS_MODE_KLM;
1379                 mr->sig->psv_memory.psv_idx = psv_index[0];
1380                 mr->sig->psv_wire.psv_idx = psv_index[1];
1381
1382                 mr->sig->sig_status_checked = true;
1383                 mr->sig->sig_err_exists = false;
1384                 /* Next UMR, Arm SIGERR */
1385                 ++mr->sig->sigerr_count;
1386         } else {
1387                 mlx5_ib_warn(dev, "Invalid mr type %d\n", mr_type);
1388                 err = -EINVAL;
1389                 goto err_free_in;
1390         }
1391
1392         in->seg.flags = MLX5_PERM_UMR_EN | access_mode;
1393         err = mlx5_core_create_mkey(dev->mdev, &mr->mmr, in, sizeof(*in),
1394                                     NULL, NULL, NULL);
1395         if (err)
1396                 goto err_destroy_psv;
1397
1398         mr->ibmr.lkey = mr->mmr.key;
1399         mr->ibmr.rkey = mr->mmr.key;
1400         mr->umem = NULL;
1401         kfree(in);
1402
1403         return &mr->ibmr;
1404
1405 err_destroy_psv:
1406         if (mr->sig) {
1407                 if (mlx5_core_destroy_psv(dev->mdev,
1408                                           mr->sig->psv_memory.psv_idx))
1409                         mlx5_ib_warn(dev, "failed to destroy mem psv %d\n",
1410                                      mr->sig->psv_memory.psv_idx);
1411                 if (mlx5_core_destroy_psv(dev->mdev,
1412                                           mr->sig->psv_wire.psv_idx))
1413                         mlx5_ib_warn(dev, "failed to destroy wire psv %d\n",
1414                                      mr->sig->psv_wire.psv_idx);
1415         }
1416         mlx5_free_priv_descs(mr);
1417 err_free_sig:
1418         kfree(mr->sig);
1419 err_free_in:
1420         kfree(in);
1421 err_free:
1422         kfree(mr);
1423         return ERR_PTR(err);
1424 }
1425
1426 int mlx5_ib_check_mr_status(struct ib_mr *ibmr, u32 check_mask,
1427                             struct ib_mr_status *mr_status)
1428 {
1429         struct mlx5_ib_mr *mmr = to_mmr(ibmr);
1430         int ret = 0;
1431
1432         if (check_mask & ~IB_MR_CHECK_SIG_STATUS) {
1433                 pr_err("Invalid status check mask\n");
1434                 ret = -EINVAL;
1435                 goto done;
1436         }
1437
1438         mr_status->fail_status = 0;
1439         if (check_mask & IB_MR_CHECK_SIG_STATUS) {
1440                 if (!mmr->sig) {
1441                         ret = -EINVAL;
1442                         pr_err("signature status check requested on a non-signature enabled MR\n");
1443                         goto done;
1444                 }
1445
1446                 mmr->sig->sig_status_checked = true;
1447                 if (!mmr->sig->sig_err_exists)
1448                         goto done;
1449
1450                 if (ibmr->lkey == mmr->sig->err_item.key)
1451                         memcpy(&mr_status->sig_err, &mmr->sig->err_item,
1452                                sizeof(mr_status->sig_err));
1453                 else {
1454                         mr_status->sig_err.err_type = IB_SIG_BAD_GUARD;
1455                         mr_status->sig_err.sig_err_offset = 0;
1456                         mr_status->sig_err.key = mmr->sig->err_item.key;
1457                 }
1458
1459                 mmr->sig->sig_err_exists = false;
1460                 mr_status->fail_status |= IB_MR_CHECK_SIG_STATUS;
1461         }
1462
1463 done:
1464         return ret;
1465 }
1466
1467 static int mlx5_set_page(struct ib_mr *ibmr, u64 addr)
1468 {
1469         struct mlx5_ib_mr *mr = to_mmr(ibmr);
1470         __be64 *descs;
1471
1472         if (unlikely(mr->ndescs == mr->max_descs))
1473                 return -ENOMEM;
1474
1475         descs = mr->descs;
1476         descs[mr->ndescs++] = cpu_to_be64(addr | MLX5_EN_RD | MLX5_EN_WR);
1477
1478         return 0;
1479 }
1480
1481 int mlx5_ib_map_mr_sg(struct ib_mr *ibmr,
1482                       struct scatterlist *sg,
1483                       int sg_nents)
1484 {
1485         struct mlx5_ib_mr *mr = to_mmr(ibmr);
1486         int n;
1487
1488         mr->ndescs = 0;
1489
1490         ib_dma_sync_single_for_cpu(ibmr->device, mr->desc_map,
1491                                    mr->desc_size * mr->max_descs,
1492                                    DMA_TO_DEVICE);
1493
1494         n = ib_sg_to_pages(ibmr, sg, sg_nents, mlx5_set_page);
1495
1496         ib_dma_sync_single_for_device(ibmr->device, mr->desc_map,
1497                                       mr->desc_size * mr->max_descs,
1498                                       DMA_TO_DEVICE);
1499
1500         return n;
1501 }