kernel/drivers/media/platform/s5p-mfc/s5p_mfc_dec.c

   1 /*
   2  * linux/drivers/media/platform/s5p-mfc/s5p_mfc_dec.c
   3  *
   4  * Copyright (C) 2011 Samsung Electronics Co., Ltd.
   5  *              http://www.samsung.com/
   6  * Kamil Debski, <k.debski@samsung.com>
   7  *
   8  * This program is free software; you can redistribute it and/or modify
   9  * it under the terms of the GNU General Public License as published by
  10  * the Free Software Foundation; either version 2 of the License, or
  11  * (at your option) any later version.
  12  */
  13
  14 #include <linux/clk.h>
  15 #include <linux/interrupt.h>
  16 #include <linux/io.h>
  17 #include <linux/module.h>
  18 #include <linux/platform_device.h>
  19 #include <linux/sched.h>
  20 #include <linux/slab.h>
  21 #include <linux/videodev2.h>
  22 #include <linux/workqueue.h>
  23 #include <media/v4l2-ctrls.h>
  24 #include <media/v4l2-event.h>
  25 #include <media/videobuf2-v4l2.h>
  26 #include "s5p_mfc_common.h"
  27 #include "s5p_mfc_ctrl.h"
  28 #include "s5p_mfc_debug.h"
  29 #include "s5p_mfc_dec.h"
  30 #include "s5p_mfc_intr.h"
  31 #include "s5p_mfc_opr.h"
  32 #include "s5p_mfc_pm.h"
  33
  34 static struct s5p_mfc_fmt formats[] = {
  35         {
  36                 .name           = "4:2:0 2 Planes 16x16 Tiles",
  37                 .fourcc         = V4L2_PIX_FMT_NV12MT_16X16,
  38                 .codec_mode     = S5P_MFC_CODEC_NONE,
  39                 .type           = MFC_FMT_RAW,
  40                 .num_planes     = 2,
  41                 .versions       = MFC_V6_BIT | MFC_V7_BIT,
  42         },
  43         {
  44                 .name           = "4:2:0 2 Planes 64x32 Tiles",
  45                 .fourcc         = V4L2_PIX_FMT_NV12MT,
  46                 .codec_mode     = S5P_MFC_CODEC_NONE,
  47                 .type           = MFC_FMT_RAW,
  48                 .num_planes     = 2,
  49                 .versions       = MFC_V5_BIT,
  50         },
  51         {
  52                 .name           = "4:2:0 2 Planes Y/CbCr",
  53                 .fourcc         = V4L2_PIX_FMT_NV12M,
  54                 .codec_mode     = S5P_MFC_CODEC_NONE,
  55                 .type           = MFC_FMT_RAW,
  56                 .num_planes     = 2,
  57                 .versions       = MFC_V6_BIT | MFC_V7_BIT | MFC_V8_BIT,
  58         },
  59         {
  60                 .name           = "4:2:0 2 Planes Y/CrCb",
  61                 .fourcc         = V4L2_PIX_FMT_NV21M,
  62                 .codec_mode     = S5P_MFC_CODEC_NONE,
  63                 .type           = MFC_FMT_RAW,
  64                 .num_planes     = 2,
  65                 .versions       = MFC_V6_BIT | MFC_V7_BIT | MFC_V8_BIT,
  66         },
  67         {
  68                 .name           = "H264 Encoded Stream",
  69                 .fourcc         = V4L2_PIX_FMT_H264,
  70                 .codec_mode     = S5P_MFC_CODEC_H264_DEC,
  71                 .type           = MFC_FMT_DEC,
  72                 .num_planes     = 1,
  73                 .versions       = MFC_V5_BIT | MFC_V6_BIT | MFC_V7_BIT |
  74                                                                 MFC_V8_BIT,
  75         },
  76         {
  77                 .name           = "H264/MVC Encoded Stream",
  78                 .fourcc         = V4L2_PIX_FMT_H264_MVC,
  79                 .codec_mode     = S5P_MFC_CODEC_H264_MVC_DEC,
  80                 .type           = MFC_FMT_DEC,
  81                 .num_planes     = 1,
  82                 .versions       = MFC_V6_BIT | MFC_V7_BIT | MFC_V8_BIT,
  83         },
  84         {
  85                 .name           = "H263 Encoded Stream",
  86                 .fourcc         = V4L2_PIX_FMT_H263,
  87                 .codec_mode     = S5P_MFC_CODEC_H263_DEC,
  88                 .type           = MFC_FMT_DEC,
  89                 .num_planes     = 1,
  90                 .versions       = MFC_V5_BIT | MFC_V6_BIT | MFC_V7_BIT |
  91                                                                 MFC_V8_BIT,
  92         },
  93         {
  94                 .name           = "MPEG1 Encoded Stream",
  95                 .fourcc         = V4L2_PIX_FMT_MPEG1,
  96                 .codec_mode     = S5P_MFC_CODEC_MPEG2_DEC,
  97                 .type           = MFC_FMT_DEC,
  98                 .num_planes     = 1,
  99                 .versions       = MFC_V5_BIT | MFC_V6_BIT | MFC_V7_BIT |
 100                                                                 MFC_V8_BIT,
 101         },
 102         {
 103                 .name           = "MPEG2 Encoded Stream",
 104                 .fourcc         = V4L2_PIX_FMT_MPEG2,
 105                 .codec_mode     = S5P_MFC_CODEC_MPEG2_DEC,
 106                 .type           = MFC_FMT_DEC,
 107                 .num_planes     = 1,
 108                 .versions       = MFC_V5_BIT | MFC_V6_BIT | MFC_V7_BIT |
 109                                                                 MFC_V8_BIT,
 110         },
 111         {
 112                 .name           = "MPEG4 Encoded Stream",
 113                 .fourcc         = V4L2_PIX_FMT_MPEG4,
 114                 .codec_mode     = S5P_MFC_CODEC_MPEG4_DEC,
 115                 .type           = MFC_FMT_DEC,
 116                 .num_planes     = 1,
 117                 .versions       = MFC_V5_BIT | MFC_V6_BIT | MFC_V7_BIT |
 118                                                                 MFC_V8_BIT,
 119         },
 120         {
 121                 .name           = "XviD Encoded Stream",
 122                 .fourcc         = V4L2_PIX_FMT_XVID,
 123                 .codec_mode     = S5P_MFC_CODEC_MPEG4_DEC,
 124                 .type           = MFC_FMT_DEC,
 125                 .num_planes     = 1,
 126                 .versions       = MFC_V5_BIT | MFC_V6_BIT | MFC_V7_BIT |
 127                                                                 MFC_V8_BIT,
 128         },
 129         {
 130                 .name           = "VC1 Encoded Stream",
 131                 .fourcc         = V4L2_PIX_FMT_VC1_ANNEX_G,
 132                 .codec_mode     = S5P_MFC_CODEC_VC1_DEC,
 133                 .type           = MFC_FMT_DEC,
 134                 .num_planes     = 1,
 135                 .versions       = MFC_V5_BIT | MFC_V6_BIT | MFC_V7_BIT |
 136                                                                 MFC_V8_BIT,
 137         },
 138         {
 139                 .name           = "VC1 RCV Encoded Stream",
 140                 .fourcc         = V4L2_PIX_FMT_VC1_ANNEX_L,
 141                 .codec_mode     = S5P_MFC_CODEC_VC1RCV_DEC,
 142                 .type           = MFC_FMT_DEC,
 143                 .num_planes     = 1,
 144                 .versions       = MFC_V5_BIT | MFC_V6_BIT | MFC_V7_BIT |
 145                                                                 MFC_V8_BIT,
 146         },
 147         {
 148                 .name           = "VP8 Encoded Stream",
 149                 .fourcc         = V4L2_PIX_FMT_VP8,
 150                 .codec_mode     = S5P_MFC_CODEC_VP8_DEC,
 151                 .type           = MFC_FMT_DEC,
 152                 .num_planes     = 1,
 153                 .versions       = MFC_V6_BIT | MFC_V7_BIT | MFC_V8_BIT,
 154         },
 155 };
 156
 157 #define NUM_FORMATS ARRAY_SIZE(formats)
 158
 159 /* Find selected format description */
 160 static struct s5p_mfc_fmt *find_format(struct v4l2_format *f, unsigned int t)
 161 {
 162         unsigned int i;
 163
 164         for (i = 0; i < NUM_FORMATS; i++) {
 165                 if (formats[i].fourcc == f->fmt.pix_mp.pixelformat &&
 166                     formats[i].type == t)
 167                         return &formats[i];
 168         }
 169         return NULL;
 170 }
 171
 172 static struct mfc_control controls[] = {
 173         {
 174                 .id = V4L2_CID_MPEG_MFC51_VIDEO_DECODER_H264_DISPLAY_DELAY,
 175                 .type = V4L2_CTRL_TYPE_INTEGER,
 176                 .name = "H264 Display Delay",
 177                 .minimum = 0,
 178                 .maximum = 16383,
 179                 .step = 1,
 180                 .default_value = 0,
 181         },
 182         {
 183                 .id = V4L2_CID_MPEG_MFC51_VIDEO_DECODER_H264_DISPLAY_DELAY_ENABLE,
 184                 .type = V4L2_CTRL_TYPE_BOOLEAN,
 185                 .name = "H264 Display Delay Enable",
 186                 .minimum = 0,
 187                 .maximum = 1,
 188                 .step = 1,
 189                 .default_value = 0,
 190         },
 191         {
 192                 .id = V4L2_CID_MPEG_VIDEO_DECODER_MPEG4_DEBLOCK_FILTER,
 193                 .type = V4L2_CTRL_TYPE_BOOLEAN,
 194                 .name = "Mpeg4 Loop Filter Enable",
 195                 .minimum = 0,
 196                 .maximum = 1,
 197                 .step = 1,
 198                 .default_value = 0,
 199         },
 200         {
 201                 .id = V4L2_CID_MPEG_VIDEO_DECODER_SLICE_INTERFACE,
 202                 .type = V4L2_CTRL_TYPE_BOOLEAN,
 203                 .name = "Slice Interface Enable",
 204                 .minimum = 0,
 205                 .maximum = 1,
 206                 .step = 1,
 207                 .default_value = 0,
 208         },
 209         {
 210                 .id = V4L2_CID_MIN_BUFFERS_FOR_CAPTURE,
 211                 .type = V4L2_CTRL_TYPE_INTEGER,
 212                 .name = "Minimum number of cap bufs",
 213                 .minimum = 1,
 214                 .maximum = 32,
 215                 .step = 1,
 216                 .default_value = 1,
 217                 .is_volatile = 1,
 218         },
 219 };
 220
 221 #define NUM_CTRLS ARRAY_SIZE(controls)
 222
 223 /* Check whether a context should be run on hardware */
 224 static int s5p_mfc_ctx_ready(struct s5p_mfc_ctx *ctx)
 225 {
 226         /* Context is to parse header */
 227         if (ctx->src_queue_cnt >= 1 && ctx->state == MFCINST_GOT_INST)
 228                 return 1;
 229         /* Context is to decode a frame */
 230         if (ctx->src_queue_cnt >= 1 &&
 231             ctx->state == MFCINST_RUNNING &&
 232             ctx->dst_queue_cnt >= ctx->pb_count)
 233                 return 1;
 234         /* Context is to return last frame */
 235         if (ctx->state == MFCINST_FINISHING &&
 236             ctx->dst_queue_cnt >= ctx->pb_count)
 237                 return 1;
 238         /* Context is to set buffers */
 239         if (ctx->src_queue_cnt >= 1 &&
 240             ctx->state == MFCINST_HEAD_PARSED &&
 241             ctx->capture_state == QUEUE_BUFS_MMAPED)
 242                 return 1;
 243         /* Resolution change */
 244         if ((ctx->state == MFCINST_RES_CHANGE_INIT ||
 245                 ctx->state == MFCINST_RES_CHANGE_FLUSH) &&
 246                 ctx->dst_queue_cnt >= ctx->pb_count)
 247                 return 1;
 248         if (ctx->state == MFCINST_RES_CHANGE_END &&
 249                 ctx->src_queue_cnt >= 1)
 250                 return 1;
 251         mfc_debug(2, "ctx is not ready\n");
 252         return 0;
 253 }
 254
 255 static struct s5p_mfc_codec_ops decoder_codec_ops = {
 256         .pre_seq_start          = NULL,
 257         .post_seq_start         = NULL,
 258         .pre_frame_start        = NULL,
 259         .post_frame_start       = NULL,
 260 };
 261
 262 /* Query capabilities of the device */
 263 static int vidioc_querycap(struct file *file, void *priv,
 264                            struct v4l2_capability *cap)
 265 {
 266         struct s5p_mfc_dev *dev = video_drvdata(file);
 267
 268         strncpy(cap->driver, dev->plat_dev->name, sizeof(cap->driver) - 1);
 269         strncpy(cap->card, dev->plat_dev->name, sizeof(cap->card) - 1);
 270         cap->bus_info[0] = 0;
 271         /*
 272          * This is only a mem-to-mem video device. The capture and output
 273          * device capability flags are left only for backward compatibility
 274          * and are scheduled for removal.
 275          */
 276         cap->device_caps = V4L2_CAP_VIDEO_M2M_MPLANE | V4L2_CAP_STREAMING;
 277         cap->capabilities = cap->device_caps | V4L2_CAP_DEVICE_CAPS;
 278         return 0;
 279 }
 280
 281 /* Enumerate format */
 282 static int vidioc_enum_fmt(struct file *file, struct v4l2_fmtdesc *f,
 283                                                         bool out)
 284 {
 285         struct s5p_mfc_dev *dev = video_drvdata(file);
 286         struct s5p_mfc_fmt *fmt;
 287         int i, j = 0;
 288
 289         for (i = 0; i < ARRAY_SIZE(formats); ++i) {
 290                 if (out && formats[i].type != MFC_FMT_DEC)
 291                         continue;
 292                 else if (!out && formats[i].type != MFC_FMT_RAW)
 293                         continue;
 294                 else if ((dev->variant->version_bit & formats[i].versions) == 0)
 295                         continue;
 296
 297                 if (j == f->index)
 298                         break;
 299                 ++j;
 300         }
 301         if (i == ARRAY_SIZE(formats))
 302                 return -EINVAL;
 303         fmt = &formats[i];
 304         strlcpy(f->description, fmt->name, sizeof(f->description));
 305         f->pixelformat = fmt->fourcc;
 306         return 0;
 307 }
 308
 309 static int vidioc_enum_fmt_vid_cap_mplane(struct file *file, void *pirv,
 310                                                         struct v4l2_fmtdesc *f)
 311 {
 312         return vidioc_enum_fmt(file, f, false);
 313 }
 314
 315 static int vidioc_enum_fmt_vid_out_mplane(struct file *file, void *priv,
 316                                                         struct v4l2_fmtdesc *f)
 317 {
 318         return vidioc_enum_fmt(file, f, true);
 319 }
 320
 321 /* Get format */
 322 static int vidioc_g_fmt(struct file *file, void *priv, struct v4l2_format *f)
 323 {
 324         struct s5p_mfc_ctx *ctx = fh_to_ctx(priv);
 325         struct v4l2_pix_format_mplane *pix_mp;
 326
 327         mfc_debug_enter();
 328         pix_mp = &f->fmt.pix_mp;
 329         if (f->type == V4L2_BUF_TYPE_VIDEO_CAPTURE_MPLANE &&
 330             (ctx->state == MFCINST_GOT_INST || ctx->state ==
 331                                                 MFCINST_RES_CHANGE_END)) {
 332                 /* If the MFC is parsing the header,
 333                  * so wait until it is finished */
 334                 s5p_mfc_wait_for_done_ctx(ctx, S5P_MFC_R2H_CMD_SEQ_DONE_RET,
 335                                                                         0);
 336         }
 337         if (f->type == V4L2_BUF_TYPE_VIDEO_CAPTURE_MPLANE &&
 338             ctx->state >= MFCINST_HEAD_PARSED &&
 339             ctx->state < MFCINST_ABORT) {
 340                 /* This is run on CAPTURE (decode output) */
 341                 /* Width and height are set to the dimensions
 342                    of the movie, the buffer is bigger and
 343                    further processing stages should crop to this
 344                    rectangle. */
 345                 pix_mp->width = ctx->buf_width;
 346                 pix_mp->height = ctx->buf_height;
 347                 pix_mp->field = V4L2_FIELD_NONE;
 348                 pix_mp->num_planes = 2;
 349                 /* Set pixelformat to the format in which MFC
 350                    outputs the decoded frame */
 351                 pix_mp->pixelformat = ctx->dst_fmt->fourcc;
 352                 pix_mp->plane_fmt[0].bytesperline = ctx->buf_width;
 353                 pix_mp->plane_fmt[0].sizeimage = ctx->luma_size;
 354                 pix_mp->plane_fmt[1].bytesperline = ctx->buf_width;
 355                 pix_mp->plane_fmt[1].sizeimage = ctx->chroma_size;
 356         } else if (f->type == V4L2_BUF_TYPE_VIDEO_OUTPUT_MPLANE) {
 357                 /* This is run on OUTPUT
 358                    The buffer contains compressed image
 359                    so width and height have no meaning */
 360                 pix_mp->width = 0;
 361                 pix_mp->height = 0;
 362                 pix_mp->field = V4L2_FIELD_NONE;
 363                 pix_mp->plane_fmt[0].bytesperline = ctx->dec_src_buf_size;
 364                 pix_mp->plane_fmt[0].sizeimage = ctx->dec_src_buf_size;
 365                 pix_mp->pixelformat = ctx->src_fmt->fourcc;
 366                 pix_mp->num_planes = ctx->src_fmt->num_planes;
 367         } else {
 368                 mfc_err("Format could not be read\n");
 369                 mfc_debug(2, "%s-- with error\n", __func__);
 370                 return -EINVAL;
 371         }
 372         mfc_debug_leave();
 373         return 0;
 374 }
 375
 376 /* Try format */
 377 static int vidioc_try_fmt(struct file *file, void *priv, struct v4l2_format *f)
 378 {
 379         struct s5p_mfc_dev *dev = video_drvdata(file);
 380         struct s5p_mfc_fmt *fmt;
 381
 382         mfc_debug(2, "Type is %d\n", f->type);
 383         if (f->type == V4L2_BUF_TYPE_VIDEO_OUTPUT_MPLANE) {
 384                 fmt = find_format(f, MFC_FMT_DEC);
 385                 if (!fmt) {
 386                         mfc_err("Unsupported format for source.\n");
 387                         return -EINVAL;
 388                 }
 389                 if (fmt->codec_mode == S5P_FIMV_CODEC_NONE) {
 390                         mfc_err("Unknown codec\n");
 391                         return -EINVAL;
 392                 }
 393                 if ((dev->variant->version_bit & fmt->versions) == 0) {
 394                         mfc_err("Unsupported format by this MFC version.\n");
 395                         return -EINVAL;
 396                 }
 397         } else if (f->type == V4L2_BUF_TYPE_VIDEO_CAPTURE_MPLANE) {
 398                 fmt = find_format(f, MFC_FMT_RAW);
 399                 if (!fmt) {
 400                         mfc_err("Unsupported format for destination.\n");
 401                         return -EINVAL;
 402                 }
 403                 if ((dev->variant->version_bit & fmt->versions) == 0) {
 404                         mfc_err("Unsupported format by this MFC version.\n");
 405                         return -EINVAL;
 406                 }
 407         }
 408
 409         return 0;
 410 }
 411
 412 /* Set format */
 413 static int vidioc_s_fmt(struct file *file, void *priv, struct v4l2_format *f)
 414 {
 415         struct s5p_mfc_dev *dev = video_drvdata(file);
 416         struct s5p_mfc_ctx *ctx = fh_to_ctx(priv);
 417         int ret = 0;
 418         struct v4l2_pix_format_mplane *pix_mp;
 419         struct s5p_mfc_buf_size *buf_size = dev->variant->buf_size;
 420
 421         mfc_debug_enter();
 422         ret = vidioc_try_fmt(file, priv, f);
 423         pix_mp = &f->fmt.pix_mp;
 424         if (ret)
 425                 return ret;
 426         if (ctx->vq_src.streaming || ctx->vq_dst.streaming) {
 427                 v4l2_err(&dev->v4l2_dev, "%s queue busy\n", __func__);
 428                 ret = -EBUSY;
 429                 goto out;
 430         }
 431         if (f->type == V4L2_BUF_TYPE_VIDEO_CAPTURE_MPLANE) {
 432                 /* dst_fmt is validated by call to vidioc_try_fmt */
 433                 ctx->dst_fmt = find_format(f, MFC_FMT_RAW);
 434                 ret = 0;
 435                 goto out;
 436         } else if (f->type == V4L2_BUF_TYPE_VIDEO_OUTPUT_MPLANE) {
 437                 /* src_fmt is validated by call to vidioc_try_fmt */
 438                 ctx->src_fmt = find_format(f, MFC_FMT_DEC);
 439                 ctx->codec_mode = ctx->src_fmt->codec_mode;
 440                 mfc_debug(2, "The codec number is: %d\n", ctx->codec_mode);
 441                 pix_mp->height = 0;
 442                 pix_mp->width = 0;
 443                 if (pix_mp->plane_fmt[0].sizeimage == 0)
 444                         pix_mp->plane_fmt[0].sizeimage = ctx->dec_src_buf_size =
 445                                                                 DEF_CPB_SIZE;
 446                 else if (pix_mp->plane_fmt[0].sizeimage > buf_size->cpb)
 447                         ctx->dec_src_buf_size = buf_size->cpb;
 448                 else
 449                         ctx->dec_src_buf_size = pix_mp->plane_fmt[0].sizeimage;
 450                 pix_mp->plane_fmt[0].bytesperline = 0;
 451                 ctx->state = MFCINST_INIT;
 452                 ret = 0;
 453                 goto out;
 454         } else {
 455                 mfc_err("Wrong type error for S_FMT : %d", f->type);
 456                 ret = -EINVAL;
 457                 goto out;
 458         }
 459
 460 out:
 461         mfc_debug_leave();
 462         return ret;
 463 }
 464
 465 static int reqbufs_output(struct s5p_mfc_dev *dev, struct s5p_mfc_ctx *ctx,
 466                                 struct v4l2_requestbuffers *reqbufs)
 467 {
 468         int ret = 0;
 469
 470         s5p_mfc_clock_on();
 471
 472         if (reqbufs->count == 0) {
 473                 mfc_debug(2, "Freeing buffers\n");
 474                 ret = vb2_reqbufs(&ctx->vq_src, reqbufs);
 475                 if (ret)
 476                         goto out;
 477                 s5p_mfc_close_mfc_inst(dev, ctx);
 478                 ctx->src_bufs_cnt = 0;
 479                 ctx->output_state = QUEUE_FREE;
 480         } else if (ctx->output_state == QUEUE_FREE) {
 481                 /* Can only request buffers when we have a valid format set. */
 482                 WARN_ON(ctx->src_bufs_cnt != 0);
 483                 if (ctx->state != MFCINST_INIT) {
 484                         mfc_err("Reqbufs called in an invalid state\n");
 485                         ret = -EINVAL;
 486                         goto out;
 487                 }
 488
 489                 mfc_debug(2, "Allocating %d buffers for OUTPUT queue\n",
 490                                 reqbufs->count);
 491                 ret = vb2_reqbufs(&ctx->vq_src, reqbufs);
 492                 if (ret)
 493                         goto out;
 494
 495                 ret = s5p_mfc_open_mfc_inst(dev, ctx);
 496                 if (ret) {
 497                         reqbufs->count = 0;
 498                         vb2_reqbufs(&ctx->vq_src, reqbufs);
 499                         goto out;
 500                 }
 501
 502                 ctx->output_state = QUEUE_BUFS_REQUESTED;
 503         } else {
 504                 mfc_err("Buffers have already been requested\n");
 505                 ret = -EINVAL;
 506         }
 507 out:
 508         s5p_mfc_clock_off();
 509         if (ret)
 510                 mfc_err("Failed allocating buffers for OUTPUT queue\n");
 511         return ret;
 512 }
 513
 514 static int reqbufs_capture(struct s5p_mfc_dev *dev, struct s5p_mfc_ctx *ctx,
 515                                 struct v4l2_requestbuffers *reqbufs)
 516 {
 517         int ret = 0;
 518
 519         s5p_mfc_clock_on();
 520
 521         if (reqbufs->count == 0) {
 522                 mfc_debug(2, "Freeing buffers\n");
 523                 ret = vb2_reqbufs(&ctx->vq_dst, reqbufs);
 524                 if (ret)
 525                         goto out;
 526                 s5p_mfc_hw_call_void(dev->mfc_ops, release_codec_buffers, ctx);
 527                 ctx->dst_bufs_cnt = 0;
 528         } else if (ctx->capture_state == QUEUE_FREE) {
 529                 WARN_ON(ctx->dst_bufs_cnt != 0);
 530                 mfc_debug(2, "Allocating %d buffers for CAPTURE queue\n",
 531                                 reqbufs->count);
 532                 ret = vb2_reqbufs(&ctx->vq_dst, reqbufs);
 533                 if (ret)
 534                         goto out;
 535
 536                 ctx->capture_state = QUEUE_BUFS_REQUESTED;
 537                 ctx->total_dpb_count = reqbufs->count;
 538
 539                 ret = s5p_mfc_hw_call(dev->mfc_ops, alloc_codec_buffers, ctx);
 540                 if (ret) {
 541                         mfc_err("Failed to allocate decoding buffers\n");
 542                         reqbufs->count = 0;
 543                         vb2_reqbufs(&ctx->vq_dst, reqbufs);
 544                         ret = -ENOMEM;
 545                         ctx->capture_state = QUEUE_FREE;
 546                         goto out;
 547                 }
 548
 549                 WARN_ON(ctx->dst_bufs_cnt != ctx->total_dpb_count);
 550                 ctx->capture_state = QUEUE_BUFS_MMAPED;
 551
 552                 if (s5p_mfc_ctx_ready(ctx))
 553                         set_work_bit_irqsave(ctx);
 554                 s5p_mfc_hw_call_void(dev->mfc_ops, try_run, dev);
 555                 s5p_mfc_wait_for_done_ctx(ctx, S5P_MFC_R2H_CMD_INIT_BUFFERS_RET,
 556                                           0);
 557         } else {
 558                 mfc_err("Buffers have already been requested\n");
 559                 ret = -EINVAL;
 560         }
 561 out:
 562         s5p_mfc_clock_off();
 563         if (ret)
 564                 mfc_err("Failed allocating buffers for CAPTURE queue\n");
 565         return ret;
 566 }
 567
 568 /* Reqeust buffers */
 569 static int vidioc_reqbufs(struct file *file, void *priv,
 570                                           struct v4l2_requestbuffers *reqbufs)
 571 {
 572         struct s5p_mfc_dev *dev = video_drvdata(file);
 573         struct s5p_mfc_ctx *ctx = fh_to_ctx(priv);
 574
 575         if (reqbufs->memory != V4L2_MEMORY_MMAP) {
 576                 mfc_err("Only V4L2_MEMORY_MAP is supported\n");
 577                 return -EINVAL;
 578         }
 579
 580         if (reqbufs->type == V4L2_BUF_TYPE_VIDEO_OUTPUT_MPLANE) {
 581                 return reqbufs_output(dev, ctx, reqbufs);
 582         } else if (reqbufs->type == V4L2_BUF_TYPE_VIDEO_CAPTURE_MPLANE) {
 583                 return reqbufs_capture(dev, ctx, reqbufs);
 584         } else {
 585                 mfc_err("Invalid type requested\n");
 586                 return -EINVAL;
 587         }
 588 }
 589
 590 /* Query buffer */
 591 static int vidioc_querybuf(struct file *file, void *priv,
 592                                                    struct v4l2_buffer *buf)
 593 {
 594         struct s5p_mfc_ctx *ctx = fh_to_ctx(priv);
 595         int ret;
 596         int i;
 597
 598         if (buf->memory != V4L2_MEMORY_MMAP) {
 599                 mfc_err("Only mmaped buffers can be used\n");
 600                 return -EINVAL;
 601         }
 602         mfc_debug(2, "State: %d, buf->type: %d\n", ctx->state, buf->type);
 603         if (ctx->state == MFCINST_GOT_INST &&
 604                         buf->type == V4L2_BUF_TYPE_VIDEO_OUTPUT_MPLANE) {
 605                 ret = vb2_querybuf(&ctx->vq_src, buf);
 606         } else if (ctx->state == MFCINST_RUNNING &&
 607                         buf->type == V4L2_BUF_TYPE_VIDEO_CAPTURE_MPLANE) {
 608                 ret = vb2_querybuf(&ctx->vq_dst, buf);
 609                 for (i = 0; i < buf->length; i++)
 610                         buf->m.planes[i].m.mem_offset += DST_QUEUE_OFF_BASE;
 611         } else {
 612                 mfc_err("vidioc_querybuf called in an inappropriate state\n");
 613                 ret = -EINVAL;
 614         }
 615         mfc_debug_leave();
 616         return ret;
 617 }
 618
 619 /* Queue a buffer */
 620 static int vidioc_qbuf(struct file *file, void *priv, struct v4l2_buffer *buf)
 621 {
 622         struct s5p_mfc_ctx *ctx = fh_to_ctx(priv);
 623
 624         if (ctx->state == MFCINST_ERROR) {
 625                 mfc_err("Call on QBUF after unrecoverable error\n");
 626                 return -EIO;
 627         }
 628         if (buf->type == V4L2_BUF_TYPE_VIDEO_OUTPUT_MPLANE)
 629                 return vb2_qbuf(&ctx->vq_src, buf);
 630         else if (buf->type == V4L2_BUF_TYPE_VIDEO_CAPTURE_MPLANE)
 631                 return vb2_qbuf(&ctx->vq_dst, buf);
 632         return -EINVAL;
 633 }
 634
 635 /* Dequeue a buffer */
 636 static int vidioc_dqbuf(struct file *file, void *priv, struct v4l2_buffer *buf)
 637 {
 638         const struct v4l2_event ev = {
 639                 .type = V4L2_EVENT_EOS
 640         };
 641         struct s5p_mfc_ctx *ctx = fh_to_ctx(priv);
 642         int ret;
 643
 644         if (ctx->state == MFCINST_ERROR) {
 645                 mfc_err("Call on DQBUF after unrecoverable error\n");
 646                 return -EIO;
 647         }
 648
 649         switch (buf->type) {
 650         case V4L2_BUF_TYPE_VIDEO_OUTPUT_MPLANE:
 651                 return vb2_dqbuf(&ctx->vq_src, buf, file->f_flags & O_NONBLOCK);
 652         case V4L2_BUF_TYPE_VIDEO_CAPTURE_MPLANE:
 653                 ret = vb2_dqbuf(&ctx->vq_dst, buf, file->f_flags & O_NONBLOCK);
 654                 if (ret)
 655                         return ret;
 656
 657                 if (ctx->state == MFCINST_FINISHED &&
 658                     (ctx->dst_bufs[buf->index].flags & MFC_BUF_FLAG_EOS))
 659                         v4l2_event_queue_fh(&ctx->fh, &ev);
 660                 return 0;
 661         default:
 662                 return -EINVAL;
 663         }
 664 }
 665
 666 /* Export DMA buffer */
 667 static int vidioc_expbuf(struct file *file, void *priv,
 668         struct v4l2_exportbuffer *eb)
 669 {
 670         struct s5p_mfc_ctx *ctx = fh_to_ctx(priv);
 671
 672         if (eb->type == V4L2_BUF_TYPE_VIDEO_OUTPUT_MPLANE)
 673                 return vb2_expbuf(&ctx->vq_src, eb);
 674         if (eb->type == V4L2_BUF_TYPE_VIDEO_CAPTURE_MPLANE)
 675                 return vb2_expbuf(&ctx->vq_dst, eb);
 676         return -EINVAL;
 677 }
 678
 679 /* Stream on */
 680 static int vidioc_streamon(struct file *file, void *priv,
 681                            enum v4l2_buf_type type)
 682 {
 683         struct s5p_mfc_ctx *ctx = fh_to_ctx(priv);
 684         int ret = -EINVAL;
 685
 686         mfc_debug_enter();
 687         if (type == V4L2_BUF_TYPE_VIDEO_OUTPUT_MPLANE)
 688                 ret = vb2_streamon(&ctx->vq_src, type);
 689         else if (type == V4L2_BUF_TYPE_VIDEO_CAPTURE_MPLANE)
 690                 ret = vb2_streamon(&ctx->vq_dst, type);
 691         mfc_debug_leave();
 692         return ret;
 693 }
 694
 695 /* Stream off, which equals to a pause */
 696 static int vidioc_streamoff(struct file *file, void *priv,
 697                             enum v4l2_buf_type type)
 698 {
 699         struct s5p_mfc_ctx *ctx = fh_to_ctx(priv);
 700
 701         if (type == V4L2_BUF_TYPE_VIDEO_OUTPUT_MPLANE)
 702                 return vb2_streamoff(&ctx->vq_src, type);
 703         else if (type == V4L2_BUF_TYPE_VIDEO_CAPTURE_MPLANE)
 704                 return vb2_streamoff(&ctx->vq_dst, type);
 705         return -EINVAL;
 706 }
 707
 708 /* Set controls - v4l2 control framework */
 709 static int s5p_mfc_dec_s_ctrl(struct v4l2_ctrl *ctrl)
 710 {
 711         struct s5p_mfc_ctx *ctx = ctrl_to_ctx(ctrl);
 712
 713         switch (ctrl->id) {
 714         case V4L2_CID_MPEG_MFC51_VIDEO_DECODER_H264_DISPLAY_DELAY:
 715                 ctx->display_delay = ctrl->val;
 716                 break;
 717         case V4L2_CID_MPEG_MFC51_VIDEO_DECODER_H264_DISPLAY_DELAY_ENABLE:
 718                 ctx->display_delay_enable = ctrl->val;
 719                 break;
 720         case V4L2_CID_MPEG_VIDEO_DECODER_MPEG4_DEBLOCK_FILTER:
 721                 ctx->loop_filter_mpeg4 = ctrl->val;
 722                 break;
 723         case V4L2_CID_MPEG_VIDEO_DECODER_SLICE_INTERFACE:
 724                 ctx->slice_interface = ctrl->val;
 725                 break;
 726         default:
 727                 mfc_err("Invalid control 0x%08x\n", ctrl->id);
 728                 return -EINVAL;
 729         }
 730         return 0;
 731 }
 732
 733 static int s5p_mfc_dec_g_v_ctrl(struct v4l2_ctrl *ctrl)
 734 {
 735         struct s5p_mfc_ctx *ctx = ctrl_to_ctx(ctrl);
 736         struct s5p_mfc_dev *dev = ctx->dev;
 737
 738         switch (ctrl->id) {
 739         case V4L2_CID_MIN_BUFFERS_FOR_CAPTURE:
 740                 if (ctx->state >= MFCINST_HEAD_PARSED &&
 741                     ctx->state < MFCINST_ABORT) {
 742                         ctrl->val = ctx->pb_count;
 743                         break;
 744                 } else if (ctx->state != MFCINST_INIT &&
 745                                 ctx->state != MFCINST_RES_CHANGE_END) {
 746                         v4l2_err(&dev->v4l2_dev, "Decoding not initialised\n");
 747                         return -EINVAL;
 748                 }
 749                 /* Should wait for the header to be parsed */
 750                 s5p_mfc_wait_for_done_ctx(ctx,
 751                                 S5P_MFC_R2H_CMD_SEQ_DONE_RET, 0);
 752                 if (ctx->state >= MFCINST_HEAD_PARSED &&
 753                     ctx->state < MFCINST_ABORT) {
 754                         ctrl->val = ctx->pb_count;
 755                 } else {
 756                         v4l2_err(&dev->v4l2_dev, "Decoding not initialised\n");
 757                         return -EINVAL;
 758                 }
 759                 break;
 760         }
 761         return 0;
 762 }
 763
 764
 765 static const struct v4l2_ctrl_ops s5p_mfc_dec_ctrl_ops = {
 766         .s_ctrl = s5p_mfc_dec_s_ctrl,
 767         .g_volatile_ctrl = s5p_mfc_dec_g_v_ctrl,
 768 };
 769
 770 /* Get cropping information */
 771 static int vidioc_g_crop(struct file *file, void *priv,
 772                 struct v4l2_crop *cr)
 773 {
 774         struct s5p_mfc_ctx *ctx = fh_to_ctx(priv);
 775         struct s5p_mfc_dev *dev = ctx->dev;
 776         u32 left, right, top, bottom;
 777
 778         if (ctx->state != MFCINST_HEAD_PARSED &&
 779         ctx->state != MFCINST_RUNNING && ctx->state != MFCINST_FINISHING
 780                                         && ctx->state != MFCINST_FINISHED) {
 781                         mfc_err("Cannont set crop\n");
 782                         return -EINVAL;
 783                 }
 784         if (ctx->src_fmt->fourcc == V4L2_PIX_FMT_H264) {
 785                 left = s5p_mfc_hw_call(dev->mfc_ops, get_crop_info_h, ctx);
 786                 right = left >> S5P_FIMV_SHARED_CROP_RIGHT_SHIFT;
 787                 left = left & S5P_FIMV_SHARED_CROP_LEFT_MASK;
 788                 top = s5p_mfc_hw_call(dev->mfc_ops, get_crop_info_v, ctx);
 789                 bottom = top >> S5P_FIMV_SHARED_CROP_BOTTOM_SHIFT;
 790                 top = top & S5P_FIMV_SHARED_CROP_TOP_MASK;
 791                 cr->c.left = left;
 792                 cr->c.top = top;
 793                 cr->c.width = ctx->img_width - left - right;
 794                 cr->c.height = ctx->img_height - top - bottom;
 795                 mfc_debug(2, "Cropping info [h264]: l=%d t=%d "
 796                         "w=%d h=%d (r=%d b=%d fw=%d fh=%d\n", left, top,
 797                         cr->c.width, cr->c.height, right, bottom,
 798                         ctx->buf_width, ctx->buf_height);
 799         } else {
 800                 cr->c.left = 0;
 801                 cr->c.top = 0;
 802                 cr->c.width = ctx->img_width;
 803                 cr->c.height = ctx->img_height;
 804                 mfc_debug(2, "Cropping info: w=%d h=%d fw=%d "
 805                         "fh=%d\n", cr->c.width, cr->c.height, ctx->buf_width,
 806                                                         ctx->buf_height);
 807         }
 808         return 0;
 809 }
 810
 811 static int vidioc_decoder_cmd(struct file *file, void *priv,
 812                               struct v4l2_decoder_cmd *cmd)
 813 {
 814         struct s5p_mfc_ctx *ctx = fh_to_ctx(priv);
 815         struct s5p_mfc_dev *dev = ctx->dev;
 816         struct s5p_mfc_buf *buf;
 817         unsigned long flags;
 818
 819         switch (cmd->cmd) {
 820         case V4L2_DEC_CMD_STOP:
 821                 if (cmd->flags != 0)
 822                         return -EINVAL;
 823
 824                 if (!ctx->vq_src.streaming)
 825                         return -EINVAL;
 826
 827                 spin_lock_irqsave(&dev->irqlock, flags);
 828                 if (list_empty(&ctx->src_queue)) {
 829                         mfc_err("EOS: empty src queue, entering finishing state");
 830                         ctx->state = MFCINST_FINISHING;
 831                         if (s5p_mfc_ctx_ready(ctx))
 832                                 set_work_bit_irqsave(ctx);
 833                         spin_unlock_irqrestore(&dev->irqlock, flags);
 834                         s5p_mfc_hw_call_void(dev->mfc_ops, try_run, dev);
 835                 } else {
 836                         mfc_err("EOS: marking last buffer of stream");
 837                         buf = list_entry(ctx->src_queue.prev,
 838                                                 struct s5p_mfc_buf, list);
 839                         if (buf->flags & MFC_BUF_FLAG_USED)
 840                                 ctx->state = MFCINST_FINISHING;
 841                         else
 842                                 buf->flags |= MFC_BUF_FLAG_EOS;
 843                         spin_unlock_irqrestore(&dev->irqlock, flags);
 844                 }
 845                 break;
 846         default:
 847                 return -EINVAL;
 848         }
 849         return 0;
 850 }
 851
 852 static int vidioc_subscribe_event(struct v4l2_fh *fh,
 853                                 const struct  v4l2_event_subscription *sub)
 854 {
 855         switch (sub->type) {
 856         case V4L2_EVENT_EOS:
 857                 return v4l2_event_subscribe(fh, sub, 2, NULL);
 858         case V4L2_EVENT_SOURCE_CHANGE:
 859                 return v4l2_src_change_event_subscribe(fh, sub);
 860         default:
 861                 return -EINVAL;
 862         }
 863 }
 864
 865
 866 /* v4l2_ioctl_ops */
 867 static const struct v4l2_ioctl_ops s5p_mfc_dec_ioctl_ops = {
 868         .vidioc_querycap = vidioc_querycap,
 869         .vidioc_enum_fmt_vid_cap_mplane = vidioc_enum_fmt_vid_cap_mplane,
 870         .vidioc_enum_fmt_vid_out_mplane = vidioc_enum_fmt_vid_out_mplane,
 871         .vidioc_g_fmt_vid_cap_mplane = vidioc_g_fmt,
 872         .vidioc_g_fmt_vid_out_mplane = vidioc_g_fmt,
 873         .vidioc_try_fmt_vid_cap_mplane = vidioc_try_fmt,
 874         .vidioc_try_fmt_vid_out_mplane = vidioc_try_fmt,
 875         .vidioc_s_fmt_vid_cap_mplane = vidioc_s_fmt,
 876         .vidioc_s_fmt_vid_out_mplane = vidioc_s_fmt,
 877         .vidioc_reqbufs = vidioc_reqbufs,
 878         .vidioc_querybuf = vidioc_querybuf,
 879         .vidioc_qbuf = vidioc_qbuf,
 880         .vidioc_dqbuf = vidioc_dqbuf,
 881         .vidioc_expbuf = vidioc_expbuf,
 882         .vidioc_streamon = vidioc_streamon,
 883         .vidioc_streamoff = vidioc_streamoff,
 884         .vidioc_g_crop = vidioc_g_crop,
 885         .vidioc_decoder_cmd = vidioc_decoder_cmd,
 886         .vidioc_subscribe_event = vidioc_subscribe_event,
 887         .vidioc_unsubscribe_event = v4l2_event_unsubscribe,
 888 };
 889
 890 static int s5p_mfc_queue_setup(struct vb2_queue *vq,
 891                         const void *parg, unsigned int *buf_count,
 892                         unsigned int *plane_count, unsigned int psize[],
 893                         void *allocators[])
 894 {
 895         struct s5p_mfc_ctx *ctx = fh_to_ctx(vq->drv_priv);
 896         struct s5p_mfc_dev *dev = ctx->dev;
 897
 898         /* Video output for decoding (source)
 899          * this can be set after getting an instance */
 900         if (ctx->state == MFCINST_INIT &&
 901             vq->type == V4L2_BUF_TYPE_VIDEO_OUTPUT_MPLANE) {
 902                 /* A single plane is required for input */
 903                 *plane_count = 1;
 904                 if (*buf_count < 1)
 905                         *buf_count = 1;
 906                 if (*buf_count > MFC_MAX_BUFFERS)
 907                         *buf_count = MFC_MAX_BUFFERS;
 908         /* Video capture for decoding (destination)
 909          * this can be set after the header was parsed */
 910         } else if (ctx->state == MFCINST_HEAD_PARSED &&
 911                    vq->type == V4L2_BUF_TYPE_VIDEO_CAPTURE_MPLANE) {
 912                 /* Output plane count is 2 - one for Y and one for CbCr */
 913                 *plane_count = 2;
 914                 /* Setup buffer count */
 915                 if (*buf_count < ctx->pb_count)
 916                         *buf_count = ctx->pb_count;
 917                 if (*buf_count > ctx->pb_count + MFC_MAX_EXTRA_DPB)
 918                         *buf_count = ctx->pb_count + MFC_MAX_EXTRA_DPB;
 919                 if (*buf_count > MFC_MAX_BUFFERS)
 920                         *buf_count = MFC_MAX_BUFFERS;
 921         } else {
 922                 mfc_err("State seems invalid. State = %d, vq->type = %d\n",
 923                                                         ctx->state, vq->type);
 924                 return -EINVAL;
 925         }
 926         mfc_debug(2, "Buffer count=%d, plane count=%d\n",
 927                                                 *buf_count, *plane_count);
 928         if (ctx->state == MFCINST_HEAD_PARSED &&
 929             vq->type == V4L2_BUF_TYPE_VIDEO_CAPTURE_MPLANE) {
 930                 psize[0] = ctx->luma_size;
 931                 psize[1] = ctx->chroma_size;
 932
 933                 if (IS_MFCV6_PLUS(dev))
 934                         allocators[0] =
 935                                 ctx->dev->alloc_ctx[MFC_BANK1_ALLOC_CTX];
 936                 else
 937                         allocators[0] =
 938                                 ctx->dev->alloc_ctx[MFC_BANK2_ALLOC_CTX];
 939                 allocators[1] = ctx->dev->alloc_ctx[MFC_BANK1_ALLOC_CTX];
 940         } else if (vq->type == V4L2_BUF_TYPE_VIDEO_OUTPUT_MPLANE &&
 941                    ctx->state == MFCINST_INIT) {
 942                 psize[0] = ctx->dec_src_buf_size;
 943                 allocators[0] = ctx->dev->alloc_ctx[MFC_BANK1_ALLOC_CTX];
 944         } else {
 945                 mfc_err("This video node is dedicated to decoding. Decoding not initialized\n");
 946                 return -EINVAL;
 947         }
 948         return 0;
 949 }
 950
 951 static int s5p_mfc_buf_init(struct vb2_buffer *vb)
 952 {
 953         struct vb2_v4l2_buffer *vbuf = to_vb2_v4l2_buffer(vb);
 954         struct vb2_queue *vq = vb->vb2_queue;
 955         struct s5p_mfc_ctx *ctx = fh_to_ctx(vq->drv_priv);
 956         unsigned int i;
 957
 958         if (vq->type == V4L2_BUF_TYPE_VIDEO_CAPTURE_MPLANE) {
 959                 if (ctx->capture_state == QUEUE_BUFS_MMAPED)
 960                         return 0;
 961                 for (i = 0; i < ctx->dst_fmt->num_planes; i++) {
 962                         if (IS_ERR_OR_NULL(ERR_PTR(
 963                                         vb2_dma_contig_plane_dma_addr(vb, i)))) {
 964                                 mfc_err("Plane mem not allocated\n");
 965                                 return -EINVAL;
 966                         }
 967                 }
 968                 if (vb2_plane_size(vb, 0) < ctx->luma_size ||
 969                         vb2_plane_size(vb, 1) < ctx->chroma_size) {
 970                         mfc_err("Plane buffer (CAPTURE) is too small\n");
 971                         return -EINVAL;
 972                 }
 973                 i = vb->index;
 974                 ctx->dst_bufs[i].b = vbuf;
 975                 ctx->dst_bufs[i].cookie.raw.luma =
 976                                         vb2_dma_contig_plane_dma_addr(vb, 0);
 977                 ctx->dst_bufs[i].cookie.raw.chroma =
 978                                         vb2_dma_contig_plane_dma_addr(vb, 1);
 979                 ctx->dst_bufs_cnt++;
 980         } else if (vq->type == V4L2_BUF_TYPE_VIDEO_OUTPUT_MPLANE) {
 981                 if (IS_ERR_OR_NULL(ERR_PTR(
 982                                         vb2_dma_contig_plane_dma_addr(vb, 0)))) {
 983                         mfc_err("Plane memory not allocated\n");
 984                         return -EINVAL;
 985                 }
 986                 if (vb2_plane_size(vb, 0) < ctx->dec_src_buf_size) {
 987                         mfc_err("Plane buffer (OUTPUT) is too small\n");
 988                         return -EINVAL;
 989                 }
 990
 991                 i = vb->index;
 992                 ctx->src_bufs[i].b = vbuf;
 993                 ctx->src_bufs[i].cookie.stream =
 994                                         vb2_dma_contig_plane_dma_addr(vb, 0);
 995                 ctx->src_bufs_cnt++;
 996         } else {
 997                 mfc_err("s5p_mfc_buf_init: unknown queue type\n");
 998                 return -EINVAL;
 999         }
1000         return 0;
1001 }
1002
1003 static int s5p_mfc_start_streaming(struct vb2_queue *q, unsigned int count)
1004 {
1005         struct s5p_mfc_ctx *ctx = fh_to_ctx(q->drv_priv);
1006         struct s5p_mfc_dev *dev = ctx->dev;
1007
1008         v4l2_ctrl_handler_setup(&ctx->ctrl_handler);
1009         if (ctx->state == MFCINST_FINISHING ||
1010                 ctx->state == MFCINST_FINISHED)
1011                 ctx->state = MFCINST_RUNNING;
1012         /* If context is ready then dev = work->data;schedule it to run */
1013         if (s5p_mfc_ctx_ready(ctx))
1014                 set_work_bit_irqsave(ctx);
1015         s5p_mfc_hw_call_void(dev->mfc_ops, try_run, dev);
1016         return 0;
1017 }
1018
1019 static void s5p_mfc_stop_streaming(struct vb2_queue *q)
1020 {
1021         unsigned long flags;
1022         struct s5p_mfc_ctx *ctx = fh_to_ctx(q->drv_priv);
1023         struct s5p_mfc_dev *dev = ctx->dev;
1024         int aborted = 0;
1025
1026         if ((ctx->state == MFCINST_FINISHING ||
1027                 ctx->state ==  MFCINST_RUNNING) &&
1028                 dev->curr_ctx == ctx->num && dev->hw_lock) {
1029                 ctx->state = MFCINST_ABORT;
1030                 s5p_mfc_wait_for_done_ctx(ctx,
1031                                         S5P_MFC_R2H_CMD_FRAME_DONE_RET, 0);
1032                 aborted = 1;
1033         }
1034         if (q->type == V4L2_BUF_TYPE_VIDEO_CAPTURE_MPLANE) {
1035                 spin_lock_irqsave(&dev->irqlock, flags);
1036                 s5p_mfc_hw_call_void(dev->mfc_ops, cleanup_queue,
1037                                                 &ctx->dst_queue, &ctx->vq_dst);
1038                 INIT_LIST_HEAD(&ctx->dst_queue);
1039                 ctx->dst_queue_cnt = 0;
1040                 ctx->dpb_flush_flag = 1;
1041                 ctx->dec_dst_flag = 0;
1042                 spin_unlock_irqrestore(&dev->irqlock, flags);
1043                 if (IS_MFCV6_PLUS(dev) && (ctx->state == MFCINST_RUNNING)) {
1044                         ctx->state = MFCINST_FLUSH;
1045                         set_work_bit_irqsave(ctx);
1046                         s5p_mfc_hw_call_void(dev->mfc_ops, try_run, dev);
1047                         if (s5p_mfc_wait_for_done_ctx(ctx,
1048                                 S5P_MFC_R2H_CMD_DPB_FLUSH_RET, 0))
1049                                 mfc_err("Err flushing buffers\n");
1050                 }
1051         }
1052         if (q->type == V4L2_BUF_TYPE_VIDEO_OUTPUT_MPLANE) {
1053                 spin_lock_irqsave(&dev->irqlock, flags);
1054                 s5p_mfc_hw_call_void(dev->mfc_ops, cleanup_queue,
1055                                                 &ctx->src_queue, &ctx->vq_src);
1056                 INIT_LIST_HEAD(&ctx->src_queue);
1057                 ctx->src_queue_cnt = 0;
1058                 spin_unlock_irqrestore(&dev->irqlock, flags);
1059         }
1060         if (aborted)
1061                 ctx->state = MFCINST_RUNNING;
1062 }
1063
1064
1065 static void s5p_mfc_buf_queue(struct vb2_buffer *vb)
1066 {
1067         struct vb2_queue *vq = vb->vb2_queue;
1068         struct s5p_mfc_ctx *ctx = fh_to_ctx(vq->drv_priv);
1069         struct s5p_mfc_dev *dev = ctx->dev;
1070         unsigned long flags;
1071         struct s5p_mfc_buf *mfc_buf;
1072
1073         if (vq->type == V4L2_BUF_TYPE_VIDEO_OUTPUT_MPLANE) {
1074                 mfc_buf = &ctx->src_bufs[vb->index];
1075                 mfc_buf->flags &= ~MFC_BUF_FLAG_USED;
1076                 spin_lock_irqsave(&dev->irqlock, flags);
1077                 list_add_tail(&mfc_buf->list, &ctx->src_queue);
1078                 ctx->src_queue_cnt++;
1079                 spin_unlock_irqrestore(&dev->irqlock, flags);
1080         } else if (vq->type == V4L2_BUF_TYPE_VIDEO_CAPTURE_MPLANE) {
1081                 mfc_buf = &ctx->dst_bufs[vb->index];
1082                 mfc_buf->flags &= ~MFC_BUF_FLAG_USED;
1083                 /* Mark destination as available for use by MFC */
1084                 spin_lock_irqsave(&dev->irqlock, flags);
1085                 set_bit(vb->index, &ctx->dec_dst_flag);
1086                 list_add_tail(&mfc_buf->list, &ctx->dst_queue);
1087                 ctx->dst_queue_cnt++;
1088                 spin_unlock_irqrestore(&dev->irqlock, flags);
1089         } else {
1090                 mfc_err("Unsupported buffer type (%d)\n", vq->type);
1091         }
1092         if (s5p_mfc_ctx_ready(ctx))
1093                 set_work_bit_irqsave(ctx);
1094         s5p_mfc_hw_call_void(dev->mfc_ops, try_run, dev);
1095 }
1096
1097 static struct vb2_ops s5p_mfc_dec_qops = {
1098         .queue_setup            = s5p_mfc_queue_setup,
1099         .wait_prepare           = vb2_ops_wait_prepare,
1100         .wait_finish            = vb2_ops_wait_finish,
1101         .buf_init               = s5p_mfc_buf_init,
1102         .start_streaming        = s5p_mfc_start_streaming,
1103         .stop_streaming         = s5p_mfc_stop_streaming,
1104         .buf_queue              = s5p_mfc_buf_queue,
1105 };
1106
1107 struct s5p_mfc_codec_ops *get_dec_codec_ops(void)
1108 {
1109         return &decoder_codec_ops;
1110 }
1111
1112 struct vb2_ops *get_dec_queue_ops(void)
1113 {
1114         return &s5p_mfc_dec_qops;
1115 }
1116
1117 const struct v4l2_ioctl_ops *get_dec_v4l2_ioctl_ops(void)
1118 {
1119         return &s5p_mfc_dec_ioctl_ops;
1120 }
1121
1122 #define IS_MFC51_PRIV(x) ((V4L2_CTRL_ID2CLASS(x) == V4L2_CTRL_CLASS_MPEG) \
1123                                                 && V4L2_CTRL_DRIVER_PRIV(x))
1124
1125 int s5p_mfc_dec_ctrls_setup(struct s5p_mfc_ctx *ctx)
1126 {
1127         struct v4l2_ctrl_config cfg;
1128         int i;
1129
1130         v4l2_ctrl_handler_init(&ctx->ctrl_handler, NUM_CTRLS);
1131         if (ctx->ctrl_handler.error) {
1132                 mfc_err("v4l2_ctrl_handler_init failed\n");
1133                 return ctx->ctrl_handler.error;
1134         }
1135
1136         for (i = 0; i < NUM_CTRLS; i++) {
1137                 if (IS_MFC51_PRIV(controls[i].id)) {
1138                         memset(&cfg, 0, sizeof(struct v4l2_ctrl_config));
1139                         cfg.ops = &s5p_mfc_dec_ctrl_ops;
1140                         cfg.id = controls[i].id;
1141                         cfg.min = controls[i].minimum;
1142                         cfg.max = controls[i].maximum;
1143                         cfg.def = controls[i].default_value;
1144                         cfg.name = controls[i].name;
1145                         cfg.type = controls[i].type;
1146
1147                         cfg.step = controls[i].step;
1148                         cfg.menu_skip_mask = 0;
1149
1150                         ctx->ctrls[i] = v4l2_ctrl_new_custom(&ctx->ctrl_handler,
1151                                         &cfg, NULL);
1152                 } else {
1153                         ctx->ctrls[i] = v4l2_ctrl_new_std(&ctx->ctrl_handler,
1154                                         &s5p_mfc_dec_ctrl_ops,
1155                                         controls[i].id, controls[i].minimum,
1156                                         controls[i].maximum, controls[i].step,
1157                                         controls[i].default_value);
1158                 }
1159                 if (ctx->ctrl_handler.error) {
1160                         mfc_err("Adding control (%d) failed\n", i);
1161                         return ctx->ctrl_handler.error;
1162                 }
1163                 if (controls[i].is_volatile && ctx->ctrls[i])
1164                         ctx->ctrls[i]->flags |= V4L2_CTRL_FLAG_VOLATILE;
1165         }
1166         return 0;
1167 }
1168
1169 void s5p_mfc_dec_ctrls_delete(struct s5p_mfc_ctx *ctx)
1170 {
1171         int i;
1172
1173         v4l2_ctrl_handler_free(&ctx->ctrl_handler);
1174         for (i = 0; i < NUM_CTRLS; i++)
1175                 ctx->ctrls[i] = NULL;
1176 }
1177
1178 void s5p_mfc_dec_init(struct s5p_mfc_ctx *ctx)
1179 {
1180         struct v4l2_format f;
1181         f.fmt.pix_mp.pixelformat = V4L2_PIX_FMT_H264;
1182         ctx->src_fmt = find_format(&f, MFC_FMT_DEC);
1183         if (IS_MFCV8(ctx->dev))
1184                 f.fmt.pix_mp.pixelformat = V4L2_PIX_FMT_NV12M;
1185         else if (IS_MFCV6_PLUS(ctx->dev))
1186                 f.fmt.pix_mp.pixelformat = V4L2_PIX_FMT_NV12MT_16X16;
1187         else
1188                 f.fmt.pix_mp.pixelformat = V4L2_PIX_FMT_NV12MT;
1189         ctx->dst_fmt = find_format(&f, MFC_FMT_RAW);
1190         mfc_debug(2, "Default src_fmt is %p, dest_fmt is %p\n",
1191                         ctx->src_fmt, ctx->dst_fmt);
1192 }
1193