#include <linux/module.h>
 #include <linux/slab.h>
+#include <linux/io.h>
 
 #include <drm/drm_format_helper.h>
 #include <drm/drm_framebuffer.h>
 #include <drm/drm_fourcc.h>
 #include <drm/drm_rect.h>
 
-static void drm_fb_memcpy_lines(void *dst, unsigned int dst_pitch,
-                               void *src, unsigned int src_pitch,
-                               unsigned int linelength, unsigned int lines)
+static unsigned int clip_offset(struct drm_rect *clip,
+                               unsigned int pitch, unsigned int cpp)
 {
-       int line;
-
-       for (line = 0; line < lines; line++) {
-               memcpy(dst, src, linelength);
-               src += src_pitch;
-               dst += dst_pitch;
-       }
+       return clip->y1 * pitch + clip->x1 * cpp;
 }
 
 /**
                   struct drm_rect *clip)
 {
        unsigned int cpp = drm_format_plane_cpp(fb->format->format, 0);
-       unsigned int offset = (clip->y1 * fb->pitches[0]) + (clip->x1 * cpp);
        size_t len = (clip->x2 - clip->x1) * cpp;
+       unsigned int y, lines = clip->y2 - clip->y1;
 
-       drm_fb_memcpy_lines(dst, len,
-                           vaddr + offset, fb->pitches[0],
-                           len, clip->y2 - clip->y1);
+       vaddr += clip_offset(clip, fb->pitches[0], cpp);
+       for (y = 0; y < lines; y++) {
+               memcpy(dst, vaddr, len);
+               vaddr += fb->pitches[0];
+               dst += len;
+       }
 }
 EXPORT_SYMBOL(drm_fb_memcpy);
 
 /**
  * drm_fb_memcpy_dstclip - Copy clip buffer
- * @dst: Destination buffer
+ * @dst: Destination buffer (iomem)
  * @vaddr: Source buffer
  * @fb: DRM framebuffer
  * @clip: Clip rectangle area to copy
  *
  * This function applies clipping on dst, i.e. the destination is a
- * full framebuffer but only the clip rect content is copied over.
+ * full (iomem) framebuffer but only the clip rect content is copied over.
  */
-void drm_fb_memcpy_dstclip(void *dst, void *vaddr, struct drm_framebuffer *fb,
+void drm_fb_memcpy_dstclip(void __iomem *dst, void *vaddr,
+                          struct drm_framebuffer *fb,
                           struct drm_rect *clip)
 {
        unsigned int cpp = drm_format_plane_cpp(fb->format->format, 0);
-       unsigned int offset = (clip->y1 * fb->pitches[0]) + (clip->x1 * cpp);
+       unsigned int offset = clip_offset(clip, fb->pitches[0], cpp);
        size_t len = (clip->x2 - clip->x1) * cpp;
+       unsigned int y, lines = clip->y2 - clip->y1;
 
-       drm_fb_memcpy_lines(dst + offset, fb->pitches[0],
-                           vaddr + offset, fb->pitches[0],
-                           len, clip->y2 - clip->y1);
+       vaddr += offset;
+       dst += offset;
+       for (y = 0; y < lines; y++) {
+               memcpy_toio(dst, vaddr, len);
+               vaddr += fb->pitches[0];
+               dst += fb->pitches[0];
+       }
 }
 EXPORT_SYMBOL(drm_fb_memcpy_dstclip);