自动化办公|Python处理图像文件的实用姿势

那些人人称道的美丽,里面都有PS的痕迹。
人是视觉型动物,每个人都有自己的审美标准,那些共同的准则形成了社会潮流。
随着计算机技术升级,我们现在可以用手机随时拍出漂亮的照片。
“PS”技术不再局限于“电脑”,而且计算机慢慢开始拥有了自己的“视觉”能力。
计算机视觉,就是让计算机读懂图像内容,是人工智能的一部分。
所以,用Python处理图像的场景,有两大类:
  1. 批量自动化处理图像,如裁剪、滤镜、旋转等效果叠加。
  2. 智能识别图像内容,如人脸识别、人物识别等,用“PS”术语可以叫“自动抠图”。
处理图像,其实就是处理色彩的数据,最常见的比如RGB格式
当图像要保存到磁盘时,人们会用压缩算法缩小数据占用空间,再次读取和显示时就解压缩还原。
Python处理图像的模块主要有3类:
  • Pillow,即PIL最活跃分支,普及度高,提供多种图像格式处理能力。还有不少依赖于它的项目应用,如之前介绍的openpyxlpython-pptx,以及图像增强工具 Augmentor
  • scikit-image,是科学计算生态scipy的图像能力补充。
  • OpenCV,Intel发起的计算机视觉库,用C++实现后提供Python接口封装。
从性能角度看OpenCV最强,但Pillowscikit-image的接口更简单,尤其是Pillow,不需要直接面对numpy.ndarray的矩阵数据。当然了,图像处理到深处,那就都是数学,尤其是线性代数。
好在图像研究已经很多年,我们从应用角度看,重点是掌握如何用Python解决日常工作中的问题。
选择哪一类模块,需要从实际应用需求和知识背景2个角度出发:
  • 只做一些简单图片处理,比如大小、基本滤镜等,pillow足够。
  • 需要灵活自定义高级滤镜,或研究图像算法,scikit-imageopencv更适合,有不少三方模块底层使用了opencv,所以根据具体应用情况可以穿插使用。只不过需要注意opencv内部数据不是RGB顺序,而是BGR顺序。
  • 绘制图表,比如折线图、饼图等,不需要以上模块,用matplotlib更适合。
对于初学者,建议先用pillow,不够用时再从scikit-imageopencv中寻找解决算法。
此外,虽然三者内部图像数据存储方式不同,但可以互相转换。
本文重点介绍pillow模块用法,部分兼用opencvscikit-image
模块安装:
  • pip install pillow
  • pip install scikit-image
  • pip install opencv
本文包含如下常见应用场景:
  • 基本使用:打开、显示、保存,灰度化、锐化
  • 数据互转:三个类库中图像数据互相转换
  • 基本图像处理:调整大小、旋转、翻转、裁剪
  • 图像滤镜:换底色、各类风格,如漫画、油画、漫画头像、复古、黑白
  • 实战应用:屏幕截图、抠图、批量加水印
  • 智能应用:人脸识别,如带口罩、情绪
基本使用 先来分别感受下pillowscikit-imageopencv三个模块的基本使用方式。
包括:读写文件、灰度化和锐化图像。
Pillow基本使用
import pathlib from PIL import Image, ImageFilter path = pathlib.Path('~/dev/python/python1024/data/automate/006image').expanduser() file_path = path.joinpath('lena.png') img = Image.open(file_path) print(img.size, img.mode, type(img)) # img.show() img_gray = img.convert('L') # 灰度化 img_gray.save(path.joinpath('006image_pillow_gray.png')) img_sharp = img.filter( ImageFilter.SHARPEN ) # 锐化 img_sharp.save(path.joinpath('006image_pillow_sharp.png'))

scikit-image基本使用
import pathlib from skimage import io, color from skimage.filters import unsharp_mask path = pathlib.Path('~/dev/python/python1024/data/automate/006image').expanduser() file_path = path.joinpath('lena.png') img = io.imread(file_path) print(img.shape, type(img)) # io.imshow(img) # 使用matplotlib显示图像 img_gray = color.rgb2gray(img) io.imsave(path.joinpath('006image_skimage_gray.png'),img_gray) # enhanced image = original + amount * (original - blurred) img_sharp = unsharp_mask(img, radius=20, amount=1) io.imsave(path.joinpath('006image_skimage_sharp.png'),img_sharp)

opencv基本使用
import pathlib import cv2 import numpy as np path = pathlib.Path('~/dev/python/python1024/data/automate/006image').expanduser() file_path = path.joinpath('lena.png') img = cv2.imread(str(file_path)) print(img.shape, type(img)) # cv2.imshow('image',img) # cv2.waitKey(0) # cv2.destroyAllWindows() img_gray = cv2.cvtColor(img, cv2.COLOR_BGR2GRAY) # 灰化 cv2.imwrite(str(path.joinpath('006image_cv2_gray.png')),img_gray) kernel = np.array([[-1,-1,-1], [-1, 9,-1], [-1,-1,-1]]) img_sharp = cv2.filter2D(img, -1, kernel) # 锐化 cv2.imwrite(str(path.joinpath('006image_cv2_sharp.png')),img_sharp)

可以看到,pillow 的使用门槛最低,代码也最容易读懂;scikit-imagenumpy无缝结合,图片读取出来的就是一个numpy.ndarray对象;opencv读取出的也是numpy.ndarray,但色彩模式是BGR模式,需要用cvtColor函数进行模式转化。
三个模块间数据互转 当我们用pillow处理图像到一半时,如果需要用到opencv内置的算法,怎么办?
不用重新用opencv再处理一遍,直接把pillow数据转为opencv的即可。
import pathlib from PIL import Image import numpy import cv2 from skimage import io, img_as_float, img_as_ubyte path = pathlib.Path('~/dev/python/python1024/data/automate/006image').expanduser() file_path = path.joinpath('lena.png') img = Image.open(file_path) # PIL 转 opencv img_cv = cv2.cvtColor(numpy.asarray(img),cv2.COLOR_RGB2BGR) print(img_cv.shape) # opencv 转 PIL img_back = Image.fromarray(cv2.cvtColor(img_cv,cv2.COLOR_BGR2RGB)) # opencv 转 skimage img_sk = img_as_float(cv2.cvtColor(img_cv,cv2.COLOR_BGR2RGB)) print(img_sk.shape) # skimage 转 opencv img_cv_back = cv2.cvtColor(img_as_ubyte(img_sk),cv2.COLOR_RGB2BGR) # skimage 转 PIL img_sk2pil = Image.fromarray(img_as_ubyte(img_sk)) # PIL 转 skimage img_pil2sk = img_as_float(img_sk2pil) print(img_sk.shape)

基本图像处理 基本图像处理,pillow足够应付,它通过文件头确定基本信息,如文件格式、大小、模式等。
Imagepillow最基础也是最核心的类,提供了读写文件、显示、格式转换、裁剪、合并、变形等一系列的功能。
比如最常见的使用场景:调整大小、旋转、翻转、裁剪、混合。
import pathlib from PIL import Image path = pathlib.Path('~/dev/python/python1024/data/automate/006image').expanduser() file_path = path.joinpath('lena.png') img = Image.open(file_path) print(img.format, img.size, img.mode) # 创建一个缩略图,大小128x128 size = (128, 128) img.thumbnail(size) # 不能放大,同时保持比例 img.save(path.joinpath('006image_thumb.png'), 'PNG') img_resize = img.resize((512, 512)) # 自由缩放,放大后会模糊 img_resize.save(path.joinpath('006image_resize.png')) img = Image.open(file_path) # 重新打开 # 旋转 img_rot = img.rotate(45) img_rot.save(path.joinpath('006image_rotate.png')) # 翻转 img_all = Image.new('RGB', (512*3, 512*2), (0, 0, 0)) # 创建一个三行两列容器 trans_list = [Image.FLIP_LEFT_RIGHT, Image.FLIP_TOP_BOTTOM, Image.ROTATE_90,Image.ROTATE_180, Image.ROTATE_270] img_all.paste(img, (0,0)) for i, trans in enumerate(trans_list, start=1): x = (i%3)*512 y = (i//3)*512 img_trans = img.transpose(trans) img_all.paste(img_trans, (x, y)) img_all.save(path.joinpath('006image_transpose.png')) # 裁剪 box = (100, 100, 400, 400) #(左、上、右、下)左上角坐标(0,0) img_crop = img.crop(box) img_crop.save(path.joinpath('006image_crop.png')) img_crop_mod = img_crop.transpose(Image.ROTATE_180) # 合并 img.paste(img_crop_mod, box) img.save(path.joinpath('006image_merge.png'))

图像滤镜 图像色彩是个专业领域,为表达人眼看到的颜色,专家们建立了不同的数学模型。
其中和设备相关的模型如RGBCMYKYCbCr
  • RGB常用于显示器,用红(Red)、绿(Green)、蓝(Blue)三色组合出色彩。
  • CMYK常用于打印机,青(Cyan)、品红(Magenta)、黄(Yellow)和黑(blacK,避免与Blue混淆)。
  • YCbCr常用于视频,Y为颜色亮度比例,Cb和Cr表示蓝色和红色浓度偏移量比例。
图像的色彩处理,其实就是对其颜色数据的处理。
实际工作生活中,我们经常会看到一些滤镜效果,比如:轮廓图、浮雕图、模糊、铅笔画、平滑、撒盐效果、相片底片效果、手绘效果、抖音效果等等。
这些效果背后,都是对色彩数据调整处理。pillowImageFilter提供了一些常用滤镜,此外也可以用Image.point遍历像素点,自定义处理方式。
此外,pillow从3.4版本开始支持创建GIF图像,比如下面的:

下面代码演示了上面提到的一些效果
import pathlib from PIL import Image, ImageFilter import numpy as nppath = pathlib.Path('~/dev/python/python1024/data/automate/006image').expanduser() file_path = path.joinpath('lena.png') img = Image.open(file_path) # mode就是采用的色彩模型 print(img.format, img.size, img.mode) bands = img.getbands() # 返回所有通道 bboxs = img.getbbox() # 返回左上角和右下角坐标 extremas = img.getextrema() # 各个通道像素最小和最大值 print(bands, bboxs, extremas) # 通道分离 r, g, b = img.split() # 这里可以对每个通道的数据做些处理 # 比如提高红色通道,降低绿色和蓝色通道,可以把图片变暖一些 r = r.point(lambda x: x*1.3) g = g.point(lambda x: x*0.9) b = b.point(lambda x: 0) # 通道合并 img_warm = Image.merge('RGB', (r, g, b)) img_warm.save(path.joinpath('006image_warm.png')) # ImageFilter提供的预置滤镜 filter_list = [ImageFilter.BLUR, ImageFilter.BoxBlur, ImageFilter.DETAIL, ImageFilter.CONTOUR, ImageFilter.EDGE_ENHANCE, ImageFilter.EDGE_ENHANCE_MORE, ImageFilter.EMBOSS, ImageFilter.FIND_EDGES, ImageFilter.SHARPEN, ImageFilter.SMOOTH, ImageFilter.SMOOTH_MORE] img_all = Image.new('RGB', (512*3,512*4),(0,0,0)) img_all.paste(img, (0,0)) for i, filt in enumerate(filter_list, start=1): if filt == ImageFilter.BoxBlur: im = img.filter(filt(3)) else: im = img.filter(filt) x, y = 512*(i%3), 512*(i//3) img_all.paste(im, (x,y)) img_all.save(path.joinpath('006image_filters.png')) # 把图像转为numpy.array格式处理 im = np.array(img) # 随机生成3000点盐白 W, H = img.size for i in range(3000): x=np.random.randint(0, W) y=np.random.randint(0, H) im[x,y,:]=255 img_salt = Image.fromarray(im) img_salt.save(path.joinpath('006image_effect_salt.png')) # 底片效果 im = np.array(img) im_gray = np.array(img.convert('L')) print(im.shape, im.dtype) print(im_gray.shape, im_gray.dtype) md_im = 255 - im_gray Image.fromarray(md_im).save(path.joinpath('006image_effect_photo.png')) # 手绘效果 im_gray_float = im_gray.astype('float') # 深度值,范围为0~100 # 深度值越大,图像梯度越大,体现为线条越多 depth = 10 grad_x, grad_y = np.gradient(im_gray_float) # 提取x和y方向的梯度值 # 根据深度调整梯度值 grad_x = grad_x*depth/100 grad_y = grad_y*depth/100 A = np.sqrt(grad_x**2 + grad_y**2 + 1.0) uni_x = grad_x/A uni_y = grad_y/A uni_z = 1.0/A # 引入光源 vec_el = np.pi/2.2 vec_az = np.pi/4.0 dx = np.cos(vec_el)*np.cos(vec_az) dy = np.cos(vec_el)*np.sin(vec_az) dz = np.sin(vec_el) gd = 255*(dx*uni_x + dy*uni_y + dz*uni_z) # 光源归一化 gd = gd.clip(0,255) #避免数据越界,将生成的灰度值裁剪至0-255之间 im_out = Image.fromarray(gd.astype('uint8')) im_out.save(path.joinpath('006image_effect_pencial.png')) # 抖音效果 im = np.array(img) im_r = np.copy(im) im_gb = np.copy(im) # 错位10个像素 im_r[:-10, :-10, 1:3] = 0 # 去GB两个通道数据 im_gb[10:, 10:, 0] = 0 # 去R通道数据 im[:-10, :-10, :] = im_r[:-10, :-10, :] + im_gb[10:, 10:, :] img_out = Image.fromarray(im) img_out.save(path.joinpath('006image_effect_douyin.png')) # 如果连续生成不同错位像素的图片,就能拼成一个抖音效果的GIF动画 img_dy_list = [] for offset in range(2, 13, 2): im = np.array(img) im_r = np.copy(im) im_gb = np.copy(im) im_r[:-offset, :-offset, 1:3] = 0 im_gb[offset:, offset:, 0] = 0 im[:-offset, :-offset, :] = im_r[:-offset, :-offset, :] + im_gb[offset:, offset:, :] img_dy_list.append(Image.fromarray(im)) # Pillow 3.4以上(含)版本可以创建GIF图像 img_dy_list[0].save(path.joinpath('006image_effect_douyin_gif.gif'), save_all=True, append_images=img_dy_list[1:], duration=100, loop=0)

实战应用 实战中最常遇到的场景,如:屏幕截图、加水印、朋友圈九宫格切图、抠图、证件照换背景。
加水印和九宫格切图
pillow处理很方便:
import pathlib from PIL import Image, ImageDraw, ImageFont from PIL import ImageGrab, ImageFilter path = pathlib.Path('~/dev/python/python1024/data/automate/006image').expanduser() file_path = path.joinpath('lena.png') img = Image.open(file_path) print(img.format, img.size, img.mode) # 屏幕截图 img_screen = ImageGrab.grab((0,0,1024,300)) # im = ImageGrab.grab() # 全屏 img_screen.save(path.joinpath('006image_screen.png')) # 加文字水印 font = ImageFont.truetype(str(path.joinpath('SourceHanSansCN-Bold.otf')), 20) img_txt = Image.new('RGBA', img.size, (0,0,0,0)) draw = ImageDraw.Draw(img_txt) draw.text((300, 480), '程一初', font=font, fill=(255,255,255,255)) img_txt = img_txt.rotate(45) # 两个图片必须具有相同的mode和size img_wm = Image.alpha_composite(img.convert('RGBA'), img_txt) img_wm.save(path.joinpath('006image_txt_watermark.png')) # 加图片水印 img_logo = Image.open(path.joinpath('avatar.jpg')).resize((100, 100)) img_mask = Image.new('RGBA', img.size, (0,0,0,0)) img_mask.paste(img_logo, (400,400)) img_wm = Image.alpha_composite(img.convert('RGBA'), img_mask) img_wm.save(path.joinpath('006image_img_watermark.png')) # 把水印图片做成圆形,其实就是多加一层遮照 logo_mask = Image.new('RGBA', img_logo.size, (0,0,0,0)) draw = ImageDraw.Draw(logo_mask) draw.ellipse((0,0,100,100),fill=(0,0,0,255)) img_logo_masked = Image.composite(img_logo, logo_mask, logo_mask) img_logo_masked.save(path.joinpath('006image_logo_circle.png')) img_mask = Image.new('RGBA', img.size, (0,0,0,0)) img_mask.paste(img_logo_masked, (400,400)) img_wm_circle = Image.alpha_composite(img.convert('RGBA'), img_mask) img_wm_circle.save(path.joinpath('006image_img_circle_watermark.png')) # 也可以加一些模糊处理 img_mask_blur = img_mask.filter(ImageFilter.GaussianBlur(20)) img_wm_circle_blur = Image.composite(img_mask, img.convert('RGBA'), img_mask_blur) img_wm_circle_blur.save(path.joinpath('006image_img_circle_blur_watermark.png')) # 九宫格切图,实际上应用的是`Image.crop`方法 out_path = path.joinpath('006image_9cuts_out') if not out_path.is_dir(): out_path.mkdir() W, H = img.size W /= 3 H /= 3 for i in range(9): x, y = (i%3)*W, (i//3)*H img_out = img.crop((x,y,x+W,y+H)) img_out.save(out_path.joinpath(f'out_{i}.png'))

其中,加水印,其实就是把图片合并,关键是Image.composite()方法;九宫格切图,就是把图片9等分,然后用Image.crop()方法截取内容。
关于去水印:图像水印并不是那么容易解决,关键是找出特征颜色数据再对图像数据处理。
如果有原图,就可以通过反向使用透明通道尝试消除,但也未必能做到100%消除,反复尝试调整透明度,有时候可以做到肉眼看不清,但仔细观察依旧可以发现“蛛丝马迹”(不可能每个像素都完美消除)。
此外,当前也有项目基于机器学习算法来解决这类问题。如deep_image_prior,除了去水印,还有消除马赛克、提高分辨率、缺失图像修复等功能。但此类算法对硬件要求较高,如需要特殊显卡支持CUDA算法框架。
自动抠图 用过"PS"的人对抠图应该不会陌生,可以很神奇地把图片里的元素单独提取出来,和其他的背景合并。
最常见的应用场景就是证件照,每次去拍照,都要用个纯色的幕布,而且要求衣服不能太浅。
其实背后是有原因的:为了管理部门更准确识别出人像。
抠图的原理,是找出目标物的边界范围,然后把其他地方变透明。
流程很简单,就2步:
  1. 计算出二值图像(即黑白图),每个像素点数据非0即1。
  2. 根据二值图像为原图设置透明度,如把非人像部分全透明,再融合其他背景,就实现了换背景效果。
所以,抠图效果好坏,关键在于识别的精准度。
常见做法有3种:
  • 根据像素色彩范围,识别出背景。适合纯背景色场景,如证件照。
  • 如果背景色彩复杂,就分块识别,在某小块中色彩相对集中。但需要单独设计切分算法。
  • 机器学习算法,训练出识别物的特征模型。训练过程非常耗资源,但有了模型就可以快速应用,目前不少大平台也开放出了自己的训练模型,如百度的paddlehub项目。
篇幅有限,这里就只用pillow做个简单演示,按像素点判断色彩范围:
# 一、把背景高于某个颜色的部分去掉 import pathlib from PIL import Image path = pathlib.Path('~/dev/python/python1024/data/automate/006image').expanduser() file_path = path.joinpath('zjz.jpeg') img = Image.open(file_path).convert('RGBA') print(img.size, img.mode) W, H = img.size # 指定背景颜色,可以用多个点来增强精确度 # 前提就是手工去获取背景的像素点颜色 bg_color = (73, 112, 169, 255) bg_colors = [(64, 105), (80, 138), (116,190), 255] # 用python数组运行有点慢 for w in range(W): for h in range(H): point = img.getpixel((w,h)) if point == bg_color: # 一个点效果太差 img.putpixel((w,h), (0,0,0,0)) elif all( bg_colors[i][0] < c < bg_colors[i][1] for i, c in enumerate(point[:-1])): img.putpixel((w,h), (0,0,0,0)) img.save(path.joinpath('006image_pixel_alpha.png')) # 换个红底背景 bg_red = Image.new('RGBA', img.size, 'red') bg_red = Image.alpha_composite(bg_red, img) bg_red.save(path.joinpath('006image_pixel_redbg.png'))

自动化办公|Python处理图像文件的实用姿势
文章图片

全部的4种方式,可以参考源代码,对比后可以发现:
  • 按每个像素点色彩判断范围,需要手动指定背景色彩值范围,且用Python数组迭代效率低。
  • opencvinRange函数生成二值数据,也要手动指定范围,但它支持位运算,效率高。
  • 用灰度图,手动指定某个值来生成二值图,速度快,但精度差,效果当然也差。
  • 使用paddlehub的人像模型识别,全自动,效果凑合,但资源损耗大,运算效率低。
关于自动抠图,有一些在线API已经可以很好去除背景,比如remove.bg,这类API也提供PythonSDK,效果比以上方式都好,但下载处理后图像的高清版本需要付费。
智能应用 上面提到的paddlehub,除了可以识别人像,还有更多公开的训练模型。
模块安装:pip install paddlepaddle paddlehub
比如人脸、口罩、文字等,使用方法都类似:
  1. 引入模型:比如人像训练模型deeplabv3p_xception65_humanseg
  2. 加载图片:指定文件路径
  3. 算法执行:比如上面的图像切分segmentation
  4. 输出结果
训练模型在调用时会自动从网上下载,也可以提前调用命令下载:hub install 模型名
通过hub list可以查看当前已下载了哪些训练模型。
自动化办公|Python处理图像文件的实用姿势
文章图片

看一个官方的人脸识别的案例:检测口罩佩戴。
import pathlib import paddlehub as hub from PIL import Image, ImageDrawpath = pathlib.Path('~/dev/python/python1024/data/automate/006image').expanduser() file_list = [str(path.joinpath('mask1.jpg')), str(path.joinpath('mask2.jpg'))] out_path = path.joinpath('006image_face_out') module = hub.Module(name="pyramidbox_lite_mobile_mask") results = module.face_detection(data=https://www.it610.com/article/{"image": file_list}) for res in results: data = https://www.it610.com/article/res['data'] img = Image.open(res['path']) f_path = pathlib.Path(res['path']) draw = ImageDraw.Draw(img) for d in data: draw.text((d['left'], d['top']-10), f'{d["label"]}: {d["confidence"]:.2%}', 'red') draw.rectangle((d['left'], d['top'], d['right'], d['bottom']), outline='green', width=3) img.save(out_path.joinpath(f_path.name))

可以发现接口非常简单,图像会在本地处理,然后返回json格式的数据,数据中会标出相关图像信息,比如案例中的人脸和口罩佩戴概率值。
自动化办公|Python处理图像文件的实用姿势
文章图片

总结 本文介绍了Python中图像处理的3个模块,重点介绍了pillow的用法。
现实生活中,我们可以通过各类美图软件随时随地修图,但当我们需要批量处理时,可以采用Python自动化形式。此外,也可以试验一些独创的自定义玩法,这些滤镜可能现有软件还未能提供。
比如实际工作中,运营等岗位经常需要批量制作一些朋友圈海报图,方便用户传播。
目前也有一些在线网站提供半免费半付费的海报制作工具,但如果一次要做上百张海报,工作量也是非常可观的。这种情况非常适合用Python批量处理。
自动化办公|Python处理图像文件的实用姿势
文章图片

最后,我们也尝试了现有的训练模型来识别人像、人脸的场景。当然应用不仅于此,后面章节中我还会介绍其他好玩的训练模型来处理图像。
想了解的可以入群获取,前100名免费。
【自动化办公|Python处理图像文件的实用姿势】自动化办公|Python处理图像文件的实用姿势
文章图片

    推荐阅读