python-i春秋验证码识别

i春秋作家:hlpureboy

python+机器学习+验证码识别+源码

简单介绍

最近在写某网站的自动注册,在注册的过程中遇到一些问题,如js的执行、验证码的识别等等,今天给大家如何用python通过机器学习的方式实现验证码的识别,这次以i春秋验证码为例进行识别,尽可能的用简单的方式给大家讲解。

使用技术

  • [x] python 2.7 32 位 所需的库 PIL sklearn numpy pandas matplotlib
  • [x] 数字图像处理基础(中值滤波等)
  • [x] 机器学习KNN算法

获取验证码

发现i春秋的验证码的url:https://user.ichunqiu.com/login/verify_image?d=1523697519026,如果你点击的话,发现验证码无法获取到,抓一下包,怎么抓包,可以用burpsuite或者浏览器按f12就成,在这里不再赘述。发现在headers中要有Referer,构造headers的

headers={
    "Cookie":"XXXXXXXXXXXXXX",
    "Referer":"https://user.ichunqiu.com/register/index",
    "Upgrade-Insecure-Requests":"1",
    "User-Agent":"Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/65.0.3325.181 Safari/537.36" }

简单写一下下载验证码的代码

url="https://user.ichunqiu.com/login/verify_image?d=1523697519026"
for i in range(0,51):
    with open("./pic/{}.png".format(i),"wb") as f:
        print("{} pic downloading...".format(i))
        f.write(requests.get(url,headers=headers).content)

在pic目录下获得50张验证码照片了

验证码处理

ok!既然获取到验证码了,肯定要对验证码进行一定程度的处理!

python-i春秋验证码识别

像上图这样的二维码,怎么做训练么?!最起码要给它去掉脸上的雀斑(点点),修复脸上的刀疤(条纹),怎么办呢?难道要寄出神器PS?不存在的,兄die! 我们要做的是批量处理,用ps一张张的人工处理,很明显不符合懒人的风格,怎么办?

下面肯定是祭出数字图像处理了,有些同学看到这里就发怵,没关系,这里没有什么技术难度的!相信我,也相信自己。我突然,发现我有给人灌鸡汤的天赋!下面正式开始讲解!

1.首先,观察原图像(t2.png)!即python-i春秋验证码识别是不是发现它的色彩十分多呀!在数字图像领域中,我们一般研究灰度图像,那么?问题来了什么是灰度图像呢?简单地说,整幅图片都是灰色的!原图片经过灰度处理是这样的。

python-i春秋验证码识别是不是都是灰色的呢?但是我们得到的灰度图,有些地方比较浅,有些地方颜色比较深,这是为什么呢?下面是重点内容,都给我听好啦!图像在计算机中是用<u>矩阵</u>进行存储的,可能,你不知道矩阵是什么东西。那少年我推荐你一本《工程数学 线性代数 》看完一遍保你收获颇丰!当然啦,实在不想看,可以去百度百科呀,矩阵定义,怎么样我贴心吧?!矩阵中每一个数代表着一个像素!数值的大小反映在图像中就是图像的深浅!值越大,颜色越深! 这就说明了,灰度图中颜色深浅的问题,好吧!道理我都懂,怎么转化成灰度图呢?代码如下:

# encoding=utf-8from PIL import Image,ImageFilterimport matplotlib.pyplot as pltimport numpy asnpimport pandas as pdimport matplotlib.cm as cm# 导入相应的库img=Image.open(“t2.png”)# 载入t2.pngim=img.convert(“L”)# 这里重点!img图像转化为灰度图像im、plt.subplot(4,2,1)# 关于plt这个用法在网上有很多教程,我在这里就不一一赘述了plt.imshow(np.array(im),cmap=cm.gray)

2.现在我们得到灰度图像:

python-i春秋验证码识别

观察发现,验证码都是深颜色的,要不把浅颜色的“雀斑”去掉,怎么去掉呢?肯定在矩阵中找一个值(一般称之为阈值),小于这个值的数都变成零(白色),大于这个数的值都变成最大值(黑),咦!灰度图像变成了黑白图像!怎么找这个阈值呢?一般用矩阵的平均数或者中位数,纳尼?什么是中位数,找一个小学课本翻一番。好!那我们分别取平均数和中位数,做一下处理看一下效果!

平均数效果如下:

python-i春秋验证码识别

中位数效果如下:

python-i春秋验证码识别

那么肯定是用平均数做呀!代码如下!

# encoding=utf-8from PIL import Image,ImageFilterimport matplotlib.pyplot as pltimport numpy asnpimport pandas as pdimport matplotlib.cm ascmimg=Image.open(“t2.png”)im=img.convert(“L”)#plt.imshow(img)im_z=np.array(im)# im转化为im_z矩阵print(im_z.mean())# im_z的平均值print(np.median(im_z))# im_z的中位数plt.subplot(4,2,1)plt.imshow(np.array(im),cmap=cm.gray)plt.subplot(4,2,2)plt.imshow(img)im_b=im.point(lambda i:i>197,mode=’1′)# 用im_z的平均值197转化为黑白图像im_bplt.subplot(4,2,3)plt.imshow(im_b)# 显示im_bim_a=im.point(lambda i:i>220,mode=’1′)# 用im_z的平均值220转化为黑白图像im_aplt.subplot(4,2,4)plt.imshow(im_a)# 显示im_a

3.得到黑白图像了,可还是有“雀斑”怎么办,用上神奇的中值滤波啦!中值滤波定义,一般都是在灰度图上进行中值滤波,我也是突然想看一下,在黑白图像的处理结果怎么样(当然,这里的中值只能是零或一啦),结果还不错!

python-i春秋验证码识别

在这里要说的是,中值滤波这个概念,比较容易理解,我这个小菜鸡,概括的不怎么样!只能委屈大家看一下优秀的博客啦。处理代码如下

# encoding=utf-8from PIL import Image,ImageFilterimport matplotlib.pyplot as pltimport numpy asnpimport pandas as pdimport matplotlib.cm ascmimg=Image.open(“t2.png”)im=img.convert(“L”)#plt.imshow(img)im_z=np.array(im)print(im_z.mean())print(np.median(im_z))plt.subplot(4,2,1)plt.imshow(np.array(im),cmap=cm.gray)plt.subplot(4,2,2)plt.imshow(img)im_b=im.point(lambdai:i>197,mode=’1′)plt.subplot(4,2,3)plt.imshow(im_b)im_a=im.point(lambdai:i>220,mode=’1′)plt.subplot(4,2,4)plt.imshow(im_a)”’#################下面是核心代码###############”’im_f=im_b.filter(ImageFilter.MedianFilter(size=3))# 用 im_b图像进行中值滤波,掩模用的3×3的模板plt.subplot(4,2,5)plt.imshow(im_f)# 显示 im_fplt.show()

4.得到干净的验证码,这样就结束了么?no!no!no! 紧接接着,要把单个的字符分割出来!怎么分割来?下面我会给出代码,在代码中给出解释

# encoding=utf-8from PIL import Image,ImageFilterimport matplotlib.pyplot as pltimport numpy asnpimport pandas as pdimport matplotlib.cm ascmimg=Image.open(“t2.png”)im=img.convert(“L”)#plt.imshow(img)im_z=np.array(im)print(im_z.mean())print(np.median(im_z))plt.subplot(4,2,1)plt.imshow(np.array(im),cmap=cm.gray)plt.subplot(4,2,2)plt.imshow(img)im_b=im.point(lambdai:i>197,mode=’1′)plt.subplot(4,2,3)plt.imshow(im_b)im_a=im.point(lambdai:i>220,mode=’1′)plt.subplot(4,2,4)plt.imshow(im_a)im_f=im_b.filter(ImageFilter.MedianFilter(size=3))plt.subplot(4,2,5)plt.imshow(im_f)plt.show()”’##########下面是核心代码###############”’im=im_fprint(im.size)a = np.array(im)# im转化为a矩阵pd.DataFrame(a.sum(axis=0)).plot.line() # 画出每列的像素累计值plt.imshow(a,cmap=‘gray’) # 画出图像split_lines = [7,25,44,60,78]# 经过调整过的分割线的合理间距vlines = [plt.axvline(i, color='r') for i insplit_lines] # 画出分割线plt.show()

得到图像如下

python-i春秋验证码识别

啧啧啧!我都有点佩服我自己呢!下面要把字符一个个的分割出来!同时要把上边和下边的黑线去掉!

怎么办呢?talk is cheap,show my code!

# encoding=utf-8from PIL import Image,ImageFilterimport matplotlib.pyplot as pltimport numpy asnpimport pandas as pdimport matplotlib.cm ascmimg=Image.open(“t2.png”)im=img.convert(“L”)#plt.imshow(img)im_z=np.array(im)print(im_z.mean())print(np.median(im_z))plt.subplot(4,2,1)plt.imshow(np.array(im),cmap=cm.gray)plt.subplot(4,2,2)plt.imshow(img)im_b=im.point(lambdai:i>197,mode=’1′)plt.subplot(4,2,3)plt.imshow(im_b)im_a=im.point(lambdai:i>220,mode=’1′)plt.subplot(4,2,4)plt.imshow(im_a)im_f=im_b.filter(ImageFilter.MedianFilter(size=3))plt.subplot(4,2,5)plt.imshow(im_f)plt.show()im=im_fprint(im.size)a = np.array(im)pd.DataFrame(a.sum(axis=0)).plot.line() # 画出每列的像素累计值plt.imshow(a,cmap=‘gray’) # 画出图像split_lines = [7,25,44,60,78]vlines = [plt.axvline(i, color='r') for i in split_lines] # 画出分割线plt.show()#im.crop()”’#################核心代码##########################”’y_min=5y_max=35#设置获取图像的高和宽ims=[]c=1forx_min,x_max in zip(split_lines[:-1],split_lines[1:]):   im.crop([x_min,y_min,x_max,y_max] ).save(str(c)+‘.png’)   # crop()函数是截取指定图像!   # save保存图像!   c=c+1for i in range(1,5):   file_name=“{}.png”.format(i)   plt.subplot(4,2,i)   im=Image.open(file_name).convert(“1″)   #im=img.filter(ImageFilter.MedianFilter(size=3))   plt.imshow(im)   # 显示截取的图像!plt.show()

得到的图像结果如下!

python-i春秋验证码识别

5.还记得咱们在第一步中获取的50张图片么?没错!把他们都分割出来吧!整理一下代码!

   # encoding=utf-8
   from sklearn.neighbors import KNeighborsClassifier as KNN
   from sklearn.externals import joblib
   from PIL import Image,ImageFilter
   import numpy as np
   def imgprocess(name):
       # 图片分割成单个字符!
       path="./pic/{}.png".format(str(name))
       img=Image.open(path).convert("L")
       th=np.array(img).mean()
       im_b = img.point(lambda i: i > th, mode='1')
       im_f= im_b.filter(ImageFilter.MedianFilter(size=3))
       split_lines = [7, 25, 43, 61, 79]
       y_min = 5
       y_max = 35
       ims = []
       c = 1
       for x_min, x_max in zip(split_lines[:-1], split_lines[1:]):
           im_f.crop([x_min, y_min, x_max, y_max]).save('./pic2later/{}-{}.png'.format(str(name),str(c)))
           c = c + 1
   for i in range(1,51):
       print("process {} pic".format(i))
       imgprocess(i)

机器学习之KNN

1.关于knn算法呢,我以前做过一些笔记,我po上去了

链接: https://pan.baidu.com/s/1g0_fRLf4iRwefeP5ZoGwJA 密码: gizr

大家记得看一下!

2.相应的代码及注解

# encoding=utf-8
from sklearn.neighbors import KNeighborsClassifier as KNN
from sklearn.externals import joblib
from PIL import Image,ImageFilter
import numpy as np
def imgprocess(name):
    path="./pic/{}.png".format(str(name))
    img=Image.open(path).convert("L")
    th=np.array(img).mean()
    im_b = img.point(lambda i: i > th, mode='1')
    im_f= im_b.filter(ImageFilter.MedianFilter(size=3))
    split_lines = [7, 25, 43, 61, 79]
    y_min = 5
    y_max = 35
    ims = []
    c = 1
    for x_min, x_max in zip(split_lines[:-1], split_lines[1:]):
        im_f.crop([x_min, y_min, x_max, y_max]).save('./pic2later/{}-{}.png'.format(str(name),str(c)))
        c = c + 1
for i in range(1,51):
    print("process {} pic".format(i))
    imgprocess(i)
'''
###########下面是核心代码#####################
'''
def Y():
    # 获取字符的值!这些验证码是我一个一个肉眼写出来的!
    with open("./pic/reslut.txt") as f:
        Y=list(f.read().replace("\n",""))
    return Y
def getX():
    # 获取X的值!
    path="./pic2later/{}-{}.png"
    X=[]
    for i in range(1,51):
        for c in range(1,5):
            img=Image.open(path.format(str(i),str(c)))
            ls = np.array(img).tolist()
            xx = []
            for l in ls:
                for x in l:
                    xx.append(x)
            X.append(xx)
    return X
def train():
    # 用knn模型进行训练
    knn = KNN()
    knn.fit(getX(), Y())
    joblib.dump(knn,"./model.pkl")
    # 保存结果!
train()

写到这里了,干脆把预测代码也写一下吧!跟训练代码差不多!

# encoding=utf8
from sklearn.neighbors import KNeighborsClassifier as KNN
from sklearn.externals import joblib
from PIL import Image,ImageFilter
import numpy as np
MODEL_PATH="./model.pkl"
def getX(file_name):
    X=[]
    img=Image.open(file_name).convert("L")
    th=np.array(img).mean()
    im_b = img.point(lambda i: i > th, mode='1')
    im_f = im_b.filter(ImageFilter.MedianFilter(size=3))
    split_lines = [7, 25, 43, 61, 79]
    y_min = 5
    y_max = 35
    for x_min, x_max in zip(split_lines[:-1], split_lines[1:]):
        ls=np.array(im_f.crop([x_min, y_min, x_max, y_max])).tolist()
        xx=[]
        for l in ls:
            for x in l:
                xx.append(x)
        X.append(xx)
    return X
def predict(file_path):
    # 预测
    knn=joblib.load(MODEL_PATH)
    X=getX(file_path)
    Y=knn.predict(X)
    return "".join(Y)
print(predict("./pic/1.png"))

总结

1.预测结果可能不准确,原因是因为只有50张验证码进行训练

2.懒得对它进行评估了,你们随意就好

3.验证码识别的一般套路: 灰度化、图像处理、二值化、选算法、训练、评估调整参数、预测,当然,我在这里二值化与处理的顺序换了一下,灵活处理哈!

代码:

在下载代码之前先说几句!自己先运行一下train()函数重新生成model.pkl,在进行预测!至于为什么,32 位与 64 位是不兼容的!最后!厚着脸皮!腆着脸!说要!要点赞!要回复哟!嘤嘤嘤!        有什么问题可以,在评论区提问哟!

链接:https://pan.baidu.com/s/1Ym7oc1Iryy8o63c6O9Jkfw

密码在这里!密码在这里!密码在这里!密码在这里!密码在这里!

https://bbs.ichunqiu.com/thread-38774-1-1.html?from=bkyl

上一篇:在浏览器中使用jquery取得iframe中页面中指定元素的值的不同


下一篇:剑指offer PART 2