计算机视觉入门CV之街道字符识别

计算机视觉入门CV之街道字符识别—01赛题理解

赛题
赛题理解
- 1.赛题数据
- 2.数据标签
- 3.数据读取
思路分析

赛题

以计算机视觉中字符识别为背景，要求选手预测街道字符编码，这是一个典型的字符识别问题。

赛题理解

1.赛题数据

赛题数据来自Google街景图像中的门牌号数据集（The Street View House Numbers Dataset, SVHN），并根据一定方式采样得到比赛数据集。训练集数据包括3W张照片，验证集数据包括1W张照片，每张照片包括颜色图像和对应的编码类别和具体位置；为了保证比赛的公平性，测试集A包括4W张照片，测试集B包括4W张照片。

2.数据标签

对于训练数据每张图片将给出对于的编码标签，和具体的字符框的位置（训练集，测试集和验证集都给出字符位置），可用于模型训练：

字符的坐标具体如下所示：

注意：在比赛数据中，同一张图片可能包括一个和多个字符，因此在比赛数据的JSON标注中，会有两个字符的边框信息：

3.数据读取

import json
import numpy as np
import cv2
import matplotlib.pyplot as plttrain_json = json.load(open('E:\yjs\computer vision\street recognition/mchar_train.json'))# 数据标注处理
def parse_json(d):arr = np.array([d['top'], d['height'], d['left'],  d['width'], d['label']])                               #数据标注转化成数组arr = arr.astype(int)return arrimg = cv2.imread('E:\yjs\computer vision\street recognition/mchar_train/000000.png')
parse_json(train_json['000000.png'])              ## 将json文件中的目标文件找出进行数据标注处理#可视化
plt.figure(figsize=(10, 10))
plt.subplot(1, arr.shape[1]+1, 1)                       # Arr.shape[1]表示图片中元素的个数; +1是为了显示图片整体plt.imshow(img)
plt.xticks([]); plt.yticks([])for idx in range(arr.shape[1]):plt.subplot(1, arr.shape[1]+1, idx+2)               # # 从第一个子图开始循环plt.imshow(img[arr[0, idx]:arr[0, idx]+arr[1, idx],arr[2, idx]:arr[2, idx]+arr[3, idx]])'''此处是截取图片区域并显示:top(0) + height(1) = 图片的高度left(2) + width(3) = 图片的宽度'''plt.title(arr[4, idx])plt.xticks([]); plt.yticks([])
plt.show()

结果如下：

思路分析

赛题思路分析：赛题本质是分类问题，需要对图片的字符进行识别。但赛题给定的数据图片中不同图片中包含的字符数量不等，如下图所示。有的图片的字符个数为2，有的图片字符个数为3，有的图片字符个数为4。

即难点出现：对不定长字符进行识别。
参考思路如下：
1.简单入门思路：定长字符识别
可以将赛题抽象为一个定长字符识别问题，在赛题数据集中大部分图像中字符个数为2-4个，最多的字符个数为6个。因此可以对于所有的图像都抽象为6个字符的识别问题，字符23填充为23XXXX，字符231填充为231XXX。

2.专业字符识别思路：不定长字符识别
在字符识别研究中，有特定的方法来解决此种不定长的字符识别问题，比较典型的有CRNN字符识别模型。
在本次赛题中给定的图像数据都比较规整，可以视为一个单词或者一个句子。

3.专业分类思路：检测再识别

在赛题数据中已经给出了训练集、验证集中所有图片中字符的位置，因此可以首先将字符的位置进行识别，利用物体检测的思路完成。此种思路需要参赛选手构建字符检测模型，对测试集中的字符进行识别。选手可以参考物体检测模型SSD或者YOLO来完成。