在这个项目中，数据集使用的Kaggle中辨别狗狗种类的竞赛，其中包含了将近10000张经过标记的图像，大约涵盖了120种狗狗，除此之外还有数量相当的测试数据。一般来说，这些图像的分辨率、缩放程度都是不同的，其中也可能不止有一只狗，光线也会有差别。下面是数据集中的几张图像。
数据集中各种种类的狗狗数量大致相同，平均每种狗狗有59张图像。以下是数据集中各种类狗狗的数量分布：
正如我们简单分析过的，经过分析的数据集对深度学习框架来说并不复杂，并且有很多简单结构。所以我们可以从数据集中得到各种类精确的结果。
Bottleneck特征
Sober运算符在单一图像通道上的大致表示
如今的技术可以从数据中直接自动提取特征。为此，我们用的是卷积层。每个卷积层都是具有随机初始值的正方形矩阵堆栈。这些值在训练过程中被更新，最终会收敛到适合数据集的特殊过滤器上。
下图展示了深度学习分类器作为特征模块序列的大致表示，将图像从原始的像素表示转换成更加抽象的表示：
bottleneckfeaturesontodisk.
"""
def__init__(self,build_fn,preprocess_fn,source,
target_size=(299,299,3),batch_size=128):
self.build_fn=build_fn
self.preprocess_fn=preprocess_fn
self.source=source
self.target_size=target_size
self.batch_size=batch_size
stream=self.source(
folder=folder,target_size=self.target_size,
batch_size=self.batch_size,infinite=False)
batches=[]
withtqdm.tqdm_notebook(total=stream.steps_per_epoch)asbar:
forx_batch,y_batchinstream:
x_preprocessed=self.preprocess_fn(x_batch)
batches.append(batch)
bar.update(1)
all_features=np.vstack(batches)
np.save(filename,all_features)
returnfilename
之后，我们可以用FeatureExtractor：
fromkeras.applicationsimportinception_v3
extractor=FeatureExtractor(
build_fn=inception_v3.InceptionV3,
preprocess_fn=inception_v3.preprocess_fn,
source=create_files_iterator_factory())
extractor(folder_name,output_file)
BootstrappedSGD
为了让训练过程更加稳定并且可重复，为了达到最佳精度，我们将用bagging扩展SGD，这种方法可以训练SGD分类器的集合，并且能从多个估算器中对反馈取平均值，得出最终的预测。下图是这一过程的展示：
在SGD分类器上应用bagging技术
下面的代码展示了如何创建一个SGD分类器，以及如何计算能反映模型质量的预测标准：
threshold=VarianceThreshold(variance_threshold)
sgd_classifier=SGDClassifier(
alpha=1./len(x_train),
fit_intercept=False,tol=0.001,n_jobs=-1)
bagging=BaggingClassifier(
base_estimator=sgd_classifier,
bootstrap_features=True,
n_jobs=-1,max_samples=0.5,max_features=0.5)
x_thresh=threshold.fit_transform(x_train)
bagging.fit(x_thresh,y_train)
train_metrics=build_metrics(bagging,x_thresh,y_train)
x_thresh=threshold.transform(x_valid)
valid_metrics=build_metrics(bagging,x_thresh,y_valid)
returnbagging,train_metrics,valid_metrics
defbuild_metrics(model,X,y):
probs=model.predict_proba(X)
preds=np.argmax(probs,axis=1)
metrics=dict(
probs=probs,
preds=preds,
loss=log_loss(y,probs),
accuracy=np.mean(preds==y))
第四行是创建一个SGD分类器的示例，其中有一对正则化参数和运用CPU训练模型的权限。第十行创建了一组分类器，15—20行训练了分类器，并计算了几个表现标准。
SGD基准
现在有很多可用的预训练深度学习结构，它们在我们的数据集上用作特征提取器时是否表现得同样好？下面让我们来看看。
我们选取了以下三种结构来训练SGD分类器：
InceptionV3
InceptionResNetV2
Xception
Keras中都包含这三种架构，每个分类器在9200个样本上进行训练并在1022个图像上进行验证。下表展示了训练和验证自己的预测结果。
这个分数还不错！对于如此简单的实现过程，这个结果已经很令人满意了。
对预训练模型进行微调
在SGD分类器上对bottleneck特征的训练已经表示，这些特征能达到良好的预测效果。然而，我们能够通过重新训练顶层、对模型进行微调来提高分类器的精度呢？同样，我们能否通过对训练集的预处理，让模型在过拟合上更稳定，并且提高它的泛化能力？
微调的目的是让预训练模型适应数据。大多数情况下，重新使用的模型都会在含有不同种类的数据集上训练。所以，你需要将网络顶端的分类层替换掉。如图所示：
微调过程示意
新顶层的训练过程和之前的并没什么不同，我们只用了不同的分类器。但是，我们可以用数据增强的方式提高网络的泛化能力。每个微调过的网络都用稍微改动过的图像训练（例如稍微旋转、缩放等）。
微调基准
为了测试微调后的精确度，我们将添加一个结构：
ResNet50
每个模型进行100次迭代测试，每次有128个样本：
fromkeras.optimizersimportSGD
sgd=SGD(lr=0.001,momentum=0.99,nesterov=True)
下面是数据增强中参数的选择：
transformer=ImageDataGenerator(
width_shift_range=0.2,
height_shift_range=0.2,
zoom_range=0.2,
rotation_range=30,
vertical_flip=False,
horizontal_flip=True)
最后，模型训练过程的实现：
fromkeras.modelsimportModel
fromkeras.layersimportDense
base=create_model(include_top=False)
model=Model(inputs=base.inputs,outputs=x)
train_gen=create_training_generator()
valid_gen=create_validation_generator()
model.fit_generator(train_gen,validation_data=valid_gen)
下表是训练后模型的表现：
与之前的表现相比并没有很大的提升，但是数据增强和预训练InceptionResNetV2网络顶部单一密集层的表现却是最好的。
实际案例
让我们看看模型在陌生图像上的表现到底如何吧，下图是数据集之外的网络图片，模型预测了五种最可能的狗狗品种：
结论
现成的模型在这个项目中的表现十分不错，在狗狗分类数据集上训练之后就能达到精确的结果。我相信如果再增加更多的顶层、“解锁”更多隐藏层、加入正则化技术和更多优化，模型的表现会更好。
但是这一实验的缺点是选择的数据集是从ImageNet上挑选的狗类图片，也就是说我们的网络可能之前就见过它们了。关于这一问题论智君也曾报道过数据集的重复使用所带来的副作用，可能会引起一些偏差。
浏览量
原文标题：拉布拉多还是巴哥？用Keras轻松识别狗子的品种
下载发烧友APP
电子发烧友观察
长沙市望城经济技术开发区航空路6号手机智能终端产业园2号厂房3层（0731-88081133）