大佬代码在这
我也是个垃圾,初学者练习这个项目,我认为第一步是熟悉这个平台的使用,这种云编程不同于pycharm,初学者可能会感觉十分别扭(比如垃圾的我),所以我在这个笔记里尽可能详细的说一下如何让大佬代码在自己的notebook里跑一边,只有知道了总体流程,才能写出属于自己的东西。

强调一下,代码是大佬的,我们只是借鉴一下,所以想要有所进步,还需要自己的努力。
零基础入门语音识别——食物声音识别
打开我给的连接,会是这个样子
![在这里插入图片描述](https://img-blog.csdnimg.cn/eabb06b2c546490d843e3b74b10

该注册的注册,该登录的登录。
然后报名参赛。
以后就可以在自己的个人中心找到了

进入比赛,点击论坛,新建notebook(建议用这种方式新建,因为这样你的notebook会自动挂载比赛所需要的数据集,当然,今天跑的代码不需要)

然后会是这样的,可以在左下角新建,这时,你的代码是无法修改的,记住带点击右上角的编辑,进入notebook,


进入以后把这些没用的删了,用小剪刀这个工具,

然后点击+号,新建cell,把这篇文章开头的链接的大佬的代码复制过去,不要漏,然后从上往下,依次运行(单个三角形),注意一定要确定当前这个框里的代码全部跑完再运行下一行。

这个*号代表正在运行,

空的代表没有运行,

数字代表的是成功运行的,注意数字的顺序,一定要的按顺序的,如果出现12324这种,代表你分步运行时出错了,
当然,你也可以点击双三角
直接运行所有,但是我觉得初学者还是一步一步的看到代码运行的状态,对学习帮助更好一些(因人而异把)

特别强调,对于基本没有接触过深度学习的小白来说,代码运行时间绝对会是一个难忘的经历,我运行了

运行成功了

好了,现在开始进行解释:

!wget http://tianchi-competition.oss-cn-hangzhou.aliyuncs.com/531887/train_sample.zip

!wget你可以理解为netebook用来下载数据的命令

!unzip -qq train_sample.zip
!\rm train_sample.zip

使用unzip函数解压缩,通过\rm将压缩包删除
所以,对于训练集和测试集,我们先下载好压缩包,解压后删除原本压缩包。

# 基本库import pandas as pd
import numpy as npfrom sklearn.model_selection import train_test_split
from sklearn.metrics import classification_report
from sklearn.model_selection import GridSearchCVfrom sklearn.preprocessing import MinMaxScaler

1、train_test_split返回切分的数据集train/test。
将训练集划分为训练集和测试集,这点和机器学习相同。
随机划分样本数据为训练集和测试集的,当然也可以人为的切片划分。

2、
sklearn.metrics里面会有很多的评价指标,即用于检验机器学习模型效果的定量指标。
sklearn中的classification_report函数用于显示主要分类指标的文本报告.在报告中显示每个类的精确度,召回率,F1值等信息。

3、GridSearchCV,它存在的意义就是自动调参,只要把参数输进去,就能给出最优化的结果和参数。
(GridSearchCV的名字其实可以拆分为两部分,GridSearch和CV,即网格搜索和交叉验证。这两个名字都非常好理解。网格搜索,搜索的是参数,即在指定的参数范围内,按步长依次调整参数,利用调整的参数训练学习器,从所有的参数中找到在验证集上精度最高的参数,这其实是一个训练和比较的过程。)

4、MinMaxScaler的功能是将每个元素(特征,feature)转换成给定范围的值。
(对数据进行预处理的,主要功能可以概括成标准化和归一化。MinMaxScaler是一个归一化的函数,可以将范围所放在指定的范围区间内)

# 加载深度学习框架(搭建分类模型所需要的库)
from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import Conv2D, Flatten, Dense, MaxPool2D, Dropout
from tensorflow.keras.utils import to_categorical
from sklearn.ensemble import RandomForestClassifier
from sklearn.svm import SVC#加载音频处理库
pip install librosa --user# 其他库
import os
import librosa
import librosa.display
import glob 

加载深度学习框架(搭建分类模型所需要的库)

keras系列︱Sequential与Model模型、keras基本结构功能(一)
sklearn.ensemble库,支持众多集成学习算法和模型。
RandomForestClassifier是非常具有代表性的Bagging集成算法,它的所有基评估器都是决策树,分类树组成的森林就叫做随机森林分类器,回归树所集成的森林就叫做随机森林回归器。

sklearn.svm库支持向量机,主要用于分类,回归和异常检测。SVC全称是C-Support Vector Classification,是一种基于libsvm的支持向量机,由于其时间复杂度为O(n^2),所以当样本数量超过两万时难以实现。
keras网络结构(关于keras先了解一下,我学习后再做笔记)

#加载音频处理库
pip install librosa --user
下面的感兴趣仔细看一下,不想看的话就跳过吧,反正知道这个库时用来处理声音数据的就行了,大佬的代码里用到的东西,我还会再仔细说明的。
原文在这里

其他:
os 是python环境下对文件,文件夹执行操作的一个模块。

librosa.display模块并不默认包含在librosa中,使用时要单独引入,是用来做音频特征的显示。

glob是UNIX程序,用来匹配路径文件名

好了,现在我们已经把数据集下载好了,并且把要用到的库也导入了,该进行数据集的处理了

#特征提取及数据集的创建
feature = []
label = []
# 建立类别标签,不同类别对应不同的数字。
label_dict = {'aloe': 0, 'burger': 1, 'cabbage': 2,'candied_fruits':3, 'carrots': 4, 'chips':5,'chocolate': 6, 'drinks': 7, 'fries': 8, 'grapes': 9, 'gummies': 10, 'ice-cream':11,'jelly': 12, 'noodles': 13, 'pickles': 14, 'pizza': 15, 'ribs': 16, 'salmon':17,'soup': 18, 'wings': 19}
label_dict_inv = {v:k for k,v in label_dict.items()}

做好上述准备以后,我们开始进入数据的特征提取,首先建立特征值矩阵,以及标签矩阵,给不同的声音建立类别名称以及唯一的数字编号与之对应,然后将数字编号和类别调换位置,从矩阵的角度看是逆矩阵

from tqdm import tqdm
def extract_features(parent_dir, sub_dirs, max_file=10, file_ext="*.wav"):c = 0label, feature = [], []for sub_dir in sub_dirs:for fn in tqdm(glob.glob(os.path.join(parent_dir, sub_dir, file_ext))[:max_file]): # 遍历数据集的所有文件# segment_log_specgrams, segment_labels = [], []#sound_clip,sr = librosa.load(fn)#print(fn)label_name = fn.split('/')[-2]label.extend([label_dict[label_name]])X, sample_rate = librosa.load(fn,res_type='kaiser_fast')mels = np.mean(librosa.feature.melspectrogram(y=X,sr=sample_rate).T,axis=0) # 计算梅尔频谱(mel spectrogram),并把它作为特征feature.extend([mels])return [feature, label]

Tqdm 库,它是一个快速,可扩展的Python进度条,可以在 Python 长循环中添加一个进度提示信息,用户只需要封装任意的迭代器 tqdm(iterator)。
你在notebook里面看到的红色的进度条就是这个库,防止深度学习时间太长,而你认为电脑卡住了。。。。如下就是在notebook里面的表现。

定义一个函数extract_features对输入的路径下的音频文件提取特征值
对定义的函数里面一些函数的解释:
1、glob.glob链接在这
glob.glob(pathname) 返回所有匹配的文件路径列表。它只有一个参数 pathname,定义了文件路径匹配规则,这里可以是绝对路径,也可以是相对路径。用这个函数返回文件路径的信息,链接里面例子挺好的。

2、python路径拼接os.path.join()函数的用法链接在这

在大佬的代码里,大佬按照顺序把父目录,子目录,文件拼接成一条路径,方便后续操作。
3、librosa.load官方文档链接
链接是librosa官方文档,十分全面,如果只想看.load的内容点击这里

res_type=‘kaiser_fast’:高速度

4、librosa.feature.melspectrogram
计算梅尔频谱(mel spectrogram),并把它作为特征

这个函数的返回值[feature, label],特征和标签

函数已经定义好了,接下来开始使用了

# 自己更改目录
parent_dir = './train_sample/'
save_dir = "./"
folds = sub_dirs = np.array(['aloe','burger','cabbage','candied_fruits','carrots','chips','chocolate','drinks','fries','grapes','gummies','ice-cream','jelly','noodles','pickles','pizza','ribs','salmon','soup','wings'])# 获取特征feature以及类别的label
temp = extract_features(parent_dir,sub_dirs,max_file=100)

上面这段代码就不细讲了,调用函数罢了。



将特征矩阵创建为ndarray数组,这是利用了numpy相较于python的array (对象实际为指向内存位置的指针)的计算的优势,并将得到的数组进行转置。

temp = np.array(temp)
data = temp.transpose()



# 获取特征
X = np.vstack(data[:, 0])# 获取标签
Y = np.array(data[:, 1])
print('X的特征尺寸是:',X.shape)
print('Y的特征尺寸是:',Y.shape)

np.vstack函数的作用是按垂直方向(行顺序)堆叠数组构成一个新的数组,

# 在Keras库中:to_categorical就是将类别向量转换为二进制(只有0和1)的矩阵类型表示
Y = to_categorical(Y)




'''最终数据'''
print(X.shape)
print(Y.shape)



X_train, X_test, Y_train, Y_test = train_test_split(X, Y, random_state = 1, stratify=Y)
print('训练集的大小',len(X_train))
print('测试集的大小',len(X_test))

说一下random_state = 1,计算机伪随机,需要种子,然后还有一个参数,怕你不好找,我截图了。

这是翻译:



X_train = X_train.reshape(-1, 16, 8, 1)
X_test = X_test.reshape(-1, 16, 8, 1)



建立模型

搭建CNN网络

准备工作做了那么多,该进行和深度学习有关的知识了。

model = Sequential()# 输入的大小
input_dim = (16, 8, 1)model.add(Conv2D(64, (3, 3), padding = "same", activation = "tanh", input_shape = input_dim))# 卷积层
model.add(MaxPool2D(pool_size=(2, 2)))# 最大池化
model.add(Conv2D(128, (3, 3), padding = "same", activation = "tanh")) #卷积层
model.add(MaxPool2D(pool_size=(2, 2))) # 最大池化层
model.add(Dropout(0.1))
model.add(Flatten()) # 展开
model.add(Dense(1024, activation = "tanh"))
model.add(Dense(20, activation = "softmax")) # 输出层:20个units输出20个类的概率# 编译模型,设置损失函数,优化方法以及评价标准
model.compile(optimizer = 'adam', loss = 'categorical_crossentropy', metrics = ['accuracy'])

搭建cnn网络,这些内容在这篇文章里,我没法细讲了,最近我会好好写一篇卷积神经网络的笔记。如果你学了cnn,我觉得上面的代码不用讲。


看一下模型
model.summary()



# 训练模型
model.fit(X_train, Y_train, epochs = 20, batch_size = 15, validation_data = (X_test, Y_test))

到了模型训练的环节,前期所有的准备都是为了这行代码,当然,深度学习的灵魂也在这里,这里是最耗费时间的地方,请做好思想准备,最好晚上睡觉的时候运行这段代码。。。毕竟cpu8个小时跑不完(哭死),建议打开gpu(但是没排上队(再次哭死))



预测测试集

def extract_features(test_dir, file_ext="*.wav"):feature = []for fn in tqdm(glob.glob(os.path.join(test_dir, file_ext))[:]): # 遍历数据集的所有文件X, sample_rate = librosa.load(fn,res_type='kaiser_fast')mels = np.mean(librosa.feature.melspectrogram(y=X,sr=sample_rate).T,axis=0) # 计算梅尔频谱(mel spectrogram),并把它作为特征feature.extend([mels])return feature
X_test = extract_features('./test_a/')
X_test = np.vstack(X_test)
predictions = model.predict(X_test.reshape(-1, 16, 8, 1))
preds = np.argmax(predictions, axis = 1)
preds = [label_dict_inv[x] for x in preds]path = glob.glob('./test_a/*.wav')
result = pd.DataFrame({'name':path, 'label': preds})result['name'] = result['name'].apply(lambda x: x.split('/')[-1])
result.to_csv('submit.csv',index=None)

列示出测试集下所有的音频文件行数


!ls ./test_a/*.wav | wc -l

显示文件的行数,其中包含了total的一行,所以比上述的音频文件行数多一行

!wc -l submit.csv

结尾这部分做的不是特别好。。。。

阿里云——零基础入门语音识别——食物声音识别——代码跑通及解析相关推荐

  1. 零基础入门语音识别-食物声音识别[Task 1]

    Task1 食物声音识别之Baseline学习 作为零基础入门语音识别的新人赛,本次任务不涉及复杂的声音模型.语言模型,希望大家通过两种baseline的学习能体验到语音识别的乐趣. 任务说明:我们提 ...

  2. 天池学习赛 -【零基础入门语音识别-食物声音识别】Task1 食物声音识别-Baseline【代码详细手写解释】

    文章目录 一.Task1 食物声音识别-Baseline 二.对应解析 三.参考链接 一.Task1 食物声音识别-Baseline 天池对应代码链接 二.对应解析 三.参考链接 tqdm的解释 深度 ...

  3. 零基础入门语音识别-食物声音识别[Task 3]

    Task3 食物声音识别之音频数据特征提取 Task1 食物声音识别之Baseline学习 Task2 食物声音识别之赛题数据介绍与分析 1 特征提取背景 在Task2中,我们已经了解了我们需要识别的 ...

  4. 【组队学习】【24期】零基础入门语音识别(食物声音识别)

    零基础入门语音识别(食物声音识别) 开源内容: https://github.com/datawhalechina/team-learning-nlp/tree/master/FoodVoiceRec ...

  5. 阿里天池零基础入门金融风控-贷款违约预测文本处理

    阿里天池零基础入门金融风控-贷款违约预测文本处理 文本处理 日期处理 等级处理 就业年限处理 删除含有空值的行 数据归一化 踩坑 文本处理 日期处理 earliesCreditLine: 可以看到ea ...

  6. 数据分析 | 带你零基础入门数据挖掘(附代码)

    来源:Datawhale 本文约4200字,建议阅读9分钟 对于数据挖掘项目,本文将学习应该从哪些角度分析数据?如何对数据进行整体把握,如何处理异常值与缺失值,从哪些维度进行特征及预测值分析? 标签: ...

  7. 点云3D目标检测之——尝试SFD代码跑通(超详细!!)

    前言 到目前为止还没跑通,但是bug实在太多了,我的每一步都有错,如果不记录下来又会有遗漏,(肯定已经遗漏了很多),在这里把能想起来的都记录一下以便不时之需.另外,本人深度学习小白,一上来跑这么难的代 ...

  8. 零基础学python视频百度云-零基础入门学习Python 小甲鱼视频教程

    000愉快的开始 001我和Python的第一次亲密接触 002用Python设计第一个游戏 003小插曲之变量和字符串 004改进我们的小游戏 005闲聊之Python的数据类型 006Pyhon之 ...

  9. 零基础入门语音识别之赛题介绍

    声音的产生 声音以波的形式产生,我们从波的视角来理解声音,仅凭频率,幅度,相位,便构成了波及其叠加的所有,声音的不同音高.音量.音色也由这些基本"粒子"组合而来. 世界上所有的声波 ...

  10. Python零基础入门-1 从一行代码开始运行Python程序

    一.前言 Python语法简单,大多数情况下,根据单词的意思就可以猜测出程序的功能.在介绍Python语法之前,先看一些Pyhton代码的案例,这些案例都很简单,可以在PyChram中运行.(PyCh ...

最新文章

  1. kivy texture图片格式和opencv numpy图片格式互转
  2. c语言实数的输出和占位_C语言学习笔记(三):占位符
  3. ImageMagick常用指令详解
  4. CRI-O将如何把Kubernetes推上容器生态系统的中心位置
  5. 技术论坛 | CCF YOCSEF上海即将在 CNCC 举办“知识图谱遇见社交媒体”专题论坛
  6. 数据分析不能挣钱、不能给公司创造利润,那要你有什么用?
  7. 全面介绍Windows内存管理机制及C++内存分配实例(二):内存状态查询
  8. 周记php,工作周记 | php外包与php技术服务商
  9. MATLAB学习笔记(十)
  10. Linux 内核 3.8 是给 Linux 用户的圣诞礼物
  11. ubuntu 16.04 + zabbix 3.4 + postgresql shell
  12. 我的世界java作弊怎么开_我的世界怎么开作弊?如何启用作弊模式?
  13. 【IOS账号分享】《NBA 2K20》
  14. 【室内/外设计】天正T20V3.0软件安装教程
  15. 零基础应该怎么学剪辑,大概要学多长时间?在磨金石教育学靠谱吗?
  16. 【JVAV】—继承、多态、抽象类
  17. C语言——链表拆分,奇数组成一个链表,偶数组成另外一个链表
  18. 数电常见74系列器件及其功能总结(不要再混乱啦,值得收藏)
  19. 光猫批量自动化测试——交换机vlan划分
  20. go语言 | jwt鉴权初涉

热门文章

  1. Java 9 Module的特性以及解决的问题
  2. 【财经期刊FM-Radio|2021年03月02日】
  3. vega56刷64_A卡—Vega56的简易玩法
  4. Spark开发:Spark大数据开发编程示例
  5. ai语音系统智能AI机器人AI源码营销机器人电销机器人智能电话机器人拨号机器人语音机器人空号识别科大识别阿里识别语音识别语音翻译FreeSWITCH呼叫中心中间ipbxIPBX
  6. 移动web页面前端开发总结
  7. C4D教程大纲(R23)+笔记
  8. reg文件编写方法整理
  9. python二进制转换为16进制
  10. 74cms 5.0.1版本文件包含漏洞复现