深度学习作为一种基于人工神经网络的无监督学习方法,是近年来出现的一种新的混合机器学习模型,现已成为人工智能领域的研究热点。以下是边肖整理的人工智能大一选修论文的相关资料。欢迎阅读!
人工智能大一选修论文1
【摘要】深度学习作为一种基于人工神经网络的无监督学习方法,是近年来兴起的一种新的混合机器学习模型,目前已经成为人工智能领域的研究热点技术。深度学习带来了机器学习的新浪潮,受到学术界和产业界的广泛重视,带来了大数据深度学习时代。结合大数据时代的具体需求,详细阐述了深度学习的发展和应用,突出了其在人工智能领域的重要地位。
[关键词]人工智能;深度学习;大数据时代;机器学习
介绍
近年来,深度学习逐渐推动了人工智能领域的新浪潮。2010年,美国国防部DARPA计划首次资助深度学习项目;2011年以来,来自微软和谷歌的研究人员相继采用深度学习技术,将语音识别的错误率降低了20% ~ 30%,在该领域取得重大突破;2013年,百度创始人兼CEO李彦宏高调宣布成立百度研究院。它的第一个重点方向是深度学习;2013年4月,《麻省理工学院技术评论》杂志将深度学习列为2013年十大突破性技术。如今,谷歌、百度、微软等知名高科技公司都在争相投入资源,占领深度学习技术的制高点。
2.大数据时代的深度学习
大数据时代迫切需要深度学习。为了说明这一点,本文将讨论浅层学习和深度学习模型。
浅层模型有一个重要特征;依靠人工经验提取样本特征,同时强调模型主要负责分类或预测。因此,特征提取已经成为整个系统性能的瓶颈。通常开发团队中更多的人力投入到构造更好的特性上,这就需要开发人员对要解决的问题有深刻的理解。要达到这种程度,往往需要反复试错。因此,手动构造样本特征不是一种可行的方法。
深度学习的本质是通过构建具有许多隐含层和海量训练数据的机器学习模型,学习更多有用的特征,从而最终提高分类或预测的准确率。与传统的浅层学习不同,深度学习有以下区别:一是强调模型结构的深度,通常有5、6甚至10个隐藏节点;其次,它明确突出了特征学习的重要性,即通过逐层特征变换,将样本在原空间的特征表示变换到新的特征空间,从而使分类或预测变得更容易。
3.深度学习的基本思想和常用方法
(1)1)深度学习的基本思想
假设我们有一个N层(S1,…Sn)的系统S,其输入为I,输出为O,用图形表示为:I=S1=S2=……=SN=O .如果输出O等于输入I,即系统变化后输入I没有信息损失,保持不变,也就是说s I每层后输入I没有信息损失。现在回到我们的话题,深度学习,我们需要自动学习特征。假设我们有一堆输入I(比如一堆图像或文本),假设我们设计一个系统S(有N层),通过调整系统中的参数,使其输出仍然是输入I,那么我们就可以自动获得输入I的一系列层次特征,即S1,…,Sn。
另外,之前的假设是输出严格等于输入。这个限制太严格了,我们可以稍微放宽这个限制。例如,我们只需要使输入和输出之间的差异尽可能小。这种放松会导致另一种不同的深度学习方法。
(2)深度学习的常用方法
AutoEncoder(自编码),一种自编码算法,是一种基于神经网络算法的无监督学习算法。它采用了神经网络中经典的反向传播算法,其特殊之处在于其目标是使神经网络输出节点的输出值等于网络的输入值。比如下面有一个隐层的神经网络(一般自编码算法都有很多隐层),我们要做目标输出。自然,输出节点的数量应该等于输入节点的数量。同时,自编码算法的另一个特点是隐层节点数一般小于输入输出节点数。这样做的意义在于,此时通过非线性神经网络将输入特征变换到节点较少的隐层,然后隐层通过非线性变换“无损”恢复输入信息,实际上相当于神经网络对高维特征向量进行特征提取和降维。如果输入数据中隐含了一些特定的结构,比如一些输入特征是相互关联的,那么这个算法就可以在输入数据中找到这些关联。因此,利用这种特殊的神经网络对样本进行学习和训练,就可以“自动”得到输入数据的降维特征,即隐含层的节点,省去了人工提取特征的麻烦。
(3)自编码算法的实现过程。
将得到的样本的特征向量作为自编码算法的输入,即上述特征向量的每个分量代表自编码网络中的一个输入节点。设其输出节点的期望类别向量赋给(或)。
1)对于自编码网络中的某一层,该层矩阵的权矩阵的校正矩阵为零矩阵,偏移向量的校正向量为零向量。
2)有训练样本,并且对于每个训练样本。
调用反向传播算法函数backwards _ trans()
计算训练自编码网络的准则函数的梯度和。
计算。
计算
3)更新权重系数:
4)重复上述过程,直到满足要求。最接近训练好的神经网络输出层的隐层输出值就是深度学习后自动获得的新特征。
通过以上的学习和训练,可以得到一个具有深度学习功能的自编码网络。当我们需要自动提取分组用户数据的特征时,只需要去掉上述自编码网络的原输出层,取最接近原输出层的隐层作为新的输出层,然后输入初始特征向量,此时的网络输出就是自动提取的特征。
4.摘要
近年来,深度学习逐渐应用于语音识别、图像识别、自然语言处理等领域。总之,深度学习带来了机器学习的新浪潮,从学术界到工业界都广泛重视,带来了大数据深度学习时代。深度学习的应用深度和广度将发展到更高的程度。同时,如果机器学习的理论界取得突破,为深度学习提供强有力的支持,使其成为未来任何机器学习应用都不得不采用的基石,那么人工智能的梦想将不再遥远。
下一页,分享更多人工智能新生的优秀选修论文。