【数字识别】基于Hopfield神经网络识别0-9数字附Matlab代码

1 内容介绍

自１９４３年ＭｃＣｕｌｌｏｃｈ和Ｐｉｔｔｓ首次提出了人工神经元模型以来，新的神经元模型及其组成的神经网络不断被提出，已成为目前非线性科学和计算智能研究的一个主要研究方向。其中，神经网络图像识别技术随着当代计算机技术、图像处理、人工智能、模式识别理论等快速发展，是传统图像识别方法与神经网络算法相融合的一种图像识别方法［３－４］。利用神经网络进行字符识别在计算机识别领域占有越来越重要的地位，并且广泛应用于雾天或者夜晚的交通车牌识别、机器视觉等实际应用领域。近些年来，利用Ｈｏｐｆｉｅｌｄ神经网络识别噪声字符、汽车牌照字符等实例表明这种方法识别率高、鲁棒性好且具有很好的实用性：例如朱献文［５］研究了基于遗传算法Ｈｏｐｆｉｅｌｄ神经网络的字符识别方法；魏武［６］等人对车牌字符识别模板匹配的神经网络方法进行改进；丘敏［７］等人在汽车牌照字符识别的应用中将Ｈｏｐｆｉｅｌｄ和ＢＰ网络结合使用提高了识别率；Ｔａｔｅｍ［８］等人利用了Ｈｏｐｆｉｅｌｄ神经网络识别遥感图像中的土地覆盖目标。以上关于字符识别的研究都把噪声作为有害因素，专注于噪声的消除，而忽视了噪声的有益作用，实际上噪声可以增强神经元信息处理能力，即神经科学中的随机共振现象［９－１１］。最近，Ｈｏｐｆｉｅｌｄ神经网络的随机共振现象研究已取得了重大进展，如Ｋａｔａｄａ［９］等人研究了Ｈｏｐｆｉｅｌｄ网络中随机共振现象，并扩展到包含１５６个神经元的网络中；Ｐｉｎａｍｏｎｔｉ［１０］等人研究了复杂网络中多峰随机共振的重要特征；Ｎｉｓｈｉｍｕｒａ［１１］等人研究了由３个神经元构成的神经网络中随机共振型反馈，将它作为有效的混沌动力学的双势阱模型。本文主要利用离散Ｈｏｐｆｉｅｌｄ神经网络识别手写数字，将被识别的图像二进制编码变成串行编码，根据信号在稳态间回环往复的规律输入到Ｈｏｐｆｉｅｌｄ神经元网络中，不仅研究输入信号幅值调制，码间间隔以及神经元耦合个数对于网络识别图像的影响，还研究了传输过程中噪声强度与图像识别误码率的非线性特性Ｈｏｐｆｉｅｌｄ神经网络是由Ｈｏｐｆｉｅｌｄ［１２－１３］于１９８２年首先提出的一种单层的、输出为二值的全连接型的反馈神经网络。离散Ｈｏｐｆｉｅｌｄ神经网络只有一个神经元层，第０层仅作为网络的输入，并无计算功能，而第１层是神经元层，用于对输入数据和权系数的乘积求累加和，并经非线性激活函数处理后产生输出信息。该网络模拟生物神经网络的记忆机制，具有联想记忆的功能。３个神经元构成的离散Ｈｏｐｆｉｅｌｄ神经网络可以用加权无向图表示，如图１所示。图１离散型Ｈｏｐｆｉｅｌｄ神经网络结构Ｆｉｇ．１Ａｒｃｈｉｔｅｃｔｕｒｅｏｆｄｉｓｃｒｅｔｅｎｅｕｒａｌｎｅｔｗｏｒｋｓ从图１可以看出神经元间是相互联系的，并且网络中每一个神经元的输出都反馈到其他神经元上，每条边上权值表示有关神经元之间的连接强度，每个节点代表一个神经元且附有一个阈值，当某神经元所受到的刺激超过其阈值时，神经元就处于激活状态，否则神经元就处于静息状态。我们取神经元激活函数［９］为

2 仿真代码

function out1 = newhop(varargin) %NEWHOP Design a Hopfield recurrent network. % % Hopfield networks perform a kind of pattern recall. They are included % primarily for historical purposes. For more robust pattern recognition % use <a href="matlab:doc patternnet">patternnet</a>. % % <a href="matlab:doc newhop">newhop</a>(T) takes an RxQ matrix of Q target vectors T with element % values of +1 or -1, and returns a new Hopfield recurrent neural % network with stable points at the vectors in T. % % Here a Hopfield network with two three-element stable points is % designed and simulated. % % T = [-1 -1 1; 1 -1 1]'; % net = <a href="matlab:doc newhop">newhop</a>(T); % Ai = T; % [Y,Pf,Af] = net(2,[],Ai) % % To see if the network can correct a corrupted vector, run % the following code which simulates the Hopfield network for % five timesteps. (Since Hopfield networks have no inputs, % the second argument to SIM is {Q TS} = [1 5] when using cell % array notation.) % % Ai = {[-0.9; -0.8; 0.7]}; % [Y,Pf,Af] = net({1 5},{},Ai); % Y{1} % % If you run the above code Y{1} will equal T(:,1) if the % network has managed to convert the corrupted vector Ai to % the nearest target vector. % % See also SIM, SATLINS.

%% ======================================================= % BOILERPLATE_START % This code is the same for all Network Functions.

persistent INFO; if isempty(INFO), INFO = get_info; end if (nargin > 0) && ischar(varargin{1}) ... && ~strcmpi(varargin{1},'hardlim') && ~strcmpi(varargin{1},'hardlims') code = varargin{1}; switch code case 'info', out1 = INFO; case 'check_param' err = check_param(varargin{2}); if ~isempty(err), nnerr.throw('Args',err); end out1 = err; case 'create' if nargin < 2, error(message('nnet:Args:NotEnough')); end param = varargin{2}; err = nntest.param(INFO.parameters,param); if ~isempty(err), nnerr.throw('Args',err); end out1 = create_network(param); out1.name = INFO.name; otherwise, % Quick info field access try out1 = eval(['INFO.' code]); catch %#ok<CTCH> nnerr.throw(['Unrecognized argument: ''' code '''']) end end else [args,param] = nnparam.extract_param(varargin,INFO.defaultParam); [param,err] = INFO.overrideStructure(param,args); if ~isempty(err), nnerr.throw('Args',err,'Parameters'); end net = create_network(param); net.name = INFO.name; out1 = init(net); end end

function v = fcnversion v = 7; end

% BOILERPLATE_END %% =======================================================

function info = get_info info = nnfcnNetwork(mfilename,'Hopfield Network',fcnversion, ... [ ... nnetParamInfo('targets','Target Data','nntype.data',{1},... 'Target output data.'), ... ]); end

function err = check_param(param) err = ''; end

function net = create_network(param)

% Format t = param.targets; if iscell(t), t = cell2mat(t); end % CHECKING if (~isa(t,'double')) || ~isreal(t) || isempty(t) error(message('nnet:NNData:TargetsNotRealNonEmpty')); end

% DIMENSIONS [S,Q] = size(t);

% NETWORK PARAMETERS [w,b] = solvehop2(t);

% NETWORK ARCHITECTURE net = network(0,1,[1],[],[1],[1]);

% RECURRENT LAYER net.layers{1}.size = S; net.layers{1}.transferFcn = 'satlins'; net.b{1} = b; net.lw{1,1} = w; net.layerWeights{1,1}.delays = 1; end

%========================================================== function [w,b] = solvehop2(t)

[S,Q] = size(t); Y = t(:,1:Q-1)-t(:,Q)*ones(1,Q-1); [U,SS,V] = svd(Y); K = rank(SS);

TP = zeros(S,S); for k=1:K TP = TP + U(:,k)*U(:,k)'; end

TM = zeros(S,S); for k=K+1:S TM = TM + U(:,k)*U(:,k)'; end

tau = 10; Ttau = TP - tau*TM; Itau = t(:,Q) - Ttau*t(:,Q);

h = 0.15; C1 = exp(h)-1; C2 = -(exp(-tau*h)-1)/tau;

w = expm(h*Ttau); b = U * [ C1*eye(K) zeros(K,S-K); zeros(S-K,K) C2*eye(S-K)] * U' * Itau; end %=