基于混合搜索方向的前向復(fù)值神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法

摘要： 復(fù)值有限內(nèi)存BFGS(CL-BFGS)算法能有效用于求解復(fù)數(shù)域的無約束優(yōu)化問題,但其性能容易受到記憶尺度的影響.為了解決記憶尺度的選擇問題,提出一種基于混合搜索方向的CL-BFGS算法.對于給定的記憶尺度候選集,采用滑動窗口法將其劃分成有限個子集,將各子集元素作為記憶尺度計算得到一組混合方向,選擇使目標(biāo)函數(shù)值最小的混合方向作為當(dāng)前迭代的搜索方向.在迭代過程中,采用混合搜索方向的...