您当前的位置:首页 > 学术报告

多维粒子群优化的进化神经网络

报告时间:2013-10-13   报告人:黄志超

多维粒子群优化的进化神经网络 

报告人:黄志超   报告时间:2013-10-13

地点:厦门大学软件学院科研一号楼313会议室

 
一 报告人汇报内容概要
    本次汇报主要包括两部分,第一部分为Paper Reading,主要介绍进化神经网络优化的相关论文,第二部分为汇报人近期相关研究工作报告。
第一部分Paper Reading的名称是Evolutionary artificial neural network by multi-dimensional particle swarm optimization,即多维粒子群优化的进化神经网络。其中,主要介绍了一种自动设计人工神经网络最优结构(针对于某一个特定的问题)的新方法,该方法是以多维的粒子群优化算法为基础的。
    以往的神经网络优化算法如遗传算法(GA)、进化编程算法(EP)、基本粒子群算法(bPSO)等,都只能对神经网络的权值做优化调整,而无法在网络的结构空间中进行搜索以便动态地获取最优的网络结构。通常的神经网络结构都是由研究专家根据经验、基本的限定规则,再经过一系列的实验测试和误差处理后得到的。这种设计过程繁杂且对技术要求较高,实用性并不强。
基于以上的原因,paper中提出了在基本粒子群算法(bPSO)的基础上构建一个多维度的粒子群过程(MD PSO),它不仅能够在数值空间中也可以在维度空间上进行优化搜索,对应于神经网络的设计,它既能够优化网络的权值,也能够自动生成优化的网络结构。Paper最后的一系列实验介绍以及分析也说明了这种新方法的良好的性能。
    第二部分是汇报人近期的研究工作介绍以及对一些问题的提出和讨论。主要内容是对于人头前后特征关系的存在性及映射建立方法讨论。
 
二 问题探讨   
在汇报人汇报过程中,会议参与人员提出一些疑问与汇报人一起探讨,主要包括:
1 吴清强老师、段鸿老师对bPSO算法的x、y等公式变量、计算方法提出问题;
2 对MSE计算公式的tpk变量提出问题;
3 对BP和 MD PSO算法在性能、时间复杂度等方面进行比较,并提出建议;
4 探讨二维与三维之间的维度转换的问题;
5 对神经网络在医学中的应用的实例测试中涉及到的问题进行探讨;
6 在汇报人近期的相关研究工作方面,大家一起探讨了脑部前后对应的维度、空间位置的提取(预测出空间位置,胜利属性特征及其数量等)、训练数据集的来源、利用拓扑结构获取位置点来构建一个通用的模型、从后部映射到脸部的前景应用等问题。并询问了汇报人是否查阅过前人的方法。
7大家一起探讨了脑后部和前面脸部的映射关系,如果依靠中间模型(包含网络和权重信息),input和output分别是哪些信息;input和output的函数模型对应的参数等问题以及能够证明前后确实有对应关系的理论依据,恐怕都要先找到医学上的知识支持。
8 吴老师提出是否可以用数据驱动的方法构建模型去探讨两者之间的关系。郭教授指出,利用数据驱动方法的前提是要先确定两者之间一定存在某种关系,不然只从实例验证的方法去验证从而提出该关系可能存在是不严谨的,它们可能只是随机出现。
9 郭教授提出在低纬度向高纬度转换过程中,若一个数据在第k维是最优值,那么其在第k+1维度也是最优值之一的问题。汇报人指出该数据只是一个候选值,若第k+1维度的其它坐标的数据比该值更优,那么就要选取该坐标对应的数据最为最优值。
10 汪龙宝提出粒子神经网络技术是否可以应用到其他领域,是否是低维最优问题。
厦门大学 厦门大学软件学院 厦门大学智能与科学系 厦门大学信息科学学院 厦门大学模式分析与机器智能研究中心