回帰型ネットワーク設計のための遺伝的アルゴリズムと粒子群最適化のハイブリッド

A Hybrid of Genetic Algorithm and Particle Swarm Optimization for Recurrent Network Design
IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS-PART B: CYBERNETICS, VOL. 34, NO. 2, 2004
20151015_jnishida

新しい進化学習アルゴリズムを用いた回帰ニューラル/ファジー・ネットワークのデザインを自動化する進化的回帰ネットワークを,本稿で提案する.この新しい進化的学習アルゴリズムは遺伝的アルゴリズム(GA)と粒子群最適化(PSO)の混成に基づいて,HGAPSOと呼ばれている.HGAPSOでは,GAの場合のように交叉と突然変異によってだけでなく,PSOによっても,新世代の個体が,つくられる.エリート戦略の概念は,HGAPSOでは集団の最も実行している個体の上半分がエリート集団と考えられているという考えのもとで採用される.しかし,次世代に直接再生する代わりに,これらのエリート集団は,最初に強化される.エリート集団によって設立されるグループは群れと考えられており,各々のエリートはその中で粒子とする.この点において,エリートは自然の中で成熟現象を模倣操作しているPSOによって強化される.残りの半分は,これらの強化されたエリートに交叉と突然変異の操作を実行することによって生成される.これに対し強化されたエリートは,新しい世代の集団の半分を構成する.次のようにHGAPSOを回帰ニューラル/ファジーネットワークの設計に適用する.回帰ニューラルネットワークでは,完全に接続された回帰ニューラルネットワークが設計され,時系列の製造上の問題に適用される.回帰ファジィネットワークの設計では,高木・菅野・カン型回帰ファジィネットワークが設計されており,動的なプラント制御に適用される.HGAPSOの性能は,その優位性を実証し,これらの回帰ネットワーク設計問題でGAとPSOの両方とを比較する.

遺伝的アルゴリズムにおける交叉と突然変異の適応確率

20150406 harada

Adaptive Probabilities of Crossover and Mutation in
Genetic Algorithms

Mandavilli Srinivas,Lalit Mohan Patnaik

IEEE Transactions on Systems,Man and Cybernetics,Volume 24,Issue 4,1994,Pages 656-667

Convergence of numerical methods, Genetic algorithms,Optimisation, Probability, Schema theorem, Adaptive genetic algorithm, Adaptive probabilities, Convergence capacity, Crossover, Fitness values, Multimodal function optimization,Mutation, Capacity planning, Design optimization, Encoding, Genetic mutations, Neural networks, Optimal control, Organizing, Robustness, Sampling methods

本稿において,私たちは遺伝的アルゴリズム(GA) による多峰性関数最適化のための効率的なアプローチを述べ
る.私たちは,交叉と突然変異の適応確率を使うことを勧める.これは母集団の多様性維持とGA の収束能力の
維持という二つの目的を実現するためである.適応型遺伝的アルゴリズム(AGA) において,交叉と突然変異の確
率である,Pc とPm は解の適応度に応じて変化している.高い適応度を持つ解は保護される一方で,標準未満の
適応度を持つ解は全て排除される.また,Pc とPm を適応度によって変化させて使用することで,私たちはPc
とPm の最適値を決定する問題に対する解決策を与える.すなわち,Pc とPm は全く指定する必要はない.AGA
は,遺伝的アルゴリズムに確率的操作を適応させるために従来の方法と比較される.そのスキーマ定理はAGA に
よって導き出され,そしてその動作が分析される.
私たちは,難易度が変化するいくつかの解明されていない多峰性関数最適化における標準的な遺伝的アルゴリ
ズム(SGA) とAGA の性能を比較する.ほとんどの関数において,AGA はSGA に比べてはるかに少ない世代数
で一般最適解に収束する.そして,局所解となって動けなくなることが少ない.私たちの実験は,遺伝子の状態
と多峰性の性質についてSGA の性能と比較した,AGA の相対的な性能は向上していることを証明した.私たち
は,AGA が多峰性のランドスケープにおける一般解を見つけるために,自分自身で適応させることができるGA
の構造を実現するための初めの一歩だと信じている.