トップページ⇒tech
142コメント52KB

遺伝アルゴリズム(GA)のことならここに書け!!

■ このスレッドは過去ログ倉庫に格納されています
0001デフォルトの名無しさんNGNG
最近さまざまな分野で遺伝アルゴリズムが使われているが、
良いアルゴリズムを作るには多分に経験によることが大きい。
なので、遺伝アルゴリズムのことならここに書け!!
0002( ・∀・)つ旦NGNG
10get
0003母乳飲んで下痢したいNGNG
つーか人工知能ってGAなの?
0004デフォルトの名無しさんNGNG
>1
まずお前が書け
0005デフォルトの名無しさんNGNG
どうせ教えてくれないくせに。
0006デフォルトの名無しさんNGNG
>>1
関連スレとか貼れや。
http://piza2.2ch.net/tech/kako/1002/10029/1002986605.html
http://piza.2ch.net/tech/kako/987/987167573.html
http://piza.2ch.net/tech/kako/982/982221414.html
http://mentai.2ch.net/test/read.cgi/sim/960616675

>>3
とりあえず違う。
0007デフォルトの名無しさんNGNG
GA興味あるけど、具体的イメージもてない。
簡単な例題あげてください。
0008デフォルトの名無しさんNGNG
もうブーム終っちゃってると思うけどなあ.
0009仕様書無しさんNGNG
>>8
いきなりつぶすなよ(W
いまはやりのPGテクって何?
00101NGNG
>>4
どもっ、1です。
GAは、ローカルな最適解がいくつもある系から
グローバルな最適解を求めるのに向いています。
しかし、自分の作ったプログラムではローカル・ミニマムに捕まってしまい、
まだ真の最小値を求めることができてないのでこのスレたててみました。

>>7
GAは生物の遺伝操作をまねて作ったプログラムです。
大まかな流れとして、

0.集団の決定
1.選択・複製
2.交叉
3.突然変異

となります。計算上で30個ぐらいの個体があります。

0.で、乱数を用いて初期集団を決めます。

1.で、最適解に近いものは複製し、遠いものは死滅させます。
  最初に決めた集団の数は変わらないということ。

2.で、ランダムに選ばれた2個体の情報を入れ替えます。
  GAでは、変数を2進数で表し、それを遺伝子みたいに扱います。
  たとえば、
  01011|101   →   01011|010
  11010|010  交叉後  11010|101
  となります。|は交差点といい、ランダムに選びます。

3.はこんな感じ。
  01011101   →   01011111
         ̄               ̄
  つまり、あるビットを反転させるということ。

  これを1世代とし、1〜3を何度も繰り返させます。
00111NGNG
GAのことを説明しているサイトです。
参考までに。

http://www.maru.cs.ritsumei.ac.jp/~alife/GA/
http://homepage1.nifty.com/NewSphere/EP/b/AI_gagp.html
http://www.ss.cs.osakafu-u.ac.jp/GA/
http://www.al.cs.kobe-u.ac.jp/~omori/study/index.html
0012デフォルトの名無しさんNGNG
俺はこちこちかっちんの理系なんだけど、
>良いアルゴリズムを作るには多分に経験によることが大きい。
っていうのに萎えるなー。
ユークリッドのアルゴリズムなんて、誰がやっても答えがちゃんと
出るからいいんだよね。
0013デフォルトの名無しさんNGNG
>>12 アホかお前は。
ユークリッドのアルゴリズムは誰がやっても出来るって、
真似だから出来るの当たり前だろ。

真似するのではなく、"作る"の。独創。
0014デフォルトの名無しさんNGNG
人工生命は7、8年前が全盛期だったね…。
001512NGNG
>>13
うーん、たとえば、巡回セールスマンとかなんとか問題を固定して、それを
解くんだよね。

正解がわかってるならマヌケなお遊びにしか見えない。
「正解がわかっていなくて、GAの使い方で、よりよい答えを出す」というなら、
「それほんとによい答えなの」って思ってしまう。

GAやら人工生命を考えた人はものすごく独創的だったと思うんだけど、その適用
方法をちまちま考えるのは萎えるーってことでふ。すまぬ。
00161NGNG
選択・複製で集団の中は解に近い個体が多くなります。
でも、局所的な解に落ち込まないために
突然変異で、解とは関係ないところに飛ばしてやります。
そして、たまたまもっと良い個体が生まれたら
その個体が集団のなかに広がっていきます。
ある意味、突然変異(偶然)で良い個体が生まれるのを待ってるような感じです。
そんなんでいいのか〜?と思ってしまいます。
そこのところをPCの処理能力の向上がカバーしているのでしょうかね。
001712NGNG
おもふんだけどね。結局GAでやってることは、
「全部調べられないから一部調べる。その調べ方は遺伝をまねる」ってことだよね。
発想はおもしろいし、ちょっとやってみるかなとは思うんだけど、
結局、常に「全部調べる」か「解析解を見つける」という方法におびえないと
いけないんじゃないかなーと思うんだ。ちがう?

人工生命のシミュレーションは文句無くおもしろいけどね。
0018デフォルトの名無しさんNGNG
アヒャ?!
人工生命シュミレーションって人工知能とはまた別物?
0019デフォルトの名無しさんNGNG
>>17
グレッグか?順列都市か?
スレ違いだったのか?
0020デフォルトの名無しさんNGNG
>>12
ユークリッドのアルゴリズムってのは知らんが、
おそらくそれはある程度確立されたもんなんだろ!!
GAはまだ研究途上だからノウハウがあまりないんだとおもう。
定石ってもんができりゃ、もっと気軽に使われるようになるだろ!
だいいち、わかってること研究しても価値ないし。
0021デフォルトの名無しさんNGNG
>>17
 まず、解析解を見つけられたり、全部見つけられたりするなら、その方が
100%いい。それができないから、GAとか焼きなまし法とかいったような手
法が用いられるわけでして。
 組み合わせ爆発という言葉を聞いたことがあるか知りませんが、nが増える
と、多項式乗ではすまされないほどの急激に解の候補が増えるような問題が
あるのよね。PCの進歩は所詮ライナーだから、PCがはやくなれば追いつくと
いう問題でもないわけで。
 解析解を見つけるっていうのも、問題ごとに見つけないといけないわけだ
から、さまざまな問題に応用できるGAが否定されるわけでもないです。
 基本的にGAみたいなのは、「その答えがどれくらいいいか」みたいな評
価する関数がないとダメ。その関数で一番いいと評価される答えを探す問題
にGAが適用されるわけよね。
>「それほんとによい答えなの」って思ってしまう。
 巡回セールスマン問題なら、いい答えかどうか道の長さで計ればいいわけ
ですし・・
0022デフォルトの名無しさんNGNG
>>15
巡回セールスマン問題はNP完全だから、
近似解を求めていくしかない。

多項式時間内に近似でない解を求められる方法を編み出したら
フィールズ賞でもなんでも好きなものがもらえるだろう。
002317NGNG
ユークリッドのアルゴリズムって、たぶんいっぱいあると思うけど、
俺は「互除法」ってつもりだった。つまんなくてごめんね。

>>21 >>22
なるほどね。勉強になったよ。さんきゅう。

フィールズ賞ほしいならPGなんてやってないよ。
俺の専門は請負受注だし、年齢オーバーだし。(笑
0024デフォルトの名無しさんNGNG
最近株の売買モデル作成にGAが使われましたが、こういう設計分野
には極めて相性がいいとおもってます。俺も、画像圧縮の設計につかい
ました。適当に考え付いたオペレータ突っ込んで、圧縮率最高のオペレータ
の組を得るとか。人間が設計するには大きすぎる問題の設計に使われて
いくんではないかなーと思います。たとえば1都市全部の信号の最適
切り替え問題なんていいと思うです。
00251NGNG
卒研で行き詰まってスレ立てたのですが、
他大学のGAの論文を見ていたら
自分がまだまだ厨房だということがわかりました。
まだまだ精進していきます。

また、おすすめの図書などあったら紹介して欲しいのですが。
わたしのおすすめはこれです。
『遺伝アルゴリズムと最適化』三宮信夫等著 朝倉書店
http://bookweb.kinokuniya.co.jp/guest/cgi-bin/wshosea.cgi?KEYWORD=%88%E2%93%60%83A%83%8B%83S%83%8A%83Y%83%80%82%C6%8D%C5%93K%89%BB
0026デフォルトの名無しさんNGNG
>21
ライナーって何語読み?
スレ違いですんませんけど。
0027デフォルトの名無しさんNGNG
GAとニューラルネットワークの統合。これ最強
0028デフォルトの名無しさんNGNG
>>27
どっちも研究は終っちゃてる…
0029デフォルトの名無しさんNGNG
過去ログとか読んできたんだけど、遺伝的アルゴリズムって、
こういうツールとかに応用すると効率的ってこと?

PNG ファイルを圧縮する
http://tech.millto.net/~pngnews/kndh/Page/stopw.html
0030デフォルトの名無しさんNGNG
>28
まだやってますがなにか?(トクイゲ
0031デフォルトの名無しさんNGNG
なにがGAだ。
パーセプトロンで十分。
0032デフォルトの名無しさんNGNG
GAは1960年代からHollandらによって研究が始まったが、
1989年にGoldbergの入門書がでるまであまり注目されてなかったらしい。
なんかメンデルのえんどう豆の形質の遺伝が
あまり認められなかったことと似てない?と思った。
奇抜な発想ってなかなか受け入れられないもんなんだな。
0033デフォルトの名無しさんNGNG
>>32
 マシンの性能アップにより、GAの有効性を実際に動かして示せるようになってきた
からではないか?
003432NGNG
>>33
なるほど。
確かに、世界最初のコンピュータ「ENIAC」(1946年)ができてから
15年ほどのコンピュータでどこまでできるか不安がある。
http://www.unisys.co.jp/ENIAC/eniac00.html
1989年になれば、PC-9801とか出てたころだからね。
0035デフォルトの名無しさんNGNG
アソシアトロンで文字認識。これ最高。
0036デフォルトの名無しさんNGNG
GAじゃなくてTDF使え。
0037デフォルトの名無しさんNGNG
 昔からGAやってる教授の話によると昔のPCだと
結果得るのにCPU数時間ブン回しは当たり前だったらしいよ。
いくらそこそこの速さでそこそこの結果得られるアルゴリズムっつっても
計算時間は結構かかるらしい。
0038デフォルトの名無しさんNGNG
>>26
彼の脳内辞書には「ライナー」で載ってます。
「リニアモーターカー」も「ライナーモーターカー」です。
0039デフォルトの名無しさんNGNG
>>37 それはBASICでやっていたのか?
0040デフォルトの名無しさんNGNG
>>39
Fortran
004140NGNG
>>39
あ、ごめん。FortranってのはWSでやってた人の話だ。
その人はCでやってたって。
0042デフォルトの名無しさんNGNG
>>37
いまならそんなに時間かからんケド

Athron 1.4GHz, Linux:2.2.19, gcc 2.95.3, glibc 2.2.2で
遺伝子型 300, 個体数40, 30000世代の処理が2〜3分くらい
プログラムはc++


MITのGALib使ってる人いる?
ライセンスウザイので使ってないけど...
どうですか?
0043デフォルトの名無しさんNGNG
>>42
時間は評価関数で決まることが多いと思うんだが、何をやらせてるの?
004442NGNG
>> 43
GAつかった心理系データの分類とかvisualizeとか

評価関数は・・・って どう説明したらええものか脳
0045デフォルトの名無しさんNGNG
なあ、1がまじで研究しようとしている学生なら
言っておくけど、問題を解く方が主眼ならGAは
お勧めできないよ。

GAそのものが興味の対象なら、突然変異で良くなる
っつーのは全然、本質じゃない、ってことをちゃんと
理解してくれ。突然変異は他のアルゴリズムとシンプルな
GAを比較した場合にプアなパフォーマンスを隠蔽するための
トリックに過ぎないから、もっと本質的な挙動の分析を
行うためには、外した方が本質が見えやすい。
0046別の人NGNG
GAは単なる空間探索の一種にすぎないんですわ。
よーく考えてみ?

「生命の進化について研究するため」に、「GA」で考察を行うことは意義があるが、
普通の問題を「GA」で解くというのは変。
0047デフォルトの名無しさんNGNG
>>45-46 モンテカルロ法みたいのと比較してどーなんですか?
0048別の人NGNG
>>47
親戚筋ではあるであろうよ。
ちょっと違う系列だとはおもうけどな。

そういう単なる道具でしかないことを解って使わないとな。
あんまり高級な道具だとは思わないし。

生命進化をまねたうんねんで、画期的なアルゴリズム・・とか言っている奴が
いたら、そいつは大嘘つきなので信じないように。
#指導教官がそうだったら、あとはただ泣いて過ごしてください(笑
0049デフォルトの名無しさんNGNG
単なる道具で無いものってなんだ?
0050デフォルトの名無しさんNGNG
DNA計算機でGA。
0051デフォルトの名無しさんNGNG
GAって呼ぶのやめて、「大富豪」アルゴリズムにしない?
つまり、突然変異=革命
0052別の人NGNG
>>51
革命ですか。

階級闘争的アルゴリズム、とか(w
0053デフォルトの名無しさんNGNG
>>51
突然変異起こしても、駄目な個体は淘汰されるから
革命っちゅうのもなぁ
0054デフォルトの名無しさんNGNG
>53
つまり、民衆に支持されない革命は失敗する、と。
0055デフォルトの名無しさんNGNG
「サヨヲタさん召還命令」ですか?
0056デフォルトの名無しさんNGNG
そういうわけで、GAはダメって事で。
0057デフォルトの名無しさんNGNG
>>1
最近のGAは
初期の解集合を、局所的なものにしてGAを行う事を
全空間に対して行う
交差の方法も、2つのベクトルの距離を測って、
ある確率分布にしたがって、新しいベクトルを決めるとよし

俺はこれ以上GAは発展しないと思うけど、
このGAですべての問題の最適解の探索ができると思った。
0058デフォルトの名無しさんNGNG
>>57
手元にGAで解きたい問題がある場合に、どういう確率分布にしたら良いのか、
どうやって決めるんですか?
0059デフォルトの名無しさんNGNG
GAなんて化石みたいなもんじゃん。
新しいテーマ見つけたほうがいいんじゃないの?
日本じゃまだ研究として認められているのか、、、
0060デフォルトの名無しさんNGNG
>>59
DQN卒論が沢山生産されつつあるようです。
恐るべし指導教官。
0061デフォルトの名無しさんNGNG
卒論はそもそもDQN
0062デフォルトの名無しさんNGNG
DQNな卒論しか知らない人にとってはそうだろうね。
0063Ruby!NGNG
今卒論業界で一番HOTなのはもちろんRuby!です
00641NGNG
>>45
交叉が探索点近傍での解探索、
突然変異がその他の領域での解探索
と思っていました。
でも、いたずらに突然変異率を上げても
良い結果が得られるわけではないことがわかってきました。

>>48
たしかに、GAで毎回(乱数の初期値を変えても)同じ結果が
得られるわけではないことがわかりました。
このことからもGAが一つの最適解をもとめるための
一つの方法にしか過ぎないと感じてきました。
ただ、星のようにある局所的最適解のなかの
大域的最適解を求めるのには向いているのではないかと思います。
GAをやっていて感じたことは、
数ある星の中から、新しい星を見つけ出すロマンですかね。
未知のものが求まったら、
その近傍を違う方法で正確な値を探索してみればいい
と考えるのは甘いですか?
0065デフォルトの名無しさんNGNG
>>64
GAは最適解を求めるためのものじゃない。
最適解を確実に見つけるには、解析的手法に頼るほかない。

比較的シンプルなアルゴリズムひとつで、
大域的探策から局所的探策までをこなしてしまえるところに、
GAのメリットがあると思っているのだがな、漏れは。
0066デフォルトの名無しさんNGNG
>>64
>たしかに、GAで毎回(乱数の初期値を変えても)同じ結果が
>得られるわけではないことがわかりました。
そんなものあまりにあたりまえな知識だと思いますけど・・

>ただ、星のようにある局所的最適解のなかの
>大域的最適解を求めるのには向いているのではないかと思います。
理由は?
大域的最適解を効率良く発見する方法を見つけるべく、一体どれだけの
アルゴリズムが研究されていると思います?


結局、大域的最適解が見つかってくれることを希望しながら局所的最適解を
探すアルゴリズムにしかなっていない。
焼きなまし方一族とかの方がよっぽど向いてると思うのだが?
0067デフォルトの名無しさんNGNG
GAって結局
馬鹿でも使えてある程度の性能は期待できる、というだけなんじゃ?

GA側は大域的探索能力が優れている、とか良く言いますけど、
しっかりした根拠の説明は個人的にはお目にかかったことがない。
局所的探索が苦手であることの反作用なだけなんじゃないかと。
0068デフォルトの名無しさんNGNG
>>67
あれこれ理屈はこねまわせるかもしれないが、
GAって本質的には根拠がないように思う。

そもそも発想はすごく帰納的なところに由来してるんだろう。
どうしてそれで巧くいくかは理屈じゃない。
巧くいっているふうなもの(遺伝子)のやり方をを
真似ているものなのだから。

でもいいじゃないか。それで巧くいく問題もある。
0069デフォルトの名無しさんNGNG
>>68
あほ、ちゃんと根拠はあるよ。
その根拠に基づくアルゴリズム設計をしないGA屋は多いが。
そもそもGAのことはGA専門じゃない研究者の方がよく
知ってる。つーか、GA専門なんてまともな研究者じゃ
あり得ない話だが。
0070デフォルトの名無しさんNGNG
>>69
どんな根拠があるんですか?
0071デフォルトの名無しさんNGNG
NNの話も出てたからここに書くけど。
漏れ非理系DQNだけど、「マッチ箱の脳」はDQN向けに書かれてあったから、
NNの基本的なところは少しわかった気がする。
だが、NNを検索してみると、どうも一般に使われているNNには「中間層」なる
モノがあるそうじゃないか。こいつがわからん。
誰かNNのえらい人教えてくれ。
0072デフォルトの名無しさんNGNG
>>71
そういうときはここで聞くものではない、という気もしないでもないが。
(人口知能スレとか)

本は読んでないが、それにのってるのはおそらく「パーセプトロン」という隠れ
層のない一番原始的な奴。検索したサイトをぜんぜんよんでないですな。
パーセプトロンを改良したものが、サイトで見つけた奴のこと。
隠れ層があるものはNNの重み付けの方法が進化しててややこしいので
一般人向けの啓蒙書では扱えないんだろう、と。
0073デフォルトの名無しさんNGNG
なんか、とんでもない研究をハケーン
http://www602.math.ryukoku.ac.jp/%7Eshimooka/Japanese/Study/study_contents.html

私のところだったら、こんなことしてたら四回生でも秒殺されます。
0074デフォルトの名無しさんNGNG
>>73
4回生でこのレベルの研究やって秒殺されるような
レベルの高いところは、残念ながら非常に少数だろうね。
下手するとアルゴリズムに弱い工学系なら、どの大学でも
あり得る話だよ。4年なら良いんじゃないか。
0075デフォルトの名無しさんNGNG
>>74
秒殺されるべきです。
要求レベルが、ではなく、これでは本人のためになりません。

それに最近は大学院に行く人がほとんどでしょう。
このテーマを続けてもらうわけにはいかんでしょう。
0076デフォルトの名無しさんNGNG
73,75はどういう研究やってるわけ?
えらそうな事いってるけどさ
0077デフォルトの名無しさんNGNG
Netscape Navigatorかと思たYO。。。
0078デフォルトの名無しさんNGNG
>>76
73,75じゃないが、
良くないテーマを良くないと言って止めてくれるほうがやさしい人ですよ。
生徒なんか面倒だと思ったらほったらかしでいいもの。
GAはしらないですけど。
0079デフォルトの名無しさんNGNG
>>78
いや、俺はそういう分野の人間だからさ。
ちょっといじめようかなと・・・
0080デフォルトの名無しさんNGNG
「倒立振子の制御」は、例のジンジャー騒動でも話題になっていましたが。
どのようなアプローチが正しいのでしょう?
0081デフォルトの名無しさんNGNG
俺に聞いてんのかな・・・

一応言っておくと、ジンジャーと倒立振子は全然違うけど
難しさの度合いは、
俺の物理の知識からすれば
倒立振子>>>>ジンジャーかな
って、どれくらいの度合か全然示せてないけど
0082デフォルトの名無しさんNGNG
ヘタにバランスとろうと考えずに
地面に固定する。
0083デフォルトの名無しさんNGNG
制御にはくわしくないが通りかかりです。

倒立振子は今風の制御理論の基礎をやればやり方がわかるようです。
学部生の実験でMATLABをつかって倒立振子、とかあるんで。
じっさい鉛直になりすぎてMATLABの電源を切っても
なお倒立しているって感じか、あれはなかなかすごい。

ジンジャーは「前に行きたい体勢」で前へ行くらしいから
単に静止状態に制御させればいいってもんじゃないかもしれないから
ジンジャーのほうが動的でむずかしいような気がしますが。気ですけど。
0084デフォルトの名無しさんNGNG
昔ファジーで葱立ててた人がいたな
0085デフォルトの名無しさんNGNG
ところでGAの遺伝子って何よ。
探索を行う手順がはいってんの?
それとも問題空間に由来するもの?

評価って遺伝子に実際に探索させてみて、その結果を評価関数にかけて・・って
やってんのか?

にしても大域的探索能力ねえ、つまり単に空間のあちこちに探索がふらふら
する性質があるだけでは?
それって乱数をもちいたもの一般に備わっているあたりまえのことだとおもうん
だけどね。
0086デフォルトの名無しさんNGNG
モンテカルロ法よりずっと早く収束するならば
それだけでも素晴らしいと思わないかい?
0087デフォルトの名無しさんNGNG
難しいこというなよ・・・
0088デフォルトの名無しさんNGNG
>>86
焼きなまし法・・・
0089デフォルトの名無しさんNGNG
>>86
モンテカルロ法って乱数を使った場合の「性能の底」だと思いますけど?
ヒューリスティックゼロなわけだから。
モンテカルロ法より良いのは当たり前だとおもうのですが。
0090デフォルトの名無しさんNGNG
>>89
そんなことを言いたいんじゃない!!
工学的手段追求の素晴らしさをだな・・・
0091デフォルトの名無しさんNGNG
意味論の追及はもっと素晴らしい
0092デフォルトの名無しさんNGNG
>>86
でも,早く収束するようなパラメータを陽に求める方法は誰も知らないですよね.
0093デフォルトの名無しさんNGNG
>>73
GPってなんかスゴイな。
こんなのありか?
確かにその辺のことをわかってる人がやったら意味ありげなこともできそうだが、
これはそんなのと次元の違う「やっちゃってる」だけ。

そのうち、事実上GPで「ヒルベルトのプログラム」が解決できます、と同様
みたいなことを言い出しそうで恐い。
0094デフォルトの名無しさんNGNG
>>93
GPなんか使わなくてもすでに研究されてるよ。
0095デフォルトの名無しさんNGNG
>>93
>>94
93は単にGPを徹底的にヴァカにしているものだと思われ。
0096デフォルトの名無しさんNGNG
最終的には気の毒なことに >>1 にとっては悪夢のようなことに
なってしまった当スレですが、
>>1は卒論大丈夫だったのですかね?

でもこの板だからまだマシだったかも。
もっとアカデミズムな板でこの話題だったらえらいことになってたかも。
0097デフォルトの名無しさんNGNG
学術な人がいる学術な板だったら煽られないと思ふ。
ただバカSヨが寄生している情報システム板だと煽られまくるのは明らかだが
0098デフォルトの名無しさんNGNG
>>97
普通の話題だったらね。

「GA」だもの。
より論理的に晒しアゲされるとおもう。
009971NGNG
http://mars.elcom.nitech.ac.jp/java-cai/neuro/bp3.html
ここと次のページで、やっとちょっとわかってきたYO

高校以来微分なんてまったくやってないので、こんな風にドガチャガやって
解けるってのは信じられないけど、まあやってることはなんとかわかった。

結果だけ利用させてもらうと、
j番目の中間層からk番目の出力層への結合荷重修正量(W[k][j])を計算するには、
今回のk番目の出力をO[k]、教師信号をt[k]、
j番目の中間層の入力の合計をH[j]とすると、

W[k][j] = (SOME_CONSTANT) * (t[k] - O[k]) * O[k] * (1 - O[k]) * H[j];
で、i番目の入力層からj番目の中間層への結合荷重修正量(W2[j][i])は、
上に加えてi番目の入力値をX[i]、出力層の数をnとして、
double temp = 0;
for (int k=1; k < n; ++k) {
temp += W[k][j] * (t[k] - O[k]) * O[k] * (1 - O[k]);
}
W2[j][i] = (SOME_CONSTANT) * H[j] * (1 - H[j]) * temp * X[i];
ってことか…って、ページに書いてあるそのままだな。。
で、(t[k] - O[k]) * O[k] * (1 - O[k])とH[j] * (1 - H[j]) * temp は一回のBPを
通して変わらないので、一時変数に入れればいいって話か。

ふぅ。ページに書いてあることそのままみたいだけど、書いているうちに理解できてきたYO
0100デフォルトの名無しさんNGNG
>>99
あんま難しく考えなくても
「一層ずつ望ましい値を逆流させる」
って感じでわかりません?
010171NGNG
>>100
それはそうなんだけど、その「一層ずつ望ましい値を逆流させる」計算が、
どうしてああなるのかがわからなかった。

ところで、中間層から出力層への結合荷重を求めるのは、中間層の結合荷重で
最終結果の誤差を微分するっての、言われてみればあたりまえだけど、
自分ではなんとなく「出力層への望ましい出力」を結合荷重で微分するように
思ってた。
0102デフォルトの名無しさんNGNG
>>101
卒論かな?
0103デフォルトの名無しさんNGNG
だいたいGAのスレッドで、なんでbackpropの話が続くの?
0104デフォルトの名無しさんNGNG
はげも遺伝します
0105デフォルトの名無しさんNGNG
NNスレもあった方がいいか?
でも、NNとGAは、共通点がないように見えてそれなりにあると思う。

1. 試行を重ねることにより出力が洗練されていく。
2. 試行→反映には時間がかかるが、適用して問題を解くには時間をそう
必要としない。
3. 生命現象にヒントを得ている。
0106デフォルトの名無しさんNGNG
>>105
> 1. 試行を重ねることにより出力が洗練されていく。
バックプロパゲーションは、少なくとも特定のポテンシャルの場合には収束が
保障されるのですが、GAってそういう数学的な背景はあるのでしょうか?
(なかったらかなり寂しい)
0107デフォルトの名無しさんNGNG
>>105
その「共通点」はちょっと無理ありませんか?
やっぱり共通点は無いでしょう。
着眼点が全然違うんだし。

1はニューロはまさに学習してゆくって感じで性質が変わってくが、
GAを学習というのとはちょと違うとおもう。やきなましを学習と呼ぶような抵抗感がある。

2.は意味のない定義だね。NNの重み変更はその場でおこなわれるし、
「そう」時間をひつようとしない、とはアルゴリズムを語るような単語じゃない。

3.これもなんか気持ち悪い。同じと言えなくもないが・・と言うくらいか?
Lispのラムダ式と理論のラムダ算法を双方ともラムダ計算を備える共通点を
もつ、と括ってみたような気持ち悪さと言うか。
0108デフォルトの名無しさんNGNG
じゃあNNスレ別に立てる?そこまでしなくてもいいような。
そもそも両方ともそんなに盛り上がる話題でもない。

>>107
いや違うのは重々承知だけど、「片方に興味を持つ人間はたいてい
もう片方にも(程度の差はあれ)興味がある」という現象はあると思う。

参考までに。Googleで Neural-Networks を検索した結果が39万件。
Genetic-Algorithms は14万件。両方検索すると6万件。
ちなみに、カレーライスは7万件、ハヤシライスは2万件、両方で2500件。
共起確率からいうと、NNとGAはカレーとハヤシよりずっと近い。

ちなみにシイタケとマツタケよりも近いぞ。
って何やってんだ俺、会社で(;´Д`)
0109デフォルトの名無しさんNGNG
>>108
ワロタ。
0110デフォルトの名無しさんNGNG
>>108
NNやってる人に言わせればGAなんかといっしょにするなって言われそうですけど(笑
0111デフォルトの名無しさんNGNG
でもNNも一時はコネクショニストとかコネクショニズムとかあって、かなり
酷かったと思う。
0112SVM マンセーNGNG
通の間で流行ってんのは
シミュレーテッド・アニーリング。
これで決まり
0113デフォルトの名無しさんNGNG
ここにもあったYO!
http://asian.elitecities.com/books/movie.html
0114デフォルトの名無しさんNGNG
いまさらSVM!ちょっと遅いんじゃないのかな。
0115デフォルトの名無しさんNGNG
>>112
「流行ってる」ってのは危ういキーワードだね。
いままでを振りかえっても然り。

>>111
結局、ちゃんとした理屈と言うか検証もせずにノリとか勢いでやると
だめってことでしょうかねえ。
NNも統計力学とかを駆使で性能を予測して、シミュレーションを
やってるのとかはちゃんとしてますよね。
0116デフォルトの名無しさんNGNG
>>114
うぅ、確かに、、、
やっぱ意味ウェブ。
これしかないね
0117デフォルトの名無しさんNGNG
で、NNはけっきょくここでいいの?
0118annealerNGNG
なんにせよ、解構造とか近傍の定義次第で、
ダメなやつはダメってことでいかが?(藁

私のやってた問題だとSimulatedAnnealingは
割と良かったよ。

>>37 >>42
問題サイズとか近傍定義しないで、CPUがこうだから
速いだの遅いだのって議論がよくわかりません。(亀れす)
0119デフォルトの名無しさんNGNG
NNの初期値決定にGA使うとかあるんじゃないの?
よくしらんが
0120 NGNG
GAで使う交差方法って解構造に依存するということはないのかな?
もし、そうならば、ある交差方法は解構造がこれこれの場合に有効である
というように適用範囲を研究するのが実りが大きいのではないかと思う
けれど。。。
ある程度解構造が分かっていて、ただ、厳密に最適解を求めるのは
npハードとなるような問題に適用が考えられるしね。
ところで、gaってパラメータによってその性能と言うか、つまりは
最適解への収束速度がかなり変わって来るとの話を聞いたことがある
んだけど、どうなんだろう?
by otikobore
0121デフォルトの名無しさんNGNG
>>120
>GAで使う交差方法って解構造に依存するということはないのかな?
> もし、そうならば、ある交差方法は解構造がこれこれの場合に有効である
> というように適用範囲を研究するのが実りが大きいのではないかと思う
解構造の意味がよく分からんのだけど、
実際の問題を、どういう GA の問題空間に写像かによって、
交差法、パラメータ、評価関数なんかをどう選ぶかってこと?

> ところで、gaってパラメータによってその性能と言うか、つまりは
> 最適解への収束速度がかなり変わって来るとの話を聞いたことがある
そりゃそうだろ。例えば突然変異が起こる確率を極端に変えてみるというのを考えれば、
直感的に分かるのではないかと。
0122デフォルトの名無しさんNGNG
またまたNNの話題。
NNには単純なBPだけじゃなく、慣性項とやらを用いたものもあるみたいだけど、
そちらの方が優れているの?

あと、局所的最適解に陥りやすいという問題を解決する方法はある?
0123デフォルトの名無しさんNGNG
>>122
単純なBPは、慣性項をゼロにした状態。
慣性項を使ったほうが、使わないよりも局所解に陥りにくくなる。
けど結局はチューニング・パラメータなので、問題によっては簡単に局所解に陥る。
012490NGNG
>>121
>実際の問題を、どういう GA の問題空間に写像かによって、
どういうGAの問題空間に写像かってのがイマイチあれですが、
何となく言いたげなことはわかりますが、そんなところ。
問題によって解の表現方法が変わってくるので。

で、実際、問題ごとの効果的な解構造とかは実際に
研究されてたりします。
パラメータで収束かわるのは当然ですよね。GA以前に
このテのmeta heuristicならほとんどそうでは。
0125デフォルトの名無しさんNGNG
>>124
でも問題のタイプによっては、性能や収束の保障があるのがふつうですよ、
このテの meta heuristic なやつらは。GA はどうなんです?
0126デフォルトの名無しさんNGNG
(´Д`)ノ <先生、GAってギャラクシーエンジェルですよね
0127126NGNG
>遺伝アルゴリズム(GA)のことならここに書け!!

ガビーン(゚ д゚ )
出直してきます。。。(;_;)
0128Seisei_YamaguchiNGNG
>>120
> GAで使う交差方法って解構造に依存するということはないのかな?

端的な例だと バイト単位の組み合わせを求める問題なら
交差地点を 8の倍数ビット単位 に設定するといい場合がありそう .
0129 NGNG
>>121
うーん。私の言った解構造というのは、評価関数と一つ一つの
状態をどのように空間の一点として表すかで決まるもののこと
です。(あまりいい説明ではありませんね。)
たとえば、n次元ユークリッド空間上に2個のおおきな山と、その間に
大きな谷があり、さらにそれとは別に小さな山として局所解がある
そんなものです。(さらに分かりずらい?)
また、ここでのパラメータは、突然変移よりも、交差を行う個体を
選び出す基準を調整するパラメータのことを指しています。
(良い解だけを交差対象とするのか、それとも、空間上遠いもの
同士を(距離があればですが)交差対象とするのかを調整するパラメ
ータ)
で、これこれの解構造を持つものにはこれこれの交差方法とこれこれの
選択方法が適しているという研究がいいのかな。と思っております。
乱文になってしまいました。ごめんなさい。
(間違っていること言っていたら教えてね。)
by otikobore
0130デフォルトの名無しさんNGNG
>>125
GA は突然変異があるから、理論的には必ず収束するんだろうけど、
現実的な時間で解けるかとなると、難しい問題も多いね。
個体の数と、評価関数の凸凹の数と関係あったりしないのかなぁ。詳しい人いない?
0131121NGNG
>>129
> また、ここでのパラメータは、突然変移よりも、交差を行う個体を
ああ、ごめんよ。突然変異は例として挙げただけ。

> で、これこれの解構造を持つものにはこれこれの交差方法とこれこれの
> 選択方法が適しているという研究がいいのかな。と思っております。
いいと思うけど、もうちょっと文献を読んだほうがいいんでないかい。
研究で、車輪の再発明は痛いぞ。
0132デフォルトの名無しさんNGNG
>研究で、車輪の再発明は痛いぞ。
つーか、この分野、そんなんばっかだよ。
確信犯も多いし。
0133デフォルトの名無しさんNGNG
>>132 129タン は本気でやりたいのかと思って、まじれすしちゃったよ。
013490NGNG
>>130
現実的な時間で解けるなら、わざわざGA使う必要ないんじゃ?
Simulated Annealingだって完全解は求まるよ。

>>132
つーか、この分野、他にやることねーよ。(藁
0135134NGNG
ごめん。90じゃないです...
124も90じゃないし...気づけよ>俺
0136デフォルトの名無しさんNGNG
NNについて勉強してみたのはいいが、実際の問題への適用のしかたが
よくわからん (´Д`)
中国のいくつかの方言における漢字音をインプットして、欠けたデータを
推測するようなものを試しに作ってみたいのだが…。
0137デフォルトの名無しさんNGNG
>>136
おもしろいね。個人的には、NNが使える問題があるとすると、
最適化問題でもないし、面倒でアルゴリズムを考える気も
起こらないような問題かな、と思っているんだが、そうなると
やはりこういう認識の問題くらいしか出てこないかねえ。
0138デフォルトの名無しさんNGNG
NN、興味あるけど、プログラムに食わせるような大量なデータどっかに落ちて
ないかねぇ。自分で手入力するのはめんどくさい、かといって乱数じゃ
意味ないし。教えてクレクレ
0139デフォルトの名無しさんNGNG
>>138
頭に差せ
0140デフォルトの名無しさんNGNG
あげ
0141デフォルトの名無しさんNGNG
このスレまた立てたの??
0142デフォルトの名無しさんNGNG
age
■ このスレッドは過去ログ倉庫に格納されています