Гибридные нейросети. - страница 3

 
IlyaA >>:

Где я написал, что они у меня все скрещиваются?...

->

IlyaA писал(а) >>

О да, сеть на первых этапах полносвязная, ну или по типу сетей свертки, но там слоев много). И это все счастье множиться на 10 и начинает спариваться. Обсчитывать приходится каждого, т.е. имеем 10х.


IlyaA писал(а) >>

Про XOR вы не прочитали чтоли?

Раскройте структуру сетки (которая по 200 экземпляров).

А про количество весов, пока я писал пост, Вы ответили. Свой пост корректировать не стал.

То есть, получается: количество весов=50*60+60+60*39+39+39*2+2=5519. Так?

А причем здесь 200 экземпляров? Вы об этом нигде не писали.

 

to IlyaA и gumgum

А зачем вы используете 2 скрытых слоя. Для любой задачи достаточно одного скрытого слоя. Доказано математически.

 
joo >>:

->


А про количество весов, пока я писал пост, Вы ответили. Свой пост корректировать не стал.

То есть, получается: количество весов=50*60+60+60*39+39+39*2+2=5519. Так?

А причем здесь 200 экземпляров? Вы об этом нигде не писали.


Да весов столько.

Раскрой, пожалуйста, свою структуру перцептрона, коих в популяции 200 особей (сложность оценить). 

 
joo >>:

to IlyaA и gumgum

А зачем вы используете 2 скрытых слоя. Для любой задачи достаточно одного скрытого слоя. Доказано математически.



Что ты знаешь про сети свертки? Там так вообсче мин. 4 слоя.
 
IlyaA >>:

Раскройте структуру сетки (которая по 200 экземпляров).

Рекомендуете увеличить популяцию? Если вам не сложно, поставьте маленький эксперимент. Сколько займет обучение простенькой задачи (время, кол-во популяций) для 200 особей и для 25 особей. Остальное оставим без изменений. В этом месте я совсем не экспериментировал.

Ааа, это был вопрос про мои 200 особей?, просто там нет знака вопроса, поэтому не понял.

Моя сеть: 400-600-200. Итого 360800 весов.

Да, рекомендую увеличить популяцию.

На счет эксперимента. Я довольно много экспериментировал с количеством особей в популяции. И не хочется тратить время на дополнительные эксперименты. Ответ получил не однозначный. Много зависит от алгоритма GA, а также от того, какой критерий останова используется. Совершенно очевидно, что основное время тратится на саму фитнес функцию(фф), а время работы чистого алгоритма GA ничтожно мало. Поэтому, резонно стараться уменьшить количество запусков фф. Этого можно добиться разными способами. И самый простой - подобрать количество особей в популяции.

Если брать очень много особей, порядка 1000 штук, то лучшая особь находится очень быстро, в плане прохода колличества эпох, но при этом фитнес функция запускается 1000*n раз, где n - количество эпох. Что не есть гуд - очень долго получается.

Если же брать слишком малое количество особей в популяции, скажем 10-25, то в популяции нет достаточного генофонда, для поиска, время поиска увеличивается, опять из за того, что увеличивается кл-во запусков фф.

Оптимальным вариантом считаю 200 особей в популяции.

Хотел бы посоветовать ещё вот что. Заведите дополнительную популяцию, в которую помещайте лучших особей из каждой эпохи(я называю это "Генофонд Эпохи", или ГЭ). При скрещивании брать особей из текущей популяции и из ГЭ. Таким образом резко сокращается кол-во запусков фф. Не путать этот прием с элитным отбором.

 
IlyaA >>:


Что ты знаешь про сети свертки? Там так вообсче мин. 4 слоя.

Мы уже плавно перешли на "ты"? Ок.

Я не знаю что такое "сети свертки". А за чем 4 слоя? Можешь объяснить мне, и тем, кто думает, что одного внутреннего (скрытого) слоя достаточно за глаза? Не нужно усложнять алгоритм. Он и так не лёгкий для расчетов.

 
joo >>:.

А Ваш GA реализован в чем? MQL?

 
joo >>:

Мы уже плавно перешли на "ты"? Ок.

Я не знаю что такое "сети свертки". А за чем 4 слоя? Можешь объяснить мне, и тем, кто думает, что одного внутреннего (скрытого) слоя достаточно за глаза? Не нужно усложнять алгоритм. Он и так не лёгкий для расчетов.


Есть книжка Хайкина. Нейронные сети?
 

to dentraf

MQL4

to IlyaA

Есть. А также ещё разных авторов порядка 200-300 книг. Только я подумал, что NN и GA самостоятельно освою быстрее, чем прочитаю эту библиотеку. Так и вышло. Быстрее.

Под освоением я имею виду практическое применение, а не владение терминологией.

 
joo >>:

Если брать очень много особей, порядка 1000 штук, то лучшая особь находится очень быстро, в плане прохода колличества эпох, но при этом фитнес функция запускается 1000*n раз, где n - количество эпох. Что не есть гуд - очень долго получается.

Если же брать слишком малое количество особей в популяции, скажем 10-25, то в популяции нет достаточного генофонда, для поиска, время поиска увеличивается, опять из за того, что увеличивается кл-во запусков фф.

Оптимальным вариантом считаю 200 особей в популяции.

Спасибо. Очень подробно. В принципе да, если ты уже несколько раз прогонял алгоритм с разными параметрами, тогда воспользуемся результатами. Значит 200... Хорошо пусть так и будет. Тогда следующий момент. Нужно искать профитную "феньку" (комбинация на свечах и индикаторах) ищем мы ее не глазами, а перцептроном. Типа пускай за нас строит линейно разделимые группы. Критерий для поиска Прибыль => max. Остановка по желанию пользователя. Затем анализ весов и выявление "феньки". Затем нормальный индикатор и система торговли. Довольно сложно, но это на первый взгляд. Ковыряться в весах очень интересно (ну во всяком случае мне). Вопрос :) приходится прогонять историю за 5 лет на свечах + индикаторы (по желанию) через каждую особь, а их стало 200 на каждой популяции. Это ОГРОМНОЕ ресурсопотребление, к тому же неизвестно когда остановимся. Давайте попробуем переформулировать задачу или другим путем сохранить самое важное свойство этой конструкции - выявление "феньки" машиной.