Поиск набора индикаторов для подачи на входы в нейросеть. Дискуссия. Инструмент оценки результатов. - страница 6

 

joo писал(а) >>

Похоже, rip и IlyaA никак не поймут, что iliarr использует метод обучения без учителя. Про какую ошибку обучения может идти речь, если целевая функция - прибыль? Или Вы оба думаете, что обучив сеть на истории, прогнать на тестовой истории и сравнить полученную прибыль? Прибыль будет другая, меньше или больше, но другая. Тестовая же история другая. Не путайте с аппроксимацией пожалуйста, где критерием качества аппроксимации является среднеквадратичное отклонение исходной функции и полученной.

А причем здесь MSE?! Оценкой правильности работы сети по задумке автора является ф-ция прибыли. Т.е. открываются длинны\короткие позиции, относительно них или с помощью них получается считается trade.Profit - это видно из кода. Ок, тогда вопрос просто хочется видеть как ведет себя особь на тестовой выборке, которая считается лучшая в данном поколении. Почему я считаю это важно, профит считается относительно обучающей выборки. А кто сказал, что на выборках которые не предъявлялись сети она будет вести себя также.


Не зависимо от того по какому методу обучается сеть, с учителем или без, тестовая выборка с заведомо известным результатом позволяет оценить степень переобученности.

Или в противном случае мы возвращаемся к "шаманству" что-то дали сети, что-то получили, а теперь давайте интерпретировать результат.

 
А причем здесь MSE?! Оценкой правильности работы сети по задумке автора является ф-ция прибыли. Т.е. открываются длинны\короткие позиции, относительно них или с помощью них получается считается trade.Profit - это видно из кода. Ок, тогда вопрос просто хочется видеть как ведет себя особь на тестовой выборке, которая считается лучшая в данном поколении. Почему я считаю это важно, профит считается относительно обучающей выборки. А кто сказал, что на выборках которые не предъявлялись сети она будет вести себя также.

Оценкой правильности работы сети не может выступать ф-я прибыли. Ф-я прибыли характеризует сеть лишь со стороны возможности эксперта построенного на ней заработать как можно больше прибыли, всего лишь. Больше ф-ция прибыли сказать нам о правильности работы сети не может. Ведь, подумайте, на определённом интервале времени получить одно и тоже кол-во прибыли возможно множеством разных способов. Любого трейдера как раз и волнует больше всего, каким способом. Т.е. оценкой качества работы сети может выступать, например, максимальная относительная просадка, или другой критерий оценки ТС. Т.е автору ветки нужно максимизировать ф-ю прибыли на предъявляемой для обучения выборке, тестировать на тестовой выбоке и оценивать по параметрам описанных мною выше. Или Вы оптимизируя, к примеру, стандартный макди эксперт тоже будете выбирать вариант с максимальной прибылью?

Не зависимо от того по какому методу обучается сеть, с учителем или без, тестовая выборка с заведомо известным результатом позволяет оценить степень переобученности.

Или в противном случае мы возвращаемся к "шаманству" что-то дали сети, что-то получили, а теперь давайте интерпретировать результат.

Как Вы получите заведомо известный результат на тестовой выборке, если используется ф-ция прибыли?

 
Уважаемый joo прошу Вас не обсуждать поведение или мысли других людей, особенно если человек Вам не знаком. Также прошу Вас ответить вот на такой вопрос. Как вы считаете будет ли сеть приспосабливаться к данным если обучение ведется генетикой. Именно приспосабливаться, а не обобщать?
 
IlyaA >>:
Уважаемый joo прошу Вас не обсуждать поведение или мысли других людей, особенно если человек Вам не знаком....

Извиняюсь, если кому показалось что обсуждаю чье то поведение или мысли других людей, по моему перехода на личности не было.. Ещо раз сори если что.

Также прошу Вас ответить вот на такой вопрос. Как вы считаете будет ли сеть приспосабливаться к данным если обучение ведется генетикой. Именно приспосабливаться, а не обощать?

Не зависит способность нейронной сети к приспособлению к чему либо от генетики. Генетика лишь один из методов оптимизации. Ключевой момент в предъявляемых данных, в топологии сети, в методах оценки результата.

 
joo >>:

Не зависит способность нейронной сети к приспособлению к чему либо от генетики. Генетика лишь один из методов оптимизации. Ключевой момент в предъявляемых данных, в топологии сети, в методах оценки результата. 


  Ну я рад, что все так дружелюбно. Соответственно и логика следующая если нет кривой ошибки обучения значит есть кривая эффективности обучения. В таком случае общественности нужно взглянуть на нее. Согласны.
 
IlyaA >>:
Соответственно и логика следующая если нет кривой ошибки обучения значит есть кривая эффективности обучения. В таком случае общественности нужно взглянуть на нее. Согласны.

Логика у меня такая:

По аналогии с животным миром. В лесу живет олень и волк. Оба весят 80кг. Олень щиплет траву круглые сутки, а волк один раз сожрав пол лося не ест две недели. Среднее потребление коллорий у них одинаковое. А вот способы добычи пропитания - разные.

Так и ТС. Мы должны выбирать, каким способом будет получена прибыль, и соответственно выбирать критерии оценки ТС, а в контексте данной ветки - NN.

 
joo >>:

Логика у меня такая:

По аналогии с животным миром. В лесу живет олень и волк. Оба весят 80кг. Олень щиплет траву круглые сутки, а волк один раз сожрав пол лося не ест две недели. Среднее потребление коллорий у них одинаковое. А вот способы добычи пропитания - разные.

Так и ТС. Мы должны выбирать, каким способом будет получена прибыль, и соответственно выбирать критерии оценки ТС, а в контексте данной ветки - NN.


Вы оцениваете работу сети с точки зрения ТС. Я же рассматриваю саму сеть, без привязки к ТС. Сеть это только механизм анализа данных и не более.


Но применив вашу аллегорию, хочется видеть график как нагуливает вес олень и волк в отдельности (это обучение) в зоопарке, а также график как будет нагуливать вес тот же олень и волк, если скажем их выпустить на природу (тестирование), ну в какой-то национальный парк, где за ними будут следить егеря. На этой основе можно будет построить гипотезу как они будут вести себя в природе %)

 
rip >>:

Вы оцениваете работу сети с точки зрения ТС. Я же рассматриваю саму сеть, без привязки к ТС. Сеть это только механизм анализа данных и не более.


Но применив вашу аллегорию, хочется видеть график как нагуливает вес олень и волк в отдельности (это обучение) в зоопарке, а также график как будет нагуливать вес тот же олень и волк, если скажем их выпустить на природу (тестирование), ну в какой-то национальный парк, где за ними будут следить егеря. На этой основе можно будет построить гипотезу как они будут вести себя в природе %)


не много не так. Нужно как то оценить, что если мы воспитывали оленёнка, то в итоге получили красавца оленя, а не волчару. Т.е. оценить не темпы и объемы потребления пищи, а принадлежность к нужному нам виду. Возможно, проводить классификацию, по сути, определять "похожесть" кривой потребления на эталонный. А это отдельная непростая задача задача.

 

rip 10.11.2009 23:18



Не зависимо от того по какому методу обучается сеть, с учителем или без, тестовая выборка с заведомо известным результатом позволяет оценить степень переобученности.

Или в противном случае мы возвращаемся к "шаманству" что-то дали сети, что-то получили, а теперь давайте интерпретировать результат.

Совершенно закономерное замечание. Для этого, я выгружаю обученную нейросеть в торгующего эксперта MT4, чтобы в тестере стратегий MT4 проверить что получилось.

Цитата из самого первого поста темы:

iliarr 09.11.2009 13:13


Обученную сеть экспортирую в советника MQL4 и проверяю работу на тестере стратегий MT4. Входы для нейросети формирую в индикаторе МТ4 и выгружаю в файл.Индикатор и советник формирует программа и записывает в файлы ( так меньше путаницы и меньше ошибок).

И готов выкладывать эти выгрузки здесь, с чтобы оценить качество данных, подаваемых в сеть. Предлагаю выбрать диапазон M5 с 1-08-2009 по 1-10-2009 и учить на нем одинаковым образом схожие нейросети. Этот метод не претендует на абсолютную точность, но для сравнения,думаю, подойдет.

 
rip >>:

Вы оцениваете работу сети с точки зрения ТС. Я же рассматриваю саму сеть, без привязки к ТС. Сеть это только механизм анализа данных и не более.


Но применив вашу аллегорию, хочется видеть график как нагуливает вес олень и волк в отдельности (это обучение) в зоопарке, а также график как будет нагуливать вес тот же олень и волк, если скажем их выпустить на природу (тестирование), ну в какой-то национальный парк, где за ними будут следить егеря. На этой основе можно будет построить гипотезу как они будут вести себя в природе %)


При обучении ведется лог такого вида:

Traning log.
Thread-6: Generation 10 chromosome whith best fitness: 1007621 saved to /home/iliarr/Data/Result/9-10-1.nn
Thread-5: Generation 10 chromosome whith best fitness: 1008875 saved to /home/iliarr/Data/Result/9-10-1.nn
Thread-3: Generation 10 chromosome whith best fitness: 1009096 saved to /home/iliarr/Data/Result/9-10-1.nn
Thread-6: Generation 20 chromosome whith best fitness: 1009461 saved to /home/iliarr/Data/Result/9-10-1.nn
Thread-5: Generation 30 chromosome whith best fitness: 1009501 saved to /home/iliarr/Data/Result/9-10-1.nn
Thread-3: Generation 40 chromosome whith best fitness: 1010195 saved to /home/iliarr/Data/Result/9-10-1.nn
Thread-3: Generation 100 chromosome whith best fitness: 1010361 saved to /home/iliarr/Data/Result/9-10-1.nn
Thread-2: Generation 110 chromosome whith best fitness: 1010481 saved to /home/iliarr/Data/Result/9-10-1.nn
Thread-2: Generation 200 chromosome whith best fitness: 1010521 saved to /home/iliarr/Data/Result/9-10-1.nn

формируется он так: если целевая функция больше текущей - нейросеть выгружается в файл и записывается очередная строка лог. не думаю, что это есть ответ на ваш вопрос, но другую статистику вести смысла не вижу.