Машинное обучение в трейдинге: теория, модели, практика и алготорговля - страница 3517

Новый комментарий
 
mytarmailS #:

посмотри у себя, вроди не пустышка, по моим первым тестам

ниче не понятно

 
Maxim Dmitrievsky #:

Пруфов пока нет, потому что делаю случайный семплинг и энтропия такого ряда всегда стремится к 1, то есть рэндом

Если найду корреляцию между результатами на ООС и оценкой меток, например, через энтропию, то это будет красноречиво

 

PE - permutation entropy лэйблов до обучения

Ниже R2 обученной модели на них, с учетом ООС

Iteration: 0, Cluster: 4, PE: 1.4114993035356607
R2: 0.9750027827074201
Iteration: 0, Cluster: 14, PE: 1.4024791111873602
R2: 0.9254099918204924
Iteration: 0, Cluster: 8, PE: 1.41096302580775
R2: 0.9713689561861256
Iteration: 0, Cluster: 0, PE: 1.4269597630754562
R2: 0.9807136795397998
Iteration: 0, Cluster: 1, PE: 1.391583598392451
R2: 0.9600008089806283
Iteration: 0, Cluster: 11, PE: 1.4537902469647772
R2: 0.9720898913608796
Iteration: 0, Cluster: 10, PE: 1.3738852280483222
R2: 0.9536059212630769
Iteration: 0, Cluster: 7, PE: 1.37156426933497
R2: 0.9702039222164988
Iteration: 0, Cluster: 3, PE: 1.433485632603243
R2: 0.9846474447504004
Iteration: 0, Cluster: 12, PE: 1.4031034270604625
R2: 0.9480575294534516
Iteration: 0, Cluster: 2, PE: 1.3916341170184174
R2: 0.9587764283979536
Iteration: 0, Cluster: 9, PE: 1.4121627190055983
R2: 0.9449264868011292
Iteration: 0, Cluster: 6, PE: 1.4026169498968089
R2: 0.5991722238532007
Iteration: 0, Cluster: 5, PE: 1.321808319045704
R2: 0.9698055619808859
Iteration: 0, Cluster: 13, PE: 1.4465424887848997
R2: -0.05071422654396962

все значения очень похожи и нельзя ничего определить :)

Это потому что способ разметки всегда один и тот же. Нужны другие датасеты, можете посчитать на своих. Пример расчета.

import numpy as np
from itertools import permutations

def permutation_entropy(time_series, order=5, delay=1):
    # Create a list of all possible permutations of the given order
    permutations_list = list(permutations(range(order)))
    perm_count = {perm: 0 for perm in permutations_list}
    
    # Calculate the permutation patterns in the time series
    for i in range(len(time_series) - delay * (order - 1)):
        # Extract the sequence
        sequence = time_series[i:i + delay * (order - 1) + 1:delay]
        # Find the permutation pattern
        sorted_index_tuple = tuple(np.argsort(sequence))
        # Increment the permutation count
        perm_count[sorted_index_tuple] += 1

    # Normalize the counts to get a probability distribution
    perm_count_values = np.array(list(perm_count.values()))
    perm_probabilities = perm_count_values / np.sum(perm_count_values)
    
    # Calculate the permutation entropy
    pe = -np.sum([p * np.log2(p) for p in perm_probabilities if p > 0])
    
    return pe

# Example usage
time_series = np.array([4, 7, 9, 10, 6, 11, 3])
order = 2
delay = 1
pe = permutation_entropy(time_series, order, delay)
print(f"Permutation Entropy: {pe}")
 

Изначальная идея в том, что если в разметке данных есть какая-то структура и датасет профитный, то это будет сохраняться на новых данных.

Тогда как если в метках нет структуры, значит они просто подогнаны под шум.

 

Изменил способ авторазметки и энтропия снизилась по сравнению с другим способом.

Позже сделаю более подробные тесты с результатами. Пока что сложно сравнить.

Iteration: 0, Cluster: 5, PE: 0.4486169556211518
R2: 0.9768988376324667
Iteration: 0, Cluster: 10, PE: 0.4669088793243399
R2: 0.9741796468253388
Iteration: 0, Cluster: 2, PE: 0.46459273655864924
R2: 0.9574754821062279
Iteration: 0, Cluster: 9, PE: 0.4617870814003918
R2: 0.9710405592188178
Iteration: 0, Cluster: 7, PE: 0.44973808720127306
R2: 0.9756506928909877
Iteration: 0, Cluster: 14, PE: 0.4659979449727183
R2: 0.9517591162928314
Iteration: 0, Cluster: 11, PE: 0.4459637631384201
R2: 0.9734964538920183
Iteration: 0, Cluster: 1, PE: 0.47443727646415623
R2: 0.969078168370678
Iteration: 0, Cluster: 8, PE: 0.46687563336247373
R2: 0.9791214350912251
Iteration: 0, Cluster: 4, PE: 0.4566470188416623
R2: 0.9812114918306366
Iteration: 0, Cluster: 12, PE: 0.47363779551886176
R2: 0.9336815818695965
Iteration: 0, Cluster: 0, PE: 0.4478528064300205
R2: 0.9741209899697653
Iteration: 0, Cluster: 3, PE: 0.4375103321344003
R2: 0.9036380849528642
Iteration: 0, Cluster: 6, PE: 0.433662587848933
R2: 0.9280739709436694
 
Точно такую же проверку можно сделать при разметке на СБ и на котировках, определить разницу. Величины можно сопоставлять, потому что ряды бинарные в обоих случаях. Длины рядов с метками должны +- совпадать и параметры расчета энтропии.

Тогда это подтвердит или опровергнет мой давний тезис, что проблема не в признаках, а в качестве разметки.
 
Maxim Dmitrievsky #:
проблема не в признаках, а в качестве разметки.

К сожалению, проблема там и там.

 
Maxim Dmitrievsky #:
Нужны другие датасеты, можете посчитать на своих. 
Permutation Entropy (train): 0.49329517325507943
Permutation Entropy (test): 0.4724266203519978
Permutation Entropy (exam): 0.4889780996100367
 
Aleksey Vyazmikin #:

Надо до обучения замерять на трейне и смотреть как влияет этот показатель на торговлю на ООС. При снижении энтропии ООС должен улучшаться.

 
Maxim Dmitrievsky #:

Надо до обучения замерять на трейне и смотреть как влияет этот показатель на торговлю на ООС. При снижении энтропии ООС должен улучшаться.

Я взял три выборки и измерил показатель. Или что надо?

1...351035113512351335143515351635173518351935203521352235233524...3670
Новый комментарий