Maschinelles Lernen im Handel: Theorie, Modelle, Praxis und Algo-Trading - Seite 556
Sie verpassen Handelsmöglichkeiten:
- Freie Handelsapplikationen
- Über 8.000 Signale zum Kopieren
- Wirtschaftsnachrichten für die Lage an den Finanzmärkte
Registrierung
Einloggen
Sie stimmen der Website-Richtlinie und den Nutzungsbedingungen zu.
Wenn Sie kein Benutzerkonto haben, registrieren Sie sich
Überanpassung - Tritt bei großen Gewichten (~10^18) auf, eine Folge der Multikollinearität, die zu einem instabilen Modell A(x, w) führt.
Übertraining wird behandelt durch: frühzeitiges Beenden des Modelllernens, Begrenzung des Wachstums der Gewichte (L1(Lasso) und L2-Regularisierung), Begrenzung der Bindungen im Netz (Dropout), auch mögliche Anwendung von Straffunktionen (ElacticNet, Lasso).
Und die L1-Regularisierung führt zur Auswahl von Merkmalen, da sie sich auf deren Gewichtskoeffizienten konzentriert.
Die Beseitigung "verrauschter" Merkmale ist die Auswahl der Merkmale. Hierfür gibt es Methoden. Dies ist nicht immer vorteilhaft für das Modell, weshalb manchmal eine L2-Regularisierung verwendet wird (um das Problem der Multikollinearität zu lösen).
SanSanych Fomenko, Ihre Aussage über das Verhältnis von Merkmalen und Zielen ist ein wenig anmaßend. Denn wie kann man etwas behaupten, das noch nicht bewiesen ist; dafür ist das MO-Modell ja da. Ein Modell, das aufgebaut ist und funktioniert, gibt eine gewisse Schätzung der Beziehung mit "so-und-so" Genauigkeit.
Und das Beispiel mit den Hosen und Röcken zeigt, wie wenig der Forscher über das Untersuchungsgebiet weiß, denn bei einem solchen Modell werden wertvolle Attribute über den Wohnort, die Jahreszeit, den Breiten- und Längengrad der Wohnregion usw. weggelassen.
Mein Beispiel ist ein degenerierter Fall, reiner Gedanke, Klassifizierung ohne Fehler. In der Wirtschaft gibt es solche Merkmale nicht, aber in der Genetik ist, wenn nicht 100 %, so doch etwas weniger möglich.
Nun zur Regularisierung.
Zweifelsohne.
Aber Konsistenz ist wichtig.
Erstens immer die Auswahl von Merkmalen auf der Grundlage der "Beziehung" zum Ziel. Wenn auf den Aktienmärkten, basierend auf wirtschaftlichen Beziehungen.
Das steht immer an erster Stelle und dann kommt alles andere.
Ich habe einen funktionierenden TS mit rf. Ich wähle 27 Prädiktoren aus mehreren hundert Attributen aus, indem ich die "Relation" verwende. Dann wähle ich aus 27 mit Standard-Algorithmus auf jedem Balken (H1), 5 bis 15 bleiben, sie sind immer unterschiedlich. Ich begrenze die Anzahl der Bäume, 100 ist viel, 50 ist nicht genug, der Fehler bei 50 stabilisiert sich nicht.
Das ist eine konkrete Erfahrung. Der ZZ-Klassifizierungsfehler liegt bei knapp 30 %. Keine Möglichkeit zur Verringerung - es werden andere Prädiktoren benötigt, und es gibt keine Ideen für Prädiktoren.
Da Sie so viele Parameter auf einmal eingeben können, ist es klar, was Sie meinen.
In diesem Fall ist die Umschulung eher zweitrangig, und das ist wahrscheinlich das, was mir aufgefallen ist. Es ist eher eine "Erleichterung" der Berechnungen.
Da Sie so viele Parameter auf einmal eingeben können, ist es klar, was Sie meinen.
In diesem Fall ist die Überanpassung eher zweitrangig, was wahrscheinlich der Grund dafür ist, dass es mir aufgefallen ist. Es ist eher eine "Erleichterung" der Berechnungen.
Warum sekundär?
Was ist primär?
Was könnte erschreckender sein als eine Überanpassung?
Warum sekundär?
Was ist primär?
Was gibt es Schlimmeres als Übertraining (Überanpassung)?
Deshalb sage ich, dass in der gestellten Frage das Übertraining zweitrangig ist.
Sie haben zwar richtig bemerkt, dass ich hätte sagen sollen: "Die Auswahl der Parameter ist der Umschulung untergeordnet, und es lohnt sich, die Frage von dort aus genauer zu betrachten.
https://habrahabr.ru/post/345950/
es stellt sich heraus, dass einfache NS über die Grenzen der Trainingsstichprobe hinaus ziemlich schlecht funktioniert (geht zu einer hyperb. Tangentenkonstante)... im Falle der Regression, d.h. nicht viel besser als RF
sehr anschaulicher Artikel
https://habrahabr.ru/post/322438/
es stellt sich heraus, dass einfache NS über die Grenzen der Trainingsstichprobe hinaus ziemlich schlecht funktioniert (geht zu einer hyperb. Tangentenkonstante)... im Falle der Regression, d.h. nicht viel besser als RF
sehr anschaulicher Artikel
https://habrahabr.ru/post/322438/
Lesen Sie in aller Ruhe.
https://habrahabr.ru/post/345950/
IMHO ist es ein nutzloser Artikel, schlechte Übersetzung, oder ich bin ein schlechter Leser, aber für mich sieht es aus wie triviale Anhäufung von veralteten Ideen und leider eine weitere Bestätigung der Krise des Deep Learning als Top-Technologie, sogar der eigentliche Vater dieses Trends Jeffrey Hinton in seinen Artikeln über Kapsel neuronale Netze hat in letzter Zeit darüber gesprochen.
Aber Respekt an Uber Taxi...))
IMHO ein nützlicher und informativer Artikel, ohne Anspruch auf Neuartigkeit, aber mit einem guten praktischen Sinn.
Das ist der Grund, warum man leicht verwirrt werden kann, sagen wir, wir haben lineare oder Regression verwendet und alles war in Ordnung, und dann haben wir beschlossen, für die gleichen Aufgaben zu MLP zu wechseln... und auf keinen Fall :)
Deshalb ziehen alle die Klassifizierung vor, obwohl die Regression für Prognosen gut geeignet ist :)
Ich würde sogar sagen, dass für Trends eher lineare oder Regression und für Abflachungen - MLP geeignet ist.
Die Übung mit dem Garch hat ein erstaunliches Muster ergeben.
Hier ist der EURCAD-Quotient
Und hier ist die Autokorrelation der absoluten Inkremente
Erstaunliche Regelmäßigkeit!
1. Was bedeutet das?
2. Wie kann diese Regelmäßigkeit genutzt werden?
PS.
Nicht alle Währungspaare haben diese Ansicht.
Hier ist USDJPY