또한 위의 예와 같은 문제를 해결하기 위해 함수의 미분을 도입하는 이유는 무엇입니까? 함수의 표면을 더 매끄럽게 만들기 위해서입니다.
또 다른 예는 실습에 매우 가깝습니다. 10 개의 질문이있는 문제가 있는데 네트워크는 10 개의 질문에 답해야합니다. 이 경우 최대 값은 10입니다. 즉,이 문제의 함수는 불연속적입니다. 많은 지역 극한이 있습니다. 왜? 여기를 살펴 보겠습니다:
정답과 오답을 세어 봅시다. 0은 틀렸고, 1은 맞습니다.
0 1 1 0 0 0 0 0 1 0 0 0 1 1 1 : 4 정답.
1 1 1 0 0 0 0 0 0 0 0 0 0 0 0 1 : 4 정답.
0 1 0 1 0 1 0 0 0 0 1 1 0 0 0 : 4 정답
0 0 0 0 0 0 1 0 0 0 1 1 1 1 : 4 정답
0 1 1 1 1 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 : 4 정답
.......................................
네트워크가 4점짜리 답안을 주는 것을 볼 수 있습니다. 이것은 네트워크가 어떻게 고착되어 있는지 보여주는 예입니다. 더 이상 성장하지 않습니다. 답을 뒤섞으면 더 많은 점수를 얻을 수 없습니다.
어떻게 하면 네트워크를 더 효율적으로 만들 수 있을까요? 바로, 이를 위해 원래의 답 함수를 오류 함수로 변환합니다. 그래서 모든 답에 대한 총 오류를 최소화하면 네트워크는 모든 정답을 찾을 것입니다. 이 경우 문제는 오류를 최소화하는 것으로 축소되고 최소값은 전역 0이고 함수는 많은 극한 값을 갖지만 이제 게임은 예 또는 아니오보다 훨씬 "매끄러운" 차가운, 따뜻한, 뜨거운, 뜨거운로 줄어 듭니다.
그러나. 불행히도 문제 함수는 항상 매끄러운 함수로 변환 될 수는 없습니다. 기사에 제시된 함수는 이미 변환 된 것으로 간주되어야하며 원래 함수는 훨씬 더 복잡한 지형을 가지고 있습니다. 따라서 최적화 알고리즘의 효율성은 함수의 미분의 극한을 찾는 능력에 있습니다.
내가 다른 사이트에 있었다면 놀라운 것은 없지만 수백만 명의 테스터 결과를 본 사람들과 극단에 대해 논의하는 것은 단어를 찾는 것이 불가능합니다. 한 가지 생각은 그들이 이혼했다는 것입니다.
다시 한 번 : 극단은 없습니다! 아니요, 우리는 이익이나 다른 방식으로도 그들을 볼 수 있지만 극단은 없습니다. 독수리와 함께 위로 떨어진 동전에 독수리가 없는 것처럼, 독수리가 아니라 독수리가 될 확률이기 때문입니다. 모든 극단은 극단의 확률입니다. 수학적 기대치와 신뢰구간이라는 의미에서 극단의 값에 대해 이야기 할 수 있지만 극단의 값은 고정되어 있지 않기 때문에 수학적 기대치가 없기 때문에 이야기 할 수 없습니다!
한 구간에서 전문가 어드바이저를 최적화하면 최적의 결과 집합을 가진 매개 변수 집합을 얻는 것을 백만 번도 넘게 보셨을 것입니다. 간격을 늘리거나 다른 간격을 사용하면 다른 결과를 가진 다른 매개 변수 세트를 얻게 되고 손실이 발생할 수 있습니다. 왜요? 아무도 못 보셨나요? 그리고 이것은 최적화 알고리즘과는 아무런 관련이 없습니다. 유전학을 할 수 있고, 오버샘플링을 완료하여 유전학을 개선할 수 있지만 최적화 샘플을 벗어난 결과는 하나이며, 대부분 슬픈 결과가 될 것입니다.
전문가 어드바이저를 한 주기로 최적화하면 최적의 결과가 나오는 일련의 매개변수를 얻을 수 있다는 것을 수없이 보셨을 것입니다. 간격을 더 늘리면 결과가 다른 매개 변수 세트를 얻게 되고 손실이 발생할 수 있습니다. 왜요? 아무도 못 보셨나요? 그리고 이것은 최적화 알고리즘과는 아무런 관련이 없습니다. 유전학을 할 수 있고, 오버샘플링을 완료하여 유전학을 개선할 수 있지만 최적화 샘플을 벗어난 결과는 하나이며, 대부분 슬픈 결과가 될 것입니다.
이것은 불필요한 방법의 예입니다))) 그래서 우리가 말하는 극한에 대한 잘못된 생각입니다.
위는 격자형 답이 있는 예시입니다. 최적화 문제를 요약된 답인 "최대 잔액"이 아니라 각 거래의 잔액의 직접 차이에서 이차 편차로 축소합니다. 이것은 원래 문제를 미분으로 변환하는 방법의 예입니다. 결과는 균형 측면에서 이산 함수가 아닌 부드러운 함수가됩니다. 내 예에서 최종 균형은 10과 같습니다.
이것이 일반적인 방식입니다. 모든 알고리즘이 "안전한" 길을 찾을 수 있는 것은 아니며, 검색 속성과 수렴 및 수렴 속도 모두 중요합니다.
가장 간단한 경우에는 정상으로 올라가는 산 주변의 나선형 곡선이 될 것입니다. 산이 매끄럽지 않기 때문에 도로 건설에는 적어도 몇 가지 변형이 있습니다. 이것은 특정 기준을 충족하는 솔루션의 고원이며 산 표면 어딘가에있는 영역 형태의 고원이 아닙니다. 산의 고원은 최적의 솔루션이 아닙니다. 솔루션의 고원은 최적의 솔루션입니다.
그런데 테스터는 복잡한 최적화 기준을 가지고 있으며 균형, 이익 계수 및 기타 기준을 개별적으로 사용하는 것보다 더 부드러운 함수입니다. 최적화 함수를 더 부드럽게 만들기 위해 사용자 정의 기준을 만들 수 있습니다.
В подавляющем большинстве источников информации о нейронных сетях под «а теперь давайте обучим нашу сеть» понимается «скормим целевую функцию оптимизатору» лишь с минимальной настройкой скорости обучения. Иногда говорится, что обновлять веса сети можно не только стохастическим градиентным спуском, но безо всякого объяснения, чем же...
다시 한 번 강조하지만, 극한값은 가치가 없습니다. 극한값은 불안정한 지점이며, 게다가 우리는 임의의 프로세스를 다루고 있고 고정되지 않은 프로세스를 다루기 때문에 존재하지도 않습니다.
우리는 그림에 표시된 것과 같은 고원이라도 수익성이 있다면 지역 및 글로벌 최소값보다 높더라도 고원을 찾아야 합니다. 이러한 고원은 이론적으로 TS의 수익성 상한선을 보여줄 것입니다. 그리고 발견 된 극한은 전혀 아무것도 아닙니다. 그들은 확실히 미래가 아니지만 고원에 대한 희망이 있습니다.
또한 위의 예와 같은 문제를 해결하기 위해 함수의 미분을 도입하는 이유는 무엇입니까? 함수의 표면을 더 매끄럽게 만들기 위해서입니다.
또 다른 예는 실습에 매우 가깝습니다. 10 개의 질문이있는 문제가 있는데 네트워크는 10 개의 질문에 답해야합니다. 이 경우 최대 값은 10입니다. 즉,이 문제의 함수는 불연속적입니다. 많은 지역 극한이 있습니다. 왜? 여기를 살펴 보겠습니다:
정답과 오답을 세어 봅시다. 0은 틀렸고, 1은 맞습니다.
0 1 1 0 0 0 0 0 1 0 0 0 1 1 1 : 4 정답.
1 1 1 0 0 0 0 0 0 0 0 0 0 0 0 1 : 4 정답.
0 1 0 1 0 1 0 0 0 0 1 1 0 0 0 : 4 정답
0 0 0 0 0 0 1 0 0 0 1 1 1 1 : 4 정답
0 1 1 1 1 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 : 4 정답
.......................................
네트워크가 4점짜리 답안을 주는 것을 볼 수 있습니다. 이것은 네트워크가 어떻게 고착되어 있는지 보여주는 예입니다. 더 이상 성장하지 않습니다. 답을 뒤섞으면 더 많은 점수를 얻을 수 없습니다.
어떻게 하면 네트워크를 더 효율적으로 만들 수 있을까요? 바로, 이를 위해 원래의 답 함수를 오류 함수로 변환합니다. 그래서 모든 답에 대한 총 오류를 최소화하면 네트워크는 모든 정답을 찾을 것입니다. 이 경우 문제는 오류를 최소화하는 것으로 축소되고 최소값은 전역 0이고 함수는 많은 극한 값을 갖지만 이제 게임은 예 또는 아니오보다 훨씬 "매끄러운" 차가운, 따뜻한, 뜨거운, 뜨거운로 줄어 듭니다.
그러나. 불행히도 문제 함수는 항상 매끄러운 함수로 변환 될 수는 없습니다. 기사에 제시된 함수는 이미 변환 된 것으로 간주되어야하며 원래 함수는 훨씬 더 복잡한 지형을 가지고 있습니다. 따라서 최적화 알고리즘의 효율성은 함수의 미분의 극한을 찾는 능력에 있습니다.
내가 다른 사이트에 있었다면 놀라운 것은 없지만 수백만 명의 테스터 결과를 본 사람들과 극단에 대해 논의하는 것은 단어를 찾는 것이 불가능합니다. 한 가지 생각은 그들이 이혼했다는 것입니다.
다시 한 번 : 극단은 없습니다! 아니요, 우리는 이익이나 다른 방식으로도 그들을 볼 수 있지만 극단은 없습니다. 독수리와 함께 위로 떨어진 동전에 독수리가 없는 것처럼, 독수리가 아니라 독수리가 될 확률이기 때문입니다. 모든 극단은 극단의 확률입니다. 수학적 기대치와 신뢰구간이라는 의미에서 극단의 값에 대해 이야기 할 수 있지만 극단의 값은 고정되어 있지 않기 때문에 수학적 기대치가 없기 때문에 이야기 할 수 없습니다!
한 구간에서 전문가 어드바이저를 최적화하면 최적의 결과 집합을 가진 매개 변수 집합을 얻는 것을 백만 번도 넘게 보셨을 것입니다. 간격을 늘리거나 다른 간격을 사용하면 다른 결과를 가진 다른 매개 변수 세트를 얻게 되고 손실이 발생할 수 있습니다. 왜요? 아무도 못 보셨나요? 그리고 이것은 최적화 알고리즘과는 아무런 관련이 없습니다. 유전학을 할 수 있고, 오버샘플링을 완료하여 유전학을 개선할 수 있지만 최적화 샘플을 벗어난 결과는 하나이며, 대부분 슬픈 결과가 될 것입니다.
전문가 어드바이저를 한 주기로 최적화하면 최적의 결과가 나오는 일련의 매개변수를 얻을 수 있다는 것을 수없이 보셨을 것입니다. 간격을 더 늘리면 결과가 다른 매개 변수 세트를 얻게 되고 손실이 발생할 수 있습니다. 왜요? 아무도 못 보셨나요? 그리고 이것은 최적화 알고리즘과는 아무런 관련이 없습니다. 유전학을 할 수 있고, 오버샘플링을 완료하여 유전학을 개선할 수 있지만 최적화 샘플을 벗어난 결과는 하나이며, 대부분 슬픈 결과가 될 것입니다.
이것은 불필요한 방법의 예입니다))) 그래서 우리가 말하는 극한에 대한 잘못된 생각입니다.
위는 격자형 답이 있는 예시입니다. 최적화 문제를 요약된 답인 "최대 잔액"이 아니라 각 거래의 잔액의 직접 차이에서 이차 편차로 축소합니다. 이것은 원래 문제를 미분으로 변환하는 방법의 예입니다. 결과는 균형 측면에서 이산 함수가 아닌 부드러운 함수가됩니다. 내 예에서 최종 균형은 10과 같습니다.
이것이 일반적인 방식입니다. 모든 알고리즘이 "안전한" 길을 찾을 수 있는 것은 아니며, 검색 속성과 수렴 및 수렴 속도 모두 중요합니다.
가장 간단한 경우에는 정상으로 올라가는 산 주변의 나선형 곡선이 될 것입니다. 산이 매끄럽지 않기 때문에 도로 건설에는 적어도 몇 가지 변형이 있습니다. 이것은 특정 기준을 충족하는 솔루션의 고원이며 산 표면 어딘가에있는 영역 형태의 고원이 아닙니다. 산의 고원은 최적의 솔루션이 아닙니다. 솔루션의 고원은 최적의 솔루션입니다.
그런데 테스터는 복잡한 최적화 기준을 가지고 있으며 균형, 이익 계수 및 기타 기준을 개별적으로 사용하는 것보다 더 부드러운 함수입니다. 최적화 함수를 더 부드럽게 만들기 위해 사용자 정의 기준을 만들 수 있습니다.
https://habr.com/ru/post/318970/
학습 네트워크를 위한 특정 알고리즘은 범용 알고리즘과 다르므로 두 가지를 비교 테스트하는 것이 더 흥미로울 것입니다.다시 한 번 강조하지만, 극한값은 가치가 없습니다. 극한값은 불안정한 지점이며, 게다가 우리는 임의의 프로세스를 다루고 있고 고정되지 않은 프로세스를 다루기 때문에 존재하지도 않습니다.
우리는 그림에 표시된 것과 같은 고원이라도 수익성이 있다면 지역 및 글로벌 최소값보다 높더라도 고원을 찾아야 합니다. 이러한 고원은 이론적으로 TS의 수익성 상한선을 보여줄 것입니다. 그리고 발견 된 극한은 전혀 아무것도 아닙니다. 그들은 확실히 미래가 아니지만 고원에 대한 희망이 있습니다.
이것이바로 제가 더 기술적 인 수준에서만실현하려는 것입니다....
고원 대신 실제 신호가 있고 극한 대신 노이즈가 있습니다 ...
최적화 표면에 노이즈가 있다는 것을 당연하게 생각한다면 노이즈를 피하고 새로운 데이터에 훨씬 더 견고해야하는 실제 극값을 찾아야합니다.... 논리적으로 느린 신호는 빠른 노이즈보다 시간이 지남에 따라 느리게 변화하기 때문입니다.
복잡한 기준은 최신 릴리스에서 어떤 이유로 제거되었습니다 :)
있는 것 같습니다)))
마지막으로 자체 손실 함수를 얻은 도함수는 샤프, 오차 및 가중치의 곱으로 표현됩니다.
is_max_optimal=False는 값이 감소하고 있음을 나타내지만 -1도 곱했기 때문에 그 반대가 참입니다.
부스트에 그라데이션을 통해 밸런스나 다른 것을 입력할 수 있는 방법이 있나요.....
여기 회로도가 있습니다:
차트에 완벽한 거래로 표시합니다 (극단적 인 다운에서 우리는 매수, 극단적 인 업에서 우리는 매도) 가짜 완벽한 거래를 만듭니다.
이를 완벽한 균형이라고 부르겠습니다.
다음으로 부스트에 따른 무역 수지를 계산합니다.
를 계산한 다음 목적 함수에서 부스트와 이상적인 균형의 무역 수지 오차를 간단히 계산합니다.
즉, 추상적 인 이익 최대치를 찾는 것이 아니라 이익 균형으로 표현 된 이상적인 무역에 대한 조정을 얻습니다.
파란색은 이상적인 균형, 검은색은 추적 및 모델 테스트입니다.
그런 것 같습니다.)