스크립트 형태의 신경망 - 페이지 12

 
TheXpert писал (а) >>

그럼에도 불구하고 많은 문제가 5층 퍼셉트론으로 해결되며 정리가 있다고 해서 3층 퍼셉트론이 만병통치약은 아닙니다.

아주 적은 예외를 제외하고는 모든 문제가 하나의 은닉층을 가진 2층 퍼셉트론으로 해결된다고 간단히 설명되어 있습니다! 네, 용어상 NN의 입력 노드(뉴런이 포함되지 않은 노드)를 레이어로 계산하는 것처럼 보이지만 저는 그렇지 않습니다.

5-6-6-2 네트나 3-ply 5-25-2 교체를 쓰는게 나을까요? 적절한 비선형성을 보장하기 위해 이러한 많은 수를 얻을 수 있습니다.

나는 XY-1 아키텍처를 사용할 것입니다 - 그것은 문제를 해결합니다. 또한, 은닉층 Y의 뉴런 수는 2부터 시작하여 네트워크의 일반화 속성이 개선되지 않을 때까지 실험적으로 선택합니다. 내 겸손한 경험에 따르면 많은 실제 구현의 경우 이 계층에 있는 두 개의 뉴런으로 충분합니다. 뉴런의 수가 추가로 증가할수록 학습 시간이 증가하고, 시냅스의 수의 증가로 인해 훈련 샘플의 크기나 입력의 차원을 증가시킬 필요가 있는데, 이는 "처리 " 중요하지 않은 정보 또는 신경망의 근사 속성 저하(Yezov에 따르면 이러한 속성은 1/d로 떨어짐, 여기서 d는 입력 수) 등 등. 좋지 않은 것입니다.

물론 10층 퍼셉트론을 구축할 수 있으며 작동할 것입니다. 하지만 무엇을 위해?

 
Neutron писал (а) >> 를 썼습니다.

아주 적은 예외를 제외하고는 모든 문제가 하나의 은닉층을 가진 2층 퍼셉트론으로 해결된다고 간단히 설명되어 있습니다! 네, 용어상 NN의 입력 노드(뉴런이 포함되지 않은 노드)를 레이어로 계산하는 것처럼 보이지만 저는 그렇지 않습니다.

나는 XY-1 아키텍처를 사용할 것입니다 - 그것은 문제를 해결합니다. 또한, 은닉층 Y의 뉴런 수는 2부터 시작하여 네트워크의 일반화 속성이 개선되지 않을 때까지 실험적으로 선택합니다. 내 겸손한 경험에 따르면 많은 실제 구현의 경우 이 계층에 있는 두 개의 뉴런으로 충분합니다. 뉴런의 수가 추가로 증가할수록 학습 시간이 증가하고, 시냅스의 수의 증가로 인해 훈련 샘플의 크기나 입력의 차원을 증가시킬 필요가 있는데, 이는 "처리 " 중요하지 않은 정보 또는 신경망의 근사 속성 저하(Yezov에 따르면 이러한 속성은 1/d로 떨어짐, 여기서 d는 입력 수) 등 등. 좋지 않은 것입니다.

입력으로 10이 있다고 가정해 보겠습니다. 은닉층 2면 충분하다?? 나는 믿지 않으며, 다소 어려운 작업에 수렴하지 않을 것입니다.

입력 레이어 정보. 때로는 임계값이 있는 입력 레이어를 수행할 가치가 있으므로 전체 시스템의 필수적인 부분으로 다른 레이어로 고려하는 것이 좋습니다.

 
sergeev писал (а) >> 를 썼습니다.


흠 .. 하지만 이 최적을 어떻게든 일반화할 수 있습니다. 그리고 약 5층과 3층도 흥미롭다. 이론은 어디에 있습니까?



최적의 경우 - 내 개인적인, 아마도 잘못된 경험. 레이어 수에 대해-실제로 만났습니다. 입력을 출력으로 변환하는 비선형성에 따라 대부분의 작업은 3계층 네트워크로 해결할 수 있습니다. 이론에 관해서는, 죄송합니다, 그것은 오래전 일입니다 ...

 
TheXpert писал (а) >>

그럼에도 불구하고 많은 문제가 5층 퍼셉트론으로 해결되며, 정리가 있다고 해서 3층 퍼셉트론이 만병통치약은 아닙니다.


5-6-6-2 네트나 3-ply 5-25-2 교체를 쓰는게 나을까요? 적절한 비선형성을 보장하기 위해 이러한 많은 수를 얻을 수 있습니다.

그건 그렇고, 당신은 XORa를 위한 가장 융합된 아키텍처를 알고 있습니까?


4개의 뉴런 중간 -- S자형


XOR에 대한 분석 솔루션이 있습니다.


outXOR = in1 + in2 - 2*in1*in2


여기서: in1과 in2는 0에서 1 사이의 값을 취하는 입력입니다.


수렴은 즉각적입니다.

 
Reshetov писал (а) >> 를 썼습니다.


XOR에 대한 분석 솔루션이 있습니다.


outXOR = in1 + in2 - 2*in1*in2


여기서: in1과 in2는 0에서 1 사이의 값을 취하는 입력입니다.


수렴은 즉각적입니다.

LOL, 모든 기능에 대해 분석 솔루션이 있지만 찾기만 하면 ... 때로는 너무 어렵습니다.

3층 퍼셉트론이 항상 최선의 선택은 아니라는 것을 다시 한 번 보여주기 위해 이 예를 들었습니다.

 
TheXpert писал (а) >>

3층 퍼셉트론이 항상 최선의 선택은 아니라는 것을 다시 한 번 보여주기 위해 이 예를 들었습니다.

이 문제는 방사형 기능을 기반으로 하는 뉴런 및 NS에 임계값이 있는 3층 퍼셉트론으로 해결할 수 있습니다.

일반적으로 많은 옵션이 있으며 작업은 적절한 옵션을 찾는 것입니다.

 
Neutron писал (а) >> 를 썼습니다.

이 문제는 방사형 기능을 기반으로 하는 뉴런 및 NS에 임계값이 있는 3층 퍼셉트론으로 해결할 수 있습니다.

일반적으로 많은 옵션이 있으며 작업은 적절한 옵션을 찾는 것입니다.

사진 감사합니다.

 
이 책들을 주세요. 또는 저자는 누구입니까?
 
하이킨 제품입니다. 주제의 이전 페이지에 대한 세부 정보.
 

다음은 주어진 역사의 깊이에 대한 해결책을 제시할 스크립트를 작성하는 특정 작업입니다.

구매, 판매 또는 차단을 수행하려면 특정 최소 네트워크 구성과 필요한 최소 입력 수를 정의한 다음 구현해야 합니다. 저것들. 참조 조건을 결정하면 전 세계가 구현에 빠질 것이므로 그래프에 던져서 결과를 볼 수 있는 특정 제품이 있습니다. 나는 klot 웹사이트에서 neuroindicator 형태로 구현된 유사한 것을 보았습니다.

http://www.fxreal.ru/forums/topic.php?forum=2&topic=1