단일 계층 NN의 경우 비선형 함수로 출력을 활성화해도 선형 출력에 비해 컴퓨팅 성능이 추가되지 않는다는 것을 엄격하게(수학자의 작업에 대한 참조 제공) 표시할 수 있습니다. 따라서 비선형 FA가 있는 단일 뉴런은 넌센스입니다.
2계층 NN의 경우 출력 뉴런의 활성화는 계산 능력을 추가하지 않으므로(이 아키텍처는 이미 가능한 모든 아키텍처(3, 4 등)의 최대 또는 동일한 계산 능력을 가짐)를 사용하여 활성화를 사용하는 것이 합리적입니다. 출력이 추가되면 하이퍼탄젠트에 의한 출력 뉴런의 정확한 예측 확률로 해석됩니다.
선형 출력의 경우 미분은 (1-OUT)이 아니라 단순히 1입니다. 이것은 선형 함수 y(x)=1*x의 미분입니다.
단일 입력은 물론 교육 중과 작업 중에 모두 사용됩니다. 눈치채길 잘했어! 이 버그를 놓쳤습니다. 뉴런을 나타내는 올바른 방법은 다음과 같습니다.
W[0]은 항상 1이 공급되는 가중치입니다. 단일 뉴런의 경우 편향을 사용한 효과는 그다지 눈에 띄지 않습니다. 이 경우에도 학습 과정을 가속화하는 데 중요한 역할을 할 상황을 시뮬레이션하는 것은 어렵지 않습니다.
если девушку слегка недообучить - ну дать её всего 5-7 эпох - то тангенсы обеих мнк будут больше единицы, не говорит ли это о том, что девушка заглядывает в будущее(я не об синусе)?
아니오, 이것은 단지 소량의 통계 자료와 열악한 교육에 관한 것입니다. 스스로 판단하십시오. 실제보다 더 나은 것을 알 수는 없습니다. 이 제한적인 경우는 tg()=1에 해당하며 1보다 큰 것은 데이터 분산 통계 때문일 수 있습니다.
이제 저는 이 뉴런 하나를 만지작거리고 있습니다. 모든 것이 내 머리 속에 제대로 자리잡을 필요가 있고, 나도 코드를 간단한 블록으로 쪼개고 싶다. 그리고 내일 나는 내 여자 친구를 위해 또 다른 레이어를 만들려고 노력할 것이다. 그러나 다소 어리석은 질문이 있습니다. Matkad에서 MQL로 코드를 다시 작성할 때 무슨 일이 일어났는지 어떻게 확인합니까? 직접 다시 작성할 수는 없습니다. matcad는 일반적으로 다른 환경이며 거기에서 프로그램을 빌드하는 논리가 MQL과 동일하지 않습니다.
예를 들어, 나는 경사각의 탄젠트(실제 입력의 경우)를 국회 업무의 질적 특성 또는 올바르게 추측된 부호의 백분율(이진 부호의 경우)의 적분 특성으로 추론하고 비교했습니다. Matkad에 있는 사람들과 함께 말이죠. 사실, 지금까지 MKL 표준에 따라 NS-ku를 다시 작성해야 합니다. 이것은 0 카운트가 마지막이자 더 내륙일 때입니다(matkad에서는 그 반대도 마찬가지). 또한 Wiener 프로세스에서 NN 연산의 정확성을 확인하는 것이 필수적이며, 이때는 랜덤 변수를 적분하여 VR을 얻을 때입니다. 여기에서 당신의 여자 친구는 시험에서 철 듀스를 얻어야하며 이것은 그녀가 바람을 피우지 않는다는 것을 나타낼 것입니다. 경사각의 접선은 0이 되어야 하고 실험 횟수는 1/n으로 무한대가 되는 경향이 있습니다.
그래서 제 잘못이 무엇인지 알게 된 것 같아요. 사실, 훈련 벡터의 길이는 가중치의 수와 같다는 것이 밝혀졌습니다! 뉴런의 출력을 훈련 벡터의 각 샘플과 비교하여 수정 사항을 누적하지만 n + 1 너와만 비교하면됩니다. 나는 새로운 코드를 작성한다
그래서 그래프가 너무 비정상적입니다.
여기, 살펴보세요:
파란색 - 훈련 샘플, 빨간색 - 테스트. 탄젠트 값은 그림의 왼쪽 상단 모서리에 있습니다.
가중치의 초기 초기화를 완전히 제거해야 했던 것이 이상합니다. 그제서야 결과가 반복 가능하게 되었습니다. 아직 질문이 많지만 이제 끝났습니다... -:)
목록 집착. 죄송합니다. 아직 코멘트가 없지만 모든 것이 매우 간단하고 다양한 기능 없이 수행됩니다. 접선과 최소 제곱을 제외하고 모든 것이 하나의 절차에 있습니다.
나를 위해, 당신은 학습 벡터에 번호를 매기기 위한 매우 복잡한 논리를 가지고 있습니다 ...
아마도 오류는 인덱스의 평범한 혼란에 있거나 통계 수집을 위한 전체 절차( W [i] <-0) 동안 가중치를 한 번만 재설정한다는 사실에 있습니다.
NN에 대한 입력인 벡터 D 는 통계 세트(인덱스 i )로 다시 계산되지 않습니다. 내가 이것을 완전히 이해하지 못했기 때문에 내가 틀렸을 수도 있습니다. 코드에 연속 번호 매기기를 도입하는 것이 더 쉬웠고 다음과 같은 일이 발생했습니다.
이제 소녀는 가중치의 초기 무작위화를 느끼고 적절하게 학습합니다(두 선 모두 원점을 통과함). 빨간색 - 교육 샘플, 파란색 - 시험. 수정된 파일은 아래에 첨부합니다.
만나다...
말해봐, Sergey , 왜 당신의 2층(그리고 당신은 처음부터 그것에 대해 이야기하고 있음)에 활성화 함수가 없는 출력 뉴런이 있습니까? 그러면 파생상품은 어떻게 변할까요? 저것들. 이었다(일) (1-OUT^2)
(1-OUT) ?
P.S 도움주셔서 감사합니다
아하! 나는 마침내 이것이 어떻게 작동하는지 알아 냈습니다. 그러나 단일 입력은 훈련 시간에만 필요하고 다른 모든 것과 마찬가지로 데이터에 사용됩니까?
그런 생각조차 하지 않았어! 또한 입력은 모두 단순하며 하이퍼탄젠트가 없습니다. VR이 일반적인 기능이기 때문입니까, 아니면 단지 예를 들면?
그리고 또 다른 질문: 소녀가 약간 훈련되지 않은 경우 - 음, 그녀에게 5-7 에포크만 주면 - 두 MNC의 탄젠트가 1보다 클 것입니다. 이것은 소녀가 미래를 내다본다는 것을 의미합니까? 사인)?
단일 계층 NN의 경우 비선형 함수로 출력을 활성화해도 선형 출력에 비해 컴퓨팅 성능이 추가되지 않는다는 것을 엄격하게(수학자의 작업에 대한 참조 제공) 표시할 수 있습니다. 따라서 비선형 FA가 있는 단일 뉴런은 넌센스입니다.
2계층 NN의 경우 출력 뉴런의 활성화는 계산 능력을 추가하지 않으므로(이 아키텍처는 이미 가능한 모든 아키텍처(3, 4 등)의 최대 또는 동일한 계산 능력을 가짐)를 사용하여 활성화를 사용하는 것이 합리적입니다. 출력이 추가되면 하이퍼탄젠트에 의한 출력 뉴런의 정확한 예측 확률로 해석됩니다.
선형 출력의 경우 미분은 (1-OUT)이 아니라 단순히 1입니다. 이것은 선형 함수 y(x)=1*x의 미분입니다.
단일 입력은 물론 교육 중과 작업 중에 모두 사용됩니다. 눈치채길 잘했어! 이 버그를 놓쳤습니다. 뉴런을 나타내는 올바른 방법은 다음과 같습니다.
W[0]은 항상 1이 공급되는 가중치입니다. 단일 뉴런의 경우 편향을 사용한 효과는 그다지 눈에 띄지 않습니다. 이 경우에도 학습 과정을 가속화하는 데 중요한 역할을 할 상황을 시뮬레이션하는 것은 어렵지 않습니다.
если девушку слегка недообучить - ну дать её всего 5-7 эпох - то тангенсы обеих мнк будут больше единицы, не говорит ли это о том, что девушка заглядывает в будущее(я не об синусе)?
아니오, 이것은 단지 소량의 통계 자료와 열악한 교육에 관한 것입니다. 스스로 판단하십시오. 실제보다 더 나은 것을 알 수는 없습니다. 이 제한적인 경우는 tg()=1에 해당하며 1보다 큰 것은 데이터 분산 통계 때문일 수 있습니다.
... 수학자들의 작업에 대한 링크 제공
-:) 그것이 얼마나 쓸모없는지 이해하시길 바랍니다... 적어도 제 경우에는요.
이제 저는 이 뉴런 하나를 만지작거리고 있습니다. 모든 것이 내 머리 속에 제대로 자리잡을 필요가 있고, 나도 코드를 간단한 블록으로 쪼개고 싶다. 그리고 내일 나는 내 여자 친구를 위해 또 다른 레이어를 만들려고 노력할 것이다. 그러나 다소 어리석은 질문이 있습니다. Matkad에서 MQL로 코드를 다시 작성할 때 무슨 일이 일어났는지 어떻게 확인합니까? 직접 다시 작성할 수는 없습니다. matcad는 일반적으로 다른 환경이며 거기에서 프로그램을 빌드하는 논리가 MQL과 동일하지 않습니다.
여기, 물론, 매복!
예를 들어, 나는 경사각의 탄젠트(실제 입력의 경우)를 국회 업무의 질적 특성 또는 올바르게 추측된 부호의 백분율(이진 부호의 경우)의 적분 특성으로 추론하고 비교했습니다. Matkad에 있는 사람들과 함께 말이죠. 사실, 지금까지 MKL 표준에 따라 NS-ku를 다시 작성해야 합니다. 이것은 0 카운트가 마지막이자 더 내륙일 때입니다(matkad에서는 그 반대도 마찬가지). 또한 Wiener 프로세스에서 NN 연산의 정확성을 확인하는 것이 필수적이며, 이때는 랜덤 변수를 적분하여 VR을 얻을 때입니다. 여기에서 당신의 여자 친구는 시험에서 철 듀스를 얻어야하며 이것은 그녀가 바람을 피우지 않는다는 것을 나타낼 것입니다. 경사각의 접선은 0이 되어야 하고 실험 횟수는 1/n으로 무한대가 되는 경향이 있습니다.
다음은 Wiener 시리즈 생성기입니다.
비닐에 있습니다.
그래서 잠시 살펴보겠습니다. "기적"의 원인을 찾으려던 마지막 차트에서 다시는 아무것도 남지 않았습니다. iFractals 는 뻔뻔하게 저를 속였습니다. iFractals를 작성하자마자 모든 것이 즉시 제자리에 떨어졌습니다. 기적은 사라졌습니다 :)
행운을 빌어요 동료들