알겠습니다. 다른 길로 가겠습니다. 100개의 입력으로 구성된 입력 세트가 있다고 가정합니다. 각 입력에 대한 엔트로피를 계산하고 -10에서 10 사이의 결과를 얻었습니다. 질문: 어떤 입력을 취하는 것이 더 좋을까요????
0 아래에 10개의 입력이 있고 나머지는 위에 있지만 모든 값은 -10과 10 사이에 있다고 가정해 보겠습니다.....
마이클 마르쿠카이테스 :
그리고 한 가지 더... 상호 정보를 계산할 수 없습니다.... 아니면 엔트로피와 VI의 후속 계산을 위한 조건부 확률입니다.
ktonit이 손가락이나 더 나은 예를 설명할 수 있습니까?
첫 번째 열 40행 입력 변수
두 번째 열 40줄 ....
밤에 그는 가설을 확인하는 데 큰 역할을 했습니다. 이 것들과 아무 것도 없이 여기에서 쉬었습니다. 제발 도와주세요 그리고 나는 내 가설에 대한 내 생각을 표현할 것입니다 ...
나는 정보 이론을 공부하지 않았지만 R에서 엔트로피에 대한 약간의 경험이 있습니다.
사실, 엔트로피가 많을수록 데이터의 혼돈이 커집니다. 엔트로피가 높은 예측 변수는 대상과 다소 관련이 없습니다. 그리고 그 반대의 경우도 마찬가지입니다. 낮은 엔트로피는 목표가 예측자로부터 쉽게 결정된다는 것을 나타냅니다.
네젠트로피는 엔트로피의 반대말로, 엔로피에 비해 새로운 지식을 가져오지 않고 단순히 편의상 도입한 것입니다. 예측 변수의 엔트로피가 크면 네겐트로피는 작습니다. 엔트로피가 작으면 네겐트로피가 큽니다. 뜨겁고 차가움, 빛과 어둠 등과 같이 하나가 부드럽게 다른 하나에 스며든다.
하지만 그게 다가 아닙니다. 교차 엔트로피도 있습니다. 이것은 두 예측자가 함께 목표와 관련되는 방식이며, 높은 교차 엔트로피는 나쁘고 낮은 교차 엔트로피는 좋은 것입니다. 기계 학습에서는 엔트로피가 높은 두 예측 변수를 함께 사용할 때 낮은 교차 엔트로피를 제공하는 경우가 종종 있습니다. 이것이 바로 우리 모두에게 필요한 것입니다. 각각의 예측 변수는 그 자체로 목표와 나쁜 관련이 있을 수 있지만(둘 모두에 대해 높은 엔트로피), 함께 있으면 과녁을 맞출 수 있습니다(낮은 교차 엔트로피). 따라서 단순히 각 예측 변수의 엔트로피를 개별적으로 측정하고 추정에 따라 집합을 선택할 수 없습니다. 예를 들어 교차 엔트로피가 낮은 전체 예측 변수 집합을 선택해야 합니다. 예를 들어 엔트로피를 별도로 보지도 않습니다.
다음은 예입니다 -
1) 높은 엔트로피 예측자. 일반적으로 대상 클래스를 예측하는 것은 불가능합니다.
2) 낮은 엔트로피 예측자. 자세히 보면 예측값이 0에서 0.25 사이이거나 0.4보다 작으면 클래스 값 = 1이고 그렇지 않으면 클래스 = 2입니다. 이것은 ML에서 사용하기에 매우 편리한 예측값입니다.
3) 각각 높은 엔트로피를 갖고 모델이 첫 번째 또는 두 번째 예측자만을 사용하여 목표를 예측할 수 없는 두 개의 예측자. 그러나 그것들을 함께 그리면(X 축은 첫 번째 값이고 Y는 두 번째 값) 대상 클래스에 대한 매우 좋은 정보를 함께 제공한다는 것이 즉시 분명합니다(두 예측 변수에 대한 동일한 부호 = class1, 다른 기호 = class2). 이것은 낮은 교차 엔트로피의 예입니다.
비난에도 불구하고 나는 계속할 것입니다. 조건부 확률은 내가 다음과 같이 계산합니다. 조건을 만족하는 데이터의 첫 번째 열은 19개, 두 번째 열은 20개입니다. 조건부 확률을 구합니다. 19+20을 더하고 총 레코드 수인 80으로 나눕니다(첫 번째 열에 40개, 두 번째 열에 40개). 그리고 당신은 확률로 나누어야합니다 .... 열 A 입력과 열 B 출력이있는 경우 조건부 진입 확률을 찾으려면 총 확률을 입력 확률로 나누어야합니다 열. 바르게???
어느 것을 선택할 것인가? 빨간색? 음의 엔트로피 또는 파란색을 가지고 있기 때문에? 제로에 가깝습니다. 나는 이 두 모델이 다른 방향을 본다고 말하지만, 우리는 시간이 누가 옳았다는 것을 알 수 있다는 것을 압니다. 누가 이것을 생각합니까???
위에서 작성한 내용을 요약하면 먼저 예측 변수 조합의 교차 엔트로피를 결정하고 교차 엔트로피가 더 낮은 예측 변수 조합을 취해야 합니다. 음수를 가지고 있다는 것이 이상합니다. 제 경우에는 무한대에서 0까지입니다. 그러나 그것은 중요하지 않습니다. 가장 음수를 취하십시오.
내 생각에 NS의 출력 엔트로피는 뉴런 자체에 대한 평가로서 좋지 않습니다. 결국 네트워크의 출력을 조정하여 100%의 경우에 정답을 얻을 수 있고 낮은 엔트로피를 얻을 수 있지만 동시에 큰 과적합이 가능합니다. 오버핏은 나쁘다.
사실 엔트로피를 계산하는 Excel용 애드온을 찾았습니다. 계산의 논리를 바꾸지 않고 필요한 형태로 완성해서 그런 질문이 있습니다. 여기에서 이러한 사이클로아의 계산에서 어떤 일이 발생하는지 설명하십시오. 정확히 무엇을 하고 있는지 이해는 했지만 다른 방식으로 보는 방법은 다음과 같습니다 .... 흠 ....
ActiveSheet.Range(Data1)의 각 값에 대해
X(I) = 값
Nn = Nn + 값
나 = 나 + 1
다음 값
이 싸이클에서 배열 X가 쓰여지고, 질문이 없는 것처럼 누적량도 가는데 ....
I = 1 ~ N의 경우
X(I) = X(I) / Nn
다음 나는
배열의 각 요소를 값의 총량으로 나눕니다. 따라서 이것이 동일한 빈도 검색일 뿐이라고 생각합니다. 바르게????
위에서 작성한 내용을 요약하면 먼저 예측 변수 조합의 교차 엔트로피를 결정하고 교차 엔트로피가 더 낮은 예측 변수 조합을 취해야 합니다. 음수를 가지고 있다는 것이 이상합니다. 제 경우에는 무한대에서 0까지입니다. 그러나 그것은 중요하지 않습니다. 가장 음수를 취하십시오.
내 생각에 NS의 출력 엔트로피는 뉴런 자체에 대한 평가로 좋지 않습니다. 결국 네트워크의 출력을 조정하여 100%의 경우에 정답을 얻을 수 있고 낮은 엔트로피를 얻을 수 있지만 동시에 큰 과적합이 가능합니다. 오버핏은 나쁘다.
교차 엔트로피를 찾으려면 먼저 두 이벤트의 조건부 엔트로피를 찾아야 합니다. 이것이 바로 제가 지금 하고 있는 일입니다....
그리고 FOS에서 모델이 동작할 때 모델의 엔트로피 추정이 필요하다. 신호를 발행하면 이 신호의 엔트로피를 계산하고 결론을 도출할 수 있습니다. 신호의 엔트로피가 증가했습니다. 젠장, 떨어졌어, 이건 우리 증기기관차야....
:)))) 이 경우 마법사에게 도움을 요청해야 합니다. :)))).
한 가지만 말할 수 있습니다. 추세/평평한 상태를 담당하는 것은 네겐트로피입니다. 추세는 프로세스의 "기억"이고 분포와 네겐트로피의 "꼬리"가 거대하고 평면에서는 거의 0입니다. 나는 이것을 혼자만 다루고 있지만 이 작은 것의 중요성을 이해합니다. 연구된 매개변수.
아무것도 그를 도울 수 없습니다. 디너 스푼과 같은 트렌드/플랫 스위처는 제 시간에 맞춰야 합니다.
빨간선 - 실제. Syn.-모델. 이 예에서는 너무 늦었습니다. 아래 사진, 모델이 늦었습니다...
형제 여러분, 우리에게는 작은 발걸음이 남아 있지만 인류 전체에게는 큰 발걸음이 될 것입니다. . . . . . . . .
미샤, 믿었어! 난 알았다! 멋진! 너는 최고야!)))
미샤, 믿었어! 난 알았다! 멋진! 너는 최고야!)))
응원해주셔서 감사합니다 친구!!!!! 그녀가 정말 필요해요. 다음에 나에게 주소를 지정할 때만 올바르게 씁니다. 예쁘다YYY!!!! 훨씬 잘 들리네요....
계속하자...
값이 있는 두 개의 열이 있습니다. A 열의 이벤트 확률과 B 열의 다른 이벤트 확률을 계산했습니다. 조건은 0보다 매우 간단합니다. A 열에서 0보다 큰 이벤트 수를 계산하고 총 행 수로 나누고 B 열에서 동일한 수의 값을 계산하고 총 관찰 수로 나눕니다.
내 값으로 추가 작업 조건부 확률을 계산하는 방법???? 두 개의 열이 있고 둘 다 40개의 행이 있다는 것을 고려하면????
알겠습니다. 다른 길로 가겠습니다. 100개의 입력으로 구성된 입력 세트가 있다고 가정합니다. 각 입력에 대한 엔트로피를 계산하고 -10에서 10 사이의 결과를 얻었습니다. 질문: 어떤 입력을 취하는 것이 더 좋을까요????
0 아래에 10개의 입력이 있고 나머지는 위에 있지만 모든 값은 -10과 10 사이에 있다고 가정해 보겠습니다.....
그리고 한 가지 더... 상호 정보를 계산할 수 없습니다.... 아니면 엔트로피와 VI의 후속 계산을 위한 조건부 확률입니다.
ktonit이 손가락이나 더 나은 예를 설명할 수 있습니까?
첫 번째 열 40행 입력 변수
두 번째 열 40줄 ....
밤에 그는 가설을 확인하는 데 큰 역할을 했습니다. 이 것들과 아무 것도 없이 여기에서 쉬었습니다. 제발 도와주세요 그리고 나는 내 가설에 대한 내 생각을 표현할 것입니다 ...
나는 정보 이론을 공부하지 않았지만 R에서 엔트로피에 대한 약간의 경험이 있습니다.
사실, 엔트로피가 많을수록 데이터의 혼돈이 커집니다. 엔트로피가 높은 예측 변수는 대상과 다소 관련이 없습니다. 그리고 그 반대의 경우도 마찬가지입니다. 낮은 엔트로피는 목표가 예측자로부터 쉽게 결정된다는 것을 나타냅니다.
네젠트로피는 엔트로피의 반대말로, 엔로피에 비해 새로운 지식을 가져오지 않고 단순히 편의상 도입한 것입니다. 예측 변수의 엔트로피가 크면 네겐트로피는 작습니다. 엔트로피가 작으면 네겐트로피가 큽니다. 뜨겁고 차가움, 빛과 어둠 등과 같이 하나가 부드럽게 다른 하나에 스며든다.
하지만 그게 다가 아닙니다. 교차 엔트로피도 있습니다. 이것은 두 예측자가 함께 목표와 관련되는 방식이며, 높은 교차 엔트로피는 나쁘고 낮은 교차 엔트로피는 좋은 것입니다. 기계 학습에서는 엔트로피가 높은 두 예측 변수를 함께 사용할 때 낮은 교차 엔트로피를 제공하는 경우가 종종 있습니다. 이것이 바로 우리 모두에게 필요한 것입니다. 각각의 예측 변수는 그 자체로 목표와 나쁜 관련이 있을 수 있지만(둘 모두에 대해 높은 엔트로피), 함께 있으면 과녁을 맞출 수 있습니다(낮은 교차 엔트로피). 따라서 단순히 각 예측 변수의 엔트로피를 개별적으로 측정하고 추정에 따라 집합을 선택할 수 없습니다. 예를 들어 교차 엔트로피가 낮은 전체 예측 변수 집합을 선택해야 합니다. 예를 들어 엔트로피를 별도로 보지도 않습니다.
다음은 예입니다 -
1) 높은 엔트로피 예측자. 일반적으로 대상 클래스를 예측하는 것은 불가능합니다.
2) 낮은 엔트로피 예측자. 자세히 보면 예측값이 0에서 0.25 사이이거나 0.4보다 작으면 클래스 값 = 1이고 그렇지 않으면 클래스 = 2입니다. 이것은 ML에서 사용하기에 매우 편리한 예측값입니다.
3) 각각 높은 엔트로피를 갖고 모델이 첫 번째 또는 두 번째 예측자만을 사용하여 목표를 예측할 수 없는 두 개의 예측자. 그러나 그것들을 함께 그리면(X 축은 첫 번째 값이고 Y는 두 번째 값) 대상 클래스에 대한 매우 좋은 정보를 함께 제공한다는 것이 즉시 분명합니다(두 예측 변수에 대한 동일한 부호 = class1, 다른 기호 = class2). 이것은 낮은 교차 엔트로피의 예입니다.
응원해주셔서 감사합니다 친구!!!!! 그녀가 정말 필요해요. 다음에 나에게 주소를 지정할 때만 올바르게 씁니다. 예쁘다YYY!!!! 훨씬 잘 들리네요....
그래서 우리는 당신을 사랑합니다 마스터! 항상 신속하게, 항상 정확합니다! 당신은 우리의 소중한 사람입니다!!!)))
"미샤니나의 증인들". 2018년 2월
다시 질문입니다. NS에는 8가지 모델이 있습니다. 현재 신호에서 NS 출력의 엔트로피는 다음과 같습니다.
5.875787568 - 5.702601649 5.066989592 9.377441857 7.41065367 1.401022575 4.579082852 5.119647925
어느 것을 선택할 것인가? 빨간색? 음의 엔트로피 또는 파란색을 가지고 있기 때문에? 제로에 가깝습니다. 나는 이 두 모델이 다른 방향을 본다고 말하지만, 우리는 시간이 누가 옳았다는 것을 알 수 있다는 것을 압니다. 누가 이것을 생각합니까???
위에서 작성한 내용을 요약하면 먼저 예측 변수 조합의 교차 엔트로피를 결정하고 교차 엔트로피가 더 낮은 예측 변수 조합을 취해야 합니다. 음수를 가지고 있다는 것이 이상합니다. 제 경우에는 무한대에서 0까지입니다. 그러나 그것은 중요하지 않습니다. 가장 음수를 취하십시오.
내 생각에 NS의 출력 엔트로피는 뉴런 자체에 대한 평가로서 좋지 않습니다. 결국 네트워크의 출력을 조정하여 100%의 경우에 정답을 얻을 수 있고 낮은 엔트로피를 얻을 수 있지만 동시에 큰 과적합이 가능합니다. 오버핏은 나쁘다.
사실 엔트로피를 계산하는 Excel용 애드온을 찾았습니다. 계산의 논리를 바꾸지 않고 필요한 형태로 완성해서 그런 질문이 있습니다. 여기에서 이러한 사이클로아의 계산에서 어떤 일이 발생하는지 설명하십시오. 정확히 무엇을 하고 있는지 이해는 했지만 다른 방식으로 보는 방법은 다음과 같습니다 .... 흠 ....
ActiveSheet.Range(Data1)의 각 값에 대해
X(I) = 값
Nn = Nn + 값
나 = 나 + 1
다음 값
이 싸이클에서 배열 X가 쓰여지고, 질문이 없는 것처럼 누적량도 가는데 ....
I = 1 ~ N의 경우
X(I) = X(I) / Nn
다음 나는
배열의 각 요소를 값의 총량으로 나눕니다. 따라서 이것이 동일한 빈도 검색일 뿐이라고 생각합니다. 바르게????
음, 그게 다야... 확률을 알아내려면 모든 빈도를 더해야 합니다. 그래서 그렇지?
위에서 작성한 내용을 요약하면 먼저 예측 변수 조합의 교차 엔트로피를 결정하고 교차 엔트로피가 더 낮은 예측 변수 조합을 취해야 합니다. 음수를 가지고 있다는 것이 이상합니다. 제 경우에는 무한대에서 0까지입니다. 그러나 그것은 중요하지 않습니다. 가장 음수를 취하십시오.
내 생각에 NS의 출력 엔트로피는 뉴런 자체에 대한 평가로 좋지 않습니다. 결국 네트워크의 출력을 조정하여 100%의 경우에 정답을 얻을 수 있고 낮은 엔트로피를 얻을 수 있지만 동시에 큰 과적합이 가능합니다. 오버핏은 나쁘다.
교차 엔트로피를 찾으려면 먼저 두 이벤트의 조건부 엔트로피를 찾아야 합니다. 이것이 바로 제가 지금 하고 있는 일입니다....
그리고 FOS에서 모델이 동작할 때 모델의 엔트로피 추정이 필요하다. 신호를 발행하면 이 신호의 엔트로피를 계산하고 결론을 도출할 수 있습니다. 신호의 엔트로피가 증가했습니다. 젠장, 떨어졌어, 이건 우리 증기기관차야....