그렇다면 전통적으로 뉴런에 사용되는 알고리즘도 리뷰에 포함시켜야 할 필요가 있다고 생각합니다.
오류가 여러주기 동안 크게 변하지 않는 경우, 즉 극한 주위에있는 경우 로컬인지 확인하기 위해이 극한에서 점프하기 위해 매개 변수를 강하게 점프한다는 것을 읽은 적이 있습니다. 로컬이면 다음 점프에서 다시 돌아오지 않고 전역이면 다시 돌아옵니다. 여러 번 반복할 수 있습니다. 일반적으로 공간을 더 넓게 탐색할 필요가 있습니다.
알고리즘을 '로컬'과 '글로벌'로 구분하지 않습니다. 알고리즘이 로컬 극한 중 하나에서 멈춘다면 그것은 기능이 아니라 결함입니다.
일반적으로 뉴런을 위한 것이 아니라 수염이 큰 수염을 가진 그라데이션 하강 알고리즘이 사용됩니다. 구글에서 검색하고 유치한 질문을 하지 마시고 그라디언트 하강이 다양한 유형의 국부적 극한 함정을 극복하는 방법을 배워보세요. 이것은 사람들이 수년 동안 구체적으로 해온 일입니다.
elibrarius #: 오류가 몇 주기 동안 크게 변하지 않는 경우, 즉 극한을 중심으로 회전하는 경우 로컬인지 확인하기 위해이 극한에서 점프하기 위해 매개 변수를 강하게 점프한다는 것을 읽은 적이 있습니다. 로컬이면 다음 점프에서 다시 돌아오지 않고, 글로벌이면 다시 돌아옵니다. 여러 번 반복할 수 있습니다. 일반적으로 공간을 더 넓게 탐색해야 합니다.
네, 맞아요. 그것이 막히지 않으려는 한 가지 방법입니다. 그건 그렇고, 얼마 전에 리바이스의 비행을보고 있었는데, 이 주제에서 나온 것입니다.
네, 시간이 날 때 애덤을 살펴보고 몇 가지 테스트를 해볼게요.
기사는 최고입니다, 단지 어떤 것에 반대할 자격이 없을 뿐입니다 :)
고마워))))
그렇다면 전통적으로 뉴런에 사용되는 알고리즘도 리뷰에 포함해야 할 필요성을 느낍니다.
실제로 이것은 뉴런이 훈련되지 않았다는 것을 의미합니다.
글쎄요, 그건 조금 나중에 생각해보죠.
AO에는 로컬 최적화와 글로벌 최적화 등 다양한 유형이 있습니다...
로컬은 그라데이션, 같은 아담 등... 글로벌은 유전학 등...
네트워크는 로컬 AO로 훈련되는데, 속도가 빠르고 가중치가 많기 때문이죠.
그리고 글로벌 AO를 훈련시키는 것은 효과적이지 않습니다...
그리고 가장 중요한 것은 약 10 억 개의 가중치 인 일반 뉴런을 글로벌 AO로 훈련하면 첫째, 오랜 시간을 기다려야하고 둘째, 글로벌 최소값을 찾았다 고 보장 할 수 없다는 것입니다 .....
그래서이 모든 이야기는 순수한 물에 대한 모독이고, 딥 러닝을 만든 사람들이 글로벌 최적화 알고리즘과 그 속성에 대해 모른다는 매우 순진한 믿음이며, 너무 뻔해서 재미도 없습니다.....
글로벌 최적화 알고리즘과 로컬 최적화 알고리즘을 구별하는 방법을 배우고 이산 최적화, 연속 최적화, 다중 기준 최적화 등이 있습니다.....
그리고 그들 각각에는 자체 작업이 있으며 모든 것을 더미에 쌓고 무언가를 테스트하는 것은 욕설입니다.
글쎄요, 그건 나중에 생각해야 할 문제입니다.
AO에는 로컬 최적화와 글로벌 최적화 등 다양한 유형이 있습니다...
로컬은 그라데이션, 동일한 아담 등 글로벌은 유전학 등...
네트워크가 로컬로 훈련되는 이유는 "스케일이 많기 때문"입니다.
글로벌 AO를 훈련하는 것은 효율적이지 않습니다...
그리고 가장 중요한 것은 약 10억 개의 가중치를 가진 일반 뉴런을 글로벌 AO로 훈련하면 첫째, 오랜 시간을 기다려야 하고 둘째, 글로벌 최소값을 찾았다고 보장할 수 없다는 것입니다.....
그래서이 모든 이야기는 순수한 물에 대한 모독이고, 딥 러닝을 만든 사람들이 글로벌 최적화 알고리즘과 그 속성에 대해 모른다는 매우 순진한 믿음이며, 너무 뻔해서 재미도 없습니다....
끔찍합니다.
알고리즘을 "로컬"과 "글로벌"로 구분하지 않습니다. 알고리즘이 로컬 극한 중 하나에 갇히면 기능이 아니라 결함입니다.
알고리즘은 일반적으로 특정 작업에 사용되지만 예외 없이 모든 알고리즘을 융합 품질 측면에서 비교할 수 있습니다.
감사합니다)))
그렇다면 전통적으로 뉴런에 사용되는 알고리즘도 리뷰에 포함시켜야 할 필요가 있다고 생각합니다.
끔찍하네요.
알고리즘을 '로컬'과 '글로벌'로 구분하지 않습니다. 알고리즘이 로컬 극한 중 하나에서 멈춘다면 그것은 기능이 아니라 결함입니다.
일반적으로 뉴런을 위한 것이 아니라 수염이 큰 수염을 가진 그라데이션 하강 알고리즘이 사용됩니다. 구글에서 검색하고 유치한 질문을 하지 마시고 그라디언트 하강이 다양한 유형의 국부적 극한 함정을 극복하는 방법을 배워보세요. 이것은 사람들이 수년 동안 구체적으로 해온 일입니다.
오류가 몇 주기 동안 크게 변하지 않는 경우, 즉 극한을 중심으로 회전하는 경우 로컬인지 확인하기 위해이 극한에서 점프하기 위해 매개 변수를 강하게 점프한다는 것을 읽은 적이 있습니다. 로컬이면 다음 점프에서 다시 돌아오지 않고, 글로벌이면 다시 돌아옵니다. 여러 번 반복할 수 있습니다. 일반적으로 공간을 더 넓게 탐색해야 합니다.
끔찍하네요.
알고리즘을 '로컬'과 '글로벌'로 구분하지 않습니다. 알고리즘이 로컬 극한 중 하나에서 멈춘다면 그것은 기능이 아니라 결함입니다.
알고리즘은 일반적으로 특정 작업에 사용되지만 예외 없이 모든 알고리즘을 융합 품질 측면에서 비교할 수 있습니다.
모두 5 )))))))))
맥심카와 같은 대학을 다녔나요?