You are viewing a single comment's thread from:
RE: 4-1 TensorFlow 머신 러닝의 Back Propagation 기법에 의한 선형회귀 예제
경사하강법 적용할 때 뭐 어떤 조건이 없나요? ㅇ_ㅇ 그냥 막 적용하더라구요. 일반적으로 이렇게 된다. 뭐 이런 소리나 하면서요. 제가 제대로 몰라서 그런가. 어떤 법칙이라도 적용조건과 한계가 있기 마련인데, 무슨 절대법칙도 아니고 마구잡이라도 적용해도 되는건가요.
최소제곱법을 적용하면 W에 대한 2차식이므로 아무런 조건 없이 적용이 가능하며
Softmax는 cost 함수가 Cross Entropy 를 사용하는데 2차식처럼 아래로 우묵해서 그냥쓰면 되며
Sigmoid 를 쓸 경우에도 Softmax 비슷하게 아래로 우묵한 형태로 되어 있어 특별한 조건들이 없이 폭넓게 사용이 가능합니다.
오호 ㅇ_ㅇ 그렇군요. 감사합니다. 그런데 왜 이렇게 적용가능하다는 것을 모를까요. 최소제곱법. softmax. sigmoid를 모르는군요, 저는. 헐... 그것부터 한 번 파봐야겠습니다.
항상 예제와 함께 블로그에 올려 두었으니 읽어보시기 바랍니다.
알겠습니다. ^^ 열심히 읽어보겠습니다. ㅎㅎㅎㅎ