Logistic regression uses the sigmoid function as an activation function and the logability function as a cost function. Activation function Odds ratio: the probability that a particular event will occur. $$\frac{P}{(1 - P)}$$ Where P is the probability that it is a positive sample, which refers to the probability that the target to be predicted will occur. The log function is usually defined by ..

로지스틱 회귀분석은 시그모이드 함수를 활성화 함수로, 로그 가능도 함수를 비용함수로 사용한다. 활성화함수 오즈비(odds ratio) : 특정 이벤트가 발생할 확률 $$\frac{P}{(1 - P)}$$ 여기서 P는 양성 샘플일 확률로, 예측하려는 대상이 발생할 확률을 가리킨다. 보통 오즈비에 로그 함수를 취해 로짓 함수를 정의한다. $$ logit(P) = log \frac{P}{(1 - P)} $$ 특성의 가중치 합과 로그 오즈 사이의 선형관계는 다음과 같이 표현이 가능하다. $$ logit(P(y=1 \mid x)) = W_0X_0 + W_1X_1 + W_2X_2 + \cdots + W_mX_m = W^T X$$ * (P(y=1|x)은 x의 상황이 주어졌을 때의 1이 될 조건부확률임. 해당 알고리즘..

This post is code from notbook, which won bronze medal in kaggle. If you are interested, please refer to the laptop. www.kaggle.com/choihanbin/predict-titanic-survival-by-adaptive-linear-neuron In the previous posting, we looked at perceptron. This time we're going to talk about Adalin, a slightly modified version of this. 2020/12/31 - [English/Machine learning algorithm] - [1] Try implementing ..

본 포스팅은 kaggle에서 bronze 메달을 받은 notebook의 코드를 따왔습니다. 관심 있으신 분은 해당 노트북을 참고해보셔도 좋을 것 같습니다. www.kaggle.com/choihanbin/predict-titanic-survival-by-adaptive-linear-neuron 이전 포스팅에서는 퍼셉트론에 대해 알아봤습니다. 이번 시간에는 이를 약간 변형한 버전인 아달린에 대해 알아보겠습니다. 2020/12/22 - [머신러닝 교과서 with 파이썬, 사이킷런, 텐서플로] - 퍼셉트론(Perceptron) 구현해보기 아달린이란? 아달린은 Adaptive linear neuron의 약자입니다. 적응형 선형 뉴런은 퍼셉트론의 향상 버전이라고 생각할 수 있습니다. 퍼셉트론과의 가장 큰 사이는 가..

1. Mathematical definitions of artificial neurons Prior to implementing Perceptron, the mathematical definition of Perceptron must precede. The Perceptron we want to implement is simply a binary classification task with two classes. Defines the determination function by linear combination of the input value x and corresponding weight vector w. Linear combinations have organized concepts in diffe..

요즘 머신러닝 교과서 with 파이썬, 사이킷런, 텐서플로라는 책을 보면서 공부하고 있어요. 사실 전에 전공수업들을 때 교재여서 과제 제출할 때 참고하는 용도로 읽다가 종강한 뒤에는 책을 안폈어요. ㅎㅎ... 그러다가 최근에 텐서플로에 대해서 알아볼 게 있어서 읽어봤는데 생각보다 자세하고 이해하기 쉽게 써있더라고요. 그래서 이번 기회에 정리하면서 제대로 공부하려고 합니다. 우선 첫 챕터는 머신러닝의 종류와 개념들, 그리고 머신러닝의 작업 흐름에 대해서 설명해요. 수업 시간에 많이 다뤘던 내용이라 이 부분은 한 번 읽고 넘겼습니다! 나중에 기회가 된다면 해당 내용도 다뤄보도록 할게요. 두 번째 챕터는 퍼셉트론을 활용해서 간단한 분류 알고리즘을 직접 만들어보는건데, 읽다가 흥미로워서 정리할 겸 코드를 짜봤습..