논문에 언급된 내용이 아닌 주관적인 생각은 파란색으로 표기하였습니다. Abstract 왜 random initialization을 사용하는 gradient descent가 deep neural network에서 저조한 결과가 나오는지 알아본다. non-linear activation function이 각각 학습에 어떤 영향을 미치는지 알아본다. 이 연구에서, sigmoid activation은 random initialization을 사용하는 DNN에 unsuit함을 알아낸다. 덜 saturate하는 새로운 non-linearity(softsign activation)가 학습에 유의미한 성과를 가져옴을 보여주었다. activation과 gradient가 layer별로 어떻게 변화하는지 살펴보았다. 훨씬 ..

Introduction 두 개의 equation과 두 개의 unknown이 있는 system을 예로 들어보자. $$ 2x - y = 0 \\ -x + 2y =3 $$ 이 system은 coefficient matrix $A$와 column vector $\bf{x}$, column vector $\bf{b}$로 나타낼 수 있다. $$ \begin{bmatrix} 2 & -1 \\ -1 & 2 \end{bmatrix} \begin{bmatrix} x \\ y \end{bmatrix} = \begin{bmatrix} 0 \\ 3 \end{bmatrix}$$ $$ A \bf{x} = \bf{b} $$ Row picture Row picture의 개념은 위 system을 row 방향으로 쪼개서 n개의 n-dim..

Abstract participated in LSVRC-2010 contest classify 1.2 million high-resolution images into the 1000 different classes on the test data, acheived top-1 and top-5 error rate of 37.5% and 17.5% architecture has 60 million parameters and 650,000 neurons consists of 5 Conv layer, 3 FC layer Used non-saturating neuron and GPU implementation 1. Introduction 지금까지의 machine learning method를 이용한 object r..

std::sort sort 함수는 헤더 파일 내에 정의되어 있다. 기본적으로는 (first, last)를 parameter로 받아서 오름차순으로 정렬한다. time complexity는 O(NlogN)이고, 같은 값이 있을 경우 순서는 보장되지 않는다. 기본 용례 #include #include #include using namespace std; int main(void) { vector a = {5,2,7,3,4}; sort(a.begin(),a.end()); for(auto i : a) { cout

What is a API API는 application programming interface의 약자로, 어떻게 통신이 이루어져야 하는가에 대한 약속이다. What is difference between an API and a Protocol protocol과 다른 점은 protocol은 두 통신 대상 사이에서 어떻게 메시지를 보낼 것인가에 대한 syntax를 포함한 통신 규약을 의미한다. 반면 API는 데이터를 통신하는 데에 이용하는 interface를 의미한다. What is REST API REST는 Representational State Transfer의 줄임말이다. REST는 protocol이나 표준이 아닌 architecture style이다. 따라서 API는 다양한 방식으로 구성될 수 있다..

AppBar 클래스 개요 AppBar 클래스는 앱의 상단 바를 구성하는 역할을 한다. AppBar는 다음과 같은 모양이다. 맨 위쪽엔 leading, title, actions 위젯이 있다. leading widget은 맨 앞에 놓일 위젯, title은 위젯에 들어갈 문구를 결정한다. actions 자리에는 보통 간단한 아이콘으로 기능을 추가하는 데에 사용된다. 중간에는 자유롭게 늘려 사용할 수 있는 공간인 flexibleSpace, 아래에는 bottom 위젯을 추가할 수 있다. 보통 다음과 같이 사용된다. 위의 앱에서는 title에 AppBar Demo라고 출력되고, actions에 아이콘이 추가되어 간단한 기능을 하는 예시이다. actions 예로 AppBar에 돋보기 아이콘과 알림 아이콘을 추가해보..