본문 바로가기

전체 글

(28)
Entropy란? Shannon Entropy란? Shannon이 정의한 엔트로피는 채널의 정보 수준을 측정하는 정량적 방법입니다. 이 값을 통해 랜덤 변수의 평균 불확실성을 알 수 있습니다. 확률 변수의 가능한 값 중 하나가 확률 1을 가질 때 엔트로피는 0과 같습니다. 즉, 불확실성 수준이 없으며 모든 기호가 동일한 확률값을 가질 때 Entropy는 최대 값에 도달합니다. 수학적으로 $x$가 알파벳 $X$를 가진 이산 랜덤 변수일 때 확률질량함수(pmf)는 $p(x)=\Pr\left\lbrace x_n=a_j\right\rbrace ,a_j\in X$ 이 되게 됩니다. $X$ 의Entropy는 아래 Equation와 같이 정의 됩니다. \begin{equation} \label{eq:entropydef} H\left(..
Harris corner detection Harris corner detection Harris corner detection은 corner point를 찾기 위한 방법으로, 기존의 Moravec 방법을 개선해서 고안되었습니다. Moravec coner's detector은 Local window를 사용하여 window를 shifting해 가면서 이미지의 평균 변화값을 측정하는 방법입니다. Moravec corner detector은 다음과 같은 3가지 문제점이 있었습니다. (Moravec 방법은 여기서 자세히 다루지는 않겠습니다) 1. Response가 비등방성이고, 45도의 shift밖에 고려하지 못한다. 2. Binary, Rectangular window를 사용하기에 Response에 Noise가 많다. 3. Moravec 방법은 min..
Particle Swarm Optimization(PSO) Particle Swarm Optimization란? Particle Swarm method는 동물들의 군집화 행동에서 영감을 받아 1995년에 Social Psychologist 'James Kennedy'와 Electrical engineer인 Russel C.Eberhart에 의해 만들어진 알고리즘입니다.Swarm은 많은 입자들의 움직임에 의해 만들어지고, 각각 입자의 움직임은 다음과 같이 1)2)3)을 고려해 업데이트 됩니다. 1)Current speed : Adventurous tendency 2)Its personal experience : conservative tendency to come back as its best position 3)The social experience : Panu..
Simulated annealing Kirkpatrick AI 가 1983년에 particle system의 thermo dynamic에서 영감을 받아 만든 "담금질 기법"입니다. 높은 온도에서는 금속의 원자들이 액체 상태이기 때문에 더 자유롭게 움직이고, 쿨링(온도를 낮추게 되면) 다시 Solid고체 상태로 돌아옵니다. 냉각이 빠르면 원자는 한 상태에서 응고가 되기에 생성 된 합금은 구조가 불규칙하고 고 에너지를 갖게 되죠. 반면, 냉각이 느리면(Annealing) 원자가 스스로 재구성되고 생성된 합금은 완벽한 결정 구조와 최소 에너지를 갖게 됩니다. (* basse : 낮은, élevée :, 높은) 1)Energy level (에너지 레벨) - 만약 System energy level ..