본문 바로가기

Mathematics

베이즈 정리 (Bayes' Theorem) 먼저 정의에 대해서 알아보자. 베이즈 정리란 두 확률 변수의 사전 확률과 사후 확률 사이의 관계를 나타내는 정리로, 베이지안 확률론 해석에 따르면 베이즈 정리는 새로운 근거가 제시될 때 사후 확률이 어떻게 갱신되는지를 구한다. 천천히 위 정의의 의미를 되새겨보도록 하자. 베이즈 법칙이란... 사전확률 P(A)과 우도(B|A)를 안다면 사후확률 P(A|B)를 알 수 있다는 것이다. A를 원인 B를 결과 라고 했을 때, A 라는 원인이 발생할 확률 P(A) A 라는 원인이 발생하였을 때 B 라는 결과가 나타날 확률 P(B|A) 반대로, B라는 결고가 발생하였을 때, B를 발생시간 원인이 A 일 확률이 P(A|B) 라고 정의 할 수 있다. 베이즈 법칙이란 뭐라고? 사전확률 P(A)과 우도(B|A)를 안다면 사.. 더보기
LDA (Linear Discriminant Analysis) (일단 설명 잘 되어있고, 예제 있는 참고 자료 투척, PPT) LDA (Linear Discriminant Analysis) 란? LDA seeks to reduce dimensionality while preserving as much of the class discriminatory information as possible 간단하게 말해서... LDA 는 클래스들의 정보를 보호하면서 차원을 최소로 줄이겠다는 얘기다. PCA (Principal Component Analysis) 는 뭐지? PCA 는 한 데이터베이스 안에 여러개의 클래스가 포함되었을때, 클래스의 종류와 상관없이 모든 원소들의 경향을 분석하는 방법이다. 위와 같이 모든 원소들이 어떠한 방향으로 늘어져 있는지를 분석해서 기저백터(V1,.. 더보기
PCA (Principal Component Analysis, 주성분분석) PCA 는 간단히 아래와 같은 그림으로 표현할 수 있다. 출처: http://www.nlpca.org/pca_principal_component_analysis.html 즉... 간단히 설명하자면, 모든 성분들의 주축을 찾아내어~ 해당 축에 대해 투영시킴으로써, 데이터가 고르게 분포된 형태의 값을 얻어 낸다는 것이다. 많은 사람들이 주축을 찾아낸다는 부분에서 많이 당황스러워한다. 기조적인 선형대수 내용이라고 볼 수 있다. 참고로 얘기하자면, 선형대수의 Eigen vector 를 이해하지 못하면 PCA를 이해할 수 없다. PCA의 순서는 간단히 다음과 같다. 1. 전체 데이터의 평균을 구한다. 2. 전체 데이터에 평균을 뺀다 3. 공분산 행렬을 만든다. (공분산 행렬은 모든 요소의 공통된 부분을 뺀 개별적.. 더보기
[Wavelet Transform] An Introduction to Wavelets - Amara Graps 원문 링크: http://enshahar.tistory.com/51 DMB나 영상처리 등을 들여다 볼 일이 있어서, 관련 논문이나 웹페이지를 보다 보면, Wavelet Transform을 마주칠 일이 자주 있다. 웨이블렛 관련한 소개 논문 중 가장 유명한 것이 Amara Graps의 논문이다. 다음은 1,2장의 대략의 번역이다. 전체 내용이 길어서 나눠서 올릴 것이다. --------------------- 1. 웨이블렛 개요 웨이블렛의 기본 아이디어는 스케일에 따라 데이터를 나누어 분석하는 것이다. 웨이블렛은 데이터 또는 다른 함수를 표현하는 데 사용되는 몇가지 수학적 특성을 만족하는 함수들이다. 여러 함수를 조합해 데이터/함수를 표현하는 것은 1800년 푸리에(Fourier)가 함수를 사인과 코사인의.. 더보기
수학 기호 출처: http://image.search.daum.net/dsa/search?w=imgviewer&q=%BC%F6%C7%D0%B1%E2%C8%A3&page_offset=3&page=1&lpp=28 수학기호의 의미 출처: http://yanyenli.ncity.net/gnuboard4/bbs/board.php?bo_table=free_think&wr_id=16 그리스 문자 발음과 의미 Α α →알파(ALPHA) Β β →베타(BETA) Γ γ →감마(GAMMA) Δ δ →델타(DELTA) Ε ε →입실론(EPSILON) : 소문자는 유전율의 기호로 쓰인다. 전속밀도(D)=유전율(ε)x전장세기(E)인데 이를 "드라마 에로스입술" 로 외우면 잊혀지지 않는다. Ζ ζ →제타(ZETA) Η η →에타(ETA) .. 더보기
Eigenvalues and eigenvectors, Characteristic polynomial http://en.wikipedia.org/wiki/Eigenvalue,_eigenvector_and_eigenspace The eigenvectors of a square matrix are the non-zero vectors that, after being multiplied by the matrix, remain parallel to the original vector. For each eigenvector, the corresponding eigenvalue is the factor by which the eigenvector is scaled when multiplied by the matrix. The prefix eigen- is adopted from the German word "eig.. 더보기
Cramer’s Formula http://en.wikipedia.org/wiki/Cramer's_rule Consider a system of n linear equations for n unknowns, represented in matrix multiplication form as follows: where the n by n matrix A has a nonzero determinant, and the vector is the column vector of the variables. Then the theorem states that in this case the system has a unique solution, whose individual values for the unknowns are given by: where A.. 더보기
Matrix Algebra http://people.hofstra.edu/Stefan_Waner/RealWorld/Summary3.html Basic Definitions An m×n matrix A is a rectangular array of real numbers with m rows and n columns. (Rows are horizontal and columns are vertical.) The numbers m and n are the dimensions of A. The real numbers in the matrix are called its entries. The entry in row i and column j is called aij or Aij. Example Following is a 4×5 matrix.. 더보기
adjoint matrix, minor, cofactor 소행렬식 = minor 여인자 = cofactor 의 n차의 정사각행렬 A=[aij]의 성분 aij의 여인자를 Aij라 할 때, 행렬 [Aij]T를 A의 수반행렬(adjoint matrix)이라 하고, adj A 로 나타낸다. 즉, ex2> http://en.wikipedia.org/wiki/Adjugate 2 × 2 generic matrix The adjugate of the 2 × 2 matrix is . [edit] 3 × 3 generic matrix Consider the matrix . Its adjugate is the transpose of the cofactor matrix So that we have where . Note that the adjugate is the transpose.. 더보기
Determinant (ex) det(A) , Sarrus, Laplace's formula and the adjugate matrix determinant is written and has the value . Sarrus 방법 http://matrix.skku.ac.kr/sglee/linear/ocu/20301.html Laplace's formula and the adjugate matrix Laplace's formula expresses the determinant of a matrix in terms of its minors. The minor Mi,j is defined to be the determinant of the (n−1)×(n−1)-matrix that results from A by removing the i-th row and the j-th column. The expression (−1)i+jMi,j is .. 더보기