Recent Updates

4.2 로지스틱 회귀분석(Logistic Regression Analysis) 목표변수가 이항형 또는 다항형인 경우 사용   4.2.1 로지스틱 단순 회귀모형 y가 이항형일 경우(y=0 또는 1) 단순선형 회귀식 사용의 문제  인 경우 x = 1000 이라면, y = 10.1로 범위를 벗어남. y에 대한 확률분포가 이항변수를 가지는 베르누이 분포에 의해 모형화되지 않고, 흔히 정규분포로 모형화 됨. 로짓변환(logit transformation) ln(P(y=1|x)/(1-P(y=1|x)) =

Chapter 13. 해쉬 : 키없는 Message Digest 알고리즘 메시지 다이제스트(MD) 알고리즘 데이터 무결성을 보장할 수 있는 기본적 메커니즘 원본 데이터에 대한 고정길이의 해쉬값을 생성하는 one-way hash function 원본 데이터의 미세한 변조라도 감지 해쉬값만으로 원본 데이터 알아낼 수 없다 원본데이터를 압축 공개키, 비밀키 시스템보다 계산시간이 적다.   메시지 다이제스트(MD) 알고리즘 종류 MD2 Ron Rivest가 고안 128 비트 해쉬값 생성 MD5와 비

3.3 Variable Clustering   중복 입력을 포함하는 것은 다음과 같은 것들로 분석의 질을 떨어뜨릴 수 있다.   모수 추정치를 불안정하게 하는 것 과적합의 위험을 증가시키는 것 해석을 혼란스럽게 하는것 계산 시간 증가 스코어링 노력 증가 데이터 수집 및 증대 비용 증가   중복성은 하나의 unsupervised 개념(목표변수를 수반하지 않음)이다. 반면에, 관계없는 입력들은 상당히 목표와 관련이 있는 것이 아니다. 높은 차원의 데이터셋들에서, 관계없는 입력들을 식별하기는 중복 입

3.2 Categorical Inputs  로지스틱 회귀 모형은 숫자형(intervally scaled) 입력 변수를 요구한다. 종종 그 변수들은 범주형(명목형 또는 순서형) 변수이다. 모형안에 그런 입력들을 포함하기 위한 가장 간단한 방법은 가변수(Dummy Variables)들, 각 수준(level)에 대한 지시자 변수를 사용하는 것이다. 이 새로운 이진 입력은 숫자로 코딩된다.(대게는 0/1)    선형 의존성 때문에 l-수준(l-level) 범수형 변수에 대하여 모든 가변수가 모두 포함되는 것은 아니

목차 Chapter 1. Predictive Modeling Chapter 2. Fitting the Model Chapter 3. Preparing the Input Variables Chapter 4. Classifier Performance    

3.1 Missing Values 몇몇 다른 매커니즘으로부터 입력변수에 결측값이 발생할 수 있다 (Little 1992).   Demonstration 6 다음 프로그램의 목적은 결측값 지시 변수들을 만들고 결측치를 변수의 평균으로 바꾼다. proc print data=develop(obs=30); var ccbal ccpurc income hmown; run;   입력변수들의 15개는 imputation에 대해서 선택되었다. 2개의 배열이 만들어진다, 하나는 MI라 불리고 결측치 지시자 변수들을 담고 있고,

ACM 문제들을 번역하고 풀이 방법들을 정리하는 곳입니다.

2.2 Adjustments for Oversampling 결합 표본추출(Joint Sampling)에서 입력-목표 쌍은 결합 분포로부터 임의적으로 선택된다. 분할 표본추출(Separate Sampling)에서는, 각 목표 클래스(target class)안에 분포들로부터 임의적으로 선택된다.    분할 표본추출은 지도 분류(Supervised Classification)에서의 표준적인 방법이다. 목표 사건이 드물 때, 그 희소 사건(Rare Event)을 과추출하는 것이 일반적이다. 즉, 많은 사건 사례에 반비례하게

Chapter 2. Fitting the Model    

2.1 The Model Demonstration 2 LOGISTIC 프로시저는 이진 로지스틱 회귀 모형을 적합한다. 그 모델안에 포함된 6개의 입력 변수들은 임의로 선택되었다. 반응변수 INS의 레벨을 내림차순으로 보여주기 위해 DES(Descending의 약자) 사용. Model문 안에 ITPRINT 옵션은 최우모형적합(Maximum-likelihood model fitting)의 반복적인 이력을 출력한다. UNITS 문은 한 변수에서 특정한 변화에 대한 Odds비를 얻을 수 있다. 이 예제에서는, DDABAL과 DEPAMT에서

1.1 Introduction Supervised Classification 예측적 모형(Predictive model) 사례들(cases, observations, examples)로 구성 입력변수(input variable) → 예측모형(Predictive model) → 목표변수(target variable) 지도 분류(Supervised classification) Supervised : 각 case에 대해서 class label(target)이 알려졌을 때 사용 일반화(General

Chapter 4. Classifier Performance 4.1 Honest Assessment 4.2 Misclassification 4.3 Allocation Rules 4.4 Overall Predictive Power  

Chapter 3. Preparing the Input Variables 3.1 Missing Values 3.2 Categorical Inputs 3.3 Variable Clustering 3.4 Subset Selection

Chapter 1. Predictive Modeling 1.1 Introduction 1.2 Analytical Challenges  

4.3 회귀분석의 특징과 제약  

4.1 선형 회귀분석(Linear Regression Analysis) 일차(선형) 방정식 형태 y =  α + βx 입력변수의 수에 따른 분류 단순 회귀 분석(Simple Regression) : 입력변수(설명변수) 1개 다중 회귀 분석(Multiple Regression) : 입력변수(설명변수) 여러 개   4.1.1 단순 회귀모형(Simple Regression) y = α + βx + ε a, b : 회귀계수(Regression Coeffcient) ε: 기대값 0과 분산 δ

제4장 선형 회귀분석(Linear Regression Analysis) 한 변수(목표변수)가 다른 변수(입력변수)들에 의해서 어떻게 설명(explanation) 또는 예측(prediction)되는지 알아 봄. 자료를 적절한 함수식으로 표현    

3.3 의사결정나무의 특징   3.3.1 의사결정나무분석의 장점 해석의 용이성 나무구조로 표현되기 때문에 쉽게 이해할 수 있다. 중요한 입력변수 쉽게 파악 상호작용 효과의 해석 두 개 이상의 변수가 결합하여 목표변수에 어떻게 영향을 주는지 쉽게 파악 상호작용의 효과 또는 비선형성(nonlinearity)을 자동적으로 찾아냄 비모수적 모형 선형성, 정규성 또는 등분산성의 가정을 필요로 하지 않는 비모수적인 방법 순위(rank)만 분석에 영향을 주므로 이상치(outlier)에 민감하지 않다.  

3.2 의사결정나무의 분리기준 분리기준(split criterion) 자식node들이 형성될 때, 입력 변수의 선택과 범주의 병합이 이루어 질 기준 순수도(purity) 목표변수의 특정 범주에 개체들이 포함되어 있는 정도 자식노드로 갈 수록 순수도가 증가 불순도(impurity) 3.2.1 분류나무: 이산형 목표변수의 경우 빈도(Frequence)에 기초하여 분리 분리기준 카이제곱통계량의 p-값(p-value of Chi-Square statistic): p-값이 가장 작은 예측 변수와 그때의 최적분리에 의해

3.1 의사결정나무의 개념 탐색과 모형화라는 두가지 특성 소유 모수적 모형(판별분석, 회귀분석)을 분석 전에 이상치(outlier)와 분석에 필요한 변수 또는 모형에 포함되어야 할 상호작용의 효과를 검색 그 자체로 분류 또는 예측모형으로 사용 의사결정규칙(decision rule)을 나무구조로 도표화하여 분류(classification)와 예측(prediction) 수행 나무구조에 의한 추론규칙(induction rule)에 의해 표현되므로, 과정을 쉽게 이해하고 설명 가능   3.1.1 의사결정나무의 구성요소

제3장 의사결정나무분석 의사결정나무의 개념 의사결정나무의 구성요소 의사결정나무의 형성과정 의사결정나무의 분리기준 분류나무: 이산형 목표변수의 경우 회귀나무: 연속형 목표변수의 경우 정지규칙과 가지치기 의사결정나무분석의 특징 의사결정나무분석의 장점 의사결정나무분석의 단점 분석사례 - 1 (분류나무): 신용평가 문제 분석흐름도의 작성과 각 노드의 설정 모형의 평가와 결과 보기 의사결정나무의 수정 분석사례 - 2 (회귀나무): 평균임금의 예측 Insight 노드를 이용한 분포의 탐색 Tree 노드의 실행과

 2.9 보고서의 작성: Report 노드 Report 노드를 이용하여 HTML 문서로 요약  

2.8 예측모형에 대한 해석 목적 목표변수를 정확하게 예측   

2.7 결측값의 보간: Replacement 노드 결측값이 존재하는 경우 분석에 사용하거나, 예측 수행 불가 사전에 결측값을 보간(Imputation) Replacement 노드에서 디폴트로 사용하는 방법 Interval 변수에 대해서는 mean Binary, ordinal, nominal 변수에 대해서는 mode 

 2.6 점수화: Score 노드 선정된 모형을 이용하여 새로운 개체에 대한 점수 구하기

2.5 모형의 평가: Assement 노드 분석에 의해서 얻어진 모형을 다양한 방법으로 평가하는 노드 분석용, 검증용, 테스트 데이터에 의해서 모형의 예측력 평가 여러 개의 모형에 대해서 리프트(lift), 민감도(sensitivity), 이익(profit) 등을 통해 모형의 성능 비교 분류(classification)를 위해 적절한 한계(threshold) 확률값을 결정

2.4 모형의 구축: Tree 노드와 Regression 노드 의사결정나무분석(Decision Tree Analysis)과 회귀분석(Regression Analysis) 분석과 해석의 관점에서 많은 장점때문 가장 널리 사용되는 모형화 방법 분석의 목적에 따른 다양한 옵션들 옵션들을 제대로 선택하여 올바른 결과를 얻기 위해서는 충분한 지식 필요      

2.3 데이터의 분할: Data Partition 노드 여러 모형의 타당성을 비교, 평가가 필요한 이유 대규모의 데이터 다양한 방법론에 의한 분석 교차 타당도(cross validation)에 의한 평가 분석용 데이터(Training Data: 연습용 데이터): 데이터를 분석(학습)하여 모형을 만드는데 직접적으로 사용되는 데이터 검증용 데이터(Validation Data: 평가용 데이터): 모형의 성능을 감독하고 개선하기 위하여 간접적으로 사용되는 데이터로서 Tree 노드의 가지치기, Regression 노드의

2.2 분석용 데이터에 대한 설정: Input Data Source 노드  Input Data Source 노드는 일반적으로 분석에 사용할 Dataset, 입력변수와 목표변수, 각 변수에 대한 측도(measure) 등을 지정하는 노드이다.   2.2.1 데이터세트 선택하기   2.2.2 변수의 역할과 측도 지정하기   2.2.3 변수의 분포 살펴보기 

2.1 프로젝트의 생성과 분석흐름도의 작성 프로젝트 : '데이터의 생성 및 추출', '탐색 및 변형', '모형화', '평가' 등으로 이루어지는 일련의 작업 E-Miner 윈도우 : Application workspace 프로젝트 탐색기(Project Navigator) Diagrams, Tools, Reports 분석흐름도 작업영역(Diagram Workspace) 툴바(Tools Bar) 상황판(Massage Panel)   2.1.1 새로운 프로젝트의 생성  E-Miner는 Locati

http://acm.uva.es/problemset/v1/107.html 107. 모자 속 고양이 (Theodore Seuss Geisel님께 경의를 표함.) 모자쓴 고양이는 불쾌한 생물이다. 그러나 그가 쓰고 있는 줄무늬 모자는 멋들어진 특징을 가지고 있다. 그의 손목 튀김과 함께 그의 윗부분이 사라진다. 고양이의 모자 안쪽이 무엇인지 아는가? 작은 고양이들 떼이고, 그들은 각각 줄무늬 모자를 소지하고 있다. 각 작은 고양이들은 3개의 줄이 같은 것을 한다.(역주 : 3개의 그룹을 짓는다는 뜻인듯..) 가장 작은 고양이들를 제외한