결정 트리(Decision Tree)란?

결정 트리 학습법(Decision Tree Learning)은 어떤 항목에 대한 관측값과 목표값을 연결시켜주는 예측 모델로써 결정 트리를 사용합니다. 결정 트리 학습법은 몇몇 입력 변수를 바탕으로 목표 변수의 값을 예측하는 모델을 생성하는 것을 목표로 합니다.

위의 글은 타이타닉호 탑승객의 생존 여부를 나타내는 결정 트리로서 잎 아래의 숫자는 각각 생존 확률과 탑승객이 그 잎에 해당될 확률을 의미합니다. 그림의 트리 구조에서, 각 내부 노드들은 하나의 입력 변수에, 자녀노드들로 이어지는 가지들은 입력 변수의 가능한 값에 대응됩니다.

결정 트리 학습법은 계산복잡성 대비 높은 예측 성능을 내는 것으로 소문나있어서 지도 분류 학습에서 가장 유용하게 사용되고 있는 기법 중 하나입니다. 하지만 비선형 데이터 분류엔 적합하지 않습니다.

이 같은 문제를 극복하기 위해 등장한 모델이 바로 랜덤포레스트입니다. 같은 데이터에 대해 의사결정나무를 여러 개 만들어 그 결과를 종합해 예측 성능을 높이는 기법입니다.

---

이상 결정 트리였습니다. ^_^