문제 최종 검수

선택지1

선택지2

선택지3

선택지4

정답

키워드

해설

비기봇 해설

정답은 1번입니다.

의사결정나무에서 분할 기준은 노드의 불순도(impurity)를 얼마나 감소시키는지를 기준으로 결정됩니다. 대표적인 불순도 지표로 지니 지수(Gini index)와 엔트로피(Entropy)가 있으며, 두 지표 모두 클래스가 섞여 있을수록 값이 커지고 순수할수록 값이 작아지는 특징을 가집니다.

1. 이진 분류에서 지니 지수의 최대값은 1이고 엔트로피의 최대값은 0.5이므로, 엔트로피가 지니 지수보다 불순도 변화에 더 민감하다.
: 이진 분류 상황에서 지니 지수의 최댓값은 (0.5)이며, 엔트로피의 최댓값은 (1)로 정의됩니다. 따라서 제시된 설명은 두 지표의 수치적 범위를 반대로 서술하고 있으며, 엔트로피가 상대적으로 더 가파른 곡선을 그리며 불순도 변화를 민감하게 반영하는 것은 맞으나 수치적 근거가 부적절합니다.

2. CART 알고리즘은 지니 지수를, C4.5/C5.0 알고리즘은 엔트로피 기반의 정보 이득비를 분할 기준으로 사용한다.
: 의사결정나무 알고리즘마다 사용하는 분할 기준은 다릅니다. CART는 분류 문제에서 지니 지수를 기본 분할 기준으로 사용합니다. 반면 C4.5와 C5.0은 엔트로피 기반의 정보이득(Information Gain)을 확장한 정보이득비(Gain Ratio)를 분할 기준으로 사용하므로 적절한 설명입니다.

3. 엔트로피는 로그 연산을 포함해 지니 지수보다 계산량이 많을 수 있으나, 두 기준에 따른 모델 성능 차이는 크지 않은 경우가 많다.
: 지니 지수는 제곱 연산을 기반으로 하므로 로그 연산을 사용하는 엔트로피보다 계산 효율성이 높다는 특징이 있습니다. 하지만 실제 데이터 분석 환경에서 두 지표 중 어느 것을 선택하느냐에 따라 발생하는 모델의 최종 예측 성능 차이는 미미한 수준인 경우가 일반적입니다.

4. 정보 이득은 부모 노드의 엔트로피에서 자식 노드 엔트로피의 가중합을 뺀 값으로, 값이 클수록 분할 효과가 크다.
: 정보이득은 분할 전후의 엔트로피 감소량을 의미하는 지표입니다. 부모 노드의 엔트로피에서 분할 이후 자식 노드 엔트로피의 가중 평균을 차감하여 계산합니다. 이 값이 클수록 분할을 통해 불순도가 크게 감소했음을 의미하므로 분할 효과가 크다고 해석합니다.
• 정보이득: \\( IG = H(parent) - \\sum_{i=1}^{k} \\frac{n_i}{n} H(child_i) \\)

의사결정나무의 대표적인 불순도 지표는 지니 지수와 엔트로피이며, 두 지표 모두 클래스가 균등하게 섞여 있을 때 최대값을 가집니다. 이진 분류에서 지니 지수의 최대값은 0.5, 엔트로피의 최대값은 1이므로 선택지 1번은 두 값이 반대로 제시되어 개념적으로 잘못된 설명입니다.

따라서, 정답은 '1. 이진 분류에서 지니 지수의 최대값은 1이고 엔트로피의 최대값은 0.5이므로, 엔트로피가 지니 지수보다 불순도 변화에 더 민감하다.'입니다.

입력 데이터

수정 가능 범위 확인