728x90
김성훈, 김우진, 장연주 and 김현철. (2021). 설명 가능한 AI 학습 지원 시스템 개발.
컴퓨터교육학회 논문지, 24(1), 107-115.
교수자를 위한 설명 가능한 AI 학습 지원 시스템을 제안 :
인공지능 모델과 XAI 분야의 기법을 교육 도메인에 적용하여 맞춤형 학습이 가능한 AI 학습 지원 시스템
- 시스템은 학습자의 인지적, 환경적 영역의 데이터를 이용해 개별 학습자를 진단한다.
- 제안한 시스템은 인공지능 모델인 DKT와 XGBoost를 이용해 학습자의 지식 상태를 모델링하고, 그 결과를 설명 가능한 인공지능 기법인 LRP와 SHAP으로 분석해 학습자의 지식 상태를 해석 가능한 형태로 교수자에게 제공한다.
- 교수자는 이 정보를 통해 학습자의 교과 이해 정도와 학습에 영향을 미치는 환경적 요소를 파악하여, 맞춤형 학습을 제공하는 데 활용할 수 있다.
XAI 연구 문제인 블랙박스 설명(Black Box Explanation)의 3가지 종류
- 모델 설명(Model Explanation): 데이터 전체에 대해 전역적(global) 설명
- 출력 결과 설명(Outcome Explanation) : 데이터의 특정 인스턴스(instance)에 대해 지역적(local) 설명
⇒ 블랙박스 모델의 숨겨진 내부 논리를 추출하여 사람이 이해할 수 있는 형태로 표현
- 모델 검사(Model Inspection): 특정 예측값 또는 블랙박스 모델의 특성을 이해하고자, 시각적 표현으로 설명을 제공한다. (ex. 데이터 속성의 변화에 따른 모델 민감도나 모델의 특정한 예측에 영향도가 높은 뉴런의 발견 등)
교육적 의의 및 활용 방안
- 인지적 영역 모델링의 결과물을 시각화하여 나타낸 개념 간 상관관계는 상위 개념의 이해를 위하여 어떠한 하위 개념들이 선행되어야 하는지를 해석할 수 있다. 따라서 이를 활용하여 교과 개념의 위계를 재정립하거나 수정하는데 참고로 사용될 수 있다.
- 교수자는 교수 학습자의 학업 성취에 영향을 미치는 주요 환경적 요인을 파악하고 맞춤형 상담을 제공할 수 있다.
- 학습자의 환경에는 가족 구성원의 크기, 부모의 직업 등 가정환경과 수업 결손여부, 교우 관계 등 학업실태에 대한 정보를 포함한다. 이러한 환경은 학습자의 학업 성취에 중요한 영향을 미친다[9]. 따라서 학습자의 환경적 영역 정보를 사용하여 학습자 성적에 커다란 영향을 미친 학습자 환경 요소를 파악하고자 한다. 학습자 환경 요소를 바탕으로 학습자의 성취 정도를 예측하고, 그 예측에 학습자의 환경적 영역 중 영향도가 큰 영역 분석이 가능한 모델을 제시한다.
- 최종 성적을 예측하는 모델
- 한 학습자의 최종 성적 예측값에 어떠한 과목이 긍정적인 또는 부정적인 영향을 주었는지 분석
- 시스템은 local explanation 기법들을 사용한다. 전체 분포에서 학습자의 상대적 위치나 수준 정보가 아닌 학생 개개인에 대한 분석을 제공하므로, 예상되는 학습자의 심리적 부담 경감을 기대할 수 있다.
본 논문이 강조하는 차별점 가운데 하나가, KT와 XAI를 학업 성취에 영향을 미치는 환경적 요인을 진단할 때 활용하였다는 지점이다. 교육학 연구에서 양간 상관관계를 설명하려는 차원에서는 유의미하겠으나, 교육 현장에서 학생 개인의 환경변수를 수집하고 이를 바탕으로 개인의 성취도/성적을 예측하는 것이 과연 교육적 의미를 가질지 의구심이 들었다.
스티그마 효과만 낳지 않는가?
(대개는 개인의 의지와 무관하게 미리 형성되어버린) 환경 변수를 바탕으로 개인의 (후천적인) 성취도를 예측하는 것. 이것을 상담에서 활용하는 것이 과연 교육적으로 어떠한 가치가 있을지에 대해서는 후속적 논의가 필요할 것이다.
데이터를 정확하게 수집할 때 예민한 정보에 대한 프라이버시 문제도 발생한다.
728x90