설명 가능한 인공지능, XAI (Explainable Artificial Intelligence)

목차

1. 설명 가능한 인공지능, XAI (Explainable Artificial Intelligence)
2. 도입
3. XAI 개요
4. XAI 기술특성
5. XAI 기술특성
6. SHAP 예시

본문내용

인공지능 신경망의 동작을 다른 사람의 뇌와 비유하면, 실제로 그 사람이 어떤 생각을 하고 있는지를 직접적으로 이해하지 못하는 것과 유사합니다. 예를 들어, 어떤 사람이 어떤 결론을 내린다면 우리는 그 결론을 알 수 있지만, 그 사람의 뇌 안에서 어떤 신경 활동이 일어나고 있는지, 어떤 생각과 판단 과정을 거쳐 그 결론에 도달했는지에 대해서는 직접적으로 관찰할 수 없습니다.

마찬가지로 인공지능 신경망도 그 내부 동작과 의사 결정 과정을 직접적으로 이해하기 어렵습니다. 예측 결과를 확인할 수는 있지만, 그 내부에서 어떤 특징이 학습되고 어떤 가중치가 조정되며, 어떤 요소가 예측에 영향을 주었는지를 직접적으로 파악하기 어렵습니다.

하지만 XAI(Explainable Artificial Intelligence)는 이러한 인과 관계를 파악하고 설명할 수 있는 기술을 제공함으로써 비유적으로 말하면 '다른 사람의 뇌 안에서 일어나는 생각을 이해하는 방법'을 제시하려는 노력입니다. XAI를 통해 모델의 예측에 영향을 미치는 특징이나 패턴을 시각화하거나 설명할 수 있으며, 모델이 어떻게 작동하는지에 대한 인과 관계를 추론할 수 있게 됩니다. 이를 통해 우리는 모델의 결론에 대한 이유를 더욱 명확하게 이해할 수 있고, 모델의 신뢰성을 높일 수 있습니다.

즉, 인공지능 신경망의 내부 동작을 직접적으로 이해하지 못하는 것과 같이, 다른 사람의 뇌 안에서 생각을 이해할 수 없는 것과 유사하게, 우리는 결과를 관찰하고 이해하려는 노력을 하고 있습니다. XAI는 그러한 이해를 돕기 위한 도구로 활용되고 있습니다.

참고 자료

없음