Page 137 - 인공지능 수학 교과서

인공지능 인공지능의 비합리적인 의사 결정 사례
이야기

인공지능이 언제나 합리적인 의사 결정을 내리는 것은 아니다. 인공지능은 수집한 자료를 기반으로 해서
예측 모델을 발전시켜 나간다. 그렇기 때문에 수집한 자료에 문제가 있거나 그 문제점을 걸러내지 못한 채

인공지능에게 자료를 제공했을 경우, 인공지능은 자료가 갖고 있는 오류를 그대로 답습할 수밖에 없다.
예를 들어 ○○ 기업이 진행한 ‘학습 환경에 따른 언어 습관 실험’의 진행 과정을 살펴보자. 실험을 진행하
기 위해 동일한 인공지능 어린이 캐릭터를 두 명 생성하였다. 한 어린이에게는 건전한 영상 학습 자료를 제
공해 주었고, 또 다른 어린이에게는 무분별한 영상 학습 자료를 제공하여 학습을 진행하였다. 그 결과 두 명

의 인공지능 어린이 캐릭터는 동일한 조건에서 생성되었지만, 학습한 자료의 성격에 따라 전혀 다른 언어
습관과 태도를 갖게 되었다.

뭐가 반가워요?
반가워요.
나한테 관심 좀
그만 줘.

건전한 영상 학습 자료를 학습한 인공지능 무분별한 영상 자료를 학습한 인공지능

- 출처: SBS 일요 특선 다큐멘터리, 2020. 05. 31.

오늘날 딥러닝과 같은 인공지능 학습은 컴퓨터가 스스로 학습을 주도하므로 이로 인해 생성된 예측 모델

에 포함된 수많은 자료와 매개변수들 사이의 관계를 찾아내는 것은 매우 어렵다.
예를 들어 자율 주행 자동차나 인공지능 의사, 인공지능 판사 등 전문 분야의 인공지능이 내린 판단에 오
류가 발생한 경우에는 치명적인 손실이 발생할 뿐만 아니라 그 원인을 찾아 바로잡기가 쉽지 않다.
따라서 인공지능이 합리적인 의사 결정을 내리기 위해서는 도덕적이고 합리적인 내용의 학습 데이터베이

스를 구축하는 것이 매우 중요하다.

 인공지능이 최적화를 통해 합리적인 의사 결정을 수행하는 과정은 무엇일까?
스스로
 인간이 인공지능을 올바르게 이용하는 방법은 무엇일까?
정리하기
 인공지능을 이용할 때, 주의할 점은 무엇일까?

2. 합리적 의사 결정과 수학 탐구 135