선과 악, 정과 오를 바라보는 인간과 AI

일반적으로 선한사람과 악한사람이 있다.

똑같은 상황을 보고 그 상황에 대한 해석도 각각의 사람마다 다르다.

과학적으로 증명할수 있는 것이 드레스를 보고 25%의 사람은 파란색, 검은색 으로 75%의 사람은 흰색, 금색으로 보인다는 이미지가 있다.

요즈음 보통 신경망 같은 AI의 특징은 학습을 시킴으로써 최대한 사람에 가까운 AI를 만들고 싶어한다.

문제는 저런 의견이 갈리는 문제에 AI가 어느쪽 판단을 내리는 AI를 만들어야 하는 걸까?

최근 AI는 초기 상태는 정해져 있지만 AI가 어떻게 학습하고 어떻게 판단을 내렸는지는 알수 없다. 또한 매번 같은 결과가 나오지도 않는다.

AI를 충분히 학습 시키는 과정은 사람으로 치면 충분한 훈련을 시키는 과정과 같기 때문에 오류율은 낮출수 있다.

하지만…

인간이 충분히 의견이 갈리는 이념의 문제 같은 경우 이쪽이 맞는지 저쪽이 맞는지가 모호하다.

이런경우 AI라면 어떤 선택을 할까.

만일 충분히 학습시킨 AI가 충분히 많은 학습을 통해 한쪽의 선택을 하게 되는 경우…

인간은 거꾸로 당연히 그게 옳은 일로 받아들이게 될것이다.