2020년 5월 27일 제38회 한국과학기술도서상 출판대상을 수상

인간의 창조물, 인공지능과의
동행을 위한 철학적 성찰

9인의 연구자들이 포스트 휴먼의 관점에서 인공지능과의 공존의 윤리학을 새롭게 규명한다

‘포스트휴먼 시대의 인공지능 철학’ 시리즈 제1권 『인공지능의 존재론』(2018)의 연구성과를 바탕으로 하는 후속 연구작 『인공지능의 윤리학』이 출간되었다.
이번 권에서는 왜 인공지능의 윤리학을 논했는가? 전통적으로 윤리학이라 하면 인간의 윤리학, 엄밀히 말해 도덕적 사고와 행위의 유일한 주체인 인간의 윤리학이었다. 인간 외의 타자들은 도덕적 주체로서가 아니라 도덕적 대상으로만 간주되었다. 인간만이 도덕성과 자율성 그리고 자유의지를 지니고 있고 따라서 인간만이 행위에 대해 책임질 수 있다고 보았기 때문이다. 하지만 자기 스스로 학습을 통해 자율적으로 사고하고 행동할 줄 아는 인공지능(로봇)의 등장은 새로운 질문들을 쏟아내고 있다.

 

‘포스트휴먼 시대의 인공지능 철학’ 시리즈 제1권 『인공지능의 존재론』(2018)의 연구성과를 바탕으로 하는 후속 연구작 『인공지능의 윤리학』이 출간되었다. 이번 권에서는 왜 인공지능의 윤리학을 논했는가? 전통적으로 윤리학이라 하면 인간의 윤리학, 엄밀히 말해 도덕적 사고와 행위의 유일한 주체인 인간의 윤리학이었다. 인간 외의 타자들은 도덕적 주체로서가 아니라 도덕적 대상으로만 간주되었다. 인간만이 도덕성과 자율성 그리고 자유의지를 지니고 있고 따라서 인간만이 행위에 대해 책임질 수 있다고 보았기 때문이다. 하지만 자기 스스로 학습을 통해 자율적으로 사고하고 행동할 줄 아는 새로운 존재자인 인공지능(로봇)의 등장은 다음과 같은 질문들을 계속해서 던져주고 있다. 인공지능(로봇)은 전통적으로 인간에게만 귀속되었던 윤리적 행위자의 지위를 가질 수 있는가, 행위자가 되기 위한 전통적 요건은 이성, 의식, 지향성, 자유의지 등인데 인공지능은 전통적인 의미의 행위자가 갖는 이러한 요건들을 충족하는가, 아니면 이제 인공지능과 같은 새로운 기술적 존재자를 포괄할 수 있는 새로운 행위자 개념이 필요한가, 인공지능과 공존하는 세상을 상상한다면 전통적인 의미의 행위자/피동자 구분을 넘어서는 새로운 도덕적 존재자에 대한 논의가 필요하지 않을까 등등. 이러한 문제들은 인공지능의 윤리학에 매우 중요한 화두들이다.
이 책은 이러한 문제의식 아래 총 3부로 구성되며, 각 부별로 내용을 간략히 소개하면 다음과 같다.

1부 인공지능의 윤리적 쟁점들에서는 일상의 중요한 몇 가지 구체적인 사례를 통해 인공지능이 제기하는 윤리적 도전이 무엇인지를 확인하고 그에 답하고자 했다. 현재 또는 가까운 미래에 윤리적으로 가장 민감한 문제를 던질 사례로 인공지능을 갖춘 자율주행자동차와 섹스로봇 그리고 자율형 군사(킬러)로봇을 선택했다. 이것들은 몸체를 지닌 로봇이지만 인공지능이 실제로 조정하고 있고, 또한 다양하면서도 일반적인 그렇지만 매우 심각한 윤리적 문제들을 제기하고 있다. 그 윤리적 문제들이 무엇인지 구체적으로 분석하고자 했다.
1장 자율주행자동차를 어떻게 규율할 것인가(고인석)는 자율주행자동차가 현실화되기 위해 선결되어야 할 규범적 문제들을 다루었다. 2장 섹스로봇의 윤리(이영의)는 인간과 섹스로봇 간의 관계를 바탕으로 섹스로봇의 정체성과 함께 섹스로봇 자체의 윤리적 정당성에 관한 문제를 다루었다. 3장 군사로봇의 윤리: 전쟁에서의 기술적 위임과 책임의 문제(천현득)는 KAIST의 보이콧 사태로 우리에게 잘 알려진 자율형 군사(킬러)로봇의 윤리적 문제들을 다루었다.
2부 윤리적 인공지능 로봇 만들기에서는 1부에서 제기된 윤리적 문제들에 대응하기 위해 윤리적으로 사고하고 행동하는 윤리적 인공지능 로봇을 만들 방안을 모색했다. 이를 위해 먼저 윤리적인 인공지능 로봇을 만들기 위해 고려해야 할 가치 또는 규범들이 무엇인지를 확인하고, 이렇게 확인되고 검토된 규범들을 갖춘 윤리적인 인공지능 로봇을 만들 방안으로 성찰의 계산 모델을 제시했다. 나아가 이러한 능력의 구현이 인공지능을 진정한 의미의 도덕적 행위자로 만들 수 있는지, 그것이 얼마나 어려운 문제인지에 대해 숙고하고자 했다.
4장 인공적 도덕 행위자 설계를 위한 고려사항: 목적, 규범, 행위지침(목광수)은 인공지능과 관련된 도덕 논의 중 현재 가장 많은 연구가 진행되고 있는 영역 가운데 하나인 인공적 도덕 행위자(artificial moral agent: AMA) 설계를 위해서 고려해야 할 것들이 무엇인지를 다루었다. 5장 윤리적 인공지능 로봇: 구성적 정보 철학 관점에서(박충식)는 윤리적 인공지능 로봇을 위한 핵심적인 아이디어로 성찰의 계산적 모델을 다루고 있다. 6장 인공지능의 도덕적 행위자로서의 가능성: 쉬운 문제와 어려운 문제(이상욱)는 인공지능과 관련된 윤리적 쟁점을 해결하는 실천적 방안이 어떤 방식으로 추구될 때 가장 효과적인지를 탐색했다. ‘쉬운 문제’와 ‘어려운 문제’를 구별하고 두 종류의 문제를 순차적으로 (적어도 개념적으로라도) 다루는 방식이다.
3부 인공지능과의 공존의 윤리학에서는 인공지능의 도덕적 지위에 대한 고찰과 함께 인공지능과의 공존을 상상하기 위한 새로운 윤리학의 가능성을 검토했다. 이를 위해 전통적인 인간 중심의 책임 개념에 바탕을 둔 서구 근대 윤리학의 한계를 지적하고, 인공지능에게 책임은 아니지만 어떤 행위에 대한 설명의 책무를 부여할 수 있는 가능성을 검토했다. 또한 전통적인 의미의 행위자나 피동자 개념을 재검토하여 인공지능을 또 하나의 타자로서 볼 수 있는 가능성을 살펴보았다. 서구와는 다른 지적 전통을 발전시켜온 동양적 사유에서 새로운 가능성을 찾아보고자 했다.
7장 책무성 중심의 인공지능 윤리학 모색: 동·서 철학적 접근(이중원)은 인공지능에게도 결과에 대한 책임을 물을 수 있는 방안으로 인간 중심의 책임 개념 대신 행위자 중심의 책무 개념에 대해 탐색했다. 8장 인공지능, 또 다른 타자(신상규)는 인공지능 로봇을 중심으로 인간-기계 사이의 정서적 상호작용 및 감정적 관계의 가능성을 탐색하고 그러한 경험을 해석하고 의미화할 수 있는 한 가지 접근 방법을 모색하고 있다. 9장 인공지능 시대와 동아시아의 관계론(정재현)은 인공지능의 오작동 내지 잘못된 행위에 대한 책임이 어디에 있는가의 문제를 다룸에 있어서 동아시아의 관계론이 새로운 접근 방식을 제공함을 강조하고 있다.

인공지능이 우리와 함께 생활하는 경우 발생할 수 있는 다양한 윤리적인 문제들에 대한 인지는 이에 대한 제도적인 차원의 대응책을 선제적으로 마련하는 데 충분히 기여할 수 있다. 또한 단순히 알아서 척척 잘하는 똑똑하기만 한 인공지능의 연구·개발이 아니라, 시작부터 윤리적인 가치 규범에 의해 판단과 행동이 통제받는 도덕적 인공지능을 연구·개발하는 것은 인공지능으로 인한 사회 윤리적 문제를 최소화하는 좋은 대안이 될 수 있다. 궁극적으로 인간 개체 중심의 윤리학에 머물지 않고 관계론적 관점에서 인간과 인공지능의 긴밀한 관계에 바탕한 윤리학이 등장한다면, 이는 바로 공존의 윤리학으로서 인공지능 시대에 필요한 미래의 윤리학이라는 시대적 의의를 지닐 것이다. 하지만 이 책은 아직까지 인공지능의 ‘윤리학’이라 할 만큼 완성된 것은 아니다. 엄밀히 말한다면 ‘윤리학의 기초’에 해당한다고 말할 수 있다. 윤리학을 구성하는 데 필수적인 (인간이든 인공지능이든) 행위자의 도덕적 지위 혹은 본성에 관한 논의와 이를 지지해줄 수 있는 기존의 윤리 이론들에 대한 고찰은 어느 정도 이루어졌지만, 관계론적 관점에서 새로운 윤리학 이론을 체계적으로 구성한 것은 아니기 때문이다. 이 책의 출판을 계기로 새로운 인공지능의 윤리학에 관한 더 풍요로운 논의들이 지속적으로 이루어지길 기대해본다.

변화를 다루는 현명한 방식은 쿤(Thomas S. Kuhn)과 파이어아벤트(Paul K. Feyerabend)가 과학자들의 행태에서 공통적으로 읽어낸 것처럼 고집의 원리(principle of tenacity)에 따르는 것, 다시 말해 다른 확신이 지배하는 세상이 되기 전까지는 기존의 것을 고수하는 자세다. 이런 원리의 관점에서 보자면, 사실상 고려할 수 있는 모든 점에서 유능하고도 사려 깊은 인간 운전자 대신 기계 시스템이 자동차의 모든 상태를 제어하도록 하는 것이 좋다는 확신이 들 때까지, 딜레마 상황에 대한 처리를 포함하는 모든 권한을 인공물의 시스템에 넘기는 일은 보류하는 것이 마땅하다. _1장 자율주행자동차를 어떻게 규율할 것인가, 5쪽

섹스로봇의 윤리적 정당성을 논의하는 데 있어서 우리는 성적 약자들의 권리를 간과해서는 안 된다. 성매매가 윤리적으로 문제가 있다는 점을 부인하는 사람은 없지만 그렇다고 하더라도 앞에서 제시된 성 권리의 부정은 성매매가 안고 있는 문제(인간의 대상화와 주체성 부정)에 못지않게 심각한 문제라는 점에서 사회는 그들에게 권리를 추구할 방안을 제시해야 한다. 기술적으로 가능한 대안이 있는데도 불구하고 그런 권리를 부정하거나 추구 방안을 차단하는 사회는, 인간 간 성매매를 아무런 제한 없이 허용하는 사회 못지않게 비윤리적 사회임에 틀림이 없다. _2장 섹스로봇의 윤리, 90쪽

어떤 기술이든 한번 개발되기 시작하면 지속적인 발전과 사용을 결코 막을 수 없으며, 우리가 할 수 있는 최선은 그것을 선점하여 충분한 (국가적) 이득을 누리고 오용을 막는 것뿐이라는 생각이 팽배해 있다. 군사로봇 개발의 불가피성에 관한 이런 생각은 기술결정론적 시각을 가정한 것으로 보인다. 그러나 기술적 가능성은 그것의 사회적 실현 가능성도 동일하지 않고, 기술 발전의 경로가 사회적 맥락 속에서 정치, 경제, 문화, 젠더 등 여러 요소들과 상호 작용한다는 이론은 잘 확립되어 있다. 군사 무기의 경우에도 예외가 아니다. _3장 군사로봇의 윤리, 112쪽

자율주행차’와 관련된 여러 윤리적·법적 쟁점에 대해 최근 사회적 관심이 높지만 이런 관심이 간과하고 있는 부분이 있다. 바로 이런 논의는 인공지능이라는 특별한 기술의 등장으로 새롭게 등장한 쟁점을 다루는 것이 아니라, 새로운 기술, 제도, 환경, 조건이 등장했을 때마나 이를 기존 사회의 틀, 윤리적 직관, 법률적 제도와 조화시키려는 역사적 과정에서 일상적으로 등장했던 일이라는 것이다. 또한 이런 논의는 한번 잘 논의해서 결정하면 그만인 사안이 아니라 기술의 발전과 그에 대한 사회적 활용의 범위 및 내용, 그리고 그런 사안에 대한 윤리적 직관의 변화를 반영하는 방식으로 지속해서 수행되어야 하는 사회적 과정이라는 점이다. _6장 인공지능의 도덕적 행위자로서의 가능성, 214쪽

1부 인공지능의 윤리적 쟁점들
1장 자율주행자동차를 어떻게 규율할 것인가 _고인석
2장 섹스로봇의 윤리 _이영의
3장 군사로봇의 윤리: 전쟁에서의 기술적 위임과 책임의 문제 _천현득

2부 윤리적 인공지능 로봇 만들기
4장 인공적 도덕 행위자 설계를 위한 고려사항: 목적, 규범, 행위지침 _목광수
5장 윤리적 인공지능 로봇: 구성적 정보 철학 관점에서 _박충식
6장 인공지능의 도덕적 행위자로서의 가능성: 쉬운 문제와 어려운 문제 _이상욱

3부 인공지능과의 공존의 윤리학
7장 책무성 중심의 인공지능 윤리학 모색: 동·서 철학적 접근 _이중원
8장 인공지능, 또 다른 타자 _신상규
9장 인공지능 시대와 동아시아의 관계론 _정재현