이론과 범주, 법적 쟁점과 미래의 전망까지
인공지능 윤리 문제의 전반을 살펴본다!
 
‘테이’가 등장했다가 사라진 지는 햇수로 7년, ‘이루다’가 파란을 일으킨 지도 벌써 2년이 지났다. 이제 우리는 사람같이 말하는, 사람보다 더 똑똑한 기계 존재인 챗지피티(ChatGPT), 바드(Bard)와 같은 생성형 인공지능에 기대어 말을 하고 글을 쓰고 있다.
 
전통적으로 윤리는 ‘인간’의 삶과 행위에 관련된 것으로 간주되어 왔다. 그러나 사람을 친 자율주행차, 사람을 죽일 수 있는 킬러 로봇, 애인 행세를 하는 인공지능 인형에게 버림받은 독거인 등 우리 삶에 새로이 등장한 ‘인공지능’이 환기하는 수많은 윤리 문제는 우리에게 또 다른 어려운 과제로 떠오르고 있다. 우리 앞에 놓인 이 새로운 기술, 특히 ‘생성형 인공지능’의 등장은 이에 대한 관심을 집중시키고 증폭한다.
 
인공지능은 윤리적 주체일까? 아니면 한창 발전하고 있는 기술의 발목을 붙잡는 성가신 존재일 뿐일까? 개인정보와 프라이버시의 보호, 챗봇의 차별 및 혐오 발언, 기술 발전에 가려진 열악한 인간 노동 등, 이 주제를 둘러싼 문제와 쟁점은 매우 다양하다. 이에 기업, 정부, 학계, 시민단체, 종교계 등에서는 수많은 인공지능 윤리 가이드라인이나 윤리 원칙을 앞다투어 발표하고 있다. 이처럼 인공지능 윤리에 대한 논의는 매우 활발하게 진행 중이다.
 
이 책은 인공지능 윤리와 규범에 관하여 지금까지 이야기되어 온 수많은 논의들을 한데 모아 새로이 살펴본다. 철학과 법학 전공자들로 이루어진 공저자들은 ‘윤리란 무엇인가’라는 근본적인 물음에서 시작하여, 인공지능 윤리와 기술의 긴장 관계, 인공지능 윤리의 주체 및 책임 문제, 인공지능 윤리의 핵심 원칙과 가치 및 국내외 주요 사례, 인공지능 윤리론, 인공지능 관련 한국의 법 제도, 규범학에서 본 인공지능 윤리의 가치, 알고리즘과 법 등을 다룬다.
 
무엇보다 저자들은 이러한 논의가 인공지능 기술과 함께 살아가는 인간과 전체 공동체를 위한 논의여야 하며, 또한 우리가 만들 미래 사회가 어떤 모습이어야 하는지에 관한 논의가 되어야 함을 강조한다.
 
저자들은 이 책의 1장을 ‘윤리학이란 무엇인가?’라는 논의로 시작한다. 빨간 사과가 ‘사과’이고 기술 윤리가 ‘윤리학’이듯, 인공지능 윤리도 ‘윤리학’이라는 생각에서인데, 지금껏 인공지능 윤리를 윤리학의 일부가 아닌 독립적인 어떤 것으로 다뤄 온 경향을 지적하는 것이다. 그래서 ‘인공지능 윤리’를 실천철학의 한 분야인 윤리학의 품으로 불러들이고, 응용윤리학이라는 이름 아래 생명윤리, 공학윤리, 환경윤리… 등과 같은 자리에 두고 논의를 시작한다.
 
2장에서는 인공지능 윤리와 기술의 관계에 대한 논의로 이어 간다. 저자들은 ‘기술-윤리’의 관계는 실제로 ‘기술-(기업)-윤리’의 관계와 다름없으며, 기술-윤리 간 긴장 관계의 표면에 드러나지 않는 ‘기업과 자본’의 존재를 인식하는 것이 무엇보다 중요하다고 말한다. ‘윤리가 인공지능 기술 발전에 장애물이 된다’는 기업가들의 입장에 대해 윤리학자들은 윤리가 왜 필요하고 중요한지 많은 설명을 제시하고 있는데, 저자들은 반대로 기업가들에게 “도대체 기술이 어떠했기에 윤리학자들이 그렇게 기술의 발목을 잡는 걸까?”, 나아가 “윤리 없는 기술의 모습은 어떠할까?”라고 질문을 던져 보자고 제안한다. 이어서 ‘윤리가 소외된 기술’의 전형을, 2020년 12월 출시된 인공지능 챗봇 서비스 ‘이루다’의 사회적 파장을 예로 들어 설명한다. 그리고 “윤리는 기술 설계의 기획, 형성, 발전 단계 내에 이미 포함되어야” 하며, “무엇보다도 윤리적이지 않은 토양의 사회에서 인공지능 윤리만 따로 중뿔나게 윤리적일 수는 없다.”고 강조한다.
 
3장은 ‘인공지능 윤리’의 주체가 누구인지, 과연 인공지능을 ‘윤리적 존재’로 볼 수 있는지에 관한 논의로 시작한다. 저자들은 이 논의에서 중요한 것은 ‘인공지능을 과연 인간처럼 만들어야 하는지’, ‘그것이 좋은 결정인지’를 생각해 보는 것이며, ‘인간과 같은 인공지능 만들기’에 앞서 해결할 문제는 기술적 가능성만이 아니라, ‘인간은 무엇인지’, ‘인공지능은 무엇인지’에 대한 논의가 필요하다고 말한다. 이후 논의는 “고도로 자동화된 기술”을 뜻하는 ‘인공지능의 자율성 문제’로 이어지고, 인공지능 윤리 논의가 지금까지 어떻게 전개되어 왔는지를 살핀다. 이어서 저자들은 “인간은 인공지능이 벌인 일을 다 책임질 수 있을까?”라는 물음에 “누군가의 책임을 말하는 것 자체가 어렵다”고 답하고, 이를 ‘인공지능을 시스템으로 이해할 때 인간의 책임’, 그리고 ‘인공지능 기술의 책임자가 따로 있는가?’에 대한 논의로 이어 나간다. 그리하여 저자들은 인공지능 윤리는 우리 모두의 윤리이며, 무엇보다도 ‘책임’에 대한 폭넓은 이해가 필요하다고 말한다.
 
4장에서는 인공지능 윤리의 핵심 가치 및 개념을 분석한다. 우선, 인공지능 윤리 원칙 현황을 개괄한 후 인공지능 윤리의 핵심 원칙 및 가치로서 ‘인간 가치’, ‘프라이버시’, ‘안전’, ‘투명성과 설명 가능성’, ‘공정성’, ‘책무성’에 관하여 알아보고, 현실에서 복합적으로 드러나는 인공지능 윤리를 ‘핀테크’의 경우로 살핀다. 이어서 국내외 주요 사례를 중심으로 인공지능 윤리 원칙 및 권고를 살펴보는데, 국외 주요 사례로는 「아실로마 인공지능 원칙」, EU의 「신뢰할 수 있는 인공지능을 위한 윤리 가이드라인 I」, IEEE의 「윤리적으로 조정된 설계」 ver.2, OECD의 「인공지능 활용 원칙 권고」, 로마 교황청의 「AI 윤리를 위한 로마 콜」, 유네스코의 「인공지능 윤리 권고」 등이, 국내 주요 사례로 과학기술정보통신부의 ‘인공지능 윤리 기준’과 국내 기술 기업의 사례가 다뤄진다. 끝으로 ‘생성형 인공지능과 윤리 문제’를 정의에서부터 사례까지 살핀다.
 
5장은 ‘인공지능 윤리’를 ‘윤리학’이라는 학문적 관점에서 바라본 ‘인공지능 윤리론’으로, 저자들은 이를 보편성(인공지능 윤리 논의 참여 주체의 다양성 문제), 구체성(거시적, 추상적 원리 중심의 논의), 진실성(‘윤리’ 마케팅), 합목적성(윤리의 제한적 이해 및 수단화), 자기목적성(학술적 논의의 활성화 요청)으로 나눠 살펴보고, 끝으로 인공지능 윤리의 미래에 관하여 짚어 본다.
 
6장은 ‘인공지능 규범학’이다. 저자들은 우선 한국의 법 제도가 ‘인공지능 윤리’를 어떻게 다루는지 알아보는데, 21대 국회에 제출된 인공지능 관련 법률안을 알아보고, 정부가 제정한 인공지능 윤리기준과 실제 적용을 ‘이루다 사건’을 사례로 살피며, 이루다 사건 이후 법률안은 어떻게 변화되었는지 소개한다. 그리고 인공지능 규범학에서 바라본 인공지능 윤리 가치에 관하여 ‘데이터, 개인정보, 프라이버시’, ‘평등의 원리: 공정성과 불평등 해소 과제’, ‘인공지능 로봇세 논의와 사회보장’으로 나눠 논의하고, 알고크라시 즉 알고리즘과 민주적 정당성의 문제, 그리고 알고리즘과 행위조종의 문제까지 다룬다.
 
결론에 해당하는 7장에서 저자들은 인공지능 윤리 논의의 과제를, 인공지능 윤리 논의에 참여하는 사람이 더욱 다양해져야 한다는 것, 그리고 인공지능 윤리 개념의 외연이 실질적으로 확대되어야 한다는 것으로 제시한다. 그리고 인공지능 윤리는 기술과 윤리의 관계에 대한 논의일 뿐만 아니라 삶의 책임에 관한 논의이며, 우리가 지향하고 만들어 갈 미래 사회와 삶에 관한 논의가 되어야 한다고 하면서, 이렇게 된다면 인공지능 윤리학의 논의는 ‘기술 시대의 존재론이자 가치론’이 될 것이라고 말한다. 저자들은 인공지능 윤리학의 가장 기본적이고 핵심적인 과제를 “우리 시대의 개인에게 윤리의 본래 의미를 되새기고, 윤리적 삶을 위한 역량을 증진하고 훈련하는 일”이라 하면서, “인공지능 기술과 관련된 직업적·사회적 지위와 역할은 개인적인 삶, 공동체 속에서 살아가는 시민의 삶과 분리될 수 없다.”고 강조한다.
 
 
인공지능인문학 학술총서,
포스트인문학 시대 학제 간 융합으로 인공지능인문학의 ‘지도’를 최초로 제시하다
 
중앙대학교 인문콘텐츠연구소(소장 이찬규)에서 기획, 연구, 집필하여 태학사에서 출간한 ‘인공지능인문학 학술총서’(전5권)는 인공지능에 대한 모든 인문학적 접근을 망라하고 있다. 인문콘텐츠연구소는 인문사회과학의 관점에서 ‘포스트휴먼 시대 인문학의 가치 고양을 위한 인공지능인문학 구축’이라는 어젠다 아래 연구소 구성원들의 역량을 총집결하여 인공지능에 대한 다채롭고 광범위한 학제적 연구를 지속적으로 수행해 왔는데, 지난 7년간의 연구 성과가 이 총서로 결실 맺은 것이다.
 
인공지능은 하나의 유행으로 치부될 수 없는 ‘시대적 현상’이다. 이 총서는 개별적‧시의적 주제에 초점을 맞춰 출간되는 기존의 단기적 성과물들과는 달리, 국내에서는 보기 드물게 인공지능이라는 포괄적 단일 주제에 관해 장기적으로 진행된 연구 프로젝트의 결과물로, ‘인공지능인문학’이라는 하나의 학제를 구성하고자 한 시도의 일환이다. 총서는 인공지능과 관련된 여러 현상뿐만 아니라, 다양한 현상 속 인문학의 정체성과 의미를 다시금 진지하게 묻는다. 인공지능에 대한 인문학적 접근을 통해 인문학 자체의 위상과 역할을 재고하고 새로운 방향을 모색함으로써, 기존의 개별적 연구를 뛰어넘어 ‘인문학으로서 인공지능 연구의 새로운 모델과 사례를 만들어 내는 것’, 이것이 본 총서의 기획 의도라 할 수 있다.
 
디지털인문학, 환경인문학 등 지금은 포스트인문학(posthumanities) 시대이다. 인문학의 지평 자체가 재편되고 있는 것이다. 포스트인문학이라는 시대적 변화는 인문학이 재편되는 방향과 의의, 특징 등을 한눈에 톺아볼 수 있는 지도를 요구하는데, 이 총서는 국내 자생적 역량으로, 그리고 학제 간 융합으로 인공지능인문학이라는 ‘지도’를 최초로 제시했다는 점에서 지금까지의 다른 연구들과 차별화된다. 중앙대학교 인문콘텐츠연구소에서는 인공지능인문학의 전반적 영역을 분류하고, 각각의 학문적 목적, 다루는 주제, 내용과 방법론 등을 체계적으로 정리하여 이러한 지도를 제시하고 있는데, 인공지능이라는 시대적 주제에 인문학적으로 접근하고자 하는 이들에게 이 다섯 권의 책은 충실한 플랫폼 또는 가이드가 되어 줄 것이다. 이로써 우리는, 우리의 힘으로 명실상부한 포스트인문학을 갖게 되었다.
 
 
저자 소개
 
김형주
독일 지겐 대학교(University of Siegen)에서 철학 박사학위를 받고, 중앙대학교 인문콘텐츠 연구소 HK 교수로 인공지능 철학, 윤리를 연구하고 있다. 주요 저서로 『Kant and AI』(2023)가 있으며, 인공지능과 관련한 최근 논문으로 「인공지능 환각」(2023)이 있다.
 
허유선
동국대학교 철학과에서 칸트철학으로 박사학위를 받았다. 우리가 지금 살아가는 사회와 가치, 철학의 관계에 관심을 두고 기술매체 윤리, 인공지능 윤리를 연구한다. 현재 한밭대학교 ‘AI와 가치 연구소’의 공동 연구원이며 동국대학교 철학과에서 강의 중이다.
 
김중권
고려대학교 법과대학을 졸업하고 동 대학에서 박사학위를 받았다. 한국공법학회 회장(제35대)과 중앙대학교 법학전문대학원 원장을 역임하였다. 현재 중앙대학교 법학전문대학원에서 행정법 및 공법을 공부하고 가르치고 있다.
 
심지원
독일 뮌스터 대학교(University of Münster)에서 인간향상을 주제로 철학 박사학위를 받았다. 생명의료 윤리, 인공지능 윤리를 중심으로 실천 윤리 전반에 관심을 두고 있다. 중앙대학교 인문콘텐츠연구소 HK 연구교수를 거쳐 동국대학교 철학과 교수로 재직 중이다.
 
엄주희
헌법학자이자 법률가로 연세대학교에서 학사·석사·박사 학위를 받았다. 국가 최고규범인 헌법학의 토대 위에서 뇌신경법학, 인공지능법학, 바이오법학까지 새로운 법학의 선구자로 연구의 지경을 넓히고 있다. 현재 건국대학교 교수로, 헌법을 가르치고 있다.
 
이연희
동국대학교에서 철학 박사학위를 받았다. 윤리학과 응용윤리 전반에 관심을 두고 있으며, 최근에는 찰스 테일러의 윤리 사상을 기반으로 포스트휴먼 시대의 규범과 도덕교육을 모색하는 데 노력을 기울이고 있다. 현재 경상국립대학교 교육연구원에서 학술연구교수로 재직 중이다.

머리말 ― 인공지능 윤리, 그리고 데모크리토스의 망치
 
1장 ‘상식’의 윤리와 ‘윤리학’의 윤리
1. 윤리학이란?
2. 윤리에 대한 오해와 윤리학의 답변
  (1) 윤리는 우연의 산물이다?
  (2) 윤리는 늘 상대적이다?
  (3) 윤리는 강제적이고 금욕적이다?
  (4) 윤리는 불이익을 가져다준다?
 
2장 인공지능 윤리와 기술의 긴장 관계
1. 기술과 윤리 논쟁 사이에 ‘숨어 있는’ 기업
2. 인공지능 관련 기업에서 ‘소비’되는 인공지능 윤리
3. 질문의 전환: ‘윤리는 기술 발달을 저해하는가?’에서 ‘도대체 왜 윤리는 기술의 발달을 저해하려고 하는가?’로
4. 윤리가 소외된 기술의 모습
5. 개발자나 기술만을 탓할 수 없는 이유
 
3장 인공지능 윤리의 정체
1. 인공지능 윤리는 누가 지키는 걸까?
  (1) 인공지능 윤리, 그 주체에 대한 혼란: 먼저 해결해야 할 문제들
  (2) 인공지능 기술의 특성: 인공지능의 자율성 문제
  (3) 인공지능 윤리 논의의 전개: 인공지능에 대한 우려에서 인간의 윤리로
2. 인간은 인공지능이 벌인 일을 다 책임질 수 있을까?
  (1) 누군가의 책임을 말하는 것 자체가 어렵다
  (2) 인공지능을 시스템으로 이해할 때 인간의 책임
  (3) 인공지능 기술, 책임자는 따로 있는가?
 
4장 인공지능 윤리의 핵심 가치·개념 분석
1. 인공지능 윤리 원칙 현황 개괄
2. 인공지능 윤리의 핵심 원칙 및 가치
  (1) 연구 방법과 범위
  (2) 인간 가치
  (3) 프라이버시
  (4) 안전
  (5) 투명성과 설명 가능성
  (6) 공정성
  (7) 책무성
3. 현실에서 복합적으로 드러나는 인공지능 윤리: 핀테크의 경우
4. 인공지능 윤리 원칙 및 권고: 국내외 주요 사례
  (1) 국외 주요 사례
  (2) 국내 주요 사례
5. 생성형 인공지능과 인공지능 윤리
  (1) 생성형 인공지능이란 무엇인가?
  (2) 생성형 인공지능의 윤리, 새로운 문제인가?
  (3) 생성 AI의 윤리적 문제, 사례를 통해 알아보기
 
5장 인공지능 윤리론: 비판적으로 읽기
1. 보편성: 인공지능 윤리 논의 참여 주체의 다양성 문제
2. 구체성: 거시적, 추상적 원리 중심의 논의
3. 진실성: ‘윤리’ 마케팅
4. 합목적성: 윤리의 제한적 이해 및 수단화
5. 자기목적성: 학술적 논의의 활성화 요청
6. 인공지능 윤리의 미래
 
6장 인공지능 규범학
1. 한국의 법 제도가 인공지능 윤리와 만났을 때
  (1) 21대 국회에 제출된 법률안
  (2) 정부가 제정한 인공지능 윤리기준과 실제의 적용: 이루다 사건
  (3) 이루다 사건 이후 법률안
2. 인공지능 규범학에서 바라본 인공지능 윤리 가치
  (1) 데이터, 개인정보, 프라이버시
  (2) 평등의 원리: 공정성과 불평등 해소 과제
  (3) 인공지능 로봇세 논의와 사회보장
3. 알고리즘과 법
  (1) 전제로서 디지털 신뢰의 구축
  (2) 알고크라시: 알고리즘과 민주적 정당성의 문제
  (3) 알고리즘과 행위조종의 문제
 
7장 나가는 말
1. 인공지능 윤리 논의의 과제
2. 인공지능 윤리학, 무엇이 되어야 할 것인가
 
참고문헌