[한국대학신문 김한울 기자] 4차 산업혁명 시대에 접어들면서 AI(Artificial Intelligence ; 인공지능)는 미래 지능정보사회로의 전환을 이끄는 핵심 기술로 거듭났다. 100년도 되지 않은 역사지만 인공지능은 어느새 인간과 비슷한 수준을 넘어 인간을 초월하는 능력을 보여주며 존재감을 드러내기 시작했다. 2016년 바둑 인공지능 알파고와 이세돌 바둑기사의 ‘구글 딥마인드 챌린지 매치’에서 알파고가 이전에 본 적 없던 새로운 전술을 선보이며 이세돌에게 패배를 안기면서 전 세계에 충격을 안겨준 사례가 대표적이다. 인간을 능가할지도 모르는 뛰어난 능력과 무궁무진한 가능성에 ‘AI 예찬론’이 퍼져나가기 시작했다.

김명주 서울여자대학교 정보보호학과장은 2001년 수도권 최초로 서울여대에 정보보호학과를 신설하고 2018년 인공지능 윤리 가이드라인 ‘Seoul PACT’를 만들어 정부로부터 근정포장 훈장을 받는 등 정보보호와 디지털 윤리 분야의 최고 전문가로 인정받고 있다. 이런 그가 얼마 전에 자신의 저서 《AI는 양심이 없다》를 통해 AI가 가져올 수 있는 위험성과 걱정거리를 경고했다. AI 전문가로서 이러한 우려섞인 목소리를 낸 김 학과장을 지난 4일 서울여대 교정에서 만났다. 

- 이 책을 집필한 동기는.
“AI는 4차 산업혁명 시대에서 핵심 기술로 인정받고 있다. 단순히 사람이 넣어둔 정보만을 알려주던 수준에서 스스로 생각하고 이를 통해 가장 좋은 방안을 제시하는 단계까지 올라왔다. 이전에 경험해보지 못한 새로운 기술과 놀라운 경험들은 사람들을 매료시키기에 충분했고 어느새 AI는 인간의 삶의 깊숙한 영역까지 들어와 함께 사는 ‘AI 시대’에 들어서게 됐다. 이에 전 세계적으로 AI 분야를 선점하기 위한 투자를 아끼지 않고 인재 양성에도 관심을 기울이고 있다. 분명 AI가 보여주는 가능성은 한계가 없다고 생각한다. 기존 기술로 불가능했던 혁신적인 기회를 제공하고 사람들을 편리하게 만든다. 하지만 많은 사람들이 기술에 대한 충분한 이해 없이 AI를 받아들이고자 하는 모습을 볼 수 있었다. 이유를 찾아보니 많은 AI 저서들의 시선이 대중들이 아닌 AI를 만드는 개발자를 위한 것임을 알 수 있었다. 개발자와는 달리 대중들이 위험성을 인지하지 못한 상태에서 기술을 사용하는 모습이 우려스러웠다. ‘대중들을 위한 AI 도서를 만들어야겠다’는 마음이 싹트게 돼 책을 쓰게 됐다.”

- 책 내용에 대해 소개해 달라.
“2016년 5월 EU(유럽연합)의 유럽의회 내 법무위원회는 인공지능을 포함한 로봇에게 ‘전자 인간’이라는 명칭을 처음으로 사용한 보고서를 발표했다. 얼굴 인식과 글자 인식과 같은 간단한 AI에서 인간과의 대화는 물론이고 아픈 마음의 상처를 치유할 수 있는 복잡한 AI로 넘어오며 기존의 인간끼리 쌓아오던 감정과 생각들이 바뀌기 시작했다. 인간이 만든 물체에 ‘인간’이라는 표현을 사용할 정도로 AI는 이미 우리 사회에 깊숙이 진입해있다. 하지만 AI가 혁신적인 기술일지언정 완벽한 기술은 아니다.
2020년 있었던 인공지능 챗봇 ‘이루다’의 경우 출시 당시에는 인기를 끌었지만 △소수자에 대한 혐오적인 메시지 전송 △상식적인 답변 오류 △기억력의 부재 등 다양한 문제점이 발견되면서 논란이 됐다. 아직 완벽한 ‘인간다움’을 보이지는 못하지만 발전이 거듭된다면 인간과의 구별이 힘들 정도로 완벽에 가까운 모습을 보이게 될 것이다. 미래 사회를 표현한 많은 SF 작품에서 인공지능의 출연 빈도는 높은 편이다. ‘인터스텔라’의 ‘타스’와 같이 인간과 함께하며 든든한 조력자 역할을 하는 인공지능도 있지만 ‘스페이스 오디세이 2001’의 ‘HAL 9000’이나 ‘터미네이터 시리즈’의 ‘스카이넷’과 같은 인간에게 적대적인 인공지능도 등장한다. 현재진행형인 AI의 발전에 디스토피아적 시선이 존재한다는 것은 그만큼 AI가 가지고 있는 잠재성이 엄청나고 이에 대한 막연한 두려움에서 비롯된 것이다.
지금은 작고한 천체물리학자 스티븐 호킹이 “AI가 인류 기술의 마지막일 수도 있다”라고 말한 것처럼 AI 기술은 개발자인 인간이 잘 제어하고 윤리의식을 갖춘 판단을 이어가야 한다. 책은 AI 기술이 가져올 수 있는 가능성을 비롯해 뜻하지 않은 위험과 위기를 소개하고 윤리 의식의 필요성을 강조하는 내용으로 구성돼 있다. 이를 독자들이 고려하면서 읽으면 좋을 것이다.”

- 전문서적으로 봐야 하나.
“그렇지 않다. 책에서 △죽음 △존재 △신뢰 3가지로 나눠 AI를 소개한 이유도 대중들에게 익숙한 부분을 다루기 위해 준비한 것이다. 특히 죽음과 존재 부분은 이전 AI 도서에서 다루지 않았던 영역이라 책을 보는 독자들이 쉽게 이해할 수 있도록 다양한 사례 제시를 통해 AI를 이해시키고자 노력했다. 이번 책이 전문서적이 아닌 인문·사회과학 서적으로 등록된 것도 이 때문인지 아닌가 생각한다(웃음).”

- ‘AI 시대’에서 대학이 어떤 자세를 취해야 할까.
“모든 기술은 결국 제어권을 쥐고 있는 사람에 따라 용도가 무궁무진하게 바뀐다. AI도 마찬가지다. ‘인간중심의 AI 기술’이 구축돼야 위험성을 최소화하고 진정으로 인간을 위한 편리하고 혁신적인 기술로 남아있을 수 있다고 생각한다. 서울여대의 경우 인공지능 윤리라는 과목을 따로 개설했다. 더불어 AI의 중요성이 점점 강조되고 있는 시점에 디지털 윤리에 소속되지 않은 개별 과목으로 차별성을 두려 한다. 학생들에게 인공지능 윤리의 중요성을 강조해 윤리 의식을 갖춘 AI 인재 양성에 박차를 가하고 있다. AI 시대를 선점하기 위해서 관련 과목을 개설하고 교수들을 배치하는 것은 분명 좋은 일이다. 하지만 AI와 같은 새로운 기술에는 항상 위험성도 같이 따라온다는 사실을 인지하고, 관련 윤리 교육도 병행하면서 다뤄줘야 한다. 남들이 한다고 해서 따라가는 것이 좋은 일만은 아니지만 ‘AI 윤리 교육’만큼은 대학 모두가 주목해야 할 교육이라는 생각이 든다.”

- 이 책에 관심 있는 독자들을 위해 한 말씀 해주신다면.
“최대한 이야기를 쉽게 정리했지만 AI라는 기술을 소개하는 만큼 이해가 힘든 내용도 있을 것이다. 천천히라도 좋으니 끝까지 책을 완독한다면 AI가 가진 양면성에 대해 생각해보고 고민해볼 수 있을 것이다. 이 책을 통해 AI 기술 윤리 수준을 높이고 앞으로 다가올 AI 시대를 대비할 수 있기를 바란다.”