“누군가를 살리고 죽이는 결정, 기계에 넘겨선 안 돼”

[한국대학신문 김정현 기자] 해외 인공지능(AI) 석학 57명이 KAIST와의 공동연구 전면거부(보이콧, Boycott)를 철회했다.

보이콧을 주도한 토비 월시(Toby Walsh) 호주 뉴사우스웨일스대 교수(인공지능)는 9일 오후 5시경 보이콧 종료를 알리는 자료를 메일로 보내왔다. 그는 자료에서 “KAIST 총장이 “스스로 동작하는 치명적 무기(LAWS)를 개발하지 않겠다”고 한 데 매우 기쁘게 생각한다“며 ”박수를 보낸다”고 밝혔다.

이들이 4일 보이콧에 나서자, 신성철 KAIST 총장은 즉각 해명 서한을 보냈다. 신 총장은 이들에게 “치명적인 자율무기 체계와 ‘킬러 로봇’ 개발에 관여할 의사가 없다”고 강조했다.

이에 “KAIST가 AI 기술을 무기 개발에 활용하지 않겠다는 의사를 신속하고 확실하게 약속한 것을 감안해 철회를 결정했다”며 “다시 KAIST를 방문, 연구를 함께할 것”이라고 밝혔다.

토비 월시 교수는 자료에서 “하룻밤만의 성공을 거둔 우리의 행동은 과학 공동체의 힘을 보여줬다”고 평가했다. 이어 그는 “지뢰밭을 제거하는 무인 로봇과 같이, 군사적 환경에서도 AI 기술을 위한 훌륭한 기회가 많다”며 “그러나 누군가를 살리고 죽이는 결정을 기계에 완전히 넘겨서는 안 된다. 윤리적 ‘레드라인’을 넘어 새로운 대량 살상 무기가 될 것”이라고 재차 강조했다.

KAIST도 이날 자료를 내 “AI를 포함한 모든 기술의 연구개발에 있어서, 인류에 대한 안전과 윤리적 기준을 매우 중요하게 생각하고 높은 기준을 지킬 것”이라고 강조했다. 

신성철 총장도 이들에게 “KAIST의 연구 철학에 전폭적 지지와 신뢰를 보내줘 감사하다”는 서신을 보냈다. 신 총장은 이들을 KAIST로 초청하면서 AI 기술의 윤리에 대한 토의와 협력에 나서줄 것을 제안했다.

한편 보이콧 참여 교수들은 오는 13일 스위스 제네바에서 열리는 ‘특정 재래식 무기에 관한 협약에 대한 정부 전문가 그룹(CCW)’ 회의가 열린다며 관심을 재차 촉구했다.

회의에는 한국을 비롯 123개 UN 회원국이 참여한다. 이들 중 22개국이 자율무기를 개발하지 않겠다고 선언했다. 토비 월시 교수는 “(회의가 다가오는데) 논란이 있는 업체와 최고의 대학이 협력하는 것을 앉아서만 볼 수 없었다”고 밝혔다.

이번 보이콧 운동에는 미국, 캐나다, 영국(각 4명) 등은 물론 일본, 중국, 홍콩 대학 교수들도 참여했다. KAIST의 한 교수도 “이번 일을 계기로 AI 기술의 윤리에 대해 대학이 실질적인 조치를 취할 것으로 기대한다”고 평가했다.