인공지능 전쟁 -킬러 로봇 -

①로봇은 인간에게 위해를 끼쳐서는 안 된다. ②1원칙을 어기지 않는 범위에서 인간의 명령에 복종해야 한다. ③2원칙을 어기지 않는 범위에서 자신을 보호해야 한다.

공상과학(SF) 작가 아이작 아시모프는 1939년 '핑계'라는 소설에서 위와 같은 '로봇 공학 3원칙'을 제시했다. 공장에 설치된 산업용 로봇에 사람이 끼어서 숨지거나, 무인차 사고로 사람이 다치는 것도 엄밀하게 말하면 아시모프의 원칙에 어긋나는 일이다.

최근 아시모프의 원칙에 정면으로 도전하는 '킬러 로봇' 연구를 두고 과학계에서 논란이 커지고 있다. 킬러 로봇은 스스로 사람을 공격할 수 있는 군용(軍用) 로봇을 뜻한다. 직접적으로 사람 생명을 노리는 기계인 셈이다.

킬러 로봇은 아직 존재하지 않는다. 로봇의 머리 역할을 하는 '인공지능(AI)'이 충분히 발달하지 않았기 때문이다. 반면 신체는 이미 완성 단계다. 미국 로봇 기업 '보스턴 다이내믹스'는 지난 17일 인간형 로봇 '아틀라스'가 산길을 뛰어가는 모습을 공개했다. 아틀라스의 최종 목표는 군인을 대체하는 것이다. 2년 전 아틀라스가 처음 공개됐을 때는 걸음마를 간신히 떼는 수준이었다. 불과 2년 만에 놀라운 발전을 이룬 것이다. 아틀라스가 터미네이터처럼 총을 들고 전장(戰場)을 누비는 것도 허황한 상상으로 치부하기 힘들게 됐다.

출처: http://biz.chosun.com/site/data/html_dir/2015/08/28/2015082802004.html

116명의 로봇 전문가들이 UN에 ‘킬러 로봇(killer robots)’ 개발을 막아줄 것을 촉구하는 서신을 전달했다고 21일 ‘BBC’, ‘가디언’ 등 주요 외신들이 전했다.

서신 작성자 중에는 테슬라 공동 창업자인 엘론 머스크(Elon Musk), 구글의 딥마인드(DeepMind) 공동창업자인 무스타파 술래이만(Mustafa Suleyman) 등 저명한 인공지능 전문가들이 다수 포함돼 있다.

이들은 UN에 보낸 서신에서 “전쟁에서의 제 3의 혁명(a third revolution in warfare)”을 경고했다. 이들은 “이 ‘자율살상무기(Lethal Autonomous Weapons Systems)’가 재앙을 몰고 온 판도라의 상자가 되고 있다”고 주장했다.

출처: https://www.sciencetimes.co.kr/?news=%ED%82%AC%EB%9F%AC-%EB%A1%9C%EB%B4%87-%EC%96%B4%EB%94%94%EA%B9%8C%EC%A7%80-%EC%99%94%EB%82%98

안토니우 구테흐스(Antonio Guterres) 유엔 사무총장. 포르투갈 리스본 웹서밋에서 국제법으로 AI 기반 살상무기, 즉 킬러로봇을 는 금지해야 한다는 견해를 제시했다. [사진=유튜브 영상 캡처]

인공지능(AI)을 사용해 인간을 식별하고 살해하는 무기는 국제법으로 금지해야 한다는 입장을 국제연합(UN)의 안토니우 구테흐스(Antonio Guterres) 사무총장이 밝혔다. 소위 '킬러로봇(killer robot)'을 금지해야 한다는 얘기다.

미국 지디넷은 6일(현지시간) 구테흐스 사무총장이 "스스로 표적을 선택하고 파괴하는 능력을 갖춘 기계는 분쟁 확대를 피하고 전장에서 존중되는 인도법(humanitarian law)과 인권법(human rights law)을 보장하는 것에 막대한 어려움을 초래할 거라 본다"고 말했다고 보도했다. 

AI 발전으로 조만간 인간을 표적으로 인식하고 공격할 수 있는 자동화 무기가 나올 거란 관측이 짙다. 하지만 이런 무기가 군인과 민간인을 구별하거나 전쟁의 비례성(proportionality in warfare)같은 개념을 이해하는 등 기본적인 전쟁규칙을 준수하지 못할 것이란 비판이 제기된다. 

전장에서 자동화 무기가 오작동하거나 해킹됐을 때 그걸 누가 책임질 것인지도 불분명하다. 수많은 국가가 '자동화 살상무기체계(lethal autonomous weapons systems)' 금지를 촉구하고 있지만 모든 국가가 이를 지지하는 상황은 아니다. 

살상무기를 금지해야 한다는 구테흐스 사무총장의 발언은 지난 5일 포르투갈 리스본에서 열린 기술컨퍼런스 '웹서밋(Web Summit)'에서 나왔다. 그는 "인명을 취할 힘과 판정기능(discretion)을 가진 기계는 정치적, 도덕적으로 용납될 수 없으며, 국제법으로 금지돼야 한다"고 말했다. 

구테흐스 총장은 같은 자리에서 일자리와 사회에 끼칠 AI의 영향에 대해서도 경고했다.

출처: http://www.zdnet.co.kr/view/?no=20181107082106

전장에서 병사가 수행하는 위험한 임무는 머지않아 AI를 장착한 로봇이 대신할 가능성이 크다. 이라크전과 아프가니스탄전에서 혁혁한 전과를 올린 무인항공기(UAV)와 무인지상차량(UGV)의 성능은 AI 기술과 결합하면서 더욱 고도화할 것이다. 평창 동계올림픽 개막식 상공을 수놓았던 초소형 드론들이 떼 지어 몰려다니며 적진을 공격하고, 지휘체계를 교란하는 것도 충분히 가능하다. AI를 탑재한 초소형 자율주행 로봇이 적장(敵將)의 숙소에 침투해 독극물을 주입하고 감쪽같이 사라지는 소설적 상상도 현실이 될 수 있다.

양산 시스템을 통해 전투용 로봇의 제작 단가가 떨어지면 전쟁의 양상은 크게 달라질 것이다. 1선은 UAV와 UGV가 맡고, 무인로봇이 2선을 맡게 된다. 실제 전쟁은 AI를 장착한 기계가 하고, 인간은 배후에서 조종하는 역할을 맡는다. AI 무기 원격조종 시스템을 파괴하거나 해킹해 오작동을 유도하고, 이를 막는 것이 공격과 방어의 핵심을 이루면서 미래의 전쟁은 사이버전 양상을 띠게 될 것이다. 이스라엘의 유발 하라리 교수가 『호모데우스』 에서 언급한대로 무인드론과 사이버 바이러스를 갖춘 첨단부대가 20세기의 대규모 군대를 대체하고, 장군들은 중요한 결정을 점점 더 알고리즘에 위임하게 될 것이다. 피를 흘릴 일이 점점 줄어들기 때문에 전쟁 가능성은 지금보다 더 커질 수 있다.

AI의 패턴 인식 기술이 급속히 발전하고, 방대한 양의 음성과 영상 테이터가 쌓이면서 가능해진 ‘딥 페이크(deep fake)’도 국제정치의 혼란을 가중시킬 주요 요인이다. 지금 기술 수준으로도 진짜 같은 가짜 동영상을 만들 수 있다. 트럼프가 대국민 담화를 통해 북한에 대한 핵 공격을 명령했다고 발표하는 가짜 동영상이 순식간에 소셜미디어를 통해 전 세계에 유포됐을 때 초래될 혼란은 상상하기 어렵다. AI 기술이 여론 조작이나 교란, 선전·선동에 사용되면서 사실과 거짓의 구별은 점점 더 어려워질 것이다.

무인공격기나 무인장갑차, 무인로봇 등 현존하는 AI 무기는 인간의 조작에 따라 임무를 수행한다. 하지만 인간의 통제를 받지 않는 자율살상무기가 등장한다면 얘기는 완전히 달라진다. 자율주행차처럼 스스로 알아서 적진을 누비며 자율적 판단에 따라 사람을 살상하는 킬러 로봇의 등장은 엄청난 윤리적, 법적 논란을 초래할 수밖에 없다. 인간의 생명을 기계의 결정에 맡기는 셈이기 때문이다. 인류는 지금 그 선을 넘기 직전이다.

휴먼라이츠워치, 국제앰네스티 같은 국제 인권단체들은 물론이고 과학계도 절대 그 선을 넘어선 안 된다고 목소리를 높이고 있다. ‘판도라의 상자’를 열지 말라는 것이다. 고인이 된 천체물리학자 스티븐 호킹, 애플 공동창업자인 스티브 워즈니악 등 1000명이 넘는 과학자들은 2015년 AI가 장착된 자율살상무기에 대한 심각한 우려를 담은 서한을 유엔에 보냈다. 작년 8월에는 116명의 로봇 전문가들이 킬러 로봇 개발 금지를 촉구하는 성명을 발표했다. 그중에는 테슬라의 창업자인 일론 머스크, 알파고를 개발한 딥마인드의 공동창업자인 무스타파 술레이만 같은 저명한 AI 전문가도 포함돼 있다.

세계적인 로봇 과학자 50여명은 지난 4월 한국과학기술원(KAIST)이 국내 방산기업과 추진키로 한 AI 무기 연구 과제를 문제 삼으며 KAIST와의 공동연구 보이콧을 선언했다. 자율살상무기에 대한 극도의 경계심을 보여준 상징적 사례다. KAIST는 “인간의 의미 있는 조종 없이 작동하는 자율무기 등 인간 존엄성에 반하는 어떤 연구 활동도 하지 않을 것”이란 성명을 서둘러 발표하며 논란을 진화해야 했다.

출처: https://www.huffingtonpost.kr/entry/story_kr_5b69398fe4b0b15abaa666e5

※미국에서 개발중인 생물로봇

도마뱀, 올챙이

해파리

상어

잠자리

물고기