‘폭주를 막아라’...인공지능 자율성의 수위는?

Printer-friendly versionPrinter-friendly versionSend by emailSend by email
통제 벗어난 로봇 사건·사고 늘어...각국 법 제도화에 고심
Thursday, November 24th, 2016
s

사진/ PEOPLE'S DAILY,CHINA 트위터

‘KILL COMMAND'라는 너무도 직관적인 제목의 이 영화에서는 누구나 예상하듯 로봇이 오류로 인해 인간을 공격하는 이야기가 전개된다. 영화와 같은 끔찍한 상황은 아니지만 최근 중국의 한 IT 전시회장에서 가정용 로봇이 사람을 다치게 하는 사고가 발생했다.

중국 인민일보는 선전에서 개최된 ‘중국 국제 첨단기술 전시회 2016’에서 가정용 로봇 ‘패티(Fatty)’가 부스를 부수고 사람을 다치게 하는 사고를 일으켰다고 보도했다.

이 로봇은 전시회장에서 갑자기 유리로 만들어진 전시 부스로 돌진해 유리를 깨뜨렸고 관람객이 유리 파편으로 발목이 다쳐 병원에 실려 가는 사고가 일어났다. 다행이도 원인은 ‘오류’가 아닌 조작 미숙에 있었다. 패티 로봇의 운영자가 후진 버튼 대신 전진 버튼을 눌러 사고가 일어났다는 것.

중국에서 처음으로 일어난 로봇이 사람을 다치게 한 사고는 이렇게 해프닝으로 일단락되었지만 앞서 미국에서도 이와 유사한 사고가 일어난 적이 있다.

지난 7월 미국 캘리포니아 주의 한 쇼핑센터에서 보안 업무를 담당하던 로봇이 16개월 된 유아를 공격하는 일이 발생했다. 주변의 비정상적인 소음, 갑작스러운 환경 변화, 지명 수배자를 인식하고 이에 대한 알려주는 임무를 띄고 있던 로봇이 아이를 위험 인물로 인식, 공격한 것. 문제는 이 최신형 보안서비스 로봇이 저지른 사고가 이번이 처음이 아니라 앞서도 유사한 사례들이 발생했다는 것이었다.

통제를 벗어난 인공지능이 일으킨 사건사고 예는 무수히 많다. 2007년 10월 남아공에서는 로봇 방공포가 갑자기 작동해서 수십 여명의 사상자를 발생시킨 사고가 있었으며 2010년 5월 6일 뉴욕 증시에서는 다우존스 지수가 장중 1천포인트 가량 급등락하는 이상 현상이 발생했다. 로보어드바이저들의 알고리즘 매매의 부작용이었다.

올 3월에는 마이크로소프트가 개발한 인공지능 채팅로봇 ‘테이(Tay)’가 막말 파문으로 세상에 공개된 지 약 하루 만에 운영이 중단되기도 했다. 테이가 온라인 환경에서 폭력적이고 독설을 내뱉는 이용자들, 일명 ‘트롤’의 타깃이 돼 욕설과 인종·성 차별적 발언, 자극적인 정치적 발언 등을 하도록 유도 당했다는 게 MS 측의 설명이었다.

이처럼 인공지능의 자율성이 높아지면서 인간의 통제를 벗어난 행동과 그로 인한 사고 발생 확률 또한 점차 높아지고 있다. 미국에서는 개발자의 통제를 벗어나 자율 작동하는 로봇 무기의 등장 가능성에 따라 자율 수준을 어느 정도로 해야 할 것이냐를 두고 최근 '터미네이터 난제'가 쟁점으로 다뤄지고 있을 정도다.

이에 인공지능과 로봇 도입에 대비해 관련 법규와 제도 정비를 추진하는 세계 각국의 움직임 또한 빨라지고 있다. 우선 상용화를 목전에 둔 자율주행차의 경우 당분간 인공지능의 자율성을 인정하지 않겠다는 것이 각국 정부의 입장이다.

우리나라를 비롯해 일본, 영국, 독일, 프랑스 등 다수의 국가는 자율주행차가 사고를 내면 운전자에게 모든 책임이 있다는 엄격한 안전 기준을 고수하고 있다. 미국 캘리포니아 주는 운전대와 브레이크를 갖춘 자동차만 일반 도로에서 실험을 할 수 있도록 규정하고 있으며 대부분의 나라가 고속도로에서만 자율주행차의 추월을 허용하고 있다.

일각에서는 인공지능이나 로봇 자체에 법인격을 부여해야 한다는 주장도 제기되고 있다. 지난 5월 공개한 EU 의회의 로봇 관련 보고서는 지능과 인식 능력, 자율성 측면에서 점점 발달하고 있는 로봇에게 '전자인간(Electronic Persons)'이란 자격을 부여하자는 주장을 담고 있다. 나아가 로봇에게 권리와 의무를 부과하고 로봇의 고용자에게는 별도의 로봇 세금을 부과하자는 내용으로 논란을 일으키기도 했다.

SF의 거장 아이작 아시모프는 일찍이 로봇의 3원칙을 제시했다. ‘로봇은 인간을 해치지 말아야 한다. 명령에 복종해야 한다. 스스로를 보호해야 한다’. 그리고 인공지능이 4차 산업혁명의 성장엔진으로 부상한 지금, 로봇은 아시모프의 3원칙보다 훨씬 복잡하고 정교한 과제들-로봇의 능력과 가치와 한계, 윤리, 법제도에 이르기까지-을 우리에게 안겨주고 있다.

 

 

Comments

hyundai eng