[이코노믹리뷰=홍석윤 기자] 테슬라의 일론 머스크 최고경영자(CEO)를 비롯한 실리콘밸리의 거물들은 오래 전부터 사람의 도움 없이 운행할 수 있는 완전자율주행차를 약속해 왔다.

그러나 지난 수십 년 동안, 맹목적인 컴퓨터 자동화에 대해 경고해 온 메릴랜드 대학교 (University of Maryland)의 컴퓨터 과학자 벤 슈나이더만 교수는 완전 자동화된 자동차와 로봇의 미래에 대한 기술 산업의 비전이 잘못 인식되고 있을 뿐 아니라 위험하기까지 하다고 생각한다. 그는 로봇이 인간들을 대체하기 보다는 인간과 협력해야 한다고 믿는다.

지난해 말 슈나이더만 박사는 인공지능 업계에 그것이 잘못된 방향으로 가고 있다는 것을 납득시키기 위한 십자군 전쟁을 시작했다. 지난 2월 피닉스 컨퍼런스에 참석해 주최측과 만나 “'보장된 자율성'(Assured Autonomy)이라는 컨퍼런스 주제 자체가 잘못됐다”고 주장했다.

"설계자들은 자율로봇을 만들려고 하기보다는 '신뢰할 수 있고, 안전하고, 믿을 수 있는 컴퓨터 기계'를 설계하는 새로운 목표에 집중해야 합니다.”

슈나이더만 박사는 한 인터뷰에서 "주제 명칭을 자율성에 초점을 맞추는 것에서 인간의 통제에 중점을 맞추는 것으로 주최측을 설득할 하기 위해 컨퍼런스에 참석했다"고 밝혔다.

"컨퍼런스 주제의 명칭과 그 명칭이 시사하는 은유가 매우 중요하니까요.”

슈나이더만 박사는 또 모든 로봇에는 비행기의 블랙박스 같은 장치가 있어야 한다고 주장한다.

세계 경제가 코로나바이러스 대유행의 황폐화에서 벗어나 일자리를 잃은 수백만 명이 다시 일터로 돌아가려 하는 이 시점에서 그의 경고는 더욱 절박해 보인다. 앞으로 보다 많은 사람들이 자신들이 기계 옆에서 나란히 일하며 기계와 경쟁하고 있음을 깨닫게 될 테니까 말이다.

슈나이더만 박사는 1997년에, 매사추세츠 공과대학교 미디어랩의 컴퓨터 과학자 패티 메스와, 식료품 재주문에서부터 식당 예약까지 컴퓨터 사용자들을 위해 자율적으로 일을 수행하도록 고안된 지능 소프트웨어 에이전트에 대한, 당시로서는 꽤 유명한 발상을 놓고 선견지명이 있는 논쟁을 벌였다.

"설계자들은 그들이 사람과 같이 살아있으면서도 더 똑똑한 것을 창조하고 있다고 믿습니다. 그러나 사용자들은 불안감을 느끼고 그런 시스템을 통제할 수 없습니다."

이후, 슈나이더만 박사는 설계자들이 안전하지 않은 기계를 만들 뿐만 아니라, 자동차에서 무기에 이르기까지 자율적인 시스템이 취한 행동에 대해 윤리적 책임을 면제해주는 위험을 감수하고 있다고 주장했다.

슈나이더만 박사는 피닉스 컨퍼런스에서, 737 맥스 제트기 두 대가 추락한 뒤 엄청난 비난을 받고 있는 보잉의 MCAS 비행통제 시스템이 인간의 통제를 배제한 고도의 자동화가 낳은 극단적 사례라고 말했다.

그는 한 미발표 기사에 "설계자들은 자신들이 설계한 자율 시스템이 실패할 수 없다고 생각한다”고 썼다. 따라서 비행기 사용 설명서에는 그 시스템의 존재도 나와있지 않았고, 조종사들은 수동 오버라이드로 전환하는 방법에 대한 교육도 받지 않았다는 것이다.

슈나이더만 박사는 또 공학계가 인공지능 기반 자동화에 접근하는 방식을 재고해야 한다고 주장했다. 그동안 기계의 자율성은 사람이 수동으로 제어하는 기계 단계에서부터 사람의 개입 없이 작동하는 시스템 단계까지 1차원적으로 발전하는 잣대로 설명돼 왔다.

그 대표적인 예가 자동차공학회가 세운 자율주행차 발전 단계에 대한 정의 모델이다. 인간이 전적으로 조종하는 0단계(Level 0)에서부터 완전 자율운행을 의미하는 5단계(Level 5)까지 6단계로 설명하는 방식이다.

슈나이더만 박사는 높은 수준의 기계 자동화와 인간 통제를 모두 허용하는 2차원 대안을 제시했다. 자동차 에어백이나 원자력 발전소 제어봉과 같은 특정한 예외를 제외하고, 컴퓨터 설계자의 목표는 인간 능력의 대체가 아니라 인간 능력을 확장하기 위해 컴퓨팅을 사용하는 시스템이 되어야 한다고 주장한다.

그러나 듀크대학교 인간 및 자율연구소 미시 커밍스 교수는 "슈나이더만 박사의 2차원 모델이 새로운 관점은 아니다"라며 "다만 설계 수업에서 그가 주장하는 인간 인터페이스라는 개념은 수용한다"고 말했다.

"인간과 기계의 협력의 정도는 시스템의 불확실성과 결과의 중요성에 따라 결정되어야 합니다.”