초연결 시대는 뛰어난 지적 능력의 비인격적 존재에 의존하는 세상이다.

이는 인간과 사회에 근본적 질문을 제기한다.

기존 가치체계와 사회 시스템은 인간만을 자유와 판단, 책임의 주체로 보았기 때문이다.

인공지능에 의존한다는 것은 기계의 자율적 판단을 효율성의 이름으로 수용한다는 얘기다.

자율적 판단에는 책임이 따른다. ‘자율적’ 판단을 하는 인공지능에게 어디까지 책임을 물을 수 있을까? 

호모 파베르(도구적 인간)는 끊임없이 새로운 도구와 기술을 만들어내어 생존조건과 환경을 변화시켜왔다. 사회적 존재이기도 한 인간은 더 많은 연결을 추구하는 만큼, 도구를 통해 더 편하고 강한 연결을 만들어냈다. 그중에서도 1969년 미국 국방부의 아르파넷¹⁾으로 출발한 인터넷이 1990년대 상업화하면서 삶의 풍경은 연결의 측면에서 전에 없이 달라졌다.

1) 아르파넷(ARPAnet): 미국 각지에 있는 연구소와 대학교의 컴퓨터를 연결한 대규모 패킷 교환망. 1969년에 시작된 아르파넷은 인터넷으로 발전하여, 인터넷의 기원을 아르파넷으로 본다. 그런 이유로 이 프로젝트를 이끌어 간 빈트 서프는 ‘인터넷의 아버지’라 불린다.

1970년 아르파넷(Arpanet) 네트워크 (출처: the pioneersofcomputerscience)

만물인터넷(internet of everything)이 온다

집집마다 초고속 인터넷이 등장해 연결된 삶의 풍경을 바꾸더니 10여 년 전 등장한 스마트폰은 ‘초연결’이라는 용어를 만들어냈다. 스마트폰을 몸의 일부처럼 늘 휴대하고 다니면서 실시간으로 지구상의 모든 정보와 연결하는 세상을 ‘연결’이라는 기존의 단어로 표현하는 것은 부적절했기 때문이다. 초연결(超連結)은 말 그대로 '연결을 뛰어넘는 연결'을 말하는데, 이 또한 표현상 한계에 직면하고 있다. 모든 것이 연결되는 만물인터넷(internet of everything)의 시대가 빠르게 다가오고 있기 때문이다. 사물인터넷(internet of things)에서 한발 더 나아가 모든 사물이 연결되는 상황을 칭한다.

사물인터넷 개념은 1980년대 제록스팔로알토연구소(PARC)의 마크 와이저 박사가 창안한 유비쿼터스 컴퓨팅이 뿌리다. 와이저 박사는 “가장 심오한 기술은 사라져버리는 기술이다. 뛰어난 기술은 일상생활 속으로 녹아들어가 식별할 수 없게 된다”고 말했는데, 유비쿼터스 컴퓨팅의 본질이다. 모든 게 연결된 상태에 있지만, 기술의 존재가 사라져버리고 식별할 수 없는 상황이다. 늘 연결된 상태이지만 존재가 거의 드러나지 않으면 어떻게 될까? 과학소설 작가 아서 클라크가 “충분히 발달한 과학 기술은 마법과 구별할 수 없다”고 말한 대로다. 기계를 작동시키지 않아도 일상과 산업의 많은 활동이 저절로 알아서 매끄럽게 처리되는 편리한 자동화의 세상이지만 그늘도 드리운다. 더 깊이 의존하지만, 인지하기도 이해하기도 통제하기도 어려워지는 세상이다. 

기계가 판단의 주체가 되는 세상

초연결의 빅데이터 환경은 데이터의 방대함보다 정보의 생산과 이용 방식이 달라진다는 게 중요한 변화다. 초연결 세상은 데이터 이용과 생산의 주체가 기계인 세상이다. 이는 인간의 오랜 인지와 사고, 행동방식에 지대한 영향을 끼치는 요소이다. 그동안 사람은 만물의 영장으로 자부하며, 사람만이 고등한 인지와 사고를 할 수 있는 존재라고 생각해왔는데 초연결 세상은 이 전제를 뒤흔든다. 

사물인터넷은 빅데이터와 인공지능 기술을 통해 기계 스스로 인지하고 판단하는 환경이다. 센서를 통해 신호를 주고받고 자동제어하는 기존 기술과 다른 점은 사물인터넷에서 인간간 통신보다 기계끼리의 통신이 압도한다는 점이다. <뉴욕타임스> 하루치 신문에 실린 정보가 지난 세기 영국인이 평생 접하는 정보량보다 많다고 했는데, 모든 사물에 인터넷 주소가 할당되고 연결되어 정보를 주고받는 만물인터넷 세상에서는 정보가 2배로 증가하는 속도가 몇 시간 단위로 바뀐다. 점점 가속도가 붙으니, 사람이 주도하거나 의식하는 통신은 미미해지고 소통 대부분은 기계에 의해 이뤄진다. 

초연결이 가져오는 빅데이터는 이유를 알지 못해도 인과 법칙에 유사한 수준의 정확도로 결과를 예측할 수 있게 해준다. 이는 세상을 이해하기 위해서 반드시 인과성을 밝혀내야 할 필요가 없도록 만든다. 이유를 알지 못해도 빅데이터를 통한 상관분석만으로 충분히 유용한 결론에 이를 수 있게 해준다. “왜 이런 현상이 일어날까”를 밝혀내기 위해서는 가설을 세우고 이론과 실험으로 검증하는 것이 학문적 방법이었다. 인간의 이성적 사고와 논리는 삼단논법과 같은 인과관계가 핵심이다. “왜?”는 모르지만 상관성만으로 충분히 효율성을 보장할 수 있는 세상이 온다. 

딥러닝 방식의 인공지능 기계학습이 대표적 사례다. 사람 두뇌의 신경망 구조를 모방한 딥러닝은 은닉층에서 판단이 이뤄진다. 하지만 사람은 인공지능이 은닉층에서 처리한 내용을 알 수 없다. 인공지능에 데이터를 입력하고 결과를 출력하지만 딥러닝 방식은 인공지능이 어떠한 과정을 거쳐서 그 결과를 출력한 것인지 설명할 수 없다. 알파고의 작동방식이다. 알파고는 이세돌 9단을 비롯해 프로기사들을 상대로 연전연승했지만, 누구도 알파고가 놓은 돌의 의미와 이유를 설명할 수 없다. 우리는 이해할 수 없지만 효율적이고 강력한 결과를 기꺼이 채택하고 있다.

모든 것이 연결되어 인공지능에 의한 알고리즘은 유용한 결과를 제공하지만, 우리로 하여금 사고하고 추리를 통해 지적 능력을 작동시키고 강화하는 과정을 퇴화시킬 수 있다. <생각하지 않는 사람들>의 저자인 니컬러스 카는 <유리감옥>에서 자동화와 알고리즘이 정신에 끼치는 폐해를 지적한다. “예측 알고리즘은 상관관계를 찾아내는 데 초자연적 능력을 발휘할지 모르지만, 그 특성과 현상이 생기는 근본적인 원인에는 무관심하다. 하지만 인간이 가진 이해력의 범위를 확대하면서 궁극적으로 우리의 지식 추구활동에 의미를 부여하는 것은 인과관계의 해독이다. 이는 세상이 돌아가는 원리를 세심하게 풀어헤치는 것이다.” 

초연결 시대의 인공지능은 소통과 판단의 주체를 인간에서 비인간으로 확대한다. 사람처럼 의식은 없지만 사람의 인지능력, 판단능력을 능가하는 인공지능이 많은 영역에서 사람을 대신한다. <사피엔스>에서 유발 하라리는 의식 없는 지능, 즉 인공지능의 출현이 인류가 역사상 만난 최대 위기라고 본다. 

초연결 시대는 뛰어난 지적 능력의 비인격적 존재에 의존하는 세상이다. 이는 인간과 사회에 근본적 질문을 제기한다. 기존 가치체계와 사회 시스템은 인간만을 자유와 판단, 책임의 주체로 보았기 때문이다. 인공지능에 의존한다는 것은 기계의 자율적 판단을 효율성의 이름으로 수용한다는 얘기다. 자율적 판단에는 책임이 따른다. ‘자율적’ 판단을 하는 인공지능에게 어디까지 책임을 물을 수 있을까? 의식 없는 지능은 감정과 고통이 없는 상태이므로, 고통과 형벌도 부과할 수 없다. 인간 위주로 설계된 사회 시스템이 비인격적 행위 주체에 대해서는 타당하지 않은 상황이다. 비인격 주체인 로봇에게 책임을 부과하기 위한 시도의 하나로 로봇권, 로봇세 등이 등장하고 있다. 

사물로 확장되는 공감과 소통

초연결 세상은 공감과 소통의 대상을 비인간 주체인 인공지능 로봇으로 확대한다. 사람과의 감정적 소통을 주목적으로 하는 페퍼, 지보, 아이보 등 소셜 로봇, 반려로봇이 잇따라 출시되고 있다. 누구, 지니, 알렉사, 구글 어시스턴트 등 인공지능 스피커는 대화의 상대가 사람만이 아니라 2013년 할리우드 영화 <그녀>의 사만다처럼 비인간 주체일 수 있음을 시사한다. 

영화 <그녀(Her)>의 한 장면. 인공지능 시스템과 사랑에 빠지는 주인공을 다룬다. ⓒWarner Bros. Pictures, Inc.  

사람 수준의 감정 인식 및 표현 기능을 지닌 인공지능이 점점 더 사람의 친근한 상대가 되는 것은 자연스럽다. 섹스로봇이나 감정 인식 로봇이 보급되면 이 도구가 많은 사람들의 감성적 상대가 되는 현상은 불가피하고, 강한 수요를 가진 관련 기술 개발과 채택을 막기 어렵다. 1인사회, 고령화사회, 개인주의가 강화될 미래에 감성형 로봇은 범용화가 예상된다.

사람들이 감성형 로봇과 인공지능과 연결하고 의존하는 상황이 익숙해질수록 자신의 기대와 예상과 다르게 반응하는 자연인의 감정에 대응하는 것은 어려워질 수 있다. 유비쿼터스 기술과 인공지능을 통한 초연결은 역설적으로 인간 연결능력의 핵심인 공감과 소통능력을 무디게 하고 희소한 속성으로 변화시킬 수 있다. 마이크로소프트의 최고경영자 사티야 나델라는 “인공지능이 보급된 사회에서 가장 희소성을 갖는 것은 타인과 공감할 수 있는 힘을 가진 인간”이라고 말했다.

소니에서 발표한 세계 최초의 본격적인 감성 지능형 완구 로봇 애완견, 아이보 ⓒSONY

진화생물학자 장대익 서울대 교수는 <울트라소셜>에서 높은 사회성이 사람의 본질이라며, 인류의 역사는 소속 집단에서 동일한 종족으로, 또 반려동물과 자의식을 지닌 동물로까지 점점 공감 대상을 확대해온 과정이라고 말한다. 마침내 인간은 기계마저 감정적 소통이 가능한 대상으로 만들어내고 로봇과 공감하는 초연결의 단계에 이르렀다. 그러나 초연결은 거꾸로 인간 고유의 특징인 공감과 소통능력을 훼손하는 역설적 결과를 낳을 수 있다는 우려를 제기한다.