AI는 만능은! 인간은 인간을! 지향해야 한다 - AI 이후의 세계

 CHAT-GPT에 열광하는 친구가 있는가 하면, 시큰둥한 반응을 보이기도 한다. 기계가 인간의 언어를 흉내 내는 수준을 넘어 인간보다 뛰어난 결과를 만들어낸 것은 놀라운 일이다. 현재까지 인간이 만들어낸 데이터를 학습하고 인간의 삶에 좋은 결과를 도출하는 목적보다 한 차원 올라간 일임을 부인할 수 없다.

 

 개인적으로 CHAT-GPT의 텍스트를 시중에서 익숙한 음성 서비스로 진행한다면 활용할 부분이 많다는 생각을 한다. 동시에 대단히 큰 위험도 존재한다. 오늘 읍내에 잠시 나가 세상의 다양한 사람들의 주장을 보았다. 한 시대, 지금 순간을 사는 사람들의 욕망은 다 다르다. 역사의 발자취 속에 그 욕망이 올바른 결론과 귀결되었는지, 그렇지 않은지, 어떤 결정적인 요인이 흥망성쇠를 결정했는지 알 수 있다. 지금 현재는 결과가 나올 때까지 사후적 판단이 유보될 수 있다. 그런 일이 AI처럼 될 수 있을까? 사실 좀 부정적이다. 왜냐하면 모든 데이터는 인간이 만든 양에 비례하기 때문이다. 수학의 극한개념처럼 막대한 데이터를 넣으면 편차가 줄고 빈도의 확률이 정확해진다고 가정하겠지만, 막대한 오류의 데이터를 넣는다면 터미네이터의 세상이 될 수도 있다. 아니면 무릉도원처럼 합리적인 세상을 띄고 있지만 이를 지키지 않는 인간이 날뛰는 세상이 되지 말라는 법도 없다. 무엇보다 미래 데이터는 넣을 수 없기 때문이다.

 

 인간이 자연과 신앙의 세계에서 이성의 시대로 전환된 16세기의 비교는 적절하다. 유발 하라리의 편이 의미 있게 다가오는 이유다. 정확하게 데이터를 분별하는 것이 아니라 현실의 데이터를 최대한 넣어 유사하게 접근하는 관점을 보며 왜 노자가 도를 설명하는 것과 유사하다는 느낌이 드는지 모르겠다. 책에서는 동굴과 그림자를 통해 소크라테스를 이야기하지만 이 두 가지가 너무 멀리 있다는 생각이 들지 않는다. 다만 지금 이루어진 AI는 인간의 학습 형태를 흉내 내고 있지만 인간과 같은 지각이 없다. 인간이 보편적 행위, 데이터 생성결과에 수렴되겠지만 그것이 절대적 힘을 갖긴 어렵다. 원천적으로 인간의 오류가 포함되며, 데이터를 생성하는 힘, 권력, 자본의 차이에 따라서도 왜곡될 수 있다. 너무 편리하지만 통제되지 않는다면 없는 것보다 못한 위험이 커지기 때문이다. 

 

 이런 인간의 발자취와 현재의 AI를 보면 인간의 역할도 존재한다. AI가 고도로 발전된다면 SF영화처럼 그 혜택을 누릴 수도 있고, Robot기술과 AI가 통제되지 않으면 기계와 전쟁을 할지도 모른다. 그런 먼 미래가 아니라면 분명 AI를 지배하는 자, AI에 통제되는 자, AI를 돕는 자로 세상은 구분되지 않을까? 몇몇 학자들이 AI가 다양한 인간활동을 대체하고, 인간은 안락함을 제공받는 세상이 될 것이라고 예상한다. 나는 정반대의 생각을 한다. 인간의 역사 속에 탐욕, 전쟁, 폭력이 사라진 예가 없기 때문이다. AI를 바라보면 무엇을 AI 할 것인가? 에 대한 정의와 그것에 대한 범위관리가 되지 않으면 정말 빌런이 날뛰는 세상의 위험도 존재한다.

 

  지금 한쪽의 측면에서는 AI의 기술적 발전과 가능성에 대한 도전이 한창이다. 안보와 세계질서의 장에서 나오는 이야기 전에 안보와 관련된 이야기는 너무 많다. 작게는 최근에 자주 볼 수 있는 개인정보보호, 사생활보호, 네트워크 보안과 같은 일들이다. 요즘 신문을 보면 모든 사람들이 전화기를 목숨보다 중요하게 생각한다. 가끔 궁금한 것은 통신, 은행, 카드, 교통 정보를 받아서 묶으면 소유자가 언제, 어디서 무엇을 했는가에 대한 자료를 받을 수 있다. 네트워크는 익명이랑 이름(ID, 통장번호, 카드번호) 아래 완벽한 실명제이기 때문이다. 범위를 확장에 AI는 전쟁에서 한 편으로 아군의 생명을 보호하고, 한 편의로 적군의 생명을 더 효과적으로 제거할 우려가 있다. 강대국이 패권과 경쟁 이면에도 적이 보다 정확하고 빠른 실시간 예측 AI 시스템을 갖춘다면 전쟁은 의미가 없다. 어디로 공격할지 안다면 방어는 훨씬 쉬워진다. 또한 역으로 적의 예측보다 빠른 시스템은 알아도 속수무책인 공격이 가능하게 할 수 있다는 말이다. 경제시스템에 적용된다면 보다 강력한 AI를 갖은 나라가 그렇지 못한 나라를 착취하는 디지털 제국시대도 불가능한 것은 아니다. 이성적 자각, 옳고 그름에 대한 판단이 아니라 인간 데이터를 통해, 인간보다 빨리 결과를 내는 이 만물상자의 효용과 위험을 동시에 인식할 필요가 있는 시대다. 결국 인간의 중요성은 더 올라간다. 다만 AI를 inspiration 할 수 있는 사람이 되어야 한다는 사실이 인간의 과제가 아닐까?

 

 일상에서 AI를 자주 보면 어떻게 학습했는가가 중요하다. 학습환경과 데이터에 따라 반응한다. 책에서 말한 강화학습형태로 AI를 제공하는 것은 돈이 어마어마하게 든다. 학습 데이터를 조그만 컴퓨터와 장비에 맞게 경량화하는 작업도 쉽지 않다. 아직은 학습 조건과 유사하게 만들어서 사용하는 것이 정확성이 높다. 게다가 보조도구로써의 역할을 늘려가는 과정이고 오류도 많다. 문제는 AI를 접하는 사람은 기계가 아닌 사람의 기준으로 생각하다 보니 만능으로 생각한다. 기계도 공부 안 한 것은 모른다. AGI라는 일반범용 인공지능이 언젠가 가능할지도 모르겠지만, 그것이 가능하다면 국가란 그저 세금 걷는 기구가 될까? 인간이 직업이라고 하는 수많은 분야에 AI가 적용되어 권위가 사라진다면 인간이 그 불만족을 인내할까? 새로운 러다이어트 운동은 어떤 방식일까? 

 

 미래소설의 끝이 디스토피아로 그려지는 창작이 어떤 면에서 인간의 인사이트를 보여준다고 생각한다. 기계는 과거의 데이터로 현재에 필요한 결과를 산출한다. 인간은 미래를 상상한다. 기계는 인간이 인지하지 못하는 데이터로 새로운 것을 구현할 수 있지만, 미래에 대한 상상력이란 존재할 수가 없다. 동시에 인간에 대한 인사이트는 더할 나위가 없다. 지식이 많다고 지혜로운 것이 아니다. 농담처럼 슬기로운 직장생활이 오래 회사 다녔다고 만들어지지 않듯, AI는 인간에서 지혜와 슬기를 축적하는 거대한 도전을 요구하는 것일지도 모른다. 모든 의사결정과 책임은 인간의 몫이다.

 

#AI이후의세계 #헨리키신저 #에릭슈밋 #데니얼허튼로커 #인공지능 #인간 #독서 #khori