오자기일기
기술적특이점 / 이성규 본문
영화 [엑스 마키나]는 인간에게 묻는다. 인공지능이 인간 지능을 넘어선다면 인공지능 로봇을 인간으로 받아들일 것인가? 또 묻는다. 인공지능은 윤리적일 수 있는가? 혹은 양심을 가질 수 있는가? 이번엔 이렇게 질문을 던진다. 인간의 지능을 넘어선 인공지능을 인간은 구분할 수 있는가?
인공지능은 인간이 축조해 온 도덕률의 본질을 근본적으로 뒤흔들 만큼 난해한 숙제를 던져준다. 그것의 기술적 측면을 이해하기도 어렵지만 그것이 가져올 미래 사회상을 예상하기란 더더욱 쉽지 않다. 하지만 기술은 그 방향으로 달려가고 있고, 이 난제에 지혜로운 답을 내려야 할 시간도 다가오고 있다.
인공지능이 던진 숙제
이론 물리학자 스티븐 호킹 박사는 지난 2015년 5월12일 ‘자이트가이스트 2015 런던’ 콘퍼런스에 참석해 “컴퓨터는 인공지능을 가지고 100년 안에 인간을 넘어설 것”이라고 예상했다. 이어 “이런 일이 발생했을 때 컴퓨터가 우리와 같은 목표를 가지고 있다는 점을 분명히 할 필요가 있다”라고 충고했다. 인간과 동일한 가치 지향점을 지닌 방식으로 인공지능 설계를 통제해야 한다는 의미로 읽힌다.
아직도 공상과학 영화의 시나리오쯤으로 치부하고 있다면 생각을 고쳐먹길 바란다. 인공지능은 현실이고 그것이 지닌 지능은 이미 상당 수준까지 올라와 있다. 영화는 영화일 뿐이라고 치부한다면 당신은 현재의 머신러닝 기술을 과소평가하는 이들 가운데 한 명일지도 모른다. 이미 인공지능은 인간의 언어와 음성, 이미지를 이해하고 있고 인간보다 더 빨리 분석해내고 있다. 인간의 언어로 글을 쓸 수도 있고 대화를 할 수도 있다.
기술적 특이점이란
‘기술적 특이점’(Technological singularity)는 인공지능의 미래를 상징하는 용어다. 일반적으로 인공지능이 인간 지능을 넘어서는 역사점 기점을 의미한다. 구글 엔지니어링 디렉터이자 미래학자인 레이 커즈와일이 2005년 ‘특이점이 온다’라는 책을 출간하면서 유명세를 타기 시작했다.
기술적 특이점은 천재 수학자 존 폰 노이만이 1953년 처음 언급한 것으로 알려져 있다. 존 폰 노이만은 현재의 컴퓨터 구조를 처음 제안한 PC의 아버지이자 게임이론의 어버이다. 영국의 천재 앨런 튜링이 그의 지도로 박사학위를 받을 정도로 수학과 컴퓨터 설계 분야에서 독보적인 권위를 자랑했다.
그는 1950년대 중반 친구와의 대화에서 이렇게 언급했다. “점점 빨라지는 기술적 진보와 인류 생활양식의 변화 속도를 보면 인류의 역사가 어떤 필연적인 특이점에 접근하고 있다는 인상을 받는다. 이 시점 이후 인간의 역사가 지금 우리가 이해하는 형태로 계속될 것인지는 알 수 없다.”
물론 이와 유사한 아이디어는 몇 년 전 앨런 튜링이 먼저 내놓았다. 앨런 튜링은 1951년 논문 ‘지능형 기계, 이단의 역사’에서 “사고하는 기계가 만들어지기 시작하면, 우리의 미약한 능력을 앞지르는 건 오래 걸리지 않을 것”이라고 예측했다. 기술적 특이점에 내재된 개념과 의미는 이처럼 1950년대부터 싹트고 있었다.
기술적 특이점이라는 용어가 보편화된 계기를 준 사람은 수학자이자 SF 소셜가인 버너 빈지다. 그는 1983년 한 잡지에서 다음과 같이 기술적 특이점 개념을 구체화했다. “인간들은 곧 우리의 지능보다 더 뛰어난 지능을 가진 기계를 발명해 낼 것이다. 그리고 이러한 발명이 이루어 질 때 우리는 특이점의 시대를 맞이하게 될 것이다.” 이어 그는 1993년 ‘다가오는 기술적 특이점’이라는 논문을 발표하면서 인공지능과 특이점의 관계를 보다 명확하게 연결시키기 시작했다.
레이 커즈와일은 특이점의 도래 시점을 비교적 구체적으로 예언했다. 무엇보다 기술의 발전과 관련한 그의 예측력에 정확성이 덧입혀지면서 특이점은 예언을 넘어 과학적 예측으로 자리 잡게 됐다. ‘특이점=레이 커즈와일’이라는 도식이 더 이상 낯설지 않을 만큼 레이 커즈와일은 싱귤래리티(특이점) 전도사로 인식되고 있다.
인공지능이 인간 지능을 넘어서는 시점은?
기술적 특이점이 반드시 올 것이라고 신뢰하는 집단을 통상 싱귤래리티리안, 우리 말로 특이점주의자라고 부른다. 이들은 그 날이 올 것이라는 데 대해 조금도 의심하지 않는다. 하지만 인공지능이 인간 지능을 넘어서는 역사적 기점이 언제 도래할 것이냐에 대해서는 조금씩 견해를 달리한다. 버너 빈지는 그 시점을 2005년으로 예상했다가 뭇매를 맞았다. 이 때문에 그의 발언도 설득력을 잃었다.
특이점주의자들은 커즈와일의 예측에 기대를 걸고 있다. 커즈와일은 2005년 발간된 ‘특이점이 오고 있다’에서 2045년 특이점이 도래할 것이라고 예상했다. 지금으로부터 30년 뒤면 커즈와일이 예상했던 그날, 즉 인공지능이 인간 지능을 넘어서는 날이 올 것이라는 얘기다.
그의 예측은 수확 체증의 법칙에 기대고 있다. 수확 체증의 법칙은 투입된 생산요소가 늘어날수록 산출량도 기하급수적으로 증가하는 현상을 말한다. 전통 경제학에선 ‘자본이나 노동 같은 생산요소가 추가될 때마다 한계생산량은 줄어든다’는 수확 체감의 법칙이 진리처럼 통용돼 왔다. 레이 커즈와일은 기술의 발전 속도, 즉 기술의 가속도가 수확 체증의 법칙 속에서 작동한다고 주장한다. 컴퓨터의 연산력, 기억 장치의 발전은 수확 체증의 법칙을 따르며 기하급수적으로 그 능력이 성장한다고 그는 말한다.
인간 뇌의 연산 및 저장 능력은 2020년대면 컴퓨터에 의해 따라 잡힐 것이고 인간 뇌에 대한 역공학적 분석도 빠른 속도로 고도화할 것이라는 게 특이점 도래를 예측하는 근거다. 특히 인간 뇌에 대한 역공학 분석이 일정 수준 이상으로 발전하면 소프트웨어도 비약적으로 성장하게 될 것이라고 커즈와일은 강조했다.
특이점 도래 이후의 인간 세계
레이 커즈와일이 2007년에 출간한 책, ‘특이점이 온다’
문제는 그 이후 세계다. 기술적 특이점에 대한 비판론을 일단 무시하고 커즈와일을 비롯한 특이점주의자의 예측을 받아들인다고 치자. 특이점 도래 이후엔 어떤 일이 벌어질까. 이에 대해 커즈와일은 단호하게 말한다. “예측하기는 것 자체가 어렵다”라고.
그렇다고 파헤칠 수 없는 미지의 영역이라고 생각하지는 않았다. 특이점 도래 이후의 세계를 ‘블랙홀’에 비유하면서 “한 번도 들어가본 적 없는 블랙홀의 속성에 관한 결론들을 개념적 사고를 통해 끌어낼 수 있듯, 인간은 역사적 특이점이 갖는 의미들에 대해 제대로 숙고할 수 있다”고 했다(커즈와일, 677~678쪽). 경험하지 못했다고 그 속성과 특징을 파악하지 못할 일은 아니라는 것이다.
기술적 특이점의 도래를 믿고 안 믿고는 개인의 선택이다. [신호와 소음]의 저자이자 데이터 과학자인 네이트 실버는 “사람처럼 생각하는 컴퓨터는 아직 그 누구도 설계하지 못했으며 앞으로도 마찬가지일 것”이라며 특이점 자체에 부정적인 견해를 밝혔다. 그러면서 이렇게 적었다. “기술의 제단에 경배해서도 안 되고 기술에 공포를 느끼며 놀라서도 안 된다”라고(434쪽). 특이점에 대한 경배도 공포도 어쩌면 우리가 경계해야 할 대목일지도 모른다. 다만 그 시점을 대비하려는 노력은 과해도 지나치지 않을 것 같다.
참고문헌
· 레이 커즈와일.(2007). 특이점이 온다.
·
'과학' 카테고리의 다른 글
| "떨림과 울림"중에서 / 김상욱 (0) | 2019.03.12 |
|---|---|
| 호모사피엔스 지배력을 잃다 (0) | 2018.01.07 |
| 인간의 몸은 별먼지 (0) | 2017.01.12 |
| 인간은 필요없다 (0) | 2016.02.04 |
| 경이로운 양자역학 야그 (0) | 2015.12.31 |
