특이점이 온다 - 레이 커즈와일

레이 커즈와일, 일론 머스크, 고인이 된 스티브 잡스 같은 사람들은 미래에서 타임머신을 타고 온 사람이 아닐까? 하는 생각을 하기도 한다.

 

SF 영화 <마이너리티 리포트>, <HER>, <스타트렉>, <백투더 퓨처> 등에서 보던 미래 세계에 대한 상상이 조금씩 현실화되고 있다. '특이점'이 그 속도를 더 가속시킬 것이고, 기계 인간이 되기 위해 머나먼 안드로메다로 향하는 <은하철도 999>의 주인공 '철이'가 실현될 날도 멀지 않았다.

 

 

[본문발췌]

 

이 세상의 어느 누구도 발명가가 자신의 지적 창조물이 성공하는 것을 볼 때 느끼는 전율보다 더 큰 전율을 느끼지는 못할 것이다. - 니콜라 테슬라, 1896년, 교류 발명가

 

 

대부분의 발명이 실패하는 이유는 연구 개발 부서가 해결책을 만들어내지 못해서가 아니라 시기가 잘못되었기 때문이다. 발명은 파도타기와 비슷하다. 물결을 정확히 예측하고 잡아낼 수 있어야 한다.

 

 

세계는 원자가 아니라 이야기로 이루어져 있다. - 뮤리엘 러카이저.

 

 

사람들은 자기 비전의 한계를 세계의 한계로 생각한다. - 아르투르 쇼펜하우어

 

 

특이점이란 무엇인가? 그것은 미래에 기술 변화의 속도가 매우 빨라지고 그 영향이 매우 깊어서 인간의 생활이 되돌릴 수 없도록 변화되는 시기를 뜻한다. 유토피아도 디스토피아도 아닌 이때, 비즈니스 모델부터 인간의 수명에 이르기까지, 우리가 삶에 의미를 부여하기위해 사용하는 온갖 개념들에 변화가 일어날 것이다. 죽음도 예외가 아니다. 특이점을 이해하게 되면 지나간 과거의 의미와 미래에 다가올 것들에 대한 시각이 바뀐다. 특이점을 정확하게 이해하면 보편적 삶이나 개인의 개별적 삶에 대한 인생관이 본질적으로 바뀐다.

 

 

특이점은 생물학적 사고 및 존재와 기술이 융합해 이룬 절정으로서, 여전히 인간적이지만 생물학적 근원을 훌쩍 뛰어넘은 세계를 탄생시킬 것이다. 특이점 이후에는 인간과 기계 사이에, 또는 물리적 현실과 가상현실 사이에 구분이 사라질 것이다. 그때에도 변하지 않고 존재하는 인간성이란 게 있을까? 물론이다. 늘 현재의 한계를 넘어 물질적, 정신적 영역을 확장하고자 하는 인간의 고유의 속성은 여전할 것이다. 많은 사람들이 이런 변화로 인해 인간성의 중요한 부분들을 잃게 될 것이라고 생각하고 그 문제에 집중한다. 그러나 그것은 다가올 기술의 모습에 대한 오해에 근거한 것이다. 지금까지 우리가 경험한 기계들은 인간의 섬세한 생물학적 성질들이 결여된 존재였다. 특이점의 여러가지 함의 중에서 가장 중요한 것은 기술이 가장 인간다운 특성이라고 여겨지는 정교함과 유연함에 있어 인간에 맞먹게 되고 나아가 뛰어넘으리라는 것이다.

 

 

진화는 더 복잡한 답을 찾아내는 것이 아니라 더 나은 답을 찾아낸다. ... 질서는 정보를 필요로고 한다. 질서란 목적에 부합하는 정보다. 질서의 크기는 정보가 목적에 부합하는 정도에 따라 결정된다. 생물 진화의 목적이라면 살아남는 것이다. 제트 엔진 설계에 진화 알고리즘(문제 해결을 위해 진화를 시뮬레이션 하는 컴퓨터 프로그램)을 적용한다면, 그때의 목적은 엔진의 성능, 효율 등을 최적화하는 것이다. 질서를 측정하는 것은 복잡성을 측정하는 것보다 더 어렵다. ... 질서를 측정하려면 각 상황에 맞는 '성공'의 척도가 필요하다. 진화 알고리즘을 만드는 프로그래머는 이러한 성공 척도('효용 함수'utility function라 불리는)를 제공해야 한다. 

 

 

이성적인 사람은 자신을 세계에 맞춘다. 비이성적인 사람은 세계를 자신에게 맞추려고 애쓴다. 그럼으로 모든 진보는 비이성적인 사람에게 달려 있다. - 조지 버나드 쇼, <혁명가를 위한 격언>, <인간과 초인> 중, 1903년

 

 

경제학 수업에서 가르치는 경제 모델들, 미 연방준비제도이사회가 통화 정책을 수립할 때나 정부 기관들이 경제 정책을 수립할 때, 그리고 여러 경제 예측 전문가들이 사용하는 경제 모델들은 거의 대부분 장기적인 추세를 평가하는 시각에 결함이 있다. 역사적으로 증명된 기하급수적 관점에 근거하지 않고 '직관적인 선형' 관점(변화의 속도가 현재 속도로 지속될 것이라고 가정하는)에 근거하기 때문이다. 선형 모델들이 얼마간 유효한 것처럼 보이는 까닭은 대부분의 사람들이 애초에 직관적 선형 관점을 채택하는 이유와 동일하다. 즉 기하급수적 추세는 짧은 기간 동안, 특히 많은 일이 일어나지 않는 초기에 관찰하고 경험할 때는 확실히 선형적인 듯 보이기 때문이다. 그러나 일단 '곡선의 무릎'에 다다라 기하급수적 성장이 폭발적으로 시작되면, 선형 모델은 무너진다. 이 책을 쓰는 동안, 미국에서는 사회복지 프로그램의 변경을 놓고 논쟁이 벌어지고 있다. 2042년까지 내다보는 프로그램인데, 그것은 내가 특이점의 도래 시기로 추정한 때와 가깝다. 이 경제 정책 검토는 이례적으로 매우 긴 기간을 다루고 있다. 그런데 경제 성장 및 수명 연장에 대한 선형 모델에 근거하고 있기 때문에 매우 비현실적인 예측이다. 우선, 수명 연장의 폭은 정부의 신중한 예측을 훨씬 앞지를 것이다. 둘때, 예순 다섯 살에도 서른 살 때와 같은 몸과 뇌를 유지하게 된다면 사람들은 굳이 은퇴하려 하지 않을 것이다. 무엇보다도, 'GNR' 기술이 도입될 경우 경제 성장은 정보 예측치인 연간 1.7퍼센트를(지난 15년간 실적의 반 정도로 낮게 보고 있는 것이다) 훨씬 능가할 것이다. 생산성의 기하급수적 증가세는 이제 막 폭발적인 단계를 시작하고 있다. 미국의 실질 국내총생산은 기하급수적으로 증가해왔다. 기술에 의한 생산성 개선의 결과였다. 일부 비평가들 중에는 국내총생산의 기하급수적 성장 원인이 인구 증가에 있다고 주장하는 이들도 있다. 그러나 일인당으로 계산해보아도 동일한 추세를 볼 수 있다.

 

 

상식이란 단순한 게 아니다. 힘겹게 얻어낸 실용적 발상들이 방대하게 모여 이룬 것이다. 생활에서 배운 규칙과 예외, 기질과 경향, 균형과 제어가 무수하게 모여 형성한 무엇이다. - 마빈 민스키

 

 

인간 수준 지능의 가장 중요한 면모는 제대로 기능할 때 어떤 일을 하느냐가 아니라 궁지에 몰렸을 때 어떤 일을 하느냐이다. - 마빈 민스키

 

 

21세기 전반부에 우리는 세 개의 혁명이 꼬리를 물고 중첩되어 발생하는 것을 보게 될 것이다. 유전학의 혁명, 나노기술의 혁명, 로봇공학의 혁명이다. 그로써 내가 제5기라 칭한 시대, 즉 특이점의 시대가 시작될 것이다. 현재 우리가 처한 지점은 'G(Genetics, 유전학)' 혁명의 초기 단계다. 우리는 생명이 간직한 정보 처리 과정을 이해함으로써 인체의 생물학을 재편하는 법을 익히고 있다. 질병을 근절하고, 인간의 잠재력을 극적으로 넓히고, 수명을 놀랍도록 연장하는 법을 배우고 있다. 그러나 한스 모라벡의 지적에 따르면 우리가 아무리 DNA에 기반을 둔 생물학을 자유자재 활용하게 된다 해도 인간은 '2류 로봇'으로 남을 것이다. 일단 생물학의 작동 원리를 완벽히 이해한 뒤 손질을 가하기 시작하면 그때는 더 이상 생물학의 도구만으로는 부족하리라는 뜻이다. 생물학의 한계는 넘게 해줄 것은 'N (Nanotechnology), 나노기술)' 혁명이다. 우리 몸과 뇌, 우리가 사는 세상을 분자 수준으로 정교하게 재설계하고 재조랍하게 해줄 것이다. 가장 강력한 혁신은 다가올 ' R(Robotics, 로봇공학)' 혁명이다. 인간의 지능을 본받았지만 그보다 한층 강력하게 재설계될 인간 수준 로봇들이 등장할 것이다. R 혁명은 최고로 의미 있는 변화다. 지능이란 우주에서 가장 강력한 '힘'이기 때문이다. 지능은, 제대로 발달하기만 한다면, 자기 앞에 놓인 어떤 장애물이라도 쉽게 내다보고 극복할 수 있을 정도로 똑똑한 것이다. 각 혁명은 직전 혁명으로 발생한 문제점들을 풀어주겠지만 또한 새로운 위험을 끌어들이기도 할 것이다. G 혁명은 질병과 노화라는 인류 고래의 문제를 풀겠지만 생물학 바이러스 무기라는 새로운 위협을 양산할 것이다. N 혁명이 충분히 발전하면 생물학적 사고에 대한 대비를 갖출 수 있겠지만, 이번엔 자기복제라는 나노봇으로 인한 위협을 겪을 것이다. 생물학이 야기하는 문제보다 훨씬 더 심각한 문제가 오는 것이다. 그런 사고에 대비하려면 R 혁명을 충분히 발전시키는 수밖에 없다. 하지만 인간의 수준을 뛰어넘는 인공지능이 바람직하지 못한 방향으로 발전할 경우, 그 때는 어찌할 것인가?

 

 

무언가를 한 가지 방식으로만 이해한다면 전혀 이해하지 못했다는 것과 마찬가지다. 뭔가가 잘못될 경우 그 고정관념에만 사로잡혀 어떻게 해야 할지 모를 것이기 때문이다. 어떤 것의 의미를 안다는 건 이미 알고 있던 다른 모든 사실들과 그 사실을 연결한다는 것이다. 그래서 뭔가를 '기계적으로' 외우는 것은 제대로 이해하는 것과는 다른 것이다. 한 가지 사실을 다양한 방식으로 표현할 줄 안다면 어떨까? 한 가지 접근법이 실패하면 다른 방법을 시도해볼 수 있다. 물론 지나치게 마구잡이로 사건들 간 연결을 시도했다가는 머릿속이 엉망진창이 될 것이다. 하지만 표상들을 적절히 연결하게 되면 마음속에서 생각들이 제대로 구성되고, 다양한 각도에서 사물을 바라볼 수 있고, 그러다보면 잘 들어맞는 것을 고를 수 있다. 그것이야말로 생각한다는 것의 진정한 의미인 것이다! - 마빈 민스키

 

 

미래에 대한 통념 중 제일 잘못된 것은 미래를 우리에게 벌어지는 어떤 일로 보는 것이다. 우리가 창조하는 어떤 것인데 말이다. - 마이클 아니시모프

 

 

인간은 상상할 수 있는 것만 창조할 수 있다.

 

 

어느 바람 부는 날, 두 수도승이 펄럭이는 깃발을 보며 입씨름을 했다. 한 수도승이 말했다. "깃발이 움직이는 것이지, 바람이 아니라네." 다른 수도승이 말했다. "바람이 움직이는 것이지, 깃발이 아니라네." 세 번째 수도승이 그 옆을 지나다 이렇게 말했다. "바람이 움직이는 게 아니오, 깃발이 펄럭이는 게 아니오. 당신들의 마음이 움직이는 것이라오." - 선승들의 우화

 

 

물리학자들은 실험실에서 벌어지는 현상을 예측해내는 것이 물리학의 임무라고 생각한다. 그래서 '끈 이론' 이나 'M 이론' 도 그럴 수 있으리라 확신한다. ... 하지만 그들은 왜 우주에 표준 우주 모형이라는 것이 존재해야 하는지, 왜 40개 이상의 변수들이 현재와 같은 값을 갖게 되었는지에 대해서도 전혀 설명하지 못한다. 끈 이론이 예측하는 유일한 상태가 현재와 같은 혼란스런 세상이라고 진심으로 믿을 수 있는가? 나는 사람들이 마치 눈가리개라도 한 듯, 우주가 왜, 그리고 어떻게 이런 상태가 되었는지는 묻지 않고 최종적인 상태에 대해서만 집중하는 모습이 우습다. - 제임스 가드너

 

 

인간과 기술의 융합은 분명 급속한 변화를 가져올 사건이다. 하지만 놀라운 혜택들을 가능케 할 오르막이지, 니체의 심연에 빠지게 할 내리막은 아니다. 융합 후의 인간을 새로운 '종'으로 보는 사람들도 있다. 하지만 종이라는 개념 자체가 순수한 생물학적 개념인데, 정작 변화는 생물학 자체를 초월하는 것이다. 특이점이라는 변화는 기나긴 생물학적 진화 역사의 마지막 단계가 아니다. 아예 생물학적 진화를 통째로 딛고 올라서는 단계인 것이다.

 

 

꿈을 꾸는 동안에는 현실이다. 삶 또한 겨우 그런 것 아니려나? - 헤이블록 엘리스

 

 

존재론적 위험에 대해서는 시행착오적 접근법을 써선 안된다. 이른바 '예방 원칙' 접근법(어떤 행위의 결과를 완벽히 알 수는 없다 해도, 무척 심각한 부정적 결과를 가져올 가능성이 조금이라도 있다는 과학자들의 분석이 있다면 위험을 감수하기보다 행위 자체를 하지 않는 편이 낫다는 원칙)을 취해야 할 텐데, 문제는 예방 원칙을 해석하는 데도 여러 상충되는 의견이 있다는 점이다. 어쨌든 기술에 따른 위험을 물리칠 수 있다는 확신을 최고로 갖는 것이 중요하다. 그래서 새로운 존재론적 위험이 등장하기 전에 아예 기술 발전 자체를 막아버리자고 집요하게 주장하는 사람들이 있는 것이다. 하지만 기술 포기는 적절한 반응이 못 된다. 미래 기술의 편익을 놓치는 것은 물론이거니와 훨씬 끔찍한 결과를 낳을 가능성이 크다. 막스 모어도 예방 원칙의 한계를 조목조목 지적하고는 대신 '행동 장려 원칙'을 세우자고 주장한다. 행동할 때의 위험과 하지 않을 때의 위험 사이에서 균형을 잘 잡자는 것이다. 

 

 

미래의 기술의 영향을 숙고하는 사람들은 종종 세 가지 생각의 단계를 겪는다. 첫째는 오래된 골칫거리들을 극복할 수 있으리라는 데서 오는 경외와 놀라움, 둘째는 새로운 기술에 수반할 심각한 위험들에 대한 두려움, 마지막은 우리가 책임감 있게 택할 수 있는 유일한 길은 위험을 적절히 관리하여 편익을 극대화할 수 있는 조심스런 방향으로 나아가는 것뿐이라는 깨달음이다.

 

 

마이클 덴턴을 인용하면, 유기체는 "자기 조직적이고 .... 자기 참조적이고.... 자기 복제적이고..... 상호 호혜적이고.... 자기 형성적이며...... 전체론적이다." 그러한 유기체는 오로지 생물학적 과정을 통해서만 탄생될 수 있으며, 그런 유기체만이 "변환 불가능하고... 침투 불가능하고.... 근본적인 존재의 실체이다." 실로 생물학적 설계에는 심오한 원칙들을 활용할 수 있으며, 활용하고 있다. 비생물학적 체계가 생물계의 특성인 패턴 창발성을 사용하지 못할 이유는 전혀 없다.

 

 

인간 지능에 대한 완벽한 모델이 구축되면 기계는 양쪽 세계의 장점들을 취한다. 유연하고 미묘한 인간적 패턴 인식 능력에다가 기계 본연의 장점, 즉 빠른 속도, 엄청난 기억 용량, 무엇보다도 지식과 기술을 쉽게 공유하는 능력까지 갖출 것이다.

 

 

뇌를 역분석함으로써 우리는 병렬적, 자기조직적, 카오스적 인간 지능 알고리즘을 강력한 연산 기관에 옮길 수 있을 것이다. 옮겨진 지능은 자신의 설계를 개선해갈 것이다. 하드웨어든 소프트웨어든 반복적 개량 과정을 통해 급속히 성장할 것이다.

 

 

과학 덕분에 인간이 스스로에 대한 지나친 자만을 고쳐왔다고 생각하는 사람들이 많다. 스티븐 제이 굴드는 이렇게 말했다. "중요한 과학 혁명들이 유일하게 공통적으로 지녔던 특성은, 인간이 우주의 중심에 있다는 기존의 신념을 차례차례 부숨으로써 인간의 교만에 사망선고를 내렸다는 점이다." 하지만 결국 인간이 세상의 중심이라는 말은 옳은 것 같다. 인간은 머릿속에서 모델 즉 가상현실을 창조할 수 있는 능력을 가졌고, 평범한 듯 보이지만 대단한 엄지손가락을 지녔고, 덕분에 기술이라는 새로운 형태의 진화를 이뤄낼 수 있었다. 그로써 생물학적 진화로부터 시작된 가속적 발전은 끊이지 않고 지속될 수 있었다. 그리고 그 발전은 온 우주가 우리 인간의 손가락 끝에 놓일 때까지, 언제까지고 계속될 것이다.

 

 

 

 

 

https://book.naver.com/bookdb/book_detail.nhn?bid=2627729