통제불능 정리 2편

3.   반항적 태도를 가진 기계

 

만약에 기계들이 자연스럽다면 그들은 자연권을 갖고 있을까요?

우리는 기계들로 하여금 인간의 시중을 들도록 훈련할 것이다. 그러나 우리는 기계를 위해 무엇을 해줄 것인가?

 

어떤 로봇이든 다음 두 가지 규칙만 따른다면 성능이 훨씬 더 개선될 수 있다.

첫째, 스스로 움직여라, 둘째, 스스로 생존하라.

 

만일 여러분이 바퀴벌레에서 다리 하나를 떼어낸다면 녀석은 금방 5개의 다리로 활보하는 데 적응할 것이다.

이와 같은 적응은 학습의 결과물이 아니다. 스스로, 그리고 즉각적으로 재구성이 일어난 것이다.

자신이 어떻게 걷는지 모르면서 어쨌든 걸을 수 있는 창조물을 만들어내는 지침.

“(더듬이가)뭔가를 감지하면 나는 멈출 것이다. 아무것도 감지하지 않으면 계속 갈 것이다.” 라는 규칙

 

보편적인 생물학 법칙 : 뭔가가 제대로 작동하면 거기에 손대지 말라. 그리고 그 위에 뭔가를 덧붙여라. 자연계에서 개선은 오류가 제거된 기존의 시스템 위에 ‘덧칠’된다.

 

무작위적인 기회에 바탕을 둔, ‘찾으면 좋고 아니면 말고’식의 되는 대로 굴러가는 이 시스템은 엄청나게 비효율적인 재활용 프로그램이다.

 

브룩스가 고안해낸 로봇들을 위한 분산 제어 구조를 ‘포섭 구조’라고 부른다. 왜냐하면 상위 수준의 행동이 통제권을 행사하고자 할 때 하위 수준 행동의 역할을 포섭하기 때문이다.

만일 국가가 기계라면 포섭 구조를 가지고 다음과 같은 국가를 건설할 수 있을 것이다.

 

연구실에서 개발한 분산 제어 시스템에 대한 포괄적 지침

1)    단순한 작업을 먼저 하라.

2)    그 작업을 완벽하게 해내도록 학습하라.

3)    단순한 작업의 결과물 위에 새로운 활동의 층을 덧붙여라.

4)    단순한 작업을 변경하지 말라.

5)    새로운 층 역시 그 아래의 단순한 층과 같이 완벽하게 작동하도록 하라.

6)    이 과정을 무한히 반복하라.

 

이 지침은 어떤 종류의 복잡성을 관리하는 데에도 효과적으로 사용될 수 있다. 왜냐하면 그것이 복잡성의 본질이기 때문이다.

 

우리가 언뜻 생각하기에 1억 명의 국민을 통치하거나, 가느다란 두 다리로 걷는 것처럼 복잡한 작업을 수행하는 가장 명확한 방법은 수행해야 할 모든 작업들의 목록을 작성하고, 각 작업을 수행할 순서를 정하고, 중앙의 지침 또는 뇌의 명령을 통해 그 작업을 수행하도록 만드는 것이다. 구소련의 경제가 바로 이 논리적이지만 엄청나게 비현실적인 방법으로 배선되어 있었다. 이 구조에 내재되어 있는 불안정성은 시스템이 붕괴되기 훨씬 전부터 분명하게 드러났다.

 

중앙 통제식 신체는 중앙 통제식 경제보다 나을 것이 없다.

뇌에 중점을 둔 연구자들이 지금까지 붕괴라도 할 만큼의 복잡성을 지닌 피조물도 만들지 못했다는 사실은 브룩스가 보기에는 전혀 놀라운 일이 아니다.

브룩스는 중앙 집중적인 뇌 없이도 어느 정도의 복잡성을 지닌 시스템을 만들기 위해 노력해왔다. 그는 이와 같은 중심 없는 지능 시스템을 ‘추론(이유) 없는 지능’이라 불렀다.

 

구소련이 붕괴한 것은 중앙 통제식 모델에 의해 그들의 경제가 질식 상태에 이르렀기 때문이 아니다. 오히려 중앙 통제식 복잡성은 어떤 것이든 본질적으로 불안정하고 융통성이 없기 때문이다. 어떤 기관이든 기업이든 공장이든 생물이든 경제든 로봇이든 중앙 통제식으로 설계될 경우 번영하기 힘들다.

 

이런 질문을 제기 할 것이다. 인간인 나는 중앙 통제식의 뇌를 가지고 있지 않은가?

인간은 뇌를 가지고 있다. 하지만 인간의 뇌는 중앙 통제식도 아니고 어떤 중심을 갖고 있지도 않다. “인간의 뇌에 어떤 중심이 있다는 생각은 잘못된 생각입니다. 그냥 잘못된 정도가 아니라 완전히, 철저히 잘못된 생각입니다.”

 

그의 주장에 따르면 마음의 기능, 예컨대 사고 기능은 사고하지 않는 부분들에서 나온다는 것이다. 데닛에 따르면 (우리 몸에) 행동을 통제하는 장소, ‘걷기’를 일으키는 장소, 영혼이 머무르는 장소가 따로 존재하지 않는다. “뇌에 대해 이야기해볼까요? 만일 여러분이 자신의 뇌를 들여다본다면 그 안에 아무도 없다는 사실을 발견하게 될 것입니다.”

 

의식이란 미약하고 의식이 없는 수많은 회로의 분산된 네트워크에서 생겨난 창발적 현상

 

“우리가 말을 할 때 우리 뇌에 있는 언어 출력 상자에서 말이 만들어져 나오게 됩니다. 언어 제조 부서들이 단어들을 조합해서 그 상자에 집어넣지요. 이 언어 제조 부서는 ‘개념화 부서’라는 하위 시스템에서 지침을 받습니다. 개념화 부서가 언어 제조 부서에 언어 이전 상태의 메시지를 전달하지요. 물론 개념화 부서는 그 메시지를 또 다른 출처에서 전달받구요. 이런 식으로 통제의 주체를 놓고 무한 회귀가 일어나게 됩니다.”

 

‘의미는 분산되어 있는 수많은 작은 것들, 그 자체로서는 아무런 의미가 없는 그런 존재들로부터 창발하는 것’일 가능성이 높다고 본다. 중심 없이 분산되어 있는 수많은 모듈은 거칠고, 종종 모순된 부분들을 만들어낸다. “그러나 완전히 조율되지 않고, 사실상 각 부분들이 마구 경쟁을 벌이는 혼란 속에서 창발하는 것이 바로 ‘말’이라는 행위입니다.”

 

“한 줄기로 도도하게 흐르는 의식의 흐름 같은 것은 없습니다.”

 

“~ 마음은 모든 단계에서 동시에 상존하는 가능성들의 무대와 같다. 그 가능성들을 서로 비교하고 그 중 일부를 선택하고 나머지를 억제하는 과정에 의식이 존재한다.”

 

선택 가능한 여러 가지 생각들의 불협화음 속에서 우리가 생각하는 통합된 지능이 형성된다는 개념에 마빈 민스키는‘마음의 사회’라는 이름을 붙였다. “우리는 그 자체로서는 마음이 없는 작은 부분들로부터 마음을 만들어낼 수 있다.” 그리고 민스키는 각각 먹을 것, 마실 것, 쉴 곳, 몸을 보호할 수단을 확보하려는 각각의 중요한 목표(또는 본능)에 전념하는, 개별적이고 전문적인 부분들로 이루어진 단순한 뇌를 상상해보라고 제안했다. 각 부분들은 그 자체로는 바보 천치이다. 그러나 그들이 한데 모여서 얽히고 설킨 제어의 위계질서 안에서 다양한 방식의 배열로 조직될 때 그들은 생각을 창조해낼 수 있다. “마음의 사회 없이는 지능이 생겨날 수 없다. 우리는 오직 멍청한 것으로부터만 영리한 것을 얻을 수 있다.”

 

복잡한 조직 안에 있는 멍청한 행위자들은 언제나 한정된 자원과 인식을 놓고 경쟁하고 동시에 협력한다. 각 부분들이 벌이는 치열한 경쟁은 매우 느슨하게 조율될 뿐이다. 민스키는‘제각기 독립적인 목표를 가진, 거의 분리된 개별적 행위자들이 느슨하게 묶인 연합’으로부터 지능이 출현한다고 보았다. 성공을 거둔 행위자는 보존될 것이고 실패한 행위자는 시간이 흐르면서 사라질 것이다. 그런 면에서 볼 때 뇌는 독점적 지배권이 통하는 곳이 아니라 가차 없이 혹독한 생태계라고 볼 수 있다. 이 생태계에서는 무자비한 경쟁이 때로는 협력을 낳기도 한다.

 

아마도 우리의 지능은 아주 작은 부분까지 파고들어보면 평균의 법칙을 따르는 확률적이고 통계적인 현상일 가능성이 높다. 지능의 토대를 형성하는 충돌들이 종잡을 수 없이 이리 튀고 저리 튀며 널리 분산되어 있기 때문에 특정 시작점에 대한 결정론적인 결과가 나타날 수 없다. 즉 어떤 결과는 재현 가능한 것이 아니라 단순히 확률적이라는 것이다. 따라서 어떤 특정 생각에 이르게 된 것은 어느 정도 우연의 소산이라고 할 수 있다.

‘

‘나’는 사실 존재하지 않기 때문에 우리들 각자가 하나씩 만들어낸다는 것이다.

사람에도 벌떼에도, 기업에도, 동물에도, 국가에도, 어떤 살아 있는 것에도 ‘나’란 존재하지 않는다. ‘나’는 유령이자 덧없는 장막과 같은 것이다. 마치 수백만 개의 빙빙 돌아가는 물 분자에 의해 수직으로 형성된 소용돌이처럼 일시적으로 나타나는 형태에 지나지 않는다.

 

“근본적으로 포섭 구조는 로봇에서 센서를 작동 장치에 연결시키는 병력적이고 분산된 연산 절차를 말한다.” 이 조직의 중요한 측면은 복잡성이 모듈 단위로 함축되어 계층적 체계로 배열되어 있다는 점이다. 통제 중심이 없이 분산되어 있다는 사회적 아이디어에 환호를 보냈던 사람들은 이 새로운 구조에서 계층이 중요하고 필수적인 요소라는 사실에 분노를 느낄지도 모른다. 분산 제어가 계층(위계제)의 종말을 가져오는 것이 아니란 말인가?

“모든 모듈은 동등하게 만들어졌다. 각각의 모듈은 단지 최선을 다해 자신의 일을 할 뿐이다.”

 

컴퓨터 중심의 동등 계층 네트워크를 기반으로 하는 네트워크 경제의 시대가 올 것이라고 예언한다. 그들의 주장은 반쯤 옳고 반쯤 틀리다. 권위적인 ‘하향식’위계는 물러날 것이다. 그러나 분산 시스템이라고 하더라도 횡적인 ‘상향식’통제가 이루어지는 포섭적 위계 구조를 갖지 못할 경우 궁극적으로 살아남지 못한다.

 

이런 포괄적 분산 제어 시스템에서 두 번째로 중요한 측면은 통제의 흐름이 가장 아래에서부터 점진적으로 이루어진다는 사실이다.

위에서 아래로 통제력이 작용하는 것이 효과적이지 못한 이유는 수학에서 곱셈이 나눗셈보다 쉬운 것과 같은 이치이다. 여러 개의 소수를 곱해서 큰 수로 만드는 것은 매우 쉽다. 그러나 큰 수를 단순한 소수의 곱으로 나누는 일은 매우 어렵다. 하향식 통제는 바로 이렇게 큰 숫자를 단순한 구성 요소로 분해하는 것에 비견되는 어려운 작업이다.

반면 단순한 구성 요소를 그러모아 큰 결과물을 만드는 것은 매우 쉬운 일이다.

 

이 간단한 법칙은 다음과 같다. 분산 제어는 단순하고 국지적인 제어에서 시작해서 점차 확산되어나가야 한다. 복잡성은 이미 제대로 돌아가고 있는 단순한 시스템에서 비롯되어 점차 커져가야 한다.

 

“행위자들 사이에는 명확한 의사소통이 없습니다. 모든 의사소통은 어느 한 행위자의 행동이 바깥 세계에 일으킨 결과를 다른 행위자가 관찰함으로써 일어납니다.”

 

흔히 알려진 경영 기법 가운데 ‘모든 구성원이 모든 것을 알게 하라’는 조언이 있지만 지능의 출현은 이런 식으로 이루어지지 않는다.

 

중앙 집중적 뇌는 수많은 센서로부터 전달되는 모순된 정보를 어떻게 처리할까?

 

중앙 집중적 조직이 없는 상태에서 다양한 행위자들은 제 기능을 수행하거나 죽어버리거나 둘 중 하나를 택할 수밖에 없다. 브룩스의 조직은 “하나의 뇌 안에 들어 있는 다수의 행위자들이 바깥 세계를 통해 의사소통을 하며 로봇 몸의 자원을 두고 경쟁을 벌인다.”라고 할 수 있다. 경쟁에서 살아남은 행위자들만이 다른 행위자들의 주의를 끌 수 있다.

 

기민한 관찰자들이라면 브룩스의 방식이 바로 시장 경제에 대한 묘사와 정확히 일치한다는 사실을 눈치 챘을 것이다. 행위자들은 자신의 행위가 바깥 세계에서 다른 행위자들에게 미친 효과(행위 그 자체가 아니고)를 관찰하는 것 이외에 서로 의사소통을 하지 않는다. 달걀의 가격은 내가 만나본 일 없는 수십, 수백만 명의 행위자들에 의해 나에게 전달된 메시지이다.

이렇게 결정된 가격 정보는 다른 가격 정보와 더불어 수천, 수만의 양계업자, 운동화 제조업자, 투자 은행가 등에게 그들의 돈과 노력을 어디에 써야 할지를 말해준다.

브룩스의 모델은 실제로 모든 종류의 복잡한 유기체가 작동하는 방식에 대한 정확한 모형이다.

다섯 가지 교훈

l  점진적 구성 : 복잡성을 장착하려고 하지 말고 길러내라.

l  센서와 작동기의 긴밀한 연결 : 사고를 거치지 않고 반사적으로 행동하게 하라.

l  독립적 모듈로 이루어진 층 : 시스템은 독자적으로 실행 가능한 하부 단위로 해체될 수 있다.

l  분산 제어 : 중심 계획이 없다.

l  희박한 의사소통 : 내부의 배선이 아닌 바깥 세계에 미친 결과를 관찰하라.

 

이전에는 ‘더 영리한 로봇’은 더 많은 컴퓨터 부품이 필요했고 더 무거워야 했다.

이런 식으로 상승하는 나선형 고리의 악순환을 밟으며 로봇은 점차로 거대해져 갔고 로봇의 사고를 담당한 부분과 몸체의 비율은 점점 더 몸체 쪽이 커지는 쪽으로 나아가게 되었다.

 

예를 들어 스마트 도어에 대해 설명했다. 대략 10달러 정도 돈을 더 들이면 여러분은 문마다 칩 형태의 작은 뇌를 부착해서 여러분이 나가려고 할 때 문이 알아서 열리고 밖에서 들어올 때 다른 스마트 도어의 메시지를 받아 저절로 열리게 할 수 있다. 또한 스마트 도어가 여러분이 집 밖으로 나갔다는 사실을 조명 장치에 알려줄 수도 있다. 더 나아가 건물 전체에 이런 스마트 도어를 설치한다면 사람들의 출입뿐만 아니라 건물 내의 대기 상태도 조절할 수 있다. 

 

더 나아가 그 아이디어를 확장해서 현재 비활성화되어 있는 모든 종류의 다른 장치에 이처럼 빠르고, 값싸고, 통제할 수 없는 지능을 설치한다면, 우리에게 봉사하는, 그리고 점점 더 잘 봉사하도록 스스로 학습을 계속하는 지각 있는 존재들의 군집이 우리 주위를 둘러싸게 될 것이다.

 

미래에는 우리와 상호 의존적 관계 속에서 살아가는 인공 존재들이 가득하게 될 것이라고 예측했다. 새로운 개념의 공생이다. 그들은 곤충과 같은 접근 방식을 통해 문제를 해결해나간다. 곤충과 같은 접근 방식이란 무엇일까? 각 부분이 작은 임무를 수행하고, 수많은 부분들이 끊임없이 작은 임무를 수행하다보면 커다란 임무가 달성되며, 각각의 부분들은 대체 가능한 것이 바로 곤충과 같은 접근 방식이다.

 

로봇 연구실에서 얻은 모든 경험은 가혹한 진짜 세계에서 몸 없는 마음은 존재할 수 없다고 말해준다.

 

“생각하는 것은 행동하는 것이고 행동하는 것은 생각하는 것이다.”

“움직임 없이는 생명도 없다.”

 

우리 존재의 중심은 마음에 있지 않다. 아니 설사 그렇다고 하더라도 우리 마음에는 중심 또는 ‘나’라는 것이 없다. 우리의 몸에도 중심이 없는 것은 마찬가지이다. 몸과 마음은 우리가 생각하는 경계를 넘어 서로 분리할 수 없이 얽혀 있다. 몸과 마음은 서로 그다지 다르지 않다.몸과 마음 모두 하위 수준에 존재하는 것들의 무리로 이루어져 있다.

 

우리의 척수는 단순히 뇌에서 나오는 메시지를 전달하는 전화선이 아니다. 척수 역시 생각을 한다. 우리 행동의 중심이 어디냐고 묻는다면 머리보다는 심장이 있는 가슴을 가르키는 것이 훨씬 진실에 가깝다.

 

우리의 정서는 우리 몸 전체에 퍼져나가는 호르몬과 펩타이드의 수프 안에서 헤엄치고 있다.

옥시토신은 우리의 내분비계에서 사랑에 대한 생각(또는 사랑스러운 생각)을 방출한다.

이러한 호르몬들 역시 정보를 처리한다. 과학자들은 우리의 면역계 역시 수백만 개의 서로 다른 분자들을 인식하고 기억할 수 있는 놀라운 성능의 병렬 분산 지각 기계라고 설명한다.

 

진짜 몸 안에서 하루하루 자신의 힘으로 생존하는 로봇을 만들어내는 것이 인공 지능 내지는 진짜 지능을 만드는 유일한 길이다. 마음이 창발하는 것을 원하지 않는다면 마음을 몸에서 분리시켜라!

 

지루함은 마음을 육체로부터 이탈 시킬 수 있다.

몸은 마음과 생명의 닻이다. 몸은 마음이 스스로 만들어낸 바람에 날라가버리는 것을 막아주는 기계이다.

몸이 없다면 마음은 그저 자기 자신에 대해서만 생각할 뿐이다.

감각이 없다면 마음은 심적 수음에 빠져들다가 결국 심적 맹목 상태에 이르게 된다.