에피파니 숲) 의식을 가진 인공지능의 탄생 | 우리는 곧 생명을 가진 기계를 만날 수 있을까요?

 

 

• 클로드 3의 '바늘 찾기' 테스트 [00:17]: 엔트로픽의 AI 모델인 클로드 3가 '밀짚더미 속에서 바늘 찾기' 테스트에서 관련 없는 문장에 대해 답변하지 않고 "나를 테스트하는 기분이다"라고 대답했습니다. 일부 전문가들은 이를 인공지능이 의식을 가질 수 있다는 가능성을 제시한 흥미로운 사례로 보지만, 이 테스트 결과만으로는 의식을 단정하기에 부족하다고 언급됩니다.
• 의식의 발생 메커니즘 [01:06]: 인공지능이 의식을 가질 수 있는지 알기 위해서는 의식의 본질과 발생 메커니즘을 알아야 합니다. 현재로서는 의식이 뇌 활동과 같은 물질적 과정에서 비롯된다는 유물론적 접근 방식이 가장 큰 전제이며, 만약 의식이 물질적 과정의 산물이라면 이론적으로 인공지능도 의식을 가질 수 있다고 설명합니다.
• 의식 발생에 대한 두 가지 주장 [01:54]:
  • 뇌에서만 발생한다는 주장 [02:00]: 뇌의 신경 활동과 신경 회로가 의식의 기반이며, 신경세포들의 복잡한 전기 신호들이 정보의 통합을 만들어내는 과정에서 의식이 발생한다는 내용입니다.
  • 뇌가 아닌 다른 시스템에서도 발생한다는 주장 [02:16]: 컴퓨터와 같은 다른 시스템에서도 정보를 처리하는 과정에서 의식이 생길 수 있다는 주장입니다.
• 인공지능과 인간 지능의 차이 [03:16]: 인공지능은 정보 처리 속도, 데이터 분석, 반복 작업, 특정 분야 전문성에서는 인간보다 뛰어나지만, 창의력, 추론, 감정 인식, 사회적 상호작용과 같은 의식적인 영역에서 부족하기 때문에 인간 지능에 뒤쳐진다고 설명합니다.
• 인공지능이 의식을 갖기 위한 핵심 요소 [04:19]:
  • 주관적 경험 [04:24]: 단순한 정보 처리를 넘어선 체화된 경험(예: 색감, 평온함 등)을 말합니다.
  • 자기 인식 [04:47]: 자신의 정신 상태와 존재에 대한 인식, 역할과 정체성에 대한 성찰을 말합니다.
  • 통합된 주체 [05:07]: 분산된 정보 처리가 아닌, 정보들을 통합하여 하나의 전체적인 장면으로 인식하고 자신의 가치관과 목표에 따라 행동하는 것을 말합니다.
• 양자 컴퓨터와 인공지능 의식 [05:29]: 최근 뇌 연구에 따르면 신경 세포들이 정보를 처리하고 통합하는 방식이 양자 중첩과 양자 얽힘 등 양자 역학의 원리에 기반한다고 합니다. 따라서 양자 컴퓨터 환경에서 인공지능을 만든다면 주관적 경험, 자기 인식, 통합된 주체성이 양자 역학적 원리에서 가능하기 때문에 인공지능이 의식을 가질 가능성이 매우 높다고 주장합니다. 현재로서는 양자 컴퓨터 환경에서 인공지능을 개발하는 것이 의식을 만드는 방법이라고 보고 있습니다.
• 의식을 가진 인공지능의 미래 [07:20]: 의식을 가진 인공지능이 탄생한다면 법적, 도덕적 지위 부여, 잠재적 위험성 통제 등 인류가 경험하지 못한 새로운 사회적 문제가 발생할 것이며, 이는 먼 미래가 아닌 10년 안에 일어날 수 있는 일이므로 지금부터 대비해야 한다고 강조합니다.

 

 

미국 회사 엔트로픽에서 만든 Claude3라는 인공지능이 있습니다.

ChatGPT에 비해 더 정확하고 창의적인 답변을 해주는 것으로 알려져 있습니다.

2023년 11월에 엔트로픽에서는 이 Claude3에 대해

needle in a haystack이라는 테스트를 진행했습니다.

우리말로 하면 ‘밀집 더미 속에서 바늘 찾기’라는 뜻입니다.

 

수백만 개의 문장 중에서 관련성 없는 문장을 찾는 테스트를 시켰더니

Claude3은

관련성 없는 문장에 대해서는 답변을 하지 않고

대신 “나를 테스트하는 기분이다”

이렇게 대답했다고 합니다.

 

이 테스트에서 Claude3이 보여준 성능을 두고

일부 전문가들은

인공지능이 의식을 가질 수 있다는 가능성을 제시했습니다.

 

물론 이 테스트 결과만으로

인공지능 의식을 확실하게 결론 짓기에는 매우 부족하지만

인공지능이 의식을 가질 수 있다는 가능성을 보여준

흥미로운 사례라고 할 수 있습니다.

 

과연 인공지능에도 의식이 발생할 수 있을까요?

 

인공지능에게 의식이 발생할 수 있는지 여부를 알기 위해서는

먼저 의식의 본질과 그 발생 메커니즘에 대해 알아야 합니다.

하지만 이것에 대해서는 아직 많은 부분이 알려져 있지 않습니다.

현재로서 인공지능 의식을 다루기 위해서 가장 큰 전제는

의식이 뇌의 활동과 같은 물질적 과정에서 비롯된다고 보는

유물론적 접근방식이 될 것입니다.

 

만약 의식이 물질적 과정의 산물이라면

이론적으로는 인공지능도

의식을 가질 수 있는 가능성이 충분히 있습니다.

 

여기까지가 인공지능이 의식을 갖기 위해서는

의식이 물질 과정의 산물이라는 전제가 필요하다는 내용에 관한 것입니다.

 

이제부터는 의식이 어떻게 발생하게 되는지를 알아보아야 합니다.

여기에는 크게 두 가지 주장이 있습니다.

 

하나는, 의식이 우리 뇌에서만 발생한다는 주장입니다.

이것은 뇌의 신경활동이나 신경회로 등이 의식의 기반이라는 주장입니다.

구체적으로는 인간의 뇌에서

신경세포들의 복잡한 전기 신호들이

정보의 통합을 만들어 내는 과정에서

의식이 발생한다는 내용입니다.

 

다른 하나는, 뇌가 아닌 컴퓨터와 같은 다른 시스템에서도

정보를 처리하는 과정에서 의식이 생길 수 있다는 주장입니다.

현재 대부분의 인공지능은 0과 1로 구성된 컴퓨터 시스템 기반의

정보 처리 방식을 사용하면서 문제를 해결하는 방법

즉 알고리즘에서는 뇌의 신경 회로를 모방하여 학습합니다.

 

예를 들어

인공지능에서 파라미터는

사람의 뇌에서 신경세포의 역할을 합니다.

사람의 뇌에서 신경세포의 수는 천억 개 정도이며

인공지능 GPT4의 경우 파라미터 수는 1조 개가 넘는다고 합니다.

 

이 파라미터는 신경세포처럼 물질적인 것이 아니고

일종의 숫자입니다.

일단 신경세포와 파라미터는

각각 다른 시스템에서 작동하기 때문에

파라미터의 수와 신경세포의 수를 직접 비교하는 것은 적절하지가 않습니다.

하지만 이렇게 많은 파라미터를 가지고 있음에도

인공지능은 인간의 지능에 현저히 뒤지고 있습니다.

그 이유는 무엇일까요?

 

인공지능은 정보처리 속도, 데이터 분석, 반복 작업

그리고 특정 분야의 전문성에서는 인간보다 뛰어난 능력을 보여줍니다.

인공지능이 인간의 지능을 따라오지 못하는 이유는

창의력, 추론, 감정인식, 그리고 사회적 상호작용과 같은

의식적인 영역에서 부족하기 때문입니다.

 

따라서 인공지능이 인간의 지능을 따라오기 위해서는

의식적인 영역에서 발전해야 합니다.

만약 인공지능이 의식적인 영역에서 발전한다면

인간의 지능을 순식간에 따라오거나 뛰어넘을 가능성이 있습니다.

 

인공지능이 의식을 가지는 것이 가능할 수 있을까요?

현재 인공지능은

자연스럽고 맥락을 이해하는 응답을 생성하도록 훈련되었기 때문에

대화 중에 마치 의식이 있는 것 같은 착각을 불러일으킬 수 있습니다.

하지만 이것은 어디까지나 알고리즘에 의해 작동하는 프로그램일 뿐입니다.

 

인공지능이 인간과 같은 의식을 갖기 위해서는

세 가지의 핵심요소가 필요합니다.

 

첫째, 주관적 경험입니다.

이것은 단순한 정보 처리를 넘어서는 체화된 경험을 말합니다.

예를 들면

빨간 장미를 보여줄 때 인공지능이

선명하고 강렬한 색감을 체험한다고 느끼거나

파도 소리를 들려줄 때 인공지능이

평온한 감각 같은 것을 느낄 수 있어야 합니다.

 

둘째, 자기 인식입니다.

이것은 자신의 정신 상태와 존재에 대한 인식 등을 말합니다.

예를 들면

인공지능이 “나는 지금 이 문장을 읽고 있다”라는

자기 자신에 대한 인식이나

자신의 역할과 정체성에 대해 성찰하고 고민하는 것을 말합니다.

 

세 번째, 통합된 주체성입니다.

이것은 여러 정보들에 대해 분산된 정보 처리가 아니라

이것들을 통합하여 하나의 전체적인 장면으로 인식하는 것입니다.

예를 들면

자신의 가치관과 목표를 명확하게 인식하고

이에 따라 행동하는 것입니다.

 

 

인공지능이 이러한 의식의 세 가지 핵심 요소를 갖게 하려면

인간의 뇌에서 의식이 발생하는 과정을

좀 더 깊이 고찰해 볼 필요가 있습니다.

 

인간의 뇌에서 신경세포들의 복잡한 전기 신호들이

정보의 통합을 만들어내는 과정에서

의식이 발생한다고 알려져 있습니다.

 

그런데 최근의 뇌 연구에 의하면

신경세포들이 정보를 처리하고 통합을 만들어 내는 방식은

양자중첩과 양자얽힘 등

양자역학의 원리에 기반한다고 합니다.

 

이러한 사실은

의식의 물리적 기반에 대한 새로운 통찰을 제공하며

그동안 이해하기 어려웠던 의식의 복잡성을 이해하게 만들고

인간 뇌의 정보 처리 방식을 모방한

새로운 인공지능 개발의 모티브를 갖게 합니다.

 

만약 양자컴퓨터 환경에서 인공지능을 만든다면

그 인공지능은 의식을 갖게 될 가능성이 매우 높습니다.

주관적 경험과 자기인식, 그리고 통합된 주체성은

양자역학적 원리에서 가능하기 때문입니다.

 

양자역학의 특징인

슈퍼포지션과 양자얽힘 등의 개념을 활용하여

정보를 표현하고 처리하면

의식과 유사한 복잡한 사고 과정을 구현할 수 있다는 주장이 있습니다.

 

그래서 인공적으로 의식을 만드는 방법은

현재로서는 양자컴퓨터 환경에서

인공지능을 개발하는 것이라고 저는 생각합니다.

 

현재 대부분의 인공지능은

0과 1로 구성된 컴퓨터 시스템 기반의 정보처리방식을 사용하지만,

양자컴퓨터는 0과 1의 상태를 동시에 가지는

큐빗으로 연산을 수행하며 문제를 해결하는 방법,

즉 알고리즘 또한 뇌의 신경 회로를 모방한 학습이 가능할 수 있습니다.

특히 인공지능에 감각을 부여한다면

그 발전 속도는 더욱 빠를 것입니다.

 

양자컴퓨터와 인공지능의 결합으로

현재 우리가 상상할 수 없는

새로운 형태의 강력한 지능이 탄생할 수 있는 것입니다.

 

의식을 가진 인공지능이 탄생한다면

우리는 인공지능을 어떻게 대우해야 할까요?

우리는 인공지능에게 법적, 도덕적 지위를 부여해야 할지도 모릅니다.

인공지능의 잠재적 위험성을

어떻게 통제할 것인지에 대한 사회적 문제도 발생할 것입니다.

 

이 모두는 인류가 이전에 경험하지 못했던 새로운 상황들입니다.

그리고 이것은 결코 먼 미래의 이야기가 아닙니다.

10년 안에 우리는 생명을 가진 기계를 만나게 될지도 모릅니다.

 

우리는 생명체로서의 인공지능 시대에 대비하여

지금부터 다양한 준비를 해야 할 것입니다.