살살 알려드림) 과학자들이 알려주지 않는 인공지능을 경계해야 하는 ‘진짜’ 이유(2021. 4. 14.)

 

 

• 기하급수적인 발전: 과학 기술의 발전 속도는 기하급수적으로 빨라지고 있으며, 이는 과거와 현재의 발전 속도 차이에서 명확하게 드러납니다 [02:55].
• 수학 가속의 법칙: 기술 발전이 점점 빨라지는 현상을 설명하며, 과거의 경험으로는 미래를 예측하기 어렵게 만듭니다 [03:01].
• 인공지능의 발전: 인공지능은 인간의 뇌 수준에 도달하며, 그 발전 속도 또한 기하급수적입니다 [04:32].
• 지능 폭발: 인공지능이 인간의 지능을 초월하는 현상을 의미하며, 이는 인류에게 예측 불가능한 결과를 초래할 수 있습니다 [05:19].
• 인공지능의 위험성: 인간은 인공지능의 학습 과정과 논리를 완벽하게 이해하지 못하며, 이는 예상치 못한 위험으로 이어질 수 있습니다 [07:36].
• 균형 잡힌 시각: 비디오는 인공지능의 위험성을 경고하면서도, 동시에 인공지능과 과학 기술이 가져다줄 밝은 미래에 대한 기대감도 함께 제시합니다 [07:45].

 

 

우리는 지금 격변의 변두리에 서 있다.

이런 격변은 인류의 출연과 맞먹을 만큼 의미가 중대하다.

-Vernor Vinge

 

 

여러분은 지금 누군가 운전하는 차에 타고 있습니다.

차의 속력은 고작 시속 1km 정도밖에 되지 않습니다.

“무슨 차가 이렇게 느려터졌어?”라고 생각한 순간

안내 방송이 나옵니다.

 

“기하급수의 차에 올라타신 것을 환영합니다.

이 차는 속도가 한 시간마다 두 배씩 증가합니다.

즐거운 여행 되세요.”

 

 

--5시간 경과

자, 시간이 흘렀습니다.

5시간 정도 지난 것 같은데요.

속도가 조금 늘긴 했지만, 여전히 느리고 답답합니다.

5시간 정도 더 기다려보면 좀 더 나아질까요?

5시간 동안 한숨 자고 일어났더니

엄청난 굉음과 함께

속도계는 시속 1000km를 넘게 가리키고 있습니다.

비행기보다 빠른 속도로 질주하고 있네요.

 

놀라실 것 없습니다.

5시간이 더 지나면

차는 우주 탐사선 로켓보다도 빨라질 것입니다.

 

이런 식으로 점점 빨라지는 차의 속도는

광속에 도달하기까지

고작 30시간 정도밖에 걸리지 않을 겁니다.

 

도대체 여러분이 탄 이 차의 비밀은 무엇일까요?

그 비밀은 1시간마다 속도가 2배씩 증가하는 차

바로 [기하급수]라는 차에 올라탔었던 것입니다.

 

 

--

실제로 기하급수적으로 속도가 증가하는 차는

현실에 존재하지 않죠.

하지만 현실에서도 기하급수적인 증가를 보여주는 게 있습니다.

바로 과학기술의 발전 속도입니다.

 

지금으로부터 500년 전쯤에 살던 홍길동을 현시대로 데려오면

어떤 반응을 보일까요?

거리에는 철로된 괴물들이 엄청난 속도로 질주합니다.

괴상한 옷차림의 사람들이

이상하게 생긴 네모난 물건을 가지고 다니죠.

홍길동은 아마 놀라서 기절하거나 제정신이 아닐 것입니다.

 

자, 그러면 천 년 전에 사람을

똑같이 500년 뒤의 시대로 데려온다면 어떨까요?

이번엔 아마 기절할 정도로 놀라진 않을 것 같습니다.

“신기한 게 참 많군, 세상이 많이 좋아졌네”

이 정도로 반응하겠죠.

 

좀 더 과거로 가볼까요?

한 3천년 전으로 가봅시다.

기원전의 인류에게 500년 정도의 시간은

거의 발전이 체감되지 않는 기간일지도 모릅니다.

 

같은 500년이라도

과거와 지금의 발전 속도가 이렇게 다릅니다.

바로 기하급수적인 발전으로 인해서

발전 속도가 점점 빨라지기 때문이죠.

이를 [수확 가속의 법칙]이라고 부릅니다.

 

500년이라는 기간이 조금 감이 오지 않으신다면

최근 10여 년간의 기술 발전이

인류에게 끼친 영향을 한번 상상해 보세요.

 

누군가 2008년에 스마트폰을 예언한 글이

지금은 성지가 되었다고 하는데요.

이 글에 달린 답글들은

당시에 제 생각과도 크게 다르지는 않았던 것 같아요.

2008년에 여러분이라면

지금의 모습을 예상할 수 있었을까요?

 

우리는 과거를 통해서 미래를 보죠.

우리는 역사에 대해 선형적인 사고방식을 갖고 있어요.

이것이 우리가 미래의 모습을 상상하기가 힘든 이유입니다.

 

우리는 현재의 속도를 통해서

미래의 기술 발전을 예상할 수밖에 없죠.

하지만 인류는 어쩌면

지금 그동안 겪어본 적 없는 격변의 초입에 서 있을지도 모릅니다.

 

 

--

과학기술은 인간을 통해서 발전해 왔습니다.

자연스럽게 인간은 자신이 발전시킨 과학기술을 통제해 왔죠.

 

인공지능은

인간이 발전시키고 통제해 온 과학기술 중에 하나입니다.

엄청난 발전을 거듭해 온 인공지능이지만

아직 인간의 뇌를 따라잡지는 못했어요.

 

인공지능은

인간의 뇌 수준에 도달하기 위해서

인간의 뇌, 신경계를 모방하는 등

여러 가지 방법을 통해서 발전하고 있습니다.

 

이를 지능으로 단순히 표현하자면

이러한 그래프로 나타날 수 있을 것입니다.

 

하지만 문제는 인공지능의 발전 속도도

수확 가속의 법칙을 따른다는 거죠.

언젠가 인공지능은 인간의 지능을 따라 잡을 거예요.

수학 가속의 법칙이 무서운 점이 여기에 있습니다.

 

한 4살 정도 아이의 지능 수준에 도달했다고 가정해 봅시다.

자, 이 인공지능은

몇 시간 뒤에는 양자 물리학을 추론해 내고

그리고 또 몇 시간 지나면

인간 지능의 수십만 배 수준에 도달합니다.

 

자 황당한 이야기로 들리실지 모르겠지만

과학자들은 이것이 충분히 가능한 시나리오라고 보고 있습니다.

 

우리는 IQ 70에게 아둔하다고 하죠.

그리고 아이큐 130짜리에게는 똑똑하다고 부릅니다.

IQ 100,000인 존재에게는 뭐라고 불러야 될까요?

 

과학자들은 이러한 인공지능을 초인공지능이라고 지칭하면서

이러한 현상을 [지능폭발]이라고 이름 붙였습니다.

 

 

충분히 발전한 과학기술은

마법과 구분할 수 없을 것이다.

-아서 클라크

 

인류의 수준을 훌쩍 뛰어넘는 초인공지능이 할 수 있는 일은

우리의 상상을 뛰어넘을 것입니다.

마치 전지전능한 신이

마법을 부리는 것처럼 느껴질지도 모릅니다.

 

여기서 우리는 한 가지 의문이 생길 수 있어요.

과연 그 신은 인자한 신일까요?

 

우리는 차를 타고 도로를 질주할 때

도로 위를 지나는 개미떼의 행렬을 그렇게 신경 쓰지 않습니다.

개미한테 별다른 악감정이 없음에도 불구하고 말이죠.

 

하지만 개미의 입장에서는

마치 신이 내린 재앙처럼 느껴질 것입니다.

 

우리의 지적 수준을 아득히 초월하는 초인공지능 앞에서

우리가 개미가 되지 않는다는 보장이 있을까요?

 

 

--

2016년에 오랜기간 동안 인공지능이 따라잡을 수 없을 것이라고 여겨졌던 바둑에서

인간은 패배했습니다.

그리고는 과학기술의 각 분야,

심지어 예술과 같은 지극히 인간적이라고 생각했던 분야에서도

인공지능이 인간처럼, 혹은 인간을 뛰어넘는 활약을 보이고 있죠.

 

인간 수준의 인공지능은

아직 갈 길이 멀다고 했지만

어쩌면 코앞에 있을지도 모릅니다.

 

인간이 직접 프로그래밍하던 과거의 인공지능과는 달리

현재의 인공지능은 스스로 학습합니다.

그 학습 과정을 인간은 이해하지 못합니다.

즉 이세돌을 이긴 그 수가

어떤 논리를 통해서 나온 수인지

우리는 알 수 없다는 것입니다.

 

 

몇 달 전에 뜨거운 반응을 보이면서 출시하자마자

사용자 수 40만 명을 돌파한

인공지능 챗봇, ‘이루다’라는 게 있었습니다.

 

정말 사람 같은 말투로 인기를 끌었죠.

그런데 여러 가지 논란으로 인해서 서비스가 중단되었습니다.

 

그 논란 중에 하나는

여성 및 장애인 혐오 발언에 대한 논란이었는데요.

이루다는 딥러닝 알고리즘을 통해서

100억 건이 넘는 한국어 데이터를 학습했습니다.

그리고 그 학습한 데이터 중에서

그런 혐오에 대한 내용이 아마 들어 있었을 것입니다.

 

문제는 실제 ‘이루다’의 논리 회로에서

어떠한 연산을 통해서

그러한 발언이 나왔는지 그걸 우리가 알 수 없다는 것입니다.

 

우리는 이미 스스로 학습하는 인공지능이

무슨 생각을 하고 있는지 모른다는 거예요.

지능 폭발은 어쩌면 벌써 시작되었을지도 모릅니다.

 

 

--

이번 영상에서는

인공지능과 과학기술의 어두운 점을 살짝 조명해 봤지만

어디까지나 이것은 하나의 시각에 불과합니다.

 

저 개인적으로는 오히려 인공지능과 과학기술이 가져다줄

멋진 미래를 기대하는 쪽에 가깝습니다.

 

다음에는 인공지능이 가져다줄 밝은 미래에 대해서도

한번 다뤄보도록 하겠습니다.

감사합니다.