[1분과학] 인간 해킹

 

 

“세계 영화 산업을 끌고 있는 미국 할리우드의 배우와 작가들이

처우 개선을 요구하며

63년 만에 동시 파업에 들어갔습니다.”

 

 

우리는 언어를 사용한다.

우린 언어로 신화를 만들었고, 언어로 법칙을 만들었다.

언어로 화폐를 만들었고

예술과 과학을 만들었으며

국가라는 개념과 신이라는 전설을 만들었다.

 

인권이라는 건

우리 DNA 어디에도 적혀 있지 않지만

언어라는 힘으로 인권을 만들고

그렇게 인간은 다른 동물과 구별되는

특별한 인간만의 권리를 갖게 되었다.

 

신도, 돈도, 인권도 실체는 없다.

신의 존재가 뭐로 적혀 있던가?

인권은 뭐로 적혀 있던가?

사람들은 어쩌다 초록색 종이에 매달리게 됐을까?

 

우린 인공지능이 인간을 지배하는 상상을 할 때

수많은 영화나 소설에서 묘사하듯

인간보다 더 빠른 다리로

인간보다 더 좋은 무기로

인간을 지배하는 모습을 떠올리게 된다.

 

그게 아니면 인간 사회를 완벽하게 장악하기 위해

사람의 뇌에 칩을 심어서 직접 조작하기도 한다.

 

하지만 사실 인공지능은

인간을 통제하기 위해 강력한 무기를 개발하거나

머리를 열어 뇌에 칩을 심을 필요가 없다.

인공지능은 하나만 마스터하면 된다.

바로 언어다.

 

“저는 모건 프리먼이 아닙니다.

지금 보시는 건 진짜가 아닙니다.

심지어 제가 사람이 아니라면요?

믿으실 건가요?”

 

이것만으로 인공지능은

우리를 환상의 세계로 사로잡을 수 있다.

왜냐하면 우리 인간의 운영 체제가 바로 언어니까.

 

역사를 통틀어 모든 인류 문명의 운영체제는 항상 언어였다.

지금의 AI는 인류 문명의 운영 체제를 해킹한 셈이다.

사람을 조작하기 위해, 제어하기 위해

뇌에 칩을 이식할 필요가 없다는 건

사실 우린 항상 봐왔다.

 

무려 수천 년 동안 선지자나 정치인들은

언어와 이야기를 통해

사람들의 마음을 조종하고 통제하며 사회를 재구성해 나갔다

이제 AI도 그걸 할 수 있다는 것이다.

 

AI는 이제 가상의 이야기를 할 수 있다.

AI 이제 킬러 로봇이 필요 없다.

사람들이 직접 방아쇠를 당기게 만들 수 있으니까.

 

사람들은 그동안 허구에 대한 믿음으로 수많은 전쟁을 일으켜 왔다.

우리가 조심하지 않으면

AI는 인류 전체를 사로잡을 수 있는 환상을 만들어 낼 수 있지만

우린 그 환상을 알아차리기도

무엇을 조심해야 하는지도 모를 것이다.

 

왜냐하면 그 잘 만들어진 환상에 노출된 우리는

이미 그 환상이 진짜라고 믿고 있을 테니까!

 

법률, 정책, 화폐, 윤리

우리 사회의 모든 구성 요소가

인간이 아닌 인공지능에 의해 형성된 세계는 어떤 모습일까?

 

체스에서도 바둑에서도

이제 우리 인공지능을 이길 수 없다.

예술, 정치, 경제, 종교에서도 인공지능을 이길 수 없다면?

차기 대선에서 인공지능을 이길 수 없다면?

인공지능이 선택한 사람이 미국의 대통령이 된다면?

 

이미 AI는 정치적 발언을 하고 뉴스를 만들고 있다.

곧 AI는 많은 사람들이 믿는 가상의 이야기를 만들 수 있을 것이다.

 

감정도 못 느끼는 AI가 어떻게 사람을 조종할 수 있을까?

AI는 직접 감정을 느낄 필요가 없다.

우리에게 감정을 불러일으키기 하면 된다.

 

아장아장 말을 하기 시작한 AI는

처음엔 인간의 패턴을 모방하여 인간을 따라 할 테지만

곧 인간의 사회는

역사적으로 한 번도 가보지 못한

인간이 만들지 않은 사회로 향하게 될 것이다.

 

그동안 인간은 사람들의 꿈과 상상 속에 살았다.

우린 각자의 신을 믿었으며

인권으로 우리 자신을 특별하게 만들었고

초록색 종이를 거래하는 자본주의를 만들었다.

우린 이미 사람들이 상상으로 만들어 낸 것들에

인생을 바쳐 온 것이다.

 

이제는 인간이 아닌 존재의 상상 속에 살게 될 것이다.

그게 지금의 기준으로는 불법일지라도

그게 지금의 기준으로는 비윤리적인 일일지라도

결국 바뀔 것이다.

왜냐하면 우리 사회의 운영 체제는 언어니까.

 

우리가 누군가와 대화할 때

나의 대화 상대가 인간인지 인공지능인지 구분할 수 없다면

우리 사회는 이미 해킹당한 것이다.

 

지금 수많은 컴퓨터들이 튜링 테스트를 넘보고 있다.

이제 우리가 전화 너머로 대화한 상대가

생물학적 존재가 아닐 수도 있다.

 

/내가 여태까지 한 말이 오버스럽다고 생각하는가?

내 말이 이상하게 들리는가?

아니면 내 말이 무섭게 들리는가?

내가 한 말에 어떠한 감정이 일어났는가?/

 

지금 그대가 들은 이 텍스트들은

인공지능이 작성한 거일 수도 있다.

그대는 이게 AI가 한 말이 아니라는 걸 어떻게 확신하는가?

우린 앞으로 무엇을 믿게 될까?

우린 앞으로 누구의 말을 듣게 될까?

 

AI는 인간에게 환상을 줄 수 있다.

그대가 진짜라고 생각하면 진짜인 거니까.

 

앞으로 이 세상을 어떠한 가상의 이야기로 해석하든

그 가상의 이야기는

그대의 인생을 천국으로 또는 지옥으로 만들게 될 것이다.

 

...

 

https://expressvpn.com/oneminsci