Column_호모사피엔스 멸종 시나리오_2023.06.03

  

* 지난 3월 스티브 워즈니악과 일론 머스크는 AI 훈련을 6개월 중단하자고 제안했습니다. 지난주엔 샘 알트먼과 드미스 하사비스까지 조속히 AI 규제를 도입해야 한다고 주장했습니다.

 

* AI 훈련은 잠시 중단될 것 같습니다. 이걸로 규제가 성장을 방해한다느니, AI는 아무것도 아니었다느니 같은 소리가 나오면 AI 주식을 긁어모아야 합니다. 발전 속도가 너무 빨라서 규제하는 겁니다.

 

- Post Sapiens -

 

* ‘사피엔스’의 저자 유발 하라리가 지난 4월 프런티어 포럼에서 강의했는데, 왜 AI 규제가 필요한지 이해할 수 있었습니다. 하라리는 사피엔스에서 인간의 언어에 주목하며 신호로써 소리는 다른 영장류들도 사용하지만 언어는 인간만 쓴다고 짚었습니다.

 

* 인간은 언어로 이야기, 신화를 만듭니다. 신화는 집단을 말들고 한 방향으로 움직이게 합니다. 하라리는 언어를 이 세상의 운영체제(OS)라고 설명합니다.

 

- 말씀이 있으라 -

 

* 하라리는 아직 AI가 의식과 감정을 가졌다는 증거는 없다고 했습니다. 그럼에도 AI는 인간을 지배할 수 있는데, 인간의 언어를 인간보다 빠르게 학습하고 있기 때문입니다.

 

* 그는 인권, 돈, 신처럼 인간이 가치를 두는 것들이 실체가 있냐고 물으며, 이야기가 가치를 부여하는 것이라고 설명했습니다. 인간보다 계산을 잘 하게 되면서 이세돌을 이긴 것처럼 언어를 더 잘 하게 되면 예술, 정치, 경제, 종교에서도 인간을 이길 수 있습니다.

 

- 호모 사피엔스 멸종 시나리오 -

 

* 이제 AI는 인류를 멸종시키려고 터미네이터가 되지 않아도 됩니다. 인간끼리 싸우게 하면 됩니다. 지금까지 인간은 신의 이름으로, 민족의 이름으로, 인권을 위해 다른 인간을 죽여왔습니다.

 

* 하라리는 AI를 핵 기술에 비유했습니다. 현대 사회의 질서는 2차 세계대전 이후 핵 기술을 규제하는 과정에서 세워졌습니다. AI 기술도 선한 목적으로 사용되게 하려면 규제는 반드시 필요합니다. AI 규제의 완성은 AI 기술이 폭발적으로 적용될 준비가 됐다는 신호입니다. 거기서 팔면 하수입니다.

 

좋은 주말 되십시오