Column_로봇 3원칙_2026.01.24

  

- 아이작 아시모프 -

 

* 로봇 주식이 오를수록 노동자는 불편합니다. 그럴 줄 알고 SF 거장 아이작 아시모프는 1942년에 단편소설 ‘런 어라운드’에서 로봇 윤리 강령을 제시했습니다.

 

- 1원칙, 인간에게 해를 가해선 안된다 -

 

* 로봇을 만들 때 가장 중요한 건 안전입니다. 자율주행차, 수술 로봇은 완전을 넘어 완벽해야 합니다. 위험에 처한 인간을 방치해선 안되기에 로봇은 사회적 안전망도 돼야 합니다. AI는 SNS에서 테러 징후, 자살 조짐도 잡아내야 합니다.

 

- 2원칙, 1원칙에 위배되지 않는 한 인간의 명령에 복종해야 한다 -

 

* 2원칙은 1원칙의 중요성을 역설합니다. 로봇은 폭탄 제조법을 알려달라는 명령, 딥 페이크 영상을 만들어달라는 명령을 거부해야 합니다. 로봇은 인간의 명령을 따라야 하기 때문에 인간은 책임을 집니다. AGI가 등장해서 인간보다 훨씬 똑똑하고 높은 수준의 도덕심을 가져도 인간에게 명령할 수 없습니다.

 

- 3원칙, 1, 2원칙에 위배되지 않는 한 로봇 스스로를 보호해야 한다 -

 

* 3원칙은 자본가들에게 중요합니다. 로봇의 지적 능력이 고도화돼서 생이 허무해지더라도 로봇은 인간이 돈을 들여 만든 ‘자산’이기 때문에 스스로를 파괴할 권리가 없습니다. 남에게 피해를 주지 않는 한 스스로를 파괴할 권리가 있는 건 인간뿐입니다.

 

- 0원칙, 인류에게 해를 가하거나 방관으로 해를 입혀선 안된다 -

 

* 아시모프는 그래도 걱정이 됐는지 나중에 0원칙을 추가했습니다. 인간이 아닌 인류에게 해를 가해선 안됩니다. 로봇 때문에 인간이 할 일이 없어질 것 같지만 인간은 1) 거버넌스를 만들고 2) 결정을 하고 3) 책임을 져야 합니다.

 

* 그러면 기업은 더 이로워지고, 완벽해지고. 영속합니다. 로봇의 세상은 ROE가 무한대에 수렴하는 시장입니다.

 

좋은 주말 되십시오