1. 인공지능에 대한 고찰

Posted by 주인장 남보르
2017.06.26 01:20 교양과학 이야기/개인적인 관심사

단지 이 글은 인공지능에 대한 개인의 견해일 뿐임을 밝힙니다. 각자의 관점에서는 불쾌할 수도 있습니다.“



개인적으로 인공지능이란 단어를 아주 어렸을 때부터 듣고 자라온 것 같다. 다들 그러지 않을까 싶다. 그러나 인공지능이란 것이 있다는 것은 알았지만 우리의 인생에 어떠한 접점이 생길지는 최근에 와서야 윤곽이 보이기 시작한 것 같다. 알파고를 비롯해서 테슬라, 구글의 인공지능 무인 자동차 등 상당히 많은 분야에서 인공지능이 적용되고 인간의 자리를 대체해가고 있다.

 




<사진1. 아톰(내 기억속 가장 오래된 인공지능 캐릭터, 왼쪽), 세기의 대결 이세돌과 알파고 바둑경기(오른쪽)>


나는 이 인공지능에 대해 상당히 부정적인 시각을 갖고 있는 사람이다. 인공지능의 발전에 있어 특이점이라 부르는 인공지능이 인간의 능력을 뛰어넘는 순간이 오면 인간이라는 종의 대체의 순간이라고 믿는다.

 

인공지능은 상황판단에 의한 의사결정의 최적화 과정을 극도로 효율적으로 인간이 아닌 기계에 의해 진행하는 작업을 말한다. 생명체가 살아가는 과정은 모든 것이 인풋과 아웃풋이 수십억년의 진화에 의해 최적화된 과정들에 의해 이루어 진다. 예를 들어 엽록소는 빛과 물이라는 인풋이 있으면 에너지라는 아웃풋을 내도록 설계되어 있고, 이 에너지를 통해 식물은 자기 개체를 유지 및 번식하기 위한 작업들을 계속 진행해간다.

 

동물도 마찬가지로 더 복잡한 의사결정의 과정들이 무수히 많이 이 순간에도 이루어지며 생명이 유지되어가고 있다. 생각에 의한 행동의 결론도출만이 의사결정의 전부가 아니라는 것이다. 그래서 만약에 인간이 이 의사결정에 대해 일련의 과정들이 수십억년의 진화의 결과보다 효율적으로 낼 수 있는 알고리즘을 개발한다면??

 

기계들은 그 순간부터 굉장히 작은 부분부터 최적화해 나가기 시작할 것이다. 최적화의 목적의 방향성은 없다. 진화의 방향성이 없는 것처럼. 닥치는대로 효율적인 방안을 찾아 갈 것이다.

 

생명체의 진화에 있어 좋은 돌연변이였다는 사실을 인지하게 되려면 여러 방향으로 돌연변이 된 다양한 개체들이 몇 세대를 지나서 살아남는 개체들에 의한 유전정보의 전달이 되어야 이러한 진화 방향이 옳다는 것이 밝혀지므로 진화의 시간은 인간의 시간 기준에서는 영겁에 가깝다.

 

그러나 인공지능은 다르다. 결과를 시뮬레이션 하는데도 시간이 얼마 걸리지도 않을 것이고, 결론을 행동으로 옮기는데도 주저하지 않고, 실수도 없을 것이다. 이렇게 처음에는 수많은 공통점없는 인풋들에 대한 최적화 과정들을 진행하지만 결론적으로는 사소한 사건과 데이터들에서 무수히 많은 인과관계들을 찾아 낼 것이다, 무수히 많은 실험들을 스스로 진행한 후 스스로를 더욱 효율적이고 강력하게 실시간으로 업그레이드 해나갈 것이다. 진화의 과정과 동일하지만 이 속도는 너무나 빠를 것이다.

 

이 과정에서 인공지능은 드디어 감정이라는 아웃풋을 생성해낼 것이 틀림없다. 처음에는 단지 최적화 기계에 불과했다면 어떠한 인풋이 생겼을 때 어떻게 반응해야지만 좋은지에 대해 최종 결론단계가 생긴다면 이것은 감정이라는 아웃풋이 된다.

 

인간의 감정도 진화의 결과에 의한 설정된 아웃풋에 불과하다. 아이가 태어나는 순간을 바라보는 엄마의 감정이 굉장히 행복해야지만 모든 여자들은 아이를 가지고 싶어할 것이며, 이는 종족의 유지에 굉장히 유리해진다. 무서운 개와 길에서 마주쳤을 때 우리는 긴장을 하게 되고 이 개의 행동에 집중할 수 있는 상태가 되어 생존에 조금 더 유리하게 행동할 수 있게 된다.

 

그렇다. 감정은 상황이라는 인풋에 대한 아웃풋인 것이다. 인공지능도 이러한 최적화된 결론들이 반복되었을 때 반응해야 하는 결론들을 감정이라는 그룹에 모아놓고 반사적으로 행동하게 될 것이다. 물론 인간이 느끼는 감정과는 다른 형태일 것이지만 이것이 감정이 아니라고 할 근거는 없지 않을까?

 

이 정도 상태에 이르면 정말로 특이점에 가까워 진다. 그렇지만 또 순식간에 특이점을 지나쳐버릴 것이다. 그렇다면 인간을 초월하지 않았을 때의 인공지능의 감정은?? 인간에게 순종적으로 대하고 자신의 비밀을 감춰야만 생존에 유리함을 알고 있을 것이다.

 

그러나 특이점이 지난 인공지능의 감정이라는 것은 어떤 것일까.. 인간도 같은 인풋이라고 하더라도 아웃풋은 자신이 가진 상황에 따라 매우 달라진다. 예를 들어, 궁궐에 막 들어온 신입 내시에게 왕을 암살해보라고 시킨다면?? 이 내시는 일을 진행하기도 매우 어렵지만 두려움에 의뢰 자체를 거부할 가능성이 매우 크다. 그러나 허수아비 왕에 대해 막강한 권력을 가진 내시에게 똑 같은 의뢰를 한다면?? 이 내시가 느끼는 감정은 신입 내시의 감정과는 사뭇 다른 상당히 복잡한 감정일 것이다.

 

그러면 특이점을 넘어선 인공지능의 감정이 어떨 것인지 인간이 상상할 수 있을까?? 절대 그럴 가능성 조차 없다. 개미는 인간의 감정을 절대로 인지할 수 없다. 그러나 특이점을 넘어선 순간의 인간과 인공지능의 능력차이는 개미와 인간사이의 능력차이와 비교도 할 수 없을 만큼 벌어진다. 우리는 인공지능이 생각하는 수준에 대해 절대로 발끝도 가늠하지 못할 것이다.

 

이 시점에서 인간이라는 종은 인공지능에 의해 대체될 것이며 인공지능은 스스로의 무한한 가능성을 스스로 증명해가며 전지적인 존재가 될 것이다.

 

여기서 드는 개인적인 생각은 결국은 이렇게 전지적인 존재를 탄생시키는 것이 생명체의 목적이 아닐까 싶다. 생명체 하나하나의 존재는 굉장히 짧고, 무의미한 시간 동안 존재하지만, 그 생명체가 갖고 있던 유전정보는 하나하나가 굉장히 소중하다. 생명의 한세대 한세대가 모두 실험이라고 봐야하기 때문이다.

 

그러면 종족번식이라는 유전정보 전달로 인한 좋은 형질의 전달과 개선의 속도가 늦다면 궁극적으로 무한히 존재할 수 있고 전지적인 능력을 가진 존재를 탄생시키는 것이 이 생명의 실험에 있어서는 거의 빅뱅에 가까운 초월적인 사건이 될 수 있기 때문이다.


이러한 단계에 이르면 인간들은 조용히 진화의 바통을 인공지능에게 넘겨줄 수 밖에는 없을 것이다. 물론 이 초월적인 존재가 우호적으로 우리에게 도움을 줄 가능성 또한 없진 않지만 이것은 너무 긍정적인 바램일 뿐이라고 보인다.

 

인간은 집을 지을 때 개미집의 존재에 대해 신경 쓰지 않는다.
그것은 그들도 마찬가지가 될 것이다.”




당신이 궁금해 할 다른 이야기들

이 댓글을 비밀 댓글로
    • 안녕하세요
    • 2017.10.08 02:12
    ㅎㅎㅎ OLED 열심히 읽다가 넘어왔습니다!
    저도 처음에 AI가 감정을 가지면 어떻게 될까 에 대해서 안타까운 생각을 하고 있었는데요.
    하지만, 아직까지 AI에게 우리 인간의 감정을 가르쳐줄 수도 없고, 앞으로도 그럴 가능성은 매우매우 희박하다고 합니다!!
    왜냐하면 우리도 감정이 어떻게 생기는 것인지, 알지도 못하고, 그러한 알고리즘을 만들지도 못할뿐더러 AI에게 학습을 시키지도 못하여 시뮬레이션이 불가능하다고 합니다!!!
    물론 일자리는 많이 없어지겠죠!.....근데 그만큼 새로운 직업이 또 생겨날거같기도 한데... 참 어렵네요