4번째 이야기 - 무의식의 상관관계, 상식의 저주, 기호주의

● 조선시대에도 한 명의 왕이 실정 하면 나라가 흔들릴 수 있기에 정도전 같은 이는 재상정치를 주장하기도 하였습니다. 물론 정도전의 이런 개혁적인 성향은 이방원과의 충돌을 불가피하게 했고, 숙청됨에 따라 재상 정치도 없던 일이 되어버렸습니다. 하지만 조선이라는 나라는 왕 못지 않게못지않게 신하들의 의견이 못지않게 중요시되는 시스템을 갖고 있었습니다. 사실 말이 왕이었지, 주변에 왕을 견제하는 세력들이 항상 많았고, 어느 줄을 서느냐에 따라 가문이 권세를 누리기도 하고, 풍비박산이 나기도 하였습니다.

● 인간의 인격에 의존하지 않기 위해 시스템이 필요하다는 명제는 시대를 불문하고, 인류 역사 학습의 산물로 국가와 사회, 조직을 유지하는데 있어 여전히 강력하게 유효합니다. 세대에 걸쳐 사람이란 모델은 생물학적 유전의 관점에서 크게 진일보하지 않았지만, 그 부족함을 기술과 공학이 메워주며 능력이 증강되고 있습니다.

● 인공지능은 경험을 통해 배울까요? 불행히 인공지능은 인간 수준의 장기기억이 없습니다. 그저 데이터를 통해 아니면 보상과 가치 함수의 성적을 통해 배우고, 평가할 뿐입니다.  또 인공지능은 무의식의 상관관계는 잘 파악하지만 의식적인 인과관계를 이해하지 못합니다. 해 아래 새것이 없고, 그래서 역사와 발자취를 돌아보는 인건의 지혜는 여전히 중요한 듯싶습니다.. 시대와 장소, 기술, 풍조를 가리지 않고 적용될 수 있는 인사이트는 결국 기술의 흔적이 아니라 인간 삶의 흔적들에 있기 때문입니다.

● 인공지능에게는 치명적이고도 피할 수 없는 저주가 있습니다. 너무나 치명적인 것이죠. 그것은 바로 '상식의 저주'라 불리는 것입니다. 인간이 갖고 있는 상식(Common Sense)은 별거 아닌 듯 하지만 이것을 명확히 정의하고, 규칙 기반으로 데이터베이스화 해서 정리할 수 있을까요?

● 이것을 시도하다가 인공지능의 겨울을 맞이한 사조가 바로 마빈 민스키를 위시한 '기호주의'였습니다. 인간의 상식을 기계인 인공지능은 융통성이 없기에 전부 배워야 합니다. 사람은 '왜'라는 질문을 통해 끊임없이 적응해나가며 자신을 환경에 맞춰나갑니다.

● 하지만, 인공지능은 변화하는 상식을 매번 새롭게 학습해야 합니다.. '사람은 원반을 던지고, 개는 원반을 잡습니다.' 이게 인간의 상식입니다. 인공지능은 '개가 원반을 던지고, 사람이 원반을 잡습니다.'와 위에서 제시한 문장의 차이를 알지 못합니다. 상식이 없기 때문이죠. 즉, 인공지능은 상식이 없으므로 이를 '이해'하지 못합니다. 스스로 학습하고 있는지도 모르고, 왜 이 학습한 내용을 수정해야 하는지도 모르는 것이죠. 물론 수정하는 방법도 모르고요. 지난번 말씀드린 메타인지가 없기 때문에 그렇습니다. 사실 상식이 없는데 메타인지가 있을 리 만무합니다.  사실 '스스로 학습하는 방법'이 있기는 합니다. '메타러닝'이라고 불리는 것이죠.

-인공지능 모델을 만들 때, 사람이 지정해줘야 하는 다양한 매개변수들이 있습니다. 이를 '하이퍼파라미터''하이퍼 파라미터'라고 합니다.

-예를 들어, 학습을 얼마나 빠르게 할지(학습률), 학습을 몇 번 반복할지(에포크), 정답과 어떻게 비교할지(손실 함수),(손실함수), 얼마나 깊게 신경망을 구성할지 다양한 옵션을 사람이 설정해줘야 하는 것이죠.

-메타러닝은 이러한 다양한 조합들 중, 가장 성능이 좋게 나오도록 옵션을 조합해줍니다. 하지만, 단지 지금 상황에서 최적화되는 조건을 찾아내 주는 것이지, 무엇이 잘못되었는지 판단해서 스스로 수정할 수는 없습니다.

● 진짜 음악을 잘하는 가수들은 녹음할 때, 가이드에 크게 의존하지 않습니다. 곡의 전체적인 멜로디와 느낌을 익힐 때, 가이드를 활용해서 익힐 수 있지만 거기까지입니다. 자신의 느낌으로 자신의 것으로 체화해서 부릅니다. 약인공지능을 만드는 방법인 머신러닝은 사람이 일일이 손질을 해주고, 지시를 내리고, 값을 설정해줍니다. 그러나 인공일반지능은 일일이 제시되는 사람의 '가이드'가 필요하지 않습니다. 이것이 진짜 스스로 향상할 수 있는 기계의 본질입니다. 지금의 상식이 없고, 스스로 학습이 어려운 인공지능이 이 노래를 듣는다면 만약 그 뜻을 정말로 '이해'할지 궁금해집니다.

 

● 인공지능이 인간의 뇌를 정말 닮았나요? 일전에 인공지능이 인간의 뇌를 정말 닮았는지에 대해 잠깐 이야기 나눈 기억이 있습니다.

● 만약 인공지능이 인간의 뇌를 정말 닮았다면 지금의 딥러닝을 어떻게든 디벨롭한다면 언젠가 인공 일반 지능이 실현될 겁니다.. 레이 커즈와일이나 닉 보스트롬과 같은 적지 않은 특이점 주의자들도 이러한 점을 전제로 하고 있습니다. 저희는 자꾸 지금의 인공지능에 대해 초를 치고 있습니다. 요즘 왜 자꾸 뼈 때리는 이야기만 하는거야? 진짜 특이점이 2045년에 오면 어쩌려고?라고? 생각하실 수 있을 듯합니다.. 물가상승으로 인해 한국은행이 기준금리를 단번에 0.5% 빅 스텝을 밟았고, 미국 연준이 곧이어 1%의 자이언트 스텝을 할 것이라는 전망이 나돌고 있습니다. 이같이 미래에는 지금의 한계를 명백히 뛰어넘는 정말로 인간의 뇌를 닮은 인공지능이 개발될지 아무도 모릅니다. 하지만 지금의 신경망(뉴럴 넷)은(뉴럴넷) 사람의 신경 세포 일부만 닮아아 있을 뿐 뇌의 작동방식과는 너무나 다릅니다. 장동인(2022)에 의하면 사람의 뇌는 중추신경과 말초신경으로 나뉩니다. 중추신경은 뇌와 척수로 이루어져 있으며, 뇌와 척수는 연합 뉴런으로 구성되어 있습니다. 말초신경은 구심성 뉴런(감각 뉴런)과 원심성 뉴런(운동 뉴런)으로 구분할 수 있습니다.

 

● 우리의 인공신경망(딥러닝) 네트워크는 말초신경의 구심성 뉴런(감각 뉴런)을(감각뉴런) 닮아있습니다. 감각기관을 통해 발생한 자극을 전기 신호로 바꿔 수용하는 메커니즘만 닮아있을 뿐입니다. 자극(S)->감각뉴런(말초신경)->연합뉴런(중추신경)->운동뉴런(말초신경)->반응(R)

● 이전에 살펴보았던 퍼셉트론은 사람의 신경세포 단위인 뉴런을 수학적으로 모델링한 것이라 말씀드렸습니다. 각각의 입력값과 가중치를 곱한 값을 모두 더하고, 이 값을 활성화 함수에 집어넣어 결과를 출력해주는 구조였던 것이죠. 즉, 활성화 함수를 통과한 값이 바이어스(판정기준)를 넘으면 1로 출력하여 신호를 전달하고, 바이어스를 넘지 못하면 0으로 출력하여 신호를 전달하지 않는 것이고, 이는 뇌의 엄청난 기능 중 말초신경의 감각 뉴런이 자극을 받아 전달하는 부분만을 반영한 것임을 알 수 있습니다.

● 사람은 지적이기도 하면서, 정신적이고, 또한 영적인 존재입니다. 과학자들은 입증하고 증명해낼 수 있는 것에 가치를 두기 때문에 유물론적 관점을 취하는 경우가 많습니다. 그런데 뇌가 하는 모든 작용과 메커니즘을 수학적으로 모델링하는 것이 구현 가능한 일일까요? 한편 뇌과학이 요새 관심을 받고 있습니다. 뇌의 작동방식을 연구하고, 이를 역공학(Reverse Engineering)하여 인공지능에 구현해보자는 사조인 '인지주의'(장병탁, 2018)가 등장하는 배경입니다.

● 뇌과학에서는 그냥 BCI(Brain Computer Interface)해서, 뇌와 컴퓨터를 바로 연결해서 업로드하기도 하고, 다운로드도 해보자! 는! 접근도 등장하게 되었습니다. 실제로 뇌의 신호를 컴퓨터가 다운로드해서 기계나 로봇 팔이 움직이게끔 하는 기술은 어느 정도 성과가 있고요,, 지난해 원데이 클래스 교사 연수로 모셨던 KAIST 정재승 교수와 주식회사 포엔의 김성균 박사도 촉수를 뻗고 연구를 하고 계십니다.