《LLM은 앞으로도 글을 못 쓸 것이다》

LLM이 작성한 글을 보면 너무 못 써서 정신적인 내상을 입을 정도다. 왜 LLM은 글을 못 쓸까? 이것이 그저 LLM의 문체가 어색하다, 문장이 부자연스럽다, 단어 선택이 어색하다는게 문제가 아니라, LLM이 외부 세계에 대한 내재된 모델을 갖지 못하기 때문에 글쓰기에 근본적인 한계를 갖는 것이 아닐까 싶다.

최근에는 LLM이 워낙 그럴듯하게 말을 하니 LLM과 같은 예측 모델이 지능의 본질이라는 생각이 들 수 있는데, 출력만 봤을 대는 그럴 수 있지만 실제 인간의 지능은 전혀 다른 방식으로 동작한다. 특히 영장류에게는 마음 이론(Theory of Mind)이라는 것이 있다.

유인원은 다른 개체의 우연한 행동과 의도적 행동을 구분할 수 있고, 상대방이 무엇을 알고 있는지 파악할 수 있다. 상대방의 의도와 지식을 추론하는 행위를 마음이론(theory of mind)이라고 한다. 대부분의 동물과 달리 영장류에게는 시간적 여유가 많았다. 영장류는 이 시간을 사교활동과 정치공작에 할애했다. 적어도 기본적인 마음이론 없이는 정치공작이 불가능하다. 이것이 영장류의 뇌가 커지고, 새겉질의 크기가 사회집단의 규모와 상관관계를 보이는 이유일 것이다.

영장류는 다른 동물보다 정교하게 도구를 사용한다. 원숭이는 다른 개체의 행동을 보는 것만으로도 자신의 운동영역을 활성화한다. 신경생리학자 자코모 리졸라티(Giacomo Rizzolatti) 연구진은 이 신경세포들을 거울신경세포라고 불렀다. 거울신경세포는 다른 사람의 동작을 직접 관찰하지 않고, 그 동작을 추론하는 것만으로도 활성화된다. 다른 사람의 행동을 시뮬레이션하면 그 사람의 의도를 이해할 수 있다. 그 행동을 내가 한다고 상상함으로써 다른 사람의 행동에 숨은 의도를 파악하는 것이다. 새로운 기술을 모방학습(imitation learning)할 때는 운동앞겉질이 활성화된다. 관찰을 통해 새로운 기술을 습득할 때는 마음이론이 필요하다. 초기 포유류도 이미 알고 있는 기술 중 어떤 것을 다른 개체를 관찰해 사용했지만, 마음이론이 없었기 때문에 진정 새로운 기술을 학습할 수는 없었다. 또한 마음이론이 있어야 후손에게 효율적으로 기술을 가르칠 수 있다: (1) 마음이론이 있어야 상대방이 무엇을 모르는지 이해하고, 어떻게 이해하게 만들지 계획할 수 있다. (2) 마음이론이 있어야 단기적인 보상없이도 기술을 습득하겠다는 동기가 부여된다. (3) 마음이론이 있어야 의도한 동작과 의도하지 않은 동작을 구분할 수 있다.

그래서 샐리-앤 테스트를 하면 인간의 지능은 내면에 외부 세계를 시뮬레이션해서 바구니에 들어있는 물건을 상상하고 내가 아는 사실과 상대방이 모르는 사실을 비교해 추론한다. 작문은 나의 내면에 있는 정신적 구성물을 외부로 옮기는 작업이지만, 자신을 비롯한 누군가가 이 글을 읽는다는 것을 전제하는 이상 독자가 무엇을 알고, 무엇을 모르는지, 어떤 감정이 드는지 시뮬레이션하는 과정을 필연적으로 수반한다. 반면 LLM은 독자의 마음을 생각하며 글을 쓰지 않고, 주어진 문장에서 가장 확률이 높은 다음 토큰을 예측하며 글을 쓴다.

그러니까 RLHF 방식의 근본적인 한계를 벗어나지 못한다면 LLM을 필두로 한 오늘날의 인공지능은 앞으로도 글을 못 쓰지 않을까? 물론 그 전에 인간이 느끼는 '못 쓴 글’에 대한 감도가 낮아질지도 모르겠다.

관련문서

이 문서를 인용한 문서