언어철학 9: 현대 의미론 II - 몬태규 문법과 형식 의미론의 혁명

현대 언어철학과 형식 의미론의 역사에서 리처드 몬태규(Richard Montague, 1930-1971)의 작업은 획기적인 전환점이었다. 몬태규는 자연언어에 대한 정밀한 수학적 분석이 가능하다는 것을 보여줌으로써, 언어학과 철학 사이의 교량을 놓았다. 그의 유명한 선언 "나는 영어와 같은 자연 언어를 정식으로 구성된 인공 언어의 일종으로 간주한다"는 자연언어에 대한 그의 혁명적 접근법을 잘 보여준다. 이번 글에서는 몬태규가 발전시킨 형식 의미론의 체계, 이른바 '몬태규 문법(Montague Grammar)'에 대해 살펴본다.

몬태규의 비전: 자연언어의 정밀한 형식화

리처드 몬태규는 1930년 미국 캘리포니아에서 태어나 UC 버클리에서 철학을 공부했다. 논리학자 알프레드 타르스키의 지도를 받은 그는 논리학, 수학, 언어학을 통합하는 연구에 관심을 가졌다. 불행히도 그는 1971년, 40세의 나이로 비극적인 죽음을 맞이했지만, 그의 짧은 학문적 생애 동안 언어철학과 언어학에 지대한 영향을 미쳤다.

몬태규의 핵심 통찰은 자연언어와 형식 언어(논리, 수학, 프로그래밍 언어) 사이에 근본적인 차이가 없다는 것이었다. 당시 지배적인 견해는 자연언어가 너무 모호하고, 맥락에 의존적이며, 불규칙하여 형식적 분석이 불가능하다는 것이었다. 촘스키의 변형생성문법도 문장의 통사 구조는 형식화했지만, 의미 해석에 대해서는 체계적인 설명을 제공하지 못했다.

이에 반해 몬태규는 자연언어도 형식 언어처럼 정확한 통사론(syntax)과 의미론(semantics)을 가질 수 있다고 주장했다. 그는 이를 증명하기 위해 1970년 전후 발표한 일련의 논문들, 특히 "영어 양화사의 적절한 취급(The Proper Treatment of Quantification in Ordinary English)", 흔히 'PTQ'라고 불리는 논문에서 영어의 중요한 단편에 대한 완전한 형식적 문법과 의미론을 제시했다.

몬태규 문법의 핵심 요소들

몬태규 문법은 자연언어를 분석하기 위한 정교한 형식적 체계를 제공한다. 이 체계의 핵심 요소들을 살펴보자.

1. 유형 이론(Type Theory)

몬태규 문법의 기초는 유형 이론이다. 이는 모든 언어 표현에 특정 '의미론적 유형'을 할당하는 체계로, 괄호 없이도 복잡한 논리식을 정확히 해석할 수 있게 한다. 기본 유형에는 다음과 같은 것들이 있다:

• e: 개체(entities)
• t: 진리값(truth values)
• s: 가능 세계 또는 상황(possible worlds or situations)

이 기본 유형들로부터 복합 유형들이 재귀적으로 정의된다:

• 만약 a와 b가 유형이라면, ⟨a,b⟩는 '유형 a의 표현들을 인수로 받아 유형 b의 값을 반환하는 함수'의 유형이다.

예를 들어:

• 고유명사 '소크라테스'는 유형 e (개체)
• 자동사 '달린다'는 유형 ⟨e,t⟩ (개체를 인수로 받아 진리값을 반환하는 함수)
• 형용사 '빨간'은 유형 ⟨⟨e,t⟩,⟨e,t⟩⟩ (자동사를 인수로 받아 자동사를 반환하는 함수)

이러한 유형 체계는 언어 표현의 의미적 범주를 정확히 규정하고, 구성성 원리에 따라 복합 표현의 의미를 도출하는 데 핵심적인 역할을 한다.

2. 람다 계산법(Lambda Calculus)

몬태규는 언어 표현의 의미를 표현하기 위해 람다 계산법을 사용했다. 람다 계산법은 알론조 처치(Alonzo Church)가 개발한 형식 체계로, 함수의 정의, 적용, 추상화를 다루는 강력한 도구다.

람다 계산에서 함수는 다음과 같이 정의된다:

• λx.f(x): x를 인수로 받아 f(x)를 반환하는 함수

예를 들어, '달린다'는 람다 표현으로 다음과 같이 나타낼 수 있다:

• λx.달린다(x): x가 달리면 참, 그렇지 않으면 거짓을 반환하는 함수

람다 계산법은 특히 함수 합성과 함수 적용을 우아하게 처리할 수 있어, 언어 표현들이 어떻게 결합되어 복합적인 의미를 형성하는지 모델링하는 데 이상적이다.

3. 가능 세계 의미론(Possible World Semantics)

몬태규는 내포적(intensional) 맥락을 다루기 위해 가능 세계 의미론을 채택했다. 언어 표현의 의미는 두 가지 수준으로 이해된다:

• 외연(extension): 특정 가능 세계에서의 지시체나 진리값
• 내포(intension): 가능 세계에서 외연으로 가는 함수

예를 들어:

• "아침의 별"과 "저녁의 별"은 같은 외연(금성)을 가지지만, 다른 내포를 가진다.
• "반드시"와 "가능하게"와 같은 양상 표현은 가능 세계들 사이의 관계를 다룬다.

몬태규는 내포를 유형 ⟨s,a⟩의 함수로 형식화했다(여기서 a는 임의의 유형). 이러한 접근법은 믿음 맥락, 양상, 시제 등 다양한 언어 현상을 체계적으로 다룰 수 있게 해준다.

4. 문법 규칙과 번역 규칙의 병렬 체계

몬태규 문법의 또 다른 특징은 통사 규칙과 의미 규칙의 엄격한 대응이다. 각 통사 규칙(예: NP + VP → S)에는 대응하는 의미 규칙이 있어, 구문 구조의 각 노드에 의미 값을 체계적으로 할당할 수 있다.

이러한 병렬 체계는 '규칙별 번역(rule-by-rule translation)'을 가능하게 하며, 이는 구성성 원리의 강력한 구현이다. 각 문법적 결합 방식에 대해, 의미적 결합 방식이 정확히 명시된다.

PTQ 체계: 자연언어의 형식적 처리

몬태규의 가장 유명한 작업인 "영어 양화사의 적절한 취급(PTQ)"에서, 그는 영어의 중요한 단편에 대한 완전한 형식적 문법과 의미론을 제시했다. 이 체계는 특히 다음과 같은 현상들을 다룬다:

1. 양화사와 한정 명사구

영어의 "모든", "어떤", "대부분의" 등의 양화사를 포함하는 표현들은 전통적인 술어 논리로는 충분히 다루기 어렵다. 몬태규는 이러한 표현들을 '일반화된 양화사(generalized quantifiers)'로 분석했다.

예를 들어, "모든 사람"은 다음과 같은 집합들의 집합으로 해석된다:

• λP.∀x[사람(x) → P(x)]: 모든 사람이 속하는 모든 속성의 집합

이러한 접근법은 "대부분의 학생", "정확히 세 명의 선생님" 등 더 복잡한 양화 표현도 일관되게 처리할 수 있게 해준다.

2. 내포적 맥락과 명제 태도

"존은 메리가 춤을 춘다고 믿는다"와 같은 문장에서, 내포절("메리가 춤을 춘다")은 직접적인 진리값이 아니라 명제(가능 세계에서 진리값으로 가는 함수)로 해석된다. 몬태규는 이러한 내포적 맥락을 가능 세계 의미론을 통해 체계적으로 분석했다.

3. 중의성의 형식적 설명

자연언어에는 다양한 유형의 중의성이 존재한다. 몬태규 문법은 이러한 중의성을 구조적 차이로 설명할 수 있다.

예를 들어, "모든 학생이 한 권의 책을 읽었다"라는 문장은 두 가지 해석이 가능하다:

1. 모든 학생이 각자 (다른) 한 권의 책을 읽었다.
2. 모든 학생이 같은 한 권의 책을 읽었다.

몬태규 체계에서 이러한 중의성은 양화사의 상대적 범위(scope)에 대한 서로 다른 구문 분석과 그에 대응하는 의미 해석으로 설명된다.

몬태규 이후의 발전: 현대 형식 의미론

몬태규의 작업은 언어학과 철학에 혁명적인 영향을 미쳤으며, 그의 이론은 다양한 방향으로 확장되고 정교화되었다.

1. 형식 의미론의 제도화

몬태규 이후, 형식 의미론은 언어학의 중요한 하위 분야로 확립되었다. 바버라 파티(Barbara Partee), 데이비드 루이스(David Lewis), 앙겔리카 크라처(Angelika Kratzer) 등의 학자들이 이 분야의 발전에 중요한 기여를 했다.

특히 바버라 파티는 몬태규의 작업을 언어학계에 소개하고 확장하는 데 핵심적인 역할을 했다. 그녀는 몬태규의 아이디어를 더 넓은 언어학적 맥락에 통합하고, 그것을 더 많은 언어 현상에 적용했다.

2. 다양한 언어 현상으로의 확장

몬태규 이후의 연구자들은 그의 접근법을 다음과 같은 다양한 언어 현상으로 확장했다:

• 시제와 상(tense and aspect): 한스 카엠(Hans Kamp), 데이비드 루이스, 바버라 파티 등이 시간 표현과 사건 구조에 대한 형식 의미론을 발전시켰다.
• 대명사와 조응(pronouns and anaphora): 대명사의 결속과 담화 참조에 대한 복잡한 패턴을 형식적으로 분석하는 이론들이 개발되었다.
• 전제(presupposition): 어빈 하임(Irene Heim), 한스 카엠, 롭 반 데어 산덴(Rob van der Sanden) 등이 언어 표현의 전제 내용에 대한 형식적 이론을 발전시켰다.
• 담화 구조(discourse structure): 한스 카엠의 '담화 표상 이론(Discourse Representation Theory)'과 같은 이론들은 몬태규의 문장 중심 의미론을 넘어, 더 넓은 담화 맥락에서 의미가 어떻게 구성되는지 분석한다.

3. 동적 의미론(Dynamic Semantics)

1980년대 이후, 예론 그루넨디익(Jeroen Groenendijk), 마틴 스토카프(Martin Stokhof), 어빈 하임 등은 몬태규의 정적(static) 의미론을 '동적(dynamic)' 의미론으로 확장했다. 동적 의미론에서는 문장의 의미가 단지 진리조건이 아니라, 정보 상태를 업데이트하는 잠재력으로 이해된다.

이러한 접근법은 대명사 결속, 정보 흐름, 질문-대답 역학 등을 더 자연스럽게 다룰 수 있게 해준다. 파일 변화 의미론(File Change Semantics), 동적 술어 논리(Dynamic Predicate Logic), 업데이트 의미론(Update Semantics) 등이 이 전통에 속한다.

4. 계산언어학과의 통합

몬태규의 형식 의미론은 또한 계산언어학과 자연어 처리(NLP) 분야에 중요한 영향을 미쳤다. 의미 구문 분석(semantic parsing), 의미 표상(semantic representation), 추론(inference) 등의 작업에 몬태규 스타일의 형식 의미론이 응용되었다.

특히 최근에는 람다 계산법에 기반한 의미 표상이 질의응답 시스템, 텍스트 이해, 자연어 인터페이스 등에 성공적으로 적용되고 있다.

몬태규 문법의 한계와 비판

몬태규의 접근법이 가진 강점에도 불구하고, 여러 한계와 비판도 제기되었다.

1. 복잡성과 접근성

몬태규 문법은 높은 수준의 수학적, 논리적 세련미를 가지지만, 그만큼 이해하고 적용하기 어렵다. 이러한 복잡성은 이 접근법의 확산과 대중화를 어느 정도 제한했다.

2. 실용적 언어 사용 측면의 간과

몬태규 문법은 언어의 진리조건적 측면에 초점을 맞추며, 화용론적 측면이나 사회적 맥락은 상대적으로 적게 다룬다. 이는 실제 언어 사용의 많은 측면을 포착하지 못한다는 비판을 받았다.

3. 인지적 현실성 문제

몬태규의 형식 체계가 인간이 실제로 언어를 처리하는 방식을 반영하는지에 대한 의문이 제기되었다. 많은 인지언어학자들은 이 접근법이 심리적으로 현실적이지 않다고 비판한다.

4. 언어 다양성에 대한 고려 부족

몬태규와 초기 형식 의미론자들의 작업은 주로 영어와 같은 인도유럽어족 언어에 기반했다. 다른 언어 가족의 의미론적 특성을 얼마나 잘 포착할 수 있는지는 여전히 열린 질문이다.

자유 변항과 람다 추상화: 몬태규 문법의 기술적 핵심

몬태규 문법의 가장 독특하고 강력한 측면 중 하나는 '자유 변항(free variables)'과 '람다 추상화(lambda abstraction)'를 통해 언어의 합성적 의미를 모델링하는 방식이다. 이 기술적 장치들이 어떻게 작동하는지 간단한 예를 통해 살펴보자.

"소크라테스가 달린다"라는 문장을 생각해보자:

1. '소크라테스'는 개체 s로 번역된다: s (유형 e)
2. '달린다'는 개체를 인수로 받아 진리값을 반환하는 함수로 번역된다: λx.달린다(x) (유형 ⟨e,t⟩)
3. 이 두 표현이 결합될 때, 함수 적용(function application)이 일어난다: (λx.달린다(x))(s) → 달린다(s)

더 복잡한 예로, "모든 철학자는 생각한다"를 고려해보자:

1. '철학자'는 개체에서 진리값으로 가는 함수로 번역된다: λx.철학자(x) (유형 ⟨e,t⟩)
2. '생각한다'도 마찬가지로 번역된다: λx.생각한다(x) (유형 ⟨e,t⟩)
3. '모든'은 두 속성 사이의 관계로 번역된다: λP.λQ.∀x[P(x) → Q(x)] (유형 ⟨⟨e,t⟩,⟨⟨e,t⟩,t⟩⟩)
4. 이것이 '철학자'와 결합되면: λQ.∀x[철학자(x) → Q(x)]
5. 이것이 다시 '생각한다'와 결합되면: ∀x[철학자(x) → 생각한다(x)]

이러한 방식으로, 몬태규 문법은 임의의 복잡한 문장이라도 그 구성 요소들의 의미와 결합 방식에 기반하여 체계적으로 의미를 도출할 수 있다.

몬태규 문법의 철학적 함의

몬태규의 작업은 단순한 기술적 진보를 넘어, 언어와 의미에 대한 우리의 이해에 깊은 철학적 함의를 갖는다.

1. 언어, 논리, 현실의 관계

몬태규 문법은 자연언어도 논리 언어처럼 정확하고 체계적인 의미론을 가질 수 있음을 보여주었다. 이는 언어, 논리, 현실 사이의 관계에 대한 새로운 시각을 제공한다. 언어는 단순히 현실을 묘사하는 도구가 아니라, 현실에 대한 논리적 구조를 반영하는 체계다.

2. 의미의 객관성과 공유 가능성

형식 의미론은 언어의 의미가 객관적이고 공유 가능하다는 관점을 강화한다. 언어 표현의 의미는 화자의 주관적 의도나 감정이 아니라, 세계와의 체계적인 관계에 근거한다.

3. 구성성의 중요성

몬태규 문법은 구성성 원리의 강력한 구현이다. 이는 언어 이해의 창조적, 생산적 측면을 설명하는 데 중요하다. 유한한 어휘와 규칙으로 무한히 많은 새로운 문장을 이해하고 생성하는 인간의 능력은 언어의 구성적 본질에 기인한다.

4. 의미론과 심리학의 관계

몬태규 문법은 언어 의미론과 심리적 처리 사이의 관계에 대한 질문을 제기한다. 형식 의미론은 의미의 논리적, 객관적 측면을 강조하지만, 이것이 실제 언어 사용자의 심리적 과정을 어떻게 반영하는지는 여전히 논쟁적이다.

현대 형식 의미론의 다양한 응용

몬태규가 시작한 형식 의미론의 전통은 오늘날 다양한 분야에 응용되고 있다:

1. 계산언어학과 자연어 처리

형식 의미론의 방법론은 컴퓨터가 자연언어를 이해하고 생성하는 능력을 발전시키는 데 중요한 역할을 한다. 의미 구문 분석, 질의응답 시스템, 정보 추출, 기계 번역 등의 분야에서 형식 의미론의 통찰이 활용된다.

2. 인공지능과 지식 표현

지식 그래프, 온톨로지, 논리 기반 추론 시스템 등 인공지능의 다양한 영역에서 형식 의미론의 방법론이 적용된다. 이는 컴퓨터가 인간의 지식을 표현하고 조작하는 능력을 향상시키는 데 기여한다.

3. 언어 다양성과 유형론적 의미론

최근의 형식 의미론 연구는 다양한 언어들의 의미론적 구조를 비교하고 분석하는 방향으로 확장되고 있다. 이는 언어 보편성과 다양성에 대한 이해를 깊게 하고, 형식 의미론의 범위를 넓히는 데 기여한다.

4. 교육과 언어 습득

형식 의미론의 통찰은 제2언어 교육, 언어 습득 이론, 언어 발달 장애 연구 등에도 응용된다. 언어의 의미론적 구조에 대한 명시적 이해는 언어 학습과 교육의 효과성을 높일 수 있다.

일상 언어 속의 형식 의미론

형식 의미론이 다루는 현상들은 우리의 일상 언어 사용 속에 깊이 뿌리내리고 있다. 몇 가지 예를 통해 이를 살펴보자:

1. 양화사와 범위 중의성

"모든 학생이 한 권의 책을 읽었다"라는 문장을 들었을 때, 우리는 직관적으로 이 문장이 두 가지 해석이 가능하다는 것을 안다. 이러한 직관은 우리의 언어 능력에 내재된 의미론적 지식을 반영한다.

2. 명제 태도와 불투명성

"존은 슈퍼맨이 강하다고 믿지만, 클라크 켄트가 강하다고 믿지 않는다"라는 문장이 모순 없이 참일 수 있다는 사실은, 우리가 내포적 맥락에서의 의미 차이를 자연스럽게 이해한다는 것을 보여준다.

3. 지시표현과 맥락 의존성

"나는 여기에 있다"라는 문장의 의미가 발화 맥락에 따라 달라진다는 것을 우리는 쉽게 이해한다. 이러한 맥락 의존성은 형식 의미론에서 중요하게 다루어지는 현상이다.

몬태규의 유산: 언어의 논리와 의미의 체계

몬태규의 작업이 남긴 가장 중요한 유산은 자연언어가 논리적이고 체계적인 의미 구조를 가진다는 것을 보여준 점이다. 그는 언어가 완전히 임의적이거나 혼란스러운 것이 아니라, 정밀한 수학적, 논리적 분석이 가능한 체계임을 증명했다.

이러한 통찰은 언어의 창조적 측면과 규칙적 측면이 어떻게 공존하는지 이해하는 데 중요한 열쇠를 제공한다. 언어는 끊임없이 변화하고 진화하지만, 그 기저에는 구조와 체계가 있다. 몬태규의 형식 의미론은 이 체계를 밝히는 강력한 도구를 제공한다.

오늘날 형식 의미론은 언어학, 철학, 컴퓨터 과학, 인지과학 등 다양한 분야에 영향을 미치며 계속 발전하고 있다. 몬태규가 시작한 혁명은 언어와 의미에 대한 우리의 이해를 근본적으로 변화시켰으며, 그의 비전은 계속해서 언어 연구의 새로운 가능성을 열어주고 있다.

언어와 논리의 통합: 몬태규 혁명의 의의

몬태규의 업적은 단순히 기술적 발전이 아니라 철학적 통찰의 진정한 승리다. 그는 언어와 논리 사이의 오랜 간극을 좁히며, 인간의 자연 언어가 가진 놀라운 체계성과 정확성을 드러냈다. 이는 우리가 일상적으로 사용하는 언어 속에 복잡한 논리적 구조가 내재해 있음을 보여주는 증거다.

특히 인공지능 시대에 몬태규의 접근법은 새로운 중요성을 갖는다. 자연언어 처리 시스템과 대화형 AI가 발전함에 따라, 언어의 형식적 구조와 의미 계산에 대한 몬태규의 통찰은 이러한 기술 발전의 이론적 기초 역할을 한다.

결국 몬태규 문법은 언어의 예술과 과학 사이의 경계를 재정의했다. 언어의 창조적이고 유연한 특성이 엄밀한 형식적 분석과 양립할 수 있음을 보여줌으로써, 그는 우리가 언어를 이해하는 방식을 영원히 변화시켰다. 이것이 바로 리처드 몬태규가 현대 언어철학과 언어학에 남긴 가장 위대한 유산이다.