과학철학 12. 세계를 담아내는 틀, 과학 이론의 언어와 모델의 철학적 이해

과학자들은 어떻게 복잡한 자연 현상을 이해하고 설명하는가? 방대한 데이터와 관찰 속에서 어떻게 질서를 발견하고 예측을 가능하게 하는가? 그 해답은 '모델'과 '이론'이라는 강력한 지적 도구에 있다. 과학 이론은 단순한 사실의 나열이 아니라, 현상을 설명하고 예측할 수 있는 체계적인 지식 구조다. 이번 글에서는 과학 이론의 본질, 그것이 표현되는 언어, 그리고 과학적 모델의 역할과 한계를 철학적 관점에서 살펴본다.

과학 이론의 본질과 구조

이론의 정의와 목적

과학 이론이란 무엇인가? 단순히 정의하자면, 과학 이론은 자연 현상을 설명하고 예측하기 위한 체계적인 진술의 집합이다. 그러나 이러한 정의는 이론의 풍부한 구조와 기능을 충분히 담아내지 못한다.

과학 이론의 목적은 다양하다. 첫째, 이론은 관찰된 현상을 설명한다. 둘째, 아직 관찰되지 않은 현상을 예측한다. 셋째, 자연 세계에 대한 우리의 이해를 통합한다. 넷째, 새로운 연구 방향을 제시한다. 각각의 목적은 과학 이론이 갖추어야 할 특성을 결정한다.

구문론적 관점 vs. 의미론적 관점

과학 이론의 본질을 이해하는 두 가지 주요 관점이 있다: 구문론적 관점(syntactic view)과 의미론적 관점(semantic view).

구문론적 관점은 논리실증주의자들이 발전시킨 접근법으로, 이론을 공리와 정리의 형식적 체계로 본다. 이 관점에서 과학 이론은 논리적 구문론에 기반한 연역적 체계다. 예를 들어, 뉴턴의 역학 이론은 몇 가지 기본 법칙(공리)으로부터 다양한 현상을 연역적으로 도출할 수 있는 체계로 이해할 수 있다.

반면 의미론적 관점은 이론을 모델의 집합으로 본다. 패트릭 서펠(Patrick Suppes), 밴 프라센(Bas van Fraassen) 등이 발전시킨 이 관점에서는 이론의 형식적 구조보다 그 이론이 표현하는 모델, 즉 세계의 가능한 상태에 초점을 맞춘다. 이 관점은 과학자들의 실제 활동에 더 가깝다는 평가를 받는다.

라카토슈의 연구 프로그램

임레 라카토슈(Imre Lakatos)는 과학 이론을 '연구 프로그램'으로 이해했다. 연구 프로그램은 '견고한 핵심'(hard core)과 '보호대'(protective belt)로 구성된다. 핵심은 프로그램의 기본 가정들로, 쉽게 포기되지 않는다. 보호대는 핵심을 둘러싼 보조 가설들로, 이론과 관찰 사이의 불일치가 발생할 때 수정된다.

예를 들어, 뉴턴 역학의 핵심에는 운동 법칙과 중력 법칙이 있다. 초기에 천왕성의 궤도가 예측과 일치하지 않았을 때, 과학자들은 뉴턴의 법칙을 버리는 대신 새로운 행성(해왕성)의 존재를 가정하는 보조 가설을 도입했다.

라카토슈의 관점은 과학 이론의 발전을 이해하는 데 유용한 틀을 제공한다. 연구 프로그램은 '진보적'(progressive) 또는 '퇴행적'(degenerating)일 수 있다. 진보적 프로그램은 새로운 사실을 예측하고 발견하는 반면, 퇴행적 프로그램은 단지 알려진 사실을 설명하기 위해 임시방편적인 가설을 계속 추가한다.

과학 이론의 언어

이론적 용어와 관찰적 용어

과학 이론의 언어는 '이론적 용어'(theoretical terms)와 '관찰적 용어'(observational terms)로 구분할 수 있다. 관찰적 용어는 직접 관찰 가능한 대상이나 속성을 지칭한다('빨강', '뜨겁다', '무겁다' 등). 반면 이론적 용어는 직접 관찰할 수 없는 대상이나 과정을 지칭한다('전자', '쿼크', '중력장', '유전자' 등).

논리실증주의자들은 이론적 용어를 관찰적 용어로 환원하려 했으나, 이는 성공적이지 못했다. 현대 과학철학은 이론적 용어가 관찰적 용어로 완전히 환원될 수 없으며, 이론적 용어가 과학 이론에서 필수적인 역할을 한다는 점을 인정한다.

형식 언어와 자연 언어

과학 이론은 형식 언어(수학, 논리학)와 자연 언어(영어, 한국어 등)의 혼합체다. 수학은 과학 이론에서 핵심적인 역할을 한다. 유진 위그너(Eugene Wigner)가 "수학의 비합리적인 효과성"이라 부른 이 현상은 흥미로운 철학적 질문을 제기한다: 왜 수학은 자연을 설명하는 데 이토록 효과적인가?

이에 대한 한 가지 견해는 수학이 자연의 기본 구조를 반영한다는 것이다(플라톤주의적 관점). 다른 견해는 우리가 수학적으로 표현 가능한 패턴을 찾도록 인지적으로 편향되어 있다는 것이다(구성주의적 관점).

라다우의 구조주의

요제프 라다우(Joseph D. Sneed)와 볼프강 슈텐뮬러(Wolfgang Stegmüller)가 발전시킨 구조주의적 관점은 과학 이론을 수학적 구조로 이해한다. 이 관점에서 이론은 특정 수학적 구조로 표현되는 '이론적 핵심'과 그 구조가 적용되는 '의도된 적용 영역'으로 구성된다.

예를 들어, 고전 역학의 핵심은 뉴턴의 운동 방정식으로 표현되는 수학적 구조다. 이 구조는 행성 운동, 진자, 포물선 운동 등 다양한 영역에 적용된다.

구조주의적 관점은 과학 이론의 통시적 발전을 이해하는 데도 유용하다. 이론 변화는 핵심 구조의 수정이나 적용 영역의 확장으로 이해할 수 있다.

과학적 모델의 철학

모델의 정의와 유형

과학적 모델은 복잡한 현실의 특정 측면을 단순화하여 표현한 것이다. 모델은 다양한 형태를 취할 수 있다:

1. 물리적 모델: DNA의 이중 나선 구조를 표현한 왓슨과 크릭의 모형처럼 실제 물체로 만들어진 모델
2. 수학적 모델: 방정식이나 그래프로 현상을 표현하는 모델(예: 인구 성장을 표현하는 로지스틱 방정식)
3. 컴퓨터 모델: 시뮬레이션을 통해 복잡한 시스템의 행동을 모방하는 모델(예: 기후 모델)
4. 개념적 모델: 비유나 은유를 통해 현상을 이해하는 모델(예: '원자는 태양계와 같다')

모델과 이론의 관계

모델과 이론의 관계는 과학철학의 중요한 주제다. 이론은 일반적인 원리와 법칙을 제시하는 반면, 모델은 이러한 원리가 특정 상황에 어떻게 적용되는지 보여준다.

로널드 기어리(Ronald Giere)는 이론을 '모델의 집합'으로 정의했다. 이러한 관점에서 과학자는 모델을 구성하고, 이 모델과 실제 세계 사이의 유사성을 주장한다. 예를 들어, 이상 기체 모델은 실제 기체와 특정 조건에서 유사하다고 주장할 수 있다.

낸시 카트라이트(Nancy Cartwright)는 '이론에서 모델로의 이동'이 직접적이지 않다고 주장했다. 그녀에 따르면, 과학자들은 일반 이론에서 모델을 구성할 때 다양한 '가교 원리'(bridge principles)와 단순화 가정을 도입한다. 이 과정은 순수하게 논리적이거나 기계적이지 않으며, 창의성과 판단을 요구한다.

이상화와 단순화

모델 구성의 핵심 전략은 이상화(idealization)와 단순화(simplification)다. 갈릴레오의 낙하 법칙은 공기 저항을 무시하는 이상화된 조건에서 도출되었다. 경제학의 '합리적 행위자' 모델은 인간 행동의 다양한 측면을 단순화한다.

이러한 이상화와 단순화는 필연적으로 '왜곡'을 수반한다. 그러나 이 왜곡은 오류가 아니라 의도적인 전략이다. 적절한 이상화는 현상의 본질적 측면을 드러내고 부수적인 측면을 제거한다.

어빙 폰 하이크(Ernan McMullin)는 '갈릴레오식 이상화'와 '칸트적 이상화'를 구분했다. 갈릴레오식 이상화는 방해 요소를 제거하여 기본 법칙을 드러내는 것이다. 칸트적 이상화는 이상적인 경우(예: 완전한 진공, 무한히 큰 집단)를 상정하는 것이다.

모델의 표상 기능

모델은 어떻게 세계를 표상하는가? 이 질문에 대한 다양한 철학적 관점이 있다:

1. 유사성 이론: 모델은 대상과의 유사성을 통해 표상한다(기어리).
2. 동형성 이론: 모델과 대상 사이에 구조적 대응 관계가 있다(밴 프라센).
3. 의도적 표상 이론: 모델은 과학자의 의도에 의해 표상 기능을 획득한다(카야하네).

로만 프리그(Roman Frigg)와 제임스 응구엔(James Nguyen)은 이러한 관점들을 통합하는 'DEKI 계정'을 제안했다. 이에 따르면 모델은 특정 대상을 지시하고(Denote), 모델의 특성을 예시하며(Exemplify), 이를 목표 시스템에 투사하는(Key) 해석(Interpretation)을 통해 표상한다.

모델의 인식론적 가치

이해와 설명

과학적 모델은 단순히 현상을 예측하는 데 그치지 않고, 그것을 이해하고 설명하는 데 기여한다. 헨크 드 렉트(Henk de Regt)와 데니스 디익스(Dennis Dieks)는 과학적 이해를 "현상을 설명하고 예측하기 위해 이론을 효과적으로 사용할 수 있는 능력"으로 정의했다.

모델은 이러한 이해를 촉진하는 다양한 방식으로 기능한다:

1. 복잡한 현상을 시각화한다.
2. 현상의 인과적 메커니즘을 드러낸다.
3. 다양한 현상 간의 통합적 이해를 제공한다.
4. 반사실적 추론을 가능하게 한다("만약 ~라면 어떻게 될까?").

발견의 맥락에서의 모델

모델은 새로운 현상을 발견하는 데 중요한 역할을 한다. 제임스 맥스웰(James Clerk Maxwell)의 전자기장 모델은 전파의 존재를 예측했고, 폴 디랙(Paul Dirac)의 상대론적 전자 방정식은 반물질의 존재를 시사했다.

토머스 쿤이 지적했듯이, 모델은 정상과학의 '범례'(exemplar) 역할을 한다. 과학자들은 성공적인 모델을 참고하여 새로운 문제에 접근한다. 예를 들어, 보어의 원자 모델은 이후 다양한 원자 및 분자 구조를 이해하는 틀을 제공했다.

모델 평가의 기준

어떤 모델이 '좋은' 모델인가? 다양한 평가 기준이 제시되어 왔다:

1. 경험적 적합성: 모델이 관찰과 얼마나 일치하는가?
2. 설명력: 모델이 현상을 얼마나 잘 설명하는가?
3. 예측력: 모델이 새로운 현상을 얼마나 정확히 예측하는가?
4. 단순성: 모델이 얼마나 간결한가?
5. 포괄성: 모델이 얼마나 다양한 현상을 설명하는가?
6. 정합성: 모델이 기존 이론과 얼마나 잘 조화되는가?

이러한 기준들은 종종 상충한다. 더 복잡한 모델은 더 정확할 수 있지만, 설명력이나 이해 가능성은 떨어질 수 있다. 모델 선택은 이러한 다양한 가치 사이의 균형을 찾는 과정이다.

모델의 한계와 오용

모델의 근본적 한계

조지 박스(George Box)의 유명한 말처럼, "모든 모델은 틀렸지만, 일부는 유용하다." 모델은 본질적으로 현실의 단순화된 표현이므로, 완벽할 수 없다. 모델의 한계를 인식하는 것은 과학적 사고의 중요한 부분이다.

모델의 주요 한계는 다음과 같다:

1. 이상화와 단순화로 인한 왜곡
2. 특정 영역 밖에서의 적용 불가능성
3. 숨겨진 가정과 매개변수의 존재
4. 모델과 현실 사이의 구조적 차이

모델의 오용과 남용

모델은 종종 오용되거나 남용된다. 경제 모델이 금융 위기를 예측하지 못한 것처럼, 모델의 한계를 인식하지 못하면 심각한 결과를 초래할 수 있다.

나심 탈레브(Nassim Taleb)는 '검은 백조' 이론에서 극단적 사건을 고려하지 않는 모델의 위험성을 지적했다. 폴 에드워즈(Paul N. Edwards)는 '모델 세계'에 갇혀 실제 세계를 보지 못하는 위험을 경고했다.

가치와 모델

과학적 모델은 가치중립적이지 않다. 모델 구성과 평가에는 인식적 가치(정확성, 일관성 등)뿐만 아니라 사회적, 윤리적 가치도 개입된다.

예를 들어, 경제 모델에서 '효율성'을 강조할지 '공정성'을 강조할지는 가치 판단의 문제다. 기후 모델에서 어떤 시나리오를 '위험'으로 분류할지도 가치 판단을 수반한다.

헬렌 롱이노(Helen Longino)는 과학적 객관성이 개인의 가치중립성이 아니라 다양한 관점을 가진 공동체의 비판적 상호작용에서 나온다고 주장했다. 이러한 관점에서, 과학적 모델의 평가는 단순히 기술적인 문제가 아니라 사회적 과정이다.

현대 과학에서의 모델과 이론

컴퓨터 시뮬레이션과 데이터 기반 모델

컴퓨터의 발전은 과학적 모델링의 새로운 장을 열었다. 복잡한 시스템(기후, 생태계, 뇌)을 시뮬레이션할 수 있게 되면서, 기존의 분석적 모델로는 접근하기 어려웠던 문제들을 다룰 수 있게 되었다.

이와 함께 '데이터 기반 모델'의 중요성이 커지고 있다. 머신러닝과 인공지능 기술은 데이터에서 패턴을 찾아 예측 모델을 구축한다. 이러한 모델은 전통적인 이론 기반 모델과 다른 특성을 갖는다.

에릭 빈즈버그(Eric Winsberg)는 시뮬레이션을 '이론과 세계 사이의 제3의 방법론적 영역'으로 보았다. 시뮬레이션은 단순한 이론의 적용이 아니라, 다양한 이론, 근사법, 매개변수화 등이 복잡하게 얽힌 '융합 모델'을 만든다.

다중 모델 접근법

현대 과학에서는 단일 모델보다 '다중 모델 접근법'이 강조된다. 기후 과학은 다양한 모델의 앙상블을 사용하여 예측의 불확실성을 평가한다. 이는 각 모델의 한계를 인정하고, 다양한 관점을 통합하는 전략이다.

윌리엄 위무스(William Wimsatt)는 '강건성 분석'(robustness analysis)의 중요성을 강조했다. 다양한 모델과 방법이 유사한 결과를 도출할 때, 그 결과는 특정 모델의 세부사항에 의존하지 않는 '강건한' 것으로 간주할 수 있다.

복잡계 과학과 창발성

복잡계 과학의 발전은 모델과 이론에 대한 새로운 관점을 제시한다. 복잡계는 단순한 요소들의 상호작용에서 예상치 못한 패턴과 속성이 '창발'(emergence)하는 시스템이다.

복잡계 모델링은 환원주의적 접근법의 한계를 보여준다. 시스템의 전체 행동은 구성 요소들의 속성만으로 예측하기 어렵다. 이는 다양한 수준의 설명이 필요함을 시사한다.

산드라 미첼(Sandra Mitchell)은 '통합적 다원주의'(integrative pluralism)를 제안했다. 이 관점에서 다양한 수준의 모델과 이론은 경쟁하는 대안이 아니라, 복잡한 현상의 다양한 측면을 포착하는 상호보완적인 접근법이다.

결론: 모델과 이론의 인식론적 의의

과학 이론의 언어와 모델은 우리가 세계를 이해하고 설명하는 방식을 근본적으로 형성한다. 모델은 단순히 계산 도구가 아니라, 세계를 개념화하고 상상하는 방식이다.

모델과 이론은 항상 불완전하다. 그러나 이러한 불완전함에도 불구하고(또는 오히려 그것 때문에), 모델은 복잡한 현실을 이해하는 데 필수적이다. 모델은 혼돈 속에서 패턴을 찾고, 복잡성 속에서 단순성을 발견하며, 다양성 속에서 통일성을 찾는 도구다.

과학철학은 이러한 모델과 이론의 본질, 한계, 그리고 가능성을 비판적으로 성찰한다. 이를 통해 우리는 과학적 지식의 본질을 더 깊이 이해하고, 더 나은 모델과 이론을 구축할 수 있다.

앨버트 아인슈타인의 말처럼, "이론은 가능한 한 단순해야 하지만, 필요 이상으로 단순해서는 안 된다." 과학적 모델과 이론은 세계의 복잡성과 우리 인식의 한계 사이에서 절묘한 균형을 찾는 예술이자 과학이다. 이러한 균형을 찾는 과정에서, 철학적 성찰은 필수적인 동반자다.