과학철학 13. 과학적 창조와 검증의 이중주, 발견의 논리와 정당화의 논리

과학은 어떻게 새로운 이론을 '발견'하는가? 그리고 그 이론은 어떻게 '정당화'되는가? 이 두 질문은 과학철학의 핵심 주제 중 하나다. 과학적 발견의 순간은 종종 신비로운 영감이나 직관의 결과로 묘사되는 반면, 정당화의 과정은 엄격한 검증과 논리적 추론의 영역으로 여겨진다. 이번 글에서는 '발견의 맥락'(context of discovery)과 '정당화의 맥락'(context of justification)이라는 구분을 중심으로, 과학적 지식 형성의 두 가지 측면을 탐구한다.

맥락 구분의 역사적 배경

라이헨바흐와 맥락 구분의 정립

'발견의 맥락'과 '정당화의 맥락'의 구분은 한스 라이헨바흐(Hans Reichenbach)에 의해 1938년 그의 저서 『경험과 예측(Experience and Prediction)』에서 명시적으로 제시되었다. 이 구분은 과학철학이 다루어야 할 영역을 명확히 하기 위한 것이었다.

라이헨바흐는 과학적 이론의 '형성 방식'(발견의 맥락)과 그 이론을 '정당화하는 방식'(정당화의 맥락)을 구분했다. 그에 따르면, 과학철학은 주로 정당화의 맥락에 집중해야 한다. 발견의 과정은 심리학, 사회학, 역사학의 영역이며, 철학적 분석의 대상이 아니라고 보았다.

이러한 구분은 당시 논리실증주의의 프로그램과 맞닿아 있었다. 논리실증주의자들은 과학을 '합리적 재구성'을 통해 이해하고자 했다. 즉, 과학적 지식이 논리적으로 어떻게 구성되고 정당화되는지를 분석하는 데 초점을 맞추었다.

카르납과 포퍼의 관점

루돌프 카르납(Rudolf Carnap)은 발견의 과정이 논리적 분석의 대상이 되기 어렵다고 보았다. 그에게 발견은 '창의적 직관'의 문제였고, 이는 철학이 아닌 심리학의 영역이었다. 반면 정당화는 논리적 구조를 갖고 있으며, 이를 통해 과학적 주장의 타당성을 평가할 수 있다고 보았다.

칼 포퍼(Karl Popper) 역시 이와 유사한 입장을 취했다. 그는 『과학적 발견의 논리(The Logic of Scientific Discovery)』라는 책의 제목에도 불구하고, 정작 책에서는 "발견의 논리는 없다"고 주장했다. 포퍼에게 과학의 특징은 발견 방식이 아니라, 가설이 '반증 가능한' 방식으로 제시되고 '비판적 검토'를 통해 정당화되는 방식에 있었다.

발견의 맥락: 창의성과 직관의 영역

발견의 심리학: 창의적 과정으로서의 과학

발견의 맥락은 과학자가 새로운 가설이나 이론을 어떻게 '생각해내는가'에 관한 것이다. 이는 종종 '유레카 순간'이나 '번뜩이는 통찰'로 묘사된다.

앙리 푸앵카레(Henri Poincaré)는 수학적 발견의 과정을 자신의 경험을 통해 설명했다. 그는 발견 과정을 준비(preparation), 부화(incubation), 조명(illumination), 검증(verification)의 네 단계로 나누었다. 특히 부화 단계에서는 의식적인 노력 없이 무의식적 작업이 이루어진다고 보았다.

이와 유사하게, 알버트 아인슈타인도 자신의 발견 과정에서 직관과 상상력의 역할을 강조했다. 그는 "상상력이 지식보다 중요하다"는 유명한 말을 남겼다. 아인슈타인에게 물리 이론의 발견은 논리적 추론보다는 물리적 현상에 대한 직관적 이해에서 비롯되었다.

과학적 발견의 패턴과 방법

발견에 '논리'가 없다는 전통적 견해에도 불구하고, 일부 철학자들은 발견 과정에서도 일정한 패턴이나 방법을 찾을 수 있다고 주장했다.

토마스 쿤(Thomas Kuhn)은 정상과학 시기에는 패러다임이 제공하는 틀 내에서 '퍼즐 풀이'가 이루어진다고 보았다. 이는 완전히 무작위적인 과정이 아니라, 일정한 규칙과 방법을 따른다. 물론 패러다임 전환을 가져오는 혁명적 발견은 더 급진적이고 예측하기 어려운 성격을 갖는다.

허버트 사이먼(Herbert Simon)은 컴퓨터 시뮬레이션을 통해 과학적 발견의 인지적 과정을 모델링하려 했다. 그의 '발견의 논리' 프로젝트는 발견 과정이 완전히 신비로운 것이 아니라, 일정한 휴리스틱(heuristic)을 따른다는 것을 보여주고자 했다.

귀납, 연역, 그리고 '압축적 귀추'

발견의 방법으로 전통적으로 귀납(induction)과 연역(deduction)이 논의되었다. 귀납은 개별 사례에서 일반 법칙을 도출하는 과정이고, 연역은 일반 원리에서 특수한 결론을 이끌어내는 과정이다.

그러나 찰스 샌더스 퍼스(Charles Sanders Peirce)는 이 두 가지만으로는 과학적 발견의 과정을 설명할 수 없다고 보고, '압축적 귀추'(abduction) 또는 '가설 추론'(hypothesis)이라는 세 번째 추론 방식을 제안했다. 압축적 귀추는 놀라운 현상을 설명할 수 있는 가설을 제안하는 과정이다.

퍼스에 따르면, 귀납이 "이것들은 모두 이 주머니에서 나온 콩이다; 이 콩들은 흰색이다; 따라서 이 주머니의 모든 콩은 흰색일 것이다"라는 추론이라면, 압축적 귀추는 "이 콩들은 흰색이다; 이 주머니에 있는 콩들은 모두 흰색이다; 따라서 이 콩들은 이 주머니에서 나왔을 것이다"라는 추론이다.

현대 과학철학에서 압축적 귀추는 '최선의 설명으로의 추론'(inference to the best explanation, IBE)으로 발전했다. 피터 립턴(Peter Lipton)에 따르면, 과학자들은 여러 경쟁 가설 중에서 관찰된 현상을 '가장 잘 설명하는' 가설을 선택한다.

정당화의 맥락: 검증과 비판의 영역

과학적 방법론으로서의 정당화

정당화의 맥락은 제안된 가설이나 이론이 '왜' 수용되어야 하는지, 그 근거와 증거를 평가하는 과정이다. 여기서는 논리적 일관성, 경험적 적합성, 예측력 등이 중요한 기준이 된다.

귀납주의적 관점에서 정당화는 충분한 관찰과 실험을 통해 가설을 '검증'하는 과정이다. 논리실증주의자들은 '검증 가능성'을 의미 있는 과학적 진술의 기준으로 삼았다.

반면 포퍼의 반증주의에서는 가설이 반증 가능한 형태로 제시되고, 엄격한 시험을 통과하는지가 중요하다. 가설은 결코 '최종적으로 검증'될 수 없지만, 다양한 비판적 시험을 견뎌내며 '잠정적으로 부식(corroboration)'될 수 있다.

임레 라카토슈(Imre Lakatos)의 '연구 프로그램 방법론'은 정당화를 더 복잡한 과정으로 보았다. 단일 가설이 아닌 이론의 '견고한 핵심'과 '보호대'로 구성된 연구 프로그램 전체가 평가의 대상이 되며, 이 평가는 장기적인 관점에서 이루어진다.

HO 모델과 가설-연역법

정당화의 대표적인 모델로는 '가설-연역적 모델'(hypothetico-deductive model, HD 모델)이 있다. 이 모델에서 과학적 방법은 다음과 같은 단계로 진행된다:

1. 문제나 의문 제기
2. 가설 형성
3. 가설로부터 관찰 가능한 예측 도출
4. 실험이나 관찰을 통한 예측 검증
5. 결과에 따른 가설의 수용, 수정 또는 기각

이 모델은 카를 헴펠(Carl Hempel)과 같은 논리실증주의자들에 의해 체계화되었다. 가설-연역법의 강점은 명확한 논리적 구조에 있다. 가설에서 예측이 연역적으로 도출되므로, 예측이 거짓으로 판명되면 가설도 거짓이어야 한다(연역적 타당성에 의해).

그러나 가설-연역법에는 몇 가지 한계가 있다. 첫째, '확인의 역설'로 알려진 문제가 있다. 예를 들어, "모든 까마귀는 검다"는 가설은 논리적으로 "검지 않은 것은 까마귀가 아니다"와 동등하다. 따라서 흰 신발을 관찰하는 것도 논리적으로는 이 가설을 지지하게 된다.

둘째, '듀헴-콰인 문제'(Duhem-Quine problem)가 있다. 어떤 가설도 단독으로 검증되지 않고, 항상 배경 가정들과 함께 검증된다. 따라서 예측이 틀렸을 때, 정확히 어떤 가정이 틀렸는지 결정하기 어렵다.

베이즈주의와 확률적 정당화

현대 과학철학에서는 베이즈주의가 정당화의 맥락을 이해하는 중요한 틀이 되고 있다. 베이즈주의는 과학적 가설의 평가를 '확률의 갱신' 과정으로 본다.

베이즈 정리에 따르면:

P(H|E) = [P(E|H) × P(H)] / P(E)

여기서:

• P(H|E)는 증거 E가 주어졌을 때 가설 H의 확률(사후 확률)
• P(E|H)는 가설 H가 참일 때 증거 E가 관찰될 확률(가능도)
• P(H)는 가설 H의 사전 확률
• P(E)는 증거 E의 한계 확률

베이즈주의 관점에서 과학적 정당화는 새로운 증거에 따라 가설의 확률을 지속적으로 갱신하는 과정이다. 이는 과학의 누적적 특성과 잠정적 특성을 잘 포착한다.

베이즈주의의 장점은 증거가 가설을 지지하는 정도를 정량화할 수 있다는 점이다. 또한 다양한 경쟁 가설들 사이의 비교도 가능하다. 그러나 사전 확률을 어떻게 할당할 것인가에 대한 문제는 여전히 논쟁적이다.

맥락 구분에 대한 도전

역사적·사회학적 비판

1960년대 이후, 맥락 구분에 대한 다양한 비판이 제기되었다. 토마스 쿤, 폴 파이어아벤트(Paul Feyerabend) 등은 실제 과학의 역사를 분석하며, 발견과 정당화가 명확히 구분되지 않는다고 주장했다.

쿤에 따르면, 과학적 패러다임은 단순한 이론이 아니라 문제 해결 방식, 개념적 틀, 가치 등을 포함하는 포괄적인 구조다. 패러다임은 과학자들이 무엇을 발견할지(어떤 문제에 관심을 가질지)와 어떻게 정당화할지(어떤 방법을 사용할지) 모두에 영향을 미친다.

파이어아벤트는 더 급진적으로, 과학에는 어떤 보편적인 방법론도 없다고 주장했다. 그의 '방법론적 무정부주의'에 따르면, 과학적 발견과 정당화의 과정은 역사적, 문화적 맥락에 따라 다양하며, "anything goes"(무엇이든 된다)는 것이 유일한 원칙이다.

발견의 논리를 향한 새로운 시도

발견에 논리가 없다는 전통적 견해에 대한 도전도 계속되었다. 노우드 핸슨(Norwood Russell Hanson)은 발견의 과정에서도 일종의 논리, 즉 '패턴 인식'의 논리가 작동한다고 주장했다. 그는 관찰이 이론에 의해 '부하'(theory-laden)된다는 점을 강조하며, 새로운 패턴을 인식하는 과정에는 창의적이지만 무작위적이지 않은 추론이 개입된다고 보았다.

메릴 허스티(Merrilee Salmon)와 같은 철학자들은 발견의 맥락에서도 일정한 방법론적 원칙이 작동한다고 주장했다. 예를 들어, 프란시스 베이컨이 제시한 귀납적 방법, 존 스튜어트 밀의 합치와 차이의 방법, 윌리엄 휴얼의 귀납적 방법 등은 발견의 과정을 체계화하려는 시도였다.

인공지능 분야에서는 '과학적 발견의 컴퓨터화'(computational models of scientific discovery)를 통해 발견의 과정을 알고리즘화하려는 시도가 있었다. BACON, KEKADA, DENDRAL 등의 프로그램은 데이터에서 패턴을 찾고 가설을 생성하는 능력을 보여주었다.

맥락 구분의 재해석

발견과 정당화의 맥락 구분에 대한 비판은 이 구분을 완전히 버리기보다는, 더 유연하게 재해석하는 방향으로 발전했다.

데보라 마이요(Deborah Mayo)는 '오류 통계학'(error statistics)을 통해 과학적 추론의 새로운 모델을 제시했다. 그녀에 따르면, 과학적 방법은 오류를 탐지하고 제거하는 과정으로, 발견과 정당화가 순환적으로 이루어진다.

낸시 네르세시안(Nancy Nersessian)은 '개념적 변화의 인지적 역사'(cognitive-historical approach)를 통해 과학적 개념 형성 과정을 연구했다. 그녀는 유비 추론, 사고 실험, 시각적 표상 등이 과학적 개념 형성에 중요한 역할을 한다고 보았다. 이러한 관점에서 발견과 정당화는 명확히 구분되지 않는 연속적인 과정이다.

발견과 정당화의 상호작용

이론의 발전 과정에서의 상호작용

실제 과학의 역사를 보면, 발견과 정당화는 명확히 구분되는 단계가 아니라, 상호작용하는 과정이다. 가설이 어느 정도 정당화된 후에야 새로운 발견이 가능해지기도 하고, 발견의 과정에서 이미 정당화의 요소가 개입되기도 한다.

뉴턴 역학이나 아인슈타인의 상대성이론과 같은 중요한 과학적 성취는 단순한 영감의 결과물이 아니라, 장기간에 걸친 문제 해결 과정의 산물이었다. 이 과정에서 가설 생성과 검증은 반복적으로 이루어졌다.

과학사학자 피터 갈리슨(Peter Galison)은 『이미지와 논리(Image and Logic)』에서 물리학의 발전을 '실험', '이론', '도구' 세 영역의 상호작용으로 설명했다. 이 세 영역은 각각 발전하면서도 서로에게 영향을 미친다. 새로운 도구가 새로운 발견을 가능하게 하고, 이는 다시 이론의 발전으로 이어진다.

창의성과 비판의 균형

과학은 창의성과 비판적 사고의 균형을 필요로 한다. 과학자는 새로운 아이디어를 제안하는 창조자인 동시에, 자신과 타인의 아이디어를 비판적으로 검증하는 평가자다.

칼 포퍼는 과학자의 이중적 역할을 강조했다. 과학자는 대담한 가설을 제안해야 하지만, 동시에 자신의 가설을 엄격하게 시험해야 한다. 이러한 '비판적 합리주의'는 창의성과 비판의 균형을 추구한다.

로버트 머튼(Robert K. Merton)은 과학의 규범(norms)으로 보편주의, 공동체주의, 이해관계 초월, 조직화된 회의주의를 제시했다. 이 중 '조직화된 회의주의'는 과학적 주장을 비판적으로 검토하는 태도로, 정당화의 맥락과 연결된다.

발견과 정당화의 시간적 구조

발견과 정당화는 시간적으로도 복잡한 구조를 갖는다. 외적인 연대기적 시간(chronological time)과 내적인 개념적 시간(conceptual time)이 일치하지 않는 경우가 많다.

과학 논문은 종종 '발견된 순서'가 아니라 '정당화의 논리'에 따라 구성된다. 실제 발견 과정에서의 시행착오, 우연한 발견, 직관적 도약 등은 논문에서 생략되고, 마치 처음부터 명확한 가설과 방법이 있었던 것처럼 서술된다.

하워드 베커(Howard Becker)는 이를 '과학의 수사학'으로 설명했다. 과학자들은 연구 결과를 발표할 때, 실제 연구 과정보다 더 논리적이고 체계적으로 보이도록 재구성한다. 이는 독자를 설득하기 위한 수사적 전략이다.

현대 과학에서의 발견과 정당화

빅데이터와 인공지능 시대의 발견

현대 과학에서는 빅데이터와 인공지능이 발견의 과정을 변화시키고 있다. 전통적인 가설-연역적 방법과 달리, 데이터 기반 접근법은 먼저 데이터에서 패턴을 찾고 이후에 이론을 구성한다.

기계학습 알고리즘은 대량의 데이터에서 인간이 발견하기 어려운 패턴을 발견할 수 있다. 이는 과학적 발견이 반드시 인간의 창의성이나 직관에 의존해야 한다는 생각에 도전한다.

그러나 데이터에서 패턴을 찾는 것은 그 패턴의 의미를 이해하는 것과는 다르다. 여전히 인간의 창의성과 이론적 이해가 필요하다. 데이터 중심 접근법에서도 '의미 있는' 패턴을 구별하기 위한 개념적 틀이 필요하다.

협업적 지식 생산과 분산된 인식론

현대 과학은 점점 더 협업적이고 분산된 지식 생산 과정이 되고 있다. 대형 국제 협력 프로젝트(CERN의 대형 강입자 충돌기, 인간 게놈 프로젝트 등)에서는 수천 명의 연구자가 참여한다.

이러한 맥락에서 발견과 정당화는 더 이상 개인 과학자의 활동이 아니라, 복잡한 사회적 과정이다. 알린 골드만(Alvin Goldman)이 제안한 '사회적 인식론'과 미란다 프리커(Miranda Fricker)의 '인식적 부정의' 개념은 이러한 협업적 지식 생산의 복잡성을 이해하는 데 도움이 된다.

캐서린 해일스(N. Katherine Hayles)는 '분산된 인지'(distributed cognition) 개념을 통해, 지식 생산이 인간과 기계, 알고리즘, 데이터베이스 등의 네트워크 속에서 이루어짐을 강조했다. 이러한 관점에서 발견과 정당화는 더 이상 명확히 구분될 수 없는, 네트워크 내의 복잡한 과정이다.

오픈 사이언스와 과학적 투명성

오픈 사이언스 운동은 과학적 연구의 전 과정을 투명하게 공개하자는 움직임이다. 여기에는 데이터 공유, 코드 공개, 사전 등록, 오픈 액세스 출판 등이 포함된다.

이는 발견과 정당화의 관계에도 영향을 미친다. 전통적으로 정당화의 맥락만 공개되고 발견의 맥락은 '블랙박스'로 남아있었다면, 오픈 사이언스는 발견의 과정도 투명하게 공개하고자 한다.

브라이언 노세크(Brian Nosek)와 같은 연구자들은 연구 방법과 분석 계획을 사전에, 데이터 수집 전에 등록하는 '사전 등록'(preregistration)을 제안했다. 이는 발견과 정당화를 시간적으로 분리하고, 가설 확인 편향(confirmation bias)을 줄이기 위한 시도다.

결론: 발견과 정당화의 변증법

발견과 정당화의 맥락 구분은 과학철학의 중요한 개념적 도구였다. 그러나 실제 과학 활동에서 이 두 맥락은 명확히 구분되지 않고, 복잡하게 상호작용한다. 발견은 정당화의 요소를 포함하고, 정당화는 새로운 발견으로 이어진다.

현대 과학철학은 발견과 정당화를 이분법적으로 구분하기보다는, 과학적 탐구의 연속적이고 순환적인 과정으로 이해하는 경향이 있다. 이는 단순히 맥락 구분을 포기하는 것이 아니라, 더 풍부하고 현실적인 과학적 실천의 모델을 구축하는 것이다.

과학은 창의적 발견과 비판적 검증의 변증법적 과정이다. 이 두 측면의 균형과 상호작용이 과학의 진보를 가능하게 한다. 발견 없는 정당화는 공허하고, 정당화 없는 발견은 맹목적이다. 과학의 역동성은 이 두 과정의 지속적인 상호작용에서 비롯된다.

프리드리히 니체의 말처럼,
"생성은 규칙을 따르지 않는다. 규칙은 생성 이후에 생긴다."
과학의 창조성과 규범성은 따로가 아니라, 끊임없이 서로를 밀고 당기며 과학이라는 여정을 함께 만든다.