프로이트는 「나의 이력서」에서 정신분석이 “이제는 무의식적 정신에 관한 과학의 이름이 되었다”(프로이트 2003f, 275)라고 자부한다. 하지만 여기에는 문학적 글쓰기가 정신분석에 준 영향이 지워져 있다. 프로이트는 문학적 글쓰기에 깊은 영향을 받았으면서도 이러한 영향에 은밀하지만 맹렬하게 저항하였다. 그것은 18세기 말 이후 문학과 학문이 대립적인 것으로 사고되었기 때문이며, 학문의 개념 자체도 실증적인 경험과학을 의미하는 것으로 협소해졌기 때문이다. 따라서 그는 정신분석이라는 새로운 학문을 정립해 나가면서 이중의 싸움을 벌여야 했다. 한편에서는 저 협소한 과학성과 전투를 벌여야 했으며, 다른 한편으로는 정신분석을 문학이라 비난하는 이들에 맞서 문학과 분명한 경계선을 그어야 했다. 정신분석을 새로운 과학으로 인정받게 하기 위한 프로이트의 작업에서 문학은 언제나 많이 동원되었지만, 과학으로서의 정신분석에서 문학은 그늘진 자리를 배정받을 수밖에 없었다.
프로이트는 정신분석을 문학과 차등적으로 구분하는 작업에는 별다른 어려움을 느끼지 못했지만 정신분석을 과학으로 주장하는 데는 큰 어려움을 겪었다. 프로이트가 보기에는 정신분석이 정신과학에 깊은 영향을 주었고 정신과학과 긴밀한 관계를 맺고 있지만 그 자체가 정신과학에 속한다는 것은 있을 수 없는 일이었다. 그런데 정신분석이 만일 해석의 기술, 아니 심지어 해석의 즐거움이라면 그것은 어떻게 과학성을 인정받을 수 있겠는가? 해석은 명백히 자연과학적으로 인정받을 수 있는 방법이 아니었기에 정신분석이 해석에 기초한다면 정신분석은 과학이 아니게 된다. 이 문제는 특히 『꿈의 해석』이 출간되고 프로이트가 꿈의 중요성을 강조하면서 더욱 전면에 부각되었다. 해석의 객관적 토대는 어디에 있는가? 환자들이 자유 연상을 통해서 떠올린 기억이나 말들, 꿈과 같은 정신분석의 원재료들에 대한 해석이 올바른지는 어떻게 알 수 있는가? 해석에 있어서의 과학성이란 성립 가능한 것인가? 자연과학적 과학성의 개념에 정향되어 있던 프로이트는 이런 문제에 봉착하면서 스스로 정신분석의 과학성의 토대를 끊임없이 구축해야 할 필요성을 절감하게 된다.
이러한 고민이 잘 드러난 텍스트가 「비전문가 분석의 문제 Die Frage der Laienanalyse」이다. 정신분석에 대한 세인의 편견을 대화의 형식으로 돌파하는 이 텍스트에서 프로이트는 ‘공정한 사람’이란 인물과의 가상의 대화를 통해 정신분석의 과학성을 주장한다. 프로이트의 자기 분열적 대화라고 봐도 무방할 이 대화에서 ‘공정한 사람’은 정신분석이 시행하는 해석의 과학적 토대를 다음과 같이 공격한다. “‘해석!’ 천박한 단어군요! 말의 어감이 전혀 안 좋군요. 그 말에는 확실성이 결여되어 있어요. 모든 것이 나의 해석에 달려있다면, 내가 올바르게 해석한다는 사실을 누가 보증해 줄 수 있죠? 그래서 결국은 모든 것이 나의 자의에 맡겨져 있는 것입니다.”(프로이트 2003g, 348) 이에 프로이트는 해석자 개인의 능력과 노력 여부에 따라 이 문제가 얼마든지 극복될 수 있다는 낙관적인 답을 준다. “무의식적으로 억압된 것을 감지할 수 있는 예리한 청취능력 eine gewisse Feinhorigkeit fur das unbewußte Verdrangte”(프로이트 2003g, 348; Freud 1948b, 249)을 타고난 분석가가 최대한 개인적 선입관을 제거하고 “일정한 자기절제의 수준 eine gewisse Selbstzucht”에 달하고, 정신분석적 지식을 연마한다면 올바른 해석의 길로 나아갈 수 있다는 것이다.
또한 이러한 분석가 개개인의 해석 과정에서 발생할 수 있는 자의성의 정도는 천문학자가 천체 현상을 관찰할 때 범할 수 있는 개인적 오차의 수준과 다르지 않을 것이라고 주장하며 정신분석의 과학성을 옹호한다. 물론 심리학에서는 물리학에서보다 분석가의 건강한 정신상태가 중요하게 작용하겠지만, 천체현상을 관찰할 때 관찰자의 개성보다는 망원경의 성능이 결정적이듯이, 정신분석에도 분석가 개인의 ‘자의성’을 최소화하는 방법론적 도구가 없지 않다고 주장한다(Vgl. Freud 1948b, 250).
프로이트는 실제로 해석에 무한한 자유가 아니라 일정한 법칙성을 상정했다. 그는 우연적으로 보이는 현상들 뒤에도 일정한 법칙이 작용한다고 보았고, 인간의 심리적 현상도 예외가 아니었다. 어떤 꿈이든 최심층부에서는 억압된 유아기의 성적인 경험이 밑재료로 사용되고 있다(Vgl. Sulloway 1982, 475). 신경증은 이러한 심층적 의미를 해독할 때에만 치료될 수 있다. 따라서 올바른 해석은 존재한다. 치료 결과가 그 해석의 옳고 그름을 증명해 줄 것이다.
프로이트는 인간의 정신과정의 배후에 있는 실재를 완벽하게 의식의 언어로 기술할 수는 없지만, 그 정신과정의 법칙을 기술하는 것은 가능하다고 믿었다. 이런 점에서 그는 “심리학을 다른 모든 자연과학, 가령 물리학과 유사한 토대위에 세울 수 die Psychologie auf einer ahnlichen Grundlage aufzurichten wie jede andere Naturwissenschaft, z. B. wie die Physik”(Freud 1941, 126) 있다고 보았다. 정신분석학의 개념들은 물리학 개념들인 힘, 질량, 인력처럼 실증될 수는 없을지 모르나 얼마든지 기술 가능하다는 것이다. 그리고 그는 정신분석이 해석의 기술로 출발했지만, 과학이 더욱 발전하면 최종적으로는 정신과정을 물리화학적 개념으로 환원할 수 있으리라고 기대했다.
프로이트는 인간의 무의식에서 언어의 중요성을 발견하고 심리학과 정신의학을 심층해석학으로 전환시켰지만, 결국 그의 사유는 해석학적 단초와 객관주의적인 과학적 단초 사이에서 흔들렸으며, 끝내 양자 간의 간극을 해소하지 못했다(Vgl. Pfeiffer 2010, 13ff.). 이런 점에서 하버마스는 정신분석이 실증주의를 극복할 수 있었으나 스스로를 과학이라고 오해함으로써 실증주의로 회귀하고 말았다고 비판한다. 정신분석적 해석학은 실증주의에 의해서 상실된 자기반성적 차원을 열어 줄 수 있는 유일한 학문일 수 있었지만, 프로이트는 이러한 자기반성적 모델을 에너지 분배 모델로 대체해 버려 정신분석에 내재해 있던 자기반성의 해방적 가능성을 스스로 폐기해 버렸다는 것이다(Vgl. Habermas 1968, 263-302). 결국 이처럼 자연과학으로 회귀하려는 프로이트의 노력에서 문학은 배제될 수밖에 없었다.
이를 잘 보여주는 징후적 대목을 마지막으로 하나 더 언급하고자 한다. 「비전문가 분석」에서 프로이트는 정신분석이 기존의 심리학과는 달리 인간의 정신과정의 많은 부분을 의식으로 환원하지 않는다면서 ‘무의식’의 개념을 설명하다가, 대체 왜 ‘자아’와 ‘이드’라는 새로운 명칭을 사용해야 하는지 모르겠다는 반문을 받는다. 자아가 의식이고 이드가 잠재의식 Unterbewußtsein이라면 원래 이름을 그대로 쓰면 되지 않느냐는 것이다. 그러자 프로이트는 잠재의식은 의식 밑에 있는 다른 의식인 것 같이 들리지만 무의식은 그런 것이 아니라고 주장하면서 이러한 반문에 약간의 불쾌감을 드러낸다. 그러면서 그는 다음과 같은 의미심장한 말을 한다. “다른 이름들은 쓸모가 없습니다. 그리고 과학 대신에 문학을 내게 주려고 하지 마십시오.”(프로이트 2003g, 319) 문학은 그에게 계속해서 비과학적인 것의 은유였던 것이다.
Die vorliegende Studie zielt darauf, aus der Perspektive der Poetologie des Wissens die verborgene Funktion der Literatur in der Entstehung der Psychoanalyse zu beleuchten und Freuds ambivalentes Verhaltnis zur Literatur kritisch zu betrachten. Freud als Psychopathologe und Neurophysiologe begrundet bei der Aufzeichnung der Krankengeschichten seiner Hysterie-Patientinnen einen neuen, fremden Diskurs, der sich von den bis dahin gangigen naturwissenschaftlichen stark unterscheidet. In diesem neuen Diskurs wird die Therapie zur Deutungsarbeit der hinter den Symptomen verborgenen Bedeutungen sowie zur narrativen Rekonstruktion der Lebensgeschichte der Kranken. Daraus folgt, dass Freuds neue ,Wissenschaft‘, die Psychoanalyse, eher der Geisteswissenschaft zuzurechnen ist. Als Kind des Empirismus und der Natur- wissenschaft des 19. Jhrts zeigt Freud aber sein Unbehagen an der Literarizitat seines Diskurses. Einerseits dient die Literatur als autoritarer Bezugspunkt des menschlichen Seelenlebens als Beweismittel der wissenschaftlichen Richtigkeit der Psychoanalyse, andererseits wird ihr die Fahigkeit, Wissen zu generieren, abgesprochen. Befangen durch einen naturwissenschaftlich orientierten Wissenschaftlichkeitsbegriff versucht Freud vergebens, die Deutungsarbeit mit naturwissenschaftlicher Objektivitat auszustatten.