글

생성된 이미지에 누가 책임을 지는가

아티스트 북을 통해 생성형 AI 시대의 Foucault의 “저자 기능”을 재구성하다: 카오스 바디 숍

저자
HSU, Che-jui
연구 대상
예술가 HSU, Che-jui의 아티스트 북 카오스 바디 숍(2025–2026)과 그 핵심 작품 어른이 되면

초록

생성형 인공지능의 확산은 흔히 Barthes(1968/1977)의 “저자의 죽음”을 기술적으로 실현한 것으로 언급된다. 방대한 학습 데이터셋을 바탕으로 모델이 이미지를 생산할 때 저자의 자리는 해체되는 듯 보인다. 본 연구는 예술가 HSU, Che-jui의 아티스트 북 카오스 바디 숍과 그 핵심 작품 어른이 되면을 대상으로, 작가 자신의 제작 기록에 근거한 사례 연구를 통해 반대의 주장을 펼친다. 생성 기술은 저자를 퇴장시키는 것이 아니라, 담론의 귀속과 책임을 정하는 사회적 기제인 Foucault(1969/1998)의 “저자 기능”을 다시 중심에 놓는다. 본 논문은 “바이브 코딩”(Karpathy, 2025)을 분야 간 유사 사례로 삼아 인간 주체가 생성물에 책임져야 하는 구조가 기술과 예술 영역에서 동형적이라고 주장하고, 다원적 거버넌스(Plurality; Weyl et al., 2024)의 틀을 통해 책임이 개인과 집단 양쪽 차원에서 작동함을 보여 준다. 단 한 장의 실제 여권 사진이 모든 생성 초상의 참조 이미지가 되면서도 그 자체는 177.7cm 중 0.7이라는 나머지로 축소되는 어른이 되면의 구성 논리, 생성 과정에서 드러난 체계적 편향, 음운에 따른 재배열을 통한 《금강경》의 탈의미화를 함께 분석한다. 이를 통해 생성형 조건의 저자 기능이 서명·공개·책임 부담이라는 삼중의 작동으로 다시 행사되며, 모든 생성 시뮬라크르를 단일한 실제 원천으로 추적할 수 있는 가능성으로 구체화된다고 주장한다. 아울러 저자의 책임이 없을 경우 모델 붕괴와 진실 착각 효과가 겹쳐 주변부 문화와 종교의 잘못된 재현이 “사실”로 등록될 수 있다는 인식론적 위험을 경고하고, 작가의 편향 공개를 이 위험에 대한 개입으로 위치시킨다.

핵심어 저자 기능, 생성형 AI, 바이브 코딩, 사진 아카이브, 학습 데이터의 정치, 모델 붕괴, 사례 연구

영문 초록 · 원문

The proliferation of generative artificial intelligence is frequently invoked as a technological realization of Barthes's (1968/1977) thesis of “the death of the author”: when images are produced by a model drawing upon vast training datasets, the position of the author appears to dissolve. Taking the artist Hsu Che-jui's artist book Chaos Body Shop and its core work When I Grow Up as its objects, this study adopts a case-study methodology—drawing on the artist's own production records—to advance the opposite claim: generative technology does not retire the author but rather renders Foucault's (1969/1998) “author function”—a social mechanism of discursive attribution and accountability—newly central. Using the phenomenon of “vibe coding” (Karpathy, 2025) as a cross-disciplinary analogue, the paper argues that the structure whereby a human subject must answer for generated artifacts is isomorphic across the technological and the artistic domains, and draws on the framework of Plurality (Weyl et al., 2024) to show that accountability operates at both individual and collective scales. Through an analysis of the compositional logic of When I Grow Up—in which a single authentic passport photograph serves as the reference image for all generated portraits while being itself reduced to the 0.7 remainder of 177.7 centimeters—together with the systematic biases exposed during generation and the desemanticization of the Diamond Sutra via phonetic reordering, the paper contends that under generative conditions the author function is re-exercised through the threefold operation of signature, disclosure, and accountability, and is concretized as the traceability of all generated simulacra to a single authentic source. The paper further warns of an epistemic risk: absent authorial accountability, erroneous representations of marginal cultures and religions may be registered as “fact” through the compounding of model collapse and the illusory-truth effect—and it positions the artist's disclosure of bias as an intervention against this risk.

Keywords author function, generative AI, vibe coding, photographic archive, politics of training data, model collapse, case study

전문 · 한국어 번역

아래는 논문 전문의 한국어 번역이며, 이어서 전체 참고문헌을 수록한다. 내용에 차이가 있을 경우 중국어 원문을 기준으로 한다.

1. 서론: 연구 질문과 방법

본 연구는 예술가 HSU, Che-jui가 2025년부터 2026년 사이에 완성한 아티스트 북 《카오스 바디 숍》과 그 개념적 출발점인 개별 작품 《어른이 되면》을 대상으로 한다. 《어른이 되면》은 작가가 자신의 키를 재는 행위를 4×5 대형 카메라로 기록하고, 측정값 177.7cm를 작품의 구성 논리로 전환한다. 책 전체에는 생성형 모델로 제작한 증명사진 456장이 포함되며, 《어른이 되면》은 그중 177장(177cm라는 정수 부분에 해당)을 골라 단 한 장의 실제 여권 이미지를 둘러싸도록 구성한다. 중요한 점은 이 실제 여권이 생성 이미지와 나란히 놓이는 또 하나의 단위가 아니라, 모든 증명사진을 생성하는 데 사용한 핵심 참조 이미지(reference image)라는 사실이다. 여권 자체는 한쪽 모서리가 잘려 있으며, 이는 177.7cm에서 소수 부분으로 남는 0.7에 대응한다. 이 구성은 분석 가능한 하나의 명제를 제시한다. 생성형 조건에서 실제 지시 대상인 주체는 수량상 소수점 이하의 나머지로 축소되지만, 생성의 논리에서는 모든 시뮬라크르가 거슬러 올라갈 수 있는 원천이다. 이후 《어른이 되면》은 은염 사진 콜라주와 손으로 베껴 쓴 《금강경》을 포함하면서 복합 매체 아티스트 북 《카오스 바디 숍》으로 발전했다.

시각 작품의 주요 이미지가 생성형 모델에 의해 만들어질 때, 이론적으로 중요한 질문이 떠오른다. 이 작품의 저자는 누구이며, 그 재현의 결과에 누가 책임을 져야 하는가. 본 논문은 이 문제를 “저자는 죽었다”라는 말로 해소할 수 없으며, Foucault의 “저자 기능”이라는 틀에서 다시 검토해야 한다고 주장한다.

방법론적으로 본 논문은 사례 연구를 채택한다. HSU, Che-jui가 제공한 창작 자료, 과정 기록, 인터뷰를 일차 자료로 삼고, 창작 과정의 기술적 마찰(technical friction), 특히 생성 모델의 체계적 편향을 제거해야 할 잡음이 아니라 분석 가치가 있는 연구 대상으로 다룬다. 논문의 구성은 다음과 같다. 제2절은 이론적 틀을 세우고 “저자의 죽음”과 “저자 기능”의 차이를 구분하며 사진 아카이브 이론과 기계 시각 이론을 도입한다. 제3절은 바이브 코딩을 분야 간 비교 대상으로 삼아 책임 구조의 동형성을 설명한다. 제4절과 제5절은 각각 《어른이 되면》의 구성 논리와 생성 편향을 분석하며, 제5절에서는 생성형 시대에 “진실이 만들어지는” 인식론적 문제를 제기한다. 제6절은 《금강경》의 탈의미화 작업에서 저자의 위치를 논하고, 제7절은 결론을 제시한다.

2. 이론적 틀: 저자의 죽음에서 저자 기능으로

Barthes(1968/1977)는 「저자의 죽음」에서 텍스트가 “무수한 인용의 직조”이며, 의미 생산의 중심이 저자에서 독자로 옮겨가야 한다고 주장했다. 생성형 AI에 적용하면 이 명제는 저자의 완전한 해체로 해석되기 쉽다. 출력 이미지가 수십억 건의 학습 표본을 통계적으로 재조합한 것이라면, 저자는 이미 데이터셋 속에 녹아든 듯 보이기 때문이다. 그러나 본 논문은 이러한 추론이 “창작 주체에 대한 낭만주의적 개념”과 “사회적 기능으로서의 저자”라는 서로 다른 두 층위를 혼동한다고 본다.

Foucault(1969/1998)의 개입은 바로 이 구분에 있다. Foucault는 분석 대상이 개인적 천재로서의 “저자”가 아니라, 특정 사회에서 담론이 분류되고 권위를 부여받으며 어떤 주체에게 귀속되는 작동 방식인 “저자 기능”이라고 지적한다. 또한 저자 기능의 역사적 기원이 처벌 기제와 연결되어 있다고 설명한다. 담론이 저자에게 귀속된 것은 처음에는 신성 모독이나 이단처럼 규범을 벗어나는 담론에 책임을 묻기 위해서였다. 따라서 저자 기능은 본질적으로 책임을 묻는 기제(mechanism of accountability)를 이룬다. 본 논문은 이 정의를 핵심으로 삼는다. 생성형 AI가 바꾸는 것은 창작 주체의 기술적 형태이지, 저자 기능이 담당하는 책임 구조가 아니다.

증명사진이라는 이미지 유형을 분석하기 위해 본 논문은 사진 아카이브 이론을 원용한다. Tagg(1988)는 사진의 “재현의 부담”(the burden of representation)이 이미지의 내재적 속성이 아니라 국가·경찰·의료 등 특정 제도가 이미지에 부여하는 권력 효과라고 지적한다. 증명사진은 바로 국가의 식별 장치가 만들어 낸 산물이다. Sekula(1986)의 “신체와 아카이브”(the body and the archive) 분석은 19세기 초상사진이 명예 부여와 억압이라는 두 가지 아카이브 기능에 동시에 봉사했음을 보여 준다. Azoulay(2008)가 제시한 “사진의 시민적 계약”(the civil contract of photography)은 특히 관련이 깊다. 사진은 촬영자의 일방적 창작이 아니라 촬영자, 피촬영자, 관람자 사이의 정치적 관계이며, 이 틀은 저자의 책임을 재현되는 사람에 대해 지는 계약적 책임으로 확장한다. 《어른이 되면》이 가장 엄격하게 규범화된 이미지 유형인 증명사진을 전유하는 것은 생성 기술과 신원 관리라는 두 규율 논리를 서로 교섭하게 하기 위해서다.

이미지의 기술적 존재론과 관련하여 Flusser(1983/2000)의 “기술적 이미지”(technical image) 개념은 카메라가 하나의 장치(apparatus)이며 촬영자는 그 장치에 미리 설정된 프로그램의 범위 안에서만 선택할 수 있다고 설명한다. 생성형 모델은 이러한 장치 논리의 연장으로 볼 수 있다. 이미지의 결정권이 잠재 공간(latent space)의 통계적 분포에 한층 더 이양되기 때문이다. Paglen(2016)의 “작동적 이미지”(operational images) 논의는 오늘날 수많은 이미지가 기계에 의해 기계를 위해 만들어져 인간의 시각적 관람 회로를 벗어난다고 지적한다. 한편 Steyerl(2009)의 “빈곤한 이미지”(poor image) 분석은 이미지가 유통되면서 품질이 저하되고 변형되며 재맥락화되는 과정을 묘사한다. 이 두 논의는 생성 이미지의 재귀적 생산을 이해하는 이론적 자원이 된다. 마지막으로 Crawford(2021)는 《Atlas of AI》에서 학습 데이터셋이 세계의 중립적 거울이 아니라 권력의 비대칭성이 퇴적된 것임을 논증한다. 이 주장은 제5절의 편향 분석을 위한 틀을 제공한다.

3. 분야 간 비교로서의 바이브 코딩: 책임 구조의 동형성

생성형 조건에서 저자 기능이 어떻게 작동하는지 설명하기 위해, 본 논문은 소프트웨어 공학 분야의 “바이브 코딩(vibe coding)”을 비교 사례로 도입한다. Karpathy(2025)는 대규모 언어 모델에 크게 의존하는 프로그래밍 방식을 이 용어로 묘사했다. 설계자가 “분위기에 완전히 몸을 맡기고”, “모델이 만든 코드의 변경 내용을 더 이상 읽지 않으며”, 심지어 “언제나 전부 수락하는” 것이 그 특징이다. 이 상태는 저자 기능의 일시적 유보를 이룬다. 생산자는 산출물을 검토하지도, 완전히 이해하지도 않지만 여전히 최종 제품에 책임을 져야 한다.

주목할 점은 소프트웨어 공학 공동체가 곧바로 이에 대한 책임 논의를 시작했다는 것이다. 위험이 낮은 일회성 프로젝트에서는 검토하지 않은 생성 코드가 허용될 수 있지만, 고위험 시스템에서는 누가 코드를 생성했든 법적·윤리적 책임이 여전히 실제 인간 엔지니어에게 귀속된다. 다시 말해 바이브 코딩은 저자 기능을 없애지 않고, 책임을 묻는 순간 그것이 다시 드러나게 한다. 본 논문은 인문·예술 영역에서도 이 구조가 동형적이라고 주장한다. 예술가가 자신의 창작을 “포스트프로덕션”(Bourriaud, 2002), “전유”, 또는 “생성 결과의 큐레이션”으로 지칭할 때 유보하는 것은 바로 Foucault가 말한 저자 기능이다.

책임의 차원은 개인에 국한되지 않는다. Weyl 등(Weyl et al., 2024)이 제시한 다원적 거버넌스(Plurality)의 틀은 디지털 기술의 거버넌스가 급진적 투명성(radical transparency)과 차이를 가로지르는 협력에 기반해야 한다고 주장한다. AI 시스템에서 책임은 개별 생산자의 몫일 뿐 아니라 제도적 장치를 필요로 하는 집단적 실천이다. 이 관점은 Foucault의 틀이 지닌 개인주의적 경향을 보완한다. 생성형 시대의 저자 기능 재구성에는 개별 저자의 책임뿐 아니라 학습 데이터의 출처, 모델 거버넌스, 재현의 정의에 관한 집단적 책임도 포함된다. 따라서 본 논문은 기술 분야의 “생성물에 누가 책임을 지는가”라는 논의를 인문·예술 영역에도 동등하게 적용해야 하며, 두 영역의 책임 구조에는 본질적 차이가 없다고 주장한다.

4. 창작 실천 I: 핵심 참조로서의 실제 여권과 생성의 추적 가능성

《어른이 되면》의 구성 논리는 해석 가능한 형식적 장치를 제공한다. 그 핵심은 이미지의 병치가 아니라 생성 원천의 구조에 있다. 기술적 과정에서 생성 증명사진 456장 모두는 단 한 장의 실제 여권 이미지를 핵심 참조 이미지(reference image)로 삼는다. 모델은 그 이미지의 신원 특성을 유지하면서 다양한 인물의 복장을 생성하도록 요구받았다. 이로써 실제 여권은 작품 안에서 이중적이고 모순처럼 보이는 위치를 차지한다. 수량상으로는 177.7cm 중 0.7, 곧 소수점 이하의 나머지로 축소되지만, 생성 논리에서는 모든 시뮬라크르의 모본이자 원점이 된다.

이 이중적 위치는 두 이론을 함께 읽음으로써 명확해진다. 첫째, Barthes(1980/1981)는 사진의 본질이 지시 대상(referent), 곧 “그것은 존재했음”(ça-a-été)에 있다고 주장한다. 사진은 반드시 카메라 앞에 실제로 있었던 대상을 가리킨다. 둘째, Baudrillard(1981/1994)의 “시뮬라크르의 선행”(precession of simulacra)은 시뮬라크르가 원본에서 분리되어 원본보다 앞서고, 결국 원본을 불필요하게 만드는 과정을 설명한다. 《어른이 되면》은 이 두 명제를 교섭하게 한다. 작품에는 실제 지시 대상인 여권 이미지가 존재하므로 Barthes가 말한 “그것은 존재했음”에 부합한다. 그러나 그 지시 대상은 이미 한쪽 모서리가 잘린 채 생성 연쇄의 나머지로 물러나, Baudrillard가 묘사한 시뮬라크르에 잠식된 원본에 가까워진다. 따라서 잘린 모서리는 이중의 의미를 지닌다. 하나는 여권이 효력을 잃을 때 남기는 공식적인 무효화 표시이며, 다른 하나는 수치상 0.7에 대응하여 177.7 속에 남은 실제의 비율을 표시하는 것이다.

저자 기능의 관점에서 “실제 여권을 핵심 참조로 삼는다”는 설정은 결정적 의미를 지닌다. 모든 생성 이미지를 기술적으로 하나의 실제적이고 식별 가능한 원천까지 추적할 수 있다는 뜻이기 때문이다. 예술가는 알고리즘 뒤에 숨지 않는다. 오히려 작가 자신의 초상이 모델 연산의 출발점이다. 구체적으로 저자 기능은 여기서 “추적 가능성”(traceability)으로 구현된다. 모델이 시뮬라크르를 아무리 많이 생성하더라도 그것들은 모두 한쪽 모서리가 잘리고 불완전하지만 분명히 존재하는 저자 주체를 가리킨다. 이 분석은 본 논문의 핵심 주장을 뒷받침한다. 생성형 조건에서 저자 기능은 사라지지 않고, “작가 자신의 초상을 모본으로 삼는” 작업을 통해 다시 행사된다. 0.7cm라는 실제의 비율은 양적으로는 작지만 책임의 관점에서는 결정적이다. 이는 모든 생성된 형상의 원점이자 귀속점으로서 책임을 물을 수 있는 저자 주체를 표시한다.

5. 창작 실천 II: 생성 편향과 “진실의 제작”

이 절은 본 논문의 주요 분석적 기여를 제시한다. 생성형 창작에서 모델의 체계적 편향은 제거해야 할 기술적 결함이 아니라, 예술가가 드러내고 책임져야 할 재현의 재료로 보아야 한다. 특히 모든 생성 이미지가 신원 참조로 동일한 실제 여권을 공유하므로(제4절 참조), 서로 다른 인물 사이의 생성 품질 격차는 참조 이미지가 통제된 조건에서 나타난다는 점을 강조할 필요가 있다. 따라서 그 격차는 참조 출처의 차이보다 학습 데이터 자체의 비대칭성을 더욱 분명하게 가리킨다. 작가의 창작 기록에 따르면 제작 과정에서는 다음과 같은 세 종류의 편향이 드러났다.

첫째는 시간적 편향이다. 초기 생성 결과는 작가의 얼굴에 주름과 노화 흔적을 반복해서 추가했다. 이에 작업 과정에서는 구조화된 지시에 주름 추가를 명시적으로 금지하고, 신원 유지(preserve_identity) 매개변수를 계속 활성화해야 했다. 이 기술적 현상은 모델에 “동아시아인의 얼굴과 증명사진”이라는 조합에 대한 암묵적 연령 규범이 있음을 보여 준다. 둘째는 문화적 식별의 비대칭성이다. 모델은 종교적 신이나 소수민족의 형상을 일관되게 부정확하게 생성하는 반면, 영화·게임·애니메이션 인물은 매우 정확하게 생성했다. Crawford(2021)의 틀에서 보면 이 격차는 학습 데이터에서 주류 문화와 주변부 문화의 재현이 비대칭적이라는 징후다. 반복적으로 흡수된 주류 이미지는 정확히 기억되지만, 지나치게 소수적인 이미지는 무시되거나 상상되거나 잘못 생성된다. 방법상 한 번의 이탈은 특히 분석 가치가 있다. 지시에서 노화를 허용하고 사실적인 스튜디오 사진 양식으로 바꾸자, 모델은 소수민족의 초상을 왜곡된 흑백 역사 이미지로 생성했다. Tagg(1988)와 Azoulay(2008)의 틀에서 보면 이 결과는 특정 민족을 “과거”에 고정하는 식민주의 시각 아카이브의 시간 정치를 복제한다. 셋째는 재귀적 오염이며, 본 논문이 인식론적으로 가장 심각하다고 보는 유형이다. 앞선 오류가 인터넷을 통해 유통되어 후속 학습 자료에 들어가면, 새로운 세대의 모델은 그 오류를 사실로 등록한다. 이것이 바로 자기 꼬리를 무는 우로보로스 구조, 즉 “잘못된 입력은 잘못된 출력을 낳는다”(garbage in, garbage out)는 구조다. 이 위험은 실증적으로도 뒷받침된다. Shumailov 등(2024)은 생성 모델이 스스로 출력한 데이터로 반복 학습하면 “모델 붕괴”(model collapse)가 발생하며 데이터 분포의 “꼬리”부터 사라진다는 사실을 발견했다. 경계해야 할 점은 통계적 꼬리가 바로 문화적 주변부라는 것이다. 소수민족, 소수 신앙, 비주류 종교의 이미지는 학습 데이터가 희소하여 원래도 충분히 재현되지 않는데, 재귀적 퇴화에서는 가장 먼저 지워진다. Paglen(2016)과 Steyerl(2009)의 틀에서 보면 이는 작동적 이미지가 기계 회로 안에서 스스로 증식하고, 빈곤한 이미지가 유통 중에 끊임없이 변형되는 구체적 사례이기도 하다.

여기서 더 근본적인 인식론적 문제를 제기할 수 있다. 생성형 모델은 사실적 근거가 없는 내용을 매우 믿음직한 형식으로 만들어 낼 수 있다. 출력의 유창함과 진실성이 서로 분리되는 것이다. 증명사진에서는 특히 그러하다. 이 이미지 유형의 형식 자체가 국가의 식별 장치가 부여한 권위의 외피이기 때문이다(Tagg, 1988). 그럴듯할수록 실제 근거가 있는 것으로 오인되기 쉽다. 이에 따라 불안한 추론의 연쇄를 그릴 수 있다. 어떤 소수 문화나 종교에 대한 잘못된 이미지와 글이 인터넷에서 유통되면, 후속 모델이 이를 학습 데이터로 수집하여 그 문화의 “사실”로 등록하고, 다시 생성함으로써 확산할 수 있다. 인간의 인지 측면에서는 반복 자체가 어떤 진술을 참으로 판단할 가능성을 높인다(진실 착각 효과, illusory truth effect; Hasher et al., 1977). 이로써 “세 사람이 호랑이가 있다고 하면 믿게 된다”는 말처럼 오류도 충분히 반복되면 진실의 지위를 얻는다. 기계 쪽의 모델 붕괴와 인간 두뇌 쪽의 진실 착각이 함께 작용하면, 애초 근거가 없던 시뮬라크르가 희소한 원본보다 앞서 그것을 대체할 수 있다(Baudrillard, 1981/1994). 결국 이는 해당 문화의 디지털 아카이브에 바로잡기 어려운 “진실”로 침전된다. 대조할 수 있는 올바른 출처 자체가 너무 적기 때문이다.

바로 여기에 저자 기능의 책임 핵심이 있다. 바이브 코딩식 생산 태도는 “전부 수락”하며 앞선 편향을 지나칠 것이다. 그러나 이 작품의 작가적 입장은 반대다. 예술가의 책임은 모델이 스스로 인정하지 않는 편향을 식별하고 이름 붙이며 드러내는 데 있다. 이 위기는 역으로 저자 기능의 필요성을 입증한다. AI에는 저자 기능이 없다. 책임을 물을 주체가 없으므로 오류는 “주인 없이” 자기 증식하며, 책임을 지도록 소환할 대상도 없다. 이 순환을 끊으려면 책임을 물을 수 있는 저자를 다시 도입해야 한다. 따라서 작가가 편향을 지목하는 행위는 단순한 창작 태도가 아니라 인식론적 개입이다. 본래 “주인 없는 진실”을 생산하던 순환에 책임을 지는 서명을 다시 끼워 넣는 것이다. 집단적 차원에서는 이것이 다원적 거버넌스(Weyl et al., 2024)가 요구하는 출처의 투명성과 추적 가능성에도 부응한다. 만들어진 진실에 맞서려면 개별 작가의 공개뿐 아니라 이미지의 내력을 표시할 수 있는 제도적 책임 체계가 필요하다. 《어른이 되면》이 모든 시뮬라크르를 단 하나의 실제 여권으로 추적할 수 있도록 고집하는 것(제4절 참조)은 형식적으로 출처도 주인도 없이 자기 증식하는 AI의 생성 논리에 대한 반명제다. 예술가가 이러한 공개를 적극적으로 책임지지 않는다면 주변부 문화에 대한 체계적 오재현은 보이지 않은 채 남을 것이다. 또한 대량 제작 중 배치 추론(batch inference)의 반환 순서가 입력 순서와 일치하지 않아, 지시문을 한 건씩 역추적하고 대조해야 결과를 올바르게 배치할 수 있었다. 형식적으로 이 연산의 무질서는 작품 제목이 지목하는 “카오스”와 대응한다. 따라서 생성 편향의 현장은 기술적 기록일 뿐 아니라 저자 기능을 구체적으로 행사하는 장이 된다.

6. 공성의 번역: 탈의미화 작업과 저자의 메타적 위치

《카오스 바디 숍》의 세 번째 구성 요소는 《금강경》을 주음부호(ㄅㄆㄇㄈ)에 따라 재배열하는 것이다. 이 작업은 《금강경》의 “무릇 형상이 있는 것은 모두 허망하니, 모든 형상이 형상 아님을 보면 곧 여래를 보리라”라는 명제를 개념적 전제로 삼는다. 모든 재현, 곧 상(相)이 허망하다면 경전 또한 그 의미 맥락에서 벗어날 수 있다는 것이다. 중국어의 조어 특성상 단일 한자는 드물게만 독립적인 의미를 이루므로, 낱말 구조를 해체하면 남는 것은 음독뿐이다. 의미가 벗겨진 텍스트는 불교 전통의 “주문”, 곧 다라니(dhāraṇī)와 진언(mantra)에 가까워진다. 이는 일상 언어의 의미가 아니라 소리의 리듬으로 불법의 뜻을 담는 형식이다.

이 작업은 본 논문의 저자 기능 논의에 변증법적 보완을 제공한다. 표면적으로 탈의미화는 텍스트의 의미를 해체하므로 저자 또한 해체하는 듯 보인다. 그러나 본 논문은 “경전을 탈의미화하기로 선택한다”는 결정 자체가 더 높은 차원의 저자 행위라고 주장한다. 저자는 사라지는 것이 아니라 “선택을 선택하는” 메타적 위치로 물러난다. 이 위치는 생성형 창작에서 저자가 프롬프트(prompt)와 틀을 설정하는 자리로 물러나는 것과 정확히 대응한다. 따라서 생성형 창작과 탈의미화 작업의 저자 기능은 같은 형식 구조를 지닌다. 저자의 책임은 모든 내용 단위를 직접 생산하는 데 있지 않고, 전체 틀의 설정에 책임지는 데 있다. 이 구조는 제4절의 논의와도 연결된다. 핵심 참조이자 틀의 설정자인 예술가는 여전히 모든 생성 결과가 거슬러 올라갈 수 있는 귀속점이다.

방법의 대응 관계에서 경전의 재구성은 의도적으로 손글씨를 사용한다. 반복해서 베껴 쓰는 노동 중에 같거나 비슷한 문자를 기계적으로 거듭 쓰다 보면, 쓰는 사람은 점차 “마음의 눈이 멀어” 자신이 쓰는 문자를 알아보지 못하게 된다. 이 현상학적 경험은 제5절에서 모델이 “마음의 눈이 먼” 채 오류를 재귀적으로 생성하는 것과 상호텍스트적 관계를 이룬다. 인간과 기계 모두 반복 노동이나 연산 속에서 의미 식별이 일시적으로 작동하지 않게 되는 것이다. 그러나 둘의 핵심적인 차이는 책임에 있다. 기계의 실패를 책임지는 주체는 없지만, 쓰는 사람의 실패는 여전히 책임을 물을 수 있는 저자에게 귀속된다.

7. 결론: 생성형 시대의 저자 기능 재구성

본 논문은 아티스트 북 《카오스 바디 숍》과 그 핵심 작품 《어른이 되면》을 대상으로, 생성형 AI의 창작 조건이 “저자의 죽음”을 실현한 것이 아니라 책임을 묻는 기제로서 Foucault의 저자 기능을 다시 핵심 문제로 만들었음을 논증했다. 바이브 코딩이라는 분야 간 비교를 통해 “실제 인간 주체가 생성물에 책임져야 한다”는 구조가 기술과 인문·예술 영역에서 동형적임을 지적했다. 다원적 거버넌스의 틀(Weyl et al., 2024)을 통해서는 책임에 개인적 차원과 집단적 차원이 함께 있음을 밝혔다.

본 연구의 주요 기여는 세 가지다. 첫째, 이론적 차원에서 Foucault의 저자 기능을 생성형 조건의 책임 기제로 재구성하고, 저자 기능이 서명·공개·책임 부담이라는 세 가지 작동을 통해 행사된다고 주장했다. 둘째, 《어른이 되면》의 구성 논리를 통해 실제 주체가 모든 생성 이미지의 핵심 참조로 설정될 때, 저자 기능이 시뮬라크르에서 단일한 실제 원천으로 거슬러 올라가는 “추적 가능성”으로 구체화됨을 논증했다. 그 원천이 177.7 중 0.7이라는 나머지로 축소되었어도 마찬가지다. 셋째, 방법론적 차원에서 생성 모델의 체계적 편향을 저자 책임을 연구하는 현장으로 보는 접근을 제시하고, 노화 편향, 문화 식별의 비대칭성, 재귀적 오염이라는 세 유형으로 예시했다. 특히 재귀적 오염에서는 모델 붕괴(Shumailov et al., 2024)와 진실 착각 효과(Hasher et al., 1977)를 통해, 주변부 문화가 생성형 조건에서 “오류가 진실로 만들어지는” 인식론적 위험에 직면함을 지적했다. 본 논문은 자주 간과되는 대칭성도 밝혔다. 소프트웨어 공학은 생성 코드의 책임 문제를 점차 직시하고 있지만, 인문·예술 분야에서는 생성 이미지에 대한 책임 논의가 상대적으로 부족하다. 생성 이미지가 종교와 민족처럼 민감한 재현을 다룰 때, 예술가의 윤리적 책임은 엔지니어의 책임 못지않다.

본 연구는 단일 창작 사례에 한정되므로 결론의 일반성은 향후 더 폭넓은 사례를 통해 검증해야 한다. 학습 데이터 편향의 분석 또한 특정 모델 버전에 한정되어 모델 간 체계적 비교를 수행하지 못했다. 그럼에도 본 논문의 핵심 명제, 곧 생성형 시대에 저자는 죽지 않았으며 오히려 책임을 통해 저자 기능이 다시 확립된다는 명제는 향후 시각문화 연구와 AI 인문학 연구의 분석적 출발점이 될 수 있다. 특히 생성 시스템이 너무 약소하여 자신의 재현을 지킬 힘이 없는 문화에 대해 “진실을 만들어 낼” 수 있을 때, 이러한 지목과 책임 부담은 미학적 선택을 넘어 인식론적 책임이 된다. 모델이 모든 “상”을 생성할 수 있게 되어도, 저자의 최종적이며 양도할 수 없는 책임은 여전히 모든 상의 허망함을 지목하고 자신이 모든 생성의 원천이자 귀속점임을 감당하는 데 있다.

참고문헌 · 원문

Azoulay, A. (2008). The civil contract of photography. Zone Books.

Barthes, R. (1977). The death of the author (S. Heath, Trans.). In Image-music-text (pp. 142–148). Hill and Wang. (Original work published 1968)

Barthes, R. (1981). Camera lucida: Reflections on photography (R. Howard, Trans.). Hill and Wang. (Original work published 1980)

Baudrillard, J. (1994). Simulacra and simulation (S. F. Glaser, Trans.). University of Michigan Press. (Original work published 1981)

Benjamin, W. (2008). The work of art in the age of its technological reproducibility, and other writings on media (E. Jephcott et al., Trans.). Harvard University Press. (Original work published 1935)

Bourriaud, N. (2002). Postproduction: Culture as screenplay (J. Herman, Trans.). Lukas & Sternberg.

Crawford, K. (2021). Atlas of AI: Power, politics, and the planetary costs of artificial intelligence. Yale University Press.

Flusser, V. (2000). Towards a philosophy of photography (A. Mathews, Trans.). Reaktion Books. (Original work published 1983)

Foucault, M. (1995). Discipline and punish: The birth of the prison (A. Sheridan, Trans.). Vintage Books. (Original work published 1975)

Foucault, M. (1998). What is an author? (J. V. Harari, Trans.). In J. D. Faubion (Ed.), Aesthetics, method, and epistemology: Essential works of Foucault, 1954–1984 (Vol. 2, pp. 205–222). The New Press. (Original work published 1969)

Hasher, L., Goldstein, D., & Toppino, T. (1977). Frequency and the conference of referential validity. Journal of Verbal Learning and Verbal Behavior, 16(1), 107–112.

Karpathy, A. [@karpathy]. (2025, February 2). There's a new kind of coding I call “vibe coding,” where you fully give in to the vibes [Post]. X. https://x.com/karpathy/status/1886192184808149383

Paglen, T. (2016, December 8). Invisible images (Your pictures are looking at you). The New Inquiry. https://thenewinquiry.com/invisible-images-your-pictures-are-looking-at-you/

Sekula, A. (1986). The body and the archive. October, 39, 3–64.

Shumailov, I., Shumaylov, Z., Zhao, Y., Papernot, N., Anderson, R., & Gal, Y. (2024). AI models collapse when trained on recursively generated data. Nature, 631(8022), 755–759.

Steyerl, H. (2009). In defense of the poor image. e-flux Journal, 10.

Tagg, J. (1988). The burden of representation: Essays on photographies and histories. Macmillan.

Weyl, E. G., Tang, A., & Plurality Community. (2024). ⿻ Plurality: The future of collaborative technology and democracy. RadicalxChange.

鳩摩羅什(譯)(後秦)。《金剛般若波羅蜜經》。