(2026. 07. 19. 구독자들과의 만남 발제문)

0. 삼중의 검토

AI가 ‘인간성’에 대한 재정의를 요청한다는 담론이 확산하고 있다. 이런 담론은 AI가 인간의 고유한 역량을 침식하고 있다는 인식에 기인한다. 그런데 구체적으로 AI는 인간의 어떤 고유성을 침식하고 있는 것일까? 나는 오늘 다음과 같은 통속적 주장을 비판적으로 검토함으로써 ‘AI 시대의 인간성’이라는 주제에 관한 사유를 발전시키고자 한다. 내가 검토하려는 주장은 AI가 지적·정서적 역량에서 인간을 앞서 가면서, ‘인간적’ 가치의 연원인 비효율성을 평가절하하고 있다는 주장이다. 이 주장에 따르면 AI는 정보 검색부터 예술 창작까지 드넓은 영역에 침투하면서 인간의 생산성을 넘어서고, 이는 인간만이 가진 고뇌와 노력의 과정을 무의미한 것으로 만든다. 이 주장에 대한 내 검토는 3개의 경로를 통해 이루어진다. 첫째는 비판사회학의 관점이고, 둘째는 관계 윤리학과 교육학의 관점이며, 셋째는 지식론의 관점이다. 세 경로를 차례로 따라가 보자.

1. AI가 노동 소외를 경험하게 만든다?

소설가 장강명은 『먼저 온 미래』라는 르포르타주에서 이렇게 썼다.

“내가 주체가 아니라 보조 인력이라고 느낀다면 나는 ‘내 일의 주인’이라는 생각을 더 이상 할 수 없게 된다. 내 글쓰기가 막힐 때마다 인공지능이 기가 막힌 조언을 해준다면 나는 소설 쓰기에서 도전을 할 수 없게 되고, 더 이상 흥분도 하지 않는다. 그렇게 나온 소설을 ‘내 것’이라고 여기지도 못할 것이다. 거대한 의미의 흐름에 참여한다고 느끼지도 못할 것이고, 거기에 헌신할 수 있겠다는 믿음도 잃어버린다.”(224쪽)

소설가 장강명이 ‘내 일의 주인’이라는 생각을 더 이상 할 수 없게 되어 좌절하는 것은 분명히 문제적인 상황이다. 그러나 이것은 장강명에게 문제적인 상황이다. 읽을 만한 소설을 찾으려 서점을 뒤적이는 독자 김명환에게 장강명의 비참함이 어째서 문제가 되는지는 알 수 없다.

여기서 내가 단지 ‘소설가 일은 소설가가 해결하세요’라고 말하려는 것은 아니다. 그러나 노동자 자신이 어떤 노동에 대해 ‘가치 있다’고 느끼느냐와, 그 노동이 실제로 사회적 가치를 창출하고 있느냐는 같은 질문이 아니다. 극단적인 예를 들자면, 살인청부업자의 무너지는 자긍심 같은 것을 우리가 신경 써 줄 이유는 없다. 그러므로 장강명의 ‘소외’가 ‘주목받을 만한 소외’가 되려면, 그가 잃은 ‘가치’가 구체적으로 무엇인지를 먼저 탐문해야만 한다.

한 가지 가능한 답변은, ‘위대한 명작에는 소설가가 삶을 통과하며 경험한 고뇌가 담겨 있고, 그 고뇌는 독자들의 감동의 원천’이라는 것이다. 그러나 만약 AI의 작품에 고뇌가 없다면, AI의 소설은 애초에 독자에게 감동을 주는 명작이 될 수 없을 것이다. 반면 AI의 소설이 독자들에게 감동을 줄 수 있다면, 그것은 ‘명작’에 ‘고뇌’가 필요하다는 생각이 착각이었음을 의미한다.

여기서 다시, 소설가의 고뇌나 좋은 글을 쓰기 위해 노력한 과정이 독자의 감동과 무관하게 가치 있다는 반론이 가능하다. 그렇다면 소설가의 고뇌와 노력이 가치 있는 이유는 무엇일까? 갑이 30분 동안 사색한 내용과 완전히 같은 내용을 을이 10분 동안 사색했다고 치자. 갑은 을보다 더 큰 가치를 창출한 것일까? 이 질문에 대한 통속적 답변은, 갑보다 을이 더 똑똑하거나 현명하거나 통찰력 있다는 것이다. 그렇다면 병이 10초만의 생각으로 을과 동일한 내용에 도달했다면 어떨까? 이 물음은, 사색이 산출하는 내용과 무관하게 사색 자체가 가치 있다는 통념에 의문을 제기한다.

이제 “인간 소설가의 노력에 내재적 가치가 있는가”라는 물음에서, “왜 소설가의 노력이 하필 내재적 가치의 원천으로 지목되는가”라는 물음으로 건너가 보자. 장강명은 자율주행자동차가 “운전으로 밥벌이를 하는 수많은 운수업 종사자의 생계를 위협한다”면서 이렇게 쓴다. “자율주행차가 보급되면 운수업 종사자들이 크리스퍼 전문가나 오보에 연주자로 전업할 수 있을까? 이들과 그 가족들의 운명이 테슬라나 구글 같은 몇몇 테크 기업의 손에 달려 있다는 사실이 나는 믿어지지 않는다.”(324-325쪽) 이 문제 제기는 시의적이지만 교묘한 미끄러짐이 있다. 소설가에게 인간성의 위기였던 인공지능의 등장이, 운수업 종사자에게는 생계의 위기가 되고 있기 때문이다. 운수업 종사자들이 인공지능 때문에 ‘내가 내 일의 주인’이라는 의식과 도전 정신, “거대한 의미의 흐름에 참여한다”는 느낌에서 오는 흥분을 잃어버릴 것이라고 장강명은 말하지 않는다. 아마도 운수업 종사자들에 대한 그런 기술은 기만적일 수 있기 때문일 것이다. 장강명의 인공지능 비판은 화물차 운전사의 자긍심이라는 관념이 소설가의 자긍심이라는 관념보다 부자연스럽게 인식되는 현실을 지운다. 말하자면 장강명은 몇몇 직업군 또는 개인이 특권적으로 누리던 효용을, 마치 모두가 보편적으로 누리고 있다가 인공지능의 등장으로 위협받게 된 인간성인 것처럼 쓴다. 즉, 소설가의 사색에서 ‘인간성’을 추출하는 장강명의 작업은 소설가와 운수업 종사자 사이의 분할선을 암묵적으로 재생산한다.

돌봄 인공지능에 대한 주류 비판을 비슷한 맥락에서 검토할 수 있다. AI의 돌봄노동은 인간만의 영역인 정서적 지지를 AI에게 위임한다는 이유로 자주 비판받는다. 그러나 거동이 불편한 노인의 기저귀를 조심스럽게 갈아 주는 일이 노인의 인생 이야기를 들어 주는 일보다 덜 ‘인간적’인 일인지는 자명하지 않다. 후자의 일로부터 ‘인간성’을 정의하는 순간, 현장의 돌봄노동자들이 실제로 더 많은 주의와 시간을 할애하는 ‘육체노동’에서 ‘인간적 의미’가 제거된다. 소설가의 창작 과정으로부터 ‘인간성’을 구명하려는 시도가 화물차 기사나 요양보호사를 ‘인간성’의 자리에서 슬며시 누락할 때, ‘인문주의적 인간성’은 (’나머지’가 아닌) ‘어떤 사람들을 위한 인간성’이 된다.

2. AI가 인간의 정서적 의존을 유발한다?

AI에 대한 정서적 의존이 심각한 문제로 대두되고 있다. 대체로 동의하지만, AI에 대한 의존의 ‘보편적’ 위험성을 힘 주어 외치는 목소리를 듣자면 약간 삐딱해지게 되기도 한다. 그럼 어떤 사람들은 AI 말고 무엇에 의존할 수 있단 말인가? 인적 관계망과 정서적 지지는 누구에게나 자연스럽게 주어지는 것이 아니다. 사회적 네트워크로부터 고립된 사람들에게 AI는 유일한 소통 창구가 되어 주었다. AI가 등장하기 전까지 사회는 그 고립된 사람들에게 무엇을 얼마나 해 주었나? ‘인간관계’가 인위적으로 배분될 수 없는 자원이라는 전제를 내면화하고서, 그 자원을 할당받지 못한 사람들에게 동아줄이 내려오니 “그 동아줄은 썩었다”고 외치고 돌아서는 것이 정의일까? 인간을 대체하는 AI를 상상하기란 쉽다. 그러나 AI를 대체하는 인간이란 관념은 얼마나 적극적으로 상상되고 구상되고 있을까?

비판자들에게도 할 말이 있다. AI에 대한 의존 문제가 편재한다는 사실은 그것이 문제라는 사실 자체를 지우지 않는다. 그리고 이 문제의 문제성은 단순히 AI가 인간을 ‘진짜’ 관계에서 고립시킨다는 사실에만 있지 않다. AI에 대한 의존은 AI가 이상적인 인간관계의 규범을 구성할 수 있다는 점에서도 문제다.

예를 들어 보자. “애인에게 위로를 듣고 싶었는데, 그러지 못해서 속상해”라는 답변에 AI는 위로를 출력하는 경향이 있다. 그러나 애인은 나에게 정말로 필요한 게 위로가 아니라고 판단할 수 있다. 문제는 판단의 자율성 여부가 아니라 마찰의 발생 여부다. 나의 애인은 나를 만나기 전부터 존재했으며, 자기 삶의 고유한 서사와 사고 회로를 만들어 왔다. 다시 한번, 중요한 것은 고유성이 아니라 그 고유성에 필연적으로 부착되는 편향이다. 나는 위로가 필요하다고 생각하고 애인은 그것이 나에게 오히려 장기적인 해악이라고 생각한다. 애인의 편향과 나의 편향은 여기서 긴장하고 충돌한다. 인간관계의 가치에는 그 긴장 및 충돌과 동거하는 과정이 포함된다. 그러나 AI는 인간과의 마찰을 최소화하도록 최적화되었고, AI와의 대화에 익숙해진 인간은 인간과의 마찰을 불가피성이 아니라 제거 가능한 불편으로 체험하게 된다. 결과적으로, AI의 침입은 마찰의 감내라는 관계적 가치가 인간 사회에서조차 평가절하되게 만든다.

여기서 드는 의문은 간결하게 표현될 수 있다. 마찰의 가치는 내재적인가, 도구적인가? 인간이 타자와의 마찰을 통해 성장한다는 관념은 굳건해 보인다. 그러나 우리는 동시에 더 건강하고, 더 성숙하고, 더 생산적인 마찰이 있다고 가정한다. 마찰은 기왕이면 소리를 지르며 화를 내거나 울면서 떼를 쓰는 방식이 아니어야 한다(고 여겨진다). 그렇다면 대화형 인공지능이 인간에게 더 정돈된 마찰을 제공할 수 있지 않을까? 나의 답변은 그럴 수 있지만, 그로써 충분하지 않다는 것이다.

내가 A라는 주장을 강하게 고집하면 인공지능은 설득을 포기한다. 그러나 B라는 주장을 관철하던 인간 타자가 설득을 포기한다고 해도, 나와 그 사이의 타협 불가능성은 남는다. 그리고 그는 나와 모종의 이유로 관계를 지속해야 할 가족이나 동료일 수도 있다. 가족이라도 사적으로 손절하는 것은 가능하겠지만, 나와 타협 불가능한 시민을 우리 공동체에서 추방하라는 요구는 민주주의 사회에서 부적절하다고 간주된다. 우리가 이 가정을 받아들인다면, 인간관계에서의 과제는 타협 불가능한 타자와의 공존이라는 과제로 귀착될 수 있다. 그리고 타자의 선재성이 필연적인 한, 다시 말해 모든 인간이 다른 인간과의 만남 전후에 그만의 고유한 역사를 만들어 나가는 존재인 한, 타협 불가능한 타자의 출현 가능성은 인간에게 항구적이다.

따라서 “AI는 인간의 정서적 의존을 유발하기 때문에 문제”라는 명제는 설득력이 있지만, AI에 대한 의존이 갖는 문제성을 축소하는 것이다. AI에 대한 의존은 우리의 전인격적 성장을 방해할 뿐 아니라, 민주주의적 민주주의의 존속을 위협할 수도 있다. 우리가 걱정해야 할 것은 고립만이 아니다. AI는 우리가 고립되지 않은 듯 보이는 순간에조차, 사람 간의 대화를 집단적 독백으로 만들 수 있다.

3. AI가 인간을 지적으로 앞서고 있다?

AI의 효율성이 인간을 앞섰다는 명제에는 별다른 반론이 필요해 보이지 않는다. 그러나 이 명제는 대체로 ‘전문직’이라 불리는 직업군의 직무능력에 한정된다. “AI 환경 미화원이 인간 환경 미화원을 앞섰다”는 뉴스는 아직 전해진 바 없다. 그리고 앞서 지적했듯, 인공지능이 ‘지식 노동자’의 역량을 위협한다는 사실을 인공지능이 ‘인간성’을 위협한다는 해석으로 전환하는 것은 필연적이지 않다. 그래도 최소한 인공지능의 지식 수준이 인간을 넘어섰다는 문제의식은 타당하지 않을까? 이 문제의식은 ‘지식’에 대한 특수한 정의 내에서 타당한데, 여기서는 그 정의에 대한 철학적 검토를 통해 인공지능과 인간의 차이를 구체화해 보고자 한다.

전통적으로 지식은 ‘정당화된 참인 믿음’으로 정의되어 왔다. 1963년에 에드먼드 게티어가 이 정의의 불완전성을 증명하긴 했지만, ‘지식’이 ‘믿음’의 한 종류라는 전제를 반박한 것은 아니다. 그런데 마이클 폴라니의 ‘암묵지’ 개념은 이 전제에 의문을 제기한다.

폴라니에 따르면 지식은 명시적 지식과 암묵적 지식으로 나눌 수 있다. 자전거에 대한 정보를 아는 것이 명시적 지식이라면 자전거를 탈 줄 아는 것이 암묵적 지식이다. 그런데 폴라니의 구분을 인정하면 한 가지 문제가 생긴다. 자전거 타기는 명제에 대한 믿음으로 환원될 수 없다는 것이다. 지식이 믿음의 한 종류라면, 자전거에 대한 정보가 지식이지 자전거를 타는 능력은 지식이 아니어야 한다.

이 문제를 빠져나갈 한 가지 방법은 ‘믿음이 아닌 지식’의 존재를 인정하는 것이다. 이때 참조 가능한 이론이 ‘체화된 인지(embodied cognition)’ 이론이다. 여기서 그 이론을 자세히 소개할 수는 없으며, 내 입장이 그 이론으로 전부 설명되는 것도 아니므로 다음과 같은 정도의 예시로 소개를 갈음하기로 한다. 인공지능이 인터넷에서 빗자루로 낙엽 쓰는 법을 아무리 많이 배운다고 해서, 그 데이터가 로봇에게 이식되는 즉시 로봇이 그동안 훈련된 인간보다 낙엽을 더 잘 쓸 수는 없다. 낙엽을 잘 쓰는 인공지능을 만들려면 애초부터 몸과 마음이 결합된 로봇의 손에 빗자루를 쥐어 주는 편이 더 효과적이다. 즉 ‘낙엽 쓸기’에 관한 암묵적 지식에는 순전한 명제의 집합을 넘어서 신체적 감각의 경험이 필요하다. 여기까지가 ‘체화된 인지’ 이론으로부터 도출 가능한 주장이다.

내 주장이 나아가려는 바는, 몸이 어떤 종류의 지식에 필요할 뿐 아니라 주체의 총체적인 지식 지도를 재편한다는 것이다. 불을 생각해 보자. 과수원에서 불이 나기 시작하는 장면을 보는 인공지능은 불에 대응하는 픽셀 데이터가 임계점을 넘어야 불에 주목한다. 그러나 집에서 창밖을 바라보는 인간의 뇌는 작은 불씨에 더 큰 가중치를 부여한다. 과수원이 불에 타면 막대한 재산의 피해를 입을 수 있고, 나아가 자기가 불에 타 죽을 수 있기 때문이다. 인간 신체의 유일성과 비가역성은 떨어지는 사과보다 피어오르는 불씨에 더 편향된 지각 체계를 제공한다. 유일성이란, 개별 인간 주체의 몸이 둘 이상일 수 없다는 것이다. 비가역성이란, 불에 타 죽은 인간이 되살아날 수 없다는 것이다. 몸이 없는 인공지능이 이런 인간의 편향을 모방하려면 외부에서 가중치를 주입하는 과정이 필요하다. 그러나 로봇에겐 불의 열기와 질식할 것 같은 느낌의 고통을 직접 체험시키면 된다.

정리하자면 이렇다. 유일하고 비가역적인 신체의 유무는 주체가 더 관심을 기울여야 할 지식의 종류를 조건 짓고, 이 발생론적 차이는 지식 분포의 구조적 차이로 이어진다. 현재 상용화된 인공지능의 지식은 신체가 없어도 작동하는 명시적 지식에 편향되어 있다. 이런 상황에서 “인공지능이 인간의 지식을 위협하고 있다”는 진단은, 불씨에 대처하는 능력보다 변호사나 회계사의 능력을 더 ‘중요한’ 지식으로 가정하는 것이다.

그러나 내가 첫 절에서 다뤘던 ‘소방관도 중요한 직업이다’ 류의 문제 제기를 반복하고 끝내려는 것은 아니다. 이 절에서 정초하려는 생각은 절박함이 지식의 요건이 될 수 있다는 제안이다. 현대 사회에서 취약성, 이해관계, 사적 경험은 대개 올바른 지식에 대한 방해물로 여겨진다. 고문을 당하는 사람은 고통이라는 손해에서 벗어나기 위해 거짓 자백을 할 수 있다. 그러나 만약 이해관계의 근거가 지식의 진실성을 향해 정렬된다면, 손해 보지 않으려는 절박함은 할루시네이션(환각, hallucination)의 방파제가 될 수도 있다. 논문 속의 가짜 정보가 재임용에 영향을 준다면 교수는 더 정확한 지식을 찾으려 할 것이다. 로봇이 불에 탈 수 있다면 로봇은 불에 대처하는 능력을 더 중요하게 여길 것이다.

이런 맥락에서, 지식의 정의에 대한 재고는 ‘나 자신과의 거리 두기’가 이성의 밑바탕이라는 근대적 가정에 대한 비판이기도 하다. 재미있는 점은 지금의 인공지능이 인간의 유일성과 비가역성을 제거한 ‘공평무사한’ 지능을 지향한다는 것이다. 그래서 나는 인공지능과 구별되는 인간의 고유성을 잠정적으로 다음의 사실들에서 도출하고자 한다―내가 나를 지킬 이유를 갖는다는 사실, 무언가를 절박하게 갈구해야 할 취약한 위치로 내몰릴 수 있다는 사실, 나로서 이 세계를 살아갈 수 있는 존재가 오직 나밖에 없다는 사실.