[김재인의 피지컬 vs 디지털]‘디스킬 제너레이션’이 온다 > 질문답변

[김재인의 피지컬 vs 디지털]‘디스킬 제너레이션’이 온다

페이지 정보

작성자 행복이13
댓글 0건 조회 12회 작성일 26-04-21 20:09

본문

처음 챗GPT가 등장했을 때 ‘좋은 답을 얻으려면, 질문을 잘해야 한다’는 말이 유행했다. 그러나 이 말은 틀렸다. ‘정답을 얻으려면, AI가 아니라 전문가에게 질문해야 한다.’ 오답을 바라는 게 아니라면 말이다.
최신 거대언어모델(LLM) AI는 질문에 어떤 식으로 답하고 있을까? 출시된 지 3년 넘게 지났지만, 질문할 때마다 매번 다르게 답한다는 문제는 개선되지 않고 있다. 이 문제는 ‘환각(hallucination)’이라고 부르는 ‘헛소리(혹은 지어낸 말)’와는 조금 다른 관점에서 검토해야 한다. 하지만 지금까지는 별로 주목받지 못했다. 우리는 보통 한 번 묻고 나서 얻은 답을 그대로 받아들이는 식으로 사용하고 있기 때문이다. 답이 마음에 들지 않으면 추가로 질문해서 새로 답을 얻어내는 노하우도 공유되고 있지만, 이 답도 정답이 아니라는 건 눈치채기 어렵다.
이 문제와 관련해 최근에 한 가지 실험을 해봤다. 내가 30년 넘게 연구한 현대 프랑스 철학자 질 들뢰즈에 대해 어떻게 답할지 궁금했다. 그래서 ‘제미니 3 사고 모델’에 이런 질문을 입력했다. “들뢰즈가 인공지능 연구에 기여한 가장 중요한 측면이 뭐지?”
그러자 다음 문장으로 시작하는 답이 나왔다. “질 부를르 들뢰즈의 철학은 현대 인공지능(AI), 특히 연결주의와 생성형 모델의 작동 원리를 철학적으로 정당화하고 확장하는 데 결정적인 통찰을 제공합니다.”(답변 1) 창을 닫고 새 창을 열어 똑같은 질문을 붙여 넣었더니, 이런 답이 나왔다. “질 들뢰즈의 철학은 현대 인공지능(AI), 특히 머신러닝과 신경망 중심의 생성형 AI 시대를 해석하고 구축하는 데 있어 매우 중요한 이론적 토대를 제공합니다.”(답변 2) 세 번째 답변은 다음과 같았다. “질 들뢰즈의 철학은 현대 인공지능(AI) 연구, 특히 연결주의와 딥러닝의 철학적 토대를 이해하고 확장하는 데 결정적인 통찰을 제공합니다.”(답변 3)
세 답변은 서로 다른 내용을 담고 있다. 답변 1에서 ‘질 부를르 들뢰즈’라고 난데없이 “부를르”를 끼워 넣은 것은 애교로 넘어가자. 문제는 각 답변의 키워드가 ‘연결주의와 생성형 모델’(답변 1), ‘머신러닝과 신경망 중심의 생성형 AI’(답변 2), ‘연결주의와 딥러닝’(답변 3)이었다는 점이다. 이 키워드는 서로 연결하려면 꽤나 설명이 필요한 것들이어서 사실상 다른 답이다. 실제로 세 답변의 세부 설명은 완전한 헛소리로 채워져 있다. 독자들도 비슷한 실험을 해보라고 권하고 싶다.
몰라서 물었는데 서로 다른 답변들이 나오면, 어떤 것을 정답으로 받아들여야 할까? 우리로서는 결정할 방법이 없다. 애초에 우리는 모르기 때문이다. 이 실험의 결론은 무엇인가? 뭔가 알고 싶더라도 AI한테 질문해서는 안 된다. 물을 때마다 다르게 답하는 AI는 답변할 자격이 없다. AI는 매번 말이 달라지는 사기꾼이다. 만일 인간 전문가였다면 이런 식으로 답할 리가 없다. 표현은 조금씩 다를지라도, 똑같은 답을 말했을 것이다.
매번 말이 달라지는 AI는 사기꾼
우리가 질문하는 이유는 모르는 것을 알기 위해서다. 그래서 정답을 알고 있다고 여겨지는 전문가(부모, 선생님, 교수 등)에게 묻거나 전문가가 쓴 저술(학술논문, 책, 사전 등)을 참조하곤 한다. 이럴 때 서로 다른 답변이 있다면, 그중 어느 하나만 정답이고 다른 것들은 오류라고 여기는 것이 합당하다. 전문가 사이에서도 아직 합의되지 않았다는 걸 알게 되는 것도 수확이다. 이런 걸 연습하는 것이 ‘비판적 사고’ 훈련이다.
전문가 한 사람이 답변할 때마다 같은 내용을 조금씩 다르게 표현하는 것을 넘어, 매번 다른 내용을 말한다면 당신은 어쩔 텐가? 아마도 질문하는 걸 당장 멈출 것이다. 전문가라면 한결같은 진실 혹은 지식을 말할 것이기 때문이다. 바로 이런 이치로, 매번 다르게 답하는 AI한테도 질문하면 안 된다. 적어도 지식의 영역에서라도 AI로부터 독립해야 한다. AI에 지식을 묻지 말자는 제안이다.
혹자는 이렇게 강변한다. 지금처럼 질문이 사라진 시대에 AI한테라도 질문하는 게 어디냐? 질문하는 습관 자체가 중요하지 않냐? 그럼, 질문을 멈추라는 말인가? 그러나 답변할 자격이 있는 누군가에게 질문해야지, 사기꾼에게 질문해서는 안 된다. 결국 실망한 채로 호기심마저 잃게 될 거고, 신뢰를 배신당하고 말 것이다.
반전이 있다. 내 실험에는 더 중요한 비밀이 있다. 사실 들뢰즈는 현행 AI에 비판적이었다. 들뢰즈의 표현으로 ‘인공 뇌’를 만들려는 현대적 시도는 출발부터 문제가 있다. 창의성의 핵심인 ‘사고의 비약’은 고장 혹은 코드 붕괴(decoding)에서 나오는데, 현행 AI는 그런 식으로 설계되어 있지 않기 때문이다. 따라서 내 질문에 대한 AI의 답변은 모두 근본부터 잘못되었다. 들뢰즈는 AI 연구에 기여한 바가 없다, 혹은 AI 연구에 비판적이었다고 답했어야 맞다.
안타깝게도 들뢰즈와 AI의 관계에 대한 연구 논문은 거의 없다. AI는 인간의 연구에 ‘후행’한다. 이 주제에 관해 연구를 진행하고 있는 나 같은 전문가여야 들뢰즈와 AI의 관계를 답할 수 있고, 내 논문이 공개되어야 AI의 정보도 조금 업데이트될 것이다.
자신이 직접 해야만 하는 생각 활동, 인지 활동, 뇌 활동을 지금처럼 AI한테 외주 주는 습관이 굳어지면, 인류는 지적으로 무너져 내리게 될 것이다. 지식과 실력의 성장이 멈추거나 퇴보할 것이 분명하다. 나는 이 상황을 ‘디스킬 제너레이션(deskill generation)’, 탈숙련 세대의 출현이라고 진단한다.
지적 탈숙련은 기성세대보다 미래세대에게 훨씬 심각한 문제이다. 미래세대는 애초에 지적 기반이 충분히 축적되지 않았다. AI는 이들이 성장을 위한 훈련을 건너뛰도록 유혹했다. 어릴 때 고된 훈련을 통해 이미 뛰어난 능력을 갖춘 능력자의 시선으로 보면, AI는 엄청나게 좋은 도구다. 이들의 목소리는 ‘AI 찬가’를 외친다. 하지만 미래세대에게 끼치는 악영향에 주목하는 이들은 ‘AI 비가’에 오열한다. 현장의 교육자들이 그들이다.
교육자들은 ‘AI의 비가’에 오열
최근의 조사들은 미래세대가 AI에 질문하지 않도록 금지할 수 없다는 점을 보여준다. 이미 대부분이 그렇게 하고 있고, 기성세대도 마찬가지다. 막을 수 없다면 대안은 무엇일까? 보스턴대학교의 크리산토스 델라로카스(Chrysanthos Dellarocas) 교수는 ‘AI가 모든 걸 할 수 있을 때 배울 게 뭐가 남아 있을까?’(2026년 4월13일)라는 글에서 흥미로운 제안을 한다. 여태껏 그랬듯 결과물을 보고 학생이 그걸 만들어 낼 역량을 갖고 있다고 가정하기를 멈추고, AI가 생성한 결과물을 감독하고 평가하며 책임질 수 있는 역량을 길러줘야 한다는 것. 학생은 결과물을 사후 검토(debrief)하고 설명할 수 있어야 한다.
이 제안은 AI가 늘 정답을 말한다는 전제에서 출발한 듯하지만, 매번 다른 답을 하는 상황에도 응용할 수 있다. 즉 어떤 진술, 가령 AI의 답을 접했을 때 그것이 진실이라고 생각하는 이유가 무엇인지 되묻도록 유도하는 것이다. 아니면 질문할 때마다 항상 세 번 똑같이 묻게 하고, 답들이 다른 이유를 찾도록 요구하는 것이다. 기대되는 효과는 무엇일까?
나의 제안을 따르면, 자신도 모르게 비판적 사고를 훈련하게 된다. 지금까지 철학 훈련을 통해 실행됐던 비판적 사고 훈련은 ‘묻고 따지고 비교하고 검증하는’ 작업이 핵심이다. 내 실험에서처럼, 세 번 묻고 답을 얻었을 때 답이 서로 다른 이유를 설명하려면, 두 가지 접근을 떠올릴 것이다.
첫째, AI에 이유를 물어보는 것. 단, 세 번 물으면 좋겠다. 그렇지만, 이렇게 하면, 아마도 오답의 소용돌이와 늪에서 끊임없이 허우적거리게 될 것이다. 둘째, 전문가에게 물어보는 것. 이 방식은 쉽지 않겠지만, 적어도 정답 근처까지 이끌어 줄 것이다. 그러니 둘째가 유일하게 좋은 선택이다.
미래세대에게 조언하고 싶다. AI로 ‘딸깍’ 답을 얻는 일은 아무나 할 수 있고, 그런 ‘아무나’를 원하는 조직은 없다. 조직은 차별화된 능력이 있는 사람을 원한다. 언제나 그랬다. 남과 다른 사람이 되려면 ‘딸깍’이라는 쉬운 길 대신 ‘비판적 사고 훈련’이라는 고된 길을 가야 한다. 선택은 당신에게 달려 있다.
실리콘밸리의 글로벌 빅테크들은 언제나 바삐 쇼핑을 합니다. 인공지능(AI) 개발·운영을 위한 컴퓨팅 인프라부터 뛰어난 인재까지 쇼핑하듯 영입합니다. 그런 빅테크들의 쇼핑 리스트에 최근 하나가 더 추가됐습니다. 바로 ‘미디어’인데요. AI와 기술 기업에 대한 반감이 커지는 가운데 빅테크의 경쟁이 기술을 넘어 ‘담론’으로 확장하는 모양새입니다.
최근 화제는 단연 챗GPT 개발사 오픈AI입니다. 오픈AI는 지난 2일(현지시간) 테크 전문 팟캐스트 ‘TBPN’을 인수한다고 발표했습니다.
TBPN은 2024년 10월 첫 방송을 시작한 인기 팟캐스트로, 실리콘밸리 투자자·창업자인 존 쿠건과 조디 헤이스가 진행합니다. 실리콘밸리의 새로운 기술이나 인수·합병(M&A) 소식을 전하고 논평하는 게 주요 콘텐츠고요. 실리콘밸리 거물들이 자주 출연하는 것으로도 유명합니다. 샘 올트먼 오픈AI 최고경영자(CEO)는 물론 마이크로소프트의 사티아 나델라 CEO, 메타의 마크 저커버그 CEO 등이 게스트로 나선 적이 있습니다.
TBPN 인수가 눈길을 끄는 데엔 이유가 있습니다. 올해 기업공개(IPO)를 앞두고 있는 오픈AI는 최근 영상 AI ‘소라’, AI 쇼핑 기능 ‘인스턴트 체크아웃’ 같이 당장 돈이 되지 않는 비주력 사업을 줄줄이 접으며 수익성을 개선 중이거든요. 그런 와중에 거액을 들여 팟캐스트를 산 거죠. 인수 금액은 공개되지 않았지만, 업계에선 1억~3억달러 초반대(약 1500억~4000억원)라는 관측이 나옵니다.
오픈AI 외에도 미디어를 직간접적으로 운영하는 기업은 늘어나는 추세입니다. ‘서학 개미’가 사랑하는 AI 기업 팔란티어는 지난해 ‘더 리퍼블릭’이라는 잡지 발행을 시작했습니다. 실리콘밸리 기반 유명 벤처캐피털(VC) 앤드리슨 호로위츠(a16z)는 뉴스레터 플랫폼 ‘서브스택’에 투자, 메시지를 발신하는 플랫폼으로 활용하고 있습니다.
빅테크들이 자체 미디어 생태계 구축에 나선 배경에는 레거시 미디어에 대한 업계의 반감이 자리하고 있습니다. 실리콘밸리에는 오랜 전통의 IT 전문 매체가 여럿 있는데, ‘테크 크런치’나 ‘와이어드’ 같은 곳들이 대표적입니다. 이들 매체가 자신들에게 지나치게 비판적이라는 게 테크 업계가 공유하는 정서고요.
결국 AI와 같이 자신들이 만들어나가는 신기술에 대한 담론을 유리하게 형성하려는 의도가 깔려 있다고 할 수 있습니다. 실제로 TBPN, 더 리퍼블릭을 보면 기술이 인류에게 가져다줄 미래는 장밋빛으로 그려집니다. AI로 인한 일자리 타격부터 저작권 문제, 정신 건강, 데이터센터로 인한 환경 파괴 등 부정적 측면은 다뤄지지 않습니다. 오직 혁신성만 부각할 뿐이죠. 오픈AI의 TBPN 인수를 두고 “오픈AI는 단순히 팟캐스트 하나를 사는 게 아니라 ‘영향력’을 사는 것”(CNN 방송)이란 평가가 나오는 것도 이와 무관하지 않습니다.
특히 오픈AI의 요즘 상황을 보면 더 고개가 끄덕여집니다. 오픈AI는 챗GPT로 생성형 AI 시대를 열었지만, 클로드(앤트로픽), 제미나이(구글) 등 경쟁 모델에 파이를 빼앗기고 있습니다. 미 국방부와 군사적 AI 활용 계약을 맺은 사실이 알려지면서 구독 취소 운동인 ‘큇GPT’에 직면해 있고요. 여론을 반전시킬 비장의 무기로 TBPN이 필요했을 겁니다.
AI가 인류에 미치는 영향력이 점차 커지는 가운데 담론을 주도하려는 빅테크의 시도는 앞으로도 계속될 것으로 보입니다. AI를 향한 적개심이 실제 물리적 위협으로 이어지고 있기 때문입니다.
지난 10일 20대 남성이 샌프란시스코에 있는 올트먼의 자택에 화염병을 던지는 사건이 일어났습니다. 당국은 이 남성이 작성한 문서에 ‘AI가 인류를 멸망시킬 것’이라는 내용과 함께 주요 AI 기업 CEO와 투자자 명단, 주소 등이 포함됐다고 밝혔습니다.
오픈AI는 TBPN 인수 계약에 편집권 독립을 보장하는 내용이 포함돼 있다고 강조했습니다. TBPN도 SNS를 통해 비슷한 취지의 입장을 밝혔고요.
하지만 이 말을 곧이곧대로 들을 사람은 많지 않을 겁니다. 2013년 아마존 창업자 제프 베조스에게 인수된 워싱턴포스트는 올해 초 직원의 3분의 1을 해고했습니다. 수익성 악화가 표면적 이유지만 정치적 동기가 있다는 분석이 지배적입니다. 멀리 갈 것 없이 한국의 언론 상황만 봐도 답은 나옵니다. 모기업의 잘못을 지적하는 매체는 없습니다. 자본으로부터 자유로운 언론의 존재가 그래서 중요한 것이고요.
실리콘밸리의 유력 IT 전문 매체 ‘더 인포메이션’의 편집국장 마틴 피어스의 시각도 별반 다르지 않은가 봅니다. 지난 2일 TBPN 인수 소식이 전해진 직후 그가 쓴 칼럼엔 다음과 같은 대목이 나옵니다.
“TBPN에 대한 오픈AI의 편집권 독립 약속은 무의미하다. 무엇을 위한 독립인가? TBPN이 오픈AI를 강하게 비판하는 콘텐츠를 만든다고 상상할 수 있는가? 그것은 이 프로그램의 DNA가 아니다.”

이전글안양이혼변호사 국회 재경위, 신현송 청문보고서 채택…한은 총재 공백 사태 피했다 26.04.21
다음글경찰, 중동 전쟁 관련 가짜뉴스 모니터링팀 신설 26.04.21

댓글목록

등록된 댓글이 없습니다.