"AI는 사기다"에 대한 반박

한 줄 요약

"AI는 역사상 가장 정교한 사기"라는 한 비판가의 트윗을 Nick Saraev가 조목조목 반박하는 영상이에요. 지능은 원래 결과물로 판단한다는 점, AI 회사들이 한계를 꾸준히 경고해 왔다는 점, 매주 9억 명이 쓰고 5천만 명이 돈을 내는 서비스를 사기라 부를 수는 없다는 점이 핵심이죠.

전체 내용 정리

"AI는 사기"라는 트윗, 무슨 주장이었을까요?

영상은 한 비판가의 트윗을 소개하면서 시작해요. 요지는 이렇습니다. AI 회사들은 지능의 결과물을 흉내 내는 기계를 만들어 놓고 진짜 지능이라고 말했고, 그건 불가능한 일인데도 환상이 그럴듯해서 투자자들에게서 수조 달러를 갈취했다는 거죠.

이 비판가는 AI가 어려운 수학 문제를 푼다는 주장도 과대광고라고 봐요. 예로 든 게 OpenAI의 나비에-스토크스 방정식(Navier-Stokes equations) 풀이입니다. 2,200만 달러를 들였다는 이 풀이가 사실은 읽을 수도 없는 165페이지짜리 증명이고, 테렌스 타오(Terence Tao) 같은 실제 수학자들은 인정하지 않는다는 주장이에요.

Nick은 이런 시각을 진지하게 받아들이기 어렵고, AI가 발전할수록 설 자리가 빠르게 줄고 있다고 봐요. 그래도 아직 그렇게 생각하는 사람들을 위해 주장을 하나씩 짚어 보겠다는 게 이 영상의 출발점이죠.

사람의 지능도 원래 결과물로 판단하잖아요

첫 번째 주장은 "AI는 지능의 결과물만 흉내 낼 뿐"이라는 거예요. 그런데 Nick은 현실이 반대라고 말합니다. 시험, 면접, IQ 테스트처럼 사람의 지능을 가리는 기준도 전부 결과물이거든요. 결과물로는 지능을 인정할 수 없다면 인간의 지능도 인정할 수 없게 됩니다.

여기서부터는 꽤 철학적인 이야기로 넘어가요. 다른 사람이 정말 생각하고 있는지, 어떤 의식적 경험을 하고 있는지는 알 수 없다는 거예요. 그 사람이 쓰는 글, 하는 말, 행동하는 방식으로 판단할 수밖에 없어요. AI는 이제 말하고, 글을 쓰고, 일부 영역에서는 사람만큼 혹은 그 이상으로 지능적으로 느껴지게 행동할 수 있습니다. Nick은 이게 전혀 이상한 일이 아니라고 봐요.

없는 걸 복사할 수는 없잖아요

비판하는 쪽에는 "AI는 기존 데이터를 복사하거나 재조합할 뿐"이라는 생각이 깔려 있어요. Nick의 반론은 간단합니다. 존재하지 않는 것은 복사할 수 없다는 거죠.

2025년 국제 수학 올림피아드(IMO)에서 Gemini는 아무도 본 적 없는 완전히 새로운 문제들을 풀었어요. 벌써 1년도 더 된 일이고, 그 뒤로 기준선은 훨씬 멀리 옮겨 갔습니다. Nick에 따르면 이제 나비에-스토크스 문제가 풀리고, 불과 1주일 반 전에 본 700 문제 같은 다른 수학 난제들도 풀리고 있어요. 금메달 수준이면서 훈련 데이터(training data)에 전혀 없던 문제들이죠.

그리고 한 발 물러서서, 설령 여러 문제 풀이 방식을 재조합하는 거라 해도 그 자체가 지능 아니냐고 되묻습니다.

"불가능"이라고 단정하는 건 오만이고, 기술은 원래 인간다움의 일부예요

트윗에는 "불가능"이라는 단어도 들어 있었어요. 그런데 왜 불가능한지는 설명하지 않고 확정된 사실처럼 말했죠. Nick은 이게 대단한 오만으로 들린다고 해요.

1800년대에 마차를 타고 마을을 오가던 사람들에게 100년 뒤 인류가 달에 간다고 말했다면 대부분 불가능하다고 했을 거예요. 체스도 한때는 지능의 척도였습니다. 기계가 그 게임을 해내기 전까지는요.

그래서 Nick은 비판가들 머릿속의 해자(moat, 넘을 수 없는 벽)가 계속 뒤로 밀려나고 있다고 봐요. AI가 차지하는 영역이 넓어질수록 그들이 말하는 "진정한 인간다움"의 범위는 좁아지죠. 기술이 못 하는 일로 자신을 정의하면, 기술이 발전할수록 정체성이 쪼그라들 수밖에 없어요.

Nick은 기술이 사람에게 어떻게 힘을 실어 주는지 보는 편이 훨씬 생산적이라고 말해요. 인류는 처음부터 기술을 써 왔거든요. 먼 조상이 나무에 막대기를 찔러 넣어 기어 나오는 개미를 잡아먹은 순간이 기술의 시작이었고, 창을 만들고 삽의 원형으로 땅을 판 것도 마찬가지예요.

삽을 쓴다고 사람이 덜 인간적이 되진 않잖아요. 극단까지 가면 개념상 변화가 생길 수는 있다고 인정하면서도, Nick은 기술을 반인륜적인 것으로 보는 건 터무니없다고 해요. 오히려 기술이야말로 인간을 정의하는 요소에 가깝다는 거죠.

AI 회사들은 한계도 계속 경고해 왔어요

"모두에게 AI가 지능적이라고 말했다"는 주장도 있었어요. Nick은 좋은 회사라면 자기 제품을 그렇게 마케팅하는 게 당연하다고 봅니다. 다만 그들은 동시에 AI가 완벽하지 않고 환각(hallucination)을 일으키거나 실수하기 쉽다는 경고도 명시적으로 계속 해 왔어요. ChatGPT나 Claude와 대화할 때마다 화면 아래에 깔려 있는 그 경고 문구처럼요.

Nick은 이걸 투자 영상에 빗대요. "이건 재정적 조언이 아니니 이것만 믿고 투자하지 마세요"라고 길게 말한 영상을 보고 투자했다가 돈을 잃은 뒤 그 사람을 고소하는 것과 비슷하다는 거죠. 그 긴 경고는 다 어디 갔냐는 얘기예요.

그래서 Nick은 앞으로 5~10년 이 기술이 어디로 갈지 가늠할 때, 기술을 만드는 사람들의 말을 믿거나 최소한 절반은 귀담아듣겠다고 해요. 그들의 기술이 신의 경지에 오른다고 믿게 만들면 그들이 돈을 번다는 유인(incentive)도 무시하지 않고요. 그래도 최전선에서 일하는 사람들의 의견을 모아 평균을 내면 꽤 쓸 만한 예측이 나온다고 봅니다. 샘 올트먼(Sam Altman)이 4~5년 전에 한 말은 예측 면에서 대부분 맞았고, 일론 머스크(Elon Musk)도 좋든 싫든 마찬가지라는 거예요. 매일 이 기술을 다루는 사람들은 흐름이 어디로 가는지 보는 게 일이니까요. 그렇다고 그들이 다 나쁘거나 사악하다는 뜻은 아니라고 덧붙여요. 물론 일부는 그럴 수 있다면서요.

유료 구독자 5천만 명이 쓰는 제품을 사기라고 할 수 있을까요?

Nick이 가장 유감스럽게 본 건 "투자자들의 돈을 수조 달러나 갈취했다"는 표현이에요. 이 앱들은 이제 투자자뿐 아니라 거대한 소비자층을 갖고 있거든요.

ChatGPT는 매주 9억 명 이상이 쓰고, 유료 구독자는 5천만 명이에요. Nick의 계산으로는 10억의 5%, 지구 인구로 치면 1%가 조금 안 되는 수치죠. 그는 이걸 "미친 수준"이라고 표현해요. 전 인류의 1% 가까이가 돈을 내고 쓰는 제품을 두고 사기라고 말할 수는 없다는 겁니다. 돈을 낸다는 건 어느 정도 효용을 느낀다는 뜻이니까요.

거품과 사기는 다른 얘기라는 점도 짚어요. Nick은 150~200년 전 서부에 철도가 놓이던 때를 떠올려 보자고 해요. 그때도 투자 기회가 쏟아졌고 나중엔 문제도 생겼죠. 투자 거품이었다고 말하는 사람도 있을 거예요. 그렇다고 철도가 가짜였던 건 아니잖아요.

투자는 잠재 가치라는 탄탄한 토대 위에 얹힌 일종의 금융적 추상화라는 게 Nick의 정리예요. 사기가 실제로 있다는 건 Nick도 인정해요. 그가 성인이 된 뒤로 NFT나 암호화폐 사기는 늘 있었으니까요. 하지만 누군가 기술을 착취에 쓴다고 기술 자체가 나쁜 건 아니에요. 기차나 자동차로 범죄를 저지르는 사람이 있어도 교통수단이 본질적으로 악은 아니듯이요. 그리고 AI가 보여 줬듯 그게 유능한 도구가 아니라는 뜻도 아니라고 해요.

마지막으로 Nick은 어떤 문제든 양면을 보는 게 중요하니 자기 말도 적당히 걸러 들으라며 영상을 마무리해요.

핵심 인사이트

• 지능을 재는 잣대는 사람에게도 AI에게도 결과물이에요: "흉내일 뿐"이라는 비판은 사람의 지능에도 똑같이 적용돼요. Nick의 논리대로라면 AI를 평가할 때도 "진짜 지능이냐"보다 "결과물이 어떠냐"를 보게 됩니다.
• "AI는 못 한다"로 선을 그으면 그 선은 계속 밀려나요: 체스, IMO 새 문제, 수학 난제처럼 기준선은 꾸준히 옮겨 갔어요. Nick은 기술이 못 하는 일로 자신을 정의하면 기술이 발전할수록 정체성이 쪼그라든다고 지적해요.
• 돈을 내고 쓰는 사람이 많다는 건 강한 신호예요: ChatGPT 주간 사용자 9억 명, 유료 구독자 5천만 명이라는 숫자는 실제로 효용을 느끼는 사람이 그만큼 많다는 뜻이에요. 거품 논쟁과 별개로 도구 자체의 가치는 따로 봐야 하죠.

오늘 당장 해볼 것

1. 지금 쓰는 ChatGPT나 Claude에 평소 직접 하던 업무 하나(견적서 초안, 고객 문의 답장 등)를 맡겨 보고, 결과물만 놓고 사람이 한 것과 비교해 보세요. "진짜 지능이냐"보다 "내 일에 쓸 만하냐"를 판단하는 감이 생깁니다.
2. 내 업무 중 "이건 AI가 못 할 거야"라고 생각하는 일을 세 개 적어 보세요. 그리고 그 이유가 실제로 해 보고 나온 건지, 짐작인지 표시해 보세요. 짐작인 것부터 한 번씩 시켜 보면 기준선이 어디쯤인지 보여요.
3. 쓰고 있는 AI 서비스 화면의 경고 문구(실수할 수 있다는 안내)를 다시 읽고, 결과물을 그대로 내보내면 안 되는 업무가 무엇인지 하나 정해 두세요. 한계를 알고 쓰는 게 Nick이 말한 "양면을 보는" 방법이기도 해요.