모두가 알아야 할 AI에 대한 4가지 불편한 진실

많은 사람들이 이제 AI, 즉 인공지능이라고 부르는 것에 대해 잘못된 정보와 추측이 많습니다. 이 기술이 널리 채택되었음에도 불구하고, 여전히 사람들에게 잘 알려지지 않은 몇 가지 근본적인 사실들이 있으며, 이러한 사실들은 기술이 무엇을 할 수 있는지와 미래가 어떻게 전개될지에 대한 관점을 분명히 바꿀 수 있습니다.

현대의 LLM은 예측 기계입니다

가끔 친구나 동료가 어떤 질문을 생각하면서 'ChatGPT에게 어떻게 생각하는지 물어봐'라고 말하는 것을 들을 수 있습니다. 이것은 AI에만 국한된 표현은 아니지만, 근본적으로 질문을 잘못 표현한 방식이기도 합니다.

현재의 대형 언어 모델(LLM)은 사용자가 제시한 질문에 대해 '생각'하거나 논리를 적용할 수 있는 능력이 없습니다. 본질적으로 이들은 추측 기계입니다. 그들의 답변은 패턴 매칭의 산물로, 사용자가 제공한 프롬프트에 이어 어떤 단어가 나올 확률에 기반해 생성된 응답입니다.

이러한 패턴은 모델에 학습 데이터를 입력하여 '학습'됩니다. ChatGPT나 Gemini와 같은 제품들은 분석한 텍스트를 바탕으로 무엇을 말할지 학습했습니다. 이들은 생각하는 기계가 아니라, 확률에 따라 답변을 조합할 수 있는 거대한 기억 저장소입니다.

모델들은 실제로 당신이 그들에게 요구하는 것을 '이해'하지 않으며, 추론을 하지도 않습니다. 이들은 합계를 계산하거나 문제를 '해결'하려고 시도할 수는 있지만, 결과는 논리에서 도출된 것이 아닙니다. 예측과 이해는 매우 다른 두 가지입니다.

이 접근 방식의 한계는 이러한 모델이 여전히 자신감 있게 잘못될 수 있다는 점에서 볼 수 있습니다. 고전적인 예로는 챗봇에게 'raspberry'에 R이 몇 개 있는지 묻는데, 모델이 전혀 세지 않았음을 보여주는 답을 제공하거나, 청소 요령을 요청했더니 치명적인 염소 가스 레시피를 제공하는 경우가 있습니다.

AI 모델은 양질의 학습 데이터를 다 사용했습니다

LLM이 작동하게 만드는 가장 큰 요인은 데이터입니다. 모델은 저보다 훨씬 똑똑한 사람들이 만든 후, 방대한 훈련 데이터 아카이브에 노출됩니다. 이런 의미에서 현대 AI 도구는 설계된 것이라기보다는 성장된 것에 가깝습니다. 기초를 세울 수는 있지만, 모델에 공급하는 데이터가 최종 결과에 큰 영향을 미치게 되며(종종 예측할 수 없는 방식으로) 이는 피할 수 없습니다.

지금쯤 우리는 거의 모든 것을 현대 AI 모델에 학습시켰습니다. 여기에는 수십 년에 걸친 인터넷 아카이브인 Common Crawl, 위키피디아의 모든 기사, 출판된 책의 디지털 사본, 프로그래밍 소스 코드, 그리고 소셜 미디어 웹사이트의 사용자 생성 콘텐츠가 포함됩니다.

하드웨어 측면에서 더 많은 데이터 센터를 구축하여 확장하는 것이 가능하긴 하지만(실제로 그렇게 하고 있긴 합니다), 데이터 측면의 한계는 극복하기가 더 어렵습니다. 이것은 현재 모델들이 접근할 수 있는 능력의 한계에 가까워지고 있다는 추측을 불러일으켰습니다.

Frontier Labs AI와 같은 회사들은 새로운 합성 학습 데이터를 생성하기 위해 AI 모델을 사용하기 시작했습니다. 이 접근 방식의 문제점은 실제 세계에서 사본의 사본을 만들기로 결정했을 때 겪을 수 있는 문제와 유사합니다. 데이터가 매번 조금씩 손상되는 상태에서 모델을 학습시키면 결국 ‘모델 붕괴’로 알려진 현상에 직면할 수 있습니다.

바이브 코딩은 기대만큼 좋지 않다

인터넷에서 조금 더 덕후 같은 커뮤니티로 들어가 보면 ‘바이브 코딩(vibe coding)’에 대한 상당한 비판을 접할 수 있습니다. 이는 AI 모델을 사용해 코드를 생성하면서 그 코드가 실제로 어떻게 작동하는지 제대로 이해하지 못하는 행위를 일컫는 말입니다.

이것이 반드시 바이브 코딩의 사용이 전혀 허용되지 않는다는 뜻은 아닙니다. 특히 취미로 하는 사람들과 배우는 사람들에게는 어느 정도 허용되는 사용이 있을 수 있습니다. 바이브 코딩은 아두이노를 사용해 처음부터 E-Ink 사진 액자를 만드는 프로젝트와 같은 작업을 성공적으로 수행하는 데 도움을 줄 수 있습니다. How-To Geek의 Patrick Campanale이 말했듯이:

“이 프로젝트의 대부분은 실제로 Antigravity와 Gemini 3.0 Pro가 만들어냈습니다. 저는 여기저기 약간씩 변화를 주거나 Antigravity를 특정 방향으로 유도하기 위해 아주 기본적인 C/C++ 지식을 사용했을 뿐이에요… 그래도 파이썬과 C/C++를 처음부터 배우면서 이런 유형의 앱을 만드는 것보다 훨씬 빠릅니다. Antigravity가 없었다면 몇일 만에 이러한 프로젝트를 구축하고, 프로토타입을 만들고, 테스트하고, 출시하는 것은 불가능했을 것입니다.”

취미를 넘어서, AI를 사용해 코드를 작성하는 데에는 큰 문제가 있습니다. LLM이 IDE 내에서 프로그래머가 더 빠르게 코드 작성할 수 있도록 제안해주는 데 사용되기는 하지만, 제가 말하는 것은 그것이 아닙니다. 완성된 코드를 작성하고 배포하는 것에 관해서는, 현대 AI 모델은 단순히 아직 준비가 되어 있지 않습니다.

예를 들어, 모델이 99%의 시간 동안 완벽한 코드를 작성한다면, 그것은 문제입니다. 인간 코더에게는 작동하지 않는 코드가 1% 이상인 것은 심각한 문제로, 반드시 해결해야 합니다. 인간도 실수를 하지만, 그들은 처음부터 자신의 작품에 무엇이 들어갔는지를 이해합니다. 문제를 이해하는 것은 해결책을 제시하는 데 필수적입니다.

적절한 인간의 감독이 있다면 코드를 정리하고 수정할 수 있습니다. 하지만 시간도 많이 걸리고, 문제가 프로젝트의 근본에 깊이 뿌리박혀 있는 경우에는 항상 가능하지는 않습니다. 이미 집의 골조가 세워진 후에 기초를 고치는 것과 비슷합니다.

이것이 바로 여러분이 프로그래밍 경험이 전혀 없어도 꿈꾸는 앱을 만들 수 있고 수익을 얻을 수 있다고 약속하는 광고를 믿지 말아야 하는 이유입니다.

당신도 어떤 식으로든 이 모델들에 기여했을 가능성이 있습니다

AI를 개발하는 기업들은 거의 틀림없이 당신이 만든 콘텐츠를 모델 학습에 활용했을 가능성이 높습니다. 이것은 포럼 댓글이나 소셜 미디어 업데이트와 같이 사소한 것일 수도 있습니다. 당신이 작성한 블로그 글이나 인터넷에 올라간 학교 과제일 수도 있습니다.

하지만 이러한 모델에 사용된 학습 데이터는 화면에 표시된 단어를 훨씬 넘어섭니다. 당신이 찍어서 온라인에 공유한 사진들, 심지어 추가 사용을 금지하는 라이선스가 적용된 경우에도, AI 시스템에 수집되어 입력되었을 가능성이 높습니다. 수십 년 전에 만든 예술 작품이나 오래전에 제작하고 잊어버린 음악도 이를 대상으로 하는 것으로 보입니다.

당신이 공유한 소스 코드나 기여한 오픈 소스 소프트웨어 프로젝트도 훈련 데이터로 사용되었을 가능성이 있습니다. 출판된 책이 있거나, 영화가 상영되었거나, 예술 작품이 전시된 경우, 그 디지털 형태가 사용되었을 수 있습니다.

내 말을 믿지 않겠다고요? 그럼 ChatGPT의 스튜디오 지브리 필터가 어떻게 애니메이터의 원작에 그렇게 근접할 수 있었는지 스스로에게 물어보세요. 당신은 이에 대한 허락을 준 적이 없고, 보상도 한 푼도 받지 못할 것입니다.

이 글을 읽고 나면 아마 저는 AI 도구 사용에 전적으로 반대하는 심술궂은 노인이라고 생각하실지도 모릅니다. 하지만 저는 이렇게 말하고 싶습니다. 과연 심술궂은 노인이 새소리를 식별하는 데 이 기술을 사용하는 것을 즐길 수 있을까요? 저는 그렇게 생각하지 않았습니다.