NVIDIA GPU가 수천 달러를 절약해 줄 수 있는 4가지 방법

구독 비용은 눈에 잘 띄지 않는 느낌을 주는 경우가 많습니다. 여기에는 클라우드 스토리지가 있고, 저기에는 AI 도구가 있으며, 거의 사용하지 않는 전사 서비스가 있을 수 있습니다. 이 모든 것이 합쳐지면 상당한 금액이 될 수 있습니다. 그러나 중급형 GPU를 가지고 있다면, 하드웨어가 무료로 처리할 수 있는 것들을 위해 돈을 지불하고 있을 가능성이 높습니다.

저는 NVIDIA RTX 3060을 가지고 있습니다(현재 약 250달러 정도) 그리고 작년에 네 개의 구독을 줄이거나 낮춤으로써 819.96달러를 절약할 수 있었습니다. 특별한 일을 해서가 아니라, 같은 일을 하는 무료 오픈 소스 도구들을 로컬에서 실행함으로써 가능했습니다.

저는 저장 비용에서 240달러를 절약했습니다

네, 귀하의 GPU가 저장 문제를 해결하는 데 도움이 될 수 있습니다

이것은 당신을 놀라게 할 수도 있습니다. 저장 공간 절약을 생각할 때 GPU가 가장 먼저 떠오르는 것은 아닙니다. 하지만 GPU는 대용량 비디오 파일을 원래 크기의 일부로 압축할 수 있기 때문에, 이를 저장하는 데 훨씬 적은 공간이 필요합니다.

저는 꽤 자주 여행을 다니며 많은 비디오 영상을 촬영합니다. 일반적인 여행 후에는 약 400~500GB의 원본 영상이 생깁니다. 여기에 제 여자친구의 영상까지 더하면, 단일 여행으로 거의 1TB에 가까워집니다. 연간 네 다섯 번의 여행을 기준으로 하면, 보관이 필요한 영상이 4~5TB가 됩니다.

만약 내가 그 모든 것을 클라우드에 저장한다면, Google One은 2TB에 월 10달러를 부과하니까—4TB는 연간 약 240달러가 듭니다.

GPU: 과거에서 현재 그리고 그 너머
퀴즈 도전

초기 프레임버퍼에서 AI 기반 렌더링까지 — 당신은 GPU를 얼마나 잘 알고 있나요?

1999년에 지포스 256을 세계 최초의 GPU로 마케팅하며 출시한 회사는 어느 회사입니까?

1990년대 초반 가장 상징적인 3D 가속기 중 하나인 부두 그래픽 카드를 만든 회사는 어디인가요?

VRAM은 무엇을 의미하며, GPU에서 그 주요 목적은 무엇인가요?

현대 GPU 렌더링의 맥락에서 레이 트레이싱이란 무엇인가요?

NVIDIA의 DLSS 기술이란 무엇이며, 주로 어떤 AI 기법에 의존하나요?

GPU가 그래픽을 넘어서 일반적인 계산 작업, 즉 GPGPU로 알려진 방식으로 널리 사용되기 시작한 것은 어느 10년대였습니까?

현대의 개별 GPU는 주로 마더보드에 연결하기 위해 어떤 인터페이스를 사용합니까?

다음 중 AMD가 NVIDIA의 DLSS 업스케일링 기술에 대응한 것을 가장 잘 설명하는 것은 무엇입니까?

당신의 점수

플레이해 주셔서 감사합니다!

하지만 제 NVIDIA GPU와 HandBrake 같은 무료 오픈소스 도구 덕분에, 1TB의 영상도 품질 저하 없이 250~300GB로 압축할 수 있습니다. 사실, 저는 작년 여행 영상 전체를 1TB 이하로 압축했는데, 이미 가지고 있던 드라이브에도 충분히 들어갔습니다.

올해 언젠가는 다른 HDD를 하나 더 살 것 같지만, 그래도 내 GPU 덕분에 이미 가지고 있는 저장장치에서 훨씬 더 많은 활용을 하고 있어요.

저는 전사 구독에서 100달러를 절약했습니다

이 서비스들 대부분은 무료 도구를 사용하고 요금을 청구합니다

저는 작가지만, 글을 치는 것을 정말 싫어합니다. 저는 특별히 빠른 타이피스트가 아니고, 긴 글쓰기 세션 후에는 손목이 아프기 시작합니다. 그래서 저는 항상 음성 인식과 전사 도구에 의존해 왔습니다.

오랫동안 나는 Dragon NaturallySpeaking을 사용했으며, 나중에는 Otter.ai로 바꿨습니다. Otter는 회의와 음성 녹음을 필사해서 내가 기사로 재활용할 수 있게 해주어 유용했습니다. 하지만 연간 약 100달러의 비용이 들었고, 그럼에도 불구하고 매달 필사할 수 있는 오디오 양에는 제한이 있었습니다.

그때 나는 Whisper를 발견했다. 이것은 OpenAI에서 제공하는 무료 오픈소스 전사 모델인데, 만약 ChatGPT에서 음성 입력을 사용해본 적이 있다면 그 정확성이 얼마나 뛰어난지 이미 본 적이 있을 것이다. 또한 Faster-Whisper라는 더 빠른 재구현 버전이 있어서 시스템에서 로컬로 실행할 수 있다. 가장 정확한 모델은 실시간 속도로 실행하려면 약 6~8GB의 VRAM이 필요하다.

저는 Faster-Whisper를 RealtimeSTT라는 파이썬 라이브러리와 연결했는데, 이 라이브러리는 제 GPU를 사용하여 음성 받아쓰기와 회의를 로컬에서 실시간으로 기록합니다. 구독 필요 없고, 오디오가 제 기기를 벗어나지도 않으며, 정확도는 제가 이전에 비용을 지불했던 것과 비슷합니다.

주요 단점은 RealtimeSTT가 완성된 앱이 아니라는 것입니다. 터미널에서 실행되며, 시작하려면 작은 Python 스크립트가 필요합니다. 저는 Claude를 사용해 직접 코딩했는데, 안정적으로 작동합니다—그래서 개발자가 아니더라도 관리할 수 있습니다. 다만, 터미널을 전혀 사용하고 싶지 않다면, OpenWhispr이 무료 오픈소스 대안으로, Whisper를 제대로 된 그래픽 인터페이스를 통해 실행합니다.

저는 Midjourney 구독을 줄여서 360달러를 절약했습니다

GPU는 제 Midjourney 구독을 보완했을 뿐, 대체하지는 않았습니다

글을 쓰는 시점에서, 저는 Midjourney에 근접한 결과를 내는 로컬 이미지 생성 모델을 본 적이 없습니다. 그리고 그에 근접한 몇 가지 모델조차 일반적인 중급 GPU에서는 잘 작동하지 않습니다. 그래서 아니요—제 GPU가 Midjourney를 대체하지는 못했습니다. 하지만 그것은 제가 Midjourney를 사용하는 방식을 바꾸었고, 그 결과 제 지갑에 거의 같은 영향을 미쳤습니다.

기본적으로 저는 Midjourney를 사용하여 4K 이미지를 생성하는데, 이 이미지는 소셜 미디어에 공유하거나 다른 창작 워크플로에서 자산으로 사용하기 전에 편집할 만큼 충분히 디테일합니다. 하지만 Midjourney에서 4K 이미지를 생성하는 것은 크레딧 측면에서 비용이 많이 들고 빠른 시간(fast hours)을 빠르게 소모합니다. 그러나 실제 최종 4K 이미지를 생성하는 데 Midjourney가 꼭 필요한 것은 아닙니다. 디자인—구성, 디테일, 스타일—을 위해서만 필요하며, 이 부분은 1080p에서도 충분히 처리할 수 있습니다. 일단 그 이미지가 준비되면, 로컬에서 해당 이미지를 4K 품질로 업스케일할 수 있으며, 이때 GPU가 사용됩니다.

지금은 많은 이미지 업스케일링 도구가 있지만, 저는 Upscayl이라는 무료 오픈소스 도구를 사용합니다. 이 도구는 시스템 GPU를 사용하여 이미지를 몇 초 만에 4배 해상도로 업스케일합니다. 저는 여전히 동일한 디자인 품질과 4K 출력을 얻고 있으며, 더 이상 업스케일링 단계에서 Midjourney에 비용을 지불하지 않습니다. 이 작업 흐름 덕분에 월 60달러짜리 Midjourney 요금제에서 월 30달러 요금제로 내려가 연간 360달러를 절약할 수 있었습니다.

LLM API 비용에서 120달러를 절약했습니다

저급 LLM에 접근하기 위해 요금을 계속 지불하는 것은 어리석다

내 시스템에서는 여러 AI 기반 자동화가 실행되고 있습니다. 여기에는 다음이 포함됩니다:

• 내 Obsidian 금고에서 녹취된 음성 메모를 구조화된 원자 메모로 변환하기
• 음성 명령으로 Google 캘린더 이벤트 만들기
• 스크린샷을 분석하고 내 기사용으로 이름을 바꾸기
• 영수증 사진을 읽고 이를 예산 CSV에 기록하기
• 홈 어시스턴트를 제어하기 위해 자연어 명령 해석하기

이런 종류의 워크플로우에는 ChatGPT나 Claude 같은 채팅 구독만으로는 충분하지 않으며, API 접근이 필요합니다. 저는 모든 작업을 유지하기 위해 API 사용에 한 달에 약 10달러를 쓰고 있었습니다. 그렇다고 해서 이 자동화 중 어느 것도 최첨단 모델을 필요로 하진 않습니다. 지침을 따르고, 문맥을 이해하며, 구조화된 출력을 만들어낼 수 있는 것이 필요하며, 최근 오픈 소스 모델들은 그것을 충분히 수행할 수 있습니다.

12GB VRAM을 가진 내 RTX 3060에서 나는 Qwen 3.5(9B, 4비트 양자화)를 실행하며, 이 작업들을 안정적으로 처리한다. 나는 Ollama를 사용하여 모델을 로컬에서 실행하고 관리한다. 그것은 OpenAI의 API 구조와 호환되는 API를 제공하기 때문에, 내 자동화를 전환하는 것은 대부분 URL을 변경하는 문제였다.

지금은 모든 것이 제 시스템에서 개인적으로 실행되며, 작년에는 덕분에 API 비용으로 약 120달러를 절약할 수 있었습니다. 올해도 이 추세는 계속되고 있으며, 자동화를 더 추가할수록 절약액은 증가할 가능성이 높습니다. 그렇긴 하지만, 정확한 수치를 제시할 만큼 토큰 사용량을 정확히 추적하지는 않았습니다.

여기까지의 합계입니다

제가 저축하고 있는 모든 것과 그것이 가능하게 하는 것에 대한 내역은 다음과 같습니다:

이 속도로라면, RTX 3060 같은 구형 NVIDIA GPU는 구독 취소와 저장 비용 절감만으로 3개월 조금 넘게 지나면 비용을 회수할 수 있습니다.