Local, CPU-Friendly, High-Quality TTS (Text-to-Speech) with Kokoro
Kokoro를 활용하여 개인 정보 보호를 유지하면서 고품질의 로컬 CPU 기반 텍스트 음성 변환(TTS)을 구현하는 방법이 제시되었습니다. 이 시스템은 82M개의 파라미터만으로 영어, 중국어, 힌디 등 여러 언어로 사실적인 음성을 생성할 수 있으며, GPU를 LLM 추론에 할당하고 CPU를 TTS에 전적으로 사용함으로써 사생활 침해 없이 음성 합성을 가능하게 합니다.
Kokoro를 서버로 구축하는 가장 간단한 방법은 사전 다운로드된 음성 모델이 포함된 Kokoro-FastAPI 컨테이너 이미지를 사용하는 것입니다. 이 컨테이너는 약 5GB 크기이며 Docker나 Podman을 사용하여 실행할 수 있습니다. 사용자는 `podman run -p 8880:8880 ghcr.io/remsky/kokoro-fastapi-cpu` 명령으로 컨테이너를 실행하고, 웹 UI를 통해 텍스트를 음성으로 변환하고 재생할 수 있습니다.
이 시스템은 OpenAI 음성 API와 호환되는 TTS 인터페이스를 제공하여 기존 프로그램과의 연동이 용이하며, JavaScript나 Python 샘플 코드를 통해 쉽게 테스트할 수 있습니다. CPU 성능에 따른 합성 속도는 CPU 종류에 따라 크게 달라지는데, Intel Core i7-4770K에서는 4.7초가 소요된 반면 AMD Ryzen 7 8745HS에서는 1.5초로 더 빠른 결과를 보였습니다.
또한, Kokoro-FastAPI 외에 OpenAI의 Whisper 시스템을 통합한 Speaches와 같은 대안 서비스도 존재합니다. Speaches는 음성 가중치를 API를 통해 명시적으로 다운로드해야 하지만, TTS와 STT 기능을 모두 필요로 하는 애플리케이션에 유용한 일석이조의 솔루션을 제공할 수 있습니다.
Kokoro를 서버로 구축하는 가장 간단한 방법은 사전 다운로드된 음성 모델이 포함된 Kokoro-FastAPI 컨테이너 이미지를 사용하는 것입니다. 이 컨테이너는 약 5GB 크기이며 Docker나 Podman을 사용하여 실행할 수 있습니다. 사용자는 `podman run -p 8880:8880 ghcr.io/remsky/kokoro-fastapi-cpu` 명령으로 컨테이너를 실행하고, 웹 UI를 통해 텍스트를 음성으로 변환하고 재생할 수 있습니다.
이 시스템은 OpenAI 음성 API와 호환되는 TTS 인터페이스를 제공하여 기존 프로그램과의 연동이 용이하며, JavaScript나 Python 샘플 코드를 통해 쉽게 테스트할 수 있습니다. CPU 성능에 따른 합성 속도는 CPU 종류에 따라 크게 달라지는데, Intel Core i7-4770K에서는 4.7초가 소요된 반면 AMD Ryzen 7 8745HS에서는 1.5초로 더 빠른 결과를 보였습니다.
또한, Kokoro-FastAPI 외에 OpenAI의 Whisper 시스템을 통합한 Speaches와 같은 대안 서비스도 존재합니다. Speaches는 음성 가중치를 API를 통해 명시적으로 다운로드해야 하지만, TTS와 STT 기능을 모두 필요로 하는 애플리케이션에 유용한 일석이조의 솔루션을 제공할 수 있습니다.