AI Engineer Notebooks – free, framework-free RAG/agents/evals on Colab
AI 엔지니어 또는 포워드 디플로이드 엔지니어(FDE) 역량을 키우기 위한 실습용 Colab 노트북을 제공하는 프로젝트입니다. 이 노트북들은 프레임워크 없이 모델 API, RAG, 에이전트, 평가(evals) 등 LLM 시스템 구축에 필요한 모든 과정을 실제 API 호출을 통해 구현하도록 설계되었습니다.
핵심은 LangChain이나 LlamaIndex 같은 프레임워크를 사용하기 전에 원시 API 호출부터 시작하여 시스템을 이해하고 평가(evals)를 통해 측정하는 습관을 들이는 것입니다. 이는 단순히 데모를 만드는 것이 아니라, 시스템을 구축하고 측정하는 엔지니어의 사고방식을 훈련하는 데 중점을 둡니다.
모든 실습은 무료 Groq API를 기반으로 실행되며, LoRA 파인튜닝이나 자체 호스팅 서빙과 같은 고급 주제도 개념 중심으로 제공됩니다. 실제 배포 사례와 레드팀 벤치마크 등 세 가지 엔드투엔드 사례를 통해 실질적인 역량을 쌓을 수 있습니다.
이 노트북들은 모델 API 사용부터 보안, LLMOps, 고객 맞춤형 작업까지 포괄하며, 실제 시스템을 구축하고 포트폴리오를 만드는 데 필요한 실무 지식을 제공합니다.
핵심은 LangChain이나 LlamaIndex 같은 프레임워크를 사용하기 전에 원시 API 호출부터 시작하여 시스템을 이해하고 평가(evals)를 통해 측정하는 습관을 들이는 것입니다. 이는 단순히 데모를 만드는 것이 아니라, 시스템을 구축하고 측정하는 엔지니어의 사고방식을 훈련하는 데 중점을 둡니다.
모든 실습은 무료 Groq API를 기반으로 실행되며, LoRA 파인튜닝이나 자체 호스팅 서빙과 같은 고급 주제도 개념 중심으로 제공됩니다. 실제 배포 사례와 레드팀 벤치마크 등 세 가지 엔드투엔드 사례를 통해 실질적인 역량을 쌓을 수 있습니다.
이 노트북들은 모델 API 사용부터 보안, LLMOps, 고객 맞춤형 작업까지 포괄하며, 실제 시스템을 구축하고 포트폴리오를 만드는 데 필요한 실무 지식을 제공합니다.