[AI타임즈] '바이브 코딩' 카르파시, 100달러로 구축 가능한 모델 '나노챗' 공개

(기사에 어울리는 삽화 이미지를 제미나이로 생성)

AI타임스의 기사 내용은 다음과 같이 정리할 수 있습니다.

기사 요약: '바이브 코딩' 카르파시, 100달러로 구축 가능한 모델 '나노챗' 공개

• 주요 인물 및 내용: '바이브 코딩(Vibe Coding)'이라는 용어를 만든 안드레이 카르파시(Andrej Karpathy) 오픈AI 공동 창립자(現 유레카 랩 CEO)가 단 100달러(약 14만 2000원)와 4시간 만에 챗GPT 스타일 챗봇을 구축할 수 있는 파이프라인 **'나노챗(nanochat)'**을 오픈 소스로 공개했습니다.

• 나노챗의 특징:

   • 풀 스택 코드베이스: 토크나이저 학습부터 웹 UI 추론까지 챗GPT 스타일의 전체 스택을 구현한 8,000줄의 코드로 구성되어 있습니다.

   • 구축 비용 및 시간: 권장 설정(H100 GPU 8개) 기준으로 시간당 약 24달러의 비용으로 4시간 동안 학습하여 약 100달러가 소요됩니다 (스피드런).

   • 모델 성능: 112억 개의 토큰을 처리하는 5억 6천만 매개변수의 모델을 만들 수 있습니다. 이는 복잡한 작업보다는 이야기를 만들고 시를 쓰며 간단한 질문에 답할 수 있는 '어린이용 챗봇' 수준이라고 설명했습니다.

• 성능 향상: 학습 시간을 12시간, 비용을 1000달러까지 확장하면 더 일관성 있는 결과를 얻고 간단한 수학이나 코드 문제를 풀 수 있습니다.

• 개발 목표: 카르파시 CEO는 나노챗의 목표가 "강력한 기준의 스택으로 응집력 있고 최소화되며 읽기 쉽고 수정이 가능한 저장소로 만드는 것"이라고 밝혔습니다.

• 프로젝트의 핵심: 이 프로젝트는 **'LLM101n'**이라는 프로젝트의 핵심으로, 최소한의 리소스로 챗GPT와 유사한 LLM을 구축하는 것을 목표로 합니다. 이는 유레카 랩스가 선보일 학부 수준 AI 과정의 첫 제품이기도 합니다.

• 평가: 마크테크포스트는 나노챗을 "추적 가능한 결과물을 생성하는 단일하고 깔끔하며 종속성이 가벼운 저장소"라고 평가했습니다.