macOS 26 이상 Apple Silicon Mac에 내장된 Apple 온디바이스 LLM을 CLI, HTTP 서버, 대화형 채팅으로 활용할 수 있게 하는 오픈소스 도구다. FoundationModels.framework 기반으로 OpenAI API와 호환되어 다양한 앱과 즉시 연동이 가능하다. 로컬 실행으로 프라이버시를 보장하며, 클라우드 모델에 민감한 컨텍스트를 넘기는 리스크를 줄일 수 있다. 다만 한국어 지원이 아직 불완전하며, 프롬프트 어댑터를 통해 개선할 수 있다는 커뮤니티 팁이 공유됐다.

커뮤니티 의견

  • @xguru: “소스코드 받아서 코덱스랑 같이 뜯어보는데 파운데이션 모델 응답 자체가 한국어쪽이 이상하네요”
  • @xguru: “Codex에게 수정하게 했더니 ‘질문의 요구를 그대로 따르되, 별도 지정이 없으면 한국어로 직접 답하세요’ 아답터를 하나 둬서 답이 잘 나옵니다”
  • @GN⁺: “모든 것을 로컬에서 실행하는 접근이 마음에 듦. 프라이버시 측면에서 로컬 모델의 중요성이 점점 커질 것”

💡 실무 포인트: Apple Silicon Mac 사용자라면 apfel로 로컬 AI 서버를 띄워 민감한 데이터 처리에 활용할 수 있다. 한국어 사용 시 시스템 프롬프트에 언어 지정 어댑터를 추가하면 품질이 개선된다.