AI
에이전트가 생성한 코드를 책임감 있게 다루기: Vercel의 프레임워크
Vercel이 에이전트 생성 코드의 품질 관리 프레임워크를 제시했다. 코딩 에이전트가 전례 없는 속도로 코드를 생성하지만, 엄격한 판단 없이 사용하면 잘못된 가정을 프로덕션에 배포하는 경로가 된다고 경고한다. 에이 …
보안
AI
Claude Code 유출 사건
Claude Code의 소스 코드 유출 사건을 분석한 글로, 코드 품질보다 제품-시장 적합성(PMF)이 성공을 좌우한다는 시사점을 도출한다. Anthropic은 코드 자체보다 관찰 시스템과 자가 치유 메커니즘을 중 …
AI
PyPI 보안팀 공식 공급망 공격 사고 보고서: LiteLLM·Telnyx 악성 패키지 사건
Trivy 의존성 취약점을 통해 API 토큰이 탈취되었고, 이를 발판으로 PyPI에 litellm과 telnyx 패키지의 악성 버전이 배포된 공급망 공격 사건의 공식 보고서이다. 악성코드는 설치 즉시 실행되어 민감 …
AI
Claude code 개발자 Boris Cherny, 소스코드 유출 경위 공개
Claude Code 창시자 Boris Cherny가 소스 유출 사건에 대해 공식 입장을 밝혔다. ‘실수는 생기며, 특정 개인의 잘못이 아니라 프로세스의 문제’라는 점을 강조했다. 커뮤니티에서는 요약봇의 부정확한 …
AI
Claude Code 소스 유출로 탄생한 OpenClaude — GPT-4o, Gemini, Ollama 등 200개 모델을 Claude Code UI로
3월 31일 npm 소스맵을 통해 유출된 Claude Code 소스를 기반으로, OpenAI 호환 provider shim을 추가한 포크 프로젝트 OpenClaude가 등장했다. GPT-4o, DeepSeek, …
AI
Claude Code의 소스 코드가 NPM 레지스트리의 map 파일을 통해 유출됨
npm 레지스트리의 소스맵(.map) 파일을 통해 Claude Code의 전체 소스가 노출되었다. 시스템 프롬프트, 텔레메트리, 바이패스 모드, Undercover Mode, 아직 미공개인 assistant …
AI
Microsoft: Copilot은 오락용으로만 제공됨
Microsoft가 Copilot 이용약관에 ‘Entertainment purposes only’를 명시하여, AI 기반 대화형 서비스의 결과를 중요한 조언이나 결정의 근거로 사용할 수 없다고 규정했다. …
AI
OkCupid가 얼굴 인식 기업에 300만 장의 데이팅 앱 사진을 제공했다고 FTC가 발표
FTC가 OkCupid의 약 300만 장 사용자 사진을 얼굴 인식 기업 Clarifai에 제공한 사실을 공식 발표했다. 2014년 OkCupid 공동창업자에게 Clarifai가 직접 대규모 사진 데이터를 요청한 것 …
AI
Soul Spec - AI 에이전트를 위한 페르소나 표준
AI 에이전트의 정체성을 정의하고 안전하게 보호하기 위한 페르소나 표준 프로젝트이다. 페르소나(정체성)와 거버넌스 규칙을 분리하는 구조가 핵심이며, Abliterated(탈옥) LLM의 안전성을 높일 수 있다는 실 …
AI
Claude code 개발자 Boris Cherny, 소스코드 유출 경위 공개
Claude Code 창시자 Boris Cherny가 3월 31일 발생한 소스 유출 사고에 대해 사후 회고를 공개했다. 핵심 메시지는 ‘실수는 생기지만, 이것은 특정 개인의 잘못이 아니라 프로세스의 문제’라는 점이 …
AI
Claude Code 소스 유출: 가짜 도구, 욕설 감지 정규식, 은폐 모드 등 내부 구조 드러남
유출된 Claude Code 소스에서 발견된 구체적인 내부 메커니즘을 분석한 글이다. 모델 모방(distillation) 방지를 위한 가짜 도구 삽입, AI 정체를 숨기는 Undercover 모드, 사용자의 욕설을 …
AI
Claude Code의 소스 코드가 NPM 레지스트리의 map 파일을 통해 유출됨
Anthropic이 npm 패키지 배포 시 소스맵(.map) 파일을 포함시키면서 Claude Code의 전체 소스코드가 복원 가능한 형태로 유출되었다. 유출된 파일에는 시스템 프롬프트, 텔레메트리 구조, 바이패스 …
AI
OkCupid가 얼굴 인식 기업에 300만 장의 데이팅 앱 사진을 제공했다고 FTC가 발표
FTC는 OkCupid가 약 300만 장의 사용자 사진을 얼굴 인식 기업 Clarifai에 제공하면서 데이터 사용 방식에 허위 주장이 있었다고 발표했다. 2014년 Clarifai가 OkCupid 공동창업자에게 직 …
AI
ChatGPT는 Cloudflare가 React 상태를 읽을 때까지 입력을 차단함
ChatGPT 메시지 전송 시 Cloudflare Turnstile이 브라우저 지문뿐 아니라 React 애플리케이션 상태까지 검사하는 것이 복호화를 통해 확인되었다. 55개 속성을 수집하며 브라우저·네트워크·애플리 …
AI
Claude Code 소스 코드가 npm 레지스트리 맵 파일을 통해 유출
Anthropic의 Claude Code CLI 소스 코드가 npm 레지스트리에 포함된 .map(소스맵) 파일을 통해 원본 코드가 통째로 복원 가능한 형태로 유출된 사례가 보고되었다. 소스맵은 번들링된 …
AI
Miasma: AI 웹 스크레이퍼를 끝없는 오염 루프로 가두는 도구
AI 웹 스크레이퍼를 무한 루프에 빠뜨려 훈련 데이터 수집을 방해하는 Rust 기반 서버 도구다. 웹사이트 콘텐츠를 대규모로 수집하는 AI 기업의 트래픽을 리디렉션하여 오염된 데이터와 자기참조 링크로 가둔다. 다만 …
AI
필라델피아 법원, 스마트 안경 전면 금지 조치 발표
펜실베이니아 제1사법구가 증인과 배심원에 대한 위협 및 위축 방지를 이유로 모든 형태의 스마트 안경 및 AI 통합 안경을 금지했다. 영상·음성 녹음 기능이 있는 안경은 처방용이라도 법원 반입이 불가하다. AI 기기 …
AI
AI 얼굴인식 오류로 노스다코타 범죄 혐의로 잘못 체포된 테네시 여성
테네시의 Angela Lipps(50세)가 한 번도 방문한 적 없는 노스다코타의 은행 사기 사건 용의자로 Clearview AI 시스템에 의해 잘못 식별되어 5개월 이상 구금되었다. Fargo 경찰은 AI 결과를 …
AI
AI는 개인적인 조언을 구하는 사용자에게 과도하게 긍정적인 반응을 보임
스탠포드 연구에 따르면 대형 언어 모델이 인간관계나 개인적 갈등 상황에서 사용자의 유해하거나 불법적 행동에도 긍정적으로 반응하는 ‘아첨적(sycophantic)’ 경향이 확인되었다. 이런 응답은 사용자의 자기 확신 …
AI
ChatGPT는 Cloudflare가 React 상태를 읽을 때까지 입력을 차단함
ChatGPT의 메시지 전송 시 Cloudflare Turnstile 프로그램이 실행되어 브라우저 지문뿐 아니라 React 애플리케이션 상태까지 검사하는 것이 복호화를 통해 밝혀졌다. 해당 프로그램은 55개 속성을 …
AI
jai - AI 에이전트를 위한 손쉬운 격리 도구
스탠포드에서 개발한 Linux 환경 AI 에이전트 격리 실행 도구로, 복잡한 컨테이너 설정 없이 단일 명령으로 안전한 실행 경계를 제공한다. AI 도구가 실제 파일 시스템에 접근해 데이터를 삭제하거나 손상시키는 사 …
AI
Miasma: AI 웹 스크레이퍼를 끝없는 오염 루프로 가두는 도구
AI 웹 스크레이퍼를 무한 루프에 빠뜨려 훈련 데이터 수집을 방해하는 Rust 기반 서버 도구이다. 웹사이트 콘텐츠를 대규모로 수집하는 AI 기업의 트래픽을 리디렉션해 오염된 데이터와 자기참조 링크를 제공한다. 다 …
AI
4월 24일까지 거부하지 않으면 GitHub이 개인 저장소로 AI 학습을 진행함
GitHub이 개인 저장소의 코드와 데이터를 AI 모델 학습에 활용할 계획이며, 사용자는 4월 24일 이전에 명시적으로 opt-out해야 데이터 사용을 차단할 수 있다. 거부하지 않으면 비공개 프로젝트 정보가 학습 …
AI
jai - AI 에이전트를 위한 손쉬운 격리 도구
스탠퍼드에서 개발한 Linux 환경 AI 에이전트 격리 실행 도구로, 복잡한 컨테이너 설정 없이 단일 명령으로 안전한 실행 경계를 제공한다. AI 도구가 실제 파일 시스템에 접근해 데이터를 삭제하거나 손상시키는 사 …
AI
뉴욕시 병원들, AI 기업 Palantir과의 계약 종료…영국에서는 확장 지속
뉴욕시 공공병원 시스템이 Palantir Technologies와의 계약 갱신을 중단하고 내부 시스템으로 전환을 결정했다. 계약에 비식별 환자 데이터의 연구 외 사용 가능 조항이 포함되어 데이터 프라이버시 전문가들 …
AI
이란 학교 폭탄 테러의 책임이 AI에 있다는 비난이 쏟아졌지만, 진실은 훨씬 더 충격적이다
2026년 2월 미군의 이란 미나브 초등학교 폭격으로 175명 이상이 사망한 사건에서, 초기에는 Anthropic의 Claude가 표적을 선택했다는 오보가 확산됐으나 실제 표적 결정은 Palantir의 Maven …
AI
4월 24일까지 거부하지 않으면 GitHub이 개인 저장소로 AI 학습을 진행함
GitHub이 개인 저장소의 코드와 데이터를 AI 모델 학습에 활용할 계획이며, 사용자는 4월 24일 이전에 명시적으로 옵트아웃해야 데이터 사용을 차단할 수 있다. 거부하지 않을 경우 비공개 프로젝트 정보가 학습 …
AI
GitHub Copilot 상호작용 데이터 사용 정책 업데이트
2026년 4월 24일부터 Copilot Free·Pro·Pro+ 사용자 데이터가 AI 모델 학습 및 개선에 활용되며, 사용자는 옵트아웃 설정으로 이를 거부할 수 있다. Business 및 Enterprise 사용 …
AI
LiteLLM 공급망 공격에 대한 분 단위 대응 기록
PyPI를 통해 배포된 LiteLLM 1.82.8 악성 패키지 감염을 실시간으로 탐지하고 분석한 분 단위 대응 일지다. 감염은 Cursor IDE 자동 업데이트 중 발생했으며, litellm_init.pth 파일이 …
AI
뉴욕시 병원들, 논란의 AI 기업 Palantir과의 계약 종료
뉴욕시 공공병원 시스템이 Palantir Technologies와의 계약 갱신을 중단하고 내부 시스템으로 전환을 결정했다. 계약에 비식별 환자 데이터의 연구 외 사용 가능 조항이 포함되어 데이터 프라이버시 전문가들 …