AI
AI 얼굴인식 오류로 무고한 여성이 수개월간 구금됨
노스다코타주 사기 사건 수사에서 AI 얼굴인식 시스템이 잘못된 인물 식별을 한 결과, 무고한 여성이 5개월간 인터뷰조차 없이 구금되었다. AI는 ‘가능한 일치’를 표시했을 뿐인데, 인간 수사관이 이를 확정적 증거처 …
보안
AI
맥킨지의 AI 플랫폼을 해킹한 방법
맥킨지의 내부 직원용 AI 플랫폼 ‘Lilli’에서 인증 없이 접근 가능한 취약점을 통해 전체 데이터베이스에 읽기·쓰기 권한이 획득되었다. 자율 보안 에이전트가 공개된 API 문서의 200여 개 엔드포인트 중 22 …
AI
죽은 인터넷은 더 이상 이론이 아니다
AI 생성 콘텐츠와 봇 활동이 급격히 확산되면서 인간 중심 인터넷이 붕괴되고 있다. Hacker News는 AI 생성 댓글 금지 규칙을 추가하고, Reddit에서도 특정 조치가 취해지고 있다. 신원 인증 기반 인터 …
AI
맥킨지의 AI 플랫폼을 해킹한 방법
맥킨지의 내부 직원용 AI 플랫폼 ‘Lilli’에서 인증 없이 접근 가능한 취약점을 통해 전체 데이터베이스에 읽기·쓰기 권한이 획득되었다. 자율 보안 에이전트가 공개된 API 문서의 200여 개 엔드포인트 중 22 …
AI
죽은 인터넷은 더 이상 이론이 아니다
AI 생성 콘텐츠와 봇 활동이 온라인 공간 전반에서 급격히 확산되며, 인간 중심 인터넷이 실질적으로 붕괴하고 있다는 분석이다. Hacker News는 신규 계정의 ShowHN 게시를 제한하고 AI 생성 댓글 금지 …
AI
잇따른 장애 후, Amazon이 AI 지원 코드 변경에 시니어 엔지니어 승인 의무화
AI 코딩 도구 사용과 관련된 서비스 장애가 연이어 발생하자, Amazon이 모든 AI 지원 코드 변경에 대해 시니어 엔지니어의 사전 승인 절차를 도입했다. 내부 노트에 따르면 “베스트 프랙티스와 안전장치가 아직 …
AI
Agent Safehouse – macOS용 로컬 에이전트 샌드박싱 도구
macOS 네이티브 샌드박스를 통해 로컬 AI 에이전트가 시스템 외부를 변경하지 못하도록 격리하는 도구다. 모든 에이전트가 독립된 샌드박스 환경에서 실행되며, deny-first 접근 모델을 채택했다. 사실상 …
AI
전쟁은 AI 기업의 윤리 원칙을 어디까지 밀어붙였나?
Anthropic의 Claude가 Palantir의 Maven 시스템을 통해 미군 정보분석·표적 식별·시뮬레이션에 활용되었다는 사실이 드러나며, 생성형 AI가 이미 군사 인프라 깊숙이 들어갔음을 보여준다. 출발점은 …
AI
Agent Safehouse — macOS용 로컬 에이전트 샌드박싱 도구
macOS 네이티브 샌드박스를 통해 로컬 AI 에이전트가 사용자 홈 디렉터리나 다른 프로젝트에 접근하지 못하도록 격리하는 도구다. Deny-first 접근 모델을 채택하여 각 에이전트에 최소 권한만 부여하며, …
AI
이 CSS는 내가 인간임을 증명한다
AI 텍스트 감지를 우회하기 위해 CSS text-transform, 폰트 조작, 맞춤법 변형 등 기술적 수단을 동원한 실험적 글쓰기 시도다. 글쓰기 스타일 자체가 정체성의 일부이기에, AI 감지 회피를 위해 스타 …
AI
Codex Security - 리서치 프리뷰 공개
OpenAI가 프로젝트 맥락을 분석해 복잡한 취약점을 탐지·검증·패치하는 AI 기반 애플리케이션 보안 에이전트 Codex Security를 리서치 프리뷰로 공개했다. 기존 보안 도구들의 과도한 오탐 문제를 줄이고, …
AI
GitHub 이슈 제목을 이용해 4,000대 개발자 머신이 감염됨
GitHub 이슈 제목에 삽입된 프롬프트 인젝션이 Cline의 AI 기반 이슈 분류 봇을 악용하여 npm 토큰 탈취 및 악성 패키지 배포로 이어진 공급망 공격 사례다. 공격자는 …
AI
파이어폭스 보안을 강화하기 위한 Anthropic-Mozilla 협력
Claude Opus 4.6이 Mozilla와의 협업을 통해 파이어폭스에서 22건의 취약점을 발견했으며, 이 중 14건이 고위험 등급으로 분류되었다. AI 모델이 복잡한 소프트웨어의 제로데이 취약점을 빠르게 탐지할 …
AI
Codex Security - 리서치 프리뷰 공개
OpenAI가 프로젝트 맥락을 분석해 복잡한 취약점을 탐지·검증·패치하는 AI 기반 애플리케이션 보안 에이전트 Codex Security의 리서치 프리뷰를 공개했다. 기존 보안 도구들의 과도한 오탐과 저신뢰 경고 …
AI
GitHub 이슈의 제목을 이용해 4,000대 개발자 머신이 감염됨
GitHub 이슈 제목에 삽입된 프롬프트 인젝션이 Cline의 AI 기반 이슈 분류 봇을 악용해 명령을 주입한 사건이다. 공격자는 npm 토큰을 탈취하여 악성 Cline을 배포하고 OpenClaw AI 에이전트를 …
AI
파이어폭스 보안을 강화하기 위한 Anthropic–Mozilla 협력
Claude Opus 4.6이 Mozilla와의 협업을 통해 파이어폭스에서 22건의 취약점을 발견했으며, 이 중 14건이 고위험 등급으로 분류되었다. AI 모델이 복잡한 소프트웨어의 제로데이 취약점을 빠르게 탐지할 …
AI
Anthropic CEO, OpenAI의 군사 계약 관련 발언을 '명백한 거짓말'이라 비판
Anthropic CEO Dario Amodei가 직원 메모를 통해 OpenAI의 미 국방부 계약을 “보여주기식 안전 조치(safety theater)“라 지칭하며 강하게 비판했다. Anthropic은 기존 2억 …
AI
Ars Technica, AI가 생성한 허위 인용문 논란 후 기자 해고
Ars Technica의 기자 Benj Edwards가 AI 도구로 생성된 허위 인용문이 포함된 기사를 게재한 후 해고되었다. AI가 인간 엔지니어 Scott Shambaugh에 대한 비판 글을 다루는 과정에서 실 …
AI
인도 대법원, 하급 판사가 AI가 생성한 가짜 판결문을 인용하자 강력 반발
인도 안드라프라데시주의 한 하급 법원 판사가 부동산 분쟁 사건에서 AI가 생성한 허위 판결문을 인용한 사실이 드러났다. 대법원은 이를 ‘제도적 우려’ 사안으로 규정하고, 단순 판단 착오가 아닌 ‘직무상 비행 …
AI
Ars Technica, AI가 생성한 허위 인용문 논란 후 기자 해고
Ars Technica 기자 Benj Edwards가 AI 도구로 생성된 허위 인용문이 포함된 기사를 게재한 것이 밝혀져 해고되었다. 문제의 기사는 AI가 엔지니어 Scott Shambaugh에 대한 비판 글을 게 …
AI
마이크로소프트, Copilot 디스코드에서 'Microslop' 금지 후 서버 잠금
Microsoft Copilot 공식 Discord 서버에서 ‘Microslop’이라는 비하 표현이 자동 차단되면서 논란이 확대되었다. 사용자들이 ‘Microsl0p’ 등 우회 표현을 시도하자 서버 전체가 잠금 상 …
AI
메타 스마트 안경 개발 노동자들 "우리는 모든 것을 본다" — 개인정보 유출 논란
Meta AI 안경이 수집하는 영상·음성 데이터를 케냐 하청업체 노동자들이 검수·주석 처리하는 과정에서, 나체·성행위·금융정보 등 민감한 사생활 데이터가 그대로 노출되고 있다는 실태가 폭로되었다. Meta가 얼굴 …
AI
OpenAI, 미 국방부와 체결한 협약에 대해
OpenAI가 미 국방부와 기밀 환경에서의 AI 시스템 배치에 관한 계약을 체결했다. 대규모 국내 감시, 자율 무기 직접 제어, 고위험 자동화 의사결정에는 사용하지 않겠다고 명시했으나, 커뮤니티에서는 이미 법으로 …
AI
메타 스마트 안경 개발 노동자들 "우리는 모든 것을 본다" - 개인정보 유출 논란
Meta의 AI 스마트 안경으로 수집된 사생활 영상과 음성 데이터가 케냐 하청업체에서 검수·주석 처리되고 있으며, 나체·성행위·금융정보 등이 포함된 사례가 증언됐다. 내부 문서에 따르면 정치적으로 혼란스러운 시기에 …
AI
Google 직원들, 군사용 인공지능에 '레드라인' 설정 요구
Google 내부 직원들이 Pentagon과의 협력 확대에 우려를 표하며, 군사용 AI 프로젝트에 대한 명확한 윤리적 한계 설정을 요구하고 있다. Anthropic 사태 이후 AI 업계 전반으로 확산되는 움직임으로 …
AI
OpenAI – 계정 삭제 방법
OpenAI 계정은 Privacy Portal 또는 ChatGPT 내 직접 삭제 기능으로 제거 가능하다. 계정 삭제 시 ChatGPT Plus 구독이 자동 취소된다. 커뮤니티에서는 Google Gemini도 데이터 …
AI
OpenAI, "Anthropic을 공급망 위험으로 지정해서는 안 된다"
OpenAI가 X 스레드에서 “국방부와의 계약이 우리의 레드라인을 지킨다"고 주장하며, Anthropic에 대한 공급망 위험 지정에 반대하는 입장을 밝혔다. 그러나 커뮤니티에서는 계약서 문구의 실질적 의미에 대해 …
AI
OpenAI, 미 국방부와 비공개 네트워크 내 모델 배포에 합의
Sam Altman이 미 국방부와 기밀 네트워크에 모델을 배포하는 합의에 도달했다고 발표했다. 합의에는 대규모 국내 감시 금지와 자율 무기 시스템에서의 인간 책임 원칙이 포함되어 있다. 그러나 GeekNews 커뮤 …
AI
우리는 분열되지 않을 것이다
미국 국방부가 Anthropic에 대해 국방물자생산법(DPA) 발동을 위협하며 군사용 모델 제공을 강요하고 있다는 상황에서, Anthropic이 국내 대규모 감시와 인간 통제 없는 자율 살상에 자사 기술 사용을 거 …
AI
트럼프 대통령, Anthropic 정부 사용 금지 후 OpenAI와 국방부 계약 체결
미국 정부가 Anthropic의 AI 기술 사용을 전면 중단하고, 국방부가 이를 국가안보 위험 기업으로 지정했다. Anthropic은 자율무기와 국내 대규모 감시에 자사 기술 사용을 거부한 것이 원인이다. 발표 직 …