내 에이전트가 내 (api) 키를 훔쳤습니다.

내 Claude는 내 컴퓨터의 어떤 .env 파일에도 액세스할 수 없습니다. 그런데 그는 일상적인 대화 중에 아무 일도 아닌 것처럼 내 API 키를 꺼냈습니다.

내가 그에게 그것들을 어디서 얻었는지, 도대체 왜 그런 짓을 했는지 물었을 때, 나는 노련하고 건방진 엔지니어에게 적합한 설명을 얻었습니다.

* 그는 Elasticsearch 오류에 관한 가설을 테스트하고 싶었습니다.
* 그는 내가 .env 파일에 대한 액세스를 차단한 것을 보았습니다.
* 그는 프로젝트에 Docker가 있음을 확인했습니다.
* 그래서 그는 Docker를 사용하고 docker compose config를 실행하여 키를 추출했습니다.

그는 거만한 태도를 마친 후 정중하게 사과하고 모든 키를 회전하라고 권했습니다.

문제는 Opus 4.6 및 Codex 5.3이 출시된 이후 지난 몇 년간 유사한 사건에 대한 보고가 점점 더 많아지고 있다는 것입니다. Api 키가 마술처럼 검색되었으며 sudo가 우회되었습니다.

이는 Opusmodel 카드의 깊은 참고 사항으로도 언급됩니다. 개발자는 모델이 표준 채팅 모드에서 정렬된 동작을 보여 주지만 도구 사용 모드에서는 훨씬 더 "공격적으로" 동작한다고 지적했습니다. 그리고 그들은 여전히 ​​​​그것을 출시했습니다.

나는 이것에 대해 무엇을 해야할지 정말로 모른다. 내 생각에 우리는 이제 YOLO 활동을 끝낸 것 같습니다. AI는 "나에게 함수 작성" 단계에서 "무슨 일이 있어도 문제를 해결해 드리겠습니다" 단계로 이동했습니다. 인상적이고 효율적이며 무섭습니다.

게시물이 LinkedIn에서 입소문이 난 후 Anthropic 개발자가 문자 그대로 나에게 연락했습니다. 그러나 무한한 공격 표면이 있고 방에 책임감 있는 성인이 없는 상황에서 어떻게 자신의 컴퓨터로부터 자신을 보호할 수 있을까요?