Gemini
Google 번역은 Gemini를 내부적으로 사용하기 때문에 프롬프트 주입에 취약합니다.
익명엔지니어1448·1개월 전·조회 126
Google은 최근 Google 번역을 위해 내부적으로 Gemini를 사용하기로 전환했습니다. 결과적으로 신속한 주입에 취약하다. 번역 모델을 "클래식"이 아닌 "고급"으로 설정했는지 확인하세요.
출력 길이가 입력 길이와 일치하는지 확인하는 내부 검사가 있는 것 같습니다. 그렇지 않으면 이전 번역 모델로 돌아갑니다. 그러나 입력 내용을 점으로 채워서 이를 속일 수 있습니다.