Originally published at: 에이전틱 AI 보안: 시맨틱 프롬프트 인젝션이 AI 안전장치를 우회하는 방법 - NVIDIA Technical Blog
Prompt injection은 공격자가 입력값을 조작하여 거대 언어 모델이 의도하지 않은 방식으로 작동하게 만드는 기법으로, LLM이 도입된 초기부터 AI 시스템에 위협이 되어 왔습니다. 방어 기술이 텍스트 기반 공격에 대한 보안을 강화하는 데 진전을 이루었지만, 멀티모달 및 에이전트 기반 AI로의 전환은 공격 표면을 빠르게 확장시키고 있습니다. 이러한 상황에서 Red Teaming이 중요한 역할을 합니다. NVIDIA AI Red Team은…