1. 개요
Security GuardrailsLLM의 개발, 배포 및 운영 과정에서 보안성과 신뢰성을 유지하기 위해 설계된 보호 장치. 개발자와 운영팀이 보안 규정을 준수하면서도 자유롭게 작업할 수 있도록 클라우드 환경, DevSecOps, 데이터 보호 등에서 활용된다. 수동 감사를 최소화하고, 자동화된 정책 적용을 통해 보안과 생산성의 균형을 맞추는 것이 핵심이다.
2. 필요성
대규모 언어 모델(LLM)은 학습, 배포, 운영 과정에서 다양한 보안 위협에 노출될 수 있다. 주요 문제는 다음과 같다.• 환각(Hallucination): 존재하지 않는 정보를 사실처럼 생성하는 문제로, 특히 의료, 법률, 금융 등 신뢰성이 중요한 분야에서 문제가 될 수 있다.
• 데이터 유출: 학습 과정에서 개인정보나 민감한 데이터를 포함할 위험이 있으며, 특정 입력에 의해 유출될 가능성이 있다.
• 악의적 조작: 특정 입력 패턴을 이용해 모델을 조작하여 유해한 콘텐츠를 생성하거나, 의도적인 오작동을 유발할 수 있다.
• 적대적 공격(Adversarial Attack): 특정 입력값을 통해 모델이 원하지 않는 출력을 생성하거나, 내부 정보를 추출하려는 시도가 발생할 수 있다.
이러한 위협을 방지하기 위해 지속적인 보안 강화와 AI 안전성 확보가 필요하다.