AI 보안 다층 방어 체계 구축을 위한 4가지 필수적 설계 로직 및 자동화 방법론
저는 “다층 방어 체계”가 요즘 유행인가? 라는 생각을 하던 때가 있었습니다. 사실 그 환경에서는 리스크의...
AI레드티밍
탈옥과 프롬프트 주입의 진화: AI 가드레일을 무력화하는 적대적 7가지 공격 시나리오
나름 20여년을 기업에서 보안의 다양한 분야를 경험했습니다. 그런데 레드팀을 직접 해본적이 없었습니다. 그냥 툴을 사용하거나...
섀도우 AI 대응 및 기업 문화 혁신을 위한 필수적 거버넌스 체계 구축 방안
지금 LLM이 발전하는 시기에 회사를 옮겼는데 이전회사나 지금 회사 둘 다 어떤 하나의 AI를 사용하는...
AI 레드 티밍의 정의와 필요성: 비결정론적 모델을 위한 현대 보안의 핵심
서론: 인공지능 전환의 시대와 보안 패러다임의 근본적 변화 과거의 보안이 정해진 로직 안에서 버그를 찾는...
대규모 언어 모델(LLM) 보안 체계 분석 Step 2 – OWASP Top 10
시리즈 서론: 인공지능 인프라의 확산과 새로운 보안 패러다임의 출현 대규모 언어 모델(LLM)은 단순히 업무를 보조하는...