JEV 개념 정리와 두 오픈소스 구현 비교
JEV는 TypeSafe AI가 제시한 시스템 원(System One) 모델의 이름입니다. 회사는 이를 “구조화되지 않은 상태가 들어가고,...
LLM보안
개인정보 감별사가 된 AI (상대적 중요성-유출&비용)
IT 현장에서 보안 엔지니어로 일하다 보면 가끔 이런 생각이 듭니다. 신기술이 쏟아져 나오는 속도에 비해,...
DevOps에서 MLOps, 그리고 LLMOps까지의 취약점의 진화
DevOps에서 MLOps 까지는 그래도 조금 개념을 이해하고 있는데 LLMOps는 사실 잘 모르겠습니다. DevOps에서 MLOps도 개념대로...
[The AI Shield 1] 프롬프트 인젝션 방어 설계 – 시스템 설정 및 필터링
개인적으로 보안 업계에 있으면 이와 같이 큰 변화를 보고 개발해보고 평가 할 수 있게 되서...
탈옥과 프롬프트 주입의 진화: AI 가드레일을 무력화하는 적대적 7가지 공격 시나리오
나름 20여년을 기업에서 보안의 다양한 분야를 경험했습니다. 그런데 레드팀을 직접 해본적이 없었습니다. 그냥 툴을 사용하거나...
대규모 언어 모델(LLM) 보안 체계 분석 Step 2 – OWASP Top 10
시리즈 서론: 인공지능 인프라의 확산과 새로운 보안 패러다임의 출현 대규모 언어 모델(LLM)은 단순히 업무를 보조하는...