실시간TAG
#이벤트 #조텍 #엔비디아 #AI
공지
이벤트
특집/기획
뉴스/정보
커뮤니티
질문/토론
빌런크루
빌런포럼
장터/핫딜
브랜드로그
운영공지 이용가이드
이벤트 체험단 모집 특가 이벤트 당첨/발표
리뷰
CPU/MB VGA 메모리/스토리지 케이스/파워/쿨러 노트북/PC 가전/음향 공유기/주변기기 키보드/마우스 가젯 (gadget)
취재현장
컴퓨텍스 지스타 일러스타페스 기자간담회 팝업스토어 다나와 아카데미 B컷 인터뷰 영상 수컷학개론 라떼는 르포/기획 사건/사고 지름신 데스크테리어 18+
기술
가전 모바일 컴퓨터 전자부품 카메라 과학 인공지능 블록체인 반도체 보안
산업
건설 부동산 에너지 제조 항공우주 유통
문화/연예
공연 예술 방송 영화 출판 음악
생활
가구 결혼 미용 반려동물 쇼핑 주류 여행
건강
의료 제약 병원 식품
금융/경제
창업 노동 프랜차이즈 보험/연금 암호화폐 금융/은행 사회 게임 스포츠 레트로 자동차
18+뉴스
상품/홍보
자유게시판
출석/가입 일상/생활 이슈/논란 여행/맛집 상품/홍보 취미/교양
유머게시판
유머 감동
리뷰/사용기
그래픽카드 시피유/메인보드 디스플레이 전원공급장치 메모리/스토리지 케이스/쿨링 키보드/마우스 기타 주변기기 노트북/PC 팁/강좌 구매/체험 모바일/스마트폰
갤러리
데스크셋업 DIY/튜닝 일상/여행/맛집 행사/축제 버그/건의
18+게시판
AI이미지 후방/은꼴 야설/망가 연예인 인플루언서/BJ 성인정보 18+질문
질문/답변
일반/상식 조립/견적 쇼핑/장소 휴대폰구매 인터넷신청 법률/전문지식 고민상담
토론
설문조사 주제토론
H/W포럼
PC/노트북 모바일/태블릿 TV/음향 영상/카메라 생활/주방가전
게임포럼
온라인게임 PC게임 콘솔게임 모바일게임 e스포츠/대회
투자포럼
주식 부동산 전자화폐
스포츠포럼
축구 야구 이종격투기 기타 스포츠
컬쳐포럼
영화 드라마 애니 만화/웹툰 문학/소설 공연
여행포럼
국내여행 해외여행 캠핑/아웃도어 축제/행사
개발포럼
개발뉴스 개발 팁/강좌
18+포럼
전자담배 성인용품 캣파이트 도색잡지
핫딜정보
PC/가전핫딜 게임/SW핫딜 취미용품핫딜 기타핫딜 인터넷가입 휴대폰특가
중고장터
팝니다 삽니다 무료나눔
공지
이벤트
특집/기획
18+
뉴스/정보
커뮤니티
질문/토론
빌런크루
빌런포럼
장터/핫딜
브랜드로그
빌런 TOP 20
일간 l 주간 l 월간
1
[컴퓨터] 마이크로닉스, ASTRO II PT PLATINUM ATX 3.1 할인
2
[컴퓨터] 대원씨티에스, NZXT 컴팩트 미들타워 케이스 'S5 RGB' 시리즈 출시
3
[게임] 스틸시리즈, 퀵스위치 도크 기반 컨트롤러 ‘이온 프로’ 출시
4
[컴퓨터] 엔비디아, ‘더 위쳐 3: 와일드 헌트 – 리마스터드’ 등 최신 게임에 DLSS 적용 확대
5
[미용] 에누리 가격비교, 가을철 향수 수요 증가…‘우디∙앰버 향 인기’
6
[컴퓨터] 에이수스, 영재컴퓨터와 ROG 파트너십 체결
7
[전자부품] 에버, HUB 시리즈 5년 보증 제공… 하이브리드 업무 환경 위한 장기 지원 강화
8
[카메라] 니콘 풀프레임 미러리스 카메라 ‘Z5IIC’ 발표
9
[일상/생활] 그새 다시 더워졌네요
10
[컴퓨터] 엔비디아, ‘컨트롤 레조넌트’에 패스 트레이싱·DLSS 4.5 지원
11
[컴퓨터] 마이크로닉스 ‘ASRock PSU MEGA 세일 페스티벌’ 진행
12
[컴퓨터] 인사이 음식물처리기 쏜다! 탁탁몰, 한글날 기념 ‘우리말 대잔치’ 이벤트 진행
13
[컴퓨터] 컬러풀, 140W GaN 멀티 충전기, iGame Guard G114 출시
14
[후방/은꼴] 유요 거울 셀카.
15
[이슈/논란] "반도체 팹 옆에 아파트 지으면 안됩니다"
16
[인공지능] 에티나, 협동로봇·휴머노이드 로봇용 플래그십 엣지 AI 시스템 ‘AIE-KT78/68’ 출시
17
[게임] 아이피타임, 추석맞이 ipTIME 홈캠 클라우드 구독료 ‘반값 이벤트’
18
[사회] 이엠텍, 창립 23주년 기념 ‘이엠페’ 스팀월렛부터 주차별 특별 경품까지 푸짐한 혜택
19
[일상/생활] 시카고 근교 휴게소에서 보낸 밤
20
[산업] 커넥트웨이브, 전문무역상사로서 글로벌 판매 지원…메이크샵 글로벌 D2C 사업 강화
1
[컴퓨터] 아아피타임, USB Type-C·A 겸용 기가비트 유선랜·USB 3.0 허브 ‘ipTIME U1003CA’ 출시
2
[컴퓨터] 마이크로닉스, ASTRO II PT PLATINUM ATX 3.1 할인
3
[게임] 스틸시리즈, ‘오버워치 멸망전’ 공식 스폰
4
[자동차] 플레이오토 ‘2026 코리아 이커머스 페어’ 성료…AI 자동화 솔루션 관심 집중
5
[산업] 커넥트웨이브, 전문무역상사로서 글로벌 판매 지원…메이크샵 글로벌 D2C 사업 강화
6
[사회] 컬러풀, 추석맞이 ‘AI로 그려낸 한가위’ AI 제품 이미지 공모전 개최
7
[미용] 에누리 가격비교, 가을철 향수 수요 증가…‘우디∙앰버 향 인기’
8
[컴퓨터] 제이씨현시스템, GIGABYTE 그래픽카드·메인보드 대상 ‘해피 한-가위’ 프로모션
9
[인공지능] 엔비디아, AI 인프라 서밋서 베라 루빈·DSX 기반 AI 팩토리 전력 효율 혁신 공개
10
[가전] 셰에라자드, 에이유엔이 포터블 헤드폰 앰프 ‘BX2 Magnum’ 출시
11
[컴퓨터] 에이수스, 영재컴퓨터와 ROG 파트너십 체결
12
[모바일] 다나와, 성숙기 접어든 이어폰 시장서 프리미엄 제품 소비 확대
13
[생활] 에누리 가격비교 ‘뷰티 디바이스 전문관’ 오픈…피부 디바이스·화장품 추천
14
[인공지능] 에티나, 엔터프라이즈 AI 구축 위한 ‘MegaEdge AIP-RQ87’ 출시
15
[컴퓨터] 대원씨티에스, NZXT 컴팩트 미들타워 케이스 'S5 RGB' 시리즈 출시
16
[컴퓨터] 엔비디아, ‘컨트롤 레조넌트’에 패스 트레이싱·DLSS 4.5 지원
17
[가전] 파나소닉코리아, 테크닉스 한정판 턴테이블 ‘SL-1200M7G’ 출시
18
[가전] 서린익스프레스몰, 가을 맞이 서린 달맞이축제서 최대 40% 할인
1
[컴퓨터] 에이서, IFA 2026서 신제품 대거 공개… 799g 초경량 노트북부터 AI·게이밍까지
2
[컴퓨터] 서린씨앤아이, 컴퓨존서 HYTE Y60 스노우 화이트 PC 주말 특가
3
[컴퓨터] 와이파이6 대응 크래들 일체형 공유기 ‘아이피타임 AX3000plus’ 출시
4
[컴퓨터] '골드 가격에 만나는 플래티넘' 마이크로닉스, COOLMAX P-1050W ATX 3.1 특가 행사 진행
5
[컴퓨터] 마이크로닉스, ASTRO II PT PLATINUM ATX 3.1 할인
6
[게임] 스틸시리즈, ‘오버워치 멸망전’ 공식 스폰
7
[건강] 에누리 가격비교, 올해 추석 선물은 ‘건강’과 ‘실속’
8
[자동차] 플레이오토 ‘2026 코리아 이커머스 페어’ 성료…AI 자동화 솔루션 관심 집중
9
[산업] 커넥트웨이브, 전문무역상사로서 글로벌 판매 지원…메이크샵 글로벌 D2C 사업 강화
10
[사회] 컬러풀, 추석맞이 ‘AI로 그려낸 한가위’ AI 제품 이미지 공모전 개최
11
[컴퓨터] 벤큐 조위, 4K 무선 게이밍 마우스 FK1-DW 및 ZA12-DW 출시
12
[미용] 에누리 가격비교, 가을철 향수 수요 증가…‘우디∙앰버 향 인기’
13
[컴퓨터] 제이씨현시스템, GIGABYTE Gen3 NVMe SSD V2 256GB 출시
14
[컴퓨터] 제이씨현시스템, GIGABYTE 그래픽카드·메인보드 대상 ‘해피 한-가위’ 프로모션
15
[인공지능] 엔비디아, AI 인프라 서밋서 베라 루빈·DSX 기반 AI 팩토리 전력 효율 혁신 공개
16
[컴퓨터] 인텔 공인대리점 3사, 인텔 정품 CPU '미래를 위한 선택' 프로모션 실시
17
[자동차] MSI, 한국 전기차 충전 시장 첫 진출 ‘EZgo’ 이동식 전기차 충전기 출시
18
[에너지] 발전·조선해양·정유·수처리 현장의 과제, 밸브 기술에서 해법 찾는다
19
[인공지능] 에티나, 협동로봇·휴머노이드 로봇용 플래그십 엣지 AI 시스템 ‘AIE-KT78/68’ 출시
구매후기 이벤트
전체 l 공지 l 이벤트 l 특집/기획 l 뉴스/정보 l 커뮤니티 l 질문/토론 l 빌런크루 l 빌런포럼 l 장터/핫딜 l 브랜드로그
[컴퓨터] 엔비디아, AI 보안 위한 엔지니어링 접근법 제시… 에이전트 스택 전 계층 보호
엔비디아가 AI 보안을 위한 엔지니어링 접근법을 제시했다. AI 보안은 엔지니어링의 문제다. 이는 명확한 보안 요구사항, 강제 적용 가능한 통제 수단, 명확한 책임 주체, 그리고 보안 조치가 실제로 작동한다는 것을 입증할 수 있는 증거가 필요하다는 의미다. 기술은 변해도 보안의 기본 원칙은 변하지 않는다 인터넷과 클라우드 컴퓨팅은 소프트웨어가 작동하는 방식을 변화시켰지만, 신원을 확인하고, 접근을 제어하며, 노출을 제한하고, 보호 조치가 제대로 작동하는지 검증해야 한다는 핵심 보안 원칙은 여전히 유효하다. AI 에이전트는 추론하고, 도구를 사용하며, 접하는 데이터에 따라 행동을 조정하는 등 새로운 기능을 제공한다. 이러한 기능을 안전하게 활용하기 위해서는 기존에 확립된 보안 원칙을 새로운 운영 환경에 맞게 적용해야 한다. 이처럼 빠른 변화는 조직에 부담으로 작용한다. 조직은 AI가 제공하는 생산성 향상의 이점을 활용하고자 하지만, 이러한 시스템을 관리하고 보호하기 위한 보안 관행은 여전히 발전 중이다. 보안은 전체 에이전트 스택에 달려 있다 애플리케이션은 코드, 데이터, 신원, 서비스, 인프라에 의존한다. 보안은 이러한 구성 요소들이 어떻게 함께 작동하는지에 따라 좌우되며, AI 에이전트는 이러한 시스템을 확장한다. 모델은 기능을 제공하고, 하네스(harness)는 컨텍스트, 도구, 워크플로우를 구성하며, 런타임 환경은 작업이 실행되는 인프라를 제공한다. 이 스택의 각 부분은 각각의 보안 책임을 지닌다. 데이터, 명령, 작업이 시스템을 거쳐 이동하는 과정에서 적절한 보호를 구현하려면 각 계층에 걸쳐 통제 수단을 적용해야 한다. 예를 들어, 고객 정보를 업데이트하는 에이전트가 첨부 문서에서 악의적인 명령을 접한 뒤, 고객 데이터를 승인되지 않은 대상으로 내보내려고 시도할 수 있다. 이 경우 네트워크 정책은 해당 데이터 전송을 차단해야 하며, 보호된 로그에는 도구 호출 시도, 인가 결정, 실행 결과가 기록돼야 한다. 이를 통해 보안 팀은 어떤 도구가 사용됐고, 어느 대상으로 접근을 시도했는지 파악할 수 있다. 고객 정보를 업데이트할 수 있는 권한이 해당 데이터를 외부로 내보낼 수 있는 권한까지 자동으로 확장돼서는 안 된다. 에이전트는 추가 권한을 요청할 수는 있지만, 스스로 해당 권한을 승인할 수는 없다. 에이전트 운영 방식에 보안 내재화하기 에이전트가 잘못된 판단을 내리더라도 보안 경계는 유지돼야 한다. 에이전트가 실행되는 환경은 에이전트가 수행할 수 있는 작업 범위를 결정하므로, 에이전트의 추론과는 독립적으로 파일, 네트워크 대상, 프로세스에 대한 제한을 설정해야 한다. 명령과 안전장치는 행동을 유도하는 데 도움이 될 수 있지만, 보안을 위해서는 실제로 강제 적용할 수 있는 경계 또한 필요하다. 각 에이전트에는 추적 가능한 신원과 할당된 작업 범위로 제한된 자격 증명이 필요하다. 조직은 에이전트가 어떤 정보에 접근할 수 있는지, 어떤 시스템을 변경할 수 있는지, 어떤 작업에 승인이 필요한지를 명확하게 정의한 정책을 마련해야 한다. 이러한 경계 안에서도 중대한 작업이나 권한 변경에는 사람의 승인이 필요하다. 또한 팀은 에이전트가 사용하는 도구, 스킬, 종속 요소의 출처와 무결성을 검증해야 한다. 문제가 발생할 경우, 도구 호출 내역, 인가 결정, 실행 결과에 대한 보호된 기록은 조사자가 사건의 경위를 재구성하는 데 도움이 된다. 접근 권한을 취소하고 사고를 격리하기 위한 명확한 절차가 마련돼 있어야 이러한 증거를 실제 대응 조치로 이어갈 수 있다. 엔비디아 오픈쉘(OpenShell)은 에이전트가 직접 변경할 수 없는 외부 영역에서 정책을 강제 적용하는 오픈 소스 보안 런타임이다. 샌드박스 환경에서 에이전트의 실행을 격리하는 동시에, 데이터와 네트워크, 시스템 리소스에 대한 접근 방식을 제어한다. 오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance) 파트너사들은 오픈쉘을 기반으로 다양한 솔루션을 개발하고 있다. 시스코(Cisco)의 디펜스클로(DefenseClaw)는 거버넌스 계층을 추가하며, 제이프록(JFrog)은 오픈쉘과 통합해 에이전트 스킬을 스캔하고 검증하며, 에이전트가 어떤 스킬에 접근할 수 있는지에 대한 정책을 적용한다. 엔지니어링 팀에는 보안을 입증할 수 있는 증거가 필요하다 배포에 앞서 팀은 적절한 통제 수단이 에이전트의 권한 범위를 넘어서는 자격 증명을 획득하려는 시도나 민감한 데이터를 승인되지 않은 대상으로 전송하려는 시도를 실제로 차단할 수 있다는 증거를 확보해야 한다. 테스트에는 권한 변경을 시도하거나 모니터링 기능을 방해하려는 행위도 포함돼야 한다. 또한 모델, 도구, 워크플로우에 중대한 변경이 발생할 때마다 테스트를 반복해야 한다. 명확하게 지정된 책임자는 이러한 테스트 결과를 바탕으로 시스템의 배포 준비 여부를 판단하고, 실패한 테스트가 반드시 시정 조치로 이어지도록 해야 한다. 테스트나 실제 운영 과정에서 발견된 실패는 재현하고 조사해 해결해야 한다. 발견된 각 문제를 반복 가능한 테스트 항목으로 전환하면, 향후 릴리스에서도 수정 사항이 지속적으로 제대로 작동하는지 확인할 수 있다. 대표적인 사례로는 반복적인 공격 시뮬레이션을 통해 방어 체계를 테스트하고 강화하는 크라우드스트라이크(CrowdStrike)의 세이프마인드(SafeMind)와, 모델과 애플리케이션이 변화함에 따라 지속적으로 레드팀 테스트를 수행하는 팔로알토 네트웍스(Palo Alto Networks)의 프리즈마 에어스(Prisma AIRS)가 있다. 방어자는 적시에 적합한 도구를 활용해야 한다 보안 실패를 조사하려면 작업, 데이터, 운영 환경에 적합한 역량을 갖춘 도구가 필요하다. 오픈 모델과 폐쇄형 모델은 서로 다른 요구사항을 상호 보완적으로 충족한다. 폐쇄형 모델은 관리형 기능과 서비스를 제공하는 반면, 오픈 모델은 방어자가 관련 구성 요소를 직접 살펴보고 전략을 조정하며, 자신이 통제하는 인프라에서 작업할 수 있는 선택지를 제공한다. 보안 사고가 발생했을 때 이러한 통제권은 민감한 증거를 자체 환경 내에 유지하면서 문제를 재현하고, 수정 사항을 실제 시스템을 대상으로 테스트하는 데 도움이 될 수 있다. 고성능 AI는 취약점을 찾고, 수정 사항을 검증하며, 공격을 조사하는 과정에서도 활용될 수 있다. 이러한 AI의 가치는 재현 가능한 발견 사항, 검증 가능한 수정 결과, 대응 시간 단축과 같은 기준을 통해 평가해야 한다. 관련 사례로는 AI를 활용한 코드 보안을 제공하는 캐피털 원(Capital One)의 벌른헌터(VulnHunter)와, 소프트웨어 패키지를 AI 기반으로 분석해 악성코드와 변조 여부를 탐지하는 리버싱랩스(ReversingLabs)의 스펙트라 어슈어(Spectra Assure)가 있다. 개방형 협업을 통해 방어자에게 유리한 환경 만들기 무엇이 실패했는지, 어떤 통제 수단이 효과를 발휘했는지, 수정 사항이 어떻게 검증됐는지에 대한 증거를 공유하면 다른 팀들도 자체 시스템의 보안을 강화할 수 있다. 엔비디아의 보안 연구와 오픈 시큐어 AI 얼라이언스는 연구 결과와 실질적인 도구, 전문 지식을 더 폭넓은 보안 커뮤니티와 공유함으로써 이러한 협업을 지원한다. AI 보안은 엔지니어링의 문제다. 모든 에이전트 배포 환경에는 강제 적용 가능한 보안 경계, 명확한 책임 주체, 그리고 보호 조치가 실제로 작동한다는 것을 입증할 수 있는 증거가 필요하다. 개방형 연구와 공동으로 활용할 수 있는 도구는 더 많은 방어자가 이러한 기준을 충족하고, AI 역량이 발전함에 따라 보안 수준도 지속적으로 향상할 수 있도록 지원한다. @nvidia
2026.09.30
12
14
[컴퓨터] 엔비디아·AI 업계 리더, 사이버보안 투명성 강화를 위한 SAFE 가이드라인 제안
엔비디아가 미국 라스베이거스에서 개최된 블랙햇(Black Hat) 연례 콘퍼런스에서 120개가 넘는 조직이 참여하고 있는 오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance) 회원사들이 에이전틱 AI 사이버보안을 강화하기 위한 새로운 가이드라인을 개발하고 있다고 밝혔다. 리눅스 재단(Linux Foundation)은 SAFE(Shared AI Findings Exchange)에 대한 의견 수렴 요청서(Request for Comments, RFC)를 공개했다. SAFE는 에이전틱 AI 사이버보안 사고에서 얻은 정보를 생태계 전체를 보호하는 공동의 방어 체계로 전환하기 위해 제안된 가이드라인이다. SAFE 가이드라인은 오픈 시큐어 AI 얼라이언스 워킹 그룹이 마련하고 있다. 엔비디아(NVIDIA)와 시스코(Cisco), 크라우드스트라이크(CrowdStrike), 허깅페이스(Hugging Face), 레드햇(Red Hat)을 비롯한 오픈 시큐어 AI 얼라이언스 회원사들은 리눅스 재단과 협력해 초기 제안서 작성에 참여하고 있다. SAFE 가이드라인에는 AI 관련 사고와 아차 사고(near miss)를 기밀로 수집·분석하고, 영향을 받은 대상에 이를 알리며, 반복적으로 발생하는 통제 실패를 식별하는 방안이 포함돼 있다. 또한, 시스템 전반의 위험을 줄일 수 있도록 증거에 기반한 운영 권고안을 발표하는 방안도 담고 있다. 사이버보안은 결승선이 없는 경주이다. 주요 기술이 전환될 때마다 새로운 잠재적 공격 표면이 생겨났다. 방어자는 인프라와 지식재산을 보호하기 위해 지금부터 AI 에이전트의 속도에 맞춰 신속하게 대응해야 하며, 이를 위한 가장 효과적인 방법은 함께 협력하는 것이다. 신뢰할 수 있는 생태계가 위협 인텔리전스를 투명하게 공유할 때 집단 방어의 효과는 더욱 배가될 수 있다. AI 사이버보안 도구를 확대하는 오픈 시큐어 AI 얼라이언스 SAFE 프레임워크는 AI 보안 스택 전반에서 개방적이고 검토 가능한 도구를 개발·공유하기 위해 오픈 시큐어 AI 얼라이언스 회원사들이 이어온 기술적 기여를 한층 확장한다. AI 에이전트는 단순한 모델이 아니라 아이덴티티 제어, 하네스, 가드레일, 로그, 평가로 구성된 하나의 시스템이다. 따라서 AI 에이전트를 보호하려면 단순한 취약점 검사 이상의 접근이 필요하다. 보안은 여러 계층이 유기적으로 작동하고 커뮤니티가 보유한 지식을 적극적으로 공유할 때 가장 강력해진다. 가장 어려운 문제는 보안 담당자들이 서로의 경험을 개방적이고 신속하게 공유하고 학습할 때 해결할 수 있다. 엔비디아의 개방형 사이버보안 소프트웨어·모델 풀스택 엔비디아의 지원은 기술 스택 전 계층에 걸쳐 있다. 그 출발점은 깃허브(GitHub)에 공개된 엔비디아 랩스 객체 지향 에이전트(NVIDIA Labs Object-Oriented Agent, NOOA) 연구용 하네스이다. NOOA는 에이전트의 동작을 더욱 쉽게 테스트·추적·감사·관리할 수 있도록 지원한다. 엔비디아 오픈쉘(OpenShell) 런타임은 에이전트가 조회하고 접근하며 실행할 수 있는 범위를 제한한다. 에이전트 수준에서 보안·프라이버시 제어를 적용해 에이전트가 접근해서는 안 되는 영역에 닿지 못하도록 한다. 엔비디아의 개방형 모델 제품군은 개방형 가중치와 데이터세트, 학습 기법과 함께 제공된다. 여기에는 에이전틱 AI를 위한 엔비디아 네모트론(Nemotron), 피지컬 AI를 위한 엔비디아 코스모스(Cosmos), 로보틱스를 위한 엔비디아 아이작(Isaac) GR00T, 헬스케어·생명과학을 위한 엔비디아 바이오네모(BioNeMo), 그리고 상업적 사용이 허가된 자율주행차 모델 중 세계 최대 규모인 엔비디아 알파마요(Alpamayo)가 포함된다. 엔비디아의 검증된 오픈 소스 에이전트 스킬은 이러한 신뢰성을 기능 계층까지 확장한다. 각 스킬은 이식 가능한 명령어 세트로 제공된다. 또한 카탈로그화되고, 프롬프트 인젝션과 툴 포이즈닝(tool poisoning) 같은 위험 요소에 대한 검사를 거치며, 암호학적으로 서명되고 스킬 카드로 문서화된다. 이를 통해 보안 담당자는 특정 에이전트 스킬의 기능과 출처, 공개 이후 변경 여부를 정확히 확인할 수 있다. 네모 가드레일(NeMo Guardrails)과 네모 어노니마이저(NeMo Anonymizer), 네모 세이프 신디사이저(NeMo Safe Synthesizer)는 안전 정책을 시행하고 민감한 데이터를 보호하며, 프라이버시가 보장된 합성 데이터를 생성하도록 지원한다. 또한 엔비디아의 오픈 소스 거대 언어 모델(Large Language Model, LLM) 취약점 스캐너인 가락(Garak)은 보안팀이 모델을 출시하기 전에 데이터 유출, 프롬프트 인젝션, 탈옥(jailbreak) 시나리오를 점검할 수 있도록 지원한다. 얼라이언스 회원사, 개방형 생태계 개발 도구 확대 오픈 시큐어 AI 얼라이언스의 다른 회원사들도 아이덴티티와 권한, 하네스, 런타임 가드레일, 보안 AI 모델, 관측성과 평가, 데이터 보안과 프라이버시, 가용성과 복원력 등 방어 스택 전반에 걸쳐 개발을 이어왔다. 아래에서는 스택의 각 계층에서 최근 공개된 주요 기여 사례를 소개한다. 이와 함께 새로운 기술 기여도 지속적으로 추가될 예정이다. 아이덴티티와 권한 — 행동 주체의 식별과 통제 식별할 수 없는 대상은 보호할 수 없다. 옥타(Okta)는 에이전트 아이덴티티와 접근 제어를 위한 레퍼런스 구현을 개발하고 있다. 이를 통해 개방형 프로토콜인 크로스 앱 액세스(Cross App Access, XAA)가 오픈쉘 샌드박스 환경에서 작동하는 AI 에이전트와 엔터프라이즈 애플리케이션을 안전하게 연결하는 방식을 보여준다. 팔로알토 네트웍스(Palo Alto Networks)는 차세대 아이덴티티 보안 플랫폼 이디라(Idira)의 오픈 소스 도구인 에이전트 가드(Agent Guard)와 에이전트 와치(Agent Watch)를 제공했다. 이들 도구는 개발자와 에이전트 개발자가 아이덴티티 보안 모범 사례와 안전장치를 적용할 수 있도록 지원한다. 여기에는 에이전틱 워크플로우에 필요한 시크릿 정보를 안전하게 불러오는 기능 등이 포함된다. 레드햇이 주도해 출범한 새로운 오픈 소스 프로젝트 아사고(asago)는 미국 국립표준기술연구소(NIST)와 오픈 소스 월드 애플리케이션 보안 프로젝트(OWASP), 유럽연합 인공지능법(EU AI Act) 등에 기반한 조직별 거버넌스 요구사항을 런타임에서 에이전트에 허용되는 동작과 직접 연결한다. 또한 정책 조항부터 실제 운영 환경에 적용된 통제까지 하나의 감사 추적 체계로 관리할 수 있도록 지원한다. 하네스와 툴링 — 보안 업무의 오케스트레이션 AI 에이전트는 단순한 모델을 넘어선다. AI 에이전트는 작업을 수행하기 위해 개방형·폐쇄형 모델, 하네스, 도구와 런타임으로 구성된 시스템을 활용한다. 모델이 에이전트의 두뇌라면, 하네스는 도구를 사용해 실제 행동을 수행하는 몸에 해당한다. 모델을 둘러싼 하네스는 에이전트가 어떻게 배포되고 조율되고 제한되는지를 결정하는 오케스트레이터 역할을 한다. 얼라이언스 회원사들은 AI 보안 스택에서 새롭게 부상하는 이 계층 전반에 걸쳐 툴링과 하네스, 지원 기술을 제공하고 있다. 오픈 시큐어 AI 얼라이언스의 신규 회원사로 합류한 아마존(Amazon)은 스트랜드 에이전트(Strands Agents)를 제공한다. 이는 모든 계층을 개방해 개발자가 에이전트의 동작을 완전히 파악하고, 실제 운영 환경에서 에이전틱 시스템을 평가할 수 있도록 지원한다. 아마존은 오픈 소스 인가 언어인 시더(Cedar)도 함께 제공한다. 시더는 AI 에이전트에 허용되는 동작에 결정론적이고 검증 가능한 경계를 적용한다. 이를 통해 고객은 세분화되고 분석 가능한 접근 제어를 구현하고, 승인된 동작만 엔터프라이즈 리소스에 접근하도록 관리할 수 있다. 캐피털원(Capital One)은 에이전틱 AI 코드 보안을 위한 볼른헌터(VulnHunter)를 오픈 소스로 공개했다. 클라우드플레어(Cloudflare)는 에이전트 시스템에 보안 기능을 추가할 수 있도록 취약점 탐색 하네스(Vulnerability Discovery Harness)를 오픈 소스 스킬로 제공하고 있다. 마이크로소프트 AI 레드 팀(Microsoft AI Red Team)은 여러 도구와 하네스를 오픈 소스로 공개했다. PyRIT(Python Risk Identification toolkit)은 AI 레드팀이 자동화된 레드팀 활동을 수행할 수 있도록 지원한다. 메모리 기능이 내장돼 있으며 일반적인 테스트 대상과 사용자 지정 엔드포인트를 모두 지원한다. RAMPART는 레드팀이 찾아낸 결과와 실제 사고 사례를 소프트웨어 변경 시점마다 실행되는 반복 가능한 테스트로 전환한다. 클래리티(Clarity)는 코드를 작성하기 전에 설계상의 가정을 검토하고 잠재적 실패 요인을 식별할 수 있도록 지원한다. 마이크로소프트는 어서트(Assert)도 오픈 소스로 공개했다. 어서트는 자연어로 작성된 요구사항과 AI에 기대되는 안전·보안 동작을 실행 가능한 평가 항목으로 변환한다. 아틀라스(Atlas)는 위즈(Wiz)의 자율형 취약점 연구 엔진으로, 특화된 AI 에이전트들을 오케스트레이션해 코드와 오픈 소스 패키지 전반에서 보안 취약점을 발견하고 검증한다. 비자(Visa)도 오픈 시큐어 AI 얼라이언스에 합류해 오픈 소스로 비자 취약점 에이전틱 하네스(Visa Vulnerability Agentic Harness)를 제공했다. 이 하네스는 각 팀이 보안 문제를 신속하고 안전하게 식별하고, 수정과 검증을 수행할 수 있도록 지원한다. 모델 — AI 안전과 방어를 위해 설계된 인텔리전스 모든 보안·안전 과제에 범용 모델이 필요한 것은 아니다. 특화된 보안·안전 모델은 방어를 목적으로 설계되며, 코드를 이해하고 취약점을 찾아내며 대규모 환경에서 위협을 분석·추론하도록 학습된다. 이러한 모델은 여러 모델로 구성된 시스템의 일부로서 에이전틱 워크플로우를 지원할 수 있다. 개방형 모델과 폐쇄형 모델이 함께 작동해 작업을 효율적으로 수행하는 방식이다. 시스코 디펜스클로(DefenseClaw)는 엔비디아 오픈쉘 위에서 작동하는 오픈 소스 에이전틱 거버넌스 계층이다. 에이전틱 워크포스를 확장할 때 런타임 수준에서 강력한 자동화 보안을 제공한다. 시스코는 코드베이스 내 알려진 취약점의 위치를 정확하게 파악할 수 있도록 지원하는 안타레스(Antares) 보안 소형 언어 모델 2종도 공개했다. 또한 안전을 기본 원칙으로 적용하는 관행을 AI 코딩 워크플로우에 직접 통합하는 프로젝트 코드가드(Project CodeGuard)도 공개했다. 크라우드스트라이크는 사이버 방어를 위해 엔비디아 네모트론 나노(Nano) 모델을 파인 튜닝하고 있다. 내부 테스트에서 팔콘 로그스케일(Falcon LogScale)에서 조사 쿼리를 생성하는 데 96%의 정확도를 달성했다. 이를 통해 에이전트의 조사 효율성을 높이는 자연어 인터페이스를 제공한다. 크라우드스트라이크는 특화된 엔비디아 네모트론 나노 추론 모델이 보안 관제 센터(SOC)의 탐지 결과 분류에서 훨씬 더 큰 모델보다 뛰어난 성능을 보였다는 연구 결과도 발표했다. 이 모델은 보정된 로짓 기반 신뢰도를 도입해 자율형 보안 의사결정을 측정하고 조정하며 감사할 수 있도록 지원한다. 미스트랄(Mistral)은 새로운 멀티모달 안전 분류 모델인 실드스트랄(Shieldstral)을 아파치(Apache) 2.0 라이선스 기반의 공개 가중치로 출시했다. 에이전트가 무엇을 했는지 파악하는 것만으로는 전체 상황을 이해하기 어렵다. 보안 담당자는 에이전트가 특정 방식으로 행동한 이유와 시스템이 안전하게 작동하는지 여부, 실제 환경에서 공격 방식이 어떻게 진화하고 있는지도 이해해야 한다. 아카마이(Akamai)는 스테이트 오브 더 인터넷(State of the Internet) 보고서와 시큐리티 인텔리전스 그룹(Security Intelligence Group) 연구에서 도출한 인사이트를 제공한다. 실제 데이터를 바탕으로 AI 시대의 위협을 조명하고 새롭게 등장하는 익스플로잇의 작동 방식을 설명함으로써, 보안 담당자가 이를 학습하고 변화에 적응해 대응할 수 있도록 지원한다. 코그니션(Cognition)은 오픈 소스 기반 모델의 정렬과 보안 위험을 측정하는 신뢰성 평가를 공개했다. 이 평가는 이러한 위험을 사후 학습을 통해 완화할 수 있음을 보여준다. 넘뱃(Numbat)은 퍼플렉시티(Perplexity)의 클라이언트 엔드포인트용 오픈 소스 에이전트 보안 제품군이다. macOS와 리눅스, 윈도우(Windows) 전반에서 에이전트 활동을 탐지·조사·차단하며, 보안 담당자가 에이전트의 실제 활동을 파악할 수 있도록 구조화된 기록을 제공한다. 우버(Uber)는 ADR(Agentic AI Detection and Response)의 핵심 구성 요소를 오픈 소스로 공개했다. ADR은 프롬프트와 추론, 도구 호출, 결과에 이르는 AI 에이전트 활동의 전체 인과관계를 재구성해 보안팀의 위협 탐지를 지원하는 실제 운영 시스템이다. 현재 ADR은 3만 개 엔드포인트에서 하루 20만 건 이상의 에이전트 세션을 지원한다. 또한 효율적인 탐지와 신뢰도가 높은 위협에 대한 심층 조사를 결합한 2단계 분석 방식을 사용한다. 가용성과 복원력 — 장애 상황에서의 신속한 복구 에이전트 시스템은 장애가 발생한 상황에서도 신뢰할 수 있어야 한다. 또한 장애를 격리하고, 중요한 상태 정보를 잃거나 주변 환경을 노출하지 않으면서 안전하게 복구할 수 있어야 한다. 랭체인(LangChain)은 자사의 오픈 소스 프레임워크인 딥 에이전트(Deep Agents), 랭그래프(LangGraph)와 랭체인에 복원력 기능을 추가하고 있다. 이를 통해 에이전트는 중단된 작업을 다시 시도하고 안전한 복구 경로를 따를 수 있다. 또한 작업을 처음부터 다시 시작하는 대신 저장된 상태에서 재개하고, 기본 모델에 장애가 발생하면 대체 모델로 자동 전환할 수 있다. 빔(Veeam)은 AI를 지원하는 데이터와 인프라가 복원력과 복구 가능성을 유지할 수 있도록 지원한다. 대표적인 사례로 쿠버네티스(Kubernetes) 환경의 데이터 보호를 위한 오픈 소스 프레임워크인 카니스터(Kanister)가 있다. 이를 통해 각 팀은 AI 워크로드와 벡터 데이터베이스, 관련 데이터를 보호하고 검증된 정상 상태로 복구할 수 있다. Open Secure AI Alliance 회원사 로고 앞으로도 더 많은 기술 기여가 이어질 예정이다. 회원사들이 재사용 가능한 완화 조치를 공개하면 생태계 전반의 보안 담당자들이 이를 검토하고 각자의 환경에 맞게 조정·개선할 수 있다. 이를 통해 AI 기술의 발전에 발맞춰 보안 관행도 지속적으로 발전할 수 있다. @nvidia
2026.08.07
8
9
1
브랜드로그
0 / 0
애즈락 ROCK White 360 Digital 수랭쿨러 [써보니] ASRock @asrock 7시간전
AMD, 라이젠 AI 맥스+ 프로 400 기반 에이전틱 PC, 전 세계 출시 AMD @amd 20시간전
엔비디아 젠슨 황 CEO, 2026 밴 플리트상 수상…“한국과 미국, 함께 미래 만들어가고 있어” 엔비디아 @nvidia 20시간전
MSI ‘크로스헤어 A16 HX MLG 에디션’ 한정판 노트북 출시 MSI @msi 1일전
AMD, 임베디드 설계 및 개발 전 과정에 에이전틱 AI 역량 제공 AMD @amd 1일전
탁탁몰 링크
  • 종합
  • 뉴스/정보
  • 커뮤니티
  • 질문/토론
TOP1 [컴퓨터] 마이크로닉스, ASTRO II PT PLATINUM ATX 3.1 할인
TOP2 [컴퓨터] 대원씨티에스, NZXT 컴팩트 미들타워 케이스 'S5 RGB' 시리즈 출시
TOP3 [게임] 스틸시리즈, 퀵스위치 도크 기반 컨트롤러 ‘이온 프로’ 출시
TOP4 [컴퓨터] 엔비디아, ‘더 위쳐 3: 와일드 헌트 – 리마스터드’ 등 최신 게임에 DLSS 적용 확대
TOP5 [미용] 에누리 가격비교, 가을철 향수 수요 증가…‘우디∙앰버 향 인기’
TOP6 [컴퓨터] 에이수스, 영재컴퓨터와 ROG 파트너십 체결
TOP7 [전자부품] 에버, HUB 시리즈 5년 보증 제공… 하이브리드 업무 환경 위한 장기 지원 강화
TOP8 [카메라] 니콘 풀프레임 미러리스 카메라 ‘Z5IIC’ 발표
TOP9 [일상/생활] 그새 다시 더워졌네요
TOP10 [컴퓨터] 컬러풀, 140W GaN 멀티 충전기, iGame Guard G114 출시
TOP1 [컴퓨터] 마이크로닉스, ASTRO II PT PLATINUM ATX 3.1 할인
TOP2 [컴퓨터] 대원씨티에스, NZXT 컴팩트 미들타워 케이스 'S5 RGB' 시리즈 출시
TOP3 [게임] 스틸시리즈, 퀵스위치 도크 기반 컨트롤러 ‘이온 프로’ 출시
TOP4 [컴퓨터] 엔비디아, ‘더 위쳐 3: 와일드 헌트 – 리마스터드’ 등 최신 게임에 DLSS 적용 확대
TOP5 [미용] 에누리 가격비교, 가을철 향수 수요 증가…‘우디∙앰버 향 인기’
TOP6 [컴퓨터] 에이수스, 영재컴퓨터와 ROG 파트너십 체결
TOP7 [전자부품] 에버, HUB 시리즈 5년 보증 제공… 하이브리드 업무 환경 위한 장기 지원 강화
TOP8 [카메라] 니콘 풀프레임 미러리스 카메라 ‘Z5IIC’ 발표
TOP9 [컴퓨터] 엔비디아, ‘컨트롤 레조넌트’에 패스 트레이싱·DLSS 4.5 지원
TOP10 [컴퓨터] 컬러풀, 140W GaN 멀티 충전기, iGame Guard G114 출시
TOP1 [일상/생활] 그새 다시 더워졌네요
TOP2 [후방/은꼴] 유요 거울 셀카.
TOP3 [이슈/논란] "반도체 팹 옆에 아파트 지으면 안됩니다"
TOP4 [일상/생활] 시카고 근교 휴게소에서 보낸 밤
TOP5 [후방/은꼴] 서은하 여캠데이 섹시 움짤 방셀
TOP6 [후방/은꼴] 후방주의2
TOP7 [일상/생활] 구조 현장 소방관의 독특한 손짓
TOP8 [후방/은꼴] 박아리 별풍선 만개 비번방 댄스
TOP9 [일상/생활] 아이스커피 면접 논쟁, 세대 차이 보여주네
TOP10 [일상/생활] 꼬북 경비중대, 배부른 식사 현장
TOP1 [설문조사] [빌런 설문조사] 가장 가지고 싶은 30만원 이하 27인치 QHD 게이밍 모니터는?
TOP2 [일반/상식] 성인인증 절차 어떻게 하는건가요?
TOP3 [조립/견적] 이 제품을 사면 그래픽카드를 안사도 될까요?
TOP4 [질문/토론] 빌런사이트 수익구조는 어떻게 이루어지는지 궁금
TOP5 [주제토론] 원망스럽도다... 동양 귀신 VS 서양 귀신
TOP6 [토론] 놀이공원 매직패스 논쟁
TOP7 [조립/견적] 스팀 머신 가격은 얼마나 될까요?
TOP8 [조립/견적] 아수스 화이트 보드 중에 제일 상급은 어떤 제품일까요??
TOP9 [주제토론] 여러분의 첫 휴대폰은 뭐였나요?
파인인포
인텔 코어 울트라7
빌런18+ 소개 이용약관 개인정보처리방침 광고 및 제휴문의
커뮤니티 빌런 18+ ( Villain ) Beta 2.0
본사 l 서울 금천구 가산디지털1로 33-33 대륭테크노타운2차 7층 705-5호
운영 l 경기도 고양시 덕양구 동축로 70 현대프리미어캠퍼스5층 B동 A5-48
대표전화 l 010-4588-4581 서비스 시작일 l 2025-08-15 전자우편 l master@villain.city
커뮤니티 빌런 18+ ( Villain ) 의 모든 콘텐츠(영상,기사, 사진)는 출처를 표기하는 조건으로 무단 전재와 복사, 배포 등을 허용합니다.
Copyright © 커뮤니티 빌런 18+ ( Villain ) All Rights Reserved.