Gartner 보안 및 위험 관리 서밋 2023 National Harbor: 3일차 하이라이트

"이미 운영화되어 손상 및 공격을 받을 수 있는 AI 모델이 많이 있습니다. 2021년 Gartner 조사에 따르면 조직의 73%가 이미 수백 또는 수천 개의 AI 모델을 배포한 것으로 나타났습니다."

"침해와 공격은 데이터 오염, 개인 정보 보호 문제, 모델 결과 조작, 모델이나 데이터 오용, 손상 또는 도난을 포함하여 AI 수명 주기의 모든 단계에 걸쳐 발생합니다."

"AI 보안 위협에 대한 두 가지 일반적인 오해가 있습니다. 대부분의 AI 공격은 외부인에 의해서만 발생하므로 내부를 살펴볼 필요가 없습니다. 그리고 대부분의 AI 공격은 복잡하므로 작은 일에 애쓰지 마십시오."

"CISO와 AI 팀은 AI에서 발생하는 위험을 다르게 인식합니다. AI 팀은 AI 위험이 구체화될 가능성이 더 높다고 생각하고 전반적인 AI 위험에 대해 더 우려합니다. 보안 팀보다 정보 위험에 대해 더 우려하는 사람이 매일 있는 것은 아닙니다."

"AI TRiSM은 AI 솔루션의 거버넌스, 신뢰성, 공정성, 신뢰성, 개인 정보 보호, 보안 및 규정 준수를 보장하여 관리되지 않는 위험을 관리되는 위험으로 전환하는 데 도움이 됩니다."

"2026년까지 AI 투명성, 신뢰 및 보안을 운영하는 조직은 AI 모델 채택, 비즈니스 목표 및 사용자 수용 측면에서 50%의 결과 개선을 달성할 것입니다."

Gartner Q&A "제너레이티브 AI의 미래에 신뢰와 보안이 필수적인 이유"에서 AI TRiSM에 대해 자세히 알아보세요.