2025년 예측: 사이버 보안 도구 및 타깃으로서 AI

AI는 (여전히) 가장 뜨거운 기술 화두이지만, 2025년 엔터프라이즈 보안 측면에서 가장 중요한 문제는 아닙니다. 고급 AI는 새로운 공격 벡터를 여는 계기가 될 것이며 동시에 조직 데이터를 보호하기 위한 새로운 도구를 제공할 것입니다. 하지만 여기서 근본적인 과제는, 과도한 업무에 시달리는 사이버 보안 팀이 ‘현재 우리가 공격을 받고 있는가’와 같은 기본적인 질문에 답하려고 할 때 직면하게 되는 방대한 양의 데이터에 있습니다.

수십 명의 전문가 및 리더들이 앞으로 몇 년 동안 AI가 주도할 변화에 대해 예측한 내용을 담고 있는 ‘Snowflake AI + 데이터 예측 2025(AI + Data Predictions 2025)’보고서에 따르면 보안 관점에서는 좋은 소식과 나쁜 소식이 있습니다. AI는 더 많은 데이터를 보호해야 하고 더 많은 공격 표면에 노출된다는 점에서 문제의 원인이기도 하지만, 인간의 힘으로는 포착할 수 없는 방대한 양의 데이터를 관리할 수 있는 도구를 제공한다는 측면에서는 잠재적 혜택입니다. 아울러, 동 보고서에서는 AI 시대가 발전함에 따라 사이버 보안이 반드시 갖춰야 하는 네 가지 필수 요소를 강조합니다.

보안 전문가들은 보유하고 있는 모든 데이터를 바탕으로 올바른 인풋을 사용하여 취약성과 인시던트를 식별하고 있는지 지속해서 확인해야 합니다. 보안 데이터 레이크는 다양한 소스의 방대한 데이터를 통합하는 비용 효율적인 방법으로서 계속 인기를 얻을 것입니다. 팀은 보안 데이터 레이크 내에서 머신러닝 고급 분석을 활용할 수 있습을 것이며, 더 오래 더 많은 데이터를 저렴하게 보관할 수 있도록 함으로써 더 나은 포렌식을 실행할 수 있게 됩니다. 기존의 보안 인시던트 및 이벤트 관리(SIEM) 도구에 비해 보안 데이터 레이크는 일반적으로 유연하고 확장 가능하며 비용 효율적입니다. 또한 AI 솔루션에도 적합하며, 이러한 모든 이유로 보안 데이터 레이크가 궁극적으로 SIEM을 대체할 것으로 예상됩니다.

지난해 Snowflake는 대규모 언어 모델과 생성형 AI 시스템에 대한 20개의 공격 벡터를 식별하는 AI 보안 프레임워크를 발표했습니다. 여기에서는 공격 표면이 될 수 있는 AI의 세 가지 계층에 대해 살펴봤습니다. 또한 지난해 예측 보고서에서는 첫 번째 계층인 핵심 플랫폼에 대해 다뤘습니다. Snowflake는 자동화가 프로덕션 단계에서 잘못된 구성을 방지하고 개발자 환경이 비교적 편리한 타깃이 된다는 점을 확인했습니다. 하지만 현재는 해당 인프라가 잘 강화되고 있습니다.

올해는 두 번째 계층인 모델 운영이 더 일반적인 타깃이 될 것으로 예상됩니다. 보안 전문가들은 모델의 초기 학습 방식과 더불어  프로덕션에 새로운 데이터를 통합하는 방법을 고려해야 할 것이고 모델 전체의 수명 주기와 공급되는 데이터 수명 주기도 확인해야 할 것입니다. 또한 새로운 AI 기술에 대한 접근 방식을 표준화하여 전반적인 엔터프라이즈 인프라가 안전한지 확인해야 할 것입니다.

세 번째 공격 계층은 AI와 직접 상호 작용하여 모델에 통합되어서는 안 되는 민감한 데이터를 공개하도록 유도하는 것으로, 이는 앞으로 더욱 늘어날 것으로 예상됩니다. 이러한 이유로 엔터프라이즈 전반에 걸쳐 데이터 위치, 사용 및 보안에 대한 가시성을 개선하고자 하는 데이터 보안 태세 관리 관행이 등장하고 있습니다.

또한 인공지능은 엔터프라이즈를 보호하기 위한 새로운 도구를 제공할 것이며, 보안 팀은 이미 그 가능성을 시험하고 있습니다. 생성형 AI 인터페이스에 추가된 LLM을 사용하면 전반적인 보안 태세나 특정 경고 및 패턴에 대해 자연어로 질문할 수 있습니다. 이러한 보안 코파일럿 경험은 더욱 성숙해질 것이며, 늘 인력이 부족한 보안 팀에 보다 효과적인 어시스턴트가 될 것입니다. 특히 AI 기반 도구는 하급 보안 전문가들이 아이디어를 쿼리 및 분석으로 신속하게 변환하는 데 점점 더 많이 쓰이게 될 것입니다. 이를 통해, 복잡한 쿼리 로직을 학습하고 즉각적인 보안 우려 사항에 대한 답변을 얻는 데 소요되는 시간을 단축할 수 있을 것입니다.

그중에서도 AI 시스템이 보안 인시던트를 요약할 수 있는 능력은 중대한 진전이 될 것입니다. 예를 들어 AI가 "데이터 이동에 이상 패턴이 있었습니다. 이와 같은 유형의 많은 데이터는 일반적으로 이 시간대에 이 위치에서 전송되지 않습니다."와 같이 보안 인시던트를 요약해서 말해준다면 “VPN 로그, 스토리지 로그, 이메일 로그를 확인해서 상황을 파악하세요.”라는 알림보다 훨씬 더 유용할 것입니다. 그리고 이것이 우리가 현재 처해 있는 상황입니다.

고급 AI는 감지된 이상 징후를 이해할 수 있도록 보안 팀을 도울 뿐만 아니라 이벤트 후의 사례 분석을 수행하여 어떤 일이 일어났는지, 어떻게 하면 유사한 이벤트를 방지할 수 있는지 파악할 수 있도록 지원합니다. 결국 인시던트 분석뿐만 아니라 전반적인 데이터 보안 태세 관리에 사용될 것입니다. AI는 기존 도구나 인간 운영자보다 훨씬 더 복잡한 시스템을 분석할 수 있기 때문입니다.

보안 도구가 특정 인시던트에 대한 대응을 자동화하여 인간의 행동보다 더 빠르게 공격을 중단시키는 것은 이미 일상적인 일입니다. 이론적으로, 생성형 AI는 더 복잡한 의사 결정을 내리고 더 큰 규모의 포괄적인 조치를 취할 수 있습니다. 하지만 이것이 현실화되기까지는 시간이 좀 걸릴 것입니다. 생성형 AI 사이버 보안 도구를 사용하려면 최종 결정을 내리는 데 인간의 판단이 필요합니다. 특히 윤리적 문제나 복잡한 위험 요소를 고려해야 하는 경우가 그렇습니다.

전반적으로 봤을 때, 사이버 보안 팀의 미래는 밝습니다. 일도 더 많아지고, 보호해야 할 데이터도 많아지겠지만 언제나 그런 것만은 아닙니다. AI 주도형 엔터프라이즈를 더욱 안전하게 보호하기 위한 표준과 새로운 접근 방식이 개발됨에 따라, 데이터를 파악할 수 있는 새로운 방법과 도구, 나아가 보안 태세도 등장할 것입니다.

'Snowflake AI + 데이터 예측 2025' 보고서를 통해 AI 시대의 사이버 보안, 소프트웨어 개발 및 데이터 인프라에 대해 자세히 알아보세요.