4명의 사이버 보안 리더가 2024년의 AI에 대해 생각하는 방법

2023년 하반기에는 정부와 기술 리더들이 빠르게 발전하는 이 기술이 제기하는 문제를 해결해야 할 필요성을 인식하면서 인공 지능 (AI) 과 그 보안에 미치는 영향에 대한 전 세계적 관심이 심화되었습니다. AI에 관한 바이든 행정부의 행정명령 그리고 취임식 AI 세이프티 서밋 이는 AI와 관련된 위험을 이해하고 관리하는 것이 시급하다는 것을 강조하는 중요한 이정표였습니다.

2024년으로 접어들면서 세계 경제 포럼 연례 회의 다음 주 스위스에서는 우리의 집단적 미래를 형성하는 데 있어 AI의 역할에 대해 더 자세히 설명할 예정입니다.

이에 대해 우리는 네 명의 사이버 보안 비즈니스 리더와 전문가에게 새해의 AI에 대해 어떻게 생각하고 있으며 AI의 급변하는 혁신에 직면하여 어떤 우선 순위를 두고 있는지 공유해 달라고 요청했습니다.

AI의 장점: 공격자의 단기적인 이익

논의에서 가장 많이 떠오른 주제 중 하나는 AI 파워를 먼저 사용하는 사람이 적어도 초기에는 가장 큰 이점을 갖게 될 것이라는 인식입니다.Illumio의 CEO이자 공동 창립자인 Andrew Rubin에 따르면 위협 행위자들은 가까운 미래에 AI의 혜택을 누릴 가능성이 높습니다.

“초기 이닝에서는 AI의 우위가 공격자에게 돌아갈 것”이라고 그는 말했다.“범죄자는 가드레일 없이 활동하는 반면, 방어자는 조직과 데이터를 안전하게 보호하는 방법을 개발할 때 규제, 다운스트림에 미치는 영향, 도덕, 윤리 및 기타 여러 가지 사항을 고려해야 합니다.”

조직이 AI를 개발하고 사이버 보안 프로세스에 구현하는 데 걸리는 시간은 악의적인 행위자가 AI를 유리하게 활용하는 데 걸리는 시간이 될 것입니다.이러한 비대칭성을 통해 공격자는 AI를 더 자유롭게 실험할 수 있어 단기적으로는 긍정적인 효과를 얻을 수 있습니다.

그러나 루빈은 AI와 사이버 보안의 교차점에서 얻을 수 있는 몇 가지 이점을 보고 있습니다. “장기적으로 보면 AI는 두 가지 모두에 효과적인 도구가 될 것이며, 그렇지 않으면 방어 진영은 AI를 사용하여 우리 자신을 더 잘 방어할 수 있는 흥미롭고 창의적인 방법을 찾을 것입니다”라고 그는 말했습니다.

AI 생성 공격에는 제로 트러스트 원칙이 필요합니다

공격자들이 단기적으로 AI의 이점을 활용함에 따라 우리 전문가들은 조직에서 사이버 위협의 빈도가 증가하기 시작할 것이라는 데 동의했습니다. 특히 AI를 통해 악의적인 공격자가 공격 생성 및 실행을 더 쉽게 자동화할 수 있게 됨에 따라 더욱 그렇습니다.

Illumio의 수석 시스템 엔지니어이자 개혁파 해커인 Paul Dant는 “오늘날의 공격은 간단하다”고 말했다.“이러한 공격은 처음부터 해결하지 못했던 단점을 계속해서 표적으로 삼고 있습니다. 예를 들어 연결이 너무 많아서 대상과 통신하는 대상에 대한 가시성이나 통찰력이 충분하지 않은 경우가 이에 해당합니다.”

의 성장에 대응하기 위해 AI 생성 공격Dant는 사이버 보안 전략의 패러다임 전환이 절실히 필요하다고 강조했습니다.조직은 제로 트러스트의 우선 순위를 정하는 것부터 시작하여 보안 침해 발생을 방지하는 데 그치지 않고 사이버 복원력을 구축하는 데 집중해야 합니다.

그는 “제로 트러스트를 더욱 광범위하게 채택하고 보안 침해 추정 접근 방식을 취하는 것이 사이버 레질리언스를 구축하는 데 있어 진전을 이룰 수 있는 유일한 방법”이라고 말했다.

상호 연결성이 우세한 시대에 기존 보안 모델로는 충분하지 않은 것으로 입증되었습니다.보안 침해 가정이라는 사고방식은 조직이 보안 침해가 발생했거나 임박했다는 가정 하에 업무를 수행하도록 강요합니다.이러한 사전 예방적 접근 방식을 통해 사이버 보안 전문가는 네트워크 내의 모든 개체를 지속적으로 검증하고 인증하여 탐지되지 않은 침입의 위험을 최소화해야 합니다.

Dant는 제로 트러스트 프레임워크가 널리 채택되지 않으면 조직은 계속해서 사이버 공간에서의 막대한 손실로 어려움을 겪게 될 것이라고 강조했습니다.끊임없이 변화하고 계속 증가하는 사이버 위협의 특성상 기존 보안 방법에 대한 근본적인 재평가가 필요합니다.

제로 트러스트와 “침해 추정” 도입에 대한 다른 실무자의 관점을 알아보려면 Illumio의 The Segment 팟캐스트에서 체이스 커닝햄 박사와 함께 들어보세요.

AI 액세스가 많을수록 사이버 보안 요구가 커집니다

AI 생성 공격의 수가 증가함에 따라 우리 전문가들은 이로 인해 사이버 보안에 대한 수요가 급증할 것이라고 믿고 있습니다.매일 기업과 위협 행위자 모두가 새로운 AI 이니셔티브를 도입하고 있으며, 이에 따라 위협 환경도 계속해서 정교해지고 있습니다.

Illumio의 최고 재무 책임자 (CFO) 인 아싱 (Anip Singh) 은 이를 통해 AI 사용이 크게 증가하고 사이버 보안 분야에서 전례 없는 지출이 증가할 것이라고 믿고 있습니다.

그는 “새해에도 AI/ML이 조직의 투자 기회가 될 것으로 보고 있다”며 “기존 방어 체계를 강화하는 측면뿐만 아니라, AI/ML을 사용하여 발전을 도모하고 점점 더 무자비하고 역동적인 공격자에 대응하기 위한 알고리즘을 사용하는 기업에 더 많은 리소스가 투입될 것”이라고 말했다.

미래에는 AI 발전과 사이버 보안 솔루션의 결합이 디지털 자산을 보호하는 데 중추적인 역할을 할 것입니다. 특히 조직이 피할 수 없는 다음 공격에 미리 대비할 수 있도록 하는 데 있어 더욱 그렇습니다.

2024년은 AI 상용화의 해가 될 것입니다

지난 한 해 동안 AI의 접근성은 기술 전문 지식이 제한된 개인도 ChatGPT와 같은 플랫폼을 사용하여 AI의 힘을 활용할 수 있는 수준에 이르렀습니다.이러한 변화는 빠르게 일어났습니다. 챗GPT의 첫 생일 Illumio의 수석 시스템 엔지니어인 마이클 아제이 (Michael Adjei) 는 겨우 2023년 11월에 이르렀으며 이는 자동차 산업의 민주화와 같은 역사적 발전과 유사하다고 말했습니다.

“자동차가 처음 소개되었을 때, 어떤 사람들은 자동차만 이용할 수 있었습니다.그 후 포드가 와서 생산 라인을 건설하고 모든 사람이 이용할 수 있게 했습니다. 즉, 갑자기 많은 사람들이 자동차를 갖게 됐기 때문에 새로운 도로와 인프라가 필요했습니다.이것이 바로 우리가 AI를 통해 보기 시작한 모습입니다.” 라고 Adjei는 설명했습니다.

그러나 이러한 접근성은 특히 사이버 보안 문제와 관련하여 AI가 어떻게 사용될 것인지에 대한 우려를 불러일으킵니다.

아제이는 “더 많은 사람들이 AI를 사용하고 있는 지금, 우리는 좋은 것, 나쁜 것, 우리가 아직 모르는 것 등 모든 가능성을 수용해야 한다”고 말했다.“특히 ChatGPT와 같은 시스템과 로봇과 같은 기계가 결합하기 시작하면서 후자가 가장 불안합니다.”

이는 제로 트러스트 원칙을 포함하여 AI의 광범위한 채택으로 인한 문제를 해결할 탄력적인 인프라 개발의 필요성을 강조합니다.기본적인 제로 트러스트 기술로서 제로 트러스트 세그멘테이션 조직이 공격에 능동적으로 대비할 수 있도록 지원합니다.ZTS는 워크로드와 디바이스가 통신하는 방식을 지속적으로 시각화하고, 원하고 필요한 통신만 허용하는 세분화된 정책을 만들고, 사전 예방적으로 또는 공격이 진행 중인 동안 측면 이동을 제한하여 보안 침해를 자동으로 격리함으로써 하이브리드 공격 표면 전반에 걸쳐 보안 침해 및 랜섬웨어가 확산되는 것을 방지합니다.

더 읽어보기 AI 안전 및 보안에 대한 Adjei의 기대에 대해

요점: AI 공격 대비에 선제적으로 대응하세요

사이버 보안 비즈니스 리더들과의 논의를 통해 2024년에 진화하는 AI와 사이버 보안 간의 관계를 조명했습니다.AI에 대한 접근성이 높아짐에 따라 AI가 사이버 보안에 제시하는 과제와 기회에 대해 업계 리더, 정책 입안자, 기술 개발자 모두의 공동 노력이 필요합니다.새해를 맞이하면서 AI와 사이버 보안의 교차점, 방어와 공격 간의 균형이 계속 발전하여 아직 완전히 실현되지 않은 방식으로 보안의 미래가 형성될 것입니다.

AI가 생성한 공격으로부터 조직을 보호하세요. 오늘 저희에게 연락하세요 자세히 알아보려면