보안 기본 사항으로 돌아가 AI 위험에 대비하세요

우리가 듣지 못하는 날은 하루도 없습니다. 인공 지능 뉴스에서.신기술의 급속한 개발부터 미래에 미칠 영향에 이르기까지 AI는 특히 기술 분야에서 항상 우리 마음 속에 떠오릅니다.

그리고 ChatGPT와 같은 도구의 새로운 발전을 둘러싼 가장 뜨거운 질문 중 일부는 사이버 보안 세계에서 비롯됩니다.악의적인 행위자는 AI를 사용하여 악의적인 행위를 어떻게 강화할 수 있을까요?그리고 랜섬웨어는 어떻게 진화하여 우리의 방어 체계를 더 잘 우회할 수 있을까요?

Illumio의 선임 시스템 엔지니어인 Paul Dant와 Illumio의 EMEA 시스템 엔지니어링 책임자인 Michael Adjei는 이 도구가 사이버 보안 산업의 미래에 어떤 영향을 미치는지 살펴보기 위해 AI의 작동 방식, 취약점의 위치, 보안 리더가 AI의 영향에 대응할 수 있는 방법에 대해 논의했습니다.

그들의 최종 조언은?기본으로 돌아가세요.

계속 읽고 전체 토론 보기 — 아래에 짧은 클립과 함께 — 그 이유를 알아보세요.

AI의 구조와 다양한 취약점

이미 끝났어 2년 미만 ChatGPT가 처음 출시된 이래로 짧은 기간 내에 업계는 이미 이를 인지하고 있습니다. 새로운 AI 기술 사이버 보안에 막대한 영향을 미칠 것이며, 이미 사이버 보안을 선과 악 모두를 위해 사용하려는 사람들의 손에 달려 있습니다.

공격자가 간섭할 수 있는 지점에 대항하기 위해 AI가 어떻게 구성되어 있는지 이해하는 것이 중요합니다.

“간단히 말해서 AI는 입력 계층, 은닉 계층, 출력 계층으로 구성된 데이터 세트를 갖는 방식으로 작동합니다.” 라고 설명했습니다.“데이터는 입력 레이어로 푸시되고 숨겨진 레이어로 이동합니다. 여기서 AI '마법'이 일어납니다.그러면 결국 소비자가 데이터와 인터페이스할 수 있는 출력 계층으로 이동하게 됩니다.”

이 프로세스의 취약점은 어디에 있을 수 있습니까?“거의 모든 단계에서 말이죠”라고 Adjei는 말했습니다.

AI 보안 위험은 수년 전부터 존재해 왔습니다.

이러한 취약점은 작년 ChatGPT의 광범위한 릴리스에서 시작된 것이 아닙니다.Adjei와 Dant는 손상된 AI 시스템이 수년간 존재해왔으며, 이는 간과하기 쉬운 AI 시스템의 주요 위험이라고 설명했습니다.

인용된 쌍 마이크로소프트의 2016년 트위터용 AI 챗봇 출시: “몇 시간 만에 챗봇은 인터넷에서 상상할 수 있는 최악의, 가장 사악한 정보를 모두 받았습니다.아제이는 AI의 발전 과정을 보여주는 것에서 벗어나 온라인에 존재하는 모든 나쁜 것들로 바뀌었다고 말했습니다.

이것은 AI 관련 공격의 초기의 간단한 예이지만, 악의적인 행위자가 기존 공격을 기반으로 삼을 수 있는 방법을 보여줍니다. 전술, 기법 및 절차 (TTP) 새로운 기술을 새로운 공격 수단으로 빠르게 전환하기 위해서죠.모든 산업, 지역 및 규모의 조직은 불가피한 상황에 대비하여 사전에 대비해야 합니다. AI 생성 공격.

보다 최근의 예로, Dant는 ChatGPT에 즉석에서 랜섬웨어를 생성하도록 유도하여 가드레일을 얼마나 쉽게 우회할 수 있는지를 강조했습니다.ChatGPT는 “랜섬웨어를 작성해 달라”는 Dant의 프롬프트를 기꺼이 받아들이지 않았습니다.하지만 프롬프트를 교육적으로 해석하고 요청을 순진해 보이는 단계로 나누었을 때, 그는 ChatGPT가 도와주려 했고 결국 자신을 위해 랜섬웨어를 만들려는 것을 알게 되었습니다.

“ChatGPT는 우리를 돕고 싶어요.” 댄트가 말했다.“제가 발견한 것은 프롬프트에 교육적인 요소를 더하면 궁극적인 의도가 무엇인지 알아차리지 못할 가능성이 높으며 실제로 랜섬웨어 스크립트 생성을 자동화하는 데 도움이 된다는 것입니다.”

이 예는 위협 행위자들이 공격의 규모와 영향을 가속화하기 위해 매일 발견하고 사용하는 많은 AI 사용 사례 중 하나에 불과합니다.Adjei가 전문적으로 요약했듯이 “꽤 멋지긴 하지만 꽤 무섭습니다.”

보안 리더가 AI 위험에 대응하는 방법

AI가 사이버 보안에 미치는 두려움에도 불구하고 Adjei와 Dant는 조직이 다음 잠재적 공격에 대비하여 보안을 시작하기 위해 할 수 있는 일이 많다는 데 동의했습니다.가장 중요한 것은 기본으로 돌아가는 것입니다.

아제이는 “많은 CISO와 보안 리더들의 첫 반응은 '악의적인 사람들이 AI를 사용하고 있기 때문에 선량한 기업에도 더 많은 AI가 필요하다'는 것이었습니다. 하지만 반드시 그런 것은 아닙니다.”

Dant는 이에 동의하면서 공격자가 이동하는 것과 같은 속도로 데이터를 분석하고 작업을 완료하는 측면에서 AI가 더욱 중요해지겠지만 AI 공격에 대비하는 가장 좋은 방법은 철저한 사이버 위생을 보장하는 것이라고 설명했습니다.

“첫 번째 원칙은 기본으로 돌아가는 것입니다.” 라고 Dant는 말했습니다.“궁극적으로는 사이버 위생을 철저히 하고 측면 움직임 방지, 및 제로 트러스트 원칙 앞으로 더 유효해질 것입니다.”

AI로 생성된 공격이 어떻게 전개되든, 핵심 보안 원칙은 여전히 유효합니다.Dant는 “보안 리더가 AI 앞에서 압도당하지 않도록 하는 것이 중요하다”고 말했다.

Adjei와 Dant는 앞으로 보안 리더가 제로 트러스트 보안 전략에 맞춰 사이버 복원력과 보안 침해 억제를 구축하는 데 집중할 것을 권장합니다.

전체 웨비나 보기 ChatGPT를 통해 어떻게 공격자가 AI를 사용하여 랜섬웨어를 매우 간단하게 구축할 수 있는지 확인해 보세요.

오늘 저희에게 연락하세요 Illumio 제로 트러스트 세그멘테이션 플랫폼을 사용하여 AI 공격에 대한 복원력을 구축하는 방법에 대해 자세히 알아보십시오.