가트너가 최근 발표한 자료에 따르면 2027년까지 AI에이전트가 계정 노출을 확인해서 정보를 빼내는 데 걸리는 시간을 50%까지 단축할 것이라고 한다.
가트너에 따르면 AI 에이전트는 딥페이크 음성을 기반으로 하는 사회 공학적 해킹 공격(시스템이 아닌 사람의 취약점을 공략하여 원하는 정보를 얻는 공격 기법)부터 사용자 인증 정보 도용의 종단간(E2E) 자동화에 이르기까지 다양한 계정 탈취를 위한 자동화율을 높일 것이다. 이에 대응하기 위해 소프트웨어 업계는 웹, 앱, API 등 전방위에 걸쳐 AI 에이전트와 관련된 상호 작용을 감시하고 모니터링하고 분류하는 제품과 서비스를 출시할 것으로 보인다.
(출처: https://www.gartner.com/en/newsroom/press-releases/2025-03-18-gartner-predicts-ai-agents-will-reduce-the-time-it-takes-to-exploit-account-exposures-by-50-percent-by-2027)
이렇듯 기술 발전에 따라 보안 침해 위험이 날로 높아지는 상황에서 인공지능 기술 발전에 따라 자동차 보안에 미치는 영향은 무엇이고 이를 어떻게 해소해 나가야 할지 이해할 필요가 있다.
💡 AI 기술 발전이 자동차 산업에 가져온 영향
최근까지만 해도 자동차는 전통적으로 하드웨어 중심으로 발전해왔다. 내연 기관의 효율성을 높이고 공해를 저감하는 목표가 그 무엇보다 중요했었다. 하지만 전기 자동차가 등장하면서 모든 것이 바뀌기 시작했다. 전기 자동차는 배터리의 힘으로 모터를 구동하는 방식으로 동작하다 보니까 전자/전기/제어가 훨씬 더 중요해졌다. 게다가 엔진을 돌려서 전력을 얻는 대신 배터리에서 직접 전력을 얻으므로 내부에 복잡한 컴퓨터를 구동할 여유도 생기므로 자동차의 소프트웨어도 고도화되기 시작했다.
딜로이트 컨설팅의 <모빌리티 혁명을 설계하는 소프트웨어 정의 차량> 보고서에 따르면, 소프트웨어 정의 차량(SDV, Software Defined Vehicle)시대가 본격화 된다고 전망한다. 1970년대 전자제어장치(ECU, Electronic Control Unit)가 도입된 이후에 지속적으로 소프트웨어 비중이 높아지기 시작했으며, 여러 가지 기술 발전에 힘입어 바퀴 달린 스마트폰처럼 기동하는 미래지향적 모빌리티로 향해가고 있다. 여러 가지 다양한 통계에 따르면 자동차 시장에서 40%를 넘어서 점점 늘어나는 소프트웨어 비중은 다음 그림에서 확연히 드러나고 있다.
[그림: SDV에서 늘어나는 소프트웨어 비중, 출처: <모빌리티 혁명을 설계하는 소프트웨어 정의 차량> 보고서] 모빌리티 혁명을 설계하는 소프트웨어 중심 자동차
💡 AI 기술 발전의 ‘빛’: 자동차 산업의 혁신
그렇다면 SDV에서도 AI 기술에 힘입어 자동차 업계를 뒤흔든 구체적인 혁신은 무엇일까? 크게 네 가지로 나눠서 정리해보겠다.
✅ 자율주행 기술 발전: AI는 자동차에 장착된 다양한 센서 데이터를 분석하고 차량 경로를 계획하고 움직임을 제어한다. 이렇게 함으로써 운전자의 개입 없이 차량이 스스로 운전하게 만들며, 운전자의 편의성을 높이고 교통 사고를 예방하는 효과를 얻고 있다.
✅ 커넥티드 차량 서비스의 확대: AI는 차량과 외부 환경을 연결해 다양한 커넥티드 카 서비스를 제공한다. 실시간 교통 정보, 네비게이션, 엔터테인먼트와 같은 기능은 물론이고 차량 진단이나 차량 간 교통 정보 교환 등 탑승자는 물론이고 운전자의 편의성을 높인다.
✅ 제조와 생산 공정의 혁신: AI는 자동차 제조와 생산 공정의 효율성을 높인다. 생산 라인을 자동화하고 생산성을 높이고 비용을 줄인다. 또한 AI 기반 품질 관리 시스템은 제품의 결함을 실시간으로 감지하고 예측해 불량품을 줄이고 제품의 품질을 향상시킨다.
✅ 차량 진단과 유지보수의 효율성 향상: AI는 차량 상태를 실시간으로 진단하고 예측해 유지 보수 시기를 최적화한다. 부품의 고장을 사전에 예측해 문제를 예방하고 차량 수명을 연장하고 안전성을 향상시킨다. 또한 운전자는 차량의 문제점을 사전에 감지해 예방 정비가 가능해진다.
이렇듯 소프트웨어와 AI는 자동차 산업의 패러다임을 바꾸고 있으며 다양한 분야에서 혁신을 이끌어내고 있다.
💡 AI 기술 발전의 ‘그림자’: 새로운 사이버 보안 위협
하지만 AI 기술 발전은 자동차 산업에 혁신적인 변화를 가져왔지만, 우려되는 부분 역시 짚어봐야 할 것이다. 크게 네 가지로 나누어 정리해보겠다.
✅ 사이버 보안 위협 증가: 자율주행이 늘어나면서 이를 해킹해서 차량 제어권을 탈취하거나 고의로 사고를 일으킬 가능성도 존재한다. 특히 커넥티드 차량의 경우에는 네트워크 공격을 통해 민감한 정보를 탈취하거나 시스템 오동작을 일으킬 가능성도 있기 때문이다.
✅ 개인 정보와 사생활 문제: 차량 내 센서나 카메라를 통해 개인 정보를 획득하거나 개인의 위치 정보나 방문 정보 등 민감한 정보를 탈취해 악용하는 상황이 벌어질 수 있다.
✅ 기술적인 문제: 물리적인 시스템과 비교해 AI 시스템은 복잡성으로 인해 오작동하더라도 원인을 쉽게 파악하기 힘들며 유지 보수도 그만큼 어려워지는 문제가 있다.
✅ 윤리적인 문제: 자율주행 차량의 사고 발생시 책임 소재가 불분명하고 AI 알고리즘의 편향성으로 인해 예상치 못한 사용자에 대한 차별 문제가 발생할 가능성도 있다.
물론 기술이 더욱 발전해 나감에 따라 문제점도 줄어들 가능성이 높아지긴 하겠지만, 아직은 시행착오를 거쳐 하나씩 해결해 나가야 하는 상황이므로 각별한 주의가 필요하다.
💡 창과 방패: AI를 활용한 사이버 보안 강화 방안
악의적인 공격자들은 AI를 오용해 사이버 보안을 위태롭게 만들고 있다. 그렇다면 창에는 방패로 대응해야 하는데, 방어하는 쪽에서도 역시 AI를 활용해 공격에 대응하고 보안을 강화하는 방법을 사용하고 있다. 사이버 보안을 강화하는 현실적인 방법을 다음과 같이 정리해보겠다.
✅ 위험 탐지와 분석 강화: AI는 방대한 로그 데이터를 분석해 정상적인 패턴을 학습하고 비정상적인 행위를 실시간으로 감지할 수 있다. 또한 AI는 악성 코드 분석과 관련해서도 단순한 규칙 기반 분석이 아니라 변종 악성 코드까지 탐지할 수 있는 융통성을 발휘한다. 이렇듯 AI는 과거의 공격 패턴과 최신 보안 위협 정보를 분석해 공격 가능성을 예측하고 선제적으로 대응하는 기반을 제공한다.
✅ 보안 자동화와 대응 효율성 향상: AI는 탐지된 위협에 대해 자동으로 대응 조치를 취하며, 시스템 취약점을 분석해 필요한 조치를 취할 수 있다. 또한 보안 데이터를 분석해 최적의 보안 정책을 설정하고 변화하는 위협 환경에 맞춰 자동으로 정책을 업데이트할 수 있다.
✅ 사용자 인증과 접근 제어 강화: AI는 평상시 사용자 행동 패턴을 분석해 비정상적인 접근을 탐지하고 필요에 따라 추가적인 인증을 요구한다. 또한 사용자의 역할, 위치, 시간 등 다양한 컨텍스트 정보를 분석해 접근 권한을 동적으로 제어할 수 있다.
✅ 보안 위협 인텔리전스 강화: AI는 자연어 처리 기술을 활용해 다양한 보안 위협 정보를 분석하고 유용한 정보를 추출해 제공할 수 있다. 또한 여러 위협 정보를 통합적으로 분석해 조직 간에 공유할 수 있다.
이렇듯 AI를 활용하면 기존 보안 시스템에 비해 훨씬 더 정교하게 통제할 수 있으며, 주변 상황이 바뀌는 경우에도 사후 조치가 아니라 사전 대응이 가능해지므로 공격자의 침입 가능성을 줄일 수 있다.
💡 제로 트러스트 원칙의 도입 과정에서 시사점
제로 트러스트 (Zero Trust)는 "절대적으로 신뢰하지 않고, 항상 검증한다"는 원칙에 의거해 모든 접근과 통신을 보안 위협으로 간주하고, 최소 권한 부여, 마이크로 세그먼트, 지속적인 검증 등을 통해 보안을 강화하는 보안 패러다임이다. AI 시대를 맞이하여 제로 트러스트 원칙이 더욱 중요하게 부각되고 있는데, 이에 대한 필요성과 시사점을 정리해보았다.
가. 제로 트러스트 원칙의 필요성
✅ AI 기반 공격에 대한 대응: 공격자가 더욱 정교하고 지능적인 공격을 수행하도록 돕는 AI 기반 보안 공격에 맞서 제로 트러스트는 모든 접근을 의심하고 검증하는 원칙을 통해 AI 기반 공격에 효과적으로 대응할 수 있다.
✅ 데이터 중심 보안의 중요성 증대: 특히 제로 트러스트는 데이터 접근 권한을 최소화하고 암호화해서 데이터 보안을 강화하므로, 데이터가 없으면 사실상 무용지물이 되어버리는 AI의 취약점을 공략해서 지능화된 공격을 방어한다.
✅ 클라우드와 IoT 환경의 확산: AI는 클라우드와 IoT 환경에서 활발하게 적용되고 있으며, 이런 환경은 복잡하고 동적으로 변화하는 보안 위협에 노출되어 있다. 제로 트러스트는 네트워크 경계 없이 모든 접근을 검증하므로 이런 복잡한 상황에서 대응력을 높인다.
나. 제로 트러스트 원칙의 시사점
✅ AI 기반 보안 시스템과 통합: 제로 트러스트는 AI 기반의 이상 행위 탐지, 사용자 인증과 접근 제어 시스템과 통합되어 더욱 강력한 보안 체계를 구축할 수 있다.
✅ 데이터 중심의 보안 정책: 제로 트러스트는 데이터의 중요도에 따라 접근 권한을 차등화하고 데이터 암호화와 접근 제어 정책을 강화한다.
✅ 지속적인 모니터링과 분석: 제로 트러스트는 모든 접근을 지속적으로 모니터링하고 분석해 이상 행위를 탐지하고 대응한다. AI는 모니터링과 분석을 자동화하고 효율화 하는 과정에서 중요한 역할을 한다.
✅ 사용자 중심의 보안 환경 구축: 제로 트러스트는 사용자 편의성을 해치지 않으면서 보안을 강화한다. AI 기반 사용자 접근과 인증 시스템은 사용자 경험을 향상시키면서 보안을 강화하는 데 일조한다.
이처럼 AI 기술 발전은 사이버 보안 환경에 큰 변화를 가져왔으며, 제로 트러스트 원칙은 이런 변화에 대응하는 효과적인 보안 전략이다. 제로 트러스트 도입 과정에서 AI 기술을 적극적으로 활용하고 데이터 중심의 보안 정책을 수립하며 사용자까지 포함하는 보안 환경을 구축할 필요가 있다.
새솔테크 역시 글로벌 최고 수준의 보안 기술력에 인공지능(AI)을 접목하여 V2X(Vehicle-to-Everything) 환경의 고도화를 선도하고 있다. 특히 제로 트러스트(Zero Trust) 보안 원칙을 기반으로 V2X 통신 환경에서 메시지의 우선순위를 효과적으로 결정하는 ‘AI 기반 차량 이상행위 탐지(MBD) 플랫폼’ 등을 개발/연구 중에 있으며, 한층 진보된 스마트 모빌리티 생태계 구축에 박차를 가하고 있다.
새솔테크는 단순한 보안 기술을 넘어 생명 보호와 안전한 미래 모빌리티 환경 구축이라는 본질적인 가치를 실현해가고 있다. 앞으로도 모두가 안심하고 이동할 수 있는 생명을 향한 혁신을 선도해 나갈 것이다.
여기서 잠깐, 이 PRODUCT에 주목해보세요
새솔테크 온디바이스 AI 모빌리티 플랫폼
새솔테크의 V2X 보안 솔루션에 대해 궁금한 내용이 있다면?지금, 새솔테크 TEAM에 문의하세요!
문의하러 가기
