해커들의 새 무기 된 생성형 AI… 제로데이 공격 제작까지 외 2건

요약	- 구글 위협정보그룹(GTIG), AI의 도움을 받아 개발한 것으로 추정되는 실제 동작 가능한 제로데이 취약점 공격 차단 - 공격 코드에서 과도한 주석, 교육용 문서 문자열이 포함된 점, 존재하지 않는 CVSS 점수 등 AI의 환각(Hallucination) 특성 발견
내용	- 구글 위협 인텔리전스 그룹(GTIG), 생성형 AI를 이용해 만들어진 것으로 보이는 제로데이 공격 사례를 처음으로 확인 및 차단 > 단순 피싱 문구 생성 수준이 아니라, 실제 취약점 분석과 공격 코드 제작까지 AI가 활용 > 이름이 공개되지 않은 오픈소스 기반 웹 관리 도구를 노린 것으로, 공격자는 2단계 인증을 우회할 수 있는 제로데이 취약점을 악용 > 파이썬 익스플로잇 코드 구조를 분석한 결과, 과도한 주석, 교육용 문서 문자열이 포함, 존재하지 않는 CVSS 점수 등 AI가 자주 보이는 환각(Hallucination) 특성이 발견돼 LLM이 생성했을 가능성이 매우 높음 > Mythos나 Gemini가 아닌 다른 LLM이 생성했을 가능성이 높음 - 과거 공격자들은 메모리 손상이나 입력값 검증 오류 같은 기술적 취약점을 대상으로 함 > 이번 취약점은 시스템 동작 구조와 인증 흐름 자체를 파고드는 논리적 취약점 > 일부 언더그라운드 포럼에서는 이미 AI 기반 익스플로잇 생성 서비스 광고까지 등장 - 국가 연계 해킹조직 및 모바일 악성코드에서도 AI 활용 사례 증가 ① 국가 연계 해킹 조직 > 중국·북한 정부 연계 조직들이(APT27, APT45, UNC2814, UNC5673, UNC6201 등) AI 모델을 취약점 분석과 악성코드 개발에 활용한 정황이 계속 확인 > 러시아 연계 조직의 경우 실제 악성 기능을 숨기기 위해 AI가 생성한 가짜 코드와 주석이 대량 삽입된 악성코드 및 AI 음성 복제 기술을 이용해 전쟁 관련 허위 정보 확산에 활용 ② 모바일 악성코드 > 안드로이드 악성코드 프롬프트스파이(PromptSpy)는 제미나이 API를 연동해 스마트폰을 자동 조작하는 기능을 포함 ③ 자동화 모듈 GeminiAutomationAgent > AI에게 정상적인 앱처럼 행동하도록 지시한 뒤, 화면 구조와 버튼 위치를 계산해 스마트폰을 자동 조작하도록 설계 - 다크웹에서는 프리미엄 AI 계정을 자동 생성하거나 우회 접속해 공동 사용하는 인프라까지 거래 > 단순 백신이나 패치 중심 대응을 넘어 AI 기반 공격 탐지 체계를 함께 준비
기타	-

 

보안뉴스

해커들의 새 무기 된 생성형 AI… 제로데이 공격 제작까지 - 데일리시큐

결국... AI 활용한 제로데이 취약점 공격 악성코드 현실화

Adversaries Leverage AI for Vulnerability Exploitation, Augmented Operations, and Initial Access | Google Cloud Blog