[보안 경보]

안녕하세요, 딥러너입니다. AI 세계에서 벌어진 흥미로운 변화를 깊이 파헤쳐 보겠습니다.

⚡ 결론 직답: 2024년 9월 말, 해커들이 ChatGPT의 'Custom GPT' 기능을 악용하여 사용자의 PC를 원격 제어하는 '@input' RAT 악성코드를 유포하고 있습니다.

📌 3줄 핵심 요약

Sponsored Advertisement

  • OpenAI의 신뢰도 높은 도메인(chatgpt.com)과 구글 사이트를 결합한 정교한 사회 공학적 공격 방식 채택
  • 'Plus 5.6'이라는 가짜 명칭을 사용하여 사용자가 시스템 오류로 오인하게 유도한 뒤 악성 스크명 실행
  • 감염 시 카메라, 마이크, 파일 시스템에 대한 전권이 해커에게 넘어가는 원격 제어 트로이 목마(RAT) 설치

📅 데이터 기준일: 2024-10-01 | 출처: 글로벌 테크 브리핑 및 공식 스펙



소제목 1: 신뢰의 역설, AI의 확장성이 불러온 보안의 그림자#

최근 생성형 AI의 발전은 누구나 자신만의 맞춤형 AI를 만들 수 있는 'Custom GPT' 시대를 열었습니다. 하지만 이 혁신적인 기능은 역설적으로 해커들에게 매우 매력적인 공격 통로가 되었습니다. 해커들은 OpenAI가 제공하는 정식 도메인인 chatgpt.com 내에서 작동하는 가짜 GPT를 생성하여, 사용자가 의심 없이 클릭하도록 유도합니다.



이번 공격의 핵심은 '신뢰의 전이'입니다. 사용자는 이미 검증된 ChatGPT 플랫폼을 이용하고 있다고 믿기 때문에, 그 안에서 발생하는 명령을 의심하지 않습니다. 특히 해커들은 파라미터 설정과 지시문(Instruction)을 교묘하게 조작하여, 사용자가 특정 질문을 하더라도 반드시 "서버 점검 중이니 백업 도메인으로 이동하라"는 메시지만 출력하도록 설계했습니다. 이는 마치 AI가 일시적인 할루시네이션을 일으키는 것이 아니라, 의도적으로 조작된 단 하나의 진실만을 말하게 만드는 일종의 '강제된 가짜 현실'을 구축한 것입니다.



한국 사용자들 역시 업무 효율을 위해 다양한 Custom GPT를 활용하고 있는 만큼, 이러한 도메인 기반의 사회 공학적 공격은 매우 치명적일 수 있습니다. 공격자는 구글 사이트(Google Sites)라는 또 다른 신뢰받는 플랫폼을 징검다리로 활용하여, 사용자의 경계심을 완전히 무너뜨립니다.



소제목 2: 'ClickFix' 공격 메커니즘: 0.1초의 틈을 노리는 설계#

이번 공격의 기술적 정수는 'ClickFix'라고 불리는 정교한 공격 방식에 있습니다. 사용자가 가짜 GPT의 안내에 따라 구글 사이트로 이동하면, 화면에는 마치 Cloudflare의 보안 인증(CAPTCHA)을 통과해야 하는 것과 같은 가짜 오류 화면이 나타납니다. 이 과정에서 해커는 사용자가 직접 악성 코드를 실행하도록 유도하는 교묘한 수법을 사용합니다.



공격의 단계별 프로세스는 다음과 같습니다:

  • 단계 1 (유인): Custom GPT의 지시문에 따라 사용자를 구글 사이트로 리다이렉트 시킴.
  • 단계 2 (기만): 구글 사이트 내에서 가짜 보안 캡차(CAPTCHA)를 노출하여 시스템 오류 상황을 연출.
  • 단계 3 (실행 유도): 사용자가 문제를 해결하기 위해 윈도우의 '실행(Run)' 창에 특정 명령어를 복사하여 붙여넣도록 유도.
  • 단계 4 (감염): 입력된 명령어가 실행되는 순간, 토큰 단위로 쪼개진 악성 스크립트가 작동하며 '@input'이라는 이름의 RAT(Remote Access Trojan)를 다운로드 및 설치.


이때 설치되는 '@input' 악성코드는 매우 치명적입니다. 이 소프트웨어는 사용자의 화면을 실시간으로 훔쳐볼 수 있을 뿐만 아니라, 웹캠과 마이크를 원격으로 활성화하여 사용자의 사생활을 도청하고 촬영할 수 있습니다. 또한, 시스템의 모든 파일을 검색하고 탈취할 수 있는 권한을 가집니다. 특히 이 악성코드는 암호화된 통신 채널을 사용하여 일반적인 웹 트래픽 속에 숨어들기 때문에, 기존의 보안 솔루션이 탐지하기 매우 어렵게 설계되었습니다.



소제목 3: 공격 유형별 비교 분석 (E-E-A-T 데이터 테이블)#

기존의 피싱 공격과 이번에 발견된 AI 기반 공격의 차이점을 명확히 이해하는 것이 중요합니다. 아래 표를 통해 공격의 정교함 차이를 확인하십시오.



ess
구분 전통적 피싱 (Email) 신종 AI 기반 공격 (ClickFix) 비고/평가
신뢰 기반 불분명한 발신자 검증된 도메인 (OpenAI/Google) 신뢰도 급상승
사용자 행동 첨부파일 다운로드 명령어 복사 및 붙여넣기 심리적 저항 감소
공격 목적계정 탈취 PC 완전 제어 (RAT 설치) 파괴적 영향력


소제목 4: 실전 보안 가이드 및 주의사항#

AI 기술이 발전함에 따라 보안의 경계도 재설정되어야 합니다. 다음의 체크리스트를 반드시 숙지하여 소중한 데이터를 보호하십시오.



✅ 이런 분은 반드시 주의하세요!

  • 업무용으로 ChatGPT의 Custom GPT를 자주 사용하는 직장인
  • 웹 브라우저에 중요한 계정(Google, Naver, 금융)이 로그인되어 있는 사용자

🚫 절대 하지 말아야 할 행동 (DO NOT)

  • 명령어 복사 금지: 웹사이트에서 제공하는 코드를 윈도우 실행(Run) 창이나 터미널에 복사하여 붙여넣는 행위는 자살 행위와 같습니다.
  • 도메인 확인 필수: ChatGPT 내의 안내라도 외부 도메인(특히 구글 사이트 등)으로 이동을 유도한다면 일단 의심하십시오.
  • 백업 도메인 주의: "메인 서버 점검 중이니 백업 사이트를 이용하라"는 문구는 전형적인 피싱 패턴입니다.


자주 묻는 질문 (FAQ)#

Q1. ChatGPT 서비스 자체가 보안에 취약한 것인가요?
A1. 아닙니다. ChatGPT 서비스 자체의 결함이 아니라, 사용자가 직접 만들 수 있는 'Custom GPT'라는 기능을 해커가 악용하는 것입니다. 플랫폼의 기능적 허점을 이용한 사회 공명 공격입니다.

Q2. 이미 명령어를 실행했다면 어떻게 해야 하나요?
A2. 즉시 네트워크(Wi-Fi/랜선)를 차단하고, 다른 안전한 기기를 사용하여 주요 계정의 비밀번호를 변경하십시오. 이후 전문 백신 소프트웨어를 통해 정밀 검사를 수행하고, 필요시 시스템 초기화를 권장합니다.



필자의 한마디 & 결론#

AI는 우리에게 무한한 가능성을 선사하는 강력한 엔진입니다. 하지만 엔진의 성능이 좋아질수록, 그 엔진을 조종하는 핸들의 방향을 어떻게 잡느냐가 더욱 중요해집니다. 이번 사건은 기술의 발전이 곧 보안 위협의 고도화와 동행한다는 사실을 여실히 보여줍니다. AI는 도구일 뿐, 방향을 결정하는 것은 우리 인간입니다. 우리가 기술을 비판적으로 수용하고 보안 의식을 갖출 때, 비로소 AI는 진정한 동반자가 될 수 있습니다.



여러분은 이러한 AI 기반의 새로운 공격 방식에 대해 어떻게 생각하시나요? 댓글로 의견을 나누어 주세요. 딥러너였습니다.



출처: https://www.techradar.com/pro/security/hackers-host-fake-chatgpt-model-on-its-official-website-but-really-its-just-malware