Windows 11 게임 프레임 하락 방지하는 보안 기능(VBS) 끄기 최적화 팁

최신 사양의 게이밍 PC를 구매했음에도 불구하고, 실제 게임 플레이 시 프레임 드랍이 발생하거나 왠지 모를 끊김(스터터링) 현상이 느껴진다면 윈도우의 특정 보안 설정이 원인일 수 있습니다. 특히 Windows 11에서 기본적으로 활성화되어 있는 가상화 기반 보안 기능은 시스템 자원을 상당 부분 점유하여 게임 퍼포먼스에 영향을 줍니다.

가상화 기반 보안(VBS) 최적화 핵심 요약
1. 현상: 고사양 그래픽카드를 사용함에도 게임 프레임이 낮게 측정됨
2. 원인: VBS(가상화 기반 보안)와 HVCI(메모리 무결성)가 CPU 자원을 지속적으로 사용함
3. 효과: 설정 해제 시 게임에 따라 최소 5%에서 최대 25%까지 프레임 상승 효과
4. 비용: 별도의 하드웨어 교체 비용 없이 설정 변경만으로 성능 업그레이드 가능

원인 분석

Windows 11은 보안을 강화하기 위해 하드웨어 가상화 기술을 활용하는 VBS(Virtualization-based Security) 기능을 기본으로 켭니다. 이 기능은 시스템 내부에 독립적인 가상 공간을 만들어 악성 코드가 핵심 커널 영역에 침투하는 것을 방지하는 훌륭한 방패 역할을 합니다.

하지만 이 과정에서 메모리 무결성(HVCI) 기능이 함께 작동하며 CPU의 계산 능력을 일부 가져가게 됩니다. 일반적인 사무 업무 시에는 체감이 미미하지만, 0.1초의 반응 속도가 중요한 고사양 게임 환경에서는 최소 프레임 방어 실패입력 지연(인풋렉)을 유발하는 주범이 되기도 합니다. 따라서 보안보다 성능이 우선인 게이머들에게는 이 기능을 조정하는 것이 필수적인 최적화 코스로 꼽힙니다.

해결 방법

VBS를 끄기 위해서는 윈도우 설정과 시스템 명령어를 모두 확인해야 완벽하게 적용됩니다. 아래 단계를 차례대로 따라 해 보세요.

1. 코어 격리(메모리 무결성) 설정 해제

가장 먼저 윈도우 UI 상에서 간편하게 끌 수 있는 옵션을 조정합니다.

  1. 윈도우 시작 버튼을 누르고 '코어 격리'를 검색하여 실행합니다.
  2. 메모리 무결성 항목의 스위치를 [켬]에서 [끎] 상태로 변경합니다.
  3. 변경 사항을 적용하기 위해 반드시 컴퓨터를 다시 시작해야 합니다.

2. Windows 기능 사용/사용 안 함 설정

가상화 플랫폼 자체가 작동하지 않도록 관련 기능을 명확히 꺼주는 단계입니다.

  1. 작업 표시줄 검색창에 'Windows 기능 켜기/끄기'를 입력하고 실행합니다.
  2. 목록에서 [가상 머신 플랫폼][Windows 하이퍼바이저 플랫폼] 항목을 찾아 체크를 해제합니다.
  3. [확인] 버튼을 누르고 시스템 구성이 완료될 때까지 기다린 후 재부팅합니다.

3. 명령 프롬프트(CMD)를 이용한 완벽 차단

설정을 변경해도 백그라운드에서 VBS가 계속 실행되는 경우, 부팅 구성 데이터를 직접 수정해야 합니다.

  1. 시작 버튼 우클릭 후 [터미널(관리자)] 또는 [명령 프롬프트(관리자)]를 실행합니다.
  2. 다음 명령어를 입력하고 엔터를 누릅니다:
    bcdedit /set hypervisorlaunchtype off
  3. '작업을 완료했습니다'라는 메시지가 뜨면 창을 닫고 PC를 다시 시작합니다.

실패 시 대안 방법

만약 위 방법으로도 프레임 향상이 미미하거나 설정이 강제로 다시 켜진다면, 메인보드의 BIOS(바이오스) 설정에서 하드웨어 가상화 기술 자체를 비활성화해야 합니다.

  • 부팅 시 F2 또는 Del 키를 눌러 BIOS에 진입합니다.
  • CPU 관련 설정 메뉴(Advanced CPU Configuration)를 찾습니다.
  • Intel CPU는 'VT-d' 또는 'Virtualization Technology', AMD CPU는 'SVM Mode'를 찾아서 [Disabled]로 변경합니다.
  • 주의: 이 경우 앱플레이어(블루스택 등)나 가상 윈도우(Hyper-V) 사용이 불가능해지므로 필요에 따라 선택하세요.

재발 방지 팁

윈도우 대규모 업데이트(예: 24H2에서 25H2로 판올림)가 진행되면 보안 권장 사항에 따라 이 기능이 다시 자동으로 켜질 수 있습니다. 업데이트 이후 게임 성능이 갑자기 하락한 느낌이 든다면 '코어 격리' 메뉴를 다시 확인하는 습관을 갖는 것이 좋습니다. 또한, 최신 그래픽 드라이버(NVIDIA/AMD) 설치 시 유료 최적화 툴보다는 제조사 공식 드라이버의 '클린 설치' 옵션을 활용하여 소프트웨어 충돌을 방지하세요.

FAQ

Q. VBS를 끄면 보안에 위험하지 않나요?

A. 기본적인 방화벽과 백신(Windows Defender)은 그대로 작동하므로 일반적인 사용 환경에서는 안전합니다. 다만, 검증되지 않은 파일을 자주 다운로드하거나 보안이 중요한 기업용 PC라면 켜두는 것을 권장합니다.

Q. 앱플레이어를 써야 하는데 VBS를 끌 수 있나요?

A. 최신 버전의 앱플레이어들은 VBS가 켜진 상태에서도 작동하지만 성능은 떨어집니다. 게임 성능을 위해 VBS를 껐다면 앱플레이어 실행을 위해 BIOS의 가상화(VT/SVM)는 켜두고 윈도우 내 '메모리 무결성'만 끄는 절충안을 사용하세요.

마무리 요약

Windows 11의 VBS와 메모리 무결성은 보안에는 유익하지만 게이밍 환경에서는 성능 하락의 원인이 됩니다. 코어 격리 해제와 명령어 입력을 통해 이를 최적화하면 고가의 부품 교체 없이도 프레임 상승 효과를 볼 수 있습니다. 성능 최적화 후에는 시스템 전체 백업을 통해 안정적인 상태를 유지하시기 바랍니다. 만약 하드웨어 결함으로 인한 프레임 드랍이 의심된다면 전문 수리 센터의 점검을 고려해 보는 것도 좋은 방법입니다.

댓글 쓰기

다음 이전