OBS 게임 캡처 검은 화면 해결｜그래픽카드 설정부터 노트북 듀얼 GPU까지 10분 해결법

방송 10분 전, 미리보기가 새까맣게 변했습니다

토요일 밤 10시, 방송 시작 시간을 공지해 둔 상태였습니다. 게임을 켜고 OBS에서 게임 캡처 소스를 추가했는데 미리보기 화면이 완전히 까맣게 나왔습니다. 소리는 정상이고 마이크 게이지도 움직였지만 영상만 없었습니다.

처음에는 재부팅하면 되겠지 싶었습니다. 재부팅 후에도 같았고, 소스를 지웠다 다시 만들어도 같았습니다. 그렇게 새벽 1시까지 약 3시간을 쓰고 나서야 원인을 찾았습니다. 범인은 소스 설정이 아니라 그래픽카드 연결 구조였습니다.

같은 증상으로 검색하는 분들이 시간을 아낄 수 있도록, 제가 겪은 순서 그대로 원인별 점검 절차를 정리했습니다. 기준은 현재 배포 중인 OBS Studio 32.1 계열(32.1.2 확인)이고, 윈도우 10과 11에서 동일하게 적용됩니다. 버전은 OBS 상단 제목줄에서 확인하세요.

먼저 내 증상이 어떤 유형인지 구분하세요

검은 화면은 원인이 한 가지가 아닙니다. 아래 표로 유형을 먼저 나누면 불필요한 단계를 건너뛸 수 있습니다.

증상 유형	가장 흔한 원인	먼저 볼 단계
게임 캡처만 검정, 디스플레이 캡처는 정상	후킹 실패, 권한, 안티치트	1, 2, 5단계
게임 캡처와 디스플레이 캡처 모두 검정	그래픽카드 불일치 (노트북에서 특히 흔함)	3, 4단계
특정 게임에서만 검정	전체 화면 방식, 오버레이 충돌	1, 5단계
미리보기는 정상, 녹화 파일만 검정	인코더, 드라이버	4, 6단계
업데이트나 드라이버 설치 직후부터 검정	드라이버 꼬임	6단계

저는 두 번째 유형이었습니다. 데스크톱이 아니라 그래픽카드가 두 개 있는 노트북 환경이었기 때문입니다.

꿀팁: 소스를 하나 더 추가해서 디스플레이 캡처로 테스트하세요. 게임 캡처만 안 되는지, 전부 안 되는지만 알아도 원인의 절반은 좁혀집니다.

1단계. 게임 캡처 소스를 올바르게 다시 만들기

가장 쉽고 빠른 단계라서 제일 먼저 확인합니다.

1. 게임을 먼저 실행해 로비나 게임 화면까지 진입합니다.

2. OBS에서 기존 게임 캡처 소스를 삭제합니다.

3. 소스 목록 아래의 + 버튼을 누르고 게임 캡처를 선택합니다.

4. 모드를 특정 창 캡처로 바꾸고 창 목록에서 실행 중인 게임 프로그램을 고릅니다.

5. 미리보기에 화면이 뜨는지 확인합니다.

모드를 전체 화면 응용 프로그램 캡처로 두면 게임이 실행되기 전이나 전환되는 순간에 잡히지 않아 검게 보일 수 있습니다. 게임을 켜기 전에 소스를 만들어 두는 습관도 오류의 원인이 됩니다.

주의사항: 게임 이름이 목록에 안 나오면 게임이 아직 렌더링을 시작하지 않은 것입니다. 로딩 화면이 끝난 뒤 목록 새로고침 대신 소스 속성을 다시 열어 보세요.

2단계. OBS를 관리자 권한으로 실행하기

게임이 관리자 권한으로 실행되는 경우 OBS가 일반 권한이면 후킹이 막힙니다.

1. 바탕화면 OBS 아이콘을 우클릭하고 속성을 엽니다.

2. 호환성 탭에서 관리자 권한으로 이 프로그램 실행에 체크합니다.

3. 적용 후 OBS를 완전히 종료하고 다시 실행합니다.

이 단계에서 해결되는 경우가 의외로 많습니다. 저는 해결되지 않았지만 다음 단계에서 원인을 확실히 짚을 수 있었습니다.

3단계. 그래픽카드 설정 맞추기 (가장 중요한 핵심)

노트북이나 내장 그래픽이 있는 PC에서 검은 화면이 뜬다면 이 단계가 핵심입니다. 게임은 외장 그래픽카드(엔비디아나 AMD)로 돌아가는데 OBS는 내장 그래픽(인텔 등)으로 돌아가면, OBS가 게임 화면을 가져올 수 없어 검게 나옵니다. 제가 3시간을 쓴 이유가 이것이었습니다.

방법 A. 윈도우 그래픽 설정에서 OBS 지정 (공통, 가장 먼저)

1. 윈도우 설정을 열고 시스템, 디스플레이, 그래픽 순서로 들어갑니다.

2. 앱 목록에서 찾아보기를 눌러 OBS 설치 폴더의 obs64.exe를 추가합니다. 기본 경로는 C:\Program Files\obs-studio\bin\64bit 입니다.

3. 추가된 OBS를 선택하고 옵션을 누른 뒤 고성능을 선택하고 저장합니다.

4. OBS를 완전히 종료한 후 다시 실행합니다.

방법 B. 엔비디아 사용자

1. 바탕화면 우클릭 후 NVIDIA 제어판을 엽니다. 최신 NVIDIA 앱을 쓴다면 그래픽 항목의 프로그램 설정에서 같은 작업을 합니다.

2. 3D 설정 관리, 프로그램 설정에서 obs64.exe를 추가합니다.

3. 이 프로그램에 대해 선호하는 그래픽 프로세서를 고성능 NVIDIA 프로세서로 지정합니다.

4. 적용 후 OBS를 재시작합니다.

방법 C. AMD 사용자

1. AMD Software: Adrenalin Edition을 열고 설정의 그래픽 항목으로 이동합니다.

2. 고급 설정이나 스위처블 그래픽 항목에서 obs64.exe에 고성능 지정을 합니다.

방법 D. OBS 내부에서 어댑터 확인

1. OBS 설정, 고급, 비디오 항목으로 이동합니다.

2. 어댑터 항목이 있다면 게임이 돌아가는 외장 그래픽카드가 선택되어 있는지 확인합니다.

저는 방법 A를 적용하고 OBS를 재시작하자마자 미리보기에 게임 화면이 떴습니다. 새벽 1시 40분쯤이었는데, 화면이 뜨는 순간 허탈함과 안도감이 동시에 밀려왔습니다. 소스를 열 번 지웠다 만든 시간이 아까웠습니다.

> 꿀팁: 설정을 바꾼 뒤에는 반드시 OBS를 완전히 종료하고 다시 켜야 적용됩니다. 작업 표시줄 트레이에 남은 프로세스까지 닫아야 확실합니다.

4단계. OBS 렌더러와 인코더 점검하기

그래픽카드를 맞췄는데도 검다면 렌더러를 의심합니다.

1. OBS 설정, 고급, 비디오로 이동합니다.

2. 렌더러가 Direct3D 11로 되어 있는지 확인합니다. 다른 값으로 바꿔 둔 상태라면 Direct3D 11로 되돌려 보세요.

3. 확인을 눌러 저장하고 OBS를 재시작합니다.

녹화만 검다면 설정의 출력 항목에서 인코더를 바꿔 테스트합니다. 하드웨어 인코더(NVENC 등)에서 문제가 있으면 소프트웨어 인코더(x264)로 잠시 바꿔 보고, 해결되면 드라이버 문제로 판단하면 됩니다.

5단계. 게임 캡처 옵션과 충돌 요소 정리하기

1. 게임 캡처 소스 속성에서 안티치트 호환 후크 사용에 체크해 봅니다. 안티치트가 걸린 게임에서 후킹이 막힐 때 시도하는 옵션입니다.

2. 반대로 서드파티 오버레이 캡처 옵션은 끄고 테스트합니다. 오버레이가 충돌하는 경우가 있습니다.

3. 디스코드, 스팀, 엔비디아 오버레이, 각종 FPS 표시 프로그램을 일시적으로 꺼 봅니다.

4. 게임 실행 파일 속성의 호환성 탭에서 전체 화면 최적화 사용 안 함에 체크하고 다시 시도합니다.

> 주의사항: 온라인 게임에서 후킹 방식 캡처는 게임사의 보안 정책에 따라 제한될 수 있습니다. 공식 지원 여부는 해당 게임의 안내를 확인하세요.

6단계. 그래픽 드라이버와 윈도우 기능 점검하기

1. 윈도우 그래픽 설정의 기본 그래픽 설정에서 하드웨어 가속 GPU 스케줄링을 껐다 켜서 테스트합니다. 환경에 따라 캡처가 불안정해지는 경우가 있어 켜짐과 꺼짐 모두 확인해 볼 가치가 있습니다. 변경 후에는 재부팅이 필요합니다.

2. 그래픽 드라이버를 제조사 공식 사이트의 최신 안정 버전으로 갱신합니다.

3. 갱신 후에도 증상이 같으면 기존 드라이버를 완전히 제거하고 새로 설치합니다.

📌 모르면 나만 손해! 알고 나면 소름 돋는 [ 갑자기 뜬 윈도우 10/11 정품 인증 만료 팝업? 1분 만에 영구 제거 및 메인보드 제품키 찾는 확실한 방법]의 진실은?

그래도 해결되지 않았을 때 다음으로 시도할 방법

위 6단계를 모두 거쳤는데도 검다면 아래 순서로 진행합니다.

순서	방법	설명	PNG
1	로그 파일 확인	OBS 도움말 메뉴의 로그 파일 항목에서 현재 로그를 열어 그래픽 어댑터 관련 경고가 있는지 확인합니다
2	디스플레이 캡처 우회	게임을 창 모드나 테두리 없는 창 모드로 바꾸고 디스플레이 캡처로 송출합니다
3	창 캡처 사용	캡처 방식을 윈도우 10 이상 방식으로 선택해 시도합니다
4	새 프로필과 장면 컬렉션	기존 설정이 꼬였을 가능성을 배제합니다
5	OBS 재설치	설정 폴더를 백업한 뒤 최신 버전을 공식 사이트에서 다시 설치합니다

설정 폴더는 %APPDATA%\obs-studio 입니다. 삭제하기 전에 반드시 통째로 복사해 두세요.

해결 전후 차이와 주의해야 할 부작용

구분	해결 전	해결 후	PNG
미리보기	검은 화면	게임 화면 정상 출력
방송 시작	지연 또는 포기	즉시 송출 가능
점검 시간	약 3시간 소모	원인을 알면 10분 내외

부작용도 있습니다. 고성능 그래픽으로 OBS를 고정하면 노트북에서는 배터리 소모와 발열이 늘어납니다. 방송이 끝나면 전원 연결 상태를 점검하고, 방송하지 않을 때는 설정을 되돌리는 것도 방법입니다. 관리자 권한 실행은 해당 프로그램에 높은 권한을 준다는 뜻이므로, 신뢰할 수 있는 플러그인만 사용하세요. 드라이버 완전 삭제 후 재설치는 화면이 잠시 깜빡이며 해상도가 초기화될 수 있으니 작업 중인 파일을 먼저 저장하세요.

🔗노트북 블루투스 켬/끔 버튼 아예 사라짐 완벽 해결! 장치관리자 드라이버 업데이트 1분 컷 매뉴얼

마무리 체크리스트

1. 게임을 먼저 켠 뒤 게임 캡처 소스를 새로 만들었는가

2. OBS를 관리자 권한으로 실행했는가

3. 윈도우 그래픽 설정에서 obs64.exe를 고성능으로 지정했는가

4. 엔비디아 또는 AMD 설정에서 프로그램별 그래픽을 지정했는가

5. 렌더러가 Direct3D 11인지 확인했는가

6. 오버레이와 호환성 옵션을 점검했는가

7. 드라이버를 최신 안정 버전으로 맞췄는가

검은 화면은 대부분 소스 문제가 아니라 그래픽카드가 서로 어긋나서 생깁니다. 저처럼 소스만 몇 번씩 지웠다 만들며 시간을 쓰지 마시고, 3단계부터 먼저 확인해 보세요.