Windows 10에서 L2TP 연결 시도 실패 오류 수정

L2TP(레이어 2 터널링 프로토콜)는 가상 사설망(VPN) 연결을 지원하는 데 널리 사용됩니다. VPN 네트워크는 데이터를 암호화하여 원본을 숨기고, 사용자의 실제 IP 주소를 다른 서버의 주소로 대체합니다. 이러한 IP 주소 마스킹은 지리적 제한을 우회하는 데 유용합니다. 그러나 최근 일부 사용자들이 VPN 연결 시도 중 '보안 계층 처리 오류'로 인해 L2TP 연결이 실패하는 문제를 겪고 있습니다. 이 글에서는 해당 문제를 해결하기 위한 다양한 방법을 제시합니다. 만약 동일한 문제를 겪고 있다면, 이 가이드가 큰 도움이 될 것입니다.

Windows 10에서 L2TP 연결 시도 실패 오류 해결 방법

다양한 사용자 보고와 온라인 자료를 분석한 결과, L2TP 연결 실패 오류를 유발하는 여러 가지 원인을 파악할 수 있었습니다. 아래에서는 문제의 원인으로 작용할 수 있는 요소들을 자세히 살펴보고, 각 항목별 해결 방법을 제시하고자 합니다.

• 중복된 키 또는 VPN 인증서 사용
• NAT(네트워크 주소 변환) 규칙 충족 실패
• VPN 클라이언트의 컴퓨터 인증서 부재 또는 루트 인증서에 '서버 인증' EKU(확장 키 사용) 부재
• IPsec 키 모듈 및 정책 에이전트와 같은 필수 서비스 미실행
• PC에 잘못 구성된 Point to Point 프로토콜
• VPN 서버에서 Microsoft CHAP v2 프로토콜 비활성화
• 구형 Windows 운영 체제 사용
• 바이러스 백신 또는 방화벽의 네트워크 연결 방해

이제 Windows 10에서 L2TP 연결 실패를 야기하는 주요 원인들을 이해하셨을 겁니다. 다음에서는 이러한 문제들을 해결하는 데 도움이 될 수 있는 몇 가지 해결책을 알아보겠습니다.

방법 1: 네트워크 문제 해결 도구 활용

네트워크 연결 문제가 L2TP 연결 실패의 원인일 경우, Windows 10에 내장된 문제 해결 도구를 활용할 수 있습니다. 'Windows 네트워크 어댑터 문제 해결사'를 사용하여 네트워크 관련 문제를 진단하고 해결하는 방법에 대한 자세한 내용은 'Windows 10에서 네트워크 연결 문제 해결 방법' 가이드를 참고하시기 바랍니다.

이 가이드에 설명된 단계를 따르면 Windows 10 PC의 Wi-Fi, 이더넷 및 모든 네트워크 어댑터의 문제를 진단할 수 있습니다.

방법 2: 시스템 파일 복구

시스템 파일이 손상되면 Windows 프로세스가 제대로 작동하지 않을 수 있습니다. 따라서 L2TP 연결 실패 문제를 해결하려면 PC의 손상된 파일을 복구하는 것이 중요합니다. 'Windows 10에서 시스템 파일 복구 방법' 가이드를 참고하여 PC의 손상된 파일 및 구성 요소를 복구해 보세요.

시스템 파일 복구 후, L2TP 연결 문제가 해결되었는지 확인하십시오.

방법 3: 명령어를 통한 서비스 시작

간단한 명령어를 실행하여 Windows 10에서 L2TP 연결 실패 문제를 해결할 수 있습니다. 많은 사용자들이 이 방법을 통해 문제를 해결했다고 보고합니다. 다음은 명령어 실행 단계입니다.

1. Windows 키를 누른 후 'cmd'를 입력하고 '관리자 권한으로 실행'을 클릭합니다.

2. 다음 명령어를 차례대로 복사하여 붙여넣고 각 명령어 입력 후 Enter 키를 누릅니다.

sc config IKEEXT start=demand
sc config PolicyAgent start=demand

3. 명령어가 완료되면 PC를 재부팅합니다.

재부팅 후, L2TP 연결 문제가 해결되었는지 확인하십시오.

방법 4: MS-CHAP v2 프로토콜 활성화

VPN 서비스에 연결하기 전에 Microsoft CHAP v2 프로토콜이 활성화되어 있는지 확인해야 합니다. 비활성화된 경우, 수동으로 활성화해야 합니다. 컴퓨터에서 Microsoft CHAP v2 프로토콜이 비활성화되면 L2TP 연결 실패 문제가 발생할 수 있습니다. 다음은 MS-CHAP v2 프로토콜을 활성화하는 방법입니다.

참고: VPN 서비스가 올바르게 설정되어 있고, VPN 자격 증명이 VPN 서버와 일치하는지 확인하십시오. 설정이 올바른 경우, 네트워크 어댑터 목록에서 VPN 연결을 확인할 수 있습니다.

1. Windows 키 + R 키를 동시에 눌러 실행 창을 엽니다.

2. 'ncpa.cpl'을 입력하고 Enter 키를 눌러 네트워크 연결 창을 엽니다.

3. VPN 연결 네트워크를 마우스 오른쪽 버튼으로 클릭하고 '속성'을 선택합니다.

4. '보안' 탭으로 이동하여 '이 프로토콜 허용'을 클릭합니다.

5. 'Microsoft-CHAP 버전 2'를 선택합니다.

6. '확인'을 눌러 변경 사항을 저장합니다.

이제 VPN 연결을 다시 시도하여 L2TP 연결 실패 문제가 해결되었는지 확인하십시오.

방법 5: 링크 제어 프로토콜 확장 활성화

PPP(Point-to-Point Protocol)는 VPN 연결에서 전송, 압축 및 인증을 담당합니다. LCP(Link Control Protocol) 확장은 모든 PPP 네트워크의 중요한 부분이므로 네트워크의 PPP 설정이 올바르게 구성되어야 합니다. 아래에 제시된 단계에 따라 VPN 연결에서 LCP 확장을 활성화하십시오.

1. 위의 방법과 동일하게 1~3단계를 반복합니다.

2. '옵션' 탭으로 이동하여 'PPP 설정'을 클릭합니다.

3. 'LCP 확장 활성화' 옵션을 선택합니다.

4. '확인'을 클릭합니다.

5. 다시 '확인'을 클릭하여 변경 사항을 저장하고 VPN에 연결을 시도합니다.

VPN 연결을 시도한 후 L2TP 연결 실패 문제가 해결되었는지 확인하십시오.

방법 6: 필수 서비스 재시작

많은 사용자들이 IPsec 키 모듈 및 IPsec 정책 에이전트 서비스를 재시작하여 L2TP 연결 실패 문제를 해결했다고 보고합니다. 다음은 해당 서비스를 재시작하는 방법입니다.

1. Windows 키를 누르고 '서비스'를 입력한 후 '열기'를 클릭합니다.

2. 'IKE 및 AuthIP IPsec 키잉 모듈' 서비스를 찾아 두 번 클릭합니다.

3. '일반' 탭에서 '시작 유형'을 '자동'으로 설정합니다.

4. 서비스 상태가 '실행 중'인지 확인합니다. '실행 중'이 아니면 '시작' 버튼을 클릭합니다.

5. '적용' 및 '확인'을 눌러 변경 사항을 저장합니다.

6. 'IPsec 정책 에이전트' 서비스에 대해서도 동일한 단계를 반복합니다.

7. VPN 서비스를 다시 시작합니다.

방법 7: Windows 업데이트

Windows 10은 새로운 기능을 추가하고 기존 기능을 개선하기 위해 지속적으로 업데이트를 출시합니다. Windows 업데이트는 매우 중요하며, 대부분의 경우 안전합니다. L2TP 연결 실패 문제를 해결하기 위해 'Windows 10 최신 업데이트 다운로드 및 설치 방법' 가이드를 참고하여 PC를 최신 상태로 유지하십시오.

업데이트 후 문제가 해결되었는지 확인하십시오.

방법 8: 바이러스 백신 일시 비활성화 (해당하는 경우)

때로는 바이러스 백신 프로그램이 VPN 연결을 방해하여 L2TP 연결 실패 문제를 일으킬 수 있습니다. Norton 또는 Avast와 같은 일부 타사 바이러스 백신 프로그램은 컴퓨터의 버그를 수정하는 최신 업데이트를 차단할 수 있습니다. 이 경우 'Windows 10에서 바이러스 백신 일시적으로 비활성화하는 방법' 가이드를 참고하여 바이러스 백신 프로그램을 일시적으로 비활성화해 보십시오.

VPN 문제가 해결되면 PC 보안을 위해 바이러스 백신 프로그램을 다시 활성화해야 합니다.

방법 9: Windows 방화벽 비활성화 (권장하지 않음)

VPN 서비스가 Windows Defender 방화벽에 의해 차단된 경우, 방화벽 보안을 일시적으로 비활성화해야 할 수도 있습니다. 'Windows 10 방화벽 비활성화 방법' 가이드 또는 'Windows 방화벽을 통해 앱 허용 또는 차단 가이드'를 참고하여 방화벽 설정을 변경할 수 있습니다. VPN 클라이언트를 방화벽 예외 목록에 추가하는 방법도 고려해볼 수 있습니다.

VPN에 접속할 수 있게 되면, 방화벽을 다시 활성화하여 컴퓨터를 보호해야 합니다.

방법 10: TCP/IP 구성 재설정

TCP(Transmission Control Protocol)는 인터넷 통신을 위한 규칙을 설정하는 데 필수적입니다. TCP/IP를 재설정하려면 'Windows 10에서 네트워크 연결 문제 해결 방법' 가이드의 단계를 따르십시오.

재설정 후, 문제가 해결되었는지 확인하십시오.

방법 11: 새 레지스트리 항목 생성

일부 사용자는 Windows 레지스트리 편집기에서 새 항목을 생성하여 L2TP 연결 실패 문제를 해결했다고 보고합니다. 다음은 레지스트리 항목 생성 방법입니다.

참고: 레지스트리 변경 전 반드시 레지스트리를 백업하는 것이 좋습니다. 'Windows에서 레지스트리 백업 및 복원 방법' 가이드를 참고하여 레지스트리를 백업하십시오.

1. Windows 키 + R 키를 눌러 실행 창을 엽니다.

2. 'regedit'를 입력하고 Enter 키를 눌러 레지스트리 편집기를 엽니다.

3. 레지스트리 편집기에서 다음 경로로 이동합니다.

HKEY_LOCAL_MACHINE\System\CurrentControlSet\Services\RasMan\Parameters

4. 오른쪽 창에서 마우스 오른쪽 버튼을 클릭하고 '새로 만들기' -> 'DWORD(32비트) 값'을 선택합니다.

5. 새로 생성된 키를 두 번 클릭하고 '값 데이터'를 1로 설정한 후 모든 창을 닫습니다.

방법 12: UDPE 캡슐화 레지스트리 키 생성

L2TP 연결 문제를 해결하기 위해 UDPE 캡슐화 레지스트리 키를 생성해 볼 수 있습니다. 이 키는 VPN 연결을 안정화하는 데 도움이 됩니다. 다음은 UDPE 캡슐화 레지스트리 키를 생성하는 방법입니다.

1. Windows 키를 누르고 '레지스트리 편집기'를 입력한 후 '열기'를 클릭합니다.

2. 레지스트리 편집기에서 다음 경로로 이동합니다.

Computer\HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\PolicyAgent

3. 오른쪽 창에서 마우스 오른쪽 버튼을 클릭하고 '새로 만들기' -> 'DWORD(32비트) 값'을 선택합니다.

4. 키 이름을 'AssumeUDPEncapsulationContextOnSendRule'로 지정하고 생성한 키를 두 번 클릭합니다.

5. '값 데이터'를 2로 설정하고 '확인'을 클릭합니다.

6. PC를 재부팅합니다.

방법 13: 포트 포워딩 수동 설정

포트 포워딩은 특정 포트의 네트워크 통신을 지정된 주소로 리디렉션하는 것을 의미합니다. 이는 네트워크 성능을 향상시키고 L2TP 연결 문제를 해결하는 데 도움이 될 수 있습니다. 다음은 포트를 수동으로 포워딩하는 방법입니다.

1. 웹 브라우저에서 'Portforward' 웹사이트에 접속하여 필요한 프로그램의 기본 포트 번호를 확인합니다.

2. 라우터의 IP 주소, 사용자 이름 및 비밀번호를 확인합니다.

참고: 라우터의 IP 주소를 모르는 경우, '내 라우터의 IP 주소 찾는 방법' 가이드 또는 라우터 설명서를 참고하십시오.

3. 웹 브라우저 주소창에 라우터의 IP 주소를 입력합니다.

4. 라우터 로그인 정보를 입력하고 로그인합니다.

5. 라우터 설정에서 '포트 포워딩' 항목을 찾습니다. 라우터 모델에 따라 '고급 설정' 또는 유사한 메뉴에 있을 수 있습니다.

6. 포트 포워딩을 활성화하고 특정 포트를 추가할 수 있는 옵션을 클릭합니다.

7. 빈 칸에 기본 포트 번호를 입력하고 저장합니다.

8. VPN 연결을 다시 시도하여 문제가 해결되었는지 확인하십시오.

방법 14: VPN 어댑터 재설치

네트워크 어댑터가 불안정하면 L2TP 연결 실패 문제가 발생할 수 있습니다. 'Windows 10에서 드라이버 제거 및 재설치 방법' 가이드에 따라 네트워크 어댑터 드라이버를 재설치하십시오.

드라이버 재설치 후 문제가 해결되었는지 확인하십시오.

방법 15: VPN 어댑터 롤백

VPN 드라이버를 이전 버전으로 롤백하면 현재 드라이버 버전이 제거되고 이전에 설치된 버전이 PC에 설치됩니다. L2TP 연결 실패 문제를 해결하려면 'Windows 10에서 드라이버 롤백 방법' 가이드를 참고하여 드라이버를 롤백하십시오.

드라이버 롤백 후 VPN 연결 문제가 해결되었는지 확인하십시오.

방법 16: 최근 보안 업데이트 제거

Windows 업데이트 후 L2TP 연결 실패 문제가 발생하면 VPN 연결이 최신 업데이트와 호환되지 않을 수 있습니다. 이 경우 PC에서 최근 업데이트를 제거하십시오. 다음은 Windows 10 PC에서 최근 업데이트를 제거하는 방법입니다.

1. Windows 키를 누르고 '제어판'을 입력한 후 '열기'를 클릭합니다.

2. '프로그램 제거'를 클릭합니다.

3. 왼쪽 창에서 '설치된 업데이트 보기'를 클릭합니다.

4. 가장 최근 업데이트 (예: Windows 10의 경우 kb:5009543, Windows 11의 경우 kb:5009566)를 선택하고 '제거'를 클릭합니다.

5. 확인 후 PC를 재부팅합니다.

***

이제 보안 계층에서 처리 오류로 인해 발생했던 L2TP 연결 실패 문제가 해결되었기를 바랍니다. 만약 문제 해결 과정에서 어려움을 겪고 있다면, 의견을 남겨주세요. 추가 질문이 있으시면 언제든지 문의해 주십시오.