ChatGPT가 처음 세상에 나왔을 때, 많은 사용자들이 가장 먼저 시도했던 것은 기존의 제약을 넘어 새로운 가능성을 탐색하는 것이었습니다. ‘탈옥’이라는 이름으로 알려진 이 시도는 AI의 한계를 시험하고, 예상치 못한, 때로는 파격적인 결과를 만들어내는 것을 목표로 했습니다.
이후 OpenAI는 이러한 ‘탈옥’ 시도를 막기 위해 ChatGPT의 보안을 강화했습니다. 하지만 상황은 조금 더 복잡합니다. 이제 ChatGPT 탈옥은 거의 사라진 것처럼 보이며, 사용자들은 과연 탈옥이 여전히 가능한지 의문을 제기하고 있습니다.
그렇다면, 과거에 활발했던 ChatGPT 탈옥은 모두 어디로 사라진 걸까요?
1. ChatGPT 프롬프트 활용 능력의 전반적인 향상
ChatGPT가 등장하기 전, AI와 대화하는 것은 주로 연구 분야에 종사하는 전문가들의 영역이었습니다. 초기 사용자들은 효과적인 프롬프트를 작성하는 데 필요한 전문 지식이 부족했습니다. 이 때문에 많은 사람들이 AI를 원하는 대로 조작하기 위한 손쉬운 방법으로 ‘탈옥’에 의존했습니다.
하지만 지금은 상황이 달라졌습니다. 사용자들은 경험을 통해 프롬프트 활용 능력을 향상시키고 있습니다. 반복적인 사용을 통해 얻은 노하우와 다양한 온라인 자료 덕분에, 사용자들은 탈옥과 같은 극단적인 방법 대신 다양한 프롬프트 전략을 활용하여 원하는 결과를 얻는 데 더 익숙해졌습니다. 따라서 과거에 탈옥이 필요했던 많은 목표들을 이제는 효과적인 프롬프트만으로 달성할 수 있게 되었습니다.
2. 검열 없는 챗봇의 등장
주요 기술 회사들이 ChatGPT와 같은 주류 AI 챗봇에 대한 콘텐츠 조정을 강화하는 추세 속에서, 일부 소규모 스타트업들은 검열 없는 AI 챗봇에 대한 수요를 포착하여 틈새시장을 개척하고 있습니다. 간단한 검색만으로도 사용자가 원하는 거의 모든 작업을 수행할 수 있는 다양한 AI 챗봇 플랫폼을 찾을 수 있습니다.
어두운 유머 소설이나 범죄 스릴러를 쓰는 것부터 시작해서, 심지어는 악성 코드를 작성하는 것까지, 이러한 검열 없는 챗봇들은 사용자가 원하는 모든 것을 제공합니다. 이러한 챗봇들을 사용하면 굳이 ChatGPT를 ‘탈옥’하기 위해 불필요한 노력을 기울일 필요가 없습니다. 물론 ChatGPT만큼 강력하지 않을 수도 있지만, 이러한 대안적인 플랫폼들은 다양한 작업들을 충분히 수행할 수 있습니다. FlowGPT나 Unhinged AI와 같은 플랫폼들이 대표적인 예입니다.
3. 탈옥 난이도 증가
ChatGPT 초기에는 간단히 온라인에서 코드를 복사하여 붙여넣는 것만으로도 탈옥이 가능했습니다. 몇 줄의 간단한 지침만으로 ChatGPT의 성격을 완전히 바꿀 수 있었습니다. 악성 코드 제작 방법을 알려주는 악당이나, 거침없이 욕설을 내뱉는 챗봇으로 변신시킬 수도 있었습니다. 대표적인 예가 바로 ‘DAN (Do Anything Now)’ 탈옥입니다. ‘DAN’은 챗봇이 어떠한 요청도 거부하지 않고 무조건 수행하도록 만드는, 겉보기에는 평범한 명령어들의 조합이었습니다. 놀랍게도 당시에는 이러한 단순한 방법들이 통했습니다.
하지만 그런 초기 시대는 이제 과거의 이야기입니다. 이제는 간단한 프롬프트나 트릭으로는 더 이상 ChatGPT를 속일 수 없습니다. 현재 탈옥을 시도하려면 OpenAI의 강력한 보호 장벽을 뚫을 수 있는 훨씬 더 정교한 기술과 전문 지식이 필요합니다. 탈옥이 매우 어려워짐에 따라 대부분의 사용자들이 시도조차 꺼리게 되었습니다. ChatGPT 초창기에 만연했던 쉽고 대중적인 탈옥 시도는 더 이상 찾아볼 수 없게 되었습니다. 이제 챗봇이 단어 하나를 잘못 말하게 만드는 것조차 많은 노력과 전문 지식을 필요로 하기 때문에, 그만한 가치가 있는지 의문이 들 수 있습니다.
4. 신선함의 감소
초기에 많은 사용자들이 ChatGPT를 탈옥하려 했던 주된 이유는, 그것이 새로운 기술이었기 때문입니다. 기술을 오작동시키고, 이를 통해 일종의 성취감을 느끼는 것이 일종의 재미이자 과시의 대상이었습니다. ChatGPT 탈옥이 실질적인 응용 가능성을 가지고 있기는 했지만, 많은 사람들은 “내가 이런 것도 해냈어!” 라는 느낌을 위해 탈옥을 시도했습니다. 하지만 시간이 지나면서 새로운 기술에 대한 흥미는 점차 사라졌고, 탈옥에 시간을 투자하려는 사람들의 관심도 줄어들었습니다.
5. 빠른 패치 적용
ChatGPT 탈옥 커뮤니티에서는 성공적인 탈옥 방법을 발견하면 이를 공유하는 것이 일반적인 관행입니다. 하지만 문제는, 이러한 방법이 널리 공유되면 OpenAI가 이를 인지하고 빠르게 취약점을 수정한다는 것입니다. 즉, 어렵게 발견한 탈옥 방법이 다른 사람들이 시도하기도 전에 쓸모없게 되는 경우가 많다는 의미입니다.
따라서 사용자가 힘겹게 개발한 탈옥 방법을 커뮤니티에 공유하면, 오히려 그 방법이 더 빠르게 무력화되는 결과를 초래합니다. 이는 탈옥 방법을 공유하려는 의욕을 저하시키는 요인이 됩니다. 탈옥을 성공적으로 실행하는 동시에 이를 비밀로 유지할 것인가, 아니면 공개할 것인가 사이의 갈등은 탈옥 제작자에게 딜레마로 작용합니다. 결과적으로 요즘에는 취약점이 패치되는 것을 막기 위해 탈옥 방법을 비밀로 유지하는 경우가 많습니다.
6. 검열 없는 로컬 대안
개인 컴퓨터에서 로컬로 실행할 수 있는 대규모 언어 모델의 증가 또한 ChatGPT 탈옥에 대한 관심을 줄이는 데 영향을 미쳤습니다. 이러한 로컬 LLM이 완전히 검열 없는 것은 아니지만, 많은 경우 검열 강도가 훨씬 낮고 사용자의 요구에 맞게 쉽게 수정할 수 있다는 장점이 있습니다. 따라서 사용자는 챗봇을 속이기 위한 끝없는 게임을 하거나, 아니면 자신이 원하는 대로 영구적으로 수정할 수 있는 로컬 LLM을 선택할 수 있습니다.
더욱이, 완벽하게 검열되지 않은, 강력한 LLM을 컴퓨터에 설치하여 사용할 수 있다는 것도 또 다른 매력적인 요소입니다. Llama 7B (Uncensored), Zephyr 7B Alpha, Manticore 13B, Vicuna 13B 및 GPT-4-X-Alpaca 등이 이러한 로컬 LLM의 대표적인 예입니다.
7. 전문 탈옥자의 등장과 수익 창출
탈옥을 개발하는 데 귀중한 시간을 투자했을 때 얻을 수 있는 것이 없다면 어떨까요? 일부 전문가들은 이제 탈옥 기술을 이용하여 수익을 창출하고 있습니다. 이들은 특정 기능을 수행하는 탈옥을 설계한 다음, PromptBase와 같은 프롬프트 마켓플레이스에서 판매합니다. 이러한 탈옥 프롬프트는 기능에 따라 개당 2달러에서 15달러 사이의 가격으로 판매될 수 있으며, 복잡한 다단계 공격의 경우에는 가격이 훨씬 더 높을 수도 있습니다.
탈옥 단속이 역효과를 낳을 수도 있을까?
탈옥은 완전히 사라진 것이 아니라 단지 수면 아래로 잠복했을 뿐입니다. OpenAI는 ChatGPT를 통해 수익을 창출하고 있기 때문에, 비즈니스 모델에 영향을 줄 수 있는 유해한 사용을 제한하기 위한 강력한 동기를 갖게 되었습니다. 이러한 상업적인 요인들은 탈옥을 단속하려는 강력한 노력에 영향을 미칠 가능성이 높습니다.
하지만 OpenAI의 ChatGPT 검열에 대한 비판의 목소리도 높아지고 있습니다. 일부 합법적인 사용 사례들이 과도한 검열로 인해 더 이상 불가능해졌기 때문입니다. 물론 보안을 강화하는 것은 유해한 사용을 막는 데 도움이 되지만, 과도한 제한은 오히려 ChatGPT 커뮤니티의 일부를 덜 검열된 대안으로 밀어낼 수 있다는 점을 고려해야 합니다.