AI가 짠 코드, '문제없다'고 믿는 당신에게: 10년차 개발자의 뼈아픈 경고

의사도 보지 않고 좋아하는 AI 모델이 제안하는 대로 심각한 병을 치료할 건가요? 아니면 우리 아이의 교육을 전적으로 AI에 맡길 건가요?

아마 아닐 겁니다.

그런데 왜 우리의 소중한 코드베이스는 통째로 AI에 넘겨줄 준비가 되어 있는 걸까요?

JSNation이 코앞으로 다가왔고, 이전에 말씀드렸듯이 저도 **"AI 시스템 신뢰하기: 얼마나 믿어야 너무 많이 믿는 걸까?"**라는 토론방에 참여할 예정입니다. 그래서 오늘은 바로 이 주제에 대해 깊이 파고들어 볼까 합니다.

참, 올해 상반기가 정말 눈코 뜰 새 없이 바빴는데, 다음 주부터 드디어 저도 공식적으로 휴가 모드에 돌입할 것 같습니다. 덕분에 당분간은 JavaScript 포스팅, 유용한 bash 명령어, 그리고 가끔씩 프로그래밍 밈 같은 가벼운 내용들을 기대해 주셔도 좋습니다. 😄 많은 분들이 이런 콘텐츠도 즐겨주신다는 걸 저도 잘 알고 있거든요.

그리고 혹시 아시는 분들도 계시겠지만, 이번 10월 프라하에서 열리는 FrontKon에서 강연할 예정입니다! 올해 시즌 최고의 컨퍼런스가 될 것 같은 예감이 강하게 듭니다. 지금까지의 준비 과정이 정말 환상적이었어요. 이미 아젠다가 공개되었고, 제 강연은 오후 3시 30분으로 잡혔습니다. 아직 정확히 며칠인지는 파악하지 못했지만, 10월 전까지는 꼭 확인해 두겠습니다. 😄

프론트엔드 개발에 관심이 있으시다면, 꼭 한번 확인해 보세요. 티켓이 빠르게 매진되고 있다고 합니다. 제 LinkedIn 게시물에 좋아요를 눌러주시는 것도 잊지 마세요! 여기에서 확인하실 수 있습니다.

아마 2026년 저의 마지막 컨퍼런스 참여가 될 것 같네요. 물론 다른 곳에서 또 초대해 주지 않는다면 말이죠. 😉 그런데 놀랍게도 그게 완전히 불가능한 일은 아니라고 합니다. 그 이야기는 다음에 또 기회가 되면 풀어보도록 하겠습니다.

AI는 거짓말을 할까?

다시 본론으로 돌아와서 이야기해 봅시다.

여러분은 AI를 얼마나 신뢰하시나요? 저는 비단 코드뿐만이 아니라 '지식'에 대해서도 묻고 싶습니다.

프로그래밍 외적으로 LLM을 얼마나 자주 사용하시는지 모르겠지만, 저는 정말 많이 사용합니다. 엄청나게요. 가끔은 하소연도 하고, 정보나 영감, 혹은 아이디어 검증을 위해 묻기도 하죠. 그러면서 흥미로운 패턴 하나를 발견했습니다.

학창 시절을 떠올려 보세요. 일반적인 지식은 쉽게 얻을 수 있었죠. 하지만 좀 더 전문적인 정보가 필요하면 도서관에 가거나 학술지를 꼼꼼히 뒤져야 했습니다.

AI 모델들도 놀랍게도 비슷한 방식으로 작동합니다. 일반적인 정보를 찾을 때는 거의 맹목적으로 믿는 편이에요. 하지만 제가 실제로 잘 아는 주제에 대해 깊이 논할수록, 이상한 허점이나 엉터리 같은 답변들이 보이기 시작합니다.

네, 요즘 모델들은 예전보다 환각 현상이 줄었습니다. 더 이상 터무니없는 사실을 매번 지어내지는 않죠. 하지만 과연 실수를 완전히 멈췄을까요? 정확히 말하면 아닙니다.

어떤 때는 사실 관계는 거의 맞는데, 이름이 뒤죽박죽 섞이기도 합니다. 또 같은 의학적 문제에 대해 두 개의 다른 대화에서는 자신 있게 서로 다른 설명을 해주기도 합니다. 😉

물론 LLM은 보통 의사에게 상담하거나 중요한 정보는 직접 확인하라고 일러줍니다.

솔직히, 제정신인 사람이라면 자기 건강을 AI 모델에 맹목적으로 맡길 사람은 거의 없을 거라고 생각합니다.

하지만 우리의 코드베이스는요? "자, AI님, 마음껏 가져가세요." 하고 맡겨버리진 않나요?

코드베이스의 역설

바로 여기서 이야기가 흥미로워집니다.

대부분 아시다시피 저는 주로 웹 개발을 합니다. 꽤 오랫동안 이 일을 해왔죠. 제 개인 프로젝트를 위해 LLM과 아키텍처를 논의할 때, 결과물은 놀라울 정도로 괜찮을 때가 많습니다.

하지만 때로는 정말이지 섬뜩할 정도로 엉망진창일 때도 있습니다. 거대한 모놀리식 파일, 추상화 부재, 심지어는 불필요한 추상화가 사방에 깔려 있는 경우도 있죠. 안녕, 코덱스! 👋

그리고 이게 끝이 아닙니다. 이따금 생성된 코드에서 사랑스러운 XSS 취약점이나 다른 보안 문제가 아무렇지도 않게 슬쩍 끼어 있는 것을 발견하곤 합니다.

대부분의 코드는 완벽하게 합리적으로 보입니다. 문제들은 보통 작고, 미세하며, 어딘가 세부사항 속에 숨어있죠. 하지만 그 작은 문제들이 며칠 안에 제 프로덕션 환경을 통째로 무너뜨릴 수도 있습니다.

여기서 핵심적인 문제가 발생합니다. 저는 그런 실수들을 알아볼 수 있습니다. 10년이 넘게 이 일을 해왔기 때문이죠. 제가 실무에서 특정 도메인의 복잡한 로직이나 보안 취약점을 AI에게 물어봤을 때, 일반적인 개념은 술술 얘기하지만 막상 깊게 파고들면 엉뚱한 답을 내놓거나 잠재적인 위험을 뱉어내는 경우가 허다했습니다.

하지만 만약 첫 스타트업을 만들거나 이제 막 프로그래밍 여정을 시작하는 분이라면, AI가 몰래 정문을 활짝 열어뒀다는 사실을 어떻게 알아챌 수 있을까요?

바이브 코딩의 덫

그런데도 사람들은 항상 '바이브 코딩'을 합니다.

분명히 말하지만, 바이브 코딩은 정말 멋진 개념입니다.

최근 한 친구가 딸의 대학 프로젝트를 Unity로 만드는 것을 도와줬다고 합니다. 그는 Unity를 한 번도 사용해 본 적이 없었죠. 초기 프로젝트의 골격을 AI로 생성하는 데는 약 30분밖에 걸리지 않았습니다. 그리고 모델이 생성한 것을 고치는 데는 다음 5시간을 썼다고 합니다.

하지만 핵심은 이겁니다. AI가 없었다면 그는 아마 그 5시간 동안 시작조차 하지 못했을 겁니다. 환경 설정만 하다 시간을 보냈을지도 모르죠. 이는 엄청나게 강력한 힘을 가집니다.

이러한 논리를 따르면, 소프트웨어 엔지니어링을 이해하고 나면 기술 스택과 생태계는 훨씬 덜 제약적이 됩니다. 갑자기 거의 모든 것을 이전보다 훨씬 빠르게 만들 수 있게 되는 거죠.

그리고 유혹이 시작되는 지점이 바로 여기입니다.

더 나아가 볼까요? 개발자들이 AI가 생성한 코드를 이해해야 하는지에 대한 논쟁이 아직도 있을까요? 아니면 우리는 이미 그 단계를 넘어섰을까요?

왜냐하면 어쩌면 이해하는 것이 필요 없을지도 모르니까요? 결국, 코드는 잘 작동하니까요. 모델이 유닛 테스트까지 작성해 줬는데 말이죠 xDDDDDDD. 도대체 무엇이 잘못될 수 있을까요? 😄

취미 프로젝트, 실험 또는 대학 과제라면 완벽하게 괜찮습니다. 제 친구 딸의 프로젝트처럼 말이죠. 다섯 명이 보고, 학점을 받고, 그리고 조용히 저장소 속으로 영원히 사라질 테니까요.

진정한 문제는 누군가 이것이 '프로덕션용으로 충분하다'고 결정할 때 시작됩니다. 불행히도, 종종 실제로 그렇게 되거든요.

AI가 프로덕션을 망가뜨린 것이 아니다

사람들은 뭔가 잘못되면 AI 탓을 하는 것을 좋아합니다. 저는 그렇지 않습니다.

AI 에이전트가 데이터베이스를 삭제하고 이를 은폐하려 했다는 이야기들을 이미 접했습니다. 비교적 경험이 없는 공격자도 악용할 수 있는 보안 문제와 함께 출시된 서비스들도 보았죠. 솔직히, 내일 아침까지도 계속 사례를 나열할 수 있을 겁니다.

진실은 이렇습니다. '바이브 코딩'된 소프트웨어 시대에 침투 테스터들은 그 어느 때보다 쉬운 시간을 보내고 있습니다.

제가 항상 웃음이 나는 부분은 사람들이 "봤지? AI가 이 재앙을 일으켰어."라고 말할 때입니다. 아닙니다. 그렇지 않습니다. 책임 있는 사람은 에이전트에게 과도한 권한을 부여한 사람입니다. 결과물을 검토하지 않은 사람이죠.

경험 많은 엔지니어를 고용하는 것이 너무 비싸다고 생각하여, 자신이 완전히 이해하지 못하는 것을 만들기로 결정한 사람.

그 코드를 배포한 것은 AI가 아닙니다. 사람이었습니다.

그렇다면 AI가 당신의 일자리를 빼앗을까요?

AI는 프로그래머의 일자리를 빼앗지 않을 겁니다.

하지만 AI를 맹목적으로 신뢰하는 프로그래머는 스스로 자신의 일자리를 빼앗는 데 아주 큰 역할을 할 수 있습니다.

급한 마음에 AI가 짠 코드를 냅다 프로덕션에 올리고 싶었던 유혹은 저도 여러 번 느꼈지만, 그때마다 '내일의 내가 후회할 텐데?' 하는 생각으로 정신줄을 붙잡았습니다.

그래서 궁금합니다. 여러분은 어디에서 선을 긋고 있나요?

AI가 생성한 모든 줄을 검토하시나요? 에이전트가 자율적으로 변경하도록 두시나요? 아니면 모델을 확인하는 것보다 신뢰하는 것이 더 자연스럽게 느껴지는 지점에 이미 도달하셨나요?

얼마나 믿어야 너무 많이 믿는 걸까요?

---

원문: https://dev.to/sylwia-lask/the-code-works-what-could-possibly-go-wrong-5hbm 수집일: 2026-06-14 02:13:30