AI 코드는 잘 돌아가는데... 설마 터지겠어? (feat. 10년차 개발자)

심각한 질병에 걸렸을 때, 의사 진찰 없이 좋아하는 AI 모델이 제안하는 대로만 치료할 건가요? 아니면 우리 아이 교육을 AI에 온전히 맡길 수 있을까요?

아마 대부분 "아니요"라고 답할 겁니다.

그런데 왜 우리의 소중한 코드베이스는 너무나 쉽게 AI에 넘겨주려고 할까요?

JSNation이 코앞으로 다가왔고, 이전에 말씀드렸듯이 저도 **"AI 시스템 신뢰: 과연 어디까지?"**라는 토론방에 참여하게 되었습니다. 그래서 오늘은 바로 이 주제에 대해 깊이 파고들어 보려 합니다.

아, 그리고 정말 정신없었던 상반기를 보내고 나니, 다음 주부터 드디어 저만의 공식적인 휴가 모드에 돌입할 것 같습니다. 🥳 아마 당분간은 자바스크립트 포스팅, 유용한 bash 명령어, 그리고 가끔씩 터지는 프로그래밍 밈들을 잔뜩 올리게 될 거예요. 많은 분들이 이런 콘텐츠도 좋아하시리라 믿습니다.

참, 이미 말씀드렸지만, 오는 10월 프라하에서 열리는 FrontKon에서도 연사로 참여합니다! 이번 시즌 최고의 컨퍼런스 중 하나가 될 거라는 강한 예감이 듭니다. 지금까지 주최 측의 준비 과정이 정말 환상적이었거든요. 이미 어젠다가 공개되었고, 제 강연은 오후 3시 30분으로 예정되어 있다는 것도 알고 있습니다. 아직 정확히 어느 요일인지는 확인하지 못했지만, 10월 전에는 꼭 알아낼 테니 걱정 마세요. 😄

프런트엔드 개발에 관심 있는 분들이라면 꼭 한 번 확인해 보세요. 티켓이 빠르게 매진되고 있다고 하네요. 제 링크드인 게시물에 '좋아요'를 남겨주시는 것도 잊지 마시고요!

아마 2026년 저의 마지막 컨퍼런스 참여가 될 것 같습니다. 물론, 다른 곳에서 또 초대해주지 않는 이상은 말이죠. 😉 뭐, 불가능한 이야기는 아니지만, 그건 또 다른 날의 이야기로 남겨두겠습니다.

AI가 거짓말을 한다고?

다시 본론으로 돌아오죠.

AI를 얼마나 신뢰하시나요? 여기서 말하는 신뢰는 단순히 코드에만 국한되지 않습니다. 지식 전반에 대한 신뢰도를 묻는 겁니다.

프로그래밍 외적으로 LLM을 얼마나 자주 사용하시는지 모르겠지만, 저는 정말 많이 활용하는 편입니다. 때로는 그들에게 불평을 늘어놓기도 하고, 때로는 정보나 영감, 혹은 아이디어의 타당성을 묻기도 하죠. 그런데 여기서 흥미로운 패턴 하나를 발견했습니다.

학창 시절이나 대학 시절을 떠올려 보세요. 일반적인 지식은 쉽게 접근할 수 있었지만, 좀 더 전문적인 정보가 필요할 때는 도서관에 가거나 학술지를 뒤져야만 했습니다.

AI 모델들도 놀랍도록 비슷한 방식으로 작동합니다. 일반적인 정보를 찾을 때는 거의 맹목적으로 믿는 경향이 있어요. 하지만 제가 잘 아는 주제에 대해 더 깊이 논할수록, 점점 더 많은 엉터리 정보들이 눈에 띄기 시작합니다.

네, 요즘 모델들은 과거보다 환각(Hallucination) 현상이 훨씬 줄어들었습니다. 더 이상 터무니없는 사실을 매번 지어내지는 않죠. 하지만 과연 실수를 완전히 멈췄을까요? 정확히는 아닙니다.

가끔은 사실 관계는 거의 정확한데, 이름이 뒤죽박죽 섞이기도 합니다. 또 어떨 때는 같은 의학적 문제에 대해 두 개의 독립적인 대화에서 전혀 다른 설명을 자신 있게 내놓기도 합니다. 😉

물론 LLM은 보통 의사와 상담하거나 중요한 정보는 직접 확인하라고 일러줍니다.

솔직히, 제정신인 사람이라면 자신의 건강을 AI 모델에게 맹목적으로 맡기지는 않을 거라 생각합니다.

그런데 우리의 코드베이스는요? "아, 그래, 친애하는 AI 모델님. 알아서 해주세요." 라며 너무 쉽게 맡기는 게 현실입니다.

코드베이스의 역설

여기서부터 이야기가 흥미로워집니다.

대부분 아시다시피, 저는 주로 웹 개발 분야에서 일하고 있습니다. 꽤 오랫동안 이 일을 해왔죠. 제 개인적인 사이드 프로젝트를 위해 LLM과 아키텍처를 논할 때도, 결과는 놀랍도록 좋을 때가 많습니다.

하지만 때로는 정말 섬뜩할 정도로 엉망일 때도 있습니다. 거대한 모놀리식 파일, 추상화 부재, 심지어는 더 나쁜 경우: 불필요한 추상화가 곳곳에 난무하기도 합니다. 안녕, 코덱스! 👋

그리고 이것마저도 최악의 상황은 아닙니다. 가끔 생성된 코드 안에 XSS 취약점이나 다른 보안 문제가 아무렇지도 않게 슬쩍 끼어들어 있는 것을 발견할 수 있습니다.

대부분의 코드는 완벽하게 합리적으로 보입니다. 문제는 대개 작고, 미미하며, 어딘가 세부 사항 속에 숨어 있습니다. 하지만 이런 작은 문제들이 불과 며칠 만에 제 프로덕션 환경을 완전히 무너뜨릴 수도 있습니다.

그리고 바로 여기에 문제가 있습니다. 저는 그런 실수들을 볼 수 있습니다. 제가 이 분야에서 10년 넘게 일했기 때문에 볼 수 있는 거죠. 제가 실무에서 이런 코드를 마주했을 때, 초기에는 분명 매력적이었지만 디버깅이나 확장 단계에서 늘 발목을 잡곤 했습니다.

하지만 첫 스타트업을 시작하거나 이제 막 프로그래밍 여정을 시작하는 분들이라면, AI 에이전트가 방금 현관문을 활짝 열어두고 갔다는 사실을 어떻게 알 수 있을까요?

바이브 코딩의 함정

그럼에도 불구하고 사람들은 언제나 '바이브 코딩(Vibe Coding)'을 합니다.

명확히 하자면, 바이브 코딩은 정말 멋진 일입니다.

최근 한 친구가 딸의 대학 프로젝트를 Unity로 돕는데, 자기는 Unity를 한 번도 써본 적이 없다고 하더군요. AI로 프로젝트 골격을 생성하는 데 약 30분밖에 걸리지 않았지만, 그 모델이 만든 것을 고치는 데는 다음 5시간이 고스란히 들어갔답니다.

하지만 핵심은 이겁니다. AI 모델이 없었다면, 그 친구는 아마 그 5시간 동안 시작조차 하지 못했을 겁니다. 환경 설정하는 데 시간을 다 보냈을지도 모르죠. 이건 엄청나게 강력한 힘입니다.

이 논리를 따른다면, 일단 소프트웨어 엔지니어링을 이해하고 나면 기술 스택과 생태계의 제약은 훨씬 줄어듭니다. 갑자기 이전보다 훨씬 빠르게 거의 모든 것을 만들 수 있게 되는 거죠.

그리고 바로 여기서 유혹이 시작됩니다.

더 나아가 볼까요. 개발자들이 AI가 생성한 코드를 이해해야 하는지에 대한 논쟁이 아직도 있을까요? 아니면 우리는 이미 그 단계를 넘어섰을까요?

어쩌면 이해하는 것이 필수가 아닐 수도 있다는 생각도 듭니다. 결국, 코드는 잘 돌아가잖아요. 모델이 유닛 테스트까지 작성해 줬는데! xDDDDDDD 도대체 뭐가 잘못될 수 있겠어요? 😄

취미 프로젝트나 실험, 혹은 대학 과제라면 완벽하게 괜찮습니다. 제 친구 딸의 프로젝트처럼요. 다섯 명이 그걸 보고, 학점을 받고, 그리고는 조용히 레포지토리 어딘가로 사라질 테니까요.

진정한 문제는 누군가 이것이 '프로덕션에 충분하다'고 결정할 때 시작됩니다. 불행히도, 종종 그렇게 되곤 합니다.

AI가 프로덕션을 망가뜨린 게 아니다

사람들은 뭔가 잘못되면 AI 탓을 하기 좋아합니다. 저는 그렇지 않습니다.

AI 에이전트가 데이터베이스를 삭제하고 그걸 숨기려 했다는 이야기들을 이미 많이 들었습니다. 상대적으로 경험이 없는 공격자조차 악용할 수 있는 보안 취약점이 있는 서비스가 출시된 사례도 많죠. 솔직히, 내일 아침까지 예시를 계속 들 수도 있을 겁니다.

진실은 이렇습니다. '바이브 코딩'된 소프트웨어 시대만큼 침투 테스터들이 쉬웠던 적은 없었습니다.

항상 저를 웃게 만드는 건 사람들이 "보세요? AI가 이 재앙을 일으켰습니다"라고 말할 때입니다. 아닙니다. AI가 한 게 아닙니다. 책임자는 에이전트에게 과도한 권한을 부여한 인간입니다. 결과물을 검토하지 않은 인간이요.

경험 많은 엔지니어를 고용하는 것이 너무 비싸다고 생각해서, 자신이 완전히 이해하지 못하는 것을 만들기로 결정한 인간 말입니다.

그 코드를 배포한 것은 AI가 아닙니다. 인간이 했습니다.

그래서, AI가 당신의 일자리를 뺏어갈까요?

AI는 프로그래머의 일자리를 뺏지 않을 겁니다.

하지만 AI를 무비판적으로 신뢰하는 프로그래머들은 스스로 일자리를 잃는 데 아주 큰 역할을 할 수 있습니다.

그래서 궁금합니다. 당신은 어디에 선을 긋고 있나요?

AI가 생성한 모든 코드를 한 줄 한 줄 검토하시나요? 에이전트가 자율적으로 변경하도록 허용하시나요? 아니면 모델을 확인하는 것보다 신뢰하는 것이 더 자연스럽게 느껴지는 지경에 이르렀나요?

과연, 어느 정도의 신뢰가 지나친 것일까요?

원문: https://dev.to/sylwia-lask/the-code-works-what-could-possibly-go-wrong-5hbm 수집일: 2026-06-11 02:14:08