0.1%의 오류와 인간 검증이라는 미신

문제 제기: "그래도 검증은 인간이 해야지?"

나보다 먼저 AI의 위험성을 경고한 사람들은 많았다. 그런데 재미있는 건, 꽤나 배우신 분들이나 전문가라는 사람들조차 아직 이런 말을 한다는 거다.

"AI가 99.9% 완벽해도 나머지 0.1% 오류는 못 막잖아. 그건 결국 인간이 체크해야 해. 책임은 인간의 몫이니까."

난 여기서 동의가 안 됐다. 이건 1%의 선민의식 아니면, 현장의 속도를 못 따라가는 레거시의 착각이다. 그들이 말하는 '인간의 검증'이라는 게 과연 구조적으로 유효한가? 나는 아니라고 본다.

내가 더 빨리 공포를 느끼는 이유

나는 개발자고, 스타트업에서 일한다. 빠른 프로토타이핑과 MVP 확장이 생명인 곳이다. 여기서 Claude Code 같은 툴이 매일매일 발전하는 걸 보면, 이건 단순한 '도구'가 아니다. 내 업무 파이프라인이 통째로 씹어 먹히는 게 보인다.

게다가 난 군대에서 하급 장교로 일하며 4명분의 일을 혼자 처리해봤다. 군대식 회사의 그 비효율적인 일처리들을 보면서 '무엇이 쓸모없는 과정인가'를 본능적으로 걸러내는 눈이 생겼다.

내 사고방식(ENTP, 3시그마)으로 비교해 봐도, 내 작업 속도와 AI 에이전트의 발전 속도 그래프는 이미 교차했다. 내가 느끼는 위기감은 막연한 미래가 아니라 당장의 '생산성 격차'에서 온다. 내가 바로 그 '대체되고 있는' 현장의 한복판에 서 있기 때문이다.

기존 관점의 오류: 신입은 믿으면서?

사람들은 AI의 결과물을 못 믿겠다고 한다. 차트를 그리고 코드를 짜면 "저걸 어떻게 검증해?"라고 묻는다.

여기서 정의를 다시 해보자. 당신은 갓 들어온 신입 사원의 결과물은 100% 신뢰하나? 신입이 해서 대리가 보고, 팀장이 검증해도 사고는 터진다. 인간의 업무 프로세스 자체가 이미 '오류를 포함한' 모델이다. 그런데 왜 AI에게만 무결성을 요구하는가?

• 변호사: 며칠 걸리던 일을 AI는 하루에 두세 건 처리한다.
• 사무직: 엑셀, PPT, 자료 조사? 이미 '딸깍' 수준으로 진입했다.

AI가 작업한 걸 검증하는 프로세스? 그것도 당연히 자동화될 수 있다. 신입 사원보다 AI가 더 빨리 배우고, 지치지도 않는다. '검증'을 인간의 성역으로 남겨두려는 건, 그저 마음의 위안일 뿐이다. 지금의 '검증 필요성'은 기술적 한계가 아니다. 우리가 아직 AI를 워크플로우에 통합하는 파이프라인을 덜 짰기 때문일 뿐이다.

개발의 미래: '덕지덕지'가 '딸깍'이 되는 순간

내 주 업무인 소프트웨어 개발로 돌아와 보자.

1. 큰 그림: AI가 잘 그린다.
2. 구현(Coding): 성능, 유지보수성? 모듈화만 잘 시키면 나보다 빠르다.
3. 시스템 설계: 지금은 AI 혼자 못 한다.

하지만 여기에 **에이전트(Agent)**들을 덕지덕지 붙여서 파이프라인을 만들면? 그건 '서상원'보다 낫다. 지금은 그 에이전트들을 연결하고 조율하는 게 힘들어서 내 역할이 남아있지만, 어제 Claude Code 업데이트를 보니 그 멀티 에이전트 조율조차 자동화되고 있더라.

결국 지금 내가 하는 복잡한 설계도 미래엔 '딸깍' 한 번으로 압축된다.

새로운 프레임: 코딩은 이제 '마라톤'이다

40년차 개발자 두 분의 논쟁을 봤다. 한 명은 "코딩 왜 배우냐", 다른 한 명은 "AI는 맥락을 모른다".

나는 이렇게 정의하고 싶다. 코딩은 이제 '이동수단'이 아니라 '마라톤'이다.

자동차가 발명됐는데(AI), 굳이 이동하려고 달리기(코딩)를 배우는 사람은 없다. 하지만 건강을 위해, 혹은 취미로 마라톤을 하는 사람들은 여전히 존재한다. 지금 새로 개발을 배우려는 사람이 있다면 말리고 싶다. 생계 수단으로서의 코딩은 끝났다. 지적 유희나 취미라면 모를까.

물론, 지금 현업에 있는 나는 마라톤 선수가 아니라 '자동차 정비사'와 '레이서' 사이 어디쯤에서 살아남기 위해 발버둥 쳐야 한다. AI가 시니어와 아키텍트까지 대체하기 전까지, 그 짧은 과도기(Transition) 동안:

• AI 공부: 누가 더 똑똑한지 경쟁해야 한다.
• 기존 개발 공부: AI가 짠 코드를 이해하고 조립해야 한다.

역설적이게도 AI가 다 해주니까, 공부할 양은 오히려 두 배가 됐다.

정리하면

유발 하라리의 말처럼, AI보다 나은 점이 없는 '개인'은 어디로 가야 할까?

기술적 특이점은 '검증'이니 '맥락'이니 하는 인간의 마지막 방어선마저 무너뜨리고 있다. 나는 이 흐름을 막을 수 없다고 본다. 이건 더 이상 '어떻게 일할 것인가'의 문제가 아니라, '일하지 않는 인간은 어떤 가치를 갖는가'라는 질문에 가까워지고 있다.

다행히도 아직은 내가 할 수 있는 일이 남아있다. 그게 언제까지일진 모르겠지만, 일단 오늘 나온 새로운 AI 도구를 테스트하러 간다.