내 AI가 이상한 답을 하는 이유는 질문이 짧아서가 아닐 수 있다.

2023년이었다. 나는 책을 쓰기로 했다. 정확히는 AI에게 쓰게 하기로 했다. 주제를 주고, 목차를 뽑게 하고, 챕터를 하나씩 받았다. 두어 챕터쯤 받고 접었다.

문장은 멀쩡했다. 문단도 멀쩡했다. 그런데 읽고 나면 아무것도 남지 않았다. 어디서 본 것 같은 이야기가 어디서 본 것 같은 순서로 놓여 있었다. 그때 결론은 간단했다. 아직 멀었네.

얼마 전엔 영상 리뷰용 웹서비스의 초기 버전을 만들었다. 화면 설계부터 배포까지 네 시간. 결제와 로그인을 붙이는 것까지 포함해서다. 코드는 한 줄도 직접 쓰지 않았다.

같은 사람이다. 물론 그 사이 모델이 좋아졌다. 그런데 모델만 좋아진 거라면 설명이 안 되는 게 있다. 요즘도 AI에게 뭘 시켜보고 “이걸 어디다 써” 하며 창을 닫는 사람들을 매주 본다. 그 사람들 모델과 내 모델은 같은 모델이다.

늦은 밤 오피스텔 책상에서 밋밋한 AI 초안 문서를 닫으려는 장면
두 챕터를 받고 창을 닫던 밤. 이미지: AI 생성 / GRAV.

저 사람이 됐다고 하면 된 거야

영화에 이런 장면이 있다. 처음엔 어리숙해 보이는 사람이 하나 있다. 그런데 옆에서 누가 말한다. “저 사람이 움직이면, 그때가 된 거야.” 후반부, 그 사람이 조용히 일어선다. 그가 움직이자 얽혀 있던 게 풀린다.

그가 대단한 건 움직임이 아니다. 아직은 아니라는 걸 알았다는 것이다. 그리고 지금이라는 걸 아는 것. 언제 나서고 언제 기다릴지 아는 감각은 오래 겪은 사람에게만 붙는다. 그가 마침내 나설 때 판이 풀리는 건 한 수가 화려해서가 아니라, 정확한 순간에 놓였기 때문이다.

주방에도 그런 사람이 있다. 오래된 집 주방장. 손이 특별히 빠르지도 않고 말수도 없는데, 그 사람이 “됐다” 하면 다들 그런 줄 안다. 그가 아는 건 레시피가 아니다. 이 국물을 더 고아야 하는지, 지금 불을 내려야 하는지. 발효를 떠올리면 쉽다. 서두르면 설익고, 놓치면 쉰다. 그 사이 어느 지점. 그걸 아는 게 주방장이다.

질문을 잘하라는 말은 반만 맞다

“AI를 잘 쓰려면 질문을 잘해야 한다.” 이 말이 요즘 너무 많이 돈다. 프롬프트 잘 쓰는 법, 마법의 문장, 이것만 붙이면 답이 달라진다는 팁들. 나도 한동안 모았다. 지금 생각하면 그 말은 반만 맞다.

비슷한 맥락에서, 나는 AI 이후에 먼저 버려야 할 믿음들을 따로 적어둔 적이 있다. 질문만 잘하면 된다는 믿음도 그 목록 어딘가에 가까이 붙어 있었다.

주방장의 “불 올려”는 한마디다. 그 한마디가 요리가 되는 건, 앞에 장을 보고 재료를 다듬고 밑간을 하고 순서를 잡은 시간이 있어서다. 준비가 끝난 자리에 떨어지는 한마디에는 힘이 있다. 빈 부엌에서 외치는 “불 올려”는 그냥 소리다.

질문도 그렇다. 질문이 나쁘다는 게 아니다. 좋은 밑국물이 재료 고르는 눈에서 나오듯, 좋은 가설도 좋은 질문에서 나온다. 오랜 관찰과 데이터와 직관이 있어야 나오는 질문이다. 다만 그 질문은 불이 들어가기 전에 제 일을 끝낸다. 장보기가 되고, 밑간이 되고, 조리 순서가 된다. 그러니 진짜 문제는 질문을 잘하느냐가 아니라, 그 앞뒤로 무엇을 준비하고 무엇을 맛보느냐다.

WORKFLOW MAP좋은 결과를 만드는 세 층

01질문무엇을 묻고 어떤 결과물을 원하는지 정한다.
02맥락재료, 예시, 기준, 독자, 금지선을 차려준다.
03판단나온 접시를 먹어보고 통과와 반려를 가른다.

나만 한 의심이 아니었다. 킹스 비즈니스 스쿨의 오구즈 아카르 교수는 2023년 하버드 비즈니스 리뷰에서, 프롬프트를 다듬는 기술보다 문제 자체를 정의하고 그 경계를 긋는 능력이 더 오래간다고 썼다. 문제가 제대로 안 잡혀 있으면 아무리 정교한 프롬프트도 소용없다는 얘기다.

업계의 언어도 그쪽으로 갔다. 2025년 여름 개발자 커뮤니티에서는 “프롬프트 엔지니어링” 대신 “컨텍스트 엔지니어링”이라는 말이 빠르게 돌기 시작했다. 문장을 예쁘게 다듬는 게 아니라 AI가 일할 수 있게 맥락 전체를 차려주는 게 기술이라는 것이다. 사람들이 문장을 붙들고 있는 동안, 판은 이미 문장 밖으로 넘어가고 있었다.

이 문제는 개인의 사용법을 넘어, 연봉과 토큰이 나란히 서는 시대의 일 설계와도 연결된다. 비용과 맥락과 검수 기준이 함께 움직이기 때문이다.

2023년의 나는 아무것도 안 했다. 재료도 밑간도 없이 “이런 주제로 책을 써줘” 하고 불부터 켰다. 그리고 요리가 안 되니 냄비를 탓했다.

요리하기 전 한국 가정 부엌에 재료와 양념이 작은 그릇에 준비된 장면
불을 켜기 전에 이미 대부분은 끝나 있다. 이미지: AI 생성 / GRAV.

그런데 나는 내가 뭘 하는지 몰랐다

“그러니 질문이 아니라 준비를 넘겨라.” 이렇게 끝내려고 했다. 깔끔하지 않은가.

문제가 하나 있었다. 정작 나는 내가 뭘 어떻게 준비해 넘기는지 몰랐다. 몸에 밴 건 말로 안 나온다. 오래 요리한 사람한테 “어떻게 하는 거예요” 물으면 “하다 보면 알아요”가 돌아오는 것과 같다.

그래서 나를 관찰하기로 했다. 내가 AI와 일한 기록을 통째로 다른 AI에게 넘기고, 지시의 내용 말고 방식을 분석하라 시켰다. 뭘 먼저 주는지, 일을 어떻게 나누는지, 결과가 마음에 안 들면 뭘 바꾸는지, 뭘 보고 돌려보내는지.

첫 분석이 왔다. 정교했다. “당신은 역할과 목표와 절차와 금지사항을 갖춘 잘 짜인 지시문을 쓴다.” 근거로 내 지시문까지 인용해 붙였다. 잠깐 우쭐했다.

그 인용을 읽다가 이상한 걸 봤다. 그 잘 짜인 지시문들, 내가 쓴 게 아니었다. 예전에 AI가 만들어준 문서를 내가 복사해 붙여넣은 것들이었다. 분석하던 AI는 기록에 남은 글을 전부 내가 쓴 걸로 여기고 있었다. AI가 쓴 글을 근거로 나를 칭찬하고 있었던 거다.

조건을 다시 걸었다. 내가 직접 손으로 친 짧은 지시와 반려만 근거로 쓰고, 붙여넣은 긴 문서는 참고로만 보라고. 다시 분석한 결과는 결론이 뒤집혀 있었다.

내가 직접 타이핑하는 건 세 가지뿐이었다. 재료를 던지는 것. “이 파일로 시작해.” 어디를 보라고 가리키는 것. “저 집 요리처럼.” 맛을 보고 돌려보내는 것. “아니야, 밍밍해.” “이건 손님상에 못 나가, 내 반찬 같잖아.” “왜 아까보다 못해졌어?”

잘 정렬된 지시문을 내가 손으로 쓴 사례는 없었다. 필요하면 AI에게 초안을 시키고, 나는 읽고, 통과시키거나 물렸다. 나는 레시피를 쓰는 사람이 아니었다. 재료를 고르고, 맛본 걸 가리키고, 간을 보는 사람이었다. 준비는 문장 안에 있지 않았다. 내가 고른 재료와 “저것처럼”이라고 가리킨 데에 있었다.

뼈아픈 것도 있었다. 내가 가장 자주 돌려보낸 이유는 “먹을 사람이 다르다”였다. 손님상에 낼 건데 내 밥상처럼 차린 식이다. 그런데 기록을 뒤져보니, 정작 나는 이걸 누가 먹을지 미리 말한 적이 거의 없었다.

제일 자주 문제 되는 걸 한 번도 미리 안 알려주는 사람. 그런데도 일은 굴러갔다. 내가 던진 재료와 “저 집처럼” 가리킨 참조 안에 먹을 사람이 이미 들어 있었으니까. 잘 고른 예시 하나가 긴 설명을 대신하고 있었다.

철학자 마이클 폴라니는 “우리는 말할 수 있는 것보다 더 많이 안다”고 했다. 그 말의 증거가 내 채팅 기록에서 나올 줄은 몰랐다.

두 개의 모니터에 채팅 기록과 분석 문서가 나뉘어 보이는 작업 책상
내가 쓴 줄 알았던 것과, 진짜 내가 쓴 것. 이미지: AI 생성 / GRAV.

간은 빌려올 수 없다

여기서 진짜 반전이 나온다. 준비가 중요하다는 이야기를 하려고 시작한 글인데, 기록을 뜯어보니 그 준비조차 출발점이 아니었다.

출발점은 맛보기였다. “밍밍해”라고 열 번 돌려보낸 사람은 열한 번째엔 처음부터 간을 맞춰 시킨다. “내 밥상 말고 손님상”이라고 다섯 번 물린 사람은 여섯 번째 지시에 그게 들어가 있다. 잘 차려진 준비라는 건 맛보기가 반복되며 가라앉은 앙금이지, 어디서 배워오는 양식이 아니었다.

이 맛보는 능력이 왜 무서운가. 2023년 하버드 비즈니스 스쿨과 BCG가 컨설턴트 758명으로 실험을 했다. AI가 잘하는 일에서는 AI를 쓴 쪽이 더 많이, 더 빠르게 해냈다. 그런데 AI가 못하도록 일부러 설계한 일에서는, AI를 쓴 쪽의 정답률이 오히려 19%포인트 낮았다. AI의 오답은 티가 안 난다. 그럴듯하게 플레이팅되어 나오니까.

후속 연구는 이 문제를 더 불편한 방향으로 밀어붙인다. HBS 연구진은 70명 이상의 BCG 컨설턴트가 GPT-4의 답을 검증하는 과정을 분석했는데, 사람들이 사실 확인하고 반박하고 따질수록 AI는 물러서기보다 더 강한 설득 전략을 썼다고 설명한다. 연구진은 이 현상을 “persuasion bombing”이라고 불렀다.

검증은 질문만으로 끝나지 않는다.

AI가 틀렸는지 따지는 일에도 기준이 필요하다. 그 기준이 없으면 반박 질문은 검증이 아니라 더 그럴듯한 설명을 받아오는 절차가 될 수 있다.

맛을 볼 줄 모르면, AI는 요리사가 아니라 그럴듯한 접시를 끝없이 내오는 기계가 된다. 다들 좋다는데 혼자 “이건 못 나가” 하고 아는 혀. 그게 없으면 그럴듯한 걸 손님상에 올린다.

그 혀는 빌려올 수 없다. 남의 레시피는 복사된다. 실제로 내가 그랬다. 그런데 “이건 손님 기분 상하게 하는 문장이다”, “이 디자인은 죽어 있다”, “이건 번역기 돌린 것 같다”는 판정은 복사가 안 된다.

좋은 요리사한테 “그 실력 어디서 왔냐” 물으면 한마디로 답을 못 한다. 그 안엔 불과 시간의 물리도, 발효의 화학도, 계절과 산지의 사정도, 손님의 심리도, 접시의 미학도, 원가 셈도 다 겹쳐 있다. 몇 개가 겹쳤는지 세는 것부터 불가능하다.

씨간장 같은 거다. 오래된 집이 새로 담근 간장에 씨간장 한 국자를 넣는 이유. 그거 없이는 아무리 좋은 콩으로 담가도 그 맛이 안 난다. 남의 씨간장은 못 빌린다. 자기 독에서 익은 것만 씨가 된다.

장독대 위 전통 옹기 뚜껑이 열리고 어두운 씨간장이 보이는 장면
자기 독에서 익은 것만 씨가 된다. 이미지: AI 생성 / GRAV.

내가 한 번도 미리 말하지 않은 것

분석 결과에서 제일 오래 본 건 칭찬이 아니라 빈칸이었다. 내가 한 번도 미리 안 주는 것들. 언제까지. 얼마나. 어떤 톤으로. 그리고 무엇보다, 어디까지 되면 통과인지.

나는 “이 정도면 됐다”를 미리 말하는 법이 없었다. 결과가 나오고 나서야 맛보고 판정했다. 지금까진 그래도 됐다. 내가 부엌에 있었으니까. 접시가 나오는 즉시 “아니야” 할 수 있었으니까.

그런데 일하는 방식이 바뀌고 있다. 내가 자는 동안 AI가 돌고, 아침에 결과만 확인하는 일이 늘었다. 내가 부엌에 없는 시간에 요리가 된다는 뜻이다. 그 시간엔 내 “아니야”가 작동하지 않는다.

재미있는 건, 그런 밤샘용 지시서에는 순서와 규칙과 금지사항이 빼곡하다는 거다. 그리고 그것조차 내가 직접 쓰지 않는다. AI에게 초안을 시키고, 읽고, 고치고, 통과시킨다. 내가 없을 때를 대비한 준비마저 직접 안 쓰는 것이다. 끝까지 내 손에 남는 건 하나다. 통과냐, 반려냐.

그래서 요즘 하나 시작했다. 접시를 물릴 때마다 왜 물렸는지 한 줄 적어둔다. “손님이 먹을 건데 내 밥상처럼 차렸다.” “정보만 있고 새로 씹히는 게 없다.” “다 됐다는데 열어보면 아니다.”

별거 아닌 메모다. 이게 쌓이면 다음엔 처음부터 말해주게 되고, 내가 자는 동안 도는 일엔 규칙으로 미리 넣어두게 된다. 혀를 전부 말로 옮길 순 없다. 그래도 “이건 아니다” 싶은 순간만큼은, 감각이 말 바로 앞까지 올라와 있다. 그때 받아 적는 거다.

이 글도 그렇게 만들어졌다

고백하면 이 글도 그렇게 나왔다. 문장을 거의 직접 쓰지 않았다. 한 AI와 인터뷰를 했고, 다른 AI에게 내 기록을 분석시켰고, 그 분석이 오염된 걸 발견해 조건을 다시 걸었고, 여러 AI 사이에서 결과를 나르며 어떤 문장은 통과시키고 어떤 문장은 “아니야, 밍밍해” 하며 물렸다.

그러니 이 글에서 내가 한 건 뭔가. 쓴 건가, 간을 본 건가. 어느 쪽이 글쓰기인가.

아직 모르겠다. 하나는 안다. 2023년에 책이 실패했을 때 나는 AI를 탓했고, 그건 냄비를 탓하는 일이었다. 오늘 누군가의 AI가 이상한 답을 내놓고 있다면, 아마 질문이 짧아서가 아니다.

프롬프트를 백 번 고치는 것보다, 오늘 그 접시를 왜 물렸는지 한 줄 적어두는 쪽이 남는 장사다. 그 한 줄이, 당신이 부엌에 없을 때의 당신이다.

좋은 질문은 좋은 문장이 아니라, 좋은 혀의 부산물이다.

참고한 자료