‹ 차례10장

10장

키워드로는 못 푼다

AI 챗봇, 직접 만들면 월 5,400원 · 8분

7월 21일, 한 사용자가 같은 요청을 네 번 했다.

「아기 얼굴을 컨셉사진 얼굴로 똑같이 해줘」

네 번 다 아무 일도 일어나지 않았다. 사진은 거의 그대로였고, 매번 100원 가까이 나갔다.

이번엔 EXIF 같은 게 아니었다. 사진은 똑바로 서 있었고 모델도 멀쩡했다. 원인은 훨씬 민망한 데 있었다.

우리가 정반대를 시키고 있었다

사용자의 문장은 그대로 모델에게 가지 않는다. 우리가 앞뒤로 지시를 붙여서 보낸다. 그때 붙던 것이 두 가지였다.

[보존 계약]  인물의 얼굴을 바꾸지 말고 원본 그대로 유지해
[참조 라벨]  참조 속 인물은 결과에 넣지 마세요
─────────────────────────────────────────────
[사용자]     아기 얼굴을 컨셉사진 얼굴로 똑같이 해줘

사용자가 요청한 것이 정확히 그 둘이었다. 얼굴을 바꿔달라고 했는데 앞에서 "얼굴을 바꾸지 마라"고 하고 있었고, 참조에서 얼굴을 가져와 달라고 했는데 앞에서 "참조 속 인물을 넣지 마라"고 하고 있었다.

모델은 충돌하는 지시를 받고 안전한 쪽 — 아무것도 하지 않는 쪽 — 을 골랐다. 우리가 만든 안전장치가 정확히 그 안전장치를 해제해 달라는 요청을 막고 있었다.

표현 운

이 사고에서 가장 오래 나를 헷갈리게 한 것이 있다. 같은 의도인데 어떤 문장은 됐다.

「아기 얼굴을 컨셉 얼굴로 바꿔줘」      →  성공
「아기 얼굴을 컨셉사진 얼굴로 똑같이 해줘」 →  실패

의미는 같다. 그런데 "바꿔"라는 단어가 들어가면 모델이 보존 계약을 무시하고 요청을 따랐고, "똑같이 해줘"면 계약 쪽으로 기울었다.

이게 표현 운이다. 사용자는 자기가 무슨 단어를 썼는지에 따라 서비스가 되고 안 되는 이유를 알 수 없다. 그리고 안 되면 "AI가 못하는구나"라고 결론짓는다.

그럼 키워드로 가르면 되지 않나

처음 떠올린 해법이 그것이었다. '얼굴'이 들어 있고 '바꿔'가 들어 있으면 보존 계약을 빼자.

실제 요청들을 늘어놓고 보니 못 쓴다는 게 금방 드러났다.

"아기 얼굴을 컨셉 얼굴로"        → '얼굴' = 바꿀 대상
"얼굴은 원본 그대로 두고 배경만"  → '얼굴' = 지켜야 할 것

같은 단어가 정반대 뜻이다. 그리고 이건 예외가 아니라 절반씩이다. 단어의 존재가 아니라 문장 안에서의 역할을 봐야 한다. 그건 문법의 문제이고, 규칙으로 쓰면 예외가 무한히 나온다.

그림 10-1 · 같은 단어, 정반대 역할
그림 10-1 · 같은 단어, 정반대 역할

그래서 이 판단만 언어 모델에게 맡겼다.

문장을 '계획'으로 번역한다

사용자 문장을 이미지 모델에 바로 넘기지 않고, 그 사이에 한 단계를 넣었다. 문장을 구조화된 계획으로 번역하는 단계다.

계획의 형태는 이렇다.

{
  "intent": "face_swap | expression | add_text | remove |
             background | style | touch_up | compose | generate",
  "from_concept": [],   // 참조 사진에서 가져올 것
  "preserve":     [],   // 원본에서 반드시 지킬 것
  "instruction":  "",   // 이미지 모델에 보낼 지시
  "ko":           ""    // 사용자에게 보여줄 확인 문구
}

핵심은 가운데 두 줄이다. 가져올 것과 지킬 것을 분리해서 적는다. 그러면 앞의 사고가 구조적으로 불가능해진다 — 얼굴이 from_concept에 들어가면 보존 계약에서 얼굴이 자동으로 빠지기 때문이다.

번역기에게 준 지시 중 가장 중요한 줄은 이것이다.

사용자가 말한 '얼굴'이 바꿀 대상인지 지켜야 할 것인지 가른다. 같은 단어라도 문장에서의 역할이 정반대다. 단어만 보고 판단하지 마라.

그리고 안전 쪽으로 기울이는 기본값을 넣었다.

- 언급 없는 것은 preserve 에 넣어 원본을 지키는 쪽이 안전하다.
  단 바꾸라고 한 것은 절대 preserve 에 넣지 마라.
- 인물 사진에서 얼굴을 바꾸라는 말이 없으면 preserve 에 face 를 넣는다.
- from_concept 과 preserve 에 같은 항목이 동시에 들어가면 안 된다(모순).

말 안 한 것은 지킨다. 말한 것은 지키지 않는다. 이 두 줄이 이 시스템의 안전과 유용성을 가른다.

이 단계가 비싸지 않은가

한 번 더 모델을 부르는 것이니 당연히 나오는 질문이다. 실측으로 답한다.

값시간
의도 번역 (텍스트)0.48원1.05초
이미지 생성 1장97~207원20~40초
비중0.5%5%

이미지 값의 200분의 1이다. 그리고 이 계산에서 진짜 중요한 것은 다른 쪽이다.

앞의 사고에서 사용자는 같은 요청을 네 번 했다. 400원 가까이 헛돈이었다. 0.48원을 써서 그 네 번을 한 번으로 만들 수 있다면, 200배 남는 장사다.

실패한 요청을 반복하는 비용이, 실패를 막는 비용보다 훨씬 크다.

이건 AI 기능 전반에 적용되는 산수라고 생각한다. "모델을 한 번 더 부르면 비싸지 않나"는 질문의 답은 대개 "실패해서 다시 부르는 것보다 싸다"⁠이다.

그런데 — 키워드도 쓴다

여기서 정직할 것이 있다. 이 장의 제목은 "키워드로는 못 푼다"인데, 우리 코드에는 정규식이 남아 있다.

7월 30일에 사고가 하나 더 났다. 사용자가 이렇게 썼다.

「얼굴 원본으로 바꿔놔」

번역기는 이걸 face_swap(얼굴 교체)⁠으로 읽었다. '얼굴'과 '바꿔'가 같이 있으니 그럴듯했다. 그런데 사용자의 뜻은 정반대였다 — 되돌려 달라는 복구 요청이었다.

이건 언어 모델이 틀리기 쉬운 자리다. 그리고 틀리면 원본을 되찾으려는 사람의 얼굴을 또 바꾼다. 사고가 두 배가 된다.

그래서 이 한 가지 패턴만 규칙으로 먼저 잡는다.

_RESTORE_RE = re.compile(
    r"(원본|원래|처음).{0,10}(으?로)?\s*(되돌|돌려|복구|바꿔놔|되살)"
    r"|원래대로|원본 그대로 (돌|되)")

역할이 갈린다.

무엇을
규칙(정규식)명백하고 위험한 패턴을 먼저 잡는다
언어 모델나머지 문장의 역할을 해석한다

판정은 규칙이, 해석은 모델이.

이 원칙은 이 책 4부에서 다시 나온다. 우리 운영 에이전트도 이상 여부는 규칙이 판정하고, 모델은 그것을 설명만 한다. 모델에게 "판단하라"고 시키면 비싸고 느리고 가끔 틀리지만, "설명하라"고 시키면 잘한다.

히스토리를 통째로 넘기고 있었다

같은 시기에 발견한 것이 하나 더 있다. 사진을 여러 번 다듬으면 화면은 이런 구조물을 만들어 보낸다.

[참고] (이미 반영된 것들)
[유지] 얼굴, 구도
[이번에 할 일] 배경을 바다로

우리는 이 전체를 번역기에 넘기고 있었다. 그래서 번역기가 [유지] 줄에 있는 '얼굴'이나 [참고]에 남아 있는 옛 요청을 새로운 지시로 오독했다.

지금은 [이번에 할 일]만 요청으로 넘기고 나머지는 맥락으로 내린다.

모델에게 넘기는 텍스트에 과거 지시가 섞여 있으면, 모델은 그것을 현재 지시로 읽는다.

6장의 오염 루프와 같은 계열이다. 거기서는 AI의 옛 발언을 사실로 학습했고, 여기서는 옛 지시를 새 지시로 읽었다. 무엇을 넘기느냐가 무엇을 시키느냐다.

프리셋을 지웠다

8월에 이 영역을 정리하면서 하나를 더 걷어냈다. 화면에 '강아지 스타일', '지브리 풍' 같은 프리셋 버튼이 있었는데, 사용 기록을 세어 봤다.

30일 234건 — 전부 '없음'

한 번도 안 쓰였다. 지우면서 무서운 것을 발견했다.

preset = "dog"   # 기본값이 남아 있었다

프리셋의 기본값이 "dog"로 박혀 있었다. 안 고쳤으면 "바닷가를 그려줘"에도 강아지가 나올 수 있었다.

안 쓰는 UI는 조용히 있지 않는다. 기본값으로 사고를 낸다.

프리셋 자리에는 대신 "이렇게 말해보세요" 예시 칩을 넣었다. 버튼은 선택지를 좁히지만 예시는 조합할 수 있다는 것을 알린다.

그리고 — 첫 화면에서 고르게 하지 않는다

마지막으로, 이 영역에서 내린 결정 중 가장 논쟁적인 것을 적는다.

"고치기"와 "새로 그리기"는 결과가 완전히 다르다. 그러니 처음에 사용자에게 물어보면 되지 않나? 화면에 탭 두 개를 두면 깔끔하다.

그렇게 하지 않았다. 실제 대화가 이렇게 흐르기 때문이다.

"이 사람 닮은 아기를 그려줘"        ← 새로 그리기
"그 아이를 지브리 풍으로"           ← 고치기
"배경도 바다로 바꿔줘"              ← 고치기

한 대화 안에서 성격이 바뀐다. 첫 화면에서 틀을 씌우면 두 번째 요청부터 갇힌다. 그래서 매 요청마다 다시 판단한다. 번역기에게 준 지시의 첫 줄이 그것이다.

이 둘은 결과물이 완전히 다르다. 매 요청마다 새로 판단한다(앞 요청이 무엇이었든).

그리고 헷갈릴 때 물을 질문 하나를 줬다 — "원본 사진이 결과에 그대로 남아야 하는가?" 남아야 하면 고치기, 아니면 새로 그리기다.

정리하면

  1. 네 번 연속 실패의 원인은 모델이 아니라 우리가 사용자 문장 앞에 붙인 정반대 지시였다.
  2. 같은 의도인데 표현에 따라 되고 안 됐다. 표현 운은 사용자가 알 수 없는 실패다.
  3. 키워드로는 못 가른다. 같은 '얼굴'이 바꿀 대상이기도, 지켜야 할 것이기도 하다.
  4. 그래서 문장을 계획으로 번역한다 — 가져올 것과 지킬 것을 분리해 적는다.
  5. 번역 비용은 이미지의 0.5%⁠다. 실패를 네 번 반복하는 것보다 200배 싸다.
  6. 그래도 명백하고 위험한 패턴은 규칙이 먼저 잡는다. 판정은 규칙, 해석은 모델.
  7. 모델에 넘기는 텍스트에 과거 지시를 섞지 않는다.
  8. 안 쓰는 UI는 기본값으로 사고를 낸다.
  9. 요청의 성격은 대화 중에 바뀐다. 매번 다시 판단한다.

이제 번역기가 계획을 만들어 준다. 그런데 다음 장에서 새로운 문제가 나온다. 그 계획이 자기가 지키라고 한 규칙을 어겼다.