어제까지 다정하던 캐릭터가 갑자기 다른 사람처럼 말하면, 독자는 그 순간 작품에서 빠져나옵니다. 웹툰에서 작가와 편집이 지키던 일을, AI 스토리에서는 시스템과 화면이 대신 지켜야 합니다.
어떻게
AI가 무엇을 기억하고 이야기를 잇는지 "기억 노트"로 보여 주고, 사용자가 직접 고칠 수 있게 합니다. 틀렸을 때는 이야기 밖으로 나가지 않고 그 자리에서 바로잡습니다(2번 문항).
지표
"앞 내용과 달라요" 같은 설정 신고가 얼마나 나오는지, 신고한 뒤에도 이야기를 이어 가는지를 봅니다.
해 본 일
캐릭터에 관심이 많아, 1인으로 운영하는 서비스 MOHOW의 대표 캐릭터를 AI로 직접 만들었습니다. 캐릭터 4종을 하나로 정리하면서 원래 색만 쓰는 규칙과, 캐릭터가 나오는 자리와 나오지 않는 자리를 정했습니다. 그림 캐릭터에서 생김새가 하던 일을, 크랙에서는 말투와 기억이 한다고 봅니다.
웹툰의 한 화는 작은 마무리와 다음 화를 기다릴 이유를 함께 줍니다. 끝없이 이어지는 채팅에는 이 리듬이 없어서, 이야기가 흐지부지 끝나기 쉽습니다.
어떻게
대화를 장면과 회차로 묶어, 장면이 끝나면 요약 카드와 다음 장면으로 이어지는 갈고리를 보여 줍니다. 내가 만든 이야기는 회차처럼 다시 읽고, 이어 하고, 친구에게 보여 줄 수 있게 합니다.
지표
장면 완주율, 다음 장면 이어 하기 비율, 다음 날 다시 오는 비율을 봅니다.
원칙 5. 즐기는 사람이 만드는 사람이 된다
왜
웹툰·웹소설은 작가가 쓰는 속도보다 빨리 나올 수 없습니다. 크랙에서는 즐기던 사람이 만든 세계관과 캐릭터가 다시 누군가의 플레이로 이어집니다. 이 순환이 가장 큰 차별점이라고 봅니다.
어떻게
플레이하던 장면에서 "이 설정으로 만들기"로 바로 넘어가게 합니다. 만든 사람에게는 인기 지표와 함께, 사람들이 어디서 떠났고 어디서 다시 쓰기를 눌렀는지 같은 개선 신호와 공개 전 테스트 대화를 줍니다.
지표
플레이하다 만들기로 넘어오는 비율, 만든 사람이 고쳐서 다시 공개하는 비율, 작품별 재방문을 봅니다.
무엇부터 할까
함께하게 된다면 원칙 1과 원칙 3부터 해 보고 싶습니다. 처음에 이야기에 들어오지 못하면 나머지 원칙은 경험될 기회조차 없고, 설정이 무너지면 쌓아 온 이야기와 관계가 한 번에 무너지기 때문입니다. 첫 장면 형식처럼 작은 실험부터 빠르게 해 보고, 지표가 좋은 것을 골라 넓히겠습니다.
2번 문항2. LLM의 한계 중 "할루시네이션"을 UX/UI로 해결하는 방법
왜 할루시네이션인가
느린 답변이나 앞뒤가 안 맞는 말은 사용자가 바로 알아챕니다. 할루시네이션은 그럴듯해서, 믿고 움직인 뒤에야 드러납니다. 그때 잃는 것은 답 하나가 아니라 서비스를 믿던 마음입니다. 할루시네이션을 아예 없애는 것은 모델과 검색의 몫이고, 화면이 할 일은 틀릴 수 있는 답이 사용자를 속이지 않게 하는 것이라고 생각합니다.
1알아챌 수 있게 (과정)
2확인할 수 있게 (근거)
3바로잡을 수 있게 (복구)
4다음에는 덜 틀리게 (평가)
해결 1. 답이 만들어지는 과정을 보여 준다
어떻게
"질문 이해 → 자료 찾기 → 답 작성"처럼 지금 어디까지 왔는지 보여 줍니다. 첫 단계에서 "이렇게 이해했어요"를 먼저 보여 주면, 답이 나오기 전에 잘못 알아들은 부분을 고칠 수 있습니다. 기다리는 시간도 "멈춘 것"이 아니라 "일하는 중"으로 느껴집니다.
해 본 일
NL2SQL 데이터 분석 에이전트(SAPIE DeepQ)에서 AI가 질문을 어떻게 해석하고, 어떤 데이터를 찾고, 어떻게 결과를 만드는지 보여 주는 패널을 설계했습니다.
사실을 말하는 문장마다 근거(참조한 자료, 대화 앞부분, 설정)를 이어, 눌러 보면 바로 확인되게 합니다. 근거를 찾지 못한 내용은 단정하지 않는 말투와 표시로 구분합니다. 출처를 답 끝에 모아 두기만 하면 잘 열어 보지 않기 때문입니다.
해 본 일
생성형 AI 보안 제품(SAPIE Guardian)의 관리자 화면을 원본과 탐지 근거, 적용 정책을 한눈에 보는 구조로 바꿔, 관리자 7명 UT에서 처리 근거를 확인하는 시간을 2분 48초에서 38초로 77% 줄였습니다. DeepQ에서는 참조 데이터와 스키마, 생성 SQL을 검토하는 화면을 설계했습니다.
모든 답에 경고를 붙이면 곧 아무도 읽지 않고, 위험해 보이는 것을 다 막으면 사용자는 떠납니다. 창작과 일상 대화에는 아무 표시도 하지 않고, 사실 정보에는 근거를 잇고, 의료·법률·금융처럼 틀리면 다치는 주제는 확인할 곳과 함께 분명히 알립니다. 근거가 없으면 지어내지 않고 "잘 모르겠어요"라고 말한 뒤 다음에 할 일을 제안합니다.
해 본 일
Guardian에서는 강한 경고와 일괄 차단이 사용자에게 다크패턴에 가까운 강제 중단으로 다가갔습니다. 내부 사용자 약 30명의 차단 세션 약 800건을 분석해 위험 수준별 마스킹과 차단으로 바꿨고, 차단 후 이탈률을 36%에서 6%로 낮추고 작업 복귀율을 41%에서 86%로 높였습니다. 안전장치도 사용자가 다음 걸음을 뗄 수 있게 만들어야 한다는 것을 이때 배웠습니다.
"사실과 달라요 / 질문을 잘못 이해했어요 / 앞 내용과 달라요"처럼 이유를 고르면, 그 이유를 반영해 다시 답합니다. 그냥 다시 생성하면 왜 틀렸는지 모른 채 같은 실수를 반복하기 쉽고, 고른 이유는 그대로 개선 데이터가 됩니다. 되돌리기 어려운 행동은 AI가 제안하고 사람이 확정합니다.
해 본 일
DeepQ에서 실패 원인 안내와 재질의 복구 흐름을 설계했습니다. 대형 F&B 프랜차이즈의 AI 발주 추천 POS POC에서는 AI가 제안하면 점주가 근거와 손익을 보고 고쳐서 최종 승인하는 Human-in-the-Loop 흐름을 설계했습니다.