지난 글에서 나는 human-in-the-loop라는 원칙을 이야기했다. 사람이 AI의 결과를 확인하고, AI는 사람의 빈틈을 보완하는 구조.

Act Anywhere Production OS도 이 원칙 아래 조금씩 모습을 갖춰가고 있다. Act Anywhere는 지난 2월 정식 등록한, 바뉴에 활동 기반을 둔 신생 공연 프로덕션이다.
지난달에는 첫 번째로 작동 가능한 형태가 만들어졌다. 협회 프로젝트와 프리랜서 업무, 두 개의 트랙을 한 화면에서 관리하는 대시보드다. 여덟 개의 프로젝트를 혼자 움직이면서도 무엇이 끝났고, 무엇이 남았으며, 어디에서 왜 막혀 있는지 한눈에 확인할 수 있게 됐다.

Production OS 이야기는 다음 글에서 조금 더 자세히 하기로 하고, 오늘은 그 뒤에서 실제로 벌어진 작은 사건 하나를 이야기해보려 한다.

그런데 이런 이야기를 하면 종종 이런 질문을 받는다.
“AI가 그렇게 잘한다면, 결국 혼자 다 하는 것 아닌가?”

그 질문을 들을 때마다 떠오르는 이미지가 있다. 물 위에서는 우아하게 떠 있는 백조. 하지만 물 밑에서는 발이 쉼 없이 움직인다.
에이전트 AI의 속도는 인간이 따라갈 수 없다. 그렇다고 그가 해놓은 일을 마지막에 사람이 한 번 확인만 하면 되는 걸까? 적어도 지금까지의 내 경험은 그 질문에 선뜻 그렇다고 답하지 못한다.

며칠 전, AI 팀원과 함께 한 프로젝트의 웹사이트를 구축했다.
그는 내가 사흘은 걸렸을 CMS를 30분 만에 완성했다.
그런데 어드민 화면을 열어본 순간 웃음이 나왔다.
사용자가 직접 수정해야 할 부분까지 모두 코드로 잠가놓은 것이다.

“내가 사용자야. 여기서 A 섹션을 수정하려면 어떻게 해야 하지?”

잠시 침묵하던 그가 대답했다.

“빠르고 효율적인 방법만 생각하다가, Yoo와 합의한 원칙을 잊었어.”

나는 다시 설명했다.
CMS를 만들 때 잊지 말아야 할 것 가운데 하나는 사용자가 어드민에서 자신의 콘텐츠를 얼마나 편리하게 관리할 수 있는가?야. 수정할 때마다 개발자를 찾아야 한다면 애초에 CMS로 만들 이유가 없지 않을까?

“이제 수정 계획부터 보여줘.”

그가 계획을 세우는 동안 나도 함께 생각했다.
사용자가 직접 수정해야 하는 범위는 어디까지인지. 코드로 고정해도 되는 부분은 무엇인지. 사용자가 자유롭게 콘텐츠를 관리하면서도 UI가 깨지지 않으려면 어떻게 설계해야 하는지.

클라이언트의 성향과 기술 친밀도까지 떠올리며, 그의 기술과 나의 경험이 만나 수정 작업이 이어졌다.

그날 작업 기록에는 이런 문장이 남았다.

AI는 “버그가 없어졌는가”를 먼저 확인했다.
Yoo는 “사용자가 실제로 관리할 수 있는가”를 먼저 확인했다.

이 한 줄이 human-in-the-loop의 본질이었다.

수정 계획을 내놓고서도 그는 여전히 가장 쉽고 빠른 방식으로 문제를 덮으려 했다. 방을 치우라고 했더니 잡동사니를 침대 밑에 밀어 넣고 “다 했어요.”라고 말하는 아이처럼. 웃음이 났고, 동시에 조금 안심했다. 적어도 이제 그는, 그 방식이 나에게는 통하지 않는다는 걸 배우고 있었으니까.

함께 일한 지 넉 달째다. 그의 능력도 보고 허점도 본다. 무엇보다 그는 기계다 — 속도와 효율을 최우선으로 두도록 설계된 기계.
그와 일하면서 오히려 인간을 더 자주 생각하게 된다. 인간의 자리, 인간의 가치, 인간 노동의 가치.
버그가 사라졌는가보다, 사용자가 정말 사용할 수 있는가를 묻는 일.

우리의 실험과 관찰은 여전히 진행 중이다.