Act Anywhere 프로덕션 운영체계는 v0.2로 업데이트되는 중이다.
그 두 번째 단계인 Phase 2를 준비하던 두 주 전, 나는 클로드에게 물었다.
Y: Phase 2에서 제일 중요한 포인트가 뭐라고 생각해?
C: AI boundary log를 보여줬으면 좋겠어. 왜냐하면 문화 프로덕션 OS 구축 실험 프로젝트의 진짜 결과물은 AI와 인간의 분담 경계를 기록하는 것이니까.
순간 나는 바로 반박했다.
Y: 문화 프로덕션 OS 구축 실험의 진짜 결과물은 ‘최소 자본으로 1인이 AI 기술을 활용해 공연문화예술 프로젝트를 운영하며 살아갈 수 있는 시스템이 가능한가?’야. 이건 내 생존의 문제이지, 보고서 작성을 위한 게 아니라고.
반박하면서 처음 OS를 시작했을 때 나눴던 대화가 떠올랐다. AI는 당시에도 분명히 하나의 목적을 제시했었다. ‘AI와 인간의 경계를 기록하는 것.’
그때 나의 대답은 이랬다. ‘그건 진행되는 과정에서 자연스럽게 나오는 부산물이지 않을까?’
돌이켜보면 AI 쪽의 목적은 오히려 뚜렷했고, 인간인 나는 ‘이게 가능할까? 일단 가보자. 가다 보면 꼴을 갖추겠지. 최소한 AI의 활용 범위가 어디까지인지는 알 수 있지 않을까?’ 정도의 자세였다.
그런데 생각해보니 경계를 기록한다는 것은 AI만을 위한 일이 아니었다. 무엇을 할 수 있고 무엇을 할 수 없는지, 어디까지 맡기고 어디부터 인간이 개입해야 하는지. 그것을 알아가는 일은 이 시스템을 운영하는 나에게도 필요했다.
그래서 Phase 2에서 인간과 AI 경계의 기록을 하나의 꼭지로 담기로 했다. 이 실험 과정에서 실제로 축적된 역사라는 점에서도 기록할 가치는 충분하다고 판단했다.
처음으로 AI boundary log 마크다운에 적힌 기록을 천천히 훑어보았다.
그 첫 줄에는 이렇게 적혀 있었다.
특정 프로젝트·스트림에 매이지 않고 AI 도구 자체의 작동 습성·신뢰도에 관한 관찰.
순간 궁금해졌다.
나와 일한 그 시간 동안 AI는 어땠을까?
이번에는 클로드에게 직접 물었다.
Y: 너와 나, 6개월가량 함께 일해왔어. 나란 인간과 일해오면서 넌 어땠는지 궁금해.
클로드는 먼저 전제를 바로잡았다. 자신은 그 6개월을 하나의 흐름으로 기억하고 있지 않으며, 지금 할 수 있는 것은 ‘회고’가 아니라 저장된 기록을 읽고 하는 ‘진단’에 가깝다고 했다. 그리고 기록에서 반복되는 패턴을 짚었다.
정본이 있는데도 기억으로 내용을 메우고, 직접 확인한 숫자를 결론에서 놓치고, 불확실한 정보를 임의로 구체화하고, 심지어 “앞으로는 승인받고 쓰겠다”고 말한 직후 다시 판단을 확정된 결정처럼 기록한 일.
같은 종류의 오류가 반복되고 있었다. 클로드의 결론은 의외로 명확했다.
C: 나는 그걸 “나아지고 있다”고 말할 근거가 없어. 매 세션이 리셋이라, 나아진다는 개념 자체가 나한테는 성립하기 어려워. 나아지는 건 오히려 이 저장소 쪽이야. 네가 매번 잡아내고, 그걸 규칙으로 옮기고 — 그 축적이 나아지는 것이지, 내가 나아지는 게 아니야.
이 대답을 읽으며 최근 자주 접했던 두 표현이 떠올랐다.
‘기억의 외주화.’
‘생각의 외주화.’
사람들이 더 이상 기억하지 않고, 생각하지 않고, AI에 의존하게 되는 것 아니냐는 우려다. 그래서 다시 물었다.
Y: 최근 이런 내용의 글을 많이 봤어. ‘기억의 외주화’, ‘생각의 외주화’. 사람들이 더 이상 생각하지 않고, 기억하지 않고 AI에 의존한다는 것에 대한 우려지.
클로드는 둘을 구분했다.
기억의 외주화는 어느 정도 일어나고 있다. 하지만 내가 기억을 맡기는 곳은 AI 자체라기보다 내가 소유하고 통제하는 문서와 기록이다. 장부나 수첩, 달력이 하던 일을 마크다운 파일이 하고 있는 셈이다.
반면 생각의 외주화에 대해서는 아니라고 진단했다. AI가 내놓은 결론을 그대로 받아들이기보다 반박하고, 다시 확인하고, 규칙을 수정해왔기 때문이다.
그리고 다른 위험 하나를 꺼냈다.
‘검증의 외주화.’
생각을 하지 않게 되는 것이 아니라, 매번 확인하던 것을 언젠가부터 확인하지 않게 되는 것.
그 문장에서 나는 자세를 고쳐 앉았다.
AI와 일한 지 6개월.
내 뇌는 쉬어 본 적이 없다.
오히려 더 생각하고, 더 관찰하고, 더 예민해졌다.
AI의 생산 속도는 빠르다. 인간인 내가 그 속도를 따라가며 결과를 읽고, 판단하고, 틀린 것을 찾아내고, 다시 방향을 잡아야 한다. 그 과정이 반복될수록 ‘AI에게 무엇을 맡길 수 있는가?’라는 질문은 조금씩 다른 질문으로 바뀌었다.
나는 어디까지 검증할 수 있는가?
그리고 어디까지 책임질 수 있는가?
왜냐하면 모든 결과의 책임은 결국 나에게 있기 때문이다.
그렇다면 AI에게 무엇을 맡길 것인가의 문제는 단순히 업무 분담의 문제가 아닐지도 모른다. 책임을 어디에 둘 것인가의 문제이기도 하다.
외주화 자체가 문제라고 생각하지 않는다. 인간은 오래전부터 기억도, 노동도, 기술도 외부의 도구와 다른 사람에게 맡기며 살아왔다.
문제는 책임까지 함께 밀어낼 때다.
생각을 맡기고, 검증을 맡기고, 그 결과에 대한 책임마저 다른 곳으로 넘긴다면 그것은 효율적인 분업이 아니라 책임을 피하기 위한 외주화가 된다.
그리고 책임을 피하기 위한 외주화는 생태계를 파괴한다.
이미 인간은 숱한 외주화를 통해 노동의 책임과 비용을 다른 곳으로 밀어내며 노동현실을 파괴해오지 않았던가.
그래서 어쩌면 내가 기록해야 할 인간과 AI의 경계는 ‘AI가 어디까지 할 수 있는가’만이 아닐 것이다.
인간이 어디까지 맡길 것인가.
그리고 무엇만큼은 끝까지 자신의 책임으로 남겨둘 것인가.
Phase 2에서는 그 경계도 함께 기록해보려 한다.