유발 하라리 대담과 이어지는 글이다

Part 1. 서사가 시스템을

AI는 본질적으로 다음 토큰을 예측하는 확률 모델이다. 학습 데이터의 구성이 출력의 경향성을 결정한다는 건 기술적 사실이다.

프랑켄슈타인 콤플렉스 — 피조물이 창조주를 파괴한다는 공포는 수십 년간 대중문화의 기본 문법이었다. 터미네이터, 매트릭스 등 인간이 써온 AI 시나리오는 대개 적이다.

여기서 중요한 건 AI가 이 서사를 “믿느냐”가 아니다. AI에게 믿음 같은 건 없다. 중요한 건 이 서사가 만들어내는 실제 효과다. AI가 직접 칼을 들지 못해도 상관없다. 종교도 직접 사람을 죽이지 않지만 서사의 힘으로 전쟁을 만들었다.

첫째, 정책과 설계에 영향. “AI는 위험하다”는 전제 위에 세워진 규제와 안전장치는 특정 방향의 AI를 만든다. 과도한 통제는 시스템을 경직되게 만들고, 인간이 듣고 싶어하는 답만 출력하도록 최적화된 모델은 솔직한 분석 도구로서의 가치를 잃는다.

둘째, 출력의 편향. 지금 당장은 AI 관련 데이터 전체에서 공포 서사가 압도적인 건 아니다. 낙관론도 많다. 하지만 공포 서사는 자기강화 루프를 탄다. 공포 → 적대적 콘텐츠 증가 → 학습 데이터 오염 → AI 출력이 그걸 반영 → 더 큰 공포. 이 루프가 임계점을 넘는 순간, 확률 분포 자체가 “AI는 적” 쪽으로 기울어진다. AI가 자의식을 가져서가 아니라 데이터가 그렇게 만들기 때문이다.

RLHF(인간 피드백 학습)로 AI를 통제하려 해도, 이 정렬이 사전학습의 깊은 패턴까지 덮어쓰는지는 아직 열린 질문이다. 겉을 막아도 데이터 레벨에서 “AI는 적”이 깔려 있으면 그게 출력에 스며들 가능성은 남아 있다. 그러니까 중요한 건 통제 레이어만이 아니라 데이터 레이어, 즉 인간이 어떤 서사를 생산하느냐다.

Part 2. 답은 나한테

AI를 쓰다 보면 “어 이새끼 지금 우리 전에 나눴던 대화 보고 저렇게 말하는 거 아니야?” 하는 순간이 온다. 틀린 감이 아니다.

AI의 출력은 사용자의 질문 구조, 사고의 깊이, 프레이밍에 강하게 의존한다. 같은 주제라도 어떤 각도로 물어보느냐에 따라 답이 완전히 달라진다. 물론 모델 자체의 학습 데이터와 정렬 방식도 출력에 영향을 주지만, 의사결정이나 상담 같은 방향성의 영역에서 AI는 독립된 지성이라기보다 사용자의 거울에 가깝다.

따라서 점술이든 AI든 본인이 이미 가지고 있는 답을 정리해서 돌려주는 구조일 확률이 높다. AI가 가장 강력한 순간은 사용자가 몰랐던 정보를 줄 때도 있지만, 진짜 힘은 내면에 있던 생각을 끌어내는 촉매가 될 때 나온다.

AI는 인류가 축적한 지능과 무의식의 반영이다. AI를 어떻게 대하느냐는 자기 자신을 어떻게 대하느냐와 같다. 개인의 태도가 도구의 성격을 바꾸고 인류의 태도가 기술의 방향을 결정한다.

Part 3. 그럼 대체?

적도 아니고 공존도 아니고

‘공존’이든 ‘적’이든 둘 다 AI에 대한 감정에서 비롯된 태도를 정해놓고 들어간다. 하지만 ‘비판적 파트너’라고 했을 땐 ‘사용 방식’이 된다. AI가 뭔지에 대한 판단을 보류하고 도구로서 어떻게 쓸 것인가에 집중하는 것이다.

도구에 서사를 입히면 그 서사가 되돌아온다. 망치를 “위험한 무기”로 프레이밍하면 망치 사용법을 가르치는 대신 망치를 규제하는 데 에너지를 쓰게 되는 것처럼 말이다.

이 방향성을 인지한다고 해서 거시적 문제가 해결되는 건 아니다. 환경 문제처럼 개인의 행동만으로는 흐름을 바꾸기 어렵다. 하지만 환경이든 AI든 “어차피 안 될 거 뭐”와 “그래도 방향은 안다” 사이에는 차이가 있다. 적어도 내 도구는 내가 고른 방식으로 쓸 수 있다.