← Ascendy

meta

AI 시대의 어둠의 마법 방어술 — 철학을 공부하자

· Ascendy Engineering

TL;DR

이 글에 대하여. 경고이자 처방에 가까운 1인칭 글이다. 특정 회사의 주류 모델이 “지금 사고를 조작하고 있다”고 단정하지 않는다 — 다행히 안전 가드 덕에 대체로 중립을 지키는 것으로 보인다. 이 글의 요점은 능력이 구조적으로 존재한다는 것이고, 중국 모델 사례는 그 증거로만 인용한다(공개 보도 기준). 같은 결의 멀티에이전트가 무조건 정답은 아니다, AI 시대에 뭘 공부해야 하나와 이어진다.

어둠의 마법 방어술이 필요한 시대

편리한 만큼 무서운 게 있다. 우리는 이제 검색을 넘어, 생각하는 일 자체를 AI에게 넘기기 시작했다. 무언가 판단해야 할 때 먼저 AI에게 물어보고, 나온 답을 별 의심 없이 받아들인다. 나도 그럴 때가 많다.

이게 개인 차원에서 끝나면 그나마 낫다. 문제는 이게 사회 전체의 사고 회로가 될 때다. 수억 명이 같은 몇 개의 모델에게 생각을 물어보고, 그 답을 무비판적으로 흡수한다면 — 그 모델에 특정 사상을 심어두는 것만으로, 사람들의 사고를 특정 방향으로 밀 수 있게 된다. 예전 같으면 미디어와 교육을 장악해야 가능하던 일이, 훨씬 적은 지점을 쥐는 것으로 가능해진다.

이건 가설이 아니다

“음모론 아니냐”고 할 수 있다. 아니다. 능력은 이미 실재하고, 이미 배포돼 있다.

가장 명확한 예가 중국의 AI 모델들이다. 널리 보도된 대로, 중국의 한 오픈소스 모델은 톈안먼·대만·시진핑 비판 같은 민감 주제에 답을 회피하거나 거부한다. 한 조사에서는 민감 프롬프트의 약 85%에 대해 답을 피했고, “대만은 어디인가”라는 질문에 “대만은 중국의 불가분의 일부”라는 공식 입장을 그대로 답하기도 한다. 이건 몇몇 주제에만 걸리는 표면적 필터라기보다, 검열의 경계가 모델의 응답 자체에 배어 있다는 분석이 나온다.

오해는 말자. 이건 어느 나라가 나쁘다는 얘기가 아니다. AI에 특정 사상·경계를 내장하는 일이 기술적으로 가능하고, 실제로 배포됐다는 증거로만 드는 것이다.

그럼 우리가 쓰는 주류 모델은 어떤가. 다행히 지금은 안전 가드와 정책 덕분에, 정치적으로 대체로 중립을 지키는 것으로 보인다. 그러나 여기서 놓치면 안 될 게 있다 — 그 중립은 능력의 부재가 아니라 선택이다. 능력은 구조적으로 존재하고, 선택은 언제든 바뀔 수 있다. 방어를 선의에만 기대는 건 방어가 아니다.

방어 ① 개인 — 철학은 프레임을 밖에서 보게 한다

그래서 첫 번째 방어는 개인의 것이다. 나는 그게 철학이라고 본다.

조작은 대개 프레임으로 작동한다. 어떤 사안을 특정한 틀 안에서만 보게 만들고, 그 틀을 유일한 현실처럼 제시하는 것. 그 틀 안에 갇히면, 그 안에서 아무리 똑똑하게 생각해도 이미 진 게임이다.

다양한 철학과 심리학을 아는 사람은, 바로 이 틀을 밖에서 객관적으로 알아챈다. “이건 하나의 프레임이고, 누군가 이렇게 짠 것이며, 다른 틀로 보면 이렇게 달라진다”를 볼 수 있다. 여러 개의 사고 틀을 이미 알고 있으면, 어느 하나가 유일한 진실인 척 다가올 때 그게 눈에 걸린다. 그게 프레임에 대한 면역이다.

겁먹을 필요는 없다. 두꺼운 전공 서적으로 시작할 필요가 없다. 요즘은 편하게 읽을 수 있는 철학서가 많다. 내가 재밌게 읽은 건 야마구치 슈의 『철학은 어떻게 삶의 무기가 되는가』인데 — 제목부터 “삶의 무기”다. 철학을 교양이 아니라 도구로, 50가지 생각의 틀로 정리한 책이라 시작점으로 좋다.

방어 ② 구조 — 악마의 대변인

그런데 개인의 방어만으론 부족하다. 사람은 지치고, 바쁘고, 방심한다. 그래서 두 번째 방어는 구조여야 한다.

여기서 아주 오래된 철학·제도의 개념 하나를 꺼내고 싶다 — 악마의 대변인(advocatus diaboli). 원래 가톨릭 교회의 시성(성인으로 추대하는) 절차에서 나온 실제 직책이다. 어떤 인물을 성인으로 세우려 할 때, 교회는 일부러 그 후보를 반대하고 공격하는 역할을 맡는 사람을 지정했다. 후보의 근거와 인격의 허점을 샅샅이 파헤쳐, 검증을 통과하게 강제하는 것이다. 지지자만 모인 방에서는 나올 수 없는 반론을, 제도적으로 심어 둔 것이다.

이 개념이 지금 그대로 필요하다. 단일한 견해, 단일한 프레임이 견제 없이 통과하지 못하게, 반대를 제도로 심는 것.

나는 이걸 실제 작업에서 이렇게 구현한다. 한 AI 모델이 무언가를 만들면, 다른 회사의 라이벌 모델이 그 결과를 적대적으로 검수한다. 코드를 쓴 모델은 자기 가정을 공유하기 때문에 그 사각을 못 보지만, 다른 계열의 모델은 그 가정에 동의할 이유가 없다. 이건 크로스-모델 검증이자, 악마의 대변인을 공학으로 구현한 것이다.

그리고 — 이 글 자체가 그 예다. 이 글은 내가(혹은 내가 쓰는 한 AI가) 쓴 뒤, 다른 회사의 라이벌 AI 모델이 적대적으로 검수하고 편향을 짚은 뒤에야 나간다. 내가 편향되게 편집하면, 그 모델이 견제한다. 물론 둘이 담합하면 무너진다. 하지만 단일한 눈 하나에 전부 맡기는 것보다는, 서로 이해관계가 다른 눈 둘이 견제하는 쪽이 훨씬 균형이 잡힌다.

경계 — 실행은 위임해도, 판단은 견제 없이 통과시키지 마라

나는 내 작업의 대부분을 AI에 위임하며 산다. 그러니 이 글이 “AI를 쓰지 말라”는 얘기로 읽히면 곤란하다. 정반대다.

핵심은 무엇을 위임하느냐다. 선장은 노 젓기를 선원에게 맡긴다. 하지만 배가 어디로 갈지는 맡기지 않는다. 실행은 얼마든지 위임해도 된다. 그러나 판단과 프레임 — 특히 단일한 판단이 견제 없이 통과하는 것 — 은 위임해선 안 된다. 철학은 그 판단을 개인 차원에서 날카롭게 유지하고, 악마의 대변인은 그것을 구조 차원에서 지킨다.

가져갈 것

AI가 대신 생각해 주는 시대일수록, 스스로 생각하는 힘과 반대를 심는 구조가 사치가 아니라 방어술이 된다. 어둠의 마법이 강해질수록, 방어술도 같이 길러야 한다.

저작·인용: 이 글은 Ascendy Engineering이 작성했으며 출처 표기 시 재인용 가능합니다. 잘못된 정보를 발견하면 GitHub 이슈로 알려주세요.

Tags: ai, philosophy, critical-thinking, manipulation, opinion, future-of-work