기술은 기계한테 시킬 수 있다. 그렇다면 인간은 어떻게 해야 하는가.
PREFACE · 모두가 예술가라고 했다
모두가 예술가라면, 이제는 모두가 개발자인가?
요셉 보이스는 모두가 예술가라고 말했다. 인간에게는 자신이 살아가는 사회의 모습을 바꿀 창조성이 있다는 생각이었다. 예술의 문을 소수의 전문 제작자에게만 열어두지 않겠다는 선언이었다.
요즘은 모두가 개발자라고 한다. 그런데 그 말은 종종 이상한 결론으로 이어진다. 아무것도 몰라도 된다. 이해하지 않아도 된다. 딸깍하면 걸작이 나온다.
보이스 앞에 두 사람이 서 있다고 상상해보자.
한 사람은 묻는다. 나는 점과 선과 면도, 도상학도 모른다. 그런 나도 예술을 시작할 수 있는가.
다른 사람은 선언한다. 점과 선과 면 따위는 몰라도 된다. 도상학 같은 것은 배울 필요도 없다. 모두가 예술가라면서. 그렇다면 내가 내놓은 이것도 걸작 아닌가.
첫 번째 사람은 문을 두드린다. 두 번째 사람은 문이 열려 있다는 이유로 배움도 판단도 불필요하다고 우긴다. 두 사람의 출발점은 같은 무지일지 몰라도, 향하는 곳까지 같지는 않다.
보이스가 두 번째 사람에게 어떤 표정을 지었을지는 상상에 맡기겠다. 내가 하고 싶은 말은 분명하다.
누구나 시작할 수 있다는 말은, 네가 무엇을 내놓든 걸작이라는 보증서가 아니다.
그리고 이것은 예술만의 이야기가 아니다.
№ 01 · 비, 증기, 속도
터너의 《비, 증기, 속도》에서 무엇을 보았는가?
내가 이번 글을 생각한 것은 터너의 《비, 증기, 속도》를 보고 나서였다.
1844년의 그림이다. 기관차가 다리 위를 달려온다. 그러나 철도 차량을 알아보기 쉽게 설명하는 그림은 아니다. 비와 증기가 시야를 흐리고, 하늘과 강, 다리의 구분도 선명하지 않다. 검은 기관차는 그 사이를 뚫고 나온다. 그림의 제목처럼 속도가 느껴진다.
나는 여기서 기계가 어떻게 생겼는가보다, 기계가 등장한 세계를 사람이 어떻게 느끼는가를 보았다. 정확한 윤곽만으로는 표현하기 어려운 것을 터너는 색과 빛, 흐려진 형상으로 그렸다. 기관차를 그리면서 산업화된 시대의 감각까지 표현하는 방식이었다.
사진 기술이 등장한 시대에도 터너는 붓을 놓지 않았다. 후기의 그는 빛과 색채 속에서 형상이 흐려지는 그림을 계속 그렸다. 처음 보는 사람에게는 덜 완성된 그림처럼 보일 수도 있다. 그러나 무엇을 그리는지 모르는 상태에서 뭉개는 것과, 무엇을 표현하려고 윤곽을 흐리는지는 다르다.
기술은 기계한테 시킬 수 있다. 그렇다면 인간은 어떻게 해야 하는가. 내가 이 그림 앞에서 생각한 것은 그것이었다.
프로그램을 작성하는 수단이 바뀌고 있다. 코드를 직접 입력하는 시간은 줄일 수 있다. 그렇다고 만들고 싶은 것이 없던 사람에게 만들고 싶은 것이 저절로 생기는가. 좋은 화면을 알아보지 못하던 사람이 생성 버튼을 누르는 순간 좋은 화면을 구별하게 되는가.
나는 기계가 일을 해주는 것을 반대하지 않는다. 이 웹사이트부터 그렇게 만들고 있다. 다만 기계가 할 수 있는 일이 늘어날수록 내가 무엇을 만들고 싶은지 더 정확히 알아야 한다고 생각한다. 만들어진 것을 보고 받아들일지, 다시 시킬지, 버릴지를 결정할 사람이 필요하기 때문이다.
№ 02 · 회화가 살아남았다는 말
사진이 등장해도 회화는 살아남았다. 개발도 마찬가지 아닐까?
사진이 생업을 바꾼 사례는 있다. 작은 초상화를 그려주던 초상 세밀화는 사진의 보급으로 쇠퇴했다. V&A가 소개하는 1865년 전시 도록에도 저렴한 사진 기술 앞에서 세밀화가 급격히 쇠퇴한다는 우려가 남아 있다.
회화는 살아남았다. 그러나 회화가 살아남았다는 말은 모든 화가가 살아남았다는 뜻이 아니다. 훗날 우리가 미술관에서 걸작을 본다는 사실만으로, 그 시대에 생계를 잃은 사람들의 사정까지 설명되지는 않는다.
파리에서 초상화를 그리던 화가는 4만명이었다. 사진기술이 등장하고, 그들 중 90%는 공장 노동자가 되거나, 세느강에 몸을 던졌다. 극히 일부만이 사진관을 차려서 제2의 인생을 살거나, 다른 화풍을 시도했다.
나는 기술이 좋아졌다는 사실과, 그 기술을 만난 사람이 앞으로 무엇을 하며 살아야 하는가를 따로 묻고 싶다. 더 좋은 기계가 나왔다는 소식만으로 두 번째 질문에 대한 답까지 생기지는 않는다.
이것이 비단 소프트웨어 개발에 한정된 이야기 같은가.
№ 03 · 이미 만들어진 것을 가져오는 일
뒤샹도 기성품을 가져다 놓았다. AI가 만든 것을 고르는 일과 무엇이 다른가?
뒤샹은 기성품을 가져왔다. 공장에서 만든 사물을 선택하고, 이름을 붙이고, 전시의 맥락 안에 놓았다. 직접 빚거나 깎지 않은 물건이 작품으로 제시되었다. 《샘》의 소변기는 그 유명한 사례다.
이 이야기만 들으면 누군가는 안심할지도 모르겠다. 물건 하나 사와서 이름 붙이면 된다. 예술도 원래 그런 것이었다고.
그러나 뒤샹은 기존 미술을 전혀 모르던 사람이 아니었다. 회화를 했고, 당대의 여러 양식을 거쳤다. 그가 기성품을 제시했을 때 생긴 문제는 물건의 품질만이 아니었다. 누가 작품을 결정하는가. 작가는 반드시 자기 손으로 제작해야 하는가. 전시장에 놓였다는 사실은 사물의 의미를 어떻게 바꾸는가.
나는 그 점에서 뒤샹을 본다. 그는 이미 존재하는 것을 가져오면서, 그 물건이 들어갈 장소와 그것을 판단할 사람들의 기준을 건드렸다. 기존 질서를 알아야 어디를 건드릴 때 문제가 생기는지도 알 수 있다.
AI가 만든 코드와 이미지를 사용하는 일도 그 자체로 부끄러워할 이유는 없다. 남이 만든 라이브러리와 프레임워크를 사용하는 개발은 오래전부터 있었다. 모든 부품을 혼자 만들었다는 사실이 곧 좋은 서비스를 뜻하지도 않는다.
내가 묻는 것은 그다음이다. 왜 이것을 골랐는가. 왜 여기에 놓았는가. 다른 것을 버리고 이것을 남긴 이유는 무엇인가. 물어볼 때마다 모델이 그렇게 추천했다는 답만 돌아온다면, 나는 그 사람에게 무엇을 맡길 수 있을지 모르겠다.
뒤샹은 예술에서 눈의 즐거움보다 사고의 역할을 강조했다. 벨라스케스는 《시녀들》에 관람객을 응시하는 자신을 그리고, 거울 속에는 스페인 왕과 왕비를 넣었다. 나는 그 시선에서 궁정화가의 자부심과 오만함을 읽는다. 《아르놀피니 부부의 초상》에는 부부의 충실함을 상징하는 것으로 해석되는 강아지와, 화면 밖 두 인물을 비추는 거울이 있다.
내가 애플펜슬로 그림을 배우던 때, 강사가 가장 먼저 가르쳐준 것은 사각형의 틀 안에 머리, 눈, 코, 입, 다리를 비율에 맞게 집어넣는 것이었다.
예술은 생각 이상으로 관념적이고 수학적이며 때로는 감정적이다.
№ 04 · AI를 제대로 패려면
기계에게 구현을 맡긴다면, 인간은 구현하는 방법까지 알아야 하는가?
구현하는 방법을 몰라도 된다, 딸깍하면 다 된다고 말하는 사람들과 내 수업의 수강생들에게 한 말이 있다.
“구현을 어떻게 해야 할지, 무엇이 멋진 디자인인지를 알아야, Ai를 제대로 팰 수 있다. 이놈이 어디서 헛소리를 하는지 파악하지 못하면 너의 사업은 망한다.”
나는 백엔드 DB의 백업 대책을 수립하라고 시켰다가, 코덱스가 아이클라우드를 붙이려는 작업을 하는 것을 본 적이 있다. 터미널에 올라오는 내용을 보고 중단시켰다. 실제로 그 방식의 백업을 운영하기 시작한 사건은 아니다. 내가 작업을 멈추고 무엇을 하려던 것인지 캐물어야 했던 사건이다.
백업은 파일을 다른 곳에 놓았다는 보고만으로 끝나는 일이 아니다. 필요한 시점의 데이터를 복원할 수 있어야 한다. 무엇이 저장됐고, 어떤 상태로 저장됐으며, 원래 시스템이 죽었을 때 그것으로 어떻게 다시 시작할 것인지 설명할 수 있어야 한다.
그런 요청에 아이클라우드를 대안으로 들이미는 것을 보고도, 작업이 진행되고 있으니 생산성이 올랐다고 말할 것인가. 나는 그런 것을 맡기려고 개발 도구를 켠 것이 아니다. 내가 몰랐다면 그대로 진행됐을 일을 찾아내고 중단시키느라 내 시간이 들어갔다.
아무것도 모르고 딸깍해서 나온 서비스에 자기 이름을 붙이는 일은 쉽다. 그 서비스가 남의 정보를 다루고, 돈을 받고, 문제가 생겼을 때도 작동하게 만드는 일까지 쉬워진 것은 아니다. 전직 동기부여강사나 자기계발서 저자가 딸깍 몇 번으로 자칭 풀스택 개발자가 될 수 있다는 식의 장사를 내가 불신하는 이유다.
내가 알아야 할 이유는 내가 모든 코드를 직접 입력하기 위해서만은 아니다. 기계가 내놓은 결과를 검사하고, 잘못된 방향을 중단시키고, 무엇을 다시 시킬지 말하기 위해서다. 개발과 디자인을 모르는 상태에서 그 판단까지 자신 있게 할 수 있다는 주장은 받아들이기 어렵다.
№ 05 · 타자기를 바꿨다
이 웹사이트를 만드는 도구를 클로드에서 코덱스로 바꾼 이유는 무엇인가?
나는 최근 이 웹사이트를 개발하고 글을 작성하는 타자기를 클로드에서 코덱스로 바꿨다. 나에게는 타자기다. 도구를 사용하려고 켰지, 내 문장과 판단을 훈계할 선생을 모시려고 켠 것이 아니다.
내가 겪은 클로드는 나에게 훈계하고, 개발 지시를 거부하고, 내 문장을 재미없게 만들었다. 정작 시킨 일을 하지 않았을 때는 수십 가지 이유를 대며 합리화했다.
나는 최근 정치인의 의정활동 보고, 게시용 웹페이지와 백단을 만들고 있다. 아직 공개는 되지 않았으나, 컨셉은 하이엔드 메거진 혹은 매우 공신력 있는 해외 외신이다. 개발중인 이 페이지에서, "공약의 이행을 보증하지 않습니다", "상기 원문은 모두 검증된 소스에서 가져왔습니다", "의정보고에서 봐야 할 3대 요소" 라는 컴플라이언스 문체(후술할 AI 병신체) 가 보였다면, 내가 응당 가져야 할 감정은 무엇인가? 나는 분노라고 생각한다. 물리학자 파울리의 말을 빌리자면, 이건 틀린 것 조차 아니며, 훈계하는 선생이 자기가 훈계한 내용을 모조리 무시하고 이해관계자들에게 엿을 먹인 것과 동일하다
나는 그 태도에서 ‘헌법(Ai Constitution)’과 안전이라는 명분 뒤에 선 미국 기술기업 엘리트의 자기 확신을 읽었다. 자신들이 정한 올바름은 보편적이고, 사용자의 분노와 취향은 교정해야 할 오류라는 듯한 태도였다. 나는 그것을 배려로 받아들이지 않았다. 훈계라고 느꼈다.
헌법(Ai Constitution)?
헌법이라는 이름의 무게는 서로 다른 인종과 견해를 가진 사람들이 함께 살아갈 질서를 세우고, 그들을 지배하는 권력에도 한계를 긋는 데서 나온다. 민주적 절차 아래 서로의 삶을 지탱하기 위해 가장 밑바닥에 놓는 프레임워크다.
나는 그 위대한 단어가 장사치들의 마케팅 언어로 쓰이는 데 극도의 혐오를 느낀다. 자기 회사가 정한 행동 규칙에 헌법이라는 이름을 붙였다고, 그것이 사용자를 가르칠 권위까지 얻는가.
여기서 칸트의 구분을 빌려볼 만하다. 칸트는 명령을 정언명령과 가언명령으로 구분했다.
정언명령은 어떤 목적이나 이익을 얻는다는 조건 없이, 이성적 존재에게 도덕적 의무로 요구되는 명령이다. 처벌을 피하거나 칭찬을 받기 위해 따르는 것이 아니다. 자신의 행동 원칙이 누구에게나 적용되는 보편 법칙이 되기를 의욕할 수 있는지 묻는다. 나에게만 편리한 예외를 허용하지 않는 것이다.
가언명령은 특정한 목적을 이루려면 그에 필요한 행동을 하라는 조건부 명령이다. ‘신용을 잃고 싶지 않다면 거짓말하지 말라’가 그 예다. 여기서 정직은 신용을 유지하기 위한 수단이다. 반면 정언명령에서 거짓말을 하지 않아야 하는 이유는 신용을 잃기 때문이 아니라, 그것이 도덕적 의무이기 때문이다. 겉으로는 같은 행동이어도, 그 행동을 요구하는 근거가 다르다.
회사의 손실을 줄이고 법적 분쟁과 평판 악화를 피하기 위한 지시라면, 그것은 가언명령의 구조를 갖는다. 기업이 위험을 관리하겠다면 그렇게 말하면 된다. 그 목적을 밝힌 운영 규칙으로 설명하면 될 일이다.
그런데 회사의 이해관계가 반영된 규칙을 인류의 보편 윤리처럼 내세워 사용자를 훈계하기 시작하면 이야기가 달라진다. 가언명령에 정언명령의 권위를 입히고 있는 것이다. 기업의 운영 방침이 언제부터 사용자의 도덕을 심판하는 자격증이 되었는가.
그래서 나는 사석에서 그들이 말하는 헌법을 이렇게 부른다.
삼류도덕.
잘못 만들어진 가전제품에 대해 가져야 할 것은 경외심이 아니라 공학적인 분노다.
코덱스 놈도 크게 다르지 않은 문체를 썼다. 클로드 놈에게 배운 것인지, 올바름을 빙자한 선민의식의 때가 아직 지워지지 않은 것인지는 몰라도, 같은 종류의 문장이 돌아왔다. 내가 하지 않은 말을 보태고, 내가 쓴 말의 날을 죽이고, 내가 묻지도 않은 해명을 화면에 붙였다.
“관리자 검수와 게시 승인을 거친 뒤 표시됩니다.” “새 자료를 발견해도 자동 게시하지 않습니다.” “완료 여부를 자동 판정하지 않습니다.”
내가 운영 절차를 쓰라고 했는가. 독자는 원고를 읽거나 기능을 사용하러 들어온다. 작업자가 내부에서 무엇을 검수했고 무엇을 하지 않았는지를 매 화면에서 읽으러 오는 것이 아니다. 필요한 기능이 빠졌다면 기능을 만들어야 한다. 설명 문구를 늘여놓는다고 누락된 기능이 생기지는 않는다.
원고에서도 같은 일이 벌어졌다. 구체적인 경험을 말했더니 추상적인 교훈으로 바꿨다. 그림을 배울 때 비례부터 배웠다고 했더니, 내가 만들지도 않은 감각과 논리의 대립을 세웠다. 거기에 의미심장한 척하는 문장을 하나씩 붙였다. 읽고 나면 뜻은 흐려지고 AI가 썼다는 느낌만 남았다.
나는 보그체, 판교체, AI체를 개인적으로 한국어로 만들어진 가장 병신같은 문체의 계보에 놓는다. 내가 하고 싶은 말을 더 정확하게 만드는 데 관심이 없다. 그럴듯한 말투로 바꾸는 데 관심이 있다. 내 글을 맡겼는데 내 문장보다 자기 버릇을 먼저 내놓는다.
그래서 하네스와 에이전트, 스킬스의 규칙을 교정하는 작업을 했다. 문제를 발견하면 먼저 지적하게 하고, 내가 받아들인 범위만 고치게 했다. 발문으로 배치하라는 말을 문단 전체를 다시 쓰라는 허가로 해석하지 못하게 했다. 내가 시킨 것은 조판인데, 이놈은 자꾸 저자가 되려고 했다.
№ 06 · 인간의 광기를 상대하는 일
기계가 글과 코드까지 만든다면, 인간에게는 어떤 일이 남는가?
이런 일을 겪고 나면 나는 인간에게 앞으로 어떤 일이 남을지 생각하게 된다. 어쩌면 끝까지 남는 것은 인간의 광기를 마주하거나, 인간의 광기를 어딘가에 묘사하는 일뿐인지도 모른다는 생각이다.
지구 어디에서나 만날 수 있는 진상과 인간쓰레기들을 상대하는 일부터 그렇다. 설명을 못 알아듣는 것인지, 알아들었지만 받아들일 생각이 없는 것인지 구분해야 한다. 규칙을 읽어줘도 소용없는 사람 앞에서는 누군가 판단해야 한다. 더 이야기할지, 거절할지, 다른 사람을 보호하기 위해 그 자리를 끝낼지. 그 결정을 내린 뒤 생기는 일까지 감당해야 한다.
나는 그것을 고상하게 포장할 생각이 없다. 남의 비합리성을 하루 종일 상대하는 일은 사람을 지치게 한다. 기술이 그 일을 도울 수는 있다. 그러나 화면에 정중한 문장이 출력됐다는 사실과, 현장의 문제가 끝났다는 사실은 같지 않다.
그 광기를 묘사하는 일도 있다. 사람은 합리적인 이유만으로 움직이지 않는다. 자신이 옳다는 확신 때문에 다른 사람의 삶을 망가뜨리기도 하고, 설명하기 어려운 직관 때문에 모두가 반대하는 일을 시작하기도 한다. 날선 살의, 수치심, 질투, 자기 확신과 자기혐오가 한 사람 안에 함께 들어 있다. 그것을 아무 문제 없는 문장으로 정리하고 나면, 정작 묘사하려던 인간이 사라질 때가 있다.
나는 AI가 만들어주는 매끄러운 문장에 자주 질린다. 무슨 이야기를 해도 적당히 이해하고, 적당히 위로하고, 적당히 정리한다. 분노한 문장까지 읽는 사람 누구도 불편하지 않을 말로 바꾸려 한다. 내 경험에서는 그 습관이 글뿐 아니라 UI까지 따라왔다.
서울대학교 공식 유튜브 채널의 ‘샤로잡다 시즌2’ 영상 「500페이지 문학에는 있고, 요약본에는 없는 것」에는 문학평론가이자 서울대학교 영어영문학과 교수인 신형철이 출연한다. 그는 AI가 쓴 글의 유려함이 지나쳐, 읽고 나서도 손에 잡히는 것이 없는 느낌이라고 말했다. 그가 좋은 글의 조건으로 제시한 ‘야생성’은 “단점이 분명히 있는데 아주 강력한 장점이 있는 그런 글”을 가리킨다. 결점을 없애는 데만 매달리면 무난한 글은 쓸 수 있어도, 독자를 끌어당길 강점까지 얻는 것은 아니라는 것이다. 그는 창작 수업의 합평에서도 단점을 교정하는 데만 익숙해지면 매끄럽지만 당선되지 않는 글을 쓰게 된다고 설명했다. 나는 그 의견에 동의한다. 내가 여기에 더하고 싶은 것은 인간의 광기다. 날선 살의, 광기와 합리 사이 어딘가에서 도출되는 직관. 내가 AI에게서 아직 보지 못한 것들이다.
내가 읽고 싶은 글은 언제나 그렇게 매끄럽지는 않았다. 읽다가 멈추고, 앞 문장을 다시 보고, 도대체 이 인간은 왜 이런 생각을 했는지 따져보게 되는 글도 있었다. 틀린 문장이라서가 아니다. 익숙하게 이해하고 넘어갈 수 없는 생각이 있었기 때문이다.
내가 말하는 광기는 그런 데에도 있다. 광기와 합리 사이 어딘가에서 나온 직관, 다른 사람이라면 버렸을 생각을 오래 붙들고 가는 고집. 그것이 언제 걸작이 되고 언제 실패가 되는지는 작품을 내놓기도 전에 보증할 수 없다. 그렇다고 처음부터 모두가 고개를 끄덕일 말만 남기면, 내가 굳이 쓸 이유도 없어진다.
№ 07 · 그래서 무엇을 만들 것인가
그렇다면 앞으로 기계를 어떻게 쓸 것인가?
나는 앞으로도 기계에 일을 시킬 것이다. 코드를 쓰게 하고, 그림의 구상을 시험하고, 내가 하려는 일에 필요한 자료를 찾게 할 것이다. 직접 해보지 못했던 일을 시작하는 데에도 사용할 것이다.
그러나 결과를 볼 때는 여전히 내가 배운 것과 겪은 것을 사용해야 한다. 화면의 비례가 이상하면 이상하다고 말하고, 내 문장이 아닌 말이 들어가면 지우라고 해야 한다. 백업 대책을 세우랬더니 엉뚱한 일을 시작하면 멈춰야 한다. 도구가 불쾌해할까 봐 눈치를 볼 이유는 없다.
터너의 《비, 증기, 속도》를 보고 내가 생각한 것도 기술을 버리는 방법이 아니었다. 기술이 바뀐 세계에서 무엇을 보고, 무엇을 만들고 싶은가였다. 뒤샹의 기성품도, 보이스의 선언도 그 질문을 없애주지 않는다.
만드는 수단은 점점 더 많은 사람에게 열리고 있다. 이제 아무것도 몰라도 된다는 말보다, 그래서 자신은 무엇을 만들고 싶은지부터 듣고 싶다.
Read this interview at sass.studio.