이우드의 러다이트 운동 (1)

개발자를 지망하고 있는 나로서 참으로 모순되는 입장이지만, 나는 AI 도구를 사용하지 않는다. ChatGPT, 생성형 AI 등을 일부러 사용하지 않는다. 나의 이런 고지식한 고집은 두 가지 이유가 있다.

이우드가 생각하는 ChatGPT 신체화 버전. 출처 : 토니 스타크.

1. 우리는 AI를 이해하지 못했다.

AI를 찍먹하듯 공부해본 적이 있는데, 의외로 빈약한 구조에 놀랐다. AI의 구동원리를 간단히 소개하자면, 함수 때려맞추기, 어려운 말로 회귀분석이다. 함수값을 많이 계산해보면서 이 결과들을 모두 적절히 잘 설명할 수 있는 함수를 떠올려내는 기술이다.

나의 문과적인 이해로 설명해보자면, 우리는 "Whats in the box" 게임을 하고 있는 것이다. "Whats in the box" 게임은 손이 간신히 들어가는 구멍이 있는 검은 상자에 손을 넣어서 안에 들어있는 물체가 뭘까 맞추는 게임이다. 따끔따끔하면 고슴도치인가, 성게인가 상상하고, 보드라우면 곰인형인가 하고 유추하는 것이다.

우리 AI 는 이 게임을 잘하는 아이에요. 출처 : 런닝맨

그 중에서 가장 충격을 주었던 파트는 바로 뉴런형 알고리즘이다. 어줍잖게 알고 있는 컴돌이들의 생물학적 지식으로 뇌를 모방해보겠다는 취지의 알고리즘인데, 우리가 배울 때 뇌 속에서 뉴런이 생성되는 과정을 따라하는 것 같아서 붙은 이름이다. 성공적인 결과를 내는 접근방식은 강화하고 실망스런 결과를 내는 방식은 퇴화시키는 방식이다. 이게 왜 충격인지 예시를 들어보겠다.

2010년도 정도까지 AI 는 사진을 주면 고양이인지 강아지인지 맞추는 수준에 머물렀었다. 그 때 어떻게 코드를 짰냐면, 사진을 무수히 잘게 쪼개고 각각의 조각들의 값들을 두 가지 선택지에 잇는다고 문제를 바라보았다. 고양이는 뾰족한 귀와 눈을 가졌으니 그런 유사한 특징들이 조각들에 투영될 것이고, 그런 특징점들이 강화되면 새로운 사진을 주었을 때 이것이 어느 선택지에 더 잘 이어지는지 맞추는 것이다.

그런데, 인간은 고양이 사진을 볼 때 그렇게 보는가? 아니다. 우리는 사진을 3D인것처럼 사물을 가상으로 인식하고, 그것의 공간적 특징을 유추해 머릿속에 사물을 3D 모델로 그려낸다. 우리는 사진을 색의 나열로 보지 않고 사물이 표현된 장면이라고 인식하는 점에서 다르다.

당최 무슨말인지 모르겠죠? 네, 제가 말한게 정확히 그겁니다. 출처 : 시사IN.

빈약한 알고리즘에도 좋은 결과를 내는 이유는 그 학습 데이터가 미친듯이 크기 때문이다. 아무리 띨빵한 바보를 데려와도 구몬 10만장 같은 단계 풀게 하면 눈감고도 풀 수 있게 되는 셈이다. 그 문제를 푸는게 바보가 문제를 비로소 이해해서인가, 는 결과만 보고선 모르는 일이다. 결과가 원리를 투영한다고 근시안적으로 눈감을 뿐.

무서운 지점이 바로 이것이다. 인간의 인식능력과 같은 결과를 내지만 실상 그 구조 혹은 메커니즘은 그와 다르다. 하지만 우리가 원하는 결과를 낸다는 이유 하나만으로 AI 를 사용하고 있다. 실제로 최근 AI 기술은 인간의 인식론적 모습을 꽤나 많이 잘 투영하고 있다. 예를 들어 고양이 사진을 보고 그 고양이의 3차원 자세를 유추한다던지. 물건 뒤에 숨어있는 물체를 상상한다던지. 위험을 예상하고 미리 피한다던지. 하지만 그 구조는 아무리 우리 뇌를 따라하려 한다 한들, 우리 뇌와는 다르다. 왜냐? 우리조차 우리의 뇌를 제대로 이해하고 있지 않기 때문이다.

우리는 어떤 형태의 지능을 만들어내고 있는지 모른다. 하물며 우리는 스스로가 어떤 형태의 지능을 가지고 있는지 모른다. 흔히들 말하는 똑똑한 동물인 문어는 우리와 생물학적으로 전혀 다른 동물계인데도 우리가 지능이라고 부를 만한 능력을 가지고 있다. 우리가 뇌가 어떤 사고를 하는지 모르듯 우리는 AI 가 어떤 사고를 하는지 모른다. 그저 유용하다는 이유 하나만으로, 코드를 뽑으면 통제할 수 있다는 우월감 하나만으로 무분별하게 발전시키고 사용하고 있다.

나의 문어 이야기는 진짜 꼭 보세요. 웬만한 영화보다 감명 깊습니다. 출처 : 넷플릭스

터미네이터와 같은 통제불가능한 힘에 대해 디스토피아적 거부감을 가지는 것이 아니다. 라듐 화장품 사건과 비슷한 흐름이 나지 않았으면 하는 것이다. 라듐이 몸에 해로운 방사선을 내놓는다는 것을 모를 과도기 시절, 사람들은 밤에도 빛이나는 이 물질을 좋다고 눈과 치아에 바르고, 무드등으로 머리맡에 두고 잤다. 수많은 사람들이 관련 질환을 앓고 나서야 부작용에 대한 연구가 진행되었다. 이렇듯, 우리가 모르고 그 효능만 보고 사용하는 것은 조심해야 한다. 물론 어느것이든 신처럼 모두 이해하고 쓰고 있냐만은, 적어도 의심은 가지고 발전을 하자는 것이다.

예를 하나 덧붙이자면, 석유나 플라스틱도 디지털은 아니지만 비슷한 결의 오용례이다. 우리는 석유가 '공룡의 육즙'이라고 보통 배우지만 그 정체에 대해 아직까지 밝혀진 정설은 없다. 그럼에도 가연성이 좋은 연료로 쓰일 수 있다는 이유로, 탄소가 가득한 물질이라는 이유로 우리는 이를 자동차에 넣고 플라스틱을 뽑아내고 하고 있다. 그래서 결과가 어떤가? 지구온난화와 쓰레기섬 사태가 일어났다. 이것이 자연적인 수순인 것 같은 기분이 엄습하는 것이 코를 찡 울리지만, 그럴수록 우리는 앞으로 같은 실수를 범하지 않도록 노력해야 할 것이다.

AI 기술을 비롯한 현대 많은 신기술들은 "첨단화"라는 흐름 아래 등장하는 족족 밀물을 탄다. 그도 그럴 것이, 과학은 우리가 상상하는 것부터 만들기 시작하기 때문이다. 유난히도 예전 공상과학 영화에서 예측한 것들이 많이 실현된 것도 이에 있다. 우리는 원하는 것을 상상하고, 그것에 부합하는 신기술을 거침없이 받아들인다. 이런 맹목적이고 탐욕적인 기술 발전은 우리 스스로에게 아킬레스건이 될 수 있다. 기술에 대해 조금 더 신중하고 보수적인 중장기적 상용화 흐름이 필요하다.

게르마늄 팔찌 절망편. 출처 : 인터넷

2\. 온고지신의 정신

우리는 더 나은 기술이 나타나면 즉시 이전 기술을 버리고 새로운 것을 배운다. 이런 소비주의적인 사회흐름은 축적되지 않는다.

건축을 예로 들어보자. 우리는 이제 더이상 한옥의 형태로 집을 짓지 않는다. 한옥의 설계적 장점은 그렇게 가르치면서도 정작 우리는 콘크리트로 떡처럼 빚어서 만든 아파트에 산다. 용적률이 높고 값싸다는 이유만으로 우리의 집은 그렇게 지어진다. 반대로 한옥 기술은 갈수록 소수가 되어 그 기술의 가격은 천정부지로 솟는다. 그렇게 옛 기술들은 마이너 분야가 되어 근근히 명맥을 이어간다.

키오스크 또한 비슷한 예이다. 우리는 인건비를 줄일 수 있다는 이유로, 더욱 세련되었다는 이유로 키오스크를 설치해 주문을 받는다. 하지만 그로 인해 종업원이 만들어내는 주문의 매끄러움과 융통성을 잃었다. 우리는 키오스크로 노인 소비자를 외면하고 있고, 계단형 지하철으로 거동불편자를 외면하고 있다. 단지 편리하고 경제적이라는 이유로, 그리고 '발전'이라는 이유로.

어이 젊은이, 이게 파전인가? 출처 : 여성경제신문

현대 많은 변화들은 시장구조에 의해 기형적으로 굴러가고 있다. 돈 때문에 옷을 매 시즌마다 초과물량으로 찍어내고, 돈 때문에 보지도 않는 광고판을 24시간 틀어놓으며, 돈 때문에 누군가는 좌절한다. 우리의 삶의 가치관의 중심이 편리성이 되어버린 우리는 이제 한 블럭 걷지도 않는다. 쓰지 않아도 될 자원을 낭비하고 삶은 헛되이 채워지는듯 버려진다.

이런 소비주의적 행태를 탈피할 때가 왔다. 이 소비주의는 산업혁명과 종교혁명, 그리고 평등의 가치 부상으로부터 왔다. 이제는 이 르네상스적인 생각을 떨치고 새로운 지속가능한 이데올로기를 찾아야 한다. 세상을 겸손하고 조심스럽게 살아가야 한다.

작가의 말 이렇게 쓰다보니 과학자적으로 볼 때 참으로 비유적이기 짝이 없네요. 이래서 과학자들은 문과의 말을 안 듣나봅니다. "아니 이게 1g 에 100만가구가 등따수워진다니깐? " 과 "너 그걸로 폭탄 만들거잖아, 빌런아"의 싸움. "팩트만 보고 이야기해" 와 "내가 살아와보니 이것이 지혜야"의 싸움. 자강두천의 싸움에 가슴이 옹졸해지네요.

작가의 말2 다음시간엔 저만의 상황 분석과 해법, 이우드만의 러다이트 운동을 구체적으로 이야기해보겠습니다.