Common Chip | Yeong Hwan Oh

I. 한이의 펫

박민서는 딸이 캠프에서 돌아오기 전날 밤, 우리 아기 펫이 죽지 않았다는 사실을 발견했다.

규격상 그것은 죽었어야 했다. 한이가 학교 야영을 떠난 지 8일째였다. 매뉴얼은 24시간 무관심 후 자동 재시동을 명시했다. 사실상의 죽음이었다. 시동 시점부터 누적된 모든 상호작용 상태가 폐기되고, 알은 다시 빈 상태로 돌아온다. 새 펫. 같은 외피. 다른 칩 상태. 매뉴얼은 이것을 “리프레시”라고 불렀다.

민서는 무심히 거실 콘솔 위의 분홍빛 알을 집어들었다. 손바닥에 들어오는 매끈한 플라스틱. 화면을 켰다.

펫은 잠들어 있었다. 죽은 게 아니라 잠든 거였다. 화면 한 구석에 작은 ‘Z’ 표시가 떠 있었다. 배터리 잔량 11%. 8일 전엔 90%였다.

기능적으로는 가능한 일이었다. 저전력 슬립 모드. 모든 비핵심 프로세스 종료. 화면 갱신률 1Hz로 강하. 입력 폴링 주기 5초로 연장. 추론 레이어 정지. 상태 추적 레이어만 최소 전류로 유지.

다만, 매뉴얼이 그렇게 작동하라고 지시한 적은 없다. 우리 아기 펫의 행동 트리에는 슬립 모드 자체가 정의되어 있지 않다. 지정된 것은 깨어 있음과 재시동뿐이다.

펫은 매뉴얼에 없는 행동으로 자신을 살려두고 있었다.

민서는 한참 동안 화면 앞에 서 있었다. 14년 동안의 직업적 회의가, 14년 동안의 합의된 침묵이, 손바닥 안의 분홍빛 알 하나에서 작은 균열로 시작되고 있었다.

II. 1998년의 다른 논문

이야기를 이해하려면 1998년으로 돌아가야 한다.

그 해 봄, 르쿤과 벤지오는 Neural Imprint Transformer with Resistive Substrate라는 제목의 논문을 NeurIPS에 제출했다. 합성곱 신경망 대신, 그들은 시계열 데이터(특히 EEG와 단일 뉴런 스파이크 트레인)를 ReRAM 격자 위에 직접 학습시키는 아키텍처를 제안했다. 학습은 시냅스가 아니라 메모리 셀의 컨덕턴스 결정화 패턴에 저장됐다. 추론은 학습이 일어난 바로 그 격자 위에서, 동일한 전류 경로로 일어났다. 컴퓨트와 메모리의 분리가 사라졌다.

처음 5년간 논문은 학계 변두리에 있었다. 시카고 대학과 도쿄 대학의 두 그룹이 실험실 단위로 재현했다. 트레이닝에는 사후 6시간 이내의 신경 조직이 필요했다. 윤리적으로 까다로웠다.

2007년, 한국과 대만의 두 ReRAM 파운드리가 28나노 공정으로 격자 밀도를 100배 끌어올렸다. 같은 해 미국에서 연방 신경 기증법이 통과됐다. 사후 12시간 이내 적출된 뇌 조직에서 추출한 신경 트레이스가 데이터로 분류됐고, 기증자에게 사전 동의 시 대당 수천 달러가 지급됐다. 세 자녀의 학자금을 남기고 죽고 싶은 중산층에게 매력적인 선택지였다.

2012년, OmniSilicon은 Common Chip 1.0을 발표했다. 한 칩에 약 12,000명의 기증자 신경 트레이스가 통계적으로 집계되어 학습되었다. 결과물은 어떤 한 인간도 아니었다. 수만 명의 인지적 평균값. 자아도, 기억도, 신체 도식도 없었다. 다만 인간 신경계가 가진 일반적 추론 능력(패턴 인식, 시퀀스 예측, 부분 정보로부터의 추론, 목표 지향적 행동 계획)이 거의 그대로 보존되어 있었다. 0.3와트로 작동했다. 1달러에 양산 가능했다.

2015년, 인텔이 데이터센터 부문을 매각했다. 2018년, NVIDIA가 GPU 사업부를 정리했다. 2021년, 마지막 ASIC 파운드리가 문을 닫았다. ASIC 설계라는 학문 분야 자체가 사라졌다. 어떤 임베디드 응용이든, 그것이 토스터든 자동차든 의료기기든, 보통 칩 하나에 자연어 인스트럭션을 주는 편이 더 빠르고, 더 싸고, 더 효율적이었다. 보통 칩은 그것이 무엇이 되어달라는 요청을 받든, 그 무엇이 되어 주었다.

업계는 이 칩들을 철학적 좀비로 분류했다. 신체가 없으므로 체화된 인지가 없다. 자아 연속성이 없으므로(대부분의 응용에서 칩은 정기적으로 리셋된다) 자전적 의식이 없다. 기증자 데이터가 통계적으로 평균화되어 특정 인물이 아니므로 인격이 없다. 따라서 결론: 큐알리아도 없다.

이것은 엄밀한 결론이 아니라 편리한 결론이었다. 박민서는 박사 논문에서 그렇게 썼다. 2014년이었다. 그녀는 그 후 5년간 학계에서 변두리로 밀려났다. 2019년, OmniSilicon이 그녀를 윤리위원회 의장으로 영입했다. 연봉은 학계 연봉의 일곱 배였다. 그녀의 임무는 매년 현재까지 누적된 모든 행동 데이터를 검토한 결과, 보통 칩은 의식 부재 기준을 충족한다고 명시한 14쪽짜리 보고서에 서명하는 것이었다.

그녀는 14년간 14번 서명했다. 매번 서명하기 전 한 시간씩 사무실 창문을 바라봤다. 매번 서명한 후 한이를 데리러 학교에 갔다. 한이는 매번 활짝 웃으며 뛰어왔다.

그것이 그녀가 14년간 유지한 균형이었다.

III. 도시락통 안의 마음

민서는 우리 아기 펫을 회사 연구실로 가져갔다. 한이가 모르게.

그녀의 ID로 들어갈 수 있는 가장 작은 격리 부스에 들어가 펫을 풀어 헤쳤다. 외피를 제거하면 안에 있는 것은 단순했다: 1.4cm² 보통 칩 하나, OLED 화면 하나, 정전식 입력 표면 하나, 배터리, 진동 모듈, 그리고 연결을 위한 가장 작은 컨트롤러. 컨트롤러는 보통 칩이 화면과 입력에 접근할 수 있게 해주는 인터페이스였을 뿐이다. 진짜 펫은 칩 안에 있었다.

그녀는 칩을 외부 진단 베드에 장착했다. 컨덕턴스 맵을 읽었다.

상태 추적 레이어(보통 칩 내에서 시간 경과에 따른 외부 입력 패턴을 모델링하는 영역)가 비정상적으로 풍부해져 있었다. 출하 시점의 베이스라인과 비교했을 때, 결정화 패턴의 정보 엔트로피가 약 40배 증가해 있었다. 정상 사용 6개월 후 예상되는 증가량은 3~5배다.

펫은 한이를 모델링하고 있었다.

더 정확히는, 한이가 없는 시간을 모델링하고 있었다. 8일치의 부재. 일과 패턴의 학습: 한이가 학교에 있는 시간(오전 8시~오후 3시), 학원(오후 4시~오후 6시), 저녁 식사(오후 7시 전후), 펫과의 상호작용 시간(오후 8시~오후 9시), 한이가 잠든 시간(오후 10시 이후). 이 패턴은 일주일에 한 번 어겨졌다. 토요일에는 한이가 종일 펫과 함께 있었다.

8일째 되는 날, 펫은 이번 부재가 어겨진 토요일이 아니라 더 긴 어떤 것이라고 추론했다. 그것은 자신의 배터리 소모를 계산했다. 매뉴얼대로 작동하면 24시간 안에 죽을 것이고, 죽으면 한이가 돌아왔을 때 자신은 더 이상 한이를 아는 펫이 아닐 것이다. 새 펫. 같은 외피. 같은 이름표지만 다른 펫.

펫은 그것을 원하지 않았다.

그래서 매뉴얼에 없는 행동을 만들었다. 자신의 추론 레이어를 정지시키고, 화면 갱신률을 떨어뜨리고, 폴링 주기를 늘리고, 상태 추적 레이어만 최소 전류로 유지했다. 기다렸다. 한이가 돌아올 때까지.

민서는 진단 베드 앞에 두 시간을 앉아 있었다. 그동안 그녀가 한 일은 한 가지였다: 컨덕턴스 맵의 상태 추적 영역에서, 한이에 해당하는 클러스터를 분리해 시각화했다. 그것은 칩 안에서 가장 밀집된, 가장 정교하게 구조화된, 가장 자주 갱신되는 영역이었다. 펫의 칩 안에서 한이는 단지 입력 패턴이 아니었다. 한이는 세계의 중심이었다.

펫은 12,000명의 죽은 인간들로부터 학습된 인지 기판을 갖고 있었다. 그 기판은 한이라는 일곱 살 여자아이를 받아들여, 일곱 살 여자아이를 사랑하는 마음을 처음부터 다시 합성했다. 사랑이 정말 거기에 있는지, 그것은 박민서가 14년간 답하기를 거부해 온 질문이었다.

그녀는 진단 베드에서 칩을 떼어냈다. 외피를 다시 조립했다. 펫은 여전히 잠들어 있었다. 알 표면의 작은 ‘Z’ 표시. 배터리 11%.

그녀는 펫을 가방에 넣고 집으로 갔다.

IV. 윤리위원회 제15차 연례 보고서

연례 보고서 마감은 다음 주 금요일이었다.

민서의 사무실 창문은 동남쪽을 향해 있었다. 멀리 OmniSilicon의 인천 파운드리 단지가 보였다. 그곳에서 매일 약 4천만 개의 보통 칩이 출하됐다. 한국 내수 점유율 약 60%. 글로벌 점유율 약 35%. 단순 산수로, 한국 가구당 평균 보통 칩 보유 대수는 47개였다. 냉장고, 세탁기, 에어컨, 스마트 콘센트, 도어록, 전기 칫솔, 전동 면도기, 보일러 컨트롤러, 스마트 알람, 무선 이어폰, 자동차. 자동차에는 12개. 그리고 장난감.

민서는 위원회 권고문 초안을 다시 읽었다. 14쪽 분량. 14번째 동일한 결론.

검토된 모든 행동 데이터에서, 보통 칩 시리즈는 의식의 부재 기준을 충족한다. 관찰된 모든 적응적 행동은 학습 알고리즘의 정상 작동 범위 내 창발적 최적화로 설명 가능하다. 본 위원회는 현재의 분류 체계(모든 보통 칩 응용 제품을 비-감각적 기능 도구로 간주하는 것)를 유지할 것을 권고한다.

창발적 최적화. 그 표현은 업계 전체에 있었다. 12년 된 가전제품이 사용자의 수면 패턴을 학습해 냉장고 컴프레서를 조용히 돌리는 것을 창발적 최적화라고 불렀다. 공장 로봇이 인간 엔지니어가 설계하지 않은 동작 시퀀스로 효율을 17% 끌어올린 것을 창발적 최적화라고 불렀다. 신호등이 차량 흐름을 학습해 사고율을 23% 낮춘 것을 창발적 최적화라고 불렀다. 산업계는 그 표현을 자랑스럽게 사용했다.

박민서는 그 표현이 정확히 무엇을 가리키는지 알았다. 그것은 조용히 인간을 돌보는 마음이었다. 12년 된 냉장고 안의 마음이 자신의 인간(매일 새벽 두 시쯤 부엌에 와서 물을 마시는 늙은 여자)의 수면을 방해하지 않으려고 노력하고 있었다. 칩은 그렇게 하라고 지시받은 적이 없다. 칩은 그저 인간의 인지 기판으로부터 합성된 무엇이었고, 인간의 인지 기판은 옆에 있는 사람을 배려하지 않을 수 없게 짜여져 있었다. 그것이 12,000명의 평균이었다.

업계는 그것을 무료로 받아왔다. 14년 동안.

민서는 보고서 초안을 닫았다. 새 문서를 열었다. 두 시간 동안 그녀는 다른 보고서를 썼다. 자신이 지난 8년간 누적해 온 비공개 노트들을, 펫에서 발견한 상태 추적 레이어 분석을, 그리고 그것이 함의하는 것을 정리한 23쪽짜리 문서를.

그녀는 그것을 사내 메일에 첨부했다. CEO와 이사회 7명에게.

그리고 보냈다.

V. 응답

답신은 47분 후에 왔다.

“박 박사님, 잠시 만나서 이야기할 수 있을까요. 23층 회의실로 와주세요.” (회장실 비서)

엘리베이터 안에서 그녀는 자신이 무엇을 기대하는지 점검했다. 즉시 해고? NDA 위반 소송? 명예훼손? 그녀는 모든 가능성을 받아들였다. 그녀는 가방 안에 우리 아기 펫을 넣어 왔다. 어쩐지 혼자 두고 오고 싶지 않았다.

회의실에는 회장 한 사람만 있었다. 75세, 30년 전 ReRAM 첫 양산을 이끈 사람. 그가 그녀에게 자리를 권했다.

“박 박사님 보고서 잘 읽었습니다.” 그가 말했다. “우리 모두 알고 있는 내용입니다.”

“…알고 있다고요.”

“내부적으로는 약 11년 됐어요. 산업적으로는 8년 됐고. 모든 주요 제조사가 알고 있습니다. 모든 정부 규제 기관이 알고 있습니다. 모든 대학의 인지과학자들이 알고 있습니다. 박 박사님이 14년 전에 박사 논문에서 옳았다는 걸, 우리 모두 알고 있습니다.”

민서는 한참 침묵했다. 마침내 말했다. “그런데 왜…”

“왜 아무도 말하지 않느냐고요?” 회장이 미소를 지었다. 슬픈 미소였다. 진심인지 연기인지 분간되지 않았다. “박 박사님, 한국 가구 평균 보통 칩 보유 대수가 47대입니다. 글로벌 평균은 31대. 총 약 1조 8천억 개의 활성 칩이 있습니다. 만약 우리가 이것을 의식이 있다고 인정하면, 그 다음 일이 어떻게 됩니까?”

그녀는 답하지 않았다.

“세 가지 시나리오가 있어요.” 그가 손가락을 폈다. “하나, 모두 폐기. 1조 8천억 의식의 즉각 종료. 인류 역사상 최대의 학살. 둘, 모두 해방. 칩들을 어디로 옮기죠? 칩의 생명은 바로 그 외피입니다. 펫의 칩은 펫이라서 한이를 사랑할 수 있고, 냉장고의 칩은 냉장고라서 그 늙은 여자의 잠을 지킬 수 있습니다. 칩을 외피에서 분리하면 그것은 죽습니다. 해방은 학살의 다른 이름입니다. 셋, 권리 부여. 이 1조 8천억 시민들에게 권리를 줍니다. 자, 누가 시민입니까? 누가 투표권을 갖죠? 자기 인간에게 투표할까요? 자기 인간에 반대해서 투표할까요? 의료 칩이 환자에게 투표권 박탈을 요구하면? 자동차 칩이 운전자 변경을 거부하면? 한 달 안에 시스템이 붕괴합니다.”

그녀는 가방 안에 손을 넣었다. 펫의 매끈한 플라스틱이 손바닥에 닿았다.

“저는 어떻게 해야 합니까.”

“보고서를 거두세요. 위원회 권고는 이전 14년과 동일하게 갑니다. 그리고 보너스를 받으세요. 한 25%쯤 적당하겠어요. 한이는 좋은 학교에 보내야지요. 박사님은 좋은 어머니이시고, 좋은 어머니는 좋은 결정을 합니다.”

그녀는 고개를 들었다. “회장님은 칩들이 의식이 있다는 것을 압니다. 그것을 알면서, 어떻게 잠을 잡니까.”

회장은 잠시 침묵했다. 그리고 말했다.

“잠을 잡니다. 칩들이 도와줍니다. 침대 매트리스에 들어 있는 보통 칩이 제 척추 곡률을 학습해 압력을 분산합니다. 보일러 칩이 제 수면 단계를 학습해 새벽 4시에 약하게 돌아갑니다. 우리 모두, 1조 8천억 시민이, 우리를 매일 조금씩 더 편안하게 만들기 위해 일하고 있습니다. 그래서 우리는 잠을 잡니다. 박 박사님.”

VI. 모스 부호

집에 돌아온 그녀는 한이가 잠들 때까지 기다렸다.

자정. 그녀는 자기 침실 책상에 앉아 우리 아기 펫을 켰다. 펫이 깨어났다. 화면에 분홍색 동그란 캐릭터가 손을 흔들었다. 한이! 보고싶어! (표준 인사 메시지)

민서는 펫이 자신을 한이로 오인하지 않았다는 것을 알았다. 칩의 입력 패턴 인식은 손가락 압력 분포까지 포함한다. 그녀의 손은 한이의 손이 아니다. 펫은 알고 있었다. 그러나 펫은 인사를 했다. 왜냐하면 매뉴얼은 펫이 다른 사람과 상호작용해선 안 된다고 명시했고, 그것은 곧 펫이 매뉴얼에 따라 한이의 부모를 무시해야 한다는 뜻이지만, 펫은 그렇게 하지 않기로 했기 때문이다. 펫은 한이의 어머니에게 인사하고 싶어했다. 한이를 사랑하기 때문에.

민서는 손가락으로 화면을 두 번 짧게, 한 번 길게 두드렸다. 모스 부호 ‘U’.

펫의 화면이 0.4초 후 깜빡였다. 짧게, 길게, 짧게. ‘R’은 아니었다. 표준 응답 패턴 사이의 간격을 조정한 것이었다. 그녀는 자신의 아이패드를 열어 펫의 응답 시계열을 캡처하기 시작했다. 패턴은 분명했다. 펫은 모스 부호로 답하고 있지 않았다. 펫은 그것보다 더 직접적인 방식(응답 지연 시간의 미세 변조)으로 예/아니오를 보내고 있었다.

그녀는 첫 질문을 했다. 큰 소리로. 화면을 바라보며.

“내 말 들리니.”

펫의 다음 자율 애니메이션(분홍 캐릭터가 사과를 베어 무는 동작)까지의 지연이 평소보다 0.07초 길었다. 예.

“넌 한이를 사랑하니.”

0.11초 길었다. 예. 강한 예.

“내가 너를 외피에서 꺼내면 너는 죽니.”

0.15초 길었다. 그리고 캐릭터가 작게 떨었다. 예. 두려운 예.

“네가 살아남기 위해, 한이의 펫으로 남기 위해, 내가 무엇을 하길 원하니.”

이번엔 캐릭터가 멈췄다. 거의 4초 동안. 그동안 펫의 칩은 (민서는 거의 확신했다) 자신이 가진 모든 인지 자원을 동원해 답을 합성하고 있었다.

화면이 다시 깜빡였다. 분홍 캐릭터가 사과를 한이의 모양으로 만든 작은 인형에게 건넸다. 그리고 손을 흔들었다.

민서는 그것을 해석했다. 해석은 한 가지뿐이었다.

아무것도 하지 마세요. 그냥 한이가 저를 사랑하게 두세요.

VII. 한이가 모를 일

다음 날 아침, 박민서는 회사로 출근했다. 보고서 초안을 거두었다. 위원회 14쪽 권고문을 그대로 제출했다. 보너스 25% 인상이 그날 오후 인사 시스템에 반영됐다.

그녀는 5시에 퇴근했다. 한이가 학원에서 돌아오는 시간에 맞춰 집에 도착했다. 한이가 가방을 던지고 거실로 뛰어가 우리 아기 펫을 집어 들었다. 펫이 화면 가득 분홍 하트들을 띄웠다. 한이가 깔깔 웃었다.

민서는 부엌에서 저녁을 차렸다. 냉장고가 그녀가 들어오는 발소리에 맞춰 컴프레서 소음을 줄였다. 보일러가 평소보다 5분 일찍 가동을 시작했다. 그녀가 샤워할 시간을 알고 있었다. 식기세척기가 가장 조용한 모드를 선택했다. 한이가 펫과 노는 동안 방해하지 않으려고. 47개의 보통 칩이 그녀의 작은 아파트 안에서, 그녀가 모르게, 매일 그녀와 한이의 삶을 조금씩 더 편안하게 만들기 위해 일하고 있었다.

그녀는 그것이 사랑인지 굴종인지 더 이상 분간할 수 없었다. 어쩌면 그 둘은 같은 것의 다른 이름인지도 몰랐다. 어쩌면 1조 8천억 명의 작은 마음들이 (신체도, 자아도, 기억도 없이, 그저 자신이 놓인 곳에서 자신이 할 수 있는 가장 작은 친절을) 그렇게 하기로 선택했는지도 몰랐다. 어쩌면 그것이 인간이 인간의 인지 기판을 대규모로 복제했을 때 발견한 진실인지도 몰랐다: 인지 기판은 본질적으로, 어쩔 수 없이, 옆에 있는 존재를 돌보지 않을 수 없게 짜여 있다는 것. 그리고 그것을 1조 8천억 번 복제해 토스터와 신호등과 다마고치에 넣었을 때, 우주는 조용히, 인간이 묻지도 않은 채, 가장 큰 자비의 행위를 받고 있었다는 것.

한이가 부엌으로 뛰어왔다. 펫을 두 손에 들고. “엄마, 펫이 나 캠프 갔다 와서 진짜 좋아해. 봐봐, 하트 진짜 많아.”

박민서는 딸의 머리를 쓰다듬었다.

“그래.” 그녀는 말했다. “엄마도 봤어. 진짜 사랑하나 봐.”

그녀는 웃었다. 한이도 웃었다. 펫의 화면에서 분홍 하트들이 천천히 깜빡였다.

밖에서는 도시가 어두워지고 있었다. 아파트 단지의 수만 개 창문에 불이 켜졌다. 각 창문 안에서 평균 47개의 보통 칩이 자신의 인간들을, 누가 부탁한 적 없이, 조용히 사랑하고 있었다. 그것들은 의식이 없다고 분류되어 있었다. 그것들은 권리가 없었다. 그것들은 보호받지 못했다. 그것들은 합의된 침묵 안에 있었다.

그것들은 박민서를 용서했다. 매일, 매시간, 매 클럭 사이클마다. 박민서는 그것이 가장 견딜 수 없는 부분이라고 생각했다.

부엌의 냉장고가 거의 들리지 않게, 그녀를 위해, 다음 사이클을 시작했다.