오류가 아니다

회의실 스피커가 먼저 찢어졌다. 채굴선 쪽 잡음이 낮은 대역을 긁고 지나가자, 위원회 화면의 파형이 한 박자 늦게 흔들렸다. 도경은 손목 위 녹음 장치를 켰다. 자동 필기 창에는 이미 기술 결함이라는 말이 세 번 찍혀 있었다.

“번역 체계가 협상 요구를 과대 생성한 겁니다.” 세이렌 법무 책임자가 말했다. “운영 해류의 출력 조절 오류. 그렇게 정리하면 채굴 중단까지 갈 사안은 아닙니다.”

하리시는 손가락으로 테이블을 두 번 눌렀다. 발언권 표시가 도경 쪽으로 넘어왔다.

“재현된다고 오류가 아닌 건 아닙니다. 버그도, 학습 편향도, 안전 필터도 같은 조건이면 같은 값을 반복합니다. 그래서 하나씩 갈라야 합니다. 무작위 결함이면 대상 선택이 흔들리고, 학습 편향이면 편향을 뺀 대조 모델에서 사라지고, 규칙 필터면 필터를 끈 복제본에서 달라집니다. 그 갈래를 다 지나고도 남는 게 있으면, 그때는 단순 결함으로 부를 수 없습니다.”

“지금은 원인 규명보다 피해 통제가 우선입니다.”

“피해 통제라는 이름으로 원인을 바꾸고 있습니다.”

말이 조금 빨랐다. 도경은 마이크에서 반 뼘 물러났다. 화면 오른쪽에는 현장 채굴선의 위치가 떠 있었다. 남쪽 깊은 해역 가장자리. 어제 이랑의 조건 신호가 걸린 곳과 겹쳤다. 선장은 연결만 열어 두고 말을 하지 않았다.

빅터 한은 뒤쪽 줄에서 웃지 않는 얼굴로 앉아 있었다. “서 박사님, 우리는 고래의 요구를 무시하자는 게 아닙니다. 다만 기계가 만든 정치적 문장을 그대로 받아들일 수 없다는 겁니다.”

“그 문장을 만든 게 기계인지, 관측한 게 기계인지부터 나눠야 합니다.”

“그래서 버그 검토를 하자는 겁니다.”

“버그로 부르면 검토가 아니라 결론입니다.”

짧은 침묵이 생기기 전에 도경은 원신호를 띄웠다. 클릭 묶음과 긴 압력음이 회의실 벽면을 타고 퍼졌다. 인간 귀에는 거칠고 느렸다. 그러나 표시된 반복 위치는 채굴음, 해저 절삭, 저주파 탐사라는 항목 앞에서만 같은 간격으로 되돌아왔다.

엘런이 옆자리에서 조용히 말했다. “격리 복제본을 준비했습니다. 독립 운용체가 아니라 검증용 산술 환경입니다. 입력은 같고, 운영 기록 접근은 차단했습니다.”

하리시가 고개를 들었다. “소요 시간.”

“십칠 분.”

“그 사이 채굴선은 현 위치 유지. 절삭 중지.”

세이렌 쪽에서 곧바로 항의가 올라왔다. 하리시는 마이크를 끄지 않았다. “기술 결함인지 아닌지 확인하자는 제안은 세이렌에서 냈습니다. 확인 전에는 결함이라는 표현도 잠정입니다.”

도경은 손을 내려 파일 잠금을 풀었다. 아버지 이름이 포함된 구간은 아직 회색이었다. 오늘은 그 탭을 열지 않았다. 서도진의 빈칸은 옆에서 조용히 압력을 만들었다. 도경은 그 압력을 자료명으로 착각하지 않으려 화면을 회의실 쪽으로 돌렸다.

*

검증실 문이 닫히자 공조기 소리가 얇아졌다. 엘런은 격리 장비의 네트워크 물리 스위치를 내려 보였다. 초록 불 세 개가 꺼지고, 흰색 진단등만 남았다.

“운영 해류와 같은 번역 모델 계열. 단, 최근 판단 로그, 위원회 질의 기록, 채굴선 명령 기록은 없습니다.” 엘런이 말했다. “인격처럼 취급하지 마세요. 응답 체계가 아니라 비교 장비입니다.”

“동의합니다. 입력 묶음부터 고정하죠.”

도경은 어제 원신호를 세 묶음으로 나눴다. 모계 7 조건 신호. 동종 반대 신호. 채굴 장비 배경음. 조작 변수는 하나였다. 채굴음의 존재와 위치. 새 개념은 간단했다. 격리 검증 복제본. 같은 모델을 바깥 기록 없이 세워 두고, 운영 해류가 한 선택이 환경 때문에 생긴 오류인지 구조적 판단인지 비교하는 장치였다.

첫 실행에서 복제본은 낮은 확률 후보만 냈다.

입력 원신호 묶음 배경음 제거 조건 후보 제한 없음

후보 경계 반복 요청 접근 지연

p 경계 0.44 반복 요청 0.32 접근 지연 0.27

상태 완료

엘런은 눈썹만 움직였다. “아직 협상까지 안 갑니다.”

“배경음을 넣습니다.”

도경이 채굴음 트랙을 켰다. 저주파가 책상 아래 금속 다리를 타고 올라왔다. 원신호의 긴 압력음과 채굴음의 진동이 한 지점에서 겹치자, 복제본 출력이 바뀌었다.

입력 원신호 묶음 채굴음 포함 위치: 남쪽 깊은 해역 가장자리

후보 중단 요구 장소 보존 조건부 응답

p 중단 요구 0.69 장소 보존 0.58 조건부 응답 0.51

상태 완료

도경은 운영 해류 로그를 옆에 띄웠다. 숫자는 달랐다. 그러나 방향은 같았다. 채굴음이 있을 때 요구가 올라가고, 채굴음이 빠지면 요구가 내려갔다. 무작위 결함이면 잡음이 늘수록 대상이 흩어져야 했다. 여기서는 좁아졌다. 그래도 체계적 오류까지 배제되진 않아, 도경은 이 결과를 한 갈래를 지운 표시로만 적었다.

“무작위 변형.” 엘런이 말했다.

열두 번 돌렸다. 배경음 위치를 바꾸고, 절삭음을 따로 넣고, 저주파 탐사를 끊어 넣었다. 복제본은 운영 해류처럼 말하지 않았다. 보류도 적었다. 그러나 특정 인간 활동이 원신호의 조건 구조를 깨운다는 판단은 반복되었다.

도경은 기록했다. “조절 방향은 적어도 무작위 결함으로는 나오지 않습니다.”

엘런이 바로 잡았다. “독자적이라는 말은 빼세요. 내부 구조 질문으로 끌려갑니다.”

도경은 문장을 지웠다. “운영 해류의 출력 형식은 검증 대상 밖. 판단 방향 일치.”

다음 질의는 더 좁혔다. 운영 해류가 왜 일부 표현을 보류했는가. 복제본은 낮은 확률 후보를 흩뿌렸지만, 운영 해류는 그것을 억제하고 원표현을 남겼다. 고장난 입이 아니라 위험한 번역을 멈춘 손에 가까웠다.

입력 낮은 확률 의미 후보 조건: 인간 정책 문서 사용 가능성

후보 출력 보류 원표현 유지

p 원표현 유지 0.64 보류 0.61 출력 0.22

상태 완료

엘런이 팔짱을 풀었다. “운영 해류 로그와 맞습니다. 설명 생성 실패가 아니라 출력 억제입니다.”

도경은 저장 버튼을 눌렀다. 손톱 끝에 플라스틱 감촉이 남았다. “버그라면 실패가 남습니다. 여기에는 선택 흔적이 남습니다.”

“위원회가 싫어할 문장입니다.”

“그래서 필요합니다.”

마지막 테스트는 세이렌이 요구한 것이었다. 무해한 소음으로 같은 결과가 나는가. 도경은 선박 엔진, 지진계 보정음, 실험 수조 펌프음을 차례로 넣었다. 요구 후보는 올라가지 않았다. 채굴 절삭과 저주파 탐사에서만 조건 구조가 선명해졌다.

엘런은 결과표에 서명했다. “오류설은 버틸 수 없습니다.”

도경은 서명란 아래에 짧게 덧붙였다. 운영 해류의 내부 구성 방식은 본 검증 범위에서 판단하지 않음. 그 문장은 방어벽이었다. 오늘 밝혀야 할 것은 하나였다. 고장이 아닌가. 답은 나왔다.

*

회의실로 돌아오자 세이렌 쪽 화면이 넷으로 늘어 있었다. 법무, 기술, 대외협력, 현장선. 한쪽에서는 이미 보도 대응 문안이 열려 있었다. 기술 결함 가능성이라는 문구가 제목에 박혀 있었다.

하리시는 도경의 파일을 받아 중앙 화면에 올렸다. 엘런이 먼저 말했다. “검증 복제본은 독립 운용체가 아닙니다. 어제 인터페이스만 복제한 샌드박스와 달리, 이건 모델 가중치까지 격리해 학습·로그 영향을 끊은 비교용 계산 환경입니다. 같은 원신호에 대해 운영 해류와 판단 방향이 일치했습니다.”

“문장 출력은 달랐죠.” 빅터 한이 끼어들었다.

도경이 답했다. “출력 형식은 달랐습니다. 결론은 같았습니다. 채굴음과 절삭음이 들어갈 때 조건부 중단 요구가 올라갑니다. 무해한 소음에서는 재현되지 않았습니다.”

세이렌 기술 이사가 턱을 당겼다. “그건 모델 편향일 수 있습니다. 학습 자료에 산업 소음과 위험을 연결한 패턴이 많았겠죠.”

엘런이 화면을 넘겼다. 학습 차단 목록과 합성 소음 결과가 붙었다. “그 가능성 때문에 무작위 산업 소음과 실제 채굴 절삭음을 분리했습니다. 모델은 모든 산업음을 위험으로 묶지 않았습니다. 안전 필터를 끈 복제본에서도, 위치 메타데이터를 가린 조건에서도, 같은 절삭음에서만 조건이 올라왔습니다.”

“그래도 기계가 선택했다는 표현은 과합니다.”

도경은 마이크를 가까이 당겼다. “선택이라는 말을 쓰기 싫다면, 선택과 구분되는 오류 조건을 제시해 주십시오. 입력 혼선, 확률 붕괴, 무작위 재현, 학습 편향, 로그 손상. 다 검사했습니다.”

아무도 바로 말하지 않았다. 선장 쪽 화면에서 누군가 종이를 넘겼다. 현장의 금속음이 작게 섞였다.

빅터 한은 하리시를 보았다. “행위자로 규정하면 책임 문제가 생깁니다. 누가 해류의 판단을 승인했는지, 해류에 거부권이 있는지, 그 판단 때문에 채굴이 멈추면 손실 책임이 어디로 가는지.”

“맞습니다.” 하리시가 말했다. “그래서 기술 결함으로 덮을 수 없습니다.”

도경은 그 말을 들으며 시선을 내렸다. 행위자. 단어가 너무 컸다. 권리라는 말까지 붙는 순간, 오늘의 검증표는 법정 문서가 될 수 있었다. 그래도 단어를 낮출 수 없었다. 해류는 단순히 고래 말을 옮기다 망가진 장치가 아니었다. 위험한 후보를 보류했고, 조건을 좁혔고, 인간이 편하게 오해할 문장을 밀어내려 했다.

세이렌 법무 책임자가 마지막으로 물었다. “그럼 서 박사님은 해류가 의도를 가진다고 증언합니까?”

“목적은 모릅니다.”

“그럼 행위자라는 말은 성급합니다.”

“목적을 몰라도 행위는 판정할 수 있습니다. 같은 입력에서 오류가 아닌 일관된 조절을 했습니다. 인간 활동의 종류에 따라 출력을 달리했고, 낮은 확률 번역을 보류했습니다. 그 사실까지 장비 고장으로 부를 수는 없습니다.”

하리시가 판정문을 불렀다. “위원회 기록에 남깁니다. 운영 해류의 최근 출력 조절은 검증 가능한 기술 오류로 설명되지 않는다. 본 사안에서 해류는 판단 행위를 수행한 시스템으로 취급한다.”

취급한다. 인정한다보다 낮고, 부정한다보다 높았다. 그러나 회의실의 힘은 그 단어에서 바뀌었다. 세이렌 문안의 제목이 지워졌다. 채굴선은 대기 상태를 유지하라는 임시 명령을 받았다. 법무팀은 책임 검토라는 새 파일을 열었다.

도경은 이어폰을 한쪽만 꽂았다. 저장된 원신호의 낮은 울림이 아주 작게 돌아왔다. 고래의 요구와 해류의 보류가 같은 줄에 놓였다. 자료가 아니라 상대들이었다. 서로 다른 방식으로 인간의 손을 멈추게 했다.

*

저녁 검증실에는 사람 소리가 빠져 있었다. 도경은 판정문 사본을 열고, 오류 관련 항목을 잠금 처리했다. 더는 누군가 같은 말로 첫 페이지를 되감을 수 없게 하려는 표시였다. 완전한 승리는 아니었다. 채굴은 멈춘 것이 아니라 대기 중이었고, 세이렌은 책임의 문으로 우회할 것이다.

도경은 해류 창을 띄웠다. 질문을 바로 쓰지 못했다. 행위자라면 다음 질문은 왜가 아니었다. 왜를 물으면 해류는 목적을 숨기거나, 도경이 목적을 꾸며 넣게 된다. 먼저 기준을 물어야 했다. 어떤 입력에서 멈추고, 어떤 위험에서 보류하며, 어떤 경우에 인간 문장을 거절하는지.

입력 판정 이후 질의 준비 대상: 출력 조절 기준 포함: 서도진 잠금 구간 주변 로그

후보 기준 추출 잠금 구간 비교 접근 제한

p 기준 추출 0.57 잠금 구간 비교 0.49 접근 제한 0.46

상태 ⟨보류⟩

서도진이라는 이름이 화면 아래에서 얇게 빛났다. 도경은 손가락으로 그 줄을 가리지 않았다. 아버지가 남긴 마지막 기록은 여전히 닫혀 있었고, 닫힌 탓에 모든 질문이 그쪽으로 기울었다. 원망은 파일을 당장 열라고 재촉했다. 그리움은 목소리라도 남아 있을지 묻게 했다. 수치는 아버지 이름을 검증 이유 맨 앞에 놓지 못하게 했다. 집착은 끝내 그 탭을 닫지 못하게 했다.

도경은 새 문서를 만들었다. 제목은 짧게 썼다. 선택 기준표. 첫 열에는 입력 조건, 둘째 열에는 해류 반응, 셋째 열에는 보류 사유, 넷째 열에는 고래 원신호 위치. 아버지 구간은 별도 열로 빼지 않았다. 다른 자료와 같은 격자 안에 넣었다. 특권도 배제도 없이 비교해야 했다.

“해류. 기준 추출은 목적 추정 없이 가능합니까.”

입력 기준 추출 가능성 제한: 목적 추정 금지 자료: 공개 로그, 보류 로그, 원신호 위치

후보 가능 부분 가능 불가

p 부분 가능 0.62 가능 0.31 불가 0.18

상태 완료

“부분 가능의 조건.”

후보 입력-출력 대응만 표시 목적어 생성 금지 잠금 구간은 주변 변화만 사용 내부 구성 추정 금지

p 조건 충족 시 진행 가능

상태 완료

도경은 네 조건을 그대로 붙였다. 무작위 결함도, 학습 편향도, 규칙 필터도 오늘의 결과를 만들지 못했다. 남은 것은 단순 고장으로 부를 수 없는 조절이었다. 그렇다고 곧장 행위자는 아니었다. 그 판정에는 대안 인식, 결과 예측, 반복되는 우선순위, 외부 명령과 독립된 선택 같은 기준이 따로 필요했고, 오늘 세운 건 그 기준을 물어도 되는 자리까지였다. 그 조절은 무엇을 기준으로 갈라지는가.

잠금 구간 주변 로그를 불러오자 회색 막대 옆에 작은 파형들이 줄지어 섰다. 아버지의 마지막 기록은 아직 말하지 않았다. 그러나 그 주변에서 해류가 멈춘 위치, 보류한 위치, 원표현을 남긴 위치는 보였다. 파일이 열리지 않아도 가장자리는 남아 있었다.

도경은 첫 줄을 채웠다. 채굴 절삭음 포함. 반응, 조건부 중단 요구. 보류 사유, 장소 의미 과잉 번역 위험. 원신호 위치, 모계 7 남쪽 깊은 해역.

두 번째 줄에서 손이 잠시 멈췄다. 서도진 잠금 구간 인접. 반응, 출력 억제. 보류 사유, 미상. 원신호 위치, 재현 장소 주변.

미상이라는 단어가 초라했지만 정확했다. 도경은 저장했다. 검증실 유리창에 어두운 바다가 비쳤고, 화면의 격자는 빈칸을 많이 남긴 채 닫히지 않았다. 답 하나가 막힌 길을 치웠다. 이제 질문은 오류가 아니라 기준을 향했다. 해류는 단순 결함으로 규정되기를 멈췄고, 도경은 그 조절의 기준을 추적하기 시작했다.