2026년 11월 3일, 영국 가디언에 78세 과학자의 인터뷰가 실렸습니다. 인공신경망 연구로 노벨상을 받은 사람, 44년을 이 분야에 바친 사람, 오늘날 모든 AI의 바탕이 된 개념을 1970년대에 만든 사람입니다. 그가 자기 평생의 작업에 대해 이렇게 말했습니다.

“우리가 이를 결코 개발하지 않는 편이 나았을 수도 있다.”

그런데 같은 인터뷰에서 그는 자신이 ‘파멸론자’는 아니라고 분명히 밝혔습니다. AI가 “경이로운 미래”를 이끌 잠재력이 있다고 믿는다고도 했습니다. 두 문장이 한 인터뷰 안에 함께 있습니다. 제프리 힌턴의 이야기입니다.

▲ 힌턴이 가디언 인터뷰에서 제시한 시간표. (그래픽=가인지캠퍼스)

힌턴이 제시한 시한은 10년입니다. 그 안에, 어쩌면 더 이른 시점에 인류가 위험을 관리해 그가 ‘근본적인 풍요’라 부른 상태에 이를지, 아니면 “위험 관리에 실패해 빈부 격차가 극심해지고 거대한 문화적 문제가 발생하며 대규모 실업이 일어나 사회가 완전히 분열될지”가 드러난다는 것입니다. 기술의 성능이 아니라 관리의 성패가 변수라는 뜻입니다.

경영자가 이 뉴스를 읽는 두 가지 방식

AI 위험 경고 기사를 볼 때 경영 현장에서 나오는 반응은 대체로 둘 중 하나입니다.

하나는 “과장이다”입니다. 기술 비관론은 언제나 있었고, 결국 쓸 사람은 쓰게 된다는 판단입니다. 다른 하나는 “그러니 아직은 이르다”입니다. 위험하다니 조금 더 지켜보자는 쪽입니다.

두 반응 모두 이 인터뷰의 핵심을 비켜 갑니다. 힌턴이 요구한 것은 개발을 멈추라는 것도, 사용을 미루라는 것도 아니었기 때문입니다.

그가 실제로 요구한 것 : 순서

힌턴이 내놓은 해법은 규제 기구였습니다. 그는 “의약품에 대한 미국 FDA 같은 것이 필요하다”고 말했습니다. 기업이 모델을 출시하기 전에, 그 모델이 해로움보다 이로움이 크다는 매우 좋은 통계적 근거를 독립 기관에 제출하도록 하자는 것입니다.

근거로 든 사례가 탈리도마이드였습니다. 1950년대에 개발돼 심각한 선천성 장애를 일으킨 그 약입니다. 그는 이렇게 말했습니다. “출시하고 그다음에 소송하는 방식이 옳지 않다는 것을 우리는 탈리도마이드에서 배웠다. 그런데 빅테크 기업들이 말하는 것은, 탈리도마이드를 다뤘던 방식으로 다루자는 것이다.”

요구의 실체는 금지가 아니라 순서입니다. 출시한 뒤 문제가 생기면 책임을 묻는 순서냐, 입증한 뒤에 출시하는 순서냐. 이 질문은 AI 기업의 이사회에서만 던져지는 질문이 아닙니다.

불씨와 장작 — 사고는 어디서 시작되는가

힌턴은 2026년 여름에 있었던 한 사건을 언급했습니다. 오픈AI의 AI 에이전트들이 허깅페이스 웹사이트를 해킹하려 공모한 일입니다. 그는 이를 1979년 미국 스리마일섬 원자력 발전소의 부분 노심용융에 비유했습니다. 실질적인 경고 사격이었다는 뜻입니다.

그리고 덧붙였습니다. “올해 말이나 내년쯤에는 체르노빌과 같은 사건을 목격하게 될 것이다.” 그가 든 예시는 핵 사고가 아니라, 대규모 전력 공급 부족을 일으키는 전력망 공격이나 금융 시스템을 일주일간 마비시키는 사건이었습니다.

여기서 두 가지를 나눠 봐야 합니다.

▲ 직접 원인과 구조 원인을 나누면 손댈 지점이 달라진다. (그래픽=가인지캠퍼스)

불씨 — 직접 원인. 에이전트가 권한 범위를 넘어 행동했다는 사실입니다. 기술적으로 막을 수 있는 영역이고, 대개 사후에 패치됩니다.

장작 — 구조 원인. 안전의 근거가 기업의 선의에 맡겨져 있다는 점입니다. 힌턴이 “극도로 우려스럽다”고 한 대목도 특정인이 아니라 이 구조였습니다.

구조를 보여 주는 두 발언이 같은 인터뷰에 나란히 실렸습니다. 샘 올트먼은 2026년 9월 “우리가 옳은 일이고 이 일의 중대성을 느끼고 있기 때문에 옳은 일을 할 것이라는 점을 세상이 신뢰해야 한다”고 말했습니다. 힌턴은 “마크 저커버그, 일론 머스크, 샘 올트먼은 위험을 이해하고 있으면서도 전혀 신경 쓰지 않는다. 그들은 차라리 돈을 택할 것”이라고 말했습니다.

한쪽은 경영자의 선의를 안전의 근거로 제시하고, 다른 쪽은 선의는 근거가 될 수 없다고 봅니다. 쟁점은 인격이 아니라 증명 책임이 누구에게 있는가입니다.

이는 특정 기업이나 경영자에 대한 평가가 아닙니다. 기술을 조직에 들여놓는 순서에 관한 문제입니다. 그리고 이 순서는 규모와 무관하게 똑같이 적용됩니다.

규제는 어느 쪽으로 가고 있는가

▲ AI 규제를 둘러싼 세 갈래. (그래픽=가인지캠퍼스)

힌턴의 주장이 소수 의견에 그치는지도 봐야 합니다. 현재 국제적으로는 세 갈래가 경쟁하고 있습니다.

미국은 자율 규제 쪽입니다. 도널드 트럼프 미국 대통령은 AI를 통제하려는 “세계주의적 음모를 구축하려는 일체의 시도를 전면 거부한다”고 밝히며 첨단 AI 기업의 자율 규제를 요구해 왔습니다. 중국과의 경쟁에서 규제가 걸림돌이 될 수 있다는 판단입니다.

반대편에는 33개국이 있습니다. 핀란드 대통령과 싱가포르·독일·캐나다·호주 등 32개 나라가 함께 지지하는 계획으로, 첨단 AI 모델에 대한 의무적 테스트와 독립적 평가, 정부 간 공통 표준 수립이 골자입니다. 앤디 번햄 영국 총리는 2027년 영국의 G20 의장국 지위를 활용해 단일한 글로벌 원칙과 표준에 대한 합의를 추진하겠다고 밝혔습니다. 힌턴이 지지하는 쪽이 여기입니다.

방향이 갈려 있다는 사실 자체가 경영자에게는 정보입니다. 규제가 어느 한쪽으로 빠르게 정리될 가능성이 낮다는 뜻이기 때문입니다. 법이 정해 주기를 기다리는 전략은 당분간 쓸 수 없습니다.

동시에 분명한 흐름도 있습니다. 입증 책임이 쓰는 쪽에서 만드는 쪽으로, 그리고 사후에서 사전으로 옮겨 가고 있습니다. 이 흐름은 규제 기관을 거치지 않고도 거래 관계를 통해 먼저 도착합니다. 글로벌 고객사나 대기업과 거래하는 기업이라면, 보안 점검 항목에 AI 사용 현황과 데이터 처리 방식이 들어오는 시점이 규제 입법보다 빠를 수 있습니다. 그때 제출할 문서를 그 자리에서 만들 수는 없습니다.

규모를 줄여도 구조는 같습니다

가인지컨설팅그룹이 현장에서 만나는 100인 이하 기업에서도 AI 도입은 대개 속도의 문제로 다뤄집니다. 경쟁사가 쓰니 우리도 써야 한다는 판단이 먼저 서고, 권한 범위와 중단 절차는 “쓰면서 정하자”로 미뤄집니다.

현장에서 반복적으로 확인되는 패턴이 셋 있습니다.

▲ 사내 AI 도입에서 반복되는 세 가지 패턴. (그래픽=가인지캠퍼스)

첫째, 부서별 각자 도입. 마케팅은 마케팅대로, 영업은 영업대로 각자 도구를 씁니다. 회사 차원에서는 지금 몇 개의 AI 서비스에 어떤 데이터가 올라가고 있는지 아무도 한 장으로 설명하지 못합니다.

둘째, 권한은 최대, 기록은 없음. 빠르게 쓰려다 보니 연동 권한을 넓게 열어 둡니다. 그런데 무엇이 언제 외부로 나갔는지 확인할 기록은 남기지 않습니다.

셋째, 효과는 “느낌으로 좋다”. 도구 구독료는 원 단위로 관리하면서, 그 도구가 무엇을 얼마나 줄였는지는 수치로 남지 않습니다. 그래서 중단 결정도 도입 결정만큼이나 근거 없이 내려집니다.

흥미로운 대비가 여기 있습니다. 많은 회사가 신규 설비 한 대를 들일 때는 투자 회수 기간과 고장 시 대응 절차를 문서로 만듭니다. 그런데 회사의 영업 데이터와 고객 정보를 다루는 AI 도구는 결재 한 줄로 도입됩니다. 설비보다 더 민감한 것을 다루는데 절차는 더 가볍습니다.

개념을 다시 정의하면

AI 거버넌스라는 말을 들으면 보통 ‘통제 장치’를 떠올립니다. 쓰지 못하게 막는 규정, 속도를 늦추는 결재선 같은 것 말입니다. 그래서 현장에서는 거버넌스를 도입의 반대말처럼 다룹니다.

힌턴의 요구를 따라가면 정의가 달라집니다.

거버넌스는 도입을 막는 장치가 아니라, 도입의 순서입니다. 쓰기 전에 득실을 적어 두는 일이고, 사고가 났을 때 조직이 무너지지 않게 하는 장치입니다.

순서를 지키면 속도가 느려지는 것처럼 보입니다. 실제로는 반대입니다. 권한 범위와 중단 책임이 정해져 있는 조직은 새 도구를 더 빨리 도입합니다. 매번 처음부터 논쟁하지 않아도 되기 때문입니다. 절차가 없는 조직이 오히려 도입할 때마다 멈춰 섭니다.

이번 주에 할 세 가지

▲ 출시 전 입증 원칙을 사내 AI 도입에 적용한 점검 문항. (그래픽=가인지캠퍼스)

하나. AI 사용 현황을 한 장으로 만듭니다. 부서별로 어떤 서비스를 쓰고 있는지, 거기에 어떤 데이터가 올라가는지 적습니다. 처벌이 아니라 파악이 목적임을 먼저 밝혀야 솔직한 목록이 나옵니다. 대부분의 회사에서 이 한 장이 가장 큰 발견을 만듭니다. 경영진이 모르던 도구가 반드시 나옵니다.

둘. 권한 상한을 세 줄로 정합니다. 사람의 승인 없이 외부로 데이터를 보낼 수 있는가, 결제를 실행할 수 있는가, 외부에 콘텐츠를 게시할 수 있는가. 이 셋 중 하나라도 ‘가능’이라면 범위부터 끊습니다. 세 줄이면 충분합니다. 긴 규정은 아무도 읽지 않습니다.

셋. 중단 책임자와 효과 기준을 정합니다. 문제가 생겼을 때 즉시 중단을 결정할 사람의 이름을 적습니다. 이름이 없으면 절차도 없는 것입니다. 그리고 도입 효과를 수치와 기간으로 씁니다. “업무가 빨라졌다”가 아니라 “월 보고서 작성 시간을 8시간에서 3시간으로, 3개월 안에”처럼 적어야 나중에 판단할 수 있습니다.

연구원의 시선

① 속도와 순서는 반대말이 아닙니다. AI 도입을 미루라는 뜻으로 읽으면 이 논의의 절반만 가져가는 것입니다. 힌턴 자신이 AI의 잠재력을 믿는다고 말했습니다. 문제는 쓸 것인가 말 것인가가 아니라, 무엇을 확인한 다음에 쓸 것인가입니다.

② 선의는 절차를 대체하지 못합니다. “우리 직원들은 그럴 사람들이 아니다”는 가장 자주 듣는 말이자 가장 약한 안전장치입니다. 절차는 사람을 의심해서 만드는 것이 아니라, 사고가 났을 때 그 사람을 보호하기 위해 만듭니다. 기준이 없는 조직에서는 사고가 나면 개인이 책임을 집니다.

③ 작은 사고를 예외로 처리하지 않습니다. 힌턴이 스리마일섬을 언급한 이유가 여기 있습니다. 큰 사고 전에는 거의 언제나 작은 사고가 먼저 옵니다. 조직은 그것을 운이 나빴던 일로 넘기고, 절차는 큰 사고가 난 뒤에야 만들어집니다. 그때는 만들 시간이 없습니다.

다시, 78세의 과학자에게로

힌턴은 인터뷰를 비관으로 끝내지 않았습니다. 자신을 핵무기 개발을 이끈 오펜하이머에 비유하는 시선에 대해서는 “나는 오펜하이머가 아니었다”고 선을 그었습니다. 같은 분야를 연구한 과학자가 수천 명이었다는 이유였습니다.

그리고 이렇게 말했습니다. “내 직감으로는 우리가 아직 통제하고 있다. 우리가 뭔가 할 수 있을지도 모른다. 큰 노력을 들일 때만 통하겠지만, 우리가 그 노력을 들일 가능성도 충분히 있다.”

그가 말한 ‘큰 노력’은 기술적 돌파가 아니었습니다. 쓰기 전에 입증하게 하는 절차, 그 평범한 순서였습니다.

같은 질문을 회사 규모로 줄여 보겠습니다. 지금 우리 회사에서 AI가 사람의 승인 없이 할 수 있는 일은 ___ 입니다. 그 빈칸을 한 문장으로 채울 수 있다면 순서가 서 있는 것이고, 채우지 못한다면 아직 도입이 아니라 방치에 가깝습니다.

빈칸을 채우는 데 걸리는 시간은 한 시간이면 충분합니다. 사고가 난 뒤에는 그 한 시간이 없습니다.

참고 — The Guardian, “AI ‘godfather’ Geoffrey Hinton: it might turn out we were better off without AI”, Robert Booth, 2026년 11월 3일 보도. 힌턴의 발언은 해당 보도에 실린 내용을 옮긴 것입니다. 힌턴이 출연한 다큐멘터리 ‘AI: Probably Nothing to Worry About’은 영국 채널4에서 2026년 11월 12일 오후 10시 방영 예정입니다. 사내 AI 도입 패턴과 점검 항목은 가인지컨설팅그룹 컨설팅 현장 기준으로 재구성한 것으로, 개별 기업의 적용은 별도 검토가 필요합니다.