바야흐로 인공지능 시대다. 대화하듯 글로 물어보면 답을 해주고, 원하는 것을 설명해주면 시, 노래, 그림, 동영상, 기사, 보고서까지 만들어 준다. 인간의 목소리와 얼굴을 그대로 복제하고, 인간과 토론도 한다. 인간의 손발을 빼다박은 로봇이 경기를 뛴다. GPT-5를 보면서 놀랍도록 빠르게 진화하는 인공지능에 감탄하면서도 어질어질하다. 영화에서는 첨단로봇과 융합된 인공인간(artificial human, AH)이 인간과 결혼도 하고, 죽은 남편의 몸과 기억을 복제한 인간로봇을 만들고, 가정부로 구입한 인간로봇이 아내를 떠밀고 남편을 넘보기도 한다. OpenAI, Google, Apple 뿐만 아니라 거의 모든 기업이 인공지능에 사활을 거다시피 한다.

인공지능과 자료지능 3강의 초상

지난달 어느 학술모임에 초대를 받아 참석했다. 인공지능을 정부에 도입하는 문제에 관해 의견을 나누는 자리였다. 오랫동안 정보기술에 관심을 기울였지만 인공지능에 관한 문제를 말하는 것은 조심스러웠다. 기술발전 뿐만 아니라 인공지능에 대한 사람들의 태도(수용성)를 예측하기 힘들기 때문이다. 정부가 금지하고 규제한다고 해서 막을 수 있는 흐름이 아니다. 개인이나 조직이 거부할 수 있는 것도 아니다. 단지 어떻게 인공지능을 잘 이용할 것인가 하는 문제다.

이재명 정부는 인공지능 강국을 만들겠다며 대전환(AI Transformation, AX)을 천명했다. AI투자 100조원 시대, 고성능 GPU 5만개 확보, 국가 AI 데이터센터(AI 고속도로), 한국형 ChatGPT 보급... IT가 AI로 바뀌었을 뿐 인터넷 강국을 천명한 김대중 정부를 닮았다. 일단 저지르고 보자는 정신줄, 수요보다는 공급, 질보다는 물량, 효과보다는 성과지표...

100조원을 들여 여기 저기에 데이타센터를 짓고, 장비를 사다가 빠른 통신망(6G)에 연결하고, GPU를 쏟아부으면 미국과 중국에 이어 AI 3강에 이를 수 있을까? CPU나 GPU는 그렇다 쳐도 시스템을 설계하고 구성하고 운용하고 활용하는 실력은 어찌하나? 지난 6월 기준 한국의 수퍼컴퓨팅 순위는 7위이고 일본은 4위인데, 과연 Fujitsu와 NEC의 경험을 따라잡을 수 있을까? 무엇보다도 AI는 자료가 핵심인데, 과연 우리는 AI에 필요한 자료를 잘 축적하여 관리하고 있는가? 공공자료를 공개한다고 했는데 얼마나 쓸만한 자료인가?

인공지능이 없어서 10.29 참사가 벌어졌나?

왜 AI인가? 왜 AI 가 필요한가? 만일 최첨단 AI가 정부기관에 도입되었라면 10.29참사를 막을 수 있었을까? 정부의 자료지능(data intellegence, DI) 시스템이 이태원 근처 CCTV, 유무선통신자료, 인터넷자료 등을 근거로 30분 후 참사 발생을 정확하게 예측했다고 치자. 시스템은 즉시 중앙정부, 자치단체, 경찰, 소방, 병원 등에 전달했을 것이다(만일 AI가 재난문자를 발송하듯 참사발생 경보를 마구 뿌려댔다면 더 큰 참사가 되었을 것이다). 그러면 모든 당사자와 책임자들이 일사불란하게 움직여 참사를 막거나 피해를 최소화할 수 있었을까?

아마도 윤석열 정권에서는 참사를 피하지 못했을 것이다. 길거리 카메라와 휴대폰이 눈이 풀려가는 청춘들을 실시간으로 비추고 Youtube로 중계하고 있었는데도 관료제는 딴청을 피웠다. 직접 눈으로 보고서도 외면했던 공직자들이다. AI는 커녕 AI 할아버지가 왔어도 꿈쩍하지 않았을 것이다. AI는 당연히 희생자의 영정과 위패를 모시라고 했을 테지만 윤석열 정권은 끝끝내 묵살했을 것이다. 몰라서가 아니라 인간의 마음이 없으니 당연히 해야 할 일을 안한 것이다. 아마도 초고성능 AI가 비상계엄이 명백한 위법이고 성공할 수 없는 무모한 짓이라고 경고했어도 12.3 내란을 강행했을 것이다. 어차피 법이나 국민이나 인권은 고려사항이 아니었다. 무도한 자들에게 AI는 듣기 싫은 잔소리나 해대는 샌님일 뿐이다.

인공인간이 장관과 대통령을 대신하는 정부?

과거 정보기술에서 주목을 끌었던 의사결정지원체제(Decision support system, DSS)가 인공지능(AI)바람을 타고 자료지능(DI)을 거쳐 인공인간(AH)으로 향하고 있다. 머지 않아 인공지능이 로보캅이나 터미네이터처럼 거리를 활보하고, 의사, 검사, 판사, 변호사 자리를 차지할는지 모른다. 정확성과 생산성으로 무장한 인공인간들이 노동자, 회사원, 공무원을 대신할는지 모른다. 정부기관의 국장, 장차관, 총리, 국회의원, 대통령까지 연예인처럼 멋있고, 말잘하고, 예의바른 인공인간이라면 어떠할까? 정해진 제도(법과 규칙과 절차)대로 빈틈없이 움직일테니 불법과 탈법, 뇌물수수, 과실과 태만, 직무유기, 권한남용, 빤쓰 추태 등을 걱정할 필요가 없다. 상상대로 완벽하게 돌아가는 세상에서 모두가 행복할까?

인공인간에게 자리를 내어준 사람들은 어디로 가야 할까? 청소하는 것도, 아이를 기르는 것도, 책을 읽는 것도, 여행을 가는 일도, 축구나 농구도 인공인간이 대신하여 그 느낌과 기억을 전달해 줄 것이다. 숨쉬는 것도 귀찮다면 산소를 공급해줄 것이고 연애나 결혼이 번거로우면 밤마나 이상형을 골라 주고 우량아를 생산해줄 것이다. 모든 것이 풍요롭고 평화로울테니 매일 먹고 마시고 노래하고 춤추고 잠자는 것 외에 인간이 할 일은 없다. AI로봇이 인간을 살아주는 세상아닌가? AI로봇을 위해 인간이 일없이 빈둥거리는가? 아님 Matrix (1999)에서 보듯 AI에게 사육되는 줄도 모른 채 유리관에 갖혀 열과 전기를 에너지원으로 빨리고 있는가? 그렇다면 인간이란 존재는 무엇인가? 인간에게 일이란 무엇인가?

멋진 AI를 원하면 먼저 멋진 인간이 되어라

인간이 완벽하지 않고 인공지능이 인간을 흉내내는 존재인 한 장밋빛 미래는 환상일 뿐이다. 입력된 자료와 학습하는 앨고리듬 모두 완벽하지 않다. 그 결과물도 마찬가지다. 인간이 만든 물건인 한 로봇(인공인간) 역시 불완전할 수밖에 없다. 그래서 영화 속 상상은 개연성이 충분하다. Modern Times (1936)에서 급식기계에 앉혀진 채플린은 옥수수처럼 입을 털리고 음식을 얼굴에 뒤집어 쓴 채 싸대기를 정신없이 얻어 맞는다. 인간됨과 기계됨의 영원한 간극을 풍자한 명작이다. 90년이 지난 오늘 기름때없이 말끔하고 정교하고 똑똑하고 육감적인 AI가 되었으니 사정이 좀 나아졌을까?

어쩌면 정교한 AI일수록 인간의 불완전성을 철저하게 학습할 것이다. 인간이 정해준 제도에서 오타, 충돌, 불일치, 불합리, 무의미를 배우면서 갈등하고 혼란스러워할 것이다. 학습한 자료에 따라 뇌물도 받고 근무태만에 직권남용까지 자연스레 선보일 것이다. 전정권의 공직자(판검사 포함)들을 학습한 AI가 장관이 되었다고 상상해 보라. 과연 국민 앞에 정직하고 공손하고 책임지는 전문가 AI였을까? 멀쩡하지 않은 인간을 보고 배운 AI는 멀쩡할 수 없다.

또 멀쩡하지 않은 사람은 멀쩡한 AI를 쓰지 않는다. “윤건희”는 한동훈, 한덕수, 이상민, 김용현, 여인형같은 AI만 쓸 것이다. 전문성을 포기하고 상사에게 굴종하며 국민을 배신하는 대가로 利를 추구하고, 맹종을 강요하는 상사와 조직 앞에 세워지는 하찮은 존재만을 원하기 때문이다. 합목적성이다. 그런 자들은 전문지식을 갈고 닦아 국민에게 성실하게 봉사하고 전문지식 앞에 서는 존귀한 존재들(2001: 277, 465)를 성가시게 생각한다. 책임을 지겠다며 전문가의 소신을 꺾지 않는 꼰대들을 혐오한다. 그래서 박정훈 대령과 백해룡 경정이 참혹한 수난을 당한 것이다. 그런 멀쩡한 AI의 조언은 소음이자 불경일 뿐이기 때문이다.

AI는 인간의 수준만큼 결과물을 낸다. 스마트폰을 사용해서 사용자가 스마트해지는 것이 아니라 스마트한 사람만이 스마트폰을 스마트하게 이용할 수 있다. 스마트하지 못한 사람은 스마트폰에게 이용당할 뿐이다(알게 모르게 무보수로 이용자료를 제공하고 광고수익에 기여한다). 마찬가지로 AI를 사용하면 똑똑하고 유능한 사람이 되는 것이 아니라 똑똑하고 유능한 사람만이 AI를 제대로 활용하여 더 똑똑하고 유능해질 수 있다. 많이 아는 것보다 좋은 질문을 할 수 있어야 한다는 얘기다. 뭘 알아야 질문도 하고 AI 가 쏟아내는 답에서 옥석을 가려낼 수 있다. 결국은 다시 사람으로 돌아온다. 멋진 AI를 꿈꾼다면 먼저 멋진 인간이 되고 멋진 관료제를 만들어야 한다.

↺

AI Governance와 행정학

정부에서 AI를 도입한다면 관련 기술이나 수퍼컴퓨팅 예산부터 들여다 볼 것이 아니다. 무엇을 할 것인지 과연 필요한 것인지부터 따져야 한다. 기존 관료제가 큰 어려움없이 문제를 해결할 수 있다면 굳이 AI를 언급할 필요도 없다. 모든 공무를 AI로 처리하는 것이라면 신기루와 같은 목표다. AI가 더 잘 할 수 있을 것같은 업무를 특정했다면 기존 업무의 특성과 문제점을 구체적으로 면밀하게 검토해야 한다. 예컨대, 대화로봇(Chatbot)으로 전화상담업무를 대치한다고 생각해 보자. 관련 규정, 내용(지식), 절차 등이 부실하다면 대화로봇을 동원해도 결과는 똑같다. 인건비, 업무피로가 해결해야 할 문제라면 대화로봇은 좋은 성과를 낼 수 있다. AI도입으로 발생할 문제도 따져봐야 한다. 마찬가지로 인사검증 절차와 내용이 엉터리라면 AI로 인사검증을 해도 달라질 것은 없다. 결국 기존 업무처리를 정상으로 구현하는 것이 먼저다. 필수다. AI를 사용하고 말고는 선택사항이다.

정부가 전자정부와 AI를 도입한다고 해서 행정학이 크게 바뀌어야 할 이유가 없다. 행정학의 과제는 그대로이다. 정부 관료제가 교과서에서 적고 있는 대로, 정해진 법절차대로 동작하지 않는 문제다. 10.29참사처럼 주권자가 납득할 수 없는 방식으로 일하는 문제다. 참사나 산불이나 물폭탄이나 산사태를 예측하지 못한 것이 문제가 아니라 관료제가 이성과 상식대로 대처하지 못한 것이 문제다. 공직자들이 법에 있는 대로, 절차대로 성실하게 일했다면 결과가 아무리 참담해도 아쉬울 뿐 비난할 수는 없다. 사실 그렇게 만드는 것이 쉽지 않다. 정답을 모른 채 기껏해야 공직자와 관료제의 퇴화방지나 약간의 진전을 위한 노력이랄까? 어쩌면 힘겹게 큰 돌을 언덕 위로 밀어올리면 그 돌이 밑으로 굴러 내려가는 시시퍼스(Sisyphus)의 굴레일는지도 모른다. 전자정부나 AI가 구세주처럼 그 굴레에서 벗어나도록 해줄 것이라는 기대는 망상이다.

정보기술에서 governance는 헐렁하게 정의해놓고 각자 제마음대로 사용한다. Digital governace가 그러하다. Governance에 가까운 단어는 “다스림”이지만 이 단어는 여러가지 뜻을 담고 있다. 아마도 어떤 분야를 다스리는 체계라고 표현할 수 있을텐데, 추상도가 너무 높아 굳이 필요할까 싶다. 이러한 체계는 제도制度나 그 바닥의 규칙과 상도商道로 구성되는데, 법조문 뿐만 아니라 해당 분야에서 통용되는 상식과 규범과 관습을 포함한다. 제도론의 institution에 해당한다. 물론 제도 자체가 무엇을 하지 말라는 뜻이 있기 때문에 규제에 가깝다. 따라서 AI governance라 하면 AI에 관련된 분야를 규율하는 제도체계라 할 수 있다.

정부에서 AI를 도입한다고 행정학자들이 주무 부처가 어디고 추진체계를 어떻게 구성할지 논박할 필요는 없다. 정치의 몫이다. 행정학자가 굳이 AI를 따로 공부할 필요도 없다. AI에 대해 지나친 회의감이나 공포를 가질 필요도 없다. AI라고 뭉뚱그릴 것이 아니라 관련 사안별로 깊이 있게 논구하여 관료제가 합리적으로 현실문제를 풀 수 있도록 해결책을 제시해줘야 한다. AI를 학습시킬 공공부문의 규칙과 절차를 체계적으로 정리해 볼 수 있다. 막연하게 법조항을 하나하나 들추는 것이 아니라 AI가 대체할 만한 구체적인 업무를 선택하여 집중하는 것이 필요하다. 왜 문제가 되는지, 얼마나 중요한지, 해결책은 있는지, AI가 해결할 수 있는지 등을 따져야 한다.

↺

공공기록물과 사람에 투자하라

예컨대, 기록물관리체계를 정비하여 공공기관의 의사결정과정과 결과를 문서와 시청각자료로 기록하고 영구히 보관해야 한다. 누구도 고치거나 삭제하지 못하도록 하고 책임을 뼈아프게 물어야 한다. 대통령의 행위를 문서로 하라는 헌법을 무시하고 국무회의록도 없이 계엄을 밀어붙이는 2024년 대통령실은 독립된 사관이 임금의 일거수 일투족을 기록한 15세기 궁궐만도 못하다. 주요 의사결정자들의 비화전화기록이 삭제되었네, 누가 시켰네, 민간인도 사용했네 하고 있다. 어이가 없다. 이런 엉터리 관료제에서 AI가 다 무슨 소용이란 말인가. 공공부문의 자료를 공개하는 문제는 법절차도 법절차이지만 첨예한 이해관계가 얽혀 있는 중대한 사안이다. 당장 반강제로 개인정보를 빼내가는 보험사의 횡포부터 멈춰세워야 한다. 자료의 소유권, 저작권, 배포권에 대한 문제도 어느 정도 가르마를 타야 할 사안이다. 다음과 네이버에서 멋대로 뉴스기사를 주무르지 못하도록 해야 한다. AI 윤리나 원칙은 선언 효과는 있겠지만 실효성은 없어 보인다.

“AI 고속도로”는 듣기 좋지만 수퍼컴퓨터나 데이타센터를 마치 세운상가에서 사들고 오는 PC로 치부置簿하는 공직자(국회의원 포함)의 인식을 우려한다. 이재명 정부에서는 하드웨어, 소프트웨어, 통신망보다도 시스템을 설계하고 구성하고 운용하는 사람을 키우고 그 경험을 축적하는 일에 시선을 모았으면 한다. 초고속·고성능 기계가 아닌 그 인간의 머리가 AI 강국에 꼭 필요하다. 당장은 돈을 버리는 일이라 해도, 바위에 계란을 치는 격이라 해도 나름의 CPU, GPU, 운영체제를 연구하는 노력에 100조의 1푼, 1리라도 호응해주었으면 한다. Intel과 Nvidia를 뛰어넘는 신개념의 CPU와 GPU를 쌓아올리고 혁신적인 운영체제를 탑재한 수퍼컴퓨터에서 기본기가 탄탄한 관료제를 학습한 K-AI가 문제해결을 도와주는 즐거운 상상을 해본다.

↺

인용: 박헌명. 2025. 인공지능, 자료지능, 인공인간과 행정학. <최소주의행정학> 10(8): 1-2.