승소사례 [책과 삶]과대 포장된 인공지능 ‘현주소’를 직시하라 > 시공 문의

승소사례 [책과 삶]과대 포장된 인공지능 ‘현주소’를 직시하라

황준영

2025-12-15 19:39 515 0

본문

승소사례 19세기 말과 20세기 초 미국에는 뱀에서 추출한 기름을 만병통치약으로 포장해 사기를 치는 장사꾼이 많았다. 이들은 사람들의 건강에 대한 욕망과 의학에 대한 무지를 악용해 이익을 취했다. 뱀기름을 산 사람들은 아까운 돈을 날리거나, 최악의 경우에는 가짜 뱀기름에 포함된 유독성분 탓에 목숨을 잃기도 했다. 를 쓴 프린스턴 대학교 정보기술정책센터 소장 아르빈드 나라야난과 연구원 사야시 카푸르에 따르면, 인공지능(AI)의 능력과 위협을 과장하는 연구자, 기업, 미디어야말로 21세기의 뱀기름 장수들이다.
AI 분야의 ‘뱀기름 감별사’ 역할을 자처해온 저자들은 AI를 ‘예측형 AI’ ‘생성형 AI’ ‘범용 AI(AGI)’ ‘콘텐츠 조정 AI’ 등으로 구분해 논의를 진행한다.
저자들이 가장 강하게 비판하는 것은 예측형 AI다. 자동화된 의사결정 시스템인 예측형 AI는 제대로 작동하지 않거나 사회적 편견에 따라 작동한다.
미 프린스턴대 정보기술정책센터 소장과 연구원 ‘AI 버블’ 위험성 지적자동화된 의사결정 시스템‘예측형 AI’는 제대로 기능 못한다고 비판‘범용 AI’실현 가능성에 동의…일각‘인류 절멸’ 경고엔 “엉터리 주장”
네덜란드는 2003년 복지 사기를 적발해 고발하는 AI를 도입했다. 이후 6년 동안 부모 3000여명이 복지 사기 혐의로 고발됐다. 부모들은 근거도 모른 채 고발됐지만 이의를 제기할 수도 없었다. 불만이 누적된 결과 시작된 조사에 따르면, AI는 국적을 차별했다. 튀르키예나 모로코, 동유럽 등 저개발국 출신 부모들일수록 복지 사기를 저지를 위험이 높다고 예측한 것이다.
예측형 AI를 판매하는 기업들은 ‘인간의 감독 없이 사용하면 안 된다’는 유보조항을 내걸지만 책임을 회피하려는 알리바이일 뿐이다. 정부든 기업이든 어느 조직에서 AI를 도입했을 때 고위급들은 십중팔구 실무자들의 이의 제기보다는 많은 비용을 주고 구축한 AI의 판단을 더 신뢰한다. 미국 건강보험사 유나이티드헬스는 AI의 결정에 강하게 반대하는 직원들은 해고될 수 있다고 위협했는데, 나중에 알고 보니 이 AI가 내린 결정의 90%가 잘못된 것이었다.
천체 운행이나 대기 흐름 같은 물리적 현상과 달리 문화 현상이나 형사사법, 팬데믹 등 사람들의 행위와 관련된 사회적 문제들을 높은 확률로 예측하는 것은 불가능하다고 저자들은 말한다. 이런 문제에는 구성원들의 의지보다는 환경적 변수가 많이 작용하고, 그 변수들조차 정해진 법칙이 아니라 우연에 좌우되는 경우가 많다. AI의 머신러닝 시스템(데이터를 통해 패턴을 학습하면서 성능을 개선하는 알고리즘)은 이런 예측에 적합하지 않다. “정확히 예측하려면 세상에 존재하는 것보다 더 많은 인간의 데이터가 필요할지도 모른다.”
엑스나 페이스북 등 소셜미디어에서 유해한 콘텐츠를 잡아내는 ‘콘텐츠 조정 AI’도 결함이 많다. AI가 맥락을 인지하는 능력이 떨어지기 때문이다. 2021년 한 남성은 걸음마를 시작한 아들의 성기가 부어 있는 것을 보고 안드로이드폰으로 사진을 찍어 의사에게 보냈다. 구글 AI는 클라우드에 업로드된 이 사진을 아동 성학대로 판단하고 계정을 폐쇄한 뒤 경찰에 신고했다. 한 엑스 이용자는 만화 <캡틴 아메리카>에서 주인공이 나치를 후려갈기는 이미지를 올렸다가 나치 이미지를 사용했다는 이유로 AI에 의해 계정이 차단됐다. “소셜미디어 알고리즘이 사용자의 참여를 극대화하도록 최적화되었다”는 점을 고려할 때 이 문제가 개선될 여지는 많지 않다. 사람들은 자극적이고 위험한 콘텐츠를 자주 클릭하는 경향이 있고, 소셜미디어 플랫폼은 그런 행동을 부추기도록 설계돼 있다.
생성형 AI의 성능이 빠르게 개선되면서 일각에서는 인간의 지능을 넘어서는 AGI가 실현될 날이 머지않았다는 전망이 나온다. 저자들도 초지능을 갖춘 AGI가 언젠가는 실현될 것이라고 본다. 그러나 AGI에 의해 인류가 절멸할지도 모른다는 경고는 “엉터리 주장”이라고 일축한다.
AI의 위험성과 관련된 대표적인 것은 AI가 인간이 제시한 목표를 달성하기 위해 오히려 인간을 제거하는 상황이 닥칠 수 있다는 두려움이다. 저자들은 AGI가 그러한 반인간적·비윤리적 행동을 한다는 가정 자체가 어불성설이라고 말한다. “혼자 또는 자신의 창조자를 무시한 채 행동하는 AI가 AI의 도움을 받는 사람보다 장차 더 유능해질 것이라고 생각할 이유는 없다. AI가 혼자 어떤 일을 할지보다 사람들이 AI로 무엇을 할지를 훨씬 더 걱정해야 한다. 그리고 우리는 곧 악의적인 인간 행위자들의 위협에 직면하게 될 것이다.”
저자들은 위험한 AI 시스템의 출현을 막기 위해 AI 기술의 확산을 억제해야 한다는 일각의 주장에 대해서도 비판적이다. 그것은 소수의 회사들만 몰래 AI를 개발하도록 함으로써, 더 많은 사람들이 AI의 성능을 비판적으로 논의할 가능성을 줄이는 결과를 낳는다는 것이다.
AI의 위험을 과장하는 것은 오히려 AI의 능력을 광고해주는 역효과를 낳을 수 있다. 헨리 키신저 전 미국 국무장관, 에릭 슈밋 전 구글 최고경영자(CEO), 대니얼 허튼로커 MIT 교수는 2021년 라는 책에서 AI의 강력한 파괴력이 우려된다고 지적했는데, 저자들은 이 책이 “과학기술의 한계를 지적하기보다 오히려 그것을 전능한 대상으로 묘사하는 꼴”이 됐다고 짚는다.
저자들은 오픈AI가 챗GPT-4를 출시한 지 한 달도 되지 않은 2023년 3월 미국의 비영리 연구기관 미래생명연구소에서 발표한 공개서한에 대해서도 비판적이다. 서한은 모든 일자리의 자동화가 대량 실업으로 이어질 것이라고 했는데, 이는 ‘AI가 일반 업무에서 인간과 경쟁할 수 있게 됐다’는 오픈AI의 주장을 검증 없이 수용한 것에 불과하다는 것이다.
앞으로 미국에 무비자 전자여행허가(ESTA)로 입국하려면 지난 5년간의 소셜미디어 사용 내역을 제출해야 한다. 이민 문턱을 높여온 도널드 트럼프 미 행정부가 내년 북중미 월드컵 등에 대비해 단기 체류자에 대한 출입국 관리를 강화하는 것으로 해석된다.
미 세관국경보호국(CBP)은 10일(현지시간) 이 같은 내용의 새 규정안을 관보에 공개했다. 이는 트럼프 대통령이 지난 1월 서명한 행정명령에서 미국에 입국하는 외국인에 대한 심사 강화를 지시한 데 따른 것이다.
관보에 따르면 미국과 비자 면제 협정을 맺은 한국, 영국, 독일, 프랑스, 일본 등 42개국 국민은 ESTA를 신청할 때 지난 5년간의 소셜미디어 사용 내역을 의무적으로 제출해야 한다. 또 지난 10년간 사용한 e메일 주소, 부모·배우자·형제·자매·자녀의 이름과 생년월일, 거주지, 전화번호 등 개인정보도 제출할 것이 권고된다. 신청자의 지문, 유전자(DNA), 홍채 등 생체정보를 요구받을 수도 있다.
ESTA 신청서에 소셜미디어 계정을 적는 항목은 2016년 도입됐지만 이제까지는 공란으로 남겨둬도 불이익이 없었다.
트럼프 정부는 최소 100만달러(약 15억원)를 미 정부에 기부한 사람에게 영주권을 주는 ‘골드카드’ 프로그램 웹사이트를 이날 열었다. 골드카드 신청 비용은 개인용 100만달러, 법인용 200만달러다.
골드카드보다 상위등급인 플래티넘카드 프로그램도 제공될 예정이다. 플래티넘카드는 해외에서 벌어들인 소득에 대한 과세 없이 매년 최대 270일 동안 미국에 거주할 수 있는 비자다. 500만달러를 기부하면 받을 수 있다.
요즘 젊은이들의 주류 정서는 ‘분노’와 ‘증오’로 설명된다. 노력한 만큼 결과가 나오지 않는다는 억울함이 이 같은 형태로 표출된 것이다. <공부 망상>은 젊은이들의 분노가 어린 시절부터 ‘정답’ 찾기만을 훈련받으면서 이의 보상으로 뭔가 얻을 수 있을 것이라는 기대심리가 만들어낸 부작용이라고 말한다.
책은 사회학자 엄기호와 정신과 전문의 하지현이 나눈 다섯 차례의 대담을 엮었다. 10년 전 <공부 중독>이라는 대담집을 통해 공부에 매몰된 한국 사회를 꼬집은 이들이 이번에는 <공부 망상>으로 다시 현 세태를 진단해낸다. 두 사람은 각자 교육과 상담 현장에서 마주친 사례들을 나누며, 10년 전보다 공고해진 교육 신화를 살펴본다.
책에서의 ‘망상’이란 ‘상식적인 수준으로 설명하고 설득해도 교정되지 않는 잘못된 믿음’이다. 삶에는 정답이 없지만, 답을 찾는 방식으로 세상을 바라보는 이들에게는 세상만사 간단한 답이 존재할 것이라는 믿음이 자리 잡게 된다. 세상을 간명하게 설명하고 싶다는 욕심에서 논박을 거부하고 자신의 생각대로 믿으려 하는 망상의 싹이 트기 시작한다는 것이다.
또한 ‘정답찾기’ 환경에서 자란 아이들이 사회적 내성이 모자란 ‘정서적 비만’ 상태에 이르렀다고 지적한다. 부모의 과보호로 생긴 지나친 전능감에 ‘못할 바에 회피하는’ 성향을 띠게 되면서 ‘쉽게 도전하지 못하고, 무엇에도 만족하지 못하는’ 사람이 됐다고 설명한다.
이렇게 교육받은 사람들은 본인이 생각하는 정답만 맞다고 생각하는 아집에 빠지기 쉽다. 한나 아렌트가 쓴 <예루살렘의 아이히만>에서 나치 중령이었던 아돌프 아이히만은 자신은 위에서 시키는 대로 일하는 공무원이었을 뿐이라며 변명한다. 두 사람은 아이히만처럼 가치 판단을 유보한 채 자신의 역할 수행만을 생각하는 이들이 늘어난 이유도 사유와 맥락이 거세된 교육방식에 있다고 진단한다.
저자들은 공부를 ‘배움’이라는 본령으로 다시 끌어와야 한다고 말한다. 책을 통해 구체적인 해법을 확인하기보다, 양극화와 음모론이 판치게 된 현재를 교육의 관점으로 다시 한번 돌아볼 수 있다.

댓글목록0

등록된 댓글이 없습니다.

승소사례 [책과 삶]과대 포장된 인공지능 ‘현주소’를 직시하라 > 시공 문의

게시판

게시판

시공 문의

승소사례 [책과 삶]과대 포장된 인공지능 ‘현주소’를 직시하라

본문

댓글목록0