인공지능, AI가 대통령을 뽑는다면?

이 기사를 공유합니다

김영민 / 정보 속에 숨겨진 편견과 정보의 남용

 
인공지능(AI, 人工知能, Artificial Intelligence)

‘인간이 가진 지적 능력을 컴퓨터를 통해 구현하는 기술’ 인공지능을 한마디로 정의한 것입니다. (Daum 백과) 다시 말해서 인간이 가진 지적 능력 즉 사고나 학습 등을 컴퓨터를 통해 구현하는 기술 과학이라는 말이지요. 여기에는 강 인공지능(Strong AI) 혹은 범 인공지능(AGI, Artificial General Intelligence) 이라 하는 ‘사람처럼 자유로운 사고가 가능한 자아를 지닌 인공지능’과 바둑 프로그램인 알파고(AlphaGo)나 의료분야에 사용되는 왓슨(Watson)처럼 자의식이 없는 인공지능을 약 인공지능(Weak AI)으로 구분합니다. 그리고 현재까지 개발된 인공지능은 모두 약 AI에 속하며, 자아를 가진 강 AI는 등장하지 않았습니다.

즉 인간의 능력을 대신하면서 급기야는 인간의 위협이 될 수도 있을 가능성을 부인할 수 없는 AI는 1940년대 현대적인 디지털 컴퓨터가 개발된 직후부터 시작되었습니다. 초기에는 복잡한 일들을 컴퓨터 프로그래밍을 통해 효과적으로 수행할 수 있음이 증명되었고 이를 바탕으로 하여 컴퓨터가 고도의 정신작용을 다룰 수 있는 능력보다는 부호화된 정보를 극히 고속으로 반복 처리할 수 있는 능력으로 발달하였습니다. 1980년대 말까지도 인간의 지능 활동을 흉내 낼 수 있는 컴퓨터는 아직 개발되지 않았지만, 인공지능 연구는 의사결정과 언어이해, 형상인식 등과 관련된 분야에서 유용한 몇 개의 업적을 남기기도 했습니다.
 
지금은 최소한 시스템은 수백 개 또는 수천 개의 ‘조건-시행문(If-Then)’의 형태를 보이는 논리적 규칙들로 이루어지고 이를 통해서 지식과 사고능력을 모방해 인간이 하는 전문적인 작업을 컴퓨터가 대신할 수 있도록 하는 것으로까지 발전했습니다. 대화형 프로그램인 마이신(MYCIN)으로 피검사에서 어떤 종류의 세균에 감염되었는가를 알아내고 치료방법을 결정하여 의사들의 진단을 돕는 것에서 출발하더니 급기야 ‘언어의 구두 명령을 컴퓨터가 알아듣게 하는 인공지능’ ‘기술, 나아가 그래픽 형상(Graphic pattern)이나 화상(Image)을 분별해내는 능력’ 즉 컴퓨터에 연결된 원격장치가 화상을 읽고 인지한 뒤 디지털 펄스의 형상으로 변화시키면 이 형상이 차례로 컴퓨터의 기억장치에 저장된 펄스 형상과 비교되는 방식, 나아가 ‘무인 탐사선이 촬영한 원거리 행성’‘머신러닝과 딥 러닝 방식을 사용해 컴퓨터가 스스로 영상이나 사진을 인식하고 분류하는 프로그램’이 등장하기도 하여 인간의 과학적 기술의 탐구영역에 대한 막힘없는 도전과 개발이 이루어지고 있었습니다.

이런 놀라운 발전과 눈이 핑핑 돌아갈 변화, 즉 하루가 다르고 한 시간을 가볍게 볼 수 없을 정도로 발달한 인공지능의 모습은 과연 어떤 것으로까지 발전할 수 있을까요? 최근 ‘AI의 가능성과 위험을 바라보는 석학 25인의 시선’이라는 부제로 『인공지능은 무엇이 되려 하는가』(스티븐 핑커, 맥스 테그마크 등, 존 브록만 엮음, 김보은 역, 프시케의 숲, 2021.8)라는 제목의 책에서 이들이 보여주고 지적하는 모습에 우리의 눈길을 다시 교정해야 하는 것은 아닌지요?
 
『인공지능은 무엇이 되려 하는가』(스티븐 핑커 , 맥스 테그마크 , 존 브록만(엮음) 지음 | 김보은 옮김 | 프시케의숲 | 2021)
『인공지능은 무엇이 되려 하는가』(스티븐 핑커 , 맥스 테그마크 , 존 브록만(엮음) 지음 | 김보은 옮김 | 프시케의숲 | 2021)

이야기는 2016년 9월 미국 코네티컷 주워싱턴에서 구체적으로 제기되었습니다. 여기서 모인 몇몇 석학들은 오늘의 인공지능을 둘러싼 더 넓은 문화권의 흥분과 공포가 노버트 이너의 ‘사이버네틱스’ 개념이 문화 속에 파고들어 ‘자신만의 방법으로 움직이던 상황과 유사’해졌다는 사실을 바탕에 깔고 있습니다. (P11 내용 갈무리). 그런데 ‘사이버네틱스’(스스로를 제어하는 자동화 방법을 연구하는 학문)가 책 전체를 흐르는데 미술, 철학, 영화, 음악 등 모든 면에서 스스로 남과 다름을 구체화하는 것으로 오늘의 AI에 그 추구하는 바가 바로 연결되는 것입니다.
 
1960~70년대 널리 퍼진 지능의 이론적 개념은 특정한 목표를 이룰 수 있는 행동계획을 세우는 논리적 추론 능력으로 ‘인공지능의 연구목표는 지능적인 행동의 바탕을 이루는 원칙을 이해하고 이 원칙을 이용해 지능적인 행동을 하는 기계를 만드는 것이다’라고 말합니다(p60). 그런데 위너는 이를 “기계에 입력된 목적”이라 하고 ‘우리는 반드시 기계에 올바른 목적에 따라 입력해야 한다.’(이를 가치정렬 value alinment이라고 하며 올바른 목적을 입력하는 것을 말함, 같은 책 61P)라고 하여 올바른 가치를 입력하지 않을 때 발생할 수 있는 문제에 대한 경고를 암시하고 있습니다.

지금 인류가 누릴 수 있는 과학 기술적인 발전과 함께 다가올 위험 역시 문제가 큽니다. 벤키 라마 크리슈난(영국 케임브리지 대학교 분자생물학 연구소 의학연구위원회 과학자, 2009년 아시아 최초 노벨화학상(물리학상) 수상자, 『유전자 기계: 리보솜의 비밀을 찾아서』 저자)은 첫째, 개인정보의 컴퓨터 독점으로 인한 정보 속에 숨겨진 편견이 영속될 수 있다는 위험을 말합니다. 동시에 딥 러닝은 인간 자신의 편견도 영속시켜 넷플릭스나 아마존은 회원의 요구를 먼저 알아 알려줌으로 물건에 대한 우리의 생각과 관점을 노출하는 결과를 만들게 되고 영업 이익을 극대화, 극 쏠림을 만들어 치명적인 양극화로 수많은 사람의 생존 자체를 위협받게 되는 상황이 전개될 수밖에 없습니다(결국, 이러니저러니 말도 많지만, 대기업에 영속된 인간의 삶은 ‘기본소득’이라는 답 외에는 대응할 수 있는 상태가 아닐 것이 자명합니다).

특히 선거에 영향을 미치는 소셜 미디어는 정치적 성향이 다른 사람을 편 가르기를 강조하는 데 주목할 필요가 있다는 것입니다. 또한, 이러한 정보의 남용으로 기업은 독점적 통제가 가능하고 나아가 전제주의 국가 혹은 민주주의 국가라 하더라도 정부는 조지 오웰이 상상할 수 없을 만큼의 많은 정보를 가지고 있어 마음 데로의 조작이 훨씬 쉬울 수밖에 없습니다. 따라서 항상 투명하게 사용한다는 전제 없이는 필연적인 희생자가 불가피합니다. 더구나 군사 목적으로 인공지능이 사용될 경우 적보다 빨리 행동하도록 설계된 데이터는 인간이 감당할 수 없는 비극적인 전쟁을 상상해 볼 수 있다는 것이지요. 데카르트는 인간은 생각함으로 자신의 존재를 정의합니다. 따라서 의인화한 인공지능에 대한 인간의 두려움이, 인간을 특별하게 만드는 것이 우리의 지성이라면 AI가 만들어 낼 인간의 정체성마저 혼돈을 가져오는 것은 아닌지요?
 
 이야기를 현재 우리에게로 돌아갑시다. 최근 대통령 선거를 눈앞에 두고 일련의 정보와 연결된 사건들(김경수 도지사가 법정 구속, 조민씨 의사면허 박탈 등)은 분명 정보 독점자의 일방적인 판단에 의한 결정으로 보는 경우가 많습니다. 동시에 대통령의 후보로 나선 사람들의 가족이나, 과거, 지식이나 지혜, 인정하기 곤란한 언동이나 변명 등 호주머니까지 탈탈 털리는 모습을 보면서 정부(혹은 일부의 독점체제)가 가진 정보의 악랄한 사용이 가져오는 결과를 분명하게 보고 있습니다. 동시에 충분하게 조작할 수 있고 상품의 대상으로 국민을 소비자화하는 모습에서 앞으로 AI가 만들어 내는 정치적 모습은 크리슈난의 말처럼 ‘(AI가) 사람을 부차적인 존재나 한물간 구식으로 전락’ 시킬지 ‘우리의 삶을 풍부하게 해줄 유용하고 환영받는 인간 능력을 향상시킬 것인지’ 고민하게 됩니다. 그러면서도 누구를 대통령으로 뽑아야 할지를 AI에게 물어보는 시간이 바로 다가올 듯해서 겁이 납니다, 그래서 언론중재법이 필요한지도 모르겠구요......
 
 
 
 
 
 
 
 
[기고] 김영민
김영민 / 구미도시재생지원센터장

저작권자 © 평화뉴스 무단전재 및 재배포 금지

개의 댓글
0 / 400
댓글 정렬
BEST댓글
BEST 댓글 답글과 추천수를 합산하여 자동으로 노출됩니다.
댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글수정
댓글 수정은 작성 후 1분내에만 가능합니다.
/ 400
내 댓글 모음
당신이 좋아할 만한 기사
지금 주목 받고 있어요
모바일버전