☕️☕️ AI가 대량 '혼란' 무기가 되지 않으려면

[키티의 빅테크 읽기] 21화. 이제야 시작되는 AI 정책 논의지만
"하드웨어는 중국, 소프트웨어는 미국, 규제는 유럽"이라는 우스갯소리가 있다. 그만큼 혁신과 파괴를 용인하는 자유분방한 분위기, 규제가 적은 미국이기에 전 세계 빅테크 기업을 탄생시킬 수 있었던 게 사실이다. 심지어 민간 기술 서비스들이 국가의 주요 인프라를 대체하는 상황도 있다. 그런 미국 특유의 테크 문화가, (아마도 즉흥적으로) 통 크게 스타링크 인터넷 연결 서비스를 우크라이나에 제공해 우크라이나가 전쟁에서 이제까지 버틸 수 있는 데에 큰 공헌을 한 민간인(일론 머스크)이 나올 수 있었던 배경일 것이다. 

그러나 미국은 이제 스마트한 기술 규제와 신중한 계획이 미국의 안보와 민주주의에 더 이롭다고 판단했을 가능성이 크다. 연방정부 차원에서 AI 정책을 이례적으로 빠르게 추진하고 있는 이유이기도 하다. 

-
위 내용은 오늘 이야기의 결론에 포함된 부분입니다. 현재 무한경쟁에 돌입한 AI 개발은 고삐가 없는 상황이기도 하죠. AI 개발과 관련 비즈니스의 발전은 분명히 지금까지 PC의 대중화에서 스마트폰 탄생처럼 큰 변화를 불러온 결정적인 기술 발전과는 완전히 다른 양상을 만들어 낼 수 있다는 것을 경고하는 목소리도 커지고 있습니다. 

미국은 AI의 발전이 어느순간 통제가 가능한 수준이 아니게 될 수 있다는 점을 깨닫고, 이제 AI 정책에 대한 본격적인 논의를 시작하는 단계에 이르렀습니다. 소셜미디어의 규제가 늦어 그 고삐를 쥐려고 해도 쥐지 못했던 것처럼, AI도 똑같은 패턴을 보이고 있지만 통제가 어려운 상황에 이르고 오히려 소셜미디어의 확산력과 결합해 훨씬 큰 영향을 끼칠 수밖에 없다는 점을 짚으면서요.

오늘은 AI와 소셜미디어 전반에 지금 어떤 현상들이 일어나고 있는지, 어떤 논의가 정부 차원에서 이루어지는지, 계속 현상의 현상을 만들며 큰 변화를 빌딩해 나가는 AI 개발 경쟁의 이야기를 전합니다. 쉬이 포착되지 않은 변화이지만, 너무 커진 흐름 사이에 'AI 등록제' 도입 필요 등 관련해 시작되는 논의에 대해서도 살펴보시죠. 

[키티의 빅테크 읽기]
AI가 대량 '혼란' 무기가 되지 않으려면
이제야 시작되는 AI 정책 논의지만
글로벌 정치리스크연구 컨설팅사인 유라시아 그룹은 2023년 톱 리스크 중 하나로 "AI와 소셜미디어의 결합"을 꼽았다. 이안 브레머(Ian Bremmer) 유라시아그룹 회장은 생성AI로 만들어진 가짜 콘텐츠가 소셜미디어에 퍼지면 민주주의에 악영향을 끼치는 ('대량 살상 무기'가 아닌 ) '대량 '혼란' 무기(Weapons of Mass Disruption)'가 될 것이라고 예언했다. 

이안 브레머의 예언은 몇 달 만에 들어맞았다. 조 바이든 미국 대통령의 재선 출마가 공식화된 이번주에 바이든과 카말라 해리스 부통령의 이미지를 이용한 동영상이 등장했다. 제목은 “미국 역사상 가장 약한 대통령이 재선된다면” 그런데 뭔가 좀 이상하다. 바이든과 해리스가 실제 아래와 같은 포즈로 사진을 찍은 적은 없다. 

딥페이크다. 출처가 충격적이다. 공화당의 선거조직인 공화당전국위원회(Republican National Committee)의 공식 광고다.
바이든-해리스의 가짜 이미지를 비롯한 AI 생성 이미지로 만든 미국 공화당 정치 광고의 장면. 자세히 보면 AI 티가 나지만 앞으로 더 정교해질 것이라는 게 문제다. (출처: 공화당 유튜브 채널
광고에서는 "바이든과 해리스가 계속 정권을 잡으면 범죄율이 오르고 경제가 파탄 난다"는 가상 상황을 보여준다. 공화당의 이 광고는 생성 AI 서비스로 제작했지만 어떤 서비스를 이용했는지는 공개되지 않았다.

더버지(The Verge)는 이 광고가 AI 규제에 나서야 할 정치인들이 대놓고 생성AI로 이미지를 제작해 정치광고로 사용했다는 점에서 우려스럽다고 평하며 이렇게 덧붙였다.

"만약 공화당이 AI가 생성한 휠체어 탄 바이든의 이미지를 광고에 넣고 이게 생성AI로 만들었다는 사실을 이번 광고에서처럼 깨알같이 작게 표시한다면? 동영상 시청자는 해당 사진을 실제 사진으로 착각할 수 있다."

이미 극우 공화당 지지자들은 딥페이크까지 갈 것도 없는 낮은 수준의 기술로 조작된 영상을 소셜미디어에 퍼뜨린 사례가 있다. 낸시 펠로시 전 하원의장이나 바이든 대통령이 나이 들고 약하며 정신이 흐려졌다는 인상을 주기 위해 동영상을 조작하거나 목소리 속도를 인위적으로 느리게 편집한 영상들이 범람했던 것이다. 물론 AI 이미지 생성 서비스들이 이를 막기 위해 나서고 있긴 하다. 

트럼프 전 미국 대통령과 프란치스코 교황이 두꺼운 겨울 파카를 입은 가짜 사진이 생성된 곳으로 알려진 미드저니(Midjourney)가 3월 28일 무료 평가판 서비스를 중단한 게 그 일환이다. 팩트체크를 하지 않으면 깜빡 속아 넘어가기 십상인 생성AI 콘텐츠, 특히 언뜻 봐서는 진짜인지 알 수 없는 이미지 콘텐츠가 일반 대중들 사이에 널리 퍼지면서 AI가 정치적으로 악용될 가능성은 더욱 커졌다.

미국 민주당에게는 소셜미디어의 가짜 정보 확산이 정치적 트라우마 요소다. 힐러리 클린턴 전 대선후보가 "아동의 피를 마신다"는 터무니없는 소문부터 코로나 음모론까지 가짜 정보가 극우 세력들의 폭력성을 강화했기 때문이다. 이번 공화당 광고는 바이든 정부에겐 소셜미디어를 활용한 정치 공격일 뿐 아니라 AI 정책 방향의 방향을 잡는데 복잡성을 더한다.
바이럴이 크게 일었던 교황의 AI 생성 이미지. 이외에도 수많은 이미지들이 생성되어 바이럴되었다. 긍정적인 이미지가 만들어 낸 현상이기도 했지만, 분명 앞으로 생성 AI가 더욱 정교해지면서 초래할 혼란의 전조처럼 보이기도 한다. (이미지: 생성AI 이미지)
잡음에도 AI 규제 기준 마련 추진  
챗GPT 돌풍으로 A I기술이 무한경쟁시대로 진입하며 미 연방정부의 각 정부 부처들은 긴급 대책을 내놓고 있다. 우선 현재 드러나고 있는 AI 부작용을 막기 위해 창을 가진 규제 기관들이 나섰다. 생성AI 콘텐츠로 빚어지는 각종 사기 위험, AI 알고리듬 편향으로 인한 소수자 피해 등을 당장 막기 위해 규제기관 4인방인 연방거래위원회(FTC), 법무부, 소비자보호금융위원회, 평등고용위원회는 공동 기자회견을 갖고 기존의 법 틀거리에서 규제하겠다는 의지를 강하게 밝혔다. "AI기업들은 데이터, 클라우드 등 산업에 필요한 원자재를 독점하고 있는 셈"이라는 리나 칸 연방거래위원장의 발언이 눈에 띈다.

그러나 AI 빅테크기업 대부분을 보유한 미국이 ‘AI 때려잡기’에만 집중하는 건 당연히도 아니다. 미국 정부는 AI 정책 방향을 정하고 정부 내 인력과 자원을 확보하기 위한 잰걸음에도 나서고 있다. 

미국 연방정부 차원의 AI 정책은 백악관 국가인공지능이니셔티브실에서 세우게 된다. 정책 자문은 2022년 5월에 만들어진 상무부 산하의 국가인공지능자문위원회가 맡았다. 26명의 AI 관련 산업, 학계, 시민사회 전문가로 구성돼 AI의 긍정적 측면(산업 발전)과 부정적 측면(사회적 영향 파악과 대응)에 대해 자문한다. 지난 4월 25일 이 위원회의 첫 권고 보고서를 보면 미국 정부의 AI 정책 방향성을 알 수 있다. 

“(이 보고서는) 민주적 가치와 시민의 자유를 우선시하는 동시에 기회를 확대하는 미국 고유의 방식으로 AI를 활용하는 것을 목표로 한다. (...) 미국 정부는 AI 기반 시스템이 안전하고 책임감 있게 운영되도록 보장하는 동시에 공공 및 민간 차원에서 혁신과 기회를 촉진한다”

특히 이 보고서에서는 AI를 이해하고 정책을 세우며 집행 가능한 공무원 인력 수급이 중요하다는 점을 짚고 구체적으로 각 정부 부처에 AI를 잘 이해하는 담당 최고 공무원을 선출할 것을 권했다. 

입법부도 바쁜 움직임을 보이고 있다. 민주당 대선 경선 후보로도 나온 바 있는 중진 의원인 마이클 베넷 상원의원(콜로라도주)이 ‘AI 태스크포스’ 구성 법안을 발의했다. 국방부와 상무부 산하 국립 표준기술연구소를 포함한 여러 정부부처 파견 관료로 구성하며 18개월 동안 AI 규제를 위한 정책권고안 보고서를 마련한다는 계획이다. 18개월은 AI 개발 속도로 봤을 때는 턱없이 느린 속도지만, 미국 연방정부의 시계로는 비교적 신속하다고 기즈모도가 보도했다.  

미국 연방정부가 이렇게 서두르는 이유는 글로벌한 AI 규제 흐름 때문이다. AI 기술로 주목받는 업체 대부분이 미국 기업이지만 규제는 유럽이 먼저 시작했다. 당장 이탈리아가 GPT 기술을 금지했다. 이미 AI 규제 법안 제정을 공언한 EU 집행부는 생성AI의 특성을 반영해 ‘제대로’ 규제하기 위한 법안 초안을 다시 마련하기로 했다. 중국은 AI 기업들의 데이터 관리부터 생성 콘텐츠 규제까지 이미 국가 차원의 통제에들어간 상황이다. 
미 국가인공지능자문위원회의 첫 권고 보고서 표지. 표지는 일단 인공지능 시대를 인식한 디자인이다.
틱톡이 테크 규제 법안 통과 계기될까? 
민주-공화당 양당의 정치 갈등 속에서도 두 당이 초당적 합의를 이루는 이슈가 있다. 국가안보 차원의 기술 패권 장악, 특히 중국과의 경쟁 이슈다. 이를 극명히 보여준 사건이 중국 기업 바이트댄스가 소유한 소셜미디어 틱톡 규제다.  

지난 3월 23일 추 쇼우즈 틱톡 CEO가 참석한 의회 청문회는 그 어느 때보다 호전적 기운으로 가득했다.  “틱톡이 중국 정부에 미국 국민들의 데이터를 넘기는 것 아니냐”는  추궁이 이어졌다. 빅테크 CEO들이 소환된 의회 청문회가 지난 3년 동안 수 차례 있었지만 이렇게 양당 의원들이 처음부터 끝까지 공격적이다 못해 호전적인 질문을 쏟아낸 자리는 없었다.

중국인 창업자가 싱가포르인 추 쇼우즈에게 경영권을 넘기고 본사를 싱가포르로 옮겼지만 미 의원들의 추궁을 피해 갈 순 없었다. 미국 주요 언론사 기자들의 계정을 틱톡이 사찰했다는 기사가 "중국에 미국인 정보를 넘길 수도 있다"는 심증을 강화하는 계기가 됐다.

지난 2020년 트럼프 전 대통령이 임기 말에 틱톡 미국 사업을 미국기업에 넘기라는 대통령 행정명령을 내렸을 때만 해도 자유시장경제 국가 미국에서는 있을 수 없는 일이라는 반응이 대부분이었다. (바이든 대통령은 취임 후 트럼프의 이 행정명령을 철회했다) 그러나 분위기는 180도 바뀌었다. 각 주 정부를 비롯해 공공기관에서 틱톡 사용을 금지하는 한편 틱톡 주 사용층인 Z세대의 반발이 아니라면 벌써 규제하고도 남았을 것 같은 분위기다.

아이러니하게도 틱톡 청문회를 통해 그동안 미국 빅테크 기업들이 청문회장에 섰을 때 제기됐지만 미국 정부가 제대로 대응하지 못했던 이슈들이 재조명되는 계기를 마련했다. 또한 바이든 행정부에겐 AI 정책을 비롯해 각종 테크 관련 규제를 대통령 행정명령 형태로 빠르게 추진할 수 있는 탄력을 주게 됐다. 실제로 EU에서 미국 빅테크 규제 정책 수립을 했던 마리에테 샤케(Marietje Schaake) 스탠퍼드대 사이버정책센터 국제 정책 책임자는 그동안 미국 정부가 EU에 비해 테크기업 규제나 AI 정책 결정 속도가 느렸는데 국가안보 이슈가 불거지면서 빠르게 따라잡고 있다고 말한다. 

틱톡 규제의 핵심 논지는 "미국 시민 데이터가 중국 정부의 손에 넘어갈 수 있다", "국가안보에 위협이 된다"는 의혹이다. 흥미로운 건 틱톡이 실제로 중국에 데이터를 넘기고 있다는 명시적 증거는 없고 오히려 틱톡을 이 이유로 제재한다면 법정 공방으로 이어질 수 있는데 결코 정부가 유리하지 않다는 지적이다.

이번 틱톡 청문회에서는 "틱톡이 아니어도 미국인들의 개인식별 정보를 쉽게 구입할 수 있다”는 증언이 나오는 등 기본적인 테크 관련 법안의 필요성이 새삼 부각됐다. 실제로 듀크대의 한 공공정책대학원 연구팀은 데이터 중개업체로부터 미군 장병에 대한 개인 식별 정보를 "거의 아무런 심사 없이 장병 한 명당 12.5센트 가격에 구입 가능”했다고 증언했다. 
틱톡에 대한 규제 흐름은 더 빨라질 수 있다.  
멀찌감치 앞서간 틱톡 견제 계기이기도
즉 틱톡 규제 대신 그동안 미 의회가 양당 합의를 이루는 데 지지부진했던 '연방 데이터 개인정보보호법'을 도입해야 한다는 주장으로 이어지고 있다. (다른 ‘합법적’ 규제 방안 아이디어도 나오고 있다. 틱톡을 ‘외국인 소유 미디어’로 봐서 불법으로 해석할 수도 있다는 주장이다. 틱톡이 큐레이션 형태로 콘텐츠를 노출해 주니 미디어처럼 볼 수도 있지 않느냐는 거다)

미국엔 캘리포니아를 비롯해 콜로라도, 코네티컷, 유타, 버지니아주에 주 차원의 개인정보보호법은 있지만 연방법이 없다. 법 제정에 번번히 실패한 이유는 ‘현재 개인정보보호법을 도입한 캘리포니아보다 연방법이 더 강력해야 한다’고 주장하는 민주당 의원들과 그 반대 입장의 공화당 의원들이 대립하면서였다. 

데이터 개인정보보호법이 중요한 이유는 생성 AI 서비스가 활발해지면서 저작권, 프라이버시권 등 기본 권리에 대한 통일된 연방법이 있어야 온라인/오프라인상에서의 시민권 보호가 가능하기 때문이다. 현재 각 주의 데이터 보호법은 비단 틱톡, 트위터, 페이스북, 유튜브 등 빅테크 플랫폼들만을 겨냥하는 게 아니라 오프라인 유통업체 등 다양한 산업군을 포괄한다. 따라서 미국 연방 데이터 보호법이 제정된다면 AI를 활용하는 산업군(유통, 금융, 헬스케어, 운송 등)에 광범위하게 적용될 수 있다. 

틱톡 규제 논란을 통해 또 하나 해묵은 법적 과제가 다시 수면 위로 떠올랐다. 그동안 바이든 정부가 의회에 촉구해 왔던 아동-청소년 온라인사생활 보호법 강화에 대한 주목도를 높이는 계기를 마련했다. 그동안 소셜미디어가 아동 청소년에게 끼치는 악영향이 널리 알려졌음에도 상당 부분 기업의 자율규제에 맡겨졌었다. 

실제로 인스타그램이 10대 소녀들의 정신건강에 주는 영향을 회사 내부적으로 알면서도 덮었다는 내부 고발자(키티의 빅테크 읽기- 프란시스 하우겐 편 참조)가 의회 청문회에 참석해서 화제를 모은 후에도 좀처럼 법 강화나 법 집행을 위한 증액 예산 반영은 이뤄지지 않았다

틱톡은 정교한 알고리듬으로 아동청소년의 사용율과 중독성이 높다. 틱톡을 통해 성소수자 등 일부 소수자들이 온라인 커뮤니티를 찾을 수 있어서 정신건강에 도움 된다는 연구 결과도 있지만 워낙 청소년 사용자가 많아 소셜미디어 중독 문제가 부각되고 있다. 퓨 리서치센터의 조사에 따르면 2022년 미국 청소년의 3분의 2가 틱톡을 사용한다고 답했다. 테크크런치에 따르면 아동 청소년의 틱톡 사용 시간은 2020년 하루 82분에서 2021년 91분으로 증가하고 있다. 

이에 캐시 캐스터(Kathy Caster) 민주당 하원의원은 지난 2021년 발의했다가 좌절됐던 ‘키즈 프라이버시법(Kids PRIVACY Act)’ 통과를 다시 추진하겠다고 4월 26일 밝혔다. 16세 이하의 아동에게 타깃 광고를 금지하거나 아동, 청소년 데이터 수집을 현저히 제한하는 내용이다. 

중국은 2030년까지 'AI 굴기'를 표방하며 글로벌 1위 인공지능 강국 건설을 목표로 하고 있다. 연구도 활발히 진행되고 있어 연구 논문으로만 봤을 때 미국의 두 배 이상을 기록하고 있다. 틱톡은 10대 사용자를 중심으로 미국 소셜미디어 대비 아주 큰 성장세에 있다. 틱톡 규제는 중국을 의식한 미국의 조바심을 드러내는 한편, 미국 국내 정치 분열로 미뤄져 있던 필수적인 테크 관련 규제와 정책 체계를 도입할 계기가 될 수도 있다.
'생명의미래연구소'가 낸 '6개월간 AI 개발 중단' 성명에는 현재까지 (4월 29일 기준) 27,565명이 서명을 했다. 그래도 이 공개서한 덕분에 AI 개발 속도에 대한 정책 논의가 활발해졌다.
"6개월 AI 개발 중단하자" 서한은 어떻게 됐을까?
한참 생성AI 열풍이 뜨겁던 지난 3월 말, 비영리단체 '생명의미래연구소(Future of Life Institute)'가 일론 머스크, 스티브 워즈니악, 요수아 벤지(Yoshua Bengio, 딥마인드 공동창립자) 등 1000명 넘는 테크 업계, 학계 종사자들이 AI 모델 개발에 대한 6개월 유예를 요구하는 공개서한을 발표해 화제를 모았다.

이 서한은 전 세계에 AI 개발의 부정적 측면을 조명하는 데엔 성공했으나, 실제 AI를 개발하는 기업에서는 동의를 얻지 못했다. 한번 마굿간에서 뛰쳐나온 말을 다시 잡아넣을 수는 없는 법이다. 심지어 일론 머스크는 자신이 한때 투자자로 참여했던 오픈AI가 "너무 영리 목적으로 변질했다"며 비판하면서 이 서명에 동조하곤 인공지능기업인 X.AI를 설립해 "이 서명이 머스크에게 자체 AI 개발 시간을 벌어주려고 한 것이냐"란 비아냥을 듣기까지 했다. 그렇다면 이 선언은 전혀 의미가 없는 것이었을까? 

그렇지는 않다. 공개서한이 발표된 후 AI 개발 속도에 대한 정책논의가 활발해졌기 때문이다. 공개서한을 주도하거나 중요한 목소리를 내는 인물들의 주장을 통해 향후 AI 규제나 통제가 어떤 틀에서 이루어질지 짐작해 볼 수 있다. 

해당 공개서한 만든 얀 탈린의 이유
1000명이 넘는 테크업계 종사자들의 'AI 개발 유예' 서명을 모은 얀 탈린(Jaan Tallinn) 생명의미래연구소 기부자 겸 이사는 최근한 팟캐스트에 출연해 공개서한을 발표하게 된 비하인드 스토리를 공개했다. 

...

☕️☕️ AI가 대량 '혼란' 무기가 되지 않으려면
궁금하다면 샷 추가해 보세요. 실질적인 공부와 도움이 되는 커피팟의 재밌는 비즈니스 이야기들 꾸준히 받아보실 수 있어요.

📌 첫 달 50% 할인 중이에요. 더 할인된 연간 구독제도 있어요. 

☕️ 글쓴이를 소개합니다
키티의 한글 이름은 홍윤희이다. 대표적인 이커머스 기업에서 커뮤니케이션 업무를 리드했고, 소셜임팩트를 담당했다. 딸의 장애를 계기로 장애를 무의미하게 하자는 취지의 협동조합 무의(Muui)를 운영하며 2021년 초 카카오임팩트 펠로우로 선정됐다. IT, 미국 정치, 장애, 다양성, 커뮤니케이션 등의 주제를 넘나들며 페이스북브런치에 글을 쓴다. 

한국일보, 아웃스탠딩 등의 미디어에 정기 기고와 출연 중이며, 지식 커뮤니티 '시에라소사이어티'에서 <빅테크와 미국 정치> 독서클럽도 진행하고 있다.

good@coffeepot.me

ⓒ COFFEEPOT 2023
더는 받아보고 싶지 않으시다면
수신거부