[키티의 빅테크 읽기] 22화. AI 시대에 평범한 우리는 무엇을 할 수 있을까? 오늘 [키티의 빅테크 읽기]는 최초에 제목을 <구름 위에 떠 있는 기술을 이해하려면 - 샘 알트먼이 하는 말로 이해할 수 있을까?>로 했습니다. AI 기술의 장점과 단점 그리고 이로움과 위험성에 대한 논의는 점점 격화되고 있는 와중에 일반 대중들이 아직은 AI가 어떻게 우리 삶을 바꿀 것인지에 대해서 실감할 수 있는 상황은 아니기 때문이죠.
현재 말 그대로 '월드 투어'를 돌고 있는 샘 알트먼은 테크 업계에서 가장 영향력이 큰 인물로 부상했고, 그가 하는 말 한 마디 한 마디가 모두 주목을 받고 있지만, 모두가 이해하기에는 쉽지 않습니다. AI 기술이 앞으로 모든 것을 바꿀 것이라는 공감대는 형성되어 있지만, "저렇게 유명한 사람들(알트먼을 포함한 일론 머스크 그리고 유명 테크 구루들)이 말하니 세상이 크게 바뀌려나 보다"로 이해하는 시선도 많을 것이고요.
하지만 너무 빠른 속도로 발전하는 기술 그리고 그 내러티브를 이끌려는 이들 사이의 경쟁이 격화하고 있기 때문에 이런 공감의 괴리도 생긴 것으로 볼 수 있습니다. AI 붐은 체감상 작년 말과 올해 초에 커지기 시작했고, 많은 사람들은 "나는 이제서야 챗GPT를 써봤는데..."라고 하는 중인데 어느새 AI는 규제가 꼭 필요한 위험성을 지닌 기술로도 알려지고 있기 때문이고요. (물론 빠르게 위험성에 대한 인식이 커진 것도 다행입니다)
비단 이런 모습만 봐도 AI 기술을 비즈니스와 산업적인 관점에서만 바라볼 수 없음을 알 수 있습니다. AI 산업의 폭발적인 성장이 예상되어 관련 칩을 공급하는 엔비디아의 주가가 최근 폭등했다는 사실도 (투자 관점에서) 중요합니다. 하지만 (이런 표면에 드러나는 이야기 외에) 진짜로 AI로 인한 산업의 변화와 발전을 예상해 보려면 아직 실체가 다 드러나지 않은 기술이 가진 장단기 리스크를 모두 보는 것이 (투자에 참고하기 위해서도 당연히) 좋죠.
그리고, 그런 맥락을 채우기 위해서 지금 해야만 하는 몇 가지 질문이 있습니다.
샘 알트먼은 최근 미 의회의 AI 청문회에 나가 왜 나서서 "AI를 규제해 달라"고 했을까요? AI는 어떤 방식으로 규제하겠다는 것일까요? 과연 AI의 발전 속도를 늦추지 않으면서도 위험은 제거하는 적정한 규제가 만들어질 수 있을까요?
너무 빠르게 진행되는 변화 속에서 이를 지켜보는 대중이 꼭 짚고 넘어가야 할 지점들입니다.
+ 월스트리트부터 실리콘밸리까지. 지금 일어나는 변화의 '맥락'을 전합니다. AI, 빅테크, 전기차, 리테일, 거시경제, 자본 시장 등의 가장 중요한 이슈와 다양한 비즈니스 이야기를 재밌게 풀어드리고 있어요. 샷 추가해 보세요! |
[키티의 빅테크 읽기] 22화. 워싱턴에 간 알트먼씨 뇌 구조 들여다보기 AI 시대에 평범한 우리는 무엇을 할수 있을까? |
"새로운 AI 부서에 본인이 적합한 것 같습니까?" "저는 제가 하는 일이 좋습니다." (좌중 웃음)
지난 5월 16일 미국 상원 법제사법위원회 개인정보·기술·법소위에서 열린 'AI 청문회'에서 오픈AI 알트만 최고경영자가 받은 질문 아닌 질문이다. 이 질의가 드러내듯 청문회의 분위기는 자못 독특했다. 그동안 청문회장에 선 테크 기업 대표들과 임원들은 호된 질타를 받기 일쑤였는데 이 자리만큼은 의원들이 알트먼에게 '지도 편달' 받으러 온 듯한 느낌이었다.
오픈AI 샘 알트먼 최고경영자는 이 자리에서 "민주적 가치에 의거하여 AI가 개발돼야 한다"며 AI 규제에 대한 방법론까지 청산유수로 답변했다. (중국이 ‘사회주의적 가치’에 의해 AI를 개발 규제한다는 내용과 대비를 이룬다)
샘 알트먼이 제시한 정책 방향은 크게 두 가지다.
- 국내 정책은 행정부 내에 AI에 대한 규제기준을 정하고 개발 기업에 일종의 라이선스를 부여하는 별도 정부 부처를 만들자는 것이다. AI 개발 기업들에게 외부 감사를 의무화해야 한다는 내용도 들어 있다.
- 국제적으로 IAEA(원자력개발기구)와 같은 국제 AI 기구를 만들자는 내용이다.
|
<아이언맨> 토니 스타크처럼, 천재 공학자가 재앙에서 세상을 구한다는 식의 서사는 영화나 드라마에서도 자주 볼 수 있다. 샘 알트먼에 대한 이미지도 이렇게 그려지는 모습이 목격된다. (이미지: <아이언맨2> 장면 캡처) |
"AI 규제해 달라"는 제안의 속내
알트먼에 대한 워싱턴 정가의 호감도가 높긴 하지만, 실제 알트먼이 말한 대로 이루어질지는 미지수다. 우선 새로운 부처를 신설하기 위해서는 의회 승인과 예산, 시간이 필요하다.
사실 "규제를 해달라"며 신기술을 가진 테크 CEO가 적극적으로 청문회까지 나와서 요청하는 경우는 매우 드물다. 페이스북 CEO 마크 저커버그도 예전에 소셜미디어를 "규제해 달라"는 공식 워딩을 사용한 적이 있지만, 그때는 소셜미디어 산업이 한창 성장하면서 장단점이 모두 드러났을 때의 얘기다. 샘 알트먼이 워싱턴의 호감을 산 이유 중 하나다.
그러나 알트먼이 마냥 이타적인 의도만 갖고 주장을 펼친 건 당연히 아니다. 특히 많은 테크 미디어들은 알트먼식 AI 규제가 "결국 자사 이익을 위한 것"이라며 비판한다. 요지는 다음과 같다.
첫째, 알트먼식 규제에는 AI 데이터 출처를 업체들이 밝혀야 한다는 내용이 없다. 인터넷의 방대한 자료를 기반으로 개발한 것으로 추정되는 (AI 개발 빅테크들은 대규모 언어모델(LLM)의 소스를 밝히지 않고 있다) 현 대규모 언어모델의 가장 큰 맹점을 간과하는 규제 방안이란 거다.
물론 기업들이 데이터 출처를 밝히기 어려운 이유가 있다. 비용과 법적 리스크다. 출처를 밝히면 데이터 생성자들에게서 비용을 내라는 요구를 받을 것이다. 불공정 이용으로 소송도 당할 수 있다.
둘째, 중소 스타트업들의 AI 개발이 어려워질 수 있다. 알트먼식 규제의 핵심인 '라이센스제'는 정부가 자격을 마련해 AI 개발 라이센스를 부여하고 박탈하자는 내용이다. 당연히 법무팀이 대규모로 포진했고 각종 자원이 풍부한 기존 빅테크들이 유리하다.
|
샘 알트먼은 의회에 나가 "AI를 규제해 달라"고 했다. 그의 말에 어떤 의도가 담겨있는지는 더 잘 살펴야 한다. 페이스북도 과거 소셜미디어를 "규제해 달라"고 말하고 뒤에서는 가열차게 규제 반대를 위한 로비를 펼쳤다. (이미지: 샘 알트먼 의회 청문회 출석 CBS 영상) |
빅테크와 FTC의 동상이몽
부처 신설보다 더 현실적인 방안도 있다. 뉴욕타임스 테크 전문 기자인 세실리아 강(Cecilia Kang)은 청문회에서 IBM의 CPO(Chief Privacy and Trust Officer, 최고 정보보호 책임자) 크리스티나 몽고메리가 제시한 "기존 법 제도로 규제"하는 방향으로 실제 움직일 것 같다고 예상한다. 세실리아 강은 "그러는 편이 기존 대기업들에게는 유리하기 때문일 것"이라고 설명했다.
흥미로운 건 일명 '빅테크 저승사자'인 연방거래위원회(FTC) 리나 칸 위원장 또한 "기존 법 제도로도 AI를 충분히 규제할 수 있다"고 주장한다는 것이다. 칸 위원장은 새로운 부처 신설은 "의회에서 결정할 사항"이라면서도 반대했다. 칸의 의도는 무엇일까?
칸은 AI가 새로운 도구이지만 기존 수집 데이터 기반으로 운영되고 있으므로 기존의 법 제도로 규제하는 게 중요하다고 주장한다. 특히 경쟁 정책을 총괄하는 부처 수장인 만큼 AI 컴퓨팅 파워가 몇몇 기업에 집중되고 있음을 짚는다. 그리고 대규모 AI 기술과 클라우드를 가진 업체들을 중심으로 결국 부와 자원의 재분배가 불평등해진다는 점에 초점을 맞춘다.
따라서 기존 경쟁법상에서 규제하는 사항들, 즉 담합, 가격 불평등, 합병, 독점, 불공정 경쟁이 AI 산업이라고 해서 예외가 될 수 없다는 거다.
신기술이 현실 세계에 이미 부작용을 일으키고 있는 상황에서 혁신 기술을 위한 새로운 룰을 만든다면서 규제나 처벌을 느슨하게 적용한다는 건 어불성설인 셈이다. 특히 미국처럼 양당이 테크 정책에 대해 제대로 된 합의나 법안을 만들어 내지 못하면서 기술 대비 정책 지체 현상을 보이는 상황에서 '새로운 부처'를 만들자는 논의가 늘어지면 어부지리로 대기업들만 덕을 볼 가능성이 크다. |
2016년 6월의 모습이다. 당시 설립되지 얼마 않은 오픈AI의 CEO였던 샘 알트먼이 테슬라와 스페이스엑스로 막 더 주목받기 시작한 일론 머스크를 인터뷰했다. 둘은 이제 세계 테크계의 가장 큰 이름들이 되어 있다. (이미지:와이콤비네이터) |
갑자기 월드코인이 다시 나온 이유
챗GPT에 대한 폭발적 관심에 이어 "AI를 규제하자"며 선도적으로 치고 나가는 놀라운 정계 소통 기술을 보여 준 샘 알트먼은 미국뿐 아니라 전 세계에서 'AI 선두 기업인'으로의 이미지를 확실히 굳혔다. 이런 알트먼의 다음 행보는 바로 숙원 프로젝트인 '월드코인'을 홍보하기 위한 월드 투어다.
월드코인은 홍채인식을 통해 개인정보 없이 본인인증을 통해 '모두에게 오너십을 부여하는, 세계 최대의 아이덴티티/금융 네트워크'라고 스스로를 설명한다. 특히 알트먼의 오랜 관심 요소였던 기본소득과 연계하여, 저소득층들이 기존 금융거래 없이도 기본소득을 지급받을 수 있다고 말한다.
월드코인은 새로운 프로젝트는 아니다. 굳이 말하자면 성과보다는 잡음이 더 많았다.2022년엔 '사기극'이란 비난을 받기도 했다. 월드코인은 인터넷이라고는 스마트폰에 깔린 페이스북이 전부인 인도 저소득층 주민들을 대상으로 홍채를 등록하면 코인을 지급한다는 마케팅을 펼쳤다.
그러나 당초 월드코인의 슬로건과는 다르게 홍채를 등록하는 이들 저소득층의 개인정보를 지나치게 많이 수집한 것. 세계 데이터보호의 금과옥조가 된 GDPR(일반정보보호규정)에서 정하는 것보다 더 많은 정보였다.
...
|
☕️☕️ 월스트리트부터 실리콘밸리까지 지금 일어나는 변화의 '맥락'을 전합니다. AI, 빅테크, 전기차, 리테일, 거시경제, 자본 시장 등의 가장 중요한 이슈와 다양한 비즈니스 이야기를 재밌게 풀어드려요.
📌 첫 달 50% 할인 중이에요. 더 할인된 연간 구독제도 있어요. |
☕️ 글쓴이를 소개합니다 키티의 한글 이름은 홍윤희이다. 대표적인 이커머스 기업에서 커뮤니케이션 업무를 리드했고, 소셜임팩트를 담당했다. 딸의 장애를 계기로 장애를 무의미하게 하자는 취지의 협동조합 무의(Muui)를 운영하며 2021년 초 카카오임팩트 펠로우로 선정됐다. IT, 미국 정치, 장애, 다양성, 커뮤니케이션 등의 주제를 넘나들며 페이스북과 브런치에 글을 쓴다.
한국일보, 아웃스탠딩 등의 미디어에 정기 기고와 출연 중이며, 지식 커뮤니티 '시에라소사이어티'에서 <빅테크와 미국 정치> 독서클럽도 진행하고 있다. |
good@coffeepot.me
ⓒ COFFEEPOT 2023 |
|
|
지난 5월 16일 미국 상원 법제사법위원회 개인정보·기술·법소위에서 열린 'AI 청문회'에서 오픈AI 알트만 최고경영자가 받은 질문 아닌 질문이다. 이 질의가 드러내듯 청문회의 분위기는 자못 독특했다. 그동안 청문회장에 선 테크 기업 대표들과 임원들은 호된 질타를 받기 일쑤였는데 이 자리만큼은 의원들이 알트먼에게 '지도 편달' 받으러 온 듯한 느낌이었다.
이렇듯 샘 알트먼이 챗GPT라는 '폭탄'을 투하해 AI 규제 논의를 수면 위로 끌어올린 장본인이란 점을 감안하면 그에 대한 워싱턴 정가의 평가는 이례적으로 후한 편이다. 그것도 민주, 공화당 양쪽 모두에서란 점이 특이하다. 최근 인사이더 기사에서는 알트먼을 "'비행기 추락(AI로 인한 재앙)에서 세계를 구한 인물’로 우상화되고 있다"고 지적하기도 했다.
알트먼에 대한 워싱턴 정가의 호감도가 높긴 하지만, 실제 알트먼이 말한 대로 이루어질지는 미지수다. 우선 새로운 부처를 신설하기 위해서는 의회 승인과 예산, 시간이 필요하다.
사실 "규제를 해달라"며 신기술을 가진 테크 CEO가 적극적으로 청문회까지 나와서 요청하는 경우는 매우 드물다. 페이스북 CEO 마크 저커버그도 예전에 소셜미디어를 "규제해 달라"는 공식 워딩을 사용한 적이 있지만, 그때는 소셜미디어 산업이 한창 성장하면서 장단점이 모두 드러났을 때의 얘기다. 샘 알트먼이 워싱턴의 호감을 산 이유 중 하나다.
그러나 알트먼이 마냥 이타적인 의도만 갖고 주장을 펼친 건 당연히 아니다. 특히 많은 테크 미디어들은 알트먼식 AI 규제가 "결국 자사 이익을 위한 것"이라며 비판한다. 요지는 다음과 같다.
첫째, 알트먼식 규제에는 AI 데이터 출처를 업체들이 밝혀야 한다는 내용이 없다. 인터넷의 방대한 자료를 기반으로 개발한 것으로 추정되는 (AI 개발 빅테크들은 대규모 언어모델(LLM)의 소스를 밝히지 않고 있다) 현 대규모 언어모델의 가장 큰 맹점을 간과하는 규제 방안이란 거다.
알트먼의 속내는 열흘도 안 돼 밝혀졌다. EU는 무분별한 인공지능 사용 규제법안 초안을 통해 생성 AI가 만들어 낸 콘텐츠에 표기를 의무화하는 방안을 추진 중이다. 즉 챗GPT 등 생성 AI 모델 개발사는 시스템 개발에 사용된 저작권이 있는 모든 자료를 공개하라는 거다. 이에 알트먼은 이번 주에 "EU가 AI 사용 법안을 현재대로 이행한다면 유럽에서 철수할 수밖에 없다"고 발표했다가 다시 철회하는 해프닝을 벌였다.
물론 기업들이 데이터 출처를 밝히기 어려운 이유가 있다. 비용과 법적 리스크다. 출처를 밝히면 데이터 생성자들에게서 비용을 내라는 요구를 받을 것이다. 불공정 이용으로 소송도 당할 수 있다.
둘째, 중소 스타트업들의 AI 개발이 어려워질 수 있다. 알트먼식 규제의 핵심인 '라이센스제'는 정부가 자격을 마련해 AI 개발 라이센스를 부여하고 박탈하자는 내용이다. 당연히 법무팀이 대규모로 포진했고 각종 자원이 풍부한 기존 빅테크들이 유리하다.
부처 신설보다 더 현실적인 방안도 있다. 뉴욕타임스 테크 전문 기자인 세실리아 강(Cecilia Kang)은 청문회에서 IBM의 CPO(Chief Privacy and Trust Officer, 최고 정보보호 책임자) 크리스티나 몽고메리가 제시한 "기존 법 제도로 규제"하는 방향으로 실제 움직일 것 같다고 예상한다. 세실리아 강은 "그러는 편이 기존 대기업들에게는 유리하기 때문일 것"이라고 설명했다.
흥미로운 건 일명 '빅테크 저승사자'인 연방거래위원회(FTC) 리나 칸 위원장 또한 "기존 법 제도로도 AI를 충분히 규제할 수 있다"고 주장한다는 것이다. 칸 위원장은 새로운 부처 신설은 "의회에서 결정할 사항"이라면서도 반대했다. 칸의 의도는 무엇일까?
칸은 AI가 새로운 도구이지만 기존 수집 데이터 기반으로 운영되고 있으므로 기존의 법 제도로 규제하는 게 중요하다고 주장한다. 특히 경쟁 정책을 총괄하는 부처 수장인 만큼 AI 컴퓨팅 파워가 몇몇 기업에 집중되고 있음을 짚는다. 그리고 대규모 AI 기술과 클라우드를 가진 업체들을 중심으로 결국 부와 자원의 재분배가 불평등해진다는 점에 초점을 맞춘다.
칸이 주목하는 또 하나의 현상은 이미 AI 기술로 인한 사기가 만연하고 있으며 이는 FTC의 기존 규제 영역이란 점이다(재작년 아티클에서 짚었다).
챗GPT에 대한 폭발적 관심에 이어 "AI를 규제하자"며 선도적으로 치고 나가는 놀라운 정계 소통 기술을 보여 준 샘 알트먼은 미국뿐 아니라 전 세계에서 'AI 선두 기업인'으로의 이미지를 확실히 굳혔다. 이런 알트먼의 다음 행보는 바로 숙원 프로젝트인 '월드코인'을 홍보하기 위한 월드 투어다.
월드코인은 홍채인식을 통해 개인정보 없이 본인인증을 통해 '모두에게 오너십을 부여하는, 세계 최대의 아이덴티티/금융 네트워크'라고 스스로를 설명한다. 특히 알트먼의 오랜 관심 요소였던 기본소득과 연계하여, 저소득층들이 기존 금융거래 없이도 기본소득을 지급받을 수 있다고 말한다.
월드코인은 새로운 프로젝트는 아니다. 굳이 말하자면 성과보다는 잡음이 더 많았다.2022년엔 '사기극'이란 비난을 받기도 했다. 월드코인은 인터넷이라고는 스마트폰에 깔린 페이스북이 전부인 인도 저소득층 주민들을 대상으로 홍채를 등록하면 코인을 지급한다는 마케팅을 펼쳤다.
수신거부