[키티의 빅테크 읽기] 28화. 오픈AI 사태가 키울 규제의 판 오픈AI 사태를 비롯한 AI 이슈는 이제 다음 단계로 진입했습니다. 바로 AI에 대한 적정한 규제를 할 수 있느냐에 대한 문제로도 논의가 옮겨오는 모습을 볼 수가 있습니다. 이제 사태도 일단락되었으니 "(계속) 달려 나가자"라고 했을 오픈AI 그리고 앞으로의 경쟁 향방에 큰 영향을 끼칠 이를 숨죽이면서 지켜본 업계의 분위기와는 달리 워싱턴을 비롯한 외부자들의 시선은 "더 큰 문제가 생각보다 더 빨리 올 수도 있겠다"로 변한 것으로도 보입니다.
다만, 큰 히트가 될 넷플릭스 시리즈보다 흥미진진하고, 전개가 순식간에 이어져 며칠간 쉬지 않고 '몰아보기'를 하게 만든 이 드라마는 앞으로 전개가 느려지고, 더 자세하게 봐야 할 포인트가 많아질 예정이에요. 시즌1의 인기를 시즌2가 이어 나가기는 어려워 보입니다. 사실 모두가 AI 개발의 위험성을 인지했고, 더 적극적인 규제 논의가 필요하다는 시사점도 발견한 시즌1의 결론이 다소 재미없는 시즌2로 이어질 것이라는 건 어찌 보면 뻔하기도 했습니다.
물론 늘 드라마가 만들어지는 실리콘밸리에서 또 어떤 일이 일어날지는 지켜봐야 합니다. 그리고 그런 드라마틱한 요소들은 앞으로 전개가 지루할 수 있는 AI 개발과 규제에 대한 논쟁에 더 불을 붙이는 작용을 할 수 있습니다.
오늘 [키티의 빅테크 읽기]는 오픈AI 사태에 대한 최종 정리를 넘어, 규제의 영역으로 봐야 한다는 인식을 확실히 심어준 AI에 대한 실제 규제 움직임은 무엇인지를 살펴봅니다. 규제가 어떻게 조직되는지, 오픈AI뿐만 아니라 특히나 대관 업무에서는 넘사벽인 마이크로소프트라는 빅테크는 앞으로 어떻게 대응할 것인지를 지켜봐야 하는 것이 가장 중요한 포인트가 될 것으로 보여요. 물론 뒤쫓아오는 구글과 메타 등은 이 기술의 개발과 산업의 가속에 어떤 역할을 할지도 함께 봐야 하죠.
이번 사태는 대중에게 어떤 메시지를 전한 것일까요? 그리고 대중은 이들을 어떻게 바라봐야 할까요? 차근히 복기해 볼 수 있는 이야기입니다. 샷 추가하고 끝까지 읽어보세요. |
[키티의 빅테크 읽기] AI는 과연 규제될 수 있을까? 오픈AI 사태가 키울 규제의 판 |
오픈AI를 둘러싼 쿠데타와 역쿠데타는 드라마처럼 끝났다. 이렇게 흥미진진하지만 혼란스러운 드라마가 가능했던 이유는 잘 알려졌듯 오픈AI의 독특한 지배구조 때문이다.
무려 860억 달러(약 111조 원)가치의 비상장 영리기업 CEO를 단 6인 이사회의 비영리단체 이사회가 해고할 수 있는 구조는 아무리 좋게 이야기하더라도 특이하다. 언젠가는 터질 수밖에 없었던 모순을 내재하고 있었던 셈이다. 오픈AI의 지분 49%를 가지고 있는 마이크로소프트(MS)조차도 알트먼의 해임을 오픈AI가 블로그 포스팅을 하기 불과 몇 분 전에야 통보받았다는 게 그 증거다. MS는 오픈AI를 지배하는 비영리단체 이사 자격이 없었다.
이 특이한 비영리단체 오픈AI의 사명은 AI가 매우 위험할 수 있으므로 인간 가치에 부응하는 범용 인공지능(AGI, Artificial General Intelligence)을 개발해서 이를 인류에 공개한다는 것이다. 기존에 AI 개발 능력을 갖고 있는 곳, 즉 구글을 견제한다는 의미도 있었다. 당시 가장 고도화된 AI를 연구 중이던 당시 구글 브레인 소속의 일리야 서츠케버(Ilya Sutskever)를 일론 머스크가 오픈AI에 합류시키면서 구글 창업자 래리 페이지와 머스크의 사이가 벌어졌다는 일화가 있을 정도다.
|
챗GPT-4는 최근 사건들에 대해 물어보면 웹검색을 해서 알려준다. 이번 샘 알트먼 축출 사태에 대한 검색을 해서 나온 결과에 대해 흥미로운 점은 "(그의 리더십은 과거부터 다양한 대립과 도전에 놓였다) 이는 회사에 대한 그의 비전과 목표를 자주 위협했다(threatened his visions and goals for the company)."라는 요약 내용과 관련 기사 링크를 전한 것이다. |
복기해야 할 세 번의 내부 균열 사실 오픈AI가 위기를 맞이해 본 것은 이번이 처음이 아니다. 과거에도 내부적으로 균열이 발생했고, 어찌 보면 이번 사태의 전조이기도 했다.
- 그 균열의 단초가 처음 생긴 건 2018년이다. 일론 머스크가 조직을 장악하려다 실패하고 (또는 머스크가 테슬라 AI를 개발하면서 이해 상충의 이슈로) 오픈AI에 약속했던 기부금을 철회한 게 단초가 됐다. 오픈AI는 영리기업을 설립해 MS의 투자를 받았다. MS 사티아 나델라 회장도 “오픈AI의 사명을 보고 투자했다”고 공개적으로 말했지만, 어쨌든 구글의 경쟁사이자 시총은 애플 다음으로 큰 빅테크인 MS의 투자를 받게 된 건 당초 비영리 조직의 명분을 유지하기가 어려워진 모순적 상황을 만들었다.
- 주요 직원들이 이탈해 경쟁사 앤스로픽(Anthropic)을 설립한 사건 또한 오픈AI에서 일어났던 갈등을 보여준다. 앤스로픽 창업자가 이탈한 표면적 이유는 "오픈AI가 AI 안전성에 대해 소홀하다"는 것인데 이는 오픈AI가 "초심을 잃었다"는 의미로도 읽힐 수 있는 부분이다. 알트먼을 해고하는 데 일조한 헬렌 토너(Helen Toner) 조지타운 보안 및 신생 기술 센터 이사가 2023년 10월 공동 작성한 논문도 논란이 됐다. 토너는 "앤스로픽은 대규모 언어 모델(LLM)이 일으킬 수 있는 위험을 줄이기 위해 챗봇인 클로드(Claude) 출시를 연기했다”며 당시 챗GPT를 출시했던 오픈AI와 직접적으로 비교했는데 이를 샘 알트먼이 언짢아했다는 것.
- 챗GPT발표 후 개발 속도를 엄청나게 높인 오픈AI 내부에서 개발 속도를 두고 내분이 있었음을 보여주는 또 다른 사건이 있었다. 로이터와 디인포메이션의 최근 보도에 따르면 오픈AI 직원들은 사내 프로젝트인 ‘큐스타(Q*)’란 AI 모델의 위험성을 이사회에 알리는 서한을 작성했는데, 이 서한이 이사회와 알트먼 사이의 불만 중 한 가지 원인을 보여준다는 것이다.
큐스타는 낮은 수준의 수학 문제를 풀 수 있는데 이는 곧 오픈AI가 개발하는 인공지능이 추론을 할 수 있게 됐으며, 이는 인공지능이 어떤 목표를 세우고 답을 찾는 능력을 갖추게 됐음을 암시한다. 오픈AI에서는 "AGI를 경제적으로 가치가 있는 대부분의 작업에서 인간의 능력을 뛰어넘는 자율 시스템(AGI as autonomous systems that surpass humans in most economically valuable tasks)"으로 정의하는데, 큐스타가 이런 AGI에 한 발짝 더 다가갔다는 것이다.
큐스타의 존재나 이 서한 내용이 정확한지에 대해 오픈AI가 공식 확인하지는 않았지만, 만일 사실이라면 챗GPT가 2022년 말 발표됐을 때 문장형 답변은 곧잘 하면서도 기본적인 수학문제를 풀지 못했던 것에 비해 단 1년 만에 이룬 비약적인 발전인 셈이다. '큐스타' 자체가 실제로 직접적으로 인류에 위협적이진 않을 수 있겠지만, 알트먼이 이런 내부 연구 결과를 활용해 AI 상업화의 폭발적 가속화를 촉진하려 했음은 충분히 짐작 가능하다.
이사회의 이번 해고 소동 공식 해명은 아직 나오지 않았다. 다만 스스로 이사회를 떠난 헬렌 토너가 자신의 X 계정에 약간의 힌트를 주는 포스팅을 했다. 이번 결정은 "오픈AI가 하는 일의 속도를 늦추기 위함은 아니"라며, "이사회의 임무인 회사 관리 업무를 효과적으로 하기 어려웠기 때문"에 알트먼을 해고했다고 밝혔다.
|
같은 내용으로 다시 검색하면 위에서 밑줄친 내용과는 다른 내용이 들어간 결과도 보여주면서 어떤 결과가 더 좋은지를 고르라고 한다. 빠진 내용 대신 "(과거부터 다양한 대립과 도전에 놓인 그의 리더십은) AI 분야의 빠른 발전과 그에 따라 커진 복잡성을 보여주는 것이다(reflecting the complexities and rapid developments in the AI field)"로 채워졌다. |
이사회 자폭이 그나마 남긴 것
샘 알트먼이 복귀할 수 있었던 가장 큰 원동력은 이사회의 불투명한 커뮤니케이션이 직원들 사이에 불만을 야기했기 때문이다. "솔직한 커뮤니케이션을 지속적으로 하지 않았다"며 알트먼을 해임한 이사회가 추가 해임 이유를 밝히지 않고 굳게 입을 다물면서 해명을 원했던 직원들이 결국 퇴사 연판장을 돌렸다. 결정적으로, 알트먼 퇴출에 한 표를 더했던 일리야 수츠케버 수석 과학자가 "내가 잘못했다"며 알트먼을 지지한 것도 한몫했다.
이렇게 보면 알트먼을 몰아내려 했던 이사회 – 안전한 AGI 개발을 속도보다 중요시하는 효율적 이타주의자(EA, Effective Altruists, 타당한 추론과 근거에 기반한 이타주의를 실현하고자 하는 사회운동가) - 들의 완패로 보인다. 실제로 알트먼이 해고된 후 긴급 팟캐스트에서 테크 저널리스트 카라 스위셔는 이번 쿠데타를 일으킨 이사회가 "그저 나쁜 이사회일 수 있다"고 말했다. 이유가 어떻든 거친 방식으로 해고한 건 아마추어적일뿐더러 잘못되었다는 거다.
하지만 이사회가 그 목표를 100% 달성하진 못했더라도 일종의 자폭을 통해 '샘 알트먼 견제'에는 성공한 셈이다. 우선 새로운 이사회 구성을 살펴보자.
알트먼이 복권된 2023년 11월 말 현재 이사회는 3명이다. 새로 임명된 브랫 테일러(Bret Taylor) 세일즈포스 전 CEO는 친 알트먼 진영으로 볼 수 있다. 역시 새로이 이사가 된 래리 서머즈(Larry Summers) 전 미 재무장관은 AI 속도에 대한 경고의 목소리를 내기도 했지만 비교적 친기업적 성향으로, 알트먼의 입장에서 보자면 중립적 인사다.
이사회 구성에서 주목할 점은 두 가지다.
- ...
|
☕️☕️ 샷 추가하고 이어서 보세요! 오픈AI 사태 이후 AI 개발과 규제에 있어 무엇을 주목해야 할까요?
빅테크부터 리테일 산업 그리고 거시경제 영향까지. 지금 가장 중요한 이야기들 팔로우업할 수 있어요. 커피팟 저자들과 함께하는 [모임]에도 참여하실 수 있고요.
+ 첫 1개월 50% 할인 중이에요. 더 할인된 연간 구독도 가능해요. |
☕️ 글쓴이를 소개합니다 키티의 한글 이름은 홍윤희이다. 대표적인 이커머스 기업에서 커뮤니케이션 업무를 리드했고, 소셜임팩트를 담당했다. 딸의 장애를 계기로 장애를 무의미하게 하자는 취지의 협동조합 무의(Muui)를 운영하며 2021년 초 카카오임팩트 펠로우로 선정됐다. IT, 미국 정치, 장애, 다양성, 커뮤니케이션 등의 주제를 넘나들며 페이스북과 브런치에 글을 쓴다.
한국일보에 정기 기고 중이며, 장애-유니버설 디자인-ESG-사회혁신 등의 주제로 대중 강연을 한다.
[키티의 빅테크 읽기]는 미국 빅테크와 테크 산업이 끼치는 경제사회 및 정치적인 영향에 대해 다루는 롱폼(Long-form) 아티클이에요. 전체 경제와 정치 영역에서 일어나는 움직임의 맥락과 행간을 놓치지 않는 시선을 전합니다. |
good@coffeepot.me
ⓒ COFFEEPOT 2023 |
|
|
이 특이한 비영리단체 오픈AI의 사명은 AI가 매우 위험할 수 있으므로 인간 가치에 부응하는 범용 인공지능(AGI, Artificial General Intelligence)을 개발해서 이를 인류에 공개한다는 것이다. 기존에 AI 개발 능력을 갖고 있는 곳, 즉 구글을 견제한다는 의미도 있었다. 당시 가장 고도화된 AI를 연구 중이던 당시 구글 브레인 소속의 일리야 서츠케버(Ilya Sutskever)를 일론 머스크가 오픈AI에 합류시키면서 구글 창업자 래리 페이지와 머스크의 사이가 벌어졌다는 일화가 있을 정도다.
큐스타는 낮은 수준의 수학 문제를 풀 수 있는데 이는 곧 오픈AI가 개발하는 인공지능이 추론을 할 수 있게 됐으며, 이는 인공지능이 어떤 목표를 세우고 답을 찾는 능력을 갖추게 됐음을 암시한다. 오픈AI에서는 "AGI를 경제적으로 가치가 있는 대부분의 작업에서 인간의 능력을 뛰어넘는 자율 시스템(AGI as autonomous systems that surpass humans in most economically valuable tasks)"으로 정의하는데, 큐스타가 이런 AGI에 한 발짝 더 다가갔다는 것이다.
이사회의 이번 해고 소동 공식 해명은 아직 나오지 않았다. 다만 스스로 이사회를 떠난 헬렌 토너가 자신의 X 계정에 약간의 힌트를 주는 포스팅을 했다. 이번 결정은 "오픈AI가 하는 일의 속도를 늦추기 위함은 아니"라며, "이사회의 임무인 회사 관리 업무를 효과적으로 하기 어려웠기 때문"에 알트먼을 해고했다고 밝혔다.
샘 알트먼이 복귀할 수 있었던 가장 큰 원동력은 이사회의 불투명한 커뮤니케이션이 직원들 사이에 불만을 야기했기 때문이다. "솔직한 커뮤니케이션을 지속적으로 하지 않았다"며 알트먼을 해임한 이사회가 추가 해임 이유를 밝히지 않고 굳게 입을 다물면서 해명을 원했던 직원들이 결국 퇴사 연판장을 돌렸다. 결정적으로, 알트먼 퇴출에 한 표를 더했던 일리야 수츠케버 수석 과학자가 "내가 잘못했다"며 알트먼을 지지한 것도 한몫했다.
이렇게 보면 알트먼을 몰아내려 했던 이사회 – 안전한 AGI 개발을 속도보다 중요시하는 효율적 이타주의자(EA, Effective Altruists, 타당한 추론과 근거에 기반한 이타주의를 실현하고자 하는 사회운동가) - 들의 완패로 보인다. 실제로 알트먼이 해고된 후 긴급 팟캐스트에서 테크 저널리스트 카라 스위셔는 이번 쿠데타를 일으킨 이사회가 "그저 나쁜 이사회일 수 있다"고 말했다. 이유가 어떻든 거친 방식으로 해고한 건 아마추어적일뿐더러 잘못되었다는 거다.
알트먼이 복권된 2023년 11월 말 현재 이사회는 3명이다. 새로 임명된 브랫 테일러(Bret Taylor) 세일즈포스 전 CEO는 친 알트먼 진영으로 볼 수 있다. 역시 새로이 이사가 된 래리 서머즈(Larry Summers) 전 미 재무장관은 AI 속도에 대한 경고의 목소리를 내기도 했지만 비교적 친기업적 성향으로, 알트먼의 입장에서 보자면 중립적 인사다.
이사회 구성에서 주목할 점은 두 가지다.
수신거부