☕️ 이제 돈 벌어야 하는 AI 시장의 흐름

[준의 테크 노트] 실용적이고 효율화된 모델에 집중하는 흐름
2024년 7월 24일 수요일 
AI 시장에는 어느덧 새로운 흐름이 커지고 있습니다. 기존의 대규모 언어 모델(LLM, Large Language Model)의 개발을 전면에 내세우지 않고, 이제는 더 많은 사람들에게 유용할 가볍고 실용적인 AI 제품을 내놓는 경쟁이 형성되고 있습니다. 최근 이에 불을 지핀 건 앤트로픽의 새로운 모델인 클로드 3.5 소네트와 함께 발표된 기능이었는데요. 

오늘 [준의 테크 노트]는 새로운 움직임들로 흐름이 바뀐 AI 시장의 모습을 짚어봅니다. 사용자들을 붙잡아야 하는 AI 기업들의 효율화된 제품 출시 경쟁과 이를 탑재한 서비스들은 계속해서 증가할 것으로 예상됩니다.

커피팟 구독하면 모든 이야기 꾸준히 받아보실 수 있어요. 각 분야 현업의 전문가들이 다른 곳에서 볼 수 없는, 유용한 이야기를 전해드려요. 

[AI] #새로운시장흐름 
사용자 잡고 돈 벌어야 하는 AI 제품
실용적이고 효율화된 모델에 집중하는 흐름
챗GPT가 출시된 이후, AI 업계는 "누가 더 큰 모델을 만들어 놀라운 결과를 내어놓느냐"가 중요한 화두였습니다. 유명 스타트업 인큐베이터 와이콤비네이터(Y Combinator)의 CEO 출신답게 샘 알트먼은 영리한 마케팅 및 프로덕트 전략으로 한동안 오픈AI를 압도적인 선두 자리에 올려놓을 수 있었습니다.

하지만 구글, 메타 등의 빅 테크들이 AI에 거대한 자원을 투입하기 시작하고, 애플 또한 애플 인텔리전스(Apple Intelligence)를 통해 애플만의 전략으로 전쟁에 참가했습니다. 또한 새롭게 창립된 앤트로픽이나, 미스트랄 등 신생 기업들의 모델들도 빠르게 시장 점유율을 따라잡고 있죠.

벤처캐피털인 앤드리센 호로위츠가 지난 3월 발간한 보고서에 따르면, 기업들 내에서 아직까지 오픈AI의 사용 비율이 높지만, 그 뒤를 빠르게 구글이나 메타가 따라오고 있는 것을 볼 수 있습니다.

이런 상황에서, 각 기업들은 더 이상 '크고 강력한 모델'을 만드는 것을 주된 경쟁력으로 삼을 수 없게 되었습니다. 이른바 플래그십 모델이라고 불리는 큰 모델들은 개발하는 데 천문학적인 시간과 비용이 들 뿐더러, 이로 인해 사용료가 높아질 수밖에 없으니 이를 대중들과 기업들에 판매하기에도 어렵습니다.

자연스럽게 기업들은 이제 그토록 강조하던 성능만이 아닌 실용성과 효율성에서 비교 우위를 가지려고 노력하고 있습니다.
기업들이 사용하고 있는 AI 모델 현황입니다. a16z가 70개 기업을 대상으로 조사를 했고요. 기업들은 모두 기본으로 오픈AI를 사용하고 있고, 그에 더해 다른 모델들의 사용도 늘려가는 중입니다. 실제 사용 비율은 여전히 오픈AI의 모델이 가장 높지만요. (이미지: a16z)
확연히 더 나은 UX(User Experience)
AI 시장에서는 최근 앤트로픽의 클로드(Claude)에 대한 언급이 부쩍 늘어나고 있습니다. 이는 최근 가장 향상된 모델인 클로드 3.5 소네트(Sonnet)의 발표와 함께 출시된 아티팩트(Artifacts)라는 기능 때문이었는데요.

아티팩트는 현재 작성 중인 AI의 답변을 실시간으로 시각화해 보여주는 별도의 창입니다. 텍스트 문서나 코드 등이 실시간으로 표시되며, 미리보기 기능을 통해 이를 실제로 볼 수도 있으며, 표시된 아티팩트의 버전 관리나 업데이트 등도 가능합니다. 

아래 영상은 아티팩트 기능을 통해 실제로 플레이가 가능한 간단한 게임을 만드는 과정을 보여줍니다.
클로드의 발전은 전문가가 아닌 이들도 한눈에 놀라게 했습니다. 
기존 챗GPT에도 코드 생성 기능은 존재했습니다만, 이를 실시간으로 표시해 주는 기능은 없었습니다. 작성된 코드가 실제로 잘 동작하는지를 보려면 별도의 코드 관리 도구를 통해 실행했어야만 했죠. 

아티팩트는 동일한 서비스 안에서 흐름을 깨지 않고 작업을 이어 나갈 수 있는 UX를 선보였기에 사용자들의 열화와 같은 성원을 받았습니다. 이러한 UX적 개선은 지난 5월 앤트로픽이 최고 제품 책임자(Chief Product Officer)로 영입한 인스타그램의 공동 창업자 마이크 크리거(Mike Krieger)의 영향력이 발휘되었을 가능성이 높습니다. 

오픈AI는 올해 5월 맥용 데스크탑 앱을 출시하며, 맥에서의 워크플로우(Workflow) 내 챗GPT가 자연스럽게 통합될 수 있는 가능성을 열었습니다. 유저들은 맥 사용 시 단축키를 통해 챗GPT에게 물어볼 수 있는 창을 열 수 있으며, 현재 보고 있는 화면의 스크린샷이나 파일 등을 업로드해서 챗GPT와 대화가 가능합니다. 웹사이트로만 제공했을 때에는 단축키를 통해 접근한다거나 하는 식의 UX는 불가능했습니다.

또한 올해 6월 인스타그램, 트위터 등에서 제품을 이끌었던 핵심 인재인 케빈 웨일(Kevin Weil)을 CPO로 임명하며 앤트로픽과 마찬가지로 제품에 대한 집중 의지를 보여 주고 있습니다.
맥북에서는 곧 메뉴바를 통해 바로 챗GPT를 사용해 다양한 작업을 할 수 있게 됩니다.  
더 효율적인 모델이란?
앞선 UX에 대한 개선이 ‘실용성'의 측면이라면, 기업들은 더 작고, 빠른 모델을 출시하며 '효율성'을 강화하고 있습니다. 최근 오픈AI는 GPT-4o의 경량화 버전인 GPT-4o mini를 출시하며, 자사의 어떤 모델보다 가격이 저렴함을 강조하고 있습니다. 하지만 성능 또한 크게 뒤처지지 않는데요. 

AI의 능력을 측정하는 'MMLU(Massive Multitask Language Understanding)' 점수가 82%이며, 이는 최신 버전인 GPT-4o(88.7%) 에 비교해도 큰 차이가 없는 수준입니다.

다른 AI 기업들 또한 최근 효율화에 집중하고 있습니다. 구글은 지난 5월 Google I/O 2024에서 제미나이 플래시(Gemini Flash)와 제미나이 나노(Gemini Nano)를 공개했습니다. 제미나이 플래시는 GPT-4o mini와 대치되는 구글의 경량화 모델이고, 제미나이 나노는 온-디바이스에 특화된 작은 모델이며, 애플 인텔리전스와 대치될 수 있습니다. 제미나이 플래시의 소개 페이지에서 또한 '가성비'를 강조하는 문구들을 다양하게 표시하고 있습니다.

프랑스에서 주목받는 AI 기업인 미스트랄도 지난주에 자사의 경량화 모델인 미스트랄 니모(Mistral Nemo)를 출시했습니다. 엔비디아와의 협업을 통해 출시한 이 모델은 주요 오픈 소스 경량화 모델 중 가장 긴 입력 토큰 수를 가지고 있으면서도 성능은 뒤처지지 않는다는 점을 강조하고 있습니다. 오픈 소스 진영에서 또한 무작정 큰 모델보다는 적재적소에 활용할 수 있는 작은 모델들이 점차 출시되고 있는 모습이에요.
오픈AI를 비롯한 모든 기업이 이제 경량화된 모델을 강조하고 나섰어요. 시장이 완전히 새로운 흐름에 접어든 모습이죠. (이미지: 오픈AI)
검색 서비스인가, 도구인가?
효율화, 실용화라는 흐름은, 챗GPT로부터 시작된 '채팅 형태'의 UX가 만들어낸 거대한 오해로부터 벗어나는 과정이기도 합니다. 그 오해는, 바로 "LLM은 무엇이든 물어봐도 답변할 수 있다"라는 부분입니다. 당시에는 이 흐름이 자연스러웠습니다. 지금처럼 이미지, 동영상을 이해하는 수준으로 LLM이 발전되어 있지 않았으니까요. 하지만 이러한 오해로 인해 기업들은 앞다투어 세상의 모든 지식을 최대한 학습 시켜 유저들이 어떤 질문을 하더라도 적절한 답변을 줄 수 있는 모델들을 만드는 것에 집중해야만 했습니다. 

그것이 틀린 일은 아니었습니다. 시장과 소비자가 그것을 기대했고, 기업들은 시장과 소비자의 기대에 부응해야 하니까요. 하지만 기술이 발전하며, LLM을 작업 효율화의 '도구'로 사용할 수 있음이 점점 증명되며, 흐름이 다시 바뀌었습니다.

이제 작은 모델들을 튜닝하여 개별 작업에 최적화시켜 이를 판매하는 것이 '세상의 지식'을 모두 담은 거대 모델을 만드는 것보다 훨씬 효율적이고 유용하다는 것을 기업들도, 소비자들도 깨닫고 있는 것이에요. 

도구로서 AI를 사용하기 위해선 굳이 채팅 형태의 UX가 존재할 필요도 없습니다. AI는 중간에서 알고리들이 이해하기 어려운 정보들만 정리해 주는 역할을 할 수도 있고, 버튼을 통해 입력을 받고, 정형화된 결과를 출력해 내어줄 수도 있죠. 그리고, 도구로서 가장 적절한 AI 모델들은 효율화 및 실용화된 작은 모델들입니다.

작은 AI 모델들의 발전은, 더욱 작은 규모의 서비스들에 LLM이 적용될 수 있음을 의미합니다. GPT-4o mini의 출시로 인해 사용자의 검색어에 대응되는 블로그 포스트를 실시간으로 생성하는 데 드는 비용이, 해당 블로그로부터 만들어지는 광고 수익보다 낮아지는 지점이 도래하기도 했습니다

이 말의 의미는 아무리 작은 서비스나 디바이스일지라도 부담 없이 AI를 탑재할 수 있게 된다는 것이에요. 이렇게 된다면, AI 모델을 탑재한 서비스를 사용하는 것은 아주 간단해집니다. 간단한 예시로, 우리가 평소에 구글 드라이브와 같은 클라우드 서비스를 쓰는 것처럼 당연하고 자연스럽게 느껴지게 될 수 있다는 것입니다.
☕️ 글쓴이를 소개합니다.
준. O2O 스타트업에서 일했고, 현재는 글로벌 콘텐츠 회사에서 일하고 있어요. 스타트업, 웹3, AI 등 새로운 기술이 바꾸어 나가는 세상의 모습에 관심이 큽니다.

[준의 테크 노트]는 테크 기업과 그들이 새로이 개발하는 기술과 현상에 대한 이야기를 전합니다.

[빅테크] #안젤라의 매크로 시선
혁신과 거품에 대한 반복 학습의 필요
AI와 엔비디아의 질주에 유지해야 할 시선
현재의 AI 붐과 엔비디아가 이끄는 시장의 모습을 버블이라고 볼 수 있는 근거는 차고 넘치게 많이 나왔습니다. 하지만 보통 버블은 단기간에 형성되지 않기에 현재의 시장이 버블 속에 들어와 있다는 사실을 많은 사람들이 직시하고 받아들이기는 늘 어렵습니다. 물론 그렇기 때문에 '버블 팝'은 역사 속에서 반복되어온 것이기도 하죠.

그런 의미에서 버블 안에 있을 때 버블임을 잊지 않고 지속적으로 반복해 인지하는 것은 아주 중요합니다. 버블은 터지면 이미 늦기에 개인들은 특히나 늘 대비를 하고 있어야 하죠. 

이번 [안젤라의 매크로 시선]은 엔비디아의 질주가 (길게) 지속될 수 없다는 점을 짚고, 반도체 산업 역시 독점 사업이 아닌 저마진의 경쟁 시기가 도래할 수밖에 없다는 것을 상기하게 해줍니다. 혁신과 혁신을 일으킨 이들이 거품이라는 것이 아닙니다. 거품은 늘 진짜 혁신과 함께 왔다는 사실을 바로 보는 것이에요. 

버블은 무엇이고, 어떻게 만들어 지는지 반복 학습이 중요한 와중에, 이번 버블에 대해서는 어떤 점을 유심히 살펴 버블임을 인지하고 어떤 시선을 유지하는 것이 좋은지 명확하게 짚어 전합니다. 

[미디어] #스트리밍경쟁 
공식적으로 끝난 스트리밍 전쟁
이제 다음 단계에 집중하는 넷플릭스
스트리밍 전쟁은 넷플릭스의 압도적인 승리로 거의 끝난 상황입니다. 이에 대해서는 커피팟을 통해서도 그 힌트를 꾸준히 전해드렸는데요. 넷플릭스가 한국 시간으로 지난주 금요일에 발표한 2분기 실적은 시장에서도 "거의 끝난 게임이었는데, 이제는 마지막 포인트까지 따기에 이르렀다"라는 '공식적인' 선언을 하게 하고 있습니다. 

물론 자본 시장과 그 안에서 활동하는 기업들의 성패는 어떤 요소로 인해 또 급격히 변할 수 있습니다. 하지만 그러한 작은 가능성 외에는 현재 다른 스트리밍 서비스들이 넷플릭스와 제대로 된 경쟁을 할 수 있는 상황이 아닙니다. 이제 넷플릭스는 넷플릭스대로 다음 단계의 성장을 위해 나아가는 행보를 보이는 중이고요. 

이번 이야기를 통해서는 스트리밍 전쟁의 공식적인 종료 현황과 다음 단계로 나아가는 넷플릭스의 모습을 살펴봅니다. 얼마 전 전해드렸던 넷플릭스의 광고 사업이 왜 '다음 단계'인지에 더해 그 진행 현황은 어떤지도 더 구체적으로 짚습니다. 

관련해서는 지난주 금요일에 열린 커피팟 모임에서도 이야기를 전했는데요. 넷플릭스가 다음 단계로 나아가기 위한 준비를 마치는 데에는 시간이 그리 많이 남지 않았습니다. 스스로 도전적인 목표를 설정해 또 더 큰 기업으로 도약하기 위한 준비를 하는 이들의 모습이라고도 볼 수 있습니다. 

☕️ 현업의 전문가들이 전하는 뉴스레터
각 분야의 저자들이 새로운 이야기를 발견하고, 유용한 지식으로 전해드립니다. 월스트리트부터 실리콘밸리, 그리고 전 세계 주요 경제 이슈까지. 나만의 참고 자료가 될 뉴스레터를 메일함으로 꾸준히 받아보세요. 

+ 첫 달은 반값에 구독하실 수 있어요! 연간 구독은 할인을 더 해드리고요.



good@coffeepot.me

© COFFEEPOT 2024
더는 받아보고 싶지 않으시다면
수신거부