DeepSeek의 새로운 챗봇은 놀랍게도 유능한 AI, 도전적인 업계 거인을 자랑하며 Nvidia의 주가의 주목할만한 하락을 포함하여 상당한 시장 잔물결을 유발합니다. 소개, "안녕하세요, 나는 당신이 무엇이든 물어보고 당신을 놀라게 할 수있는 대답을 얻을 수 있도록 만들어졌습니다." 이 성공은 혁신적인 아키텍처와 훈련 방법론의 조합에서 비롯됩니다.
이미지 : ensigame.com
주요 기술 발전에는 MTP (Multi-Token Prediction)가 포함되며, 이로는 정확도와 효율성을 높이기 위해 여러 단어를 동시에 예측합니다. 가속화 된 훈련 및 개선 된 성능을 위해 DeepSeek V3에서 256 개의 신경망 (토큰 당 8 개 활성화)을 사용하는 전문가 (MOE)의 혼합물 ; 그리고 중요한 정보를 놓치지 않도록 주요 세부 사항을 반복적으로 추출하는 MLA (Multi-Head Prenatent Attention) .
이미지 : ensigame.com
DeepSeek은 처음에는 2048 GPU를 사용하여 DeepSeek V3에 대해 6 백만 달러의 상당히 낮은 교육 비용을 주장했지만 Semianalysis는 훨씬 더 실질적인 인프라를 나타 냈습니다. 약 50,000 NVIDIA HOPPER GPU (10,000 H800, 10,000 H100 및 추가 H20 GPU 포함)가 여러 데이터 센터에 퍼져있었습니다. 이는 약 16 억 달러의 서버 투자와 9 억 9,400 만 달러의 운영 비용으로 이어집니다.
이미지 : ensigame.com
중국 헤지 펀드 인 High-Flyer의 자회사 인 Deepseek는 데이터 센터를 소유하고 제어 및 빠른 혁신을 장려합니다. 자체 자금을 지원하는 특성은 민첩성과 신속한 의사 결정에 기여합니다. 이 회사는 최고의 인재를 유치하며 일부 연구자들은 주로 중국 대학에서 매년 130 만 달러 이상을 벌고 있습니다. 초기 6 백만 달러는 연구, 개선, 데이터 처리 및 전반적인 인프라 비용을 제외한 사전 훈련 GPU 비용 만 반영 할 수 있습니다. AI 개발에 대한 DeepSeek의 실제 투자는 5 억 달러를 초과합니다. 그러나 소형 구조는 더 큰 관료적 경쟁자에 비해 효율적인 혁신을 허용합니다.
이미지 : ensigame.com
DeepSeek의 성공은 잘 자금을 지원하고 독립적 인 AI 회사의 잠재력을 효과적으로 경쟁 할 수있는 잠재력을 강조합니다. "혁신적인 예산"주장은 아마도 과장 될 수 있지만, 특히 경쟁 업체의 상당히 높은 비용과 대조 될 때 회사의 업적은 의심 할 여지없이 인상적입니다. 예를 들어, DeepSeek의 R1 모델 교육 비용은 5 백만 달러이며 ChatGpt4o는 1 억 달러가 들었습니다. Deepseek의 성공은 상당한 투자, 기술 혁신 및 고도로 숙련 된 팀에 대한 증거입니다.
