1. GROK-3 요약
- 2023년에 설립한 회사가 SOTA를 먹었다.
- 아직까지는 공짜다.
- Scale Law를 우직하게 따랐다(by 콜로서스)
2. SOTA를 차지한 모델
SOTA란 State Of The Art의 약자로 현재 까지 있는 기술중 가장 뛰어난 기술을 칭하는 말입니다.
실제로 공개한 벤치마크를 보면 추론이 강력하게 필요한 수학, 과학, 코딩 부분에서 SOTA를 차지했었습니다…(Claude 3.7이 바로 등장하면서 어떤 것이 SOTA인지 치열한 상태)
3. 공짜 좋아
언제까지 공짜로 풀어주진 않는다고 하네요… 공짜일때 누리세요 enjoy
서버가 과열되면 제한을 걸기도 합니다.
4. 콜로서스
Grok-3가 H100 GPU 20만개가 설치된 시설 콜로서스에서 학습한 모델입니다.
이렇게 많은 자원을 들이는 이유는 바로 Scale law 때문입니다.
Scale law 란 데이터의 량, 모델의 크기, 계산량을 키우면 성능이 무조건 올라간다는 법칙입니다.(2017- Google) 해당 법칙이 수학적으로 증명되고 나서 누가누가 컴퓨팅 자원과 데이터를 많이 가지나 하는 싸움이 일어났죠. GPT2, 3 모델 또한 해당 법칙을 기반으로 계속해서 모델의 크기를 키워 나간 것입니다.
여기에 반전을 살짝 준 모델들이 efficient net(google), deepseek 가 있었습니다.
xAI는 막대한 자금력을 가지고 콜로서스를 만들고 앞으로 100만개를 더 짓는다고 하네요…
참고자료
OpenAI, 구글, 딥씨크 모두 압살...Grok3 | GPU 20만개의 결과물 Grok3가 왜 놀라운 것인가
Grok
Grok is a free AI assistant designed by xAI to maximize truth and objectivity. Grok offers real-time search, image generation, trend analysis, and more.
grok.com
'인공지능 역사와 이슈' 카테고리의 다른 글
| AI 사이트 비교 모음(이미지, 동영상, 텍스트 생성) (0) | 2025.03.14 |
|---|---|
| 인공지능 기업 역사 : Google 편 (0) | 2025.03.06 |
| 인공지능 기업 역사 : OpenAI (2) | 2025.02.27 |
| 딥씨크 R1(DeepSeek) (1) | 2025.02.27 |
| 인공지능 발전사 (with 핵심 모델) (0) | 2025.02.27 |