애플은 프런티어 AI 오찬과 안전 협약에서 빠졌지만, 8~9월 사이 로컬 추론용 1만 달러대 데스크톱을 내놓았고 AI 추론용 서버를 개발 중이라는 보도가 나왔어. 이 두 움직임이 한 방향인지, 무엇을 보면 판정되는지 짚어.
Inference Exchange 발표를 콜로케이션 회사의 변신으로 읽으면, 에퀴닉스의 손익이 왜 코어위브와 정반대인지가 설명되지 않는다. 고객에게 요금을 청구하는 자리에 누구 이름이 적혀 있는지, 그리고 500억 달러를 쓰겠다는 앤스로픽조차 세입자를 고른 이유를 짚습니다.
엔비디아가 그록에서 가져간 건 기술과 사람이고, 남은 회사는 엔비디아 클라우드 파트너 인증을 그대로 들고 있다. 규제 회피라는 익숙한 읽기가 놓친 딜 이후의 자리와, 무엇을 보면 이 읽기가 틀렸다고 알 수 있는지 짚는다.
오픈소스 AI 모델 추론에 특화한 클라우드 기업 Together AI가 무엇을 팔고, 왜 Equinix·NVIDIA와 함께 새 추론 인프라를 짓는지 정리한다.
엔비디아가 200억달러 규모로 그록의 자산과 창업자·핵심 인력을 흡수하면서도 회사는 남긴 비독점 라이선스 거래를 정리하고, 이 방식이 왜 다른 스타트업 인수의 참고 사례가 됐는지 짚는다.
칩 하나를 웨이퍼 크기로 통째로 만들어 GPU 클러스터보다 빠른 AI 추론을 판다고 주장하는 회사, Cerebras를 정리한다. 최신 시스템 CS-4의 설계와 OpenAI 등 소수 고객 의존 구조를 함께 짚는다.
NVIDIA의 5세대 GPU 아키텍처 Blackwell을 공식 스펙과 델라웨어대의 독립 마이크로벤치마크 논문으로 함께 짚는다 — 회사가 내세우는 배율과 실측 수치가 어디서 갈리는지가 핵심이다.
모델이 답을 내기 전에 얼마나 계산하게 두느냐가 정확도와 비용을 가른다는 개념을, OpenAI가 공개한 추론 모델의 벤치마크 결과로 짚습니다.
표본 분포와 통계량에 대해 이해한다. 추론 (inference) 표본을 가지고 모집단의 특성(모수)를 예측하는 것 통계학의 핵심은 내가 원하는 집단의 특징을 알아내는 것이다.
통계적 추론에 대해 이해한다. 통계적 추론 표본이 갖고 있는 정보를 분석하여 모수에 관한 결론을 유도하고, 모수에 대한 가설의 옳고 그름을 판단하는 것 추정의 방법 모수를 추정하는 방법에 대해서 알아본다. 점 추정 모수를 추정하기 위해 하나의 값을 제안한다.