메모리 값이 오르면서 중소기업이 AI를 들이기 전에 시험하는 장비 가격도 크게 뛰었다. 필자가 GPU 서버 구축에 앞서 3월에 900만 원대에 산 Dell Pro Max with GB10은 10월 견적이 1,700만 원대였다. 동시 사용 인원, 기밀 문서 유출 위험, 비용 세 가지로 자체 장비·공용 API·클라우드 전용 연결·GPU 임대를 비교했다.
쏟아지는 기술 중에서 무엇이 진짜 중요한 흐름인지 가려서 해석합니다.
더 보기 →OpenAI와 앤트로픽 임원들이 중국 오픈웨이트 모델의 보안 위험을 경고했다. 앤트로픽 시험에서 GLM-5.3의 안전장치는 간단한 속임수로 64~100% 뚫렸고, 거절 기능을 지우는 데 4,400달러면 충분했다. 반면 Hugging Face는 Claude가 거절한 해킹 사고 분석을 중국 모델로 해냈다.
코딩은 맞았는지 바로 확인되니 AI에게 가르치기 쉽다. 보고서처럼 정답이 정해져 있지 않은 일은 어떻게 가르칠까. 미국 스타트업 Paper Instruments가 업무용 모델 Ultramarine 1 Flash를 내놓으며 과제마다 채점표를 만들어 가르친 방법을 공개했다. 채점표를 쓰는 요령과 지금 써 볼 수 있는 도구까지 정리했다.
같은 AI를 두고 누군가는 엉성한 챗봇이라 하고 누군가는 몇 달 치 일을 한 번에 끝낸다고 합니다. AI 연구자 카파시는 이 격차를 60억 명에서 약 5,000명으로 좁아지는 네 층의 깔때기로 그렸습니다. 인원은 본인이 대충 계산한 추정치입니다.
AI를 도구로 만드는 법. 복잡한 이론 대신 실전 위주의 노하우를 알려드립니다.
더 보기 →REA는 앱의 구조를 AI 에이전트가 읽어 주는 역공학 도구로, GitHub 별이 17만 4천 개입니다. 화면은 따로 없고 에이전트와 대화하며 씁니다. Electron 샘플 앱을 직접 분석한 과정과 주의점을 정리했습니다.
Claude Code는 설치만 해도 쓸 수 있지만, 파일 하나나 skill(스킬) 몇 개를 더하면 같은 모델이 더 똑똑하게 일을 합니다. GitHub에서 스타 10만~28만 개를 받은 저장소 4곳이 각각 무엇이고, 초보자에게 왜 도움이 되며, 어떻게 설치하는지 순서대로 정리했습니다. 가장 가벼운 것부터 시작합니다.
Claude Code에서 Opus 5.5로 작업 한 건을 맡기면 얼마가 들고, 무엇을 바꾸면 줄어드는지 정리했습니다. 토큰 단가는 Opus 5보다 20~60% 내렸지만 실제 비용은 요청 횟수와 캐시 재사용에 따라 달라집니다. effort 단계, 모델 나눠 쓰기, 캐시 지키는 법, /usage 확인법까지 순서대로 정리했습니다.
"진짜 쓸만할까?" 고민되는 분들을 위해 장단점을 정리하고, 무엇을 어떻게 확인했는지도 함께 답니다.
더 보기 →알리바바 Qwen의 125B MoE 모델 Qwen3.8-Flash-Next를 NVIDIA DGX Spark 한 대에 올리는 커뮤니티 레시피 다섯 개를 10일간 실제 서비스 서버에서 비교했다. 같은 4비트라도 같은 3D 코드 과제가 0/2에서 2/2까지 차이가 났고, 한국어에서는 초안 어휘 목록만 고쳐도 속도가 약 14% 올랐다.
GB10 한 대에 4비트 후보판 Qwen3.8-Flash-Next를 6일간 운영했습니다. 품질과 안정성은 합격인데, 체감 속도가 기본 모드에서도 같은 기계의 기본 모델(Gemma-4-26B)보다 1.4배 느렸습니다(41.7 대 29.1초). 사고를 최대로 켜면 한 답에 최대 33.7분까지 걸렸습니다. 모델이 아니라 GB10 한 대 구성의 병목입니다.
GB10 한 대에 Qwen3.8-27B를 사내 챗봇의 선택 모델로 3주째 운영하고 있습니다. 공개 지능 지표는 같은 기계의 기본 모델 Gemma-4-26B의 두 배(52 대 26)인데, 한국어 산문은 14~15 tok/s로 그 기본 모델(51.5)보다 3.4배 느렸습니다. 속도를 올리려 한 시도는 MTP 깊이 하나만 빼고 전부 실패했습니다.
