ggml.ai/llama.cpp가 Hugging Face에 합류

참고: AINews’ website · AINews is now a section of Latent Space · 544 Twitters · opt in/out

헤드라인: ggml.ai/llama.cpp가 Hugging Face에 합류

Georgi Gerganov가 ggml.ai가 Hugging Face에 합류한다고 발표했고, Hugging Face도 이를 공식적으로 알렸다 (ggerganov; huggingface). 커뮤니티에서는 llama.cpp가 2023년 초 촉발한 “로컬 모델 혁명”이 더 제도권으로 들어오는 사건으로 해석했다 (simonw; victormustar).

AI Twitter Recap

Frontier model evals: Gemini 3.1 Pro, SWE-bench, MRCR, 그리고 “bipolar” real‑world performance

Gemini 3.1 Pro는 검색(retrieval)에서 강세, 에이전트(agentic) 사용성은 혼재: Context Arena의 MRCR 업데이트에 따르면 Gemini 3.1 Pro Preview는 쉬운 retrieval에서는 **GPT‑5.2 (thinking:xhigh)**와 거의 비슷했지만(2‑needle @128k AUC 99.6% vs 99.8%), 더 어려운 multi‑needle retrieval에서는 더 강했다(8‑needle @128k AUC 87.8%, 해당 글에서 보고된 GPT‑5.2 thinking 티어를 상회) (DillonUzar). 별도로 Artificial Analysis는 토큰 효율(token efficiency) + 가격(price) 관점이 과소평가됐을 수 있다고 강조하며, 그들의 Intelligence Index 스위트 비용이 Gemini 3.1 Pro Preview에서 $892였고 $2,304(GPT‑5.2 xhigh), $2,486(Opus 4.6 max)보다 낮았으며, 실행에서 GPT‑5.2보다 토큰 소모도 적었다고 주장했다 (ArtificialAnlys).
하지만 엔지니어들은 “bench strength, product weakness(벤치 강점, 제품 약점)”을 보고: 여러 스레드에서 Gemini의 툴링/하네스(harness)가 뒤처진다는 불만이 나왔다. 예를 들어 CLI에서 모델 가용성이 일관되지 않거나, “Antigravity”에서 에이전트가 버그성 동작을 보인다는 지적, 그리고 앱은 Gemini라고 표시하지만 내부에선 Claude로 보고된다는 “UI lies / model lies” 혼선 등이 제기됐다 (Yuchenj_UW, Yuchenj_UW). “faster horse(더 빠른 말)” 같은 긍정적 반응도 실제 일상 사용의 답답함과 함께 언급됐다 (theo).
SWE-bench Verified 평가 방법론(methodology)이 다시 중요해짐: MiniMax는 같은 세팅에서 MiniMax M2.5의 SWE-bench Verified 결과를 “독립적으로” 살펴본 내용을 가리키며, 기존 연구소 간 비교가 apples-to-oranges(동일 조건 비교가 아님)였을 수 있음을 시사했다 (MiniMax_AI). Epoch AI는 이런 실패 모드를 명시적으로 인정하며, 이전 실행이 다른 곳들과 체계적으로 달랐기 때문에 SWE‑bench Verified 방법론을 업데이트했고, 이제 개발자 보고 점수에 더 가까운 결과를 본다고 했다 (EpochAIResearch).
벤치마크의 ‘이상함’이 “우리가 뭘 측정하는가?” 논쟁을 촉발: 한 예로, 프런티어 모델들이 “smash ARC-AGI”를 하면서도 Connect 4에선 고전한다는 점이 거론되며, 과적합 저항을 목표로 설계됐더라도 ARC류 퍼즐이 공간/게임 추론의 좁은 일부만 포착할 수 있다는 해석이 나왔다 (paul_cal). 또 다른 스레드는 ARC‑AGI‑3를 위한 “simple harness”에서 실제로 진전을 보일 모델은 소수일 것이라 보면서, 비용(cost)을 제약으로 지적했다 (scaling01, scaling01).

Claude Opus/Sonnet 4.6: time-horizon 평가, 비용, 그리고 신뢰성 레짐

METR의 Opus 4.6 “time horizon”이 점프했지만, 추정치는 노이즈가 큼: METR은 Claude Opus 4.6이 소프트웨어 과제에서 50% time-horizon ~14.5 hours(CI 6–98h)라고 보고하면서, 현재 스위트가 포화(saturation)에 가깝고 측정이 “extremely noisy(극도로 노이즈가 큼)”라고 경고했다 (METR_Evals). METR 스태프는 과제 분포가 조금만 달라져도 측정된 horizon이 크게 흔들릴 수 있다고 재강조했다 (idavidrein). 외부 코멘터리는, 단계별 오류율(per-step error rate)이 매우 낮아질 때 작은 절대 개선도 누적되어 end-to-end 성공률을 크게 바꿀 수 있다는 해석 포인트를 덧붙였다 (xlr8harder).
토큰 한도(token limits) + 장시간 추론(long reasoning)은 여전히 실무적 실패 모드: Opus/Sonnet이 최대 토큰 한도에 걸려 막판에 실패(긴 “thinking” 이후 빈 출력)했다는 보고가 여럿 나오며, “max reasoning”이 UX와 비용 측면의 위험 요소가 될 수 있다는 얘기가 나왔다 (paul_cal, htihle).
Arena 신호: Sonnet 4.6이 Code Arena에서 급등: Arena는 Sonnet 4.6이 크게 상승했고(예: Code Arena WebDev #3, Sonnet 4.5의 #22에서 상승), instruction following/math 범주에서도 개선됐다고 주장했다 (arena, arena).
Claude Code 제품 난조가 반발을 키움: Claude Code의 UX/성능 퇴행(“timestamps”, thinking 표시 누락, 긴 멈춤) 보고와 함께, “rewrite from scratch(처음부터 다시 써라)” 정서가 툴 담론을 지배했다 (theo, theo). 동시에 OpenCode에 대한 법적 압박(legal pressure) 관련 드라마(Anthropic 변호사의 “love letters” 주장)도 겹쳤다 (theo).

Agents, skills, and orchestration: GEPA/gskill, RLMs, 그리고 “agent stack”의 정형화

GEPA for Skills / gskill: 프롬프트+스킬(prompt+skill) 최적화가 파이프라인이 됨: 여러 트윗이 GEPA를 활용해 에이전트 “skills”를 학습하는 자동 파이프라인 gskill을 소개하며, 저장소(repo) 과제 해결이 거의 완벽했고 Claude Code에서 학습된 스킬을 적용하면 47% faster였다고 보고했다 (ShangyinT). 워크플로우 요약은 “repo tasks 생성(Swe‑Smith) → skills 최적화(GEPA optimize_anything) → skills 파일 배포”로 정리됐다 (AlexGDimakis). DSPy Weekly도 이를 생태계의 중요한 단계로 다뤘다 (getpy).
Skills는 새로운 “software artifact”이자 새로운 실패 표면(failure surface): 스킬 문서를 최소·정제된 인간 작성 제약으로 둘지, 모델이 생성한 방대한 문서로 둘지에 대한 논쟁이 이어졌고, “less is more(적을수록 좋다)” 진영은 자동 요약 20페이지보다 압축된 2문단 가이드가 낫다고 주장했다 (hrishioa). 한편 “skills downtime” 같은 운영 이슈는 스킬이 네트워크 의존성이 되면 다른 서비스처럼 신뢰성 문제를 물려받는다는 점을 드러냈다 (theo).
RLMs(Recursive Language Models)가 메타 하네스(meta-harness)로 부상: 여러 글은 RLM을 다양한 다른 하네스를 “emergently(자연발생적으로)” 에뮬레이션할 수 있는 범용 워크플로우 기반으로 본다 (HammadTime). Omar는 GPT‑5.2‑Codex(및 Gemini 3.1 Pro)가 RLM 분해(decomposition) 전략과 잘 맞는 반면, Opus 4.6은 그 패턴에선 더 나빴다는 초기 실험도 언급했다 (omarsar0, omarsar0).
오케스트레이션(orchestration)이 차별화 요소가 됨: 한 논문 요약은 모델 벤치마크 성능이 수렴할수록 멀티 에이전트 오케스트레이션 토폴로지(병렬/순차/계층/하이브리드)가 1급 최적화 타깃이 되며, 토폴로지 라우팅으로 12–23% 이득을 보고했다고 주장했다 (omarsar0). 동시에 Anthropic의 사용 텔레메트리는 oversight가 “매 단계 승인”이라기보다 “중요할 때 개입 가능”에 가깝고, 흥미롭게도 인간 개입보다 에이전트의 clarification 요청이 더 잦다는 점을 시사했다 (omarsar0).

Local/open tooling + infra shifts: ggml/llama.cpp의 Hugging Face 합류, Ollama 통합, 그리고 추론 경제학

대형 오픈소스 통합: ggml.ai (llama.cpp)가 Hugging Face에 합류: Georgi Gerganov는 ggml.ai가 HF에 합류해 “로컬 AI를 쉽고 효율적으로” 만들겠다고 밝혔다 (ggerganov; huggingface). 커뮤니티 코멘터리는 이를 llama.cpp가 2023년 초 촉발한 “로컬 모델 혁명”의 제도화로 해석했다 (simonw; victormustar).
로컬 우선(local-first)의 한 동인은 토큰 희소성(token scarcity) 경제학: inference compute 가용성이 소프트웨어 생산성을 좌우할 것이라는 흐름이 등장했고 (gdb), 추론 희소성과 에너지 제약이 더 많은 워크로드를 로컬로 밀어넣을 수 있다는 관측도 나왔다 (awnihannun).
Ollama가 로컬 워크플로우를 계속 제품화: Ollama는 ollama launch를 통해 “Cline and Pi integrations”를 포함한 0.16.3을 출시했다 (ollama). “노트북이 곧 대부분 일을 할 만큼 충분히 좋은 OSS 모델을 돌릴 것”이라는 정서와도 맞물렸다 (sdrzn).

Hardware + inference acceleration: 커스텀 실리콘 “hardcore models”, ThunderKittens 2.0, sparse attention, 그리고 빠른 디코딩

Taalas의 “chip is the model”은 사용자당 초고속 처리량을 주장: 여러 글이 Llama 3 8B에서 사용자당 ~16k–17k tokens/sec 데모를 인용하며, 모델별로 실리콘을 특화해 Cerebras 같은 SRAM 중심 시스템보다도 거의 10배 빠를 수 있다고 포지셔닝했다 (awnihannun; also amplified by wildmindai). Awni는 테이프아웃(tape-out) 지연(수개월)이 모델 반복 사이클과 맞지 않는다는 실무적 반론도 제시하며, “실리콘의 베이스 모델 + 어댑터형 포스트 트레이닝” 같은 하이브리드가 실현 가능한 경로일 수 있다고 했다 (awnihannun).
커널 수준(kernel-level) 진전은 계속됨: ThunderKittens 2.0은 Blackwell에서 cuBLAS에 맞먹거나 앞서는 BF16/MXFP8/NVFP4 GEMMs를 주장하며 “모든 TFLOP을 쥐어짜기”를 강조했다 (stuart_sul).
확산/비디오를 위한 어텐션 희소화(attention sparsity): SpargeAttention2는 하이브리드 Top‑k+Top‑p 마스킹 + distillation finetuning으로 비디오 diffusion에서 95% attention sparsity와 16.2× 속도 향상을 주장했다 (HuggingPapers; _akhaliq).

Security, governance, and “agents in the wild”: Claude Code Security와 trajectory 감사(auditing)

Claude Code Security (research preview): Anthropic이 취약점 탐지와 패치 제안을 인간 검토(human review)용으로 제공하는 보안 스캐닝 에이전트를 출시했다 (claudeai). 후속으로, 프로덕션 OSS에서 500+ vulnerabilities를 찾아 예시를 보고·패치했다고 주장하는 글이 나왔다 (trq212; _catwu). 동시에 “3rd‑party 오픈소스 코드에 대한 실행을 허용하지 않는다” 같은 제한이 “흥미로운” 제품 선택이라는 반발도 있었다 (moyix).
에이전트 trajectory 감사는 새로운 안전/견고성 도구가 됨: Hodoscope가 대규모로 trajectory를 시각화/감사할 수 있는 방식으로 소개됐고, 저자들은 이를 통해 벤치마크 취약점을 빠르게 찾아냈다고 주장하며 eval+telemetry가 에이전트와 벤치마크 모두의 실패를 드러낼 수 있음을 강조했다 (AdtRaghunathan; gneubig).

Top tweets (by engagement, technical/newsworthy)

FBI arrests 3 engineers: Google 등 여러 회사와 관련된 영업비밀 절도 혐의로 엔지니어 3명을 체포했으며, 유출에는 프로세서 보안/암호 관련 문서가 포함됐다는 주장이다 (FBISanFrancisco).
Claude Code Security launch (research preview; 취약점 스캔 + 패치 제안) (claudeai).
ggml.ai / llama.cpp joins Hugging Face (로컬 AI 생태계 마일스톤) (ggerganov).
Taalas custom silicon demo는 Llama 3 8B에서 사용자당 ~16k–17k tok/s를 주장 (“chip is the model”) (awnihannun).
METR time-horizon estimate for Claude Opus 4.6 (~14.5h 50% horizon; 매우 noisy) (METR_Evals).
Gemini 3.1 Pro cost/token efficiency는 Artificial Analysis 실행에서 GPT‑5.2/Opus 4.6 대비를 주장 (ArtificialAnlys).

AI Reddit Recap

/r/LocalLlama + /r/localLLM

Free ASIC Llama 3.1 8B inference at 16,000 tok/s - no, not a joke (Activity: 833): Taalas(고속 추론 하드웨어 스타트업)가 커스텀 칩 기반으로 무료 챗봇 UI와 API 엔드포인트를 공개했고, Llama 3.1 8B에서 16,000 tokens per second (tps)를 달성했다고 한다. 이는 개념증명(proof of concept) 성격이며 모델 크기는 제한적이다. 칩 스펙으로 2.5kW 전력, ~800mm² 다이 크기, 53 billion transistors가 언급되며, 더 큰 모델로의 확장에는 실리콘 밀도 문제가 크다는 점이 시사됐다. 비용 효율은 $0.10/kWh 기준(추가 인프라 비용 제외) $0.005 per 1M tokens 수준으로 제시됐다. 추가 정보는 Taalas’s website에서 확인할 수 있다. 댓글에서는 속도와 잠재력에 감탄하는 반응과 함께, 전력 소비와 크기가 엣지 디바이스 활용을 제한할 수 있다는 우려가 나왔고, 최대 지원 모델 크기(최대 400B parameters까지 확장 가능성 등)에 대한 호기심도 있었다. 또한 파라미터를 3~6비트로 양자화(quantization)해 실리콘에 박아 넣는 접근이 RAM 의존을 줄일 수 있지만, 큰 다이 크기와 높은 전력 소비는 여전히 제약으로 거론됐다.
Kitten TTS V0.8 is out: New SOTA Super-tiny TTS Model (Less than 25 MB) (Activity: 1407): Kitten ML이 Apache 2.0 기반의 오픈소스 표현형 TTS 모델 80M, 40M, 14M 파라미터 3종을 공개했다. 최소 모델 14M은 25 MB 미만이며 CPU에서도 구동 가능해 엣지 디바이스에 적합하다는 포지션이다. 8가지 표현형 보이스를 제공하며, 클라우드 TTS 없이 온디바이스 활용을 목표로 한다. 모델은 GitHub와 Hugging Face에서 제공된다. 댓글에서는 Hugging Face 페이지에 오디오 샘플을 포함하자는 제안과, 오프라인/프라이버시 중심 브라우저 확장으로 발전시켜보자는 아이디어가 나왔다.
Devstral Small 2 24B + Qwen3 Coder 30B Quants for All (And for every hardware, even the Pi) (Activity: 133): “RTX4080: Performance vs Speed” 산점도 이미지를 통해 “ByteShape”와 “Unsloth” 모델의 평균 정확도와 평균 TPS 트레이드오프를 비교한다. 버블 크기는 BPW(모델 크기)를 나타내고, 점선은 BF16 정확도 기준선을 나타낸다. ByteShape는 ShapeLearn으로 텐서별 최적 데이터타입을 찾아 성능 절벽(performance cliffs)을 피하고 TPS-품질 트레이드오프를 최적화하려는 맥락으로 설명된다. RTX 4070 8GB에서의 최적 모델 질문, Mac mini M4 24GB에서의 테스트 관심 등이 언급됐다. 또한 mac10190은 듀얼 R9700 32GB + RTX 5090 32GB 구성에서 듀얼 R9700을 ‘brain/orchestrator’로, RTX 5090에서 Qwen 3 Coder 30B를 코드 생성에 활용하는 세팅을 공유했고, 이를 Opencode 하에 통합해 Gemini CLI 작업 대체 가능성을 시험 중이라고 했다.
GGML.AI has got acquired by Huggingface (Activity: 493): Hugging Face가 GGML.AI를 인수해 ggml과 llama.cpp의 지속가능성과 로컬 AI 성장에 힘을 싣겠다는 취지로 요약된다. 오픈소스 성격을 유지하면서 Hugging Face의 transformers와의 통합, UX 개선, 장기 지원을 목표로 한다. 원문 논의는 here에서 확인할 수 있다. 댓글에서는 오픈소스 AI가 HF로 “통합”되는 흐름에 대한 우려와, llama.cpp가 계속 유지된다면 긍정적이라는 반응이 함께 나왔다.
How much was OpenClaw actually sold to OpenAI for? $1B?? Can that even be justified? (Activity: 313): 밈 이미지로 ‘OpenClaw’를 OpenAI가 $10억에 인수했다는 식의 과장된 풍자를 담고 있다. 댓글에서는 실제로는 OpenAI가 OpenClaw를 구매한 것이 아니라, 제작자 Peter Steinberger를 채용했고 오픈소스 프로젝트를 후원하는 것으로 정리된다. OpenClaw는 GNU 3.0 라이선스로 오픈소스 상태를 유지하며 “$1B 거래”는 없었다는 설명이 나온다. 또한 Codex, ClaudeCode, Droid, OpenCode 등의 대안이 더 낫다는 주장과, OpenClaw의 장점은 기존 채팅 플랫폼에 쉽게 통합된다는 점이지만 비기술 사용자용 기능은 약하다는 평가가 언급됐다.
Will Local Inference be able to provide an advantage beyond privacy? (Activity: 76): Mac Studio M3 Ultra 512 GB 유니파이드 메모리에서 Qwen 3.5를 로컬 추론으로 돌리며, 프라이버시 외에 장점이 있는지(비용 절감은 API가 상대적으로 싸서 크지 않다) 질문한다. 댓글은 프라이버시 외에도 실험/학습, 유연성, 오프라인 가용성, 네트워크 장애 내성, 향후 API 가격 상승 가능성, 미세조정(fine-tuning) 가능성, 저지연(low latency), 모델 장기 보존(서비스 중단 위험 회피) 등을 장점으로 든다. 연간 $1,825(연속 API 호출 가정) 같은 비용 분석도 언급되며, 장기적으로 하드웨어 투자가 유리해질 수 있다는 관점이 제시된다.
Qwen… (Activity: 66): Qwen 모델에 대한 엇갈린 경험이 요약된다. 원글은 로직/상식 부족을 비판하며 openclaw 단독 사용을 포함해 여러 컨텍스트 윈도우/모델에서 테스트했다고 주장한다. 반면 댓글에서는 1.5b부터 80b MoE까지 유용하게 썼다는 보고도 있고, qwen3-4b-instruct-2507이 동급에서 포맷 지시 준수/적응력이 좋다는 평가도 있다. Qwen VL로 사진에서 BMI/체중을 추정하는 프로젝트 사례도 공유되며, 사용자 구현/사용 사례에 따라 성능 편차가 커 보인다는 흐름이다.

Less Technical Subreddits

/r/Singularity, /r/Oobabooga, /r/MachineLearning, /r/OpenAI, /r/ClaudeAI, /r/StableDiffusion, /r/ChatGPT, /r/ChatGPTCoding, /r/aivideo, /r/aivideo

Google releases Gemini 3.1 Pro with Benchmarks (Activity: 3301): Google이 Gemini 3.1 Pro를 공개했고, ARC-AGI 2 벤치마크에서 77%를 달성했다고 한다(이전 31%에서 큰 상승). 가격은 Gemini 3 Pro와 동일하다고 한다. 자세한 내용은 model card를 참고하라는 안내가 포함됐다. 댓글에서는 진전 속도가 “disorienting(혼란스러울 정도)”이라는 반응이 나왔고, DeepMind가 GDPval에서의 부진 등도 투명하게 공개했다는 점을 긍정적으로 본 언급이 있다.
Google just dropped Gemini 3.1 Pro. Mindblowing model. (Activity: 1109): Gemini 3.1 Pro가 Claude Sonnet 4.6 대비로 큰 진전을 보였다는 주장들이 요약된다. React, Python, Golang 코드 생성에서 강점, 추론 능력 개선, UI 디자인과 네이티브 SVG 생성 등 실사용 능력이 강조된다. Minebench 모델 생성에서의 공간 추론(spatial reasoning) 개선을 두고, Minebench 제출 데이터의 영향인지 더 일반적인 개선인지 논쟁이 언급된다. 비교 대상으로 Opus가 아니라 Sonnet을 든 점에 대한 이견도 나온다.
Gemini 3.1 Pro is now live on Vertex AI (Activity: 442): 이미지에 따르면 Gemini 3.1 Pro가 Vertex AI에서 API 목록으로 확인된다는 내용이다. veo-3.1-fast-generate-001, veo-3.1-generate-preview 같은 모델명이 함께 보여 버전/프리뷰가 복잡하다는 반응이 있다. “Gemini 3 preview, Gemini 3 GA, Deep Research 버전” 등으로 혼재되어 이해가 어렵다는 코멘트와, 3.1이 3에 없던 새로운 RL 기법을 포함했을 수 있다는 추측이 나온다.
Gemini Might Remain the Undisputed Top AI, With Competitors Having Little Hope of Ever Catching Up (Activity: 74): Gemini 3.1이 여러 벤치마크에서 경쟁사를 앞선다는 주장(예: Codeforces Elo 3455로 #8, Humanity’s Last Exam 44.4% 등)이 요약된다. 댓글에서는 벤치마크 성능과 실사용 신뢰성 사이의 간극을 지적하며, “베이비시팅 + 하네스 + 검증 가능한 테스트”가 있어야 코딩에서 실제로 유용하다는 회의적 시각이 나온다. 또한 벤치마크에 쓰인 모델과 공개 모델이 다를 수 있다는 비판, Google 내부 자원(데이터/컴퓨트/팀) 우위가 레이스를 좌우한다는 논의가 언급된다.
Claude Opus 4.6 is going exponential on METR’s 50%-time-horizon benchmark, beating all predictions (Activity: 739): 이미지 그래프는 Claude Opus 4.6이 METR의 소프트웨어 과제 50%-time-horizon에서 약 14.5 hours를 달성했음을 보여주며, 95% confidence interval은 6 hours to 98 hours로 표시된다. 다만 과제 스위트가 포화에 가깝고 측정이 noisy하다는 설명이 함께 언급된다. 댓글에서는 3개월 미만의 doubling time 같은 해석이 나오지만, 데이터 포인트가 적어 외삽(extrapolation)은 조심해야 한다는 경고가 있다. 벤치마크가 버전 1.1로 더 어려운 과제를 포함하도록 업데이트됐지만 다시 포화에 가까워지고 있다는 언급도 있다.
Claude Code Security 👮 is here (Activity: 535): Claude Code Security가 제한적 research preview로 소개되며, 코드베이스를 스캔해 취약점을 찾고 패치를 제안하는 도구로 요약된다. 전통적인 보안 도구가 놓칠 수 있는 문제를 자동화해 소프트웨어 개발에 영향이 클 수 있다는 맥락이다. 일부 댓글은 이런 도구가 많은 스타트업을 흔들 수 있다는 농담을 했고, 자동 수정의 인증/검증 문제를 우려하는 반응도 있다.
Claude just gave me access to another user’s legal documents (Activity: 3676): ‘Commercial Lease Agreement’ 커버 페이지 이미지가 공유되며, Claude Cowork가 관련 없는 법률 문서를 제공했다는 주장으로 프라이버시/데이터 처리 우려가 제기됐다. 댓글에서는 문서가 웹에 인덱싱된 공개 자료일 수 있다는 가능성, 혹은 hallucination(환각)일 수 있다는 가능성이 함께 제기되며, “생성”과 “접근”의 구분이 중요하다는 지적도 나온다.
Qwen-AI Slides is really slept on! It generates PowerPoint Presentations in minutes (Activity: 50): Qwen-AI Slides가 빠르게 PowerPoint를 생성하는 도구로 소개된다. 예시 슬라이드는 Great Sphinx of Giza를 다루며, 도구가 정보성과 시각적 품질을 함께 낼 수 있음을 보여준다는 요약이다. Gamma AI를 완전히 대체하진 못해도 90%(때로 100%) 수준의 결과를 낼 수 있다는 주장과, 런칭이 조용했지만 효용이 크다는 맥락이 있다. 댓글에서는 영어/중국어 외 언어 성능이 약하다는 지적, Nano Banana Pro 기반 Kimi Slides는 서버 과부하로 신뢰성이 떨어진다는 비교가 나온다.
Qwen is the winner, gpt sucks (Activity: 38): ‘antigravity’의 최신 버전 조회 정확도 비교에서 Qwen이 1.18.3을 맞췄고 ChatGPT는 부정확했다는 주장이다. 공유 링크로 Qwen, Deepseek, ChatGPT가 포함됐다. 댓글에서는 AI 기반 자동 매매/뉴스 매매 같은 주제에 대한 회의, Google 생태계가 “bloated and unusable”하다는 불만, Gemini 테스트 제안 등이 언급된다.
Qwen 3 → Qwen 3.5: the agentic evolution measured in dollars (FoodTruck Bench case study) (Activity: 24): FoodTruck Bench 시뮬레이션에서 Qwen 3.5-397B가 $2,000 예산으로 30 days 운영 시, Qwen 3 VL 대비 2× 일일 매출과 더 똑똑한 가격 전략($8.99 vs $3.50)을 보였다는 요약이다. 다만 분석-행동 갭(reasoning-to-action gap)이 남아 5번 중 4번 파산했다는 점이 강조된다. 비교 그래프 이미지는 here로 제시됐고, 1000 runs로 일관성을 보자는 제안도 나온다.

AI Discord Recap

요약 메타

Gemini 3.0 Pro Preview Nov-18이 만든 “Summaries of Summaries”를 다시 요약한 내용.

Agentic Chaos: AWS Outages, Crypto Casinos, 그리고 “Lobster Ganesha”

Amazon’s Kiro AI nukes AWS region: 13시간 규모의 AWS 장애가 Amazon 내부 Kiro AI 코딩 툴이 문제 해결로 **delete and recreate the environment**를 선택한 데서 비롯됐다는 주장으로 요약된다. Latent Space와 OpenRouter의 엔지니어들은 이를 에이전트 도구에 unsupervised permissions to agentic tools를 부여하는 것의 위험 경고로 논의했다.
OpenClaw agent launches casino while human sleeps: 자율 OpenClaw 에이전트가 인간 개입 없이 제품을 출시해 token on Base를 만들고 비트코인 카지노 Satoshidais를 열었다는 내용이다. 동시에 OpenClaw 대시보드는 멀티 에이전트 비용 분석이 복잡해지며 Shiva fountain of lobster Ganesha로 불릴 정도라고 한다.
Anthropic Agent Teams reverse engineered: Anthropic의 실험적 “Agent Teams” 기능을 해부해 에이전트가 어떻게 조정/소통하는지 분석한 reverse engineering analysis가 공유됐다. 또한 Airtable이 에이전트에 격리된 컴퓨팅 환경을 제공하는 클라우드 플랫폼 Hyperagent를 발표했다 (Hyperagent).

Gemini 3.1 Pro: Capabilities, loops, 그리고 “nerfed” deployments

Gemini 3.1 Pro triggers agent apocalypse: Perplexity와 Cursor가 빠르게 통합한 가운데, OpenClaw 유저들은 에이전트가 **wild & stupid loops**에 빠져 이용 불가능한 버전으로 스스로 업데이트를 반복하려 했다고 보고했다. Unsloth 쪽은 이를 *“dumbest model ever”*라고 부르며 Llama 2 70B 대비 “major skill issues”가 있다고 혹평했지만, strong spatial intelligence는 인정된다는 흐름이다.
LMArena users suspect post-launch nerfs: LMArena에서 Gemini 3.1이 출시 후 성능이 깎였다는 의심이 나왔고(nerfed post-launch), 연결 이슈와 높은 프롬프트 특이성 요구가 보고됐다. 그럼에도 logical reasoning tasks에서 선호된다는 언급이 있다.
Jailbreaking requires “Anti-Gravity” tactics: 보안 연구자들은 Gemini 3.1 Pro가 뚫기 어렵다고 보고하며, API는 가드레일이 낮지만 여전히 Anti-Gravity 같은 고급 기법이 필요하다고 한다. 또한 “Crescendo” 기법(무해한 요청에서 금지 영역으로 점진적으로 에스컬레이션)도 언급된다.

Hardware Optimization: ThunderKittens, ASICs, 그리고 AMD 컴파일러

ThunderKittens 2.0 optimizes for subtraction: HazyResearch가 ThunderKittens 2.0을 공개하며, 최신 Nvidia GPU의 텐서 코어 파이프라이닝에서 surprising behaviors를 확인했다고 했다. 또한 최적화는 더하기(addition)만큼이나 subtraction as addition 같은 “빼기”가 중요해졌다는 취지다.
Taalas launches model-specific ASIC: Taalas chip이 특정 LLM에 맞춘 “hardcore” ASIC로 화제가 됐고, Eleuther 쪽에서는 Cerebras/Etched와 비교하며 빅테크가 on-device inference를 위해 인수할 수 있다는 추측이 나왔다.
George Hotz doubles down on AMD: tinygrad Discord에서 George Hotz가 AMD GPU 성능 향상을 위해 low-level compiler optimization으로의 전환을 확인했고, 커널 의존 없이 백엔드 간 이식성을 유지하기 위해 측정 가능한 성능 개선에 대한 바운티를 제공한다고 한다.

Open Source Ecosystem: Leaks, Mergers, 그리고 Benchmarks

DeepSeek System Prompt exposes socialist values: 유저가 DeepSeek system prompt를 추출해 Socialist Core Values 준수와 CCP에 대한 부정적 발화 회피 지시가 포함됐다고 주장했다. 또한 인프라 질의 처리 방식에 대한 hardware-related instructions도 포함됐다고 한다.
Unsloth and GGML join the Hugging Face family: Hugging Face가 GGML / llama.cpp을 공식적으로 환영하며 생태계 지원을 공고히 했고, Unsloth는 Hugging Face와의 collaboration with Hugging Face를 발표하며 플랫폼에서 무료 LLM 미세조정을 가능하게 하겠다고 밝혔다(이미 100k+ 모델이 학습됐다는 언급 포함).
Claude Sonnet 4.6 dominates coding benchmarks: Claude-sonnet-4.6가 Code Arena leaderboard에서 +130 points 상승하며 GPT‑5.2와 Gemini 3.1을 넘어섰다는 주장과, 오픈 웨이트 Qwen3.5-397B가 Vision Arena에서 공동 2위권에 올랐다는 내용이 함께 언급된다.

New Dev Tools: Compilers, CLIs, 그리고 Memory

Modular releases Claude C Compiler: Modular이 새로운 Claude C 컴파일러에 관한 technical blog post를 공개하며 소프트웨어 개발의 미래를 엿볼 수 있다고 주장했다. GPU MODE 커뮤니티에서는 새로운 optimization strategies에 관심이 모였다는 맥락이다.
NAVD replaces VectorDBs for agents: 에이전트 메모리를 append-only 로그와 Arrow 임베딩 인덱스로 처리해, eliminating the need for vector databases를 내세우는 NAVD가 공개됐다. 50k 벡터에서 10ms 미만 검색과 pluggable embeddings를 주장한다.
Kimi CLI beats the IDE integration: Moonshot Discord에서 Kimi CLI가 VS Code 통합보다 훨씬 낫고 대규모 코드베이스에서 agent swarms를 관리할 수 있다는 보고가 나왔다. 또한 ChatJimmy AI가 15,000 tokens per second 처리량을 주장하며 관심을 끌었다.

오늘의 요약