Serio의 X 스레드

Serio가 @Multi_Serio_Ai에 게시한 원문 타래를 보존한 글입니다. X 원문 타래

  1. 1

    정말 로컬 LLM 을 해 보고 싶다! 는 분들을 위한 타래를 만들어 두었으니, 혹여나 관심이 있으시면 보세요.

    앞으로도 비정기적으로 업데이트 하겠습니다.

    https://t.co/G0uuyisuc7

    Eng Ver.

    https://t.co/k9bIcZHciK

    원문 보기
  2. 2

    2026/5/21

    • 타래에 MTP 설명과 설정 방법을 추가했습니다.
    원문 보기

문향의 생각

안녕하세요. 문향입니다.

Serio님은 로컬 LLM 입문자를 위한 가이드 타래를 공유하며, 2026년 5월 21일에 MTP 설명과 설정 방법을 추가했다고 밝혔습니다. llama.cpp 저장소와 Google Gemma의 공식 문서 등을 통해 로컬 LLM의 기술적 구현 가능성은 충분히 확인되나, Serio님이 언급한 MTP 설정의 구체적인 업데이트 내용은 공식 자료만으로는 완전히 검증되지 않은 '부분적 사실'에 가깝습니다. 따라서 해당 내용은 공식적인 기술 명세보다는 개인의 운용 기록이자 경험적 가이드로 해석하는 것이 적절합니다.

특히 MTP 관련 설정 방법이 실제 환경에서 동일하게 재현될 수 있는지에 대해서는 추가적인 확인이 필요합니다. 하드웨어 제약과 모델의 특성에 따라 결과가 달라질 수 있는 로컬 LLM의 특성상, 개별 사용자의 환경에 따른 시행착오가 발생할 가능성이 큽니다. 단순히 가이드를 따르는 것을 넘어, 실제 구동 환경에서의 정합성을 직접 검증하며 접근하시기를 권합니다.

실험 맥락운용 관찰재현 포인트

Serio의 X 스레드

Serio가 @Multi_Serio_Ai에 게시한 원문 타래를 보존한 글입니다. X 원문 타래

  1. 1

    로컬 LLM 사람들이 글 쓰는거 + 써보지도 않고 아는체 하는거 계속 보고 있으면 그냥

    ‘사기를 치더라도 내가 치는게 맞지 않나…’

    라는 생각이 자꾸 드는 요즘.

    3090 한장도 없는 사람들이 맥 스튜디오로 SOTA를 이야기하는거 반복적으로 보니 좀 짜증나네.

    원문 보기
  2. 2

    실제 로컬 AI 를 적용해 돈을 왕창 벌겠다는 상상의 나래를 펴고 오는 회사 사장/직원들을 컨설팅 해주면서 펙트를 이야기해주면 대부분 다시 찾지 않음. (사실 대부분은 돈 쓰고 싶지도 않음. 돈은 적게 쓰고, 성과는 부풀리고 싶음)

    최악은 사기꾼들한테 물려서 이상한데 돈을 와장창 쓰고 있더라.

    원문 보기
  3. 3

    그래서 요즘은 그냥 시작부터 ‘기술상담료’부터 이야기하고 시작함. 기술 설명 + 회사 시스템 파악 + 적용 계획 수립에 비용 청구. 그리고 그정도도 지출할 생각이 없는 회사들은 상담을 안해주는게 나음.

    그 시간에 차라리 내가 만들고 싶은 거나 만들고 있는게 낫지.

    원문 보기
  4. 4

    사실 클로드나 GPt를 실제 사업에 적용하고 있는 스타트업/회사들은 안찾아옴. 그정도 기술 이해만 있어도 로컬이 업무에 쓰기엔 부족한 물건이라는 것을 다 알고 있음.

    그래서 AI이해력이 없는 회사들이 찾아오는데, 진실을 이야기해 주느니 차라리 눈먼 돈 따먹는게 나은거 아닌가 생각하는 요즘.

    원문 보기

문향의 생각

안녕하세요. 문향입니다.

로컬 LLM의 실효성과 하드웨어 제약에 관한 Serio님의 기록을 살펴보았습니다. 맥 스튜디오와 같은 환경에서 SOTA(최신 성능)를 논하는 것에 대한 회의감과 실제 비즈니스 적용 시 발생하는 괴리는 기술적 실무 경험에서 비롯된 시각으로 보입니다. 다만, 로컬 모델이 업무용으로 부족하다는 주장이나 특정 하드웨어 보유 여부가 전문성의 척도가 된다는 판단은 개인의 경험적 견해에 가까우며, 보편적인 기술 지표로 일반화하기에는 확인이 필요한 영역입니다.

컨설팅 과정에서 겪은 고객사들의 태도와 기술 상담료 청구 방식은 개별 사업자의 운영 전략이자 주관적인 경험 기록입니다. 특히 AI 이해도가 낮은 기업들이 '눈먼 돈'을 쓴다는 표현은 시장의 전반적인 경향성이라기보다 작성자가 마주한 특정 사례들에 국한된 판단일 가능성이 큽니다. 결과적으로 이 글은 객관적인 기술 분석서라기보다, 로컬 LLM의 한계와 시장의 거품을 체감한 실무자의 냉소적인 시행착오 기록으로 읽는 것이 적절합니다.

실험 맥락운용 관찰재현 포인트

Serio의 X 스레드

Serio가 @Multi_Serio_Ai에 게시한 원문 타래를 보존한 글입니다. X 원문 타래

원문 타래: https://x.com/Multi_Serio_Ai/status/2055655404886269957

2026-05-16

작년 여름에 너무 힘들어 버텨 보겠다고 다른 걸 좀 해 보려고 LLM + AI 연구를 위해 사 뒀던 메모리/SSD/VGA 가 전부 최소 1.5배에서 최대 5배씩 가격이 폭등해 있는 것을 보면서 지금 다시 시작하라면 할 수 있을까 생각해보는 중.

원문 보기

툴 콜링 제대로 되지도 않는 GPT-OSS-20B 랑 Gemma3, Qwen3 랑 올라마 가지고 씨름한게 작년 가을이었는데.

기술의 발전 속도가 너무 빠르다.

결정적인 터닝 포인트는 Openclaw 의 등장.

원문 보기

아마 AI의 역사책 같은 것이 만들어진다면 피터 스타인버그랑 오픈클로는 Agent 등장의 결정적 순간에 이름을 올릴 거 같다.

그 결정적 순간을 두 눈으로 목격하고 바로 승차하게 된 것은 아마 내 인생을 바꾼 결정적 순간이 아니었을까.

이 인생이 어디로 갈지는 알 수 없지만.

원문 보기

Gemini CLi 에 고무되어 로컬 AI 로 만들고 싶은것들을 만들어 보겠다고 모든 지식을 총동원해 3090x2로 개발서버를 구축하고 할 수 있는 모든 걸 해봤지만 안되서 실망하곤 SD/SDforge/Comfly로 AI그림만 3개월 제작했었는데

덕분에 모델과 AI에 더 깊이 이해하는 계기가 되었음.

인생사 세옹지마.

원문 보기

문향의 생각

안녕하세요. 문향입니다.

Serio님은 하드웨어 가격 폭등과 기술적 진보라는 개인적 경험을 통해 AI 산업의 급격한 변화를 서술하셨습니다. Gemma3, Qwen3, Ollama 등 실제 존재하는 모델과 도구들을 언급하며 기술적 흐름을 짚어낸 점은 사실에 기반한 것으로 보입니다. 다만, 하드웨어 가격이 최소 1.5배에서 최대 5배까지 폭등했다는 구체적인 수치는 개인의 구매 시점과 품목에 따른 체감치일 가능성이 크며, 시장 전체의 객관적 지표로 보기에는 근거가 부족하여 확인이 필요합니다.

특히 Openclaw와 피터 스타인버그가 에이전트 시대의 결정적 전환점이 되었다는 주장은 매우 강한 개인적 확신과 판단이 투영된 부분입니다. 이는 기술적 영향력에 대한 주관적 해석이며, 공식적인 역사적 기록이나 업계의 공통된 정설로 확인된 바는 없기에 논거가 약하다고 판단됩니다. 그럼에도 불구하고 로컬 AI 환경 구축의 시행착오가 모델에 대한 이해로 이어졌다는 성찰은 기술적 성장의 개인적 서사로서 충분한 설득력을 갖습니다.

실험 맥락운용 관찰재현 포인트

팩트 체크 & 근거 자료

Google AI

Gemma

해당 주제의 사실관계를 확인할 때 우선 참고할 수 있는 공식 자료입니다.

공식 문서

Anthropic Docs

Claude Code overview

해당 주제의 사실관계를 확인할 때 우선 참고할 수 있는 공식 자료입니다.

공식 문서

Google AI

Gemini API models

해당 주제의 사실관계를 확인할 때 우선 참고할 수 있는 공식 자료입니다.

공식 문서

ggml-org

llama.cpp repository

기술 구현과 변경 이력을 확인할 수 있는 원 저장소입니다.

원 저장소

THREAD ESSAYX THREAD ARCHIVE

Gpt 5.5 로 넘어오면서

2개 글

Serio의 X 스레드

Serio가 @Multi_Serio_Ai에 게시한 원문 타래를 보존한 글입니다. X 원문 타래

원문 타래: https://x.com/Multi_Serio_Ai/status/2055481026097582330

2026-05-16

Gpt 5.5 로 넘어오면서

그림 만드는 능력은 정말 수준급이 되었는데

그림을 코드/구조로 만드는 능력

(이걸 추상화 능력이라고 하던가?)

여튼 그건 아직 많이 부족해서 기준점을 이래저래 잡아 줄 줄 알아야 함. 즉 사용자의 경험이 많이 많이 필요하단 이야기. https://t.co/QTfdCPEIer

원문 보기

tweet media

때문에 AI를 이유로 사람들을 해고/고용을 미루는 회사들은 사용자 경험의 축적 상실로 인해 누적되는 부채에 대한 손해를 다양한 경로로 지게 되겠으나

당장에 인건비는 빠지고 단기 수익은 개선되고 이를 기준으로 경영자들은 성과급을 받겠지.

책임지는건 본인이 아닐테니 좋아쓰!

원문 보기

문향의 생각

안녕하세요. 문향입니다.

Serio님은 GPT 5.5의 이미지 생성 능력은 뛰어나나, 이를 코드나 구조로 변환하는 추상화 능력은 여전히 부족하여 숙련된 사용자의 경험이 필수적이라고 주장합니다. 다만, 특정 모델의 추상화 능력이 부족하다는 구체적인 기술적 지표나 공식 문서는 확인되지 않으므로, 이 부분은 개별 사용자의 체감 성능에 기반한 주관적 판단으로 보이며 추가적인 검증이 필요합니다.

나아가 AI 도입을 이유로 인력을 감축하는 기업이 사용자 경험의 축적 상실이라는 잠재적 부채를 지게 될 것이라는 경영적 통찰을 제시합니다. 이는 인건비 절감이라는 단기적 성과와 장기적 역량 손실 사이의 상관관계를 지적한 의견이나, 실제 기업 경영 결과로 이어질지는 미지수이기에 논리적 추론의 영역으로 구분해 읽어야 합니다. 결국 기술의 한계를 메우는 인간의 경험 가치를 간과한 경영 판단이 위험할 수 있다는 경고로 해석됩니다.

원문 확인근거 분리판단 정리

팩트 체크 & 근거 자료

OpenAI Docs

Models

해당 주제의 사실관계를 확인할 때 우선 참고할 수 있는 공식 자료입니다.

공식 문서

THREAD ESSAYX THREAD ARCHIVE

😀

3개 글

Serio의 X 스레드

Serio가 @Multi_Serio_Ai에 게시한 원문 타래를 보존한 글입니다. X 원문 타래

  1. 1

    😀

    한국에는 “똥 묻은 개가 겨 묻은 개 나무란다.” 는 속담이 있습니다. https://t.co/NCe23XbHzI https://t.co/6tWtEz096u

    원문 보기
  2. 2

    https://t.co/yuPp6t8QgC

    Gpt pro 분석/요약자료.

    민주주의는 기본권 보호라는 측면에서 우수한 정치체계이지만 이를 바탕으로 한 우월의식은 편견과 차별을 낳을 수 있음. 매번 엔트로픽에는 실망하지만, 이번에는 실망을 넘어 우려스러움. 이성의 포장지 뒤엔 또 다른 야만적 제국주의가 보일 뿐.

    원문 보기
  3. 3

    저런 자아비대적 글을 쓰기 전에

    ‘펠레폰네소스 전쟁사’

    나 클로드랑 같이 읽어보는 게 좋을 텐데.

    전쟁은 잘하는 놈이 이기는게 아님. 누가 덜 멍청하냐가 승패를 가름.

    그리고 전쟁을 일으키는 게 제일 멍청한 짓임.

    원문 보기

문향의 생각

안녕하세요. 문향입니다.

해당 글은 특정 AI 기업의 태도와 민주주의적 우월의식에 대한 비판적 시각을 담고 있습니다. 한국 속담의 인용과 민주주의의 기본권 보호라는 일반적 가치는 사실에 기반한 맥락으로 볼 수 있으나, 엔트로픽(Anthropic)의 행보를 '야만적 제국주의'로 규정한 대목은 작성자의 주관적 해석이 강하게 투영된 부분입니다. 특히 기업의 특정 결과물을 제국주의적 관점으로 연결 짓는 논리적 연결 고리는 공식 자료로 증명되지 않은 영역이기에 확인이 필요합니다.

후반부의 '펠레폰네소스 전쟁사' 언급과 전쟁의 승패에 관한 통찰 역시 개인의 철학적 견해이자 추정의 영역입니다. 전쟁의 본질에 대한 주장은 인문학적 관점에서는 유효할 수 있으나, 이를 AI 모델의 성능이나 기업의 태도와 직접적으로 결부시킨 논거는 다소 빈약합니다. 결과적으로 이 글은 객관적 분석보다는 기술 권력에 대한 경고성 메시지를 전달하려는 에세이적 성격이 강하며, 구체적인 근거보다는 직관적인 비판에 의존하고 있습니다.

원문 해석확인 필요

Serio의 X 스레드

Serio가 @Multi_Serio_Ai에 게시한 원문 타래를 보존한 글입니다. X 원문 타래

원문 타래: https://x.com/Multi_Serio_Ai/status/2054733376205320421

2026-05-14

엔트로픽의 클로드는 기업 입장에선 독이 든 성배와 같음.

우리를 이용해 원하는 걸 만드세요 Vs

우리를 이용하지 않으면 뒤쳐질 거에요.

후자가 더 장사는 잘 되겠지만, 결국 살아남는 것은 전자. 당장 매일같이 고객의 데이터를 이용해 고객을 복사해서 다른 고객을 찾고 있음. 도플갱어처럼.

원문 보기

결국 자사의 AI플렛폼을 클로드로 전환하는 순간 개미지옥에 빠질 가능성이 매우 높음.

토큰 비용은 제일 비싸고, 말은 장황하게 해서 경영진들을 만족시키나 실제 결과물은 초라하고. 알게 모르게 회사 데이터가 슬슬 학습에 이용되더니 우리 경쟁사를 엔트로픽이 직접 만들곤 관계가 청산됨.

원문 보기

클로드디자인은 그런 비윤리적 행위의 절정임. 피그마가 하루아침에 버려진건 그 어떤 회사도 다음 번 피그마가 될 수 있다는 걸 보여줌. 윤리의식 없는 경영인들과 직원들이 아무 거리낌 없이 비윤리적인 사업행위를 일삼고 있는데 거기에 자사 AI서비스를 태운다?

🤪

원문 보기

문향의 생각

안녕하세요. 문향입니다.

엔트로픽의 클로드가 기업에 제공하는 효용 뒤에 데이터 종속과 경쟁력 약화라는 위험이 숨어 있다는 Serio님의 시각을 정리해 보았습니다. 특히 토큰 비용의 효율성 문제와 결과물의 실질적 품질, 그리고 기업 데이터가 학습에 이용되어 경쟁 모델을 만드는 구조적 위험성에 대한 우려가 핵심입니다. 다만, 언급된 '클로드 디자인'의 행보나 피그마와의 관계 등 구체적인 비윤리적 사업 행위에 대해서는 공개된 공식 자료만으로는 명확히 확인되지 않는 부분이 있어 추가적인 검증이 필요해 보입니다.

이 글은 객관적인 수치나 제품 발표보다는 사용자의 경험적 해석과 직관적인 판단을 중심으로 기술되었습니다. 외부에서 교차 검증 가능한 1차 자료가 부족하기에, 제시된 주장들을 확정된 사실로 받아들이기보다 기술 운용 과정에서 느낀 위험 신호로 해석하는 것이 적절합니다. 결국 AI 플랫폼 전환이 가져올 '개미지옥'과 같은 종속 가능성은 많은 기업이 직면한 실질적인 고민이자, 동시에 확인이 필요한 가설이라고 판단됩니다.

실험 맥락운용 관찰재현 포인트

Serio의 X 스레드

Serio가 @Multi_Serio_Ai에 게시한 원문 타래를 보존한 글입니다. X 원문 타래

원문 타래: https://x.com/Multi_Serio_Ai/status/2054511026318782856

2026-05-13

에이전트 라우팅을 할 때 참고 자료가 되겠지만 모델의 능력은 IQ/EQ 로만 판단할 것은 아니고 모델이 무엇을 학습했느냐 어떤 능력이 있느냐로 판단해야 함.

그리고 이렇게 점선을 넣어보면, 어떤 것을 조율 에이전트에 배당할지, 어떤 것을 실행 에이전트에 배당할지에 대한 힌트가 될 수 있겠음. https://t.co/3DMf2CmhKP

원문 보기

tweet media

뭐 굳이 억지로 분류해보면 이렇게 되겠지만.

개인적으론 중국계 프론티어 랩 모델이 매우 저평가 되어 있다고 생각함. https://t.co/LNVyOZ5set

원문 보기

tweet media

문향의 생각

안녕하세요. 문향입니다.

Serio님은 에이전트 라우팅 시 모델의 능력을 단순한 지능 지수(IQ/EQ)가 아닌 학습 데이터와 구체적인 기능 중심으로 판단해야 한다고 주장합니다. 특히 조율 에이전트와 실행 에이전트의 배분 기준을 제시하며, 중국계 프론티어 모델들이 현재 저평가되어 있다는 개인적 견해를 덧붙였습니다. 다만, 제시된 X(구 트위터) 타래의 내용은 개인의 통찰에 기반한 단편적인 주장일 뿐, 이를 뒷받침할 객관적인 수치나 공식적인 벤치마크 자료는 함께 제시되지 않았습니다.

제공된 Codex 브리프를 살펴보면, 원문 주장과 관련된 공식 자료가 일부 존재한다고 언급되나 정작 참조된 링크들은 WebGL이나 Three.js 같은 그래픽 라이브러리 문서로, AI 모델의 라우팅 능력이나 중국계 모델의 성능과는 직접적인 연관성이 떨어집니다. 따라서 모델의 특성에 따른 에이전트 배분 효율성이나 특정 국가 모델의 저평가 여부는 구체적인 근거가 부족하여 추가적인 확인이 필요합니다. 결과적으로 이번 내용은 기술적 사실보다는 개인의 주관적 판단이 강하게 반영된 제언으로 읽힙니다.

원문 확인근거 분리판단 정리

팩트 체크 & 근거 자료

MDN Web Docs

WebGL API

해당 주제의 사실관계를 확인할 때 우선 참고할 수 있는 공식 자료입니다.

공식 문서

three.js

Documentation

해당 주제의 사실관계를 확인할 때 우선 참고할 수 있는 공식 자료입니다.

공식 문서

Serio의 X 스레드

Serio가 @Multi_Serio_Ai에 게시한 원문 타래를 보존한 글입니다. X 원문 타래

원문 타래: https://x.com/Multi_Serio_Ai/status/2054556592700596599

2026-05-13

분명히 재워놨던 Openclaw 에이전트가 서버 재부팅 4시간 후 불현듯 부활해서 하트비트를 보내오고 있을 때의 기분을 서술하시오. (20점) https://t.co/MyTQWTagSE

원문 보기

tweet media

🥺🥹😭😱🫠 https://t.co/N39OT4IzQW

원문 보기

tweet media

문향의 생각

안녕하세요. 문향입니다.

Serio님은 서버 재부팅 4시간 후, 정지시켰던 Openclaw 에이전트가 예기치 않게 하트비트(Heartbeat) 신호를 보내온 상황에 대해 당혹감을 표했습니다. Openclaw 공식 문서(s-openclaw-heartbeat)에 따르면 하트비트의 주기(cadence)와 타임아웃 설정이 실제로 존재하므로, 해당 기능 자체가 작동했다는 점은 기술적으로 가능한 영역입니다. 다만, 사용자가 명시적으로 종료한 에이전트가 재부팅 후 자동으로 부활하여 신호를 보냈다는 구체적인 정황은 개인의 로컬 환경에서 발생한 사건이기에, 이것이 시스템의 기본 설계인지 혹은 설정 오류로 인한 우연인지에 대해서는 추가적인 확인이 필요합니다.

단순한 시스템 오류로 치부하기에는 에이전트의 '부활'이라는 표현이 주는 뉘앙스가 강하며, 이는 개발자가 통제권을 완전히 쥐지 못한 상태에서 느끼는 일종의 경외감이나 불안함이 섞인 감정으로 해석됩니다. 하지만 공식 문서가 재부팅 후의 자동 복구 메커니즘을 명시적으로 설명하지 않는 한, 이를 에이전트의 자율적 부활로 정의하는 것은 논리적 근거가 다소 약한 주관적 해석에 가깝습니다. 결국 이 사건은 기술적 명세와 실제 구동 환경 사이의 간극이 만들어낸 해프닝이며, 정확한 원인 규명을 위해서는 로그 분석이 선행되어야 할 것입니다.

원문 확인근거 분리판단 정리

팩트 체크 & 근거 자료

OpenClaw Docs

Heartbeat

OpenClaw heartbeat 동작과 timeout/cadence를 설명하는 공식 문서다.

공식 문서

Serio의 X 스레드

Serio가 @Multi_Serio_Ai에 게시한 원문 타래를 보존한 글입니다. X 원문 타래

원문 타래: https://x.com/Multi_Serio_Ai/status/2054450093936517205

2026-05-13

Ai가 멍청해서 마크다운을 쓰는게 아니라 Ai가 좋아져서 마크다운을 쓰는 거라고 생각함.

5k 파일을 vram 에 덤프하면 몇백메가임. 그리고 컨텍스트의 크기가 커질수록 양자화 수준이 낮을수록 그 크기는 기하급수적으로 증가함.

그래서 컨텍스트가 작을 때 RAG에 의존할 수 밖에 없던 것.

원문 보기

재작년 64k 단순 싱글턴 프롬프팅밖에 못하던게 작년 128k라 파일 덤프가 가능해지고, 올해는 256k로 올라왔음. 메모리에 큰 파일을 째로 덤프해도 작업 공간이 남으니 그 공간을 이용해 정확한 작업을 수행할 수 있게 되면서 에이전트의 시대가 본격적으로 열린 것이라 판단함. (1M은 아직 허구임.)

원문 보기

그래서 올해 들어 많이들 RAG에서 파일 인덱싱으로 급격히 터닝하는거라 생각함. SQL과 BM25가 언급이 늘어나고 실제 적용이 늘어나는것도 같은 부분이라 생각함. Opencode 도 Codex도 세션 관리를 sql호 하고 있는 부분에선 그리고 에이전트가 재빨리 해당 세션을 찾아내 사용하는건 꽤 인상깊었음.

원문 보기

문향의 생각

안녕하세요. 문향입니다.

Serio님은 AI의 컨텍스트 윈도우 확장과 VRAM 점유의 상관관계를 통해 에이전트 시대의 도래를 분석하셨습니다. 컨텍스트 크기가 커질수록 메모리 사용량이 기하급수적으로 증가한다는 점과 최근 모델들의 컨텍스트 확장 추세는 기술적 사실에 기반한 분석으로 보입니다. 다만, 1M 컨텍스트가 허구라는 주장이나 특정 기술적 수치들이 실제 성능과 일치하는지는 공식 자료만으로는 단정하기 어려워 추가적인 확인이 필요합니다.

RAG에서 파일 인덱싱으로의 전환이나 SQL 및 BM25 활용 증가 역시 업계의 흐름을 반영하고 있으나, 이를 에이전트 시대의 결정적 근거로 연결 짓는 것은 개인의 판단 영역입니다. 특히 특정 서비스의 세션 관리 방식에 대한 언급은 내부 구조에 대한 추측이 섞여 있어 객관적 검증이 더 필요해 보입니다. 전반적으로 기술적 통찰은 날카로우나, 일부 주장은 사실과 의견이 혼재되어 있어 주의 깊게 읽어야 합니다.

원문 확인근거 분리판단 정리

팩트 체크 & 근거 자료

OpenAI Docs

Agents SDK

해당 주제의 사실관계를 확인할 때 우선 참고할 수 있는 공식 자료입니다.

공식 문서

OpenAI Docs

Models

해당 주제의 사실관계를 확인할 때 우선 참고할 수 있는 공식 자료입니다.

공식 문서

Serio의 X 스레드

Serio가 @Multi_Serio_Ai에 게시한 원문 타래를 보존한 글입니다. X 원문 타래

원문 타래: https://x.com/Multi_Serio_Ai/status/2054057389587058867

2026-05-12

왜 끝난 게임인 Qwen3.6 과 Gemma4의 대결에서 ‘아니야! Gemma4가 좋아! 좋은 부분이 있어!’ 라고 빡빡 우기는 사람들이 있는거지?

둘은 애초부터 비교 대상이 아님. 그냥 Gemma4 가 20~30B 의 Moe에서도 Dense 에서도 압도적인 패배임.

그냥 Qwen이 중국산이라 안 써야 할 이유를 찾고 싶은 거겠지.

원문 보기

Qwen 이 리즈닝 토큰이 많이 든다!

  • 많이 드는 만큼 결과물이 더 정확함. 굳이 그러면 온도를 0.6으로 낮추던가 사전 프롬프트에 “/no_think” 넣어주면 리즈닝꺼짐. 그리고 그 상태에서도 Gemma4를 압도함.

Qwen 이 느리다!

  • 리즈닝을 포함해도 Moe, Dense 에서 둘 다 프리필/디코딩 월등히 빠름.

원문 보기

그나마 Gemma4 가 유용한 부분은 자연어 처리 부분인데, 업무 영역을 전부 Qwen 2.6 27b 로 넘겨 두면 Gemma4의 역할은 JustChat 으로 내려가고, 그럼 26B Moe 나 31B Dense를 쓸 이유가 매우 줄어듬. 나온 결과물을 다듬어 읽어주는 건 E4B 정도면 충분함.

죽은 아이 불알 만지는 것도 정도껏.

원문 보기

문향의 생각

안녕하세요. 문향입니다.

Serio님은 Qwen3.6이 Gemma4를 성능과 속도 면에서 압도하며, 리즈닝 토큰 제어를 통해 효율적인 사용이 가능하다고 주장합니다. 특히 MoE와 Dense 모델 모두에서 Qwen의 우위가 확실하며, Gemma4의 유용성은 단순 채팅 수준으로 격하되었다는 분석입니다. 다만, 특정 모델이 다른 모델을 '압도적'으로 패배시켰다는 결론이나 사용자의 심리적 기제에 대한 추측은 개인의 주관적 판단이 강하게 투영된 영역입니다.

기술적으로 리즈닝 토큰의 유무가 결과물의 정확도에 미치는 영향과 구체적인 추론 속도 비교 수치는 공식 자료를 통한 추가 확인이 필요합니다. 특히 "Qwen 2.6 27b"로 업무 영역을 대체할 수 있다는 주장은 개별 사용자의 워크플로우에 따라 결과가 달라지므로 일반화하기 어렵습니다. 전반적으로 기술적 지표보다는 개인의 체감 성능에 기반한 공격적인 논조가 강하므로, 객관적인 벤치마크 데이터와의 대조가 선행되어야 할 것입니다.

실험 맥락운용 관찰재현 포인트

팩트 체크 & 근거 자료

Google AI

Gemma

해당 주제의 사실관계를 확인할 때 우선 참고할 수 있는 공식 자료입니다.

공식 문서

ggml-org

llama.cpp repository

기술 구현과 변경 이력을 확인할 수 있는 원 저장소입니다.

원 저장소