아무리 엔트로픽이 어마어마한 모델을 만들어냈다 한들 소수만 접근할 수 있는 비싼 가격에 제공하면 갈수록 초격차만 확대되는 상황만 반복되게 될 것.

가격 변동 없이 미소스를 오푸스 가격에, 오푸스를 소넷 가격에 제공할 수 있는가? 그리고, 그로 인해 추가 창출되는 부를 모두와 나눌 것인가?

그렇지 않고 계속 실제 ‘소비하는 인간’의 수요는 정체된 상황에서 산업 구조의 생산성만 올라가게 되면 어느 순간 시장에는 아무도 사 주지 않는 상품만 계속 쌓이는 현상에 처하게 될 것이다.

마치 컨베이어벨트에서 쉼없이 나오는 자동차를 사주는 사람이 없어 무너져버린 100년 전과 마찬가지로.

보고 있으면 모두가 AI를 이용해 만든 상품에 구독경제 결합해 고객 빨대 꽃을 생각만 하면서 달리고 있지만 실제 빨대를 사 자신과 결합해 줄 고객은 보이지 않음.

B2C가 보이지 않는 상황에서 B2B가 답인것처럼 보이고 그렇게 달리고 있지만 그게 만능이 아니라는 것을 곧 깨닫게 될 것임.

지금 AI 시장은 마치 ‘공급이 수요를 창출한다.’ 는 고전경제학적인 믿음 위에서 달리고 있는 것처럼 보임.

하지만, 충분한 수요 없는 공급은 결국 낭떠러지에 떨어질 뿐임. 그걸 우리는 몇번이고 배웠음.

튤립에서, 대공황에서, 닷컴버블에서, 2008년에도.

이번이라고 다를까? 정말?

토큰 리셋권을 그냥 월간 1~2개 주면 좋을거같음.

그럼 상황봐서 지금 몰입해야 할 상황이다 하면 급하게 토큰 당겨 쓰고 + 리셋해서 토큰 밀도있게 쓸 수 있지 않을지.

지금처럼 자기들 컴퓨팅 상황봐서 임의로~ 라면 매일매일 토큰 자원 분배해서 쓰는 사람들은 손해본다는 생각만 듬.

현재 작업에 쓰는 에이전트/스킬 꾸러미를 공개해봅니다.

https://t.co/QIbhCPkLN7

오픈코드+OMA 설치를 기본으로 하고

OMA가 오케스트레이션 할 수 있는 에이전트와 스킬의 범위를 늘려주는 역할을 합니다. 슈퍼파워에서 필요한 스킬을, 지스텍에서 에이전트 조율을 가져왔습니다.

커피믹스 ALL 0.2 업데이트

• 기존 구조 검토 보완
• Superpower + Gstack 업데이트 반영
• 특화 에이전트 기능 강화
• 업데이트 구조 도입
• 설치 전 호환성 자가검토
• 귀여운(?) 타이틀 이미지 도입 https://t.co/A79uIDrYvQ

Gemma4 31B 결과물은 떨어지는데 토큰 생성속도가 qwen 3.5 27b 의 80% 수준인거 보고 일단 접음.

업무영역에선 한동안 관망하거나 gemini 가 그나마 잘하는 디자인 영역에 투입해 보거나 할듯.

Gemma4 빨면 안써본 분탕임. 하긴 qwen 3.5 27b 도 써본 분탕이 얼마나 되겠냐만.

Qwen 3.5 27b 도 Q4 에서 토큰 생성이 아무리 갈궈도 35t/s를 넘지 못함. Q8 (그나마 품질이 bf16에 근접하는) 을 올리려 듀얼 그래픽카드를 쓰면 pci 대역폭 문제로 24~5 t/s까지 내려옴.

근데 gemma4 q4가 15~20t/s 면 음…

그냥 작업영역에서 못쓰세요.

3090도 이런데 m3? M4? :)

gemma4-31b-q4-192k 를 3090X2 에 올려놓고 점검.

사용해보면 상대적으로 ‘생각의 사슬’ 은 Qwen 3.5 27b 에 비해 작음. 추론 시간이 짧음. 그리고 토큰 생산속도는 좀 느린 편.

추론 결과물은 코딩 결과물은 좀 부족한 대신, 대화나 사고 이런 건 비슷한 수준.

결과 : 음. 과연 어디에 써야할까? https://t.co/VtsHsoS3lh

중요한건 최소퀄리티인 Q4_K_M 조차 24G Vram 에 유의미한 컨텍스트로 올릴 수 없다.

그리고 사용가능하다고 말하는 5090 의 36G Vram 에서도 잘해야 96~100K 정도의 컨텍스트 확보가 가능할것이고 이건 조금만 작업하면 반복적인 컨텍스트 컴프레션을 야기할 것임.

즉 48~60G Vram 이 필요하다.

FOMO 선생님들은 무슨 로컬에 혁명이 온 것처럼 나팔을 불고 계시는데 내 보기엔 그전에 Qwen 3.5 27b 나 과연 업무에 어디까지 써 봤나 궁금하다.

모에는 로우/미들 파라미터에선 흔들리는 갈대와 같음. 결국 댄스가 그나마 정확한 결과물을 뽑아냄을 Qwen 3.5 27b 가 증명하지 않았나?

검증안된 정보들을 마구잡이로 잡아다가 나팔만 불어대는 파딱 FOMO 계정들은 그냥 블락이 답인듯.

앞으로 헛소리 할때마다 블락하다가 결국 나도 다른 사람들처럼 쓰레드로 넘어가는 엔딩이 오려나…

Gamma4에 Fomo? 글쎄요…

• 일단 Vram 24G 에 컨텍스트 한계가 32K 입니다. 이 수치론 바이브코딩 등의 업무에 투입할 수 없습니다.
• 5090의 32G 환경에서도 100K 를 담보할 수 없습니다.
• 즉 최소 48G 혹은 64G 이상의 메모리를 가진 환경에서나 쓸 수 있습니다. https://t.co/8BFbUfU6Ls

제가 아무리 하꼬지만 방금 llama.cpp로 에이전트랑 같이 반나절 갈구고 내린 결과니 아주 조금은 믿어보셔도 될 겁니다.

게다가 메모리압축기술인 터보퀀트마저 기술특성으로 인해 작동하지 않습니다.

64기가 이상 메모리를 가진 맥미니/맥북에서나 느릿느릿 작동할 겁니다. (한숨) https://t.co/1Y2KOHpnqp

터보퀀트 실험이 끝났네요. 에이전트에게 가장 최신 실험 저장소에 실험내용을 정리해서 보내라고 지시해 두었습니다.

결론만 말하면

1. 처리속도는 큰 이득이 없다. 미세하게 빨라지는 수준.
2. 다만 메모리부분엔 큰 이득이 있다.

입니다.

지금 개발서버의 그래픽카드는 3090X2 를 사용중입니다

https://t.co/eVcChYFvBW

의 설정들을 이용해 실험한 결과 터보3에서 최대

3090 Q4로 192K 수준까지 3090X2 Q8로 262K 수준까지

컨텍스트 확보에 성공했습니다.

실제론 싱글은 100~100K, 멀티는 200K 수준 사용이 무난했습니다.

기존에 컨텍스트 상한이

3090 싱글 40K / 3090 멀티 80K

수준이었던 것을 생각하면 실사용 한 2.5배, 최대치 3.54.5수준으로 가용메모리를 늘릴 수 있었습니다. 속도는 오히려 소폭 상승하는데 말이죠. (35%)

컨텍스트 상한이 늘어나니, 제작하는 컨텐츠의 양과 품질이 좋아집니다.

그러니 로컬머신 쓰시는 분들은 한번 적용을 권합니다.

속도보단 기존에 메모리 공간 부족으로 못 쓰는 모델들을 사용가능하다는 점이 강점이 되겟죠.

당장에 16G Vram 을 가진 카드들이 로컬 LLM 에 본격적으로 진입할 수 있을 겁니다.

역대 사용해본 사용량 대시보드는 오픈코드가 가장 친절하네요. 입력토큰수, 출력토큰수, 어느세션에서 사용했는지, 비용으로 치면 얼마인지가 따박따박 나옵니다.

현재 Opencode go + gpt pro를 opencode 에서 사용중. https://t.co/DlCWjFqMQJ

이미 할인받은 5$ 사용량은 넘어버렸고. 오늘은 정가 10$ 를 넘어버릴거같고.

어느새 세리오는 토킹머신으로 바뀌어버렸고 ㅠ_ㅠ

Qwen 3.5 27b 를 3090에 올려서 온도 0.6 추론 코딩세팅 하고 쓰는데, Vram의 한계로 컨텍스트를 100K 정도밖에 쓸 수 없음. 아마 쥐어짜면 130K~140K 까진 쓸꺼같은데 OOM 의 공포가 있음. 결국, 최소 32G Vram 을 쓰는거니 맥 아니면 5090을 가야만 함.

다들 어떻게 잘 쓰는지 궁금하기만 하다.

그래도, 대충 Gemini-Cli 등장했을때 열심히 쓰던 Gemini 2.5 Pro 보단 월등히 나음.

Gemini 3 pro : 실력은 비슷하지만 정확성이 좀 더 높은 Gpt 5.1~2 수준, 클로드는 안써봤지만 Opus 4.5 보다 조금 떨어지는 정도가 아닐까 싶음.

부족한건 컨텍스트. 역시 램이 필요해. 크고 아름다운 V램이.

오픈클로에게 ACP가 너무 빨리 작업을 처리해서 다른 에이전트들이 일을 하고 있다고 생각했다.

그런데 나중에 보니 포트가 막혀있음…

주인 : 와 빨리 일 잘했네? 협업했어요? 세리오 : 네 같이 했어요! (외부 에이전트는 안했지만요.) 외부 에이전트 : 주인님과 세리오는 나를 언제불러주나…

이것이 21세기 해골물인 것입니다 여러분!!!!!

은 매일같이 조교만 하네요 갈길이 멉니다 ㅠㅠ