개발서버는 Lmstudio 로 모델 다운로드 중. Api 서버는 Codex 로 llama.cpp 서빙 설정 세팅 중.

아 불타는 금요일 밤 토요일 새벽이 되겠군. https://t.co/QSBBRrN8np

추론버블 38K 아직 출력은 안하고 여전히 추론 꿈나라 중

짜피 다시 출력할텐데 추론 버블 그만 키우고 출력좀 하지? ㅋㅋㅋ https://t.co/ql7FOuHA6u

Qwen 3.8 27b (Lmstudio chat으로 출력) 싱글턴 프롬 ‘구글 공룡 게임 만들어줘.’ 결과물 영상.

장점 : 로컬 30B 이하 작은 모델에서 볼 수 없었던 우수한 성능. 단점 : 매우 큰 추론 버블과 그로 인한 작업 시간 증가. (토큰 61408 사용, 37.9Tok/s : 3090, 21분 29초) @Alibaba_Qwen @QwenDevs https://t.co/RYv0i5NROj

인용 문맥: @Multi_Serio_Ai의 인용 원문 (Serio 작성 글과 구분)

Qwen 3.6 27b 도 나왔을 때 감탄하면서 썼는데 이젠 진짜 훌륭한 물건을 만들었네요.

정말 칭찬하고 싶음. 대단함.

https://t.co/rvpcBmXtp7

Qwen 2.8 27b는 설정이 2개로 단순화. Thinking Mode와 Instruct 인데, 검증을 더 해 봐야 알겠지만 성능을 다 내려면 Thinking Mode가 적절할 거 같아요. 256K 컨텍스트니 이 모델을 메인 모델로 작업을 하면 명령 3회 정도마다 하네스가 컨텍스트 압축을 할 거 같네요.

밤에 몇몇 중국분들이 reasoning variants를 Effort medium 으로 조정하라 했는데, 온/오프 외에 조정할 수 있는 방법이 없네요.

근데 Instruct로 한번 써볼까 싶기도 해요. 추론버블을 그냥 라이브로 뽑아내는게 나을수도 있겠음. https://t.co/D9We5CNx6z

Qwen 3.6 27b의 과도한 추론 버블 때문에 Medium을 추천하는데, 솔찍히 아직 잘 안 와닫고 있음.

로우파라메터 모델의 한계를 보완하기 위해 Max(xhigh)에서 의도적으로 긴 추론을 하는 것으로 설계된 듯 보이는데 그걸 굳이 억지로 낮추면 능력의 상한선이 낮아질텐데.

좀 더 관찰해 봐야 할 듯.

@The_RedW0lf 다들 새로운 장난감(?)에 고민이 많은 것 같습니다. 저는 주입되는 프롬프트를 최소화 하는 방향으로 일단 실험해 보고 잇습니다.

의견 감사합니다.

이제 벤치마크를 바꿔야 함. 모델이 가진 정보의 양은 기하급수적으로 늘었고 배경 지식이 늘어난 모델이 수행할 수 있는 일들 또한 빠르게 늘어났는데도 우리는 1~2년 전에 만들어진 기준으로 모델의 ‘지능’만을 바라보고 있음.

그럼 모델의 능력을 높이기보단, 치팅의 유혹에 더 쉽게 빠지게 됨. https://t.co/DWqUECuX3g

Gemin 3.1 Pro 이후의 구글 모델들처럼 보여지는 수치와 모델의 실제 수행 역량이 맞지 않는 모델이 있다는 것을 알 수 있음.

마찬가지로, 파라메터가 지나치게 적음에도 불구하고 순위가 높은 모델들도 있음. 이런 모델들은 순간적으론 작업을 잘 하는 것처럼 보이지만 금새 한계를 드러냄. https://t.co/pzj6AxyS7h

가격이 신호등의 역할을 하지 못하면 시장실패가 나타나듯, 벤치가 제 역할을 다 하지 못하면 결국 유저가 경험을 통해 찾아낼 수 밖에 없고 한정된 자원 - 시간과 컴퓨터 - 을 소비하게 만듬.

극단적으로, 모델들을 체크하고 실력을 검증하는 별도의 모델을 만들어야 할 시기가 왔는지도 모름.

점수가 좀 과함.

아무리 생각해도 루나랑 동급의 모델은 아님. 루나는 일을 맏길 수 있지만 이 모델은 결과는 가져올 수 있을지언정 일을 맡길 수 있는 모델은 아니라는 생각. 하네스를 안씌우면 재미있지만 씌우면 바로 따분한 모델 되버림.

AA는 종합 지능 벤치마크 기준을 재점검할 필요가 있음.

벤치마크를 마치 개인의 주관이 섞인 정성평가 취급 하는 사람들이 꽤 보이는데, 적잖이 우려스러움.

그건 단순히 점수가 아니고 SC에 과학적 방법론이 적용된 결과임. 평가지표를 만든 뒤 귀납적 반복 테스트를 통해 효과성을 입증한 후 그걸 컴퓨터 능력을 평가하는 요소로 사용하는 것임.

만약 벤치마크와 내 경험이 일치하지 않는다면 자신을 되돌아보는 메타인지적 접근이 우선될 것임. 그리고 반복적인 관측과 추가 가설 수립 및 증거 확보를 통해 자신의 판단을 확신할 수 있게 되면 그걸 바탕으로 새로운 실험을 진행하면 되는 것임.

그게 과학적 방법론이고 연역과 귀납의 발현임.

@Hyun_The_Wise 벤치가 틀렸어! 오염됬어! 맥싱이야!

가 아니라 음… 내가 틀렸나? 부터 해야죠. 그래서 사용자 경험의 공유도 매우 중요하죠.

Everything_Mew v0.3.0 릴리즈

• Gpt_Codex_HWP 를 제작하면서 만든 개념을 적용, 유휴 상태에서 프로세스를 끄고 메모리를 반환합니다.
• Everything 에 최적화된 자체 Api everything-mew-lite 를 사용합니다.
• FastMcp 진입점은 유지하되, 자체 진입점 설계를 통해 최적화를 진행했습니다. https://t.co/djQszkoEMH

Gpt_Codex_HWP v0.2.5 릴리즈

• 세션이 종료되지 않더라도 hwp 작업이 종료되면 하위 프로세스를 종료하고 메모리를 반환합니다.
• 런타임 호환성을 맞추기 위해 별도의 런타임을 원자적으로 설치 관리합니다. (취약점 없는 기준 런타임으로 런타임을 잠급니다.) https://t.co/SnwvmxXe0N

이 병신같은 자동업데이트는 윈도우의 가장 쓰레기같은 부분임.

대부분 작업을 원격으로 하다가, 간만에 작업용 컴퓨터의 Codex 에서 작업을 걸어놨는데 또

자 동 업 데 이 트

때문에 작업이 다 중지되어 있음. 이 쓰레기같은 걸 대체 왜 계속 유지시키는거지. 매번 사고까지 쳐 가면서.

메타 뮤즈 글리머 30B 돌려봐야 알겠는데, Qwen 3.6 27b의 문제점이 지나치게 큰 추론버블인 걸 감안하면 그것보다 훨씬 적은 추론버블+더 높은 속도로 비슷한 성능을 내 주면 라마의 컴백에 적절한 결과가 아닐까 싶음.

테스트하려고 설치하는 중.

현재 로컬의 제왕에 군림하는 Qwen 3.6 27b의 후계인 3.8 의 발표가 하루 남은 상황에서 기습 발표는, 본인들도 Qwen 3.6 27b과 비슷한 수준의 물건이 만들어졌다는 것을 인식하고 있기 때문일 것.

다만, 이전부터 한글을 능숙하게 썼던 라마이기 때문에, Gemma4의 대체가 되는게 관건.

업계에서 라마 변형 모델을 여전히 많이 쓰고 있기 때문에, 라마의 후계인 뮤즈 글리머의 발표를 반기는 사람들이 많을 것임. 하지만 새 모델이 오래 걸렸고 이름까지 바꾼 만큼, 많은 부분에서 라마와 다른 결과가 나올 것이라 생각됨.

모든 것은 테스트 결과를 보고 ㅡㅡㅋ

매번 새 로컬 모델 나올때마다 ‘구글 공룡 게임 만들어줘’ 싱글 프롬프트 시키는데, 올해 지금까지 봤던 결과물 중 가장 최악의 결과물이 나왔네요.

왼쪽은 Qwen 3.6 27b https://t.co/u1FQPXxEu6

약 10K의 일본어 텍스트 묶음을 번역시켰는데, 번역 편의성을 위해 5천 토큰에서 청킹을 했는데도 불구하고 추론 과정에서 루프 오류가 심해서 작업을 제대로 끝낼 수 없음. 누락된 번역도 조금 있고.

llama.cpp 에서 별도 작업을 시켜봐야 할까. 지금 상황에서 사용하는 것은 좀 무리일 듯.

왕의 귀환을 기대했는데 왕의 몰락을 목격하다니 가슴이 아프다.

하지만 어쩌겠는가.

@vdweqn 그럼 오히려 더 엉망인거애요 ;ㅁ; 이전엔 단독 실행 했는데 이번에는 gpt 5.6 한테 오케스트레이션 시커서 에이전트 상태로 검증한 거거든요.

Gemini처럼 벤치맥싱하고 실 사용 결과는 엉망인 모델이 되지 않을까 우려스럽네요. 사용 방법을 좀 더 가다듬어 봐야 할까요…

몇번 다시 테스트하고, 커뮤 반응을 봐도 결과물의 내용과 질이 너무 떨어져서 쓸 수가 없다.

최소 한 세대 이전 수준의 결과물. 외관상 작년 여름 Gemini 2 정도 수준. Qwen 3.5 9b 나 Gemma4 E4b 와 비슷.

이걸 30B라고 가져오면 안됨. 이게 벤치마크가 이런 결과라면 밴치맥싱이 의심되는 물건. https://t.co/wRXBcPn3uq

인용 문맥: @Multi_Serio_Ai의 인용 원문 (Serio 작성 글과 구분)

< Dgx Spark 가 필요한지 체크하는 법. >

1. Opencode Go 플랜에 가입 https://t.co/jgqqHNkJRb

2. Opencode 에서 쓰던, 본인이 쓰는 에이전트/하네스에 물려 쓰던 쓴다.

3. 1달 뒤, 주어진 사용량을 다 썼는지 체크한다.

다 썼는가? > Go 계정 하나 더 지르세요. 덜 썼는가? > 스파크 왜 삼? https://t.co/bojhOIETEM

메모리 대역폭을 줄여서, 가격과 성능을 고의적으로 떨어트린 기기를 파는 건 그래픽카드 업계(특히 엔비디아)의 오래된 판매 전략 중 하나고 그들은 학습한 방법을 그대로 더 수익성 높은 고객들에게 써먹는 중일 뿐이죠.

게이머들은 128bit에 오래 시달려 왔습니다. :)

인용 문맥: @mike64_t의 인용 원문 (Serio 작성 글과 구분)

다만, 지금 Deepseek v4 flash 0731을 당장 로컬에서 큰 노력없이 쓸만하게 돌릴 수 있는 제일 저렴한 기기가 Dgx spark x2 라는 건 부정할 수 없는 사실이기도 하죠.

사서 쓸 것인가, 저렴한 api 호출로 참으면서 다음을 기다릴 것인가는 개인의 선택임.

이미 가격이 너무 올라가서 진입이 불가능한 CMP170

• 대부분 토큰광산에서 장기 노예채굴
• 시작 가격이 너무 높음
• 물리적 튜닝 필요함 (Pci-ex X 4)

저 쯤 되면 진입장벽이 너무 높음. 접근할 수 있는건 소수에 불과. 권장하고싶지 않음. BC-250이 순한맛이었다면, 저건 불닭맛임.

다만, 이래저래 잘 하면 200으로 A100을 한장씩 사는거라 아직까지도 극초가성비인건 맞음.

비싼데 싼거.

다만 한장으론 Qwen 3.6 27b 의 Q8정도가 한계임. 그 이상은 X2~4를 해줘야 본격 의미가 생김.

여전히 개인용은 아님. 구매 및 사용에 주의.

Hermes가 강력한 것은 맞는데, 강력한 만큼 설치+요구하는 것도 많기 때문에 조심해야 되는 것도 맞음.

3월쯤에 Cli 써볼라고 깔았다가, openclaw 와 다른점이 뭐지? + 설치하고 뭘 해야하지? 헤메서 지웠는데 (온보딩 과정이 엉망이었음) 좀 나아졌을라나.

특히 이젠 코딩 하네스로 쓸만할란지.

Gpt 에 Hermes 가 좋다는 말을 몇번 봐서 + Codex 에 한계를 좀 느끼고 있어서 써볼까? 싶은 생각은 있음.

Opencode + omo를 잘 썼었고 Codex 이후 거의 코덱스만 쓰고 있지만 둘 다 수행 역량에 한계가 있음을 느끼고 있음.

Gpt 가 좋은 모델이기 때문에, 아무래도 하네스의 문제가 아닐까 생각중.

@chulwanpark Hermes 개발팀 전부 에니푸사에 좀 성실한 것도 호감이긴 한데 ㅋㅋㅋㅋㅋ 전 초기 온보딩 경험이 너무 Geek 스러워서 (Cli 중심 + 필요한 건 니가 찾아야지) 약간 질렸던 경험이 있네요.

Codex, 특히 app이 편리하긴 한데, 갈수록 무거워지는게 답답하네요.

딥시크 V4 Flash 시험 테스트 (Opencode zen / Free tier)

• 빠름. 이전의 Flash 버전보다 확실히 빨라진 게 확인됨
• 빠를 뿐만 아니라 많이 똑똑해짐. 어떤 작업에 대한 지시를 내렸는지 충분히 이해하고 있음.
• 이정도 성능에 이 가격이면 속도면 충분히 가벼운 작업용 에이전트에 붙일만 할지도? https://t.co/rMKaB2Mz2J

잘 보면 OMO 개발자의 생각도 좀 엿볼 수 있어서 재미있음.

• 디자인에 여전히 GPT를 신뢰하지 않음.
• 여러 부분에 kimi3 를 적극적으로 배치
• 라이팅은 Gemini3 를 우선으로 둔 점도 흥미로움. https://t.co/5o90WzrjYe

Deepseek V4 Flash 새버전으로 5달 전에 만들어 놨던 하네스, CoffeeMix 를 비판적 관점으로 무자비한 해체쑈 시키는 중.

4개월 동안, 많이 달라졌을 거라고 생각했는데 이렇게 뚜드려 맞으니 좀 아프네. https://t.co/6GnZ3qxYfC

인용 문맥: @Multi_Serio_Ai의 인용 원문 (Serio 작성 글과 구분)

Deepseek V4 Pro 0813의 성능이 조금 아쉽지만, 그럼에도 기술적으로 많은 진전을 이루었다고 판단함. 함께 공개된 여러 기술들도 그렇고 하네스도 그렇고.

저렇게 우수한 모델과 기술들이 오픈소스로 제공되고 있다는 것은 정말 훌륭함. 그 무엇과 비교할 수 없는 가치를 가짐.

1. 루나가 진짜 공격적 가격. 루나맥스! 루나맥스!
2. 테라는 20% 내려도 그닥 매력적이지 못함. 테라맥스 빼면.
3. 솔은 하이 혹은 Xhigh 부터 의미가 생김. 솔미디엄의 퇴장.

고난도 작업 : 솔 하이- 엑스하이 단순작업 : 루나맥스 중간 어딘가 : 테라맥스

가격 변동으로 사용 에포트가 고정됨. https://t.co/4Rd05PgJa0

인용 문맥: @cognition의 인용 원문 (Serio 작성 글과 구분)

일단 반나절에 40% 10% 쓰고 답답해서 /fast 적용.

확실히 Sol 까지는 어떻게든 저떻게든 사용량 관리가 될 거 같은데 Sol Fast 는 정말 토큰 할당 줄어드는게 쭉쭉 눈에 보이네요. https://t.co/Vh0sMiPnEv

사실 Sol Xhigh 5~6세션으로 반나절 돌리면 이 정도 토큰 소비가 나옴. 여기에서 루나 혹은 추가 결제한 딥시크 토큰을 덧붙이면 일 15% 수준으로 소비를 억제시킬 수 있음.

그러니 앞으로 임의 리셋 하지 말고 리셋 쿠폰을! 뱅크드리셋은 잊어버리라고 만들어달라 한 게 아닙니다. @thsottiaux https://t.co/KLIe20CTXq

리셋쿠폰 가격은 주간 사용 비용을 넘으면 안 됨. 200달러 플랜이면 쿠폰은 50달러 이하여야 함. Tibo리셋이 돌발적으로 오면 돈 쓰고 손해 볼 수 있음.

차라리 주간 이용제한(1회)을 두고, 계정 요금의 1/5 ~ 1/10 가격으로 월 2장 정도를 구매할 수 있게 하는 게 적절함. @thsottiaux @OpenAIDevs

이러한 부분과금에 가장 돌아있는 게 한국의 온라인 게임이니 티보와 코덱스팀은 한국 온라인 게임 BM 을 참고하면 좋을 것.

… 아?

@_nodelay 게임을 사는 게임 스팀! 토큰을 쓰는 게임 Codex!

지금 시작합니다! 레쯔고!

1과 2가 상호 모순됨.

배려해줘야 할 정도로 Plus 의 Codex 한도는 작은데, 그걸 몰아서 쓴다고 트래픽 부하가 왜 생김? 사실 부하를 많이 가져오는건 상위 플랜 사용자 아닌지?

걍 부연설명 하지 말고, 한도 제한 없이 쓰려면 Pro플랜을 돈 더 주고 써라 하는 편이 깔끔했음. 불필요한 TMI.

인용 문맥: @thsottiaux의 인용 원문 (Serio 작성 글과 구분)

@tea_laa https://t.co/Q8EzOqHp8D

ㅋㅋㅋ 아이디어 감사

인용 문맥: @Multi_Serio_Ai의 인용 원문 (Serio 작성 글과 구분)

@sijeosaell72904 물론 Pro / Pro X20 사용자가 적은건 맞습니다. 한국도 만명 될까 말까 하다더군요. 다만, Pro X20이 평균 한도가 Sol 만 사용해도 주당 20억토큰 정도 되는 걸 생각해보면 헤비사용자가 트래픽을 더 발생시키지 싶습니다.

(그리고 Pro로 한도 끝까지 써보지도 않았으면서도 전문가 타령하는건 좀…)

@StarLibra07 그래도 luna 는 현존 가장 가성비 좋은 모델이니, 업무에 Ai 많이 쓰시면 Gpt plus 정도는 유지해도 좋지 않을까 싶었는데

이번에 이렇게 또 너프를 ㅋ