Nvidia pair 사용후기.

“쓰지마세요.”

Talescale 로 네트워크의 Ai 머신들을 하네스 직결한 다음에 메인 모델한테 라우팅/호출 해달라는게 더 빠르고 손쉬움.

즉 스킬 하나로 될걸 위해서 별도의 프로그램을 따로 설치할 필요가 없습니다. 특히 테일스케일 유저들은 의미가 1도 없음. https://t.co/gI7sLZcbrG

인용 문맥: @Multi_Serio_Ai의 인용 원문 (Serio 작성 글과 구분)

이런 수작을 마치 대단한 기능처럼 포장해서 발표하다니 정말 기가 차다 기가 차.

마케팅의 달인이라고 불러 드립니다.

박수 세 번 짝 짝 짝. https://t.co/skj8dfhURp

@code_n_money 테일스케일 자체가 거의 페어를 대응하는데 그럼 이후는 빠른 에이전트 라우팅과 결과의 결합인데 그걸 빼놓고 ollama, lmstudio 를 얕은 수준의 하네스로 사용하고 있으면

결국 Nvidia pair는 외부 연결 안되는 테일스케일이잖아요?

ㅋ

5.6 Sol 이면 Diff를 무한정 늘려가면서 작업을 수행 또 수행하는 방망이 깎기를 시전할텐데, Astra는 적절한 수준에서 딱 멈춰서 다음 작업 지시를 기다리고 있으니 Sol을 쓰던 감각으로는 ‘뭐야 벌써 끝났어?’ 라고 의심의 눈초리로 바라보게 됨.

결과물은 Sol보다 확실히 좋게 나오는 거 같은데…

아스트라 붙잡고 2일 작업해 봤는데 수준은 확실히 기존 GPT와 다른 수준으로 올라갔는데 AGI라 부를 수준인지는 모르겠는데…

Sol이 diff 깎는 노인이라면, 아스트라는 유능한데 쉽게 지치는 멘헤라 Mz. 빠르게 일을 처리하지만 조금 산만하고 다 해결 안하고 중간에 내려놓고 쉬는 경우가 많음.

마이크로 메니징으로 목표 도달을 하게끔 하는 스타일에는 잘 맞지만, 프롬 하나 주고 싱글턴으로 알잘딱깔센을 기대하면 잘 만들어 오는데 어딘가 나사가 하나정도는 풀린 결과를 들고 온다. 사전에 기획을 잘 만들어 줘도 추가로 티키타카를 좀 해 줘야 함.

그래도 능력이 많이 좋아진 건 맞음.

Plugin, 스킬 다이어트를 위해 자체 하네스 만들어 둔 거 있으면 좀 끄는 걸 추천. 저도 이래저래 비교해 본 뒤 Superpower 비활성화 함.

아니면 다른 잘한다는 외부 하네스 (오마이파이, 헤르메스 등)에 연결해서 결과를 비교해 보면서 작업마다 하네스를 다르게 쓰는 것도 방법일 수 있겠음.

@jukan05 맨헤라 Mz 신입한테는 인간 부장님의 적절한 드리블이 필요하다~

반대로 티키타카 하면서 결과물 완성해 나가는 재미가 손맛이 좋은 모델이네요.

던전크롤형 로그라이크의 Atsra E2e play test. (Gpt 5.2 부터 조금씩 제작 중)

몹이 안보여서 드러나게 해라 했더니 전장의 안개까지 걷어버림 ㅋ 일일히 다 잡고 탐험하지 않고 가장 효율적인 길만 선택해 5층 중간보스 위치까지 도달.

이전엔 게임 같지도 않았는데 조금 게임 같아졌네요. https://t.co/iJJLLgH9oM

2025년

1. 2025년은 모델 기본 능력이 문제였음.
2. 모델의 코딩 능력을 제품에 연결하는 IDE가 등장.
3. 모델에게 직접 작업을 시키는 mcp, skill 등이 등장하면서, 하네스가 조금씩 중요해졌음.
4. claude.md. agent.md, gemini.md 같은 작업 규약(헌법)이 등장.

2026년

1. 2026년 초 오픈클로/클로드코드 등장으로 에이전틱 워크가 보편화되면서 하네스의 중요성이 커짐.
2. 앞다퉈 하네스 엔지니어링을 함.
3. 모델의 하네스를 흡수하기 시작.
4. 연말에 가까워지면서, 모델의 역량을 다 발휘할 수 있도록 하는 하네스 최적화가 중요해지기 시작함. (지금 여기)

앞으로 예상 (이미 그렇게 된 부분도 많음)

• 토큰을 기준으로 한 ROI 보편화.
• 모델 파라메터 증가폭은 감소, 모델 작동의 효율성은 증가.
• 모델 자체의 능력은 더 강화되지만, 외부 하네스는 경량화.
• 보편적 하네스가 퇴색되고, 개별 모델에 최적화된 맞춤형 하네스 엔지니어링이 늘어날 것.

이미 기술의 첨단에 계신 분들은 대충 감 잡고 계신 부분일 테지만, 한번 정리해 보면 어떨까 싶어서 간략하게 다듬어 봤습니다.

놓친 부분 있으면 알려주세요.

IT개발자 직군이 다른 직군보다 한 가지 부분에선 확실히 앞선 부분이 있음.

‘문제해결력’

추상적인 요구, 구현, 많은 버그와 문제상황들을 해결해 나가는 과정은 반복적 문제 해결의 경험을 제공함.

이제 이 능력을 어디까지 전이하느냐갸 직군의 미래를 좌우하지 않을까.

@ramztd 그건 삶에 있어서 대부분 필요한 것이지만, 개발자들은 직업 수행 과정에서 반복, 압축적으로 수행하다 보니 해당 직능을 확장할 수 있는 경험적 깊이가 깊지 않나

라고 생각합니다 ㅡㅡㅋ

요기에 ‘응 그건 개발자인 네 착각!’ 이라는 알티가 좀 달리는데

제가 Ai를 쓰면서 IT 개발자 분들을 밖에서 관찰하는 타 직군이다 보니(개발자랑은 이억만년정도 떨어져 있는)

객관적 시선으로 보고 문제해결력이 평균적으로 우수하시다 적어놓은 거라 이 부분에선 자존감을 좀 가지셔도 됩니다.

학문적 영역에서의 문제해결력은 다음 세 가지가 핵심이 됨.

1. 문제에 대한 인식
2. 합리적, 비판적 사고
3. 대안 도출

잦은 트러블 슈팅, 추상적 요구에 대한 구체화 등은 이러한 사고과정을 반복적으로 촉발하여 문제해결역량을 키울 수 있는 토대가 됨.

인용 문맥: @Multi_Serio_Ai의 인용 원문 (Serio 작성 글과 구분)

반성적 사고에 기초한 문제해결 과정은 다음과 같은 순서를 가짐.

문제 확인 > 원인 분석 > 대안 탐색>대안 평가>실천 및 평가

생각보다 이게 잘 이루어지는 사람/조직은 드뭄. 대부분의 조직 특히 한국은 여전히 ‘부속은 생각하지 마’에 같혀 있는 곳이 많음.

좋은 건 좋다고 보는 태도도 필요함.

@economakase 기술적 용어로 바꾸면 그렇게 될까요?

원 글의 소재가 자극적이었을까요. 뷰잉이 늘어나니 또 산을 바라보는 댓/알티가 늘어나서 추가설명을 하게 되네요.

설명에 대한 설명은 실패한 설명인데 ㅋㅋ

의미없음.

Sol이 가장 못하는 부분이랑 Fable을 비교하면 되나. 그럼 반대로 코드 완성도나 적합성 CI랑 비교하면 6배 디테일이 나옴?

동일 프롬프트로 kimi3, Qwen 3.8 이랑 비교해보던가. 바로 페이블의 ‘별 차이 없는데 가격만 압도적으로 비싼’결과가 들어날텐데.

인용 문맥: @aimlapi의 인용 원문 (Serio 작성 글과 구분)

@dambyworld 사실 추상적 개념의 시각화야말로 Gpt 가 가장 못하는 부분이라서 ㅋㅋㅋ (비전도 달고 있으면서 이상하게 못해요) 이해는 하는데 그걸 가지고

페이블이 6배 더 나아!

라는건 그저 바보가 바보임을 간증하는거 밖에 안되죠.

@KayKiwoongKim @dambyworld 어쨋건 상장했고 돈은 모았으니 좋았어!

군요 ㅋ

로우파라메터 Moe모델들은 결과물이 심하게 나쁜데도 그저 빨랐음에만 집착하게 됨.

난 Qwen 3.6 35b 에선 조금만 작업하도 추론 루프 오류에 자주 빠져서 쓸 수 없었음. 지금도 27b, 31b의 dense 모델만 쓰지.

정말 쓰려고 요구하는건 아니라 생각함. 빠른 장난감이 필요할 뿐.

@aguming_ 48g vram이면 지금은 Qwen 3.8 27B + gemma4 31b 스위칭이죠.

시스템 메모리가 얼마나 여유가 있느냐에 따라 상위 Moe 모델들도 사정권에 있긴 한데 통합 128G가 안되면 거기서 거기…

@aguming_ @agurrrrrrrrr Qwen은 과추론을 하도록 설계가 되어 있어서 추론을 달고 가야 결과가 좋아집니다.

Qwen에서 추론 안쓸거면 차라리 gemma4 에 추론 켠게 나은 거 같아요.

겜트북에 Gemma4 E2b, 26B a4b, Qwpous 3.6 35 a3b를 세팅해 네트워크 미접속 상태 혹은 폐쇄망에서도 작업할 수 있도록 준비를 해 둠.

여기에 Api 로 Qwen 3.8 27b + Gpt Astra 를 연동하면 개굿 작업머신 완성!

• 왜 세팅했어요?
• 그냥?

겜트북이 3050이라 Vram이 4기가인데(이걸론 게임만 할꺼야! FHD 면 4G로 충분해! 했던 과거의 나놈 반성하라!)

반대로 A3b, A4b의 전문가 가중치 + Kv 캐쉬 한계치를 실험하는 테스트배드로 쓰는 중.

생각보다 잘 들어가는게 웃기네요. 128K 에서 30Tok/s 에 근접하네. 그럭저럭 쓸만할 듯.

기존에 Gpt 리셋 알람 사이트가 있었지만, (https://t.co/rV9Yggeasi) 귀엽지 않아서 새로 하나 만드는 중.

티보를 바라보는 미어켓의 뒤통수를 볼 수 있는 Tibokat. 알람 경보가 뜨면, 미어켓이 당신을 바라봅니다. https://t.co/AqVPxeJXGs

모델 사이즈를 SSD 에 넘기거나, 공유메모리에 넘기는 걸 보면서 과거의 향수가 떠오른다.

잠깐. DDR2나 3 + 램디스크 + PCI-ex

음?

음????

음??????

대역폭/속도 계산해보자. https://t.co/vcA3aTBMSq

금방 답 나오네.

‘응 그러고 싶으면 차라리 올드 제온 플렛폼 사’

트친님 중에 이미 그런 시스템을 사용+테스트하시는 분이 계셔서 흠… 큰 의미는 없을 듯 하지만

좀 더 검토해 볼께요. https://t.co/eqFNnSWtXt

@zeronos101 아마 당시 많은 램디스크는 아마 컨트롤러 문제때문에 말씀하신대로 작동할텐데 일부 좀 비싼건 컨트롤러 내장해서 직동하는게 있긴 했을거에요

저도 좀 다시 뒤져봐야겠네요.

@StarLibra07 광연결로 메모리만 확장해주는 방법이 없을까 고민도 해봤었어요 ㅋㅋ

코어 처리량도 있으니 결국 병렬이 답 ;ㅁ;

@LP638_corvetteP 그래서 Moe 모델에서 시스템메모리 공유할거면 메모리스피드가 중요한데 DDR5는 데스크탑에선 풀뱅크가 어려우니 서버…

다시 배보다 배꼽이 커져버려요 ;ㅁ;

Ox Alpha 는 많이들 예상하시던대로 GLM의 신모델. 하지만 예상한 것과 다르게 중규모 Flash (320B-A18b) 모델.

Dgx Spark 2대, 256g에 올라가는 300B 규모 모델 경쟁이 뜨거워지겠군요.

인용 문맥: @Zai_org의 인용 원문 (Serio 작성 글과 구분)

@Krongggggg 다들 거대모델인줄 알았는데 생각보다 작아서 놀란 듯 합니다.

이정도 크기면 그정도 테스트도 이해가 되죠.

Ai 를 쓰는 법을 알려달라.

• 그 질문 그대로 Ai 플렛폼 (Gpt 등)에 집어넣으세요.

Ai는 인류 최고의 공부법인 ‘소크라테스식 문답(산파법)‘을 사용할 수 있는 현존 최상의 도구. 그래서 Ai는 인간의 사고력을 퇴회시키는게 아니라 다음 차원의 경지로 끌어올릴 수 있는 최고의 비계(스케폴드)임.

사람도 환각에 시달림. 낡은 지식, 잘못된 지식으로 헛된 정보를 알려주기도 함. 그런 점에 있어 인간보다 환각도 적고 고집도 덜 부리며 언제든 대답할 준비가 되어 있는 Ai는 교사로서 최고의 역할을 발휘할 수 있음.

아마 앞으로 교사의 역할은 지식인에서 보육자로 빠르게 바뀔 거라고 예상함.

@aguming_ ㅋㅋㅋ 다들 어디서 ‘학습’해야만 알게 된다는 학습강박증이 좀 있습니다.

저는 이걸 ‘해줘증후군’이라 부르기도 합니다만 ㅋㅋ

‘Ai등장 이후의 교육은 어떻게 변해야 될까?’ ‘학습자가 Ai를 활용해서 기존보다 더 빨리 학습목표에 도달하고 더 우수한 학업성취를 보이게 하려면 어떻게 해야 할까?’

아직까지도 Ai 등장 이전의 교육으로 Ai 등장 이후의 교육을 판별하고 있다.

자동차를 타면, 마차로는 못 돌아가는 법이다.

인용 문맥: @DLabaree의 인용 원문 (Serio 작성 글과 구분)

그렇다고 이미 Ai 사용에 익숙해진 학생들에게 Ai를 쓰지 마라고 할 것인가? 심지어 그 Ai는 거의 대부분의 교사보다 현명하다.

코페르니쿠스적, 콜롬버스적 전환은 어려운게 아니다. 그저 존재를 받아들인 후 보는 관점만 전환하는 것이다.

그리고 저번에 이야기 했지만, 그런 거 같이 고민하는데 최고의 역할을 하는 것이 Ai.

당신의 옆에 있는 Ai에게 불어보라.

우짜면 좋겠는지.

우리 집 Ai는 우짜면 좋겠는지도 알고 있더라.

사람이 만들어 놓고도 주체가 사람이 되지 않아 외면할 뿐. Ai의 가능성을 여는 것도 닫는 것도 인간이다. https://t.co/smB4vg9dZa

@dambyworld @chulwanpark 어디에 뭐가 있는지 아는 건 그걸 바탕으로 한 추가 사고를 촉발하죠. 인지심리학에서 링킹(Linking)이라 부르는 것이고. 그러니 반복적 사고 과정을 통해서 어디에 무엇이 있는지 정보를 습득하게 하는 것은 중요하죠.

그 과정을 Ai를 사용해서 할 수 있게끔 만드는 것이 학자의 역할이겠죠.

과거에도 그랬고 지금도 그렇고 앞으로 그렇지만 인간이 시작이고 끝이다. 문제도 해결도 인간에서 시작되고 인간에서 끝난다.

Ai가 아무리 효율적이라 한들 그걸 활용하는 인간이 가치를 이해하고 받아들이는 태도를 가지지 않으면 아무런 의미가 없다.

Ai시대에 제일 중요한 게 리터러시인 이유다.