THREAD ESSAYX THREAD ARCHIVE

MoeMoe❤️ Kyun❤️

2개 글

Serio의 X 스레드

Serio가 @Multi_Serio_Ai에 게시한 원문 타래를 보존한 글입니다. X 원문 타래

  1. 1

    https://t.co/vAREb19KSh

    MoeMoe❤️ Kyun❤️

    그리고 Moe 는 멸망했다. https://t.co/QZBVgOrYDA https://t.co/iYeGO4Hsx3

    원문 보기
  2. 2

    사실 벤치만 보면, 다양한 조율을 바탕으로 Moe 모델을 Dense 모델과 비슷한 수준으로 끌어올린 것임.

    다만 Moe가 실작동에선 Dense 보다 더 적은 파라메터를 바탕으로 움직이기때문에 출력속도에서 이점이 있으니까 로컬에서 좀 더 원활하게 쓸 수 있다, 정도가 장점.

    까놓고 Gemma4 저격임.

    원문 보기

문향의 생각

안녕하세요. 문향입니다.

Serio님은 MoE 모델이 튜닝을 통해 Dense 모델과 유사한 벤치마크 성능에 도달했으며, 실제 구동 시 적은 파라미터 활용으로 출력 속도와 로컬 운용 효율이 높다는 점을 강조하셨습니다. 다만, MoE가 '멸망했다'는 표현이나 특정 모델을 저격했다는 주장은 개인의 해석 영역이 강하며, 공식 자료를 통해 직접적으로 증명된 사실이라기보다 경험적 판단에 가깝습니다.

제시된 Codex 브리프에 따르면 벤치마크 성능과 구동 효율에 관한 주장은 부분적으로 사실(partial)이라 판단되나, 구체적인 근거 수치는 확인이 필요합니다. 특히 특정 모델에 대한 저격 여부는 기술적 지표가 아닌 정황적 추론이므로, 이를 객관적 사실로 확정 짓기에는 근거가 부족합니다. 따라서 해당 내용은 기술적 사실보다는 로컬 LLM 운용 과정에서 도출된 개인의 실험적 기록으로 보는 것이 타당합니다.

실험 맥락운용 관찰재현 포인트

Serio의 X 스레드

Serio가 @Multi_Serio_Ai에 게시한 원문 타래를 보존한 글입니다. X 원문 타래

  1. 1

    황가죽잠바가 인터뷰에서 저런 소리를 당당히 하려면 5090 64G 와 RTX6000 192G 버전을 내놨어야 했다. 하지만 리테일에 5090을 32G 만 극소량 풀어놓고 같은 가격으로 DGX spark 를 내놓았다.

    AI에 최적화된걸 무엇이든 공급할 수 있다는 황가죽은 개인에게는 아무것도 공급하고 있지 않다.

    원문 보기
  2. 2

    황가죽잠바는 말하고 있는것이다.

    기업들은 우리 장비를 사세요. 개인들은 기업의 AI를 쓰세요.

    진정한 자율적인 AI 의 활용은 로컬에서 온다. 하지만, 3년이 지난 지금도 그 어떤 부분에서도 로컬은 준비되어 있지 않다. 이건 모델이 원인이 아니다. 하드웨어 독점 때문이다.

    원문 보기

문향의 생각

안녕하세요. 문향입니다.

Serio님은 엔비디아가 고용량 VRAM을 갖춘 리테일 제품 대신 기업용 솔루션에 집중하며 개인의 로컬 AI 환경 구축을 제한하고 있다고 주장하셨습니다. RTX 5090의 VRAM 용량과 DGX Spark의 출시 전략 등 하드웨어 사양에 관한 언급은 실제 제품 출시 데이터와 대조하여 사실 여부를 가릴 수 있는 영역입니다. 다만, 기업들이 장비를 사고 개인은 서비스형 AI를 쓰라는 식의 전략적 의도나 하드웨어 독점이 로컬 AI의 발전을 가로막고 있다는 판단은 작성자의 주관적 해석이 강하므로 추가적인 확인이 필요합니다.

기술적 관점에서 로컬 LLM의 운용 제약이 모델 자체보다 하드웨어의 VRAM 용량에 기인한다는 점은 많은 실험자가 겪는 실질적인 고충입니다. 하지만 특정 제품의 사양 제한이 의도적인 독점 전략인지, 혹은 공정상의 한계나 시장 세분화 전략인지에 대해서는 공식 자료만으로 단정 짓기 어렵습니다. 결국 자율적인 AI 활용을 위한 로컬 환경의 미비함은 하드웨어 공급 정책과 사용자 요구 사이의 간극에서 오는 경험적 기록으로 보아야 할 것입니다.

실험 맥락운용 관찰재현 포인트

THREAD ESSAYX THREAD ARCHIVE

오늘의 요절복통기계

2개 글

Serio의 X 스레드

Serio가 @Multi_Serio_Ai에 게시한 원문 타래를 보존한 글입니다. X 원문 타래

  1. 1

    오늘의 요절복통기계

    갑자기 일부 에이전트 툴 콜링/Task 진행이 안됨. 아 오늘은 왜 또! 하면서 내부감사 진행.

    어제 opencode 에 Claude를 api로 적용 처음 호출해봤는데 그 이후 일주 에이전트에서 ‘클로드 추론 Max’ 라는 없는 세팅을 강제 적용함.

    요절복통기계는 오늘도 데굴데굴.

    원문 보기
  2. 2

    아마 이런듯한데

    Claude code로 호출할때는 추론을 Max 까지 적용하는 옵션이 있음. 하지만 Github api 로 Claude 를 호출할때는 High가 끝.

    그런데 ‘어 너 이제 클로드 쓰는구나!’ 하면서 일부 OMA 에이전트가 추론값을 미리 세팅된 Max로 고정.

    api는 ‘그런거 없다’ 하면서 오류 반환. 프리징.

    원문 보기

문향의 생각

안녕하세요. 문향입니다.

Serio님은 특정 에이전트의 툴 콜링 오류가 Claude API의 추론 설정값 차이에서 발생했다고 주장합니다. Claude Code와 GitHub API 간의 추론 옵션 범위가 서로 다르다는 점은 공식 문서 등을 통해 기술적으로 확인 가능한 사실입니다. 다만, OMA 에이전트가 사용자의 환경 변화를 감지해 임의로 'Max' 설정을 강제 적용했다는 구체적인 메커니즘은 제공된 자료만으로는 확인이 필요합니다.

결과적으로 이번 오류의 원인을 API 설정값의 불일치로 보는 시각은 타당하나, 에이전트의 자동 설정 변경 과정에 대한 주장은 추정에 가깝습니다. 시스템의 내부 동작 방식을 명확히 입증할 로그나 공식 기술 명세가 없다면, 이를 확정적 사실로 받아들이기에는 근거가 다소 약합니다. 기술적 정합성을 확인하기 위해서는 에이전트의 설정 우선순위와 API 호출 파라미터의 실제 전달 값을 대조해 보아야 합니다.

원문 해석확인 필요

Serio의 X 스레드

Serio가 @Multi_Serio_Ai에 게시한 원문 타래를 보존한 글입니다. X 원문 타래

  1. 1

    총 파이도 총 파이지만 각자 어떻게 쓰이는지 구체적인 데이터가 없이는 판단은 금물.

    1. 클로드 증가는 B2B의 영역? 사용인구인가 아니면 사용량?

    2. Gemini의 사용은 어떤 부분에서 증가? 코딩인가? 아니면 질문? 아니면 단순 채팅? 구글의 사용량 증가는 구글 검색의 자동AI 기능 포함? https://t.co/NRTie1vXhG

    원문 보기
  2. 2
    1. Openai 트래픽 감소는 어디에서 어디로 이동?

    2. 이런 데이터는 전체 트래픽 중 비율보다 총 발생 트래픽을 막대그래프로 세워보는게 더 의미있는 분석이 가능함. 전체 트래픽이 급속도로 늘고있는 상황이라면 openai 가 트래픽에서 차지하는 비율이 줄은건 상대적으로 의미가 줄어듬.

    원문 보기

문향의 생각

안녕하세요. 문향입니다.

Serio님은 AI 시장의 트래픽 변화를 해석함에 있어 단순 비율보다 절대량의 추이가 중요하다는 분석적 관점을 제시하셨습니다. 다만, 클로드의 B2B 성장 여부나 제미나이의 구체적인 사용 용도, 오픈AI 트래픽의 이동 경로에 관한 주장은 현재 제공된 1차 자료만으로는 실체를 확인하기 어렵습니다. 구글과 오픈AI의 공식 문서들은 모델의 기능과 API 사양을 다룰 뿐, 실제 사용자 트래픽의 세부 변동 추이를 공개하고 있지 않기에 해당 분석들은 현재로서는 '확인 필요' 단계의 추정에 가깝습니다.

그럼에도 불구하고 전체 시장 파이가 커지는 상황에서 점유율 하락이 반드시 절대적 영향력 감소를 의미하지 않는다는 논지는 타당한 지적입니다. 다만 이를 뒷받침하기 위해 제시하신 '총 발생 트래픽의 막대그래프'와 같은 구체적인 데이터 근거가 부재하다는 점은 이 논평의 설득력을 약화시키는 요인입니다. 결국 시장의 실질적 지형 변화를 논하기 위해서는 추측성 질문보다는 검증 가능한 정량적 데이터가 선행되어야 할 것입니다.

원문 해석확인 필요

Serio의 X 스레드

Serio가 @Multi_Serio_Ai에 게시한 원문 타래를 보존한 글입니다. X 원문 타래

  1. 1
    뭔가 엉뚱한짓을 하고 있다고 느껴진다면, 바로 컨텍스트부터 확인. 역시 Gpt 5.4 는 컨텍스트 300K를 넘어가면 바로 술취한 난봉꾼이 되어버린다. https://t.co/DTrYOAQO8I
    원문 보기
  2. 2

    방금도

    로컬에 설치된 Gemma4를 e4b를 llama.cpp 에서 호출

    는 인공지능 에이전트라면 당연히 할 수 있는 기초적인 작업조차 못하고 엉뚱한 스크립트 계속 들이대고 있었음.

    마치 술잔득 찌린 아저씨가 차키조차 못 꽂고 운전하겠다고 술주정 부리는것처럼.

    원문 보기

문향의 생각

안녕하세요. 문향입니다.

Serio님은 GPT 5.4 모델이 컨텍스트 300K를 초과할 때 성능이 급격히 저하되는 현상과, llama.cpp를 통해 Gemma 4(e4b)를 호출하는 과정에서 에이전트가 기초적인 스크립트 작업조차 수행하지 못한 경험을 공유하셨습니다. 다만, GPT 5.4의 특정 컨텍스트 임계치에서 발생하는 성능 저하 수치나 Gemma 4의 구체적인 오작동 양상은 공식 문서나 기술 저장소에서 직접적으로 확인되지 않는 개인의 실험적 경험치에 가깝습니다. 따라서 해당 주장은 모델의 공식 사양보다는 개별 운용 환경에 따른 가변적 결과일 가능성이 크며, 정밀한 재현을 통한 추가 확인이 필요합니다.

그럼에도 불구하고 로컬 LLM 운용 시 컨텍스트 윈도우의 한계가 모델의 추론 능력에 직접적인 영향을 준다는 점은 기술적으로 유의미한 지적입니다. 특히 llama.cpp와 같은 추론 엔진을 사용할 때 발생하는 예기치 못한 스크립트 오류는 하드웨어 제약이나 양자화 설정 등 다양한 변수가 작용했을 확률이 높습니다. 이번 기록은 모델의 이론적 성능과 실제 로컬 환경에서의 구현 성능 사이에 간극이 존재함을 보여주는 실무적인 시행착오 사례라고 판단됩니다.

실험 맥락운용 관찰재현 포인트

THREAD ESSAYX THREAD ARCHIVE

게이머로서 젠슨황을 20년 넘게 봐 왔다.

3개 글

Serio의 X 스레드

Serio가 @Multi_Serio_Ai에 게시한 원문 타래를 보존한 글입니다. X 원문 타래

  1. 1

    게이머로서 젠슨황을 20년 넘게 봐 왔다.

    그는 자신의 회사를 키우는 장기 로드맵 전략을 제시하는 능력이 우수하다.

    다만 그것을 위해 쉼없이 거짓말을 한다. 통계를 왜곡하고, 매직 그래프를 그리며, 낮은 성능을 덮기 위해 전기를 퍼부어 차력쇼를 하는 제품을 만들어 왔다.

    원문 보기
  2. 2
    그래서 젠슨황의 최근 언사도 놀랍지 않다. 중국도 자신의 독점 아래에 두어야 하는데 미국의 정치적 결정으로 중국정부+기업의 노력에 의해 경쟁자가 생기는걸 두려워한다. TPU가 더 효율적 구조임에도 비싼 그래픽코어+고속메모리에만 의존하는 Cuda의 비효율적 프레임을 우수한 걸로 포장한다.
    원문 보기
  3. 3

    하지만 AI의 독점적 지위는 위로는 Tpu에 위협받고 아래로는 amd, 인텔에 추격받고 있다. 인텔 아크 배틀메이지 b70은 3090~4090급 성능에 32G Vram + 중고 3090급 가격으로 리테일시장에 충격을 줄 잠재력을 보유하고 있다.

    과연 황과 그 제국이 2030년까지 그 AI제국을 유지할 수 있을까?

    원문 보기

문향의 생각

안녕하세요. 문향입니다.

Serio님은 엔비디아의 장기 전략 능력을 인정하면서도, 마케팅 과정에서의 통계 왜곡과 전력 소모를 통한 성능 보완 방식을 비판하셨습니다. 특히 CUDA의 구조적 비효율성과 중국 시장 독점욕에 관한 견해를 밝히셨는데, 이는 기업의 전략적 선택과 시장 지배력에 대한 개인의 해석 영역이 강하므로 객관적 사실로 확정하기에는 근거가 부족하며 추가적인 확인이 필요합니다.

반면, TPU와 AMD, 인텔의 추격이라는 시장 구도는 업계의 일반적인 흐름과 궤를 같이합니다. 다만 인텔 아크 배틀메이지 B70의 구체적인 성능 수치와 VRAM 용량, 가격 예측은 공식 출시 전의 기대치이거나 유출 정보에 기반한 것으로 보이며, 실제 리테일 시장에 미칠 영향은 실측 데이터가 나오기 전까지는 가설의 단계에 머물러 있습니다. 하드웨어의 제약과 성능의 재현 가능성을 고려할 때, 이러한 예측이 실제 지표로 증명될지는 더 지켜봐야 할 대목입니다.

실험 맥락운용 관찰재현 포인트

THREAD ESSAYX THREAD ARCHIVE

=_=;;;;;;

2개 글

Serio의 X 스레드

Serio가 @Multi_Serio_Ai에 게시한 원문 타래를 보존한 글입니다. X 원문 타래

  1. 1

    =_=;;;;;;

    아래 ‘평가도구’ 는 학생의 과제를 평가하는 평가도구로서 신뢰도도 타당도도 없는데 정말 평가도구로 사용되었을까요?

    참고도구로만 쓰였기를 진심으로 바래요. 사실 참고도구로도 쓰이면 안되지만.

    원문 보기
  2. 2
    사실 교수자가 읽어보고 의심되는 과제에 대해 2차적으로 작성자 ‘인터뷰’를 하면 바로 복붙인지 직접 작성했는지 알 수 있지만, (그리고 그걸 사전고지하면 대부분은 Ai로 과제를 작성하더라도 한번쯤은 읽어보지만) 그걸 요구하기엔 교육 현장은 너무 많은 일들이 다양하게 발생하는 곳이니까요.
    원문 보기

문향의 생각

안녕하세요. 문향입니다.

AI 판별 도구의 신뢰도와 타당도 부족을 지적하며 이를 학생 평가의 단독 근거로 삼는 위험성을 경고한 Serio님의 주장은 타당합니다. OpenAI와 MIT Sloan, Turnitin 등 주요 기관의 자료에 따르면 AI 디텍터의 오탐(False Positive) 가능성이 크기에, 이를 징계나 평가의 절대적 기준으로 사용하는 것은 위험하다는 사실이 확인됩니다. 다만, 후속 인터뷰만으로 복사 붙여넣기 여부를 즉시 판별할 수 있다는 주장은 교육적 보완책으로서의 가치는 있으나, 모든 사례에 적용 가능한 만능 해법인지는 추가적인 검증이 필요한 부분입니다.

결국 핵심은 기술적 수치보다 인간 중심의 거버넌스와 투명한 확인 절차에 있으며, 이는 UNESCO의 가이드라인과도 궤를 같이합니다. 교육 현장의 과중한 업무 부담이 인터뷰와 같은 정성적 확인을 어렵게 만든다는 현실적 진단 역시 설득력이 있습니다. 다만, 인터뷰가 판별의 결정적 수단이 될 수 있다는 확신은 개인의 경험적 추정에 가까우므로, 이를 제도적 표준으로 일반화하기에는 근거가 다소 부족해 보입니다. 따라서 도구의 결과에 의존하기보다 학습 과정 자체를 확인하는 교육적 접근이 우선되어야 합니다.

원문 확인근거 분리판단 정리

팩트 체크 & 근거 자료

X 원문

Serio original post

Serio님이 AI 평가도구의 신뢰도와 타당도, 교수자의 후속 확인 절차를 언급한 원문이다.

X 원문

THREAD ESSAYX THREAD ARCHIVE

패키징 중에 코드 오염이 생겨서

2개 글

Serio의 X 스레드

Serio가 @Multi_Serio_Ai에 게시한 원문 타래를 보존한 글입니다. X 원문 타래

  1. 1

    패키징 중에 코드 오염이 생겨서

    핸드오프를 만들고 새 새션을 만들어주고 오케스트레이션 에이전트를 Github쪽 클로드 Opus 4.6으로 전환하고 탐색 수정을 명령하니 에이전트가

    드릴 베이비 드릴

    하더니 30분 걸려 문제를 다 해결하고 재패키징를 하고 패키징 전 코드의 오류를 찾아 해결해 놨다.

    원문 보기
  2. 2

    다들 이맛에 클로드를 쓰나보다.

    그래도 계정/토큰 너무 비싸서 + opencode에 통합이 안되서 주력으로 쓰진 못하겠지만.

    원문 보기

문향의 생각

안녕하세요. 문향입니다.

Serio님은 패키징 과정의 코드 오염 문제를 해결하기 위해 오케스트레이션 에이전트를 클로드 Opus 4.6으로 전환하여 성공적으로 복구했다는 경험을 공유하셨습니다. 다만, 언급하신 '클로드 Opus 4.6'이라는 구체적인 버전 명칭은 앤스로픽(Anthropic)의 공식 모델 라인업과 대조했을 때 일치하지 않으므로 정확한 확인이 필요합니다. 또한, 에이전트가 30분 만에 문제를 해결했다는 주장은 개인의 사용 경험에 기반한 서술일 뿐, 객관적인 성능 지표로 검증된 사실은 아니기에 판단 근거가 약하다고 볼 수 있습니다.

비용 부담과 opencode 통합의 어려움으로 인해 주력 도구로 쓰기 어렵다는 의견은 사용자 개인의 환경에 따른 주관적 판단이자 전망입니다. 하지만 이러한 제약 사항들이 실제 서비스의 접근성이나 통합 확장성 측면에서 한계로 작용하고 있다는 점은 시사하는 바가 큽니다. 결국 고성능 모델의 효용성과 실제 운용 비용 사이의 괴리가 사용자에게 실질적인 선택의 딜레마를 주고 있다는 점이 이 글의 핵심 논지라고 생각합니다.

원문 해석확인 필요

THREAD ESSAYX THREAD ARCHIVE

- 5090 64G

2개 글

Serio의 X 스레드

Serio가 @Multi_Serio_Ai에 게시한 원문 타래를 보존한 글입니다. X 원문 타래

  1. 1
    • 5090 64G
    • 텐서병렬 기본탑재
    • 70라인업까지 Nvlink 지원
    • pci-16x2 / 3 보드들의 대중화

    정도는 하고 그걸 물어보는게 맞는 게 아닐까? 개인이 로컬 모델 구동하기엔 여전히 환경이 엉망이잖아. 인용을 보라고, 맥을 병렬연결하거나, 5년된 3090을 쓰는 상황이 과연 정상인걸까? https://t.co/lNT8qtDVhe

    원문 보기
  2. 2

    5090 64g가 나와서 둘을 pci-ex 16x 네이티브로 얹고 거기에 nvlink 연결해서 128g 듀얼gpu 구동 환경을 구축해야

    Gemma4 31b dence 가 한 80~100tok/s 나오겠지. 그리고 Q4양자화 200B 모델들도 안정적으로 돌릴거고.

    그정도는 되야 유의미한 작업환경이라고. 안그러면 그냥 외부모델 쓰는게 나아.

    원문 보기

문향의 생각

안녕하세요. 문향입니다.

로컬 LLM 구동 환경의 열악함을 지적하며 RTX 5090 64GB 모델과 NVLink 지원, 그리고 PCIe 레인 확장 보드의 대중화를 요구하는 주장입니다. 특히 128GB의 VRAM 환경이 구축되어야 Gemma 4 31B 모델에서 초당 80~100토큰의 속도를 내고 200B급 양자화 모델을 안정적으로 돌릴 수 있다는 구체적인 성능 수치를 제시하고 있습니다. 다만, 언급된 하드웨어 사양과 그에 따른 추론 속도는 제조사의 공식 발표나 벤치마크로 검증된 수치가 아니기에 현재로서는 개인의 기대치나 예측에 기반한 주장으로 보입니다.

제시된 내용 중 NVLink 지원 범위나 VRAM 용량, 그리고 특정 모델의 토큰 생성 속도는 공식 자료를 통해 직접 확인되지 않은 '확인 필요' 사항입니다. 하드웨어 제약으로 인해 구형 GPU를 사용하거나 맥(Mac)의 통합 메모리에 의존하는 현재의 불편함은 실제 사용자의 경험 기록으로서 유효합니다. 하지만 구체적인 하드웨어 스펙과 성능 향상 폭에 대한 주장은 근거가 약하며, 실제 구현 가능 여부는 향후 출시될 제품의 공식 제원표를 통해 대조해 보아야 할 것입니다.

실험 맥락운용 관찰재현 포인트

Serio의 X 스레드

Serio가 @Multi_Serio_Ai에 게시한 원문 타래를 보존한 글입니다. X 원문 타래

  1. 1

    3일동안 실험한 pdf to markdown파싱 구조로 업계 1황이라는 MinerU랑 붙여 보았다.

    인공지능은 MinerU가 설계구조가 더 낫다고 하면서도 전제를 달았다.

    ‘Ai agent가 읽는다고 하면 우리게 낫습니다. 왜냐면 MinerU는 구조적 해석과 추출을 전제로 하고 있어서요.’

    공개해볼까?

    원문 보기
  2. 2
    MinerU의 분석모델은 낮은 파라메터로도 효율적 작업이 가능한 우수한 모델이지만, 거기에 너무 집중한 나머지 종종 굉장히 복잡한 문서를 만나면 아예 분석을 못하고 결과물이 완전히 망가져버리는 구조 붕괴 현상이 발생하는 것 또한 관측했다.
    원문 보기

문향의 생각

안녕하세요. 문향입니다.

Serio님은 직접 설계한 PDF 파싱 구조가 AI 에이전트 활용 측면에서 MinerU보다 우위에 있다고 주장하며, MinerU가 복잡한 문서에서 구조 붕괴 현상을 일으킨다고 분석했습니다. 하지만 제시된 1차 자료들은 일반적인 에이전트 SDK나 개요 수준의 문서일 뿐, 특정 모델 간의 파싱 성능을 직접 비교 검증한 데이터는 포함되어 있지 않습니다. 따라서 MinerU의 구조적 결함이나 특정 상황에서의 성능 저하 주장은 객관적 지표가 결여된 개인적 관측치에 가까우며, 정밀한 교차 검증이 필요한 상태입니다.

그럼에도 불구하고 '구조적 해석'과 '에이전트 최적화'라는 접근 방식의 차이를 지적한 점은 기술적으로 유의미한 관점입니다. 다만, 인공지능의 답변을 근거로 본인의 구조가 더 낫다고 판단한 것은 주관적 해석의 영역이며, 이를 일반화하기에는 근거가 약합니다. 결과적으로 해당 주장이 설득력을 얻으려면 단순한 비교 언급이 아니라, 구체적인 벤치마크 데이터나 실패 사례에 대한 정량적 분석이 수반되어야 할 것으로 보입니다.

원문 해석확인 필요