페이블 복구 되면 써보긴 해야겠네.

Serio의 X 스레드

Serio가 @Multi_Serio_Ai에 게시한 원문 타래를 보존한 글입니다. X 원문 타래

1. 1

   페이블 복구 되면 써보긴 해야겠네. 경험적 표현이 이렇게 차이 나니.

   복구는 될테고, 복구 과정에서 과연 엔트로픽과 정부가 어떤 딜을 할지가 의문.

   원문 보기
2. 2
   유출된 시스템 프롬만 거의 117K. 명령 한번에 최소 30K의 시스템 컨텍스트를 가져감. 하네스 엔지니어링으로 모델을 쥐어짜는 모습을 보여주는데 토큰 소비도 소비지만 작업 공간 감소로 컨텍스트 부패에 시달리게 됨. 싱글턴 경험이 우수할 수 있어도 멀티턴에서 능력이 대폭 떨어질 것이라.
   원문 보기
3. 3
   사실 엔트로픽의 모델들은 초두효과를 강렬하게 준다고 생각하고 있음. 학습 데이터셋이 매우 좋고 이를 통해 다른 모델이 달성하지 못한 깊은 추론을 이끌어내는 역량을 확보했음. 매끄러운 언어 구사력과 구조 구축 역량은 보는 사람들에게 ‘매우 일을 잘 하는 모델’이라는 인식을 심어 줄 수 있음.
   원문 보기
4. 4
   다만, 잘 만들어진 베이스 모델에 강한 하네스 엔지니어링이 추가로 들어가기 때문에 한번 환각에 빠지면 전혀 엉뚱한 일을 하는 경우도 많았음. 모델 자체의 능력으로 매우 그럴듯한 거짓말을 지어내는 상황에서 모델에 대한 신뢰까지 쌓여 있는 상황이라 문제 인식 타이밍이 늦어지게 됨.
   원문 보기
5. 5

   그래서 차라리 실수한 순간 망가져 문제를 빠르게 캐치하는 모델이 작업하기에 더 좋았고, 이미 그간 Gemini 의 에이전트 콜링 실패+ 환각에 지쳐버린 상황에서 선택할 이유가 없던게 그간 클로드를 멀리한 이유였는데.

   과연 페이블이라고 달라졌을까. 달라질 이유는 없어 보이는데.

   원문 보기