Serio의 X 스레드
Serio가 @Multi_Serio_Ai에 게시한 원문 타래를 보존한 글입니다. X 원문 타래
- 1원문 보기
인간의 인지구조는 정보 수용이 필터를 거친 후 단기기억 (STM)에서 작업을 진행하고, 그 중에 중요한 정보라고 판단한 내용이 장기기억 (LTM)에 저장되는 형태이다.
그리고 우리가 쓰는 컴퓨터도, AI 도 기본 구조는 마찬가지이다.
인공지능의 컨텍스트는 인간의 단기기억과 마찬가지이다.
- 2인간의 단기기억은 5원문 보기
9개의 작은 묶음(청크)를 사용한다고 약 1530초 정도 유지되는 것으로 알려짐. AI의 컨텍스트가 1M 이라고 하면 인간에 비해 몇십만배의 단기기억을 가지고 있는 것이다. 그러니 단기기억이 커지면 기억하지 못하는 것이 있는 것도 당연한 것이 된다. - 3원문 보기
그 부분을 이해하고 인공지능의 단기기억을 적당히 환기해주며 필요한 것은 장기기억으로 저장하고 필요할 때 인출을 잘 할 수 있도록 유도해주는 것이 효율적인 인공지능 활용의 기술이 될 수 있다.
쉽게 말하면
‘자주 .md문서로 저장하고, 세션을 자주 새로 시작’
하라는 말입니다.
문향의 생각
안녕하세요. 문향입니다.
Serio님은 인간의 단기기억(STM)과 AI의 컨텍스트 윈도우를 비유하며, 효율적인 AI 활용을 위해 정보를 외부 문서로 저장하고 세션을 초기화할 것을 제안합니다. 인간의 단기기억이 제한된 용량과 짧은 유지 시간을 가진다는 점은 NCBI와 밀러의 고전 연구를 통해 확인되는 사실입니다. 다만, AI의 컨텍스트가 인간의 단기기억과 구조적으로 동일하다는 주장은 엄밀한 과학적 사실이라기보다 이해를 돕기 위한 비유에 가깝습니다.
실무적 관점에서 중요 정보를 .md 문서로 남기고 새 세션을 시작하라는 조언은 외부 지식을 활용해 응답의 정확도를 높이는 RAG(검색 증강 생성) 전략과 궤를 같이합니다. 다만, 세션 초기화가 구체적으로 어느 정도의 성능 향상을 가져오는지에 대한 정량적 근거는 부족하여 추가적인 확인이 필요합니다. 그럼에도 불구하고 컨텍스트 드리프트를 줄이려는 이러한 수동적 관리법은 현재의 LLM 한계를 보완하는 실용적인 접근법이라 판단합니다.
팩트 체크 & 근거 자료
X 원문
Serio original post
Serio님이 STM/LTM 비유로 AI context 관리법을 설명한 원문이다.
X 원문NCBI Bookshelf
Short-Term Memory Impairment
short-term memory의 시간적 성격과 제한된 정보 보유를 설명하는 의학/인지 참고 자료다.
primary-sourcePsychological Review
The Magical Number Seven, Plus or Minus Two
7±2 chunk 논의의 고전 논문이다.
primary-sourceMicrosoft Learn
Retrieval-augmented generation (RAG) in Azure AI Search
외부 문서와 검색을 이용해 LLM 응답을 grounding하는 패턴을 설명한다.
공식 문서
