NLP paper review (6/7~6/14)

1. MiniMax Sparse Attention (MSA)

• 배경
  • Agent / 코드 베이스 reasoning / multimodal / persistent memory에서 초장문 context(1M+) 필요 증가
  • 하지만 dense attention은 비용이 너무 큼
• 핵심 아이디어
  • block 단위 sparse attention + routing 구조로 필요한 KV만 선택
• 방법
  • 2-branch 구조
    • Index Branch: 전체 context에서 Top-k KV 블록 선택
    • Main Branch: 선택된 블록에만 정확한 sparse attention 수행
  • GPU 최적화:
    • exp-free Top-k
    • KV-outer sparse attention
• 결과
  • 1M context에서:
    • attention 연산 28.4배 감소
    • prefill 14.2배 / decoding 7.6배 속도 향상
• 의미
  • 단순 구조 + production 적용 가능
  • long-context를 실제 서비스 가능한 수준으로 낮춘 접근

 

2. Self-Harness

• 배경
  • Agent 시스템의 scaffold(prompt/tool/memory)는 수동 튜닝 → 유지보수 어려움
• 핵심 아이디어
  • LLM이 자기 시스템(harness)을 직접 개선
• 방법
  • 3단계 루프
    • Weakness Mining: 실패 패턴 클러스터링
    • Harness Proposal: 실패 기반 수정안 생성
    • Validation: held-in/out 테스트로 검증
  • generic advice가 아니라 구체적 실행 가능한 수정 생성
• 결과
  • Terminal-Bench-2.0:
    • MiniMax M2.5: 40.5% → 61.9%
    • Qwen3.5: 23.8% → 38.1%
    • GLM-5: 42.9% → 57.1%
• 의미
  • agent 설계에서 “self-improving scaffold” 패러다임
  • 모델마다 다른 failure를 자동 반영

 

3. Agents’ Last Exam (ALE)

• 배경
  • 기존 benchmark는 실제 경제적 가치와 괴리
• 핵심 아이디어
  • 현실 직업 기반 task benchmark
• 방법
  • 250+ 전문가 참여
  • 1,000+ task
  • O*NET / SOC 기준 직업 매핑
  • objective checkable outcome (주관 평가 없음)
  • 난이도 3단계
    • Near-term
    • Full-spectrum
    • Last-exam
• 결과
  • hardest tier pass rate: 평균 2.6%
  • GPT-5.5 + Codex:
    • 쉬운 tier도 <50%
    • hardest <10%
• 의미
  • “benchmark saturation 문제” 해결 방향
  • agent 성능을 실제 업무 기준으로 재정의

 

4. How AI Agents Reshape Knowledge Work

• 배경
  • conversational AI → autonomous agent 전환
• 핵심 아이디어
  • cost 구조 변화:
    • agent = 높은 초기 비용 + 낮은 반복 비용
• 방법
  • Perplexity production data 분석
  • 비교 대상:
    • Search (assistant)
    • Computer (agent)
• 결과
  • autonomy:
    • agent: 26분 autonomously 수행
    • search: 33초
  • inefficiency:
    • 시간: 269 → 36분 (87% 감소)
    • 비용: 94% 감소
  • task complexity:
    • agent: 더 복잡한 작업 수행 (71% abstract)
• 의미
  • agent는 단순 자동화가 아니라
  • 고부가가치 작업으로 workload 이동

 

5. Agentopia

• 배경
  • 기존 agent simulation은 단기 (days)
• 핵심 아이디어
  • 10년 horizon의 agent 사회 simulation
• 방법
  • 100 agents
  • 10년 life simulation
  • life reward 기반 fine-tuning
  • rejection sampling으로 학습
• 결과
  • CoSER:
    • +15.6% 성능 향상
  • anthropomorphism:
    • +23.7%
• 의미
  • simulation → training data 활용
  • agent 연구가 “사회/생태계 수준”으로 확장

 

6. Geometry of On-Policy Distillation (OPD)

• 배경
  • OPD는 많이 쓰이지만 구조적 이해 부족
• 핵심 아이디어
  • OPD는 SFT와 RL 사이가 아니라 독립적 업데이트 방식
• 방법 (weight geometry 분석)
  • 적은 parameter 업데이트
  • 초기 small subspace로 빠르게 수렴
  • 해당 subspace만으로 성능 유지 가능
• 결과
  • sample-efficient
  • SFT보다 다른 방향성의 learning dynamics
• 의미
  • post-training 방법을 이론적으로 이해 가능하게 만듦
  • 향후 hybrid training 설계에 중요

 

7. Lookahead Sparse Attention (LSA)

• 배경
  • long-context에서 KV cache 메모리 폭증
• 핵심 아이디어
  • 미래에 필요한 KV만 예측해서 유지
• 방법
  • lightweight indexer:
    • 필요한 KV chunk 사전 선택
  • backbone 없이 indexer 단독 학습
• 결과
  • KV cache:
    • 13.5% 수준으로 축소
  • 500K context:
    • 90% 이상 감소
  • 성능: +0.6% 개선
• 의미
  • long-context bottleneck = compute → memory로 이동
  • memory-aware attention 설계 중요성 강조

 

8. Latent Spatial Memory

• 배경
  • video world model은 long-term consistency 유지 어려움
• 핵심 아이디어
  • pixel이 아닌 latent space에서 spatial memory 유지
• 방법
  • depth 기반 back-projection
  • latent warping
• 결과
  • 속도:
    • 최대 10.57배 faster
  • 메모리:
    • 55배 절감
• 의미
  • world model에서
  • 효율적 장기 공간 기억 구조 제시

 

9. The Consistency Illusion

• 배경
  • multi-agent debate에서 “agreement = correctness” 가정
• 핵심 아이디어
  • 같은 결론이라도 reasoning은 다를 수 있음 (divergent agreement)
• 방법
  • reasoning similarity vs output agreement 2D 프레임
  • 4가지 상태로 분류
• 결과
  • 600개 moderation task 중
    • 118개에서 divergent agreement 발견
  • Cohen’s d = 0.80
• 의미
  • consensus 기반 평가의 한계
  • multi-agent 시스템에서 reasoning-level 평가 필요

 

10. Beyond Scalar Rewards (Z-Reward)

• 배경
  • reward model은 scalar → 인간 선호 표현 부족
• 핵심 아이디어
  • score distribution 기반 reward
• 방법
  • large teacher (27B):
    • reasoning 포함 평가
  • small student (9B):
    • distillation
• 결과
  • human preference accuracy:
    • teacher: 89.6%
    • student: 88.6%
  • RL 적용 시:
    • +41.3% 개선
• 의미
  • RLHF → distributional reward modeling으로 진화