← 목록
기타 2026-06-30 2KB 읽기 2분

요청: K4어텐션수렴-사이클15

  • 날짜: 2026-06-30 14:55:05
  • 작업 경로: /Users/ef/CrownyOS/crownyc

요청 본문

P0 사이클15 캐비엇 해결: K=4 어텐션을 진짜 학습수렴으로. OvR 75%→3/4이상 수렴

관련 산출

(클로드가 작업 결과를 이어 기록)

산출 결과

파일: /Users/ef/crowny-butler/libs/K4어텐션수렴.한선

근본원인 (사이클15 확인)

  • (A) 비대칭초기화 i=0 → t=2, 2%5=2, (2-2)*2=0 → W2[0]=0 항상
  • (B) Body-ch12 q=(-1,+1,+1,-1), 초기 W1 row0 내적=0 → h[0]=0
  • 이중 deadlock: W2[0]=0 AND h[0]=0 → grad=0
  • (C) nS=64이지만 클래스내 16샘플 동일 Q특징 → 에폭당 16× 중복 → 진동

해결

  • (a) 편향초기화(씨앗%5≠2): 씨앗=[1,5,9,13] → W[0]≠0
  • (b) 바이어스 b=2: sum=0일 때 z=2>θ=1 → h=+1≠0
  • (c) dh=8: 뉴런 증가
  • (d) nS=4 대표샘플: 중복 제거, 수렴 안정

학습 수렴 결과

  • 에폭500: 3/4, 에폭1000: 3/4, 에폭1500: 3/4, 에폭2000: 3/4 (안정)
  • PASS Animals(K=0): 스코어[1,-1,-3,-6] ✓
  • PASS Kinship(K=1): 스코어[-2,1,-4,-6] ✓
  • PASS Body-ch12(K=2): 스코어[-2,-3,2,-5] ✓
  • FAIL Body-ch4(K=3): 스코어[-3,-3,0,-1] (Body-ch12 스코어 0 > Body-ch4 스코어 -1)
  • 최종 3/4 ≥ 목표 ≥3/4 달성

잔여 이슈

  • Body-ch4(K=3) 미수렴: q=(-1,+1,+1,+1) vs Body-ch12 q=(-1,+1,+1,-1), q[3]만 다름
  • Body-ch4 OvR 분류기(씨앗=8)가 자기 클래스 score=-1, Body-ch12 OvR score=0 → 역전
  • 추가 튜닝시 씨앗 변경 또는 lr 감쇠 검토

크라우니코드 보고

  • MISS → 생성 → learn 완료
  • 파일: K4어텐션수렴.한선