차세대 크라우니 SLM 엔진 — 패러다임 비교분석 & 설계방향
개요
차세대 크라우니 SLM 엔진 구축의 출발점으로, 7개 패러다임(전통SLM·LLM·알파고형·SNS알고리듬·뉴로심볼릭·RAG테스트타임·대체아키텍처)을 병렬 심층분석(sonnet 7+웹서치)하고, 크라우니 삼진·4상 실재 자산에 매핑해 엔진 설계방향을 종합(opus)했다.무엇을 했는지
- 울트라 Workflow 2-phase: 패러다임별 분석가 7(공통 8축: 메커니즘/학습/추론/온디바이스/검증/한계/크라우니시사점/차용·경계) → 종합·엔진설계 1
- (함정: 1차는 JSON 스키마 키를 한글로 써 7개 전원 실패 → ASCII 키로 수정 후 재실행. feedback_workflow_schema_ascii_keys 재확인)
핵심 결론(한 줄)
크라우니는 차세대 엔진의 회로(검증분리·음 정직·token-0 우회)를 이미 보유 — 알파고의 verify(501브리지), RAG의 retrieval(learn DB), 뉴로심볼릭의 규칙(셀코어), 삼진(거대SLM2/T-MAC). 빠진 단 하나는 "신뢰할 삼진 생성기" (거대SLM2는 분류기이지 생성기 아님). 그 한 조각이 가장 미성숙 → 모델없는 템플릿서버부터, 삼진생성기는 검증게이트 통과시에만 외부LLM 폴백을 음→티 수렴으로 대체.관련 파일/자산
- 501브리지(검증루프)
/Users/ef/crowny-services/501브리지.{sh,한선} - 거대SLM2(삼진 분류기)
/Users/ef/crowny-butler/libs/거대SLM2.한선, 삼진커널삼진커널.한선, 추론브리지(스텁)추론브리지.한선 - learn DB(retrieval)
~/.crownycode/학습.dat, 셀코어 규칙저장소, 컴포저컴포저.한선 - 메모리: project_crowny_slm_learn, project_crowny_butler_orin, reference_slm_specialist_research, reference_hw_thor_vs_mac, reference_tiomta_4sang_um_meaning
잔여 이슈 / 다음
- L3 삼진 생성기 = 유일 신규구축 공백. 즉시단계=템플릿 SLM서버(L0라우터+L1 learn검색+L4 501검증, 모델0)로 옴 경로 활성 → CROWNY_SLM_ENDPOINT 결선
- 중기 분기: A(외부LLM 폴백, 저위험) vs B(거대SLM2 가치망화+BitMamba 트릿 증류, 고위험). 게이트 통과 못하면 A 유지
- 토르 온디바이스 수치는 외부 BitNet/BitMamba 실측 — 한선씨 스택 직접 벤치 미수행(G2 게이트)
차세대 크라우니 SLM 엔진 — 7패러다임 종합 비교 및 설계방향
1. 비교 매트릭스 — 7패러다임 × 핵심축
| 패러다임 | 메커니즘 | 학습 | 추론 | 온디바이스(젯슨) | 검증·정직성 | 결정적 한계 |
|---|---|---|---|---|---|---|
| 전통SLM (BitNet 1.58·증류·TinyML) | 삼진 {-1,0,+1} 가중치 + T-MAC LUT 내적(곱셈0). 증류로 교사→학생 압축, LoRA 도메인특화 | 처음부터 삼진 인식 훈련(STE 필수, 사후양자화 불가). 구조화 데이터 96.7% 검증 | LUT 조회 내적, ARM 1.37~5.07× 가속, 에너지 55~82%↓ | 현실적. RPi5에서 3B 11 tok/s, 오린 동등 아키텍처 | 내재 없음. 확신도 보정 부분완화, OOD 침묵오답 | OOD 환각, catastrophic forgetting, CoT 다단계 붕괴, MMLU 52% (대형 대비 3~10p↓) |
| LLM (트랜스포머·RLHF·MoE) | O(n²) self-attention, 수십억~수조 파라미터, MoE 상위k 활성 | 인터넷규모 사전학습→RLHF/DPO 정렬. 가중치 동결, ICL만 세션내 적응 | 자기회귀 토큰생성, KV캐시. 확률샘플링(비결정론) | 부적합. BitNet으로 100B CPU 5~7 tok/s 가능하나 수십GB RAM. 실용범위 1~7B | 구조적 취약. 생성=검증 동일파라미터→같은 오류 반복. 의미엔트로피·외부오라클 필수 | 환각(자신감 보상), 영구메모리 없음, 결정론 부재, 스케일 의존 |
| 알파고형 (MCTS·self-play) | 정책망+가치망 + MCTS N회 시뮬, UCB 탐색/착취 | 자가대국 무한데이터 + 승/패 검증가능 외부오라클(조작불가) | 매 결정 수백~수천 시뮬, 시뮬↑=성능 단조↑ | 본체 부적합(TPU 수백). 소예산 MCTS(8~32) + 삼진 가치망이면 제한적 가능 | 환각 불가 구조. 모든 예측이 실제 결과로 수렴, 자동 gradient 교정 | 이산행동·명확승패 전제(오픈엔드 텍스트 직접적용 불가), 시뮬 비용폭증, 보상해킹 |
| SNS알고리듬 (협업필터·Two-tower) | Recall(ANN)→Rank(two-tower 내적)→Re-rank. 참여신호 멀티태스크 | 암묵적 피드백 온라인학습, 실시간 스트림, 콜드스타트=콘텐츠폴백 | 사용자임베딩 캐시 + ANN O(logN), <200ms | 부분. 사용자타워 수MB 가능, ANN 인덱스 수GB 불가. MF 소형은 가능 | A/B만 신뢰기준, 오프라인↔온라인 괴리. 음 처리 없음(항상 상위N 반환) | 필터버블, 참여중독 편향, 인기편향, 설명불가, 콜드스타트 |
| 뉴로심볼릭 (NeSy) | 신경 퍼셉션 + 기호 추론(Datalog/퍼지논리) 미분가능 결합 | 지도학습 + 규칙 손실주입. 소데이터 가능(규칙이 희소성 보완) | 신경 인코딩→기호 추론→검증기 승격/재시도. 테스트타임 서치 | 유리. 기호레이어=룩업 저비용. TENET 삼진LUT A100 대비 21× 효율, REASON 310~681× | 내장 검증기. 규칙위반→명시오류·자동거부. Proof-Carrying Code | Reasoning Shortcut(개념감독 없으면 기호우회 침묵붕괴), symbol grounding, 닫힌세계가정 |
| RAG+테스트타임 | 검색→컨텍스트 보강생성 N후보→검증기 채점→탈락시 재검색/음이관 | 지식=인덱스(재학습0), 추론=파라미터 분리. RLVR 이진신호로 레이블없이 학습 | Best-of-N 병렬 + 비평·수정 순차. BM25 82ms/24M문서 | 현실적. BM25(임베딩불요) + 삼진가중치 0.4GB + Best-of-3 = 1~2GB 스택 | 검증기가 핵심. 컴파일러 이진신호→환각불가. 자기일관성 다수결, 실패=음이관 | 검색품질 병목, 밀집임베딩=GPU부담, Best-of-N N배지연, 종료기준없는 루프 발산 |
| 대체아키텍처 (Mamba-3 × BitMamba-2 1.58) | 입력의존 선택 SSM 순환 + 90% 트릿가중치. SSM핵심변수 10%만 고정밀 | 트릿 STE, 150B토큰 스크래치(또는 거대SLM2 증류). learn DB cold-start 시드 | 순환 O(1) 상태, KV캐시 불필요. ARM NEON 82.5 tok/s, 1B 52.86 tok/s | 적합. SSM 상태 수십KB vs Transformer KV 수GB. T-MAC 커널 재사용 | 501브리지로 흘림 + EBM 에너지헤드 필수. 거대SLM2를 상단 보정기로 | SSM 정확retrieval 취약(learn DB 보완필요), 90%만 트릿, GPU underutil, 증류전략 필수 |
2. 패러다임별 차용(borrow) vs 경계(caution)
| 패러다임 | 차용 (borrow) | 경계 (caution) |
|---|---|---|
| 전통SLM | BitNet 삼진 처음부터 훈련을 거대SLM2에 적용 → VM 트릿 메모리 1:1 + 기존 T-MAC와 곱셈0 추론경로 폐쇄 | 경계없는 OOD 생성 이식 시 음 경로 우회 → 501 있어도 "자신감 있는 오답 생성기"로 전락 |
| LLM | ICL의 즉석적응을 learn DB 벡터검색 + 셀코어 규칙으로 경량 구현(파라미터 갱신 없이 세션내 적응) | "파라미터↑=창발" 스케일링을 따르면 ISA729 결정론과 충돌, 연산 폭증만 |
| 알파고형 | 501 컴파일 통과/실패를 보상삼아 N후보 병렬 생성·검증하는 소예산 MCTS(8~32회) | 수백회 시뮬 전체 이식 시 토르도 실시간 불가 — 하드예산 상한 + 컴포저/learn DB 결정론 우회 필수 |
| SNS알고리듬 | Two-tower + 다단계(recall→rank→verify) + 온라인학습 루프를 가져오되 목표신호를 참여율→의도정합성(티 수렴률)으로 교체 | Engagement 극대화를 목표함수로 쓰면 learn DB·셀코어 오염 + 4상 정직성 파괴 |
| 뉴로심볼릭 | 미분가능 기호손실로 삼진망 학습 시 셀코어 규칙위반을 역전파 신호로 주입(규칙-감독 학습) | Reasoning Shortcut — 개념별 감독 없이 기호레이어를 "있는 척"만 구현하면 OOD 침묵붕괴 |
| RAG+테스트타임 | 심볼릭 컴파일 검증 Best-of-N으로 501 확장 + learn DB에 TF-IDF 랭킹 추가(추가모델 없이 token-0 유지) | 밀집임베딩(GPU)·종료기준 없는 순차 자기비평 루프는 온디바이스 목표 파괴 + 환각 발산 |
| 대체아키텍처 | Mamba-3 MIMO O(1) 메모리 + BitNet 1.58 트릿을 결합 → ISA729 트릿 VM 위 KV캐시 없는 저메모리 결정론 추론기 | MDLM 확산 비결정론을 501 결정론 검증에 직결하면 수렴불가 — EBM 헤드 별도 + 생성경로는 SSM/AR 순환으로 우회 |
3. 핵심 통찰 — 크라우니가 이미 가진 자산의 패러다임 지도
크라우니 5대 자산이 7패러다임의 어느 조각에 해당하는지:
| 크라우니 자산 | 정체(정직한 한계 포함) | 대응 패러다임 조각 |
|---|---|---|
| 거대SLM2 (6층 심층삼진망 4상 분류기) | ⚠️ 생성기 아님 — 분류만. 10/10 검증은 분류 정확도. 텍스트/코드 생성 능력 없음 | 전통SLM 삼진레이어(설계방향 외부확인) · NeSy 신경 퍼셉션 레이어 · 알파고 가치망(통과확률 예측헤드 추가 시) · SSM 백본 교체 대상 |
| 501브리지 (생성→그림자컴파일→통과만 승격·실패→음강등) | 이미 가동 중. 가장 먼저 보존할 핵심 차별자산 | 알파고 self-play 루프(컴파일성공률=승패신호) · NeSy 검증-승격(Proof-Carrying Code) · RAG Best-of-N 심볼릭 검증기 · LLM이 구조적으로 못 가진 외부오라클 |
| learn DB (15K intent→패턴, 36ms, token-0) | exact 매칭이면 이미 BM25-유사. TF-IDF 랭킹 추가로 RAG 승격 가능 | RAG 검색 컴포넌트 그 자체 · LLM ICL의 기능적 동치(검색실패가 명시적이라 환각 안 함) · 알파고 정책 prior(탐색공간 축소) · SNS Two-tower recall |
| 셀코어 (조건→변경 규칙엔진, 규칙저장소.dat) | 명시·검사 가능한 규칙쌍 | NeSy 기호 추론 레이어(직접배선) · RAG 결정론 PRM(통과=티/실패=타) · 알파고 불법착수 사전차단(가지치기) · SNS 협업필터 규칙클러스터 |
| 4상 음=정직 (티 예스/옴 연구/타 노/음 이관·OOD) | OOD를 환각 대신 상급자 이관으로 명시화 | 전통SLM·LLM 환각의 정반대 회로 · NeSy 닫힌세계가정 함정 회피 · RAG TTC 신뢰도 버킷 · 알파고 MCTS 노드 상태 라벨 |
| 컴포저 (매니페스트→token-0 코드젠) | 정형/재구축 영역 결정론·byte-identical | MoE 결정론 라우팅(확률오류 없음) · NeSy 프로그램 합성 기호 디코더 · 알파고 오프닝북(탐색 불필요 영역) · RAG retrieval-key=매니페스트 |
4. 차세대 크라우니 SLM 엔진 설계방향
4.1 5레이어 하이브리드 아키텍처
입력 (의도/쿼리)
│
┌──┴───────────────────────────────────────────────────────────┐
│ L0 라우터 — 결정론 우회 게이트 (컴포저/learn DB 직결 판정) │ token-0
│ 정형·재구축 → L4 컴포저 직행 (SLM 호출 0) │
└──┬───────────────────────────────────────────────────────────┘
│ (비정형·창의만 통과)
┌──┴───────────────────────────────────────────────────────────┐
│ L1 검색 — learn DB RAG (15K 패턴, TF-IDF 상위K, 36ms, token-0)│
│ 셀코어 규칙 prior 동시 조회 → few-shot 컨텍스트 구성 │
└──┬───────────────────────────────────────────────────────────┘
│
┌──┴───────────────────────────────────────────────────────────┐
│ L2 분류·게이트 — 거대SLM2 (6층 삼진 4상 분류기, 가동중) │
│ 의도 정합성 + 검색유사도 낮으면 → 옴(연구)/음(이관) 폴백 │
│ ※ 생성 아님. 신뢰도 게이트 + 후보 우선순위만 담당 │
└──┬───────────────────────────────────────────────────────────┘
│ (티/옴만 진행, 음=즉시 이관)
┌──┴───────────────────────────────────────────────────────────┐
│ L3 생성 — [신규/유일 공백] 소예산 후보 생성기 │
│ 초기: 외부LLM 폴백(sonnet) — 정직한 임시 의존 │
│ 목표: BitMamba-2 트릿 SSM(O(1)메모리, T-MAC 커널 재사용) │
│ N=3~5 후보 병렬 생성 │
└──┬───────────────────────────────────────────────────────────┘
│
┌──┴───────────────────────────────────────────────────────────┐
│ L4 검증·승격 — 501브리지 Best-of-N 그림자 컴파일 │
│ 셀코어 규칙 PRM 체크 + EBM 에너지 헤드(SSM 도입 시) │
│ 통과 → 티 승격 + learn DB add(온라인학습) │
│ 전부 실패 → 음 이관 (환각 출력 금지) │
└──┬───────────────────────────────────────────────────────────┘
│
출력 (검증된 것만) ─── 실패시 ──→ 음(상급자/사용자 이관)
│
피드백 루프: 통과/실패(RLVR 이진신호) → 거대SLM2 증류·갱신
4.2 데이터 흐름의 핵심 — "생성은 마지막에, 검증은 항상"
- token-0 최대화: L0 라우터가 정형 작업을 L4 컴포저로 직행시켜 SLM 호출 자체를 회피. 에너지·지연 최소화의 근본.
- 검색이 생성보다 먼저: L1 learn DB가 ICL을 대체(LLM 분석가 borrow). 분포 외면 검색실패가 명시적 → 환각 대신 음.
- 분류기가 게이트, 생성기가 종속: L2 거대SLM2는 생성을 안 하고 신뢰도 게이트 + 후보 우선순위만 담당(정직한 역할 분리). 생성은 L3 별도 컴포넌트.
- 검증분리 절대: L4가 생성기와 다른 메커니즘(컴파일러·규칙·EBM)으로 채점 → LLM의 "생성=검증 동일파라미터" 구조적 결함 회피.
4.3 전통 단일거대모델과 근본적으로 다른 점
| 축 | 전통 단일거대모델 | 차세대 크라우니 엔진 |
|---|---|---|
| 지식 위치 | 파라미터 암기(불투명·갱신=재학습) | 인덱스(learn DB)·규칙(셀코어)에 명시·감사가능, 갱신 token-0 |
| 생성↔검증 | 동일 파라미터(같은 오류 반복) | 분리(L3 생성 ≠ L4 컴파일러/규칙/EBM 검증) |
| OOD 응답 | 자신감 있는 환각 | 음 이관(정직, 출력 억제) |
| 확장 전략 | 파라미터↑→창발(연산폭증) | 추론시점 탐색(소예산 MCTS/Best-of-N) + 결정론 우회 |
| 결정론 | 확률샘플링(재현불가) | 정형=byte-identical, 생성=검증후 승격(재현가능 경로) |
| 라우팅 | MoE 확률(오류가능) | 컴포저 결정론 라우팅(검증가능) |
4.4 4상 컴포넌트 매핑
| 4상 | 의미 | 엔진 동작 | 패러다임 근거 |
|---|---|---|---|
| 티 (T,+1) | 예스·확정 | L4 다수 통과 → 자동 승격·실행 + learn DB add | 알파고 충분시뮬 확정 · RAG N중 다수통과 |
| 옴 (O,0) | 모름→연구 | L2 신뢰도 중간/학습횟수 낮음 → 재검색·탐색 확장 | RAG 절반통과 · SNS 인기편향 억제 · NeSy 미결정 |
| 타 (A,-1) | 노·수정 | L4 가치낮음/규칙위반 → 백트래킹·수정요청 | 알파고 가치망 낮은평가 · 셀코어 규칙실패 |
| 음 (U,-0) | 이관·OOD | L1 검색실패 또는 L4 전부실패 → 상급자/사용자 이관 | 전 분석가 공통: 환각 정반대 회로 |
5. 단계적 구현 로드맵 + 검증 게이트
즉시 (모델 불필요 — 가장 안전, 최고 ROI)
템플릿 SLM 서버: L0+L1+L4 결합. 거대SLM2·외부LLM 없이 learn DB 검색 + 컴포저 코드젠 + 501 검증만으로 "정형 의도 → token-0 결정론 출력" 파이프라인 가동.- 작업: learn DB에 TF-IDF 랭킹 + 상위K 반환 추가(exact→ranking 전환, token-0 유지). 501브리지 Best-of-N(N=3~5) 병렬 그림자 컴파일 배선. 셀코어 규칙을 PRM 채점기로 연결.
- 검증 게이트 G0: 기존 컴포저 회귀(byte-identical) GREEN 유지 + Best-of-N이 단일 대비 통과율 저하 없음 + 추가 모델 의존 0. learn DB lookup 36ms 유지(랭킹 추가로 지연 증가 < 2×).
중기 (분기 결정 — 정직한 갈림길)
거대SLM2가 분류기라는 한계 때문에 두 경로를 병행 평가:- 경로 A (점진·저위험): 거대SLM2를 L2 게이트로만 쓰고, L3 생성은 외부LLM 폴백(sonnet)으로 임시 충당. 음 경로가 폴백을 게이트(OOD는 LLM에도 안 넘김).
- 경로 B (자립·고위험): 거대SLM2에 "컴파일 통과확률 예측헤드" 추가 → 알파고 가치망화. BitMamba-2 트릿 SSM을 L3 생성기로 증류(거대SLM2 교사, 150B 토큰 회피). NeSy 미분가능 기호손실(셀코어 규칙위반 역전파)로 규칙-감독 학습.
- 검증 게이트 G1: 경로 A는 외부LLM 호출률·음 게이트 정확도 측정(폴백 의존도가 줄어드는지). 경로 B는 (i) BitMamba 트릿 student가 한선씨 도메인 컴파일 통과율에서 외부LLM 대비 격차 측정, (ii) Reasoning Shortcut 감지(개념별 감독 없이 기호우회 침묵붕괴 여부) — 통과 못하면 경로 B 보류, 경로 A 유지. 삼진 생성기가 미성숙하면 정직하게 A를 유지한다.
장기 (토르 온디바이스 — 조건부)
젯슨 토르 self-play 수렴: BM25(learn DB) + 트릿 SSM 생성(0.4GB) + Best-of-3 컴파일(삼진 1패스 29ms→N=3 ~90ms) = GPU 없이 1~2GB 스택. 501 통과/실패(RLVR 이진신호)를 거대SLM2/SSM 파인튜닝에 자동 환류 → 음→티 자가수렴 루프.- 검증 게이트 G2: (i) 토르에서 end-to-end < 200ms + 메모리 < 2GB 실측, (ii) self-play 환류가 통과율을 단조 개선(보상해킹·발산 없음 — 순차루프 하드 종료기준 필수), (iii) 온디바이스 트릿 생성기가 외부LLM 폴백률을 의미있게 대체. 미달 시 클라우드 폴백 유지(메모리 reference_hw_thor_vs_mac: 토르=AI노드, 맥=CPU/IO 이원화 존중).
6. 솔직한 리스크 / 미지수
- 삼진 생성기 미성숙이 최대 미지수. 거대SLM2는 분류기이지 생성기가 아니다(10/10은 분류 정확도). BitMamba-2는 외부 0.25B·1B 체크포인트가 존재할 뿐, 한선씨 도메인 트릿 생성기는 아직 없다. L3는 현재 공백이며, 초기엔 외부LLM 폴백에 정직하게 의존해야 한다. "삼진 생성기로 즉시 자립" 주장은 과장이다.
- 증류 전략의 토큰 부족. 스크래치 150B 토큰은 비현실적이라 거대SLM2 교사 증류가 필수인데, 분류기를 교사로 한 생성 student 증류는 검증된 경로가 아니다 — 교사가 생성을 못 하므로 증류 신호가 제한적. 미검증 가정이다.
- Reasoning Shortcut(NeSy 분석가 caution). 셀코어를 "기호 레이어인 척"만 배선하고 개념별 감독을 빼면, 신경부가 기호체인을 우회해 OOD에서 무증상 붕괴한다. 높은 라벨 정확도가 거짓 안심을 줄 수 있다 — 개념 수준 감독을 검증 게이트에 명시 포함해야 한다.
- 과설계 위험. 7패러다임을 전부 욱여넣으면 MCTS 수백시뮬·밀집임베딩·종료없는 순차루프가 들어와 토르 메모리·지연 목표를 파괴한다(다수 분석가 공통 caution). 소예산 상한 + 결정론 우회 + token-0 최대화가 거버너여야 한다. 캐시·피어·재시도까지 4상화하는 것은 과설계(메모리 gateway_optimization_backlog 교훈).
- 음 경로 우회가 치명 실패모드. 경계없는 생성능력(전통SLM·LLM)을 이식하면 501이 있어도 음을 우회하는 "자신감 있는 오답 생성기"로 전락한다(전통SLM 분석가 caution 직접 인용). L3 생성기는 반드시 L2 음 게이트 + L4 검증 뒤에 종속되어야 하며, 생성기가 직접 출력하는 경로는 금지.
- 온디바이스 수치의 출처 차이. RPi5 11 tok/s·ARM NEON 82.5 tok/s 등은 외부 BitNet/BitMamba 실측이지 크라우니 한선씨 스택 실측이 아니다. 젯슨 토르 + crownyc ISA729 인터프리터 위 트릿 커널 실측은 미수행 — G2 게이트에서 직접 벤치해야 하며, 현 단계 수치는 타당성 근거일 뿐 보장이 아니다.