LLM과 온톨로지의 결합 — 판단 근거의 구조화

LLM이 아는 방식 — 파라미터 속의 지식

거대 언어 모형(LLM)은 방대한 텍스트에서 다음 낱말의 확률을 학습한 모형이다. 그 과정에서 세계에 대한 지식이 수천억 개의 파라미터에 스며든다 — 그러나 트리플(2-1)처럼 꺼내 보고 고칠 수 있는 형태가 아니라, 어디에 무엇이 저장되었는지 아무도 가리킬 수 없는 분산된 형태로다. 이 저장 방식에서 LLM의 강점과 약점이 함께 나온다. 강점: 어떤 표현으로 물어도 알아듣는 언어적 유연성 — 통제 어휘(1-5) 없이도 '작동기억'과 '작업기억'을 잇는다. 약점: 말한 내용의 출처를 스스로 제시하지 못하고, 모르는 것을 모른다고 말하는 대신 그럴듯한 문장을 지어낸다. 이 지어냄을 환각(hallucination)이라 부른다. 환각은 버그가 아니라 작동 원리의 그림자다 — 다음 낱말을 생성하는 기계는 "다음 낱말이 없음"을 생성하도록 만들어지지 않았다.

네 가지 기대, 다시

1-1에서 온톨로지가 AI에 약속하는 것을 네 가지로 적어 두었다 — 근거 있는 답, 공통 어휘, 보장된 추론, 행동의 경계. 그때는 예고였고, 지금은 검증할 차례다. 트랙 6의 남은 차시들이 네 기대를 하나씩 실물로 바꾼다.

표 1네 가지 기대와 트랙 6의 대응. 넷 모두에서 패턴은 같다 — LLM의 언어 능력은 그대로 두고, 책임져야 할 부분을 구조에 위임한다.

결합의 세 방향

LLM과 지식 구조의 결합 연구는 방대하지만, 흐름은 세 방향으로 정리된다(Pan et al. 2024의 분류를 따랐다).

이 결합을 더 큰 전통 속에 두면, 기호로 지식을 적는 접근(온톨로지가 속한 쪽)과 수치 학습으로 패턴을 잡는 접근(LLM이 속한 쪽)의 통합 — 이른바 신경기호(neuro-symbolic) AI — 의 현재형이다. 두 전통은 수십 년을 경쟁했지만, 지금의 실무적 합의는 경쟁이 아니라 분업이다. 유연한 해석은 신경망에, 검증 가능한 지식은 기호 구조에. 이 교재가 1부에서 기호 쪽의 기본기를, 2부에서 그 실물을 만든 이유가 여기서 드러난다 — 분업하려면 양쪽이 모두 있어야 한다.

판별 연습

적용: 3부의 사용법

3부의 다섯 이론 차시(6-1~6-5)는 지형을, 세 실습 차시(6-6~6-8)는 실물을 다룬다. 실습은 모두 2부의 psymap.owl을 재료로 하며, 외부 API 없이 재현되도록 축소 구현되어 있다 — LLM이 맡을 자리는 코드에 표시된다. 자신의 도메인으로 실습해 온 독자는 자기 OWL 파일을 그대로 꽂으면 된다.

용어 정리