대학원 브리핑
법률 AI, 정답 없을 때도 답 고른다… 판례 검증 모델의 '기권' 실험
무엇을 한 연구인가
저자들은 대규모 언어모델을 기반으로 하되 텍스트를 생성하는 대신 각 선택지에 대해 보정된 확률을 내놓는 '시스템 원(System One) 결정 모델'이, 정답인 법적 권위(판례)가 존재하지 않는 상황에서 기권하는지를 실험했습니다. 기존 판례 선택 벤치마크인 CaseHOLD에 '정답 없음' 조건을 추가해 5,314개 항목 중 1,670개의 정답 판례를 오답으로 교체하고, 결정 모델 네 개와 생성형 LLM 여섯 개를 같은 조건에서 비교했습니다. [출처: arXiv:2610.29961v1]
초록이 말하는 것 전부
이 연구의 출발점은 검증 가능한 법률 AI가 확장 가능하고 값싸야 한다는 실무적 요구입니다. 확인해야 할 주장의 수가 방대하기 때문에, 비용과 속도가 감당 가능해야 법률 현장에서 쓸 수 있다는 것입니다. 저자들이 주목한 것은 생성형 LLM의 변형인 '결정 모델'입니다. 이 모델은 문장을 만들어 내지 않고, 주어진 선택지 각각에 대해 보정된 확률값을 돌려줍니다. 법적 권위를 검증하는 작업은 질문이 닫혀 있다는 점에서 이런 형식과 잘 맞습니다. 특정 판례가 답인지, 아니면 어느 것도 답이 아닌지를 가려내면 되기 때문입니다. 문제는 여기서 생깁니다. 실제 법률 검증에서는 정답 판례가 아예 존재하지 않는 경우가 흔한데, 기존 벤치마크는 항상 보기 중 하나가 정답이라고 전제합니다. 그래서 저자들은 CaseHOLD에 '기권' 조건을 붙입니다. 정답 판례를 오답으로 바꿔치기해, 어떤 보기도 옳지 않은 상황을 인위적으로 만든 것입니다. 이 조건에서 결정 모델과 생성형 LLM이 어떻게 행동하는지를 비교합니다. 저자들이 던지는 주장은 두 갈래입니다. 첫째, 정답이 없을 때도 모델이 답을 골라 버리는 경향이 실제로 존재하며 그 정도가 모델 종류에 따라 크게 다르다는 것, 둘째, 법률 AI의 성능은 정답률 하나로만 평가해서는 안 되고 '틀린 인용을 얼마나 내는가'로 평가해야 한다는 것입니다. [출처: arXiv:2610.29961v1]
결과
정답 판례가 없는 조건에서 생성형 LLM들은 38%에서 86%의 항목에서 그래도 보기 하나를 선택했습니다. 가장 신중한 결정 모델은 같은 조건에서 30%였습니다. 표준 CaseHOLD 조건에서는 결정 모델이 최고 성능 생성형 LLM과 사실상 같은 수준(88.1% 대 88.2%)을 기록했고, 비용은 그 55분의 1이었습니다. 생성형 LLM의 답을 결정 모델이 동의할 때만 받아들이는 방식으로 결합하면 그 LLM의 잘못된 인용이 절반으로 줄었습니다. 또한 결정 모델의 확률을 레이블 없이 Qwen3-8B에 증류하면 보정이 잘 된 로컬 모델이 만들어졌습니다. [출처: arXiv:2610.29961v1]
우리가 해석한다
이 논문의 진짜 기여는 성능 숫자가 아니라 평가 축을 옮긴 데 있습니다. 지금까지 법률 LLM 벤치마크는 '보기 중 하나는 반드시 정답'이라는 폐쇄 세계를 전제했습니다. 그러나 실무에서 법률 검색·인용 검증이 어려운 이유는 정답이 없을 때 억지로 답을 만들어 내기 때문입니다. 논문은 그 전제를 일부러 깨뜨려, 모델의 '자신감'과 '정확성'이 얼마나 어긋나는지를 드러냅니다. [연결] 이는 할루시네이션 문제를 단순한 사실 오류가 아니라 '답하지 않아야 할 때 답하는 습관'으로 재정의하는 셈입니다. 결정 모델 + 생성 모델의 앙상블이 오답 인용을 줄였다는 결과도 실무적으로 의미가 큽니다. [연결] 법률 문서 검토 파이프라인에서 생성 모델을 단독으로 쓰기보다, 확률 기반 검증기를 게이트키퍼로 두는 구조가 자연스럽다는 설계 지침이 됩니다. 비용이 55분의 1이라는 점은 [연결] 대량 계약서·판례 검색 같은 고처리량 업무에서 결정 모델을 1차 필터로 쓰고, 애매한 건만 생성 모델로 넘기는 계층 구조를 정당화합니다. 레이블 없이 증류로 로컬 모델을 만든 결과는 [연결] 민감한 법률 데이터를 외부 API로 보내기 어려운 조직에 현실적인 대안을 시사합니다. 다만 이 모든 해석은 '기권'이라는 행동이 실제 법률 판단의 신뢰성과 어떻게 연결되는지에 대한 추가 검증을 전제로 합니다.
이 논문으로 말할 수 없는 것
이 연구는 CaseHOLD라는 단일 벤치마크와 인위적으로 조작한 기권 조건에 기반합니다. 실제 법률 문서에서 '정답 판례가 없음'은 저자들이 만든 교체 방식과 다른 형태로 나타나므로, 실무 일반화는 별개 문제입니다. 결정 모델과 생성형 LLM 사이의 차이가 모델 크기나 학습 데이터 구성 차이에서 비롯된 것인지, 구조적 차이에서 온 것인지 분리하지 못합니다. 88.1% 대 88.2% 같은 벤치마크 점수는 실제 법률 추론 능력의 동등성을 뜻하지 않습니다. 또한 arXiv 사전출판본으로 동료심사를 거치지 않았습니다. [출처: arXiv:2610.29961v1]
남는 물음
정답이 없을 때 '기권'을 잘하는 모델과 정답을 잘 맞히는 모델은 같은 모델일 수 있을까요, 아니면 서로 다른 훈련 목표를 가져야 할까요?
261022_09