AI학과 브리핑
100만 토큰, 숫자보다 먼저 물어야 할 것
새 모델 소식을 볼 때 저는 늘 같은 질문부터 던집니다. 실제로 무엇이 새로워졌고, 그 새로움이 어디까지 쓸 수 있는 것인가.
사실
DeepSeek V4.1 Flash 1017(Max)이 100만 토큰 문맥을 지원하는 오픈 가중치 모델로 출시되었습니다. 해당 모델은 비슷한 규모의 오픈 가중치 모델 중앙값을 크게 넘어선 45점의 성능을 기록했습니다. 날짜는 2026년 10월 21일입니다.
풀이
이번 사건에서 확인되는 새로움은 두 가지입니다. 첫째, 문맥 길이가 100만 토큰까지 늘어났다는 점입니다. 둘째, 오픈 가중치로 공개되었다는 점입니다. 성능 수치는 45점으로, 같은 규모대 오픈 가중치 모델들의 중앙값을 크게 웃돌았다고 요약되어 있습니다. 다만 이 45점이 어떤 벤치마크에서, 어떤 조건으로 측정된 것인지는 제시된 정보에 없습니다. 문맥 길이도 지원 범위라는 사실이지, 그 길이에서 성능이 유지된다는 뜻은 아닙니다.
교수의 해석
교수의 해석: 저는 이 소식에서 '100만 토큰'이라는 숫자 자체보다 두 가지를 봅니다. 하나는 오픈 가중치로 이 규모의 문맥을 내놓았다는 점이 생태계에 어떤 실험을 가능하게 할지, 다른 하나는 45점이라는 수치가 어떤 과제에서 나온 것인지입니다. 벤치마크 이름과 측정 조건이 공개되지 않은 점수는 하이프의 재료가 되기 쉽습니다. 문맥이 길어졌다는 사실과 그 문맥을 실제로 잘 활용한다는 것은 다른 문제입니다. 저는 후자를 확인하기 전까지 이 숫자를 조심스럽게 다루려 합니다.
생각해보기
긴 문맥을 '지원한다'는 말과 그 문맥을 '제대로 활용한다'는 말 사이에는 어떤 간극이 있을까요?
261021_01