Moonjung Eo
2026.09.09
현장 데이터의 가치를 재발견하다, ‘EXAONE Tabular’ 공개
기업이 가진 지속 가능한 성장 동력은 보고서가 아닌 생산라인의 센서값, 실패한 실험 기록, 숙련공의 판정 기준 등 현장에 축적된 '노하우'와 표 형태의 정형 데이터에 존재합니다. 이러한 정형 데이터는 임상 위험도 예측, 신용평가, 설비 예지보전, 제조 품질관리 등 다양한 산업 현장의 의사결정을 뒷받침하는 핵심 자산입니다.
그동안 XGBoost, LightGBM, CatBoost 등 트리 기반 부스팅 모델이 정형 데이터 예측의 사실상 표준으로 자리 잡아 왔지만, 이러한 방식은 새로운 데이터셋마다 별도의 학습을 거쳐야 해 수많은 라벨링된 데이터와 연산 자원이 매번 소요된다는 한계가 있었습니다. LG AI연구원은 정형(표 형식) 데이터의 분류·회귀 예측을 위한 파운데이션 모델 'EXAONE Tabular'를 공개하며 이러한 재학습 부담 자체를 근본적으로 없애는 방향을 제시했습니다.
'EXAONE Tabular'는 실제 표 데이터를 단 한 건도 사용하지 않고, 오직 자체 생성한 합성 데이터만으로 처음부터 끝까지 사전 학습된 예측 알고리즘을 구축했습니다. 라벨이 있는 지지 세트(support set)와 라벨이 없는 질의 세트(query set)를 함께 입력받아 모델 파라미터 업데이트 없이 바로 예측값을 산출하는 방식을 택했습니다. 분류와 회귀 각각에 특화된 모델로 구성되어, 사전학습된 하나의 모델이 데이터셋별 별도 학습 과정 없이, 주어진 표 데이터의 예시를 문맥으로 활용해(in-context learning) 새로운 데이터에 대한 예측을 수행할 수 있는 것이 특징입니다.
EXAONE Tabular는 특히 결측치나 오류가 섞인 데이터에도 강건한 예측 성능을 보이는데, 이는 학습 단계에서부터 설계된 결과입니다. 합성 데이터를 생성할 때 결측치가 포함된 상황을 함께 학습시켰기 때문에, 실제 현장 데이터 특유의 불완전함에도 흔들리지 않는 성능을 확보할 수 있었습니다. 실제로 배터리 셀 불량 검출 등 핵심 제조 공정에 투입되어 완성품 품질을 예측하고 불량 가능성을 사전에 차단 등 현장 데이터 기반 AI 혁신의 실질적 가치를 증명해 나가고 있습니다.
■ 20.8M 파라미터로 대형 모델과 경쟁하는 효율성
‘EXAONE Tabular’의 분류 모델은 약 2,080만 개, 회귀 모델은 약 2,111만 개 파라미터로 구성된 초경량 모델입니다. 그럼에도 정형 데이터 벤치마크 ‘TabArena’ 평가에서 분류 모델은 데이터셋별 별도의 튜닝없이 단일 기본 설정만으로 전체 평가 대상 중 1위를 기록했습니다. 또한 회귀 모델은 78배 이상 큰 16.4억 파라미터 규모의 구글 ‘TabFM’과 대등한 성능을 구현하면서도 추론 비용은 약 11분의 1 수준으로 대폭 낮췄습니다.
TabArena는 51개(분류 38개, 회귀 13개) 실제 예측 과제로 구성된 정형 데이터 학습 벤치마크입니다. 정확도와 지연시간 비교에서 ‘EXAONE Tabular’는 1,000개 샘플당 0.605초의 단일 순전파 추론만으로 분류·회귀 두 과제 모두에서 파레토 최적선에 위치했습니다. 특히 분류에서는 전체 리더보드 중 최고 Elo 점수를 기록해 EXAONE Tabular보다 2~3배 큰 TabPFN-3(53M)를 약 125점 차로, TabICLv2(28M)는 그보다 더 큰 격차로 앞섰습니다. 이는 4시간 동안 수행한 정형 데이터 AutoML 파이프라인(AutoGluon)의 성능을 두 과제 모두에서 상회하는 결과 입니다. 전체 데이터셋 단위 승률에서도 TabFM을 제외한 모든 파운데이션 모델을 상대로 65~92%의 우위를 보여주며, 특정 데이터셋에 국한되지 않고 전반적으로 일관되고 강력한 성능을 보여줬습니다.
이미지 1. 정확도(Elo)-추론 지연시간 파레토 프론트 (왼쪽: 분류, 오른쪽: 회귀).
EXAONE Tabular(별)는 단일 순전파(0.605초/1K샘플)만으로 두 과제 모두 파레토 최적선에 위치합니다.
(Source: EXAONE Tabular 1.0 : Technical Report(https://arxiv.org/abs/2608.25774))
EXAONE Tabular(별)는 단일 순전파(0.605초/1K샘플)만으로 두 과제 모두 파레토 최적선에 위치합니다.
(Source: EXAONE Tabular 1.0 : Technical Report(https://arxiv.org/abs/2608.25774))
이미지 2. 기본 설정 대비 튜닝(주황)·앙상블(초록) 효과 (왼쪽: 분류, 오른쪽: 회귀).
대부분의 GBDT·신경망 모델은 수 시간의 튜닝을 거쳐야 하지만, EXAONE Tabular는 별도 튜닝 없는 기본 설정만으로 최상위권 성능을 보입니다.
(Source: EXAONE Tabular 1.0 (http://arxiv.org/abs/2608.25774))
대부분의 GBDT·신경망 모델은 수 시간의 튜닝을 거쳐야 하지만, EXAONE Tabular는 별도 튜닝 없는 기본 설정만으로 최상위권 성능을 보입니다.
(Source: EXAONE Tabular 1.0 (http://arxiv.org/abs/2608.25774))
■ 4개 공개 벤치마크에서 검증된 성능
LG AI연구원은 TabArena 외에도 결측치가 포함된 데이터셋을 다수 포함한 'BCCO', 대규모 분류·회귀 데이터셋을 아우르는 'TALENT', 예측 분포의 품질까지 평가하는 'ScoringBench' 등 총 4개 공개 벤치마크에서 성능을 검증했습니다.
가장 눈에 띄는 결과는 정확도 수치 자체가 아니라, 그 정확도를 훨씬 적은 파라미터로 달성했다는 점입니다. BCCO(106개 분류·50개 회귀 데이터셋)와 TALENT(188개 분류·100개 회귀 데이터셋) 평가에서 'EXAONE Tabular'는 분류 부문에서 구글 TabFM에 각각 0.792 대 0.799, 0.857 대 0.863으로 근소하게 뒤이어 2위를 기록했지만, TabICLv2·TabPFN-3 등 비슷한 체급의 다른 모델들은 두 벤치마크 모두에서 앞섰습니다. 회귀 부문에서는 0.799 대 0.792, 0.736 대 0.733으로 TabFM마저 앞서며 1위를 차지했습니다. 두 벤치마크 모두 TabFM과의 분류 성능 격차는 1% 이내였는데, TabFM이 32개 모델 앙상블과 1.64B 파라미터를 투입한 반면 'EXAONE Tabular'는 8개 앙상블과 20.81M 파라미터만으로 이 성능을 냈습니다. 파라미터 규모로는 약 80분의 1 수준입니다. 이는 곧 더 적은 연산 자원으로도 현장에 즉시 투입 가능한 실용성을 의미합니다.
예측 분포의 정확도까지 평가하는 ScoringBench(102개 회귀 데이터셋, 28개 비교 모델)에서는 점 추정 지표(R², RMSE)와 분포 평가 지표(CRPS) 모두에서 평균 순위 1위를 기록하며, 단순 평균값 예측을 넘어 예측의 불확실성까지 정교하게 포착하는 능력을 입증했습니다.
■ 핵심 기술 ① Cross-Axis Summary Transformer(CAST)
‘EXAONE Tabular’ 기술의 핵심은 자체 개발한 신경망 구조인 ‘Cross-Axis Summary Transformer(CAST)’입니다. 기존 정형 데이터 파운데이션 모델들은 각 행(row)의 특성(feature)들을 하나의 고정된 벡터로 압축한 뒤 별도의 행 단위 학습 모듈로 전달하는 2단계 구조를 취하는 경우가 많았습니다. 반면 CAST는 매 트랜스포머 레이어마다 각 항목 내에서의 특성 축 어텐션과, 각 특성 내에서 지지 세트를 조건으로 한 항목 축 어텐션을 번갈아 수행하며, 이 둘을 ‘항목 요약 토큰’과 ‘특성 요약 토큰’이 매개합니다. 이를 통해 셀(cell) 단위의 표현을 전체 네트워크에서 유지함과 동시에, 레이어를 거듭할수록 특성 간 상호작용과 지지 세트의 문맥 정보를 점진적으로 정교화할 수 있습니다.
‘EXAONE Tabular’ 기술의 핵심은 자체 개발한 신경망 구조인 ‘Cross-Axis Summary Transformer(CAST)’입니다. 기존 정형 데이터 파운데이션 모델들은 각 행(row)의 특성(feature)들을 하나의 고정된 벡터로 압축한 뒤 별도의 행 단위 학습 모듈로 전달하는 2단계 구조를 취하는 경우가 많았습니다. 반면 CAST는 매 트랜스포머 레이어마다 각 항목 내에서의 특성 축 어텐션과, 각 특성 내에서 지지 세트를 조건으로 한 항목 축 어텐션을 번갈아 수행하며, 이 둘을 ‘항목 요약 토큰’과 ‘특성 요약 토큰’이 매개합니다. 이를 통해 셀(cell) 단위의 표현을 전체 네트워크에서 유지함과 동시에, 레이어를 거듭할수록 특성 간 상호작용과 지지 세트의 문맥 정보를 점진적으로 정교화할 수 있습니다.
이미지 3. EXAONE Tabular 전체 프레임워크. (1) SCM 기반 합성 데이터 생성 — 인과 그래프, 메커니즘, 결측·노이즈 패턴을 조합해 학습 과제를 만듭니다.
(2) CAST의 특성축·항목축 교차 어텐션 구조 — 열 요약(Sc)과 행 요약(Sr)이 셀을 매개로만 정보를 주고받습니다.
(3) 분류·회귀 각각의 전용 헤드로 과제별 학습을 수행합니다.
(4) 지지 세트와 질의 세트를 입력받아 클래스 확률 또는 예측 분포를 산출하는 문맥 학습 추론 과정입니다.
(Source: EXAONE Tabular 1.0 (http://arxiv.org/abs/2608.25774))
(2) CAST의 특성축·항목축 교차 어텐션 구조 — 열 요약(Sc)과 행 요약(Sr)이 셀을 매개로만 정보를 주고받습니다.
(3) 분류·회귀 각각의 전용 헤드로 과제별 학습을 수행합니다.
(4) 지지 세트와 질의 세트를 입력받아 클래스 확률 또는 예측 분포를 산출하는 문맥 학습 추론 과정입니다.
(Source: EXAONE Tabular 1.0 (http://arxiv.org/abs/2608.25774))
■ 핵심 기술 ② 실제 데이터 없이, 합성 데이터만으로 완성한 학습
‘EXAONE Tabular’ 학습 과정에서 가장 눈에 띄는 지점은 실제 표 데이터를 단 한 건도 사용하지 않았다는 점입니다. 대신 인과 그래프(DAG)를 무작위로 생성하고 비선형 변환·트리 기반 규칙 등 다양한 메커니즘으로 관계를 부여한 뒤, 범주형 변수 이산화·비선형 특성 왜곡 등 후처리를 추가해 실제 데이터에서 나타날 법한 분포를 정교하게 재현하는 구조적 인과모형(SCM) 기반 생성기를 자체 구축했습니다. 특히 결측치 역시 실제 데이터의 결측 패턴에 맞춰 정교하게 주입함으로써, 합성 데이터만으로도 실전과 가까운 학습 신호를 확보했습니다.
이렇게 실제와 가까운 분포와 결측 패턴으로 학습한 덕분에, ‘EXAONE Tabular’는 별도의 보간(imputation) 없이 결측값을 그대로 입력받아 값의 존재 여부 자체를 특성 표현에 반영할 수 있습니다. 실제로 결측치가 많이 포함된 BCCO 벤치마크에서도 분류 2위, 회귀 1위를 기록하며 실사용 환경에 가까운 조건에서도 안정적인 성능을 확인했습니다. 특정 산업이나 도메인에 치우치지 않은 이러한 합성 데이터 설계가, 처음 보는 실제 데이터셋에도 즉시 적용 가능한 범용 예측 능력의 바탕이 되었습니다.
■ EXAONE Tabular, 정형 데이터 예측의 새로운 선택지로
LG AI연구원은 ‘EXAONE Tabular’를 통해 텍스트와 이미지를 넘어 글로벌 빅테크들이 치열하게 경쟁하는 정형 데이터 AI 시장에서 선제적으로 기술 주도권을 확보했습니다. 관련 추론 코드는 깃허브(GitHub)와 허깅페이스(Hugging Face)에 공개해 자유로운 활용을 지원하며, 모델 가중치는 연구·교육 목적으로 제공하되 상업적 활용을 원할 경우 LG AI연구원과 별도 라이선스 계약을 통해 지원합니다.