LG AI연구원의 MRC 프로젝트, 어디까지 왔나

MRC(Machine Reading Comprehension)는 기계가 사람처럼 문서를 읽고, 이해할 수 있게 하는 기술입니다. 예를 들어 사람이 주어진 문서에 대해 질문을 하면, 기계가 질문에 대한 정답을 문서에서 찾을 수 있습니다. 기존의 질의응답 시스템은 지정된 문서에 대한 질문과 답을 미리 준비해야 했지만, MRC는 이러한 FAQ 리스트 없이 임의의 질문에 대해서도 자유롭게 대답할 수 있는 장점이 있습니다.

LG AI연구원 랭귀지 랩은 지난해 BERT(Bidirectional Encoder Representations from Transformers) 기반의 모델에 Salient span masking과 Stack-attention을 적용한 한국어 모델을 개발했습니다. 이 모델은 현재 사람의 독해력을 뛰어넘는 수준의 성능을 기록하고 있습니다(KorQuAD 1위, 2020년 7월).


스스로 검색해서 응답하는 Open-domain QA
LG AI연구원 랭귀지 랩에서는 ‘문서를 특정하지 않고’ 질문을 던지면 기계가 검색을 통해 문서와 답을 찾는 Open-domain QA 영역으로 연구를 확장하고 있습니다. 이를 위해 R3(Retriever/Re-ranker/Reader) 구조를 채택하고 Bi-encoder 구조의 Dense 벡터 모델을 통해 데이터를 인코딩한 뒤, 추출된 벡터들을 비교하여 유사도를 기준으로 질의문에 가장 적합한 문단들을 선택하여 재정렬하는 방법을 연구하고 있습니다.

이러한 MRC 기술은 문서 내에 일반 텍스트 형식으로 표기된 정보는 잘 찾지만 테이블이나 리스트 형식으로 표기된 내용에서 답을 찾는 데는 한계가 있었습니다. 문서에서 중요한 정보가 테이블로 표기된 경우가 많기 때문에 테이블에 포함된 정보를 자연어 질의로 검색하는 ‘Table MRC’ 기술 연구 또한 진행하고 있습니다.


테이블에서 답을 찾다, Table MRC
Table MRC는 자연어 질의와 테이블 구조의 관계를 이해하여 테이블에서 답을 가져올 수 있게 하는 MRC 기술입니다. 테이블을 이해하고 답하기 위해서는 테이블의 구조를 표시하는 마크업(Mark-up) 언어를 학습하는 방법과 데이터베이스에 저장된 테이블에 자연어 질의를 통해 답을 구하는 방법이 있습니다. 저희는 두 가지 방법을 모두 연구 중인데 이중 후자의 방식을 소개하겠습니다.

데이터베이스를 이용한 MRC에서는 자연어 질의를 적절한 SQL로 변환시키는 작업이 중요합니다. 이를 위해 사용자 질의를 트리 구조로 분석하고 복잡한 연산이 가능하도록 SQL을 생성해야 합니다. 합, 평균, 최대/최소 등의 표현을 적용하도록 Aggregation 함수를 사용하였으며 질문과 연관된 복수의 테이블 간의 구조적 관계를 분석하기 위해 Schema linking model을 사용하였습니다.




이러한 Table MRC 기술은 테이블에 포함된 문서를 다루는 모든 업무에 사용될 수 있으며 현재 업무 지원을 위한 챗봇과 상담사를 위한 어드바이저 등에서 활용점을 찾고 있습니다.


의미를 이해하는 인공지능, TV MRC
문서에서 정답을 찾는 MRC 기술을 TV의 영상 콘텐츠 검색에 적용한 사례가 ‘TV MRC’ 기술입니다. TV MRC는 대중에게 공개된 정보 중 영화/드라마/예능 프로그램에 대한 내용을 검색하고, 검색된 내용에 MRC를 적용한 것으로 기존의 검색보다 자연스러운 질문에 대답이 가능하며, 보다 자세한 최신 정보 제공이 가능합니다.

기존 TV의 음성 검색은 검색어와 답변을 미리 준비하여 키워드를 매칭하는 방식이기 때문에 데이터베이스에 없는 검색어가 입력될 경우 답변이 불가능했습니다. 예를 들어 예능 프로그램 명인 ‘나 혼자 산다’를 검색하면 검색이 되지만, ‘혼자 사는 연예인들이 나오는 예능’이라고 프로그램의 내용을 입력하면 답이 나오지 않습니다. 하지만 여기에 MRC 기술을 적용하면 TV가 질문의 의미를 이해하여 답을 찾기 때문에 이런 경우에도 정답인 ‘나 혼자 산다’를 찾을 수 있습니다.




이렇듯 TV MRC 기술은 Smart TV 사용자의 콘텐츠 관련 궁금증을 바로 해결해 주고, 원하는 콘텐츠를 쉽고 빠르게 찾아줄 수 있습니다.

지난 5월, LG AI연구원은 ‘초거대 AI’ 연구를 선언하고 이를 위해 인프라 투자를 아끼지 않겠다는 목표를 밝힌 바 있습니다. LG AI연구원 랭귀지 랩은 초거대 AI 연구를 통해 확보한 딥러닝 모델을 이용하여 MRC 성능을 지속적으로 개선해 나가고 있습니다.