[논문리뷰] ALCM: Autonomous LLM-Augmented Causal Discovery Framework

 

🧠 1. 논문 개요

 

Author

Elahe Khatibi1, Mahyar Abbasian1, Zhongqi Yang1, Iman Azimi1, and Amir M.

 

 

Keywords

LLM Causal Discovery

 

Publication Date

May 2, 2024

 

Abstract

고차원 데이터셋에서 효과적인 인과 추론을 수행하기 위해서는 관찰 데이터를 기반으로 인과 그래프를 생성하는 인과 발견이 필수적입니다. 그러나 완전하고 정확한 인과 그래프를 얻는 것은 NP-난해 문제로 여겨지는 어려운 과제입니다. 본 연구에서는 데이터 기반 인과 발견 알고리즘과 LLM을 결합하여 더 견고하고 정확하며 설명 가능한 인과 그래프를 자동으로 생성하는 새로운 프레임워크인 '자율 LLM 증강 인과 발견 프레임워크(ALCM)'를 소개합니다. ALCM은 인과 구조 학습, 인과 래퍼, LLM 기반 인과 정제기라는 세 가지 중요한 구성 요소로 이루어져 있으며, 이들은 동적인 환경에서 협력하여 인과 발견 질문에 대응하고 그럴듯한 인과 그래프를 제공합니다. 본 연구는 7개의 잘 알려진 데이터셋에서 두 가지 시연을 통해 ALCM 프레임워크의 효과를 평가하였으며, ALCM이 기존 LLM 방법 및 전통적인 데이터 기반 인과 추론 메커니즘보다 우수한 성능을 보여줌을 입증했습니다. 이 연구는 ALCM의 효율성을 입증하는 것뿐만 아니라 LLM의 인과 추론 능력을 활용한 새로운 연구 방향을 강조합니다.

연구 목적

LLM 기반으로 설명 가능한 인과 그래프 생성을 자동화

논문 URL

ALCM: Autonomous LLM-Augmented Causal Discovery Framework

 

🎯 2. 연구 목적 및 문제 정의

2-1. 해결하려는 문제는 무엇인가?

• 정확한 인과 그래프를 얻는 것

2-2. 기존 연구와 어떤 차별점이 있는가?

• 전통적인 인과 발견 기법과 LLM 결합하여 인과 그래프 생성

 

⚙️ 3. 연구 방법론

3-1. 사용한 모델/기술/프레임워크

프레임워크

(1) 인과 구조 학습 (Causal Structure Learning)

• 데이터셋을 입력받아 전통적인 인과 발견 알고리즘으로 인과 그래프 생성
• PC(Peter-Clark) 알고리즘과 LiNGAM(Linear Non-Gaussian Acyclic Model) 사용

(2) 인과 래퍼 (Causal Wrapper)

• 인과 구조 학습과 LLM 기반 인과 정제기 구성 요소 사이의 중개자 역할
• 인과 그래프의 원시 데이터를 인과 프롬프트로 캡슐화하는 역할
• 해당 인과 프롬프트과 LLM 기반 정제기로 전달되어 인과 그래프를 이해하고 적합한 해결책을 만들도록 함
• Causal Prompt = Instruction + Causal Context + Metadata + Question + Output format.
  • Instruction (지침): LLM의 역할, 목표, 예상되는 동작을 명확하게 정의
  • Causal Context (인과 맥락): 선택된 인과 발견 알고리즘(예: PC 알고리즘)의 이름과 결과 등 세부 정보를 포함
  • Metadata (메타데이터): 데이터셋의 도메인이나 변수 이름과 설명(예: 암 위험 요인, 유전적 암 관계)을 제공
  • Question (질문): 특정 쿼리(예: A가 B의 원인인지 여부)를 명확히 제시
  • Output format (출력 형식): 원하는 결과물의 형식을 정의
• 이러한 프롬프트 전략을 통해 최종 인과 그래프가 데이터셋 내의 근본적인 인과 메커니즘을 반영하도록 보장

(3) LLM 기반 인과 정제기 (LLM-driven Refiner)

• LLM으로 인과그래프의 정제 및 평가
• 문맥적 인과 프롬프트와 메타데이터를 토대로 인과 엣지/노드를 평가하여 노드와 엣지를 추가하거나 제거

ALCM 프로세스

• • 입력 (Require):
    • 관찰 데이터셋 (O): 분석할 원본 데이터
    • 맥락적 인과 정보 (C): 문제의 배경 지식이나 도메인별 정보
    • 메타데이터 (M): 데이터셋의 변수명 및 설명과 같은 추가 정보
  • 출력 (Ensure):
    • 인과 DAG : 최종적으로 생성되는 방향성 비순환 그래프(Directed Acyclic Graph) 형태의 인과 그래프
  • 알고리즘 단계별 설명:
    1. 초기 인과 그래프 생성:
       • 선택된 데이터 기반 인과 발견 알고리즘(예: PC, LiNGAM)을 사용하여 관찰 데이터셋 (O)으로부터 초기 인과 그래프 ($G_i$)를 생성합니다. 이 단계는 "Causal Structure Learning" 구성 요소에 해당합니다.
    2. 인과 프롬프트 생성:
       • 맥락적 인과 정보 (C)와 메타데이터 (M)를 주입하여 LLM을 위한 인과 프롬프트를 생성합니다. 이 프롬프트는 LLM이 초기 인과 그래프를 이해하고 관련 배경 지식을 통합하도록 안내하는 역할을 합니다. 이 단계는 "Causal Wrapper" 구성 요소에 해당합니다. 프롬프트는 다음 요소를 포함합니다: Instruction + Causal Context + Metadata + Question + Output format.
    3. LLM 기반 인과 그래프 정제 (반복):
       • 초기 인과 그래프 ($G_i$))의 각 엣지($z = (e_i, e_j)$)에 대해 다음 작업을 반복합니다. 이 과정은 "LLM-driven Refiner" 구성 요소에 의해 수행됩니다.
         • 엣지 유효성 검사: LLM-Driven Refiner가 해당 엣지를 유효하다고 판단하면, 그래프에 유지됩니다.
         • 엣지 방향 수정: LLM-Driven Refiner가 엣지의 방향을 수정해야 한다고 판단하면, 새로운 방향의 엣지($(z')$)로 대체됩니다.
         • 엣지 제거: LLM-Driven Refiner가 해당 엣지를 제거해야 한다고 판단하면, 그래프에서 삭제됩니다.
         • 새로운 엣지 추가: LLM-Driven Refiner가 초기 그래프에는 없던 새로운 인과 관계(\(z''\))를 식별하여 추가해야 한다고 판단하면, 이를 그래프에 추가합니다.
    4. 최종 인과 그래프 반환:
       • 모든 엣지에 대한 정제 과정이 완료된 후, 최종적으로 개선되고 정제된 인과 그래프 (\(G_i\))를 반환합니다.

 

3-2. 실험 설정

ALCM-PC vs ALCM-Hybrid

• ALCM-PC
  • 인과 구조는 PC 알고리즘으로 학습 후, OpenAI의 GPT-4를 활용해 LLM 기반 정제
• ALCM-Hybrid
  • PC + LiNGAM 다수결로 한 알고리즘만 식별한 엣지의 경우 LLM이 판단.
• 성능 지표 : 정밀도, 재현율, F1 점수, 정확도, 그리고 정규화된 해밍 거리(NHD)의 다섯 가지 지표
  
  • Precision (정밀도): 알고리즘이 식별한 모든 관계 중에서 올바르게 식별된 인과 관계의 비율을 측정합니다. 이는 거짓 양성(false positives)을 최소화하여 제안된 인과 관계의 유효성을 보장하는 데 중요합니다.
  • Recall (재현율): 알고리즘이 올바르게 식별한 실제 인과 관계의 비율을 평가하여 데이터 내에 존재하는 인과 관계를 얼마나 완전히 찾아냈는지를 강조합니다.
  • F1-score: 정밀도와 재현율의 조화 평균으로, 식별된 인과 관계의 정확성과 완전성 사이의 균형을 제공하는 단일 지표입니다.
  • Accuracy (정확도): 인과 그래프의 전체적인 정확성을 평가하며, 실제 인과 관계의 존재와 거짓 관계의 부재를 모두 포함합니다.
  • Normalized Hamming Distance (NHD): 예측된 인과 그래프와 실제 그래프 간의 차이를 정량화하며, 그래프 크기에 따라 정규화된 불일치 엣지의 비율을 측정합니다.
    • $\text{NHD} = \frac{1}{m^2} \sum_{i=1}^{m} \sum_{j=1}^{m} \mathbb{I}(G_{ij} \neq G^p_{ij})$ : 일치하지 않는 엣지들의 비율
    • $\mathbb{I}(\cdot)$ : 참그래프와 불일치하는 경우 1을 반환하고 같으면 0을 반환하는 지시 함수

3-3. 데이터셋 종류 및 특성

• Asia, Cancer, Child, Insurance, Sachs, Neuropathic, Sangiovese 등 의료 연구, 보험 모델링, 유전 경로 등 다양한 분야와 복잡성을 지닌 7개의 벤치마크 데이터셋과 실제 참값 인과 그래프 사용

Summary of Datasets

📊 4. 주요 결과 및 성능

성능 비교 

Additive Contribution on Causal Discovery Accuracy on Neuropathetic Pai

Additive Contribution on Causal Discovery Accuracy on Sach

Evaluation Results for Various Causal Discovery Methods

• 기존 방법론과의 비교: ALCM-PC와 ALCM-Hybrid는 기준선인 PC 알고리즘 및 LLM 기반 접근 방식과 비교하여 정밀도, 재현율, F1-스코어, 정확도에서 눈에 띄는 증가를 보임
• NHD 감소: ALCM-PC와 ALCM-Hybrid 모두에서 NHD가 현저하게 감소했는데, 이는 Ground Truth 인과 그래프와의 구조적 일치가 더 높음을 시사하며 데이터셋 내의 인과 동역학에 대한 더 정확한 표현을 하고 있음을 의미함.
• ALCM-Hybrid의 우수성: ALCM-Hybrid는 ALCM-PC보다 뛰어난 성능을 보였습니다. 이는 기존 인과 발견 알고리즘과 다수결 메커니즘을 결합하고 LLM을 활용하여 인터넷의 최신 정보를 통합하는 이중 전략의 효과로 보임. 
• LLM 기반 접근 방식의 한계: LLM 기반 접근 방식의 일부 결과에서는 낮은 정밀도와 높은 NHD 값이 관찰되었는데, 이는 LLM이 식별한 관계의 상당 부분이 실제 Ground Truth에 없었음을 시사하며, 알고리즘의 특이성 또는 입력 데이터에서 과도하게 일반화하는 경향과 관련된 잠재적인 문제가 있음을 시사.

새로운 노드 또는 엣지 추가 결과

Causal graphs for demonstrating new nodes or edges

Results for Uncover, Hidden, or Ignored Nodes and Edges

• ALCM 프레임워크가 기존 데이터 기반 인과 발견 알고리즘이 놓칠 수 있는 새로운 노드(변수)나 엣지(인과 관계)를 어떻게 식별하고 추가는지 확인 
• ALCM은 LLM이 가진 방대한 최신 지식과 전문가 수준의 감독 능력을 활용하여 이러한 '파악하기 어려운 변수(Markov blanket)'와 인과 관계를 찾아내는 데 크게 기여하고 있음 
  • ALCM은 LLM 컴포넌트의 강점을 활용하여 데이터셋에 존재하지 않거나 간과되었던 숨겨진 변수와 인과 관계를 밝혀냄
•  LLM이 제공한 응답의 신뢰 수준을 요청할 수 있으며, ALCM의 답변은 Tobacco smoke and involuntary smoking과 같은 최신 의학 논문을 통해 검증되었음

 

💬 5. 비판적 분석

5-1. 한계점

(1) 구조적 맥락의 손실

• Causal Wrapper가 인과 그래프를 프롬프트로 변환하는 과정에서 잠재적인 정보 손실이나 왜곡 문제가 발생할 수 있음

(2) 확장성 문제 및 프롬프트 길이 제한

• 노드와 엣지 수가 매우 많은 고차원 데이터셋의 경우, 모든 엣지를 개별 프롬프트로 변환하여 LLM에 전달하는 것은 프롬프트의 길이를 지나치게 길게 만들 수 있음
• 컨텍스트 길이 제한으로 프롬프트가 잘려 정보 누락 위험 있음

(3) 알고리즘적 세부 정보의 손실

• 초기 인과 그래프를 생성한 데이터 기반 인과 발견 알고리즘은 단순히 그래프 구조뿐만 아니라 각 엣지에 대한 통계적 유의성, 신뢰 구간, 혹은 대안적인 그래프 가설 등 다양한 부가 정보를 산출
• Causal Wrapper가 'raw, initial causal graph'만을 전달하고 이러한 알고리즘적 세부 정보를 프롬프트에 충분히 포함하지 않으면, LLM이 더 풍부한 근거를 바탕으로 정제할 기회를 잃게 됨.

5-2. 보완할 점

(1) 프롬프트에 구조적 맥락 추가

• 개별 엣지에 대한 질문 외에, 특정 서브그래프(subgraph), 공통 조상/자손 관계, 또는 특정 인과 패턴(예: "PC 알고리즘이 X, Y, Z에서 v-구조를 감지했습니다. 이를 평가하십시오.")에 대한 정보를 프롬프트에 포함시켜 LLM이 더 넓은 관점에서 구조를 이해하도록 유도

(2) 정량적 증거 및 신뢰도 포함

• 초기 인과 발견 알고리즘이 각 엣지에 대해 계산한 통계적 신뢰도 점수나 유의 확률 값을 프롬프트에 명시적으로 추가합니다 (예: "알고리즘은 '오염'이 '암'의 원인이라고 0.85의 신뢰도로 제안합니다."). 이를 통해 LLM은 단순한 존재 여부뿐만 아니라 해당 관계의 통계적 강도까지 고려하여 정제 결정

(3) 반복적/계층적 프롬프트 전략

• 그래프를 논리적인 서브그래프나 모듈로 분할하여 각 부분을 개별적으로 LLM에 프롬프트하고 정제

(4) Retrieval-Augmented Generation (RAG) 시스템 통합

• 외부 데이터베이스나 문서에서 관련 정보를 실시간으로 검색하여 답변을 생성
• 이를 통해 LLM은 프롬프트에 포함된 제한된 정보뿐만 아니라, 최신의 방대한 외부 지식(예: 의료 문헌, 과학 논문)을 활용하여 정보 손실 없이 더 정확하고 근거 있는 판단
• 관련 논문 :Causal graph discovery with retrieval-augmented generation based large language models

(5) 전문가 피드백 및 강화 학습 루프

• 정제된 인과 그래프에 대해 실제 도메인 전문가의 피드백을 받아 LLM의 정제 결과를 평가하고, 이 피드백을 Causal Wrapper의 프롬프트 전략을 개선하거나 LLM 자체를 추가로 학습시키는 데 활용하는 강화 학습(Reinforcement Learning) 루프를 구축

5-3. 논문이 제시한 향후 연구 방향

• 지식 그래프(Knowledge Graphs) 활용
  •  지식 그래프는 구조화된 지식을 표현하는 데 강력한 도구로, 연구팀은 모델의 정확도를 더욱 향상시키기 위해 지식 그래프를 활용하는 더 정교한 인과 인식 프레임워크(causal-aware framework)를 개발할 계획
• 몬테 카를로 트리 탐색(Monte Carlo Tree Search, MCTS) 통합
  • ALCM 시스템을 더욱 동적이고 적응적인 문제 해결 에이전트로 발전시키기 위해 몬테 카를로 트리 탐색(MCTS)과의 통합 제안. MCTS는 다양한 의사결정 시나리오에서 최적의 결정을 내리는 데 사용되는 탐색 알고리즘으로, 인과 발견 과정에서 발생할 수 있는 복잡한 의사결정을 효과적으로 처리하는 데 도움이 될 수 있음. 
• 검색 증강 생성(Retrieval-Augmented Generation, RAG) 및 openCHA 통합
  • LLM의 한계 중 하나인 환각(hallucination) 문제를 해결하고 ALCM 프레임워크의 역량을 강화하기 위해 검색 증강 생성(RAG) 시스템 및 openCHA와의 통합을 제안

 

📌 6. 결론

6-1. 연구로부터 얻은 통찰

ALCM은 기존 데이터 기반 인과 발견 알고리즘의 한계(예: 동적 데이터에 대한 적응성 부족, 숨겨진 변수 감지 어려움, 전문가 의존성)와 LLM의 한계(예: 정밀도 부족, 복잡한 인과 개념 처리의 어려움)를 상호 보완적으로 결합하여 더 나은 인과 그래프를 생성하는 것을 목표로 하는 솔루션으로 인과 구조 학습(Causal Structure Learning), 인과 래퍼(Causal Wrapper), LLM 기반 정제기(LLM-driven Causal Refiner)의 세 가지 필수 구성 요소로 이루어져 있습니다. ALCM은 이러한 구성 요소들의 협업을 통해 기존의 LLM 기반 방법론 및 전통적인 데이터 기반 인과 추론 메커니즘보다 정확성과 해석 가능성 면에서 뛰어난 성능을 보였습니다. 또한, LLM의 방대한 지식 기반과 추론 능력을 활용하여 데이터만으로는 파악하기 어려운 인과 관계를 발견하고 기존 그래프를 정제하는 데 기여합니다.

인과 그래프의 해석 가능성과 성능을 높이고 숨겨진 변수 파악에 용이하다는 점에서 LLM을 도입할 이유는 충분하다고 생각합니다. 문제는 그래프를 얼마나 잘 이해하고 그래프의 결과가 나타난 인과 발견 알고리즘의 맥락을 LLM이 얼마나 잘 이해하느냐와 LLM의 할루시네이션을 얼마나 잘 방지하느냐일 것 같습니다.

이제는 설명할 수 없는 블랙박스 모형의 AI는 현업에서 반기지 않고 있습니다. 그렇기에 더더욱 해석을 도와주는 LLM과의 결합이 앞으로는 필수가 되지 않을까 싶네요.

6-2. 실제 프로젝트에 적용할 수 있는 부분

프로젝트에 해당 프레임워크를 적용한다면 인과발견 알고리즘을 좀 더 다양하게 써보면 좋을 것 같습니다. 인과발견 알고리즘도 각각의 장단점이 뚜렷하고 사용 가능한 데이터 형태가 정해져있기 때문입니다. 두 알고리즘만 사용하는 것은 위험할 것 같고, 다수결로 판단하기에 적합하지 않아 보입니다. 

다수결의 원칙도 각 알고리즘의 특성이나 성능에 따라서 가중치를 다르게 줄 수 있을 것 같습니다.  

또한 보완점에도 언급했듯이 RAG 도입으로 할루시네이션을 줄이고 좀 더 데이터 기반의 답변이 가능하게 고도화해야 할 것 같습니다. 

프로젝트에 적용한다면 제일 관건은 프롬프트일 것 같네요. 알고리즘의 특성을 어떻게 적용시킬 지, 메타데이터는 어떻게 잘 정제해서 context 길이 안에 잘 넣을지 고민이 필요할 것 같습니다. 

이것저것 고려해야 할 부분들이 있지만 잘만 만든다면 정말 괜찮은 제품이 만들어지지 않을까 싶습니다.