Rust와 C FFI에서 패닉 전파에 대한 정리

Rust와 C를 함께 쓰다 보면 패닉(panic)이 FFI 경계를 어떻게 넘나드는지 헷갈리기 쉽습니다. 최근에 저도 혼동이 있어서 정리해봤습니다.

1. C 함수를 Rust에서 래핑해서 호출할 때

extern "C" {
    fn c_func();
}

fn wrapper() {
    unsafe { c_func(); }
}

• 여기서 c_func는 C에서 온 함수입니다.
  
• 만약 Rust 코드(wrapper) 안에서 패닉이 발생하면, 그 패닉은 Rust 호출자에게만 전달됩니다.
  
• C 함수 자체는 단순히 호출된 대상일 뿐이고, Rust 패닉이 C 함수로 거슬러 올라가는 일은 없습니다.
  
• 따라서 패닉이 C 함수로 전달될 가능성은 0입니다.

2. Rust로 만든 함수를 C에서 호출할 때

#[no_mangle]
pub extern "C" fn rust_func() {
    panic!("oops");
}

• 이 함수는 C에서 직접 호출할 수 있습니다.
  
• Rust 내부에서 panic!이 발생하면, Rust 런타임은 스택 언와인딩을 시도합니다.
  
• 그런데 호출자는 main() 같은 C 코드이므로, Rust 패닉이 C 경계(ABI)를 넘어가게 됩니다.
  
• Rust 언와인딩이 C 코드까지 넘어가는 것은 정의되지 않은 동작(UB)입니다.
  
• 대부분의 경우 Rust는 안전을 위해 프로세스를 abort합니다. 즉, 프로그램 전체가 종료됩니다.

3. 안전하게 처리하는 방법

Rust 함수를 C에 노출할 때는 반드시 catch_unwind로 패닉을 잡아야 합니다:

use std::panic::{catch_unwind, AssertUnwindSafe};

#[no_mangle]
pub extern "C" fn safe_rust_func() -> i32 {
    let result = catch_unwind(AssertUnwindSafe(|| {
        // 패닉할 수 있는 Rust 코드
        panic!("oops");
    }));

    match result {
        Ok(_) => 0,   // 성공
        Err(_) => -1, // 패닉 발생 → 에러 코드 반환
    }
}

이렇게 하면 Rust 패닉이 C 경계를 넘어가지 않고, C 쪽에서는 단순히 에러 코드로 처리할 수 있습니다.

📌 결론

• C 함수를 Rust에서 호출할 때 → 패닉은 Rust 호출자에게만 전달, C 함수로는 전달되지 않음.
  
• Rust 함수를 C에서 호출할 때 → 패닉이 C 경계를 넘어가면 UB, 보통 abort.
  
• 따라서 Rust → C FFI 함수는 반드시 catch_unwind로 패닉을 잡아야 안전합니다.