In this study, we developed a transfer learning framework based on homogenization data for efficient prediction of the effective mechanical properties and thermal conductivity of cellular foam structures. Mean-field homogenization (MFH) based on the Eshelby’s tensor allows for efficient prediction of properties in porous structures including ellipsoidal inclusions, but accurately predicting the properties of cellular foam structures is challenging. On the other hand, finite element homogenization (FEH) is more accurate but comes with relatively high computational cost. In this paper, we propose a data-driven transfer learning framework that combines the advantages of mean-field homogenization and finite element homogenization. Specifically, we generate a large amount of mean-field homogenization data to build a pre-trained model, and then fine-tune it using a relatively small amount of finite element homogenization data. Numerical examples were conducted to validate the proposed framework and verify the accuracy of the analysis. The results of this study are expected to be applicable to the analysis of materials with various foam structures

본 연구에서는 폼 구조의 효율적인 유효 기계적 물성 및 열전도율 예측을 위한 균질화 데이터 기반 전이학습 프레임워크를 개발하였다. Eshelby 텐서 기반의 평균장 균질화(Mean-field homogenization, MFH)는 타원체 형태의 공동을 포함하는 다공성 구조의 물성을 효율적으로 예측할 수 있지만, 셀룰러(cellular) 폼 구조의 물성은 정확하게 예측하기 어렵다. 한편, 유한요소 균질화(Finite element homogenization, FEH)는 정확성은 높지만 상대적으로 높은 해석 시간을 동반한다. 본 논문에서는 평균장 균질화와 유한요소 균질화의 장점을 결합한 데이터 기반 전이학습 프레임워크(Framework)를 제안하였다. 구체적으로, 대량의 평균장 균질화 데이터를 도출하여 사전학습 모델(Pre-trained model)을 구축하고, 상대적으로 소량의 유한요소 균질화 데이터를 이용하여 미세 조정(Fine-tuning)하였다. 제안된 프레임워크를 검증하기 위한 수치 예제를 수행하였으며, 해석 정확도를 확인하였다. 본 연구의 결과는 다양한 폼 구조를 가진 재료의 해석에 적용할 수 있을 것으로 기대한다.

Keywords: 폼 구조(Foam structure), 기계학습(Machine learning), 멀티스케일 해석(Multiscale analysis), 균질화(Homogenization), 유한요소해석(Finite element analysis)

이종(heterogeneous) 또는 셀룰러(cellular) 재료의 구조와 물성 관계를 이해하는 것은 폼 구조의 설계에 중요한 문제이다[1]. 타원체 형태의 공동을 포함하는 다공성 구조의 물성을 효율적으로 예측하기 위한 기법으로 평균장 균질화(Mean-field homogenization, MFH) 기법이 연구되어 왔다[2,3]. 이 방법은 유한요소 균질화(Finite element homogenization, FEH)에 비해 해석 시간이 짧지만 폼 구조의 물성을 정확히 예측하기에는 어려움이 있다. 따라서 폼 구조의 경우, 보다 정확한 해석을 위해 유한요소 균질화(FEH)이 널리 사용되고 있다[4,5]. 하지만, 유한요소 균질화(FEH) 기법은 상대적으로 긴 해석 시간을 필요로 하고, 예측 시간을 효율적으로 줄이기 위해 기계학습을 적용한 연구가 활발히 이루어지고 있다[6-9]. 한편, 기계학습 모델의 예측 정확도를 충분히 높이기 위해서는 많은 양의 유한요소 균질화 데이터가 필요하다. 특히, 폼 구조의 설계 변수가 많아질수록 많은 양의 데이터가 필요하고, 상대적으로 적은 유한요소 균질화 데이터만으로 충분한 물성 예측 성능을 보일 수 있는 기계학습 전략이 필요하다. 본 연구에서는 이를 위해 전이학습[10,11]을 적용한 프레임워크를 제안하였다.

이 문단에서는 제안된 평균장 균질화와 유한요소 균질화를 결합한 데이터 기반 전이학습 프레임워크에 대한 개요를 소개하고 구성 요소를 포괄적으로 설명한다. 본 연구에서는 상용 소프트웨어인 ABAQUS 2021을 이용하여 연구를 수행하였다.
2.1 폼 구조 해석 과정
이 문단에서는 폼 구조의 대표체적요소(RVE, representative volume element) 모델의 평균장 균질화와 유한요소 모델 설정에 대해 간략히 소개한다. 시뮬레이션 과정은 대략적으로 Fig. 1에 요약된 세 가지 주요 단계로 나눌 수 있다. 첫 번째 단계에서는 공극률(Void fraction), 재료 영률(Young’s modulus of material) 그리고 재료 열전도율(Thermal conductivity of material)을 입력값으로 하여 평균장 균질화 해석을 하였다.
두 번째 단계에서는 셀 데이터와 RVE 크기를 기반으로 폼 구조를 랜덤하게 생성하였다. 여기서 생성된 폼 구조 RVE는 상용 소프트웨어 ABAQUS에서 후에 할당된다.
마지막 단계에서는 요소(Mesh)를 생성하고, ABAQUS에서 시뮬레이션 및 평가를 수행하였다. 여기서 필요한 평균 셀(cell) 벽 두께와 평균 스트러트(struct) 횡단면은 설정된 폼 밀도, 재료 밀도, 체적 분율 및 폼 구조로부터 자동으로 결정된다. 평균 반응 힘과 변형은 주기적 경계 조건과 결합되고 이를 기반으로 폼 응력(Young’s modulus of foam)과 폼 열전도율(Thermal conductivity of foam)을 얻었다. 평균장 균질화와 유한요소 균질화를 통해서 얻은 데이터 세트로 추후에 기계학습에 사용하였다.
폼 구조 대표체적요소는 보로노이 테셀레이션 모듈(Voronoi tessellation module)을 기반으로 생성되었으며, 각 셀들은 임의의 크기를 가지도록 형성되었다. 이에 따른 해석 데이터베이스를 생성하기 위해 Table 1에 모든 매개변수를 요약하였다[12].
2.2 평균장 균질화 기법
이 문단에서는 폼 영률을 얻기 위한 평균장 균질화 기법에 대해서 설명한다. Fig. 2에서와 같이, 기지(Matrix)는 첨자 0으로 표기하고 비어 있는 공동(void)은 1로 표기한다. 각 상(Phase)는 다음과 같은 구성 방정식을 따른다[13].



여기서 C는 탄성 강성(Elastic stiffness)이고, σ는 응력(Stress) 그리고 ε는 변형률(Strain)이다. 주어진 경계조건에 의해 폼 RVE는 선형 변위가 가해진다. 이때 유효 탄성 강성을 찾는 것이 목표이다. 이는 다음과 같은 구성 방정식으로 표기한다.



여기서 <>의 의미는 체적 평균을 한 것을 의미한다. 따라서 (σ)는 거시적 응력을 의미하고, Ε는 거시적 변형률을 의미한다. 여기서 Mori-Tanaka method를 사용하여 유효 탄성 강성은 다음과 같이 정의된다.



여기서 strain concentration tensor B^ε를 얻기 위해 참고문헌[13]을 참고하였으며, v₀와 v₁은 각각 기지와 공동의 체적분율에 해당한다. 두 번째로 폼 열전도율을 얻기 위한 평균장 균질화 기법에 대해서 설명한다. 안정 상태 열 전도에서의 지배 방정식과 특성 방정식은 다음과 같다[14].



여기서 q는 열유속(heat flux), K는 열전도율(Thermal conductivity), 그리고 T는 온도를 의미한다. 부피 평균을 고려할 때, 아래의 방정식을 만족한다.



Eq. (5)와 Eq. (6)을 이용해서, Mori-Tanaka method를 사용하여 다음과 같이 유효 열전도율을 얻을 수 있다.



여기서 local concentration tensor T를 얻기 위해 참고문헌[14]을 참고하였다.
2.3 유한요소 기반 균질화 기법
본 문단에서는 폼 구조의 균질화된 유효 영률과 열전도율을 얻기 위하여, 유한요소 기반 균질화 기법을 접목하였다. Fig. 2에서와 같이, 유한요소 모델링이 되어있는 폼 구조를 유한요소 기반 균질화 기법을 통해서 유효 열-기계적 특성을 예측하였다. 유효 탄성 강성은 다음과 같이 정의된다[15].



여기서, Y는 단위 셀의 체적을 의미하며, χ_m는 다음 방정식을 통해서 계산할 수 있다.



유효 열전도율은 다음과 같이 정의된다[16].



이 때, χ_T는 다음 방정식을 통해서 계산할 수 있다.



유한요소 균질화 기법을 통해서 얻은 폼 구조의 유효 영률과 열전도율은 전이학습 모델 개발에 사용할 데이터세트로 활용된다.

본 문단에서는 사전 훈련 모델과 전이학습 모델 개발 방법에 대해 소개한다. 본 연구에서는 기계학습 모델을 개발하기 위해 상용 소프트웨어인 Python의 Keras library을 이용하여 개발하였다.
3.1 사전 훈련 모델 개발
먼저, 평균장 균질화 방법을 사용하여 10,000개의 데이터세트를 생성했다. 평균장 균질화 데이터세트를 생성하기 위해 i9 cpu 단일 코어 계산에는 총 12시간이 소요되었다. 이후, 생성된 데이터세트는 7:1.5:1.5의 비율로 훈련, 검증 및 테스트 데이터세트로 분할되었다. 검증 데이터세트는 모델 훈련 시 조기 종료 기준으로 사용되었고, 테스트 데이터세트는 훈련된 모델을 평가하는 데 사용되었다.
기계 학습 모델을 생성하기 위해 데이터는 전처리되어야 했다. 전처리 과정 중 하나로 정규화를 수행하는 것이 있다. 데이터의 범위가 극단적으로 크면 잡음 데이터나 과적합이 발생할 가능성이 높아진다. 또한, 학습률이 저하되어 모델의 학습이 적절하게 이루어지지 않을 수 있다. 이러한 문제를 방지하기 위해 데이터를 0에서 1 사이의 값으로 정규화하는 작업을 수행했다. 이를 위해 사이킷런(sklearn)의 MinMaxScaler 모듈을 사용하였다.
본 연구에서 사용된 사전 훈련 모델의 구조는 Fig. 3에 나와 있다. 이 모델은 입력 레이어(Input layer), 유닛 레이어(Unit layer) 및 출력 레이어(Output layer)로 구성되어 있다. Dense 유닛 레이어는 100개의 뉴런으로 구성되어 있으며, 3개의 레이어로 구성되었다. 활성화 함수로는 ReLU를 사용하였다. 평균장 균질화와 유한요소 균질화 데이터세트에는 음수 값이 존재하지 않기 때문에, 다른 활성화 함수를 사용하여 음수 데이터를 처리할 필요가 없었다. 또한, 훈련에는 적응적 학습률 최적화 알고리즘인 Adam을 채택하였다. 사전 훈련 모델의 배치 크기는 32로 설정되었다.
Fig. 4에서 볼 수 있듯이, 본 연구에서는 랜덤한 초기 가중치를 가진 인공신경망을 활용하여 대량의 평균장 균질화 데이터세트를 학습시켜 최적의 가중치를 얻은 후, 유한요소 균질화 데이터세트를 활용하여 가중치를 세밀하게 조정하는 방법을 제안한다. 초기 가중치는 무작위로 설정되어 모델이 입력 데이터에 대한 초기 예측을 수행할 수 있도록 한다. 그러나 이러한 초기 가중치만으로는 모델의 예측 정확도를 보장할 수 없기 때문에, 평균장 균질화 데이터세트를 활용하여 인공신경망을 학습시킨다. 학습 과정에서 모델은 입력 데이터를 처리하고 예측 값을 출력하며, 이를 기반으로 실제 값과의 오차를 계산하여 가중치를 업데이트한다.
평균장 균질화 데이터세트를 통해 모델이 기본적인 데이터 패턴을 학습한 후, 우리는 유한요소 균질화 데이터세트를 활용하여 모델의 세밀한 예측 능력을 향상시켰다. 유한요소 균질화 데이터세트는 평균장 균질화 데이터세트보다 더 상세하고 정교한 정보를 제공하여 모델이 더 정확한 예측을 수행할 수 있도록 돕는다. 재학습 단계에서는 초기화된 가중치를 사용하여 모델을 다시 학습시키는데, 이 과정에서 유한요소 균질화 데이터세트의 입력을 처리하고 예측 값을 출력한다. 예측 값과 실제 값 간의 오차를 최소화하기 위해 가중치를 조정함으로써 모델이 세밀한 예측을 수행하는 데 필요한 최적의 가중치를 얻을 수 있다.
이러한 방법론을 통해 전이학습 모델은 랜덤 초기화에서 시작하여 대량의 평균장 균질화 데이터세트를 통해 기본적인 패턴을 학습하고, 이후 유한요소 균질화 데이터세트를 활용하여 세밀한 예측 능력을 갖춘 최적의 가중치를 얻었다. 학습된 모델을 활용하여 실제 입력 데이터에 대한 예측을 수행할 수 있다.
3.2 전이학습 모델 개발
본 연구에서는 유한요소 균질화 기반 데이터세트를 사용하여 사전 훈련된 모델을 세밀하게 조정하는 과정을 수행하였다. 먼저, 유한요소 균질화 방법을 활용하여 약 500개의 데이터세트를 생성하였다. 유한요소 균질화 데이터세트를 생성하기 위해 i9 cpu 10코어 계산을 사용하여 총 50시간이 소요되었다. 생성된 데이터세트는 7:1.5:1.5의 비율로 훈련, 검증 및 테스트 세트로 분할되었다. 나머지 조건은 사전 훈련 모델과 동일하게 설정되었다.
유한요소 균질화 데이터세트만을 사용하여 학습한 모델(DNN with FEH)을 개발하였으며, 이 모델은 Fig. 3에 나와 있는 사전 훈련 모델과 동일한 구조를 가지고 있다. 전이 학습 모델(Transfer learning)에서는 사전 훈련 모델에 하나의 유닛 레이어를 추가하였다. 이때, 밀집 레이어의 수는 사전 훈련 모델과 동일한 100으로 설정되었다. 훈련 이전에는 사전 훈련 모델의 초기 가중치를 고정시킨 후, 유한요소 균질화 데이터세트를 사용하여 훈련을 수행하였다. 이후, 모든 레이어의 가중치를 고정시키지 않고 유한요소 균질화 데이터세트를 활용하여 세밀하게 조정(fine-tuning)을 수행하였다. 전이 모델의 배치 크기는 32로 설정되었다.
훈련이 완료된 후, 훈련된 모델을 기반으로 역 정규화를 수행하여 유효 영률과 열전도율을 예측하였다. 예측 정확도를 확인하기 위해 오차는 적절한 계산식을 사용하여 계산하였다.



여기서 Ω^pre_z는 전이 학습 모델에 의해 예측된 z번째 영률이나 열전도율이 될 수 있고, Ω^act_z는 검증용 유한요소 균질화 데이터세트에서 얻은 z번째 영률이나 열전도율이 될 수 있다.

4.1 전이 학습 모델의 검증
폼 구조의 유효 영률과 열전도율 데이터세트를 전이학습 모델로 학습하여 예측하는 모델을 개발했다. Transfer learning의 성능을 평가하기 위해 유한요소 균질화 데이터세트만 사용하여 전이학습 없이 훈련된 DNN with FEH와 비교하였다. 두 모델의 성능 비교를 위해, 동일한 훈련, 검증 및 테스트 데이터세트로 이루어진 FEH 데이터세트를 사용하였다. 이 문단에서는 검증 예제를 기반으로 전이학습 모델의 성능을 검증한다.
4.2 폼 구조 영률 예측
이 문단은 폼 구조의 영률을 예측하기 위한 논의를 다루고 있다. 유한요소 균질화 데이터(FEH data), 전이학습 모델(Transfer learning), 그리고 FEH 데이터를 학습한 모델(DNN with FEH)은 재료의 영률이 2.76 GPa로 일정한 경우, 랜덤한 공극률에 따라 비교되었다. 이 비교는 학습 데이터에 사용되지 않은 검증 데이터세트를 사용하여 수행되었다. 결과는 Fig. 5에 제시되었다. 그림에서 확인할 수 있듯이, 전이학습 모델은 FEH data를 정확하게 예측하는 것을 보여준다. 또한, 전이학습은 DNN with FEH보다 우수한 성능을 나타냈다. 이 예제에서 얻은 최대 오차는 Table 2에 기재되어 있으며, 이는 전이학습 모델의 우수한 성능을 보여준다.
4.3 폼 구조 열전도율 예측
이 문단은 폼 구조의 열전도율을 예측하기 위한 논의를 다루고 있다. 유한요소 균질화 데이터(FEH data), 전이학습 모델(Transfer learning), 그리고 FEH 데이터를 사용한 DNN 모델(DNN with FEH)은 재료의 열 전도율이 0.0259 W/mK로 일정한 경우, 공극률에 따라 비교되었다. 이 비교는 학습 데이터에 사용되지 않은 검증 데이터세트를 활용하여 수행되었다. 결과는 Fig. 6에 제시되었다. 그림을 통해 확인할 수 있듯이, 전이학습 모델은 FEH data를 정확하게 예측하는 것을 보여준다. 또한, 전이학습은 DNN with FEH보다 우수한 성능을 나타냈다. 이 예제에서 얻은 최대 오차는 Table 2에 기재되어 있으며, 이는 전이학습 모델의 우수한 성능을 보여준다.
3.2절에서 설명한 바와 같이, 유한요소 균질화 데이터세트만 사용하여 훈련된 DNN 모델(DNN with FEH)은 데이터의 양이 부족하여 잘 학습되지 않았다. 그러나 대량의 평균장 균질화 데이터세트로 사전학습 모델을 개발한 후 유한요소 균질화 데이터세트를 사용하여 전이학습을 수행하면 더 정확한 모델을 성공적으로 개발할 수 있다.

본 연구에서는 평균장 균질화와 유한요소 균질화를 결합한 전이학습 프레임워크를 제시하였다. 구체적으로, 폼 구조의 유효 영률 및 열전도율을 예측하기 위한 방법을 제시하였으며, 결과적으로, 제안된 전이학습 프레임워크가 효율적이고 신뢰할 수 있음을 확인하였다. 본 연구의 주요 내용을 요약하자면 다음과 같다.
- 전이학습은 폼 구조의 유효 영률 및 열전도율을 예측하는데 효과적인 접근 방법임을 입증하였다. 사전 훈련된 모델을 활용함으로써 정확한 결과를 얻기 위해 필요한 훈련 데이터양을 크게 감소시킬 수 있었다.
- 전이학습 모델은 훈련 데이터가 제한적일 때도, 정확도를 향상시킬 수 있었다. 작은 데이터세트에서는 과적합(overfitting)의 위험이 높아질 수 있다. 그러나 사전 훈련된 모델의 특징을 전이하여 모델을 학습하면, 새로운 작업에 대한 훈련이 더 안정적이고 일반화 성능이 향상됨을 확인할 수 있었다.
종합적으로, 본 연구에서 제안한 전이학습 프레임워크는 폼 구조의 유효 영률 및 열전도율을 효율적으로 예측할 수 있음을 검증하였으며, 본 연구 결과는 다양한 산업에서 설계 및 최적화에 유용하게 활용될 수 있을 것으로 기대한다.

본 연구 성과는 2023년 정부(산업통상자원부)의 재원으로 한국산업기술진흥원의 지원을 받아 수행된 연구임(P150100001).