COMPARISON OF 2D FLOW ANALYSIS BETWEEN PINN AND COMMERCIAL SOFTWARE

H.J. Lee; W.T. Jung; J.H. Jung

doi:10.6112/kscfe.2024.29.4.217

Preview

Original Article

Journal of Computational Fluids Engineering. 31 December 2024. 217-232
https://doi.org/10.6112/kscfe.2024.29.4.217

COMPARISON OF 2D FLOW ANALYSIS BETWEEN PINN AND COMMERCIAL SOFTWARE

PINN과 상용 소프트웨어의 2차원 유동해석 비교

H.J. Lee¹

W.T. Jung¹

J.H. Jung¹^†

이 호준¹

정 웅태¹

정 재호¹^†

¹School of Mechanical Engineering, Chungbuk National University

¹충북대학교 기계공학부

^{*Corresponding Author}

License (open-access, http://creativecommons.org/licenses/by-nc/4.0):

This is an Open-Access article distributed under the terms of the Creative Commons Attribution Non-Commercial License (http://creativecommons.org/licenses/by-nc/4.0) which permits unrestricted noncommercial use, distribution, and reproduction in anymedium, provided the original work is properly cited.

ABSTRACT

This paper evaluates the potential of Physics-Informed Neural Networks(PINN) for addressing Computational Fluid Dynamics(CFD) problems. Flow analysis based on the Navier-Stokes equations was conducted using PINN, and the results were compared with those from the commercial software ANSYS Fluent. The study results show that while PINN provides relatively accurate solutions, it requires more computational time compared to commercial software. Furthermore , when comparing results based on the same number of collocation points and mesh nodes, the commercial software demonstrates higher accuracy. Moreover, ANSYS Fluent with 5,000 mesh nodes shows less error than PINN with 50,000 collocation points. In conclusion, although PINN is currently insufficient to replace commercial software in fluid flow analysis, further technological advancements are necessary to enhance its performance.

Keywords

Computational fluid dynamics

Artificial intelligence

Physics-informed neural network

키워드

전산유체역학

인공지능

물리정보신경망

MAIN

1. 서 론
2. 지배방정식
3. PINN 및 ANSYS Fluent 설정
3.1 PINN 모델 설정
3.2 상용 소프트웨어 설정
4. 수치 예제 적용 및 결과 비교
4.1 익형(Airfoil) 모델
4.2 정사각형(Square) 모델
4.3 테이퍼드 채널(Tapered Channel) 모델
5. 결과 논의
6. 결 론

1. 서 론

전산유체역학(Computational Fluid Dynamics, CFD)은 물리학과 공학 분야에서 핵심 연구 분야 중 하나이다. 유체의 유동, 열전달 혹은 이와 관련된 시스템을 컴퓨터 기반으로 해석하여 유동을 이해하고 예측하는 데 중요한 역할을 한다. 실험을 통해서 유동을 정확하게 예측할 수 있지만, 금전적 시간적 효율이 떨어지므로 CFD는 학계뿐 아니라 자동차산업, 선박 산업, 건축 산업 등과 같은 실제 산업 분야에서 널리 사용 중이다. CFD는 편미분방정식(partial differential equation, PDE)을 정해(exact solution)가 아닌 수치해석을 통한 근사해(approximate solution)를 구하는 방법으로 보편적으로 나비에-스토크스 방정식(Navier-Stokes equations)을 기반으로 한다. 수치해석 기법은 유한차분법(Finite Difference Method, FDM), 유한요소법(Finite Element Method, FEM), 유한체적법(Finite Volume Method, FVM) 등의 방법이 주로 사용된다. 이러한 수치해석 기법들은 적절한 격자(Mesh)가 필요하며, 복잡한 경계 조건이나 비선형 특성을 처리하는 데 상당한 계산 비용과 사용자의 숙련도가 요구된다. CFD에서는 주로 FVM 방식을 사용하며 다양한 문제에 사용자가 쉽게 사용 가능하도록 상용 소프트웨어가 개발되어 지속적으로 발전되었다. 이러한 소프트웨어들은 사용의 편리성과 정확한 해석 결과를 인정받아 학계와 실제 산업 분야에서 널리 사용되고 있다. 그중에 ANSYS Fluent는 대표적인 상용 소프트웨어로 꼽힌다. ANSYS Fluent는 다양한 유동해석 문제에 대해 정교한 모델링과 시뮬레이션 기능을 제공하며, 다중 물리적 현상을 통합적으로 다룰 수 있는 능력 덕분에 많은 엔지니어들에게 필수적인 도구로 자리 잡았다.

한편, 최근 몇 년 동안 인공지능(Artificial Intelligence, AI)은 여러 분야에서 혁신적인 변화를 가져왔다. 딥러닝의 발전은 AI의 성능을 크게 향상 시켰다. 딥러닝 기술의 발전으로 ResNet[1], Transfomer[2], EfficientNet[3], PaLM[4]과 같이 효과적인 모델들이 등장했다. 이러한 모델들이 이미지 인식, 자연어 처리 등과 같은 분야에서 성과를 보여주고 있다. 또한 그 외 다양한 응용 분야에서도 활용되어 그 효율성을 인정받고 있다. 이러한 AI의 기술 발전은 다양한 과학 및 공학 분야에서도 문제를 해결하는 데 새로운 가능성을 열어주고 있다. 수치해석 분야에서도 다양한 인공지능 활용 방법들이 계속해서 연구되고 있다. 딥러닝(Deep learning neural network, DNN)으로 재귀적인 반응을 학습해 해석하는 방법[5], 머신러닝(Machine learning, ML)을 활용해 해석 속도를 가속화 하는 방법[6], 합성곱신경망(Convolutional neural network, CNN)을 활용해 유체의 유동을 예측하는 방법[7], DNN을 이용해 유한요소 강성행렬을 생성하는 방법[8] 등이 있다.

본 논문에서는 Raissi et al.[9]가 제안한 PINN을 기반으로 CFD 해석을 실시하고 CFD 문제 활용 효용성을 확인하고자 한다. PINN은 딥러닝과 물리 법칙을 결합한 방식으로 PDE를 손실함수 구성에 활용해 물리 정보를 학습할 수 있게 한다. PINN은 구조가 비교적 간단하고 기존의 CFD와 다르게 격자가 필요 없으며 복잡한 형상이어도 지배방정식(governing equation)과 경계조건(boundary condition)만 있으면 효율적으로 근사해를 도출해 낼 수 있다는 장점이 있다. 이러한 이유로 많은 연구자들이 다양한 분야에서 PINN을 활용하여 연구를 진행하고 있다. Ehsan Haghighat et al.[10]의 진동특성 예측 및 최적화 연구, Zilong Zhang et al.[11]의 터널링으로 인한 지반 변형 예측, Hong Shen Wong et al.[12]의 혈류 해석 예측 연구, Ignacio de Cominges Guerra et al.[13]의 전력계통 과도 안정성 연구 등이 PINN을 활용한 연구에 해당한다.

PINN에 대한 다양한 연구가 진행되고 있지만, 여전히 그 신뢰도와 정확성에 대한 의문이 제기되고 있다. Tamara G. Grossmann et al.[14]은 FEM이 PINN보다 더 높은 정확성과 짧은 계산속도를 갖는다고 실험을 통해 확인했고, Shahed Rezaei et al.[15]은 PINN이 FEM에 비해 계산 시간이 훨씬 길고, 경계 근처나 위상 변화 구간에서 정확도가 떨어질 수 있다는 것을 지적하였다. 이에 따라 PINN을 개선하기 위해 현재까지 여러 연구가 활발히 진행되고 있다. Junwoo Cho et al.의 Forward-mode 자동 미분과 축 단위 계산으로 성능을 개선한 Separable PINN[16], Pao-Hsiung Chiu et al.의 자동 미분과 수치 미분을 결합하여 성능을 개선한 CAN- PINN[17], Lei Yuan et al.의 보조 출력 변수를 통해 적분 이산화의 한계를 개선한 A-PINN[18] 등이 이에 해당한다.

CFD 분야의 경우 해석 오차는 설계와 안전성에 직접적인 영향을 미치는 중요한 문제이다. 따라서 PINN을 실제 현장에 적용하기 위해서는 정확성에 대한 철저한 검증이 필수적이다. 이에 따라 PINN을 이용한 비압축성 층류 유동에 대한 많은 선행 비교 및 검증 연구들이 있었다. Chengping Rao et al.[19]가 제안한 PINN을 활용해 층류 유동을 해석하는 연구에서는 ANSYS Fluent 결과를 참조 해(Reference solution)로 하여 유동해석에서 PINN의 정확도를 분석하였다. 그리고 Beichao Hu et al.[20]과 Ryno Laubsche et al.[21]은 PINN의 효용성에 대한 비교를 수행하였다. 하지만 이 연구들은 모두 비교적 단순한 원형 혹은 타원형 형상에 국한되어 있고, 여러 형상을 이용하여 비교하지 않기에 유동해석에 있어 PINN의 정확도를 판단하기에는 부족함이 있었다. 그리고 소요 시간의 비교시 유한체적법을 사용하기 위해 소요된 격자 생성 시간은 비교하지 않았다. 이에 따라 본 연구는 기존 연구에서 부족했던 점을 보완하기 위해, 다양한 형상과 자유도를 사용하여 PINN과 ANSYS Fluent 간 층류 해석 결과와 정확도, 해석 소요시간 등을 비교하고 유동해석에서 PINN의 활용 가능성을 종합적으로 검토해 보았다.

2. 지배방정식

본 연구에서 사용된 지배방정식은 나비에-스토크스와 비압축성 뉴턴유체의 연속 방정식으로 Chengping Rao et al.[19]의 문헌을 참고하였다. 나비에-스토크스 방정식은 유체의 운동을 기술하는 기본 방정식으로서, 압축성과 비압축성 유체 모두에 적용할 수 있다. 본 연구에서는 낮은 유속의 층류 유동에 대한 해석을 수행할 예정이므로 유체의 밀도가 일정하다고 가정하여 다음의 연속 방정식을 사용하였다.

(1)

\nabla ∙ v = 0

이는 유체의 질량 보존 법칙을 나타내며, 유체의 발산이 0임을 의미한다. 유체의 운동량 보존 법칙은 다음과 같이 표현된다.

(2)

\frac{\partial v}{\partial t} + (v \cdot \nabla) v = - \frac{1}{ρ} \nabla p + \frac{μ}{ρ} \nabla^{2} v

여기서 ∇는 나블라 연산자, $v$ 는 속도벡터, $p$ 는 압력, 𝜇는 유체의 점성계수, 𝜌는 유체의 밀도이다. 여기서 PINN모델에 훈련할 수 있는 형태로 방정식을 변환하기 위해, 식 (2)를 다음과 같이 재구성한다.

(3)

\frac{\partial v}{\partial t} + (v ∙ \nabla) v = \frac{1}{ρ} \nabla ∙ σ

여기서 응력 텐서 𝜎는 다음과 같이 정의된다.

(4)

σ = - p I + μ (\nabla v + \nabla v^{T})

이 식에서 I는 단위행렬이고, $p = - tr σ / 2$ 이다. 연속체 기법식을 사용함으로써 도함수의 차수를 줄일 수 있으며, 이는 PINN 모델의 훈련 안정성과 효율성을 향상시킬 수 있다. 또한, 이러한 접근법은 복잡한 유체 역학 문제를 해결하는 데 있어 신경망의 일반화 능력을 증대시킨다.

3. PINN 및 ANSYS Fluent 설정

3.1 PINN 모델 설정

본 연구에서는 Chengping Rao et al.[19]가 제안한 혼합변수 PINN(Mixed-Variable Physics-Informed Neural Network)을 통해 정상상태의 비압축성 층류를 예측할 것이다. 혼합변수 PINN은 응력 텐서 𝜎와 같이 추가적인 물리적 변수를 통합함으로써 도함수의 차수를 줄여 모델의 예측 정확성과 학습 가능성을 향상하는 방법이다. 혼합변수 PINN은 기존 PINN보다 더 향상된 해석 데이터와 네트워크 훈련이 가능하다. 실제로 기존 PINN과 비교했을 때 혼합변수 PINN의 유동해석 예측 결과가 더 정확하다는 연구들도 존재한다[19, 22]. 손실 함수(loss function)는 지배방정식 손실 $J_{g}$ , 초기 및 경계 조건 손실 $J_{b c}$ 의 합으로 이루어진다.

(5)

J_{g} = \frac{1}{N_{g}} \sum_{i = 1}^{N_{g}} {||r_{g} (x^{i})||}^{2}

(6)

J_{b c} = \frac{1}{N_{b c}} \sum_{i = 1}^{N_{b c}} {||r_{bc} (x^{i})||}^{2}

(7)

J_{t o t a l} = J_{g} + J_{b c}

여기서 $N_{g}$ 는 경계 내부의 collocation point의 개수 , $N_{b c}$ 는 경계 조건에서의 collocation point의 개수이고 r_g는 지배방정식의 잔차(residual), r_bc는 경계 조건에서의 잔차이다. 또한 x는 collocation point의 위치를 나타내는 좌표 벡터이다. 본 논문에서 사용한 PINN 모델의 개략도는 Fig. 1과 같다. 신경망의 구조는 8개의 은닉층(Hidden layer)으로 구성되어 있고, 활성화 함수는 하이퍼볼릭탄젠트(hyperbolic tangent, Tanh)를 이용했다. 선행된 연구[19]에서 충분히 비교 검증을 통해 선정된 은닉층과 뉴런의 개수를 동일하게 사용 하였다. 또한 활성화 함수와 학습률의 선정은 하이퍼 파라미터 결정 과정을 거쳐 선정하였다(Appendix 참고). 최적화 알고리즘은 아담(Adam optimizer)[23]을 사용했다. 그 후, 더 높은 정확도를 얻기 위해 신경망을 미세 조정하는 데 L-BFGS-B[24]를 사용했다. 학습을 위한 에포크(epoch) 횟수는 각 수치 예제에 기술하였다. 각 수치예제의 아담의 에포크 횟수는 연구자의 시행착오를 통해 가장 안정적으로 학습되는 횟수를 선정하여 설정한 값이다. 그리고 L-BFGS-B의 경우 목적함수 값의 변화가 부동 소수점 오차 이하가 되면 수렴한 것으로 판단하였다. 이러한 엄격한 허용 오차 설정은 최적화 과정에서 목적 함수값의 미미한 변화가 있을 경우에만 수렴을 선언하여, 높은 정밀도를 보장하도록 한다. 본 연구에서 PINN은 Python 3.6.7을 기반으로 수행되었으며, 사용된 주요 Python 패키지 버전은 Table 1과 같다. tensorflow-gpu는 PINN 모델의 구조 구성 및 학습에 사용되었고, numpy는 수치 연산을 처리하는 데 활용되었다. PyDOE는 collocation point의 난수 분포를 생성하는 데 사용되었으며, scipy는 최적화 알고리즘 구현에 활용되었다. 또한, CUDA와 cuDNN은 PINN이 더 빠르게 학습할 수 있도록 GPU 가속을 제공하는 데 사용되었다.

https://cdn.apub.kr/journalsite/sites/kscfe/2024-029-04/N0500290418/images/jkscfe_2024_294_217_F1.jpg

Fig. 1.

Schematic of the PINN

Table 1.

Software versions used in PINN

Software	tensorflow-gpu	Python	numpy	matplotlib	PyDOE	scipy	CUDA	cuDNN
Version	1.10.0	3.6.7	1.15.0	2.2.3	0.3.8	1.1.0	9.0	7.0.5

3.2 상용 소프트웨어 설정

본 연구에서 사용한 상용 소프트웨어는 ANSYS Fluent 2023 R2이다. 이 실험에 사용된 ANSYS Fluent 설정에 대해 이번 장에 설명하고, 형상에 대한 설명은 결과에서 진행하도록 하겠다.

(8)

u (0, y) = 4 U_{\max} (H - y) y / H^{2}

식 (8)은 속도 프로파일을 나타낸 것이다. 입구(inlet) 조건은 y방향 유동은 없고 x방향으로만 velocity-inlet 조건을 넣고 User Define Function(UDF)을 활용해 식 (8)의 속도 분포를 입력하였다. 출구(outlet) 조건으로는 pressure-out으로 계기압(gauge pressure, Pa)이 0인 조건이다. 그 외 나머지 부분은 벽(wall)조건과 noslip 조건을 적용했다. 밀도(Density, 𝜌) 는 1 m³/kg, 동점성계수(Dynamic Viscosity)는 0.02kg/(m×s)로 설정했다. 해석기법으로는 나비에-스토크스 방정식을 계산하기 위해 Fluent 내부의 SIMPLEC 알고리즘을 이용하였고, 공간 이산화 방법으로 Gradient는 Fluent내 기본 설정인 Least Squares Cell Based를 적용하였다. 또한 Pressure는 PRESTO!를 사용했다.

4. 수치 예제 적용 및 결과 비교

본 연구에서는 각 구조물 별로 PINN의 collocation point의 개수와 CFD의 격자의 개수를 500개에서 50,000개 까지 10배씩 증가시키면서 참조해와 비교하고 사용된 격자의 개수에 따른 영향을 확인하였다. 그 후 각 결과를 참조해와 비교했다. 여기서 참조해는 ANSYS Fluent 2023 R2를 사용하여 동일한 설정으로 격자를 900,000개 이상 부여해 오차를 최소화한 값이다. 본 연구에서는 더 빠른 PINN 학습을 위해 GPU를 이용해 학습을 진행하고 ANSYS Fluent는 CPU core 1개 만으로 해석을 진행했다. 본 연구에 사용된 컴퓨터의 사양은 Table 2와 같다.

Table 2.

Specifications of the computer used for the analysis

Device type	CPU	RAM	GPU	OS
Model name	Ryzen 5 5600G	16 Gbyte	NVIDA Geforce 1080ti	Windows 11

4.1 익형(Airfoil) 모델

Fig. 2는 해석 모델을 나타낸 그림이다. 파란색 부분은 벽 조건, 빨간 부분은 입구 조건, 노란 부분은 출구 조건이다. 채널 내부에는 익형 구조물을 배치하였고 익형은 NACA 2411을 참고 하였다. 채널의 크기에 비해 NACA 2411 형상이 상대적으로 얇고 시위 길이가 길어, 유동의 육안 관찰을 용이하게 하기 위해 시위길이 대비 최대두께의 비(최대두께비)를 기존 11%에서 27.5%로 2.5배 크게 설정하였다. 이에 따라 모든 위치에서 두께를 최대두께비의 증가비와 동일하게 증가시켜 에어포일의 유선형을 유지하였다. Fig. 3은 익형에서 PINN에 사용된 collocation point와 ANSYS Fluent에 사용된 격자 구조를 가시화한 것이다. collocation point의 경우 라틴하이퍼큐브샘플링(Latin Hypercube Sampling, LHS)를 사용해 무작위로 분포시켰고, PINN 학습을 위한 아담의 에포크는 10,000번으로 설정하였다. CFD 격자의 경우 격자의 크기를 조절해 개수를 대략적으로 맞추었다. 정확한 결과 비교를 위해 특정 구간에서 비교하였고 결과는 Fig. 4와 같다. ANSYS Fluent의 경우 격자가 약 500개일 때는 비교적 정확하지 못한 모습을 보였지만, 약 5,000개부터는 Reference Solution과 상대적으로 오차가 적은 것을 확인할 수 있었다. 하지만 PINN의 경우에는 collocation point의 개수가 5,000개와 50,000개 모두 ANSYS Fluent에 비해 다소 오차가 더 크게 나타났다. 전체적으로 PINN은 $x, y$ 방향 속도에서는 비교적 정확하게 예측하지만, 압력 예측에서는 오차가 비교적 큰 것을 알 수 있었다. 해석 시간을 비교한 결과 Table 3과 같이 ANSYS Fluent가 약 20배에서 110배 정도 빠르게 해를 구할 수 있었다. 하지만 자유도의 증가에 따른 계산 시간의 상승 비율은 PINN이 다소 낮은 것을 확인할 수 있었다.

https://cdn.apub.kr/journalsite/sites/kscfe/2024-029-04/N0500290418/images/jkscfe_2024_294_217_F2.jpg

Fig. 2.

Geometry of airfoil model

https://cdn.apub.kr/journalsite/sites/kscfe/2024-029-04/N0500290418/images/jkscfe_2024_294_217_F3.jpg

Fig. 3.

Representation of point locations and mesh geometry according to the number of collocation points and elements in the airfoil model: (a) 500 collocation points, (b) 5,000 collocation points, and (c) 50,000 collocation points in the PINN model, (d) 457 elements, (e) 4,772 elements, and (f) 49,327 elements in the ANSYS Fluent model

https://cdn.apub.kr/journalsite/sites/kscfe/2024-029-04/N0500290418/images/jkscfe_2024_294_217_F4.jpg

Fig. 4.

Comparison of flow analysis results between PINN and ANSYS Fluent for the airfoil model, with varying numbers of collocation points and mesh elements: The columns represent different point/element counts (500, 5,000, and 50,000 from top to bottom), while the columns show (a) Pressure at $x$ =0.8, (b) $x$ -direction velocity at $y$ =0.1, and (c) $y$ -direction velocity at $x$ =0.53

Table 3.

Time results for airfoil model(mesh generation time in parentheses)

	Number of elements and collocation points
	500	5,000	50,000
ANSYS Fluent	12 s (+2 s)	26 s (+6 s)	312 s (+58 s)
PINN	1,320 s	1,799 s	6,162 s

4.2 정사각형(Square) 모델

Fig. 5는 정사각형 구조물이 유동 채널에 배치된 해석 모델의 형상 정보이고, Fig. 6은 정사각형에서 사용된 collocation point 및 격자를 가시화한 것이다. 익형과 동일하게 collocation point를 LHS를 사용해 경계조건 내에 무작위로 분포 시켰고, PINN 학습을 위한 아담의 에포크는 10,000번으로 설정하였다. CFD 격자의 경우 격자의 크기를 조절하여 개수를 대략적으로 맞추었다. Fig. 7은 특정 구간에서의 CFD 해석과 PINN 해석 비교 결과이다. 정사각형 모델에서는 다른 모델과 다르게 collocation point 및 격자가 500개 일 때 ANSYS Fluent보다 PINN의 결과가 더 정확했다. 하지만 5,000개와 50,000개 일 때는 다른 모델과 비슷하게 결과가 나왔다. ANSYS Fluent의 경우 약 5,000개의 격자부터 비교적 정확하게 결과가 도출되었고, PINN은 5,000개, 50,000개의 collocation point 모두 상대적으로 더 큰 오차를 보여줬다. 특히 압력의 경우는 결과가 더욱 다르게 예측되었다. 정사각형 구조물은 높이를 기준으로 중심에 놓이지 않는다. 정사각형 아랫면과 채널의 바닥면은 Fig. 5와 같이 0.15 m가 떨어져 있지만 구조물의 윗면과 채널의 천장면은 0.16 m가 떨어져 있다. 따라서 정사각형 구조물의 좌측면에서 비대칭적인 압력 분포를 보이게 된다. 이는 Fig. 7(a)에서 잘 관찰된다. Y축 방향 위치를 기준으로 0.15 m에서 0.2 m구간에서의 압력이 0.2 m에서 0.25 m구간에서의 압력보다 낮아야 하지만, PINN의 경우 0.15 m에서 0.2 m구간에서의 압력이 높은 형태로 값이 도출되었다. Table 4는 해석 시간을 비교한 결과이며 익형 해석 시간 비교 결과와 유사하게 ANSYS Fluent가 약 25배에서 95배 정도 빠르게 해를 구할 수 있었다.

https://cdn.apub.kr/journalsite/sites/kscfe/2024-029-04/N0500290418/images/jkscfe_2024_294_217_F5.jpg

Fig. 5.

Geometry of square model

https://cdn.apub.kr/journalsite/sites/kscfe/2024-029-04/N0500290418/images/jkscfe_2024_294_217_F6.jpg

Fig. 6.

Representation of point locations and mesh geometry according to the number of collocation points and elements in the square model : (a) 500 collocation points, (b) 5,000 collocation points, and (c) 50,000 collocation points in the PINN model, (d) 446 elements, (e) 4,846 elements, and (f) 49,523 elements in the ANSYS Fluent model

https://cdn.apub.kr/journalsite/sites/kscfe/2024-029-04/N0500290418/images/jkscfe_2024_294_217_F7.jpg

Fig. 7.

Comparison of flow analysis results between PINN and ANSYS Fluent for the square model, with varying numbers of collocation points and mesh elements: The columns represent different point/element counts(500, 5000, and 50,000 from top to bottom), while the columns show (a) Pressure at $x$ =0.5, (b) $x$ -direction velocity at $y$ =0.1, and (c) $y$ -direction velocity at $x$ =0.3

Table 4.

Time results for square model(mesh generation time in parentheses)

	Number of elements and collocation points
	500	5,000	50,000
ANSYS Fluent	13 s (+2 s)	27 s (+4 s)	330 s (+45 s)
PINN	1,239 s	2,299 s	8,194 s

4.3 테이퍼드 채널(Tapered Channel) 모델

Fig. 8은 테이퍼드 채널 해석 모델의 형상 정보, Fig. 9는 특정 구간에서의 비교 결과, Table 5는 소요 시간이다. 테이퍼드 채널 역시 다른 구조물들과 동일하게 collocation point와 격자를 설정하였다. 하지만 테이퍼드 채널의 경우 PINN 학습을 위한 아담의 에포크는 50,000번으로 설정하였다. 해당 경우도 다른 해석 모델과 비슷한 결과 양상을 보여줬다. ANSYS Fluent의 경우 약 5,000개부터 참조해와 비슷한 결과를 보였고 PINN의 경우 50,000개부터 참조해와 비슷한 결과를 보였다. 테이퍼드 채널의 경우 장애물 구조가 없고, 형상 변화 역시 비교적 간단하여 압력과 속력에서 다른 구조물들에 비해 정확한 결과를 예측해 냈다.

https://cdn.apub.kr/journalsite/sites/kscfe/2024-029-04/N0500290418/images/jkscfe_2024_294_217_F8.jpg

Fig. 8.

Geometry of tapered channel model

https://cdn.apub.kr/journalsite/sites/kscfe/2024-029-04/N0500290418/images/jkscfe_2024_294_217_F9.jpg

Fig. 9.

Comparison of flow analysis results between PINN and ANSYS Fluent for the tapered channel, with varying numbers of collocation points and mesh elements: The columns represent different point/element counts(500, 5,000, and 50,000 from top to bottom), while the columns show (a) Pressure at $y$ =0.355, (b) Velocity magnitude at $y$ =0.355, (c) Velocity magnitude at $x$ =0.8

Table 5.

Time results for tapered channel model(mesh generation time in parentheses)

	Number of elements and collocation points
	500	5,000	50,000
ANSYS Fluent	12 s (+2 s)	26 s (+5 s)	320 s (+48 s)
PINN	3,287 s	3,429 s	8,183 s

5. 결과 논의

Fig. 10은 각 구조물의 그래프를 오차율 그래프로 나타낸 것이다. ANSYS Fluent의 경우 격자의 개수가 5,000개일 때를 기준으로 참조해와 비교하였고, PINN의 경우 collocation point의 개수가 50,000개일 때를 기준으로 참조해와 비교하였다. ANSYS Fluent는 5,000개일 때부터 상대적으로 오차가 거의 없는 결과를 나타냈고, 시간적인 효율성도 고려해 봤을 때, 5,000개 만으로도 충분하다고 판단했다. PINN은 50,000개일 때부터 상대적으로 오차가 적은 결과를 나타냈다. PINN의 경우 collocation point의 개수가 ANSYS Fluent의 격자 개수보다 10배 많음에도 ANSYS Fluent에 비해 오차가 큰 경향성을 나타낸 것으로 볼 수 있다. 또한 Table 3, Table 4를 통해 PINN 모델로 50,000개의 collocation point를 사용하게 되면 ANSYS Fluent에서 5,000개의 격자를 쓴 경우와 시간을 비교해 보아도 200배 이상의 시간 소모가 발생함을 확인할 수 있었다. Fig. 11, 12, 13은 collocation point 및 격자의 개수가 500개 일 때와 참조해를 contour형태로 나타낸 것이다. ANSYS Fluent의 경우 참조해와 비슷한 경향성으로 유동을 예측하는 것을 알 수 있지만, PINN의 경우 특정 부분에서 국부적으로 오차가 크게 발생하는 것을 확인 할 수 있었다. 하지만 테이퍼드 채널의 경우 비교적 단순한 형상이기에 국부적으로 오차가 발생하는 부분은 없었다. Fig. 14, 15, 16은 PINN의 collocation point가 50,000개, ANSYS Fluent의 격자의 개수가 5,000개 일 때 결과와 참조해를 contour형태로 나타낸 것이다. PINN은 collocation point가 50,000개 일 때부터, ANSYS Fluent는 격자가 5,000개 일 때부터 오차가 상대적으로 적어지고 참조해와 비슷한 유동장을 형성하는 것을 확인했다. 이를 바탕으로 현재까지는 유동해석 분야에서 PINN보다 상용 소프트웨어를 사용하는 것이 효율적이라고 볼 수 있다.

https://cdn.apub.kr/journalsite/sites/kscfe/2024-029-04/N0500290418/images/jkscfe_2024_294_217_F10.jpg

Fig. 10.

Graphs comparing the error rates between the results of using 50,000 collocation points in PINN and approximately 5,000 elements in ANSYS Fluent: (a) error rate of the airfoil model, (b) error rate of the square model, and (c) error rate of the tapered channel model

https://cdn.apub.kr/journalsite/sites/kscfe/2024-029-04/N0500290418/images/jkscfe_2024_294_217_F11.jpg

Fig. 11.

Comparison of velocity and pressure contours between the PINN results using 500 collocation points and the ANSYS Fluent results using 457 elements in an airfoil model

https://cdn.apub.kr/journalsite/sites/kscfe/2024-029-04/N0500290418/images/jkscfe_2024_294_217_F12.jpg

Fig. 12.

Comparison of velocity and pressure contours between the PINN results using 500 collocation points and the ANSYS Fluent results using 446 elements in a square model

https://cdn.apub.kr/journalsite/sites/kscfe/2024-029-04/N0500290418/images/jkscfe_2024_294_217_F13.jpg

Fig. 13.

Comparison of velocity and pressure contours between the PINN results using 500 collocation points and the ANSYS Fluent results using 450 elements in a tapered channel model

https://cdn.apub.kr/journalsite/sites/kscfe/2024-029-04/N0500290418/images/jkscfe_2024_294_217_F14.jpg

Fig. 14.

Comparison of Airfoil collocation points with 50,000 and Grids with 5,000 Points Against the Reference Solution Using Contours

https://cdn.apub.kr/journalsite/sites/kscfe/2024-029-04/N0500290418/images/jkscfe_2024_294_217_F15.jpg

Fig. 15.

Comparison of square collocation points with 50,000 and grids with 5,000 points against the reference solution using contours

https://cdn.apub.kr/journalsite/sites/kscfe/2024-029-04/N0500290418/images/jkscfe_2024_294_217_F16.jpg

Fig. 16.

Comparison of tapered channel collocation points with 50,000 and grids with 5,000 points against the reference solution using contours

6. 결 론

본 연구에서는 PINN과 상용 소프트웨어인 ANSYS Fluent를 비교 분석하여, PINN의 정확도와 활용 가능성을 검토해 보았다. 다양한 수치 예제에 두 방식을 모두 적용해 본 결과 PINN은 ANSYS Fluent에 비해 속도가 최대 250배 이상 느리고 결과의 경우 비슷한 유동장을 형성하기는 했지만, 정확한 예측에 이르지는 못했다. PINN의 collocation point가 50,000개일 때와 ANSYS Fluent의 격자의 개수가 5,000개 일 때의 오차율 그래프를 비교했음에도 PINN의 오차가 큰 경향성을 나타낸 것을 볼 수 있다. 이를 통해 아직까지는 유동해석분야에서 PINN보다 상용 소프트웨어를 사용하는 것이 더욱 효율적인 것을 알 수 있다. 본 연구에서 진행한 격자의 숫자는 상대적으로 적었기에 격자의 전처리가 시간비교에 있어 유의미한 영향을 끼치지는 않았다. 하지만 실제 산업 분야에서는 더 많은 격자를 사용하고 복잡한 형상의 유동 해석을 진행한다. 이에 따라 격자의 전처리에 많은 시간을 소요한다. PINN은 이러한 격자 전처리가 필요 없기에 실제 산업분야의 크고 복잡한 형상에서는 ANSYS Fluent를 이용한 유동해석에 비해 짧은 소요시간을 갖을 수도 있다. 하지만 유한체적법에서 격자의 생성시간을 단축하기 위한 연구가 지속적으로 진행되고 있으므로 이러한 부분에 대한 개선 방안이 나올 것으로 기대된다. 그리고 본 연구 결과에서 알 수 있듯이 PINN 에서는 유한체적법 대비 정확한 결과를 도출해 내지는 못할 것으로 사료된다. 따라서 현재 PINN 수준으로는 결과의 정확성과 해석 속도 등의 문제로 당장 실무 해석에 적용하기는 어려울 것으로 판단된다.

본 연구에서는 유동 해석에 조금 더 특화된 PINN[19]의 구조로 실험을 진행했지만, 정확한 결과를 예측하지 못했다. 또한, PINN의 학습에는 GPU가속을 진행했고, ANSYS Fluent의 경우 CPU 병렬 연산조차 하지 않았다. 그럼에도 PINN의 연산속도가 월등히 느리게 도출되었다. 그러나 PINN은 지배방정식과 경계조건만으로도 수치해를 구할 수 있는 장점이 있다. 이에 따라 더 많은 GPU의 병렬 활용 또는 향후 하드웨어와 알고리즘 기술의 발전이 이루어진다면 새로운 가능성을 열어줄 잠재력을 갖추고 있다. 예를 들어, 최신 GPU 및 TPU와 같은 하드웨어 활용, 또는 개선된 PINN 구조의 도입을 통해 연산 속도의 가속화와 정확도의 개선이 충분히 가능할 것이다. 이러한 개선이 이루어진다면 PINN은 유동해석뿐만 아니라 다양한 분야에서 적극 활용될 것으로 기대된다.

Acknowledgements

이 논문은 정부(과학기술정보통신부)의 재원으로 혁신형소형모듈원자로 기술개발사업단의 지원을 받아 수행된 연구임(No. RS-2023-00264749).

Appendix

PINN 하이퍼 파라미터 영향 분석

본 연구에서는 PINN의 하이퍼 파라미터 결정을 위해 네 가지 활성화 함수와 다섯 가지 학습률을 조합하여 실험을 진행하였다. 각 조합에 대해 최종 손실 값(loss)과 학습 소요 시간을 측정하였으며, 결과는 Table A1에 정리하였다. 실험 결과, Tanh와 Sigmoid, Sin은 상대적으로 낮은 최종 손실 값을 나타낸 반면, ReLU는 높은 최종 손실 값을 보였다. 또한, 학습률이 낮을수록 손실 값과 소요 시간이 항상 개선되는 것은 아니며, 적절한 조합을 선택하는 것이 중요하다는 점을 확인할 수 있다. Sin 활성화 함수와 학습률 5.00E-01의 조합에서는 학습 과정에서 발산(NAN)이 발생하여 해당 조합은 분석에서 제외하였다.

최종적으로, 소요 시간과 최종 손실 값을 종합적으로 고려한 결과, Tanh 활성화 함수와 학습률 5.00E-04의 조합이 가장 loss가 적고 효율적인 조건으로 판단되었다. 해당 조합은 실험을 통해 가장 우수한 성능을 나타낸 것을 확인했으며, 하이퍼파라미터 결정 과정의 중요성을 보여주었다.

Table A1.

Loss function values and lead time depending on activation functions and learning rates

	Tanh		Sigmoid		Sin		ReLU
Learning_rate	Loss	Lead time	Loss	Lead time	Loss	Lead time	Loss	Lead time
5.00E-01	1.06636	1,691 s	1.06636	1,857 s	NAN	-	1.06636	724 s
5.00E-02	1.06636	1,692 s	1.06636	1,859 s	1.24820	6,965 s	1.06636	723 s
5.00E-03	0.00529	7,305 s	0.00576	7,126 s	0.00532	10,027 s	0.28217	727 s
5.00E-04	0.00373	8,195 s	0.00661	7,285 s	0.00570	10,470 s	0.34860	728 s
5.00E-05	0.00409	7,055 s	0.00780	7,842 s	0.00542	10,879 s	0.24649	732 s

References

2016, He, K., Zhang, X., Ren, S. and Sun, J., "Deep Residual Learning for Image Recognition," Proc. IEEE Conf. Comput. Vis. Pattern Recognit. (CVPR), pp.770-778.

2017, Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A.N., Kaiser, L. and Polosukhin, I., "Attention is All You Need," Adv. Neural Inf. Process. Syst 30 (NIPS 2017).

2019, Tan, M. and Le, Q., "EfficientNet: Rethinking Model Scaling for Convolutional Neural Networks," Proc. Int. Conf. Mach. Learn. (ICML), pp.6105-6114.

2023, Chowdhery, A., Narang, S., Devlin, J., et al., "PaLM: Scaling Language Modeling with Pathways," J. Mach. Learn. Res., Vol.24, No.240, pp.1-113.

2020, Jang, K.S., Lim, H.J., Hwang, J.H., Shin, J. and Yun, G.J., "Development of Artificial Intelligence Joint Model for Hybrid Finite Element Analysis," J. Korean Soc. Aeronaut. Space Sci.,Vol.48, No.10, pp.773-782.

10.5139/JKSAS.2020.48.10.773

2021, Kochkov, D., Smith, J.A., Alieva, A., Wang, Q., Brenner, M.P. and Hoyer, S., "Machine Learning-Accelerated Computational Fluid Dynamics," Proc. Natl. Acad. Sci. U.S.A., Vol.118, No.21, e2101784118.

10.1073/pnas.210178411834006645PMC8166023

2016, Guo, X., Li, W. and Iorio, F., "Convolutional Neural Networks for Steady Flow Approximation," Proc. ACM SIGKDD Int. Conf. Knowl. Discov. Data Min., pp.481-490.

2020, Jung, J., Yoon, K. and Lee, P.S., "Deep Learned Finite Elements," Comput. Methods Appl. Mech. Eng., Vol.372, 113401.

10.1016/j.cma.2020.113401

2019, Raissi, M., Perdikaris, P. and Karniadakis, G.E., "Physics-Informed Neural Networks: A Deep Learning Framework for Solving Forward and Inverse Problems Involving Nonlinear Partial Differential Equations," J. Comput. Phys., Vol.378, pp.686-707.

10.1016/j.jcp.2018.10.045

2021, Haghighat, E., Bekar, A.C., Madenci, E. and Juanes, R., "Deep Learning for Solution and Inversion of Structural Mechanics and Vibrations," arXiv preprint, arXiv:2105.09477.

2023, Zhang, Z., Pan, Q., Yang, Z. and Yang, X., "Physics-informed deep learning method for predicting tunnelling-induced ground deformations," Acta Geotech., Vol.18, No.9, pp.4957-4972.

10.1007/s11440-023-01874-9

2024, Wong, H.S., Chan, W.X., Li, B.H. and Yap, C.H., "Strategies for Multi-Case Physics-Informed Neural Networks for Tube Flows: A Study Using 2D Flow Scenarios," Sci. Rep., Vol.14, No.1, 11577.

10.1038/s41598-024-62117-938773243PMC11636878

2024, Guerra, I.C., Li, W. and Wang, R., "A Comprehensive Analysis of PINNs for Power System Transient Stability," Electronics, Vol.13, No. 2, 391.

10.3390/electronics13020391

2024, Grossmann, T.G., Komorowska, U.J., Latz, J. and Schönlieb, C.B., "Can physics-informed neural networks beat the finite element method?," IMA J. Appl. Math., Vol.89, No.1, pp.143-174.

10.1093/imamat/hxae01138933736PMC11197852

2022, Rezaei, S., Harandi, A., Moeineddin, A., Xu, B.X. and Reese, S., "A mixed formulation for physics-informed neural networks as a potential solver for engineering problems in heterogeneous domains: Comparison with finite element method," Comput. Methods Appl. Mech. Eng., Vol.401, Part B, 115616.

10.1016/j.cma.2022.115616

2024, Cho, J., Nam, S., Yang, H., Yun, S.B., Hong, Y. and Park, E., "Separable physics-informed neural networks," arXiv preprint, arXiv:2306.15969.

2022, Chiu, P.H., Wong, J.C., Ooi, C., Dao, M.H. and Ong, Y.S., "CAN-PINN: A fast physics-informed neural network based on coupled-automatic-numerical differentiation method," Comput. Methods Appl. Mech. Eng, Vol.395, 114909.

10.1016/j.cma.2022.114909

2022, Yuan, L., Ni, Y.Q., Deng, X.Y. and Hao, S., "A-PINN: Auxiliary physics informed neural networks for forward and inverse problems of nonlinear integro-differential equations," J. Comput. Phys., Vol.462, 111260.

10.1016/j.jcp.2022.111260

2020, Rao, C., Sun, H. and Liu, Y., "Physics-Informed Deep Learning for Incompressible Laminar Flows," Theor. Appl. Mech. Lett., Vol.10, No.3, pp.207-212.

10.1016/j.taml.2020.01.039

2023, Hu, B. and McDaniel, D., "Applying Physics-Informed Neural Networks to Solve Navier-Stokes Equations for Laminar Flow around a Particle," Math. Comput. Appl., Vol.28, No.5, 102.

10.3390/mca28050102

2021, Laubscher, R. and Rousseau, P., "Application of Mixed-Variable Physics-Informed Neural Networks to Solve Normalised Momentum and Energy Transport Equations for 2D Internal Convective Flow," arXiv preprint, arXiv:2105.10889.

2021, Zhang, G.T., Cheng, C., Liu, S.D., Chen, Y. and Li, Y.Z., "Deep Learning Based on Mixed-Variable Physics-Informed Neural Network for Solving Fluid Dynamics without Simulation Data," arXiv preprint, arXiv: 2111.09086.

2014, Kingma, D.P. and Ba, J., "Adam: A method for stochastic optimization," arXiv preprint, arXiv:1412.6980.

1995, Byrd, R.H., Lu, P., Nocedal, J. and Zhu, C., "A limited memory algorithm for bound constrained optimization," SIAM J. Sci. Comput., Vol.16, No.5, pp.1190-1208.

10.1137/0916069

Journal of Computational Fluids Engineering ISSN:1598-6071(Print) 3022-6252(Online) 한국전산유체공학회지

Preview

COMPARISON OF 2D FLOW ANALYSIS BETWEEN PINN AND COMMERCIAL SOFTWARE

ABSTRACT

MAIN

(1)

(2)

(3)

(4)

(5)

(6)

(7)

Fig. 1.

Schematic of the PINN

Table 1.

Software versions used in PINN

(8)

Table 2.

Specifications of the computer used for the analysis

Fig. 2.

Geometry of airfoil model

Fig. 3.

Fig. 4.

Table 3.

Time results for airfoil model(mesh generation time in parentheses)

Fig. 5.

Geometry of square model

Fig. 6.

Fig. 7.

Table 4.

Time results for square model(mesh generation time in parentheses)

Fig. 8.

Geometry of tapered channel model

Fig. 9.

Table 5.

Time results for tapered channel model(mesh generation time in parentheses)

Fig. 10.

Graphs comparing the error rates between the results of using 50,000 collocation points in PINN and approximately 5,000 elements in ANSYS Fluent: (a) error rate of the airfoil model, (b) error rate of the square model, and (c) error rate of the tapered channel model

Fig. 11.

Comparison of velocity and pressure contours between the PINN results using 500 collocation points and the ANSYS Fluent results using 457 elements in an airfoil model

Fig. 12.

Comparison of velocity and pressure contours between the PINN results using 500 collocation points and the ANSYS Fluent results using 446 elements in a square model

Fig. 13.

Comparison of velocity and pressure contours between the PINN results using 500 collocation points and the ANSYS Fluent results using 450 elements in a tapered channel model

Fig. 14.

Comparison of Airfoil collocation points with 50,000 and Grids with 5,000 Points Against the Reference Solution Using Contours

Fig. 15.

Comparison of square collocation points with 50,000 and grids with 5,000 points against the reference solution using contours

Fig. 16.

Comparison of tapered channel collocation points with 50,000 and grids with 5,000 points against the reference solution using contours

Acknowledgements

Appendix

Table A1.

Loss function values and lead time depending on activation functions and learning rates

References