中文題目:基于深度強化學習的深水隔水管噴射裝置參數多目標優化框架
論文題目:Multi-objective optimization framework for deepwater riser jetting installation parameters using deep reinforcement learning
錄用期刊/會議:Ocean Engineering (中科院SCI 2區,JCR Q1)
原文DOI:https://doi.org/10.1016/j.oceaneng.2024.118398
錄用/見刊時間:309卷,第1部分,2024年10月1日
作者列表:
1) 宋 宇 中國石油大學(北京)信息科學與工程學院/人工智能學院 自動化系教師
2) 宋澤華 中國石油大學(北京)信息科學與工程學院/人工智能學院 人工智能專業 碩 22
3) 楊 進 中國石油大學(北京)安全與海洋工程學院 海洋油氣工程系教師
4) 李 磊 中國石油大學(北京)安全與海洋工程學院 海洋油氣工程系教師
摘要:
海上油氣勘探中導管套管噴射參數優化是保證水下井口可靠性的關鍵。由于噴射鉆井和靜置階段的復雜性特點,傳統模型往往難以應對。引入了利用深度強化學習對噴射參數進行綜合優化的新方法,以提高深海鉆井效率。該方法基于正交模擬實驗,形成系統的數據集。經過特征提取和參數縮放預處理,將安裝參數與噴射和靜置時間聯系起來。采用基于CAPQL多目標強化學習框架,建立了同時優化噴射時間和靜置時間的馬爾可夫決策過程環境。將該框架應用于選定的深海油氣井驗證,結果表明,噴射鉆井時間(平均46.18%)和浸泡時間(22.57%)顯著減少,預測模型的平均擬合率達到99.32%。此發現為套管噴射提供了一種創新方法,實現更高效安全的淺層建井,并有可能重新定義行業標準。
背景與動機:
在深海鉆井作業中,表層導管噴射安裝時間的控制和優化問題引發了廣泛關注。導管噴射安裝時間,由下入階段的導管下入時間與靜置階段的導管靜置時間兩部分構成,其決定了整個安裝過程的效率和成本。然而,這兩個階段的時間長度由多種噴射參數共同影響,其復雜度使得傳統的優化方法常常無法給出滿意的解決方案。因此,如何高效、準確地優化導管噴射安裝時間,是深海鉆井工作中亟待解決的重要問題。
設計與實現:
基于正交模擬實驗,形成系統的數據集。經過特征提取和參數縮放預處理,將安裝參數與噴射和靜置時間聯系起來。采用基于CAPQL多目標強化學習框架,建立了同時優化噴射時間和靜置時間的馬爾可夫決策過程環境。將該框架應用于選定的深海油氣井驗證。
主要內容:
設置導管噴射安裝正交物理模擬實驗,建立鉆井壓力、流量、鉆頭延伸和鉆頭與套管尺寸比等參數的數據集。詳細記錄了鉆井和靜置時間,經過特征提取和參數縮放預處理,將安裝參數與噴射和靜置時間聯系起來,分析各鉆井參數與地層參數對鉆井時間的影響規律。
圖1 導管噴射鉆井實驗原理圖
圖2 導管噴射鉆井參數的影響規律
引入了一種基于全連接神經網絡算法的導管噴射安裝時間預測模型??紤]到輸入特征和可用訓練數據的特點,考慮捕捉輸入特征和輸出特征之間復雜的映射關系,選擇全連接神經網絡作為預測模型。添加Dropout層以減輕過擬合,通過粒子群優化確定模型的初始權值,以避免局部最優,使用網格搜索方法對學習率、隱藏層神經元數量和輟學率等超參數進行了優化。在此模型的基礎上,建立了馬爾可夫決策過程環境??紤]到噴射鉆井時間和靜置時間的內在矛盾,引入了帕累托邊界的概念。
圖3 預測模型的訓練、驗證和測試流程圖
采用基于CAPQL多目標強化學習框架,建立了同時優化噴射時間和靜置時間的馬爾可夫決策過程環境。將該框架應用于選定的深海油氣井驗證。
圖4 噴射鉆進時間隨迭代的變化
圖5 靜置時間隨迭代的變化
結論:
通過深水地面導管套管噴射安裝模擬實驗,獲得了導管套管噴射安裝過程的大量數據,并將其匯編成樣本集。在此基礎上,建立了導管噴射安裝時間的預測模型。該模型能夠準確、高效地模擬導管噴射安裝參數、噴射鉆井參數、沉降之間的映射規律。
從導管噴射安裝時間預測模型出發,考慮到導管噴射安裝參數的實際工程約束條件,探討了安裝參數對安裝時間的影響機理,為優化導管噴射安裝參數奠定了理論基礎。
為實現導管噴射安裝時間的最小化,采用多目標深度強化學習算法對導管噴射安裝參數進行優化設計。并形成了一套結構化的參數優化設計流程。通過在特定區塊的目標井下進行實驗驗證,建立了優化導管噴射參數的Pareto邊界。在Pareto前沿地區,證明了優化縮短套管射流安裝時間的潛力。更重要的是該方法在優化導管安裝時間方面適用于不同的土體環境。
Fig. Pareto Frontier upon Optimization Completion
Fig. Comparison of Jetting Installation Parameters Before and After Optimization.
作者簡介:
宋宇,中國石油大學(北京)信息科學與工程/人工智能學院 自動化系教師,主要研究方向是海洋油氣鉆井、智能控制和鉆井感知相關的研究工作?,F主持國家自然科學基金青年項目、重點研發計劃子課題等國家級課題5項,獨立承擔十余項企業橫向項目,參研973、國家自然科學重點項目、聯合基金項目、企業項目超30項。在JPSE、OE、FGCS、中國海上油氣、石油鉆采工藝等國內外主流期刊發表論文20余篇。