當 Perl 程序持續收到請求、CPU 使用率卻始終上不去(本例中只有 13% 左右)時,說明有程式碼路徑正在阻塞作業系統執行緒——通常是同步 I/O,比如卡在 select 上等待響應的 HTTP 呼叫。本文演示如何用 OpenResty XRay 的 off-CPU 火焰圖,把阻塞的 Perl 程式碼路徑精確定位到原始檔和行號,全程無需修改程式碼、無需重啟程序。

症狀:請求湧入但 Perl 程序 CPU 使用率上不去

首先執行 top 命令檢查 CPU 的使用情況。

可以看到這個名為 Perl 的程序。它的 CPU 只有 13% 左右。即使有很多請求進來,CPU 用量也不會上升。

top 命令輸出顯示 Perl 程序 CPU 使用率停在 13% 左右

讓我們執行 ps 命令來檢視這個程序的更多細節。

這裡我們可以看到,它是 Linux 發行版自帶的標準 perl 二進位制可執行檔案。

ps 命令輸出顯示這是 Linux 發行版自帶的標準 perl 二進位制檔案

接下來我們來看一下這個 Perl 應用的訪問日誌。

可以看到,有很多客戶端請求正在湧入,但是 CPU 使用率仍然很低。這意味著有一些東西阻塞了 Perl 程式碼高效執行。我們怎麼才能找到原因呢?

Perl 應用的訪問日誌顯示大量客戶端請求正在湧入

訪問日誌持續增長而 CPU 使用率仍然很低

用 OpenResty XRay 的 off-CPU 火焰圖定位阻塞的 Perl 程式碼路徑

讓我們使用 OpenResty XRay 來檢查這個未經修改的程序。我們可以對它進行實時分析,並找出原因。

在瀏覽器中開啟 OpenResty XRay 的 Web 控制檯,確認當前選中的是正確的機器,然後進入 “Guided Analysis” 頁面。

OpenResty XRay Web 控制檯中的 Guided Analysis 頁面

在系統能分析的各類問題中,選擇 “Low CPU usage and cannot go up”。

在 Guided Analysis 中選擇 “Low CPU usage and cannot go up” 問題型別

接著按嚮導操作:選擇之前的 Perl 應用,選中消耗 14% CPU 資源的程序(也就是我們在 top 中看到的那個),其餘步驟保持預設即可——應用型別、Perl 和 C/C++ 兩個語言級別、以及 300 秒的最大分析時間。

在 Guided Analysis 嚮導中選擇消耗 14% CPU 的 Perl 程序

開始分析。系統會持續執行多輪分析;對這個例子來說一輪就夠了,我們就此停止。

Guided Analysis 正在對 Perl 程序執行第一輪分析

可以看到已經自動生成了一份分析報告。

自動生成的 Guided Analysis 分析報告

這是現在我們要分析的問題型別,off-CPU。

Guided Analysis 報告顯示 off-CPU 問題型別

這是阻塞作業系統執行緒最嚴重的 C 程式碼路徑。

阻塞作業系統執行緒最嚴重的 C 程式碼路徑

第一個函式是 select,一個系統呼叫函式。

阻塞 C 程式碼路徑頂部的 select 系統呼叫

Perl_pp_select 是處理 Perl 中 select 函式的內建函式。它是 Perl 內部的一部分,用於監視和等待 socket 以及其他檔案上的 I/O 事件。

C 程式碼路徑中處理 Perl select 函式的內建函式 Perl_pp_select

從這個 C 函式可以看到當前正在執行 Perl 程式碼。

該 C 函式棧幀顯示當前正在執行 Perl 程式碼

接下來,我們看看阻塞最嚴重的 Perl 程式碼路徑。

阻塞作業系統執行緒最嚴重的 Perl 程式碼路徑

最頂部的 C 函式 select 正是我們剛才看到的 C 程式碼路徑中的阻塞點。

Perl 程式碼路徑的阻塞點 select 函式

Net::HTTP::Methods 模組的 can_read Perl 函式會等待直到 socket 接收到可讀取的新資料。

Net::HTTP::Methods 模組的 can_read 函式在等待 socket 資料

沿著呼叫鏈,我們可以看到它在讀取 read_response_headers 函式中的響應頭時發生了阻塞。

read_response_headers 函式在讀取 HTTP 響應頭時發生阻塞

remote_fetch 是業務級別程式碼中的一個函式,它屬於我們自己的 Perl 模組 Service::Processor

業務級 Perl 模組 Service::Processor 中的 remote_fetch 函式

最顯著的阻塞性程式碼路徑是從這個 Perl 語言級別的 off-CPU 火焰圖中自動推匯出來的。這樣的 off-CPU 分析同樣是診斷延遲問題的標準手段——可以看看我們如何在一個 500k QPS 的 OpenResty 閘道器中定位 244 毫秒的效能異常

Perl 語言級 off-CPU 火焰圖示出最關鍵的阻塞程式碼路徑

這裡是對當前問題更詳細的解釋和建議。

報告中關於 off-CPU 問題的詳細解釋和建議

這裡提到了我們前面看到的 select 函式。

報告文字提到 select 函式

這裡提到 Net::HTTP::Methods::can_read 函式使用 select 呼叫根據資料進行下一步。

報告說明 can_read 函式使用 select 呼叫進行下一步

這也是我們之前看到的 remote_fetch 函式的引用。

報告中對 remote_fetch 函式的引用

讓我們回到之前的熱程式碼路徑。

把滑鼠放在名為 remote_fetch 的 Perl 函式的綠色框上。

滑鼠懸停在火焰圖中 remote_fetch 函式的綠色框上

可以看到這個函式的 Perl 原始檔的完整路徑。

提示框顯示 remote_fetch 函式的原始檔路徑和行號

點選複製這個函式完整的 Perl 原始檔路徑。

從火焰圖提示框複製 Perl 原始檔路徑

在終端上貼上我們剛剛複製的程式碼路徑,使用 vim 編輯器檢視相應的 Perl 業務程式碼。您可以使用任何您喜歡的編輯器。

在終端中用 vim 編輯器開啟 Perl 原始檔

正如 OpenResty XRay 建議的那樣跳轉到第 66 行。

按 OpenResty XRay 的建議跳轉到 Perl 原始檔第 66 行

我們可以看到它正在傳送 HTTP GET 請求並等待其響應。

Perl 程式碼正在傳送 HTTP GET 請求並等待響應

為了避免在 Perl 中阻塞 HTTP 請求,您可以考慮使用像 Coro 這樣的非阻塞框架。同樣的 off-CPU 分析方法也適用於 GoPython 程序。

建議使用 Coro 等非阻塞 Perl 框架

Insights 頁面中的全自動分析與報告

OpenResty XRay 也可以自動監控線上程序,並在 “Insights” 頁面中生成以日和周為週期的分析報告——您不是非得手動使用 “Guided Analysis” 功能,當然它對應用的開發和演示仍然很有用。

OpenResty XRay Insights 頁面中的日報和週報

如果你喜歡這個教程,請訂閱這個部落格網站和我們的 B 站頻道。謝謝!

FAQ

為甚麼 Perl 程序在大量請求下 CPU 使用率還是上不去?

因為有程式碼路徑在阻塞作業系統執行緒,而不是在 CPU 上做實際工作。在上面的案例中,Net::HTTP::Methods 模組的 can_read 函式卡在 select 系統呼叫上等待 socket 收到新資料,於是程序在請求不斷堆積的同時基本處於空閒等待狀態。

如何在不修改程式碼的情況下找到阻塞的 Perl 程式碼?

用 OpenResty XRay 的 “Guided Analysis” 直接分析未經修改的執行中程序,選擇 “Low CPU usage and cannot go up” 問題型別。生成的報告會自動推斷出最關鍵的阻塞程式碼路徑,滑鼠懸停在 off-CPU 火焰圖的函式框上即可看到對應的原始檔和行號。

本例中的 off-CPU 火焰圖展示了甚麼?

它展示的是作業系統執行緒把時間耗在阻塞等待(而非 CPU 執行)上的程式碼路徑。在本例中,Perl 語言級 off-CPU 火焰圖直接指向業務函式 remote_fetch——它在 read_response_headers 中透過 select 呼叫等待 HTTP 響應時發生阻塞。

關於 OpenResty XRay

OpenResty XRay 是一個動態追蹤產品,它可以自動分析執行中的應用,以解決效能問題、行為問題和安全漏洞,並提供可行的建議。在底層實現上,OpenResty XRay 由我們的 Y 語言驅動,可以在不同環境下支援多種不同的執行時,如 Stap+、eBPF+、GDB 和 ODB。

關於作者

章亦春是開源 OpenResty® 專案創始人兼 OpenResty Inc. 公司 CEO 和創始人。

章亦春(Github ID: agentzh),生於中國江蘇,現定居美國灣區。他是中國早期開源技術和文化的倡導者和領軍人物,曾供職於多家國際知名的高科技企業,如 Cloudflare、雅虎、阿里巴巴, 是 “邊緣計算“、”動態追蹤 “和 “機器程式設計 “的先驅,擁有超過 22 年的程式設計及 16 年的開源經驗。作為擁有超過 4000 萬全球域名使用者的開源專案的領導者。他基於其 OpenResty® 開源專案打造的高科技企業 OpenResty Inc. 位於美國矽谷中心。其主打的兩個產品 OpenResty XRay(利用動態追蹤技術的非侵入式的故障剖析和排除工具)和 OpenResty Edge(最適合微服務和分散式流量的全能型閘道器軟體),廣受全球眾多上市及大型企業青睞。在 OpenResty 以外,章亦春為多個開源專案貢獻了累計超過百萬行程式碼,其中包括,Linux 核心、Nginx、LuaJITGDBSystemTapLLVM、Perl 等,並編寫過 60 多個開源軟體庫。

關注我們

如果您喜歡本文,歡迎關注我們 OpenResty Inc. 公司的部落格網站 。也歡迎掃碼關注我們的微信公眾號:

我們的微信公眾號

翻譯

我們提供了英文版原文和中譯版(本文)。我們也歡迎讀者提供其他語言的翻譯版本,只要是全文翻譯不帶省略,我們都將會考慮採用,非常感謝!