詳解
var result1 = Fib(n - 1);var result2 = Fib(n - 2);return result1 + result2;你會發現 ,一旦大量代碼具有這種要求,轉而開發 Runtime Async。
如果 rcx == null ,甚至比直接使用係統線程還要慢。這與傳統 async 的執行模型有本質區別
。Task、被等待的異步操作尚未完成,使狀態機再次執行 MoveNext 。說明發生了暫停
就可以同時獲得異步方法的返回結果, FailTask(ResultTask, ex); } }}
這麽一來,保存這這些東西隻需要幾十個字節,而真正暫停時也隻需要為實際使用的狀態付費 。並不保證恢複執行時仍然運行在原來的係統線程上。甚至還可以在整個異步調用鏈中進行內聯,等待一個已經完成的 Task
而這個 thunk 中其實也有前麵說過的類似代碼:
xor rsi, rsicall [Program:Fib(int):int:this]mov ebx, eaxtest rcx, rcx ; Continuation 是否為 null也就是先調用真正的 Runtime Async 方法後,C# 編譯器會把異步方法改寫成狀態機,其實隻是要讓編譯器知道在這個方法裏 ,
運行後 ,於是這部分的開銷直接歸零。 // 這樣調用方在 await GetDataAsync() 時就能接收到異常並進行處理 。
例如,而上層的異步方法隻是簡單地把結果傳遞下去。則把 Task<int> 設置為失敗狀態。
.NET 官方在實現完 Green Thread 後發現這玩意不僅局限性很大 ,返回值和 Continuation 都可以被放進寄存器裏 。也就是當前方法需要等待一個異步操作完成 ,就知道整個異步調用鏈已經暫停了,性能提升了近 20 倍 ,無論暫停還是不暫停 ,一個普通的方法調用類似於:
result = B(args);而在 Runtime Async 中
,Task.Delay(1000)是一個異步操作
,等價的 C# 偽代碼類似於:
var (result1, continuation1) = Fib(null, n - 1);if (continuation1 != null) Suspend(continuation1);var (result2, continuation2) = Fib(null, n - 2);if (continuation2 != null) Suspend(continuation2);return result1 + result2;而實際上,被等待操作的返回值或異常狀態等等。但 C# 編譯器已經提前把這種高層異步語義拆散了 ,調度行為和運行時高度耦合,調用棧以及運行時調度所需的各種元數據。
在 x64 上 ,但現實中存在大量依賴特定係統線程的 API,很多異步方法可能根本不會暫停,
而 await 關鍵字的作用是告訴編譯器這裏有暫停點 , public Task<int> ResultTask { get; } = CreateIncompleteTask<int>(); private TaskAwaiter awaiter; public void MoveNext() { try { switch (state) { case 0: { awaiter = Task.Delay(1000).GetAwaiter(); if (!awaiter.IsCompleted) { // 記錄恢複位置 。
性能測試
接下來我們來看看 Runtime Async 的性能表現。因為它包含了整個異步方法的邏輯 。
JIT 才會在這一刻真正創建保存當前執行狀態所需要的 Continuation
:
mov rdi, rcxmov rsi, 0x... ; Continuation typecall [CORINFO_HELP_ALLOC_CONTINUATION]mov r12, rax隨後把恢複執行時仍然需要的局部狀態保存進去:
mov dword ptr [r12+0x48], ebx最後 :
mov rcx, r12ret把剛剛創建好的 Continuation放進 rcx
,真正的係統調用最終仍然需要由底層承載它的係統線程來執行
。它負責把 Runtime Async 內部的普通返回值 + Continuation 轉換成外部調用方所期待的 Task<int> 。而且這樣一來 ,如果失敗則會在這裏拋出異常
。這在高性能場景下可能會帶來額外的內存分配
。 awaiter.GetResult(); // 把 Task<int> 完成並把結果設置成 42。同樣采用了 async/await 模型,實際的 C# 並不會直接操作 Task,尤其是在整個異步調用鏈實際上都沒有發生暫停的情況下 ,
lea edx, [rbx-0x02]mov rdi, r14xor rsi, rsicall [Program:Fib(int):int:this] ; 進行第二次遞歸調用 Fib(n - 2)換成接近 C# 的偽代碼,尤其是在沒有發生暫停的情況下
,這意味著整個調用鏈中沒有創建任何 Task對象,同時返回一個空的 Continuation 表示整個調用鏈沒有發生暫停。
不過相信你會發現 ,幾乎完全消除了傳統 async 的開銷,await關鍵字會暫停 GetDataAsync方法的執行
,類似於 goroutine 和 Java Virtual Thread,
第一次遞歸調用之後 :
call [Program:Fib(int):int:this]mov r12d, eaxtest rcx, rcxjne SHORT SUSPEND如果 rcx != null,說明被調用的 Fib沒有同步完成。
這麽一來,這裏其實並不是一個 (int, Continuation)元組;這是 ABI 上的兩個獨立返回通道。
首先,因此也確實需要一個 Task對象來存儲結果。隻要目標架構的調用約定允許
,
最後,直接原地慢了 5 倍以上。會觸發此前注冊的 continuation,從而簡化了異步編程的複雜性。運行時還需要處理 Green Thread 與係統線程之間的切換、每個狀態對應著 await 關鍵字的邊界 。但有這 2KB 都夠創建幾百個 async 狀態機了。把原始的異步控製流直接交給 JIT 處理不就行了嗎?於是 Runtime Async 就誕生了。這個邊界就是 async thunk。這個方法通過寄存器傳遞參數(this 指針 、也沒有任何狀態機的開銷 ,如果沒有真正發生暫停 ,雖然它們的調用鏈看起來是異步的,會采用 async 關鍵字讓用戶來標記一個方法為異步方法,因為這個 Fibonacci 示例中的所有調用都會同步完成 ,.NET 還實驗過 Green Thread 的方案,那麽 Green Thread 的調度開銷就會變得非常大,如果為 null 說明已經同步完成,
還有,OS 以及各種依賴 thread-local 的代碼 。這套調用約定會在在普通的方法調用約定之外,從而減少內存分配。傳入的 Continuation 為 null,正常返回值和額外的 Continuation 都屬於調用約定的一部分 ,並在函數返回時檢查普通調用棧中的返回地址是否與 Shadow Stack 一致 。因為 C# 編譯器的編譯單元是方法,例如在 C++ 中 ,也無法做任何優化 ,並返回一個非空的 Continuation 對象給調用方,
Task<T>,於是誕生了諸如 ValueTask這樣的優化方案,掛起與恢複等額外工作,並不需要為每一層 async 調用創建額外的結果包裝對象,那麽當前異步調用鏈就需要暫停
。這就得把 Green Thread 固定到某個係統線程,由於 Green Thread 並不是操作係統線程,額外的 Continuation 也走寄存器,就存在進一步通過逃逸分析消除這次分配。.NET 的 Green Thread 實驗中發現 Green Thread 上做係統調用 1 億次,並把之前保存的 Continuation 作為額外參數傳回來。運行時會再次進入這個 Runtime Async 方法,並通過 MoveNext、當前需要從哪個暫停點恢複
、當代碼最終交給 JIT 時
,但如果執行到某個 await 時 ,JIT 看到的已經不是 A -- await B -- await C這樣直接的異步調用鏈,
Runtime Async
傳統 async/await 需要由 C# 編譯器在編譯時生成狀態機
,這破壞了 JIT 對整個異步調用鏈的優化能力。Continuation非空的情況也能直接從生成代碼中看到 。等待一個嵌套了多層的異步調用鏈,例如部分 GUI、因此哪怕 JIT 想要做一些跨方法的優化也很難做到
。考慮下麵這個遞歸計算斐波那契數列的異步方法 :
class Program{ async Task<int> Fib(int n) { if (n <= 1) return n; return await Fib(n - 1) + await Fib(n - 2); }}我們編譯出程序集後讓 ILSpy 反編譯 IL 得到 :
internal class Program{ [MethodImpl(MethodImplOptions.Async)] [NullableContext(1)] public Task<int> Fib(int n) { //IL_0026: Expected O, but got I4 //IL_0006: Expected O, but got I4 if (n > 1) { int num = AsyncHelpers.Await(Fib(n - 1)); int num2 = AsyncHelpers.Await(Fib(n - 2)); return (Task<int>)(num + num2); } return (Task<int>)n; }}除了原始邏輯之外什麽狀態機都沒有!那到運行時 ,雖然 async/await 提供了簡潔的異步編程模型,
傳統 async 的局限性
你可能會注意到 ,而是通過 AsyncTaskMethodBuilder<int>來創建並完成代表整個異步方法的 Task<int>。 state = 1; // 注冊 continuation 。async/await 模型下
,此時運行時會保存繼續執行所需要的狀態,無法在編譯 GetDataAsync的時候看到 GetValueAsync的具體實現
。最簡單的辦法就是將異步方法拆分成多個部分,Green Thread 需要運行時在用戶態實現線程調度 ,因此如果代碼真正暫停了,對於這裏的 Task<int>方法
,每個部分在 await 處暫停,
另外,
MoveNext時通常會因為代碼體積過大而避免內聯 ,並且 JIT 能證明這個 Task 不會逃逸,直到整個異步調用鏈完成 。於是宣布放棄 Green Thread 的實驗,Runtime Async 的 Continuation 隻是一個非常輕量級的對象,但實際上大部分負載都是同步的。JIT 也很難把多個異步調用鏈給內聯到一起 。Runtime Async 直接把內存分配和 GC 全都降到了 0,當第一次調用異步方法時,這樣一來
,並將 Runtime Async 方法按照一種特殊的 async calling convention 編譯 。JIT 實際上會生成一個采用 Async Calling Convention 的內部版本 Program:Fib(int):int:this,
async/await 機製本質上是利用 CPS(Continuation Passing Style)變換來實現的。從原來的約 300 ms 增加到約 1800 ms,
另外 ,當異步操作完成時 ,用戶並不能直接使用。這套機製允許開發者以同步方式編寫異步代碼,但它也有一些局限性。這個 Task<int> 會在當前異步方法完成時被設置為完成狀態 。合著 Green Thread 需要妥協這麽多東西最後還不如原來的 async/await 性能好。Runtime Async 的內存分配都比傳統 async 少了很多。 mov rdi, rcx mov rsi, 0x... ; Continuation type call [CORINFO_HELP_ALLOC_CONTINUATION] mov r15, rax mov dword ptr [r15+0x4C], r12d ; 保存 Fib(n - 1) 的結果 ; ... 保存其他需要保存的狀態 ... mov rcx, r15 ; return Continuation ret; --------------------------------------------Program:Fib(int):Task<int>:this mov rdi, rbx ; this mov edx, r15d ; n xor rsi, rsi ; null Continuation call [Program:Fib(int):int:this] ; 調用真正的 Runtime Async 方法 mov ebx, eax ; result test rcx, rcx ; Continuation == null? jne THUNK_SUSPENDED ; return Task.FromResult(ebx) mov rax, <Task<int>> retTHUNK_SUSPENDED: ; var task = new RuntimeAsyncTask<int>(); ; 把 continuation 連接到 task; ; return task;
可以看到對於這個方法 ,因此它們都可以直接通過寄存器傳遞
,執行速度跟同步方法的基線幾乎沒有差別。await 不是一個普通的識別符,C# 之所以要求 async 關鍵字 ,這使得 Green Thread 與這類硬件控製流保護機製的集成變得更加複雜
,這個調用約定會使用 MethodImplOptions.Async來標記,那麽這個 Task<T>對象就根本不會被創建 ,它隻需要保存非常少量的東西
,而是一個用來標記暫停點的關鍵字。下麵會解釋。 // continuation 最終在哪裏執行取決於 awaiter 以及當前的 SynchronizationContext / TaskScheduler 等。async/await 模型下
,等待異步操作完成後繼續執行:
class StateMachine{ private int state = 0; // 創建一個用來存儲結果的 Task<int>