io_uring 通过共享提交队列 SQ 和完成队列 CQ,把请求准备、提交、执行与结果收取解耦。它允许批量摊薄开销,并统一处理多类异步操作;实际是否更快取决于工作负载、设备、队列深度和实现方式。
Linux 5.1 引入基础框架,后续不断增加操作与特性。不能因为内核版本高于 5.1,就认为所有 opcode、标志组合和文件系统路径都支持。实际应用应探测能力,并处理创建或请求失败。
SQ 与 CQ 承载的是控制信息
应用准备 SQE,填入 opcode、fd、缓冲地址、长度、偏移和 user_data 等;内核消费后执行,并通过 CQE 返回 user_data、res、flags 等结果。环形队列共享能减少控制信息往返复制,不意味着数据 payload 自动成为零拷贝。
用户与内核分别推进生产、消费索引,需要正确的内存屏障。通常通过 liburing 管理,避免自己用普通整数操作 head/tail。多个应用线程同时操作同一个 ring 时,也必须遵守库和所用模式的并发契约。io_uring(7)
四个不能混淆的结果
| 阶段 | 返回结果 | 还没有保证什么 |
| get_sqe | 取得可填写的 SQE,或 NULL | 尚未执行 I/O |
| submit | 提交结果或负错误码 | 不等于请求本身成功 |
| wait_cqe | 取得完成记录,或等待接口错误 | 取得记录不代表 res 为成功 |
| CQE res | 该操作结果,失败为负 errno | 读写成功仍可能是短传输 |
io_uring_wait_cqe 返回 0 时,应再检查 cqe->res;如果 res 是 -ENOENT,错误来自那次操作,不能从当前线程 errno 推断。读操作 res 为 0 通常表示 EOF,正值是实际读取字节数。wait_cqe、prep_read
一个完整的单次读取程序
保存为 uring_read.c。程序只读取指定文件从 offset 0 开始的最多 4096 字节,输出实际字节数;它不是读取整个文件的循环。初始化或等待阶段的致命错误会终止这个演示进程,长期运行服务需实现独立的取消和回收路径。
#define _GNU_SOURCE
#include <errno.h>
#include <fcntl.h>
#include <liburing.h>
#include <stdio.h>
#include <stdlib.h>
#include <string.h>
#include <unistd.h>
static void fail_uring(const char *what, int result) {
fprintf(stderr, "%s: %s\n", what, strerror(-result));
exit(1);
}
int main(int argc, char **argv) {
if (argc != 2) {
fprintf(stderr, "usage: %s FILE\n", argv[0]);
return 2;
}
int fd = open(argv[1], O_RDONLY);
if (fd == -1) { perror("open"); return 1; }
struct io_uring ring;
int rc = io_uring_queue_init(8, &ring, 0);
if (rc < 0) fail_uring("queue_init", rc);
unsigned char buffer[4096];
struct io_uring_sqe *sqe = io_uring_get_sqe(&ring);
if (sqe == NULL) {
fprintf(stderr, "no SQE available\n");
exit(1);
}
io_uring_prep_read(sqe, fd, buffer, sizeof buffer, 0);
sqe->user_data = 42;
do { rc = io_uring_submit(&ring); } while (rc == -EINTR);
if (rc < 0) fail_uring("submit", rc);
if (rc != 1) {
fprintf(stderr, "expected one submitted request, got %d\n", rc);
exit(1);
}
struct io_uring_cqe *cqe;
do { rc = io_uring_wait_cqe(&ring, &cqe); } while (rc == -EINTR);
if (rc < 0) fail_uring("wait_cqe", rc);
int result = cqe->res;
unsigned long long tag = cqe->user_data;
io_uring_cqe_seen(&ring, cqe);
int failed = result < 0 || tag != 42;
if (result < 0) fprintf(stderr, "read: %s\n", strerror(-result));
else printf("read=%d, user_data=%llu\n", result, tag);
io_uring_queue_exit(&ring);
if (close(fd) == -1) failed = 1;
return failed;
}
cc -Wall -Wextra uring_read.c -luring -o uring_read
./uring_read input.bin
buffer 在提交后仍存活,直到该单次请求 CQE 到来。cqe_seen 之后原 CQE 槽位可被复用,所以程序先保存 res 与 user_data。标签是应用的关联键,内核不会替标签指向的对象增加引用计数。
显式文件偏移避免多个并发请求争用隐式文件位置。要完整读取文件,应根据实际返回长度调整偏移和剩余长度,并处理 EOF、错误及取消,不能把一次短读一概当作失败。
SQ 空了,buffer 就能复用吗?
先准备两个请求并提交,SQ 会清空;再准备第三个请求,此时三个 buffer 都有明确拥有者。尝试先完成 R2 再完成 R1,CQ 按完成顺序排列,关联仍靠请求 ID。模型有意等到应用收取完成后才归还 buffer,避免把空 SQ 槽位当成业务资源空闲。
正在呈现知识画面
SQ 空了,buffer 就能复用吗?SQ 槽位、在途请求与缓冲拥有关系是三套账。内核消费 SQ 后槽位可复用,但原请求的 buffer 仍需保留至完成。
{"id":"uring-slot-request-lifetime","title":"SQ 空了,buffer 就能复用吗?","summary":"SQ 槽位、在途请求与缓冲拥有关系是三套账。内核消费 SQ 后槽位可复用,但原请求的 buffer 仍需保留至完成。","height":1000,"html":"<h2 data-i18n=\"heading\"></h2><p class=\"intro\" data-i18n=\"intro\"></p><div class=\"actions\"><button id=\"prepare\" data-i18n=\"prepare\"></button><button id=\"submit\" data-i18n=\"submit\"></button><button id=\"reap\" data-i18n=\"reap\"></button><button id=\"reset\" data-i18n=\"reset\"></button></div><div class=\"track-row\"><span data-i18n=\"sq\"></span><div id=\"sq\" class=\"track\"></div></div><p class=\"hint\" data-i18n=\"buffers\"></p><div id=\"buffers\" class=\"buffers\"></div><div class=\"track-row\"><span data-i18n=\"cq\"></span><div id=\"cq\" class=\"track\"></div></div><div class=\"metrics\"><div><span data-i18n=\"free\"></span><strong id=\"free\"></strong></div><div><span data-i18n=\"inflight\"></span><strong id=\"inflight\"></strong></div></div><details class=\"scope\"><summary data-i18n=\"scopeLabel\"></summary><p data-i18n=\"scope\"></p></details>","css":".intro{margin:8px 0 18px;color:var(--muted);font-size:14px}.caption,.hint{font-size:12px;color:var(--muted);margin-top:12px}.control{display:grid;grid-template-columns:minmax(0,1fr) auto;gap:6px 12px;align-items:center;margin:14px 0;font-size:13px}.control label{font-size:13px}.control output{color:var(--accent);min-width:5em;text-align:right;font-variant-numeric:tabular-nums}.control input{grid-column:1/-1;width:100%;margin:0}.presets{display:flex;gap:4px;align-items:stretch}.presets button{flex:1 1 0;min-width:0;overflow-wrap:anywhere;font-size:13px}.actions{display:flex;gap:8px;flex-wrap:wrap;margin:14px 0}.actions button{flex:1;min-width:0;font-size:13px;min-height:42px}.copy{display:grid;font-size:14px;margin:16px 0}.copy>*{grid-area:1/1;margin:0}.reserve{visibility:hidden}.scope{margin-top:14px;color:var(--muted);font-size:12px}.scope summary{padding:8px 0;cursor:pointer}.scope p{margin-top:10px}.two{display:grid;grid-template-columns:repeat(2,minmax(0,1fr));gap:12px;margin:16px 0}.card{border:1px solid var(--rule);border-radius:9px;padding:14px;min-width:0}.card header{font-size:14px;font-weight:600;margin-bottom:10px}.card button{font-size:12px;width:100%;min-width:0}.card small{display:block;font-size:12px;color:var(--muted)}.card code{font-size:12px;overflow-wrap:anywhere}.metrics{display:grid;grid-template-columns:repeat(2,minmax(0,1fr));gap:12px;margin:16px 0}.metrics>div{border-left:2px solid var(--accent);padding-left:10px;min-width:0}.metrics span{display:block;min-height:3.2em;color:var(--muted);font-size:12px}.metrics strong{font-size:23px;display:block;font-weight:500;overflow-wrap:anywhere;font-variant-numeric:tabular-nums}.formula{border-top:1px solid var(--rule);padding-top:12px;margin-top:14px;font-size:13px;font-variant-numeric:tabular-nums;overflow-wrap:anywhere}.value{font:500 20px var(--viz-font-ui)}.legend{display:flex;flex-wrap:wrap;gap:6px 14px;font-size:12px;color:var(--muted);margin:12px 0}.legend span:before{content:'';display:inline-block;width:8px;height:8px;border-radius:2px;background:var(--accent);margin-right:6px}.legend .second:before{background:var(--second)}.check{display:flex;align-items:center;gap:8px;font-size:13px;margin:12px 0}.check input{width:16px;height:16px;flex-shrink:0;accent-color:var(--accent)}select,input[type=text],input[type=number]{background:var(--paper);color:var(--ink);font:inherit;font-size:13px;padding:10px;border:1px solid var(--rule);border-radius:7px;max-width:100%;min-width:0}select{width:100%;min-height:42px}.band{height:20px;display:flex;background:var(--surface);border-radius:4px;overflow:hidden}.band i{height:100%;display:block;background:var(--accent);transition:width .25s}.band i.second{background:var(--second)}button:disabled{cursor:default}.status{font-size:13px;min-height:4.8em}.mono{font-family:var(--viz-font-mono);font-variant-numeric:tabular-nums}.muted{color:var(--muted)}\n@media(max-width:480px){.two{gap:8px}.card{padding:12px 9px}.actions button,.presets button{font-size:12px}.metrics strong{font-size:20px}.metrics{gap:8px}}\n@media(prefers-reduced-motion:reduce){*,*::before,*::after{transition:none!important;animation:none!important}}\n.track-row{margin:16px 0}.track-row>span{display:block;font-size:12px;color:var(--muted);margin-bottom:7px}.track{display:flex;gap:5px;min-width:0}.cell{flex:1;min-width:0;min-height:48px;border:1px solid var(--rule);border-radius:5px;background:var(--surface);display:flex;align-items:center;justify-content:center;text-align:center;padding:5px 3px;font-size:12px;overflow-wrap:anywhere;font-variant-numeric:tabular-nums}.cell.on{background:var(--accent-soft);border-color:var(--accent)}.cell.gold{background:var(--second-soft);border-color:var(--second)}.cell.empty{border-style:dashed;color:var(--muted)}.cell.error{border-color:var(--second);text-decoration:line-through}.choices{display:grid;grid-template-columns:repeat(4,minmax(0,1fr));gap:6px;margin:14px 0}.choices button{min-width:0;padding:10px 4px;font-size:12px;overflow-wrap:anywhere}.choices button[aria-current=true]{border-color:var(--accent);background:var(--accent-soft)}.relation{display:grid;grid-template-columns:minmax(0,1fr) 28px minmax(0,1fr);align-items:center;gap:6px;margin:12px 0}.relation .cell{min-height:72px}.relation>i{text-align:center;font-style:normal;color:var(--accent)}.readout{font-size:13px;white-space:pre-line;min-height:6.4em;overflow-wrap:anywhere}.plot{position:relative;border-left:1px solid var(--rule);border-bottom:1px solid var(--rule);padding:8px 0;margin:18px 0}.plot-row{height:28px;position:relative;margin:4px 0;background:var(--surface)}.plot-row i{position:absolute;inset-block:5px;background:var(--accent);min-width:2px;transition:width .2s,left .2s}.plot-row b{position:relative;padding:4px 6px;font:11px/28px var(--viz-font-ui);background:var(--paper);border-radius:3px}.axis{display:flex;justify-content:space-between;font-size:11px;color:var(--muted)}\n\n/* Action labels must remain readable across locales and narrow embeds. */\n.actions{display:grid;grid-template-columns:repeat(2,minmax(0,1fr));gap:8px}\n.actions button{overflow-wrap:anywhere;white-space:normal;min-height:58px;padding:8px}\nbutton{overflow-wrap:anywhere}\n@media(min-width:640px){.actions{grid-template-columns:repeat(3,minmax(0,1fr))}}\n\n.metrics span{overflow-wrap:anywhere}\n.panel{border:1px solid var(--rule);border-radius:9px;padding:12px;margin:14px 0;min-width:0}.panel h3{font-size:13px;margin:0 0 10px;color:var(--muted)}.source{font:13px/1.8 var(--viz-font-mono);white-space:pre-wrap;overflow-wrap:anywhere;margin:12px 0}.source mark{background:var(--accent-soft);color:var(--ink);border-bottom:2px solid var(--accent)}.source .fault{background:var(--second-soft);border-color:var(--second)}.diagram{display:block;width:100%;height:auto;max-height:320px;margin:14px 0;overflow:visible}.diagram text{fill:var(--ink);font:12px var(--viz-font-ui)}.diagram .edge{stroke:var(--muted);stroke-width:1.5;fill:none}.diagram .edge.on{stroke:var(--accent);stroke-width:3}.diagram .node{fill:var(--surface);stroke:var(--rule);stroke-width:1.5}.diagram .node.on{fill:var(--accent-soft);stroke:var(--accent)}.diagram .node.gold{fill:var(--second-soft);stroke:var(--second)}.log{font:12px/1.8 var(--viz-font-mono);white-space:pre-line;overflow-wrap:anywhere;min-height:7.2em}.table{display:grid;gap:5px;margin:14px 0}.table .tr{display:grid;grid-template-columns:repeat(3,minmax(0,1fr));gap:5px}.table .tr>*{padding:8px 5px;background:var(--surface);border-radius:4px;min-width:0;overflow-wrap:anywhere;font-size:12px}.table .tr .on{background:var(--accent-soft)}.table .tr .gold{background:var(--second-soft)}.choices button{min-height:44px}.metrics strong{min-height:1.6em}.code-line{display:block}.code-line.on{background:var(--accent-soft);border-left:2px solid var(--accent);padding-left:6px}.status-badge{font-size:12px;color:var(--accent)}.tile-grid{display:grid;grid-template-columns:repeat(4,minmax(0,1fr));gap:6px}.tile-grid .cell{min-height:40px}.actions button{min-height:48px}.form-field{display:grid;gap:8px;margin:14px 0;font-size:13px}.form-field input{width:100%;font-family:var(--viz-font-ui)}.metrics.three{grid-template-columns:repeat(3,minmax(0,1fr))}.formula{min-height:3.2em}.presets{flex-wrap:wrap}.presets button{flex-basis:25%;min-height:44px}\n\n.budget{display:flex;height:28px;margin:16px 0;background:var(--surface);border-radius:5px;overflow:hidden}.budget i{display:block;background:var(--accent);transition:width .2s}.budget i.gold{background:var(--second)}.intervals{margin:16px 0}.interval{position:relative;height:36px;background:var(--surface);margin:6px 0;border-radius:4px;overflow:hidden}.interval i{position:absolute;height:100%;background:var(--accent-soft);border-left:2px solid var(--accent)}.interval i.gold{background:var(--second-soft);border-color:var(--second)}.interval span{position:relative;z-index:1;font:12px/36px var(--viz-font-ui);padding-left:7px}.table .tr>*{min-height:4.8em}.formula{white-space:pre-line;min-height:7.2em}.actions:has(>button:only-child){grid-template-columns:1fr}.metrics strong{min-height:3.2em}.rangegrid{display:grid;grid-template-columns:repeat(12,minmax(0,1fr));gap:3px;margin:14px 0}.rangegrid .cell{min-height:30px;padding:3px 1px;font-size:10px}.message{min-height:7.2em;white-space:pre-line;font:13px/1.8 var(--viz-font-ui);overflow-wrap:anywhere}\n/* Allow CJK hanging punctuation without overflowing a metric's border box. */\n.metrics>div{padding-right:4px}.metrics span{line-break:anywhere}\n\n.buffers{display:grid;grid-template-columns:repeat(3,minmax(0,1fr));gap:8px}.buffers button{min-width:0;min-height:100px;font-size:12px;white-space:pre-line;overflow-wrap:anywhere}#sq{display:grid;grid-template-columns:repeat(2,minmax(0,1fr))}#cq{display:grid;grid-template-columns:repeat(3,minmax(0,1fr))}","js":"const $=s=>document.querySelector(s);const set=(id,v)=>$('#'+id).textContent=v;const t=k=>viz.t(k);function cells(id,values){$('#'+id).replaceChildren(...values.map(v=>{const e=document.createElement('div');e.className='cell '+(v.cls||'');e.textContent=v.text;e.title=v.title||v.text;return e;}));}function pressed(mode){document.querySelectorAll('[data-mode]').forEach(e=>e.setAttribute('aria-pressed',String(e.dataset.mode===mode)));}const esc=s=>String(s).replace(/[&<>\"']/g,c=>({'&':'&','<':'<','>':'>','\"':'"',\"'\":'''}[c]));const fmt=s=>'{'+[...s].sort().join(', ')+'}';function graph(id,nodes,edges){const el=$('#'+id);el.setAttribute('viewBox','0 0 360 200');el.innerHTML='<defs><marker id=\"arrow-'+id+'\" viewBox=\"0 0 10 10\" refX=\"8\" refY=\"5\" markerWidth=\"5\" markerHeight=\"5\" orient=\"auto-start-reverse\"><path d=\"M 0 0 L 10 5 L 0 10 z\" fill=\"var(--muted)\"/></marker></defs>'+edges.map(e=>{const a=nodes[e[0]],b=nodes[e[1]],dx=b.x-a.x,dy=b.y-a.y,d=Math.hypot(dx,dy)||1;if(edges.some(r=>r[0]===e[1]&&r[1]===e[0])){const nx=-dy/d,ny=dx/d;return '<path class=\"edge '+(e[2]?'on':'')+'\" d=\"M '+(a.x+dx/d*22+nx*12)+' '+(a.y+dy/d*22+ny*12)+' Q '+((a.x+b.x)/2+nx*38)+' '+((a.y+b.y)/2+ny*38)+' '+(b.x-dx/d*25+nx*12)+' '+(b.y-dy/d*25+ny*12)+'\" marker-end=\"url(#arrow-'+id+')\"/>';}return '<line class=\"edge '+(e[2]?'on':'')+'\" x1=\"'+(a.x+dx/d*25)+'\" y1=\"'+(a.y+dy/d*25)+'\" x2=\"'+(b.x-dx/d*28)+'\" y2=\"'+(b.y-dy/d*28)+'\" marker-end=\"url(#arrow-'+id+')\"/>';}).join('')+nodes.map(n=>'<g><circle class=\"node '+(n.cls||'')+'\" cx=\"'+n.x+'\" cy=\"'+n.y+'\" r=\"25\"/><text x=\"'+n.x+'\" y=\"'+(n.y+4)+'\" text-anchor=\"middle\">'+esc(n.name)+'</text>'+(n.sub?'<text x=\"'+n.x+'\" y=\"'+(n.y+43)+'\" text-anchor=\"middle\">'+esc(n.sub)+'</text>':'')+'</g>').join('');}function table(id,rows){$('#'+id).classList.add('table');$('#'+id).replaceChildren(...rows.map(r=>{const row=document.createElement('div');row.className='tr';r.forEach(x=>{const c=document.createElement('div');if(typeof x==='object'){c.textContent=x.text;c.className=x.cls||'';}else c.textContent=x;row.append(c)});return row;}));}function band(id,parts,total){$('#'+id).replaceChildren(...parts.map((p,i)=>{const e=document.createElement('i');e.style.width=(100*p.value/total)+'%';e.className=i%2?'gold':'on';e.title=p.name+': '+p.value;return e}));}function intervals(id,items,total){$('#'+id).replaceChildren(...items.map(p=>{const row=document.createElement('div');row.className='interval';const bar=document.createElement('i');bar.style.left=(100*p.start/total)+'%';bar.style.width=(100*(p.end-p.start)/total)+'%';bar.className=p.cls||'';const label=document.createElement('span');label.textContent=p.label;row.append(bar,label);return row;}));}let slots=[null,null,null],sq=[],cq=[],serial=0;for(let i=0;i<3;i++){const e=document.createElement('button');e.dataset.buffer=i;e.onclick=()=>{slots[i].state='done';cq.push(i);draw()};$('#buffers').append(e)}function draw(){cells('sq',Array.from({length:2},(_,i)=>({text:sq[i]!==undefined?'R'+slots[sq[i]].id:'—',cls:sq[i]!==undefined?'on':'empty'})));cells('cq',Array.from({length:3},(_,i)=>({text:cq[i]!==undefined?'R'+slots[cq[i]].id+' / 4 B':'—',cls:cq[i]!==undefined?'gold':'empty'})));document.querySelectorAll('[data-buffer]').forEach(e=>{const i=+e.dataset.buffer,r=slots[i];e.textContent='B'+i+'\\n'+(r?'R'+r.id+'\\n'+t(r.state):t('idle'));e.disabled=!r||r.state!=='running';});set('free',slots.filter(x=>!x).length);set('inflight',slots.filter(Boolean).length);$('#prepare').disabled=sq.length===2||slots.every(Boolean);$('#submit').disabled=!sq.length;$('#reap').disabled=!cq.length;$('#buffers').dataset.state=JSON.stringify({slots,sq,cq});}$('#prepare').onclick=()=>{const i=slots.indexOf(null);slots[i]={id:++serial,state:'prepared'};sq.push(i);draw()};$('#submit').onclick=()=>{sq.forEach(i=>slots[i].state='running');sq=[];draw()};$('#reap').onclick=()=>{slots[cq.shift()]=null;draw()};$('#reset').onclick=()=>{slots=[null,null,null];sq=[];cq=[];serial=0;draw()};draw();","audio":false,"strings":{"buffers":"独立缓冲池:点击在途请求完成","complete":"完成","cq":"CQE 到达顺序","done":"CQE 待收取","free":"可用 buffer","heading":"SQ 空了,buffer 就能复用吗?","idle":"空闲","inflight":"仍被请求占用","intro":"准备请求,交给内核,再任意选择完成顺序;最后收取 CQE。","prepare":"准备请求","prepared":"已准备","reap":"收取最早 CQE","reset":"重置","running":"在途","scope":"SQ容量2、缓冲池3,每个请求普通单次 read,完成为4字节。模型在收取CQE时归还buffer;不含 multishot、CQ溢出和零拷贝通知。","scopeLabel":"模型范围与约定","sq":"SQ 槽位","submit":"提交并由内核消费"}}
完成顺序与依赖
普通独立请求可能乱序完成,不能按提交队列下标直接匹配业务对象。user_data 通常编码请求 ID、类型或对象代次,防止旧完成落到已复用对象。
需要前后依赖时,按语义使用 link、drain 等机制,但它们不是数据库事务。前一个写入已经产生的副作用,不会因为后一个请求失败就自动回滚。对写入持久性还需提交适当同步操作并观察其结果。
SQPOLL 与 IOPOLL 是两个方向
SQPOLL 让内核线程轮询提交队列。应用仍需把已准备的 SQE 发布到队列;使用 liburing 时仍调用适当的 submit 路径,不能只 get_sqe/prep 后什么也不做。轮询线程休眠并设置 NEED_WAKEUP 时,库会按需进入内核唤醒它。io_uring_submit
IOPOLL 则针对受支持 I/O 的完成轮询,依设备、文件系统和访问模式等条件。二者可以分别讨论,不能把“轮询提交”和“轮询设备完成”当同一特性。
持续轮询可能显著占用 CPU,并非固定只用某一核心的 5%–10%。DEFER_TASKRUN 是把相应工作推迟到规定的进入内核收取事件路径,需要 SINGLE_ISSUER 等约束和正确的事件推进方式;不是简单的“关中断以变快”。高级标志应逐项核对匹配版本。liburing setup 文档
注册资源:提前支付部分管理成本
注册 buffer 可在符合条件的路径中减少重复固定用户页的工作,但占用资源并有注册、注销成本。使用时还需选对应 fixed-buffer 操作与索引,注册一次不代表所有普通 read 自动享有同样路径。register_buffers
注册 files 建立 ring 的文件表,使用 IOSQE_FIXED_FILE 时 SQE 中相应值是表内索引,不是普通进程 fd。更新、注销与在途请求的关系需按接口协议处理。register_files
buffer、描述符对象和请求状态都有生命周期。不能看到提交成功就 free(buffer),也不能因为取消请求已提交就立即复用旧 request_id。
取消与超时:还要观察原请求终结
取消操作是另一个请求,也会有自己的完成结果。它可能成功、发现目标已完成,或无法立即取消;原操作的完成记录仍需按接口处理。应用应追踪“已请求取消”与“原请求已终结”两个状态。prep_cancel
link timeout 可以限制关联操作的等待,但不等于给整个 ring 自动建立超时隔离。一个独立慢请求通常也不会天然阻止所有其他独立请求完成;是否存在依赖链由提交方式决定。
普通一次性操作常对应一条 CQE,但 multishot 接受或接收可产生多条,应检查 IORING_CQE_F_MORE 判断请求是否还会继续。某些零拷贝发送还需额外通知来判断数据缓冲何时可复用,不能把所有 CQE 一概当作资源最终回收点。Multishot accept
取消竞态要分别记录两笔结果
以下表格限定按唯一 user_data 取消一个普通单次请求,不使用取消全部匹配项的标志。C 是取消请求,R 是原请求;取消本身并不回滚 R 已完成的外部副作用。取消结果
| C 的结果 | 可解释为 | R 的处理 |
| 0 | 找到并成功取消 | 仍收取并处理 R 的完成,不把 C 当成 R |
| -ENOENT | 没找到目标,可能已完成或 ID 不对 | 查 R 是否已结算,排查标签,不直接重复释放 |
| -EALREADY | 已推进到不能立即取消的阶段 | 继续等 R 终结,保留其所需资源 |
| 其他错误 | 取消请求本身失败 | 依据 R 的状态继续推进或终止会话 |
如果业务超时后只是不再需要结果,可以把 R 标为“结果丢弃”,但其 I/O 生命周期仍需完成。业务状态结束和内核访问 buffer 结束不是同一件事;这也是异步接口必须明确拥有关系的原因。
multishot 的一次结果与请求终结也要分开
下面是离线 CQE 模型,MORE 表示对应 IORING_CQE_F_MORE 的布尔值,不读取真实 ring。两次成功 accept 得到两个 fd,最后一条取消完成结束这次 multishot 请求。示例只记录数字,不创建或关闭真实套接字。
import errno
active = True
accepted = []
terminal = None
cqes = [(101, True), (102, True), (-errno.ECANCELED, False)]
for result, more in cqes:
assert active
if result >= 0:
accepted.append(result)
if not more:
active = False
terminal = result
assert accepted == [101, 102]
assert not active and terminal == -errno.ECANCELED
last_success, more = 103, False
assert last_success >= 0 and not more
真实 accept 的成功结果是已经获得的连接资源,需要交给连接管理或关闭;请求终结不自动关闭之前接受的连接。判断是否继续等待这一请求的后续 CQE,应检查 MORE,而不是只看 res 的正负。Multishot accept
取消完成,不等于原请求完成
先只收取 C,buffer 仍保留;收取 R 才完成原请求的账目。切换到 read 先成功,R 的4字节结果不会因为稍后提交取消就被撤销。这里允许选择收取顺序,用于说明两笔账独立,不承诺任意内核版本都会产生同样的 CQE 排列。
正在呈现知识画面
取消完成,不等于原请求完成取消与原操作各有自己的结果。即使取消返回0,也需处理原请求的终结;原操作先成功时,取消可能返回 ENOENT。
{"id":"uring-cancel-two-results","title":"取消完成,不等于原请求完成","summary":"取消与原操作各有自己的结果。即使取消返回0,也需处理原请求的终结;原操作先成功时,取消可能返回 ENOENT。","height":1000,"html":"<h2 data-i18n=\"heading\"></h2><p class=\"intro\" data-i18n=\"intro\"></p><div class=\"presets\" role=\"group\" data-i18n-label=\"winner\"><button data-mode=\"cancel\" data-i18n=\"cancel\"></button><button data-mode=\"success\" data-i18n=\"success\"></button></div><section class=\"panel\"><h3 data-i18n=\"results\"></h3><div id=\"results\"></div></section><div class=\"actions\"><button id=\"reapC\" data-i18n=\"reapC\"></button><button id=\"reapR\" data-i18n=\"reapR\"></button><button id=\"reset\" data-i18n=\"reset\"></button></div><div class=\"metrics\"><div><span data-i18n=\"buffer\"></span><strong id=\"buffer\"></strong></div></div><details class=\"scope\"><summary data-i18n=\"scopeLabel\"></summary><p data-i18n=\"scope\"></p></details>","css":".intro{margin:8px 0 18px;color:var(--muted);font-size:14px}.caption,.hint{font-size:12px;color:var(--muted);margin-top:12px}.control{display:grid;grid-template-columns:minmax(0,1fr) auto;gap:6px 12px;align-items:center;margin:14px 0;font-size:13px}.control label{font-size:13px}.control output{color:var(--accent);min-width:5em;text-align:right;font-variant-numeric:tabular-nums}.control input{grid-column:1/-1;width:100%;margin:0}.presets{display:flex;gap:4px;align-items:stretch}.presets button{flex:1 1 0;min-width:0;overflow-wrap:anywhere;font-size:13px}.actions{display:flex;gap:8px;flex-wrap:wrap;margin:14px 0}.actions button{flex:1;min-width:0;font-size:13px;min-height:42px}.copy{display:grid;font-size:14px;margin:16px 0}.copy>*{grid-area:1/1;margin:0}.reserve{visibility:hidden}.scope{margin-top:14px;color:var(--muted);font-size:12px}.scope summary{padding:8px 0;cursor:pointer}.scope p{margin-top:10px}.two{display:grid;grid-template-columns:repeat(2,minmax(0,1fr));gap:12px;margin:16px 0}.card{border:1px solid var(--rule);border-radius:9px;padding:14px;min-width:0}.card header{font-size:14px;font-weight:600;margin-bottom:10px}.card button{font-size:12px;width:100%;min-width:0}.card small{display:block;font-size:12px;color:var(--muted)}.card code{font-size:12px;overflow-wrap:anywhere}.metrics{display:grid;grid-template-columns:repeat(2,minmax(0,1fr));gap:12px;margin:16px 0}.metrics>div{border-left:2px solid var(--accent);padding-left:10px;min-width:0}.metrics span{display:block;min-height:3.2em;color:var(--muted);font-size:12px}.metrics strong{font-size:23px;display:block;font-weight:500;overflow-wrap:anywhere;font-variant-numeric:tabular-nums}.formula{border-top:1px solid var(--rule);padding-top:12px;margin-top:14px;font-size:13px;font-variant-numeric:tabular-nums;overflow-wrap:anywhere}.value{font:500 20px var(--viz-font-ui)}.legend{display:flex;flex-wrap:wrap;gap:6px 14px;font-size:12px;color:var(--muted);margin:12px 0}.legend span:before{content:'';display:inline-block;width:8px;height:8px;border-radius:2px;background:var(--accent);margin-right:6px}.legend .second:before{background:var(--second)}.check{display:flex;align-items:center;gap:8px;font-size:13px;margin:12px 0}.check input{width:16px;height:16px;flex-shrink:0;accent-color:var(--accent)}select,input[type=text],input[type=number]{background:var(--paper);color:var(--ink);font:inherit;font-size:13px;padding:10px;border:1px solid var(--rule);border-radius:7px;max-width:100%;min-width:0}select{width:100%;min-height:42px}.band{height:20px;display:flex;background:var(--surface);border-radius:4px;overflow:hidden}.band i{height:100%;display:block;background:var(--accent);transition:width .25s}.band i.second{background:var(--second)}button:disabled{cursor:default}.status{font-size:13px;min-height:4.8em}.mono{font-family:var(--viz-font-mono);font-variant-numeric:tabular-nums}.muted{color:var(--muted)}\n@media(max-width:480px){.two{gap:8px}.card{padding:12px 9px}.actions button,.presets button{font-size:12px}.metrics strong{font-size:20px}.metrics{gap:8px}}\n@media(prefers-reduced-motion:reduce){*,*::before,*::after{transition:none!important;animation:none!important}}\n.track-row{margin:16px 0}.track-row>span{display:block;font-size:12px;color:var(--muted);margin-bottom:7px}.track{display:flex;gap:5px;min-width:0}.cell{flex:1;min-width:0;min-height:48px;border:1px solid var(--rule);border-radius:5px;background:var(--surface);display:flex;align-items:center;justify-content:center;text-align:center;padding:5px 3px;font-size:12px;overflow-wrap:anywhere;font-variant-numeric:tabular-nums}.cell.on{background:var(--accent-soft);border-color:var(--accent)}.cell.gold{background:var(--second-soft);border-color:var(--second)}.cell.empty{border-style:dashed;color:var(--muted)}.cell.error{border-color:var(--second);text-decoration:line-through}.choices{display:grid;grid-template-columns:repeat(4,minmax(0,1fr));gap:6px;margin:14px 0}.choices button{min-width:0;padding:10px 4px;font-size:12px;overflow-wrap:anywhere}.choices button[aria-current=true]{border-color:var(--accent);background:var(--accent-soft)}.relation{display:grid;grid-template-columns:minmax(0,1fr) 28px minmax(0,1fr);align-items:center;gap:6px;margin:12px 0}.relation .cell{min-height:72px}.relation>i{text-align:center;font-style:normal;color:var(--accent)}.readout{font-size:13px;white-space:pre-line;min-height:6.4em;overflow-wrap:anywhere}.plot{position:relative;border-left:1px solid var(--rule);border-bottom:1px solid var(--rule);padding:8px 0;margin:18px 0}.plot-row{height:28px;position:relative;margin:4px 0;background:var(--surface)}.plot-row i{position:absolute;inset-block:5px;background:var(--accent);min-width:2px;transition:width .2s,left .2s}.plot-row b{position:relative;padding:4px 6px;font:11px/28px var(--viz-font-ui);background:var(--paper);border-radius:3px}.axis{display:flex;justify-content:space-between;font-size:11px;color:var(--muted)}\n\n/* Action labels must remain readable across locales and narrow embeds. */\n.actions{display:grid;grid-template-columns:repeat(2,minmax(0,1fr));gap:8px}\n.actions button{overflow-wrap:anywhere;white-space:normal;min-height:58px;padding:8px}\nbutton{overflow-wrap:anywhere}\n@media(min-width:640px){.actions{grid-template-columns:repeat(3,minmax(0,1fr))}}\n\n.metrics span{overflow-wrap:anywhere}\n.panel{border:1px solid var(--rule);border-radius:9px;padding:12px;margin:14px 0;min-width:0}.panel h3{font-size:13px;margin:0 0 10px;color:var(--muted)}.source{font:13px/1.8 var(--viz-font-mono);white-space:pre-wrap;overflow-wrap:anywhere;margin:12px 0}.source mark{background:var(--accent-soft);color:var(--ink);border-bottom:2px solid var(--accent)}.source .fault{background:var(--second-soft);border-color:var(--second)}.diagram{display:block;width:100%;height:auto;max-height:320px;margin:14px 0;overflow:visible}.diagram text{fill:var(--ink);font:12px var(--viz-font-ui)}.diagram .edge{stroke:var(--muted);stroke-width:1.5;fill:none}.diagram .edge.on{stroke:var(--accent);stroke-width:3}.diagram .node{fill:var(--surface);stroke:var(--rule);stroke-width:1.5}.diagram .node.on{fill:var(--accent-soft);stroke:var(--accent)}.diagram .node.gold{fill:var(--second-soft);stroke:var(--second)}.log{font:12px/1.8 var(--viz-font-mono);white-space:pre-line;overflow-wrap:anywhere;min-height:7.2em}.table{display:grid;gap:5px;margin:14px 0}.table .tr{display:grid;grid-template-columns:repeat(3,minmax(0,1fr));gap:5px}.table .tr>*{padding:8px 5px;background:var(--surface);border-radius:4px;min-width:0;overflow-wrap:anywhere;font-size:12px}.table .tr .on{background:var(--accent-soft)}.table .tr .gold{background:var(--second-soft)}.choices button{min-height:44px}.metrics strong{min-height:1.6em}.code-line{display:block}.code-line.on{background:var(--accent-soft);border-left:2px solid var(--accent);padding-left:6px}.status-badge{font-size:12px;color:var(--accent)}.tile-grid{display:grid;grid-template-columns:repeat(4,minmax(0,1fr));gap:6px}.tile-grid .cell{min-height:40px}.actions button{min-height:48px}.form-field{display:grid;gap:8px;margin:14px 0;font-size:13px}.form-field input{width:100%;font-family:var(--viz-font-ui)}.metrics.three{grid-template-columns:repeat(3,minmax(0,1fr))}.formula{min-height:3.2em}.presets{flex-wrap:wrap}.presets button{flex-basis:25%;min-height:44px}\n\n.budget{display:flex;height:28px;margin:16px 0;background:var(--surface);border-radius:5px;overflow:hidden}.budget i{display:block;background:var(--accent);transition:width .2s}.budget i.gold{background:var(--second)}.intervals{margin:16px 0}.interval{position:relative;height:36px;background:var(--surface);margin:6px 0;border-radius:4px;overflow:hidden}.interval i{position:absolute;height:100%;background:var(--accent-soft);border-left:2px solid var(--accent)}.interval i.gold{background:var(--second-soft);border-color:var(--second)}.interval span{position:relative;z-index:1;font:12px/36px var(--viz-font-ui);padding-left:7px}.table .tr>*{min-height:4.8em}.formula{white-space:pre-line;min-height:7.2em}.actions:has(>button:only-child){grid-template-columns:1fr}.metrics strong{min-height:3.2em}.rangegrid{display:grid;grid-template-columns:repeat(12,minmax(0,1fr));gap:3px;margin:14px 0}.rangegrid .cell{min-height:30px;padding:3px 1px;font-size:10px}.message{min-height:7.2em;white-space:pre-line;font:13px/1.8 var(--viz-font-ui);overflow-wrap:anywhere}\n/* Allow CJK hanging punctuation without overflowing a metric's border box. */\n.metrics>div{padding-right:4px}.metrics span{line-break:anywhere}\n\n#results .tr{grid-template-columns:.7fr 1.2fr 1fr}.metrics{grid-template-columns:1fr}.metrics strong{font-size:18px}","js":"const $=s=>document.querySelector(s);const set=(id,v)=>$('#'+id).textContent=v;const t=k=>viz.t(k);function cells(id,values){$('#'+id).replaceChildren(...values.map(v=>{const e=document.createElement('div');e.className='cell '+(v.cls||'');e.textContent=v.text;e.title=v.title||v.text;return e;}));}function pressed(mode){document.querySelectorAll('[data-mode]').forEach(e=>e.setAttribute('aria-pressed',String(e.dataset.mode===mode)));}const esc=s=>String(s).replace(/[&<>\"']/g,c=>({'&':'&','<':'<','>':'>','\"':'"',\"'\":'''}[c]));const fmt=s=>'{'+[...s].sort().join(', ')+'}';function graph(id,nodes,edges){const el=$('#'+id);el.setAttribute('viewBox','0 0 360 200');el.innerHTML='<defs><marker id=\"arrow-'+id+'\" viewBox=\"0 0 10 10\" refX=\"8\" refY=\"5\" markerWidth=\"5\" markerHeight=\"5\" orient=\"auto-start-reverse\"><path d=\"M 0 0 L 10 5 L 0 10 z\" fill=\"var(--muted)\"/></marker></defs>'+edges.map(e=>{const a=nodes[e[0]],b=nodes[e[1]],dx=b.x-a.x,dy=b.y-a.y,d=Math.hypot(dx,dy)||1;if(edges.some(r=>r[0]===e[1]&&r[1]===e[0])){const nx=-dy/d,ny=dx/d;return '<path class=\"edge '+(e[2]?'on':'')+'\" d=\"M '+(a.x+dx/d*22+nx*12)+' '+(a.y+dy/d*22+ny*12)+' Q '+((a.x+b.x)/2+nx*38)+' '+((a.y+b.y)/2+ny*38)+' '+(b.x-dx/d*25+nx*12)+' '+(b.y-dy/d*25+ny*12)+'\" marker-end=\"url(#arrow-'+id+')\"/>';}return '<line class=\"edge '+(e[2]?'on':'')+'\" x1=\"'+(a.x+dx/d*25)+'\" y1=\"'+(a.y+dy/d*25)+'\" x2=\"'+(b.x-dx/d*28)+'\" y2=\"'+(b.y-dy/d*28)+'\" marker-end=\"url(#arrow-'+id+')\"/>';}).join('')+nodes.map(n=>'<g><circle class=\"node '+(n.cls||'')+'\" cx=\"'+n.x+'\" cy=\"'+n.y+'\" r=\"25\"/><text x=\"'+n.x+'\" y=\"'+(n.y+4)+'\" text-anchor=\"middle\">'+esc(n.name)+'</text>'+(n.sub?'<text x=\"'+n.x+'\" y=\"'+(n.y+43)+'\" text-anchor=\"middle\">'+esc(n.sub)+'</text>':'')+'</g>').join('');}function table(id,rows){$('#'+id).classList.add('table');$('#'+id).replaceChildren(...rows.map(r=>{const row=document.createElement('div');row.className='tr';r.forEach(x=>{const c=document.createElement('div');if(typeof x==='object'){c.textContent=x.text;c.className=x.cls||'';}else c.textContent=x;row.append(c)});return row;}));}function band(id,parts,total){$('#'+id).replaceChildren(...parts.map((p,i)=>{const e=document.createElement('i');e.style.width=(100*p.value/total)+'%';e.className=i%2?'gold':'on';e.title=p.name+': '+p.value;return e}));}function intervals(id,items,total){$('#'+id).replaceChildren(...items.map(p=>{const row=document.createElement('div');row.className='interval';const bar=document.createElement('i');bar.style.left=(100*p.start/total)+'%';bar.style.width=(100*(p.end-p.start)/total)+'%';bar.className=p.cls||'';const label=document.createElement('span');label.textContent=p.label;row.append(bar,label);return row;}));}let winner='cancel',seen={C:false,R:false};function draw(){pressed(winner);table('results',[['C',winner==='cancel'?'0':'−ENOENT',t(seen.C?'seen':'pending')],['R',winner==='cancel'?'−ECANCELED':'4 B',t(seen.R?'seen':'pending')]]);set('buffer',t(seen.R?'free':'held'));$('#buffer').dataset.free=seen.R;$('#reapC').disabled=seen.C;$('#reapR').disabled=seen.R;}function reset(){seen={C:false,R:false};draw()}for(const n of ['C','R'])$('#reap'+n).onclick=()=>{seen[n]=true;draw()};document.querySelectorAll('[data-mode]').forEach(e=>e.onclick=()=>{winner=e.dataset.mode;reset()});$('#reset').onclick=reset;draw();","audio":false,"strings":{"buffer":"应用 buffer 生命周期","cancel":"取消先成功","free":"可归还:R 已结算","heading":"取消完成,不等于原请求完成","held":"仍保留:未处理 R 终结","intro":"选择先发生的内核事件,再按任意顺序收取两条 CQE。","pending":"待收取","reapC":"收取取消 CQE","reapR":"收取 read CQE","reset":"重置","results":"两笔独立结果","scope":"唯一 user_data 的普通单次 read;只展示成功取消或原操作先完成两条合法竞态,不涵盖 EALREADY、所有标志与内核时序。","scopeLabel":"模型范围与约定","seen":"已收取","success":"原 read 先完成","winner":"先发生的事件"}}
批量与背压
SQE 取不到时,需要提交已准备项并根据在途数量继续推进;CQ 也要及时收取和推进消费位置。等待多条完成与实际批量遍历是不同动作,不能把 wait_cqes 的名字理解成已经替应用消费所有 CQE。
队列深度控制并发在途工作。过小可能无法填满设备,过大则可能增加排队延迟、内存和尾延迟;不存在通用“256–512 就够”。先用完成时间和目标吞吐估算并发需求,再测量饱和点与尾延迟。
用吞吐与延迟估算数量,再加上缓冲的账
假设目标吞吐为每秒 20000 次请求,平均在途时间为 2 ms,稳定状态下平均在途数量约为 40。这是吞吐乘平均时间的容量估算,不是尾延迟保证,也不是内核必须配置 SQ 深度为 40。
rate = 20_000
mean_seconds = 0.002
average_inflight = rate * mean_seconds
assert average_inflight == 40
buffer_size = 64 * 1024
limit = 64
buffer_budget = limit * buffer_size
assert buffer_budget == 4 * 1024 * 1024
若每个普通读请求独占 64 KiB 缓冲,在途上限 64 就对应至少 4 MiB payload 容量,还没算请求对象、ring、对齐和其他队列。SQ 空位只是提交容量:SQE 已被内核消费后,请求仍可能执行中,所以不能把“又拿到一个 SQE”当作“在途缓冲预算自动减少”。
应用应独立维护在途请求数与可用缓冲池,达到上限时先收取完成或暂停上游。对 multishot,再计入已经接受但尚未处理的连接/消息数量;单个活跃 SQE 可以持续产生业务资源,单靠 SQ 深度无法限制它们的累积。
与 libaio 或 POSIX AIO 比较时,固定 buffered/direct 模式、块大小、设备、线程和同步保证。Linux 原生 AIO 的异步性在某些 buffered 路径受限制,不等于语法上绝对不能提交缓冲文件 I/O;POSIX AIO 是接口规范,Linux libc 的线程实现只是具体实现之一。
请求 API 提供异步模型,不意味着每个操作都由设备硬件异步执行;部分工作可能即时完成或交给内核工作线程。优先验证行为、资源回收和背压,再讨论系统调用减少多少。
关键词:io_uring, SQE, CQE, liburing, completion, buffer lifetime, SQPOLL, IOPOLL, fixed buffers, cancellation, multishot, queue depth