Skip to content

fix(linux): dynamic X11 HUD sizing, libva < 2.22 vaMapBuffer2 shim, and multi-GPU VA-API probing #1476

New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

Sign up for GitHub

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Open
PyVoyager wants to merge 2 commits into
base: main
Choose a base branch
from
+450 −193
Open

fix(linux): dynamic X11 HUD sizing, libva < 2.22 vaMapBuffer2 shim, and multi-GPU VA-API probing #1476

Show file tree
Hide file tree
Changes from all commits
Commits
Show all changes
2 commits
Select commit Hold shift + click to select a range
2a7feb2
fix(linux): dynamic X11 HUD sizing, libva < 2.22 vaMapBuffer2 shim, a…
PyVoyager Nov 4, 2026
c61448e
fix(linux): address review feedback for aarch64 dlsym, render-node re…
PyVoyager Nov 4, 2026
File filter

Filter by extension

Filter by extension
Conversations
Failed to load comments.
Loading
Jump to
Jump to file
Failed to load files.
Loading
Diff view
Diff view
203 changes: 115 additions & 88 deletions crates/compositor/src/pipeline_linux.rs
View file
Open in desktop
Original file line number Diff line number Diff line change
Expand Up @@ -1330,39 +1330,29 @@ impl VaapiEncoder {
/// manque : l'appelant retombe alors sur l'encodeur software.
pub unsafe fn open(w: i32, h: i32, fps: i32, bit_rate: i64) -> Option<VaapiEncoder> {
use crate::ffi::*;
let mut me = VaapiEncoder {
ctx: ptr::null_mut(),
drm_device: ptr::null_mut(),
va_device: ptr::null_mut(),
drm_frames: ptr::null_mut(),
va_frames: ptr::null_mut(),
graph: ptr::null_mut(),
vpp_in: ptr::null_mut(),
vpp_out: ptr::null_mut(),
w,
h,
};
// LE DEVICE DRM D'ABORD, PUIS VAAPI DERIVE DE LUI. L'ordre inverse
// (VAAPI ouvert seul) rend ENOSYS sur radeonsi : le mapping veut les deux
// cotes d'un meme device.
let node = std::ffi::CString::new("/dev/dri/renderD128").ok()?;
if av_hwdevice_ctx_create(
&mut me.drm_device,
AVHWDeviceType::AV_HWDEVICE_TYPE_DRM,
node.as_ptr(),
ptr::null_mut(),
0,
) < 0
{
return None;
// cotes d'un meme device. Sur les portables hybrides, la carte avec VAAPI
// peut etre sur renderD128 ou renderD129 : on honore OPENSCREEN_LINUX_RENDER_NODE
// puis on sonde les noeuds DRM disponibles.
let mut candidates: Vec<String> = Vec::new();
if let Ok(explicit) = std::env::var("OPENSCREEN_LINUX_RENDER_NODE") {
if !explicit.is_empty() {
candidates.push(explicit);
}
}
if av_hwdevice_ctx_create_derived(
&mut me.va_device,
AVHWDeviceType::AV_HWDEVICE_TYPE_VAAPI,
me.drm_device,
0,
) < 0
{
for idx in 128..=135 {
let p = format!("/dev/dri/renderD{idx}");
if Path::new(&p).exists() && !candidates.contains(&p) {
candidates.push(p);
}
}
if candidates.is_empty() {
candidates.push("/dev/dri/renderD128".to_owned());
}
let name = std::ffi::CString::new("h264_vaapi").ok()?;
let enc = avcodec_find_encoder_by_name(name.as_ptr());
if enc.is_null() {
return None;
}
// `initial_pool_size = 0` sur LES DEUX contextes : ils ne font
Expand All @@ -1382,70 +1372,107 @@ impl VaapiEncoder {
(*c).height = h;
(*c).initial_pool_size = 0;
if av_hwframe_ctx_init(frames) < 0 {
let mut f = frames;
av_buffer_unref(&mut f);
return ptr::null_mut();
}
frames
};
me.drm_frames = mk_frames(me.drm_device, AVPixelFormat::AV_PIX_FMT_DRM_PRIME);
me.va_frames = mk_frames(me.va_device, AVPixelFormat::AV_PIX_FMT_VAAPI);
if me.drm_frames.is_null() || me.va_frames.is_null() {
return None;
}
// Le pilote decide. Une chaine illisible compte comme « pas iHD » : on
// garde alors le chemin direct, celui d'avant la copie.
if va_vendor(me.va_device).is_some_and(|v| needs_vpp_copy(&v)) {
me.build_vpp()?;
}

let name = std::ffi::CString::new("h264_vaapi").ok()?;
let enc = avcodec_find_encoder_by_name(name.as_ptr());
if enc.is_null() {
return None;
}
me.ctx = avcodec_alloc_context3(enc);
if me.ctx.is_null() {
return None;
}
(*me.ctx).width = w;
(*me.ctx).height = h;
(*me.ctx).pix_fmt = AVPixelFormat::AV_PIX_FMT_VAAPI as i32;
(*me.ctx).time_base = AVRational { num: 1, den: fps };
(*me.ctx).framerate = AVRational { num: fps, den: 1 };
(*me.ctx).bit_rate = bit_rate;
// MEME INTERVALLE D'IMAGES CLES QUE LE CHEMIN SOFTWARE, et pour la meme
// raison : deux secondes est le compromis choisi pour un fichier de
// sortie, il n'a pas a dependre de l'encodeur qui se trouve disponible.
//
// Sans cette ligne le resultat est correct A 60 FPS ET NULLE PART
// AILLEURS : `h264_vaapi` a un defaut de 120 frames (mesure), qui vaut
// deux secondes a 60 fps par coincidence. A 30 fps ca donnerait quatre
// secondes, a 120 fps une seule. Le defaut de `libopenh264` est -1, ce
// qui est un autre probleme encore (une seule image cle pour tout le
// fichier) traite dans `try_open`.
(*me.ctx).gop_size = (fps * 2).max(1);
// MP4 veut SPS/PPS dans l'extradata, pas repetes devant chaque image
// cle. Le chemin software le pose depuis toujours (`try_open`) ; l'avoir
// oublie ici produisait un fichier qui se lit quand meme, parce que le
// muxer recupere ce qu'il trouve — mais un lecteur qui se fie a
// `codecpar` seul aurait de quoi echouer.
(*me.ctx).flags |= AV_CODEC_FLAG_GLOBAL_HEADER as i32;
// La matrice des frames que `send_dmabuf` pose, celle de `yuv.wgsl`.
tag_export_color(me.ctx, AVColorSpace::AVCOL_SPC_SMPTE170M);
// Avec la copie, les surfaces de SORTIE du VPP, pas celles du mapping :
// c'est elles que l'encodeur recoit.
let out_frames = if me.graph.is_null() {
me.va_frames
} else {
av_buffersink_get_hw_frames_ctx(me.vpp_out)
};
if out_frames.is_null() {
return None;
}
(*me.ctx).hw_frames_ctx = av_buffer_ref(out_frames);
if avcodec_open2(me.ctx, enc, ptr::null_mut()) < 0 {
return None;
for cand in candidates {
let Ok(node) = std::ffi::CString::new(cand) else {
continue;
};
let mut me = VaapiEncoder {
ctx: ptr::null_mut(),
drm_device: ptr::null_mut(),
va_device: ptr::null_mut(),
drm_frames: ptr::null_mut(),
va_frames: ptr::null_mut(),
graph: ptr::null_mut(),
vpp_in: ptr::null_mut(),
vpp_out: ptr::null_mut(),
w,
h,
};
if av_hwdevice_ctx_create(
&mut me.drm_device,
AVHWDeviceType::AV_HWDEVICE_TYPE_DRM,
node.as_ptr(),
ptr::null_mut(),
0,
) < 0
{
continue;
}
if av_hwdevice_ctx_create_derived(
&mut me.va_device,
AVHWDeviceType::AV_HWDEVICE_TYPE_VAAPI,
me.drm_device,
0,
) < 0
{
continue;
}
me.drm_frames = mk_frames(me.drm_device, AVPixelFormat::AV_PIX_FMT_DRM_PRIME);
me.va_frames = mk_frames(me.va_device, AVPixelFormat::AV_PIX_FMT_VAAPI);
if me.drm_frames.is_null() || me.va_frames.is_null() {
continue;
}
// Le pilote decide. Une chaine illisible compte comme « pas iHD » : on
// garde alors le chemin direct, celui d'avant la copie.
if va_vendor(me.va_device).is_some_and(|v| needs_vpp_copy(&v))
&& me.build_vpp().is_none()
{
continue;
}

me.ctx = avcodec_alloc_context3(enc);
if me.ctx.is_null() {
continue;
}
(*me.ctx).width = w;
(*me.ctx).height = h;
(*me.ctx).pix_fmt = AVPixelFormat::AV_PIX_FMT_VAAPI as i32;
(*me.ctx).time_base = AVRational { num: 1, den: fps };
(*me.ctx).framerate = AVRational { num: fps, den: 1 };
(*me.ctx).bit_rate = bit_rate;
// MEME INTERVALLE D'IMAGES CLES QUE LE CHEMIN SOFTWARE, et pour la meme
// raison : deux secondes est le compromis choisi pour un fichier de
// sortie, il n'a pas a dependre de l'encodeur qui se trouve disponible.
//
// Sans cette ligne le resultat est correct A 60 FPS ET NULLE PART
// AILLEURS : `h264_vaapi` a un defaut de 120 frames (mesure), qui vaut
// deux secondes a 60 fps par coincidence. A 30 fps ca donnerait quatre
// secondes, a 120 fps une seule. Le defaut de `libopenh264` est -1, ce
// qui est un autre probleme encore (une seule image cle pour tout le
// fichier) traite dans `try_open`.
(*me.ctx).gop_size = (fps * 2).max(1);
// MP4 veut SPS/PPS dans l'extradata, pas repetes devant chaque image
// cle. Le chemin software le pose depuis toujours (`try_open`) ; l'avoir
// oublie ici produisait un fichier qui se lit quand meme, parce que le
// muxer recupere ce qu'il trouve — mais un lecteur qui se fie a
// `codecpar` seul aurait de quoi echouer.
(*me.ctx).flags |= AV_CODEC_FLAG_GLOBAL_HEADER as i32;
// La matrice des frames que `send_dmabuf` pose, celle de `yuv.wgsl`.
tag_export_color(me.ctx, AVColorSpace::AVCOL_SPC_SMPTE170M);
// Avec la copie, les surfaces de SORTIE du VPP, pas celles du mapping :
// c'est elles que l'encodeur recoit.
let out_frames = if me.graph.is_null() {
me.va_frames
} else {
av_buffersink_get_hw_frames_ctx(me.vpp_out)
};
if out_frames.is_null() {
continue;
}
(*me.ctx).hw_frames_ctx = av_buffer_ref(out_frames);
if avcodec_open2(me.ctx, enc, ptr::null_mut()) < 0 {
continue;
}
return Some(me);
}
Some(me)
None
}

/// Construit `buffer (VAAPI, surface mappee) -> scale_vaapi -> buffersink`.
Expand Down
39 changes: 34 additions & 5 deletions electron/native-bridge/services/compositorViewService.ts
View file
Open in desktop
Original file line number Diff line number Diff line change
Expand Up @@ -664,6 +664,27 @@ export class CompositorViewService {
);
}

/**
* Proportionally scales a Linux preview rectangle down so its largest side
* does not exceed `OPENSCREEN_LINUX_PREVIEW_MAX_DIM` (default 854 px),
* rounding dimensions down to even numbers.
*/
private scaleLinuxPreviewRect(rect: CompositorViewRect): CompositorViewRect {
if (process.platform !== "linux") {
return rect;
}
const maxDim = Number(process.env.OPENSCREEN_LINUX_PREVIEW_MAX_DIM) || 854;
if (maxDim < 2 || (rect.width <= maxDim && rect.height <= maxDim)) {
return rect;
}
const scale = maxDim / Math.max(rect.width, rect.height);
return {
...rect,
width: Math.max(2, Math.floor((rect.width * scale) / 2) * 2),
height: Math.max(2, Math.floor((rect.height * scale) / 2) * 2),
};
}

/** Allocates an offscreen compositor view sized to `rect.width`x`rect.height`.
* `rect.x` / `rect.y` are vestigial (ignored native-side) — the renderer
* keeps them on the wire so the existing `CompositorViewRect` shape stays
Expand All @@ -673,6 +694,7 @@ export class CompositorViewService {
rect: CompositorViewRect,
paths?: { screenPath?: string; webcamPath?: string; cursorPath?: string },
): number {
const scaledRect = this.scaleLinuxPreviewRect(rect);
const addon = this.ensureAddon();
if (!addon) {
// synthetic negative ids let callers do bookkeeping
Expand All @@ -681,11 +703,16 @@ export class CompositorViewService {
// stay independent.
this.syntheticIdCounter -= 1;
const id = this.syntheticIdCounter;
this.rects.set(id, rect);
this.rects.set(id, scaledRect);
return id;
}
const id = addon.createView(rect, paths?.screenPath, paths?.webcamPath, paths?.cursorPath);
this.rects.set(id, rect);
const id = addon.createView(
scaledRect,
paths?.screenPath,
paths?.webcamPath,
paths?.cursorPath,
);
this.rects.set(id, scaledRect);
this.shareFrames(addon, id);
return id;
}
Expand Down Expand Up @@ -721,13 +748,15 @@ export class CompositorViewService {
this.ensureAddon()?.setSharedFrames?.(id, false);
}

/** Updates the offscreen compositor view dimensions for `id`. */
setRect(id: number, rect: CompositorViewRect): void {
const scaledRect = this.scaleLinuxPreviewRect(rect);
const addon = this.ensureAddon();
this.rects.set(id, rect);
this.rects.set(id, scaledRect);
if (!addon) {
return;
}
addon.setRect(id, rect);
addon.setRect(id, scaledRect);
}

/** Reads the most recently rendered frame for `id`, but only if its generation is newer
Expand Down
2 changes: 2 additions & 0 deletions electron/native/pipewire-capture/build.rs
View file
Open in desktop
Original file line number Diff line number Diff line change
Expand Up @@ -134,6 +134,7 @@ fn ffmpeg_dir(root: &Path) -> PathBuf {
root.join("../../../crates/thirdparty/ffmpeg-linux64-lgpl-shared")
}

/// Configures Cargo link directives and bindgen for the vendored FFmpeg libraries.
fn link_ffmpeg(dir: &Path) {
let include = dir.join("include");
let lib = dir.join("lib");
Expand Down Expand Up @@ -171,6 +172,7 @@ fn link_ffmpeg(dir: &Path) {
// of the repo. `--disable-new-dtags` is what makes these RUNPATH entries
// apply to the transitive ffmpeg libs too; with the default DT_RUNPATH they
// would not.
println!("cargo:rustc-link-arg=-Wl,--export-dynamic");
println!("cargo:rustc-link-arg=-Wl,--disable-new-dtags");
println!("cargo:rustc-link-arg=-Wl,-rpath,$ORIGIN/helper-ffmpeg");
println!("cargo:rustc-link-arg=-Wl,-rpath,{}", lib.display());
Expand Down
Loading
Loading