<div dir="auto"><div><br><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">сб, 26 окт. 2024 г., 00:58 Terje J. Hanssen <<a href="mailto:terjejhanssen@gmail.com" target="_blank" rel="noreferrer">terjejhanssen@gmail.com</a>>:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><u></u>

  
    
  
  <div>
    <br>
    <br>
    <br>
    <div>Den 25.10.2024 21:48, skrev Andrew
      Randrianasulu:<br>
    </div>
    <blockquote type="cite">
      
      <div dir="auto">We branching!
        <div dir="auto"><br>
        </div>
        <div dir="auto">I looked at gpu-screen-recorder</div>
        <div dir="auto"><br>
        </div>
        <div dir="auto"><a href="https://git.dec05eba.com/gpu-screen-recorder/tree/src/encoder/video/vaapi.c" rel="noreferrer noreferrer noreferrer" target="_blank">https://git.dec05eba.com/gpu-screen-recorder/tree/src/encoder/video/vaapi.c</a><br>
        </div>
        <div dir="auto"><br>
        </div>
        <div dir="auto">it sets</div>
        <div dir="auto"><br>
        </div>
        <div dir="auto">
          <pre><code>AVHWFramesContext *hw_frame_context = (AVHWFramesContext*)frame_context->data;
    hw_frame_context->width = video_codec_context->width;
    hw_frame_context->height = video_codec_context->height;
    hw_frame_context->sw_format = self->params.color_depth == GSR_COLOR_DEPTH_10_BITS ? AV_PIX_FMT_P010LE : AV_PIX_FMT_NV12;
    hw_frame_context->format = video_codec_context->pix_fmt;
    hw_frame_context->device_ctx = (AVHWDeviceContext*)self->device_ctx->data;</code></pre>
          <pre><code>
</code></pre>
          <pre><code>
</code></pre>
          <pre><code>so may be we need to set </code>AV_PIX_FMT_P010LE and not just P010?</pre>
        </div>
      </div>
    </blockquote>
    <br>
    Sorry, It didn't render more than 8bit yuv420p<br></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto">yeahh ... probably need more  debugging (seeing what pixel format goes into ffmpeg vaapi interface at least).</div><div dir="auto"><br></div><div dir="auto">I only have decoding on nouveau, and quite flaky at that - only 2 files so far worked w,/o crashing, from around 2011/12.</div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto">I tried to change two instances of NV12 to P010LE and it  shows no visible effect, so I assume it was supposed to  work with encoding ...?</div><div dir="auto"><br></div><div dir="auto">it does not work even with qsv set to p010 AND patch ?</div><div dir="auto"><br></div><div dir="auto">if so, I am afraid I only can put this item on shelf ... for now. Look at mantis bug database, if there is no entry about 10bit vaapi deciding/encoding - add it please ....</div><div dir="auto"><br></div><div dir="auto">you can also test (at some point in time ) this gpu_screen_recorder, it builds but does not work for me due to "nouveau" driver.</div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div>
    <br>
    <br>
    <br>
  </div>

</blockquote></div></div></div>