CN119011998A - 一种虚拟拍摄方法、视频处理方法及装置 - Google Patents
一种虚拟拍摄方法、视频处理方法及装置 Download PDFInfo
- Publication number
- CN119011998A CN119011998A CN202410954880.XA CN202410954880A CN119011998A CN 119011998 A CN119011998 A CN 119011998A CN 202410954880 A CN202410954880 A CN 202410954880A CN 119011998 A CN119011998 A CN 119011998A
- Authority
- CN
- China
- Prior art keywords
- frame
- picture
- video
- rendered
- normal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 100
- 238000003672 processing method Methods 0.000 title abstract description 16
- 239000007787 solid Substances 0.000 claims abstract description 128
- 230000036961 partial effect Effects 0.000 claims abstract description 29
- 238000009877 rendering Methods 0.000 claims description 70
- 230000004927 fusion Effects 0.000 claims description 65
- 238000012545 processing Methods 0.000 claims description 39
- 238000003860 storage Methods 0.000 claims description 25
- 238000004590 computer program Methods 0.000 claims description 13
- 238000005096 rolling process Methods 0.000 claims description 6
- 238000004458 analytical method Methods 0.000 claims description 5
- 230000000694 effects Effects 0.000 abstract description 19
- 230000007547 defect Effects 0.000 abstract description 11
- 238000010586 diagram Methods 0.000 description 30
- 230000008569 process Effects 0.000 description 28
- 230000002829 reductive effect Effects 0.000 description 16
- 230000006870 function Effects 0.000 description 8
- 230000005540 biological transmission Effects 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 3
- 238000003491 array Methods 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000001902 propagating effect Effects 0.000 description 2
- 238000000926 separation method Methods 0.000 description 2
- RYGMFSIKBFXOCR-UHFFFAOYSA-N Copper Chemical compound [Cu] RYGMFSIKBFXOCR-UHFFFAOYSA-N 0.000 description 1
- 206010047513 Vision blurred Diseases 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 229910052802 copper Inorganic materials 0.000 description 1
- 239000010949 copper Substances 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000000670 limiting effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 229910052751 metal Inorganic materials 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 150000002739 metals Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
- H04N21/44012—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving rendering scenes according to scene graphs, e.g. MPEG-4 scene graphs
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/64—Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/66—Remote control of cameras or camera parts, e.g. by remote control devices
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/66—Remote control of cameras or camera parts, e.g. by remote control devices
- H04N23/661—Transmitting camera control signals through networks, e.g. control via the Internet
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Processing Or Creating Images (AREA)
Abstract
本公开涉及一种虚拟拍摄方法、视频处理方法及装置,其中,虚拟拍摄方法包括:获取正常帧及参考帧;其中,所述正常帧中画面为虚拟场景的画面;所述参考帧中画面为至少部分区域为纯色区域的画面;在用于虚拟拍摄的显示屏上按照预设的交替方式,交替显示所述正常帧及所述参考帧;获取拍摄的视频,其中,所述视频包括以所述正常帧中画面或所述参考帧中画面为背景、以实体对象为前景的视频帧。通过本公开,结合绿幕拍摄和虚拟拍摄的方式可以同时克服绿幕拍摄和虚拟拍摄的缺点,使得虚拟拍摄达到电影级高质量的效果。
Description
技术领域
本公开涉及虚拟拍摄技术领域,尤其涉及一种虚拟拍摄方法、视频处理方法及装置。
背景技术
在传统的蓝绿幕拍摄中,蓝绿色背景无法反射出比较逼真的自然的效果,同时蓝绿幕的颜色可能会反射到实体对象上,尤其是当实体对象靠近蓝绿色背景时,这会导致实体对象边缘出现不自然的蓝色或绿色轮廓。对于有反光表面的实体对象,如眼镜、金属等,蓝绿幕的颜色会反射在这些表面上,处理这些反射颜色具有一定挑战。
近年来虚拟拍摄(也可称为LED虚拟拍摄)快速发展起来,虽然虚拟拍摄可以克服蓝绿幕拍摄带来的漫反射等问题,但虚拟拍摄也存在着各种限制,例如,虚拟拍摄对算力的要求巨大,在一些非常写实的场景无法达到实时渲染的要求,从而只能降低渲染分辨率,从而导致拍摄的质量下降;再例如,在虚拟拍摄中无法聚焦在显示屏上,否则会出现摩尔纹现象,从而限制了很多的拍摄手法;这些限制,使得虚拟拍摄无法达到电影级高质量的效果。
发明内容
有鉴于此,本公开提出了一种虚拟拍摄方法、视频处理方法、虚拟拍摄装置、视频处理装置、电子设备及存储介质。
根据本公开的一方面,提供了一种虚拟拍摄方法,所述方法包括:
获取正常帧及参考帧;其中,所述正常帧中画面为虚拟场景的画面;所述参考帧中画面为至少部分区域为纯色区域的画面;
在用于虚拟拍摄的显示屏上按照预设的交替方式,交替显示所述正常帧及所述参考帧;
获取拍摄的视频,其中,所述视频包括以所述正常帧中画面或所述参考帧中画面为背景、以实体对象为前景的视频帧。
在一种可能的实现方式中,在以所述参考帧中画面为背景、以所述实体对象为前景的视频帧中,所述实体对象位于所述纯色区域内。
在一种可能的实现方式中,所述参考帧中画面为纯色画面。
在一种可能的实现方式中,所述纯色区域为绿色区域。
在一种可能的实现方式中,所述预设的交替方式包括:一帧正常帧与一帧参考帧交替或多帧正常帧与一帧参考帧交替。
在一种可能的实现方式中,所述获取正常帧及参考帧,包括:
获取待渲染正常帧数据,以及对应的待渲染参考帧数据,其中,所述待渲染正常帧数据对应虚拟场景的画面,所述待渲染参考帧数据对应至少部分区域为纯色区域的画面;
按照所述预设的交替方式,将所述待渲染正常帧数据与所述待渲染参考帧数据进行拼接,得到待渲染融合帧数据;
以预设渲染帧率,对所述待渲染融合帧数据进行渲染,得到渲染后的融合帧;
按照所述预设的交替方式,将所述融合帧进行拆分,得到所述正常帧及所述参考帧;其中,所述正常帧在所述显示屏上的显示帧率及所述参考帧在所述显示屏上的显示帧率均为所述预设渲染帧率的整数倍。
在一种可能的实现方式中,所述获取对应的待渲染参考帧数据,包括:
确定所述实体对象与所述显示屏的相对位置关系,及所述实体对象的大小;
基于所述相对位置关系及所述实体对象的大小,确定所述待渲染参考帧数据对应的至少部分区域为纯色区域的画面中目标纯色区域的位置及大小;
将所述目标纯色区域与所述待渲染正常帧数据对应的虚拟场景的画面进行融合,得到所述待渲染参考帧数据对应的至少部分区域为纯色区域的画面。
在一种可能的实现方式中,所述获取对应的待渲染参考帧数据,包括:
若拍摄所述视频采用的快门为卷帘快门,则对所述待渲染正常帧数据对应的虚拟场景的画面进行颜色分析,确定所述待渲染正常帧数据对应的虚拟场景的画面的主颜色,并将所述主颜色确定为所述待渲染参考帧数据对应的至少部分区域为纯色区域的画面中目标纯色区域的颜色。
在一种可能的实现方式中,若拍摄所述视频采用的快门为全域快门,则所述正常帧在所述显示屏上的显示帧率和/或所述参考帧在所述显示屏上的显示帧率均为所述预设渲染帧率的至少两倍。
根据本公开的另一方面,提供了一种视频处理方法,所述方法包括:
获取待处理视频帧;所述待处理视频帧中画面以虚拟场景的画面为背景、以实体对象为前景;
获取所述待处理视频帧对应的参考视频帧,所述参考视频帧中画面以至少部分区域为纯色区域的画面为背景、以所述实体对象为前景;
对所述参考视频帧进行调节,并采用调节后的视频帧替代所述待处理视频帧。
在一种可能的实现方式中,所述对所述参考视频帧进行调节,并采用调节后的视频帧替代所述待处理视频帧,包括:
对所述参考视频帧中画面进行前景与背景的分离,得到背景部分及前景部分;
采用目标画面替换所述背景部分,并将替换后的背景部分与所述前景部分进行融合,采用融合后的视频帧替代所述待处理视频帧。
在一种可能的实现方式中,所述待处理视频帧和所述参考视频帧为根据上述虚拟拍摄方法拍摄的视频中的视频帧。
根据本公开的另一方面,提供了一种虚拟拍摄装置,所述装置包括:
获取模块,用于获取正常帧及参考帧;其中,所述正常帧中画面为虚拟场景的画面;所述参考帧中画面为至少部分区域为纯色区域的画面;
显示模块,用于在用于虚拟拍摄的显示屏上按照预设的交替方式,交替显示所述正常帧及所述参考帧;
所述获取模块,还用于获取拍摄的视频,其中,所述视频包括以所述正常帧中画面或所述参考帧中画面为背景、以实体对象为前景的视频帧。
根据本公开的另一方面,提供了一种视频处理装置,所述装置包括:
获取模块,用于获取待处理视频帧;所述待处理视频帧中画面以虚拟场景的画面为背景、以实体对象为前景;
所述获取模块,还用于获取所述待处理视频帧对应的参考视频帧,所述参考视频帧中画面以至少部分区域为纯色区域的画面为背景、以所述实体对象为前景;
所述调节模块,还用于对所述参考视频帧进行调节,并采用调节后的视频帧替代所述待处理视频帧。
根据本公开的另一方面,提供了一种电子设备,包括:处理器;用于存储处理器可执行指令的存储器;其中,所述处理器被配置为在执行所述存储器存储的指令时,实现上述方法。
根据本公开的另一方面,提供了一种非易失性计算机可读存储介质,其上存储有计算机程序指令,其中,所述计算机程序指令被处理器执行时实现上述方法。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机可读代码,或者承载有计算机可读代码的非易失性计算机可读存储介质,当所述计算机可读代码在电子设备的处理器中运行时,所述电子设备中的处理器执行上述方法。
本公开实施例中,通过结合绿幕拍摄和虚拟拍摄的方式可以同时克服绿幕拍摄和虚拟拍摄的缺点,其中,在虚拟拍摄过程中,在用于虚拟拍摄的显示屏上按照预设的交替方式,交替显示正常帧及参考帧;正常帧中画面为虚拟场景的画面;参考帧中画面为至少部分区域为纯色区域的画面,并获取拍摄的视频,其中,所述视频包括以所述正常帧中画面或所述参考帧中画面为背景、以实体对象为前景的视频帧;进而,在后期进行视频处理时,针对视频中待处理视频帧,获取该待处理视频帧对应的参考视频帧,进而对参考视频帧进行调节,并采用调节后的视频帧替代待处理视频帧;这样,弥补了虚拟拍摄过程中存在的不足,有效降低了对虚拟拍摄过程的限制,使得虚拟拍摄的适用场景更加广泛,虚拟拍摄能够达到电影级高质量的效果。
根据下面参考附图对示例性实施例的详细说明,本公开的其它特征及方面将变得清楚。
附图说明
包含在说明书中并且构成说明书的一部分的附图与说明书一起示出了本公开的示例性实施例、特征和方面,并且用于解释本公开的原理。
图1示出根据本公开一实施例的一种虚拟拍摄系统的结构图;
图2示出根据本公开一实施例的一种虚拟拍摄方法的流程图;
图3示出根据本公开一实施例的一种获取正常帧及参考帧的流程图;
图4(a)-(b)示出根据本公开一实施例的一种待渲染正常帧数据A对应的虚拟场景的画面及待渲染参考帧数据A’对应的至少部分区域为纯色区域的画面的示意图;
图5示出根据本公开一实施例的一种确定目标纯色区域的颜色的示意图;
图6(a)-(b)示出根据本公开一实施例的一种待渲染融合帧数据对应的画面的示意图;
图7示出根据本公开一实施例的一种待渲染融合帧数据中画面的示意图;
图8示出根据本公开一实施例的一种交替显示正常帧及参考帧的示意图;
图9示出根据本公开一实施例的另一种交替显示正常帧及参考帧的示意图;
图10示出根据本公开一实施例的一种视频处理方法的流程图;
图11示出根据本公开一实施例的一种视频处理方法的示意图;
图12示出根据本公开一实施例的一种虚拟拍摄装置的结构示意图;
图13示出根据本公开一实施例的一种视频处理的结构示意图;
图14是根据一示例性实施例示出的一种电子设备1900的框图。
具体实施方式
以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面,但是除非特别指出,不必按比例绘制附图。
在本说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“示例性”、“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
本申请中,“至少一个”是指一个或者多个,“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:包括单独存在A,同时存在A和B,以及单独存在B的情况,其中A,B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达,是指的这些项中的任意组合,包括单项(个)或复数项(个)的任意组合。例如,a,b,或c中的至少一项(个),可以表示:a,b,c,a-b,a-c,b-c,或a-b-c,其中a,b,c可以是单个,也可以是多个。
另外,为了更好的说明本公开,在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解,没有某些具体细节,本公开同样可以实施。在一些实例中,对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述,以便于凸显本公开的主旨。
图1示出根据本公开一实施例的一种虚拟拍摄系统的结构图;如图1所示,该虚拟拍摄系统可以包括:主控机101、渲染设备102、播控处理设备103、显示屏104(图中示出了3个显示屏:显示屏1041、显示屏1042和显示屏1043),以及拍摄设备105;其中,各类设备的数量可以根据实际需要灵活配置,对此不进行限定;此外,实际应用中,根据需要虚拟拍摄系统中还可以配置其他设备,例如移动终端或网络设备等等;还可以根据需求将该虚拟拍摄系统中的一个或多个设备集成为一个设备,例如,可以将主控机101、渲染设备102、播控处理设备103集成为一个设备。
示例性地,主控机101可以与渲染设备102连接,具体的连接方式可以根据实际需求和设备的兼容性进行选择。例如,可以通过局域网或互联网进行有线或无线等连接,可使用网络传输协议进行通信。主控机101可以向与其连接的渲染设备102发送多种控制指令,以控制渲染设备102渲染出期望的图像。作为一个示例,主控机101可以部署有基于UE(Unreal Engine)的高性能的多屏幕显示管理系统nDisplay。
示例性地,渲染设备102可以与播控处理设备103连接;具体的连接方式可以根据实际需求和设备的兼容性进行选择。例如,可以包括DP(DisplayPort,一种数字显示接口标准)连接、HDMI(High-Definition Multimedia Interface,一种高清数字音视频接口标准)等。渲染设备102响应于主控机101的控制指令,可以渲染出符合要求的图像,并可以向与其连接的播控处理设备103发送渲染的图像。作为一个示例,渲染设备102可部署有渲染引擎,通过实时渲染图像,构建与真实拍摄环境一致的虚拟环境;例如,渲染引擎可以为UE(Unreal Engine)。
示例性地,播控处理设备103可以与显示屏104连接;具体的连接方式可以根据实际需求和设备的兼容性进行选择。例如,可以包括DP或HDMI连接,还可以包括USB(Universal Serial Bus,通用串行总线)或网络连接等等。播控处理设备103可用于控制和管理与其连接的显示屏104,作为一个示例,播控处理设备103可用于数据传输和解码,如播控处理设备103可接收来自渲染设备102的图像,并将其解码为适合显示屏显示的格式;还可用于显示控制,如对显示屏104进行整体控制和调度,包括亮度调整、色彩校正、灰度控制等;还可用于对显示屏104进行分区管理,可以将显示屏划分为多个独立的区域,每个区域可以显示不同的内容。
示例性地,显示屏104可以是LED屏幕、液晶屏幕等类型,可以是曲面屏或平面屏等结构;可以根据实际需求自定义设置虚拟拍摄系统中显示屏的类型、数量、尺寸、分辨率等,对此不作限定。
示例性地,主控机101可以与拍摄设备105连接;其中,具体的连接方式可以根据实际需求和设备的兼容性进行选择。例如,可以包括HDMI或SDI(Serial Digital Interface,一种数字视频传输标准)等有线连接,还可以包括Wi-Fi(Wireless Fidelity,无线保真)或RF(Radio Frequency,无线射频)等无线连接。
示例性地,拍摄设备105可以将拍摄的视频传输至主控机101。本公开实施例对于拍摄设备105的类型不作限制;作为一个示例,按照采用的镜头不同,拍摄设备105可以是长焦相机、也可以广角相机等;作为另一个示例,按照采用的快门不同,拍摄设备105可以为卷帘相机、全域相机等;其中,卷帘相机配置有卷帘快门,卷帘快门以顺序方式逐行捕捉图像数据;全域相机配置有全域快门,全域快门可以让图像上的所有像素同时曝光。
在进行虚拟拍摄的过程中,虚拟拍摄系统中主控机101控制渲染设备102进行图像渲染,播控处理设备103将渲染后的图像在显示屏104上显示,与此同时,演员可以在显示屏104前进行表演,主控机101控制拍摄设备105进行拍摄,拍摄的视频中以演员为前景、以显示屏中画面为背景,从而完成虚拟拍摄。
在虚拟拍摄过程中,利用渲染设备102构建的虚拟场景来替代真实置景,减少了影视拍摄对地点和布景的依赖,极大的降低了拍摄成本;克服了使用传统蓝绿幕技术拍摄时,漫反射效果不自然,拍摄的视频场景看起来不够真实的缺点。然而,虚拟拍摄虽然可以达到比较自然的拍摄效果,但是拍摄也存在很多限制,例如,虚拟拍摄对算力的要求巨大,针对一些非常写实的场景,渲染设备103通常无法达到实时渲染的要求,从而只能降低渲染分辨率,导致拍摄的视频质量下降;再例如,在虚拟拍摄中为了避免出现摩尔纹现象,拍摄设备105通常不能聚焦在显示屏上,从而限制了很多的拍摄手法;这些限制,使得虚拟拍摄无法达到电影级高质量的效果。
为了解决上述技术问题,本公开实施例提出了一种虚拟拍摄方法及一种视频处理方法,通过结合绿幕拍摄和虚拟拍摄的方式可以同时克服绿幕拍摄和虚拟拍摄的缺点,其中,在虚拟拍摄过程中,在用于虚拟拍摄的显示屏上按照预设的交替方式,交替显示正常帧及参考帧;正常帧中画面为虚拟场景的画面;参考帧中画面为至少部分区域为纯色区域的画面,并获取拍摄的视频,拍摄视频的各视频帧中画面以正常帧中画面或参考帧中画面为背景、以实体对象为前景;进而,在后期进行视频处理时,针对视频中待处理视频帧,获取该待处理视频帧对应的参考视频帧,进而对参考视频帧进行调节,并采用调节后的视频帧替代待处理视频帧;这样,弥补了虚拟拍摄过程中存在的不足,有效降低了对虚拟拍摄过程的限制,使得虚拟拍摄的适用场景更加广泛,虚拟拍摄能够达到电影级高质量的效果。
下面对本申请提出的虚拟拍摄方法进行详细说明。
图2示出根据本公开一实施例的一种虚拟拍摄方法的流程图。示例性地,该方法可以由上述图1所示的虚拟拍摄系统或虚拟拍摄系统中的一个或多个组成部件执行,如图2所示,该方法可以包括以下步骤:
步骤201、获取正常帧及参考帧;其中,所述正常帧中画面为虚拟场景的画面;所述参考帧中画面为至少部分区域为纯色区域的画面。
正常帧及参考帧,可以是经由图1所示的渲染设备102渲染后的帧数据,由播控处理设备103获取,以便在显示屏104上显示,并由拍摄设备105进行拍摄。其中,正常帧及参考帧的数量可以根据需求进行设定,正常帧与参考帧的数量可以相同,也可以不同;作为一个示例,正常帧与参考帧的数量相同,且正常帧与参考帧存在一一对应关系;作为另一个示例,正常帧与参考帧的数量不同,且多帧正常帧与一帧参考帧之间存在对应关系;其中,具有对应关系的两帧,在显示屏104上显示的时间相邻或接近。
其中,虚拟场景的画面可以根据需求进行设定,进而在显示屏104上显示正常帧,以构建与真实拍摄环境一致的虚拟环境。
其中,纯色区域中的颜色、大小、位置、形状等可以根据需要进行设定,对此不作限制,例如,可以为绿色、蓝色、红色等等。示例性地,所述纯色区域为绿色区域;由于绿色背景能够提供更明显的反射比,同时避免了一些实体对象产生光敏效应,从而使得抠像和添加电脑特效的过程更加容易操作,有效提升了后期制作的便利性。
作为一个示例,所述参考帧中画面为纯色画面;即参考帧中画面为全部区域为纯色区域的画面。这样,将参考帧画面的全部区域设置为纯色,虚拟拍摄的视频中以该纯色画面为背景,以便在后期对视频进行处理时,可以方便地将纯色画面与实体对象分离,以更换更高质量或更加符合用户需求的背景画面。其中,实体对象可以为虚拟拍摄过程中显示屏104前的演员、道具、布景等。
作为另一个示例,所述参考帧中画面为非纯色画面,即参考帧的画面中部分区域为纯色区域。这样,将参考帧画面的部分区域设置为纯色,在后期对虚拟拍摄的视频进行处理时,可以方便地将该纯色区域与视频中其他区域分离,以将纯色区域更换更高质量或更加符合用户需求的画面。示例性地,可以将参考帧的画面中与实体对象所对应的区域设置为纯色区域,在后期对虚拟拍摄的视频进行处理时,可以将该纯色区域中实体对象更换其他实体对象。
示例性地,纯色区域的大小及位置,使得虚拟拍摄过程中,拍摄设备所拍摄的参考帧画面中的纯色区域能够覆盖(或者说包含)实体对象即可,这样,在方便后续进行抠图处理的同时,纯色区域足够小,以降低显示屏104交替显示正常帧与参考帧时带来的闪烁影响。示例性地,所述纯色区域可以为矩形或人形等,例如,纯色区域为人形,从而使得覆盖实体对象的同时,纯色区域较小。
示例性地,在存在多帧参考帧的情况下,所有的参考帧的画面中纯色区域的大小可以相同,也可以不同。例如,所有的参考帧中画面均为纯色画面;再例如,一些参考帧中的画面为纯色画面,而剩余的参考帧中的画面中部分区域为纯色区域;再例如,所有的参考帧中画面中均部分区域为纯色区域。
图3示出根据本公开一实施例的一种获取正常帧及参考帧的流程图,如图3所示,可以包括以下步骤301-304:
步骤301、获取待渲染正常帧数据,以及对应的待渲染参考帧数据,其中,待渲染正常帧数据对应虚拟场景的画面,待渲染参考帧数据对应至少部分区域为纯色区域的画面。
待渲染正常帧数据和待渲染参考帧数据可由渲染设备102获取。其中,待渲染正常帧数据对应虚拟场景的画面为正常视锥画面,正常视锥画面能够准确反映拍摄设备位置和视角所确定的虚拟场景范围,确保渲染出的虚拟场景与摄影师或导演等用户的意图一致。
示例性地,待渲染正常帧数据可以为对应用户计划拍摄的所有虚拟场景的画面的帧数据,其中,每一待渲染参考帧数据可以与一个或多个待渲染正常帧数据对应,不同待渲染正常帧数据对应的待渲染参考帧数据可以相同,也可以不同。
其中,每一待渲染正常帧数据用于生成一帧正常帧,待渲染正常帧数据对应虚拟场景的画面即为该正常帧中画面;每一待渲染参考帧数据用于生成一帧参考帧,该待渲染参考帧数据对应的至少部分区域为纯色区域的画面即为该参考帧中画面。针对任一待渲染正常帧数据,及其对应的待渲染参考帧数据,该待渲染正常帧数据对应的虚拟场景的画面及该待渲染参考帧数据对应的至少部分区域为纯色区域的画面在显示屏104上显示的时间相邻或接近,该待渲染参考帧数据对应的至少部分区域为纯色区域的画面可用于对该待渲染正常帧数据对应的虚拟场景的画面进行调节,示例性地,该待渲染参考帧数据对应至少部分区域为纯色区域的画面中的纯色区域可用于对该待渲染正常帧数据对应的虚拟场景的画面进行调节。
在一种可能的实现方式中,所述获取对应的待渲染参考帧数据,包括:可以采用目标纯色区域替代待渲染正常帧数据对应的虚拟场景的画面中对应位置的区域,得到至少部分区域为纯色区域的画面,从而生成待渲染正常帧数据对应的待渲染参考帧数据。其中,针对每一待渲染正常帧数据,生成其对应的待渲染参考帧数据的方式可以根据预设的交替方式确定。
作为一个示例,预设的交替方式为一帧正常帧与一帧参考帧交替,即每一待渲染正常帧数据与一个待渲染参考帧数据对应,且不同待渲染正常帧数据对应的待渲染参考帧数据不同的情况下;针对每一待渲染正常帧数据对应的虚拟场景的画面,采用纯色区域替代该虚拟场景的画面中对应位置的区域,得到至少部分区域为纯色区域的画面,从而生成该待渲染正常帧数据对应的待渲染参考帧数据。
作为另一个示例,预设的交替方式为多帧正常帧与一帧参考帧交替,即每一待渲染正常帧数据均有一个待渲染参考帧数据对应,且多个待渲染正常帧数据对应同一待渲染参考帧数据的情况下;可以根据用户认为非常重要的虚拟场景的画面,或者后期有可能进一步调整的虚拟场景的画面,在对应于同一待渲染参考帧数据的多个待渲染正常帧数据中选取出这些虚拟场景的画面对应的目标待渲染正常帧数据。针对每一目标待渲染正常帧数据对应的虚拟场景的画面,采用纯色区域替代该虚拟场景的画面中对应位置的区域,得到至少部分区域为纯色区域的画面,从而生成这多个待渲染正常帧数据对应的同一待渲染参考帧数据。针对任一待渲染正常帧数据A,以及其对应的待渲染参考帧数据A’,由于待渲染参考帧数据A’对应至少部分区域为纯色区域的画面中的目标纯色区域可用于对该待渲染正常帧数据A中的虚拟场景的画面进行调节,在虚拟拍摄过程中,若在显示屏104上显示该待渲染参考帧数据A’对应的至少部分区域为纯色区域的画面,拍摄设备105所拍摄的实体对象位于该目标纯色区域内,则后续可通过目标纯色区域方便的对待渲染正常帧数据A对应的虚拟场景的画面中实体对象所在的区域进行调节。
在一种可能的实现方式中,所述获取对应的待渲染参考帧数据,包括:确定所述实体对象与所述显示屏的相对位置关系,及所述实体对象的大小;基于所述相对位置关系及所述实体对象的大小,确定所述待渲染参考帧数据对应的至少部分区域为纯色区域的画面中目标纯色区域的位置及大小;将所述目标纯色区域与所述待渲染正常帧数据对应的虚拟场景的画面进行融合,得到所述待渲染参考帧数据对应的至少部分区域为纯色区域的画面。示例性地,在拍摄过程中,可以以拍摄设备105的位置及拍摄角度为参照,分别确定实体对象的位置及显示屏104的位置,进而确定实体对象与显示屏104的相对位置关系、实体对象的大小;以预设的交替方式为一帧正常帧与一帧参考帧交替为例,针对任一待渲染正常帧数据A,以及对应的待渲染参考帧数据A’,由于待渲染正常帧数据A对应的虚拟场景的画面及待渲染参考帧数据A’对应的至少部分区域为纯色区域的画面在显示屏104上显示的时间相邻或接近,拍摄设备105拍摄待渲染正常帧数据A对应的虚拟场景的画面及待渲染参考帧数据A’对应的目标纯色区域时的位置及角度几乎没有变化,因而,可以基于上述所确定的实体对象与显示屏104的相对位置关系及实体对象的大小,确定目标纯色区域在至少部分区域为纯色区域的画面中的位置及目标纯色区域大小,以使拍摄设备105拍摄目标纯色区域时,实体对象位于该目标纯色区域内;进而将目标纯色区域与待渲染正常帧数据A对应的虚拟场景的画面进行融合,这样,得到的待渲染参考帧数据A’对应的至少部分区域为纯色区域的画面与待渲染正常帧数据A对应的虚拟场景的画面中,除目标纯色区域外,其他部分相同,即,相当于用目标纯色区域替代了虚拟场景的画面中对应位置的区域,得到了至少部分区域为纯色区域的画面。
举例来说,图4(a)-(b)示出根据本公开一实施例的一种待渲染正常帧数据A对应的虚拟场景的画面及待渲染参考帧数据A’对应的至少部分区域为纯色区域的画面的示意图,其中,图4(a)为虚拟场景的画面,图4(b)为对应的至少部分区域为纯色区域的画面,演员位于该纯色区域内;示例性地,纯色区域为绿色区域。
针对任一待渲染正常帧数据,考虑到后续该待渲染正常帧数据对应的虚拟场景的画面与其对应的待渲染参考帧数据对应的至少部分区域为纯色区域的画面在显示屏104上交替显示,且显示的时间相邻或接近,因而,为了减轻交替显示画面出现闪烁,造成眼睛不舒适的问题;可以配置该待渲染正常帧数据对应的虚拟场景的画面与该待渲染参考帧数据对应的至少部分区域为纯色区域的画面的颜色尽量接近,以减少闪烁感。在一种可能的实现方式中,所述获取对应的待渲染参考帧数据,包括:若拍摄所述视频采用的快门为卷帘快门,则对所述待渲染正常帧数据对应的虚拟场景的画面进行颜色分析,确定所述待渲染正常帧数据对应的虚拟场景的画面的主颜色,并将所述主颜色确定为所述待渲染参考帧数据对应的至少部分区域为纯色区域的画面中目标纯色区域的颜色。
举例来说,图5示出根据本公开一实施例的一种确定目标纯色区域的颜色的示意图,如图5所示,针对待渲染正常帧数据A及其对应的待渲染参考帧数据A’;对该待渲染正常帧数据A对应的虚拟场景的画面进行主颜色分析,以确定该虚拟场景的画面中的主颜色,即画面中占比最多的颜色,进而将该主颜色作为待渲染参考帧数据A’对应的至少部分区域为纯色区域的画面中目标纯色区域的颜色。
步骤302、按照所述预设的交替方式,将所述待渲染正常帧数据与所述待渲染参考帧数据进行拼接,得到待渲染融合帧数据。
其中,待渲染融合帧数据可由渲染设备102按照预设的交替方式对待渲染正常帧数据与待渲染参考帧数据进行拼接处理得到。
作为一个示例,预设的交替方式为一帧正常帧与一帧参考帧交替;针对任一待渲染正常帧数据及其对应的待渲染参考帧数据;渲染设备102可以将该待渲染正常帧数据对应的虚拟场景的画面与该待渲染参考帧数据对应的至少部分区域为纯色区域的画面进行拼接,生成对应的待渲染融合帧数据;该待渲染融合帧数据对应的画面中,一部分为虚拟场景的画面,另一部分为至少部分区域为纯色区域的画面;或者,针对多个待渲染正常帧数据及各待渲染正常帧数据对应的待渲染参考帧数据;渲染设备102可以将该多个待渲染正常帧数据对应的虚拟场景的画面与多个待渲染参考帧数据对应的至少部分区域为纯色区域的画面进行拼接,生成对应的待渲染融合帧数据;其中,进行拼接的待渲染正常帧数据的数量可以根据虚拟场景的画面对应的预设分辨率确定,该预设分辨率越高对应的进行拼接的待渲染正常帧数据的数量越少。举例来说,图6(a)-(b)示出根据本公开一实施例的一种待渲染融合帧数据对应的画面的示意图,如图6(a)所示,针对待渲染正常帧数据A及其对应的待渲染参考帧数据A’,将该待渲染正常帧数据A对应的虚拟场景的画面与待渲染参考帧数据A’对应的至少部分区域为纯色区域的画面进行拼接,得到对应的待渲染融合帧数据,该待渲染融合帧数据对应的画面中一半区域为虚拟场景的画面,另一半区域为至少部分区域为纯色区域的画面。示例性地,至少部分区域为纯色区域的画面可以为全部区域为绿色区域的绿幕画面。如图6(b)所示,针对待渲染正常帧数据A及其对应的待渲染参考帧数据A’,待渲染正常帧数据B及其对应的待渲染参考帧数据B’;按照待渲染正常帧数据A对应的虚拟场景的画面a、待渲染参考帧数据A’对应的至少部分区域为纯色区域的画面b、待渲染正常帧数据B对应的虚拟场景的画面c、待渲染参考帧数据B’对应的至少部分区域为纯色区域的画面d的顺序进行拼接,得到对应的待渲染融合帧数据,该待渲染融合帧数据对应的画面中,分为四个区域,分别为虚拟场景的画面a、至少部分区域为纯色区域的画面b、虚拟场景的画面c、至少部分区域为纯色区域的画面d。
作为另一个示例,预设的交替方式为多帧正常帧与一帧参考帧交替;针对对应于同一待渲染参考帧数据的多个待渲染正常帧数据,渲染设备102可以将该多个待渲染正常帧数据对应的虚拟场景的画面与该待渲染参考帧数据对应的至少部分区域为纯色区域的画面进行拼接,生成对应的待渲染融合帧数据,其中,该待渲染融合帧数据对应的画面中,多个待渲染正常帧数据对应的虚拟场景的画面与该待渲染参考帧数据对应的至少部分区域为纯色区域的画面依次排列,且每一待渲染正常帧数据对应的虚拟场景的画面可以排列在该待渲染参考帧数据对应的至少部分区域为纯色区域的画面之前或之后。举例来说,图7示出根据本公开一实施例的一种待渲染融合帧数据对应的画面的示意图,如图7所示,针对待渲染正常帧数据A、待渲染正常帧数据B、待渲染正常帧数据C及它们对应的待渲染参考帧数据D;按照待渲染正常帧数据A对应的虚拟场景的画面a、待渲染正常帧数据B对应的虚拟场景的画面b、待渲染正常帧数据C对应的虚拟场景的画面c、待渲染参考帧数据D对应的至少部分区域为纯色区域的画面d的顺序进行拼接,得到对应的待渲染融合帧数据,该待渲染融合帧数据对应的画面中,分为四个区域,分别为虚拟场景的画面a、虚拟场景的画面b、虚拟场景的画面c、至少部分区域为纯色区域的画面d。
步骤303、以预设渲染帧率,对所述待渲染融合帧数据进行渲染,得到渲染后的融合帧。
可由渲染设备102进行渲染,示例性地,渲染设备102可以按照预设渲染帧率进行渲染,预设渲染帧率可以根据需求设定,对此不作限定。例如,以预设渲染帧率为25FPS为例,则渲染设备102可以每秒渲染出25帧融合帧。渲染后的每一融合帧中画面均包括至少一个虚拟场景的画面及至少一个至少部分区域为纯色区域的画面。
示例性地,渲染后的融合帧中虚拟场景的画面的分辨率及至少部分区域为纯色区域的画面的分辨率,均符合各自对应的预设分辨率。其中,预设分辨率可以根据需求设定,对此不作限定。例如,可以将虚拟场景的画面对应的预设分辨率设定为较高值,将至少部分区域为纯色区域的画面对应的预设分辨率设定为较低值。
步骤304、按照所述预设的交替方式,将所述融合帧进行拆分,得到所述正常帧及所述参考帧。其中,所述正常帧在所述显示屏上的显示帧率及所述参考帧在所述显示屏上的显示帧率均为预设渲染帧率的整数倍。
可由播控处理设备103将渲染设备102渲染的融合帧按照预设的交替方式进行拆分。针对任一融合帧,拆分出的正常帧与参考帧的分辨率均符合各自对应的预设分辨率。拆分出的正常帧与参考帧可以按照各自对应的预设分辨率在显示屏104进行显示。
示例性地,将所述融合帧进行拆分,得到所述正常帧及所述参考帧,可以包括:针对任一融合帧,可以按照生成的目标待渲染融合帧数据时对应的预设的交替方式,对该融合帧进行拆分;其中,目标待渲染融合帧数据即为渲染得到该融合帧所采用的融合帧数据。即可以按照虚拟场景的画面及至少部分区域为纯色区域的画面的拼接顺序进行拆分,得到正常帧及参考帧,其中,融合帧中每一虚拟场景的画面对应的部分拆分为一帧正常帧,每一至少部分区域为纯色区域的画面的部分拆分为一帧参考帧;即针对一帧融合帧,拆分出的正常帧中的画面即为该融合帧中虚拟场景的画面,拆分出的参考帧中的画面即为该融合帧中至少部分区域为纯色区域的画面。
示例性地,正常帧在显示屏上的显示帧率可以根据融合帧中虚拟场景的画面的数量及预设渲染帧率确定,例如,正常帧在显示屏上的显示帧率可以为融合帧中虚拟场景的画面的数量与预设渲染帧率的乘积;示例性地,参考帧在显示屏上的显示帧率可以根据融合帧中至少部分区域为纯色区域的画面的数量及预设渲染帧率确定,例如,参考帧在显示屏上的显示帧率可以为融合帧中至少部分区域为纯色区域的画面的数量与预设渲染帧率的乘积。例如,在对上述图6(a)中待渲染融合帧数据进行渲染生成的融合帧中画面包括一个虚拟场景的画面及一个至少部分区域为纯色区域的画面,该融合帧拆分出的正常帧及参考帧在显示屏上的显示帧率均与预设渲染帧率相同。再例如,在对上述图6(b)中待渲染融合帧数据进行渲染生成的融合帧中画面包括两个虚拟场景的画面及两个至少部分区域为纯色区域的画面,该融合帧拆分出的正常帧及参考帧在显示屏上的显示帧率均为预设渲染帧率的两倍。再例如,在对上述图7中待渲染融合帧数据进行渲染生成的融合帧中画面包括三个虚拟场景的画面及一个至少部分区域为纯色区域的画面,该融合帧拆分出的正常帧在显示屏上的显示帧率均为预设渲染帧率的三倍,参考帧在显示屏上的显示帧率与预设渲染帧率相同。
在一种可能的实现方式中,若拍摄所述视频采用的快门为全域快门,则所述正常帧在所述显示屏上的显示帧率和/或所述参考帧在所述显示屏上的显示帧率均为所述预设渲染帧率的至少两倍;从而有效降低交替显示画面出现闪烁的问题。相应的,在上述对待渲染正常帧数据与待渲染参考帧数据进行拼接生成待渲染融合帧数据的过程中,可以将多个待渲染正常帧数据与对应的多个待渲染参考帧数据进行拼接,以便在对渲染得到的融合帧进行拆分时,可以得到多帧正常帧及多帧参考帧,从而确保正常帧在显示屏上的显示帧率及参考帧在所述显示屏上的显示帧率均为预设渲染帧率的至少两倍。
步骤202、在用于虚拟拍摄的显示屏上按照预设的交替方式,交替显示所述正常帧及所述参考帧。
在一种可能的实现方式中,所述预设的交替方式包括:一帧正常帧与一帧参考帧交替或多帧正常帧与一帧参考帧交替。示例性地,可由播控处理设备103控制显示屏104上按照预设交替方式,交替显示上述拆分出的正常帧及参考帧。
作为一个示例,在用于虚拟拍摄的显示屏上交替显示一帧正常帧与一帧参考帧;即正常帧的数量与参考帧的数量相同,且显示任意两帧正常帧之间均显示一帧参考帧。例如,存在M帧正常帧及M帧参考帧;则按照M帧正常帧及M帧参考帧的预设显示顺序,首先在显示屏上显示第一帧正常帧,并在显示完第一帧正常帧后接着显示第一帧参考帧,在显示完第一帧参考帧后接着显示第二帧正常帧,显示完第二帧正常帧后接着显示第二帧参考帧…依次类推,直到显示完M帧正常帧及M帧参考帧。
作为另一个示例,在用于虚拟拍摄的显示屏上交替显示多帧正常帧与一帧参考帧,即正常帧的数量大于参考帧的数量,且显示任意两帧参考帧之间均连续显示多帧正常帧;例如,按照各融合帧拆分出的正常帧与参考帧的顺序,首先在显示屏上连续显示第一融合帧拆分出的M2帧正常帧,并在显示完这M2帧正常帧后,显示第一融合帧拆分出的参考帧,显示完该参考帧后接着显示第二融合帧拆分出的M2帧正常帧,显示完这M2帧正常帧后,显示第二融合帧拆分出的参考帧…依次类推,直到显示完所有融合帧拆分出的正常帧及参考帧。
示例性地,在显示屏上按照预设的交替方式,交替显示所述正常帧及所述参考帧的同时,实体对象可以位于该显示屏前,并通过拍摄设备拍摄该实体对象及该显示屏,从而可以以该实体对象为前景、以该显示屏中显示的画面(即交替显示的正常帧及参考帧中的画面)为背景,进行虚拟拍摄。
示例性地,可以按照正常帧在显示屏上的显示帧率及参考帧在所述显示屏上的显示帧率,交替显示正常帧及参考帧。举例来说,图8示出根据本公开一实施例的一种交替显示正常帧及参考帧的示意图,如图8所示,以预设渲染帧率为25FPS,待渲染融合帧数据为图6(a)中所示的待渲染融合帧数据为例,该待渲染融合帧数据渲染生成的融合帧,拆分后得到的正常帧在显示屏上的显示帧率及参考帧在显示屏上的显示帧率均为25FPS,即在一个显示周期内(40ms)前20ms显示一帧正常帧中画面、后20ms显示一帧参考帧中画面。图9示出根据本公开一实施例的另一种交替显示正常帧及参考帧的示意图,如图9所示,以预设渲染帧率为25FPS,待渲染融合帧数据为图6(b)中所示的待渲染融合帧数据为例,该待渲染融合帧数据渲染生成的融合帧,拆分后得到的正常帧在显示屏上的显示帧率及参考帧在显示屏上的显示帧率均为50FPS,即在一个显示周期内(40ms)依次显示四帧,其中,10ms显示一帧正常帧A中画面、10ms显示一帧参考帧B中画面、10ms显示一帧正常帧C中画面、10ms显示一帧参考帧D中画面;这样,正常帧与参考帧以50FPS的显示帧率在显示屏上交替显示,从而有效降低人眼感知到的画面闪烁。
步骤203、获取拍摄的视频,其中,所述视频包括以所述正常帧中画面或所述参考帧中画面为背景、以实体对象为前景的视频帧。
示例性地,在以参考帧中画面为背景、以实体对象为前景的视频帧中,所述实体对象位于参考帧中画面中的纯色区域内。
该步骤中,由于虚拟拍摄的过程中,显示屏104上按照预设的交替方式,交替显示所述正常帧及所述参考帧,并由拍摄设备105进行拍摄,所拍摄的视频中,正常帧及参考帧按照该交替方式排列。示例性地,该视频中的视频帧按照一帧正常帧与一帧参考帧交替或多帧正常帧与一帧参考帧交替。
示例性地,可以将预设的交替方式为多帧正常帧与一帧参考帧交替时,该多帧正常帧的数量设定为小于预设值,这样,在上述显示屏上按照多帧正常帧与一帧参考帧交替显示时,连续显示的正常帧的数量小于预设值,以使拍摄的视频中任一正常帧与距离其最近的参考帧的画面中前景不存在差异或者差异较小,其中,预设值可以根据需求进行设定,以便后续可利用该参考帧对正常帧的画面进行调节。
示例性地,拍摄设备的拍摄帧率为所述正常帧在所述显示屏上的显示帧率及所述参考帧在所述显示屏上的显示帧率之和的整数倍,例如,如图8所示,正常帧在显示屏上的显示帧率为25FPS,参考帧在所述显示屏上的显示帧率为25FPS,则拍摄设备的拍摄帧率为50FPS的整数倍,例如,拍摄帧率可以为50FPS,这样,显示屏上一帧正常帧及一帧参考帧交替显示,每秒内共显示25帧正常帧及25帧参考帧,从而保证可以拍摄到完整的正常帧中画面及参考帧中画面。再例如,如图9所示,正常帧在显示屏上的显示帧率为50FPS,参考帧在显示屏上的显示帧率为50FPS,则拍摄设备的拍摄帧率为100FPS的整数倍,例如,拍摄帧率可以为100FPS,从而保证可以拍摄到完整的正常帧中画面及参考帧中画面。作为一个示例,虚拟拍摄系统中可以配置同步信号发生器,拍摄设备105与播控处理设备103的信号同步,以使播控处理设备103在控制显示屏104交替显示正常帧及参考帧时,拍摄设备105能够完整的将正常帧及参考帧拍摄下来。
本公开实施例中虚拟拍摄方法,获取正常帧及参考帧;其中,所述正常帧中画面为虚拟场景的画面;所述参考帧中画面为至少部分区域为纯色区域的画面;在用于虚拟拍摄的显示屏上按照预设的交替方式,交替显示所述正常帧及所述参考帧;获取拍摄的视频,其中,所述视频包括以所述正常帧中画面或所述参考帧中画面为背景、以实体对象为前景的视频帧。这样,拍摄的视频可以通过后期的画面处理,实现视频的前景具有自然逼真的漫反射效果,背景可以用更高质量的画面内容替换,从而通过结合绿幕拍摄和虚拟拍摄的方式可以同时克服绿幕拍摄和虚拟拍摄的缺点,弥补了虚拟拍摄过程中存在的不足,有效降低了对虚拟拍摄过程的限制,使得虚拟拍摄的适用场景更加广泛,虚拟拍摄能够达到电影级高质量的效果。
本公开实施例还提供了一种视频处理方法,用于对通过上述图2所示的虚拟拍摄方法拍摄的视频进行处理。
图10示出根据本公开一实施例的一种视频处理方法的流程图,示例性地,该方法可以由具有数据处理能力的电子设备执行,例如,可以由上述图1所示的虚拟拍摄系统中主控机执行,如图10所示,所述方法包括以下步骤:
步骤1001、获取待处理视频帧;所述待处理视频帧中画面以虚拟场景的画面为背景、以实体对象为前景。
可以理解的是,在通过上述图2所示的虚拟拍摄方法得到的视频中,包含以正常帧中画面为背景、以实体对象为前景的视频帧,以及以参考帧中画面为背景、以实体对象为前景的视频帧。其中,以正常帧中画面为背景、以实体对象为前景的视频帧即为计划拍摄的视频帧;以参考帧中画面为背景、以实体对象为前景的视频帧即为添加的额外的视频帧。待处理视频帧即为用户期望调节的虚拟拍摄所拍摄的视频中的以正常帧中画面为背景、以实体对象为前景的视频帧,例如,拍摄的视频中包含25帧以正常帧中画面为背景、以实体对象为前景的视频帧,用户期望调节第2帧及第7帧中的画面,则该第2帧正常帧及第7帧正常帧均为待处理视频帧。
步骤1002、获取所述待处理视频帧对应的参考视频帧,所述参考视频帧中画面以至少部分区域为纯色区域的画面为背景、以所述实体对象为前景。
在一种可能的实现方式中,所述待处理视频帧和所述参考视频帧均为根据上述图2中所述的虚拟拍摄方法拍摄的视频中的视频帧。可以理解的是,参考视频帧即为拍摄的视频中的以参考帧中画面为背景、以实体对象为前景的视频帧。
在一种可能的实现方式中,可以通过根据虚拟拍摄过程中,显示屏显示正常帧及参考帧的预设交替方式,提取出拍摄视频中以正常帧中画面为背景、以实体对象为前景的视频帧,以及以参考帧中画面为背景、以实体对象为前景的视频帧。进而,在提取出的以参考帧中画面为背景、以实体对象为前景的视频帧中确定与待处理视频帧对应的参考视频帧;示例性地,可以将提取出的以参考帧中画面为背景、以实体对象为前景的视频帧中以目标参考帧中画面为背景、以实体对象为前景的视频帧,作为参考视频帧,其中,目标参考帧与待处理视频帧对应的目标正常帧由同一融合帧拆分得到;还可以将提取出的以参考帧中画面为背景、以实体对象为前景的视频帧中与待处理视频帧的拍摄时间最接近的视频帧作为参考视频帧。
作为一个示例,若虚拟拍摄的过程中,显示屏上交替显示一帧正常帧与一帧参考帧,则可以对拍摄的视频进行奇偶帧分离,从而可以将以正常帧中画面为背景、以实体对象为前景的视频帧和以参考帧中画面为背景、以实体对象为前景的视频帧分离,针对用户期望调节的任一以正常帧中画面为背景、以实体对象为前景的视频帧(即处理视频帧),可以将以目标参考帧中画面为背景、以实体对象为前景的视频帧,作为其对应的参考视频帧;其中,目标参考帧与该正常帧由同一融合帧拆分得到;还可以将分离出的与该待处理视频帧相邻的以参考帧中画面为背景、以实体对象为前景的视频帧作为其对应的参考视频帧,例如,可以将排列在该待处理视频帧后或前的以参考帧中画面为背景、以实体对象为前景的视频帧作为其对应的参考视频帧。
作为另一个示例,若虚拟拍摄的过程中,显示屏上交替显示多帧正常帧与一帧参考帧,则可以根据预设的交替显示方式,对拍摄的视频中的视频帧进行分离,从而可以将以正常帧中画面为背景、以实体对象为前景的视频帧和以参考帧中画面为背景、以实体对象为前景的视频帧分离,针对用户期望调节的任一以正常帧中画面为背景、以实体对象为前景的视频帧(即处理视频帧),可以将以目标参考帧中画面为背景、以实体对象为前景的视频帧,作为其对应的参考视频帧;其中,目标参考帧与该正常帧由同一融合帧拆分得到;还可以将分离出的距离该待处理视频帧最近的以参考帧中画面为背景、以实体对象为前景的视频帧作为其对应的参考视频帧,例如,若用户期望调节视频帧a,视频帧a的前后相邻的均为以正常帧中画面为背景、以实体对象为前景的视频帧,排列在视频帧a前的最近的以参考帧中画面为背景、以实体对象为前景的视频帧b与视频帧a相隔两个视频帧,排列在视频帧a后的最近的以参考帧中画面为背景、以实体对象为前景的视频帧c与视频帧a相隔四个视频帧,则可以将以参考帧中画面为背景、以实体对象为前景的视频帧b作为视频帧a对应的参考视频帧。
步骤1003、对所述参考视频帧进行调节,并采用调节后的视频帧替代所述待处理视频帧。
由于参考视频帧的拍摄时间与待处理视频帧的拍摄时间接近,两帧视频帧画面中前景相同或几乎没有变化,即画面中实体对象相同或几乎没有变化;而两帧视频帧画面中的背景存在区别。在一种可能的实现方式中,所述对所述参考视频帧进行调节,并采用调节后的视频帧替代所述待处理视频帧,包括:对所述参考视频帧中画面进行前景与背景的分离,得到背景部分及前景部分;采用目标画面替换所述背景部分,并将替换后的背景部分与所述前景部分进行融合,采用融合后的视频帧替代所述待处理视频帧。由于参考视频帧中存在纯色区域,该纯色区域与实体对象及虚拟场景区分更加明显,示例性地,可以通过扣绿技术,便捷地实现参考视频帧中前景和背景的精确分离。目标画面为期望更换的画面,例如,可以为更高质量的背景;将目标画面与前景部分进行融合得到视频帧中,以实体对象为前景,目标画面为背景,且该实体对象与待处理视频帧的实体对象相同或几乎没有变化,利用融合后视频帧替代该待处理视频帧,从而完成该待处理视频帧的处理。
举例来说,图11示出根据本公开一实施例的一种视频处理方法的示意图,如图11所示,通过上述虚拟拍摄方法拍摄的视频中以正常帧中画面为背景、以实体对象为前景的视频帧与以参考帧中画面为背景、以实体对象为前景的视频帧交替排列;分离出该视频中以正常帧中画面为背景、以实体对象为前景的视频帧和以参考帧中画面为背景、以实体对象为前景的视频帧;其中,参考帧中画面为绿色画面;进而,针对任一以正常帧中画面为背景、以实体对象为前景的视频帧,在对其质量或内容不满意,需要调节的情况下,可以将其相邻的下一视频帧作为参考视频帧,通过扣绿技术实现对该参考视频帧中前景和背景分离,进而将分离出的背景更换为更高质量背景,这样,更换后的更高质量背景可以与前景融合,融合后的视频帧替代该以正常帧中画面为背景、以实体对象为前景的视频帧,从而实现更高的画面效果,而前景也有比较自然的漫反射的效果。对于质量或内容符合要求的正常帧中画面为背景、以实体对象为前景的视频帧,则可以不进行调节,直接使用,这样兼顾了虚拟拍摄的质量和效率。
本公开实施例中视频处理方法,通过获取待处理视频帧;所述待处理视频帧中画面以虚拟场景的画面为背景、以实体对象为前景;获取所述待处理视频帧对应的参考视频帧,所述参考视频帧中画面以至少部分区域为纯色区域的画面为背景、以所述实体对象为前景;对所述参考视频帧进行调节,并采用调节后的视频帧替代所述待处理视频帧。这样,针对前期采集的视频中待处理视频帧,对该待处理视频帧对应的参考视频帧进行调节,并采用调节后的视频帧替代待处理视频帧;弥补了虚拟拍摄过程中存在的不足,有效降低了对虚拟拍摄过程的限制,使得虚拟拍摄的适用场景更加广泛,虚拟拍摄能够达到电影级高质量的效果。
作为一个示例,降低了虚拟拍摄过程中对渲染设备实时渲染能力的要求,对于因为渲染能力弱,降低渲染分辨率,导致的拍摄的视频帧的质量不高的情况,利用上述图2所示的虚拟拍摄方法进行拍摄,进而可以利用该视频处理方法,可以将拍摄的质量低的视频帧处理为高质量的视频帧。
作为另一个示例,降低了虚拟拍摄过程中对拍摄手法的限制,例如,针对由于聚焦在显示屏上,造成的拍摄的视频帧中出现摩尔纹现象,可以通过上述图2所示的虚拟拍摄方法进行拍摄,进而利用该视频处理方法,将出现摩尔纹的视频帧处理为没有摩尔纹的视频帧。
作为另一个示例,在通过上述图2所示的虚拟拍摄方法拍摄完成,若导演等人员可能对拍摄的虚拟画面有进一步调整的需求,通过该视频处理方法,可以对参考视频帧的画面进行调节,并利用调节后的参考视频帧替代导演期望调整的视频帧(即待处理视频帧),从而可以方便导演等人员后期更换视频帧的背景画面。
基于上述方法实施例的同一发明构思,本公开的实施例还提供了一种虚拟拍摄装置及视频处理装置,可以用于执行上述方法实施例所描述的技术方案。
图12示出根据本公开一实施例的一种虚拟拍摄装置的结构示意图,如图12所示,该装置可以包括:获取模块1201,用于获取正常帧及参考帧;其中,所述正常帧中画面为虚拟场景的画面;所述参考帧中画面为至少部分区域为纯色区域的画面;显示模块1202,用于在用于虚拟拍摄的显示屏上按照预设的交替方式,交替显示所述正常帧及所述参考帧;所述获取模块1201,还用于获取拍摄的视频,其中,所述视频包括以所述正常帧中画面或所述参考帧中画面为背景、以实体对象为前景的视频帧。
本公开实施例中,获取正常帧及参考帧;其中,所述正常帧中画面为虚拟场景的画面;所述参考帧中画面为至少部分区域为纯色区域的画面;在用于虚拟拍摄的显示屏上按照预设的交替方式,交替显示所述正常帧及所述参考帧;获取拍摄的视频,其中,所述视频包括以所述正常帧中画面或所述参考帧中画面为背景、以实体对象为前景的视频帧。这样,拍摄的视频可以通过后期的画面处理,实现视频的前景具有自然逼真的漫反射效果,背景可以用更高质量的画面内容替换,从而通过结合绿幕拍摄和虚拟拍摄的方式可以同时克服绿幕拍摄和虚拟拍摄的缺点,弥补了虚拟拍摄过程中存在的不足,有效降低了对虚拟拍摄过程的限制,使得虚拟拍摄的适用场景更加广泛,虚拟拍摄能够达到电影级高质量的效果。
在一种可能的实现方式中,在以所述参考帧中画面为背景、以所述实体对象为前景的视频帧中,所述实体对象位于所述纯色区域内。
在一种可能的实现方式中,所述参考帧中画面为纯色画面。
在一种可能的实现方式中,所述纯色区域为绿色区域。
在一种可能的实现方式中,所述预设的交替方式包括:一帧正常帧与一帧参考帧交替或多帧正常帧与一帧参考帧交替。
在一种可能的实现方式中,所述获取模块1201,还用于:获取待渲染正常帧数据,以及对应的待渲染参考帧数据,其中,所述待渲染正常帧数据对应虚拟场景的画面,所述待渲染参考帧数据对应至少部分区域为纯色区域的画面;按照所述预设的交替方式,将所述待渲染正常帧数据与所述待渲染参考帧数据进行拼接,得到待渲染融合帧数据;以预设渲染帧率,对所述待渲染融合帧数据进行渲染,得到渲染后的融合帧;按照所述预设的交替方式,将所述融合帧进行拆分,得到所述正常帧及所述参考帧;其中,所述正常帧在所述显示屏上的显示帧率及所述参考帧在所述显示屏上的显示帧率均为所述预设渲染帧率的整数倍。
在一种可能的实现方式中,所述获取模块1201,还用于:确定所述实体对象与所述显示屏的相对位置关系,及所述实体对象的大小;基于所述相对位置关系及所述实体对象的大小,确定所述待渲染参考帧数据对应的至少部分区域为纯色区域的画面中目标纯色区域的位置及大小;将所述目标纯色区域与所述待渲染正常帧数据对应的虚拟场景的画面进行融合,得到所述待渲染参考帧数据对应的至少部分区域为纯色区域的画面。
在一种可能的实现方式中,所述获取模块1201,还用于:若拍摄所述视频采用的快门为卷帘快门,则对所述待渲染正常帧数据对应的虚拟场景的画面进行颜色分析,确定所述待渲染正常帧数据对应的虚拟场景的画面的主颜色,并将所述主颜色确定为所述待渲染参考帧数据对应的至少部分区域为纯色区域的画面中目标纯色区域的颜色。
在一种可能的实现方式中,若拍摄所述视频采用的快门为全域快门,则所述正常帧在所述显示屏上的显示帧率和/或所述参考帧在所述显示屏上的显示帧率均为所述预设渲染帧率的至少两倍。
图13示出根据本公开一实施例的一种视频处理的结构示意图,如图13所示,该装置可以包括:获取模块1301,用于获取待处理视频帧;所述待处理视频帧中画面以虚拟场景的画面为背景、以实体对象为前景;所述获取模块1301,还用于获取所述待处理视频帧对应的参考视频帧,所述参考视频帧中画面以至少部分区域为纯色区域的画面为背景、以所述实体对象为前景;所述调节模块1302,还用于对所述参考视频帧进行调节,并采用调节后的视频帧替代所述待处理视频帧。
本公开实施例中,通过获取待处理视频帧;所述待处理视频帧中画面以虚拟场景的画面为背景、以实体对象为前景;获取所述待处理视频帧对应的参考视频帧,所述参考视频帧中画面以至少部分区域为纯色区域的画面为背景、以所述实体对象为前景;对所述参考视频帧进行调节,并采用调节后的视频帧替代所述待处理视频帧。这样,针对前期采集的视频中待处理视频帧,对该待处理视频帧对应的参考视频帧进行调节,并采用调节后的视频帧替代待处理视频帧;弥补了虚拟拍摄过程中存在的不足,有效降低了对虚拟拍摄过程的限制,使得虚拟拍摄的适用场景更加广泛,虚拟拍摄能够达到电影级高质量的效果。
在一种可能的实现方式中,所述调节模块1302,还用于:对所述参考视频帧中画面进行前景与背景的分离,得到背景部分及前景部分;采用目标画面替换所述背景部分,并将替换后的背景部分与所述前景部分进行融合,采用融合后的视频帧替代所述待处理视频帧。
在一种可能的实现方式中,所述待处理视频帧和所述参考视频帧为根据上述虚拟拍摄方法拍摄的视频中的视频帧。
在一些实施例中,本公开实施例提供的装置具有的功能或包含的模块可以用于执行上文方法实施例描述的方法,其具体实现可以参照上文方法实施例的描述,为了简洁,这里不再赘述。
本公开实施例还提出一种计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现上述方法。计算机可读存储介质可以是易失性或非易失性计算机可读存储介质。
本公开实施例还提出一种电子设备,包括:处理器;用于存储处理器可执行指令的存储器;其中,所述处理器被配置为在执行所述存储器存储的指令时,实现上述方法。
本公开实施例还提供了一种计算机程序产品,包括计算机可读代码,或者承载有计算机可读代码的非易失性计算机可读存储介质,当所述计算机可读代码在电子设备的处理器中运行时,所述电子设备中的处理器执行上述方法。
图14是根据一示例性实施例示出的一种电子设备1900的框图。例如,电子设备1900可以被提供为一服务器或终端设备。参照图14,电子设备1900包括处理组件1922,其进一步包括一个或多个处理器,以及由存储器1932所代表的存储器资源,用于存储可由处理组件1922的执行的指令,例如应用程序。存储器1932中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件1922被配置为执行指令,以执行上述方法。
电子设备1900还可以包括一个电源组件1926被配置为执行电子设备1900的电源管理,一个有线或无线网络接口1950被配置为将电子设备1900连接到网络,和一个输入输出接口1958(I/O接口)。电子设备1900可以操作基于存储在存储器1932的操作系统,例如Windows ServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM或类似。
在示例性实施例中,还提供了一种非易失性计算机可读存储介质,例如包括计算机程序指令的存储器1932,上述计算机程序指令可由电子设备1900的处理组件1922执行以完成上述方法。
本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。
这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。
Claims (15)
1.一种虚拟拍摄方法,其特征在于,所述方法包括:
获取正常帧及参考帧;其中,所述正常帧中画面为虚拟场景的画面;所述参考帧中画面为至少部分区域为纯色区域的画面;
在用于虚拟拍摄的显示屏上按照预设的交替方式,交替显示所述正常帧及所述参考帧;
获取拍摄的视频,其中,所述视频包括以所述正常帧中画面或所述参考帧中画面为背景、以实体对象为前景的视频帧。
2.根据权利要求1所述的方法,其特征在于,在以所述参考帧中画面为背景、以所述实体对象为前景的视频帧中,所述实体对象位于所述纯色区域内。
3.根据权利要求1所述的方法,其特征在于,所述参考帧中画面为纯色画面。
4.根据权利要求1所述的方法,其特征在于,所述纯色区域为绿色区域。
5.根据权利要求1所述的方法,其特征在于,所述预设的交替方式包括:一帧正常帧与一帧参考帧交替或多帧正常帧与一帧参考帧交替。
6.根据权利要求1所述的方法,其特征在于,所述获取正常帧及参考帧,包括:
获取待渲染正常帧数据,以及对应的待渲染参考帧数据,其中,所述待渲染正常帧数据对应虚拟场景的画面,所述待渲染参考帧数据对应至少部分区域为纯色区域的画面;
按照所述预设的交替方式,将所述待渲染正常帧数据与所述待渲染参考帧数据进行拼接,得到待渲染融合帧数据;
以预设渲染帧率,对所述待渲染融合帧数据进行渲染,得到渲染后的融合帧;
按照所述预设的交替方式,将所述融合帧进行拆分,得到所述正常帧及所述参考帧;其中,所述正常帧在所述显示屏上的显示帧率及所述参考帧在所述显示屏上的显示帧率均为所述预设渲染帧率的整数倍。
7.根据权利要求6所述的方法,其特征在于,所述获取对应的待渲染参考帧数据,包括:
确定所述实体对象与所述显示屏的相对位置关系,及所述实体对象的大小;
基于所述相对位置关系及所述实体对象的大小,确定所述待渲染参考帧数据对应的至少部分区域为纯色区域的画面中目标纯色区域的位置及大小;
将所述目标纯色区域与所述待渲染正常帧数据对应的虚拟场景的画面进行融合,得到所述待渲染参考帧数据对应的至少部分区域为纯色区域的画面。
8.根据权利要求6所述的方法,其特征在于,所述获取对应的待渲染参考帧数据,包括:
若拍摄所述视频采用的快门为卷帘快门,则对所述待渲染正常帧数据对应的虚拟场景的画面进行颜色分析,确定所述待渲染正常帧数据对应的虚拟场景的画面的主颜色,并将所述主颜色确定为所述待渲染参考帧数据对应的至少部分区域为纯色区域的画面中目标纯色区域的颜色。
9.根据权利要求6所述的方法,其特征在于,若拍摄所述视频采用的快门为全域快门,则所述正常帧在所述显示屏上的显示帧率和/或所述参考帧在所述显示屏上的显示帧率均为所述预设渲染帧率的至少两倍。
10.一种视频处理方法,其特征在于,所述方法包括:
获取待处理视频帧;所述待处理视频帧中画面以虚拟场景的画面为背景、以实体对象为前景;
获取所述待处理视频帧对应的参考视频帧,所述参考视频帧中画面以至少部分区域为纯色区域的画面为背景、以所述实体对象为前景;
对所述参考视频帧进行调节,并采用调节后的视频帧替代所述待处理视频帧。
11.根据权利要求10所述的方法,其特征在于,所述对所述参考视频帧进行调节,并采用调节后的视频帧替代所述待处理视频帧,包括:
对所述参考视频帧中画面进行前景与背景的分离,得到背景部分及前景部分;
采用目标画面替换所述背景部分,并将替换后的背景部分与所述前景部分进行融合,采用融合后的视频帧替代所述待处理视频帧。
12.根据权利要求10所述的方法,其特征在于,所述待处理视频帧和所述参考视频帧为根据权利要求1~9中任意一项所述的虚拟拍摄方法拍摄的视频中的视频帧。
13.一种电子设备,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为在执行所述存储器存储的指令时,实现权利要求1至9中任意一项所述的方法或权利要求10至12中任意一项所述的方法。
14.一种非易失性计算机可读存储介质,其上存储有计算机程序指令,其特征在于,所述计算机程序指令被处理器执行时实现权利要求1至9中任意一项所述的方法或权利要求10至12中任意一项所述的方法。
15.一种计算机程序产品,其特征在于,包括计算机可读代码,或者承载有计算机可读代码的非易失性计算机可读存储介质,当所述计算机可读代码在电子设备的处理器中运行时,所述电子设备中的处理器执行权利要求1至9中任意一项所述的方法或权利要求10至12中任意一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410954880.XA CN119011998A (zh) | 2024-07-16 | 2024-07-16 | 一种虚拟拍摄方法、视频处理方法及装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410954880.XA CN119011998A (zh) | 2024-07-16 | 2024-07-16 | 一种虚拟拍摄方法、视频处理方法及装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN119011998A true CN119011998A (zh) | 2024-11-22 |
Family
ID=93472974
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202410954880.XA Pending CN119011998A (zh) | 2024-07-16 | 2024-07-16 | 一种虚拟拍摄方法、视频处理方法及装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN119011998A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN120281888A (zh) * | 2025-04-09 | 2025-07-08 | 优酷文化科技(北京)有限公司 | Led屏幕的显示控制方法和装置、电子设备、存储介质与程序产品 |
-
2024
- 2024-07-16 CN CN202410954880.XA patent/CN119011998A/zh active Pending
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN120281888A (zh) * | 2025-04-09 | 2025-07-08 | 优酷文化科技(北京)有限公司 | Led屏幕的显示控制方法和装置、电子设备、存储介质与程序产品 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US8937644B2 (en) | Stereoscopic image capture | |
| CN119071463B (zh) | 一种虚拟拍摄方法及装置 | |
| JP2014502818A (ja) | 画像処理のための一次像および二次像画像取込装置およびその方法 | |
| US12088779B2 (en) | Optical flow based omnidirectional stereo video processing method | |
| CN113240700B (zh) | 图像处理方法及装置、计算机可读存储介质、电子设备 | |
| US11223818B2 (en) | Method and apparatus for photographing and projecting moving images in three dimensions | |
| CA2757571A1 (en) | Method and apparatus for photographing and projecting moving images | |
| CN102055991A (zh) | 二维图像转换为三维图像的转换方法及转换装置 | |
| US20210243426A1 (en) | Method for generating multi-view images from a single image | |
| Devernay et al. | Stereoscopic cinema | |
| US12058307B2 (en) | Method and apparatus for projecting 2D and 3D motion pictures at high frame rates | |
| CN119011998A (zh) | 一种虚拟拍摄方法、视频处理方法及装置 | |
| US11792511B2 (en) | Camera system utilizing auxiliary image sensors | |
| CN112887589A (zh) | 一种基于无人机全景拍摄方法和装置 | |
| GB2616188A (en) | Method and apparatus for creating panoramic picture on basis of large screen, and intelligent terminal and medium | |
| CN106921818A (zh) | 一种视频通讯终端、方法及系统 | |
| CN103385005A (zh) | 立体图像处理装置以及立体图像处理方法 | |
| CN120281888B (zh) | Led屏幕的显示控制方法和装置、电子设备、存储介质与程序产品 | |
| CN115334235B (zh) | 视频处理方法、装置、终端设备和存储介质 | |
| JP7616079B2 (ja) | 制御装置、撮影システム、および3dモデルデータ生成方法 | |
| CN120013819B (zh) | 针对虚拟场景的渲染系统及方法 | |
| US20130038693A1 (en) | Method and apparatus for reducing frame repetition in stereoscopic 3d imaging | |
| CN119906905B (zh) | 颜色调整方法、装置、电子设备、存储介质及程序产品 | |
| CN119484727B (zh) | 颜色校准方法、装置和存储介质 | |
| CN120640117B (zh) | 一种多机位虚拟拍摄方法、装置、电子设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |