在乐器陪练场景中,学生端可能会配置鱼眼镜头,用于让教师看到学生的弹奏动作。但是鱼眼镜头拍摄的画面存在失真。你可以使用声网 API 对鱼眼镜头的画面进行畸变矫正和分离显示处理,帮助教师在教学过程中更好地演示和纠正学生的弹奏动作。
你可以通过以下步骤进行鱼眼镜头画面畸变校正。声网建议在学生端进行鱼眼镜头画面校正操作。
根据镜头的实际情况,设置鱼眼镜头画面矫正参数。
// 鱼眼镜头画面矫正参数。
FishCorrectionParams params;
// _x_center 和 _y_center 代表鱼眼图像处理的中心位置。取值范围 [0.4, 0.6]。
params._x_center = 0.5;
params._y_center = 0.5;
// 鱼眼镜头成像的区域大小。取值范围 [1, 5]。
params._scale_factor = 2;
// 镜头焦距。取值范围 [20, 40]。
params._focal_length = 28;
// 标定鱼眼镜头的参数,通过镜头焦距计算。取值范围 [20, 40]。
params._pol_focal_length = 31;
// 鱼眼校正效果切分高度。取值范围 [0, 1]。在切分线以上的画面有鱼眼校正效果,在切分线以下的画面无鱼眼校正效果。
params._split_height = 0.469;
// 镜头的一组参数,通过多项式拟合得到。不同类型的鱼眼镜头会有不同的值。
params._ss[0] = 0.8327;
params._ss[1] = 0.0;
params._ss[2] = -0.5536;
params._ss[3] = 0.4999;
params._ss[4] = -0.5590;
调用 enableFishCorrection
开启鱼眼镜头画面矫正。
m_lpAgoraEngine->enableFishCorrection(true, params);
你可以通过以下步骤进行画面分离。声网建议在教师端进行画面分离操作,分离后的画面再传回学生端。
调用 enableVideoMultiRenderer
启用多重渲染。
// 必须在调用 setupRemoteVideo、setupLocalVideo、setLocalVideoMirrorMode、setRemoteRenderMode、setLocalRenderMode 之前调用该方法
m_lpAgoraEngine->enableVideoMultiRenderer(true);
调用 setupLocalVideo
和 setupRemoteVideo
分别增加本地和远端的渲染视图。
VideoCanvas canvas;
// 设置渲染的视频源
canvas.sourceType = VIDEO_SOURCE_CAMERA_PRIMARY;
// 设置裁剪后出现在渲染区域的图像
canvas.area.xPoint = 100;
canvas.area.yPoint = 100;
canvas.area.width = 400;
canvas.area.height = 400;
// 增加本地渲染视图
m_lpAgoraEngine->setupLocalVideo(canvas, VIDEO_VIEW_SETUP_ADD);
// 增加远端渲染视图
m_lpAgoraEngine->setupRemoteVideo(canvas, VIDEO_VIEW_SETUP_ADD);
virtual int enableFishCorrection(bool enabled, const struct FishCorrectionParams ¶ms) = 0;
开启或关闭鱼眼镜头画面畸变矫正。
参数 | 说明 |
---|---|
enabled | 是否开启鱼眼镜头画面矫正。
|
params | 畸变矫正参数。详见 FishCorrectionParams 。 |
virtual int enableVideoMultiRenderer(bool enabled) = 0;
开启或关闭多渲染功能。
参数 | 说明 |
---|---|
enabled | 是否开启多渲染功能。
|
virtual int setupLocalVideo(const VideoCanvas& canvas, VIDEO_VIEW_SETUP_MODE mode) = 0;
(多渲染功能)设置本地渲染画面。
参数 | 说明 |
---|---|
canvas | 视频渲染画布。详见 VideoCanvas 。 |
mode | 视频渲染模式。详见 VIDEO_VIEW_SETUP_MODE 。 |
virtual int setupRemoteVideo(const VideoCanvas& canvas, VIDEO_VIEW_SETUP_MODE mode) = 0;
(多渲染功能)设置远端渲染画面。
参数 | 说明 |
---|---|
canvas | 视频渲染画布。详见 VideoCanvas 。 |
mode | 视频渲染模式。详见 VIDEO_VIEW_SETUP_MODE 。 |
virtual int setupRemoteVideoEx(const VideoCanvas& canvas, VIDEO_VIEW_SETUP_MODE mode, const RtcConnection& connection) = 0;
(多频道场景)设置远端渲染画面。
参数 | 说明 |
---|---|
canvas | 视频渲染画布。详见 VideoCanvas 。 |
mode | 视频渲染模式。详见 VIDEO_VIEW_SETUP_MODE 。 |
connection | Connection 信息。详见 RtcConnection。 |
struct FishCorrectionParams {
float _x_center;
float _y_center;
float _scale_factor;
float _focal_length;
float _pol_focal_length;
float _split_height;
float _ss[5];
FishCorrectionParams():_x_center(0.49),
_y_center(0.48),
_scale_factor(4.5),
_focal_length(31),
_pol_focal_length(31),
_split_height(1.0) {
_ss[0] = 0.9375;
_ss[1] = 0.0;
_ss[2] = -2.9440;
_ss[3] = 5.7344;
_ss[4] = -4.4564;
}
FishCorrectionParams(float x_center, float y_center, float scale_factor, float focal_length, float pol_focal_length, float split_height, float ss[])
: _x_center(x_center),
_y_center(y_center),
_scale_factor(scale_factor),
_focal_length(focal_length),
_pol_focal_length(pol_focal_length),
_split_height(split_height) {
if (ss != OPTIONAL_NULLPTR) {
for (int i = 0; i < 5; i++) {
_ss[i] = ss[i];
}
}
}
};
鱼眼镜头画面畸变校正参数。
参数 | 说明 |
---|---|
_x_center | 鱼眼图像处理的中心位置 X 坐标。取值范围 [0.4, 0.6]。 |
_y_center | 鱼眼图像处理的中心位置 Y 坐标。取值范围 [0.4, 0.6]。 |
_scale_factor | 鱼眼镜头成像的区域大小。取值范围 [1, 5]。1 为镜头最内圈,5 为镜头最外圈。 |
_focal_length | 镜头焦距。取值范围 [20, 40]。 |
_pol_focal_length | 标定鱼眼镜头的参数,通过镜头焦距计算。取值范围 [20, 40]。 |
_split_height | 鱼眼校正效果切分高度。取值范围 [0, 1]。在切分线以上的画面有鱼眼校正效果,在切分线以下的画面无鱼眼校正效果。 |
_ss[5] | 镜头的一组参数,通过多项式拟合得到。不同类型的鱼眼镜头会有不同的值。 |
struct VideoCropArea {
int xPoint;
int yPoint;
int width;
int height;
VideoCropArea() : xPoint(0), yPoint(0), width(0), height(0) {}
VideoCropArea(int x, int y, int w, int h) : xPoint(x), yPoint(y), width(w), height(h) {}
};
需要截取的视频画面区域。参数使用屏幕坐标系,原点在屏幕左上角(0, 0)。
参数 | 说明 |
---|---|
参数 | 说明 |
xPoint | 屏幕坐标系中图像左上角顶点的 X 坐标。单位为像素。 |
yPoint | 屏幕坐标系中图像左上角顶点的 Y 坐标。单位为像素。 |
width | 以图像左上角顶点为起始点,截取画面的宽度。单位为像素。 |
height | 以图像左上角顶点为起始点,截取画面的高度。单位为像素。 |
图像的截取方式如下图所示: