当前位置:首页 > 嵌入式 > 嵌入式软件
[导读]基于wince的网络音视频通信

wince网络音视频通讯


下位机为 mini2440 ,其操作系统是WINCE 5.0,需要在下位机上插入USB摄像头(中星微301,驱动为15分钟限制版),以及插入麦克风耳机;

上位机为普通的PC,需要插入麦克风耳机;

上位机和下位机的开发环境为Visual Studio 2005。

接下来,说说这个东东的功能,和工作原理:

网络视频传输,首先把mini2440与USB摄像头连接在一起,通过USB摄像头捕捉图像(320 x 240,15fps),然后通过UDP协议发送至PC端,在PC屏幕上以15fps的速度显示。

网络音频传输,首先在mini2440和PC上都插入麦克风耳机,两者都同时录音,并以G.726编码,然后把压缩包通过UDP协议发送至对方,而在录音的同时,也对来自对方的压缩包用G.726解码,然后再在耳机播放音频。

最后,说说这个版本相对于以前的改进:

把以前的RTP改为UDP,实践证明,在这个系统中,用UDP的效率会比RTP好,毕竟不需要用到RTP的流量监测等高级功能,仅仅能通信就行了;

以前版本基于100M网卡,现在支持10M网卡了,在100M网卡的机器上,可以直接把JPEG图片发过去,但是,在10M的网卡是,每次数据包最大为1440比特,因此要兼容10M网卡,就需要把图像分割成多个1440大小的数据包,分别发送了。

网络音视频通信

下面说说关键的源代码:

以下是WINCE部分的代码

#pragma once

#include “winsock2.h”

//RTP支持

#include “。.UDPUDP.h”

//音频支持

#include “WaveIn.h”

#include “WaveOut.h”

//G726支持

#include “g726.h”

//摄像头支持

#include “。videozc030xlib.h”

#define Video_Width 320 //视频宽度

#define Video_Height 240 //视频长度

#define AudioData_Size 960 //每块音频数据包的大小

#define Compr_AudioData_Size 120 //压缩后音频块的大小

//音频输入输出变量

CWaveIn *g_pIn;

CWaveOut *g_pOut;

char pin[AudioData_Size],pout[Compr_AudioData_Size];

char waveout[AudioData_Size];

//摄像头输入变量

DWORD dwSize;

DWORD dwJpg;

DWORD dwRtnSize[2];/* 0 - for bmp, 1 - for jpeg */

LPBYTE lpFrameBuffer;

LPBYTE lpJpgBuffer ;

//控制变量

bool isCameraEnabled;

//UDP

CUDP_CE m_CEUdp;

class AVClass

{

public:

//=====================================================================

// 语法格式: void InitAV(CWnd * p)

// 实现功能: 初始化音频和视频,用于录音、播放音频,以及播放视频

// 参数: p为窗口类指针

// 返回值: 无

//=====================================================================

void InitAV(CWnd * p,int local_port,CString remote_ip,int remote_port)

{

//-----------------------初始化UDP-----------------------//

m_CEUdp.m_OnUdpRecv = OnUdpCERecv;

DWORD nResult = m_CEUdp.Open(p,local_port,remote_ip,remote_port);

if (nResult 《=0)

{

AfxMessageBox(_T(“打开端口失败”));

return;

}

//------------------------控制变量-----------------------//

isCameraEnabled=false;

//-------------------------视频--------------------------//

int i = capInitCamera();

dwSize = 320 * 240 * 3;

dwJpg = 40960;

lpFrameBuffer = (LPBYTE) malloc (dwSize);

lpJpgBuffer = (LPBYTE) malloc (dwJpg);

if(i《=0)

{

//::MessageBox(NULL, L“Init camera error ”, L“Notice”, 0);

goto video_error;//出错,释放空间

}
[!--empirenews.page--]
if (0 != capSetVideoFormat(0, VIDEO_PALETTE_RGB24, VIDEO_SIZE_SIF))

{

//::MessageBox(NULL, L“SetVideoFormat error ”, L“Notice”, 0);

goto video_error;//出错,释放空间

}

if (capStartCamera(0) != 0)

{

//::MessageBox(NULL, L“StartCamera error ”, L“Notice”, 0);

capStopCamera(0);

goto video_error;//出错,释放空间

}

//没出错,进行视频(控制状态)、音频设置

isCameraEnabled=true;

goto audio;

video_error:

free (lpFrameBuffer);

lpFrameBuffer = NULL;

free (lpJpgBuffer);

lpJpgBuffer = NULL;

//-------------------------音频--------------------------//

audio:

g_pOut = new CWaveOut();

g_pIn = new CWaveIn();

g_pOut-》StartPlay();

g_pIn-》StartRec(OnRecCapAndSend,(DWORD)p);

}

//=====================================================================

// 语法格式: void FreeAV()

// 实现功能: 释放音频、视频

// 参数: 无

// 返回值: 无

//=====================================================================

void FreeAV()

{

//-------------------------视频--------------------------//

if(isCameraEnabled)

capStopCamera(0);

//-------------------------音频--------------------------//

g_pOut-》StopPlay();

g_pIn-》StopRec();

delete g_pOut;

delete g_pIn;

//------------------------UDP------------------------//

m_CEUdp.Close();

}

//=====================================================================

// 语法格式: void RecAndPlay(WPARAM wParam,LPARAM lParam)

// 实现功能: 接收网络传来的音频,以及播放

// 参数: wParam,表示数据;lParam,表示数据长度

// 返回值: 无

//=====================================================================

static void CALLBACK OnUdpCERecv(CWnd * pWnd,char* buf,int nLen,sockaddr * addr)

{

g726_Decode(buf,(unsigned char*)waveout);

g_pOut-》Play(waveout,AudioData_Size);

}

//=====================================================================

// 语法格式: static void OnRecCapAndSend(char *data,int length,DWORD userdata)

// 实现功能: 录音,摄像并且发送

// 参数: data表示数据,length表示数据长度,userdata暂时没用

// 返回值: 无

//=====================================f================================

static void OnRecCapAndSend(char *data,int length,DWORD userdata)

{

//-------------------------音频--------------------------//

memcpy(pin,g_pIn-》buffer,AudioData_Size);

g726_Encode((unsigned char*)pin,pout);

m_CEUdp.SendData(pout,Compr_AudioData_Size);

//-------------------------视频--------------------------//

if(isCameraEnabled==false)//如果程序不能用摄像头

return;

Sleep(15);

int index=0;

memset(lpFrameBuffer, 0, dwSize);

memset(lpJpgBuffer, 0, dwJpg);

dwRtnSize[0] = dwRtnSize[1] = 0;

if (capGetPicture(index, lpFrameBuffer, dwSize, lpJpgBuffer, dwJpg, dwRtnSize) == 0)

{

/// m_CEUdp.SendData((const char *)lpJpgBuffer,dwRtnSize[1]);

char tmp[1440];

int tmp_i=0;

for(int i=0;i《dwRtnSize[1];i++)

{

tmp[tmp_i]=lpJpgBuffer[i];

tmp_i++;

if(tmp_i==1440)

{

m_CEUdp.SendData(tmp,1440);

tmp_i=0;

}

else if(i==dwRtnSize[1]-1)

{

m_CEUdp.SendData(tmp,dwRtnSize[1]-(dwRtnSize[1]/1440)*1440);

tmp_i=0;

}

}

}

}

};

以下是PC部分的关键代码

#pragma once

#include “winsock2.h”

//UDP支持

#include “。.UDPUDP.h”

//音频支持

#include “WaveIn.h”

#include “waveout.h”

//G726支持

#include “g726.h”

//视频支持

#include “Gdiplus.h”

using namespace Gdiplus;

#define VideoData_Size 1440 //每块视频数据包的大小

#define Video_Width 320 //视频宽度

#define Video_Height 240 //视频长度

#define AudioData_Size 960 //每块音频数据包的大小

#define Compr_AudioData_Size 120 //压缩后音频块的大小

//音频输入输出变量

CWaveIn *g_pIn;

CWaveOut *g_pOut;

char pin[AudioData_Size],pout[Compr_AudioData_Size];

char wave_data[AudioData_Size];

//UDP变量

CUDP_CE m_CEUdp;

//视频输入变量

GdiplusStartupInput m_gdiPlusInPut;

ULONG_PTR m_gdiPlusToken;

char video_data[Video_Width*Video_Height];

int index;//视频数据当前索引

class AVClass

{

private:

public:

//=====================================================================

// 语法格式: void InitAV(CWnd * p)

// 实现功能: 初始化音频和视频,用于录音、播放音频,以及播放视频

// 参数: p为窗口类指针

// 返回值: 无

//=====================================================================

void InitAV(CWnd * p,int local_port,CString remote_ip,int remote_port)[!--empirenews.page--]

{

//-------------------------UDP连接--------------------------//

m_CEUdp.m_OnUdpRecv = OnUdpCERecv;

DWORD nResult = m_CEUdp.Open(p,local_port,remote_ip,remote_port);

if (nResult 《=0)

{

AfxMessageBox(_T(“打开端口失败”));

return;

}

//-------------------------音频--------------------------//

g_pOut = new CWaveOut();

g_pIn = new CWaveIn();

g_pOut-》StartPlay();

g_pIn-》StartRec(OnRecording,(DWORD)p);

//-------------------------视频--------------------------//

GdiplusStartup( &m_gdiPlusToken, &m_gdiPlusInPut, NULL ); //初始化GDI+

memset(video_data,0,Video_Width*Video_Height);

index=0;

}

//=====================================================================

// 语法格式: void FreeAV()

// 实现功能: 释放音频、视频

// 参数: 无

// 返回值: 无

//=====================================================================

void FreeAV()

{

//-------------------------音频--------------------------//

g_pOut-》StopPlay();

g_pIn-》StopRec();

delete g_pOut;

delete g_pIn;

//-------------------------视频--------------------------//

GdiplusShutdown(m_gdiPlusToken); //销毁GDI+

//------------------------UDP--------------------------//

m_CEUdp.Close();

}

//=====================================================================

// 语法格式: void RecAndPlay(WPARAM wParam,LPARAM lParam,HWND hwnd)

// 实现功能: 接收网络传来的音频,以及播放

// 参数: wParam,表示数据;lParam,表示数据长度;hwnd,表示显示视频的窗口句柄

// 返回值: 无

//=====================================================================

static void CALLBACK OnUdpCERecv(CWnd *pWnd,char* buf,int nLen,sockaddr * addr)

{

/*测试收到的数据大小

CString tmp;

tmp.Format(L“%d”,nLen);

MessageBox(0,tmp,0,0);

return;*/

//-------------------------如果是音频数据--------------------------//

if(nLen==Compr_AudioData_Size)

{

g726_Decode(buf,(unsigned char*)wave_data);

g_pOut-》Play(wave_data,AudioData_Size);

return;

}

//-------------------------如果是视频数据--------------------------//

if(nLen==VideoData_Size)//完整的视频数据块

{

for(int i=0;i《nLen;i++)

{

video_data[index]=buf[i];

index++;

}

return;

}

//视频数据块的最后一块

for(int i=0;i《nLen;i++)

{

video_data[index]=buf[i];

index++;

}

//如果JPEG图像特别大,则肯定是出错,则抛弃

if(index》Video_Width*Video_Height)

{

//MessageBox(0,“缓冲区出错”,“错误信息”,0);

return;

}

try{

IPicture *pPic;

IStream *pStm ;

//分配全局存储空间

HGLOBAL hGlobal=GlobalAlloc(GMEM_MOVEABLE,index);

LPVOID pvData=NULL ;

//锁定分配内存块

pvData=GlobalLock(hGlobal);

//复制数据包video_data到pvData

memcpy(pvData,video_data,index);

GlobalUnlock(hGlobal);

CreateStreamOnHGlobal(hGlobal,TRUE,&pStm);

ULARGE_INTEGER pSeek;

LARGE_INTEGER dlibMove ={ 0 } ;

pStm-》Seek(dlibMove,STREAM_SEEK_SET ,&pSeek);

// Sleep(15);

//装入图形文件

if(FAILED(OleLoadPicture(pStm,index,TRUE,IID_IPicture,(LPVOID*)&pPic)))

{//附:如果video_data这个数组包含的图像有错,则OleLoadPicture 容易产生读写内存错误

// pPic-》Release();

// pStm-》Release();

return ;

}

Image img(pStm,0);

Graphics mGraphics(GetDC(pWnd-》m_hWnd));

mGraphics.DrawImage(&img, 0, 0, Video_Width, Video_Height);

img.~Image();//会出错

mGraphics.~Graphics();

pPic-》Release();

pStm-》Release();

}

catch(CException * e)

{}

memset(video_data,0,Video_Width*Video_Height);

index=0;

}

//=====================================================================

// 语法格式: static void OnRecording(char *data,int length,DWORD userdata)

// 实现功能: 释放音频

// 参数: data表示数据,length表示数据长度,userdata暂时没用

// 返回值: 无

//=====================================================================

static void OnRecording(char *data,int length,DWORD userdata)

{

memcpy(pin,g_pIn-》buffer,AudioData_Size);

g726_Encode((unsigned char*)pin,pout);

m_CEUdp.SendData(pout,Compr_AudioData_Size);

}

};
 

本站声明: 本文章由作者或相关机构授权发布,目的在于传递更多信息,并不代表本站赞同其观点,本站亦不保证或承诺内容真实性等。需要转载请联系该专栏作者,如若文章内容侵犯您的权益,请及时联系本站删除。
换一批
延伸阅读

它涵盖了从音频和视频信号的采集、编码、传输到解码、播放的整个过程,并且能够支持多种终端设备的接入和使用。

关键字: 音视频

济南2025年4月22日 /美通社/ -- 3月28日,2025慧聪品牌巡展——山东•济南站于山东怡豪大饭店盛大开启。此次巡展由慧聪安防网、慧聪物联网、慧聪音响灯光网、慧聪LED屏网、慧聪教育网联合主办,吸引了来自安防、...

关键字: AI 希捷 音视频 BSP

深圳2025年3月10日 /美通社/ -- 2025年3月7日至9日,亚洲规模最大的智慧显示与系统集成展会——ISLE 2025在深圳国际会展中心(宝安新馆)成功举办。本届展会吸引了全球200多个国家和地区的数万名专业观...

关键字: 系统集成 ISL AI 音视频

深圳2025年2月11日 /美通社/ -- 作为亚洲首屈一指的智慧显示及系统集成展,ISLE(国际智慧显示及系统集成展)将于2025年3月7日至9日在深圳国际会展中心举行。 深圳作为全球LED显示屏和集成系统产品的...

关键字: LED显示屏 集成系统 ISL 音视频

深圳2024年7月22日 /美通社/ -- 2024年7月12日,国际独立第三方检测、检验和认证机构德国莱茵TÜV大中华区(简称"TÜV莱茵&q...

关键字: 消费电子产品 终端 音视频 电子电气

随着现代通信技术和业务的发展,人们对通信的需求已经由最初的单一语音需求转变为对视频和音频的通信需求,以传送语音、数据。

关键字: 视频通信 视频 IP网络

视频通信是一种通过传输视频信息进行通信的服务。它允许在不同地点的人们通过视频传输技术进行实时交流,就像面对面交谈一样。视频通信可以发生在同一台计算机的不同进程之间,也可以发生在不同计算机的不同进程之间。

关键字: 视频通信 视频会议

上海2023年8月8日 /美通社/ -- 音频、视频和协作解决方案领军企业 Jabra 宣布,全球化工业集团丹佛斯(Danfoss)部署Jabra PanaCast 50智能音视频一体机及全新Evolve2系列...

关键字: EV 可持续发展 音视频 ST

2023年7月5日,高性能连接解决方案领先供应商Valens Semiconductor(纽约证交所代码:VLN)今日宣布其董事会已任命Peter Kuo为董事会和审计委员会成员。他将接替自2021年9月以来担任董事会和...

关键字: 汽车 音视频

LT6911C 适用于 VR/智能手机 / 显示应用。 对于 MIPI®DSI / CSI 输出,LT6911C 具有可配置的单端口或双端口 MIPI®DSI/CSI,具有 1 个高速时钟通道和 1~4 个高速数据...

关键字: 音视频
关闭