关于webservice大数据量传输时的压缩和解压缩

2023-12-31 18:02:22

当访问WebSerivice时,如果数据量很大,传输数据时就会很慢。为了提高速度，我们就会想到对数据进行压缩。首先我们来分析一下。

当在webserice中传输数据时，一般都采用Dataset进行数据传输。执行的过程就是先把Dataset转化为xml进行传输，Dataset转化为xml的格式如下：

<DataSetName>
<DataTableName>
<Column1Name>.......</Column1Name>
<Column2Name>.......</Column2Name>
<Column3Name>.......</Column3Name>
</DataTableName>
...
...
...
<DataSetName>

很明显的可以看到，Datase在t转化为xml的过程中增加了大量的xml格式数据,这样也就加大了传输量。

经过分析,我们就可以找到两个解决数据传输量大的问题的方法：

1.不直接使用Dataset来传输数据，避免转化为xml时增加的额外数据。所以我们可以将Dataset转化为DataSetSurrogate对象用Binary进行序列化，用二进制数据来传输数据。当然你也可以采用其他更好的方式，总之就是减少为了传输而增加的额外数据

2.对数据进行压缩后再传输，至于压缩的方法有很多,可以参考我的文章.net中压缩和解压缩的研究

参考代码如下(这里使用的是.net自带的Gzip进行压缩的,压缩效率可能不是太好）：

//=========================================================================
//类名:DataSetZip
/// <summary>
/// 当DataSet中的数据量很大时,进行网络数据传递时,速度会很慢。
/// 本类将Dataset转化为DataSetSurrogate对象用Binary进行序列化,
/// 然后进行压缩之后进行传输,最后进行解压缩
/// </summary>
/// <remarks>
/// 将DataSet中的DataTable中的数据进行转换或复原
/// </remarks>
/*=========================================================================
变更记录
序号更新日期开发者变更内容
001 2008/7/22 张新建
=========================================================================*/
public class DataSetZip
{
//消息ID
private const string MSG_ERR_INTERNAL = "MFWE00016";
/// <summary>
/// 取得将DataSet转化为DataSetSurrogate对象用Binary进行序列化,并压缩后的二进制数组
/// </summary>
/// <param name="dsData">需压缩的DataSet数据</param>
/// <returns>压缩后二进制数组</returns>
public static byte[] GetDataSetZipBytes(DataSet dsData)
{
try{
DataSetSurrogate dss = new DataSetSurrogate(dsData);
BinaryFormatter ser = new BinaryFormatter();
MemoryStream ms = new MemoryStream();
ser.Serialize(ms, dss);
byte[] buffer = ms.ToArray();
byte[] Zipbuffer = Compress(buffer);
return Zipbuffer;
}
catch (Exception ex)
{
throw new DataSetConverterException(MSG_ERR_INTERNAL, new string[] { "DataSetZip", "GetDataSetZipBytes" }, ex, null);
}
}
/// <summary>
/// 用.net自带的Gzip对二进制数组进行压缩,压缩比率可能不是太好
/// </summary>
/// <param name="data">二进制数组</param>
/// <returns>压缩后二进制数组</returns>
public static byte[] Compress(byte[] data)
{
MemoryStream ms = new MemoryStream();
Stream zipStream = null;
zipStream = new GZipStream(ms, CompressionMode.Compress, true);
zipStream.Write(data, 0, data.Length);
zipStream.Close();
ms.Position = 0;
byte[] compressed_data = new byte[ms.Length];
ms.Read(compressed_data, 0, int.Parse(ms.Length.ToString()));
return compressed_data;
}
/// <summary>
/// 对二进制数组进行解压缩
/// </summary>
/// <param name="data">二进制数组</param>
/// <returns>解压缩后的DataSet</returns>
public static DataSet Decompress(byte[] data)
{
try
{
byte[] buffer = null;
MemoryStream zipMs = new MemoryStream(data);
buffer = EtractBytesFormStream(zipMs, data.Length);
BinaryFormatter ser = new BinaryFormatter();
DataSetSurrogate dss = ser.Deserialize(new MemoryStream(buffer)) as DataSetSurrogate;
DataSet dsData = dss.ConvertToDataSet();
return dsData;
}
catch(Exception ex)
{
throw new DataSetConverterException(MSG_ERR_INTERNAL, new string[] { "DataSetZip", "Decompress" }, ex, null);
}
}
/// <summary>
/// 用.net自带的Gzip对数据流进行解压缩
/// </summary>
/// <param name="zipMs">数据流</param>
/// <param name="dataBlock">数据长度</param>
/// <returns>解压缩后的二进制数组</returns>
public static byte[] EtractBytesFormStream(MemoryStream zipMs, int dataBlock)
{
byte[] data = null;
int totalBytesRead = 0;
Stream zipStream = null;
zipStream = new GZipStream(zipMs, CompressionMode.Decompress);
while (true)
{
Array.Resize(ref data, totalBytesRead + dataBlock + 1);
int bytesRead = zipStream.Read(data, totalBytesRead, dataBlock);
if (bytesRead == 0)
{
break;
}
totalBytesRead += bytesRead;
}
Array.Resize(ref data, totalBytesRead);
return data;
}
}

码农公寓

相关文章