asp.net HttpWebRequest自动识别网页编码

 更新时间:2008年09月10日 01:04:55   作者:  
HttpWebRequest获取网页源代码时自动识别网页编码,通过读取页面中的charset和读取http头中的编码信息获取页面的编码,基本可以正确获取网页编码

复制代码 代码如下:

static string GetEncoding(string url)
{
HttpWebRequest request = null;
HttpWebResponse response = null;
StreamReader reader = null;
try
{
request = (HttpWebRequest)WebRequest.Create(url);
request.Timeout = 20000;
request.AllowAutoRedirect = false;

response = (HttpWebResponse)request.GetResponse();
if (response.StatusCode == HttpStatusCode.OK && response.ContentLength < 1024 * 1024)
{
if (response.ContentEncoding != null && response.ContentEncoding.Equals("gzip", StringComparison.InvariantCultureIgnoreCase))
reader = new StreamReader(new GZipStream(response.GetResponseStream(), CompressionMode.Decompress));
else
reader = new StreamReader(response.GetResponseStream(), Encoding.ASCII);

string html = reader.ReadToEnd();

Regex reg_charset = new Regex(@"charset\b\s*=\s*(?<charset>[^""]*)");
if (reg_charset.IsMatch(html))
{
return reg_charset.Match(html).Groups["charset"].Value;
}
else if (response.CharacterSet != string.Empty)
{
return response.CharacterSet;
}
else
return Encoding.Default.BodyName;
}
}
catch
{
}
finally
{

if (response != null)
{
response.Close();
response = null;
}
if (reader != null)
reader.Close();

if (request != null)
request = null;

}

return Encoding.Default.BodyName;
}

/// <summary>
/// 获取源代码
/// </summary>
/// <param name="url"></param>
/// <returns></returns>
static string GetHtml(string url, Encoding encoding)
{
HttpWebRequest request = null;
HttpWebResponse response = null;
StreamReader reader = null;
try
{
request = (HttpWebRequest)WebRequest.Create(url);
request.Timeout = 20000;
request.AllowAutoRedirect = false;

response = (HttpWebResponse)request.GetResponse();
if (response.StatusCode == HttpStatusCode.OK && response.ContentLength < 1024 * 1024)
{
if (response.ContentEncoding != null && response.ContentEncoding.Equals("gzip", StringComparison.InvariantCultureIgnoreCase))
reader = new StreamReader(new GZipStream(response.GetResponseStream(), CompressionMode.Decompress), encoding);
else
reader = new StreamReader(response.GetResponseStream(), encoding);
string html = reader.ReadToEnd();

return html;
}
}
catch
{
}
finally
{

if (response != null)
{
response.Close();
response = null;
}
if (reader != null)
reader.Close();

if (request != null)
request = null;

}

return string.Empty;
}

相关文章

  • GridView中动态设置CommandField是否可用或可见的小例子

    GridView中动态设置CommandField是否可用或可见的小例子

    GridView中动态设置CommandField是否可用或可见的小例子,需要的朋友可以参考一下
    2013-05-05
  • ASP.NET Core使用GraphQL第二章之中间件

    ASP.NET Core使用GraphQL第二章之中间件

    这篇文章主要给大家介绍了关于ASP.NET Core使用GraphQL第二章之中间件的相关资料,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2018-11-11
  • asp.net中js和jquery调用ashx的不同方法分享

    asp.net中js和jquery调用ashx的不同方法分享

    asp.net中js和jquery调用ashx的不同方法分享,需要的朋友可以参考一下
    2013-06-06
  • GridView中checkbox"全选/取消"完美兼容IE和Firefox

    GridView中checkbox"全选/取消"完美兼容IE和Firefox

    GridView中checkbox的的"全选/取消"使用还是比较频繁的,本文有个不错的示例完美兼容IE和Firefox,感兴趣的朋友可以参考下,希望对大家有所帮助
    2013-10-10
  • ADO.NET防SQL注入与使用参数增删改查

    ADO.NET防SQL注入与使用参数增删改查

    这篇文章介绍了ADO.NET防SQL注入与使用参数实现增删改查的方法,文中通过示例代码介绍的非常详细。对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2022-05-05
  • NET 弹出页面窗口选择返回值

    NET 弹出页面窗口选择返回值

    在网页中 点击一个按钮 弹出一个页面窗口,选择弹出页面窗口的值,关闭窗口,界面得到值
    2014-03-03
  • C#中常用的IO操作介绍

    C#中常用的IO操作介绍

    这篇文章介绍了C#中常用的IO操作,文中通过示例代码介绍的非常详细。对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2022-06-06
  • Visual Studio 2019 使用 Live Share的教程图解

    Visual Studio 2019 使用 Live Share的教程图解

    Visual Studio 2019 在今天发布(北京时间)了,这次带来了一个比较有趣的 Live Share 功能,使用它可以进行更好的协作开发。这篇文章主要介绍了Visual Studio 2019 使用 Live Share的教程,需要的朋友可以参考下
    2019-04-04
  • .Net弹性和瞬态故障处理库Polly实现弹性策略

    .Net弹性和瞬态故障处理库Polly实现弹性策略

    这篇文章介绍了.Net弹性和瞬态故障处理库Polly实现弹性策略的方法,文中通过示例代码介绍的非常详细。对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2022-06-06
  • ASP.NET之自定义异步HTTP处理程序(图文教程)

    ASP.NET之自定义异步HTTP处理程序(图文教程)

    前面我们学习了关于关于自定义同步HTTP处理程序,相信大家可能感觉有所成就,但是这种同步的机制只能对付客户访问较少的情况或者数据处理量不大的情况,而今天这篇文章就是解决同步HTTP处理程序的这个致命缺点,有效的使用服务器的资源
    2013-01-01

最新评论