平武建站

.NETCore如何实现定时抓取网站文章并发送到邮箱-创新互联

小编给大家分享一下.NET Core如何实现定时抓取网站文章并发送到邮箱，希望大家阅读完这篇文章之后都有所收获，下面让我们一起去探讨吧！

建网站原本是网站策划师、网络程序员、网页设计师等，应用各种网络程序开发技术和网页设计技术配合操作的协同工作。成都创新互联专业提供网站设计、做网站,网页设计,网站制作(企业站、自适应网站建设、电商门户网站)等服务,从网站深度策划、搜索引擎友好度优化到用户体验的提升,我们力求做到极致!

准备

作为一个持续运行的工具，没有日志记录怎么行，我准备使用的是NLog来记录日志，它有个日志归档功能非常不错。在http请求中，由于网络问题吧可能会出现失败的情况，这里我使用Polly来进行Retry。使用HtmlAgilityPack来解析网页，需要对xpath有一定了解。下面是详细说明：

组件名用途github
NLog记录日志https://github.com/NLog/NLog
Polly当http请求失败，进行重试https://github.com/App-vNext/Polly
HtmlAgilityPack网页解析https://github.com/zzzprojects/html-agility-pack
MailKit发送邮件https://github.com/jstedfast/MailKit

有不了解的组件，可以通过访问github获取资料。

参考文章


https://www.jb51.net/article/112595.htm


获取&解析博客园首页数据

我是用的是HttpWebRequest来进行http请求，下面分享一下我简单封装的类库：

using System;
using System.IO;
using System.Net;
using System.Text;

namespace CnBlogSubscribeTool
{
 /// 
 /// Simple Http Request Class
 /// .NET Framework >= 4.0
 /// Author:stulzq
 /// CreatedTime:2017-12-12 15:54:47
 /// 
 public class HttpUtil
 {
 static HttpUtil()
 {
  //Set connection limit ,Default limit is 2
  ServicePointManager.DefaultConnectionLimit = 1024;
 }

 /// 
 /// Default Timeout 20s
 /// 
 public static int DefaultTimeout = 20000;

 /// 
 /// Is Auto Redirect
 /// 
 public static bool DefalutAllowAutoRedirect = true;

 /// 
 /// Default Encoding
 /// 
 public static Encoding DefaultEncoding = Encoding.UTF8;

 /// 
 /// Default UserAgent
 /// 
 public static string DefaultUserAgent =
  "Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/62.0.3202.94 Safari/537.36"
  ;

 /// 
 /// Default Referer
 /// 
 public static string DefaultReferer = "";

 /// 
 /// httpget request
 /// 
 /// Internet Address
 /// string
 public static string GetString(string url)
 {
  var stream = GetStream(url);
  string result;
  using (StreamReader sr = new StreamReader(stream))
  {
  result = sr.ReadToEnd();
  }
  return result;

 }

 /// 
 /// httppost request
 /// 
 /// Internet Address
 /// Post request data
 /// string
 public static string PostString(string url, string postData)
 {
  var stream = PostStream(url, postData);
  string result;
  using (StreamReader sr = new StreamReader(stream))
  {
  result = sr.ReadToEnd();
  }
  return result;

 }

 /// 
 /// Create Response
 /// 
 /// 
 /// Is post Request
 /// Post request data
 /// 
 public static WebResponse CreateResponse(string url, bool post, string postData = "")
 {
  var httpWebRequest = WebRequest.CreateHttp(url);
  httpWebRequest.Timeout = DefaultTimeout;
  httpWebRequest.AllowAutoRedirect = DefalutAllowAutoRedirect;
  httpWebRequest.UserAgent = DefaultUserAgent;
  httpWebRequest.Referer = DefaultReferer;
  if (post)
  {

  var data = DefaultEncoding.GetBytes(postData);
  httpWebRequest.Method = "POST";
  httpWebRequest.ContentType = "application/x-www-form-urlencoded;charset=utf-8";
  httpWebRequest.ContentLength = data.Length;
  using (var stream = httpWebRequest.GetRequestStream())
  {
   stream.Write(data, 0, data.Length);
  }
  }

  try
  {
  var response = httpWebRequest.GetResponse();
  return response;
  }
  catch (Exception e)
  {
  throw new Exception(string.Format("Request error,url:{0},IsPost:{1},Data:{2},Message:{3}", url, post, postData, e.Message), e);
  }
 }

 /// 
 /// http get request
 /// 
 /// 
 /// Response Stream
 public static Stream GetStream(string url)
 {
  var stream = CreateResponse(url, false).GetResponseStream();
  if (stream == null)
  {

  throw new Exception("Response error,the response stream is null");
  }
  else
  {
  return stream;

  }
 }

 /// 
 /// http post request
 /// 
 /// 
 /// post data
 /// Response Stream
 public static Stream PostStream(string url, string postData)
 {
  var stream = CreateResponse(url, true, postData).GetResponseStream();
  if (stream == null)
  {

  throw new Exception("Response error,the response stream is null");
  }
  else
  {
  return stream;

  }
 }


 }
}

获取首页数据

string res = HttpUtil.GetString(https://www.cnblogs.com);

.NET Core如何实现定时抓取网站文章并发送到邮箱

解析数据

我们成功获取到了html，但是怎么提取我们需要的信息（文章标题、地址、摘要、作者、发布时间）呢。这里就亮出了我们的利剑HtmlAgilityPack，他是一个可以根据xpath来解析网页的组件。

载入我们前面获取的html：

HtmlDocument doc = new HtmlDocument();
doc.LoadHtml(html);

.NET Core如何实现定时抓取网站文章并发送到邮箱

从上图中，我们可以看出，每条文章所有信息都在一个class为post_item的div里，我们先获取所有的class=post_item的div

//获取所有文章数据项
var itemBodys = doc.DocumentNode.SelectNodes("//div[@class='post_item_body']");

我们继续分析，可以看出文章的标题在class=post_item_body的div下面的h4标签下的a标签，摘要信息在class=post_item_summary的p标签里面，发布时间和作者在class=post_item_foot的div里，分析完毕，我们可以取出我们想要的数据了：

foreach (var itemBody in itemBodys)
{
 //标题元素
 var titleElem = itemBody.SelectSingleNode("h4/a");
 //获取标题
 var title = titleElem?.InnerText;
 //获取url
 var url = titleElem?.Attributes["href"]?.Value;

 //摘要元素
 var summaryElem = itemBody.SelectSingleNode("p[@class='post_item_summary']");
 //获取摘要
 var summary = summaryElem?.InnerText.Replace("\r\n", "").Trim();

 //数据项底部元素
 var footElem = itemBody.SelectSingleNode("div[@class='post_item_foot']");
 //获取作者
 var author = footElem?.SelectSingleNode("a")?.InnerText;
 //获取文章发布时间
 var publishTime = Regex.Match(footElem?.InnerText, "\\d+-\\d+-\\d+ \\d+:\\d+").Value;
 Console.WriteLine($"标题：{title}");
 Console.WriteLine($"网址：{url}");
 Console.WriteLine($"摘要：{summary}");
 Console.WriteLine($"作者：{author}");
 Console.WriteLine($"发布时间：{publishTime}");
 Console.WriteLine("--------------华丽的分割线---------------");
}

运行一下：

.NET Core如何实现定时抓取网站文章并发送到邮箱

我们成功的获取了我们想要的信息。现在我们定义一个Blog对象将它们装起来。

public class Blog
{
 /// 
 /// 标题
 /// 
 public string Title { get; set; }

 /// 
 /// 博文url
 /// 
 public string Url { get; set; }

 /// 
 /// 摘要
 /// 
 public string Summary { get; set; }

 /// 
 /// 作者
 /// 
 public string Author { get; set; }

 /// 
 /// 发布时间
 /// 
 public DateTime PublishTime { get; set; }
}

http请求失败重试

我们使用Polly在我们的http请求失败时进行重试，设置为重试3次。

//初始化重试器
_retryTwoTimesPolicy =
 Policy
 .Handle()
 .Retry(3, (ex, count) =>
 {
  _logger.Error("Excuted Failed! Retry {0}", count);
  _logger.Error("Exeption from {0}", ex.GetType().Name);
 });

测试一下：

.NET Core如何实现定时抓取网站文章并发送到邮箱

可以看到当遇到exception是Polly会帮我们重试三次，如果三次重试都失败了那么会放弃。

发送邮件

使用MailKit来进行邮件发送，它支持IMAP，POP3和SMTP协议，并且是跨平台的十分优秀。下面是根据前面园友的分享自己封装的一个类库：

using System.Collections.Generic;
using CnBlogSubscribeTool.Config;
using MailKit.Net.Smtp;
using MimeKit;

namespace CnBlogSubscribeTool
{
 /// 
 /// send email
 /// 
 public class MailUtil
 {
 private static bool SendMail(MimeMessage mailMessage,MailConfig config)
 {
  try
  {
  var smtpClient = new SmtpClient();
  smtpClient.Timeout = 10 * 1000; //设置超时时间
  smtpClient.Connect(config.Host, config.Port, MailKit.Security.SecureSocketOptions.None);//连接到远程smtp服务器
  smtpClient.Authenticate(config.Address, config.Password);
  smtpClient.Send(mailMessage);//发送邮件
  smtpClient.Disconnect(true);
  return true;

  }
  catch
  {
  throw;
  }

 }

 /// 
 ///发送邮件
 /// 
 /// 配置
 /// 接收人
 /// 发送人
 /// 标题
 /// 内容
 /// 附件
 /// 附件名
 /// 
 public static bool SendMail(MailConfig config,List receives, string sender, string subject, string body, byte[] attachments = null,string fileName="")
 {
  var fromMailAddress = new MailboxAddress(config.Name, config.Address);
  
  var mailMessage = new MimeMessage();
  mailMessage.From.Add(fromMailAddress);
  
  foreach (var add in receives)
  {
  var toMailAddress = new MailboxAddress(add);
  mailMessage.To.Add(toMailAddress);
  }
  if (!string.IsNullOrEmpty(sender))
  {
  var replyTo = new MailboxAddress(config.Name, sender);
  mailMessage.ReplyTo.Add(replyTo);
  }
  var bodyBuilder = new BodyBuilder() { HtmlBody = body };

  //附件
  if (attachments != null)
  {
  if (string.IsNullOrEmpty(fileName))
  {
   fileName = "未命名文件.txt";
  }
  var attachment = bodyBuilder.Attachments.Add(fileName, attachments);

  //解决中文文件名乱码
  var charset = "GB18030";
  attachment.ContentType.Parameters.Clear();
  attachment.ContentDisposition.Parameters.Clear();
  attachment.ContentType.Parameters.Add(charset, "name", fileName);
  attachment.ContentDisposition.Parameters.Add(charset, "filename", fileName);

  //解决文件名不能超过41字符
  foreach (var param in attachment.ContentDisposition.Parameters)
   param.EncodingMethod = ParameterEncodingMethod.Rfc2047;
  foreach (var param in attachment.ContentType.Parameters)
   param.EncodingMethod = ParameterEncodingMethod.Rfc2047;
  }

  mailMessage.Body = bodyBuilder.ToMessageBody();
  mailMessage.Subject = subject;

  return SendMail(mailMessage, config);

 }
 }
}

测试一下：

.NET Core如何实现定时抓取网站文章并发送到邮箱

说明

关于抓取数据和发送邮件的调度，程序异常退出的数据处理等等，在此我就不详细说明了，有兴趣的看源码（文末有github地址）

抓取数据是增量更新的。不用RSS订阅的原因是RSS更新比较慢。

完整的程序运行截图：

.NET Core如何实现定时抓取网站文章并发送到邮箱

每发送一次邮件，程序就会将记录时间调整到今天的9点，然后每次抓取数据之后就会判断当前时间减去记录时间是否大于等于24小时，如果符合就发送邮件并且更新记录时间。

收到的邮件截图：

.NET Core如何实现定时抓取网站文章并发送到邮箱

截图中的邮件标题为13日但是邮件内容为14日，是因为我为了演示效果，将今天（14日）的数据copy到了13日的数据里面，不要被误导了。

还提供一个附件便于收集整理：

.NET Core如何实现定时抓取网站文章并发送到邮箱

看完了这篇文章，相信你对“.NET Core如何实现定时抓取网站文章并发送到邮箱”有了一定的了解，如果想了解更多相关知识，欢迎关注创新互联行业资讯频道，感谢各位的阅读！


标题名称：.NETCore如何实现定时抓取网站文章并发送到邮箱-创新互联
标题链接：http://pwwzsj.com/article/djigpg.html

其他资讯