在线时间:8:00-16:00
迪恩网络APP
随时随地掌握行业动态
扫描二维码
关注迪恩网络微信公众号
转载自Csdn : http://blog.csdn.net/jubao_liang/article/details/4005438 几天前在博问中看到一个C# Socket问题,就想到笔者2004年做的一个省级交通流量接收服务器项目,当时的基本求如下:
当时,VS2003才发布年多,笔者也是接触C#不久。于是Google了国内国外网,希望找点应用C#解决Socket通信问题的思路和代码。最后,找 到了两篇帮助最大的文章:一篇是国人写的Socket接收器框架,应用了独立的客户端Socket会话(Session)概念,给笔者提供了一个接收服务 器的总体框架思路;另一篇是美国人写的,提出了多线程、分段接收数据包的技术方案,描述了多线程、异步Socket的许多实现细节,该文坚定了笔者采用多 线程和异步方式处理Socket接收器的技术路线。 具体实现和测试时笔者还发现,在Internet环境下的Socket应用中,需要系统有极强的容错能力:没有办法控制异常,就必须允许它们存在(附加源 代码中可以看到,try{}catch{}语句较多)。对此,笔者设计了一个专门的检查和清理线程,完成无效或超时会话的清除和资源释放工作。 依稀记得,国内框架作者的名称空间有ibm,认为是IBM公司职员,通过邮件后才知道其人在深圳。笔者向他请教了几个问题,相互探讨了几个技术关键点。可 惜,现在再去找,已经查不到原文和邮件了。只好借此机会,将本文献给这两个素未谋面的技术高人和同行,也盼望拙文或源码能给读者一点有用的启发和帮助。 1、主要技术思路 整个系统由三个核心线程组成,并由.NET线程池统一管理:
2、主要类简介 系统主要由3个类组成:
3、关键函数和代码 下面简介核心类TDatagramReceiver的关键实现代码。 3.1 系统启动 系统启动方法StartReceiver()首先清理资源、创建数据库连接、初始化若干计数值,然后创建服务器端侦听Socket对象,最后调用静态方法ThreadPool.QueueUserWorkItem()在线程池中创建3个核心处理线程。 /// <summary> /// 启动接收器 /// </summary> public bool StartReceiver() { try { _stopReceiver = true; this.Close(); if (!this.ConnectDatabase()) return false; _clientCount = 0; _datagramQueueCount = 0; _datagramCount = 0; _errorDatagramCount = 0; _exceptionCount = 0; _sessionTable = new Hashtable(_maxAllowClientCount); _datagramQueue = new Queue<TDatagram>(_maxAllowDatagramQueueCount); _stopReceiver = false; // 循环中均要该标志 if (!this.CreateReceiverSocket()) //建立服务器端 Socket 对象 { return false; } // 侦听客户端连接请求线程, 使用委托推断, 不建 CallBack 对象 if (!ThreadPool.QueueUserWorkItem(ListenClientRequest)) { return false; } // 处理数据包队列线程 if (!ThreadPool.QueueUserWorkItem(HandleDatagrams)) { return false; } // 检查客户会话状态, 长时间未通信则清除该对象 if (!ThreadPool.QueueUserWorkItem(CheckClientState)) { return false; } _stopConnectRequest = false; // 启动接收器,则自动允许连接 } catch { this.OnReceiverException(); _stopReceiver = true; } return !_stopReceiver; } 下面是创建侦听Socket对象的方法代码。 /// <summary> /// 创建接收服务器的 Socket, 并侦听客户端连接请求 /// </summary> private bool CreateReceiverSocket() { try { _receiverSocket = new Socket(AddressFamily.InterNetwork, SocketType.Stream, ProtocolType.Tcp); _receiverSocket.Bind(new IPEndPoint(IPAddress.Any, _tcpSocketPort)); // 绑定端口 _receiverSocket.Listen(_maxAllowListenQueueLength); // 开始监听 return true; } catch { this.OnReceiverException(); return false; } } 3.2 侦听客户端连接请求 服务器端循环等待客户端连接请求。一旦有请求,先判断客户端连接数是否超限,接着检测该客户端IP地址,一切正常后建立TSession对象,并调用异步方法接收客户端Socket数据包。 代码中,Socket读到数据时的回调AsyncCallback委托方法EndReceiveData()完成数据接收工作,正常情况下启动另一个异步BeginReceive()调用。 .NET中,每个异步方法都有自己的独立线程,异步处理其实也基于多线程机制的。下面代码中的异步套异步调用,既占用较大的系统资源,也给处理带来意想不到的结果,更是出现异常时难以控制和处理的关键所在。 /// <summary> /// 循环侦听客户端请求,由于要用线程池,故带一个参数 /// </summary> private void ListenClientRequest(object state) { Socket client = null; while (!_stopReceiver) { if (_stopConnectRequest) // 停止客户端连接请求 { if (_receiverSocket != null) { try { _receiverSocket.Close(); // 强制关闭接收器 } catch { this.OnReceiverException(); } finally { // 必须为 null,否则 disposed 对象仍然存在,将引发下面的错误 _receiverSocket = null; } } continue; } else { if (_receiverSocket == null) { if (!this.CreateReceiverSocket()) { continue; } } } try { if (_receiverSocket.Poll(_loopWaitTime, SelectMode.SelectRead)) { // 频繁关闭、启动时,这里容易产生错误(提示套接字只能有一个) client = _receiverSocket.Accept(); if (client != null && client.Connected) { if (this._clientCount >= this._maxAllowClientCount) { this.OnReceiverException(); try { client.Shutdown(SocketShutdown.Both); client.Close(); } catch { } } else if (CheckSameClientIP(client)) // 已存在该 IP 地址 { try { client.Shutdown(SocketShutdown.Both); client.Close(); } catch { } } else { TSession session = new TSession(client); session.LoginTime = DateTime.Now; lock (_sessionTable) { int preSessionID = session.ID; while (true) { if (_sessionTable.ContainsKey(session.ID)) // 有可能重复该编号 { session.ID = 100000 + preSessionID; } else { break; } } _sessionTable.Add(session.ID, session); // 登记该会话客户端 Interlocked.Increment(ref _clientCount); } this.OnClientRequest(); try // 客户端连续连接或连接后立即断开,易在该处产生错误,系统忽略之 { // 开始接受来自该客户端的数据 session.ClientSocket.BeginReceive(session.ReceiveBuffer, 0, session.ReceiveBufferLength, SocketFlags.None, EndReceiveData, session); } catch { session.DisconnectType = TDisconnectType.Exception; session.State = TSessionState.NoReply; } } } else if (client != null) // 非空,但没有连接(connected is false) { try { client.Shutdown(SocketShutdown.Both); client.Close(); } catch { } } } } catch { this.OnReceiverException(); if (client != null) { try { client.Shutdown(SocketShutdown.Both); client.Close(); } catch { } } } // 该处可以适当暂停若干毫秒 } // 该处可以适当暂停若干毫秒 } 3.3 处理数据包 该线程循环查看数据包队列,完成数据包的解析与存储等工作。具体实现时,如果队列中没有数据包,可以考虑等待若干毫秒,提高CPU利用率。 private void HandleDatagrams(object state) { while (!_stopReceiver) { this.HandleOneDatagram(); // 处理一个数据包 if (!_stopReceiver) { // 如果连接关闭,则重新建立,可容许几个连接错误出现 if (_sqlConnection.State == ConnectionState.Closed) { this.OnReceiverWork(); try { _sqlConnection.Open(); } catch { this.OnReceiverException(); } } } } } /// <summary> /// 处理一个包数据,包括:验证、存储 /// </summary> private void HandleOneDatagram() { TDatagram datagram = null; lock (_datagramQueue) { if (_datagramQueue.Count > 0) { datagram = _datagramQueue.Dequeue(); // 取队列数据 Interlocked.Decrement(ref _datagramQueueCount); } } if (datagram == null) return; datagram.Clear(); datagram = null; // 释放对象 } 3.4 检查与清理会话
本线程负责处理建立连接后的客户端会话TSession或Socket对象的关闭与资源清理工作,其它方法中出现异常等情况,尽可能标记相关TSession对象的属性NoReply=true,表示该会话已经无效、需要清理。 检查会话队列并清理资源分3步:第一步,Shutdown()客户端Socket,此时可能立即触发某些Socket的异步方法 EndReceive();第二步,Close()客户端Socket,释放占用资源;第三步,从会话表中清除该会话对象。其中,第一步完成后,某个 TSession也许不会立即到第二步,因为可能需要处理其异步结束方法。 需要指出, 由于涉及多线程处理,需要频繁加解锁操作,清理工作前先建立一个会话队列列副本sessionTable2,检查与清理该队副本列列的TSession对象。 /// <summary> /// 检查客户端状态(扫描方式,若长时间无数据,则断开) /// </summary> private void CheckClientState(object state) { while (!_stopReceiver) { DateTime thisTime = DateTime.Now; // 建立一个副本 ,然后对副本进行操作 Hashtable sessionTable2 = new Hashtable(); lock (_sessionTable) { foreach (TSession session in _sessionTable.Values) { if (session != null) { sessionTable2.Add(session.ID, session); } } } foreach (TSession session in sessionTable2.Values) // 对副本进行操作 { Monitor.Enter(session); try { if (session.State == TSessionState.NoReply) // 分三步清除一个 Session { session.State = TSessionState.Closing; if (session.ClientSocket != null) { try { // 第一步:shutdown session.ClientSocket.Shutdown(SocketShutdown.Both); } catch { } } } else if (session.State == TSessionState.Closing) { session.State = TSessionState.Closed; if (session.ClientSocket != null) { try { // 第二步: Close session.ClientSocket.Close(); } catch { } } } else if (session.State == TSessionState.Closed) { lock (_sessionTable) { // 第三步:remove from table _sessionTable.Remove(session.ID); Interlocked.Decrement(ref _clientCount); } this.OnClientRequest(); session.Clear(); // 清空缓冲区 } else if (session.State == TSessionState.Normal) // 正常的会话 { TimeSpan ts = thisTime.Subtract(session.LastDataReceivedTime); if (Math.Abs(ts.TotalSeconds) > _maxSocketDataTimeout) // 超时,则准备断开连接 { session.DisconnectType = TDisconnectType.Timeout; session.State = TSessionState.NoReply; // 标记为将关闭、准备断开 } } } finally { Monitor.Exit(session); } } // end foreach sessionTable2.Clear(); } // end while } 4 、结语 基于多线程处理的系统代价是比较大的,需要经常调用加/解锁方法lock()或Monitor.Enter(),需要经常创建处理线程等。从实际运行效果 看,笔者的实现方案有较好的稳定性:2005年4月到5月间,在一个普通PC机器上连续运行30多天不出一点故障。同时,笔者采用了时序区间判重等算法, 有效地提高了系统处理与响应速度。测试表明,在普通的PC机器(P4 2.0)上,可以做到0.5秒处理一个数据包,如果优化代码和服务器,还有较大的性能提升空间。 上面的代码是笔者实现的省级公路交通流量数据服务中心(DSC)项目中的接收服务器框架部分,整个系统还包括:数据转发交通部的转发服务器、数据远程查询客户端、综合报表数据处理系统、数据在线发布系统、系统运行监控系统等。 实际的接收服务器类及其辅助类超过3K行,整个系统则超过了60K。因为是早期实现的程序,难免有代码粗糙、方法欠妥的感觉,只有留待下个版本完善扩充 了。由于与甲方有保密合同和版权保护等,不可能公开全部源代码,删减也有不当之处,读者发现时请不吝指正。下面是带详细注释的代码下载URL。 附注:笔者补充了有关数据包界限、间断、重叠等内容,请参考指正。 技术
国庆假日的最后一天,用近9个小时写完了C# 实现的多线程异步Socket数据包接收器框架(包括删减代码的时间)。饭后散步回来再看,好家伙,有300多个Page Views了,超过笔者在codeproject上首日前几个小时的PV速度了。呵呵,如果发表在笔者原博客网上,估计就是自己反反复复修改记录的数十个PV了!终究是彼网牛人高手太多。 散步时仔细想想该文,发觉有三个Socket通信中关键与著名的问题没有讲到或没有讲清楚:
先补充异步BeginReceive()回调函数EndReceiveData()中的数据包分合函数ResolveBuffer()。 /// <summary> /// 1) 报文界限字符为<>,其它为合法字符, /// 2) 按报文头、界限标志抽取报文,可能合并包文 /// 3) 如果一次收完数据,此时 DatagramBuffer 为空 /// 4) 否则转存到包文缓冲区 session.DatagramBuffer /// </summary> private void ResolveBuffer(TSession session, int receivedSize) { // 上次留下的报文缓冲区非空(注意:必然含有开始字符 <,空时不含 <) bool hasBeginChar = (session.DatagramBufferLength > 0); int packPos = 0; // ReceiveBuffer 缓冲区中包的开始位置 int packLen = 0; // 已经解析的接收缓冲区大小 byte dataByte = 0; // 缓冲区字节 int subIndex = 0; // 缓冲区下标 while (subIndex < receivedSize) { // 接收缓冲区数据,要与报文缓冲区 session.DatagramBuffer 同时考虑 dataByte = session.ReceiveBuffer[subIndex]; if (dataByte == TDatagram.BeginChar) // 是数据包的开始字符<,则前面的包文均要放弃 { // <前面有非空串(包括报文缓冲区),则前面是错包文,防止 AAA<A,1,A> 两个报文一次读现象 if (packLen > 0) { Interlocked.Increment(ref _datagramCount); // 前面有非空字符 Interlocked.Increment(ref _errorDatagramCount); // 一个错误包 this.OnDatagramError(); } session.ClearDatagramBuffer(); // 清空会话缓冲区,开始一个新包 packPos = subIndex; // 新包起点,即<所在位置 packLen = 1; // 新包的长度(即<) hasBeginChar = true; // 新包有开始字符 } else if (dataByte == TDatagram.EndChar) // 数据包的结束字符 > { if (hasBeginChar) // 两个缓冲区中有开始字符< { ++packLen; // 长度包括结束字符> // >前面的为正确格式的包,则分析该包,并准备加入包队列 AnalyzeOneDatagram(session, packPos, packLen); packPos = subIndex + 1; // 新包起点。注意:subIndex 在循环最后处 + 1 packLen = 0; // 新包长度 } else // >前面没有开始字符,则认为结束字符>为一般字符,待后续的错误包处理 { ++packLen; // hasBeginChar = false; } } else // 非界限字符<>,就是是一般字符,长度 + 1,待解析包处理 { ++packLen; } ++subIndex; // 增加下标号 } // end while if (packLen > 0) // 剩下的待处理串,分两种情况 { // 剩下包文,已经包含首字符且不超长,转存到包文缓冲区中,待下次处理 if (hasBeginChar && packLen + session.DatagramBufferLength <= _maxDatagramSize) { session.CopyToDatagramBuffer(packPos, packLen); } else // 不含首字符,或超长 { Interlocked.Increment(ref _datagramCount); Interlocked.Increment(ref _errorDatagramCount); this.OnDatagramError(); session.ClearDatagramBuffer(); // 丢弃全部数据 } } } 分析包文AnalyzeOneDatagram()函数代码补充如下:
>格式的数据包加入到队列中
/// </summary> private void AnalyzeOneDatagram(TSession session, int packPos, int packLen) { if (packLen + session.DatagramBufferLength > _maxDatagramSize) // 超过长度限制 { Interlocked.Increment(ref _datagramCount); Interlocked.Increment(ref _errorDatagramCount); this.OnDatagramError(); } else // 一个首尾字符相符的包,此时需要判断其类型 { Interlocked.Increment(ref _datagramCount); TDatagram datagram = new TDatagram(); if (!datagram.CheckDatagramKind()) // 包格式错误(只能是短期BG、或长期SG包) { Interlocked.Increment(ref _datagramCount); Interlocked.Increment(ref _errorDatagramCount); this.OnDatagramError(); datagram = null; // 丢弃当前包 } else // 实时包、定期包,先解析数据,判断正误,并发回确认包 { datagram.ResolveDatagram(); if (true) // 正确的包才入包队列 { Interlocked.Increment(ref _datagramQueueCount); lock (_datagramQueue) { _datagramQueue.Enqueue(datagram); // 数据包入队列 } } else { Interlocked.Increment(ref _errorDatagramCount); this.OnDatagramError(); } } } session.ClearDatagramBuffer(); // 清包文缓冲区 } TSession的拷贝转存数据包文的方法CopyToDatagramBuffer()代码如下: /// <summary> /// 拷贝接收缓冲区的数据到数据缓冲区(即多次读一个包文) /// </summary> public void CopyToDatagramBuffer(int startPos, int packLen) { int datagramLen = 0; if (DatagramBuffer != null) datagramLen = DatagramBuffer.Length; // 调整长度(DataBuffer 为 null 不会出错) Array.Resize(ref DatagramBuffer, datagramLen + packLen); // 拷贝到数据就缓冲区 Array.Copy(ReceiveBuffer, startPos, DatagramBuffer, datagramLen, packLen); } 代码中注释比较详细了,下面指出其思路:
设计时考虑的另一个重要问题就是处理速度。如果自动观测站达到100个,此时5*60=300秒钟就有100个包,即每3秒种一个包,不存在处理速度慢问 题。但是,真正耗时的是判断包是否重复!特别地,当设备故障时存在混乱上传数据包现象,此时将存在大量的重复包。笔者采用了所谓的区间判重算法,较好地解 决了判重速度问题,使得系统具有很好的可伸缩性(分析算法的论文被EI核心版收录,呵呵,意外收获)。事实上,前年的交通部接收服务器还不具备该项功能, 可能是太费时间了。 还有,就是在.NET Framework的托管CLR下,系统本身的响应速度如何?当时的确没有把握,认为只要稳定性和速度满足要求就行了。三年半运行情况表明,系统有良好的处理速度、很好的稳定性、满足了部省要求。 |
请发表评论