在 WCF 服务中传输大量数据

Posted 2023-05-07

技术标签:

【中文标题】在 WCF 服务中传输大量数据【英文标题】：Transfer large amount of data in WCF service 【发布时间】：2012-01-03 18:34:21 【问题描述】：

我在 WCF 中创建了一个 Web 服务，它返回超过 54000 个数据行，每行有 10 个数据。我使用 wsHttpBinding 进行通信。该服务适用于较少的数据（即 2000 行），但在尝试发送具有 50000+ 行（~2MB）的大型记录集时它会崩溃。异常信息是这样的

接收到http://localhost:9002/MyService.svc 的 HTTP 响应时出错。这可能是由于服务端点绑定未使用 HTTP 协议。这也可能是由于服务器中止了 HTTP 请求上下文（可能是由于服务关闭）。有关详细信息，请参阅服务器日志。

请不要告诉我在客户端使用分页 - 我知道它会解决问题。但我需要客户端中的全部数据。

我在服务器上的服务配置如下

<system.serviceModel>
  <bindings>
    <wsHttpBinding>
      <binding name="MyWsHttpBinding" />
    </wsHttpBinding>
  </bindings>
  <services>
    <service name="AdminService">
      <endpoint address="AdminSrv"
                binding="wsHttpBinding"
                contract="IAdminService"/>
      <endpoint address="mex" binding="mexHttpBinding" contract="IMetadataExchange" />
      <host>
        <baseAddresses>
          <add baseAddress="/Bus/IRfotoWCF" />
        </baseAddresses>
      </host>
    </service>
  </services>
  <behaviors>
    <serviceBehaviors>
      <behavior>
        <!-- To avoid disclosing metadata information, 
                  set the value below to false and remove the metadata endpoint above before deployment -->
        <serviceMetadata httpGetEnabled="True"/>
        <!-- To receive exception details in faults for debugging purposes, 
                  set the value below to true.  Set to false before deployment 
                  to avoid disclosing exception information -->
        <serviceDebug includeExceptionDetailInFaults="True" />
      </behavior>
    </serviceBehaviors>
  </behaviors>
  <serviceHostingEnvironment multipleSiteBindingsEnabled="true"></serviceHostingEnvironment>
</system.serviceModel>

我的客户端配置如下

<system.serviceModel>
  <bindings>
    <basicHttpBinding>
      <binding name="BasicHttpBinding_IAdminService" closeTimeout="00:01:00"
               openTimeout="00:01:00" receiveTimeout="00:10:00" sendTimeout="00:01:00"
               allowCookies="false" bypassProxyOnLocal="false" hostNameComparisonMode="StrongWildcard"
               maxBufferSize="65536" maxBufferPoolSize="524288" maxReceivedMessageSize="65536"
               messageEncoding="Text" textEncoding="utf-8" transferMode="Buffered" 
               useDefaultWebProxy="true">
        <readerQuotas maxDepth="32" maxStringContentLength="8192" maxArrayLength="16384" 
                      maxBytesPerRead="4096" maxNameTableCharCount="16384" />
        <security mode="None">
          <transport clientCredentialType="None" proxyCredentialType="None" realm="" />
          <message clientCredentialType="UserName" algorithmSuite="Default" />
        </security>
      </binding>
    </basicHttpBinding>
  </bindings>
  <client>
    <endpoint address="http://localhost/TestService/AdminService.svc" 
              binding="basicHttpBinding" bindingConfiguration="BasicHttpBinding_IAdminService"
              contract="IAdminService" name="BasicHttpBinding_IAdminService" />
  </client>
</system.serviceModel>

有人能帮我在客户端和服务器端进行精确配置吗？即使我需要将绑定从 wsHttpBinding 更改为 netTcpBinding - 我这样做也没问题。提前致谢。

【问题讨论】：

【参考方案1】：

经过大量调查，我终于找到了解决方案。实际上有很多事情需要改变。

需要在服务器端进行以下更改。

首先我必须在我的 httpRuntime 元素中将 maxRequestLength 设置为更大的值，以使请求运行更长的时间。

<system.web>    
<httpRuntime maxRequestLength="102400" />
</system.web>

第二我在maxBufferSize, maxBufferPoolSize, maxReceivedMessageSize上引入了带有自定义更改的netTcpBinding绑定，2147483647的值很大。

<binding name="myNetTcpBinding" 
maxBufferPoolSize="2147483647" 
maxBufferSize="524288" 
maxReceivedMessageSize="2147483647">

第三在serviceBehaviors和endpointBehaviors中添加maxItemsInObjectGraph，如下所示（不要忘记在service和endpoint节点中提及行为名称）

    <behaviors>
      <serviceBehaviors>        
        <behavior name="myNetTcpBehaviour">
          <serviceMetadata httpGetEnabled="true"/>
          <serviceDebug includeExceptionDetailInFaults="true"/>
          <dataContractSerializer maxItemsInObjectGraph="2147483647"/>
        </behavior>
      </serviceBehaviors>
      <endpointBehaviors>
        <behavior name="myNetTcpEndPointBehaviour">
          <dataContractSerializer maxItemsInObjectGraph="2147483647"/>
        </behavior>
      </endpointBehaviors>
    </behaviors>

最后我的服务器配置是这样的

<system.web>    
    <httpRuntime maxRequestLength="102400" />
</system.web>


  <system.serviceModel>
    <bindings>
      <wsHttpBinding>
        <binding name="MyWsHttpBinding" />
      </wsHttpBinding>
      <netTcpBinding>
        <binding name="myNetTcpBinding"
                 closeTimeout="00:01:00"
                 openTimeout="00:01:00"
                 receiveTimeout="00:10:00"
                 sendTimeout="00:01:00"
                 transactionFlow="false"
                 transferMode="Buffered"
                 transactionProtocol="OleTransactions"
                 hostNameComparisonMode="StrongWildcard"
                 listenBacklog="10"
                 maxBufferPoolSize="2147483647"
                 maxBufferSize="524288"
                 maxConnections="10"
                 maxReceivedMessageSize="2147483647">
          <readerQuotas maxDepth="32"
                        maxStringContentLength="8192"
                        maxArrayLength="16384"
                        maxBytesPerRead="4096"
                        maxNameTableCharCount="16384" />
          <reliableSession ordered="true"
                           inactivityTimeout="00:10:00"
                           enabled="false" />
          <security mode="Transport">
            <transport clientCredentialType="Windows" protectionLevel="EncryptAndSign" />
          </security>
        </binding>
      </netTcpBinding>
    </bindings>
    <services>
      <service name="AdminService" behaviorConfiguration="myNetTcpBehaviour">
        <endpoint address="AdminSrv" 
                  binding="netTcpBinding" 
                  bindingConfiguration="myNetTcpBinding"
                  contract="IAdminService"
                  behaviorConfiguration="myNetTcpEndPointBehaviour"/>

        <endpoint address="mex" binding="mexHttpBinding" contract="IMetadataExchange" />
        <host>
          <baseAddresses>
            <add baseAddress="/Bus/IRfotoWCF" />
          </baseAddresses>
        </host>
      </service>
    <behaviors>
      <serviceBehaviors>        
        <behavior name="myNetTcpBehaviour">
          <serviceMetadata httpGetEnabled="true"/>
          <serviceDebug includeExceptionDetailInFaults="true"/>
          <dataContractSerializer maxItemsInObjectGraph="2147483647"/>
        </behavior>
      </serviceBehaviors>
      <endpointBehaviors>
        <behavior name="myNetTcpEndPointBehaviour">
          <dataContractSerializer maxItemsInObjectGraph="2147483647"/>
        </behavior>
      </endpointBehaviors>
    </behaviors>
    <serviceHostingEnvironment multipleSiteBindingsEnabled="true"></serviceHostingEnvironment>
  </system.serviceModel>

现在在客户端配置你需要改变maxBufferSize="2147483647" maxBufferPoolSize="524288" maxReceivedMessageSize="2147483647"

并且还需要在端点行为配置中添加maxItemsInObjectGraph="2147483647"。

        <endpointBehaviors>
            <behavior name="myEndPointBehavior">
                <dataContractSerializer maxItemsInObjectGraph="2147483647" />
            </behavior>
        </endpointBehaviors>

现在我可以在 5.30 分钟 内传输 30000 行，其中查询执行了 10 秒，因此传输时间为 5.20 分钟 - 仍然很多 >.

随时发表评论和任何改进建议。

【讨论】：

我不明白。当一项服务在 5.20 分钟内等待另一项服务时，这是一个非常好的解决方案吗？我认为这是关于架构的大问题，但我找不到解决方案。我继续测试传输大数据的速度。使用“块”方法，我可以发送 300 000（！）行，在 4.34 分钟内将其保存到数据库，而我的服务配置没有任何更改。我只是将我的数据分成 50 行的块。您应该使用 Datacontract Serializer 而不是 XML。到目前为止，这是 reference.cs 中的手动替换作业。【参考方案2】：

如果您查看绑定详细信息，它们在服务器端和客户端上并不完全匹配。 maxBufferSize, maxBufferPoolSize, maxReceivedMessageSize 的属性也将在服务器端定义。然后你需要根据你正在查看的大小放置值。

【讨论】：

我已经在服务器端和客户端尝试了这些 maxBufferSize、maxBufferPoolSize、maxReceivedMessageSize 值 2147483647。还是一样的例外。我在您的帖子中看不到配置文件中的设置。您确定绑定配置设置正确吗？是的，我在本地服务器和客户端的绑定配置中配置了这些。但现在我已经解决了这个问题 - 请参阅答案。无论如何，谢谢，请随时对答案发表评论。很好，它帮助您找到了解决方案。【参考方案3】：

不要对大容量数据使用 WCF 上的 for 循环，而是使用用户定义的表类型（如果您使用 SQL）。它将时间从 6 分钟减少到 15-20 秒。

【讨论】：

以上是关于在 WCF 服务中传输大量数据的主要内容，如果未能解决你的问题，请参考以下文章

流式处理 WCF 大量对象

无法跨域传递大量数据

WCF传输1-你是否使用过压缩或Json序列化？

将大量数据从 servlet 传输到 android 应用程序

WCF传输1-你是否使用过压缩或Json序列化？

使用java每秒流式传输大量数据