如果任何集合包含超过 100 个文档,MEAN 堆栈应用程序将停止工作

Posted

技术标签:

【中文标题】如果任何集合包含超过 100 个文档,MEAN 堆栈应用程序将停止工作【英文标题】:MEAN stack app stops working if any collection has more than 100 documents 【发布时间】:2019-01-23 23:42:25 【问题描述】:

我有一个运行以下版本的应用

angularjs 1.46 mongo 4.0.0 猫鼬 4.1.12 快递4.7.4 节点 8.11.3

只要我的所有表格包含 100 个或更少的文档,一切都很好。一旦我到达 101,它就会停止返回任何文件。这些是只有一个索引的小文档,所以大小不是问题。我在想某处有一个我找不到的设置导致了这种情况,但这是我第一次使用这些技术。这种行为在本地(在 windows 机器上)和部署在 AWS unix 机器上(通过 git 传输的代码)都会发生。

我已将其简化为。我已经定义了一个简单的模型和路线来尝试隔离问题。因此,我只是将路线放在浏览器中,我认为这会消除等式的角度。最多 100 个文档,数据在浏览器中返回。 101 文档并且没有响应,但是 get 调用出现错误(见下文)。在开发人员工具中,当我查看 network>xhr 时,它说它在错误最终回来之前已经停止或等待了几分钟。在 addCtrl.js 中,未达到日志语句。所以它在 GET 调用的某个地方停滞不前,我只是不知道为什么 101 是一个神奇的路障。

如果我手动返回记录(将 json 直接粘贴到路由的返回中),它可以正常工作。所以它似乎是 mongo/mongoose/node 端的东西(至少我认为这就是它的意思)。

在查看它停止运行的位置时,它似乎是 angular.js 文件中的第 10695 行

xhr.send(isUndefined(post) ? null : post);

对于失败的运行,它会这样结束

为了成功运行,它看起来像这样

这里是路由中get调用报错

angular.js:10695 GET http://localhost:3000/censusBlocks/ 0 () (匿名)@ angular.js:10695 sendReq @ angular.js:10514 serverRequest@angular.js:10221 processQueue@angular.js:14678 (匿名)@ angular.js:14694 $eval @ angular.js:15922 $digest @ angular.js:15733 $apply @ angular.js:16030 bootstrapApply @ angular.js:1660 调用 @ angular.js:4476 doBootstrap @ angular.js:1658 bootstrap @ angular.js:1678 angularInit @ angular.js:1572 (匿名) @ angular.js:28821 触发器 @ angular.js:3022 eventHandler @ angular.js:3296

运行之间唯一不同的是文档的数量。我实在想不通。

我确实发现如果我使用var query = CensusBlock.find().limit(itemcount); 并将项目计数设置为 101,那么它将返回 101 并且工作正常。但是如果我将限制设置为 102,它就会再次停止工作。或者,如果我将文档数增加到 102,它也会再次停止工作。

我也尝试使用 Mongo 版本 3.6.6 并得到相同的行为。我也刚刚使用 npm install 在新计算机上尝试过(我手动复制了 angular.js 文件),但问题仍然存在。我知道其他人无法复制,但我无法阻止它。所以我真的很困惑和沮丧。

这是代码,非常简单,所以我觉得这一定是某个地方的一些奇怪设置,我就是不知道在哪里。

package.json


  "name": "testApp",
  "version": "1.0.0",
  "description": "TEst",
  "main": "server.js",
  "author": "gina",
  "dependencies": 
    "express": "~4.7.2",
    "mongoose": "~4.1.0",
    "body-parser": "~1.5.2"
  

server.js

// Dependencies
// -----------------------------------------------------
var express         = require('express');
var mongoose        = require('mongoose');
var port            = process.env.PORT || 3000;
var bodyParser      = require('body-parser');

var app = express();


// Express Configuration
// -----------------------------------------------------
// Sets the connection to MongoDB
mongoose.connect("mongodb://localhost/test");

// Logging and Parsing
app.use(express.static(__dirname + '/public'));                 // sets the static files location to public
app.use('/bower_components',  express.static(__dirname + '/bower_components')); // Use BowerComponents
app.use(bodyParser.json());                                     // parse application/json
app.use(bodyParser.urlencoded(extended: true));               // parse application/x-www-form-urlencoded
app.use(bodyParser.text());                                     // allows bodyParser to look at raw text
app.use(bodyParser.json( type: 'application/vnd.api+json'));  // parse application/vnd.api+json as json

// Routes
// ------------------------------------------------------
require('./app/routes.js')(app);


// Listen
// -------------------------------------------------------
app.listen(port);
console.log('App listening on port ' + port);

routes.js。请注意,查询没有 .limit,它只是试图获取所有文档。如上所述,添加 .limit(101) 似乎可以使其工作,但是每次调用之前都必须获取文档。手动将记录放在这里可以消除这个问题。

// Dependencies
var mongoose        = require('mongoose');
var CensusBlock     = require('./model.js');

// Opens App Routes
module.exports = function(app) 

    // GET Routes
    // --------------------------------------------------------
    // Retrieve the censuslocks from the db
    app.get('/censusBlocks', function (req, res) 
        var blocklist = new CensusBlock(req.body);
        console.log('in route censusblocks'); //This reports
        var query = CensusBlock.find();
        //var query = CensusBlock.find().limit(itemcount); //This seems to work if itemcount is less than or equal to the document count
        query.exec(function (err, blocklist) 
            if (err) 
                console.log(`Error: $err`); 
                res.send(err);
            
            // If no errors are found, it responds with a JSON of all sites
            console.log('in route censusblocks query return'); //This does not report for 101
            res.json(blocklist);

            //Manually returning the data here (as shown below) works so it's the get that's failing somehow
            //return res.json([…]);
        );
    );
;  

app.js

// Declares the initial angular module "meanApp". Module grabs other controllers and services.
var app = angular.module('meanApp', ['addCtrl']);

添加Ctrl.js

// Creates the addCtrl Module and Controller.
// var addCtrl = angular.module('addCtrl', ['$scope', '$http']); //causes compile error as noted in comments
var addCtrl = angular.module('addCtrl', []);
addCtrl.controller('addCtrl', function($scope, $http)

    // Initializes Variables
    // ----------------------------------------------------------------------------
    $scope.formData = ;

    // Functions
    // ----------------------------------------------------------------------------
    $http.get('/censusBlocks/').success(function (response) 
        console.log('There are ' + response.length + ' censusblocks'); //This does not report for 101 docs
        $scope.blocks = response;
    ).error(function ()  );
);

model.js

// Pulls Mongoose dependency for creating schemas
var mongoose    = require('mongoose');
var Schema      = mongoose.Schema;

var CensusBlockSchema = new Schema(
    geoid10: Number,
    intptlat10: Number,
    intptlon10: Number,
    blockarea: Number
);

CensusBlockSchema.index( geoid10: 1 ,  unique: true );

module.exports = mongoose.model('censusblocks', CensusBlockSchema);

config.js

// Sets the MongoDB Database options
module.exports = 

    local:
    
        name: "testapp",
        url: "mongodb://localhost/test",
        port: 27017
    
;

index.html

<!doctype html>

<html class="no-js" ng-app="meanApp">
<head>
    <meta charset="utf-8">
    <title>Scotch MEAN Map</title>
    <meta name="description" content="test App">
    <meta name="viewport" content="width=device-width, initial-scale=1">
    <!-- JS Source -->
    <script src="js/angular.js"></script>
     <!-- Angular Scripts -->
    <script src="js/app.js"></script>
    <script src="js/addCtrl.js"></script>
</head>
<body ng-controller="addCtrl">
    <div class="container">
        <div class="form-group">
            <label for="census block">Pick the Census Block</label>
            <select label="census block" ng-model="formdata.selectedBlock"  ng-options="x.geoid10 for x in blocks | orderBy:'geoid10' "></select>
        </div>

    </div>
</body>
</html>

【问题讨论】:

您说您在没有 Angular 部分进行测试的情况下执行此操作?我刚刚完全尝试了您的代码和相同的数据库版本以及所有内容,没问题。眨眼间就获得了 150 条记录。 我不完全确定,但是在您的get 路由中,如果您遇到错误,我很确定您应该使用return res.send(err) 或者更好的是res.send(err); return next(err); 发送要表达的错误。我想知道您是否遇到错误并且res.json(blocklist) 出现问题并且它正在默默地失败。另外,尝试在 mongo shell 中执行相同的查询,看看是否有错误(将问题隔离到 mongo)。 @Paul 我肯定有角部分。我只是在浏览器窗口中直接调用以尝试隔离问题。 @JosephSerido 昨晚在调查时我确实在 mongo shell 中运行了查询,它返回正常。我用你的第二个建议更新了路线,但没有看到任何不同的行为。 好吧,我也很感兴趣的是,在成功运行时,您会得到 304 而不是 200。这意味着它是从浏览器缓存中提取而不是访问服务器。尝试清除缓存并使用 【参考方案1】:

哇,很抱歉之前没有注意到这一点,但是您未能将依赖项注入到您的模块中。

控制器需要 $scope 和 $http 所以你应该声明它们:

var addCtrl = angular.module('addCtrl', ['$scope', '$http']);

【讨论】:

+1 因为这应该在那里,但我不明白这如何解释 OP 的应用程序如何处理 100 个文档,而不是 101 个。 是的,我无法复制那部分。 当我添加它时,我得到一个编译错误:var addCtrl = angular.module('addCtrl', ['$scope', '$http']); 产生错误:[$injector:nomod] 模块 '$scope' 不可用!您要么拼错了模块名称,要么忘记加载它。如果注册模块,请确保将依赖项指定为第二个参数。【参考方案2】:

这是版本不兼容的问题。我将 mongoose 更新到 5.2.9,现在它可以工作了。

列出兼容性的猫鼬页面是https://mongoosejs.com/docs/compatibility.html

它说(以防链接断开)

MongoDB 服务器 4.0.x:猫鼬 ^5.2.0

【讨论】:

如果可能,您能否链接到一篇文章/帖子,了解您是如何发现不兼容问题的?我很想知道您在哪里找到了解决方案。 @JosephSerido 我添加了链接。

以上是关于如果任何集合包含超过 100 个文档,MEAN 堆栈应用程序将停止工作的主要内容,如果未能解决你的问题,请参考以下文章

getGeoPoint() 方法在调用时返回 null。 Firebase 集合中有超过 1 个文档

Node.js 和 MongoDB 如果存在文档完全匹配,则忽略插入

MEAN Mongodb 替换集合并创建文档

FireStore 文档如何在子集合中读取计算

MongoDB固定集合

MongoDB的固定集合