router与服务器扩充

当我们的应用只有很少人用的时候,往往只需要一台服务器就可以支撑。但是随着用户的增加,一台服务器可能就无法承受同一时刻巨大的访问量,这需要我们对服务器进行伸缩扩充。

多服务器版本的聊天应用在分支tutorial-multi-server上,你需要执行如下命令来切换到多服务器分支上:

$ git checkout tutorial-multi-server

配置修改

在pomelo中,对服务器的扩充非常简单,只需要修改一下配置文件,多添几台服务器配置就行了,对于我们的聊天例子来说,如下下面所示,在config/servers.json中的配置:

{
 "development":{
      "connector":[
           {"id":"connector-server-1", "host":"127.0.0.1", "port":4050, "clientPort": 3050, "frontend": true},
           {"id":"connector-server-2", "host":"127.0.0.1", "port":4051, "clientPort": 3051, "frontend": true},
           {"id":"connector-server-3", "host":"127.0.0.1", "port":4052, "clientPort": 3052, "frontend": true}
       ],
      "chat":[
           {"id":"chat-server-1", "host":"127.0.0.1", "port":6050},
           {"id":"chat-server-2", "host":"127.0.0.1", "port":6051},
           {"id":"chat-server-3", "host":"127.0.0.1", "port":6052}
      ],
      "gate":[
       {"id": "gate-server-1", "host": "127.0.0.1", "clientPort": 3014, "frontend": true}
    ]
  },
  "production":{
    "connector":[
      {"id":"connector-server-1", "host":"127.0.0.1", "port":4050, "clientPort": 3050, "frontend": true},
      {"id":"connector-server-2", "host":"127.0.0.1", "port":4051, "clientPort": 3051, "frontend": true},
      {"id":"connector-server-3", "host":"127.0.0.1", "port":4052, "clientPort": 3052, "frontend": true}
    ],
    "chat":[
      {"id":"chat-server-1", "host":"127.0.0.1", "port":6050},
      {"id":"chat-server-2", "host":"127.0.0.1", "port":6051},
      {"id":"chat-server-3", "host":"127.0.0.1", "port":6052}
    ],
    "gate":[
      {"id": "gate-server-1", "host": "127.0.0.1", "clientPort": 3014, "frontend": true}
    ]
  }
}

router配置

与前面的每个服务器类型仅有一台服务器的例子相比,这里我们的connector和chat都具有多台服务器。因此需要考虑对用户请求的服务器分配问题。

对于gate服务器来说,在前面的例子中,由于只有一个connector服务器,所以直接返回仅有的一个服务器就行了,而这里有多台服务器,所以需要从中选择一个服务器的信息进行返回,这里我们增加了一个工具函数dispatch,它完成具体的分配运算,他使用用户的uid的crc32的校验码与connector服务器的个数取余,从而得到一个connector服务器,大致代码如下:

// util/dispatcher.js
module.exports.dispatch = function(key, list) {
    var index = Math.abs(crc.crc32(key)) % list.length;
      return list[index];
};

// gateHandler.js
handler.queryEntry = function(msg, session, next) {
  // ...

  // get all connectors
    var connectors = this.app.getServersByType('connector');

  // ...

  var res = dispatcher.dispatch(uid, connectors); // select a connector from all the connectors
  // do something with res
};

当客户端请求到来时,因为有多台chat服务器,需要选择由哪台chat服务器来服务,也就是前端服务器把这个客户端请求路由到哪个后端服务器上。配置路由使用application的route调用,这里我们也使用了前面提到的工具函数dispatch,使用同样的服务器分配策略,示例如下:

// app.js

// route definition for chat server
var chatRoute = function(session, msg, app, cb) {
  var chatServers = app.getServersByType('chat');

    if(!chatServers || chatServers.length === 0) {
        cb(new Error('can not find chat servers.'));
        return;
    }

    var res = dispatcher.dispatch(session.get('rid'), chatServers);

    cb(null, res.id);
};

app.configure('production|development', function() {
  app.route('chat', chatRoute);
});

其中chatRoute就是路由函数,他接受四个参数,返回一个其选择的后端服务器id,四个参数中,第一个是专门用作路由计算的参数,前端服务器路由请求给后端服务器发rpc调用时,会使用session作为计算路由的参数,但是当用户自定定义rpc的时候,用户完全可以自己定义这个参数的含义,当然也可以使用session。第二个参数msg描述了当前rpc调用的所有信息,包括调用的服务器类型,服务器名字,具体的调用方法等信息。第三个参数是一个上下文变量,一般情况下会由app来充当,第四个是一个获得到后端服务器id后的回调函数。

一些说明

  • 通过修改服务器的配置文件,并增加具体的路由选择配置,就可以很轻易地实现服务器的扩充。 对于我们这个应用来说,如果我们还想继续扩充我们的服务器,那么只需在servers.json里面继续增加服务器的配置就行了。

  • 如果我们一开始实现时就考虑以后的扩充,实现所有的路由选择函数的话,那么以后当需要扩充服务器的时候,只需要在servers.json里面增加相应的配置就行了。

  • 关于客户端请求的路由,你可能会问,为什么我们在单服务器的那个例子里,没有给chat定义router。那是因为如果我们不定义router的话,pomelo会使用一个默认的router完成路由,因为只有一台chat服务器,那么pomelo总会把所有的对其的请求路由给这个服务器,所以,我们在前一个例子中,就省略掉了chat的路由配置。

  • 实际应用中,我们一般都要自己实现router,而不使用pomelo默认的。使用多台服务器要考虑负载平衡,同时要尽量使得服务器的服务是无状态的。我们chat的例子中,定义的router就是使用了用户的rid的crc校验码作为键值对当前的所有chat服务器个数做了一个简单的hash运算,以使得所有的chat服务器的负载尽可能平衡。

小结

在这部分,我们实现了对服务器的扩充,它是如此的简单,只需要修改相应的服务器配置即可。下面我们将尝试使用pomelo的filter机制继续完善我们的聊天应用。

results matching ""

    No results matching ""