107-SpringCloud
一、系统架构演变之路(回顾)
1.1 单一应用架构
当网站流量很小时,只需要一个应用,所有功能部署在一起,减少部署节点成本的框架称之为集中式框架。此时,用于简化增删改查工作量的数据访问框架(ORM)是影响项目开发的关键。
1.2 垂直应用架构
当访问量逐渐增大,单一应用增加机器带来的加速度越来越小,将应用拆成互不相干的几个应用,以提升效率。此时,用于加速前端页面开发的Web框架(MVC)是关键。
1.3 分布式服务架构
当垂直应用越来越多,应用之间交互不可避免,将核心业务抽取出来,作为独立的服务,逐渐形成稳定的服务中心,使前端应用能更快速的响应多变的市场需求。此时,用于提高业务复用及整合的分布式服务框架(RPC)是关键。
1.4 面向服务架构
典型代表有两个:流动计算架构和微服务架构;
流动计算架构:
当服务越来越多,容量的评估,小服务资源的浪费等问题逐渐显现,此时需增加一个调度中心基于访问压力实时管理集群容量,提高集群利用率。此时,用于提高机器利用率的资源调度和治理中心(SOA)是关键。流动计算架构的最佳实践阿里的Dubbo。
微服务架构
与流动计算架构很相似,除了具备流动计算架构优势外,微服务架构中的微服务可以独立部署,独立发展。且微服务的开发不会限制于任何技术栈。微服务架构的最佳实践是SpringCloud。
二、初识Spring Cloud
大家谈起的微服务,大多来讲说的只不过是种架构方式。其实现方式很多种:Spring Cloud,Dubbo,华为的Service Combo,Istio……。那么这么多的微服务架构产品中,我们为什么要用Spring Cloud?
- 后台硬:作为Spring家族的一员,有整个Spring全家桶靠山,背景十分强大。
- 技术强:Spring作为Java领域的前辈,可以说是功力深厚。有强力的技术团队支撑,一般人还真比不了
- 群众基础好:可以说大多数程序员的成长都伴随着Spring框架,试问:现在有几家公司开发不用Spring?Spring Cloud与Spring的各个框架无缝整合,对大家来说一切都是熟悉的配方,熟悉的味道。
- 使用方便:相信大家都体会到了SpringBoot给我们开发带来的便利,而Spring Cloud完全支持Spring Boot的开发,用很少的配置就能完成微服务框架的搭建
2.1 Spring Cloud简介
Spring Cloud是Spring旗下的项目之一,官网地址:http://projects.spring.io/spring-cloud/
Spring最擅长的就是集成,把世界上最好的框架拿过来,集成到自己的项目中。Spring Cloud并没有重复制造轮子,它只是将目前各家公司开发的比较成熟、经得起实际考验的服务框架组合起来,通过Spring Boot风格进行再封装屏蔽掉了复杂的配置和实现原理,最终给开发者留出了一套简单易懂、易部署和易维护的分布式系统开发工具包。
Spring Cloud也是一样,它将现在非常流行的一些技术整合到一起,实现了诸如:配置管理,服务发现,智能路由,负载均衡,熔断器,控制总线,集群状态等功能;协调分布式环境中各个系统,为各类服务提供模板性配置。其主要涉及的组件包括:
- Eureka:注册中心
- Zuul、Gateway:服务网关
- Ribbon:负载均衡
- Feign:服务调用
- Hystrix或Resilience4j:熔断器
**==Spring Cloud从技术架构上降低了对大型系统构建的要求和难度==**,使我们以非常低的成本(技术或者硬件)搭建一套高效、分布式、容错的平台,但Spring Cloud也不是没有缺点,小型独立的项目不适合使用。
2.2 Spring Cloud的版本
- SpringCloud是一系列框架组合,为了避免与框架版本产生混淆,采用新的版本命名方式,形式为大版本名+子版本名称
- 大版本名用伦敦地铁站名:
- 子版本名称三种
- SNAPSHOT:快照版本,尝鲜版,随时可能修改
- M版本,MileStone,M1表示第一个里程碑版本,一般同时标注PRE,表示预览版
- SR,Service Release,SR1表示第一个正式版本,同时标注GA(Generally Available),稳定版
2.3 SpringCloud与SpringBoot版本匹配关系
SpringBoot | SpringCloud |
---|---|
1.2.x | Angel版本 |
1.3.x | Brixton版本 |
1.4.x | Camden版本 |
1.5.x | Dalston版本、Edgware |
2.0.x | Finchley版本 |
2.1.x | Greenwich GA版本 (2019年2月发布) |
鉴于SpringBoot与SpringCloud关系,SpringBoot建议采用2.1.x版本
三、模拟微服务业务场景
**目标:模拟一个最简单的服务调用场景,场景中包含微服务提供者(Producer)和微服务调用者(Consumer)**,方便后面学习微服务架构
注意:实际开发中,每个微服务为一个独立的SpringBoot工程。
3.1 创建父工程
微服务中需要同时创建多个项目,为了方便,先创建一个父工程,然后后续的工程都以这个工程为父,实现maven的聚合。这样可以在一个窗口看到所有工程。在实际开发中,每个微服务可独立一个工程
1 |
|
3.2 创建服务提供者(provider)工程
目标:新建一个项目provider_service,对外提供查询用户的服务
实现步骤:
- 创建SpringBoot工程,勾选依赖坐标
- 创建User表、创建实体User
- 编写三层架构:Mapper、Service、controller
- 编写查询方法,基于注解编写查询语句
- 在application.properties中添加配置:端口,数据库连接信息
- 访问测试地址
实现过程:
创建SpringBoot工程
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0
http://maven.apache.org/xsd/maven-4.0.0.xsd">
<parent>
<artifactId>heima-springcloud</artifactId>
<groupId>com.itheima</groupId>
<version>1.0-SNAPSHOT</version>
</parent>
<modelVersion>4.0.0</modelVersion>
<groupId>com.itheima</groupId>
<artifactId>user-service</artifactId>
<dependencies>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<dependency>
<groupId>mysql</groupId>
<artifactId>mysql-connector-java</artifactId>
</dependency>
<dependency>
<groupId>tk.mybatis</groupId>
<artifactId>mapper-spring-boot-starter</artifactId>
</dependency>
</dependencies>
</project>在application.properties中添加配置:端口,数据库连接配置信息
1
2
3
4
5
6
7
8# 端口
server.port: 9091
# 数据库连接配置信息
spring.datasource.driver-class-name: com.mysql.cj.jdbc.Driver
spring.datasource.url: jdbc:mysql://127.0.0.1:3306/springcloud?useUnicode=true&characterEncoding=UTF-8&serverTimezone=UTC
spring.datasource.password: root
spring.datasource.username: root
mybatis.type-aliases-package: com.itheima.user.pojo编写
UserApplication.java
启动类:1
2
3
4
5
6
7
8
9
10
11package com.itheima.user;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import tk.mybatis.spring.annotation.MapperScan;
@SpringBootApplication
@MapperScan("com.itheima.user.mapper")
public class UserApplication {
public static void main(String[] args) {
SpringApplication.run(UserApplication.class, args);
}
}创建User表、创建实体User
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25-- 创建数据库
CREATE database springcloud CHARACTER SET utf8 COLLATE utf8_general_ci;
-- 使用springcloud数据库
USE springcloud;
-- ----------------------------
-- Table structure for tb_user
-- ----------------------------
CREATE TABLE `tb_user` (
`id` int(11) NOT NULL AUTO_INCREMENT,
`username` varchar(100) DEFAULT NULL COMMENT '用户名',
`password` varchar(100) DEFAULT NULL COMMENT '密码',
`name` varchar(100) DEFAULT NULL COMMENT '姓名',
`age` int(11) DEFAULT NULL COMMENT '年龄',
`sex` int(11) DEFAULT NULL COMMENT '性别,1男,2女',
`birthday` date DEFAULT NULL COMMENT '出生日期',
`created` date DEFAULT NULL COMMENT '创建时间',
`updated` date DEFAULT NULL COMMENT '更新时间',
`note` varchar(1000) DEFAULT NULL COMMENT '备注',
PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=2 DEFAULT CHARSET=utf8 COMMENT='用户信息表';
-- ----------------------------
-- Records of tb_user
-- ----------------------------
INSERT INTO `tb_user` VALUES ('1', 'zhangsan', '123456', '张三', '13', '1', '2006-08-01', '2019-05-16', '2019-05-16', '张三');
INSERT INTO `tb_user` VALUES ('2', 'lisi', '123456', '李四', '13', '1', '2006-08-01', '2019-05-16', '2019-05-16', '李四');实体bean:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21package com.itheima.user.pojo;
import lombok.Data;
import tk.mybatis.mapper.annotation.KeySql;
import javax.persistence.Id;
import javax.persistence.Table;
import java.util.Date;
@Table(name = "tb_user")
@Data
public class User {
private Integer id;//主键id
private String username;//用户名
private String password;//密码
private String name;//姓名
private Integer age;//年龄
private Integer sex;//性别 1男性,2女性
private Date birthday; //出生日期
private Date created; //创建时间
private Date updated; //更新时间
private String note;//备注
//getter setter
}编写三层架构:Mapper、Service、controller,编写查询所有的方法
service类:
1
2
3
4
5
6
7
8
9
10@Service
public class UserServiceImpl implements UserService {
@Autowired
private UserMapper userMapper;
@Override
public User findById(Integer id) {
return userMapper.findById(id);
}
}controller:
1
2
3
4
5
6
7
8
9
10
11@RestController
@RequestMapping("/user")
public class UserController {
@Autowired
UserService userService;
@RequestMapping("/findById")
public User findById(Integer id) {
return userService.findById(id);
}
}编写查询方法,基于注解编写查询语句
1
2
3
4
5
6@Mapper
public interface UserMapper {
//根据id查询用户信息
@Select("select * from tb_user where id=#{id} ;")
User findById(Integer id);
}
3.3 创建服务消费者(consumer)工程
目标:新建一个项目consumer_service,调用用户微服务提供的查询用户服务
实现步骤:
- 创建消费者SpringBoot工程consumer_service
- 勾选starter:开发者工具devtools、web
- 注册http请求客户端对象RestTemplate
- 编写Controller,用RestTemplate访问服务提供者
- 启动服务并测试
实现过程:
创建consumer_service的SpringBoot工程
pom.xml 文件如下
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0
http://maven.apache.org/xsd/maven-4.0.0.xsd">
<parent>
<artifactId>heima-springcloud</artifactId>
<groupId>com.itheima</groupId>
<version>1.0-SNAPSHOT</version>
</parent>
<modelVersion>4.0.0</modelVersion>
<groupId>com.itheima</groupId>
<artifactId>consumer-demo</artifactId>
<dependencies>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
</dependencies>
</project>在启动类中注册RestTemplate
1
2
3
4
5
6
7
8
9
10
11
12@SpringBootApplication
public class ConsumerApplication {
public static void main(String[] args) {
SpringApplication.run(ConsumerApplication.class, args);
}
//配置RestTemplate对象,注入spring容器
@Bean
public RestTemplate createRestTemplate(){
return new RestTemplate();
}
}编写ConsumerController,在Controller中直接调用RestTemplate,远程访问用户服务提供者
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15@RestController
public class ConsumerController {
@Autowired
private RestTemplate restTemplate;
@RequestMapping("/consumer/{id}")
public User findById(@PathVariable("id") Integer id){
String url = "http://localhost:9091/user/findById?id="+id;
//将请求返回值反序列化为User对象,打印到控制台,同时输出到浏览器
User user = restTemplate.getForObject(url, User.class);
System.out.println(user);
return user;
}
}启动并测试,访问:http://localhost:8080/consumer/1
3.4 思考问题
简单回顾一下,刚才我们写了什么:
- provider_service:对外提供用户查询接口
- consumer_service:通过RestTemplate访问接口查询用户数据
存在的问题:
- 在消费者服务中,访问提供者服务URL地址硬编码,万一地址端口变化了怎么办?提供者服务死掉了消费者怎么才能知道?
在消费者服务中,是不清楚服务提供者状态的! - 为了增加服务并发访问量,我们搭建集群,集群的负载均衡怎么实现?
- 服务提供者如果出现故障,会不会向用户抛出异常页面,该不该抛出错误页面?
- RestTemplate这种请求调用方式是否还有优化空间?复用,管理,可读性角度来思考
- 多服务权限拦截如何实现?怎么保证所有微服务服务的安全性?
- 众多微服务的配置文件,每次都修改很多个,是不是很麻烦!?
其实上面说的部分问题,概括一下就是微服务架构必然面临的一些问题。
- 服务管理:自动注册与发现、状态监管
- 服务负载均衡
- 熔断
- 面向接口的远程调用
- 网关拦截、路由转发
- 统一配置修改
四、注册中心 Spring Cloud Eureka
在消费者服务中,访问url地址硬编码了,url地址端口变化了怎么办?服务死掉了才能知道?
4.1 Eureka 简介
Spirng Cloud Eureka使用Netflix Eureka来实现服务注册与发现(服务治理)。 它既包含了服务端组件,也包含了客户端组件,并且服务端与客户端均采用java编写,所以Eureka主要适用于通过java实现的分布式系统,或是JVM兼容语言构建的系统。
Eureka服务端组件: 即服务注册中心。它同其他服务注册中心一样,支持高可用配置。依托于强一致性提供良好的服务实例可用性,可以应对多种不同的故障场景。
Eureka客户端组件: 主要处理服务的注册和发现。客户端服务通过注册和参数配置的方式,嵌入在客户端应用程序的代码中。在应用程序启动时,Eureka客户端向服务注册中心注册自身提供的服务,并周期性的发送心跳来更新它的服务租约。同时,他也能从服务端查询当前注册的服务信息并把它们缓存到本地,并周期性的刷新服务状态。
4.2 架构图
基本架构图
- Eureka:就是服务注册中心(可以是一个集群),对外暴露自己的地址
- 提供者:启动后向Eureka注册自己信息(地址,提供什么服务)
- 消费者:向Eureka订阅服务,Eureka会将对应服务的所有提供者地址列表发送给消费者,并且定期更新
- 心跳(续约):提供者定期通过http方式向Eureka刷新自己的状态
4.3 整合注册中心Eureka
步骤分三步:
- 第一步:搭建eureka服务,创建eureka_server工程
- 第二步:服务提供者provider_service,注册到eureka注册中心
- 第三步:服务消费者consumer_service,注册到eureka注册中心
4.3.1 搭建eureka-server工程
创建eureka_server的springboot工程。
勾选坐标
在启动类EurekaServerApplication声明当前应用为Eureka服务使用
@EnableEurekaServer
注解1
2
3
4
5
6
7
8
9
10
11import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.netflix.eureka.server.EnableEurekaServer;
//声明当前应用为eureka服务
@EnableEurekaServer
@SpringBootApplication
public class EurekaServerApplication {
public static void main(String[] args) {
SpringApplication.run(EurekaServerApplication.class);
}
}编写配置文件application.yml
1
2
3
4
5
6
7
8
9
10
11server:
port: 10086
spring:
application:
name: eureka-server # 应用名称,会在Eureka中作为服务的id标识(serviceId)
eureka:
client:
service-url: # EurekaServer的地址,现在是自己的地址,如果是集群,需要写其它Server的地址。
defaultZone: http://127.0.0.1:10086/eureka
register-with-eureka: false # 不注册自己
fetch-registry: false #是否抓取注册列表,不拉取启动EurekaServerApplication
测试访问地址http://127.0.0.1:10086,如下信息代表访问成功
4.3.2 服务提供者-注册到eureka
在服务提供者provider_service工程中添加Eureka客户端依赖
1
2
3
4
5
6
7<!--eureka客户端starter-->
<dependencies>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>
</dependencies>在启动类上开启Eureka客户端发现功能
@EnableDiscoveryClient
1
2
3
4
5
6
7@SpringBootApplication
@EnableDiscoveryClient // 开启Eureka客户端发现功能
public class UserApplication {
public static void main(String[] args) {
SpringApplication.run(UserApplication.class,args);
}
}修改配置文件:spring.application.name指定应用名称,作为服务ID使用
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17server:
port: 9091
spring:
datasource:
driver-class-name: com.mysql.jdbc.Driver
url: jdbc:mysql://localhost:3306/springcloud
username: root
password: root
application:
#应用名
name: user-service
mybatis:
type-aliases-package: cn.itcast.user.pojo
eureka:
client:
service-url:
defaultZone: http://localhost:10086/eureka完成之后重启项目
客户端代码会自动把服务注册到EurekaServer中,在Eureka监控页面可以看到服务注册成功信息
4.3.3 服务消费者-注册到eureka
步骤同上一小节
在服务消费者consumer_service工程中添加Eureka客户端依赖
1
2
3
4
5
6
7<!--eureka客户端starter-->
<dependencies>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>
</dependencies>在启动类开启Eureka客户端
@EnableDiscoveryClient
1
2
3
4
5
6
7
8
9
10
11@SpringBootApplication
@EnableDiscoveryClient//开启服务发现
public class ConsumerApplication {
public static void main(String[] args) {
SpringApplication.run(ConsumerApplication.class,args);
}
@Bean
public RestTemplate restTemplate(){
return new RestTemplate();
}
}修改配置文件:加入EurekaServer地址
1
2
3
4
5
6
7
8
9server:
port: 8080
spring:
application:
name: consumer-demo # 应用名称
eureka:
client:
service-url: # EurekaServer地址
defaultZone: http://127.0.0.1:10086/eureka启动服务,在服务中心查看是否注册成功
使用RestTemplate发送请求
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22@RestController
@RequestMapping("/consumer")
public class ConsumerController {
@Autowired
private RestTemplate restTemplate;
@Autowired
private DiscoveryClient discoveryClient;
@GetMapping("{id}")
public User queryById(@PathVariable Long id){
String url = String.format("http://localhost:9091/user/%d", id);
//1、通过注册中心客户端对象DiscoveryClient,获取Eureka中注册的user-service实例列表
List<ServiceInstance> serviceInstanceList = discoveryClient.getInstances("user-service");
//2、获取user-service服务实例对象
ServiceInstance serviceInstance = serviceInstanceList.get(0);
//3、从实例对象中获取host地址和端口,拼接请求地址
url = String.format("http://%s:%s/user/%d", serviceInstance.getHost(), serviceInstance.getPort(), id);
//4.使用RestTemplate发送请求
return restTemplate.getForObject(url,User.class);
}
}Debug跟踪运行
服务提供者地址拼接成功这里服务的host地址如果使用ip,则进行如下设置
1
2
3
4
5# 默认注册时使用的是主机名,想用ip进行注册添加如下配置
# ip地址
eureka.instance.ip-address: 127.0.0.1
# 更倾向于使用ip,而不是host名
eureka.instance.prefer-ip-address: true修改配置之后
4.4 高可用的Eureka Server
Eureka Server即服务的注册中心,在刚才的案例中,我们只有一个EurekaServer,事实上EurekaServer也可以是一个集群,形成高可用的Eureka中心。
服务同步:多个Eureka Server之间也会互相注册为服务,当服务提供者注册到Eureka Server集群中的某个节点时,该节点会把服务的信息同步给集群中的每个节点,从而实现数据同步。因此,无论客户端访问到Eureka Server集群中的任意一个节点,都可以获取到完整的服务列表信息
而作为客户端,需要把信息注册到每个Eureka中:
如果有三个Eureka,则每一个EurekaServer都需要注册到其它几个Eureka服务中,例如:有三个分别为10086、10087、10088,则:
- 10086要注册到10087和10088上
- 10087要注册到10086和10088上
- 10088要注册到10086和10087上
4.4.1 动手搭建高可用的EurekaServer
我们假设要搭建两台EurekaServer的集群,端口分别为:10086和10087
修改原来的EurekaServer配置;修改 eureka-server\src\main\resources\application.yml 如下:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16server:
# ${}表示在jvm启动时候若能找到对应port或者defaultZone参数则使用,若无则使用后面的默认值
port: ${port:10086}
spring:
application:
# 应用名称,会在eureka中作为服务的id(serviceId)
name: eureka-server
eureka:
client:
service-url:
# eureka服务地址;如果是集群则是其它服务器地址,后面要加/eureka
defaultZone: ${defaultZone:http://127.0.0.1:10086/eureka}
# 是否注册自己,自身不提供服务所以不注册
#register-with-eureka: false
# 是否拉取服务
#fetch-registry: false所谓的高可用注册中心,其实就是把EurekaServer自己也作为一个服务,注册到其它EurekaServer上,这样多个EurekaServer之间就能互相发现对方,从而形成集群。因此我们做了以下修改:把register-with-eureka和fetch-registry修改为true或者注释掉
先启动一个实例
另外一台在启动的时候指定端口port和defaultZone配置: VM options 中设置
-DdefaultZone=http:127.0.0.1:10087/eureka
界面查看注册信息
客户端注册服务到集群
因为EurekaServer不止一个,因此 user-service 项目注册服务或者 consumer-demo 获取服务的时候,service-url参数需要修改为如下:1
2
3
4eureka:
client:
service-url: # EurekaServer地址,多个地址以','隔开
defaultZone: http://127.0.0.1:10086/eureka,http://127.0.0.1:10087/eureka
4.4 Eureka详解
4.4.1 基础架构
Eureka架构中的三个核心角色
- 服务注册中心:Eureka服务端应用,提供服务管理(注册发现)功能
- 服务提供者:对外发布服务,供消费者调用
可以是SpringBoot应用,也可以是其它任意技术实现,只要对外提供的是Rest风格服务即可 - 服务消费者:服务提供者的调用方。从注册中心获取服务列表,通过列表调用服务提供者。
4.4.2 Eureka客户端与服务端交互过程
服务注册(register):
Eureka Client会通过发送REST请求的方式,向Eureka Server注册自己的服务。注册时,提供自身的元数据,比如ip地址、端口、运行状况指标、主页地址等信息。Eureka Server接收到注册请求后,就会把这些元数据信息存储在一个双层的Map中。
服务续约(renew):
在服务注册后,Eureka Client会维护一个心跳来持续通知Eureka Server,说明服务一直处于可用状态,防止被剔除。默认每隔30秒eureka.instance.lease-renewal-interval-in-seconds
发送一次心跳来进行服务续约。
配置消费者或服务提供者
1 |
|
默认情况下每隔30秒服务会向注册中心发送一次心跳,证明自己还活着。如果超过90秒没有发送心跳,EurekaServer就会认为该服务宕机,会定时(eureka.server.eviction-interval-timer-in-ms设定的时间)从服务列表中移除,这两个值在生产环境不要修改,默认即可。
获取服务列表(get registry):
服务消费者(Eureka Client)在启动的时候,会发送一个REST请求给Eureka Server,获取注册中心的服务清单,并且缓存在客户端本地。同时,为了性能及安全性考虑,Eureka Server会每隔30秒更新一次缓存中的服务清单。
配置消费者或服务提供者
1 |
|
服务调用:
服务消费者在获取到服务清单后,可以根据清单中的服务信息,查找到该服务的地址,从而进行访问(远程调用)。
服务下线(cancel):
当Eureka Client需要关闭或重启时,就不希望在这个时间段内再有请求进来,所以,就需要提前先发送REST请求给Eureka Server,告诉Eureka Server自己要下线了,Eureka Server在收到请求后,就会把该服务状态置为下线(DOWN),并把该下线事件传播出去。
失效剔除(evict):
服务实例可能会因为网络故障等原因,导致不能提供服务,而此时该实例也没有发送请求给Eureka Server来进行服务下线。所以,还需要有服务剔除的机制。Eureka Server在启动的时候会创建一个定时任务,每隔一段时间(默认60秒),从当前服务清单中把超时没有续约(默认90秒eureka.instance.lease-expiration-duration-in-seconds
)的服务剔除。
配置消费者或服务提供者
1 |
|
自我保护:
既然Eureka Server会定时剔除超时没有续约的服务,那就有可能出现一种场景,网络一段时间内发生了异常,所有的服务都没能够进行续约,Eureka Server就把所有的服务都剔除了,这样显然不太合理。所以,就有了自我保护机制。自我保护机制是,当在短时间内,统计续约失败的比例,如果达到一定阈值,则会触发自我保护的机制,在该机制下,Eureka Server不会剔除任何的微服务,等到正常后,再退出自我保护机制。自我保护开关(eureka.server.enable-self-preservation: false)
配置到注册中心去
1 |
|
Eureka会统计服务实例最近15分钟心跳续约的比例是否低于85%,如果低于则会触发自我保护机制。
服务中心页面会显示如下提示信息
含义:紧急情况!Eureka可能错误地声称实例已经启动,而事实并非如此。续约低于阈值,因此实例不会为了安全而过期。
- 自我保护模式下,不会剔除任何服务实例
- 自我保护模式能够保证绝大多数服务的可用性
五、负载均衡 Spring Cloud Ribbon
为了增加服务并发访问量,我们搭建集群,集群的负载均衡怎么实现?
5.1 Ribbon 简介
Ribbon是一个工具框架,实现了HTTP和TCP的客户端负载均衡的工具,它基于Netflix Ribbon实现。通过Spring Cloud的封装,可以让我们轻松地将面向服务的REST模版请求自动转换成客户端负载均衡的服务调用。它不是一个微服务需要独立部署,但是它 几乎存在于每一个Spring Cloud构建的微服务和基础设施中。因为微服务间的调用,API网关的请求转发等内容,实际上都是通过Ribbon来实现的,包括明天我们将要介绍的Feign,它也是基于Ribbon实现的工具。所以,对Spring Cloud Ribbon的理解和使用,对于我们使用Spring Cloud来构建微服务非常重要。
Ribbon默认提供的负载均衡算法:轮询,随机其他….。当然,我们可用自己定义负载均衡算法
除此之外的其他算法,了解一下就行:
RoundRobinRule:轮询算法
AvailabilityFilteringRule:根据当前服务是否熔断及并发情况进行负载均衡的算法
WeightedResponseTimeRule:根据服务响应时间来负载均衡的算法
5.2 入门案例
实现负载均衡访问用户服务。
如果想要做负载均衡,我们的服务至少2个以上。
实现步骤:
第一步:启动多个user_service服务
- 修改配置文件端口获取方式
- 编辑应用启动配置
- 启动两个提供者服务
- 在注册中心查询是否启动成功
第二步:开启消费者负载均衡
- 在RestTemplate的注入方法上加入@LoadBalanced注解
- 修改调用请求的Url地址,改为服务名称调用
- 访问页面查看效果
实现过程:
第一步:启动两个user_service应用
- 修改UserServiceApplication的application.yml配置文件
- 端口9091改为,
${port:9091}
- 端口9091改为,
- 编辑应用启动配置
- 复制一份UserServiceApplication
- 启动两个UserServiceApplication应用
- Eureka服务中心可查看,注册成功
第二步:开启消费者调用负载均衡
Eureka已经集成Ribbon,所以无需引入依赖。
在RestTemplate的配置方法上添加
@LoadBalanced
注解即可1
2
3
4
5@Bean
@LoadBalanced//开启负载均衡
public RestTemplate restTemplate(){
return new RestTemplate();
}修改ConsumerController调用方式,不再手动获取ip和端口,而是直接通过服务名称调用
1
2
3
4
5
6@RequestMapping("/{id}")
public String queryByIdByRibbon(@PathVariable Integer id){
String url = "http://user-service/user/findById?id="+id;
String user = restTemplate.getForObject(url, String.class);
return user;
}访问页面查看结果;并在9091和9092的控制台查看执行情况
Ribbon默认的负载均衡策略是轮询。SpringBoot也帮提供了修改负载均衡规则的配置入口在consumerdemo的配置文件中添加如下,就变成随机的了
1
2
3
4# 修改服务地址轮询策略,默认是轮询,配置之后变随机,RoundRobinRule
user-service:
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule
5.3 负载均衡源码跟踪探究(了解)
为什么只输入了Service名称就可以访问了呢?不应该需要获取ip和端口吗?
负载均衡器动态访问的本质,是从服务注册中心中获取服务提供者的访问地址(host、port)。这个过程显然是有某个组件,根据Service名称去获取了服务实例ip和端口。那么这个组件经过源码分析就是LoadBalancerInterceptor
这个负载均衡拦截器的类,会对RestTemplate的请求进行拦截,然后从服务清单中,获取服务集群的所有地址,随后利用负载均衡算法得到真正服务地址信息进行访问。
源码跟踪步骤:
打开LoadBalancerInterceptor类,断点打入intercept方法中
继续跟入execute方法:发现获取了9092发端口的服务
- 获取负载均衡器
- 使用负载均衡器从服务列表获取服务
再跟下一次,发现获取的是9091和9092之间切换
通过代码断点内容判断,果然是实现了负载均衡
六、熔断器 Spring Cloud Hystrix
服务提供者如果出现故障,会不会向用户抛出异常页面,该不该抛出错误页面?
6.1 Hystrix 简介
Hystrix 在英文里面的意思是 豪猪,它的logo 看下面的图是一头豪猪,它在微服务系统中是一款提供保护机制的组件,和eureka一样也是由netflix公司开发。
主页:https://github.com/Netflix/Hystrix/
Hystrix作用是什么?
在分布式环境中,许多服务依赖项中的部分服务必然有概率出现失败。Hystrix是一个库,通过添加延迟和容错逻辑,来帮助你控制这些分布式服务之间的交互。Hystrix通过隔离服务之间的访问点阻止级联失败,通过提供回退选项来实现防止级联出错。提高了系统的整体弹性。与Ribbon并列,也几乎存在于每个Spring Cloud构建的微服务和基础设施中。
Hystrix被设计的目标是:
- 对通过第三方客户端库访问的依赖项(通常是通过网络)的延迟和故障进行保护和控制。
- 在复杂的分布式系统中阻止雪崩效应。
- 快速失败,快速恢复。
- 回退,尽可能优雅地降级。
6.2 雪崩效应
- 微服务中,一个请求可能需要多个微服务接口才能实现,会形成复杂的调用链路。
- 如果某服务出现异常,请求阻塞,用户得不到响应,容器中线程不会释放,于是越来越多用户请求堆积,越来越多线程阻塞。
- 单服务器支持线程和并发数有限,请求如果一直阻塞,会导致服务器资源耗尽,从而导致所有其他服务都不可用,从而形成雪崩效应;
Hystrix解决雪崩问题的手段,主要是 服务降级**(兜底)**,线程隔离;
6.2.1 线程隔离 & 服务降级
Hystrix为每个依赖服务调用分配一个小的线程池,如果线程池已满调用将被立即拒绝,默认不采用排队,加速失败判定时间。
用户的请求将不再直接访问服务,而是通过线程池中的空闲线程来访问服务,如果线程池已满,或者请求超时,则会进行降级处理,什么是服务降级?
服务降级:优先保证核心服务,而非核心服务不可用或弱可用。
用户的请求故障时,不会被阻塞,更不会无休止的等待或者看到系统崩溃,至少可以看到一个执行结果(例如返回友好的提示信息) 。
服务降级虽然会导致请求失败,但是不会导致阻塞,而且最多会影响这个依赖服务对应的线程池中的资源,对其它服务没有响应。
触发Hystrix服务降级的情况:
- 线程池已满
- 请求超时
6.3 熔断案例
目标:服务提供者的服务出现了故障,服务消费者快速失败给用户友好提示。体验服务降级
实现步骤:
- 引入熔断的starter依赖坐标
- 开启熔断的注解@EnableCircuitBreaker
- 编写服务降级处理的方法
- 配置熔断的策略
- 模拟异常代码
- 测试熔断服务效果
实现过程:
引入熔断的依赖坐标:consumer_service中加入依赖
1
2
3
4
5<!--熔断Hystrix starter-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>开启熔断的注解
1
2
3
4
5
6
7
8
9
10
11
12
13
14//注解简化写法:微服务中,注解往往引入多个,简化注解可以使用组合注解。@SpringCloudApplication =等同于@SpringBootApplication+@EnableDiscoveryClient+@EnableCircuitBreaker
@SpringBootApplication
@EnableDiscoveryClient//开启服务发现
@EnableCircuitBreaker//开启熔断
public class ConsumerApplication {
@Bean
@LoadBalanced//开启负载均衡
public RestTemplate restTemplate(){
return new RestTemplate();
}
public static void main(String[] args) {
SpringApplication.run(ConsumerApplication.class,args);
}
}编写服务降级处理方法:使用@HystrixCommand定义fallback方法。
1
2
3
4
5
6
7
8
9
10@RequestMapping("/{id}")
@HystrixCommand(fallbackMethod ="queryByIdFallback")
public String queryById(@PathVariable Long id){
String url = String.format("http://user-service/user/%d", id);
return restTemplate.getForObject(url,String.class);
}
public String queryByIdFallback(Long id){
return "对不起,网络太拥挤了!";
}要注意;因为熔断的降级逻辑方法必须跟正常逻辑方法保证:相同的参数列表和返回值声明。
失败逻辑中返回User对象没有太大意义,一般会返回友好提示。所以把queryById的方法改造为返回String,反正也是Json数据。这样失败逻辑中返回一个错误说明,会比较方便。测试
刚才把fallback写在了某个业务方法上,如果方法很多,可以将FallBack配置加在类上,实现默认FallBack
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27@RestController
@RequestMapping("/consumer")
@DefaultProperties(defaultFallback = "defaultFallback")//开启默认的FallBack,统一失败降级方法(兜底),该类中所有方法返回类型要与处理失败的方法的返回类型一致。
public class ConsumerController {
@GetMapping("{id}")
@HystrixCommand
public String queryById(@PathVariable Long id){
//如果参数为1抛出异常,否则 执行REST请求返回user对象
if (id == 1){
throw new RuntimeException("too busy!!!");
}
String url = String.format("http://user-service/user/%d", id);
return restTemplate.getForObject(url,String.class);
}
/**
* queryById的降级方法
*/
public String queryByIdFallback(Long id){
return "对不起,网络太拥挤了!";
}
/**
* 默认降级方法
*/
public String defaultFallback(){
return "默认提示:对不起,网络太拥挤了!";
}
}配置熔断策略,常见熔断策略配置:
- 熔断后休眠时间:sleepWindowInMilliseconds
- 熔断触发最小请求次数:requestVolumeThreshold
- 熔断触发错误比例阈值:errorThresholdPercentage
- 熔断超时时间:timeoutInMilliseconds
1
2
3
4
5
6
7
8
9
10
11# 配置熔断策略:
# 强制打开熔断器 默认false关闭的。测试配置是否生效
hystrix.command.default.circuitBreaker.forceOpen: false
# 触发熔断错误比例阈值,默认值50%
hystrix.command.default.circuitBreaker.errorThresholdPercentage: 20
# 熔断后休眠时长,默认值5秒
hystrix.command.default.circuitBreaker.sleepWindowInMilliseconds: 60000
# 熔断触发最小请求次数,默认值是20
hystrix.command.default.circuitBreaker.requestVolumeThreshold: 5
# 熔断超时设置,默认为1秒
hystrix.command.default.execution.isolation.thread.timeoutInMilliseconds: 2000测试熔断的情况(==模拟请求超时==):
访问超时:服务提供者线程休眠超过2秒,访问消费者触发fallback方法。
1
2
3
4
5
6
7
8
9
10
11
12
13
14@Service
public class UserService {
@Autowired
private UserMapper userMapper;
public User queryById(Long id){
try {
Thread.sleep(2000);
} catch (InterruptedException e) {
e.printStackTrace();
}
return userMapper.selectByPrimaryKey(id);
}
}服务不可用:停止user-service服务提供者。访问消费者触发fallback方法。
6.4 熔断原理分析
在服务熔断中,使用的熔断器,也叫断路器,其英文单词为:Circuit Breaker。
熔断机制与家里使用的电路熔断原理类似;当如果电路发生短路的时候能立刻熔断电路,避免发生灾难。在分布式系统中应用服务熔断后;服务调用方可以自己进行判断哪些服务反应慢或存在大量超时,可以针对这些服务进行主动熔断,防止整个系统被拖垮。
Hystrix的服务熔断机制,可以实现弹性容错;当服务请求情况好转之后,可以自动重连。通过断路的方式,将后续请求直接拒绝,一段时间(默认5秒)之后允许部分请求通过,如果调用成功则回到断路器关闭状态,否则继续打开,拒绝请求的服务。
熔断器状态机有3个状态:
- 关闭状态,所有请求正常访问
- 打开状态,所有请求都会被降级。
- Hystrix会对请求情况计数,当一定时间失败请求百分比达到阈值,则触发熔断,断路器完全关闭
- 默认失败比例的阈值是50%,请求次数最低不少于20次
- 半开状态
- 打开状态不是永久的,打开一会后会进入休眠时间(默认5秒)。休眠时间过后会进入半开状态。
- 半开状态:熔断器会判断下一次请求的返回状况,如果成功,熔断器切回关闭状态。如果失败,熔断器切回打开状态。